Dæmi eru um að gervigreind hafi verið notuð til þess að búa til barnaníðsefni. Fólk býr til efnið, selur það á netinu og hagnast á því fjárhagslega.
Rannsókn breska ríkisútvarpsins, BBC, sýnir dæmi þar sem hinu tilbúna barnaníðsefni er deilt á áskriftarrásum á borð við Patreon, sem þekktara er fyrir að hýsa hlaðvörp og annað áskriftaefni.
Í svari sínu til BBC segja stjórnendur Patreon að slíkt verði ekki liðið á þeirra vettvangi.
Lögreglan í Bretlandi rannsakar nú málið og er haft eftir talsmanni hennar að það sé ólíðandi að fólk geti hagnast vel á því að selja slíkt efni, án þess að taka nokkra siðferðislega ábyrgð á því.
Breska leyniþjónustan, GCHQ, hefur brugðist við rannsókn BBC. „Barnaníðingar nýta alla þá tækni sem þeir geta og margir telja að í framtíðinni verði barnaníðsefni að mestu framleitt með gervigreind,“ segir í tilkynningu frá leyniþjónustunni.
Barnaníðsefnið er meðal annars búið til með Stable Diffusion-hugbúnaðinum þar sem notendur nota texta til þess að lýsa því sem þeir vilja láta hugbúnaðinn teikna upp mynd af.
Þannig hafa myndir verið gerðar þar sem sjá má ungbörnum og börnum vera misnotuð kynferðislega.
Lögreglan í Bretlandi hefur þegar fengið þannig mál inn á borð til sín.