Vilja banna leyfislausa djúpfölsun

Þingmenn Pírata og Flokks fólksins, auk eins þingmanns Samfylkingarinnar hafa lagt fram lagafrumvarp sem tekur á svokallaðri djúpfölsun þar sem hægt er að búa til endurgerð af einstaklingi, hvort sem það er á mynd, myndbandi, hljóðupptöku eða á öðru efni, með gervigreind.

Vilja þau banna slíka endurgerð nema með leyfi viðkomandi og að allar slíkar endurgerðir séu merktar sem slíkar.

Þetta er í annað skiptið sem flokkarnir leggja fram þessa lagabreytingu en í greinargerð með frumvarpinu kemur fram að mjög mikil þróun hafi verið í framleiðslu alls konar efnis undanfarið með „tilkomu öflugra stafrænna tauganeta sem búa til texta, hljóð og myndir sem mjög erfitt er að greina hvort séu framleidd af manneskju eða tölvu“.

Svipuð lagafrumvörp í vinnslu annars staðar

Þessar eftirmyndir, eða djúpfalsanir, séu meðal annars notaðar í pólitískum tilgangi. Fjöldi dæma er um slíka framleiðslu efnis víða um heim, meðal annars í tengslum við bandarísku forsetakosningarnar. Eru þar frambjóðendur m.a. látnir líta út fyrir að vera að segja eða gera hluti sem þeir gerðu ekki.

„Það er því mjög mikilvægt að það sé skýrt í lögum að slíkar endurgerðir séu ekki heimilar nema með leyfi þess sem endurgerðin er af. Einnig er afar nauðsynlegt að allar endurgerðir verði sérstaklega merktar sem slíkar, þannig að enginn vafi leiki á því að um endurgerð sé að ræða,“ segir í greinargerðinni.

Bent er á að svipuð lagafrumvörp séu í vinnslu hjá Evrópusambandinu undir heitinu „The AI Act“ og á Bandaríkjaþingi undir nafninu „The NO FAKES Act“.

• Blogga um frétt