Páll Rafnar Þorsteinsson, verkefnastjóri hjá Siðfræðistofnun Háskóla Íslands, segir að þýðingar með gervigreind séu áhugaverðar og gott dæmi um það hvernig tæknin geti komið að gagni. Þó vakni upp spurningar um traust.

„Þegar flaggskip, eins og RÚV eða Morgunblaðið, byrjar að þreifa fyrir sér með gervigreind þá eru þau að setja ákveðið fordæmi. Þá vaknar áhugaverð spurning um það hvað við erum að normalísera þegar við erum að nota tæknina í smáum skrefum. Þetta er líka spurning um traust og trúverðugleika. Fjölmiðlar standa og falla með því,“ segir Páll í samtali við mbl.is.

Frétt af mbl.is

Birta greinar þýddar af gervigreind

Getur verið skaðleg

Páll segir að þýðingar með gervigreind séu áhugaverðar og gott dæmi um það hvernig tæknin geti komið að gagni. Hann telur að með tilkomu gervigreindar í blaðamennsku, sem vissulega geti létt undir með verkum sem krefjast ekki mikillar hugsunar, geti skapast svigrúm fyrir blaðamenn til að leggja meiri áherslu á þau verkefni sem útheimti meira innsæi, skilning í samhengi, gagnrýna hugsun og dómgreind.

Þá vill Páll einnig sjá gervigreind gera það að verkum að lesendur hafi meiri tíma til að neyta gæða fréttaefnis. „Það myndi auðvelda okkur að hugsa djúpt um mikilvæg efni og eiga uppbyggilegar umræður,“ segir Páll. 

Vandinn sé að greina á milli þess sem sé gagnlegt að leysa með gervigreind og hvar hún komi ekki að gagni, og geti beinlínis verið varhugaverð.

Páll segir umræðuna oft einkennast af ótta við að gervigreindartæknin sé að verða of greind eða hættulega greind, en hann telur að við ættum að hafa meiri áhyggjur af því að hún sé ekki nógu greind. Hættan sé sú að við notum hana til þess að sinna verkefnum sem hún valdi ekki og hún sé ekki nægilega hæf til að vinna. Það geti haft neikvæðar afleiðingar, jafnvel mjög skaðlegar.

Þurfum að vera meðvituð

Í samhengi fjölmiðlunar segir Páll það mjög mikilvægt að vera meðvitaður og gæta þess að tæknin þjóni markmiðum og þeim gildum sem höfð eru í blaðamennsku.

Hann segir að fjölmiðlamenn þurfi að hafa ríka vitund um möguleika tækninnar svo og takmarkanir og hættur. „Það er því mikilvægt að hafa skýra sýn á hvaða tilgangi gervigreindin á að þjóna og hafa fagleg gildi ávallt í fyrirrúmi,“ segir Páll. 

Það sé einnig mikilvægt að fjölmiðlamenn hafi ríkan skilning á tækninni, hvers hún er megnug, og nýti hana þar sem hún kemur sannarlega að gagni. Til þess sé nauðsynlegt að prófa hana.

Verða að vera til viðmið

Í víðara samhengi segir Páll mikilvægt að hafa í huga atriði eins og gagnsæi í fréttaflutningi. Það ætti til dæmis að merkja efni sem er tilkomið með gervigreind. Það verði að vera til einhver viðmið um það. Síðan þurfi að tryggja þau kerfi sem er notast við, að þau séu áreiðanleg og örugg. Einnig þurfi þau að vera í stöðugri endurskoðun.

Mjög mikilvægt sé að það liggi fyrir með skýrum hætti hvar ábyrgðin liggi ef eitthvað fer úrskeiðis. Fjölmiðlar beri ábyrgð á því efni sem þeir miðla. Því tengt sé mikilvægt að það sé fyrir hendi mannleg yfirsýn. Ritstjórnarlegar ákvarðanir eigi alltaf að vera teknar af manneskju.

Páll telur að það þurfi að koma til ákveðin vinna þar sem séu sett einhver viðmið um það hvernig eigi að nota tæknina.

„Við megum ekki smætta allar þessar spurningar sem gervigreindin vekur í einhverjar tæknilegar spurningar og gera ráð fyrir eða vonast til þess að við finnum einhver tæknileg svör. Þetta eru mjög erfiðar siðferðilegar spurningar sem snúast um siðferðileg gildi og í grunninn um það hvað það er að vera manneskja,“ segir Páll.

Þá þarf að hafa í huga að tæknin megi ekki vera notuð á þann hátt að hún hafi slæmar afleiðingar eða valdi skaða.

„Þessi tækni býður upp á magnaða möguleika en það er mikilvægt að fara ekki of geyst, bæði að gera ekkert sem veldur skaða en líka það að fæla ekki almenning frá henni,“ segir Páll.