Tækni & vísindi | mbl | 3.5.2023 | 8:13

Guðfaðir gervigreindar hefur áhyggjur af þróuninni

Svokallaður guðfaðir gervigreindarinnar segir að framfarir í tækninni hefðu í för með sér mikila áhættu fyrir samfélagið og allt mannkynið. AFP

Geoffrey Hinton, sem gjarnan er kallaður guðfaðir gervigreindarinnar, hefur sagt upp störfum hjá Google til að geta tjáð sig um hættur tækninnar. Hinton er þekktastur fyrir sitt framlag til tauganetstækni sem gervigreind byggist á.

Hinton sagði í samtali við The New York Times að framfarir á sviði gervigreindar hefðu í för með sér þunga áhættu fyrir samfélagið og mannkynið allt.

„Skoðaðu hvernig þetta var fyrir fimm árum og hvernig það er núna,“ sagði Hinton.

"Taktu muninn og framreiknaðu hann. Það er ógnvekjandi."

Hann sagði að samkeppni milli tæknirisa þrýsti á fyrirtæki til þess að gefa út nýja gervigreindartækni á hættulegum hraða.

Greindin í skugga gervigreindarinnar

„Það er erfitt að sjá hvernig þú getur komið í veg fyrir að slæmir menn noti [tæknina] til að gera slæma hluti.“

Árið 2022 byrjuðu bæði Google og OpenAI að byggja upp gervigreindarlíkön sem notuðu miklu meira magn af gögnum en áður. OpenAI er fyrirtækið á bak við fræga gervigreindarlíkanið ChatGPT.

Hinton sagði að tæknin væri „að skyggja á greind mannanna“ að einhverju leyti vegna þess magns gagna sem gervigreindin greinir.

„Kannski er það sem er að gerast í þessum kerfum í raun miklu betra en það sem er að gerast í heilanum.“ Hinton sagði að þó að gervigreind hafi verið notuð til að styðja við ýmis störf, gæti hröð stækkun gervigreindarlíkana sett störf í hættu.

Frétt af mbl.is

Lilja notar gervigreind í ráðherrastörfum

Tekur burt meira en bara púlið

Hinton sagði að gervigreind „tæki burt erfiðisvinnuna“ en „gæti tekið í burtu meira en það,“. Hann varaði einnig við hugsanlegri útbreiðslu rangupplýsinga sem skapað er af gervigreind og að meðalmaðurinn muni „ekki geta vitað hvað er satt lengur“.

Hinton tilkynnti Google um starfslok sín sína í síðasta mánuði, að því er New York Times greinir frá.

Jeff Dean, aðalvísindamaður Google AI, þakkaði Hinton í yfirlýsingu til bandarískra fjölmiðla.

„Sem eitt af fyrstu fyrirtækjunum til þess að gefa út siðferðisreglur um gervigreind, erum við áfram staðráðin í ábyrgri nálgun á gervigreind,“ sagði í yfirlýsingunni. „Við erum í sífellu að læra að skilja áhætturnar sem koma fram jafnóðum og við erum djörf hvað varðar nýjungar.“

Í mars kallaði auðkýfingurinn Elon Musk og ýmsir sérfræðingar eftir því að hlé yrði gert á þróun gervigreindar til að ganga úr skugga um að hún sé örugg. Hinton skrifaði ekki undir þetta bréf á sínum tíma en sagði við The New York Times að vísindamenn ættu ekki að „stækka þetta fyrr en þeir hafa skilið hvort þeir geti stjórnað því“.