Einn hinna svokölluðu „guðfeðra“ gervigreindar hefur greint frá því að hefði hann vitað hraðann á framþróun gervigreindar hefði hann forgangsraðað öryggi fram yfir gagnsemi hennar. Umræða hefur nýverið skapast um þá hættu sem geti fylgt framþróun gervigreindar.  

Yoshua Bengio, prófessor í tölvunarfræði, lét ummæli sín falla í viðtali við BBC eftir að sérfræðingar í gervigreind greindu frá því í gær að hún gæti leitt til útrýmingar mannskyns. Hann hefur tekið undir ákallið um frekari reglur á þessu sviði og lýsir áhyggjum sínum á stefnunni og hraðanum sem gervigreindin þróast í átt að. Sjálfur hefur hann skrifað undir tvær yfirlýsingar þar sem hann hvetur til aðgátar vegna framtíðar gervigreindarinnar.  

Frétt af mbl.is

Óttast að gervigreind geti útrýmt mannkyninu

Með gervigreind er tölvum nú kleift að klára verkefni sem menn hafa áður þurft mannlega greind og hæfileika. Nýlegt dæmi um slíkt er forritið ChatGPT, sem hefur tök á að semja manneskjuleg svör við miklum fjölda spurninga.  

Gæti skapast mikil hætta

Margir hafa aftur á móti áhyggjur af því að framþróun þessi á sviði gervigreindar geti nýst í skaðlegum tilgangi, líkt og við þróun nýrra efnavopna.  

Bengio segist hafa áhyggjur af því hvað gæti gerst ef gervigreind félli í hendur rangra einstaklinga, sérstaklega þegar hún verður öflugri. „Það er auðvelt að forrita gervigreindina til að framkvæma eitthvað mjög slæmt, þetta gæti orðið mjög hættulegt.“ Mikilvægt sé að eftirlit sé haft með gervigreindinni. 

Hann hefur orð á því að áhyggjur sérfræðinga á sviði gervigreindar taki mikinn toll á hann enda sé þetta ævistarf hans. „Þetta er krefjandi, tilfinningalega séð, fyrir fólk innan gervigreindargeirans.“

Fleiri brautryðjenda innan gervigreindarheimsins hafa einnig skrifað undir yfirlýsingarnar auk þess sem Elon Musk hefur tjáð sig um framgang hennar. „Ég held ekki að gervigreind muni reyna að tortíma mannkyninu, en við gætum sætt ströngu eftirliti hennar,“ sagði hann nýverið.  

Áhyggjurnar plaga ekki alla

Hins vegar eru ekki allir á sömu skoðun. Aðrir halda því fram að það séu önnur vandamál sem þurfi að takast á við. Sasha Luccioni, fræðimaður hjá gervigreindarfyrirtækinu Huggingface, sagði að leggja ætti frekari áherslu á málefni líkt og hlutdrægni gervigreindar en að einblína á hina „ímynduðu hættu“ að gervigreind gæti tortímt mannkyninu. Nú þegar séu mörg dæmi þessað gervigreindin þjóni samfélaginu á jákvæðan hátt.