Pistlar:

Það er auðvelt að hrífast af framþróun gervigreindarinnar. Nú þegar hefur hún haft gríðarleg áhrif og flestir átta sig á að við erum rétt á árdögum getu hennar. En hvernig getur hún þróast og hvaða áhrif mun hún hafa? Sem gefur að skilja eru menn ekki á eitt sáttir um það en segja má að afstaða manna skiptist í tvö horn, einhvers konar framfarasinna og síðan efasemdamenn, jafnvel dómsdagssinna. Fyrrnefndi hópurinn sér hina endalausu möguleika gervigreindarinnar sem virðist geta tekið yfir allt það sem krefst flókinna útreikninga og gagnavinnslu. Ekki þarf að efast um að það getur skilað mannkyninu miklum fróðleik og stuðlað að gríðarlegum framförum á mörgum sviðum ef vel tekst til. En um leið hljóta menn að velta fyrir sér þeim möguleika að þarna sé eitthvað leyst úr læðingi sem mannkynið geti ekki haft stjórn á. Þeir sem hafa mestar áhyggjur af því eru kallaðir „doomers“, eða dómsdagssinnar eins og áður sagði.

Bandaríkin og Kína hafa verið leiðandi í þróun gervigreindar og segja má að kapphlaup hafi verið á milli þjóðanna. Enginn þarf að fara í grafgötur með að gervigreindin getur nýst í hernaði og er sjálfsagt þegar farin að gera það. Ómögulegt er að segja hvernig það mun þróast en sagan segir okkur að það verður að hafa yfirsýn yfir þróunina. Okkur mönnum er kennt að sá vægir sem vitið hefur meira en hvernig virka slík siðaboð í heimi gervigreindarinnar og virka yfir höfuð nokkur siðaboð?

Kínverjar orðnir hugsi

Bandaríska tímaritið Economist rifjaði upp nýlega að í hinstu utanlandsför sinni fyrir rúmu ári síðan hafi Henry Kissinger varað Kínverja við afleiðingum þess ef ekkert eftirlit er með þróun gervigreindar en mörgum hefur þótt sem svo væri í Kína. Þessi skilaboð komust beint til Xi Jinping, leiðtoga Kínverska kommúnistaflokksins, en sjálfsagt hefur hann vitað af þessum áhyggjum. Hvort sem það er Kissinger að þakka eða ekki þá hefur umræða um þessa hættu aukist í Kína, jafnvel svo mjög að opnað hefur verið á samtal milli leiðandi aðila í gervigreind í Bandaríkjunum og Kína og hættan af gervigreindarkapphlaupi hafi verið eitt helsta umræðuefnið þegar Jake Sullivan, þjóðaröryggisráðgjafi Bandaríkjaforseta, heimsótti Kína í ágúst síðastliðnum.

En hver er vandinn? Jú, margir í tækniheiminum telja að gervigreindin geti tekið fram úr manninum á þann hátt að hún geti byggt upp einhvers konar þekkingarfræðilega skynjun, ályktunarhæfni eða jafnvel hugsun. Einnig geti hún orðið fær um að afla sér þekkingar og læra sjálf án afskipta mannsins. Ef svo er þá er maðurinn ekki að stjórna ferðinni, það segir sig dálítið sjálft. En ef svona er komið, hver eru þá tengsl mannsins og gervigreindarinnar og er einhver trygging fyrir því að hún snúist ekki gegn manninum? Slíkar áhyggjur komu upp í árdaga gervigreindarinnar.

Mörgum finnst þetta kjánalegar hugleiðingar, gervigreindin sé forrit sem geri það sem hún er forrituð til. En á móti má spyrja: Hvernig getur maðurinn tryggt að hann stýri ferðinni ef gervigreindin forritar sig sjálf? Við sáum það í tilviki AlphaZero að með fjögurra stunda undirbúningi gat forritið teflt af nánast óskiljanlegum styrkleika og það var fyrir sjö árum síðan.

Talglöð spjallmenni helsta áhyggjuefnið

Vestræn fyrirtæki hafa haldið því fram að öryggi skipti minna máli í hinum kínverska gervigreindarheimi sem hafi færri reglur og einbeiti sér að árangri. Hingað til hafi Kínverjar helst haft áhyggjur af talglöðum spjallmennum og óttast að þeir dreifi upplýsingum í andstöðu við opinbera talstefnu einræðisríkisins!

Economist rifjar upp að fyrir stuttu hafi það gerst að Andrew Chi-Chih Yao, eini kínverski vísindamaðurinn sem hefur unnið Turing-verðlaunin, varpaði fram hörðum viðvörunarorðum. Hann sagði að gervigreind hefði í för með sér meiri hættu en kjarnorku- eða efnavopn. Fleiri áhrifamenn í röðum kínverskra vísinda og tækni tóku undir þetta, svo sem Zhang Ya-Qin, fyrrverandi stjórnarformaður tæknirisans Badu og Xue Lan, yfirmaður þeirrar stjórnar ríkisins sem fer með gervigreind. Sá síðarnefndi tók djúpt í árinni og sagðist telja að gervigreind gæti ógnað tilveru mannkynsins.

En þrátt fyrir slík viðvörunarorð eru þeir fleiri innan kínverska stjórnkerfisins sem telja meiri hættu í því að verða eftirbátar Bandaríkjanna á sviði gervigreindar. Því má segja að kappið beri skynsemina ofurliði nú um stundir í þróun gervigreindar. Ómögulegt er að segja hvert það leiðir okkur.