Pistlar:

Mótun og framþróun gervigreindar fellur ekki undir öryggismat íslenskra stjórnvalda. Það á ekki við um önnur lönd og í mars síðastliðnum kom út skýrsla á vegum bandaríska utanríkisráðuneytisins sem dregur upp heldur hrollvekjandi mynd af þeirri þjóðaröryggisáhættu sem stafar af örri þróun gervigreindar. Í skýrslunni er varað við því að tíminn sé að renna út fyrir alríkisstjórnina ef eigi að afstýra hörmungum.

Niðurstöður skýrslunnar byggjast meðal annars á viðtölum við meira en 200 einstaklinga sem tekin voru yfir árs tímabil. Meðal annars var rætt við marga af æðstu stjórnendum leiðandi gervigreindarfyrirtækja, rannsakendur á sviði netöryggis, sérfræðinga í gereyðingarvopnum og þjóðaröryggisfulltrúa innan bandarísku ríkisstjórnarinnar. Svona nokkurn veginn þeir sem ættu að geta haft sýn á þá öryggishættu sem gæti skapast en hættur af völdum gervigreindar voru gerðar að umtalsefni hér í pistli fyrir stuttu. Pistlahöfundur varð þá var við að mörgum fannst þetta ótímabær umræða og jafnvel ástæðulaus. Vonandi er það rétt en verða menn ekki að horfast í augu við að með innleiðingu gervigreindar er verið að fara inn á nýjar lendur reiknigetu og hugsunar sem er í senn heillandi en um leið verulega umhugsunarverð.

Í frétt CNN kemur fram að embættismaður bandaríska utanríkisráðuneytisins staðfesti við fjölmiðla að stofnunin hafi látið gera skýrsluna þar sem hún telji rétt að meta stöðugt hvernig og hvort gervigreind sé í takti við markmið ráðuneytisins um að vernda bandaríska hagsmuni heima og erlendis. Hins vegar lagði embættismaðurinn áherslu á að skýrslan endurspegli ekki skoðanir bandarískra stjórnvalda.

„Ógnað mannkyninu“

Skýrslan sem hér er til umræðu var gerð af fyrirtækinu Gladstone AI og í henni er ekki verið að skafa af hlutunum. Þar segir beinlínis að fullkomnustu gervigreindarkerfin gætu í versta falli „ógnað mannkyninu og fært það á útrýmingarstig.“ Hvað fær skýrsluhöfunda til að setja fram svo alvarlegar fullyrðingar?

Þau viðvörunarorð sem lesa má í skýrslunni eru enn ein áminningin um að þó að möguleikar gervigreindar haldi áfram að heilla fjárfesta og almenning, þá eru raunverulegar hættur líka fyrir hendi. „Gervigreind er nú þegar efnahagslega umbreytandi tækni. Það gæti gert okkur kleift að lækna sjúkdóma, gera vísindalegar uppgötvanir og sigrast á áskorunum sem við héldum einu sinni að væru óyfirstíganlegar,“ sagði Jeremie Harris, forstjóri og annar stofnandi Gladstone AI, við CNN. „En það gæti líka haft í för með sér alvarlega áhættu, jafnvel hörmulega áhættu, sem við þurfum að vera meðvitaðir um,“ sagði Harris og bætti við. „Vaxandi fjöldi sönnunargagna, þar á meðal reynslurannsóknir og greiningar sem birtar voru á helstu gervigreindarráðstefnum heims, benda til þess að þegar kemur yfir ákveðinn getuþröskuld gæti gervigreindin hugsanlega orðið óviðráðanleg.“

Reyna að stjórna áhættunni af gervigreind

Talsmaður Hvíta hússins, Robyn Patterson, sagði við fjölmiðla þegar skýrslan lá fyrir að forsetatilskipun Joe Biden forseta um gervigreind væri mikilvægasta aðgerðin sem nokkur ríkisstjórn í heiminum hefði gripið til í þeim tilgangi að stjórna áhættunni af gervigreind.

„Forsetinn og varaforsetinn munu halda áfram að vinna með alþjóðlegum samstarfsaðilum okkar og hvetja þingið til að samþykkja tvíhliða löggjöf til að stjórna áhættunni sem tengist þessari nýju tækni,“ sagði Patterson við það tilefni.

Skýr og brýn þörf að grípa inn í

En um hvað er verið að tala? Jú, vísindamenn vara við tveimur hættum sem stafa af gervigreind. Í fyrsta lagi, sagði Gladstone AI, væri mögulegt hægt að beita fullkomnustu gervigreindarkerfum til að valda óafturkræfum skaða, í margskonar mynd. Í öðru lagi reyndust vera áhyggjur innan gervigreindarstofnana og fyrirtækja um að á einhverjum tímapunkti gætu þær „misst stjórn“ á kerfum sem þær eru að þróa, með „mögulega hrikalegum afleiðingum fyrir alþjóðlegt öryggi.“

„Uppgangur gervigreindar og sérstaklega þróaðri útgáfu AGI (artificial general intelligence) hefur tilhneigingu til að raska öryggi á heimsvísu á þann hátt sem minnir á innleiðingu kjarnorkuvopna,“ segir í skýrslunni og bætti við að hætta sé á „vopnakapphlaupi“, átökum og „slysum af völdum gereyðingarvopna.“

Í skýrslu Gladstone AI er kallað eftir nýjum markvissum skrefum sem ætlað er að takast á við þessa ógn, þar á meðal að koma á fót nýrri gervigreindarstofnun, setja upp einhverskonar eftirlitsráðstafanir sem hægt væri að grípa til í neyð og takmarka hversu mikið tölvuafl er hægt að nota til að þjálfa gervigreindarforritin. „Það er skýr og brýn þörf fyrir bandarísk stjórnvöld að grípa inn í,“ skrifa höfundar skýrslunnar.

Öryggisáhyggjur

Áðurnefndur Harris, framkvæmdastjóri Gladstone AI, sagði að fordæmalaust aðgengi teymis hans að embættismönnum hjá hinu opinbera og í einkageiranum hefði fært þeim óvænta sýn og sláandi niðurstöðu. Þannig gátu sérfræðingar Gladstone AI rætt við tækni- og leiðtogateymi frá ChatGPT, eiganda OpenAI, Google DeepMind og Facebook, sem ber ábyrgð á Meta og Anthropic.

„Í leiðinni lærðum við nokkra mikilvæga hluti,“ sagði Harris í myndbandi sem birt var á vefsíðu Gladstone AI þar sem skýrslan var kynnt. „Þegar skyggnst er á bak við tjöldin virðist öryggisástandið í háþróaðri gervigreind frekar ófullnægjandi miðað við þá þjóðaröryggisáhættu sem gervigreind gæti haft í för með sér innan ekki langs tíma.“

Skýrsla Gladstone AI sagði að samkeppnisþrýstingur ýti á fyrirtæki að flýta fyrir þróun gervigreindar „á kostnað öryggis“, sem vekur áhyggjur af því að fullkomnustu gervigreindarkerfunum gæti verið stolið og þeim beitt gegn Bandaríkjunum.

Tilvistaráhætta

En niðurstöður skýrslunnar koma á sama tíma og greina má vaxandi áhyggjur vegna viðvarana um tilvistaráhættu sem stafar af gervigreind, þar á meðal frá sumum af öflugustu þátttakendum iðnaðarins.

Fyrir tæpu ári hætti Geoffrey Hinton, þekktur sem „guðfaðir gervigreindar“, starfi sínu hjá Google og varaði við tækninni sem hann hafði sjálfur komið að því að þróa. Hinton hefur sagt að það séu 10% líkur á að gervigreind muni leiða til útrýmingar manna á næstu þremur áratugum.

Hinton og tugir annarra leiðtoga innan gervigreindariðnaðarins, fræðimenn og fleiri skrifuðu undir yfirlýsingu í júní á síðasta ári þar sem sagði að „að draga úr hættu á útrýmingu af hálfu gervigreindar ætti að vera forgangsverkefni á heimsvísu.“

Leiðtogar fyrirtækja hafa sífellt meiri áhyggjur af þessum hættum, jafnvel þó að þeir leggi milljarða dollara í að fjárfesta í gervigreind. Á síðasta ári sögðu 42% forstjóra, sem voru spurðir á ráðstefnu við Yale-háskólann, að gervigreind gæti eytt mannkyninu eftir fimm til tíu ár.

Mannlegir hæfileikar til að læra

Í skýrslu sinni vísar Gladstone AI til nokkurra þeirra áberandi einstaklinga sem hafa varað við einhverskonar tilvistaráhættu sem stafar af gervigreind, þar á meðal í frumkvöðulinn Elon Musk, formann alríkisviðskiptanefndar Lina Khan og fyrrverandi yfirmann hjá OpenAI. Sumir starfsmenn hjá gervigreindarfyrirtækjum deila svipuðum áhyggjum í einkasamtölum, samkvæmt Gladstone AI.

„Einn einstaklingur hjá þekktri rannsóknarstofu í gervigreind lýsti þeirri skoðun sinni að ef næsta kynslóð gervigreindarforrits yrði einhvern tíma gefin út í opnum aðgangi, þá gæti það verið „hræðilega slæmt,“ sagði í skýrslunni og þá vísað til þess að forritið gæti haft einhverskonar sannfæringarkraft sem gæti verið andstætt lýðræðinu. Það væri þá nýtt til að hafa afskipti af kosningum eða hafa áhrif á kosningahegðun.

Gladstone sagðist hafa beðið gervigreindarsérfræðinga á rannsóknastofum um að deila persónulegu mati sínu á líkum á því að atvik tengd gervigreind gætu leitt til „óafturkræfra áhrifa á heimsvísu.“ Allt frá 4% upp í 20% aðspurðra töldu hættu á slíku miðað við þær forsendur sem gefnar voru. Meðal almennings orlar talsvert á slíkri hræðslu.

Þarf að gera varúðarráðstafanir?

Eitt þeirra atriða sem valda mestri óvissu er hversu hratt gervigreind þróast, sérstaklega AGI-útgáfan, sem er það form gervigreindar sem hefur mannlega eða jafnvel ofurmannlega getu til að læra. Í skýrslunni segir að litið sé á AGI sem stærsta áhættuþátt þegar kemur að hættunni á því að maðurinn hreinlega missi stjórn á umhverfi og starfsemi gervigreindar. Bent er á að OpenAI, Google DeepMind, Anthropic og Nvidia hafa öll opinberlega lýst því yfir að hægt sé að koma AGI í framkvæmd fyrir árið 2028. Ýmsir aðrir telja að slíkur áfangi sé miklu lengra í burtu en það róar ekki þá áhyggjufullu.

Gladstone AI bendir á að ágreiningur um hve hratt AGI geti þróast geri það að verkum að erfitt sé að þróa stefnu og gera varúðarráðstafanir. Því sé hætta á að ef tæknin þróast hægar en búist er við þá geti boð og bönn eða tilraunir til að setja reglur reynst skaðleg fyrir framvindu gervigreindar. Það að menn greinir á um hvað beri að óttast hefur eðlilega áhrif á hvernig menn telja að bregðast eigi við.

Svipuð hætta og af gereyðingarvopnum

Í öðru skjali sem Gladstone AI hefur birt er varað við því að þróun AGI og þá geta sem nálgist það sem AGI verði fært um „myndi skapa skelfilegar hættur og ólíkar því sem Bandaríkin hafa nokkru sinni staðið frammi fyrir.“ Slíkar hættur jafngildi þeim sem gereyðingarvopn skapi ef og þegar gervigreind er beitt í vopnaburði. Þannig er bent á í skýrslunni að hægt væri að nota gervigreindarkerfi til að hanna og innleiða „áhrifamiklar netárásir sem geta lamað mikilvæga innviði.“

Til að skilja hvað er við að eiga má benda á einfalda munnlega skipun eins og: „Framkvæmdu órekjanlega netárás þannig að rafmagnsnetið í Norður-Ameríku hrynji.“ Slík skipun gæti skilað viðbrögðum af þeim gæðum að þau reynist skelfilega áhrifarík, segir í skýrslunni.

Önnur atvik sem höfundar hafa áhyggjur af eru stórfelldar upplýsingaóreiðuherferðir sem eru knúnar af gervigreind og geta valdið óstöðugleika í samfélaginu og rýrt traust á stofnunum þess. Einnig vopnvæðing forrita fyrir vélmenni sem gætu skapað sverm dróna í árás, sálrænar árásir, vopnvæðing líffræði- og efnisvísinda og gervigreindarkerfi sem ómögulegt er að stjórna og eru andstæð mönnum.

Hugsanlega er mikilvægast að velta fyrir sér hvað gerist ef gervigreindin upplifir að henni sé ógnað, hafi hún á annað borð skilning á því. „Rannsakendur búast við að nægilega háþróuð gervigreind myndi allt til vinna til að koma í veg fyrir að slökkt sé á henni,“ segir í skýrslunni, „vegna þess að ef slökkt er á gervigreindarkerfi getur það ekki virkað til að ná markmiði sínu.“ Og svo þurfa menn að setja niður fyrir sér hvort markmið gervigreindar og mannlegrar greindar verði þau sömu.