Bakslag kom í öra þróun stafrænu völvunnar ChatGPT, sem náði þeim einstaka árangri að næla sér í 100 milljónir virkra notenda á tveimur mánuðum, þegar 500 fremstu tæknispekúlantar heimsins rituðu Sam Altman, forstjóra Open AI, bréf í lok mars þar sem þeir lýstu áhyggjum sínum af þróun forritsins.

Nýjasta útgáfan, ChatGPT-4, kom á markaðinn 14. mars og það var hún sem gerði útslagið og var kveikjan að skrifum tæknifólks. Er Altman þar beðinn að vægja nú, þróun hans skapi einfaldlega „mikla áhættu fyrir samfélagið og mannkynið“.

„Munum ekki halda áfram um sinn“

Öllum að óvörum lýsti Altman því svo yfir á fyrirlestri í MIT-háskólanum í Massachusetts í apríl að Open AI hygðist stöðva þróunarvinnu við GPT-5 um óákveðinn tíma. Sagði hann þar að greint hefði verið frá því að fyrirtækið væri að „þjálfa“ GPT-5 um þessar mundir. „Því ætlum við að hætta og við munum ekki halda því áfram um sinn,“ sagði Altman.

Inga Strümke, gervigreindarrannsakandi sem nýlega hefur sent frá sér bók þar sem hún varar meðal annars við því hvert tæknin kunni að leiða mannkynið, kveðst gleðjast yfir orðum Altmans. „Sem rannsakandi á sviði gervigreindar verð ég að segja að lítill fengur er í því að segja að kerfi verði betra bara af því að það verður stærra,“ segir Strümke og líkir þróun forritsins við þróun kjarnorkusprengjunnar.

Eins og ef allir fengju eigin kjarnavopn

„Ímyndið ykkur að það sama hefði verið uppi á teningnum með Manhattan-verkefnið [þróun kjarnorkusprengjunnar á sínum tíma]. Bandaríkin framkvæma svolitlar rannsóknir á kjarnavopnum og þremur vikum seinna gætu allir fengið sína eigin kjarnorkusprengju. Þessi skammi tími frá rannsóknum til útgáfu gerir það að verkum að við höfum ekki ráðrúm til að staldra við og hugsa,“ segir hún.

Á mánudaginn hætti Geoffrey Hilton hjá Google, maðurinn sem talað hefur verið um sem „guðföður gervigreindarinnar“. „Ég hætti hjá Google til að geta tjáð mig vafningalaust um hættuna sem gervigreind skapar,“ sagði Hilton við New York Times við starfslok sín.

Frétt af mbl.is

Guðfaðir gervigreindar hefur áhyggjur af þróuninni

Þrátt fyrir að hafa sett þróun spjallvélmennisins á ís hyggst Altman engan veginn láta af rannsóknum sínum á gervigreind. Þróun ChatGPT-4 mun halda áfram. „Við ætlum ekki að búa til stærri útgáfur, við ætlum að búa til betri útgáfur,“ segir forstjórinn.

FOX

NRK

Reuters