Viðskipti | ViðskiptaMogginn | 23.3.2025 | 10:30

Þeir segja mest af Ólafi konungi

Lára Herborg Ólafsdóttir, lögmaður á Lex lögmannsstofu og aðjúnkt við lagadeild HR.

Lára Herborg Ólafsdóttir, lögmaður á Lex lögmannsstofu og aðjúnkt við lagadeild HR skrifar:

Í dag fer fram ráðstefna í Hörpu um gervigreind og lög á vegum lagadeildar Háskólans í Reykjavík, menningar-, nýsköpunar- og háskólaráðuneytisins og Bentt. Þar verður gervigreindarregluverk Evrópusambandsins rætt sem samþykkt var á síðasta ári og mun hafa áhrif á fjölmörg fyrirtæki og ríkisstofnanir fyrr en varir. Í umræðunni hefur Evrópusambandið verið gagnrýnt fyrir ofregluvæðingu og hefur þar gervigreindarregluverkið meðal annars verið nefnt sem íþyngjandi regluverk sem sé til þess fallið að hamla hagvexti og draga úr samkeppnishæfni Evrópuríkja við önnur ríki á borð við Bandaríkin og Kína. Einhverjir hafa í því sambandi vísað til skýrslu Marios Draghis fyrir framkvæmdastjórn Evrópusambandsins sem varpaði ljósi á slaka samkeppnishæfni Evrópu, meðal annars vegna of flókinna reglna og lítils hvata til fjárfestinga og nýsköpunar.

Í kapphlaupinu um að einfalda reglur og efla hagvöxt, sem vissulega þörf er á, er þó mikilvægt að staldra við grundvallarástæður að baki gervigreindarregluverki Evrópusambandsins – en rauði þráður regluverksins lýtur að því að standa vörð um grundvallarréttindi einstaklinga. Reglur Evrópusambandsins af þessum toga eiga sér djúpar sögulegar skýringar, einkum frá síðari heimsstyrjöldinni og afleiðingum hennar. Á stríðsárunum og í aðdraganda þeirra leiddi óheft eftirlit, kúgun og vald ríkja til einhverra verstu kafla mannkynssögunnar. Heilu þjóðfélögin voru undir stöðugu eftirliti, andóf var kæft og mannréttindi brotin í nafni þjóðaröryggis og efnahagslegrar útþenslu.

Í kjölfarið skuldbatt Evrópa sig til að byggja upp reglubundið kerfi sem myndi setja einstaklingsfrelsi, gagnsæi og mannlega reisn í forgang. Setning Mannréttindasáttmála Evrópu og meginreglur sem festar eru í lög Evrópusambandsins miðuðu að því að tryggja að fyrirtæki, ríki eða valdamikil öfl gætu ekki aftur starfað án eftirlits og ábyrgðar. Er þetta ein ástæða þess að Evrópusambandið leggur sérstaka áherslu á grundvallarréttindi einstaklinga í regluverki sem hefur skýran snertiflöt við slíka hagsmuni, svo sem birtist m.a. í upplýsingaöryggi og persónuvernd, neytendavernd og nú regluverki um gervigreind.

Í dag stöndum við á bjargbrún breytts veruleika gervigreindar – tækninnar sem við leitumst við að skilja og ekki sér fyrir endann á. Gervigreind felur í sér margs konar áhættu en í nýrri birtingarmynd sem kann að vera blekkjandi. Má þar nefna áhættu sem fylgir gífurlegri söfnun upplýsinga um m.a. hagi, störf og einkalíf einstaklinga; fjöldaeftirliti og stafrænum fótsporum, mismunun sem endurspeglast í tölfræðilíkani, ákvarðanatöku án mannlegrar íhlutunar sem kann að hafa áhrif á réttindi einstaklinga, tæknilegri getu mállíkana til að hafa áhrif á atferli einstaklinga o.fl. Þá er upplýsingahernaður ekki nýr af nálinni í heimssögunni en auðvelt er að sjá að tilkoma gervigreindar getur þar leikið stórt hlutverk.

Í umræðunni um samkeppnishæfni við Kína og Bandaríkin er mikilvægt að víkka linsuna og spyrja hvert ferðinni er heitið. Í því samhengi er ekki hægt að taka undir þau sjónarmið gagnrýnislaust að regluverk Evrópusambandsins á sviði gervigreindar sé of íþyngjandi fyrir það eitt að vera umfangsmikið, þegar litið er til undirliggjandi hagsmuna. Mikilvægt er að finna jafnvægi – efla nýsköpun á sama tíma og tryggt er að tækniþróun samrýmist siðferðis- og mannréttindalegum sjónarmiðum. Gervigreindarregluverkið freistast til að tryggja hvort tveggja með áhættumiðaðri nálgun.

Íslandi ber að innleiða regluverk Evrópusambandsins sem fellur innan vébanda EES-samningsins og er gervigreindarreglugerðin þar á meðal. Við innleiðingu reglna frá sambandinu, sem eru sannarlega oft íþyngjandi, flóknar og í sumum tilvikum á skjön við íslenskan veruleika, þarf að gæta þess að blýhúða ekki reglurnar og tryggja að þær falli að íslenskri lagaumgjörð, auk þess sem ráðgjöf og leiðbeiningar eftirlitsaðila þurfa að vera aðgengilegar og auðsóttar fyrir markaðsaðila. Í tilviki gervigreindarreglugerðarinnar er hins vegar fram komin nokkuð einstrengingsleg gagnrýni þar sem þeim grunnsjónarmiðum sem reglugerðinni er ætlað að vernda er lítill gaumur gefinn. Þannig má spyrja sig hvort þeir tjái sig mest um byrði gervigreindarreglugerðarinnar sem hvorki hafa lesið hana né séð – eins og í tilviki Ólafs konungs forðum daga.

Pistillinn birtist fyrst í ViðskiptaMogganum sem kom út sl. miðvikudag.