Halldóra Mogensen hefur verið skipuð í vísindanefnd á vegum Evrópusambandsins sem er ætlað að kortleggja málaflokk gervigreindar og veita ráðgjöf um innleiðingu reglna er hana varðar, bæði fyrir sambandið og staðbundin yfirvöld.
Hún segir yfirvöld í heiminum hafa sofið á verðinum hvað varðar að ná utan um málaflokk gervigreindar með lagaumgjörð. Engin merki séu um að hægja fari á þróun gervigreindar og verðmætasköpun vegi meira en spurningar um öryggi og siðferðisleg álitamál.
Halldóra var þingmaður Pírata frá 2016-2024.
Vísindanefndin er skipuð 60 sérfræðingum sem sitja í henni til tveggja ára. Hún heyrir undir framkvæmdastjórn Evrópusambandsins.
„Þetta er vísindanefnd óháðra sérfræðinga um gervigreind og þetta er hugsað sem ein nefnd sem á að vera ráðgjafandi og til aðstoðar við innleiðingu gervigreindarlaga Evrópusambandsins,“ segir Halldóra í viðtali við fréttastofu. Hún vísar til regluverks sem á ensku heitir AI act.
„Þetta snýr aðallega að því að veita ráðgjöf um hugsanlegar kerfisbundnar áhættur af völdum almennra gervigreindarlíkana. Þá er verið að tala um OpenAI, Anthropic og fleiri aðila sem eru með þessi stóru tungumálalíkön. Hluti af starfinu er að flokka eftir svona kerfisbundinni áhættu þessi almennu gervigreindarlíkön.“
Evrópusambandið leiðandi í að setja lagaramma um gervigreind
Halldóra sótti um sæti í vísindanefndinni fyrir um ári síðan á grundvelli þingreynslu sinnar og reynslu sem formaður framtíðarnefndar. Í því hlutverki leiddi hún umræðu á Alþingi um áhrif gervigreindar á lýðræðið.
„Eftir þingstörfin mín þá geng ég inn í Samtök um mannlega tækni. Það eru samtök sem sinna fræðslu og rannsóknum og leggja áherslu á að notkun tækni og innleiðing tækni fylgi siðferðilegum viðmiðum, að verið sé að setja velferð notenda, náttúru og samfélags í heild í forgang yfir þessa einkahagsmuni og skammtímaávinning.“
Halldóra segir mikilvægt að Evrópusambandið fylgi eftir innleiðingu gervigreindarregluverksins.
„Það er þarna sem verið er að taka raunveruleg skref í átt að því að setja einhvern ramma í kringum gervigreindina. Auðvitað væri ég til í að sjá þau ganga miklu lengra.“
Evrópusambandið sé þó að fara vandlega að og huga meðal annars að öryggis- og siðferðismálum.
„Það eru miklar áhyggjur af þessu. Það verður spennandi að taka þátt í þessu og sjá hvernig þetta þróast, og að fá að taka þátt í því að þróa þetta starf áfram.“
„Þessi hvati til að vera varkár, hann er bara ekki til staðar“
Gervigreindarfyrirtækið Anthropic hefur lagt til að hlé verði gert á þróun gervigreinar.
Halldóra segir áhyggjurnar eðlilegar.
„Þessi samtímagervigreind, hún er byggð á djúptauganetum sem eru ógagnsæ í eðli sínu, þannig að það er ómögulegt að útskýra niðurstöðurnar. Þetta gerir allt eftirlit og úttektir mjög erfitt. Þetta er að grafa undan persónuvernd, þjóðaröryggi og samfélagslegu trausti. Þessi gervigreind er að nota óhemjumikið af orku og vatni og er ósjálfbær og skaðleg umhverfinu.“
Samfélagsáhrif gervigreindar séu raunveruleg.
„Anthropic er núna að tala um að vilja bremsa, sem er mjög gott, en miðað við það kapphlaup sem við sjáum á milli þessara fyrirtækja, sem keppast um markaðsstöðu og fjármagn, og þetta eru sko gígantískar upphæðir fjármagns sem um ræðir, þykir mér ólíklegt að samkeppnin sé til í að bremsa,“ segir Halldóra.
„Þessi hvati til að vera varkár, hann er bara ekki til staðar.“
Framkvæmdastjórn Evrópusambandsins hafði til skoðunar á síðasta ári að breyta gervigreindarlöggjöf sinni vegna ótta við að hún væri samkeppnisletjandi.
„Það er enginn að fara að bremsa“
Anthropic hefur verið gagnrýnt fyrir að mögulega sé ákallið tilraun til að hægja á þróun keppinauta sinna í gervigreindargeiranum. Gagnrýnendur hafa jafnvel sagt fyrirtækið vera að reyna að styrkja stöðu sína sem eitt af leiðandi fyrirtækjum í gervigreind.
„Ég held að þetta sé alveg blandað. Ég held að það séu raunverulegar áhyggjur til staðar og ég held að það sé ekkert bara hjá Anthropic.“
Hafa yfirvöld í heiminum verið treg til að skapa öflugan ramma utan um málaflokk gervigreindar?
„Algjörlega. Þau hafa verið alltof treg að gera það. Og það er eiginlega enginn búinn að ná utan um þetta eins og Evrópusambandið er að gera. Og það er út af því að það er verið að spila fram þessum þjóðaröryggissjónarmiðum, að það verði bara að gefa þessum fyrirtækjum frjálsar hendur út af því að það skiptir svo miklu, miklu meira máli að verða á undan í þróun, að Vesturlöndin verði á undan Kína.“
Það skipti meira máli en að tryggja öryggi.
„En þetta er vandinn sem við erum komin í, þannig það er enginn að fara að bremsa. Það er enginn að fara að hægja á þessu nema að allir í heiminum geri það og mér finnst bara ólíklegt, miðað við hvernig pólitíkin er núna í heiminum, að það sé að fara að gerast. Því miður.“
