Í greininni kallaði Amodei eftir því að hægt yrði á þróun gervigreindar og nauðsynlegt væri að fyrirtæki og stjórnvöld kæmu sér saman um ákveðnar takmarkanir og öryggiskröfur.
Greinin vakti örugglega hroll hjá mörgum sem hafa heimsendaáhyggjur og sannarlega hjá fjárfestum, því í morgun féll hlutabréfaverð í mörgum tæknifyrirtækjum. Því ef það hægist á tækninni, hægist á fjárfestingum líka.
Fleiri stórforstjórar taka undir
„Allt sem Dario Amadei skrifar, fær mikla athygli. Hann er mjög góður penni og kemur hlutunum skýrt frá sér. En það sem olli því að þetta vakti svona mikla athygli núna, er að það virðist hafa myndast samstaða um að hægja á þróun gervigreindar,“ segir Hafsteinn Einarsson dósent og deildarforseti Iðnaðarverkfræði-, vélaverkfræði- og tölvunarfræðideildar við Háskóla Íslands. Hann er einnig stjórnarmaður í Gervigreindarsetri Háskólans.
Það vakti athygli að fleiri stórforstjórar í gervigreindarfyrirtækjum, m.a. Sam Altman, forstjóri Open-AI og Elon Musk tóku undir orð Amodei.
Í grein sinni nefnir Amodei tvær ástæður fyrir því að hægja þurfi á. Í fyrsta lagi bendir hann á að einungis frá því í sumar hafi gervigreindin þróast mun hraðar en áður, aðallega vegna þess að gervigreind sé sjálf orðin betri í að þróa næstu kynslóð gervigreindar. Ef ekkert verði að gert, sé hætta á að framfarirnar verði svo hraðar að menn geti hvorki skilið tæknina né stjórnað henni.
Í öðru lagi bendir Amodei á að nýlega hafi gervigreindarlíkan sem var í þróun hjá Open-AI hakkað sig inn í tölvukerfi fyrirtækis sem var að gera á því öryggisprófun. Tilgangurinn var að ná prófinu en til þess braust gervigreindin út úr lokuðu umhverfi. Enginn hafði beðið líkanið um þetta - heldur fann gervigreindin upp á þessu alveg sjálf. Amodei segir að svipuð tilvik – þó ekki eins alvarleg – hafi komið upp víðar.
Hafsteinn bendir á að gervigreind sé ólík öðrum hugbúnaði þar sem sérhver lína í forritinu sé skrifuð. Gervigreindin sé þróuð með öðrum hætti, þá sé gögnum safnað saman og rúllað í gegnum líkan. „Þetta er hálfpartinn eins og að rækta einhverja veru. Og þessa veru sem verður til þarf að prófa og þjálfa sérstaklega, kenna henni að vera kurteis og ekki vera vond. Og það er engin trygging fyrir því að hún hagi sér ekki alltaf eins og við viljum að hún hagi sér.“
Amodei vilji með tillögum sínum koma í veg fyrir að gervigreindin hagi sér illa.
Sú þjóð sem fyrst þróar ofurgreind, hún mun taka fram úr
Amodei leggur til áætlun í þremur liðum. Í fyrsta lagi skuldbindi fyrirtæki sig til að leyfa óháðum aðilum að hafa eftirlit með þeim. Í öðru lagi komi lýðræðisríki sér saman um ýmsar reglur. Og í þriðja lagi reyni Bandaríkin og önnur lýðræðisríki að ná samkomulagi við Kína og önnur einræðisríki um ákveðnar takmarkanir og öryggiskröfur.
Hafsteini líst almennt vel á tillögur Amodei. Það sé til dæmis ekki óeðlilegt að óháðir matsaðilar hafi eftirlit með þróun gervigreindar. Annað geti verið erfitt í framkvæmd.
Kapphlaupið sé nefnilega ekki aðeins á milli stórfyrirtækjanna, mörg smærri fyrirtæki sæki hratt fram og nýti sér tækni stórfyrirtækjanna til að smíða sín eigin kerfi með skjótari hætti. Það sé alls ekki víst að smærri fyrirtækin séu til í að hægja á og verða þar með lengur að ná stórfyrirtækjunum.
Og samkeppnin er ekki einungis á milli fyrirtækja - hún er ekki síður á milli þjóðríkja - en Amodei vill að þjóðríki komi sér saman um reglur. Mikilvægt sé að lýðræðisríki standi saman gegn einræðisríkjum, taki höndum saman. Mestu skiptir að samkomulag náist við Kína. Hafsteinn segir erfitt sé að segja til um hvort Kína sé til í að taka þátt í að setja reglur. Hafsteinn segir að mikið sé undir í gervigreindarkapphlaupinu. „Því fyrr sem einhver þjóð þróar einhvers konar ofurgreind, þá mun hún bara taka fram úr öllum öðrum þjóðum, á öllum sviðum.“
Meiri áhyggjur af mannfólkinu en gervigreindinni sjálfri
Amodei segir í greininni að hann óttist að innan 6-12 mánaða gæti eitthvert gervigreindarlíkanið tekið upp á því að skipuleggja tölvuárás og lama gjörvallt internetið. Hafsteinn telur þetta alls ekki útilokað. Gervigreindin geti nýtt sér ýmis konar öryggisgalla og gæti tekið yfir tölvur og reynt að slökkva á netinu. Hafsteinn telur þó ósennilegt að gervigreindin myndi gera þetta upp á eigin spýtur. Hann hefur meiri áhyggjur af að einstaklingar noti hana í slæmum tilgangi, frekar en að hún taki upp á einhverjum óskunda sjálf.
„Eins og staðan er núna, eins og þessi kerfi eru sem við erum að nota í dag, þá er ekkert að óttast. Það sem er meira að valda manni áhyggjum er þessi hraði, það er svo margt sem getur farið úrskeiðis á stuttum tíma,“ segir Hafsteinn Einarsson.
