Dario Amodei, forstjóri fyrirtækisins Anthropic sem rekur gervigreindarforritið Claude, segir áhættuna sem fylgi gervigreind alvarlega.
Í pistli sem hann birti í dag leggur Amodei til þriggja punkta áætlun til þess að beisla þróun gervigreindar. Áætlunin felur í sér óháð eftirlit með gervigreindarlíkönum á meðan þau eru í þróun og samhæfingu reglugerða þvert á iðnaðinn og á heimsvísu.
Amodei segir mikilvægt að þróa gervigreind á eðlilegum hraða til þess að tryggja öryggi án þess þó að hamla tækniframförum. Hann geri sér grein fyrir því að þróun regluverks sé líklega of hæg í samanburði við þróun gervigreindarinnar.
Hann hvetur því fyrirtæki til þess að setja sér sjálfstæða öryggisstaðla samhliða þróun regluverks.
Skrif Amodei hafa vakið mikla athygli og margir brugðist við þeim. Auðjöfurinn og eigandi gervigreindarforritsins Grok, Elon Musk, tók undir með honum. Aðrir eru tortryggnari í garð skrifanna og telja Amodei reyna að ná tökum á umræðunni með þeim.
Áhyggjur af þróun gervigreindar fara vaxandi
Áhyggjur af örri þróun gervigreindar og þeirri áhættu sem henni fylgir hafa farið stigvaxandi.
Aðalöryggisrannsakandi Anthropic sagði á dögunum að ekki væri rammi til að beisla ofurgervigreind. Það væri almenn trú innan bransans að kapphlaupið um þróun gervigreindar gæti tortímt mannkyni. Sjálfur teldi hann meira en tíu prósenta líkur á að það gæti gerst á næstu tíu árum.
Í nýlegri skýrslu frá Anthropic kom svo fram að fyrirtækið hefði stöðvað notendur sem gætu hafa ætlað sér að þróa efnavopn með forritinu.
Sam Altman, forstjóri OpenAI, sagði í viðtali nýlega að það væru ekki öryggisventlar til staðar til þess að þróa gervigreindina mikið meira.
