Jacob Coxon sagði upp vinnunni sinni í gær. Hann sagði frá því á samfélagsmiðlun að hann gæti ekki með góðri samvisku haldið áfram störfum. Þau störf voru þróun gervigreindar, fyrst hjá OpenAI, sem bjó til ChatGPT, síðar hjá Anthropic, sem bjó til Claude. Hvorugt fyrirtæki sýndi ábyrgð við vinnu sína, heldur þeyttust þau áfram í þróunarvinnu sem miðaði að ofurgervigreind. Þessi kerfi yrðu innan skamms ofar mannlegri greind, fær um að bylta nánast hvaða geira sem er í hendingskasti, og soga til sín bæði orku og auðlindir. Og hann hélt því fram að allir þeir, sem ynnu að þróun gervigreindar, teldu að gervigreindin gæti drepið okkur öll fyrir lok áratugarins.
Þessi orð hlutu þó fyrst verulega athygli þegar Evan Hubinger tók undir með honum sagði það almenna trú að gervigreind gæti tortímt mannkyni og sagðist sjálfur telja meira en tíu prósenta líkur á að þetta gæti gerst á næstu tíu árum.
Hubinger er aðal öryggisrannsakandi Anthropic og ætti því að vita hvað hann segir. Meginverkefni hans er að vinna að því sem kallast „alignment“ eða samræmingu, það er að segja að tryggja að siðferðisviðmið séu byggð inn í gervigreindarlíkön og að framvinda þeirra sé í samræmi við gildi mannkyns.
Hubinger sagði einnig að Anthropic reyndi sitt besta, en fyrirtækið væri ekki enn með áætlun sem leysti samræmingarvandann fyrir ofurgreind. Hann, eins og fleiri, gerir greinarmun á gervigreind sem mörg okkar nota daglega og ofurgervigreind, sem gæti orðið til þegar gervigreindarlíkönin fara að þjálfa sig sjálf og bæta.
Dario Amodei, yfirmaður og stofnandi Anthropic, hefur kallað eftir því að hægt verði á þróun gervigreindar og að yfirvöld beiti sér fyrir því. En Coxon endurómaði í uppsagnarskrifum sínum það sem aðrir hafa bent á: Að samkeppnin meðal gervigreindarfyrirtækjanna sé hörð, vantraust mikið og allir keppist að því að verða fyrstir til að þróa ofurlíkanið, en þá á réttum forsendum.
Þótt Anthropic kalli eftir því að stjórnvöld beisli gervigreindarþróunina virðist sem fyrirtækið ætli að hlýða fyrirskipunum bandarískra yfirvalda, sem sjá í vaxandi mæli samkeppnisforskot um að neita öðrum um aðgang að nýjustu uppfærslum á gervigreindarlíkönunum. Financial Times greindi frá því í dag að AISI, breska gervigreindaröryggisstofnunin, hefði ekki fengið aðgang að nýjasta verkfæri Anthropic, Mythos 5.1, jafnvel þótt bandarísk yfirvöld séu komin með það í hendur.
Áhyggjur af gervigreindinni, þróun hennar og afleiðingum, virðast fara vaxandi. Bill Gates, stofnandi Microsoft, lýsti áhyggjum sínum í viðtali við New York Times í lok ágúst. Þar sakaði hann forsvarsmenn tæknifyrirtækja um að gera lítið úr hættunni því svo miklir peningar væru í spilinu.
„Í einkasamtölum lýsir fólk sem skilur hversu öflugt þetta dót er, og hversu hratt þetta tekur framvörum, miklum áhyggjum sínum af þessu,“ sagði Gates. En á sama tíma væri þetta fólk í því að sussa á næsta mann til að ekkert skemmdi fyrir fjáröflun til frekari þróunar og vaxtar.
Gates sagði þörf á alþjóðasáttmála til að setja ramma um eftirlit og takmarka hættuna, því ekki þyrfti nema örfáa með aðgang að öflugustu gervigreindarlíkönum til að þróa sýkla sem nota mætti í hryðjuverkum.
Alþjóðasáttmáli um gervigreind var líka til umræðu á fundi í Lundúnum á mánudaginn. Control AI, samtök sem beita sér fyrir banni við þróun ofurgervigreindar og hafa kynnt frumvarp í því skyni, söfnuðu málsmetandi sérfræðingum saman til að ræða ógnir og tækifæri. Stofnandi Control AI er Jaan Tallinn, eistneski stofnandi Skype og meðal stofnfjárfesta í Anthropic, sem sagt ekki kunnáttulaus efasemdarmaður.
Meðal fundarmanna var Des Browne, fyrrverandi varnarmálaráðherra Bretlands, sem sagðist hafa haft mestar áhyggjur af því kjarnorkuvopnum í ráðherratíð sinni, en í að í dag teldi hann ofurgervigreind jafnmikla eða enn meiri ógn við mannkyn.
Það er rétt að taka fram, að þrátt fyrir þessar dómsdagsspár innherja í gervigreindar- og tæknigeiranum voru ýmsir á fundinum í London á annarri skoðun: Að gervigreind þyrfti að beisla en að hugmyndir um einhvers konar atburð eins og í kvikmyndunum um Tortímandann eða Terminator, þar sem gervigreind ákveður að þurrka út mannkyn, væru óraunhæfar.
Guardian vitnar í dr. Andrew Rogoyski, hjá Surrey Institute of People-Centred AI, um að gervigreindin væri hvergi nærri eins fjölhæf og mannskepnan, ein sér og hvað þá sem hópur. Honum þætti líklegast að við okkur blöstu mikil vonbrigði, þegar í ljós kæmi að þróaðri gervigreindarlíkön væru alltof dýr í rekstri og skiluðu einfaldlega ekki nægilega miklu gagnlegu frá sér.
