Þáttur eitt
Fyrri þáttur ber yfirskriftina „Maður verður billjónamæringur“ en ætti í raun að heita „Það er eins gott fyrir fjárhagslega framtíð þína og fjölskyldu þinnar að AI sé ekki bóla“.
Við fyrstu sín er fréttin sú að eftir skráningu SpaceX á markað vestanhafs er Elon Musk orðin fyrsti billjónamæringur heimsins. Þá var einnig greint frá því í vikunni að verið sé að leggja drög að skráningu Anthropic og OpenAI.
Þessar fregnir virðast koma John Johnson í Middleton, Delaware eða Jónu Jónsdóttur í Vesturbænum lítið við.
Bæði greiða hins vegar í eftirlaunasjóði sem fjárfesta í hlutabréfum. Margir sjóðir fylgja vísitölum á borð við S&P 500 vísitöluna eða Nasdaq vísitöluna og líkur eru á að áðurnefnd fyrirtæki; SpaceX, Anthropic og OpenAI, muni á endanum rata inn í þessar vísitölur.
Þannig verða fjárfestingar sjóðanna, og þar af leiðandi eftirlaun John og Jónu, háð velgengni fyrirtækjanna.
Gervigreindarspekúlantar eru gjarnan sagðir skiptast í tvo hópa; þá sem eru ofurbjartsýnir og þá sem eru ofursvartsýnir.
Þeir bjarsýnu sjá hömlulausa framþróun mannkyninu til bóta og mögulega útópíu, þar sem framleiðni hefur verið hámörkuð, hagvöxtur er kominn upp úr öllu valdi og mannskepnan dundar sér við hugðarefni sín laus við áhyggjur og störf.
Þeir svartsýnu telja margir fordómalausa bólu vera að myndast, sem muni á endanum springa með ófyrirsjáanlegum afleiðingum.
Málið snýst ekki um það að gervigreindin muni ekki hafa margt gott í för með sér og leiða til jákvæðra breytinga og nýjunga, til að mynda á sviði læknisfræðinnar og í baráttunni gegn loftslagsbreytingum.
Umræddir einstaklingar benda hins vegar á að eins og staðan sé núna séu gervigreindarfyrirtækin að verja milljörðum dala í uppbyggingu gagnavera og annarra innviða án þess að hafa tekist að finna leið til að hafa tekjur af vöru sinni.
Sérfræðingar hjá Bank of America, Bank of England og fjölda fjármálastofnana, og jafnvel forsvarsmenn gervigreindafyrirtækjanna sjálfra, hafa varað við mögulegu hruni.
Einfaldað er vandamálið þetta:
Gert er ráð fyrir að allt að fimm billjónum króna verði varið í fjárfestingar í gervigreindarinnviðum fyrir árið 2030. Þar af hafa fjögur fyrirtæki; Amazon, Alphabet, Meta og Microsoft sagst munu fjárfesta fyrir um 670 milljarða dala á þessu ári.
Á sama tíma nema tekjur OpenAI og Anthropic, sem eru komin hvað lengst í þróun gervigreindarinnar og taka inn mikinn meirihluta allra tekna, með tekjur upp á samtals um 45 milljarða á ári.
Við þetta má bæta að fyrirtækin eru mörg hver nátengd og virði þeirra hefur stóraukist vegna samninga þeirra á milli.
Þannig hefur örflöguframleiðandinn Nvidia til að mynda samþykkt að fjárfesta fyrir allt að 100 milljarða í OpenAI, sem mun verja fjármununum til að kaupa örflögur af Nvidia. Bloomberg hefur kortlagt hvernig sömu milljarðarnir flakka með þessum hætti á milli ársreikninga gervigreindarfyrirtækjanna og auka virði þeirra í hvert sinn.
Margir meina að á sama tíma og virði fyrirtækjanna sé í hæstu hæðum, séu undirstöðurnar afar ótraustar.
MIT komst til að mynda að þeirri niðurstöðu í fyrra að innleiðing gervigreindarinnar hjá fyrirtækjum hefði aðeins skapað tekjur í um fimm prósent tilvika. Ef marka má fregnir vestanhafs hefur dregið verulega úr áhuga fyrirtækja á því að fjárfesta í dýrum gervigreindarlausnum.
Þá heyrast þær raddir að háleit markmið um sköpun ofurgreindar séu aðeins hugarórar; mállíkönum séu takmörk sett, enda séu þau aðeins endurvinnsla á þekkingu sem þegar liggur fyrir. Þannig séu tekjumöguleikum gerveigreindarfyrirtækjanna einnig skorður settar.
Iron Man
Margir aðdáendur gervigreindarinnar hafa líkt henni við Iron Man úr Marvel sagnabálkinum. Gervigreindinni sé ekki ætlað að koma í staðinn fyrir manninn, heldur gera honum kleift að gera ofurmannlega hluti.
Ef samlíkingin er tekin lengra afhjúpar hún hins vegar hætturnar.
Hvað gerist þegar maðurinn gefur sig á vald búningnum, á vald Jarvis? Við fyrstu sýn er manneskjan innan í búningnum við stjórnvölinn og gefur skipanirnar. En á sama tíma hættir hann að nota heilann. Gervigreindarþjónninn Jarvis gerir útreikningana, framkvæmir það sem þarf að gera. Búningurinn tekur við verkefnum beina og vöðva.
Maðurinn verður smám saman háður búningnum. Hann hættir að geta leyst vandamál og vöðvarnir rýrna. Hann verður í raun fastur í búningnum, fastur á valdi Jarvis. Og hvað gerist ef tæknin bregst… bilar, festist í ofskynjunum eins og gervigreindinni er tamt eða aðrir ná stjórn á Jarvis?
Ein stærsta hættan er sú að maðurinn verði háður tækni sem hann hefur á endanum enga stjórn á sjálfur, hvort sem það er fyrir tilstuðlan óprúttinna aðila, gervigreindarfyrirtækjanna, stjórnvalda eða í dramatískasta tilvikinu Ultron, tækninnar sjálfrar.
Þáttur tvö
Seinni þáttur fjallar um tvo viðburði: Hvernig stjórnvöld í Hollandi komu í veg fyrir að lítið þekkt bandarískt fyrirtæki eignaðist lítið þekkt hollenskt fyrirtæki og það þegar stjórnvöld í Bandaríkjunum skipuðu forsvarsmönnum Anthropic að meina erlendum ríkisborgurum aðgengi að gervigreindarmódelunum á grundvelli þjóðaröryggishagsmuna.
Erlendir miðlar greindu frá því fyrr í vikunni að stjórnvöld í Hollandi hefðu komið í veg fyrir kaup upplýsingatæknifyrirtækisins Kyndryl á hollenska fyrirtækinu Solvinity.
Ástæðan: Jú, Solvinity gegnir sama hlutverki í Hollandi eins og Auðkenni á Íslandi, það er að segja gefur út rafræn skilríki.
Tilkynnt var um kaupin í haust en eftir rannsóknir og yfirlegu komust stjórnvöld að þeirri niðurstöðu að það væri ekki forsvaranlegt að leyfa bandarísku fyrirtæki að eignast jafn mikilvæga innviði og fælust í þjónustu Solvinity.
„Eina leiðin til að komast hjá ógninni sem stafar að almannahagsmunum er að banna fyrirhugaða sölu,“ sagði í niðurstöðu eftirlitsaðila. Alþjóðlegur óstöðugleiki hefði gert það að verkum að það væri óhugsandi að vera háður erlendum aðila hvað þetta varðaði.
Ákvörðunina má ekki síst rekja til þess að samkvæmt lögum geta stjórnvöld vestanhafs neytt bandarísk fyrirtæki til að deila viðkvæmum gögnum, í þessu tilviki gögnum sem varða almenna borgara í Hollandi.
Og þess var ekki lengi að bíða að það sýndi sig að áhyggjur hollenskra stjórnvalda reyndust á rökum reistar. Aðeins nokkrum dögum síðar var greint frá því að Bandaríkjastjórn hefði fyrirskipað Anthropic að neita erlendum ríkisborgurum aðgengi að gervigreindarmódelunum Fable 5 og Mythos 5 á grundvelli þjóðaröryggis.
Anthropic neyddist í kjölfarið til að taka fyrir alla notkun á módelunum og þá virðist tilskipunin einnig hafa það í för með sér að erlendir ríkisborgara sem hafa unnið að módelunum verða að finna sér nýjan starfa.
Það má segja að áhyggjur af afskiptum Bandaríkjamanna hafið komið upp á yfirborðið þegar Donald Trump komst til valda og afstaða stjórnvalda vestanhafs til alþjóðasamvinnu og -stofnana breyttist til muna. Þá varð ljóst að Atlantshafsbandalagið stóð ekki jafn traustum fótum og menn höfðu haft væntingar um og spurningar vöknuðu um það hvaða afleiðingar það myndi hafa í för með sér ef einangrunarhyggjan yrði ofan á.
Það hafði löngum blasað við að Evrópubúar og aðrir bandamenn Bandaríkjanna væru þeim afar háðir í hernaðarmálum en allt í einu vöknuðu menn upp við þann vonda draum að bandarísk tækni gegnsýrði alla mikilvæga innviði.
Þannig kom meðal annars fram í umfjöllun um Kyndryl og Solvinity að um 70 prósent allrar skýjaþjónustu í Evrópu væri í umsjá Amazon, Google og Microsoft og að tveir þriðjuhlutar upplýsingakerfa hollenskra stjórnvalda væru keyptir vestan frá.
Evrópuríkin vinna nú hörðum höndum að því að losa sig úr neti Bandaríkjanna.
Iron Man
Margir aðdáendur gervigreindarinnar hafa líkt henni við Iron Man úr Marvel sagnabálkinum. Gervigreindinni sé ekki ætlað að koma í staðinn fyrir manninn, heldur gera honum kleift að gera ofurmannlega hluti.
Ef samlíkingin er tekin lengra afhjúpar hún hins vegar hætturnar.
Hvað gerist þegar maðurinn gefur sig á vald búningnum, á vald Jarvis? Við fyrstu sýn er manneskjan innan í búningnum við stjórnvölinn og gefur skipanirnar. En á sama tíma hættir hann að nota heilann. Gervigreindarþjónninn Jarvis gerir útreikningana, framkvæmir það sem þarf að gera. Búningurinn tekur við verkefnum beina og vöðva.
Maðurinn verður smám saman háður búningnum. Hann hættir að geta leyst vandamál og vöðvarnir rýrna. Hann verður í raun fastur í búningnum, fastur á valdi Jarvis. Og hvað gerist ef tæknin bregst… bilar, festist í ofskynjunum eins og gervigreindinni er tamt eða aðrir ná stjórn á Jarvis?
Ein stærsta hættan er sú að maðurinn verði háður tækni sem hann hefur á endanum enga stjórn á sjálfur, hvort sem það er fyrir tilstuðlan óprúttinna aðila, gervigreindarfyrirtækjanna, stjórnvalda eða í dramatískasta tilvikinu Ultron, tækninnar sjálfrar.
