Syrgði Sovét­ríkin og hótaði notkun kjarn­orku­vopna“, var fyrirsögn fréttar um ræðu sem Vladimír Pútín flutti í síðustu viku.

Fáir eru svo þjakaðir af andúð á samtímanum að þeir teldu það raunhæfan kost að sprengja veröldina aftur til fortíðar.

Pútín er hins vegar ekki einn um að mislíka tímarnir svo jaðrar við stríðsástand.

Hávær hópur fer hamförum gegn tækninýjungum eins og um sé að ræða sprengjur sem falla af stafrænum himni. Hvort sem það eru snjallsímar eða samfélagsmiðlar, tölvuleikir eða gervigreind er hver einasta vending talin merki um endalok – ef ekki endalok mannkynsins eins og það leggur sig, þá að minnsta kosti siðmenningarinnar; allavega hins hugsandi manns.

Hinum hugsandi manni stafar sannarlega hætta af tækninýjungum. Ekki þó endilega með þeim hætti sem hann telur.

Alls ekki skaðlaus skemmtun

Í dag eru 7 prósenta líkur á að ég setji í þvottavél. Það eru 83 prósenta líkur á að ég fái mér kexköku með kaffinu og 4 prósenta líkur á að ég fari í ræktina þegar ég er búin að skrifa þennan pistil.

Hvernig veit ég það nákvæmlega? Ég geri það ekki. Yfirlýsingarnar eru hins vegar jafnvísindalegar og fullyrðing Evans Hubinger, yfirmanns öryggismála hjá gervigreindarfyrirtækinu Anthropic, sem fór eins og eldur um sinu nýverið, um að 10 prósenta líkur séu á að gervigreind útrými mannkyninu á næsta áratug.

Menn sem telja sig meðal fremstu hugsuða samtímans slengja nú fram prósentutölum um líkur á endalokunum eins og enginn sé morgundagurinn. Svo útbreiddir eru slíkir spádómar að talan hefur hlotið nafn, p(doom), sem stendur fyrir „probability of doom“.

Geoffrey Hinton, meintur faðir gervigreindarinnar, segir líkurnar 10–20 prósent, Elon Musk tippar á 20 prósent og Roman Yampolskiy, prófessor og sérfræðingur í gervigreindaröryggi, 99,999999 prósent.

Þótt athæfið hljómi eins og samkvæmisleikur er mönnunum fyllsta alvara. Það sem verra er: Það er mörgum áheyrenda þeirra líka.

Fólk, sem gefur sig að jafnaði út fyrir færni í gagnrýnni hugsun, lepur nú upp meinta útreikninga eins og meðlimir dómsdagssöfnuðar fagnaðarerindi lausgyrts spámanns.

Þeir sem telja það skaðlausa skemmtun að mála skrattann á vegginn hafa þó sennilega aldrei heyrt dæmisöguna „Úlfur, úlfur“.

Heilindi eða hagsmunir?

Í vikunni birtist frétt í breska dagblaðinu Financial Times þar sem hagfræðingar drógu mjög í efa hrakspár tæknifyrirtækja um að gervigreind væri í þann veginn að útrýma störfum í stórum stíl. Töldu þeir lítil merki sjást um slíkt í gögnum – að minnsta kosti enn sem komið væri.

Þrátt fyrir linnulausar fullyrðingar talsmanna tæknifyrirtækja um yfirvofandi gereyðingu bólar lítið á rökstuðningi, sönnunargögnum eða útlistun á því hvernig slíkri útrýmingu yrði háttað.

Vel má vera að varnaðarorð tæknifrumkvöðla um hættur gervigreindar séu sett fram af heilindum. Sumir halda því þó fram að forsvarsmenn gervigreindarfyrirtækja keppi sín á milli um ást og athygli fjárfesta og ýki í þeim tilgangi ógnina sem stafi af eigin módeli. Aðrir saka fyrirtækin um að taka saman höndum um hræðsluáróður í von um að fá stjórnvöld til að setja þungar kvaðir á gervigreindariðnaðinn, sem einungis þau stórfyrirtæki er þegar hafa haslað sér völl hefðu fjárhagslegt bolmagn til að uppfylla. Enn aðrir segja bandarísk fyrirtæki óttast samkeppni frá öflugu módeli sem lítur nú dagsins ljós í Kína.

Hinn hefðbundni þorpari

Þótt eitthvað hljómi eins og vísindi er það ekki endilega vísindi. Þetta ætti hinn hugsandi maður að vita. Allt tal um gervigreind virðist hins vegar svipta okkur mannlegri greind.

Vel getur verið að gervigreind útrými mannkyninu; p(doom)-talan mín er 31,4 prósent.

Komi hins vegar á næstunni fram haldbærar vísbendingar um slíka hættu er ólíklegt að nokkur maður muni taka mark á viðvörunum. Því við höfum hrópað „úlfur, úlfur“ alveg frá því að gervigreind var lítið annað en blik í auga James Cameron, leikstjóra The Terminator.

Á meðan heimsbyggðin býr við sálfræðilegt stríðsástand vegna upphrópana um hverja þá tækni sem útnefnd er höfuðóvinur mannkyns hverju sinni getur hinn hefðbundni þorpari athafnað sig án afskipta.

Er einhver búinn að reikna út p(doom)-tölu gamalla karla með kjarnorkuvopn?