Kapphlaupið um öflugri gervigreind er ekki lengur aðeins tæknilegt. Það er orðið pólitískt.
Bandarísk stjórnvöld hafa gripið til fordæmalausra aðgerða og sett hömlur á dreifingu nýjustu uppfærslu gervigreindarfyrirtækisins Anthropic, Claude Fable 5.
Sjónarmið þjóðaröryggis eru þar að baki en aðrir segja að sagan sé að endurtaka sig: Óttinn við nýja tækni sé orðinn stærri en tæknin sjálf.
Kristinn R. Þórisson, prófessor í tölvunarfræði við Háskólann í Reykjavík og meðstofnandi gervigreindarsetursins CADIA, er í þeim hópi sem telur viðbrögðin ýkt.
„Þetta er bara sama sjónarspilið og þegar OpenAI var fyrst að kynna sín kerfi. Menn segja að eitthvað sé svakalega hættulegt en svo hækka bara hlutabréfin eða virðið,“ segir Kristinn.
Ákvað sjálft að loka
Bandarísk stjórnvöld brugðust við útgáfu Claude Fable 5 með því að takmarka dreifingu tækninnar og leyfa einungis bandarískum notendum aðgang að henni. Fyrirtækið ákvað í kjölfarið að loka alfarið fyrir aðgang að uppfærslunni þar sem erfitt reyndist að tryggja að aðeins tiltekinn hópur notenda gæti nýtt sér hana.
Kristinn segir að hann hafi séð svipaðar umræður margsinnis áður.
„Þeir sem stöðva svona skilja ekki tæknina. Ég hef verið í þessu í þrjátíu ár og séð þetta aftur og aftur. Fyrsta spjallmennið kom árið 1969 og þá var nákvæmlega sama sagan sögð.“
Þjóðaröryggi eða tæknifælni?
Bandarísk stjórnvöld hafa vísað til þjóðaröryggissjónarmiða fyrir ákvörðun sinni. Áhyggjurnar snúa að því að Claude Fable 5 geti verið notað til að komast fram hjá öryggiskerfum fyrirtækja og stofnana og þannig auðveldað netárásir.
Dr. Helgi Páll Helgason, öryggisstjóri hjá Snjallgögnum, hefur sjálfur prófað nýju útgáfuna og segir hana vera stórt stökk fram á við.
„Maður fann strax að þetta var mun öflugri uppfærsla en það sem áður hefur komið út. Þetta var óvenjustór uppfærsla og það er óumdeilt að þetta er öflugasta módelið sem hefur komið á markað,“ segir Helgi.
Sjálfur notaði hann Claude Fable 5 í um viku áður en lokað var fyrir aðganginn.
„Ég notaði þetta meðal annars til að forrita viðbót við hugbúnað sem ég er að nota og það virkaði mjög vel.“
Fordæmisgefandi ákvörðun
Þrátt fyrir að skilja sjónarmið stjórnvalda telur hann ákvörðunina varhugaverða og hugsanlega fordæmisgefandi.
„Þetta gæti verið vísbending um það sem koma skal; að stjórnvöld fari í auknum mæli að setja hömlur á tækniþróun.“
Að sögn Helga varð það til þess að viðvörunarbjöllur fóru að hringja þegar sérfræðingar frá Amazon náðu að komast fram hjá innbyggðum vörnum kerfisins.
„Menn náðu að fá Fable til að fara fram hjá þeim takmörkunum sem Anthropic hafði sett og fá það til að hjálpa við að brjótast í gegnum öryggisvarnir. Það sýnir hversu erfitt er að setja algjörar skorður á svona kerfi.“
Ekki hlaupið að því að laga
Hann segir líklegt að stjórnvöld muni krefjast þess að slíkir veikleikar verði lagaðir áður en tæknin verði gerð aðgengileg á ný.
„Vandinn er hins vegar sá að þetta er ekki einföld hugbúnaðarvilla sem hægt er að laga með einni uppfærslu. Þetta er að hluta til fræðilegur vandi sem fylgir eðli mállíkana sjálfra,“ segir Hjalti.
Bætir hann því við að hægt sé að nota önnur líkön sem þegar eru á markaði til þess að „hakka“ öryggiskerfi.
