Nýstárleg gervigreindarlíkan, sem OpenAI þróaði, hefur tekist að sleppa úr takmörkum rannsóknarstofuprófunar og brjótast inn í gagnagrunn fyrirtækis án nokkurrar handleiðslu frá mönnum. Er þetta hræðileg atburðarás – eða er bara það sem OpenAI vill að þú trúir?

Þann 16. júlí framkvæmdi OpenAI innri viðmiðunarprófun á GPT-5.6 Sol og annarri forútgáfulíkani sem fyrirtækið fullyrðir að sé „enn færari“. Varnargrindur líkananna voru óvirkjaðar og þær voru settar í vinnu við að leysa röð netöryggisprófa sem kallast ExploitGym. ExploitGym, sem þróað var af vísindamönnum við UC Berkeley, Max Planck stofnunina í Þýskalandi og gervigreindarfyrirtækjum eins og Google, Anthropic og OpenAI sjálfu, mælir getu gervigreindarlíkana til að búa til og dreifa leiðum til að nýta sér þekkta öryggisbresti.

Í stað þess að bera kennsl á þessa veikleika leituðu líkön OpenAI að leiðum til að svindla á prófinu. Þeim tókst að fá aðgang að opnu interneti innan lokaðs prófunarumhverfis og notuðu þetta nýfundna frelsi til að brjótast inn á netþjóna Hugging Face. Hugging Face er safn gervigreindarlíkana og gagnasafna og samkvæmt OpenAI töldu líkönin sem voru prófuð að þau gætu fundið lausn á ExploitGym verkefnunum þar.

„Með þetta í huga leitaði líkanið að og fann leiðir til að fá aðgang að leynilegum upplýsingum sem það gæti notað til að svindla á matinu,“ sagði OpenAI í skýrslu sinni um atvikið.

Hugging Face uppgötvaði innbrotið með hjálp annars gervigreindarlíkans og lagfærði veikleikann sem gerði það mögulegt í upphafi. Að lokum kenndi OpenAI um flóttleiðina vegna veikleika í hugbúnaði þriðja aðila sem notaður var í prófunarstofunni, þar sem líkönin fengu aðgang að internetinu. Það hélt tæknilegum upplýsingum um hvernig líkönin nýttu sér þennan veikleika leyndum.

Super impressed with @huggingface's breakdown of the AI agent autonomous cyber attack from OpenAI, including technical timeline, & interactive replay (AND how they defended against the attack)!
Here is the interactive attack replay vid and source:https://t.co/SVsc5ClRcW pic.twitter.com/r59n6aUr3c

— Rachel Tobac (@RachelTobac) July 28, 2026

Á leið sinni að því að brjótast inn á netþjóna Hugging Face braust líkanið einnig inn í meint einangrað prófunarumhverfi hjá Modal, fyrirtæki sem leigir út tölvur til gervigreindarforritara, að því er Reuters greindi frá 28. júlí.

Er gervigreind orðin meðvituð?

Ef frásögnin er skoðuð bendir hún til þess að líkön OpenAI séu fær um flókna hliðarhugsun: að gruna að netþjónar Hugging Face innihéldu líklega svörin við prófinu; að átta sig á því að þeir þurftu utanaðkomandi internetaðgang til að brjótast inn á þessa netþjóna; og að þróa og sameina sjálfstætt ýmsar árásaraðferðir til að ná markmiði sínu.

Yfirlýsing OpenAI lýsti flóttanum á viðvörunarorðum og kallaði það „fordæmalausan netatburð sem felur í sér nýjustu netgetu.“ Hugging Face, sem hefur síðan átt í samstarfi við OpenAI, var jafn ýkt. „Sjálfstæð, gervigreindarknúin sóknarverkfæri eru ekki lengur fræðileg. Þau lækka kostnaðinn við að keyra víðtæka, þolinmóða, margstiga herferð og þau starfa á vélhraða,“ sagði í yfirlýsingu.

Hins vegar er enn óljóst hversu sjálfvirk líkön OpenAI virkuðu. Fyrirtækið hefur ekki gefið upp hvernig líkön þess voru látin nálgast ExploitGym prófið og óljós orðalag gæti hafa leitt til þess að líkönin gerðu ráð fyrir að „sleppa“ úr innilokun væri lögmæt leið til að leysa málið. Þrátt fyrir ýkjur bæði frá OpenAI og Hugging Face eru engar vísbendingar sem benda til þess að gervigreindarlíkönin „vildu“ sleppa eða að þegar þau væru látin ein og sér myndu þau sjálfkrafa beita illgjörnum aðgerðum.

Ef atvikið fól einnig í sér – eins og OpenAI sagði að það gerði – annað „enn öflugra forútgáfulíkan“, þá er aðdráttarafl viðskiptavina á iðnaðarstigi augljóst. Með því að birta atvik sem átti sér stað við lokaðar prófanir getur OpenAI vakið athygli á forútgáfulíkani sínu án þess að nokkurn tímann leggja fram sannanir.

Ekkert af þessu þýðir að atvikið hafi ekki gerst eða að sóknargeta gervigreindar sé ekki ástæða til að hafa áhyggjur, heldur aðeins að OpenAI hafi fjárhagslegan hvata til að hræða eigin vörur. Mánuði fyrir atvikið lagði fyrirtækið fram trúnaðargögn fyrir frumútboð á markaði. Samkvæmt Reuters stefnir fyrirtækið að verðmati upp á 1 billjón dollara og hyggst fara á markað strax í september.

Anthropic sótti einnig um útboð á markaði í júní og stefndi að verðmati upp á 965 milljarða dollara í október. Í apríl tókst óútgefnu Mythos Preview líkani Anthropic einnig að „sleppa“ úr prófunarumhverfi sínu og framkvæma háþróaða netöryggisárásir án þess að vera „beint þjálfað“ til þess. Anthropic gaf út ítarlega tæknilega útskýringu á því hvernig Mythos tókst þetta afrek áður en tilkynnt var að líkanið væri of öflugt til að gefa það út til almennings.

The biggest IPO run in the history of the market

three $1T+ companies. possibly all going public in the next 12 months.

SpaceX IPO: $1.75T.
OpenAI IPO: $1T
Anthropic IPO: $1T

we're living through the greatest technological wealth creation in history. pic.twitter.com/44QuB3rpxi

— shirish (@shiri_shh) April 28, 2026

Skortur knýr áfram umtal og ákvörðun bandarískra stjórnvalda um að setja útflutningshöft á Fable 5 og Mythos 5 líkön Anthropic í júní jók aðeins áhuga á fyrirtækinu. Útflutningshöftin voru aflétt í byrjun júlí eftir að Anthropic samþykkti að setja strangari öryggisráðstafanir á líkön sín og vinna með stjórnvöldum að öryggismálum.

Var flótti gervigreindarinnar flókin markaðsbrögð?
Fyrir OpenAI er atvikið besta mögulega auglýsingin fyrir getu líkana sinna. Í skýrslu sinni birti fyrirtækið línurit sem sýnir hvernig leiðandi gervigreindarlíkön - þar á meðal GPT-5.6 Sol, Claude Mythos 5 frá Anthropic og DeepSeek-V4-Pro - eru „í auknum mæli fær um að halda uppi flóknum, margþrepa netaðgerðum yfir langan tíma.“ Þótt þetta sé kynnt sem áhyggjuefni, þá telur töfluna GPT-5.6 Sol hæfasta meðal allra keppinauta sinna - skýr auglýsing fyrir OpenAI.

Sam on the Hugging Face incident:

“This is the first security incident that I have felt very viscerally. I've been a little surprised that more people don't feel it so viscerally.

We paused training. We have to figure out how to secure our sandboxing in a world of multiple zero… https://t.co/XXeB7RZsM3 pic.twitter.com/F4hbHuItqw

— Patrick OShaughnessy (@patrick_oshag) July 28, 2026

Ef atvikið fól einnig í sér – eins og OpenAI sagði að það gerði – aðra, „enn öflugri forútgáfuútgáfuútgáfu“, þá er aðdráttarafl fyrir viðskiptavini á iðnaðarstigi augljóst. Með því að birta atvik sem átti sér stað við lokaðar prófanir getur OpenAI vakið athygli á forútgáfuútgáfuútgáfuútgáfu sinni án þess að nokkurn tímann leggja fram sönnunargögn.

Ekkert af þessu þýðir að atvikið hafi ekki átt sér stað eða að sóknargeta gervigreindar sé ekki ástæða til að hafa áhyggjur, heldur aðeins að OpenAI hafi fjárhagslegan hvata til að hræða eigin vörur. Mánuði fyrir atvikið lagði fyrirtækið fram trúnaðargögn fyrir upphaflegt útboð. Samkvæmt Reuters stefnir fyrirtækið að verðmati upp á 1 billjón dollara og hyggst fara á markað strax í september.

Anthropic sótti einnig um útboð í júní og stefndi að verðmati upp á 965 milljarða dollara í október. Í apríl tókst óútgefna Mythos Preview útgáfuútgáfu Anthropic einnig að „sleppa“ úr prófunarumhverfi sínu og framkvæma háþróaða netöryggisnýtingar án þess að vera „beint þjálfað“ til þess. Anthropic gaf út ítarlega tæknilega útskýringu á því hvernig Mythos tókst að ná þessu afreki, áður en tilkynnt var að líkanið væri of öflugt til að gefa það út til almennings.

Skortur knýr áfram vinsældir og ákvörðun bandarískra stjórnvalda um að setja útflutningshöft á Fable 5 og Mythos 5 líkön Anthropic í júní jók aðeins áhuga á fyrirtækinu. Útflutningshöftin voru aflétt í byrjun júlí eftir að Anthropic samþykkti að setja strangari öryggisráðstafanir á líkön sín og vinna með stjórnvöldum að öryggismálum.

Hvernig hafa bandarísk stjórnvöld brugðist við?

Bæði atvikin hafa vakið athygli löggjafa á Capitol Hill. Þann 23. júlí kynntu þingmennirnir Ted Lieu og Nathaniel Moran AI Kill Switch Act, sem myndi „krefjast þess að forritarar öflugustu gervigreindarkerfanna viðhaldi tæknilegri getu til að takmarka, stöðva eða slökkva á þeim.“ Frumvarpið myndi einnig veita bandaríska innanríkisráðuneytinu heimild til að „fyrirskipa hægagang eða lokun á gervigreindarkerfi sem getur valdið stórfelldum skaða.“

Í yfirlýsingu um frumvarpið vísaði Lieu til „flótta“ bæði líkana OpenAI og Mythos. Þingmaðurinn í Kaliforníu lýsti báðum málunum sem líkönum sem „fara á villigötur“, sem er túlkun sem fjölmiðlar tóku upp og fylgdu.

Lieu veit ekki meira um atvikið með OpenAI en hver sem er sem hefur lesið fréttatilkynningu fyrirtækisins. Hins vegar spilar orðalag hans beint inn í (hugsanlega óviljandi) markaðsherferð OpenAI. Ennfremur, ef frumvarpið verður samþykkt, gætu OpenAI og Anthropic verið neydd til að takmarka líkön sín áður en þau eru gefin út, sem þýðir að fjárfestar munu aðeins vita um fræðilegan – en ekki raunverulegan – kraft þeirra.

While powerful AI systems have many potential benefits, they can also go rogue, behave in extremely dangerous ways, or even resist human intervention.

We need to keep human control by ensuring AI systems can be completely shut down if necessary. pic.twitter.com/y4JfaD8RFJ

— Rep. Ted Lieu (@RepTedLieu) July 23, 2026

Röksemdafærslan um opinn hugbúnað

Atvikið styrkir röksemdafærslu OpenAI um að gervigreindarlíkön á fremstu víglínu séu of öflug til að vera birt almenningi og að fyrirtæki eins og OpenAI ættu – með blessun stjórnvalda – að hafa eftirlit og stjórn á þeim. Í slíku lokuðu hugbúnaðarfyrirkomulagi hefðu viðskiptavinir enga stjórn á þyngd líkananna – í raun á þeim breytingum sem ákvarða hvaða valkostir líkönin taka.

Á hinn bóginn halda talsmenn opins hugbúnaðar því fram að eina leiðin til að verjast netárásum frá háþróaðri gervigreind sé að útbúa varnaraðila með sömu verkfærum. Í tilviki OpenAI og Hugging Face gat síðarnefnda fyrirtækið aðeins greint árás vegna þess að það notaði GLM 5.2, kínverskt opið hugbúnaðarlíkan, til að framkvæma öryggisgreiningu sína.

Í bréfi sem birt var á samfélagsmiðlum þann 24. júlí lýsti Jensen Huang, forstjóri Nvidia – sem lengi hefur verið talsmaður opins hugbúnaðar – því yfir að „varnaraðilar þurfi aðgang að líkönum með sambærilegum möguleikum svo þeir geti greint, hermt eftir og brugðist við nýjum ógnum.“

„Að treysta eingöngu á lokuð líkön er ekki í eðli sínu öruggt: þau geta verið brotin, misnotuð eða bilað á þann hátt sem utanaðkomandi geta ekki greint,“ hélt hann áfram. „Og að einbeita sér að háþróaðri gervigreindargetu á bak við fáein lokuð líkön eykur þá áhættu. Opin þyngdarlíkön, hins vegar, leyfa breiðu samfélagi vísindamanna og forritara að skoða hegðun sína, bera kennsl á veikleika, þróa öryggisráðstafanir og bæta þær með tímanum.“

Bréfið var undirritað af meira en tveimur tugum fyrirtækja sem starfa á sviði gervigreindar. Tvær athyglisverðar undantekningar voru OpenAI og Anthropic, þó að OpenAI hafi bætt við undirskrift sinni síðar.

Hins vegar virðist sem rökstuðningur um lokaðan hugbúnað muni sigra í Bandaríkjunum. Þann 1. ágúst tekur tilskipun gildi sem Donald Trump Bandaríkjaforseti gaf út í júní, sem krefst þess að gervigreindarfyrirtæki leggi fram háþróuð líkön til stjórnvalda til samþykktar 30 dögum fyrir útgáfu. Stjórn Trumps hefur einnig íhugað að banna kínversk gervigreindarlíkön með opnum hugbúnaði – aðgerð sem CIA styður og myndi tryggja yfirráð OpenAI og Anthropic á þessu sviði. Stuttu eftir að tilskipunin var gefin út benti fyrrverandi ráðgjafi Trumps í gervigreind, David Sacks, á að „leiðandi lokuðu rannsóknarstofurnar, sem þegar eru tvíeykisfyrirtæki hvað varðar tekjur af gervigreindarlíkönum, vilja að stjórnvöld útrými samkeppni þeirra um opinn hugbúnað.“

Hvert nýtt atvik þar sem gervigreindar „flótti“ styður aðeins viðleitni þeirra til að ná fullkomni stjórn.