Gervigreindarfyrirtækið Anthropic, sem þróaði líkanið Claude, viðurkenndi fyrir nokkrum vikum að nýjasta útgáfa þess, Mythos, gæti reynst hættuleg. Þessi uppfærsla væri svo öflug að hún fyndi veikleika í tölvukerfum sem hefðu um áratuga skeið farið fram hjá bæði mennskum greinendum og sérhönnuðum hugbúnaði. Ekki væri óhætt að gera Mythos aðgengilegan öllum heldur einungis völdum fyrirtækjum í fyrstu. Þeim var svo fjölgað í þessari viku, um 150 í fimmtán löndum.
Á sama tíma sló í brýnu á milli Anthropic og varnarmálaráðuneytisins í Washington því fyrirtækið vildi ekki að Claude væri notaður í stríði, til dæmis til að velja skotmörk. Varnarmálaráðuneytið hefur stefnt Anthropic vegna þessa.
Því kemur nokkuð á óvart að fyrirtækið starfar nú með bandarísku þjóðaröryggisstofnuninni NSA við að þróa tölvuárásarvopn. Tilgangurinn er að nýta getu Mythos við að finna veikleika til árása á óvini Bandaríkjanna. Financial Times greinir frá þessu í dag og hefur eftir heimildarmönnum sínum að einkum sé þessi vinna talin geta nýst til að finna veikleika og komast inn í viðkvæman búnað í Kína og Íran. Blaðið segir að hugbúnaðarverkfræðingar Anthropic vinni nú með kollegum hjá NSA að þróun tóla sem nota megi til tölvuárása. Reuters segir jafnframt unnið að því að þróa tól sem geti varið mikilvæga innviði fyrir sambærilegum árásum óvinveittra sem gætu búið yfir jafnöflugum gervigreindarlíkönum. Áherslan er sögð á fjármálastofnanir, neyðarkerfi og sjúkrahús.
Reuters greinir einnig frá því að undanfarnar vikur hafi Anthropic lagt áherslu á að bæta samskiptin við stjórnvöld og Dario Amodei, forstjóri félagsins, átti meðal annars fund með Donald Trump til að lægja öldurnar. Stefnt er að því að skrá Anthropic á markað á þessu ári.
