Bandaríska gervigreindarfyrirtækið Anthropic bannfærði notendur sem virtust nýta gervigreindartólið Claude til þess að þróa efnavopn.
Í nýlegri skýrslu fyrirtækisins segir að Claude hafi síðustu misseri nokkrum sinnum verið notað til að dreifa áróðri, til margs konar svikastarfsemi og til vopnaframleiðslu. Einnig hafi þó borið á því að vísindamenn hafi verið að nota gervigreindarforritið með þeim hætti að mögulega sé um tilraunir til efnavopnaþróunar að ræða.
Claude er álíka forrit og hið þekktara ChatGPT, sem fyrirtækið OpenAI á og rekur. Milljónir manna um heim allan nota Claude daglega.
Fimm dæmi voru gefin í skýrslunni, án þess að tiltekið væri hver væri þar að baki eða frá hvaða landi. Mögulega hafi notkunin aðeins verið í heiðarlegum tilgang og af þeirri ástæðu telur fyrirtækið að ekki sé rétt að greina frá slíkum upplýsingum.
Anthropic segir að misnotkun sem snýr að þróun efnavopna sé „ein aðaláhættan við þróun gervigreindar“. Gervigreindarforrit geta veitt aðstoð við heiðarlegra rannsóknarstarfsemi en flest forrit neita að aðstoða notendur ef grunur leikur á um að tilgangur þeirra sé annarlegur eða glæpsamlegur. En takist ódæðismönnum, samtökum eða ríkjum að villa fyrir um gervigreindarforritum er mögulega hægt að nota þau til þess að þróa og framkvæma efnavopn, segir Anthropic.
„Sömu upplýsingar og nýtast við þróun efnavopna mætti sömuleiðis nota til að þróa, til dæmis, bóluefni eða lækningu við sjúkdómum,“ segir í skýrslu Anthropic.
Fyrir skemmstu lýsti fyrrverandi starfsmaður Anthropic þeirri ógn sem hann telur stafa af örri þróun gervigreindar. Taldi hann 10% líkur á að gervigreind tortími öllu mannkyni innan áratugar.
Í frétt um málið tæpir breska ríkisútvarpið einnig á skýrslu, sem Google gaf út á þriðjudaginn, um að notandi hafi reynt að nota gervigreindarforrit þeirra, Gemini, til þess að verða sér úti um leiðbeiningar til þess að framleiða efnavopn.
Útgáfa skýrslna af þessu tagi eru orðin viðtekin venja í Kísildalnum, þar sem gervigreindatól hvers konar eru þróuð með sífellt meiri hraða.
Anthropic segist nýta þessi dæmi til þess að koma auga á grunsamlega notkun forrita þeirra og stöðva. Upplýsingum er deilt með yfirvöldum viðeigandi landa og samkeppnisaðila í tæknigeiranum þegar þess er talin þörf.
