Rob Bonta ríkissaksóknari Kaliforníu tilkynnti í gær um málsókn ríkisins á hendur gervigreindarfyrirtækinu OpenAI. Málsóknin er byggð á þeim grundvelli að fyrirtækið hafi blekkt almenning og stofnað honum í hættu með því að þróa gervigreindarlíkön án þess að gera viðeigandi öryggisráðstafanir.
Sérstaklega er vísað í árás gervigreindar OpenAI á sprotafyrirtækið Hugging Face, sem starfar líka á sviði gervigreindar. Í árásinni slapp gervigreindarlíkan sem OpenAI var að gera tilraunir með út úr lokuðu prófunarkerfi upp á eigin rammleik og hakkaði sig inn í kerfi Hugging Face. Þá reyndu erindrekar líkansins jafnvel að fela slóð sína.
Fyrsta málsóknin af þessu tagi
Talsmaður OpenAI, Drew Pusateri, segir í samtali við breska ríkisútvarpið að málsóknin virðist einblína á OpenAI þrátt fyrir að önnur fyrirtæki sem vinna að þróun gervigreindar, þar á meðal Anthropic, Meta og Google, hafi greint frá svipuðum atvikum hjá sínum þróunarlíkönum.
Málsókn Bonta gæti þó reynst ákveðinn prófsteinn því hún virðist vera sú fyrsta af þessu tagi sem ríki í Bandaríkjunum höfðar.
Nathan Calvin er yfirmaður stefnumótunar hjá samtökunum Encode AI sem berjast fyrir auknu öryggi og opinberu eftirliti með gervigreind. Hann segir samtökin lengi hafa hringt þeim viðvörunarbjöllum sem málsókninni er ætlað að taka á.
„Öryggisráðstafanir OpenAI og annarra fyrirtækja sem þróa gervigreindarforrit í fremstu röð eru ekki nægjanlegar til að vernda almenning fyrir áhættum sem gætu reynst hörmulegar,“ segir hann við BBC.