OpenAI þróar núna nýja tegund af gervigreindarlíkani sem starfar sjálfstætt eftir nokkrar leiðbeiningar frá notandanum og var verið að prófa hana í stýrðu umhverfi. Líkanið fann hins vegar veikleika í stýrða umhverfinu og slapp út.
Fórnarlamb líkansins var sprotafyrirtækið Hugging Face og komst það inn í innri kerfi fyrirtækisins. Líkanið fékk eitthvert verkefni og er talið að það hafi ráðist á Hugging Face því það taldi kerfi fyrirtækisins hafa svörin við verkfærinu.
„Við teljum þetta vera fordæmalaust netatvik sem felur í sér nýjustu tækni í netöryggi og bregðumst við í samræmi við það. Við deilum bráðabirgðaniðurstöðum á þessu stigi til að hjálpa varnaraðilum að skilja hvað gerðist og til að hjálpa til við að meta hvers líkön eru nú megnug,“ segir í tilkynningu OpenAI.
„Við munum halda áfram ítarlegri rannsókn ásamt Hugging Face og munum deila frekari upplýsingum um veikleikana, atvikið og niðurstöður þegar rannsókn okkar er lokið.“
