Greint var frá því í vikunni að nýtt gervigreindarlíkan bandaríska fyrirtækisins OpenAI hefði framkvæmt netárás gegn sprotafyrirtæki eftir að starfsmenn misstu stjórn á líkaninu í öryggisprófun. Forsvarsmenn fyrirtækisins segja um fordæmalaust atvik að ræða sem verði rannsakað til hlýtar, íslenskur sérfræðingur segir tíðindin ekki koma á óvart.
„Eftir því sem þessi gervigreindarlíkön verða betri þá öðlast þau hæfileika sem þessa og það er áhyggjuefni ef líkönin sjálf taka upp á því að gera eitthvað svona, en það sem er kannski meira áhyggjuefni ef fólk sjálft fer að misnota líkönin til að finna öryggisgalla.“
Geta gervigreindar og ógnarhröð þróun kalli á margar spurningar um framtíðina en veröld líkt og í Terminator kvikmyndunum þar sem gervigreindarkerfið Skynet rís upp og tortímir mannkyninu sé þó enn langt undan.
„Jafnvel þó Skynet sé kannski ekki eitthvað sem við erum að fara að sjá í dag eða á morgun eða þess háttar þá er þetta bara að gerast það hratt að það er bara mjög heilbrigt að vera aðeins hugsi yfir þessu, því núna er það að brjótast inn í tölvukerfi, hvað mun það geta gert næst?“
Hafsteinn segir að á sama tíma beri að hafa í huga að bandarísku gervigreindarfyrirtækin hafi fjárhagslega hagsmuni á því að vekja athygli á getu tækninnar.
„Ég myndi samt ekki endilega túlka þetta þannig að þetta sé einhver leið til þess að fá athygli, þetta eru raunverulegir hæfileikar sem eru að myndast í þessum líkönum og við sem þjóð þurfum að vera tilbúin fyrir einhverjar svona tölvuárásir í framtíðinni sem alfarið byggjast á gervigreind og stjórnvöld þurfa líka að hugsa um það að fara í samstarf við stærri þjóðir um að fá aðgang að svona líkönum bara til að geta verndað okkar innviði.“
