Hilmar Veigar Pétursson, forstjóri Fenris Creations, áður CCP, segir það ekki hafa komið sér sérlega á óvart að öryggisbrestur hafi orðið hjá gervigreindarfyrirtækinu Open AI. Hann segir að árásin hafi þó vakið fólk til umhugsunar um gervigreind og tölvuöryggi og hægt sé að draga ýmsan lærdóm af henni.
„Ég meina, hér erum við að tala um þetta.“
Tölvuárás sem gervigreind á vegum OpenAI gerði af sjálfsdáðum í sumar hefur komið óþyrmilega við marga. Forsvarsmenn helstu tæknifyrirtækja heims hafa kallað eftir því að reglur verði settar til að hægja á þróun gervigreindar.
Rómantísk tilbrigði milli drekanna
Hilmar segir samvinnu drekanna áhugaverða og að hegðun þeirra hafi líkt töluvert eftir mannlegri hegðun.
„Það voru því líka allt að rómantísk tilbrigði þarna, einn drekinn fórnaði sér fyrir hina, ég held að það hafi bara komið öllum á óvart hvað það var mikið af því sem við myndum kalla „mannlega hegðun“.“
Fyrst og fremst er um tölvuöryggismál að ræða segir Hilmar, búið sé að gefa öllum ákveðinn hæfileika í því að brjótast inn í tölvukerfi með því að nota gervigreind. Áður viðkvæm kerfi séu nú enn berskjaldaðri fyrir utanaðkomandi árásum en áður.
„Fram að þessum tímapunkti var þessi þekking og kunnátta eingöngu til meðal nokkurra mjög sérhæfðra aðila.“
Flókið að hægja á framgangi gervigreindar
Kallað hefur verið eftir því að hægt verði á þróun gervigreindar. Hilmar segir að erfitt sé að tryggja að allir í heiminum hægi samtímis á sér og lítið traust á milli þjóðríkja og fyrirtækja heimsins setji einnig strik í reikninginn.
„Það er engin samrýmd aðferð til þess að uppgötva það að einhver sé að þjálfa gervigreindina, en ég sé bara ekki hvernig fólk ætlar að útkljá það þannig að það geti treyst hvort öðru.“
Dómsdagsspár hafa verið uppi og starfsmenn gervigreindarfyrirtækja hafa sömuleiðis varað við afli gervigreindarinnar. Hilmar telur að þar sé djúpt í árinni tekið, aðalfókusinn eigi að vera á að efla öryggi tölvukerfa.
„Það má búa til einhvern vísindaskáldskap þar sem þetta er start á einhverri brattri brekku, en ég held að þetta sé ekki það.“
Gervigreindina telur Hilmar að einhverju leyti vera almannavæðingu á þekkingu og kunnáttu; í mannkynssögunni hafi þekking oft verið einokuð af þröngum hópi.
Svo verða til fyrirbæri eins og bækur og Google til að leita að öllu og núna erum við bara komin með aðra slíka byltingu þar sem allt í einu hefur almenningur aðgang að hlutum sem áður fyrr voru læstir á bak við einhvers konar takmörkun.
