Ýmir Vigfússon er með doktorsgráðu í tölvunarfræði og tæknistjóri hjá Keystrike sem sérhæfir sig í öryggislausnum fyrir gervigreind.
Hann bendir á að á síðustu misserum hafi færst mjög í aukana að starfsmenn fyrirtækja og stofnana noti gervigreind í vinnu sinni. Starfsfólk átti sig ekki nægilega vel á því að sum gagnanna sem unnið er með mega ekki fara út úr húsi og innihalda viðkvæmar og/eða verðmætar upplýsingar. Um leið og gögn hafa verið sett inn í gervigreindarforrit sé voðinn vís.
Ýmir segir nýjustu kannanir sýna að tveir þriðju hlutar starfsfólks noti gervigreind að einhverju eða miklu leyti við vinnu sína.
„Þetta er orðið rosalega algengt og þessu vex bara ásmegin. Sumir vita ekki einu sinni að þeir eru að nota gervigreind.“
Hann bendir á að þegar fólk notar leitarvélar eins og Google og leitar að einhverju þá fær það fyrst svar frá gervigreind. Skjölin sem fólk hleður inn í gervigreindarforritin fara í raun út í heim og safnast í sarpinn hjá gervigreindarfyrirtækjunum.
„Þau skjöl eru svo notuð til þess að þjálfa upp gervigreindina og þannig eru þessi gögn aðgengileg þar þegar aðrir spyrja að einhverju sem snýr að því sama. Þetta er í raun gagnaleki. Stundum eru þetta viðkvæm gögn sem óvinir eða jafnvel óvinaríki og glæpamenn vilja seilast í. Við erum ekki í sama heimi og við vorum í. Það eru engin landamæri á internetinu og fáar reglur,“ segir Ýmir.
Gögnin verða í raun almenningseign
Gervigreindarforritin ryksugi upp eins miklar upplýsingar og þau geta, alls staðar frá. Stór hluti þeirra er frá fólki sem notar hana til að bæta vinnu sína. Kapphlaup hátæknirisanna sem búa til gervigreind sé ómanneskjulegt. Upplýsingar sem fólk hleður inn í gervigreindarforrit verða í raun almenningseign.
„Þannig að kannski eftir viku eða fjórar vikur þá kannski birtist þér eitthvað svar sem átti að vera leyndarmál,“ segir Ýmir.
Talað er um skuggagervigreind þegar fólk notar eigin aðgang að gervigreindarforritum en ekki þann sem það fær í gegnum vinnuna. Þetta á við þegar fólk hleður inn viðkvæmum og/eða verðmætum upplýsingum sem jafnvel varða þjóðarhagsmuni.
„Þetta er orðið landlægt vandamál alls staðar. Microsoft áætlar að 75% starfsfólks sé að nota gervigreind í vinnunni og að 78% séu að nota þetta á sínum eigin persónulega aðgangi. Það er það sem við köllum skuggagervigreind og þetta á líka við hér heima á Íslandi. Það hriktir í öllum stoðum um hvað á að gera í þessu. Allir vilja nota þessa gervigreind. Þetta er eins og lest sem allir vilja vera um borð í. Við hjá Keystrike erum að þróa lausnir þar sem fólk getur notað gervigreind á öruggan hátt.“
En náið þið að halda í við þessa tæknirisa? Verða þeir ekki alltaf einu skrefi á undan ykkur sem viljið huga að örygginu?
„Starfsmenn munu ekki hætta að nota gervigreind, við þurfum bara að finna leið til að notkunin sé örugg. Við viljum ekki að árásaraðilar geti nýtt sér gögn sem eru viðkvæm,“ segir Ýmir.
Þú hefur bent á að valdið sé að færast hraðar og hraðar til gervigreindarinnar en ábyrgðin og öryggið ná ekki að halda í við þessa þróun. Hvað gerist ef fram heldur sem horfir?
„Við erum um borð í þessari lest sem er að fara rosalega hratt og það er enginn lestarstjóri sem er að horfa fram á teinana. Þeir eru bara að setja meira og meira í ofninn og fara hraðar og hraðar. Vöxturinn er engu líkur og menn eru að verja stjarnfræðilegum upphæðum í gagnaver en það eru ekki margir að spá í því hvort það séu teinar fram undan og það er mjög hættuleg hugsun. Það er í raun ekki hægt að stoppa neitt. Þessi andi er kominn úr glasinu. Nú þurfum við bara að finna leiðir til þess að beina honum í átt að einhverju sem við viljum að sé fyrir þjóðfélagið,“ segir Ýmir.
Svik, prettir og árásir aukast með óvarlegri notkun
Þú brýnir fyrir fólki, fyrirtækjum og stofnunum að huga að þessari öryggishlið.
„Já, það er mjög aðkallandi. Við þurfum líka að huga að árásaraðilum. Bara í fyrra þá voru 22 þúsund kvartanir til FBI og ég held að þeir hafi tapað tíu milljörðum króna bara í svik sem tengdust gervigreind. Svo við erum að sjá að árásarmönnum og glæpamönnum vex mjög ásmegin og það er hægt að nota þetta í hernaði og það er mikil gróska þar líka. Þess vegna er svo mikilvægt að huga að örygginu. Við höfum í raun og veru engan tíma að missa til þess að byrgja alla þessa brunna sem við vitum að við erum að fara að detta ofan í.
En svona við fyrstu sýn þá virðist þetta vera eins og að fjandinn sé laus?
„Ég held að það sé bara mjög vel að orði komist,“ segir Ýmir.
Hvað er til bragðs að taka?
„Við verðum bara að bera höfuðið hátt. Í öllu leynast tækifæri. Nú þarf fólk bara að átta sig á því að það þarf að nálgast þessa gervigreind sem er risastór nýjung sem mun gjörbreyta svo mörgu á ábyrgan hátt. Við þurfum að passa okkur á því að við séum ekki að nota hana svona glæfralega þannig að hlutirnir verða verri og við munum vera með eftirsjá til framtíðar,“ segir Ýmir.
Eitt að lokum. Hefur gervigreindin siðferðiskennd?
„Gervigreindin getur þóst hafa siðferðiskennd með því að apa eftir öllu því sem hefur verið sett inn í hana en það er mjög þunn gríma. Um leið og þú reynir að pota undir hana þá ferðu að sjá flagð undir fögru skinni,“ segir Ýmir.
