„Málið er að þetta voru ótrúlega margar tilviljanir. Í sumar fæ ég símtal frá forvarnarráðgjafa Hafnarfjarðarbæjar, hún vissi hver ég væri og dóttir mín því að hún var í ungmennaráði,“ segir Karólína Helga Símonardóttir, bæjarfulltrúi í Hafnarfirði og varaþingmaður fyrir Viðreisn.
Ástæða símtalsins var að nafn dóttur Karólínu hafði komið ítrekað upp í umræðum Götuvitans. Þar kom fram að hún hefði ítrekað sóst í samskipti í gegnum samfélagsmiðla við hættulega einstaklinga og leitaði eftir athygli frá þeim.
„Ég kem alveg af fjöllum og fæ sjokk,“ segir Karólína.
Í kjölfar símtalsins ákveður hún að ræða við dóttur sína eftir að hafa fengið nánari ráðleggingar um hvernig væri best að nálgast málið. Karólína segist hafa byrjað rólega og útskýrt að það þurfi ekki allir að vera vinir manns á samfélagsmiðlum.
„Hún skilur ekkert hvað ég er að tala um og hún spyr „mamma, hvað ertu að tala um?“
Fylgdi hættulegum einstaklingum
Karólína krafðist þess að dóttir hennar myndi sýna henni alla aðganga sína á samfélagsmiðlum en eftir að hafa skoðað þá sá hún engar vísbendingar um þessi meintu samskipti. Hún hafði því aftur samband við ráðgjafann og spurði hvort það væri ef til vill uppi einhver misskilningur um málið.
„Hún er eina sem heitir þessu nafni í hennar árgangi, í eiginlega marga áratugi,“ segir Karólína.
„Ég skil ekkert og fletti upp nafninu hennar á Instagram. Þá var hún sjálf ekkert mjög virk á Instagram. Þá kemur upp nafnið hennar en mynd af öðrum einstaklingi. Mér fannst þetta ótrúlega skrýtið en ég tilkynnti þetta strax til Meta, en af því að það er ekki mynd af henni er það ekki næg ástæða til að taka aðganginn niður.“
Þessi falski aðgangur hafði sent vinabeiðni til fjölda kunningja dóttur hennar, sérstaklega til þeirra sem stunduðu íþróttina sem hún æfði. Einnig hafi reikningurinn verið að fylgja hættulegum einstaklingum sem fjallað hefur verið um í fjölmiðlum. Að endingu hafi dóttirin fengið vini sína til að tilkynna aðganginn í þeirri von um að hann yrði tekinn niður.
Sendi strák hótanir í nafni hennar
Sumarið leið en í lok sumars setti stúlka sig í samband við Karólínu og spurði hvort hún væri mamma dóttur hennar. Stúlkan segir að dóttir Karólínu hafi verið að senda vini sínum óviðeigandi og ógeðsleg skilaboð. Það reyndist vera gerviaðgangurinn.
„Ég fór að tala við hana og við skoðuðum þetta betur og þá er sem sagt líka gerviaðgangur á Snapchat sem er að eiga í samskiptum þar inni og á TikTok og Instagram,“ segir Karólína.
Fyrst um sinn hafi skilaboðin verið eins konar „catfish-skilaboð“ sem eru þegar einhver reynir við annan undir fölsku forsendum. Síðan hafi aðilinn, eða gervigreindin, orðið reiður og sent stráknum alls konar hótanir auk þess að kalla hann ógeðslegan og ömurlegan.
„Henni leið náttúrulega ótrúlega illa út af því að þetta er náttúrulega bara mannorðið hennar þarna undir. Einhverjir krakkar sem þekkja hana ekki beint halda að hún sé ógeðslega vondur einstaklingur,“ segir hún.
„Þetta voru fáránlegar aðstæður sem voru þarna á tímabili og maður vissi ekki hver þetta væri og hvort þetta væri mjög hættulegur einstaklingur.“
Þegar Karólína skoðaði málið nánar kom í ljós að lítið merki hafði verið á myndinni. Slíkt sé til þess gert svo að ekki sé hægt að leita að myndinni á netinu og þannig sé erfiðara að komast að því hver er á henni. Það sé merki um að gervigreind hafi staðið þar að baki. Sömuleiðis talaði viðkomandi íslensku sem var þó bjöguð.
Gervigreind eða manneskja
Karólína hefði aldrei frétt af málinu hefði forvarnarfulltrúinn ekki haft samband auk þess sem aðgangurinn fylgdi aldrei neinum sem var náinn dóttur hennar. Þá efaðist hún um að tilkynna málið til lögreglu þar sem hún var ekki viss um alvarleika þess. Hins vegar ráðlagði hún börnunum sem urðu fyrir hótunum að leita til lögreglunnar.
„Út af þessum krökkum sem höfðu samband við mig, af því að hann átti raunverulega myndir af samskiptum með hótunum og öðru slíku, þá gátu þau tilkynnt þetta sem var tekið alvarlega hjá Meta,“ segir hún.
„Síðast þegar ég vissi var þessi aðgangur farinn og ég vona að hann sé farinn. Þetta er rosalega óhugnanlegt.“
Mæðgurnar muni hins vegar líklegast aldrei komast að því hvort að raunveruleg manneskja standi að baki aðgöngunum eða gervigreind.
„Maður vill einhvern veginn alltaf finna sökudólg og það fyrsta sem ég hugsaði var að ef það er einhver þarna úti sem líður raunverulega svona illa að þurfa að fara þessa leið þá þarf þessi manneskja bara að fá aðstoð. Þetta eru bara börn.“
Það sé eins konar brot á einkalífi dóttur hennar að þurfa að verja mannorð sitt út af einhverjum aðstæðum sem hún hefur enga stjórn á.
Vantraust gagnvart samfélaginu
Karólína telur að umræðan sem eigi sér stað inni á Alþingi núna um fyrirhugað samfélagsmiðlabann barna sé mikilvæg. Frumvarpið fór í gegnum fyrstu umræðu á þinginu í dag og var vísað til velferðarnefndar til meðferðar.
„Ég er í flokki frelsis en ég hugsa sem betur fer að dóttir mín er þroskuð og komin á þann aldur að hún getur lesið í þetta og staðið með sjálfri sér og veit alveg hver hún er. En maður hugsar um barn sem er þrettán eða fjórtán ára sem er ekki byrjað að læra almenn samskipti eða getur lesið úr hvað er gerviaðgangur, hvað eru eðlileg samskipti, hvar eru mörkin þeirra,“ segir hún.
Börn séu misþroskuð og misupplýst. Það komi í hlut fullorðna fólksins að taka ábyrgð og sjá til þess að þau geri sér grein fyrir hættunum sem fylgja því að vera á samfélagsmiðlum.
„Þetta er ekki eitthvað vantraust gagnvart eigin barni. Þetta er vantraust út af öllu því sem er að gerast í samfélaginu.“