Kanadíska ríkisstjórnin kynnti í dag nýtt lagafrumvarp sem myndi banna börnum yngri en 16 ára aðgang að samfélagsmiðlum og jafnframt setja auknar reglur um starfsemi gervigreindarspjallmenna.
Frumvarpið nefnist Digital Safety Act og í því felst að samfélagsmiðlafyrirtækjum sé óheimilt að leyfa einstaklingum undir 16 ára aldri að stofna eða halda úti reikningum á samfélagsmiðlum. Fyrirtækin gætu þó sótt um undanþágu ef þau sýna fram á að fullnægjandi öryggisráðstafanir hafi verið innleiddar til verndar börnum.
„Öryggi barna má ekki vera aukaatriði“
Menningarmálaráðherra Kanada, Marc Miller, segir að þau hafi séð alvarlegar afleiðingar þess sem getur gerst þegar skaðlegt efni dreifist á netinu. „Öryggi barna má ekki vera aukaatriði.“
Frumvarpið tekur einnig til gervigreindarspjallmenna og fyrirtæki sem reka slíka þjónustu yrðu skylduð til að draga úr hættu á að spjallmennið miðli hættulegu eða skaðlegu efni til notenda. Fyrirtæki yrðu einnig að uppfylla kröfur um gagnsæi varðandi viðbrögð í neyðartilvikum, meðal annars þegar notandi gefur til kynna áform um að skaða sjálfan sig eða aðra.
Umræðan um netöryggi hefur verið sérstaklega áberandi í Kanada eftir skotárás í námubænum Tumbler Ridge í febrúar þar sem níu létust, þar á meðal árásarmaðurinn, en hún hét Jesse van Rootselaar.
OpenAI sætti gagnrýni eftir að fyrirtækið lokaði reikningi Rootselaar árið 2025 vegna vafasamra skilaboða sem komu fram í samskiptum hennar við ChatGPT. Fyrirtækið tilkynnti þó málið ekki til lögreglu.
Dómsmálaráðherra Kanada, Sean Fraser, fór fram á að OpenAI myndi gera breytingar á öryggiseftirliti sínu og ef fyrirtækið brygðist ekki við þessari beiðni myndi ríkisstjórn Kanada setja á reglugerðir til að ná fram breytingum.
OpenAI gaf þá út tilkynningu að fyrirtækið hefði hert öryggisráðstafanir fyrirtækisins og breytt fyrirkomulagi á tilvísunum mála eða ábendinga til lögreglu þegar grunur leiki á glæpsamlegu athæfi.
Áströlsk stjórnvöld bönnuðu 16 ára börnum aðgang að samfélagsmiðlum í desember og stjórnvöld margra annarra landa, þar á meðal í Bretlandi, Frakklandi og Indónesíu, eru nú einnig að skoða málið.
