Ši liūdna ir didelį susirūpinimą kelianti realybė ES reguliatorius verčia tegu ir pavėluotai ieškoti veiksmingų priešnuodžių. Vienas jų – pokalbių ir susirašinėjimo kontrolės planas, kuriuo būtų siekiama technologinėmis priemonėmis užkardyti psichologinio ir seksualinio vaikų išnaudojimo turinio sklaidą socialinėse medijose ir kitose elektroninėse platformose.
Įvesti šį planą ES Komisija (EK) pasiūlė dar 2022 m. gegužę, o anuomet kartu su EK pasiūlymu inicijuotas ir savanoriškas pokalbių kontrolės procesas „Chat Control 1.0“, prie kurio prisidėjo tokie rinkos gigantai kaip Google, Facebook, Instagram Messenger, Skype, Snapchat, iCloud ir X-Box.
Nors šių metų birželį ES Taryba atidėjo balsavimą dėl plano, panašu, kad prie jo bus sugrįžta jau šį spalį, o Tarybai ir Parlamentui priėmus reglamentą, jis gali įsigalioti jau metų pabaigoje.
Koks tai teisės aktas ir kam jis skirtas?
Kalbame apie ES reglamentą, kuriuo nustatomos seksualinės prievartos prieš vaikus prevencijos ir kovos su ja taisyklės (EU Chat Control Act). Juo siekiama nustatyti griežtas pareigas interneto paslaugų, prieglobos (pvz., duomenų centrai), asmenų tarpusavio ryšio paslaugų, socialinių tinklų paslaugų teikėjams:
pareiga įvertinti riziką dėl paslaugų panaudojimo seksualinei prievartai prieš vaikus ir imtis riziką valdančių priemonių – pvz., diegiant vidaus kontrolės procesus ir pan., bei taikyti turinio moderavimo ar rekomendavimo sistemas, kas suponuoja automatizuotų turinio kontrolės algoritmų įdiegimą;
gavus teismo arba kitos nepriklausomos administracinės institucijos nurodymą (angl. detection orders), identifikuoti seksualinę prievartą prieš vaikus internete konkrečios teikiamos paslaugos srityje;
teikėjai gali būti įpareigoti (teismo ar kompetentingų institucijų sprendimu) pašalinti turinį, taip pat blokuoti prieigą prie neteisėto turinio;
gavę nurodymą nustatyti turinį, teikėjai jį privalės įvykdyti taikydami technologijas, kuriomis galima nustatyti žinomos ar naujos seksualinės prievartos prieš vaikus medžiagos platinimą arba ryšių su vaikais mezgimą, naudodamiesi atitinkamais iš anksto į ES duomenų bazę įtrauktais rodikliais / indikatoriais (pvz., neteisėtos veikos URL, IP adresai, skaitmeniniai identifikatoriai seksualinės prievartos prieš vaikus medžiagos platinimui (pvz., hashtagai), kt.), kuriuos skelbs ES centras (reglamento įkurtas specialus ES priežiūros organas);
teikėjui nustačius galimą seksualinę prievartą, jis privalės nedelsdamas informuoti naudotojus iškart po to, kai Europolas arba teisėsaugos institucija patvirtins, kad naudotojams teikiama informacija netrukdys vykdomam ikiteisminiam tyrimui;
turės būti vykdomas bendradarbiavimas su teisėsaugos institucijomis.
Be abejo, numatytos asmens duomenų apsaugos priemonės pagal Bendrąjį duomenų apsaugos reglamentą, užtikrinant, kad turinio nustatymo priemonės būtų naudojamos tik tiek, kiek griežtai būtina siekiant nustatyti žinomos ar naujos seksualinės prievartos medžiagos platinimą arba ryšių su vaikais mezgimą, numatant interneto paslaugų teikėjų bei naudotojų teisių ir interesų gynybos mechanizmus.
Šios pareigos bus taikomos ir programinės įrangos / programėlių tiekėjams ir parduotuvių tiekėjams:
dėti pastangas, jog būtų įvertinta su teikiamomis paslaugomis susijusi vaikų viliojimo galimybė;
imtis priemonių, kad vaikai negalėtų naudotis didelės rizikos programėlėmis;
imtis būtinų amžiaus tikrinimo ir amžiaus vertinimo / verifikavimo priemonių.
Aukų teisės
Aukų teisės pagal Reglamentą grindžiamos vaiko teisių prioritetu ir apima:
teisę į informaciją – asmenys turi teisę gauti informaciją apie visus atvejus, kai ES centrui pranešama apie seksualinės prievartos prieš vaikus medžiagos, kurioje jie vaizduojami, platinimą;
aukų teisę į pagalbą pašalinant turinį – prieglobos paslaugų teikėjai, gavę prašymą, teikia pagalbą pašalinant seksualinės prievartos prieš vaikus medžiagą, kurioje jie vaizduojami.
Atsakomybė
Valstybės už Reglamento nesilaikymą nustatys realias atgrasančias sankcijas (baudas iki 6 proc. teikėjo ankstesnių finansinių metų metinių pajamų).
Poveikis ir nepageidaujamas pašalinis poveikis
Įpareigojimų nustatymas sukurs atitikties naštą interneto paslaugų teikėjams (pvz., teks investuoti į turinio moderavimo įrangą bei jos palaikymą, bus samdomi žmonės, atliekantys periodinį paslaugų ir teikiamo turinio rizikos vertinimą; bei žmonės, tikrinantys algoritmų darbą ir peržiūrintys algoritmų atrinktą turinį, ir pan.), kuri iš esmės gali būti pateisinama atsižvelgiant į siekiamą tikslą, taip pat į vaidmenį, kurį jų paslaugos atlieka prievartos atžvilgiu.
Seksualinio turinio aptikimo / nustatymo procesas sukels trikdžius naudotojams vien jau dėl to, kad tam reikės automatiškai nuskaityti asmenų tarpusavio ryšio tekstus ieškant žinomų, iš anksto nustatytų indikatorių, modelių, bylojančių apie galimą viliojimą ar kitą neteisėtą veiklą. Atsižvelgiant į tai, Reglamente siūlomos priemonės turės didžiausią poveikį paslaugų naudotojams – visų pirma, jų teisei į privatumą (įskaitant ryšių konfidencialumą), į asmens duomenų apsaugą ir į saviraiškos bei informacijos laisvę.
Visgi baiminamasi, kad siūlomos techninės priemonės neleis pasiekti norimo tikslo, kadangi nusikaltėliai jas lengvai apeis (pvz., pakeisdami URL, veiklą perkeldami į kitą serverį ar jurisdikciją, naudodami kitus kanalus ir tagus, pan.).
Kita vertus, neleisdamos pasiekti tikslo, siūlomos techninės priemonės dargi ir sukels reikšmingą poveikį esminėms žmogaus teisėms – visų pirma, susirašinėjimo slaptumui. Vardan vaikų apsaugos nuo sextingo, sextortion ir kitokio socialinių medijų tinkluose tarpstančio smurto, susižinojimo slaptumo apsaugą būtų galima paaukoti, jeigu tai išties duotų reikiamą rezultatą, tačiau baiminamasi, kad siūlomos priemonės bus per silpnos.
Be to, teksto ir vaizdo atpažinimo algoritmai vis dar gana netikslūs. Nereti atvejai, kai žinučių ir pokalbių kontrolės algoritmai pažymi teisėtas, pavyzdžiui, vaikų atostogų paplūdimyje nuotraukas. Pvz., Šveicarijos federalinės policijos institucijų duomenimis, 80 proc. visų mašinų generuojamų pranešimų pasirodo esantys nepagrįsti. Tai reiškia, kad algoritmų darbo peržiūrai teks telktis nemažus žmogiškuosius išteklius, tai bus susiję su papildomais kaštais, privatų susirašinėjimą peržiūrės dar daugiau subjektų, ir pan.
Dėmesys – realiam vartotojų amžiaus tikrinimui
Iki šiol į vartotojų amžiaus tikrinimą socialinių tinklų platformose ir kitose elektroninėse prekyvietėse žiūrėta pro pirštus, tai paliekant platformos operatoriaus savireguliacinei atsakomybei.
Priėmus Chat Control planą, amžiaus kontrolė taptų griežtesnė, nebebus galima susikurti anoniminių el. pašto ar žinučių siuntimo paskyrų arba bendrauti anonimiškai, t.y., nepateikiant asmens tapatybės dokumento arba savo biometrinių duomenų (veido) tapatybės patikrinimui, autentifikacijai. Toks reglamentavimas užkirs kelią intymiems pokalbiams seksualinėmis temomis.
Asmenims, jaunesniems nei 17 metų, nebūtų leidžiama iš programėlių prekyviečių (Apple Store, Google Play) įsidiegti šių programėlių (dėl padidintos seksualinio viliojimo rizikos): pvz., Whatsapp, Snapchat, Telegram ir Twitter, socialinės žiniasklaidos programėlių, pvz., Instagram, TikTok, ar Facebook žaidimų, tokių kaip FIFA, Minecraft, GTA, Call of Duty, Roblox, pažinčių programėlių, vaizdo konferencijų programėlių, tokių kaip Zoom, Skype.
Beje, šios priemonės realus teigiamas poveikis kovoje su seksualiniu smurtu gali būti kur kas labiau apčiuopiamas nei turinio moderavimas.
Vertinimą pateikė ir Europos Parlamentas
Europos Parlamentas (EP) bent iš pradžių nepritarė pirminiam EK siūlymui įpareigoti programėlių parduotuves neleisti jaunuoliams diegti žinučių, socialinių tinklų ir žaidimų programėlių „dėl jų pačių apsaugos“. Vietoj to, EP pasiūlė kelias alternatyvias priemones jaunimo apsaugai, pvz.: suteikti patiems vartotojams galimybę blokuoti kitus vartotojus ir pranešti apie juos.
Vertinimas
Vien tik techninių priemonių pasitelkimas kovoje prieš seksualinį vaikų išnaudojimą internete yra kova su pasekmėmis, o ne su priežastimis. Kovoje su nusikaltimais elektroninėje erdvėje prieš vaikus realų poveikį gali duoti tik kompleksinis kelių strategijų pasitelkimas keliomis kryptimis:
Teisinis atsakomybės griežtumas, neišvengiamumas ir realumas
Techninių priemonių diegimas (turinio moderavimas, aptikimas; naudotojų amžiaus verifikavimas)
Edukacija, švietimas (tiek vaikų, tiek ir tėvų):
Šeimoje turi galioti aiškios bendravimo su suaugusiais už šeimos ribų taisyklės
Vaikams turi būti diegiamas savo kūno autonomijos suvokimas
Vaikai apie savo problemas patiriamas socialinėje ir el. žaidimų erdvėje, nebijotų ir galėtų pasikalbėti su tėvais, auklėtojais, galų gale – su vaikų psichologais ir specialistais; svarbiausia, kad vaikai nebūtų palikti vieni su savo baimėmis, nerimu ir patiriamu psichologiniu smurtu
Švietimas ir ugdymas turėtų prasidėti šeimoje, darželyje ir tęstis mokykloje bent trimis kryptimis:
Virtualios ir fizinės tikrovės atskyrimas; nepaisant neapčiuopiamumo, virtualioje erdvėje vyksta ne mažiau realūs dalykai, už kuriuos gresia reali atsakomybė, čia galioja normos ir atsakomybė (pvz., už finansinį sukčiavimą, autorinį piratavimą, kt.), taigi, čia negali pasislėpti.
Socialinėje medijoje ir elektroninėje erdvėje tykantys pavojai yra netgi didesni / reikšmingesni nei fizinės tikrovės pavojai (vien dėl pasaulinio tinklo globalumo, dinamiškumo ir greičio. Statistika rodo, kad vidutiniškai pakanka 45 min. tam, kad vaikas būtų įviliotas į seksualinio smurto situaciją; kartais pakanka keliolikos sekundžių).
Kita vertus, virtualioje erdvėje galioja visai kiti dėsniai; jau greitai didžioji dalis turinio / žinučių bus sugeneruota ne realaus žmogaus, o DI, jau šiuo metu deepfake sudaro vis augančią elektroninio audiovizualinio turinio sklaidos dalį; todėl vaikai ir jaunimas turi būti ugdomi automatiškai atpažinti deepfakes, formuojant įtarumą ir supratimą, kad bet kuri žinutė ar kvietimas iš nepažįstamojo yra fake catfish account automatiškai sugeneruota užklausa, ir kad socialinėje erdvėje bendravimas su nepažįstamais asmenimis iš esmės yra grindžiamas suvokimu, kad už nepažįstamų paskyrų yra fake avataras / robotas.
Pagaliau – supratimas, kad socialinės medijos tikrovės negalima vartoti kaip fizinės tikrovės pakaitalo ar atitikmens.
Taigi, turėtų būti ugdomas jaunuomenės gebėjimas atpažinti, aptikti ir pastebėti šias grėsmes, turi būti diegiamas atsparumas ir automatinis imuninis atsakas prieš žinomus neteisėto elgesio modelius elektroninėje erdvėje, analitinis gebėjimas atpažinti netikrą / deepfake / kitą DI sugeneruotą turinį.
Pagaliau – turėtų būti ugdomas tėvų išprusimas apie tai, kokias elektroninio elgesio taisykles būtina sutarti ir palaikyti šeimoje ir už jos ribų, kaip kontroliuoti el. įrenginius ir paskyras.
ES institucijos turėtų bendradarbiauti su vaikų teisių apsaugos gynėjais, skaitmeninių žmogaus teisių grupėmis, kibernetinio saugumo ekspertais, interneto paslaugų teikėjais, turi būti investuojama į vaikų teisių apsaugos tarnybų pajėgumus, steigiamos karštųjų linijų platformos, didinant jų pajėgumus teikti paramą aukoms. Pagaliau, ir pačios ES valstybės narės turėtų vykdyti pirminę prevenciją, įskaitant investicijas į nusikaltėlių ar pakartotinių nusikaltėlių prevencijos programas.
Techninės priemonės duos reikiamą efektą tik kartu su kompleksine programa, apimančia kelias strategijas.
Kas laukia artimiausiu laiku?
Tarybos darbotvarkėje pakartotinis Chat Control Act svarstymas numatytas spalio 10 d. Nemažai valstybių dėl šio klausimo yra iki galo neapsisprendusios, o Vokietija, Liuksemburgas, Nyderlandai, Austrija ir Lenkija gana aiškiai yra pasisakiusios, kad pasiūlymo nepalaikys. Visgi situacija kinta. Pvz., Prancūzija nebeprieštarauja pasiūlymui, be to, liepą prasidėjo pokalbių kontrolę palaikančios Vengrijos pirmininkavimo laikotarpis. Reglamentas įsigalios po jo oficialaus paskelbimo ES teisės aktų leidinyje. Numatoma, jog jei spalį bus surinkta kvalifikuota dauguma, jis gali įsigalioti jau net gruodį arba vėliausiai – kitų metų pradžioje.