Andrej Motl je že vrsto let koordinator aktivnosti pri prijavni točki Spletno oko, katera že skoraj polni dve desetletji omogoča anonimno prijavo posnetkov spolnih zlorab otrok na internetu. Ker so se v zadnjem mesecu na eni strani vrstile številne nove informacije o zlorabah mladoletnih oseb v aferi Epstein, na drugi stani pa je prav na ‘Dan varne uporabe interneta’ začela delovati slovenska verzija spletnega orodja ‘Take It Down’ (ki služi za odstranjevanje starih intimnih posnetkov), je sedaj zagotovo pravi čas za pogovor o tako občutljivi temi.

Andrej Motl se že vrsto let posveča prijavni točki Spletno oko (foto: FDV UL)

Prijavna točka Spletno oko že vse od leta 2007 omogoča slovenskim uporabnikom interneta anonimno prijavo posnetkov spolnih zlorab otrok in mladoletnih oseb na internetu. Kako je nastala ta prijavna točka, na čigavo pobudo?

“Prijavna točka Spletno oko je leta 2007 pričela delovati v okviru evropskega programa ‘Varnejši internet plus’. Prvotni partnerji na projektu prijavne točke so bili Univerza v Ljubljani Fakulteta za družbene vede, Zveza potrošnikov Slovenije in Sekcija ponudnikov internetnih storitev Slovenije, sofinancirala pa sta ga Evropska komisija in Ministrstvo za visoko šolstvo, znanost in tehnologijo. Prijavna točka je takoj vzpostavila sodelovanje s Policijo, prav tako z mednarodnim združenjem prijavnih točk za prijavo posnetkov spolnih zlorab otrok INHOPE, katerega članica je še danes.”

Delovanje Spletnega očesa je torej vse od začetka povezano z izjemno širokim spektrom slovenskih institucij. Nam lahko malce podrobneje predstavite te povezave oz. vsaj tiste najpomembnejše oblike sodelovanja?

“Projekt prijavne točke Spletno oko že vrsto let deluje v širšem okviru projekta Centra za varnejši internet. Slednjega koordinira Univerza v Ljubljani Fakulteta za družbene vede (UL FDV) v sodelovanju s partnerjema zavodom ARNES in Zvezo prijateljev mladine Slovenije, financirata pa ga Agencija HaDEA pri Evropski komisiji in Ministrstvo za digitalno preobrazbo. Ob prijavni točki v okviru centra delujeta še točka osveščanja o varni rabi interneta in novih tehnologij ‘Safe.si’ ter svetovalna linija za težave na spletu ‘Tom telefon’.

Pri uresničevanju poslanstva zmanjševanja obsega posnetkov spolnih zlorab otrok na internetu in preprečevanju spolnih zlorab otrok na internetu je za prijavno točko ključno sodelovanje s slovensko Policijo. Policiji prijavna točka v obravnavo posreduje prijave posnetkov spolnih zlorab otrok, ki jih prejme s strani slovenske javnosti, s Policijo in z Združenjem za informatiko in telekomunikacije pri Gospodarski zbornici Slovenije pa Spletno oko tesno sodeluje tudi pri organizaciji vsakoletnih posvetov ‘E-zlorabe otrok’.”

Kakšna pa je vaša vloga in kakšna je vaša uradna funkcija pri prijavni točki Spletno oko, saj izhajate s Fakultete za družbene vede pri UL, delujete pa na številnih področjih? Kako je prišlo do tega, da ste se sploh vključili v njeno delovanje?

“Kot omenjeno se projekt Spletno oko izvaja v okviru omenjenega širšega projekta Centra za varnejši internet, ki ga koordinira UL FDV. Sam sem koordinator aktivnosti prijavne točke v okviru moje zaposlitve na fakulteti. V delovanje prijavne točke sem se v manjši meri vključil že v študentskih letih, na podlagi študija družboslovne informatike, ki je med drugim namenjen raziskovanju učinkov informacijsko komunikacijskih tehnologij na posameznika oziroma družbo.”

Kako se je gibalo skupno število prijav spletnih zlorab otrok v slovenskem spletnem okolju skozi vsa ta leta? Je morda vseskozi naraščalo, ali pa so bila npr. med pandemijo Covida 19 opazna odstopanja? Kakšne so ugotovitve?

“Spletno oko sprejema prijave posnetkov spolnih zlorab otrok kot ene izmed oblik spolnih zlorab otrok na internetu.  Skupno število prijav tovrstnih gradiv se je skozi leta precej spreminjalo, saj nanje vplivajo številni dejavniki. Tako smo leta 2012 denimo prejeli več kot 1000, leta 2017 pa manj kot 100 prijav. Zadnja leta prejmemo okoli 400 prijav na leto. Ob začetku pandemije Covida 19 je število najprej nekoliko narastlo, potem pa se je že leta 2021 precej zmanjšalo.

Za oceno obsega primerov spolnih zlorab otrok na internetu v Sloveniji je ključen kazalnik statistika kaznivih dejanj po 176. členu Kazenskega zakonika, kot jo beleži slovenska Policija. Leta 2018 je bilo tovrstnih kaznivih dejanj po podatkih Policije 141, leta 2021 175, leta 2024 pa že kar 248. Ti podatki torej žal kažejo na nenehno postopno naraščanje števila zlorab.”

Na spletnem mestu Spletno oko so prijave kršitev razdeljene na 4 vrste – posnetki spolnih zlorab otrok, izsiljevanje z intimnimi posnetki, seksting in spletni grooming. Nam lahko malce podrobneje razčlenite vsako področje posebej?

“Gre za različne oblike spolnih zlorab otrok na internetu. Pri posnetkih spolnih zlorab otrok gre za gradiva, ki slikovno prikazujejo otroka (ali realistične podobe neobstoječega otroka), ki sodeluje v spolnem dejanju. Izsiljevanje z intimnimi posnetki predstavlja grožnje nekoga, da bo razširil intimne posnetke žrtve, če mu slednja ne priskrbi še več intimnih posnetkov, denarja ali česa drugega.

Sekstanje je izmenjava intimnih fotografij ali videoposnetkov, predvsem med mladimi, in ni kaznivo pod pogojem, da poteka ob soglasju dveh oseb primerljive starosti oziroma zrelosti. Žal ta pogoj pogosto ni izpolnjen. Spletno spolno napeljevanje otrok (spletni grooming) pa pomeni navezovanje stikov z otroki prek interneta z namenom spolne zlorabe.

Na Spletnem očesu sprejemamo prijave posnetkov spolnih zlorab otrok. Preostale tri problematike naslavljamo z ozaveščanjem in informiranjem splošne in strokovne javnosti in z usmerjanjem žrtev k nadaljnjim korakom za ukrepanje. Pri teh primerih je potrebna prijava neposredno Policiji, ki za ukrepanje potrebuje ustrezne informacije. Prav tako je treba Policijo nemudoma kontaktirati če je na posnetku spolne zlorab otrok, ki ga prijavitelj pozna.”

Naslovnica letnega poročila prijavne točke izpred dveh let (foto: Spletno oko)

V vseh teh letih od nastanka prijavne točke je tudi elektronska tehnologija naredila velike skoke naprej, spletni svet se je razširil v številne nove oblike oz. virtualne prostore. Ali drži ugotovitev, da nevarnosti danes prežijo povsod – v klepetalnicah, igrah, na priljubljenih spletnih platformah in v družbenih medijih?

“Da, to vsekakor drži – tveganja so danes prisotna praktično povsod v spletnem prostoru. Zato je izjemno pomembno, da starši z otroki o teh temah že od malih nog govorijo odprto, mirno in brez obsojanja ter z njimi gradijo odnos zaupanja. Tako, da bodo otroci verjeli, da se lahko v primeru težav ali neprijetnih izkušenj varno obrnejo nanje.

S takšnim pristopom lahko starši dolgoročno preprečijo ali vsaj omilijo velike stiske otrok. Ključno je, da odrasli ostajajo informirani in se zanimajo za digitalni svet svojih otrok, saj lahko le tako pravočasno prepoznajo morebitne stiske in ustrezno ukrepajo.”

Kaj pa se dogaja glede zlorab umetne inteligence, ki je postala stroj za ustvarjanje posnetkov spolnih zlorab otrok’? Ali se to sploh da preprečiti?

“Zloraba umetne inteligence za ustvarjanje posnetkov zlorab je ena največjih in najhitreje rastočih groženj na tem področju. Po podatkih britanske organizacije Internet Watch Foundation se je število takšnih posnetkov v zadnjem letu zelo povečalo, pri čemer so mnogi zelo nasilni in pogosto prikazujejo resnične otroke. Tovrstne zlorabe lahko omejimo z ustrezno zakonodajo, odgovornostjo ponudnikov, vgrajenimi varnostnimi mehanizmi in mednarodnim sodelovanjem. Ključno je, da so sistemi že v osnovi zasnovani varno in da se ob zaznanih primerih hitro ukrepa.”

V torek 10. februarja je bil na vrsti letošnji ‘Dan varne uporabe interneta’ in tedaj ste s Spletnega očesa najavili, da je začel delovati slovenski prevod spletne strani in orodja ‘Take It Down’, narejen v sodelovanju z ameriško organizacijo NCMEC. Čemu je namenjeno orodje in čemu se posveča NCMEC?

“Orodje Take It Down je brezplačna in anonimna storitev, ki jo upravlja ameriški Nacionalni center za pogrešane in izkoriščane otroke (NCMEC) in je zdaj s pomočjo našega prevoda na voljo tudi v slovenskem jeziku. Namenjena je predvsem mladim, ki imajo intimne fotografije ali videoposnetke spolne narave, posnete, ko so bili mlajši od 18 let, saj jim lahko pomaga preprečiti nadaljnje širjenje teh posnetkov po spletu. S pomočjo orodja lahko mladi ustvarijo anonimni ‘digitalni odtis’ posnetka, ki ga nato lahko platforme, ki sodelujejo v projektu, uporabljajo za prepoznavo in odstranjevanje tega posnetka.”

NCMEC-ova prijavna točka Cybertipline, prek katere sume spolnih zlorab otrok na internetu prijavljajo ponudniki internetnih storitev v ZDA, ocenjuje, da so v letu 2024 predvsem zaradi Facebookove uvedbe E2EE prejeli skoraj 7 milijonov manj prijav posnetkov spolnih zlorab otrok. Kako to komentirate?

“Podatki, ki jih navaja CyberTipline, kažejo, da je število prijav posnetkov spolnih zlorab otrok, ki jih pošiljajo ponudniki, precej upadlo – po njihovi oceni predvsem zaradi uvedbe end-to-end šifriranja (E2EE) na nekaterih družbenih omrežjih. Sumijo, da te platforme pri zasebnih sporočilih same ne morejo več zaznavati in samodejno naprej prijavljati posnetkov spolnih zlorab otrok. To je po njihove oceni zmanjšalo število poslanih prijav, ne pa nujno tudi obsega problematike. NCMEC in druge organizacije na področju pravic otrok opozarjajo, da to predstavlja velik izziv za odkrivanje in preprečevanje zlorab.”

Moramo omeniti še vsakoletne slovenske nacionalne posvete ‘E-zlorabe otrok’. Doslej jih je bilo že 15 in ponavadi so zelo dobro obiskani. Ali je pozornosti, ki jo številne različne slovenske institucije namenjajo tej problematiki dovolj, ali bi se dalo morda na kakšnem področju storiti še kaj več za zaščito otrok?

“Veseli nas, da so posveti ‘E-zlorabe otrok’ že vrsto let dobro obiskani, saj to kaže na veliko stopnjo zavedanja in zavzetosti med različnimi institucijami. V Sloveniji imamo na tem področju vzpostavljeno sodelovanje med Policijo, šolstvom, socialnimi službami, nevladnimi organizacijami in drugimi deležniki, kar je zelo pomembno za učinkovito zaščito otrok.

Kljub temu pa se področje hitro spreminja, zlasti zaradi novih tehnologij, zato je potrebno stalno vlaganje v izobraževanje, preventivo, zgodnje prepoznavanje tveganj ter podporo žrtvam. Vedno je prostor za izboljšave, predvsem pri krepitvi digitalnih kompetenc otrok, staršev in strokovnih delavcev ter pri še tesnejšem medinstitucionalnem sodelovanju.”

G. Motl, hvala za ta pogovor in srečno. 

Gneča na državnem posvetu ‘E-zlorabe otrok’ (foto: policija.si)