Snap je globoko zavezan varnosti skupnosti Snapchat. Naš cilj je pomagati zaščititi uporabnike pred vrsto spletnih tveganj in potencialnih škod, ki se raztezajo po digitalnem ekosistemu, vključno z gnusnimi kaznivimi dejanji, ki vključujejo spolno izkoriščanje in zlorabo otrok (CSEA). Snap se že leta bori proti tej nezakoniti vsebini in podlim kriminalnim dejanjem z uporabo proaktivnih ukrepov za odkrivanje in reaktivnih ukrepov za odzivanje v aplikaciji Snapchat. V zadnjem letu smo uvedli dodatne spremembe v naših povezanih pravilnikih in postopkih z namenom, da bi pomagali pripeljati storilce pred sodišče. Tukaj bi radi delili več o tem delu.

Kaj je CSEA?

Spolno izkoriščanje in zloraba otrok zajemata vrsto nezakonitih dejavnosti, ki vključujejo spolno škodovanje mladoletnikom, vključno z: ogledovanjem, produkcijo in distribucijo posnetkov spolnega izkoriščanja in zlorabe otrok (CSEAI), vključno z novejšo grožnjo fotografij in videoposnetkov, ustvarjenih z umetno inteligenco; spletnim nagovarjanjem ali zapeljevanjem mladoletnikov v spolne namene; ¹spolnim izsiljevanjem; ²trgovina z otroki za namene spolnega izkoriščanja; in prenosom v živo spolne zlorabe in mučenja otrok. ³Težko je razumeti, da te odvratne resničnosti dejansko obstajajo. Žal pa je takšna zloraba vedno obstajala – in digitalni svet zdaj ponuja alternativno sredstvo zlorabe, ki širi načine kaznivih dejanj, da so hitrejši in bolj daljnosežni.

»Tehnologija je bistveno spremenila način, kako tisti s spolnim zanimanjem za otroke fantazirajo o njih, dostopajo do njih in jih plenijo,« je dejal Ernie Allen, predsednik londonske organizacijeWeProtect Global Alliance.New York Timesje zapisal: 'Kriza spletnega spolnega izkoriščanja otrok je na prelomni točki.' Opozoril je, da se število prijav stopnjuje, storilci delijo podobe mlajših žrtev in hujših kaznivih dejanj, organi pregona pa se trudijo slediti. Če k temu izzivu dodate nove različice, kot je spolno izsiljevanje, za katerega je FBI poročal o 7.200-odstotnem porastu, prenos zlorab v živo in druge, je jasno, da bi morala biti ta težava na vrhu političnih agend po vsem svetu,« je dodal.

Pravne obveznosti tehnoloških podjetij

Ko ameriška tehnološka podjetja izvedo za CSEA na svojih platformah ali storitvah, imajo zakonsko dolžnost, da to prijavijo Nacionalnemu centru za pogrešane in izkoriščane otroke (NCMEC). NCMEC nato pregleda te spletne prijave (CyberTips) in sodeluje z domačimi in mednarodnimi organi pregona, da bi pomagal zaščititi otroke žrtve in kaznovati storilce.

Do lanskega leta se je letno število spletnih prijav (CyberTips) centru NCMEC v veliki meri povečevalo iz leta v leto in doseglo rekordnih 36,2 milijona prijav ⁴leta 2023, kar je več kot 32 milijonov leta 2022 in 4.560 leta 1998, ko je bila ustvarjena spletna linija za prijave (CyberTipline) centra NCMEC. Prav ta rekorden porast spletnih prijav (CyberTips) – poleg drugih dejavnikov, vključno z nenehnim porastom spolnega izsiljevanja po vsem svetu in povratnimi informacijami, ki smo jih prejeli od organov pregona o uporabnosti naših lastnih spletnih prijav (CyberTips) – je spodbudil Snap, da se je leta 2024 prvič obrnil na NCMEC za ponovno umerjanje našega poročanja spletnih prijav (CyberTip).

Več let sem spremljal poročanje o spletnih prijavah (CyberTip) in trdno verjamem, da se je praksa nekaterih tehnoloških podjetij usmerila k poročanjuvsegacentru NCMEC – celo nad njihovo zakonsko obveznostjo – iz strahu, da bi bili obtoženi, da so spregledalinekaj. ⁵Podjetja, ki ne poročajo v skladu z zakonom, se lahko soočijo z visokimi globami. Toda ta pristop k poročanju, skupaj z nizko uporabnostjo številnih poročil (bodisi zato, ker spletnim prijavam (CyberTips) primanjkuje zadostnega konteksta, da bi organi pregona lahko ukrepali, ali ker prijavljeno ravnanje v nekaterih primerih zanje ni prednostna naloga), je povzročil kopičenje spletnih prijav (CyberTips); večkratne, obsežne preglede; in povečano frustracijo med organi pregona.

Cilj: Visokovrednostne spletne prijave (CyberTips)

Cilj našega ponovnega umerjanja z NCMEC je bil nadalje povečati uporabnost in vrednost spletnih prijav (CyberTips) podjetja Snap z izboljšanjem naših lastnih pravilnikov platforme in protokolov, ki jih imamo za poročanje NCMEC. To začetno ponovno umerjanje je potekalo maja 2024, naše spremembe pravilnikov pa so v celoti začele veljati v drugi polovici lanskega leta.

Čeprav se moramo izogibati prevelikemu poudarjanju samega števila poročil, Snap z veseljem sporoča, da smo od uvedbe naših izboljšav pravilnikov opazili znatno zmanjšanje celotnega obsega poročanja NCMEC in podoben upad eskalacij zaradi spletnega nagovarjanja – vse to ob izpolnjevanju naših zakonskih obveznosti poročanja o CSEA v spletnih prijavah (CyberTips). Nižje številke se še niso odrazile v letnem obsegu poročanja NCMEC, saj so bile spremembe uvedene pozneje leta 2024, tako da je ostalo le nekaj polnih mesecev v letu, da bi se spremembe odrazile.

Vzporedno si naša ekipa prizadeva izboljšati podatke in označevanje v naših spletnih prijavah (CyberTips). Takšna pojasnila lahko pomagajo pri boljšem prepoznavanju domnevnih kaznivih dejanj in vpletenih posameznikov ter posledično omogočijo hitrejšo in natančnejšo triažo poročil s strani NCMEC in organov pregona. Tudi kadar poročanje NCMEC morda ni upravičeno, bo Snap še naprej obravnaval posnetke in vedenja, ki kršijo naše pravilnike platforme, z ukrepanjem – kar lahko vključuje odstranitev vsebine, ki krši pravila, onemogočanje računa in poskus blokiranja ustvarjanja novih računov.

Kontrolna točka ponovnega umerjanja

Prejšnji mesec smo izvedli drugo ponovno umerjanje z NCMEC, kjer je ekipa Snap povzela lanske notranje spremembe pravilnikov; obvestila NCMEC o našem napredku; potrdila nekatere dodatne operativne smernice; in pomagala postaviti pričakovanja za prihodnje mesece. Predstavili smo tudi nekatere nadaljnje načrtovane dodatke k pravilnikom in poročanju, za katere upamo, da bodo še naprej povečevali vrednost naših poročil tako za NCMEC kot za organe pregona. Seveda je to ponavljajoč se proces, vendar nas napredek v zadnjem letu spodbuja.

Pogled v prihodnost

Sčasoma pričakujemo, da bosta NCMEC in organi pregona morda še naprej beležili zmanjšan obseg spletnih prijav (CyberTips) s strani podjetja Snap v primerjavi s prejšnjimi leti, vendar bo večji odstotek tistih, ki jihbodoprejeli, vseboval kakovostnejše informacije in bil bolj uporaben.

Zavezani smo nenehnemu izboljševanju na vseh področjih našega varnostnega dela. Ne pretvarjamo se, da imamo vse odgovore v zvezi z bojem proti CSEA ali kateri koli drugi potencialni spletni škodi; nihče se ne bi smel, ker jih nihče nima. Dan za dnem se borimo s problemi celotne družbe in k temu prinašamo celosten pristoppodjetja– z dvojnim končnim ciljem zmanjšanja tveganja in zmanjšanja škode.

Glede naših spletnih prijav (CyberTips) imamo jasen cilj za bližnjo prihodnost: ne glede na to, ali gre za poveljnika državne delovne skupine za internetna kazniva dejanja zoper otroke (ICAC), zveznega preiskovalca ali člana organov pregona na drugi strani sveta, želimo, da državni, zvezni in mednarodni organi samozavestno sledijo spletnim prijavam (CyberTips) podjetja Snap, ker vedo, da se lahko na naša poročila dosledno zanesejo kot na uporabna, dragocena in temeljita. In upamo, da bodo ta prizadevanja pripomogla k ustreznemu porastu povezanih aretacij ⁶in obsodb po vsem svetu.

Velika »hvala« NCMEC, WeProtect, 61 delovnim skupinam ICAC v ZDA, organom pregona po vsem svetu ter vsem našim kolegom in sodelavcem na področju boja proti CSEA – in dodatna opomba, da ostajamo odprti in željni vaših povratnih informacij za nadaljnje izboljšanje naših strategij in pristopov. Vsi smo v tem skupaj.

- Jacqueline Beauchere, globalna vodja varnosti platforme