Snap yra tvirtai įsipareigojusi užtikrinti Snapchat bendruomenės saugumą. Mūsų tikslas – padėti apsaugoti naudotojus nuo įvairių internetinių pavojų ir galimos žalos, kuri apima visą skaitmeninę ekosistemą, įskaitant pasibjaurėtinus nusikaltimus, susijusius su vaikų seksualiniu išnaudojimu ir prievarta (CSEA). Snap jau daugelį metų kovoja su šiuo neteisėtu turiniu ir bjauriu nusikalstamu elgesiu, taikydama tiek aktyvaus aptikimo, tiek reagavimo priemones visoje Snapchat programėlėje. Per pastaruosius metus atlikome papildomų pakeitimų susijusioje politikoje ir procesuose, siekdami padėti patraukti kaltininkus atsakomybėn. Norėtume čia plačiau papasakoti apie šį darbą.

Kas yra CSEA?

Vaikų seksualinis išnaudojimas ir prievarta apima įvairią neteisėtą veiklą, susijusią su seksualine žala nepilnamečiams, įskaitant: vaikų seksualinio išnaudojimo ir prievartos vaizdų (CSEAI) peržiūrą, gamybą ir platinimą, įskaitant naujesnę grėsmę – dirbtinio intelekto sukurtas nuotraukas ir vaizdo įrašus; nepilnamečių viliojimą internetu arba viliojimą seksualiniais tikslais; ¹seksualinį prievartavimą; ²vaikų seksualinis išnaudojimas ir prekyba; ir tiesiogines transliacijas, kuriose vaikai yra seksualiai išnaudojami ir kankinami. ³Sunku suvokti, kad tokia atstumianti realybė iš tikrųjų egzistuoja. Tačiau, deja, tokia prievarta visada egzistavo, o skaitmeninis pasaulis dabar suteikia alternatyvių prievartos priemonių, išplečiant nusikalstamumo būdus, kad jie būtų greitesni ir platesnio masto.

„Technologijos iš esmės pakeitė būdą, kaip tie, kurie jaučia seksualinį susidomėjimą vaikais, apie juos fantazuoja, prie jų prieina ir juos išnaudoja“, – sakė Ernie Allen, Londone įsikūrusios organizacijos pirmininkasWeProtect Global Alliance. „New York Timesrašė: „Vaikų seksualinio išnaudojimo internete krizė pasiekė lūžio tašką.“ Jame pažymima, kad pranešimų skaičius didėja, nusikaltėliai dalijasi jaunesnių aukų atvaizdais ir žiauresniais nusikaltimais, o teisėsaugos institucijos sunkiai spėja su tuo susidoroti. Jei prie šio iššūkio pridėsime naujų variantų, pavyzdžiui, seksualinį prievartavimą, kurio, FTB duomenimis, padaugėjo 7 200 %, tiesiogines prievartos transliacijas ir kitus, akivaizdu, kad ši problema turėtų būti viso pasaulio politikos darbotvarkių viršuje“, – pridūrė jis.

Technologijų įmonių teisiniai įsipareigojimai

Kai JAV technologijų įmonės sužino apie CSEA savo platformose ar paslaugose, jos turi teisinę pareigą pranešti apie tai Nacionaliniam dingusių ir išnaudojamų vaikų centrui (NCMEC). Tada NCMEC peržiūri šiuos „CyberTips“ ir palaiko ryšius su vietos ir tarptautinėmis teisėsaugos institucijomis, kad padėtų apsaugoti vaikus aukas ir nubausti nusikaltėlius.

Iki praėjusių metų metinis „CyberTips“ pranešimų NCMEC skaičius kasmet didėjo ir pasiekė rekordinį 36,2 mln. pranešimų skaičių ⁴2023 m., palyginti su kiek daugiau nei 32 mln. 2022 m. ir 4 560 1998 m., kai buvo sukurta NCMEC „CyberTipline“ linija. Būtent šis rekordinis „CyberTips“ pranešimų skaičiaus augimas, be kitų veiksnių, įskaitant nuolatinį seksualinio prievartavimo masto didėjimą visame pasaulyje ir teisėsaugos institucijų atsiliepimus apie mūsų pačių „CyberTips“ pranešimų veiksmingumą, paskatino Snap 2024 m. pirmą kartą kreiptis į NCMEC, kad iš naujo suderintume mūsų „CyberTip“ pranešimų teikimą.

Kelerius metus stebėjau „CyberTip“ ataskaitų teikimą ir esu tvirtai įsitikinęs, kad kai kurių technologijų įmonių praktika linksta prie pranešimų teikimo apieviskąNCMEC – net ir viršijant savo teisinę pareigą – bijant būti apkaltintam, kad praleidokažką. ⁵Įmonėms, kurios nepateikia ataskaitų, kaip reikalaujama pagal įstatymus, gali būti skiriamos didelės baudos. Tačiau dėl tokio požiūrio į ataskaitų teikimą, kartu su mažu daugelio ataskaitų veiksmingumu (arba dėl to, kad „CyberTips“ trūksta pakankamo konteksto, kad teisėsaugos institucijos galėtų imtis veiksmų, arba dėl to, kad praneštas elgesys kai kuriais atvejais nėra jų prioritetas), padaugėjo „CyberTips“ pranešimų, atliekama daugybė išsamių peržiūrų ir didėja teisėsaugos institucijų nusivylimas.

Tikslas: didelės vertės „CyberTips“

Mūsų perskaičiavimo su NCMEC tikslas buvo toliau didinti Snap „CyberTips“ veiksmingumą ir vertę, tobulinant mūsų pačių platformos politiką ir protokolus, kuriuos taikome teikdami ataskaitas NCMEC. Šis pradinis perskaičiavimas įvyko 2024 m. gegužės mėn., o mūsų politikos pakeitimai visiškai įsigaliojo praėjusių metų antroje pusėje.

Nors turėtume vengti pernelyg sureikšminti vien tik ataskaitų skaičiaus, įgyvendinus mūsų politikos patobulinimus, Snap džiaugiasi galėdama pasidalinti, kad pastebėjome reikšmingą bendros ataskaitų apimties NCMEC sumažėjimą ir panašų internetinio viliojimo eskalavimo sumažėjimą – visa tai vis dar vykdant mūsų teisinius įsipareigojimus pranešti apie CSEA „CyberTips“. Tačiau mažesni bendri skaičiai dar neatsispindėjo NCMEC metinėse ataskaitų apimtyse, nes pakeitimai buvo įgyvendinti vėliau 2024 m., todėl liko tik keli pilni metų mėnesiai, per kuriuos atsispindėtų pakeitimai.

Tuo pačiu metu mūsų komanda stengėsi pagerinti duomenis ir ženklinimą mūsų „CyberTips“. Tokie patikslinimai gali padėti geriau nustatyti įtariamus nusikaltimus ir susijusius asmenis, o tai savo ruožtu leis NCMEC ir teisėsaugos institucijoms greičiau ir tiksliau atrinkti pranešimus. Net kai pranešimas NCMEC gali būti nebūtinas, Snap ir toliau spręs vaizdų ir elgesio, kurie prieštarauja mūsų platformos politikai, problemą, imdamasi veiksmų – tai gali apimti pažeidžiančio turinio pašalinimą, paskyros išjungimą ir bandymą blokuoti naujų paskyrų kūrimą.

Perskaičiavimo patikros punktas

Praėjusį mėnesį surengėme antrą perskaičiavimą su NCMEC, kurio metu Snap komanda apibendrino praėjusių metų vidaus politikos pakeitimus; informavo NCMEC apie mūsų pažangą; patvirtino keletą papildomų veiklos gairių; ir padėjo nustatyti lūkesčius ateinantiems mėnesiams. Taip pat peržiūrėjome kai kuriuos tolesnius planuojamus politikos ir ataskaitų teikimo papildymus, kurie, tikimės, ir toliau didins mūsų ataskaitų vertę tiek NCMEC, tiek teisėsaugos institucijoms. Natūralu, kad tai yra iteracinis procesas, tačiau mus džiugina per pastaruosius metus pasiekta pažanga.

Žvelgiant į ateitį

Tikimės, kad laikui bėgant NCMEC ir teisėsaugos institucijos ir toliau matys sumažėjusias „CyberTips“ apimtis iš Snap, palyginti su ankstesniais metais, tačiau didesnė dalis tų, kurias jiegaus, turėtų turėti kokybiškesnės informacijos ir būti labiau pritaikomos.

Esame įsipareigoję nuolat tobulinti visus savo saugos darbo aspektus. Nesame apsimesti, kad turime visus atsakymus, susijusius su kova su CSEA ar bet kokia kita galima žala internete; niekas neturėtų, nes niekas jų neturi. Dieną iš dienos mes kovojame su visos visuomenės problemomis ir taikome visosįmonėspožiūrį – siekdami dvejopo galutinio tikslo – sumažinti riziką ir žalą.

Kalbant apie mūsų „CyberTips“, turime aiškų tikslą netolimoje ateityje: nesvarbu, ar tai būtų valstijos internetinių nusikaltimų prieš vaikus darbo grupės (ICAC) vadas, federalinis tyrėjas, ar teisėsaugos pareigūnas kitoje pasaulio pusėje, norime, kad valstijos, federalinės ir tarptautinės institucijos užtikrintai nagrinėtų „CyberTips“ iš Snap, nes žino, kad mūsų ataskaitomis galima nuosekliai pasikliauti kaip veiksmingomis, vertingomis ir išsamiomis. Ir tikimės, kad šios pastangos padės paskatinti atitinkamą su tuo susijusių areštų skaičiaus padidėjimą ⁶ir nuosprendžių visame pasaulyje.

Didelis „ačiū“ NCMEC, „WeProtect“, 61 ICAC darbo grupei JAV, teisėsaugos institucijoms visame pasaulyje ir visiems mūsų kolegoms bei bendradarbiams visoje CSEA kovos srityje – ir papildoma pastaba, kad mes ir toliau esame atviri ir laukiame jūsų atsiliepimų, kad galėtume toliau tobulinti savo strategijas ir požiūrius. Mes visi esame kartu.

- Jacqueline Beauchere, Pasaulinė platformos saugos vadovė