Snap je duboko predan sigurnosti zajednice na Snapchatu. Naš je cilj pomoći u zaštiti korisnika od niza internetskih rizika i potencijalnih šteta koje se protežu kroz digitalni ekosustav, uključujući gnusne zločine koji uključuju seksualno iskorištavanje i zlostavljanje djece (CSEA). Snap se godinama bori protiv ovog nezakonitog sadržaja i podlog kriminalnog ponašanja, primjenjujući mjere proaktivnog otkrivanja i reaktivnog odgovora u aplikaciji Snapchat. Tijekom protekle godine unijeli smo dodatne izmjene u naša povezana pravila i procese s namjerom da pomognemo privesti počinitelje pravdi. Ovdje bismo željeli podijeliti više o tom radu.

Što je CSEA?

Seksualno iskorištavanje i zlostavljanje djece obuhvaća niz nezakonitih aktivnosti koje uključuju seksualnu štetu maloljetnicima, uključujući: gledanje, proizvodnju i distribuciju slika seksualnog iskorištavanja i zlostavljanja djece (CSEAI), uključujući noviju prijetnju fotografija i videozapisa generiranih umjetnom inteligencijom; internetsko vrbovanje ili namamljivanje maloljetnika u seksualne svrhe; ¹seksualna iznuda; ²trgovina djecom u seksualne svrhe; i prijenos uživo seksualnog zlostavljanja i mučenja djece. ³Teško je shvatiti da te odbojne stvarnosti doista postoje. Ali, nažalost, takvo zlostavljanje uvijek je postojalo, a digitalni svijet sada pruža alternativno sredstvo zlostavljanja, šireći načine počinjenja kaznenih djela tako da budu brži i dalekosežniji.

„Tehnologija je iz temelja promijenila način na koji oni sa seksualnim interesom za djecu maštaju o njima, pristupaju im i vrebaju ih”, rekao je Ernie Allen, predsjednik londonskogWeProtect Global Alliance. „New York Timesje napisao: 'Kriza internetskog seksualnog iskorištavanja djece na prijelomnoj je točki.' Napomenuli su da broj prijava raste, počinitelji dijele slike mlađih žrtava i gnusnijih zločina, a policija se bori da održi korak. Ako tom izazovu dodate nove varijacije, poput seksualne iznude, za koju je FBI izvijestio da je porasla za 7.200 %, zlostavljanja putem prijenosa uživo i drugih, jasno je da bi ovaj problem trebao biti na vrhu političkih agendi diljem svijeta”, dodao je.

Pravne obveze tehnoloških tvrtki

Kada američke tehnološke tvrtke postanu svjesne CSEA-e na svojim platformama ili uslugama, imaju zakonsku obvezu prijaviti to Nacionalnom centru za nestalu i iskorištavanu djecu (NCMEC). NCMEC zatim pregledava te CyberTipove i surađuje s domaćim i međunarodnim tijelima za provedbu zakona kako bi pomogao u zaštiti djece žrtava i kažnjavanju počinitelja.

Do prošle godine, godišnji ukupan broj CyberTipova za NCMEC uglavnom je rastao iz godine u godinu, dosegnuvši rekordnih 36,2 milijuna prijava ⁴u 2023. godini, što je porast s nešto više od 32 milijuna u 2022. i 4.560 u 1998. kada je stvorena NCMEC-ova CyberTipline. Upravo je taj rekordan porast CyberTipova, uz druge čimbenike, uključujući kontinuirani porast seksualne iznude na globalnoj razini i povratne informacije koje smo dobili od policije o djelotvornosti naših vlastitih CyberTipova, potaknuo Snap da se prvi put obrati NCMEC-u 2024. godine kako bi ponovno kalibrirao naše izvješćivanje o CyberTipovima.

Pratio sam izvješćivanje o CyberTipovima nekoliko godina i čvrsto vjerujem da je praksa nekih tehnoloških tvrtki postala usmjerena na prijavljivanjesvegaNCMEC-u, čak i iznad njihove zakonske obveze, iz straha da će biti optuženi da su propustilinešto. ⁵Tvrtke koje ne prijave kako je zakonom propisano mogu se suočiti s visokim kaznama. Ali ovaj pristup izvješćivanju, zajedno s niskom djelotvornošću mnogih prijava (bilo zato što CyberTipovi nemaju dovoljno konteksta da bi policija mogla poduzeti mjere ili zato što prijavljeno ponašanje u nekim slučajevima nije njihov prioritet), rezultirao je sve većim brojem CyberTipova, višestrukim, opsežnim pregledima i povećanom frustracijom među policijom.

Cilj: CyberTipovi visoke vrijednosti

Cilj naše ponovne kalibracije s NCMEC-om bio je dodatno povećati djelotvornost i vrijednost Snapovih CyberTipova usavršavanjem naših vlastitih pravila platforme i protokola koje imamo za izvješćivanje NCMEC-a. Ta početna ponovna kalibracija dogodila se u svibnju 2024., a naše izmjene pravila postale su u potpunosti učinkovite u drugom dijelu prošle godine.

Iako bismo trebali izbjegavati stavljanje prevelikog naglaska na sam broj prijava izolirano, od uvođenja naših poboljšanja pravila, Snap sa zadovoljstvom dijeli da smo zabilježili značajan pad u našem ukupnom opsegu izvješćivanja NCMEC-u i sličan pad eskalacija za internetsko namamljivanje, sve dok i dalje ispunjavamo naše zakonske obveze izvješćivanja o CSEA-i u CyberTipovima. Niži ukupni iznosi još se nisu odrazili na godišnje opsege izvješćivanja NCMEC-a, međutim, jer su promjene provedene kasnije u 2024., ostavljajući samo nekoliko punih mjeseci u godini da odraze izmjene.

Paralelno, naš tim radi na poboljšanju podataka i označavanja u našim CyberTipovima. Takva pojašnjenja mogu pomoći u boljem identificiranju navodnih zločina i uključenih pojedinaca te, zauzvrat, omogućiti brže i točnije trijažiranje prijava od strane NCMEC-a i policije. Čak i kada izvješćivanje NCMEC-u možda nije opravdano, Snap će nastaviti rješavati slike i ponašanja koja su u suprotnosti s našim pravilima platforme poduzimanjem mjera, što može uključivati uklanjanje sadržaja koji krši pravila, onemogućavanje računa i pokušaj blokiranja stvaranja novih računa.

Kontrolna točka ponovne kalibracije

Prošli mjesec održali smo drugu ponovnu kalibraciju s NCMEC-om, gdje je tim Snapa sažeo prošlogodišnje interne izmjene pravila; obavijestio NCMEC o našem napretku; potvrdio neke dodatne operativne smjernice; i pomogao postaviti očekivanja za nadolazeće mjesece. Također smo pregledali neke daljnje planirane dodatke pravilima i izvješćivanju za koje se nadamo da će nastaviti poboljšavati vrijednost naših izvješća i NCMEC-u i policiji. Naravno, ovo je iterativni proces, ali ohrabreni smo napretkom u protekloj godini.

Pogled u budućnost

S vremenom očekujemo da će NCMEC i policija možda i dalje bilježiti smanjeni opseg CyberTipova od Snapa u usporedbi s prethodnim godinama, ali veći postotak onih kojedoistaprime trebao bi sadržavati kvalitetnije informacije i biti djelotvorniji.

Predani smo kontinuiranom poboljšanju u svim aspektima našeg sigurnosnog rada. Ne pretvaramo se da imamo sve odgovore u vezi s borbom protiv CSEA-e ili bilo koje druge potencijalne internetske štete; nitko ne bi trebao jer nitko ih i nema. Iz dana u dan borimo se s problemima cijelog društva i donosimo pristup cijeletvrtkekako bismo se nosili s tim, s krajnjim dvostrukim ciljevima ublažavanja rizika i smanjenja štete.

Što se tiče naših CyberTipova, imamo jasan cilj za ne tako daleku budućnost: Bilo da se radi o zapovjedniku državne radne skupine za internetske zločine protiv djece (ICAC), saveznom istražitelju ili pripadniku policije na drugom kraju svijeta, želimo da državna, savezna i međunarodna tijela s povjerenjem postupaju po CyberTipovima od Snapa jer znaju da se na naša izvješća može dosljedno osloniti kao na djelotvorna, vrijedna i temeljita. I, nadamo se da će ti napori pomoći potaknuti odgovarajući porast povezanih uhićenja ⁶i osuda diljem svijeta.

Veliko „hvala” NCMEC-u, WeProtectu, 61 radnoj skupini ICAC-a u SAD-u, policiji diljem svijeta i svim našim kolegama i suradnicima u borbi protiv CSEA-e, uz dodatnu napomenu da ostajemo otvoreni i željni vaših povratnih informacija za daljnje poboljšanje naših strategija i pristupa. Svi smo u ovome zajedno.

- Jacqueline Beauchere, globalna voditeljica sigurnosti platforme