Snap este profund dedicat siguranței comunității Snapchat. Scopul nostru este de a ajuta la protejarea utilizatorilor de o serie de riscuri online și de potențiale daune care se întind pe întregul ecosistem digital, inclusiv infracțiuni abominabile care implică exploatarea și abuzul sexual al copiilor (CSEA). Snap luptă de ani de zile împotriva acestui conținut ilegal și a acestui comportament criminal josnic, folosind atât măsuri de detectare proactivă, cât și măsuri de răspuns reactiv în întreaga aplicație Snapchat. În ultimul an, am adus modificări suplimentare politicilor și proceselor noastre conexe, cu intenția de a ajuta la aducerea făptuitorilor în fața justiției. Am dori să împărtășim mai multe despre această activitate aici.

Ce este CSEA?

Exploatarea și abuzul sexual al copiilor acoperă o serie de activități ilegale care implică vătămarea sexuală a minorilor, inclusiv: vizualizarea, producerea și distribuirea de imagini de exploatare și abuz sexual al copiilor (CSEAI), inclusiv amenințarea mai nouă a fotografiilor și videoclipurilor generate de inteligența artificială; ademenirea online sau atragerea minorilor în scopuri sexuale; ¹extorcare sexuală; ²trafic de copii în scopul exploatării sexuale; și transmiterea în direct a copiilor abuzați și torturați sexual. ³Este dificil de înțeles că aceste realități respingătoare există de fapt. Dar, din păcate, astfel de abuzuri au existat întotdeauna – iar lumea digitală oferă acum un mijloc alternativ de abuz, extinzând modurile de a comite infracțiuni pentru a fi mai rapide și cu o rază de acțiune mai mare.

„Tehnologia a schimbat fundamental modul în care cei cu interes sexual pentru copii fantezează despre ei, îi accesează și îi vânează”, a declarat Ernie Allen, președintele organizației cu sediul la LondraWeProtect Global Alliance. „New York Timesa scris: „Criza exploatării sexuale a copiilor online a ajuns la un punct de ruptură”. S-a remarcat faptul că rapoartele sunt în creștere, infractorii distribuie imagini cu victime mai tinere și infracțiuni mai odioase, iar forțele de ordine se luptă să țină pasul. Dacă adăugați noi variații la această provocare, cum ar fi extorcarea sexuală, despre care FBI a raportat că a crescut cu 7.200%, abuzul transmis în direct și altele, este clar că această problemă ar trebui să fie în fruntea agendelor politice din întreaga lume”, a adăugat el.

Obligațiile legale ale companiilor de tehnologie

Atunci când companiile de tehnologie din SUA iau cunoștință de CSEA pe platformele sau serviciile lor, au obligația legală de a raporta acest lucru Centrului Național pentru Copii Dispăruți și Exploatați (NCMEC). NCMEC examinează apoi aceste CyberTips și colaborează atât cu forțele de ordine naționale, cât și cu cele internaționale pentru a ajuta la protejarea copiilor victime și la pedepsirea infractorilor.

Până anul trecut, totalurile anuale de CyberTips către NCMEC au crescut în mare parte de la an la an, ajungând la un record de 36,2 milioane de rapoarte ⁴în 2023, în creștere de la puțin peste 32 de milioane în 2022 și 4.560 în 1998, când a fost creat CyberTipline al NCMEC. Această creștere record a CyberTips – pe lângă alți factori, inclusiv o creștere continuă a extorcării sexuale la nivel global și feedbackul pe care l-am primit de la forțele de ordine cu privire la acționabilitatea propriilor noastre CyberTips – a determinat Snap să se adreseze pentru prima dată NCMEC în 2024 pentru a recalibra raportarea noastră CyberTip.

Am monitorizat raportarea CyberTip de-a lungul mai multor ani și cred cu tărie că practica unor companii de tehnologie a avut tendința de a raportatotulcătre NCMEC – chiar și peste obligația lor legală – de teama de a fi acuzați că au omisceva. ⁵Companiile care nu raportează conform legii pot primi amenzi usturătoare. Dar această abordare a raportării, cuplată cu acționabilitatea redusă a multor rapoarte (fie pentru că CyberTips nu au suficient context pentru ca forțele de ordine să ia măsuri, fie pentru că conduita raportată nu este, în unele cazuri, o prioritate pentru ele), a dus la creșterea numărului de CyberTips; recenzii multiple, extinse; și frustrare crescută în rândul forțelor de ordine.

Obiectiv: CyberTips de mare valoare

Scopul recalibrării noastre cu NCMEC a fost de a crește și mai mult acționabilitatea și valoarea CyberTips ale Snap prin perfecționarea propriilor noastre politici de platformă și a protocoalelor pe care le avem în vigoare pentru raportarea către NCMEC. Această recalibrare inițială a avut loc în mai 2024, iar modificările noastre de politică au devenit pe deplin eficiente în ultima parte a anului trecut.

Deși ar trebui să evităm să punem prea mult accent pe numărul pur de rapoarte în mod izolat, de la implementarea îmbunătățirilor noastre de politică, Snap este încântat să împărtășească faptul că am înregistrat o scădere semnificativă a volumului nostru total de raportare către NCMEC și o scădere similară a escaladărilor pentru ademenire online – totul în timp ce ne îndeplinim în continuare obligațiile legale de a raporta CSEA în CyberTips. Totalurile mai mici nu au fost încă filtrate în volumele anuale de raportare ale NCMEC, totuși, deoarece modificările au fost implementate mai târziu în 2024, lăsând doar câteva luni complete din an pentru a reflecta modificările.

În paralel, echipa noastră a lucrat la îmbunătățirea datelor și a etichetării în CyberTips. Astfel de clarificări pot ajuta la o mai bună identificare a presupuselor infracțiuni și a persoanelor implicate și, la rândul lor, permit o triere mai rapidă și mai precisă a rapoartelor de către NCMEC și forțele de ordine. Chiar și atunci când raportarea către NCMEC nu este justificată, Snap va continua să abordeze imaginile și comportamentele care contravin politicilor noastre de platformă prin luarea de măsuri – care pot include eliminarea conținutului care încalcă regulile, dezactivarea contului și încercarea de a bloca crearea de noi conturi.

Punct de control al recalibrării

Luna trecută, am organizat o a doua recalibrare cu NCMEC, în cadrul căreia echipa Snap a recapitulat modificările politicii interne de anul trecut; a informat NCMEC cu privire la progresele noastre; a confirmat câteva linii directoare operaționale suplimentare; și a ajutat la stabilirea așteptărilor pentru lunile următoare. De asemenea, am previzualizat câteva completări suplimentare planificate la politică și raportare, care sperăm că vor continua să sporească valoarea rapoartelor noastre atât pentru NCMEC, cât și pentru forțele de ordine. Desigur, acesta este un proces iterativ, dar suntem încurajați de progresele înregistrate în ultimul an.

Privind în viitor

În timp, ne așteptăm ca NCMEC și forțele de ordine să continue să vadă volume reduse de CyberTips de la Snap în comparație cu anii precedenți, dar un procent mai mare dintre cele pe care leprimescar trebui să conțină informații de calitate superioară și să fie mai acționabile.

Ne angajăm să ne îmbunătățim continuu în toate aspectele activității noastre de siguranță. Nu pretindem că avem toate răspunsurile în ceea ce privește combaterea CSEA sau orice altă potențială daună online; nimeni nu ar trebui, pentru că nimeni nu le are. Zi de zi, ne luptăm cu problemele întregii societăți și aducem o abordare la nivelul întregiicompaniipentru a face față – cu obiectivele gemene finale de atenuare a riscurilor și de reducere a daunelor.

În ceea ce privește CyberTips, avem un obiectiv distinct pentru viitorul nu prea îndepărtat: fie că este vorba de un comandant al unui grup operativ de stat pentru infracțiuni pe internet împotriva copiilor (ICAC), un investigator federal sau un membru al forțelor de ordine de la jumătatea lumii, dorim ca autoritățile de stat, federale și internaționale să urmărească cu încredere CyberTips de la Snap, deoarece știu că rapoartele noastre pot fi considerate în mod constant acționabile, valoroase și amănunțite. Și, speranța noastră este că aceste eforturi vor contribui la o creștere corespunzătoare a arestărilor aferente ⁶și a condamnărilor din întreaga lume.

Un „mulțumesc” uriaș către NCMEC, WeProtect, cele 61 de grupuri operative ICAC din S.U.A., forțele de ordine din întreaga lume și tuturor colegilor și colaboratorilor noștri din peisajul luptei împotriva CSEA – și o notă suplimentară că rămânem deschiși și dornici de feedbackul dvs. pentru a ne îmbunătăți în continuare strategiile și abordările. Suntem cu toții în asta împreună.

- Jacqueline Beauchere, director global pentru siguranța platformei