Snap si impegna a fondo per la sicurezza della community di Snapchat. Il nostro obiettivo è proteggere gli utenti da una serie di rischi online e potenziali danni che si estendono all'intero ecosistema digitale, compresi i crimini abominevoli che comportano lo sfruttamento e l'abuso sessuale di minori (CSEA). Da anni Snap contrasta questi contenuti illegali e questi vili comportamenti criminali, impiegando misure di rilevamento proattivo e di risposta reattiva in tutta l'app Snapchat. Nell'ultimo anno, abbiamo apportato ulteriori modifiche alle nostre politiche e ai nostri processi correlati con l'intento di contribuire a consegnare i responsabili alla giustizia. Vorremmo condividere maggiori informazioni su questo lavoro qui.

Cos'è il CSEA?

Lo sfruttamento e l'abuso sessuale di minori coprono una serie di attività illegali che comportano un danno sessuale ai minori, tra cui: la visualizzazione, la produzione e la distribuzione di materiale pedopornografico (CSEAI), compresa la più recente minaccia di foto e video generati dall'intelligenza artificiale; l'adescamento online, o lusinga, di minori a scopi sessuali; ¹estorsione sessuale; ²traffico di minori a scopo sessuale; e la trasmissione in diretta di bambini abusati e torturati sessualmente. ³È difficile comprendere che queste realtà ripugnanti esistano davvero. Ma, purtroppo, tali abusi sono sempre esistiti e il mondo digitale offre ora un mezzo alternativo di abuso, espandendo le modalità di offesa per essere più veloci e di più ampia portata.

“La tecnologia ha cambiato radicalmente il modo in cui coloro che hanno un interesse sessuale per i bambini fantasticano su di loro, li avvicinano e li sfruttano”, ha dichiarato Ernie Allen, presidente dellaWeProtect Global Alliance.New York Timesha scritto: 'La crisi dello sfruttamento sessuale minorile online è a un punto di rottura'. Ha osservato che le segnalazioni sono in aumento, i trasgressori condividono immagini di vittime sempre più giovani e crimini più efferati, e le forze dell'ordine faticano a tenere il passo. Se a questa sfida si aggiungono nuove varianti, come la sextortion, che secondo l'FBI è aumentata del 7.200%, gli abusi in live-streaming e altro, è chiaro che questo problema dovrebbe essere in cima alle agende politiche di tutto il mondo”, ha aggiunto.

Obblighi legali delle aziende tecnologiche

Quando le aziende tecnologiche statunitensi vengono a conoscenza di CSEA sulle loro piattaforme o servizi, hanno l'obbligo legale di segnalarlo al National Center for Missing and Exploited Children (NCMEC). L'NCMEC esamina quindi queste CyberTip e si mette in contatto con le forze dell'ordine nazionali e internazionali per aiutare a salvaguardare le vittime minorenni e punire i responsabili.

Fino all'anno scorso, il totale annuo di CyberTip all'NCMEC era in gran parte aumentato di anno in anno, raggiungendo il record di 36,2 milioni di segnalazioni ⁴nel 2023, rispetto a poco più di 32 milioni nel 2022 e 4.560 nel 1998, quando è stata creata la CyberTipline dell'NCMEC. È stato questo aumento record di CyberTip, oltre ad altri fattori, tra cui un continuo picco di estorsioni sessuali a livello globale e il feedback ricevuto dalle forze dell'ordine sull'utilizzabilità delle nostre CyberTip, che ha spinto Snap a rivolgersi per la prima volta all'NCMEC nel 2024 per ricalibrare le nostre segnalazioni CyberTip.

Ho monitorato le segnalazioni CyberTip per diversi anni e credo fermamente che la pratica di alcune aziende tecnologiche abbia teso a segnalaretuttoall'NCMEC, anche al di là del loro obbligo legale, per paura di essere accusati di aver tralasciatoqualcosa. ⁵Le aziende che non effettuano le segnalazioni previste dalla legge possono incorrere in pesanti multe. Ma questo approccio alla segnalazione, unito alla scarsa utilizzabilità di molte segnalazioni (o perché le CyberTip mancano di un contesto sufficiente per consentire alle forze dell'ordine di agire o perché la condotta segnalata, in alcuni casi, non è una loro priorità), ha portato a un aumento delle CyberTip, a revisioni multiple ed estese e a una crescente frustrazione tra le forze dell'ordine.

Obiettivo: CyberTip di alto valore

L'obiettivo della nostra ricalibrazione con l'NCMEC era quello di aumentare ulteriormente l'utilizzabilità e il valore delle CyberTip di Snap, perfezionando le nostre politiche di piattaforma e i protocolli che abbiamo in atto per le segnalazioni all'NCMEC. Questa ricalibrazione iniziale ha avuto luogo nel maggio del 2024 e le nostre modifiche alle politiche sono diventate pienamente efficaci nella seconda parte dello scorso anno.

Sebbene dovremmo evitare di porre troppa enfasi sul puro numero di segnalazioni in isolamento, dall'implementazione dei nostri perfezionamenti delle politiche, Snap è lieta di comunicare che abbiamo riscontrato un calo significativo del nostro volume complessivo di segnalazioni all'NCMEC e un calo simile delle escalation per adescamento online, il tutto continuando a rispettare i nostri obblighi legali di segnalare il CSEA nelle CyberTip. I totali più bassi non sono ancora stati recepiti nei volumi di segnalazione annuali dell'NCMEC, tuttavia, poiché le modifiche sono state implementate più tardi nel 2024, lasciando solo pochi mesi interi dell'anno per riflettere gli emendamenti.

Parallelamente, il nostro team ha lavorato per migliorare i dati e l'etichettatura nelle nostre CyberTip. Tali chiarimenti possono aiutare a identificare meglio i presunti crimini e gli individui coinvolti e, a loro volta, consentire un triage più rapido e accurato delle segnalazioni da parte dell'NCMEC e delle forze dell'ordine. Anche quando la segnalazione all'NCMEC potrebbe non essere giustificata, Snap continuerà ad affrontare immagini e comportamenti che contravvengono alle nostre politiche di piattaforma intraprendendo azioni, che possono includere la rimozione del contenuto in violazione, la disattivazione dell'account e il tentativo di bloccare la creazione di nuovi account.

Punto di controllo della ricalibrazione

Il mese scorso, abbiamo tenuto una seconda ricalibrazione con l'NCMEC, in cui il team di Snap ha riepilogato le modifiche alle politiche interne dello scorso anno, ha aggiornato l'NCMEC sui nostri progressi, ha confermato alcune linee guida operative aggiuntive e ha contribuito a definire le aspettative per i mesi a venire. Abbiamo anche anticipato alcune ulteriori aggiunte pianificate alle politiche e alle segnalazioni che speriamo continuino a migliorare il valore delle nostre segnalazioni sia per l'NCMEC che per le forze dell'ordine. Naturalmente, questo è un processo iterativo, ma siamo incoraggiati dai progressi compiuti nell'ultimo anno.

Guardando al futuro

Nel tempo, prevediamo che l'NCMEC e le forze dell'ordine possano continuare a vedere volumi ridotti di CyberTip da Snap rispetto agli anni precedenti, ma una percentuale maggiore di quelle chericevonodovrebbe contenere informazioni di qualità superiore ed essere più utilizzabile.

Ci impegniamo a migliorare continuamente in tutti gli aspetti del nostro lavoro per la sicurezza. Non pretendiamo di avere tutte le risposte per quanto riguarda la lotta al CSEA o a qualsiasi altro potenziale danno online; nessuno dovrebbe, perché nessuno le ha. Giorno dopo giorno, combattiamo problemi che riguardano l'intera società e adottiamo un approccio che coinvolge l'interaaziendaper affrontare la questione, con il duplice obiettivo finale di mitigare il rischio e ridurre i danni.

Per quanto riguarda le nostre CyberTip, abbiamo un obiettivo preciso per il futuro non troppo lontano: che si tratti di un comandante della Task Force statale contro i crimini su Internet contro i minori (ICAC), di un investigatore federale o di un membro delle forze dell'ordine dall'altra parte del mondo, vogliamo che le autorità statali, federali e internazionali diano seguito con fiducia alle CyberTip di Snap perché sanno che le nostre segnalazioni possono essere considerate costantemente utilizzabili, preziose e complete. E la nostra speranza è che questi sforzi contribuiscano a un corrispondente aumento degli arresti correlati ⁶e delle condanne in tutto il mondo.

Un enorme “grazie” a NCMEC, WeProtect, alle 61 Task Force ICAC negli Stati Uniti, alle forze dell'ordine di tutto il mondo e a tutti i nostri colleghi e collaboratori nel panorama della lotta al CSEA, e un'ulteriore nota sul fatto che rimaniamo aperti e desiderosi di ricevere il vostro feedback per migliorare ulteriormente le nostre strategie e i nostri approcci. Siamo tutti sulla stessa barca.

- Jacqueline Beauchere, Responsabile globale della sicurezza della piattaforma