Noi di Snap, miglioriamo continuamente i nostri meccanismi di sicurezza e le politiche della piattaforma per limitare le possibilità ai malintenzionati di usare la nostra piattaforma. Ci avvaliamo di tecnologie avanzate per rilevare e bloccare attività che violano le nostre regole, applichiamo principi di progettazione per creare attriti nei processi di amicizia, sosteniamo le forze dell'ordine, collaboriamo con le autorità governative e lavoriamo per sensibilizzare e fornire istruzione sui danni più gravi che colpiscono gli adolescenti e tutti i membri della nostra community.

Ci assumiamo la responsabilità di proteggere gli adolescenti in modo molto serio. Il nostro lavoro è sostanziale e comprende:

I. Rendere Snapchat un ambiente ostile per i malintenzionati

All'inizio di quest'anno, abbiamo annunciato nuove funzionalità volte a salvaguardare ulteriormente la nostra community, in particolare gli utenti adolescenti, e per rafforzare le relazioni del mondo reale che rendono Snapchat un luogo unico. Questi aggiornamenti includono: avvisi in-app ampliati per i contatti sospetti, protezioni migliorate per le amicizie create appositamente per gli adolescenti e il miglioramento della capacità di bloccare i contatti indesiderati.

Queste modifiche, incentrate sulla lotta alla sextortion online, si basano sui nostri investimenti continui per contrastare tutte le forme di sfruttamento e abuso sessuale sui minori. Ad esempio:

Utilizziamo segnali per individuare i comportamenti di sextortion in modo da poter rimuovere attivamente i malintenzionati prima che abbiano l'opportunità di colpire e vittimizzare gli altri. Questa pratica, oltre a sfruttare e implementare tecnologie progettate per prevenire la diffusione di immagini di sfruttamento e abuso sessuale di minori noti (CSEAI) su Snapchat, tra cui PhotoDNA (per rilevare i duplicati di immagini illegali note), CSAI Match (per rilevare i duplicati di video illegali noti) e API per la sicurezza dei contenuti (per contribuire a rilevare immagini nuove e "mai criptate prima").

Sebbene abbiamo offerto a lungo una semplice segnalazione in-app di contenuti e account che violano le nostre regole, nel 2023 abbiamo apportato miglioramenti per rafforzare la nostra lotta contro i danni legati alla sextortion. Lo scorso anno abbiamo lanciato la segnalazione di testo nella chat in-app, che consente agli Snapchatter di segnalare singoli messaggi direttamente dalla conversazione stessa. Abbiamo inoltre ampliato i nostri strumenti di segnalazione in-app per includere un motivo di segnalazione specifico e personalizzato per la sextortion e, su consiglio e guida dell'ONG Thorn, abbiamo presentato l'opzione di segnalazione in un linguaggio comprensibile per gli adolescenti e i giovani ("Hanno diffuso / stanno minacciando di diffondere le mie fotografie di nudo"). A loro volta, tali rapporti vengono utilizzati per informare le nostre iniziative in materia di applicazione delle norme, tra cui il rilevamento e l'applicazione basati sui segnali. Analizziamo le tendenze, i modelli e le tecniche di sextortionizzazione e, se un account presenta determinate caratteristiche, viene bloccato per sextortion.

Continuiamo a migliorare e ad aggiungere strumenti alla nostra suite di strumenti Family Center, pubblicata nel 2022, in cui i genitori possono vedere di chi sono amici i loro figli su Snapchat, con chi hanno chattato di recente e segnalare facilmente gli account che potrebbero essere di loro interesse. Il nostro obiettivo per Family Center è sempre stato quello di stimolare un dialogo aperto e costruttivo tra genitori/operatori sanitari e adolescenti sulla sicurezza online.

Collaboriamo a stretto contatto con le forze dell'ordine e investiamo molto nei nostri team operativi di sicurezza e applicazione delle norme, che operano in tutto il mondo 24 ore su 24, 7 giorni su 7, per contribuire a mantenere la nostra community al sicuro. Ad esempio, i nostri team di Fiducia e Sicurezza hanno più che raddoppiato le dimensioni dal 2020 e il nostro team delle forze dell'ordine nelle operazioni è più che triplicato in questo periodo. Organizziamo summit annuali per le forze dell'ordine negli Stati Uniti per garantire che i funzionari e le agenzie sappiano come intraprendere azioni appropriate contro qualsiasi attività illegale che potrebbe aver luogo sulla nostra piattaforma.

Stiamo inoltre lavorando direttamente con le forze dell'ordine in Nigeria, dove hanno origine molti casi di sextortion, per costruire capacità e conoscenze volte a indagare e perseguire i responsabili. Abbiamo intenzione di continuare il nostro impegno con il governo nigeriano per collaborare ulteriormente in questo settore. Inoltre, abbiamo collaborato con International Justice Mission (NCMEC), altri membri del settore e ONG per fornire formazione alle forze dell'ordine sulle indagini sui CyberTips in Paesi al di fuori degli Stati Uniti in cui l'attività di sextortion è prevalente.

Per molti anni, ci siamo inoltre impegnati con un gruppo solido di "segnalatori di fiducia": organizzazioni no-profit, ONG e agenzie governative selezionate che ci segnalano casi di abuso, minacce imminenti alla vita e altri problemi di emergenza per conto degli Snapchatter in difficoltà tramite canali ad alta priorità. La maggior parte dei partecipanti al nostro programma Segnalatori attendibili segnala contenuti e account relativi a danni sessuali nei confronti di minori, tra cui sextortion.

II. Coinvolgere esperti del settore e coalizioni

Oltre ai fare i nostri investimenti, collaboriamo anche con esperti di tutto il mondo, perché sappiamo che nessun soggetto o organizzazione da sola può risolvere questi problemi. Ad esempio, Snap rappresenta il settore nella Commissione per la politica internazionale della WeProtect Global Alliance; siamo membri del Consiglio consultivo di INHOPE e facciamo parte del Consiglio di amministrazione dell'Internet Watch Foundation (IWF) del Regno Unito. Tutte queste organizzazioni hanno come obiettivo comune il contrasto allo sfruttamento e all'abuso sessuale dei minori.

Rimaniamo membri attivi di Tech Coalition, un'alleanza industriale globale incentrata sulla lotta allo sfruttamento e all'abuso sessuale dei minori online, e abbiamo recentemente stipulato un mandato di due anni nel Comitato esecutivo del Consiglio di amministrazione. Siamo stati inoltre membri fondatori dell'iniziativa Lantern di Tech Coalition, il primo programma di condivisione dei segnali multipiattaforma per le aziende che mira a rafforzare il modo in cui applicano le politiche di sicurezza dei minori. Attraverso la partecipazione attiva a questo programma, le aziende possono aiutarsi a vicenda per individuare i malintenzionati, inclusi i sextortionisti.

Inoltre, ci avvaliamo del database Take It Down del National Center for Missing and Exploited Children (NCMEC), che consente ai minori di generare un'impronta digitale (nota come "hash") di immagini o video selezionati direttamente sui loro dispositivi. Le aziende partecipanti, tra cui Snap, possono utilizzare tali hash per cercare e rimuovere immagini duplicate che violano le nostre Linee Guida per la Community. Partecipiamo a un programma simile nel Regno Unito chiamato Report Remove, e l'anno scorso abbiamo aderito alla collaborazione StopNCII di SWGfL volta a prevenire la diffusione di immagini intime non consensuali (NCII) su Snapchat sfruttando il database di hash di quel gruppo. StopNCII aiuta a fermare la diffusione di immagini intime di persone di età superiore ai 18 anni e offre alle vittime la possibilità di rivendicare la loro privacy sulle foto e sui video più privati.

Quest'anno abbiamo inoltre lanciato il nostro Consiglio Snap per il benessere digitale, un gruppo di 18 adolescenti provenienti da tutti gli Stati Uniti, selezionati per partecipare a un programma pilota della durata di un anno che promuove abitudini e pratiche online più sicure nelle rispettive scuole e comunità. A luglio, questo gruppo, insieme ad almeno un genitore o un accompagnatore, si è riunito presso la sede di Snap a Santa Monica, in California, per discussioni che hanno prodotto approfondimenti interessanti su argomenti come le trappole online, le dinamiche sociali e gli strumenti per i genitori. Tutto ciò si aggiunge al Consiglio consultivo per la sicurezza di Snap, composto da 16 professionisti e tre avvocati dei giovani, che forniscono guida e indicazioni dirette a Snap sulle questioni di sicurezza. Guardiamo al 2025, dove speriamo di creare maggiori opportunità per i membri di entrambi i gruppi di incontrarsi e portare alla luce ulteriori approfondimenti.

III. Promuovere la consapevolezza 

Al di là dei nostri investimenti interni e del lavoro che svolgiamo con esperti e tra i vari settori, un componente fondamentale nella lotta agli abusi sessuali online e ai sistemi di sextortion sta aumentando la consapevolezza del pubblico e di Snapchatter.

Nel 2022 abbiamo lanciato l'Indice di benessere digitale (Digital Well-Being Index), una ricerca leader del settore che offre informazioni su come gli adolescenti e i giovani adulti si muovono online su tutte le piattaforme. Nell'ambito di questa ricerca, negli ultimi due anni abbiamo effettuato approfondimenti importanti nello scenario della sextortion. Poiché tale studio copre le esperienze online in generale, non solo su Snapchat, non solo ci aiuta a informare il nostro lavoro, ma speriamo che offra approfondimenti anche ad altri nell'ecosistema tecnologico. Verso la fine del mese, condivideremo i risultati del nostro approfondimento sulla sextortion del secondo anno, in collaborazione con il prossimo Forum virtuale tra più parti interessate di Technology Coalition sulla sextortion finanziaria sui minori.

All'inizio di quest'anno, abbiamo avuto l'onore di essere i primi a sostenere Know2Protect, una campagna di sensibilizzazione pubblica unica nel suo genere lanciata all'inizio di quest'anno dal Dipartimento della sicurezza interna (DHS) degli Stati Uniti. La campagna educa e responsabilizza giovani, genitori, adulti di fiducia e responsabili politici per contribuire a prevenire e contrastare crimini come la sextortion finanziaria. Oltre a donare spazi pubblicitari su Snapchat per risorse educative K2P, stiamo conducendo ulteriori ricerche con adolescenti e giovani adulti negli Stati Uniti per informare ulteriormente la campagna. Abbiamo inoltre lanciato in collaborazione una Lente Snapchat per la realtà aumentato per contribuire a educare gli Snapchatter attraverso un quiz interattivo Know2Protect. Nel Regno Unito, inoltre, abbiamo supportato l'ampia campagna di sensibilizzazione pubblica dell'IWF su questi temi fino ad oggi, Gurls Out Loud, progettata per informare le ragazze di età compresa tra gli 11 e i 13 anni sull'adescamento sessuale, il sexting e l'invio di immagini di nudo online. Inoltre, abbiamo recentemente lanciato una Guida a Snapchat per l'educatore, in collaborazione con Safe and Sound Schools per sviluppare un kit di strumenti completo per gli educatori che include informazioni e indicazioni su come contrastare la sextortion.

Sulla base dei nostri anni di ricerca, sappiamo che la sensibilizzazione e l'educazione della community sono strumenti potenti per contribuire a prevenire i danni online, e continuiamo a sviluppare e promuovere risorse in-app per raggiungere adolescenti e giovani direttamente su Snapchat. Nel settembre 2023, abbiamo pubblicato quattro nuovi "episodi in-app di Safety Snapshot" incentrati sui rischi e i danni sessuali, tra cui la sextortion finanziaria. Offriamo inoltre episodi sulla sessualità e sulle conseguenze della creazione e della condivisione di immagini di nudo, l'adescamento online di minori a scopo sessuale e il traffico di minori a scopo sessuale Tutte queste risorse sono state esaminate da esperti del National Center for Missing and Exploited Children (NCMEC) e create in collaborazione con linee telefoniche e linee di assistenza pertinenti nelle aree geografiche chiave.

Continuiamo a contrastare lo sfruttamento e l'abuso sessuale dei minori online, ma c'è ancora molto da fare. Nel 2025, continueremo a sensibilizzare sui potenziali danni online e continueremo a ribadire che chiunque può essere un potenziale bersaglio. Vogliamo disturbare e contrastare i malintenzionati il prima possibile, e vogliamo produrre suggerimenti informatici ancora più attuabili per le forze dell'ordine.

È importante notare che adottiamo molte di queste strategie mentre combattiamo contro altri danni eclatanti, come le attività correlate alle droghe illecite, tra cui la vendita di pillole contraffatte, le minacce di violenza e i contenuti suicidi e autolesionistici. Ci rendiamo conto che il nostro lavoro in questo ambito potrebbe non finire mai, ma abbiamo a cuore la sicurezza degli Snapchatter e continueremo a lavorare in modo collaborativo nel settore, nel governo e nelle forze dell'ordine per scambiarci informazioni e rafforzare le nostre difese.