Tutti meritano di sentirsi al sicuro online e di avere il controllo delle proprie immagini. Su Snapchat, vietiamo espressamente la condivisione, la promozione o la distribuzione di contenuti sessualmente espliciti, incluse immagini intime non consensuali (NCII). Ma con l'aiuto delle legislazioni, possiamo codificare e rafforzare gli standard del settore e fornire una protezione più efficace contro questo tipo di danno. Ecco perché siamo orgogliosi di sostenere l'iniziativa H.R. 633, nota anche come TAKE IT DOWN (Tools to Address Known Exploitation by Immobilizing Technological Deepfakes On Websites and Networks).

La legge TAKE IT DOWN considera la pubblicazione di immagini di NCII e simili un reato penale federale. Inoltre, richiede che i siti web e le piattaforme come Snapchat rimuovano tali immagini entro 48 ore dalla richiesta della vittima e che vengano compiuti sforzi ragionevoli per identificare e rimuovere le copie dell'immagine. Questa legge rappresenta un passo fondamentale non solo per proteggere le persone dalla condivisione delle loro immagini private senza autorizzazione, ma anche per limitare la distribuzione di immagini intime generate dall'IA che possono essere altrettanto dannose.

Per Snap, la protezione della nostra comunità, e in particolare degli utenti più giovani, è la nostra massima priorità. L'iniziativa TAKE IT DOWN è in linea con i nostri sforzi in corso per impedire ai malintenzionati di distribuire online immagini di violenza sessuale sugli minori (NCII) e di sfruttamento e abuso sessuale sui minori (CSEAI) e integra tali sforzi online. Il nostro lavoro include: 

• Azioni rapide sulle segnalazioni 

I nostri team di sicurezza disponibili 24 ore su 24, 7 giorni su 7, rispondono rapidamente alle segnalazioni di molestie o contenuti sessuali, per garantire un'azione rapida quando gli Snapchatter hanno bisogno di aiuto. Semplifichiamo le segnalazioni all'interno dell'app, consentendo agli Snapchatter di segnalare singoli messaggi, storie o account direttamente dalle conversazioni. Abbiamo anche categorie specifiche per le persone che possono segnalare NCII e CSEAI, in modo che i nostri team di sicurezza possano dare la priorità a tali segnalazioni e agire rapidamente.

• Sosteniamo le vittime attraverso partnership a livello di settore

Partecipiamo attivamente al programma Take It Down del National Center for Missing and Exploited Children (NCMEC), che consente ai minori di creare "impronte digitali" di immagini intime senza condividere le immagini reali. Utilizziamo queste impronte digitali per rilevare contenuti corrispondenti su Snapchat e rimuovere tutto ciò che viola le nostre politiche. Partecipiamo anche a programmi simili come Report Remove nel Regno Unito, per le immagini dei minori, e StopNCII per gli utenti 18+ che contribuiscono a prevenire la diffusione di immagini intime sulla nostra piattaforma.

• Tecnologia avanzata per rilevare e rimuovere contenuti dannosi 

Utilizziamo tecnologie specializzate come PhotoDNA per rilevare immagini notoriamente illegali e la CSAI Match di Google per i video notoriamente illegali. Utilizziamo anche l'API per la sicurezza dei contenuti di Google per identificare le immagini illegali che non sono state segnalate o sottoposte a hash. 

• Proteggere gli adolescenti da estranei e account sospetti

Per affrontare la recente tendenza delle truffe di sextortion, abbiamo implementato protezioni per gli utenti più giovani che aiutano a impedire agli estranei di trovare i loro profili e connettersi con loro. Avvertiamo gli adolescenti delle richieste di amicizia sospette e impediamo del tutto la consegna di una richiesta di amicizia quando proviene da un account senza amici in comune a un adolescente o se l'account ha una cronologia di accessi a Snapchat in posizioni associate ad attività di truffa. Adottiamo anche misure per impedire ai trasgressori di creare nuovi account sullo stesso dispositivo o di utilizzare lo stesso indirizzo email o numero di telefono. 

• Collaborare con le forze dell'ordine 

Il nostro team per le operazioni di applicazione della legge è cresciuto in modo considerevole, consentendoci di collaborare meglio con le autorità per aiutare a mantenere gli Snapchatter al sicuro. Ospitiamo un summit annuale per le forze dell'ordine negli Stati Uniti e lavoriamo con le forze dell'ordine internazionali, anche in Africa occidentale, dove hanno origine molti casi di sextortion. Quando si verificano emergenze, in genere rispondiamo alle richieste di divulgazione dei dati relative da parte delle forze dell'ordine entro 30 minuti. Inoltre, quando diventiamo consapevoli dello sfruttamento sessuale dei minori, quando ci viene segnalato e/o lo identifichiamo in modo proattivo, lo segnaliamo al NCMEC, che, a sua volta, si coordina con le forze dell'ordine nazionali e internazionali, come appropriato.

• Educazione e consapevolezza 

Per aiutare a educare direttamente la nostra community, abbiamo lanciato brevi video in-app sui rischi sessuali e i potenziali danni tramite il nostro canale "Safety Snapshot'' su Scopri. Gli argomenti includono la sextortion finanziaria e le conseguenze dello scattare e condividere immagini di nudo. Inoltre, abbiamo sviluppato risorse per genitori ed educatori per aiutarli a capire come gli adolescenti utilizzano Snapchat e quali salvaguardie esistono per mantenerli al sicuro. Il nostro Consiglio per il benessere digitale di Snap riunisce gli adolescenti per promuovere abitudini online più sicure nelle loro scuole e comunità. Collaboriamo anche con esperti per supportare iniziative come Know2Protect, una campagna nazionale di sensibilizzazione del pubblico lanciata dal Dipartimento per la sicurezza interna degli Stati Uniti per aiutare a prevenire e combattere crimini come la sextortion finanziaria. 

Il nostro impegno continuo 

Mentre siamo soddisfatti dei nostri progressi, sappiamo che il nostro lavoro potrebbe non essere mai finito. In Snap, continueremo a sensibilizzare i cittadini sui potenziali danni online, sviluppare nuove tecnologie per rilevare contenuti non conformi e lavorare in collaborazione con partner del settore, agenzie governative, forze dell'ordine, società civile, genitori e giovani stessi. 

Supportando il TAKE IT DOWN Act e continuando i nostri sforzi per la sicurezza, stiamo lavorando per un futuro in cui tutti possano godersi il contatto con amici e familiari online senza paura di sfruttamento o abusi. 

Ci preoccupiamo profondamente della sicurezza di ogni Snapchatter e rimaniamo impegnati a rendere la nostra piattaforma un ambiente ostile per i malintenzionati e uno spazio sano per connessioni genuine.