Oggi pubblichiamo la relazione per la trasparenza relativa al primo semestre del 2021, che copre il periodo 1 gennaio - 30 giugno di quest'anno. Come per le recenti segnalazioni, questo programma pubblica: i dati sulle violazioni alle nostre Linee Guida per la Community a livello globale durante il periodo specificato, il numero di segnalazioni ai contenuti che abbiamo ricevuto e contro cui abbiamo preso dei provvedimenti a causa di specifiche categorie di violazioni, il modo in cui abbiamo risposto alle richieste presentate dalle forze dell'ordine e dai governi, le nostre forze dispiegate in ciascun Paese, il tasso di visualizzazione violativa di contenuti Snapchat e le incidenze legate alle informazioni false sulla piattaforma.

Stiamo aggiungendo diversi aggiornamenti alla nostra attività di segnalazione per questo periodo, tra cui la segnalazione del tempo in minuti e in ore, al fine di fornire maggiori dettagli sulle pratiche e sull'efficacia operativa.

Ogni giorno vengono creati più di cinque miliardi di Snap utilizzando la nostra fotocamera Snapchat. Dal 1° gennaio al 30 giugno 2021 abbiamo segnalato 6.629.165 contenuti che violavano le nostre linee guida in tutto il mondo. Durante lo stesso periodo, il nostro tasso di visualizzazione violativa (VVR) era dello 0,10%, il che significa che su 10.000 visualizzazioni di contenuti Snap su 10, 10 contenevano contenuti che violavano le nostre linee guida. Inoltre, abbiamo migliorato in modo significativo il nostro tempo in risposta alle segnalazioni di violazioni, in particolare per i contenuti sessualmente espliciti, molestia e bullismo, farmaci illegali e contraffatti e altri beni regolamentati.

Il nostro lavoro a favore della lotta al materiale riguardante l'abuso sessuale sui minori

La sicurezza della nostra comunità è una priorità assoluta. Come piattaforma costruita per la comunicazione con amici reali, abbiamo intenzionalmente progettato Snapchat affinché per le persone estranee sia più difficile trovare i giovani. Ad esempio, gli Snapchatter non possono vedere le liste di amici degli amici. Inoltre, come impostazione predefinita, non è possibile ricevere un messaggio da parte di qualcuno con cui non è stata stretta l'amicizia.

Non abbiamo alcuna tolleranza per gli abusi rivolti ai membri della nostra comunità, in particolare nei confronti dei minori, poiché si tratta di una pratica illegale, inaccettabile e vietata dalle nostre Linee Guida per la Community. Lavoriamo diligentemente per combattere queste violazioni sviluppando la nostra capacità di prevenire, rilevare ed eliminare gli abusi sulla nostra piattaforma, lottando anche contro il Materiale riguardante l'abuso sessuale sui minori (Child Sexual Abuse Material, CSAM) e gli altri tipi di contenuti che sfruttano sessualmente i bambini.

I nostri team di Fiducia e Sicurezza utilizzano strumenti di rilevamento proattivi, come il PhotoDNA e la tecnologia Child Sexual Abuse Imagery (CSAI) Match, al fine di identificare le immagini e i video CSAM illegali e per segnalarli al Centro Nazionale dei Bambini Scomparsi e Vittima di Abuso (National Center for Missing and Exploited Children, NCMEC). Il NCMEC poi, a sua volta, si coordina con le forze dell'ordine nazionali o internazionali.

Nel primo semestre del 2021, il 5,43 per cento del numero totale di account contro i quali abbiamo agito legalmente nel mondo conteneva CSAM. Di questi, abbiamo prontamente rilevato e intrapreso azioni sul 70% di violazioni CSAM. Questa migliore capacità di rilevamento proattivo, in combinazione con l'aumento degli attacchi coordinati allo spam per la diffusione del CSAM, ha determinato un notevole aumento in questa categoria nel periodo segnalato.

Abbiamo continuato a sviluppare le nostre collaborazioni con gli esperti del settore della sicurezza, così come le funzioni in-app, per aiutare a educare gli Snapchatter ai rischi legati al contatto con persone estranee e a come utilizzare le segnalazioni in-app per avvisare i team di Fiducia e Sicurezza in merito a qualsiasi tipo di preoccupazione o abuso. Inoltre, abbiamo continuato ad aggiungere partner al nostro Programma segnalatori attendibili, il quale fornisce agli esperti di sicurezza verificati un canale riservato per segnalare le urgenze, ad esempio le minacce imminenti alla vita o un caso che coinvolga il CSAM. Lavoriamo a stretto contatto con questi partner per fornire un'educazione in materia di sicurezza, risorse di benessere e ulteriore assistenza relativa alle segnalazioni in modo che possano essere di supporto alla community di Snapchat. 

Il nostro approccio alla diffusione di informazioni false

Il periodo di tempo coperto da questa relazione per la trasparenza sottolinea ulteriormente quanto sia importante garantire che il pubblico abbia accesso a informazioni accurate e credibili. Valutiamo e investiamo regolarmente in nuovi mezzi volti a proteggere la nostra comunità di Snapchatter dalla diffusione di informazioni false relative ai processi democratici, alla salute pubblica e al COVID-19.

Nel primo semestre del 2021, a livello globale, abbiamo agito contro un totale complessivo di 2.597 account e contenuti a causa della violazione delle nostre linee guida sulle informazioni false; le violazioni costituivano quasi la metà rispetto al precedente periodo di segnalazione. Poiché i contenuti su Discover e Spotlight sono moderati in modo proattivo per impedire la distribuzione di contenuti violativi su scala, la maggior parte di queste violazioni è venuta da Snap e Storie private; inoltre, la maggior parte di queste violazioni ci è stata resa nota attraverso i nostri sforzi di moderazione attiva, nonché grazie alle segnalazioni di Snapchatter.

Abbiamo sempre creduto che quando si parla di contenuti nocivi, non è sufficiente pensare alle politiche e alla segnalazione: le piattaforme devono pensare alla loro architettura di base e al design del prodotto. Snapchat è stato costruito sin dall'inizio in modo diverso rispetto alle tradizionali piattaforme di social media, allo scopo di sostenere il nostro scopo d'utilizzo primario, ovvero parlare con gli amici stretti, piuttosto che avere una sezione notizie in cui chiunque possa divulgare qualsiasi cosa senza moderazione. Il design stesso di Snapchat limita la viralità, eliminando gli incentivi ai contenuti che si appellano ai peggiori istinti delle persone e limitando in tal modo le preoccupazioni associate alla diffusione di contenuti illegali e dannosi.

Questo approccio coinvolge anche il nostro lavoro a favore della prevenzione della diffusione di contenuti estremisti. Durante il periodo di riferimento, abbiamo rimosso cinque account per violazioni del nostro divieto di contenuti terroristici ed estremisti violenti, una leggera diminuzione rispetto all'ultimo ciclo di segnalazione.  Noi di Snap monitoriamo regolarmente i cambiamenti all'interno di questo spazio, cercando di mitigare ogni potenziale vettore di abuso sulla nostra piattaforma. Sia l'architettura della nostra piattaforma che il design delle funzionalità delle nostre Chat di gruppo aiutano a limitare la diffusione di contenuti e opportunità di aggregazione dannosa. Offriamo Chat di gruppo, ma sono di dimensioni limitate, non sono consigliate dagli algoritmi e non sono rilevabili sulla nostra piattaforma se non si è membri di quel determinato gruppo.

Durante questo periodo, abbiamo continuato a promuovere in modo proattivo le informazioni di sicurezza pubblica sul COVID-19 rivolte alla nostra comunità, anche attraverso la copertura fornita dai nostri partner editoriali Discover, attraverso annunci di servizio pubblico (public service announcements, PSAs), nonché sessioni di domande e risposte con funzionari della sanità pubblica, agenzie e esperti medici. Abbiamo inoltre utilizzato alcuni Strumenti creativi, come lenti e filtri con Realtà aumentata, tutti progettati per ricordare agli Snapchatter i consigli dei funzionari della salute pubblica. All'inizio di quest'anno, quando i vaccini sono diventati disponibili per i giovani negli Stati Uniti, abbiamo lanciato una nuova iniziativa con la Casa bianca per aiutare gli Snapchatter a rispondere a domande comuni e, a luglio, abbiamo collaborato con il Servizio Sanitario Nazionale del Regno Unito su uno sforzo simile.

Con il passare del tempo, ci impegniamo a continuare a rendere le nostre relazioni di trasparenza più complete e utili alle numerose parti coinvolte che hanno a cuore la sicurezza online, la trasparenza e la responsabilità multisettoriale. Siamo costantemente alla ricerca del modo in cui possiamo consolidare i nostri sforzi complessivi a favore della lotta ai contenuti dannosi e del contrasto agli attori nocivi per la comunità. Siamo inoltre grati ai numerosi partner per la sicurezza e ai collaboratori che ci aiutano costantemente a migliorarci.