Aiutare i giovani a prosperare nel mondo digitale comprende anche il guardare oltre le narrazioni semplicistiche che dipingono la vita online come intrinsecamente buona o intrinsecamente cattiva. Dobbiamo anche concentrarci sulle esperienze autentiche e quotidiane della Generazione Z per capire cosa consente loro di prosperare. Mentre entriamo in una nuova era caratterizzata dalla rapida ascesa dell'intelligenza artificiale generativa, il nostro impegno nel basare il nostro lavoro sulla sicurezza su una ricerca oggettiva è più importante che mai e contribuirà a garantire che Snapchat rimanga un servizio di comunicazione incentrato su autenticità, connessione, appartenenza e importanza.

Oggi condividiamo alcune nuove intuizioni del quinto e ultimo anno del nostro studio Indice del benessere digitale (DWBI), in particolare i risultati incentrati sul panorama in evoluzione dei contenuti generati dall'IA e sul suo impatto sulle relazioni interpersonali.

Negli ultimi cinque anni, Snap ha condotto una ricerca indipendente dalla piattaforma per monitorare e misurare il benessere psicologico online della Generazione Z. Conduciamo questo sondaggio per ampliare la base di prove globali sulle abitudini e le pratiche digitali dei giovani e per aumentare l'awareness delle preoccupazioni emergenti, in modo che genitori, educatori, aziende tecnologiche, governi e società civile possano collaborare in modo più efficace per mitigare i rischi, ridurre i potenziali danni e prevenirne il ripetersi. Il DWBI esamina le esperienze di giovani di età compresa tra i 13 e i 24 anni in sei paesi del più ampio ecosistema digitale, anziché concentrarsi su una singola piattaforma, incluso Snapchat. Gli ultimi risultati provenienti da Australia, Francia, Germania, India, Regno Unito e Stati Uniti includono nuove informazioni sulla creazione e sulla distribuzione di immagini deepfake tra la Generazione Z.

Il dibattito pubblico sull'IA spesso oscilla tra un ottimismo sfrenato e una profonda preoccupazione. Invece di basarsi su entrambi gli estremi, gli ultimi risultati del DWBI forniscono una visione basata su prove di come i giovani di età compresa tra i 13 e i 24 anni appartenenti alle sei aree geografiche si stanno impegnando con l'IA generativa. Questi risultati rivelano un quadro complesso e talvolta preoccupante di interazioni peer-to-peer che coinvolgono deepfake. Ad esempio:

• Quasi un terzo (30%) degli intervistati, di età compresa tra i 13 e i 24 anni, ha dichiarato di aver creato un deepfake di qualcun altro

• Più della metà (53%) di coloro che hanno creato un deepfake ha dichiarato che l'azione ha causato "drammi" o "conflitti" all'interno della loro cerchia sociale e 

• mentre la maggior parte degli utenti ha utilizzato strumenti di IA generativa per creatività, divertimento e intrattenimento, più di un terzo (35% netto) ha dichiarato che i deepfake da loro creati sono stati creati con intenzioni nefaste, in particolare per far sembrare qualcuno in cattivo aspetto o turbarlo (12%), a scopo di ritorsione (12%) o per prendere in giro o molestare un altro (11%). 

Alla domanda su come reagirebbe nello specifico a un deepfake a sfondo sessuale, la stragrande maggioranza (81% netto) degli adolescenti minori ha dichiarato che ne parlerebbe con qualcuno, vale a dire un genitore (65%), mentre sette giovani adulti su 10 della Generazione Z (70%) hanno dichiarato che ne parlerebbero con le forze dell'ordine (53%) e le piattaforme tecnologiche (51%) come principali canali di comunicazione. Più di un adolescente minore su 10 (18%) e più di due adolescenti su 10 di età compresa tra i 18 e i 24 anni (22%) hanno dichiarato che l'ignorerebbero semplicemente o che non intraprenderebbero nessuna delle azioni elencate. Il grafico seguente delinea le opzioni di azione proposte.

Questi risultati sottolineano una verità fondamentale: il benessere digitale nel XXI secolo richiede molto più di strumenti e risorse di sicurezza tradizionali; richiede una profonda e pratica alfabetizzazione sull'IA. Quando il 30% dei giovani dichiara di aver creato media sintetici in grado di coinvolgere i loro coetanei, tale attività potrebbe avere implicazioni sulle relazioni personali, sulla reputazione e sul senso di controllo di un individuo per il modo in cui viene rappresentato.

Di conseguenza, il dibattito incentrato sulle politiche deve abbandonare le reazioni basate sulla paura e orientarsi verso un quadro che incarni l'"interezza" della gioventù online di oggi. Possiamo considerare tre componenti fondamentali:

1. Alfabetizzazione sull'IA: aiutare i giovani a capire non solo come utilizzare l'IA, ma le conseguenze etiche e sociali della creazione di contenuti che potrebbero coinvolgere altre persone senza il loro consenso.

2. Controllo personale: per consentire ai giovani di riconoscere i propri confini e di cercare di mantenere il controllo sulla propria somiglianza digitale; e

3. Comunicazione aperta: incoraggiare adolescenti, genitori, educatori e altri adulti fidati ad avere conversazioni aperte e ponderate sulla qualità rispetto alla quantità delle interazioni digitali, riconoscendo che qualsiasi deepfake creato anche "per scherzo" può avere un impatto duraturo sugli altri.

Per inciso, alla domanda dove e da chi stessero imparando a utilizzare gli strumenti di IA in modo sicuro e responsabile, otto giovani su 10 di età compresa tra i 13 e i 24 anni (81% netto) hanno dichiarato di essere autodidatti. Un quarto (27%) dei giovani di età compresa tra i 13 e i 17 anni ha dichiarato di stare imparando dai genitori, mentre gli insegnanti rappresentavano un bambino su 10 delle conoscenze sia degli adolescenti (11%) che dei giovani adulti (10%).

I risultati fanno parte dello studio quinquennale di Snap sul benessere psicologico online della Generazione Z su varie piattaforme e segnano l'ultima e ultima edizione del nostro Indice annuale di benessere digitale (DWBI), una misura delle come gli adolescenti (di età compresa tra i 13 e i 17 anni) e i giovani adulti (di età compresa tra i 18 e i 24 anni) stiano navigando online nei sei paesi. Abbiamo inoltre intervistato i genitori di ragazzi tra i 13 e i 19 anni sulle esperienze online dei loro figli. Questo ultimo sondaggio è stato condotto tra il 11 maggio e il 30 maggio 2026 e includeva 9.005 intervistati appartenenti a tre fasce d'età e a sei aree geografiche. I risultati completi, inclusi gli ultimi dati del DWBI per ogni paese e per tutti e sei i paesi, saranno pubblicati in occasione della Giornata per la sicurezza su Internet nel febbraio 2027. Abbiamo scelto di rendere disponibili in anticipo questi risultati relativi all'IA, dato il dialogo globale in corso su molte di queste questioni.

Mentre concludiamo questo capitolo quinquennale di studio del benessere digitale e cambiamo l'obiettivo della nostra ricerca per i prossimi anni, la nostra missione a livello di ecosistema rimane chiara:  creare spazi online in cui i giovani possano imparare, ridere e connettersi nel modo più sicuro e trasparente possibile. L'aumento dei deepfake ci ricorda che, con l'evoluzione della tecnologia, i nostri sforzi operativi ed educativi devono evolversi di pari passo. Continuando a concentrarci sull'alfabetizzazione, sulla resilienza e sul pensiero critico, possiamo contribuire a garantire che la prossima generazione non si limiti a "cavarsela" online, ma possa davvero prosperare.

A sostegno di questi sforzi, il mese scorso, Snap ha annunciato che i video interamente generati dall'IA non saranno più idonei per la raccomandazione sulla funzione Spotlight di Snapchat. Infatti, mentre i contenuti di bassa qualità, ripetitivi e generati dall'IA stanno diventando sempre più comuni negli spazi online, Snap vuole che Spotlight rimanga un luogo in cui le persone possono scoprire l'autentica creatività di persone reali. Abbiamo inoltre creato una breve scheda informativa per genitori e adolescenti sul materiale generato dall'IA. "Fermati. Pensa Potrebbe essere l'IA?" è progettato per stimolare conversazioni tra adolescenti, genitori e altri adulti di fiducia sull'uso sicuro e responsabile degli strumenti di IA. Collaboriamo inoltre con numerosi altri gruppi e organizzazioni e siamo stati i primi a sostenere la campagna Know2Protect del Dipartimento della Sicurezza Interna degli Stati Uniti, per sensibilizzare l'opinione pubblica sullo sfruttamento e l'abuso sessuale dei minori. Know2Protect ha pubblicato qui un manuale introduttivo sui deepfake.   

Nel campo delle politiche pubbliche, Snap ha sostenuto il Take It Down Act, entrato in vigore nel maggio 2025, che ha istituito un quadro federale statunitense per affrontare il problema delle immagini intime non consensuali, compresi i contenuti generati dall'IA. La legge considera reato federale la pubblicazione consapevole o la minaccia di pubblicare immagini intime senza consenso, a prescindere dal fatto che il materiale sia autentico o sintetico, e richiede alle piattaforme interessate di fornire una procedura di segnalazione e rimuovere i contenuti segnalati entro 48 ore.

Preoccupazioni simili si riflettono nella campagna "No to nudify" lanciata in occasione della Giornata per la Safer Internet Day 2026, che ha riunito organizzazioni della società civile e della sicurezza dei minori, molte delle quali sono partner e collaboratori di Snap. WeProtect Global Alliance, INHOPE, Internet Watch Foundation, NCMEC, Child Helpline International, Offlimits e Safe Online hanno chiesto di vietare gli strumenti di nudificazione dell'IA. La campagna sostiene che le cosiddette app "nudify" non sono, in realtà sperimentazioni innocue, ma vengono utilizzate per creare immagini sessualizzate non consensuali da foto comuni e sono sempre più associate a molestie, coercizione, estorsione sessuale e abusi che colpiscono donne, bambine e bambini.

Snap partecipa inoltre a programmi pratici intersettoriali progettati per limitare la diffusione di tale materiale su Snapchat. Siamo membri del programma Take It Down dell'NCMEC per minori e dell'iniziativa StopNCII del SWGfL per minori di 18 anni o più, ricevendo e utilizzando firme digitali uniche, o "hash" per aiutare a rilevare immagini intime duplicate e rimuovere i contenuti che violano le nostre regole. Questi sforzi sono importanti perché si concentrano non solo sull'individuazione iniziale, ma sulla prevenzione della ricircolazione di immagini intime e deepfake a sfondo sessuale noti una volta che iniziano a diffondersi.

– Jacqueline Beauchere, Responsabile globale della sicurezza della piattaforma, Snap Inc.