Att hjälpa ungdomar att blomstra i den digitala världen innebär att se bortom förenklade berättelser som skildrar livet online som antingen bra eller dåligt. Vi måste också fokusera på Generation Z:s autentiska, vardagliga upplevelser för att förstå vad som gör det möjligt för dem att trivas. När vi går in i en ny era som definieras av den snabba uppkomsten av generativ AI är vårt åtagande att grunda vårt säkerhetsarbete i objektiv forskning mer viktigt än någonsin – och det kommer att hjälpa till att se till att Snapchat förblir en kommunikationstjänst som är centrerad på autenticitet, gemenskap, tillhörighet och betydelse.

Idag delar vi några nya insikter från det femte och sista året av vår studie om Index för digitalt välbefinnande (DWBI), särskilt resultat centrerade på det föränderliga landskapet av AI-genererat innehåll och dess inverkan på interpersonliga relationer.

Under de senaste fem åren har Snap bedrivit plattformsagnostisk forskning för att hjälpa till att spåra och mäta Generation Z:s psykologiska välbefinnande online. Vi genomför denna undersökning för att bidra till det globala kunskapsunderlaget om ungdomars digitala vanor och metoder, och den hjälper till att öka medvetenheten om framväxande problem så att föräldrar, lärare, teknikföretag, regeringar och det civila samhället kan arbeta tillsammans mer effektivt för att minska risker, minska potentiell skada och förhindra upprepning. DWBI undersöker upplevelserna för 13–24-åringar i sex länder i det bredare digitala ekosystemet, snarare än att fokusera på någon enskild plattform, inklusive Snapchat. De senaste resultaten från Australien, Frankrike, Tyskland, Indien, Storbritannien och USA inkluderar nya insikter om skapandet och distributionen av deepfake-bilder bland Generation Z.

Den offentliga debatten kring AI svänger ofta mellan otyglad optimism och djup oro. Snarare än att förlita sig på endera ytterligheten ger de senaste DWBI-resultaten en evidensbaserad bild av hur 13–24-åringar i de sex geografiska områdena använder generativ AI. Dessa resultat avslöjar en komplex och ibland oroande bild av peer-to-peer-interaktioner som involverar deepfakes. Till exempel:

• Nästan en tredjedel (30 %) av de svarande, i åldern 13–24 år, rapporterade att de hade skapat en deepfake av någon annan

• Mer än hälften (53 %) av de som skapade en deepfake rapporterade att åtgärden resulterade i ”drama” eller ”konflikt” inom deras sociala kretsar, och 

• Medan majoriteten använde generativ AI för kreativitet, nöje och underhållning, sa mer än en tredjedel (35 % netto) att de deepfakes de skapade gjordes med ont uppsåt, specifikt: för att få någon att framstå i dålig dager eller för att göra denne upprörd (12 %), som vedergällning (12 %) eller för att reta eller trakassera någon annan (11 %).

På frågan hur de skulle reagera specifikt på en sexuell deepfake av sig själva sa den stora majoriteten (81 % netto) av minderåriga tonåringar att de skulle prata med någon, nämligen en förälder (65 %), medan sju av tio unga vuxna i generation Z (70 %) sa att de skulle rapportera det, främst till brottsbekämpande myndigheter (53 %) och teknikplattformar (51 %). Mer än en av 10 minderåriga tonåringar (18 %) och mer än två av 10 18–24-åringar (22 %) sa att de helt enkelt skulle ignorera det eller inte vidta någon av de listade åtgärderna. Diagrammet nedan beskriver de föreslagna åtgärdsalternativen.

Dessa resultat understryker en kritisk sanning: digitalt välbefinnande på 2000-talet kräver mer än traditionella säkerhetsverktyg och resurser; det kräver djup, praktisk AI-kompetens. När 30 % av ungdomar rapporterar att de har skapat syntetiska medier som involverar deras kamrater, kan den aktiviteten ha konsekvenser för personliga relationer, rykten och en individs känsla av kontroll över hur hen porträtteras.

Följaktligen måste policyfokuserade konversationer röra sig bort från rädslebaserade reaktioner och mot ett ramverk som förkroppsligar ”hela personen” hos dagens ungdomar online. Vi kan överväga tre kärnkomponenter:

1. AI-kompetens: Att hjälpa ungdomar att förstå inte bara hur man använder AI, utan de etiska och sociala konsekvenserna av att skapa innehåll som kan involvera andra utan deras medgivande.

2. Personlig kontroll: Att ge ungdomar möjlighet att känna igen gränser och att försöka behålla kontrollen över sina egna digitala avbilder, och

3. Öppen kommunikation: För att uppmuntra tonåringar, föräldrar, lärare och andra betrodda vuxna att ha öppna och genomtänkta samtal om kvalitet kontra kvantitet i digitala interaktioner, och inse att varje deepfake som skapas, även "som ett skämt", kan få bestående effekter på andra.

På frågan om var och av vem de lärde sig att använda AI-verktyg på ett säkert och ansvarsfullt sätt svarade för övrigt åtta av tio 13–24-åringar (81 % totalt) att de var självlärda. En fjärdedel (27 %) av 13- till 17-åringarna sa att de lärde sig av sina föräldrar, medan lärare stod för en av 10 av både tonåringars (11 %) och unga vuxnas (10 %) kunskapsbaser.

Resultaten är en del av Snaps femåriga studie av Generation Z:s psykologiska välbefinnande online på olika plattformar och markerar den senaste och sista delen av vårt Digital Well-Being Index (DWBI), ett mått på hur tonåringar (13–17 år) och unga vuxna (18–24 år) har det online i de sex länderna. Vi undersöker också föräldrar till 13–19-åringar om deras tonåringars upplevelser online. Den senaste undersökningen genomfördes mellan den 11 maj och 30 maj 2026 och inkluderade 9 005 svarande inom de tre åldersrelaterade demografierna och sex geografiska områden. Fullständiga resultat, inklusive den senaste DWBI-mätningen för varje land och för alla sex kombinerat, kommer att publiceras på Safer Internet Day 2027 i februari. Vi valde att göra dessa AI-relaterade fynd tillgängliga tidigt med tanke på den pågående globala dialogen om många av dessa frågor.

När vi avslutar detta femåriga kapitel om att studera digitalt välbefinnande och utvecklar vårt forskningsfokus för de kommande åren, förblir vårt ekosystemomfattande uppdrag tydligt:  att bygga onlineutrymmen där ungdomar kan lära, skratta och knyta an så säkert och autentiskt som möjligt. Ökningen av deepfakes är en påminnelse om att när tekniken utvecklas måste våra operativa och utbildningsinsatser utvecklas med den. Genom att fortsätta fokusera på läs- och skrivkunnighet, motståndskraft och kritiskt tänkande kan vi hjälpa till att se till att nästa generation inte bara "klarar sig" online, utan verkligen stortrivs.

Som stöd för dessa insatser meddelade Snap förra månaden att helt AI-genererade videor inte längre kommer att vara berättigade till rekommendation på Snapchats Spotlight-funktion. Eftersom lågkvalitativt, repetitivt, AI-genererat innehåll blir allt vanligare på nätet, vill Snap att Spotlight ska förbli en plats där människor upptäcker autentisk kreativitet från riktiga människor. Vi skapade också ett kort faktablad för föräldrar och tonåringar om AI-genererat material. ”Stanna. Tänk. Kan DET HÄR vara AI?” är utformad för att sätta igång konversationer mellan tonåringar, föräldrar och andra betrodda vuxna om säker och ansvarsfull användning av AI-verktyg. Vi samarbetar också med många andra grupper och organisationer, och var de första att stödja kampanjen Know2Protect från USA:s departement för inre säkerhet, som ökar medvetenheten om sexuellt utnyttjande och övergrepp mot barn. Know2Protect publicerade en introduktion om deepfakes här.

Inom samhällsfrågor stödde Snap Take It Down Act, som trädde i kraft i maj 2025 och etablerade ett federalt ramverk i USA för att hantera intima bilder utan samtycke, inklusive AI-genererat innehåll. Lagen gör det till ett federalt brott att medvetet publicera eller hota att publicera intima bilder utan medgivande, oavsett om materialet är autentiskt eller syntetiskt genererat, och den kräver att omfattade plattformar tillhandahåller en rapporteringsprocess och tar bort rapporterat innehåll inom 48 timmar.

Liknande farhågor återspeglas i kampanjen ”No to Nudify” som lanserades på Safer Internet Day 2026 och sammanförde organisationer för barnsäkerhet och det civila samhället, varav många är Snap-partner och samarbetspartner. WeProtect Global Alliance, INHOPE, Internet Watch Foundation, NCMEC, Child Helpline International, Offlimits och Safe Online krävde ett förbud mot AI-nakenverktyg. Kampanjen anser att så kallade ”naken”-appar inte är i själva verket ofarliga experiment, utan används istället för att skapa icke-konsensuella sexualiserade bilder från vanliga foton och kopplas allt mer till trakasserier, tvång, sexuell utpressning och övergrepp mot kvinnor, flickor och barn.

Snap deltar också i praktiska branschövergripande program som är utformade för att begränsa spridningen av sådant material på Snapchat. Vi är medlemmar i NCMEC:s Take It Down-program för minderåriga och SWGfL:s StopNCII-satsning för 18+, där vi tar emot och utnyttjar unika digitala signaturer, eller ”hashar”, för att hjälpa till att upptäcka dubbletter av intima bilder och ta bort innehåll som bryter mot våra regler. Dessa insatser är viktiga eftersom de inte bara fokuserar på initial upptäckt, utan på att förhindra återcirkulation av kända intima bilder och sexuella deepfakes när de börjar sprida sig.

– Jacqueline Beauchere, global chef för plattformssäkerhet, Snap Inc.