At hjælpe unge mennesker med at trives i den digitale verden indebærer at se ud over forenklede fortællinger, der skildrer livet på nettet som enten iboende godt eller iboende dårligt. Vi skal også fokusere på Generation Z's autentiske hverdagsoplevelser for at forstå, hvad der gør det muligt for dem at trives. I takt med at vi går ind i en ny æra, der er defineret af den hurtige vækst inden for generativ AI, er vores engagement i at basere vores sikkerhedsarbejde på objektiv forskning vigtigere end nogensinde – og det vil bidrage til at sikre, at Snapchat forbliver en kommunikationstjeneste, der er centreret om autenticitet, forbindelse, tilhørsforhold og betydning.

I dag deler vi nogle nye indsigter fra det femte og sidste år af vores Digital Well-Being Index (DWBI)-undersøgelse, især resultater med fokus på det udviklende landskab af AI-genereret indhold og dets indvirkning på interpersonelle relationer.

I de sidste fem år har Snap gennemført platform-agnostisk forskning for at hjælpe med at spore og måle Generation Z's psykiske trivsel online. Vi gennemfører denne undersøgelse for at bidrage til den globale evidensbase om unges digitale vaner og adfærd, og den er med til at øge opmærksomheden omkring nye bekymringer, så forældre, undervisere, teknologivirksomheder, regeringer og civilsamfundet kan samarbejde mere effektivt om at mindske risiko, reducere potentiel skade og forhindre gentagelser. DWBI undersøger oplevelserne hos 13- til 24-årige i seks lande på tværs af det bredere digitale økosystem og fokuserer ikke på nogen enkelt platform, herunder Snapchat. De seneste resultater fra Australien, Frankrig, Tyskland, Indien, Storbritannien og USA indeholder ny indsigt i skabelsen og distributionen af deepfake-billeder blandt Generation Z.

Den offentlige debat om AI svinger ofte mellem grænseløs optimisme og dyb bekymring. I stedet for at læne sig op ad nogen af yderpunkterne giver de seneste DWBI-resultater et evidensbaseret billede af, hvordan 13-24-årige i de seks lande/områder engagerer sig i generativ AI. Disse resultater afslører et komplekst og til tider bekymrende billede af peer-to-peer-interaktioner, der involverer deepfakes. For eksempel:

• Næsten en tredjedel (30 %) af respondenterne i alderen 13 til 24 år rapporterede, at de havde skabt en deepfake af en anden person

• Mere end halvdelen (53 %) af dem, der havde skabt en deepfake, rapporterede, at handlingen resulterede i "drama" eller "konflikt" i deres sociale kredse. 

• Selvom flertallet brugte generative AI-værktøjer til kreativitet, sjov og underholdning, sagde mere end en tredjedel (35 % netto), at de deepfakes, de havde skabt, var lavet med ondsindede hensigter – specifikt: for at få nogen til at se dårlig ud eller gøre dem kede af det (12 %), som hævn (12 %) eller for at drille eller chikanere en anden (11 %). 

På spørgsmålet om, hvordan de specifikt ville reagere på en seksuel deepfake af dem selv, svarede langt størstedelen (81 % netto) af de mindreårige teenagere, at de ville tale med nogen – typisk en forælder (65 %) – mens syv ud af 10 unge i Generation Z (70 %) sagde, at de ville anmelde det, med politi/andre retshåndhævende myndigheder (53 %) og teknologiske platforme (51 %) som deres primære kanaler. Mere end én ud af 10 mindreårige teenagere (18 %) og mere end to ud af 10 18-24-årige (22 %) sagde, at de simpelthen ville ignorere det eller ikke ville foretage nogen af de nævnte handlinger. Diagrammet nedenfor viser de foreslåede handlemuligheder.

Disse resultater understreger en vigtig sandhed: Digital trivsel i det 21. århundrede kræver mere end traditionelle sikkerhedsværktøjer og ressourcer; det kræver dybdegående, praktiske AI-færdigheder. Når 30 % af de unge rapporterer at have skabt syntetiske medier, der involverer deres jævnaldrende, kan denne aktivitet få konsekvenser for personlige relationer, omdømme og en persons følelse af kontrol over, hvordan de bliver fremstillet.

Derfor er det nødvendigt, at politikfokuserede samtaler bevæger sig væk fra frygtbaserede reaktioner og hen imod en ramme, der omfatter "hele personen" hos unge på nettet i dag. Vi kan overveje tre kernekomponenter:

1. AI-færdigheder: At hjælpe unge mennesker med at forstå ikke kun, hvordan man bruger AI, men også de etiske og sociale konsekvenser af at skabe indhold, der kan involvere andre uden deres samtykke.

2. Personlig kontrol: At give unge mennesker redskaberne til at genkende grænser og bestræbe sig på at bevare kontrollen over deres egne digitale billeder, og

3. Åben kommunikation: At opmuntre teenagere, forældre, undervisere og andre betroede voksne til at føre åbne og velovervejede samtaler om kvaliteten frem for kvantiteten af digitale interaktioner, idet det anerkendes, at enhver deepfake, selv den der er lavet "som en joke", kan have varige konsekvenser for andre.

I øvrigt svarede otte ud af 10 13-24-årige (81 % netto), da de blev spurgt om, hvor og fra hvem de lærte at bruge AI-værktøjer sikkert og ansvarligt, at de var autodidakte. En fjerdedel (27 %) af de 13-17-årige sagde, at de lærte af deres forældre, mens lærere udgjorde en ud af 10 af både teenageres (11 %) og unge voksnes (10 %) vidensgrundlag.

Resultaterne er en del af Snaps femårige undersøgelse af Generation Z's psykiske trivsel online på tværs af forskellige platforme og markerer den seneste og sidste udgave af vores Digital Well-Being Index (DWBI), et mål for, hvordan teenagere (13-17 år) og unge voksne (18-24 år) klarer sig online i de seks lande. Vi spørger også forældre til 13-19-årige om deres teenageres onlineoplevelser. Denne seneste undersøgelse blev gennemført mellem den 11. og 30. maj 2026 og omfattede 9.005 respondenter på tværs af de tre aldersdemografiske grupper og seks lande/områder. De fulde resultater, herunder den seneste DWBI-aflæsning for hvert land og for alle seks tilsammen, vil blive offentliggjort på Safer Internet Day 2027 i februar. Vi valgte at offentliggøre disse AI-relaterede resultater tidligt på grund af den igangværende globale dialog om mange af disse emner.

Mens vi afslutter dette femårige kapitel om at studere digital trivsel og udvikler vores forskningsfokus i de kommende år, forbliver vores økosystemdækkende mission klar:  at skabe online rum, hvor unge mennesker kan lære, grine og forbinde sig så sikkert og autentisk som muligt. Fremkomsten af deepfakes er en påmindelse om, at vores operationelle og uddannelsesmæssige indsats må udvikle sig i takt med teknologien. Ved at fortsætte med at fokusere på læsefærdigheder, modstandsdygtighed og kritisk tænkning kan vi være med til at sikre, at den næste generation ikke bare "klarer sig" online, men virkelig trives.

Til støtte for disse bestræbelser meddelte Snap i sidste måned, at udelukkende AI-genererede videoer ikke længere vil være berettiget til anbefaling på Snapchats Spotlight-funktion. I takt med at gentagende AI-genereret indhold af lav kvalitet bliver mere og mere almindeligt på tværs af online platforme, ønsker Snap, at Spotlight forbliver et sted, hvor folk kan opdage autentisk kreativitet fra rigtige mennesker. Vi har også udarbejdet et kort faktablad til forældre og teenagere om AI-genereret materiale. "Stop. Tænk. Kan DETTE være AI?" er designet til at sætte gang i samtaler mellem teenagere, forældre og andre betroede voksne om sikker og ansvarlig brug af AI-værktøjer. Vi samarbejder også med talrige andre grupper og organisationer og var de første til at støtte det amerikanske Department of Homeland Securitys Know2Protect-kampagne for at øge bevidstheden om seksuel udnyttelse og misbrug af børn. Know2Protect offentliggjorde en introduktionsguide om deepfakes her.   

Inden for den offentlige politik støttede Snap Take It Down Act, som trådte i kraft i maj 2025 og etablerede en amerikansk føderal ramme for håndtering af intime billeder uden samtykke, herunder AI-genereret indhold. Loven gør det til en føderal forbrydelse bevidst at offentliggøre eller true med at offentliggøre intime billeder uden samtykke, uanset om materialet er autentisk eller syntetisk genereret, og den kræver, at de omfattede platforme tilbyder en rapporteringsproces og fjerner rapporteret indhold inden for 48 timer.

Lignende bekymringer afspejles i kampagnen "Nej til Nudify", som blev lanceret på Safer Internet Day 2026 og samlede organisationer for børnesikkerhed og civilsamfundet, hvoraf mange er Snaps partnere og samarbejdspartnere. WeProtect Global Alliance, INHOPE, Internet Watch Foundation, NCMEC, Child Helpline International, Offlimits og Safe Online opfordrede til et forbud mod AI-nudificeringsværktøjer. Kampagnen fastholder, at såkaldte "nudify"-apps ikke er uskyldig eksperimenteren, men i stedet bruges til at skab seksualiserede billeder uden samtykke ud fra almindelige fotos, og de er i stigende grad forbundet med chikane, tvang, seksuel afpresning og misbrug, der rammer kvinder, piger og børn.

Snap deltager også i praktiske programmer på tværs af brancher, der er designet til at begrænse spredningen af sådant materiale på Snapchat. Vi er medlemmer af NCMEC's Take It Down-program for mindreårige og SWGfL's StopNCII-indsats for personer over 18, hvor vi modtager og udnytter unikke digitale signaturer, eller "hashes", til at hjælpe med at opdage duplikerede intime billeder og fjerne indhold, der overtræder vores regler. Disse bestræbelser er vigtige, fordi de ikke kun fokuserer på indledende opdagelse, men også på at forhindre recirkulation af kendte intime billeder og seksuelle deepfakes, når de først begynder at sprede sig.

– Jacqueline Beauchere, global leder for platformsikkerhed hos Snap Inc.