Jungen Menschen zu helfen, sich in der digitalen Welt zu entfalten, bedeutet, über vereinfachende Erzählungen hinauszugehen, die das Online-Leben entweder als grundsätzlich gut oder grundsätzlich schlecht darstellen. Wir müssen uns auch auf die authentischen, alltäglichen Erfahrungen der Generation Z konzentrieren, um zu verstehen, was sie zum Gedeihen bringt. Da wir in eine neue Ära eintreten, die durch den rasanten Aufstieg generativer KI geprägt ist, ist unser Engagement, unsere Sicherheitsarbeit auf objektive Forschung zu stützen, wichtiger denn je – und es wird dazu beitragen, dass Snapchat ein Kommunikationsdienst bleibt, der auf Authentizität, Verbundenheit, Zugehörigkeit und Bedeutung ausgerichtet ist.

Heute teilen wir einige neue Erkenntnisse aus dem fünften und letzten Jahr unserer Studie zum Digital Well-Being Index (DWBI) – insbesondere Ergebnisse, die sich auf die sich entwickelnde Landschaft KI-generierter Inhalte und deren Auswirkungen auf zwischenmenschliche Beziehungen konzentrieren.

In den letzten fünf Jahren hat Snap plattformunabhängige Forschung betrieben, um das psychologische Wohlbefinden der Generation Z online zu verfolgen und zu messen. Wir führen diese Umfrage durch, um die globale Evidenzbasis zu den digitalen Gewohnheiten und Praktiken junger Menschen zu erweitern, und sie trägt dazu bei, das Bewusstsein für neu aufkommende Probleme zu schärfen, damit Eltern, Pädagogen, Technologieunternehmen, Regierungen und die Zivilgesellschaft effektiver zusammenarbeiten können, um Risiken zu mindern, potenzielle Schäden zu reduzieren und Wiederholungen zu verhindern. Der DWBI untersucht die Erfahrungen von 13- bis 24-Jährigen in sechs Ländern im weiteren digitalen Ökosystem, anstatt sich auf eine einzelne Plattform zu konzentrieren – einschließlich Snapchat. Die neuesten Ergebnisse aus Australien, Frankreich, Deutschland, Indien, dem Vereinigten Königreich und den USA enthalten neue Erkenntnisse zur Erstellung und Verbreitung von Deepfake-Bildern unter der Generation Z.

Der öffentliche Diskurs über KI schwankt oft zwischen ungezügeltem Optimismus und tiefen Bedenken. Anstatt sich auf eines der Extreme zu verlassen, bieten die neuesten DWBI-Ergebnisse eine evidenzbasierte Perspektive darauf, wie 13- bis 24-Jährige in den sechs Ländern mit generativer KI interagieren. Diese Ergebnisse zeigen ein komplexes und mitunter besorgniserregendes Bild von Peer-to-Peer-Interaktionen, die Deepfakes betreffen. Zum Beispiel:

• Fast ein Drittel (30 %) der Befragten im Alter von 13 bis 24 Jahren gab an, ein Deepfake von jemand anderem erstellt zu haben

• Mehr als die Hälfte (53 %) derjenigen, die ein Deepfake erstellt haben, gaben an, dass die Aktion zu "Drama" oder "Konflikten" in ihren sozialen Kreisen geführt hat 

• Während die Mehrheit generative KI-Tools für Kreativität, Spaß und Unterhaltung nutzte, gab mehr als ein Drittel (35 % netto) an, dass die von ihnen erstellten Deepfakes mit böswilliger Absicht erstellt wurden – konkret: um jemanden schlecht dastehen zu lassen oder ihn zu verärgern (12 %), als Vergeltung (12 %) oder um jemand anderen zu necken oder zu belästigen (11 %). 

Auf die Frage, wie sie speziell auf ein sexuelles Deepfake von sich selbst reagieren würden, antwortete die überwiegende Mehrheit (81 % netto) der minderjährigen Teenager, dass sie mit jemandem sprechen würden – in der Regel mit einem Elternteil (65 %) – während sieben von zehn jungen Erwachsenen der Generation Z (70 %) angaben, dass sie es melden würden, wobei Strafverfolgungsbehörden (53 %) und Technologieplattformen (51 %) ihre primären Anlaufstellen wären. Mehr als einer von zehn minderjährigen Teenagern (18 %) und mehr als zwei von zehn 18- bis 24-Jährigen (22 %) gaben an, dass sie es einfach ignorieren oder keine der aufgeführten Maßnahmen ergreifen würden. Die folgende Grafik zeigt die vorgeschlagenen Aktionsoptionen.

Diese Ergebnisse unterstreichen eine wesentliche Wahrheit: Digitales Wohlbefinden im 21. Jahrhundert erfordert mehr als herkömmliche Sicherheitstools und -ressourcen; es erfordert tiefgreifende, praxisnahe KI-Kenntnisse. Wenn 30 % der jungen Menschen berichten, synthetische Medien erstellt zu haben, an denen ihre Gleichaltrigen beteiligt sind, kann diese Aktivität Auswirkungen auf persönliche Beziehungen, den Ruf und das Gefühl haben, dass eine Person die Kontrolle darüber hat, wie sie dargestellt wird.

Dementsprechend müssen sich politische Gespräche von angstbasierten Reaktionen weg und hin zu einem Rahmenwerk bewegen, das die "ganze Person" junger Menschen im Internet verkörpert. Wir können drei Kernkomponenten betrachten:

1. KI-Kompetenz: Jungen Menschen zu helfen, nicht nur zu verstehen, wie man KI nutzt, sondern auch die ethischen und sozialen Konsequenzen der Erstellung von Inhalten, an denen andere ohne deren Einwilligung beteiligt sein können.

2. Persönliche Kontrolle: Junge Menschen zu befähigen, Grenzen zu erkennen und die Kontrolle über ihr eigenes digitales Abbild zu behalten, und

3. Offene Kommunikation: Jugendliche, Eltern, Pädagogen und andere vertrauenswürdige Erwachsene zu ermutigen, offene und durchdachte Gespräche über die Qualität im Vergleich zur Quantität digitaler Interaktionen zu führen, in dem Bewusstsein, dass jeder Deepfake, selbst wenn er "als Scherz" erstellt wurde, nachhaltige Auswirkungen auf andere haben kann.

Auf die Frage, wo und von wem sie lernen, KI-Tools sicher und verantwortungsvoll zu nutzen, antworteten acht von zehn 13- bis 24-Jährigen (81 % netto), dass sie Autodidakten sind. Ein Viertel (27 %) der 13- bis 17-Jährigen gab an, von ihren Eltern zu lernen, während Lehrer bei einem von zehn Jugendlichen (11 %) und jungen Erwachsenen (10 %) die Wissensquelle darstellten.

Die Ergebnisse sind Teil der fünfjährigen Studie von Snap zum psychologischen Wohlbefinden der Generation Z online auf verschiedenen Plattformen und stellen die neueste und letzte Ausgabe unseres Digital Well-Being Index (DWBI) dar – ein Maß dafür, wie es Teenagern (13 bis 17 Jahre) und jungen Erwachsenen (18 bis 24 Jahre) in den sechs Ländern online ergeht. Wir befragen auch Eltern von 13- bis 19-Jährigen zu den Online-Erfahrungen ihrer Teenager. Diese neueste Umfrage wurde zwischen dem 11. und 30. Mai 2026 durchgeführt und umfasste 9.005 Befragte aus den drei demografischen Angaben und sechs Ländern. Die vollständigen Ergebnisse, einschließlich der neuesten DWBI-Werte für jedes Land und für alle sechs Länder zusammen, werden am Safer Internet Day 2027 im Februar veröffentlicht. Wir haben uns entschieden, diese KI-bezogenen Ergebnisse angesichts des laufenden globalen Dialogs zu vielen dieser Themen frühzeitig zu veröffentlichen.

Während wir dieses fünfjährige Kapitel zur Erforschung des digitalen Wohlbefindens abschließen und unseren Forschungsschwerpunkt für die kommenden Jahre weiterentwickeln, bleibt unsere ökosystemweite Mission klar: Online-Räume zu schaffen, in denen junge Menschen so sicher und authentisch wie möglich lernen, lachen und miteinander in Kontakt treten können. Der Aufstieg von Deepfakes ist eine Erinnerung daran, dass sich unsere operativen und pädagogischen Bemühungen mit der Weiterentwicklung der Technologie weiterentwickeln müssen. Indem wir uns weiterhin auf Kompetenz, Resilienz und kritisches Denken konzentrieren, können wir dazu beitragen, dass die nächste Generation online nicht nur "zurechtkommt", sondern wirklich aufblüht.

Zur Unterstützung dieser Bemühungen gab Snap im vergangenen Monat bekannt, dass vollständig KI-generierte Videos nicht mehr für eine Empfehlung auf Snapchats Spotlight-Funktion in Frage kommen. Da qualitativ minderwertige, sich wiederholende, KI-generierte Inhalte im Online-Raum immer häufiger werden, möchte Snap, dass Spotlight weiterhin ein Ort bleibt, an dem Menschen authentische Kreativität von echten Menschen entdecken können. Wir haben außerdem ein kurzes Factsheet für Eltern und Jugendliche zu KI-generiertem Material erstellt. „Stopp. Denk nach. Könnte DAS KI sein?“ ist so konzipiert, dass es Gespräche zwischen Teenagern, Eltern und anderen vertrauenswürdigen Erwachsenen über die sichere und verantwortungsvolle Nutzung von KI-Tools anregt. Wir arbeiten auch mit zahlreichen anderen Gruppen und Organisationen zusammen und waren die ersten, die die Know2Protect-Kampagne des US-Heimatschutzministeriums unterstützt haben, um das Bewusstsein für sexuelle Ausbeutung und Missbrauch von Kindern zu schärfen. Know2Protect hat hier eine Einführung zu Deepfakes veröffentlicht.  

Im Bereich der öffentlichen Politik unterstützte Snap den Take It Down Act, der im Mai 2025 in Kraft trat und einen US-Bundesrahmen für den Umgang mit nicht einvernehmlichen intimen Bildern schuf, einschließlich KI-generierter Inhalte. Das Gesetz macht es zu einer bundesstaatlichen Straftat, wissentlich intime Bilder ohne Einwilligung zu veröffentlichen oder damit zu drohen, unabhängig davon, ob das Material authentisch oder synthetisch erzeugt ist, und es verlangt von den betroffenen Plattformen, einen Meldeweg anzubieten und gemeldete Inhalte innerhalb von 48 Stunden zu entfernen.

Ähnliche Bedenken spiegeln sich in der "No to Nudify"-Kampagne wider, die am Safer Internet Day 2026 gestartet wurde und Organisationen aus dem Bereich Kinderschutz und der Zivilgesellschaft zusammenbrachte, von denen viele Snap-Partner und -Kooperationspartner sind. Die WeProtect Global Alliance, INHOPE, die Internet Watch Foundation, NCMEC, Child Helpline International, Offlimits und Safe Online forderten ein Verbot von KI-Tools zur Erstellung von Nacktbildern. Die Kampagne vertritt die Auffassung, dass sogenannte "Nudify"-Apps keine harmlosen Experimente sind, sondern stattdessen verwendet werden, um nicht einvernehmliche sexualisierte Bilder aus gewöhnlichen Fotos zu erstellen, und zunehmend mit Belästigung, Nötigung, sexueller Erpressung und Missbrauch von Frauen, Mädchen und Kindern in Verbindung gebracht werden.

Snap beteiligt sich auch an praktischen, branchenübergreifenden Programmen, die darauf abzielen, die Verbreitung solcher Materialien auf Snapchat zu begrenzen. Wir sind Mitglieder des Take It Down-Programms von NCMEC für Minderjährige und der StopNCII-Initiative von SWGfL für Personen ab 18 Jahren. Dabei empfangen und nutzen wir einzigartige digitale Signaturen oder "Hashes", um doppelte intime Bilder zu erkennen und Inhalte zu entfernen, die gegen unsere Regeln verstoßen. Diese Bemühungen sind wichtig, weil sie sich nicht nur auf die erste Erkennung konzentrieren, sondern auch darauf, die erneute Verbreitung bekannter intimer Bilder und sexueller Deepfakes zu verhindern, sobald sie sich auszubreiten beginnen.

– Jacqueline Beauchere, Global Head of Platform Safety, Snap Inc.