Während wir dieses fünfjährige Kapitel zur Erforschung des digitalen Wohlbefindens abschließen und unseren Forschungsschwerpunkt für die kommenden Jahre weiterentwickeln, bleibt unsere ökosystemweite Mission klar: Online-Räume zu schaffen, in denen junge Menschen so sicher und authentisch wie möglich lernen, lachen und miteinander in Kontakt treten können. Der Aufstieg von Deepfakes ist eine Erinnerung daran, dass sich unsere operativen und pädagogischen Bemühungen mit der Weiterentwicklung der Technologie weiterentwickeln müssen. Indem wir uns weiterhin auf Kompetenz, Resilienz und kritisches Denken konzentrieren, können wir dazu beitragen, dass die nächste Generation online nicht nur "zurechtkommt", sondern wirklich aufblüht.
Zur Unterstützung dieser Bemühungen gab Snap im vergangenen Monat bekannt, dass vollständig KI-generierte Videos nicht mehr für eine Empfehlung auf Snapchats Spotlight-Funktion in Frage kommen. Da qualitativ minderwertige, sich wiederholende, KI-generierte Inhalte im Online-Raum immer häufiger werden, möchte Snap, dass Spotlight weiterhin ein Ort bleibt, an dem Menschen authentische Kreativität von echten Menschen entdecken können. Wir haben außerdem ein kurzes Factsheet für Eltern und Jugendliche zu KI-generiertem Material erstellt. „Stopp. Denk nach. Könnte DAS KI sein?“ ist so konzipiert, dass es Gespräche zwischen Teenagern, Eltern und anderen vertrauenswürdigen Erwachsenen über die sichere und verantwortungsvolle Nutzung von KI-Tools anregt. Wir arbeiten auch mit zahlreichen anderen Gruppen und Organisationen zusammen und waren die ersten, die die Know2Protect-Kampagne des US-Heimatschutzministeriums unterstützt haben, um das Bewusstsein für sexuelle Ausbeutung und Missbrauch von Kindern zu schärfen. Know2Protect hat hier eine Einführung zu Deepfakes veröffentlicht.
Im Bereich der öffentlichen Politik unterstützte Snap den Take It Down Act, der im Mai 2025 in Kraft trat und einen US-Bundesrahmen für den Umgang mit nicht einvernehmlichen intimen Bildern schuf, einschließlich KI-generierter Inhalte. Das Gesetz macht es zu einer bundesstaatlichen Straftat, wissentlich intime Bilder ohne Einwilligung zu veröffentlichen oder damit zu drohen, unabhängig davon, ob das Material authentisch oder synthetisch erzeugt ist, und es verlangt von den betroffenen Plattformen, einen Meldeweg anzubieten und gemeldete Inhalte innerhalb von 48 Stunden zu entfernen.
Ähnliche Bedenken spiegeln sich in der "No to Nudify"-Kampagne wider, die am Safer Internet Day 2026 gestartet wurde und Organisationen aus dem Bereich Kinderschutz und der Zivilgesellschaft zusammenbrachte, von denen viele Snap-Partner und -Kooperationspartner sind. Die WeProtect Global Alliance, INHOPE, die Internet Watch Foundation, NCMEC, Child Helpline International, Offlimits und Safe Online forderten ein Verbot von KI-Tools zur Erstellung von Nacktbildern. Die Kampagne vertritt die Auffassung, dass sogenannte "Nudify"-Apps keine harmlosen Experimente sind, sondern stattdessen verwendet werden, um nicht einvernehmliche sexualisierte Bilder aus gewöhnlichen Fotos zu erstellen, und zunehmend mit Belästigung, Nötigung, sexueller Erpressung und Missbrauch von Frauen, Mädchen und Kindern in Verbindung gebracht werden.
Snap beteiligt sich auch an praktischen, branchenübergreifenden Programmen, die darauf abzielen, die Verbreitung solcher Materialien auf Snapchat zu begrenzen. Wir sind Mitglieder des Take It Down-Programms von NCMEC für Minderjährige und der StopNCII-Initiative von SWGfL für Personen ab 18 Jahren. Dabei empfangen und nutzen wir einzigartige digitale Signaturen oder "Hashes", um doppelte intime Bilder zu erkennen und Inhalte zu entfernen, die gegen unsere Regeln verstoßen. Diese Bemühungen sind wichtig, weil sie sich nicht nur auf die erste Erkennung konzentrieren, sondern auch darauf, die erneute Verbreitung bekannter intimer Bilder und sexueller Deepfakes zu verhindern, sobald sie sich auszubreiten beginnen.
– Jacqueline Beauchere, Global Head of Platform Safety, Snap Inc.
