Jeder verdient es, sich online sicher zu fühlen und die Kontrolle über seine Bilder zu haben. Auf Snapchat verbieten wir ausdrücklich das Teilen, Bewerben oder Verbreiten von Inhalten, die eindeutig sexueller Natur sind. Das gilt auch für nicht-einvernehmliche intime Bilder. Mit der Hilfe des Gesetzgebers können wir jedoch Branchenstandards festlegen und stärken und einen besseren Schutz vor dieser Art von Schädigung gewährleisten. Deshalb sind wir stolz darauf, H.R. 633, auch bekannst als TAKE IT DOWN (Tools to Address Known Exploitation by Immobilizing Technological Deepfakes On Websites and Networks) Act, zu unterstützen.

Der TAKE IT DOWN Act macht die Veröffentlichung von NCII und ähnlichen Bildern zu einer Bundesstraftat. Websites und Plattformen wie Snapchat sind außerdem verpflichtet, solche Bilder innerhalb von 48 Stunden nach der Anfrage des Opfers zu entfernen und angemessene Anstrengungen zu unternehmen, um Kopien solcher Bilder zu identifizieren und zu entfernen. Dieses Gesetz ist nicht nur ein wichtiger Schritt, um Menschen vor der unbefugten Weitergabe ihrer privaten Bilder zu schützen, sondern auch, um die Verbreitung von KI-generierten intimen Bildern einzuschränken, die genauso schädlich sein können.

Bei Snap hat der Schutz unserer Community – insbesondere unserer jüngeren Nutzer – höchste Priorität. Der TAKE IT DOWN Act steht im Einklang mit unseren laufenden Bemühungen, böswillige Akteure daran zu hindern, NCII und Bilder von sexueller Ausbeutung und sexuellem Missbrauch von Kindern (CSEAI) online zu verbreiten, und ergänzt diese. Unsere Arbeit umfasst:

• Schnelles Handeln bei Meldungen

Unsere 24/7-Sicherheitsteams reagieren umgehend auf Meldungen von Belästigungen oder sexuellen Inhalten, um schnell zu handeln, wenn Snapchat-User Hilfe brauchen. Wir machen das Melden in der App einfach. Snapchat-User können nun einzelne Nachrichten, Storys oder Konten direkt aus den Konversationen heraus melden. Wir haben außerdem bestimmte Kategorien für Personen, die NCII und CSEAI melden können. Damit können unsere Sicherheitsteams diese Meldungen priorisieren und schnell handeln.

• Unterstützung von Opfern durch branchenweite Partnerschaften

Wir nehmen aktiv am Take It Down-Programm des National Center for Missing and Exploited Children (NCMEC) teil, mit dem Minderjährige digitale „Fingerabdrücke“ von Intimbildern erstellen können, ohne die tatsächlichen Bilder zu teilen. Wir verwenden diese Fingerabdrücke, um übereinstimmende Inhalte auf Snapchat zu erkennen und alles zu entfernen, was gegen unsere Richtlinien verstößt. Wir nehmen außerdem an ähnlichen Programmen wie Melden und Entfernen im Vereinigten Königreich teil, ebenfalls für Minderjährige, und StopNCII für 18+ Jahre. Diese tragen alle dazu bei, die Verbreitung intimer Bilder auf unserer Plattform zu verhindern.

• Fortschrittliche Technologie zum Erkennen und Entfernen schädlicher Inhalte

Wir verwenden spezialisierte Technologie wie PhotoDNA, um bekannte illegale Bilder zu erkennen, und CSAI-Match von Google für bekannte illegale Videos. Wir nutzen außerdem die Content-Sicherheits-API von Google, um illegale Bilder zu identifizieren, die noch nicht gemeldet oder gehasht wurden.

• Schutz von Jugendlichen vor Fremden und verdächtigen Konten

Um dem jüngsten Trend Sextortion-Betrug entgegenzuwirken, haben wir Schutzmaßnahmen für jüngere Nutzer eingeführt, die verhindern, dass Fremde ihre Profile finden und mit ihnen in Kontakt treten können. Wir warnen Jugendliche vor verdächtigen Freundschaftsanfragen und verhindern die Zustellung einer Freundschaftsanfrage ganz, wenn sie von einem Konto ohne gemeinsame Freunde an einen Jugendlichen gestellt wird oder wenn der Account in der Vergangenheit an Orten auf Snapchat zugegriffen hat, die mit Betrugsaktivitäten in Verbindung gebracht werden. Wir ergreifen außerdem Maßnahmen, um zu verhindern, dass Straftäter neue Konten auf demselben Gerät erstellen oder dieselbe E-Mail-Adresse oder Telefonnummer verwenden.

• Zusammenarbeit mit den Strafverfolgungsbehörden

Unser Team für Strafverfolgungsmaßnahmen ist erheblich gewachsen, sodass wir besser mit den Behörden zusammenarbeiten und die Sicherheit von Snapchattern gewährleisten. Wir veranstalten einen jährlichen Gipfel der Strafverfolgung in den USA und arbeiten mit internationalen Strafverfolgungsbehörden zusammen, unter anderem in Westafrika, wo viele Sextortion-Fälle ihren Ursprung haben. In Notfällen antworten wir in der Regel innerhalb von 30 Minuten auf entsprechende Anfragen der Strafverfolgungsbehörden zur Offenlegung von Daten. Wenn wir Kenntnis von sexueller Ausbeutung von Kindern erhalten – entweder indem sie uns gemeldet wird und/oder wir sie proaktiv identifizieren – melden wir es dem NCMEC, das sich wiederum gegebenenfalls mit den nationalen und internationalen Strafverfolgungsbehörden abstimmt.

• Bildung und Bewusstsein 

Um unsere Community direkt zu informieren, haben wir In-App-Kurzvideos über sexuelle Risiken und potenzielle Gefahren über unseren „Safety-Snapshot “-Channel auf Entdecken gestartet. Zu den Themen gehören finanzielle Sextortion und die Folgen des Aufnehmens und Teilens von Aktbildern. Darüber hinaus haben wir Ressourcen für Eltern und Pädagogen entwickelt, die ihnen helfen sollen zu verstehen, wie Jugendliche Snapchat nutzen und welche Sicherheitsmaßnahmen es zu ihrer Sicherheit gibt. Unser SnapCouncil for Digital Well-Being bringt Jugendliche zusammen, um sich für sicherere Online-Gewohnheiten in ihren Schulen und Communities einzusetzen. Wir arbeiten auch mit Experten zusammen, um Initiativen wie Know2Protect, zu unterstützen, eine nationale Kampagne zur Sensibilisierung der Öffentlichkeit, die vom US-Heimatschutzministerium ins Leben gerufen wurde, um Verbrechen wie finanzielle Erpressung zu verhindern und zu bekämpfen.

Unser fortlaufendes Engagement 

Wir sind zwar mit unserem Fortschritt zufrieden, wissen jedoch, dass unsere Arbeit niemals beendet sein wird. Bei Snap werden wir weiterhin das Bewusstsein für potenzielle Online-Gefahren schärfen, neue Technologien entwickeln, um verletzende Inhalte zu erkennen, und mit Branchenpartnern, Regierungs- und Strafverfolgungsbehörden, der Zivilgesellschaft, Eltern und jungen Menschen selbst zusammenarbeiten. 

Durch die Unterstützung des TAKE IT DOWN Acts und die Fortsetzung unserer Sicherheitsbemühungen arbeiten wir auf eine Zukunft hin, in der jeder online mit Freunden und Familie in Kontakt treten kann, ohne Angst vor Ausbeutung oder Missbrauch zu haben.

Die Sicherheit jedes Snapchatters ist uns sehr wichtig und wir bleiben bestrebt, unsere Plattform zu einer feindlichen Umgebung fürböswillige Akteure und zu einem gesunden Raum für echte Verbindungen zu machen.