Snap engagiert sich stark für die Sicherheit der Snapchat-Community. Unser Ziel ist es, die Nutzer vor einer Reihe von Online-Risiken und potenziellen Schäden zu schützen, die das gesamte digitale Ökosystem umfassen, einschließlich abscheulicher Verbrechen wie der sexuellen Ausbeutung und des sexuellen Missbrauchs von Kindern (CSEA). Snap kämpft seit Jahren gegen diese illegalen Inhalte und dieses abscheuliche kriminelle Verhalten und setzt dabei sowohl proaktive Erkennungs- als auch reaktive Maßnahmen in der Snapchat-App ein. Im vergangenen Jahr haben wir zusätzliche Änderungen an unseren diesbezüglichen Richtlinien und Prozessen vorgenommen, um die Täter vor Gericht zu bringen. Über diese Arbeit möchten wir hier mehr berichten.

Was ist CSEA?

Sexuelle Ausbeutung und sexueller Missbrauch von Kindern umfassen eine Reihe illegaler Aktivitäten, die sexuelle Schädigung von Minderjährigen beinhalten, darunter: das Ansehen, die Produktion und die Verbreitung von Darstellungen von sexueller Ausbeutung und sexuellem Missbrauch von Kindern (CSEAI), einschließlich der neueren Bedrohung durch KI-generierte Fotos und Videos; das Online-Grooming oder die Anbahnung von Kontakten zu Minderjährigen zu sexuellen Zwecken; ¹sexuelle Erpressung; ²Sexhandel mit Minderjährigen; und das Live-Streaming von sexuellem Missbrauch und Folter von Kindern. ³Es ist schwer zu begreifen, dass diese abstoßenden Realitäten tatsächlich existieren. Aber leider hat es solchen Missbrauch schon immer gegeben – und die digitale Welt bietet nun eine alternative Form des Missbrauchs, die die Begehungsweisen schneller und weitreichender macht.

„Die Technologie hat die Art und Weise, wie Menschen mit sexuellem Interesse an Kindern über sie fantasieren, auf sie zugreifen und sie ausbeuten, grundlegend verändert“, sagte Ernie Allen, Vorsitzender der in London ansässigenWeProtect Global Alliance. „DieNew York Timesschrieb: ‚Die Krise der sexuellen Ausbeutung von Kindern im Internet hat einen kritischen Punkt erreicht.‘ Es wurde darauf hingewiesen, dass die Zahl der Meldungen eskaliert, die Täter Bilder von jüngeren Opfern und noch abscheulicheren Verbrechen teilen und die Strafverfolgungsbehörden Schwierigkeiten haben, Schritt zu halten. Wenn man dieser Herausforderung neue Varianten hinzufügt, wie Sextortion, die laut FBI um 7.200 % zugenommen hat, Live-Streaming-Missbrauch und andere, ist es klar, dass dieses Problem weltweit ganz oben auf der politischen Agenda stehen sollte“, fügte er hinzu.

Rechtliche Verpflichtungen von Technologieunternehmen

Wenn US-amerikanische Technologieunternehmen auf ihren Plattformen oder Diensten von CSEA Kenntnis erlangen, sind sie gesetzlich verpflichtet, dies dem National Center for Missing and Exploited Children (NCMEC) zu melden. Das NCMEC prüft dann diese CyberTips und arbeitet mit nationalen und internationalen Strafverfolgungsbehörden zusammen, um die minderjährigen Opfer zu schützen und die Täter zu bestrafen.

Bis zum letzten Jahr war die jährliche Gesamtzahl der CyberTips an das NCMEC von Jahr zu Jahr weitgehend gestiegen und erreichte einen Rekordwert von 36,2 Millionen Meldungen ⁴im Jahr 2023, gegenüber etwas mehr als 32 Millionen im Jahr 2022 und 4.560 im Jahr 1998, als die CyberTipline des NCMEC eingerichtet wurde. Dieser Rekordanstieg bei den CyberTips – neben anderen Faktoren, einschließlich eines anhaltenden Anstiegs der sexuellen Erpressung weltweit und des Feedbacks, das wir von den Strafverfolgungsbehörden über die Umsetzbarkeit unserer eigenen CyberTips erhalten haben – veranlasste Snap, sich 2024 erstmals an das NCMEC zu wenden, um unsere CyberTip-Meldungen neu zu kalibrieren.

Ich habe die CyberTip-Meldungen über mehrere Jahre hinweg beobachtet und bin der festen Überzeugung, dass die Praxis einiger Technologieunternehmen dazu tendiert hat, zu meldenallesan das NCMEC – sogar über ihre gesetzliche Verpflichtung hinaus – aus Angst, beschuldigt zu werden, etwas übersehen zu habenetwas. ⁵Unternehmen, die ihrer gesetzlichen Meldepflicht nicht nachkommen, müssen mit hohen Geldstrafen rechnen. Aber dieser Meldeansatz, gepaart mit der geringen Umsetzbarkeit vieler Meldungen (entweder weil den CyberTips der ausreichende Kontext für die Strafverfolgungsbehörden fehlt oder weil das gemeldete Verhalten in einigen Fällen für sie keine Priorität hat), hat zu einer wachsenden Zahl von CyberTips, mehrfachen, umfangreichen Überprüfungen und zunehmender Frustration bei den Strafverfolgungsbehörden geführt.

Ziel: Hochwertige CyberTips

Das Ziel unserer Neukalibrierung mit dem NCMEC war es, die Umsetzbarkeit und den Wert der CyberTips von Snap weiter zu erhöhen, indem wir unsere eigenen Plattformrichtlinien und die Protokolle, die wir für die Meldung an das NCMEC haben, verfeinern. Diese erste Neukalibrierung fand im Mai 2024 statt, und unsere Richtlinienänderungen traten in der zweiten Hälfte des letzten Jahres vollständig in Kraft.

Obwohl wir die reine Anzahl der Meldungen nicht isoliert betrachten sollten, freut sich Snap, mitteilen zu können, dass wir seit der Umsetzung unserer Richtlinienverfeinerungen einen deutlichen Rückgang unseres gesamten Meldevolumens an das NCMEC und einen ähnlichen Rückgang bei den Eskalationen wegen Online-Anbahnung verzeichnet haben – und das alles bei gleichzeitiger Erfüllung unserer gesetzlichen Verpflichtungen, CSEA in CyberTips zu melden. Die niedrigeren Gesamtzahlen haben sich jedoch noch nicht in den jährlichen Meldevolumina des NCMEC niedergeschlagen, da die Änderungen erst später im Jahr 2024 umgesetzt wurden und nur wenige volle Monate des Jahres zur Verfügung standen, um die Änderungen widerzuspiegeln.

Parallel dazu hat unser Team daran gearbeitet, die Daten und die Kennzeichnung in unseren CyberTips zu verbessern. Solche Klarstellungen können dazu beitragen, die mutmaßlichen Straftaten und die beteiligten Personen besser zu identifizieren und wiederum eine schnellere und genauere Triage der Meldungen durch das NCMEC und die Strafverfolgungsbehörden zu ermöglichen. Auch wenn eine Meldung an das NCMEC nicht gerechtfertigt sein mag, wird Snap weiterhin gegen Bilder und Verhaltensweisen vorgehen, die gegen unsere Plattformrichtlinien verstoßen, indem wir Maßnahmen ergreifen – dazu können das Entfernen der verletzenden Inhalte, die Deaktivierung des Kontos und der Versuch, die Erstellung neuer Konten zu blockieren, gehören.

Kontrollpunkt der Neukalibrierung

Letzten Monat haben wir eine zweite Neukalibrierung mit dem NCMEC durchgeführt, bei der das Snap-Team die internen Richtlinienänderungen des letzten Jahres zusammenfasste, das NCMEC über unsere Fortschritte informierte, einige zusätzliche Betriebsrichtlinien bestätigte und half, die Erwartungen für die kommenden Monate festzulegen. Wir gaben auch eine Vorschau auf einige weitere geplante Richtlinien- und Meldeerweiterungen, von denen wir hoffen, dass sie den Wert unserer Meldungen sowohl für das NCMEC als auch für die Strafverfolgungsbehörden weiter erhöhen werden. Natürlich ist dies ein iterativer Prozess, aber wir sind durch die Fortschritte des letzten Jahres ermutigt.

Blick in die Zukunft

Im Laufe der Zeit erwarten wir, dass das NCMEC und die Strafverfolgungsbehörden weiterhin ein geringeres Volumen an CyberTips von Snap im Vergleich zu den Vorjahren sehen werden, aber ein größerer Prozentsatz derjenigen, die sietatsächlicherhalten, sollte qualitativ hochwertigere Informationen enthalten und umsetzbarer sein.

Wir verpflichten uns zur kontinuierlichen Verbesserung in allen Aspekten unserer Sicherheitsarbeit. Wir geben nicht vor, alle Antworten im Kampf gegen CSEA oder andere potenzielle Online-Schäden zu haben; niemand sollte das, denn niemand hat sie. Tag für Tag kämpfen wir mit gesamtgesellschaftlichen Problemen und bringen einen gesamt-unternehmerischenAnsatz ein – mit den ultimativen Zielen der Risikominderung und Schadensreduzierung.

In Bezug auf unsere CyberTips haben wir ein klares Ziel für die nicht allzu ferne Zukunft: Ob es sich um einen Kommandanten einer staatlichen Internet Crimes Against Children Task Force (ICAC), einen Bundesermittler oder einen Strafverfolgungsbeamten auf der anderen Seite der Welt handelt, wir möchten, dass staatliche, bundesstaatliche und internationale Behörden CyberTips von Snap zuversichtlich verfolgen, weil sie wissen, dass unsere Meldungen durchweg als umsetzbar, wertvoll und gründlich gelten. Und wir hoffen, dass diese Bemühungen zu einem entsprechenden Anstieg der damit verbundenen Verhaftungen führen werden ⁶und Verurteilungen auf der ganzen Welt.

Ein riesiges „Dankeschön“ an das NCMEC, WeProtect, die 61 ICAC Task Forces in den USA, die Strafverfolgungsbehörden auf der ganzen Welt und all unsere Kollegen und Mitarbeiter in der Landschaft der CSEA-Bekämpfung – und ein zusätzlicher Hinweis, dass wir weiterhin offen für Ihr Feedback sind und uns darauf freuen, um unsere Strategien und Ansätze weiter zu verbessern. Wir sitzen alle im selben Boot.

- Jacqueline Beauchere, Global Head of Platform Safety