Snap zet zich sterk in voor de veiligheid van de Snapchat-community. Ons doel is om gebruikers te helpen beschermen tegen een reeks online risico's en potentiële gevaren die het digitale ecosysteem omspannen, waaronder afschuwelijke misdaden met betrekking tot seksuele uitbuiting en misbruik van kinderen (CSEA). Snap strijdt al jaren tegen deze illegale content en dit verachtelijke criminele gedrag, door zowel proactieve detectie- als reactieve responsmaatregelen toe te passen in de Snapchat-app. Het afgelopen jaar hebben we aanvullende wijzigingen aangebracht in ons gerelateerde beleid en onze processen met de bedoeling om daders voor het gerecht te brengen. We willen hier graag meer over dat werk vertellen.

Wat is CSEA?

Seksuele uitbuiting en misbruik van kinderen omvat een reeks illegale activiteiten waarbij minderjarigen seksueel worden geschaad, waaronder: het bekijken, produceren en verspreiden van beeldmateriaal van seksuele uitbuiting en misbruik van kinderen (CSEAI), inclusief de nieuwere dreiging van door AI gegenereerde foto's en video's; het online groomen, of lokken, van minderjarigen voor seksuele doeleinden; ¹seksuele afpersing; ²kinderhandel voor seks; en het live streamen van kinderen die seksueel worden misbruikt en gemarteld. ³Het is moeilijk te bevatten dat deze weerzinwekkende realiteiten echt bestaan. Maar helaas heeft dergelijk misbruik altijd bestaan en de digitale wereld biedt nu een alternatieve manier van misbruik, waardoor de manieren van overtreden sneller en verder reikend worden.

“Technologie heeft de manier waarop mensen met een seksuele interesse in kinderen over hen fantaseren, toegang tot hen krijgen en hen tot prooi maken, fundamenteel veranderd”, aldus Ernie Allen, voorzitter van de in Londen gevestigdeWeProtect Global Alliance.New York Timesschreef: 'De crisis van online seksuele uitbuiting van kinderen heeft een breekpunt bereikt.' De krant merkte op dat het aantal meldingen escaleert, daders beelden delen van jongere slachtoffers en gruwelijkere misdaden, en dat de rechtshandhaving het moeilijk heeft om dit bij te benen. Als je nieuwe variaties aan die uitdaging toevoegt, zoals sextortion, dat volgens de FBI met 7.200% is gestegen, live-streaming misbruik en andere, is het duidelijk dat dit probleem wereldwijd bovenaan de beleidsagenda's zou moeten staan,” voegde hij eraan toe.

Wettelijke verplichtingen van techbedrijven

Wanneer Amerikaanse technologiebedrijven op de hoogte raken van CSEA op hun platforms of diensten, hebben ze de wettelijke plicht om dit te melden bij het National Center for Missing and Exploited Children (NCMEC). NCMEC beoordeelt deze CyberTips vervolgens en onderhoudt contact met zowel binnenlandse als internationale rechtshandhavingsinstanties om kindslachtoffers te beschermen en daders te straffen.

Tot vorig jaar stegen de jaarlijkse totalen van CyberTips aan NCMEC grotendeels jaar na jaar, met een record van 36,2 miljoen meldingen ⁴in 2023, een stijging ten opzichte van iets meer dan 32 miljoen in 2022, en 4.560 in 1998 toen de CyberTipline van NCMEC werd opgericht. Het was deze recordstijging in CyberTips - naast andere factoren, waaronder een aanhoudende piek in seksuele afpersing wereldwijd en feedback die we van de rechtshandhaving ontvingen over de bruikbaarheid van onze eigen CyberTips - die Snap ertoe aanzette om in 2024 voor het eerst NCMEC te benaderen om onze CyberTip-rapportage te herijken.

Ik volg de CyberTip-rapportage al enkele jaren en ik ben er vast van overtuigd dat de praktijk van sommige technologiebedrijven de neiging heeft om te rapporterenallesaan NCMEC - zelfs boven hun wettelijke verplichting uit - uit angst om beschuldigd te worden van het missen vaniets. ⁵Bedrijven die niet rapporteren zoals wettelijk vereist, kunnen hoge boetes krijgen. Maar deze aanpak van rapporteren, in combinatie met de lage bruikbaarheid van veel meldingen (omdat CyberTips onvoldoende context bieden voor rechtshandhaving om actie te ondernemen of omdat het gemelde gedrag in sommige gevallen geen prioriteit voor hen is), heeft geleid tot een toename van CyberTips, meerdere, uitgebreide beoordelingen en toenemende frustratie bij de rechtshandhaving.

Doel: Hoogwaardige CyberTips

Het doel van onze herijking met NCMEC was om de bruikbaarheid en waarde van de CyberTips van Snap verder te verhogen door ons eigen platformbeleid en de protocollen die we hebben voor rapportage aan NCMEC te verfijnen. Die eerste herijking vond plaats in mei 2024 en onze beleidswijzigingen werden in het laatste deel van vorig jaar volledig van kracht.

Hoewel we moeten voorkomen dat we te veel nadruk leggen op het pure aantal meldingen op zich, is Snap verheugd te kunnen meedelen dat we sinds de implementatie van onze beleidsverfijningen een aanzienlijke daling hebben gezien in ons totale rapportagevolume aan NCMEC en een vergelijkbare daling in escalaties voor online lokken - dit alles terwijl we nog steeds voldoen aan onze wettelijke verplichtingen om CSEA in CyberTips te rapporteren. De lagere totalen moeten echter nog doorwerken in de jaarlijkse rapportagevolumes van NCMEC, omdat de wijzigingen later in 2024 zijn doorgevoerd, waardoor er slechts enkele volledige maanden van het jaar overbleven om de amendementen te weerspiegelen.

Tegelijkertijd heeft ons team gewerkt aan het verbeteren van de gegevens en de labeling in onze CyberTips. Dergelijke verduidelijkingen kunnen helpen om de vermeende misdaden en betrokken personen beter te identificeren en op hun beurt een snellere en nauwkeurigere triage van meldingen door NCMEC en rechtshandhaving mogelijk te maken. Zelfs wanneer rapportage aan NCMEC niet gerechtvaardigd is, zal Snap beeldmateriaal en gedragingen die in strijd zijn met ons platformbeleid blijven aanpakken door actie te ondernemen - wat kan inhouden dat de overtredende content wordt verwijderd, het account wordt uitgeschakeld en wordt geprobeerd het aanmaken van nieuwe accounts te blokkeren.

Herijkingscontrolepunt

Vorige maand hielden we een tweede herijking met NCMEC, waar het Snap-team de interne beleidswijzigingen van vorig jaar samenvatte, NCMEC op de hoogte bracht van onze vooruitgang, enkele aanvullende operationele richtlijnen bevestigde en hielp om verwachtingen voor de komende maanden te scheppen. We hebben ook een voorproefje gegeven van enkele verdere geplande beleids- en rapportagetoevoegingen waarvan we hopen dat ze de waarde van onze rapporten voor zowel NCMEC als de rechtshandhaving verder zullen verhogen. Dit is natuurlijk een iteratief proces, maar we zijn bemoedigd door de vooruitgang van het afgelopen jaar.

Vooruitblik

Na verloop van tijd verwachten we dat NCMEC en de rechtshandhaving mogelijk een verminderd volume aan CyberTips van Snap zullen zien in vergelijking met voorgaande jaren, maar dat een groter percentage van degenen die zewelontvangen, informatie van hogere kwaliteit moet bevatten en beter bruikbaar moet zijn.

We zetten ons in voor continue verbetering in alle aspecten van ons veiligheidswerk. We pretenderen niet alle antwoorden te hebben met betrekking tot de bestrijding van CSEA of enige andere potentiële online schade; niemand zou dat moeten doen, want niemand heeft ze. Dag in dag uit vechten we tegen maatschappijbrede problemen en we brengen eenbedrijfsbredeaanpak - met de uiteindelijke tweeledige doelstellingen van het beperken van risico's en het verminderen van schade.

Met betrekking tot onze CyberTips hebben we een duidelijk doel voor de niet al te verre toekomst: Of het nu gaat om een commandant van een staatstaakgroep Internet Crimes Against Children (ICAC), een federale onderzoeker of een lid van de rechtshandhaving aan de andere kant van de wereld, we willen dat staats-, federale en internationale autoriteiten vol vertrouwen CyberTips van Snap onderzoeken, omdat ze weten dat onze rapporten consequent betrouwbaar, waardevol en grondig zijn. En onze hoop is dat die inspanningen zullen helpen om een overeenkomstige stijging van gerelateerde arrestaties te bewerkstelligen ⁶en veroordelingen over de hele wereld.

Een enorm 'dank je wel' aan NCMEC, WeProtect, de 61 ICAC Task Forces in de VS, rechtshandhaving over de hele wereld, en al onze collega's en medewerkers in het landschap van de CSEA-bestrijding - en een extra opmerking dat we open blijven staan voor, en hongerig zijn naar, uw feedback om onze strategieën en benaderingen verder te verbeteren. We doen dit allemaal samen.

- Jacqueline Beauchere, Global Head of Platform Safety