Snap est profondément engagé dans la sécurité de la communauté Snapchat. Notre objectif est d'aider à protéger les utilisateurs contre une série de risques en ligne et de préjudices potentiels qui couvrent l'écosystème numérique, y compris les crimes odieux impliquant l'exploitation et les abus sexuels sur enfants (CSEA). Snap lutte contre ce contenu illégal et ce comportement criminel ignoble depuis des années, en employant des mesures de détection proactive et de réponse réactive sur l'application Snapchat. Au cours de l'année écoulée, nous avons apporté des modifications supplémentaires à nos politiques et processus connexes dans le but d'aider à traduire les auteurs en justice. Nous aimerions vous en dire plus sur ce travail ici.

Qu'est-ce que le CSEA ?

L'exploitation et les abus sexuels sur enfants couvrent une série d'activités illégales impliquant des préjudices sexuels à des mineurs, notamment : le visionnage, la production et la distribution d'images d'exploitation et d'abus sexuels sur enfants (CSEAI), y compris la nouvelle menace des photos et vidéos générées par l'IA ; le détournement de mineurs en ligne, ou l'incitation de mineurs à des fins sexuelles ; ¹l'extorsion sexuelle ; ²l'exploitation sexuelle des enfants ; et la diffusion en direct d'enfants victimes d'abus et de torture sexuels. ³Il est difficile de comprendre que ces réalités répugnantes existent réellement. Mais, malheureusement, de tels abus ont toujours existé – et le monde numérique offre désormais un autre moyen d'abus, élargissant les modes d'infraction pour être plus rapides et de plus grande portée.

« La technologie a fondamentalement changé la façon dont les personnes ayant un intérêt sexuel pour les enfants fantasment à leur sujet, y accèdent et s'en prennent à eux », a déclaré Ernie Allen, président de laWeProtect Global Alliance. « LeNew York Timesa écrit : « La crise de l'exploitation sexuelle des enfants en ligne est à un point de rupture. » Il a noté que les signalements augmentent, que les délinquants partagent des images de victimes plus jeunes et de crimes plus odieux, et que les forces de l'ordre ont du mal à suivre. Si l'on ajoute à ce défi de nouvelles variantes, comme la sextorsion, qui, selon le FBI, a augmenté de 7 200 %, les abus en direct et autres, il est clair que ce problème devrait figurer en tête des agendas politiques du monde entier », a-t-il ajouté.

Obligations légales des entreprises technologiques

Lorsque les entreprises technologiques américaines prennent connaissance de CSEA sur leurs plateformes ou services, elles ont l'obligation légale de le signaler au National Center for Missing and Exploited Children (NCMEC). Le NCMEC examine ensuite ces CyberTips et assure la liaison avec les forces de l'ordre nationales et internationales pour aider à protéger les enfants victimes et à punir les délinquants.

Jusqu'à l'année dernière, le nombre total annuel de CyberTips adressés au NCMEC avait largement augmenté d'une année sur l'autre, pour atteindre un record de 36,2 millions de signalements ⁴en 2023, contre un peu plus de 32 millions en 2022, et 4 560 en 1998, date de la création de la CyberTipline du NCMEC. C'est cette augmentation record des CyberTips — en plus d'autres facteurs, notamment une augmentation continue de l'extorsion sexuelle au niveau mondial et les commentaires que nous avons reçus des forces de l'ordre sur la pertinence de nos propres CyberTips — qui a incité Snap à contacter le NCMEC en 2024 pour recalibrer nos signalements CyberTip.

J'ai suivi les signalements CyberTip pendant plusieurs années, et je suis fermement convaincu que la pratique de certaines entreprises technologiques a eu tendance à signalertoutau NCMEC — même au-delà de leur obligation légale — de peur d'être accusées d'avoir manquéquelque chose. ⁵Les entreprises qui ne signalent pas comme l'exige la loi peuvent s'exposer à de lourdes amendes. Mais cette approche du signalement, associée à la faible pertinence de nombreux signalements (soit parce que les CyberTips manquent de contexte suffisant pour que les forces de l'ordre puissent agir, soit parce que le comportement signalé n'est, dans certains cas, pas une priorité pour elles), a entraîné une accumulation de CyberTips, des examens multiples et approfondis, et une frustration accrue parmi les forces de l'ordre.

Objectif : des CyberTips de grande valeur

L'objectif de notre recalibrage avec le NCMEC était d'augmenter davantage la pertinence et la valeur des CyberTips de Snap en affinant nos propres politiques de plateforme et les protocoles que nous avons mis en place pour les signalements au NCMEC. Ce recalibrage initial a eu lieu en mai 2024, et nos changements de politique sont devenus pleinement effectifs dans la dernière partie de l'année dernière.

Bien qu'il faille éviter de trop insister sur le nombre de signalements isolément, depuis la mise en œuvre de nos améliorations de politique, Snap est heureux de partager que nous avons constaté une baisse significative de notre volume global de signalements au NCMEC et une baisse similaire des escalades pour incitation en ligne – tout en continuant à remplir nos obligations légales de signaler le CSEA dans les CyberTips. Les totaux plus faibles n'ont cependant pas encore été répercutés dans les volumes de signalement annuels du NCMEC, car les changements ont été mis en œuvre plus tard en 2024, ne laissant que quelques mois complets de l'année pour refléter les modifications.

En parallèle, notre équipe a travaillé à l'amélioration des données et de l'étiquetage de nos CyberTips. De telles clarifications peuvent aider à mieux identifier les crimes présumés et les individus impliqués et, à leur tour, permettre un tri plus rapide et plus précis des signalements par le NCMEC et les forces de l'ordre. Même lorsqu'un signalement au NCMEC n'est pas justifié, Snap continuera à traiter les images et les comportements qui contreviennent aux politiques de notre plateforme en prenant des mesures – qui peuvent inclure la suppression du contenu en infraction, la désactivation du compte et la tentative de blocage de la création de nouveaux comptes.

Point de contrôle du recalibrage

Le mois dernier, nous avons tenu un deuxième recalibrage avec le NCMEC, où l'équipe de Snap a récapitulé les changements de politique interne de l'année dernière ; a mis le NCMEC au courant de nos progrès ; a confirmé quelques directives opérationnelles supplémentaires ; et a aidé à définir les attentes pour les mois à venir. Nous avons également présenté en avant-première d'autres ajouts prévus en matière de politique et de signalement qui, nous l'espérons, continueront d'améliorer la valeur de nos signalements tant pour le NCMEC que pour les forces de l'ordre. Naturellement, il s'agit d'un processus itératif, mais nous sommes encouragés par les progrès réalisés au cours de l'année écoulée.

Perspectives d'avenir

À terme, nous nous attendons à ce que le NCMEC et les forces de l'ordre continuent de voir des volumes réduits de CyberTips de la part de Snap par rapport aux années précédentes, mais qu'un plus grand pourcentage de ceux qu'ilsdoreçoivent contienne des informations de meilleure qualité et soit plus exploitable.

Nous nous engageons à une amélioration continue dans tous les aspects de notre travail de sécurité. Nous ne prétendons pas avoir toutes les réponses en ce qui concerne la lutte contre le CSEA ou tout autre préjudice potentiel en ligne ; personne ne devrait le prétendre car personne ne les a. Jour après jour, nous luttons contre des problèmes de société et nous apportons une approche globale del'entreprisepour atteindre le double objectif ultime d'atténuer les risques et de réduire les préjudices.

En ce qui concerne nos CyberTips, nous avons un objectif distinct pour un avenir pas si lointain : Qu'il s'agisse d'un commandant de la brigade de lutte contre la cybercriminalité visant les enfants (ICAC) d'un État, d'un enquêteur fédéral ou d'un membre des forces de l'ordre à l'autre bout du monde, nous voulons que les autorités étatiques, fédérales et internationales poursuivent en toute confiance les CyberTips de Snap, car elles savent que nos signalements sont fiables, exploitables, précieux et approfondis. Et nous espérons que ces efforts contribueront à une augmentation correspondante des arrestations connexes ⁶et des condamnations dans le monde entier.

Un immense « merci » au NCMEC, à WeProtect, aux 61 brigades de l'ICAC aux États-Unis, aux forces de l'ordre du monde entier, ainsi qu'à tous nos collègues et collaborateurs dans le paysage de la lutte contre le CSEA – et une note supplémentaire pour dire que nous restons ouverts et avides de vos commentaires pour améliorer encore nos stratégies et approches. Nous sommes tous dans le même bateau.

- Jacqueline Beauchere, responsable mondiale de la sécurité de la plateforme