À : The Heat Initiative, ParentsTogether Action,
Protéger les jeunes en ligne est un travail exigeant. Cela exige de la rigueur, de la précision et de la discipline pour faire la distinction entre les informations tirées d'un exercice limité et des conclusions relatives à l'ensemble du système. Votre nouveau rapport ne répond pas à cette exigence.
Nous voudrions d'abord mettre en évidence les lacunes dans la méthodologie. Vos chercheurs ont apparemment créé un très petit nombre de comptes de test enregistrés comme appartenant à des « 13 ans », utilisé des appareils supposément « propres », suivi 50 comptes de créateurs et créatrices présentés comme recommandés par Snapchat, recherché des exemples de sujets sensibles, puis tiré des conclusions générales après environ 12 heures de consultation sur deux principaux comptes de test. Cet exercice peut s'avérer utile en tant que sonde limitée conçue pour mettre en évidence des problèmes potentiels mais marginaux. Il ne constitue pas une base solide pour faire des déclarations générales sur l'expérience typique des jeunes sur Snapchat ou sur le sérieux de Snap en tant qu'entreprise s'efforçant de protéger les jeunes en ligne.
Le cadre d'évaluation du rapport est également inhabituellement étendu. Il définit le « contenu dangereux » comme incluant un large éventail de risques : contenus sexuels et liés aux drogues, violence et références à l'automutilation, ainsi que la dévalorisation corporelle, chirurgie esthétique, défis dangereux, racisme, extrémisme et discours haineux. La plupart de ces catégories enfreignent de fait les Règles communautaires de Snapchat. Mais comme nous l'expliquons plus loin, toutes les violations ne présentent pas le même degré de gravité et ne justifient pas le même niveau d'application des mesures. En fonction de la nature de la violation, Snap peut prendre des mesures à l'encontre du contenu, du compte et/ou de l'appareil d'un utilisateur ou d'une utilisatrice, et signaler de manière proactive les contrevenants aux forces de l'ordre, le cas échéant.
Lorsque de larges catégories de contenu sont regroupées en un seul titre, le résultat génère plus de confusion que de clarté. Bien qu'il soit conçu pour attirer l'attention, il n'aide pas les parents, les décideurs politiques ou les plateformes à comprendre la gravité relative, les voies d'exposition ou quelles interventions sont les plus susceptibles de réduire les préjudices potentiels.
Votre rapport reconnaît en outre que les modèles de recommandation ont évolué au fil du temps, en particulier après que les chercheurs ont suivi des créateurs et créatrices supposément recommandés et recherché des termes sensibles. Malgré cela, il présente des chiffres tels que « 739 vidéos dangereuses » et recommande des mesures abruptes et trop punitives, telles que la fin des recommandations algorithmiques pour les personnes de moins de 18 ans. Si l'exercice avait été conçu avec une portée limitée, il aurait dû être décrit comme tel. Au contraire, le rapport passe à plusieurs reprises d'une expérience limitée à des conclusions rhétoriques générales sur Snapchat et ses utilisateurs et utilisatrices dans l'ensemble.
Ce raccourci est important, car le risque et le préjudice ne sont pas la même chose. Les deux méritent une attention particulière, mais toutes les expositions ne donnent pas le même résultat, et toutes les expériences préoccupantes ne justifient pas la même application de politique. Une étude responsable doit faire la distinction, et ne pas l'ignorer pour sauter aux conclusions.
Cela ne signifie en rien que Snap prend les préoccupations liées à la sécurité des jeunes à la légère. Ce n'est pas le cas. En fait, la sécurité et le bien-être de tous et toutes sont au cœur de notre travail. En interne, notre vision de la sécurité de la plateforme consiste à promouvoir et à soutenir la sécurité et le bien-être de la communauté Snapchat, en particulier des jeunes, grâce à une conception des produits intégrant la sécurité dès le départ, associée à une technologie, à des politiques strictes, à l'excellence opérationnelle, à une collaboration avec l'ensemble du secteur, à une réglementation efficace, ainsi qu'à des actions de sensibilisation et d'éducation. Ceci n'est pas un slogan. C'est le cadre dans lequel de nombreuses équipes au sein de Snap créent, mettent en œuvre, éduquent et s'adaptent chaque jour. C'est pourquoi nous avons cherché à ouvrir un dialogue ouvert et constructif avec vos organisations, malgré les démarches parallèles engagées à notre encontre sur les réseaux sociaux et dans la presse dans une logique d'affrontement.
Snapchat a été développé différemment :l'application s'ouvre directement sur l'appareil photo, et non sur un fil d'actualité. Cette différence est importante. Nous avons appliqué des paramètres clés de confidentialité et de sécurité par défaut aux normes plus strictes pour les jeunes. Nous n'autorisons pas les messages privés entre des personnes qui ne sont pas amies d'un mutuel accord ou qui ne figurent pas dans le carnet d'adresses de l'autre. Nous avons mis en place des protections supplémentaires pour les jeunes en ce qui concerne les autres fonctionnalités de la plateforme. Ce sont des choix architecturaux judicieux, en particulier dans un paysage où les contacts indésirables restent l'un des risques les plus courants auxquels les jeunes sont confrontés en ligne aujourd'hui.
