Témoignage au Congrès du Sénat - Notre approche de la sécurité, de la confidentialité et du bien-être

26 octobre 2021

Aujourd'hui, notre vice-présidente de la politique publique mondiale, Jennifer Stout, a rejoint d'autres plateformes technologiques pour témoigner devant le sous-comité sur la protection des consommateurs, la sécurité des produits et la sécurité des données du Comité sénatorial sur l'approche de Snap pour protéger les jeunes sur notre plateforme. 
Nous sommes reconnaissants d'avoir eu l'occasion d'expliquer au sous-comité comment nous avons intentionnellement construit Snapchat différemment des plateformes de médias sociaux traditionnelles, comment nous travaillons pour intégrer la sécurité et la confidentialité directement dans la conception de notre plateforme et de nos produits, et où nous devons continuer à améliorer pour mieux protéger le bien-être de notre communauté. Nous avons toujours cru que nous avons la responsabilité morale pour placer leurs intérêts en premier – et que toutes les entreprises technologiques doivent prendre leurs responsabilités et protéger activement les communautés qu'elles servent. 
Nous saluons les efforts continus du sous-comité pour enquêter sur ces questions critiques – et vous pouvez ci-dessous lire la déclaration d'ouverture complète de Jennifer. Un PDF du témoignage complet est disponible ici.
****
Témoignage de Jennifer Stout, vice-présidente de la politique publique mondiale, Snap Inc
Introduction
Président Blumenthal, membre haut placé Blackburn et les membres du sous-comité, merci de nous donner l'occasion d'apparaître devant vous aujourd'hui. Je m'appelle Jennifer Stout et je suis vice-présidente de la politique publique mondiale chez Snap Inc., la société mère de Snapchat. C'est un honneur et un privilège d'être de retour au Sénat 23 ans après avoir fait mes débuts dans le service public en tant que membre du personnel du Sénat, cette fois dans une capacité bien différente – pour parler de l'approche de Snap en matière de confidentialité et de sécurité, en particulier en ce qui concerne nos plus jeunes membres de la communauté. Je suis dans ce rôle depuis près de cinq ans, après avoir passé près de deux décennies dans le service public, dont plus de la moitié a été passée au Congrès. J'ai un énorme respect pour cette institution et le travail que vous et votre personnel faites pour que les plateformes technologiques garantissent à nos jeunes des expériences en ligne sûres et saines. 
Pour comprendre l'approche de Snap pour protéger les jeunes sur notre plateforme, il est utile de commencer par le début.  Les fondateurs de Snapchat faisaient partie de la première génération à grandir avec les médias sociaux. Comme beaucoup de leurs pairs, ils ont constaté que si les médias sociaux étaient capables d'avoir un impact positif, ils avaient aussi certaines fonctionnalités qui avaient un impact négatif sur leurs amitiés. Ces plateformes ont encouragé les personnes à diffuser publiquement leurs pensées et leurs sentiments en permanence. Nos fondateurs ont constaté que les personnes se mesuraient constamment aux autres par le biais des « J'aime » et des commentaires, qu'ils essayaient de présenter une version d'eux-mêmes par le biais d'images parfaitement sélectionnées et qu'ils rédigeaient soigneusement leur contenu en raison de la pression sociale. Les médias sociaux ont également évolué pour proposer un flux sans fin de contenu non vérifié, exposant les personnes à un flot de contenu viral, trompeur et nocif. 
Snapchat a été conçu comme un antidote aux réseaux sociaux. En fait, nous nous décrivons en tant que société dédiée aux photos et vidéos. L'architecture de Snapchat a été intentionnellement conçue pour permettre aux personnes d'exprimer toute une gamme d'expériences et d'émotions avec leurs vrais amis, pas seulement les beaux et parfaits moments. Au cours des années de formation de notre société, notre équipe a mis au point de nouvelles inventions pour donner la priorité à la confidentialité et à la sécurité en ligne. 
Premièrement, nous avons décidé que Snapchat soit ouverte sur une caméra au lieu d'un flux de contenu. Cela a créé une toile vierge permettant aux amis communiquer visuellement les uns avec les autres d'une manière plus immersive et créative que d'envoyer des SMS. 
Deuxièmement, nous avons adopté de solides principes de confidentialité, de minimisation des données et l'idée d'éphémérité, en rendant les images supprimées par défaut. Cela a permis aux gens de s'exprimer sincèrement de la même manière qu'ils le feraient s'ils étaient en train de se balader dans un parc avec leurs amis. Les médias sociaux ont peut-être normalisé l'enregistrement permanent de conversations en ligne, mais dans la vie réelle, les amis ne sortent pas leur magnétophone pour documenter chaque conversation à des fins de consommation publique ou de conservation permanente. 
Troisièmement, nous nous sommes concentrés sur la connexion de personnes qui étaient déjà amis dans la vie réelle en exigeant que, par défaut, les deux Snapchatters optent pour être amis afin de communiquer. Parce que dans la vie réelle, les amitiés sont mutuelles. Ce n'est pas une personne qui suit l'autre, ou des inconnus entrant dans notre vie sans autorisation ou invitation. 
Une évolution responsable
Depuis ces premiers jours, nous nous sommes efforcés de continuer à évoluer de manière responsable. Comprenant les effets négatifs potentiels des médias sociaux, nous avons fait des choix proactifs pour nous assurer que tous nos futurs produits reflétaient ces valeurs des débuts. 
Nous n'avons pas eu besoin de réinventer la roue pour le faire. Notre équipe a su tirer les leçons de l'histoire pour relever les défis posés par les nouvelles technologies. Alors que Snapchat a évolué au fil du temps, nous avons été influencés par les cadres réglementaires existants qui régissent la diffusion et les télécommunications lors du développement des parties de notre application où les utilisateurs pouvaient partager du contenu qui a le potentiel d'atteindre une large audience. Par exemple, lorsque vous parlez à vos amis par téléphone, vous avez une forte attente de confidentialité tandis que si vous êtes un radiodiffuseur public ayant le potentiel d'influencer les esprits et les opinions de beaucoup, vous êtes soumis à différentes normes et exigences réglementaires. 
Cette dichotomie nous a permis de développer des règles pour les parties plus publiques de Snapchat qui sont inspirées par les règlements de diffusion. Ces règles protègent notre audience et nous différencient des autres plateformes. Par exemple, Discover, notre plateforme de contenu fermé où les Snapchatters obtiennent leurs nouvelles et divertissement et propose exclusivement du contenu d'éditeurs de médias professionnels qui s'associent à nous, ou d'artistes, de créateurs et d'athlètes avec lesquels nous choisissons de travailler. Tous ces fournisseurs de contenu doivent respecter nos règles communautaires qui s'appliquent à l'ensemble du contenu de notre plateforme. Mais les éditeurs partenaires de Discover doivent également se conformer à nos directives d'édition, qui exigent notamment que le contenu soit vérifié au niveau des faits ou de l'exactitude et qu'il soit classé par âge au besoin. Et pour les créateurs individuels présentés dans Discover, nos équipes de modération humaine examinent leurs Stories avant de les autoriser à être promues sur la plateforme. Même si nous utilisons des algorithmes pour proposer du contenu en fonction des intérêts individuels, ils sont appliqués à un pool de contenu limité et vérifié, ce qui est une approche différente de celle des autres plateformes.
Sur Spotlight où les créateurs peuvent soumettre des vidéos créatives et divertissantes à partager avec la communauté Snapchat au sens large, tout le contenu est d'abord examiné automatiquement par l'intelligence artificielle avant d'être diffusé, puis examiné par un humain et modéré avant de pouvoir être vu par plus de 25 personnes. Cela permet de réduire le risque de diffuser des désinformations, des discours haineux ou d'autres contenus potentiellement nocifs.
Nous ne réussissons pas toujours du premier coup, c'est pourquoi nous remanions certaines parties Snapchat lorsqu'elles ne correspondent pas à nos valeurs. C'est ce qui s'est passé en 2017 lorsque nous avons découvert qu'un de nos produits, Stories, faisait croire aux Snapchatters qu'ils devaient rivaliser avec des célébrités et des influenceurs pour attirer l'attention, car le contenu des célébrités et des amis étaient combinés dans la même interface utilisateur. À la suite de cette observation, nous avons décidé de séparer le contenu « social » créé par des amis du contenu « média » créé par des célébrités afin de réduire la comparaison sociale sur notre plateforme. Cette refonte a eu des répercussions négatives sur la croissance des utilisateurs à court terme, mais c'était la bonne chose à faire pour notre communauté.
Protéger les jeunes sur Snapchat
Notre mission – permettre aux personnes de s'exprimer, de vivre l'instant présent, d'apprendre à connaître le monde et de s'amuser ensemble – a inspiré l'architecture fondamentale de Snapchat. Adhérer à cette mission nous a permis de créer une plateforme qui reflète la nature humaine et favorise de véritables amitiés. Elle continue d'influencer nos processus et nos principes de conception, nos politiques et nos pratiques, et les ressources et les outils que nous fournissons à notre communauté. Et elle sous-tend nos efforts constants pour améliorer la façon dont nous abordons les risques et les défis inhérents au service d'une grande communauté en ligne. 
Une part importante de la réalisation de notre mission a consisté à établir et à maintenir la confiance avec notre communauté et nos partenaires, ainsi qu'avec les parents, les juristes et les experts en sécurité. Ces relations ont été établies grâce aux décisions délibérées et cohérentes que nous avons prises pour placer la confidentialité et la sécurité au cœur de notre processus de conception de produits. 
Par exemple, nous avons adopté des principes de conception responsables qui tiennent compte de la confidentialité et de la sécurité des nouveaux produits et des fonctionnalités dès le début du processus de développement. Et nous avons donné vie à ces principes grâce à des processus rigoureux. Chaque nouvelle fonctionnalité Snapchat passe par un examen défini de la confidentialité et de la sécurité mené par des équipes qui couvrent l'ensemble de Snapchat – notamment les concepteurs, les informaticiens et les ingénieurs, les gestionnaires de produits, les conseils de produits, les responsables des politiques et les ingénieurs de confidentialité – bien avant qu'elle voie la lumière du jour.
Même si plus de 80 % de notre communauté aux États-Unis a 18 ans ou plus, nous avons consacré beaucoup de temps et de ressources à la protection des adolescents. Nous avons fait des choix réfléchis et intentionnels pour appliquer des politiques de confidentialité et de sécurité supplémentaires et des principes de conception pour aider à protéger les adolescents. Cela inclut :
  • Prendre en compte les sensibilités et les considérations uniques des mineurs lorsque nous concevons des produits. C'est pourquoi nous rendons intentionnellement plus difficile pour les inconnus de trouver des mineurs en interdisant les profils publics pour les personnes de moins de 18 ans et en déployant une fonctionnalité pour limiter la découvrabilité des mineurs dans Ajouter rapidement (suggestions d'ami(e)s). Et pourquoi nous avons longtemps déployé des outils de vérification de l'âge pour empêcher les mineurs de visualiser du contenu et des publicités réglementées par l'âge. 
  • Responsabiliser les Snapchatters en fournissant des contrôles cohérents et faciles à utiliser, tels que la désactivation du partage de localisation par défaut et l'offre d'un système de rapport simplifié dans l'application pour que les utilisateurs puissent signaler tout contenu ou comportement inquiétant à nos équipes de confiance et de sécurité. Une fois signalé, la plupart des contenus sont traités en moins de 2 heures pour minimiser le potentiel de dommage. 
  • Travailler à l'élaboration d'outils qui donneront aux parents plus de contrôle sans sacrifier la vie privée – y compris des plans pour fournir aux parents la possibilité de voir les amis de leur adolescent, de gérer leur confidentialité et leurs réglages de localisation et de voir à qui ils parlent.
  • Investir dans des programmes et des initiatives éducatifs qui soutiennent la sécurité et la santé mentale de notre communauté – comme Friend Check Up and Here For You. Friend Check Up invite les Snapchatters à passer en revue les personnes avec lesquelles ils sont amis et à s'assurer que la liste est composée de personnes qu'ils connaissent et avec lesquelles ils souhaitent toujours être connectés. Here For You fournit du soutien aux utilisateurs qui peuvent rencontrer des crises mentales ou émotionnelles en fournissant des outils et des ressources d'experts.
  • Prévenir l'utilisation des mineurs. Nous ne faisons aucun effort – et n'avons aucun projet – pour commercialiser auprès des enfants, et les personnes de moins de 13 ans ne sont pas autorisées à créer des comptes Snapchat. Lors de l'inscription à un compte, les personnes sont tenues de fournir leur date de naissance, et le processus d'inscription échoue si l'utilisateur introduit un âge de moins de 13 ans. Nous avons également mis en place une nouvelle protection qui empêche les utilisateurs Snapchat de 13 à 17 ans ayant des comptes existants de mettre à jour leur anniversaire à 18 ans ou plus. Plus précisément, si un mineur tente de changer son année de naissance à plus de 18 ans, nous empêcherons ce changement afin de nous assurer que les utilisateurs n'accèdent pas à un contenu inapproprié pour leur âge dans Snapchat.
Conclusion et perspectives
Nous nous efforçons toujours de trouver de nouveaux moyens pour assurer la sécurité de notre communauté, et il nous reste encore du travail à faire. Nous savons que la sécurité en ligne est une responsabilité partagée, couvrant une multitude de secteurs et d'acteurs. Nous nous engageons à faire notre part en collaboration avec des partenaires de sécurité, y compris notre Conseil consultatif pour la sécurité, nos pairs de l'industrie technologique, le gouvernement et la société civile. Des initiatives de sensibilisation axées sur la technologie, aux recherches et au partage des bonnes pratiques, nous sommes activement engagés avec des organisations dédiées à la protection des mineurs en ligne. Nous savons également qu'il y a de nombreux problèmes et défis techniques complexes dans notre industrie, y compris la vérification de l'âge des mineurs, et nous restons déterminés à travailler avec des partenaires et des décideurs pour trouver des solutions solides à l'échelle de l'industrie.         
Nous abordons le bien-être des Snapchatters avec humilité et détermination constante. Plus de 500 millions de personnes dans le monde utilisent Snapchat chaque mois et si 95 % de nos utilisateurs disent que Snapchat les rend heureux, nous avons une responsabilité morale de tenir compte de leurs intérêts dans tout ce que nous faisons. C'est d'autant plus vrai que nous innovons avec la réalité augmentée – ce qui a le potentiel de contribuer positivement à la façon dont nous travaillons, faisons des achats, apprenons et communiquons. Nous appliquerons les mêmes valeurs et principes fondateurs tout en continuant à expérimenter de nouvelles technologies comme la nouvelle génération de réalité augmentée. 
En regardant l'avenir, l'informatique et la technologie seront de plus en plus intégrées à notre vie quotidienne. Nous croyons que la réglementation est nécessaire, mais étant donné la vitesse à laquelle la technologie se développe et le rythme auquel la réglementation peut être mise en œuvre, la réglementation seule ne peut pas faire le travail. Les entreprises technologiques doivent prendre leur responsabilité et protéger activement les communautés qu'elles servent. 
Si elles ne le font, le gouvernement doit agir rapidement pour les tenir responsables. Nous appuyons pleinement les efforts du Sous-comité pour enquêter sur ces problèmes et nous accueillons une approche collaborative pour la résolution de problèmes qui protège notre société. 
Je vous remercie encore une fois de m'avoir donné l'occasion de me présenter devant vous aujourd'hui et de discuter de ces questions critiques. J'ai hâte de répondre à vos questions.
Retour aux Actualités