Lorsque Lenses a fait son apparition en 2015, la technologie de réalité augmentée (RA) a donné vie à la magie sous nos yeux, révolutionnant ce que nous pensions possible. Aujourd'hui, plus de 300 millions de Snapchatters utilisent la RA chaque jour, car nous nous fions désormais à ce type de technologie dans notre expérience quotidienne de l'appareil photo. 

Les récentes avancées de l'IA ouvrent des possibilités illimitées et absolument spectaculaires, redéfinissant le champ même des possibilités.

Il existe déjà tellement de façons inspirantes pour les Snapchatters de s'exprimer en utilisant l'IA ; ils peuvent créer un fond d'écran de chat original via l'IA générative pour personnaliser l'apparence d'une conversation avec un ami, utiliser Lenses pour transformer leur apparence ou apprendre via des conversations avec My AI, par exemple. Nous sommes très enthousiasmés par l'IA générative qui a le potentiel d’aider notre communauté à libérer sa créativité et son imagination.

Transparence de l'IA

Nous pensons que les Snapchatters doivent être informés des types de technologies qu’ils utilisent, qu’il s'agisse de créer des visuels amusants ou d'apprendre par le biais de conversations textuelles avec My AI.

Nous utilisons des icônes, des symboles et des étiquettes dans l'application pour fournir une transparence contextuelle aux Snapchatters lorsqu'ils interagissent avec une fonctionnalité alimentée par l'IA. Par exemple, lorsqu'un Snapchatter partage une image de Rêves générée par l'IA, le destinataire voit une Carte de contexte avec davantage d'informations. D'autres fonctionnalités, comme l'outil d'extension qui exploite l'IA pour faire apparaître un Snap plus zoomé, sont délimitées comme une fonctionnalité d'IA avec une icône d'étincelle pour le Snapchatter qui crée le Snap. 

Nous faisons également très attention à construire toutes les publicités politiques par le biais d'un processus d'examen humain rigoureux, y compris une vérification approfondie de toute utilisation potentiellement trompeuse du contenu et notamment une utilisation de l'IA pour créer des images ou des contenus fallacieux. 

Bientôt, nous allons ajouter un filigrane aux images générées par l'IA. Il apparaîtra sur les images créées via les outils d'IA générative de Snap lorsque l'image est exportée ou enregistrée dans l'appareil photo. Les destinataires d'une image générée par l'IA et utilisée sur Snapchat peuvent voir un petit logo fantôme avec l'icône d'étincelle connue à côté. L'ajout de ces filigranes aidera à informer ceux qui la regardent que l'image a été faite avec l'IA sur Snapchat. 

Tests de sécurité normalisés et protocoles 

Nous prenons au sérieux notre responsabilité en matière de conception de produits et d'expériences qui donnent la priorité à la vie privée, la sécurité et le respect du contenu approprié à l'âge. Comme tous nos produits, les fonctionnalités alimentées par l'IA ont toujours fait l'objet d'un examen strict pour s'assurer qu'elles respectent nos principes de sécurité et de protection de confidentialité ; nos expériences au fil du temps nous ont, en outre, permis de développer des mesures de protection additionnelles :

Red-Teaming

Le red-teaming d'IA est une tactique de plus en plus courante utilisée pour tester et identifier les failles potentielles dans les modèles d'IA et les fonctionnalités basées sur l'IA et mettre en œuvre des solutions pour améliorer la sécurité et la cohérence des résultats de l'IA. 

Nous avons été parmi les premiers à adopter les nouvelles méthodes de red-teaming IA pour les modèles d'images génératives, via un partenariat avec HackerOne sur plus de 2500 heures de travail pour tester l'efficacité de nos garanties strictes.

Filtrage de sécurité et étiquetage cohérent

Comme nous avons élargi les expériences génératives compatibles avec l'IA disponibles sur Snapchat, nous avons établi des principes de gouvernance responsable et amélioré nos mesures d'atténuation des risques de sécurité. 

Nous avons créé un processus d'examen de la sécurité afin de détecter et de supprimer les invites potentiellement problématiques dans les premières étapes du développement des expériences d'IA Lens conçues par notre équipe. Toutes nos Lenses IA qui génèrent une image à partir d'une invite passent par ce processus avant d'être finalisées et de devenir disponibles pour notre communauté. 

Tests inclusifs

Nous voulons que les Snapchatters de tous les horizons aient un accès et des attentes équitables lorsqu'ils utilisent toutes les fonctionnalités de notre application, notamment nos expériences basées sur l'IA. 

Dans cet esprit, nous mettons en œuvre des tests supplémentaires pour minimiser les résultats potentiellement biaisés de l'IA.

Engagement continu en faveur de l'alphabétisation au sujet de l'IA

Nous croyons en l'énorme potentiel de l'IA pour améliorer la capacité de notre communauté à s'exprimer et à se connecter les uns les autres, et nous nous engageons à poursuivre l'amélioration de ces protocoles de sécurité et de transparence. 

Bien que tous nos outils d'IA, à la fois textuels et visuels, soient conçus pour éviter de produire des matériaux incorrects, nuisibles ou trompeurs, des erreurs peuvent toujours se produire. Les Snapchatters ont la possibilité de signaler du contenu, et nous apprécions ces commentaires. 

Enfin, dans le cadre de cet engagement permanent à aider notre communauté à mieux comprendre ces outils, nous avons désormais des informations et des ressources supplémentaires sur notre site d'assistance.