Cuando los Lentes llegaron en 2015, la tecnología de realidad aumentada (RA) dio vida a la magia ante nuestros ojos, revolucionando lo que creíamos posible. Hoy en día, más de 300 millones de Snapchatters interactúan con la RA cada día en promedio, ya que hemos llegado a esperar este tipo de tecnología en nuestra experiencia diaria con la cámara. 

Ahora, los avances recientes en IA están abriendo posibilidades ilimitadas e impresionantes, revisando lo que creíamos posible una vez más. 

Ya hay muchas formas inspiradoras para que los Snapchatters se expresen usando la IA, ya sea creando un fondo de pantalla de chat de IA generativa original para personalizar el aspecto de una conversación con un amigo, transformándose de maneras imaginativas con Lentes con tecnología de IA o aprendiendo sobre el mundo a través de conversaciones con My AI. Estamos muy entusiasmados con el potencial de esta tecnología para ayudar a nuestra comunidad a continuar desbloqueando su creatividad e imaginación. 

Transparencia de la IA

Creemos que los Snapchatters deben estar informados sobre los tipos de tecnologías que están usando, ya sea para crear imágenes divertidas o aprender a través de conversaciones basadas en texto con My AI. 

Usamos iconos, símbolos y etiquetas contextuales en la aplicación para proporcionar transparencia contextual a los Snapchatters cuando interactúan con una función impulsada por la tecnología de IA. Por ejemplo, cuando un Snapchatter comparte una imagen de Sueños generada por IA, el destinatario ve una tarjeta de contexto con más información. Otras funciones, como la herramienta de extensión que aprovecha la IA para hacer que un Snap parezca más alejado, están demarcadas como una función de IA con un icono de destello para el Snapchatter que crea el Snap. 

También tenemos mucho cuidado de examinar todos los anuncios políticos a través de un riguroso proceso de revisión humana, que incluye una verificación exhaustiva de cualquier uso engañoso de contenido, incluida la IA para crear imágenes o contenido engañosos. 

Pronto, agregaremos una marca de agua a las imágenes generadas por IA. Aparecerá en las imágenes creadas con las herramientas de IA generativa de Snap cuando la imagen se exporte o guarde en Fotos. Los destinatarios de una imagen generada por IA en Snapchat pueden ver un pequeño logotipo de fantasma con el icono de destello ampliamente reconocido al lado. La adición de estas marcas de agua ayudará a informar a los que la ven que la imagen se hizo con IA en Snapchat. 

Pruebas de seguridad y protocolos estandarizados 

Tomamos seriamente nuestra responsabilidad al diseñar productos y experiencias que prioricen la privacidad y la edad apropiada. Al igual que todos nuestros productos, las funciones impulsadas por IA siempre se han sometido a una revisión estricta para garantizar que se adhieran a nuestros principios de seguridad y privacidad, y a través de nuestros aprendizajes a lo largo del tiempo, hemos desarrollado salvaguardas adicionales:

Red-Team

Red-teaming de IA es una táctica cada vez más frecuente que se usa para probar e identificar posibles fallas en los modelos de IA y las funciones habilitadas para IA e implementar soluciones para mejorar la seguridad y la consistencia de los resultados de IA. 

Hemos sido los primeros en adoptar los métodos novedosos de IA red-teaming para modelos de imagen generativa, asociándonos con HackerOne en más de 2.500 horas de trabajo para probar la eficacia de nuestras estrictas salvaguardas. 

Filtrado de seguridad y etiquetado consistente

A medida que ampliamos las experiencias habilitadas para IA generativa disponibles en Snapchat, también establecimos principios de gobernanza responsable y mejoramos nuestras mitigaciones de seguridad. 

Hemos creado un proceso de revisión de seguridad para detectar y eliminar indicaciones potencialmente problemáticas en las primeras etapas del desarrollo de las experiencias de Lentes de IA diseñadas por nuestro equipo. Todos nuestros Lentes de IA que generan una imagen a partir de un mensaje pasan por este proceso antes de que finalicen y estén disponibles para nuestra comunidad. 

Pruebas inclusivas

Queremos que los Snapchatters de todos los ámbitos de la vida tengan un acceso y expectativas equitativos al usar todas las funciones de nuestra aplicación, particularmente nuestras experiencias con IA. 

Con esto en mente, estamos implementando pruebas adicionales para minimizar los resultados de IA potencialmente sesgados. 

Compromiso continuo con la alfabetización en IA

Creemos en el tremendo potencial de la tecnología de IA para mejorar la capacidad de nuestra comunidad para expresarse y conectarse entre sí, y estamos comprometidos a continuar mejorando estos protocolos de seguridad y transparencia. 

Si bien todas nuestras herramientas de IA, tanto basadas en texto como visuales, están diseñadas para evitar la producción de material incorrecto, dañino o engañoso, aún pueden ocurrir errores. Los Snapchatters pueden denunciar contenido y apreciamos estos comentarios. 

Finalmente, como parte de este compromiso continuo para ayudar a nuestra comunidad a entender mejor estas herramientas, ahora tenemos información y recursos adicionales en nuestro Sitio de soporte.