Cuando las Lentes llegaron en 2015, la tecnología de realidad aumentada (RA) hizo la magia realidad ante nuestros ojos, revolucionando lo que creíamos posible. Hoy en día, una media de más de 300 millones de Snapchatters utilizan al día la realidad aumentada, ya que nos hemos acostumbrado a que este tipo de tecnología forme parte de nuestra experiencia de cámara cotidiana. 

Ahora, los recientes avances en IA están abriendo posibilidades ilimitadas y asombrosas, replanteando lo que creíamos posible una vez más. 

Los Snapchatters ya disponen de muchas formas inspiradoras de expresarse utilizando IA, ya sea creando un fondo de pantalla de chat de IA generativa original para personalizar la estética de una conversación con un amigo, transformándose a sí mismos de forma imaginativa con Lentes basadas en IA o aprendiendo sobre el mundo a través de conversaciones con My AI. Estamos superentusiasmados con el potencial de esta tecnología para ayudar a nuestra comunidad a seguir desbloqueando su creatividad e imaginación. 

Transparencia sobre la IA

Creemos que los Snapchatters tienen que estar informados sobre los tipos de tecnologías que utilizan, ya sea para crear imágenes divertidas o para aprender mediante conversaciones por texto con My AI. 

Utilizamos iconos, símbolos y etiquetas contextuales en la aplicación para proporcionar transparencia contextual a los Snapchatters cuando interactúan con una función basada en IA. Por ejemplo, cuando un Snapchatter comparte una imagen de Sueños generada por IA, el destinatario ve una tarjeta contextual con más información. Otras funciones, como la herramienta de extensión, que aprovecha la IA para hacer que un Snap parezca más alejado, están demarcadas como una función de IA con un icono de destello para el Snapchatter que crea el Snap. 

También nos preocupamos de examinar detenidamente todos los anuncios electorales mediante un riguroso proceso de revisión humana, que incluye una comprobación exhaustiva de cualquier uso engañoso de contenidos, incluyendo el posible uso de IA para crear imágenes o contenidos engañosos. 

Próximamente, añadiremos una marca de agua a las imágenes generadas por IA. Aparecerá en las imágenes creadas con las herramientas de IA generativa de Snap cuando la imagen se exporte o se guarde en el álbum de cámara. Los destinatarios de una imagen generada por IA realizada en Snapchat pueden ver un pequeño logotipo fantasma con el ampliamente reconocido icono del destello al lado. La adición de estas marcas de agua ayudará a informar a quienes la ven de que la imagen se hizo con IA en Snapchat. 

Pruebas y protocolos de seguridad estandarizados 

Nos tomamos en serio nuestra responsabilidad de diseñar productos y experiencias que priorizan la seguridad y que sean adecuados según la edad. Tal como hacemos con todos nuestros productos, las funciones basadas en IA siempre se han sometido a una revisión estricta para garantizar que cumplen nuestros principios de seguridad y privacidad. Basándonos en lo aprendido con el paso del tiempo, hemos desarrollado medidas de seguridad adicionales:

Simulacros de ataque nuestro propio modelo

La realización de simulacros de ataque contra el propio modelo de IA y contra las funciones que operan mediante IA es una táctica cada vez más común. Se utiliza para probar e identificar posibles fallos en los modelos de IA y en las funciones que operan mediante IA e implementar soluciones para mejorar la seguridad y la uniformidad de los resultados de IA. 

Hemos sido los primeros en adoptar los nuevos métodos de simulacro de ataque contra el propio modelo de IA generativa, en colaboración con HackerOne sobre más de 2500 horas trabajadas para probar la eficacia de nuestras estrictas medidas de seguridad. 

Filtrado de seguridad y uniformidad del etiquetado

A medida que ampliamos las experiencias que operan mediante IA disponibles en Snapchat, hemos establecido principios de gobernanza responsable y también hemos mejorado nuestras medidas de mitigación de seguridad. 

Hemos creado un proceso de revisión de seguridad para detectar y eliminar instrucciones potencialmente problemáticas en las primeras etapas del desarrollo de experiencias de Lente de IA diseñadas por nuestro equipo. Todas nuestras Lentes de IA que generan una imagen a partir de una instrucción pasan por este proceso antes de estar terminadas y quedar a disposición de nuestra comunidad. 

Pruebas inclusivas

Queremos que los Snapchatters de todos los ámbitos tengan un acceso y unas expectativas equitativos cuando utilicen todas las funciones de nuestra aplicación, en particular nuestras experiencias basadas en IA. 

Con esto en mente, estamos implementando pruebas adicionales para minimizar el sesgo en los resultados de la IA. 

Compromiso continuo con la alfabetización sobre IA

Creemos en el tremendo potencial de la tecnología de IA para mejorar la capacidad de nuestra comunidad para expresarse y conectarse entre sí, y nos comprometemos a seguir mejorando estos protocolos de seguridad y transparencia. 

Aunque todas nuestras herramientas de IA, tanto visuales como de texto, están diseñadas para evitar que se produzca material incorrecto, dañino o engañoso, es posible que sigan produciéndose errores. Los Snapchatters pueden hacer denuncias sobre contenidos, las cuales agradecemos. 

Por último, como parte de este compromiso continuo de ayudar a nuestra comunidad a comprender mejor estas herramientas, ahora disponemos de información y recursos adicionales en nuestro Sitio web de ayuda.