Cuando llegaron los Lentes en 2015, la tecnología de realidad aumentada (RA) hizo realidad la magia ante nuestros ojos, revolucionando lo que creíamos posible. Hoy en día, una media de más de 300 millones de Snapchatters interaccionan con la realidad aumentada cada día, y ya esperamos contar con este tipo de tecnología en nuestra experiencia cotidiana con la cámara. 

Ahora, los avances recientes en IA están abriendo posibilidades ilimitadas e impresionantes, redefiniendo una vez más lo que creíamos posible. 

Ya hay muchas formas inspiradoras para que los Snapchatters se expresen utilizando IA, ya sea creando un fondo de pantalla de chat original con IA generativa para personalizar el aspecto de una conversación con un amigo, transformando su propio aspecto de forma imaginativa con Lentes que funcionan con IA o aprendiendo sobre el mundo a través de conversaciones con My AI. Estamos muy entusiasmados con el potencial de esta tecnología para ayudar a que nuestra comunidad siga desarrollando su creatividad e imaginación. 

Transparencia en cuanto a la IA

Creemos que los Snapchatters deben estar informados sobre los tipos de tecnologías que están utilizando, ya estén creando divertidos elementos visuales o aprendiendo a través de conversaciones de texto con My AI. 

Utilizamos iconos, símbolos y etiquetas contextuales en la aplicación para proporcionar transparencia contextual a los Snapchatters cuando interactúan con una función operada por tecnología de IA. Por ejemplo, cuando un Snapchatter comparte una imagen de Sueños generada por IA, el destinatario ve una ficha contextual con más información. Otras funciones, como la herramienta de extensión que aprovecha la IA para hacer que un Snap parezca más alejado, están marcadas como función con IA mediante un icono de destello para el Snapchatter que crea el Snap. 

También nos esforzamos por investigar todos los anuncios electorales a través de un riguroso proceso de revisión humana, que incluye una verificación exhaustiva de cualquier uso engañoso de contenidos, incluida la IA para crear imágenes o contenidos engañosos. 

Próximamente, añadiremos una marca de agua a las imágenes generadas por IA. Aparecerá en las imágenes creadas con herramientas de IA generativa de Snap cuando la imagen se exporte o guarde en Fotos o en el Álbum de cámara. Los destinatarios de una imagen generada por IA realizada en Snapchat pueden ver un pequeño logotipo fantasma con el ampliamente reconocido icono de destello al lado. Añadir estas marcas de agua ayudará a informar a los usuarios que vean la imagen de que fue creada con IA en Snapchat. 

Pruebas y protocolos de seguridad estandarizados 

Nos tomamos muy en serio nuestra responsabilidad de diseñar productos y experiencias que den prioridad a la privacidad, la seguridad y que sean apropiados para cada edad. Al igual que todos nuestros productos, las funciones que operan mediante IA siempre han sido sometidas a una revisión estricta para garantizar que cumplen nuestros principios de seguridad y privacidad, y a través de lo aprendido con el tiempo hemos desarrollado medidas de seguridad adicionales:

Simulación de ataques para descubrir debilidades en el sistema

La realización de simulaciones de ataques al sistema de IA es una táctica cada vez más común que se utiliza para hacer pruebas e identificar posibles fallos en los modelos de IA y las funciones que funcionan mediante IA, e implementar soluciones para mejorar la seguridad y la uniformidad de los resultados de la IA. 

Hemos sido de los primeros en adoptar los nuevos métodos simulación de ataques sistemas de IA para modelos de imagen generativa, al asociarnos con HackerOne en más de 2500 horas de trabajo para probar la eficacia de nuestras estrictas medidas de seguridad. 

Filtrado de seguridad y etiquetado uniforme

A medida que ampliamos las experiencias que funcionan mediante IA generativa disponibles en Snapchat, hemos establecido principios de gobernanza responsable y también hemos mejorado nuestras medidas de mitigación de seguridad. 

Hemos creado un proceso de revisión de seguridad para detectar y eliminar las indicaciones potencialmente problemáticas en las primeras etapas del desarrollo de las experiencias de Lente de IA diseñadas por nuestro equipo. Todas nuestras Lentes de IA que generan una imagen a partir de un mensaje pasan por este proceso antes de estar terminadas y ser puestas a disposición de nuestra comunidad. 

Pruebas inclusivas

Queremos que los Snapchatters de todas las condiciones sociales tengan acceso y expectativas equitativos al utilizar todas las funciones de nuestra aplicación, en particular nuestras experiencias que operan mediante IA. 

Con esto en mente, estamos implementando pruebas adicionales para minimizar el potencial sesgo en los resultados de IA. 

Compromiso continuo con la alfabetización en cuanto a IA

Creemos en el enorme potencial de la tecnología de IA para mejorar la capacidad de nuestra comunidad para expresarse y conectarse entre sí, y nos comprometemos a seguir mejorando estos protocolos de seguridad y transparencia. 

Aunque todas nuestras herramientas de IA, tanto de texto como visuales, están diseñadas para evitar la producción de material incorrecto, dañino o engañoso, pueden producirse errores. Los Snapchatters pueden denunciar contenidos, cosa que agradecemos que hagan. 

Finalmente, como parte de este compromiso continuo de ayudar a nuestra comunidad a comprender mejor estas herramientas, ahora tenemos información y recursos adicionales en nuestro sitio web de Ayuda.