Ayudar a los jóvenes a prosperar en el mundo digital incluye ir más allá de las narrativas simplistas que presentan la vida en línea como inherentemente buena o inherentemente mala. También debemos centrarnos en las experiencias auténticas y cotidianas de la Generación Z para comprender lo que les permite prosperar. A medida que entramos en una nueva era definida por el rápido aumento de la IA generativa, nuestro compromiso de basar nuestro trabajo de seguridad en investigaciones objetivas es más importante que nunca, y ayudará a garantizar que Snapchat siga siendo un servicio de comunicaciones centrado en la autenticidad, la conexión, el sentido de pertenencia y la importancia.

Hoy compartimos algunos datos nuevos del quinto y último año de nuestro estudio del Índice de Bienestar Digital (DWBI), específicamente resultados centrados en el cambiante panorama del contenido generado por IA y su impacto en las relaciones interpersonales.

Durante los últimos cinco años, Snap ha realizado investigaciones independientes de la plataforma para ayudar a dar seguimiento y medir el bienestar psicológico en línea de la Generación Z. Realizamos esta encuesta para ampliar la base de evidencia mundial sobre los hábitos y prácticas digitales de los jóvenes, y ayudar a crear conciencia sobre las nuevas preocupaciones para que los padres, los educadores, las empresas de tecnología, los gobiernos y la sociedad civil puedan trabajar de forma más eficaz para mitigar los riesgos, reducir el daño potencial y prevenir que se repitan. El DWBI examina las experiencias de jóvenes de 13 a 24 años en seis países del ecosistema digital en su conjunto, en lugar de centrarse en una sola plataforma, incluido Snapchat. Los últimos hallazgos de Australia, Francia, Alemania, la India, el Reino Unido y EE. UU. incluyen nuevos conocimientos sobre la creación y distribución de imágenes deepfake entre la Generación Z.

El discurso público en torno a la IA a menudo oscila entre el optimismo desenfrenado y la preocupación profunda. En lugar de depender de cualquier extremo, los últimos hallazgos de DWBI proporcionan una visión basada en evidencia de cómo los jóvenes de 13 a 24 años de las seis geografías están utilizando la IA generativa. Esos hallazgos revelan una imagen compleja y, en ocasiones, preocupante de las interacciones entre pares que involucran deepfakes. Por ejemplo:

• Casi un tercio (30 %) de los encuestados, de 13 a 24 años, informaron haber creado un deepfake (falsificación profunda) de otra persona

• Más de la mitad (53 %) de los que crearon un deepfake informaron que la acción resultó en "drama" o "conflicto" dentro de sus círculos sociales, y 

• Si bien la mayoría usaba herramientas de IA generativa para la creatividad, la diversión y el entretenimiento, más de un tercio (35 % neto) dijo que las deepfakes que crearon se hicieron con intención nefasta, específicamente: hacer que alguien se sienta mal o molestarlo (12 %), como represalia (12 %) o para burlarse o acosar a otra persona (11 %). 

Cuando se les preguntó cómo responderían específicamente ante un deepfake sexual profundo de sí mismos, la gran mayoría (81 % neto) de los adolescentes menores dijo que hablaría con alguien, un padre (65 %), mientras que siete de cada 10 jóvenes adultos de la Generación Z (70 %) dijeron que lo denunciarían, siendo las fuerzas del orden (53 %) y las plataformas tecnológicas (51 %) sus principales canales. Más de uno de cada 10 adolescentes menores de edad (18 %) y más de dos de cada 10 jóvenes de 18 a 24 años (22 %) dijeron que simplemente lo ignorarían o no tomarían ninguna de las medidas mencionadas. La siguiente tabla describe las opciones de acción propuestas.

Estos hallazgos subrayan una verdad fundamental: el bienestar digital en el siglo XXI requiere no solo herramientas y recursos de seguridad tradicionales; exige un conocimiento profundo y práctico de IA. Cuando el 30 % de los jóvenes informa haber creado contenidos sintéticos en los que aparecen sus compañeros, esa actividad puede tener implicaciones en las relaciones personales, la reputación y la sensación de control de una persona sobre la forma como es representada.

En consecuencia, las conversaciones centradas en políticas deben alejarse de las reacciones basadas en el miedo y adoptar un marco que refleje a la "persona integral" de los jóvenes en el entorno digital en la actualidad. Podemos considerar tres componentes principales:

1. Alfabetización en IA: Para ayudar a los jóvenes a comprender no solo cómo usar la IA, sino las consecuencias éticas y sociales de crear contenido que pueda involucrar a otras personas sin su consentimiento.

2. Control personal: Para empoderar a los jóvenes para que reconozcan los límites y traten de mantener el control sobre sus propias imágenes digitales, y

3. Comunicación abierta: Alentar a los adolescentes, padres, educadores y otros adultos de confianza a tener conversaciones abiertas y consideradas sobre la calidad y la cantidad de las interacciones digitales, reconociendo que cualquier deepfake creado, incluso "como una broma", puede tener impactos duraderos en otras personas.

Por cierto, cuando se les preguntó dónde y de quién estaban aprendiendo a usar las herramientas de IA de forma segura y responsable, ocho de cada 10 jóvenes de 13 a 24 años (81 % neto) dijeron que eran autodidactas. Una cuarta parte (27 %) de los jóvenes de 13 a 17 años dijeron que estaban aprendiendo de sus padres, mientras que los maestros representaban uno de cada 10 de las bases de conocimiento de los adolescentes (11 %) y los adultos jóvenes (10 %).

Los hallazgos forman parte del estudio de cinco años realizado por Snap sobre el bienestar psicológico en línea de la Generación Z en varias plataformas y representan la última y última entrega de nuestro Índice de Bienestar Digital (DWBI), una medida de cómo les va en línea a los adolescentes (de 13 a 17 años) y jóvenes adultos (de 18 a 24 años) en los seis países. También encuestamos a padres de jóvenes de 13 a 19 años sobre las experiencias en línea de sus adolescentes. Esta última encuesta se realizó entre el 11 de mayo y el 30 de mayo de 2026 e incluyó a 9,005 encuestados de los tres datos demográficos por edad y seis geografías. Los resultados completos, incluida la última lectura de DWBI para cada país y para los seis combinados, se publicarán en febrero de 2027, el Día de Internet Segura. Optamos por poner a disposición estos hallazgos relacionados con la IA desde el principio, teniendo en cuenta el debate global en curso sobre muchos de estos problemas.

A medida que cerramos este capítulo de cinco años dedicado al estudio del bienestar digital y evolucionamos nuestro enfoque de investigación para los próximos años, nuestra misión en todo el ecosistema sigue siendo clara: crear espacios en línea donde los jóvenes puedan aprender, reír y conectarse de la forma más segura y sencilla posible. El aumento de los deepfakes es un recordatorio de que a medida que la tecnología evoluciona, nuestros esfuerzos operativos y educativos deben evolucionar con ella. Al seguir centrándonos en la alfabetización, la resiliencia y el pensamiento crítico, podemos ayudar a garantizar que la próxima generación no solo "sobreviva" en Internet, sino que realmente prospere.

Para apoyar estos esfuerzos, el mes pasado, Snap anunció que los videos generados completamente por IA ya no serán recomendables en la función Spotlight de Snapchat. De hecho, a medida que el contenido repetitivo y de baja calidad generado por IA es cada vez más común en los espacios en línea, Snap quiere que Spotlight siga siendo un lugar donde las personas puedan descubrir la creatividad auténtica de personas reales. También creamos una breve hoja informativa para padres y adolescentes sobre el material generado por IA. "Detente. Piensa. ¿Podría ESTO ser IA?" está diseñado para generar conversaciones entre adolescentes, padres y otros adultos de confianza sobre el uso seguro y responsable de las herramientas de IA. También colaboramos con numerosos grupos y organizaciones, también fuimos los primeros en apoyar la campaña Know2Protect del Departamento de Seguridad Nacional de los EE. UU., que crea conciencia sobre la explotación y el abuso sexual infantil. Know2Protect publicó una guía sobre deepfakes aquí.   

En el ámbito de las políticas públicas, Snap apoyó la Ley Take It Down, que entró en vigor en mayo de 2025 y estableció un marco federal de EE. UU. para abordar las imágenes íntimas no consensuadas, incluido el contenido generado por IA. La ley convierte en delito federal el publicar o amenazar con publicar imágenes íntimas sin consentimiento, ya sea que el material sea auténtico o generado sintéticamente, y exige que las plataformas cubiertas proporcionen un proceso de informes y eliminen el contenido denunciado en un plazo de 48 horas.

Preocupaciones similares se reflejan en la campaña "No to Nudify" lanzada el Día de Internet Segura de 2026, que reunió a organizaciones de seguridad infantil y de la sociedad civil, muchas de las cuales son socios y colaboradores de Snap. La Alianza Global WeProtect, INHOPE, la Internet Watch Foundation, el NCMEC, Child Helpline International, Offlimits y Safe Online pidieron la prohibición de las herramientas de desnudificación con IA. La campaña sostiene que las llamadas apps para "nudificar" no son, de hecho, experimentaciones inofensivas, sino que se utilizan para crear imágenes sexualizadas no consensuadas a partir de fotos comunes y están cada vez más vinculadas al acoso, la coacción, la extorsión sexual y el abuso que afecta a mujeres, niñas y niños.

Snap también participa en programas prácticos intersectoriales diseñados para limitar la difusión de dicho material en Snapchat. Somos miembros del programa Take It Down del NCMEC para menores y del esfuerzo StopNCII de SWGfL para mayores de 18 años, que recibe y utiliza firmas digitales únicas, o "hashes", para ayudar a detectar imágenes íntimas duplicadas y eliminar contenido que infrinja nuestras reglas. Estos esfuerzos son importantes porque se centran no solo en la detección inicial, sino en prevenir la recirculación de imágenes íntimas conocidas y falsificaciones sexuales profundas una vez que comienzan a propagarse.

– Jacqueline Beauchere, Directora Global de Seguridad de la Plataforma, Snap Inc.