Ayudar a los jóvenes a prosperar en el mundo digital incluye ir más allá de las narrativas simplistas que retratan la vida en línea como inherentemente buena o inherentemente mala. También debemos centrarnos en las experiencias auténticas y cotidianas de la Generación Z para comprender qué les permite prosperar. A medida que entramos en una nueva era definida por el rápido aumento de la IA generativa, nuestro compromiso de basar nuestro trabajo de seguridad en la investigación objetiva es más fundamental que nunca, y ayudará a garantizar que Snapchat siga siendo un servicio de comunicaciones centrado en la autenticidad, la conexión, la pertenencia y la importancia.

Hoy estamos compartiendo algunos nuevos conocimientos del quinto y último año de nuestro estudio Índice de Bienestar Digital (DWBI, por sus siglas en inglés), específicamente los resultados centrados en el panorama en evolución del contenido generado por IA y su impacto en las relaciones interpersonales.

Durante los últimos cinco años, Snap ha realizado una investigación independiente de la plataforma para ayudar a rastrear y medir el bienestar psicológico en línea de la Generación Z. Realizamos esta encuesta para añadir a la base de evidencia global sobre los hábitos y prácticas digitales de los jóvenes, y ayuda a crear conciencia sobre las preocupaciones emergentes para que los padres, los educadores, las empresas de tecnología, los gobiernos y la sociedad civil puedan trabajar juntos de forma más efectiva para mitigar los riesgos, reducir los daños potenciales y evitar que se repitan. El DWBI examina las experiencias de personas de 13 a 24 años en seis países en todo el ecosistema digital más amplio, en lugar de centrarse en una sola plataforma, incluido Snapchat. Los últimos hallazgos de Australia, Francia, Alemania, India, el Reino Unido y los EE. UU. incluyen nuevos datos sobre la creación y distribución de imágenes deepfake entre la Generación Z.

El discurso público en torno a la IA a menudo oscila entre el optimismo desenfrenado y la profunda inquietud. En lugar de confiar en uno de los extremos, los últimos hallazgos de DWBI proporcionan una visión basada en evidencia de cómo los jóvenes de 13 a 24 años de las seis geografías están interactuando con la IA generativa. Esos resultados revelan un cuadro complejo y, a veces, preocupante de las interacciones entre pares que involucran deepfakes. Por ejemplo:

• Casi un tercio (30 %) de los encuestados, de entre 13 y 24 años, informaron haber creado un deepfake de otra persona

• Más de la mitad (53 %) de los que crearon un deepfake informaron que la acción dio lugar a un "drama" o "conflicto" dentro de sus círculos sociales, y 

• Si bien la mayoría usó herramientas de IA generativa para la creatividad, la diversión y el entretenimiento, más de un tercio (35 % neto) dijo que los deepfakes que crearon se hicieron con una intención nefasta, específicamente: hacer que alguien se vea mal o molestarlo (12 %), en represalia (12 %) o para burlarse de otro (11 %). 

Cuando se les preguntó cómo responderían específicamente a un deepfake sexual de sí mismos, la gran mayoría (81 % neto) de los adolescentes menores de edad dijeron que hablarían con alguien, en concreto con sus padres (65 %), mientras que siete de cada 10 adultos jóvenes de la Generación Z (70 %) dijeron que lo denunciarían, siendo las fuerzas de seguridad (53 %) y las plataformas tecnológicas (51 %) sus principales medios de comunicación. Más de uno de cada 10 menores de edad (18 %) y más de dos de cada 10 personas de 18 a 24 años (22 %) dijeron que simplemente lo ignorarían o no tomarían ninguna de las acciones enumeradas. El siguiente gráfico describe las opciones de acción ofrecidas.

Estos hallazgos subrayan una verdad crítica: el bienestar digital en el siglo XXI requiere más que herramientas y recursos de seguridad tradicionales; exige una alfabetización profunda y práctica de la IA. Cuando el 30 % de los jóvenes informan haber creado medios sintéticos en los que participan sus compañeros, esa actividad puede tener implicaciones en las relaciones personales, la reputación y la sensación de control de un individuo sobre cómo se le retrata.

En consecuencia, las conversaciones centradas en las políticas deben alejarse de las reacciones basadas en el miedo y dirigirse hacia un marco que encarne la "persona completa" de los jóvenes en línea de hoy. Podemos considerar tres componentes principales:

1. Alfabetización en IA: para ayudar a los jóvenes a comprender no solo cómo usar la IA, sino las consecuencias éticas y sociales de la creación de contenido que puede involucrar a otros sin su consentimiento.

2. Control personal: empoderar a los jóvenes para que reconozcan los límites y busquen mantener el control sobre sus propias imágenes digitales, y

3. Comunicación abierta: para alentar a los adolescentes, padres, educadores y otros adultos de confianza a tener conversaciones abiertas y consideradas sobre la calidad frente a la cantidad de las interacciones digitales, reconociendo que cualquier deepfake creado incluso "como una broma" puede tener impactos duraderos en los demás.

Por cierto, cuando se les preguntó dónde y de quién estaban aprendiendo a usar las herramientas de IA de forma segura y responsable, ocho de cada 10 jóvenes de 13 a 24 años (81 % neto) dijeron que eran autodidactas. Una cuarta parte (27 %) de los jóvenes de 13 a 17 años dijo que estaba aprendiendo de sus padres, mientras que los maestros representaron una décima parte de la base de conocimientos tanto de los adolescentes (11 %) como de los adultos jóvenes (10 %).

Los resultados forman parte del estudio de cinco años de Snap sobre el bienestar psicológico en línea de la Generación Z en varias plataformas y marcan la más reciente y última entrega de nuestro Índice de Bienestar Digital (DWBI, por sus siglas en inglés), que muestra cómo les está yendo en línea a los adolescentes (de 13 a 17 años) y a los adultos jóvenes (de 18 a 24 años) en los seis países. También encuestamos a padres de jóvenes de 13 a 19 años sobre las experiencias en línea de sus adolescentes. Esta última encuesta se realizó entre el 11 de mayo y el 30 de mayo de 2026 e incluyó a 9005 encuestados en los tres datos demográficos de edad y las seis geografías. Los resultados completos, incluidas las últimas lecturas del DWBI para cada país y para los seis en conjunto, se publicarán el Día de la Internet Segura de 2027 en febrero. Optamos por hacer que estos hallazgos relacionados con la IA estén disponibles desde una etapa temprana dado el diálogo global en curso sobre muchos de estos problemas.

A medida que cerramos este capítulo de cinco años de estudio del bienestar digital y evolucionamos nuestro enfoque de investigación para los próximos años, nuestra misión en todo el ecosistema sigue siendo clara: crear espacios en línea donde los jóvenes puedan aprender, reír y conectarse de la forma más segura y auténtica posible. El aumento de los deepfakes es un recordatorio de que a medida que la tecnología evoluciona, nuestros esfuerzos operativos y educativos deben evolucionar con ella. Al seguir centrándonos en la alfabetización, la resiliencia y el pensamiento crítico, podemos ayudar a garantizar que la próxima generación no solo "sobreviva" en línea, sino que realmente florezca.

En apoyo de estos esfuerzos, el mes pasado, Snap anunció que los videos generados totalmente por IA ya no serán elegibles para la recomendación en la función Spotlight de Snapchat. De hecho, a medida que el contenido generado por IA de baja calidad y repetitivo se vuelve cada vez más común en los espacios en línea, Snap quiere que Spotlight siga siendo un lugar donde las personas puedan descubrir la creatividad auténtica de personas reales. También creamos una breve hoja informativa para padres y adolescentes sobre el material generado por la IA. "Detente. Piensa. ¿Podría ESTO ser IA?" está diseñado para iniciar conversaciones entre adolescentes, padres y otros adultos de confianza sobre el uso seguro y responsable de las herramientas de IA. También colaboramos con otros numerosos grupos y organizaciones, y fuimos los primeros en apoyar la campaña Know2Protect del Departamento de Seguridad Nacional de los EE. UU., creando conciencia sobre la explotación y el abuso sexual infantil. Know2Protect publicó una guía sobre los deepfakes aquí.   

En el ámbito de las políticas públicas, Snap apoyó la Ley Take It Down, que entró en vigor en mayo de 2025, estableciendo un marco federal de EE. UU. para abordar las imágenes íntimas no consentidas, incluido el contenido generado por IA. La ley tipifica como delito federal publicar intencionadamente o amenazar con publicar imágenes íntimas sin consentimiento, ya sea que el material sea auténtico o generado sintéticamente, y requiere que las plataformas cubiertas proporcionen un proceso de denuncia y eliminen el contenido denunciado en un plazo de 48 horas.

Preocupaciones similares se reflejan en la campaña "No a la nudificación" lanzada con motivo del Día de Internet más seguro de 2026, que reunió a organizaciones de seguridad infantil y de la sociedad civil, muchas de las cuales son socios y colaboradores de Snap. WeProtect Global Alliance, INHOPE, Internet Watch Foundation, NCMEC, Child Helpline International, Offlimits y Safe Online pidieron la prohibición de las herramientas de creación de desnudos mediante IA. La campaña sostiene que las llamadas apps de "desnudo artificial" no son, en realidad, una experimentación inofensiva, sino que se utilizan para crear imágenes sexualizadas no consentidas a partir de fotos ordinarias y están cada vez más vinculadas al acoso, la coacción, la extorsión sexual y el abuso que afecta a mujeres, niñas y niños.

Snap también participa en programas prácticos interindustriales diseñados para limitar la propagación de dicho material en Snapchat. Somos miembros del programa Take It Down del NCMEC para menores y de la iniciativa StopNCII de SWGfL para mayores de 18 años, recibimos y aprovechamos firmas digitales únicas, o "hashes", para ayudar a detectar imágenes íntimas duplicadas y eliminar contenido que infrinja nuestras normas. Estos esfuerzos son importantes porque se centran no solo en la detección inicial, sino en evitar la recirculación de imágenes íntimas conocidas y de deepfakes sexuales una vez que comienzan a propagarse.

– Jacqueline Beauchere, jefa global de seguridad de la plataforma, Snap Inc.