Ayudar a los jóvenes a prosperar en el mundo digital incluye ir más allá de las narrativas simplistas que presentan la vida en línea como algo inherentemente bueno o algo inherentemente malo. También debemos centrarnos en las experiencias auténticas y cotidianas de la Generación Z para comprender qué les permite prosperar. A medida que entramos en una nueva era definida por el rápido auge de la IA generativa, nuestro compromiso de vincular nuestro trabajo de seguridad a una investigación objetiva es más importante que nunca, lo que ayudará a garantizar que Snapchat siga siendo un servicio de comunicaciones centrado en la autenticidad, la conexión, la pertenencia y la relevancia.

Hoy, compartimos nuevos hallazgos del quinto y último año de nuestro estudio del Índice de Bienestar Digital (DWBI), con un enfoque específico en los resultados sobre el panorama cambiante del contenido generado por IA y su impacto en las relaciones interpersonales.

Durante los últimos cinco años, Snap ha realizado una investigación independiente de la plataforma para ayudar a rastrear y medir el bienestar psicológico en línea de la Generación Z. Realizamos esta encuesta para aumentar la base de evidencia global sobre los hábitos y prácticas digitales de los jóvenes, y ayuda a crear conciencia sobre las preocupaciones emergentes para que padres, educadores, empresas de tecnología, gobiernos y la sociedad civil puedan trabajar juntos de forma más efectiva para mitigar los riesgos, reducir posibles daños y evitar que se repitan. El DWBI examina las experiencias de jóvenes de entre 13 y 24 años en seis países del ecosistema digital más amplio, en lugar de centrarse en una sola plataforma, incluido Snapchat. Los últimos hallazgos de Australia, Francia, Alemania, India, el Reino Unido y Estados Unidos incluyen nuevos datos sobre la creación y distribución de imágenes deepfake entre la Generación Z.

El discurso público en torno a la IA suele oscilar entre el optimismo desenfrenado y la profunda inquietud. En lugar de basarse en cualquiera de los dos extremos, los últimos hallazgos del DWBI ofrecen una visión basada en evidencias sobre cómo los jóvenes de entre 13 y 24 años de las seis regiones interactúan con la IA generativa. Esos hallazgos revelan un panorama complejo y, a veces, preocupante de las interacciones entre pares que involucran deepfakes. Por ejemplo:

• Casi un tercio (30 %) de los encuestados de entre 13 y 24 años informaron haber creado un deepfake de otra persona

• Más de la mitad (53 %) de las personas que crearon un deepfake declararon que la acción dio lugar a un «drama» o un «conflicto» en sus círculos sociales, y 

• Si bien la mayoría utilizó herramientas de IA generativa para la creatividad, la diversión y el entretenimiento, más de un tercio (35 % neto) dijo que las falsificaciones que crearon tenían una intención malintencionada, a saber: hacer ver mal a alguien o molestarlo (12 %), en represalia (12 %) o para burlarse o acosar a otra persona (11 %). 

Cuando se les preguntó cómo responderían específicamente a un deepfake sexual de sí mismos, la gran mayoría (81 % neto) de los adolescentes menores de edad dijeron que hablarían con alguien, concretamente con un padre (65 %), mientras que siete de cada diez adultos jóvenes de la Generación Z (70 %) dijeron que lo denunciarían, siendo las fuerzas del orden (53 %) y las plataformas tecnológicas (51 %) sus principales vías de denuncia. Más de uno de cada 10 adolescentes menores de edad (18 %) y más de dos de cada 10 adolescentes de entre 18 y 24 años (22 %) dijeron que simplemente ignorarían o no realizarían ninguna de las medidas enumeradas. El siguiente cuadro describe las opciones de acción que se ofrecen.

Estos hallazgos subrayan una verdad fundamental: el bienestar digital en el siglo XXI requiere más que herramientas y recursos de seguridad tradicionales; exige una alfabetización práctica y profunda en IA. Cuando el 30 % de los jóvenes informa haber creado medios sintéticos en los que participan sus compañeros, esa actividad puede tener implicaciones en las relaciones personales, la reputación y la sensación de control que tiene una persona sobre la forma en que se la retrata.

Por lo tanto, las conversaciones centradas en las políticas deben alejarse de las reacciones basadas en el miedo y adoptar un marco que refleje a la «persona completa» de los jóvenes en línea actualmente. Podemos considerar tres componentes principales:

1. Alfabetización en IA: ayudar a los jóvenes a comprender no solo cómo utilizar la IA, sino las consecuencias éticas y sociales de crear contenido que pueda involucrar a otras personas sin su consentimiento.

2. Control personal: empoderar a los jóvenes para que reconozcan los límites y traten de mantener el control sobre sus propias representaciones digitales, y

3. Comunicación abierta: para alentar a los adolescentes, padres, educadores y otros adultos de confianza a tener conversaciones abiertas y reflexivas sobre la calidad frente a la cantidad de las interacciones digitales, reconociendo que cualquier deepfake creado, incluso «como una broma», puede tener efectos duraderos en los demás.

Cuando se les preguntó dónde y de quién estaban aprendiendo a utilizar las herramientas de IA de forma segura y responsable, ocho de cada 10 personas de entre 13 y 24 años (81 % neto) dijeron que eran autodidactas. Una cuarta parte (27 %) de los adolescentes de entre 13 y 17 años dijeron que estaban aprendiendo de sus padres, mientras que los profesores representaban una de cada 10 bases de conocimientos de adolescentes (11 %) y adultos jóvenes (10 %).

Los hallazgos forman parte del estudio quinquenal de Snap sobre el bienestar psicológico en línea de la Generación Z en varias plataformas y marcan la última y definitiva entrega de nuestro Índice de Bienestar Digital (DWBI, por sus siglas en inglés), una medida de cómo les va en línea a los adolescentes (de 13 a 17 años) y a los adultos jóvenes (de 18 a 24 años) en los seis países. También encuestamos a padres de adolescentes de entre 13 y 19 años sobre las experiencias en línea de sus hijos. Esta encuesta más reciente se realizó entre el 11 y el 30 de mayo de 2026 e incluyó 9005 encuestados de los tres datos demográficos de edad y seis geografías. Los resultados completos, que incluirán la lectura DWBI más reciente para cada país y para los seis combinados, se publicarán el Día de Internet Segura de 2027 en febrero. Optamos por compartir estos hallazgos relacionados con la IA con antelación, dado el diálogo global en curso sobre muchos de estos problemas.

A medida que nos acercamos a este capítulo de cinco años del estudio del bienestar digital y evolucionamos nuestro enfoque de investigación para los próximos años, nuestra misión para todo el ecosistema sigue siendo clara: crear espacios en línea donde los jóvenes puedan aprender, reír y conectarse de la forma más segura y auténtica posible. El aumento de los deepfakes es un recordatorio de que, a medida que la tecnología evoluciona, nuestros esfuerzos operativos y educativos deben evolucionar con ella. Al seguir centrándonos en la alfabetización, la resiliencia y el pensamiento crítico, podemos ayudar a garantizar que la próxima generación no solo «sobreviva» en línea, sino que realmente prospere.

Para apoyar estos esfuerzos, el mes pasado, Snap anunció que los vídeos generados íntegramente por IA ya no serán recomendados en la función Spotlight de Snapchat. De hecho, dado que el contenido generado por IA, de baja calidad y repetitivo es cada vez más común en los espacios en línea, Snap quiere que Spotlight siga siendo un lugar donde las personas puedan descubrir creatividad auténtica de personas reales. También creamos una breve hoja informativa para padres y adolescentes sobre el material generado por IA. «Detente. Piensa. ¿Podría ESTO ser IA?» está diseñado para iniciar conversaciones entre adolescentes, padres y otros adultos de confianza sobre el uso seguro y responsable de las herramientas de IA. También colaboramos con muchos otros grupos y organizaciones, y fuimos los primeros en apoyar la campaña Know2Protect del Departamento de Seguridad Nacional de Estados Unidos, que crea conciencia sobre la explotación y el abuso sexual infantil. Know2Protect publicó una guía sobre los deepfakes aquí.   

En el ámbito de las políticas públicas, Snap respaldó la Take It Down Act (Ley para la eliminación de contenido), que entró en vigor en mayo de 2025, estableciendo un marco federal en los Estados Unidos para abordar las imágenes íntimas no consentidas, incluido el contenido generado por IA. La ley tipifica como delito federal publicar o amenazar con publicar intencionadamente imágenes íntimas sin consentimiento, ya sea que el material sea auténtico o generado sintéticamente, y exige que las plataformas cubiertas proporcionen un proceso de denuncia y eliminen el contenido denunciado en un plazo de 48 horas.

Preocupaciones similares se reflejan en la campaña «No a los desnudos» lanzada el Día de Internet más seguro 2026, que reunió a organizaciones de la sociedad civil y de la seguridad infantil, muchas de las cuales son socios y colaboradores de Snap. WeProtect Global Alliance, INHOPE, Internet Watch Foundation, NCMEC, Child Helpline International, Offlimits y Safe Online pidieron la prohibición de las herramientas de creación de desnudos mediante IA. La campaña sostiene que las llamadas aplicaciones de «nudismo» no son, de hecho, experimentos inofensivos, sino que se utilizan para crear imágenes sexualizadas no consensuadas a partir de fotos comunes y están cada vez más relacionadas con el acoso, la coacción, la extorsión sexual y el abuso que afectan a mujeres, niñas y niños.

Snap también participa en programas prácticos interindustriales diseñados para limitar la propagación de dicho material en Snapchat. Somos miembros del programa Take It Down del NCMEC para menores y de la iniciativa StopNCII de SWGfL para mayores de 18 años, por lo que recibimos y aprovechamos firmas digitales únicas, o «hashes», para ayudar a detectar imágenes íntimas duplicadas y eliminar el contenido que infringe nuestras normas. Estos esfuerzos son importantes porque se centran no solo en la detección inicial, sino en evitar la recirculación de imágenes íntimas conocidas y de deepfakes sexuales una vez que comienzan a propagarse.

– Jacqueline Beauchere, directora global de seguridad de la plataforma, Snap Inc.