Ayudar a los jóvenes a prosperar en el mundo digital incluye mirar más allá de las narrativas simplistas que retratan la vida en línea como inherentemente buena o inherentemente mala. También debemos centrarnos en las experiencias auténticas y cotidianas de la Generación Z para comprender lo que les permite prosperar. A medida que entramos en una nueva era definida por el rápido crecimiento de la IA generativa, nuestro compromiso de basar nuestro trabajo de seguridad en la investigación objetiva es más crítico que nunca, y ayudará a garantizar que Snapchat siga siendo un servicio de comunicaciones centrado en la autenticidad, la conexión, la pertenencia y sentirse importante.

Hoy estamos compartiendo algunas ideas nuevas del quinto y último año de nuestro estudio del Índice de Bienestar Digital (DWBI), específicamente resultados centrados en el panorama en evolución del contenido generado por IA y su impacto en las relaciones interpersonales.

Durante los últimos cinco años, Snap ha realizado una investigación independiente de la plataforma para ayudar a rastrear y medir el bienestar psicológico en línea de la Generación Z. Realizamos esta encuesta para colaborar con la base de evidencia global sobre los hábitos y prácticas digitales de los jóvenes. También ayuda a crear conciencia sobre las preocupaciones emergentes para que los padres, los educadores, las empresas de tecnología, los gobiernos y la sociedad civil puedan trabajar juntos de manera más efectiva para mitigar el riesgo, reducir el daño potencial y prevenir la recurrencia. El DWBI examina las experiencias de los jóvenes de 13 a 24 años en seis países en el ecosistema digital en general, en lugar de centrarse en cualquier plataforma, incluida Snapchat. Los últimos resultados de Australia, Francia, Alemania, India, el Reino Unido y los Estados Unidos incluyen nuevas percepciones sobre la creación y distribución de imágenes deepfake entre la Generación Z.

El discurso público en torno a la IA a menudo oscila entre el optimismo desenfrenado y la profunda preocupación. En lugar de basarse en cualquiera de los extremos, los últimos resultados de DWBI proporcionan una visión basada en evidencia de cómo las personas de 13 a 24 años en las seis geografías interactúan con la IA generativa. Esos resultados revelan una imagen compleja y, a veces, preocupante de interacciones entre pares que involucran deepfakes. Por ejemplo:

• Casi un tercio (30 %) de los encuestados, de 13 a 24 años, informaron que habían creado una deepfake de otra persona

• Más de la mitad (53 %) de los que crearon un deepfake informaron que la acción resultó en “drama” o “conflicto” dentro de sus círculos sociales, y 

• Si bien la mayoría usó herramientas de IA generativa para la creatividad, la diversión y el entretenimiento, más de un tercio (35 % neto) dijo que los deepfakes que crearon se hicieron con una intención nefasta, específicamente: hacer que alguien se vea mal o molestarlo (12 %), en represalia (12 %), o para burlarse o acosar a otro (11 %). 

Cuando se les preguntó cómo responderían específicamente a un deepfake sexual de sí mismos, la gran mayoría (81 % neto) de los adolescentes menores de edad dijeron que hablarían con alguien, a saber, un padre (65 %), mientras que siete de cada 10 adultos jóvenes de la Generación Z (70 %) dijeron que lo denunciarían, y recurrirían, principalmente, a fuerzas de seguridad (53 %) y plataformas de tecnología (51 %). Más de uno de cada 10 adolescentes menores de edad (18 %) y más de dos de cada 10 adolescentes de 18 a 24 años (22 %) dijeron que simplemente lo ignorarían o no tomarían ninguna de las medidas que se mencionan. El siguiente gráfico describe las opciones de acción que se ofrecen.

Estos resultados subrayan una verdad crítica: el bienestar digital en el siglo XXI requiere más que herramientas y recursos de seguridad tradicionales; exige alfabetización profunda y práctica de IA. Cuando el 30 % de los jóvenes denuncian haber creado medios sintéticos que involucran a sus pares, esa actividad puede tener implicaciones para las relaciones personales, la reputación y la sensación de control de un individuo sobre la forma en que se lo muestra.

En consecuencia, las conversaciones centradas en las políticas deben alejarse de las reacciones basadas en el miedo y orientarse a un marco que encarne la versión integral de los jóvenes en línea de hoy. Podemos considerar tres componentes principales:

1. Alfabetización en IA: para ayudar a los jóvenes a comprender no solo cómo usar la IA, sino las consecuencias éticas y sociales de crear contenido que puede involucrar a otros sin su consentimiento.

2. Control personal: empoderar a los jóvenes para que reconozcan los límites y busquen mantener el control sobre su propia representación digital, y

3. Comunicación transparente: para alentar a los adolescentes, padres, educadores y otros adultos de confianza a tener conversaciones transparentes y consideradas sobre la calidad versus la cantidad de las interacciones digitales, reconociendo que cualquier deepfake creado, incluso "como broma", puede tener impactos duraderos en otros.

Por cierto, cuando se les preguntó dónde y de quién estaban aprendiendo a usar las herramientas de IA de forma segura y responsable, ocho de cada 10 jóvenes de 13 a 24 años (81 % neto) dijeron que fueron autodidactas. Una cuarta parte (27 %) de los jóvenes de 13 a 17 años dijo que estaba aprendiendo de sus padres, mientras que los maestros representaron uno de cada 10 de las bases de conocimiento de adolescentes (11 %) y adultos jóvenes (10 %).

Los resultados son parte del estudio de cinco años de Snap sobre el bienestar psicológico en línea de la Generación Z en varias plataformas y marcan la última y final entrega de nuestro Índice de Bienestar Digital (DWBI), una medida de cómo les está yendo a los adolescentes (de 13 a 17 años) y a los adultos jóvenes (de 18 a 24 años) en línea en los seis países. También encuestamos a padres de jóvenes de 13 a 19 años sobre las experiencias en línea de sus adolescentes. Esta última encuesta se realizó entre el 11 de mayo y el 30 de mayo de 2026 e incluyó 9005 encuestados en los tres datos demográficos de edad y seis geografías. Los resultados completos, incluida la última medición del DWBI para cada país y para los seis combinados, se publicarán en coincidencia con el Día de Internet Segura de 2027 en febrero. Optamos por hacer que estas conclusiones relacionadas con la IA estén disponibles con antelación, dado el diálogo global en curso sobre muchos de estos problemas.

A medida que cerramos este capítulo de cinco años de estudio del bienestar digital y evolucionamos nuestro enfoque de investigación durante los próximos años, nuestra misión en todo el ecosistema sigue siendo clara:  construir espacios en línea donde los jóvenes puedan aprender, reír y conectarse de la forma más segura y auténtica posible. El aumento de los deepfakes es un recordatorio de que a medida que la tecnología evoluciona, nuestros esfuerzos operativos y educativos deben evolucionar con ella. Al continuar centrándonos en la alfabetización, la resiliencia y el pensamiento crítico, podemos ayudar a garantizar que la próxima generación no solo "sobreviva" en línea, sino que realmente prospere.

En apoyo de estos esfuerzos, el mes pasado, Snap anunció que los videos generados completamente por IA ya no serán elegibles para ser recomendados en la función de Spotlight de Snapchat. De hecho, a medida que el contenido de baja calidad, repetitivo y generado por IA se vuelve cada vez más común en los espacios en línea, Snap quiere que Spotlight siga siendo un lugar donde las personas puedan descubrir la creatividad auténtica de personas reales. También creamos una breve hoja informativa para padres y adolescentes en torno al material generado por IA. “Frená. Pensá. ¿ESTO podría ser IA?"está diseñado para generar conversaciones entre adolescentes, padres y otros adultos de confianza sobre el uso seguro y responsable de las herramientas de IA. También colaboramos con numerosos otros grupos y organizaciones y fuimos los primeros en apoyar la campaña Know2Protect del Departamento de Seguridad Nacional de los Estados Unidos, que crea conciencia sobre la explotación y el abuso sexual infantil. Know2Protect publicó un manual sobre deepfakes acá.   

En el ámbito de las políticas públicas, Snap apoyó la Ley Take It Down, que entró en vigencia en mayo de 2025, estableciendo un marco federal en los Estados Unidos para abordar las imágenes íntimas no consensuadas, incluido el contenido generado por IA. La ley convierte en un delito federal publicar o amenazar con publicar a sabiendas imágenes íntimas sin consentimiento, ya sea que el material sea auténtico o generado sintéticamente, y requiere que las plataformas cubiertas proporcionen un proceso de denuncia y eliminen el contenido denunciado en un plazo de 48 horas.

Preocupaciones similares se reflejan en la campaña "No desnudar" lanzada en el Día de Internet Segura 2026, que reunió a organizaciones de seguridad infantil y de la sociedad civil, muchas de las cuales son socias y colaboradoras de Snap. La Alianza Global WeProtect, INHOPE, Internet Watch Foundation, NCMEC, Child Helpline International, Offlimits y Safe Online pidieron que se prohibieran las herramientas de creación de desnudos con IA. La campaña sostiene que las llamadas aplicaciones “para desnudar” no son, de hecho, una experimentación inofensiva, sino que se usan para crear imágenes sexualizadas no consensuadas a partir de fotos comunes y están cada vez más vinculadas con el hostigamiento, la coerción, la extorsión sexual y el abuso que afectan a mujeres, niñas y niños.

Snap también participa en programas prácticos entre industrias diseñados para limitar la propagación de dicho material en Snapchat. Somos miembros del programa Take It Down, del NCMEC, para menores y del esfuerzo de StopNCII de SWGfL para mayores de 18 años. Recibimos y aprovechamos firmas digitales únicas o “hashes” para ayudar a detectar imágenes íntimas duplicadas y eliminar contenido que infringe nuestras reglas. Estos esfuerzos son importantes porque se centran no solo en la detección inicial, sino en prevenir la recirculación de imágenes íntimas conocidas y deepfakes sexuales una vez que comienzan a propagarse.

– Jacqueline Beauchere, directora global de Seguridad de la plataforma Snap Inc.