Ajudar as/os jovens a florescerem no mundo digital inclui olhar para além das narrativas simplistas que retratam a vida online como inerentemente boa ou inerentemente má. Também devemos concentrar-nos nas experiências autênticas e quotidianas da Geração Z para compreender o que lhes permite prosperar. À medida que entramos numa nova era definida pelo rápido aumento da IA generativa, o nosso compromisso em basear o nosso trabalho de segurança na investigação objetiva é mais crítico do que nunca – e ajudará a garantir que o Snapchat continua a ser um serviço de comunicações centrado na autenticidade, ligação, sentido de pertença e importância.

Hoje, estamos a partilhar algumas novas informações do quinto e último ano do nosso estudo Índice de Bem-Estar Digital (DWBI), especificamente resultados centrados no panorama em evolução do conteúdo gerado por IA e no seu impacto nas relações interpessoais.

Nos últimos cinco anos, a Snap realizou uma investigação independente de plataforma para ajudar a acompanhar e medir o bem-estar psicológico online da Geração Z. Realizamos este inquérito para adicionar à base de provas global sobre os hábitos e práticas digitais dos/das jovens e ajuda a aumentar a sensibilização para as preocupações emergentes para que mães, pais, educadores(as), empresas de tecnologia, governos e a sociedade civil possam trabalhar em conjunto de forma mais eficaz para mitigar riscos, reduzir potenciais danos e evitar a recorrência. O DWBI examina as experiências de jovens entre os 13 e os 24 anos em seis países em todo o ecossistema digital mais amplo, em vez de se concentrar em qualquer plataforma única, incluindo o Snapchat. As conclusões mais recentes da Austrália, França, Alemanha, Índia, Reino Unido e EUA incluem novas perspectivas sobre a criação e distribuição de imagens deepfake entre a Geração Z.

O discurso público em torno da IA oscila frequentemente entre um otimismo desenfreado e uma preocupação profunda. Em vez de se basear em qualquer um dos extremos, as últimas conclusões do DWBI fornecem uma visão baseada em evidências de como as pessoas com idades entre os 13 e os 24 anos nas seis regiões se estão a envolver com a IA generativa. Essas conclusões revelam um quadro complexo e, por vezes, preocupante de interações entre pares envolvendo deepfakes. Por exemplo:

• Quase um terço (30%) dos inquiridos, com idades entre os 13 e os 24 anos, afirmaram ter criado um deepfake de outra pessoa

• Mais de metade (53%) das pessoas que criaram um deepfake informaram que a ação resultou em "drama" ou "conflito" nos seus círculos sociais e 

• Embora a maioria tenha utilizado ferramentas de IA generativa para criatividade, diversão e entretenimento, mais de um terço (35% no total) afirmou que os deepfakes que criaram foram feitos com uma intenção nefasta, especificamente: para fazer alguém parecer mal ou para o perturbar (12%), em retaliação (12%), ou para provocar ou assediar outra pessoa (11%).

Questionados sobre como responderiam especificamente a um deepfake sexual de si mesmos, a grande maioria (81% no total) dos/das adolescentes menores de idade disse que conversaria com alguém, nomeadamente um(a) progenitor(a) (65%), enquanto sete em cada 10 jovens adultos/as da Geração Z (70%) afirmaram que denunciariam o caso, sendo as autoridades policiais (53%) e as plataformas tecnológicas (51%) os seus principais meios. Mais de um(a) em cada 10 adolescentes menores (18%) e mais de duas em cada 10 pessoas entre os 18 e os 24 anos (22%) afirmaram que simplesmente ignorariam ou não tomariam nenhuma das medidas listadas. O gráfico abaixo descreve as opções de ação propostas.

Estes resultados sublinham uma verdade fundamental: o bem-estar digital no século XXI requer mais do que as ferramentas e recursos de segurança tradicionais; exige uma literacia profunda e prática em IA. Quando 30% das/dos jovens afirmam ter criado conteúdos sintéticos envolvendo os seus pares, essa atividade pode ter implicações nas relações pessoais, na reputação e no sentido de controlo de um indivíduo sobre a forma como é retratado(a).

Consequentemente, as conversas focadas nas políticas precisam de se afastar das reações baseadas no medo e avançar para uma estrutura que incorpora a "pessoa completa" dos/das jovens online atualmente. Podemos considerar três componentes principais:

1. Literacia em IA: para ajudar as/os jovens a compreender não apenas como utilizar a IA, mas as consequências éticas e sociais da criação de conteúdos que podem envolver outras pessoas sem o seu consentimento.

2. Controlo Pessoal: Para capacitar jovens a reconhecer limites e a procurar manter o controlo sobre a sua própria imagem digital, e

3. Comunicação Aberta: Para incentivar adolescentes, mães, pais, educadores(as) e outras pessoas adultas de confiança a terem conversas abertas e consideradas sobre a qualidade versus quantidade das interações digitais, reconhecendo que qualquer deepfake criado mesmo "como uma piada" pode ter impactos duradouros sobre as outras pessoas.

A propósito, quando questionados sobre onde e com quem estavam a aprender a utilizar as ferramentas de IA com segurança e responsabilidade, oito em cada 10 pessoas entre os 13 e os 24 anos (81% no total) afirmaram ser autodidatas. Um quarto (27%) das pessoas com idades compreendidas entre os 13 e os 17 anos afirmaram estar a aprender com os/as progenitores(as), enquanto as/os professoras(es) representaram um em cada 10 das bases de conhecimentos tanto de adolescentes (11%) como de jovens adultos(as) (10%).

Os resultados fazem parte do estudo de cinco anos da Snap sobre o bem-estar psicológico online da Geração Z em várias plataformas e marcam a última e final edição do nosso Índice de Bem-Estar Digital (DWBI), um estudo de como as/os adolescentes (com idades entre os 13 e os 17 anos) e jovens adultos(as) (com idades entre os 18 e os 24) se estão a sair online nos seis países. Também inquirimos progenitores de jovens entre os 13 e os 19 anos sobre as experiências online dos seus filhos e filhas adolescentes. Este último inquérito foi realizado entre 11 de maio e 30 de maio de 2026 e incluiu 9005 inquiridos em três dados demográficos e seis regiões geográficas. Os resultados completos, incluindo a leitura mais recente do DWBI para cada país e para os seis em conjunto, serão publicados no Dia da Internet Mais Segura de 2027, em fevereiro. Optamos por disponibilizar estas conclusões relacionadas com a IA precocemente, dado o diálogo global em curso sobre muitas destas questões.

À medida que encerramos este capítulo de cinco anos de estudo do bem-estar digital e evoluímos o nosso foco de investigação durante o próximo número de anos, a nossa missão em todo o ecossistema permanece clara: criar espaços online onde as/os jovens podem aprender, rir e ligar-se da forma mais segura e autêntica possível. O aumento dos deepfakes é um lembrete de que, à medida que a tecnologia evolui, os nossos esforços operacionais e educativos devem evoluir com ela. Ao continuarmos a concentrar-nos na literacia, na resiliência e no pensamento crítico, podemos ajudar a garantir que a próxima geração não apenas "sobreviva" online, mas realmente prospere.

Para apoiar estes esforços, no mês passado, a Snap anunciou que os vídeos gerados totalmente por IA deixarão de ser elegíveis para recomendação na funcionalidade Destaque do Snapchat. Com efeito, à medida que o conteúdo de baixa qualidade, repetitivo e gerado por IA se torna cada vez mais comum nos espaços online, a Snap quer que o Destaque continue a ser um local onde as pessoas podem descobrir criatividade autêntica de pessoas reais. Também criámos uma breve ficha informativa para mães, pais e adolescentes sobre material gerado por IA. “Para. Pensa. Poderia ISTO ser IA?” foi concebido para desencadear conversas entre adolescentes, pais, mães e outras pessoas adultas de confiança sobre a utilização segura e responsável das ferramentas de IA. Também colaboramos com numerosos outros grupos e organizações e fomos os primeiros a apoiar a campanha Know2Protect do Departamento de Segurança Interna dos EUA, aumentando a sensibilização para a exploração e o abuso sexual de menores. O Know2Protect publicou um manual sobre deepfakes aqui.   

No domínio das políticas públicas, a Snap apoiou a Lei Take It Down, que entrou em vigor em maio de 2025, estabelecendo um quadro federal dos EUA para abordar imagens íntimas não consensuais, incluindo conteúdo gerado por IA. A lei torna crime federal publicar conscientemente ou ameaçar publicar imagens íntimas sem consentimento, independentemente de o material ser autêntico ou gerado sinteticamente, e exige que as plataformas abrangidas forneçam um processo de denúncia e removam o conteúdo denunciado no prazo de 48 horas.

Preocupações semelhantes estão refletidas na campanha "Não ao Nudify" lançada no Dia da Internet Segura de 2026, que reuniu organizações de segurança infantil e da sociedade civil, muitas das quais são parceiras e colaboradoras da Snap. A WeProtect Global Alliance, o INHOPE, a Internet Watch Foundation, o NCMEC, a Child Helpline International, o Offlimits e o Safe Online apelaram à proibição das ferramentas de nudificação de IA. A campanha defende que as chamadas aplicações "nudify" não são, de facto, uma experimentação inofensiva, mas são utilizadas para criar imagens sexualizadas não consensuais a partir de fotografias normais e estão cada vez mais associadas a assédio, coerção, extorsão sexual e abuso que afetam mulheres, raparigas e crianças.

A Snap também participa em programas práticos e intersetoriais concebidos para limitar a propagação desse material no Snapchat. Somos membros do programa Take It Down do NCMEC para menores e do esforço StopNCII do SWGfL para maiores de 18 anos, recebendo e utilizando assinaturas digitais únicas, ou "hashes", para ajudar a detetar imagens íntimas duplicadas e remover conteúdos que violam as nossas regras. Estes esforços são importantes porque se concentram não apenas na deteção inicial, mas na prevenção da recirculação de imagens íntimas e deepfakes sexuais conhecidas assim que começam a espalhar-se.

– Jacqueline Beauchere, Diretora Global de Segurança da Plataforma, Snap Inc.