O Snap está profundamente comprometido com a segurança da comunidade do Snapchat. Nosso objetivo é ajudar a proteger os usuários de uma série de riscos online e possíveis danos que abrangem o ecossistema digital, incluindo crimes abomináveis envolvendo exploração e abuso sexual infantil (CSEA). O Snap tem combatido esse conteúdo ilegal e comportamento criminoso vil por anos, empregando medidas de detecção proativa e resposta reativa em todo o aplicativo Snapchat. No último ano, fizemos alterações adicionais em nossas políticas e processos relacionados com a intenção de ajudar a levar os perpetradores à justiça. Gostaríamos de compartilhar mais sobre esse trabalho aqui.

O que é CSEA?

A exploração e o abuso sexual infantil abrangem uma série de atividades ilegais que envolvem danos sexuais a menores, incluindo: a visualização, produção e distribuição de imagens de exploração e abuso sexual infantil (CSEAI), incluindo a ameaça mais recente de fotos e vídeos gerados por IA; o aliciamento online, ou engodo, de menores para fins sexuais; ¹extorsão sexual; ²tráfico sexual infantil; e a transmissão ao vivo de crianças sendo abusadas e torturadas sexualmente. ³É difícil compreender que essas realidades repulsivas realmente existem. Mas, infelizmente, esse tipo de abuso sempre existiu, e o mundo digital agora oferece um meio alternativo de abuso, expandindo os modos de ofensa para serem mais rápidos e de maior alcance.

“A tecnologia mudou fundamentalmente a maneira como aqueles com interesse sexual em crianças fantasiam sobre elas, as acessam e as vitimam”, disse Ernie Allen, presidente daWeProtect Global Alliance, com sede em Londres. “ONew York Timesescreveu: ‘A crise da exploração sexual infantil online está em um ponto de ruptura’. O jornal observou que os relatos estão aumentando, os infratores estão compartilhando imagens de vítimas mais jovens e crimes mais hediondos, e as autoridades policiais estão lutando para acompanhar. Se você adicionar novas variações a esse desafio, como a sextorsão, que o FBI relatou ter um aumento de 7.200%, o abuso por transmissão ao vivo e outros, fica claro que esse problema deveria estar no topo das agendas políticas em todo o mundo”, acrescentou.

Obrigações legais das empresas de tecnologia

Quando as empresas de tecnologia dos EUA tomam conhecimento de CSEA em suas plataformas ou serviços, elas têm o dever legal de denunciá-lo ao National Center for Missing and Exploited Children (NCMEC). O NCMEC então analisa essas CyberTips e se comunica com as autoridades policiais nacionais e internacionais para ajudar a proteger as crianças vítimas e punir os infratores.

Até o ano passado, os totais anuais de CyberTips para o NCMEC vinham aumentando ano a ano, atingindo um recorde de 36,2 milhões de denúncias ⁴em 2023, um aumento em relação aos pouco mais de 32 milhões em 2022 e 4.560 em 1998, quando a CyberTipline do NCMEC foi criada. Foi esse aumento recorde nas CyberTips — além de outros fatores, incluindo um pico contínuo na extorsão sexual globalmente e o feedback que recebemos das autoridades policiais sobre a acionabilidade de nossas próprias CyberTips — que levou o Snap a abordar o NCMEC pela primeira vez em 2024 para recalibrar nossos relatórios de CyberTip.

Eu monitorei os relatórios de CyberTip por vários anos e acredito firmemente que a prática de algumas empresas de tecnologia tem tendido a relatartudoao NCMEC — mesmo acima de sua obrigação legal — por medo de serem acusadas de omitiralgo. ⁵As empresas que não cumprem a obrigação de denunciar conforme a lei podem enfrentar multas pesadas. Mas essa abordagem de denúncia, juntamente com a baixa acionabilidade de muitos relatórios (seja porque as CyberTips carecem de contexto suficiente para que as autoridades policiais tomem medidas ou porque a conduta relatada, em alguns casos, não é uma prioridade para elas), resultou em um acúmulo de CyberTips; múltiplas e extensas revisões; e aumento da frustração entre as autoridades policiais.

Meta: CyberTips de alto valor

O objetivo de nossa recalibração com o NCMEC foi aumentar ainda mais a acionabilidade e o valor das CyberTips do Snap, refinando nossas próprias políticas de plataforma e os protocolos que temos em vigor para relatar ao NCMEC. Essa recalibração inicial ocorreu em maio de 2024, e nossas mudanças de política tornaram-se totalmente eficazes na última parte do ano passado.

Embora devamos evitar dar muita ênfase ao número puro de relatórios isoladamente, desde a implementação de nossos refinamentos de política, o Snap tem o prazer de compartilhar que vimos uma queda significativa em nosso volume geral de relatórios para o NCMEC e um declínio semelhante nas escaladas por aliciamento online – tudo isso enquanto ainda cumprimos nossas obrigações legais de relatar CSEA nas CyberTips. Os totais mais baixos ainda não foram refletidos nos volumes de relatórios anuais do NCMEC, no entanto, porque as mudanças foram implementadas no final de 2024, deixando apenas alguns meses completos do ano para refletir as alterações.

Em paralelo, nossa equipe tem trabalhado para melhorar os dados e a rotulagem em nossas CyberTips. Tais esclarecimentos podem ajudar a identificar melhor os supostos crimes e indivíduos envolvidos e, por sua vez, permitir uma triagem mais rápida e precisa dos relatórios pelo NCMEC e pelas autoridades policiais. Mesmo quando o relatório ao NCMEC pode não ser justificado, o Snap continuará a abordar imagens e comportamentos que violam nossas políticas de plataforma, tomando medidas – que podem incluir a remoção do conteúdo violador, a desativação da conta e a busca pelo bloqueio da criação de novas contas.

Ponto de verificação da recalibração

No mês passado, realizamos uma segunda recalibração com o NCMEC, onde a equipe do Snap recapitulou as mudanças na política interna do ano passado; atualizou o NCMEC sobre nosso progresso; confirmou algumas diretrizes operacionais adicionais; e ajudou a definir expectativas para os próximos meses. Também apresentamos algumas adições planejadas de políticas e relatórios que esperamos que continuem a aumentar o valor de nossos relatórios tanto para o NCMEC quanto para as autoridades policiais. Naturalmente, este é um processo iterativo, mas estamos encorajados pelo progresso no último ano.

Olhando para o futuro

Com o tempo, esperamos que o NCMEC e as autoridades policiais continuem a ver volumes reduzidos de CyberTips do Snap em comparação com anos anteriores, mas uma porcentagem maior daquelas que elesdoreceberem deve conter informações de maior qualidade e ser mais acionável.

Estamos comprometidos com a melhoria contínua em todos os aspectos do nosso trabalho de segurança. Não pretendemos ter todas as respostas no que diz respeito ao combate à CSEA ou a qualquer outro dano online potencial; ninguém deveria, porque ninguém as tem. Dia após dia, estamos lutando contra questões de toda a sociedade e trazemos uma abordagem de toda aempresapara enfrentar o problema – com os objetivos finais duplos de mitigar riscos e reduzir danos.

Com relação às nossas CyberTips, temos um objetivo distinto para um futuro não muito distante: seja um comandante da Força-Tarefa de Crimes na Internet Contra Crianças (ICAC) de um estado, um investigador federal ou um membro da polícia do outro lado do mundo, queremos que as autoridades estaduais, federais e internacionais investiguem com confiança as CyberTips do Snap porque sabem que nossos relatórios podem ser consistentemente confiáveis como acionáveis, valiosos e completos. E, nossa esperança é que esses esforços ajudem a promover um aumento correspondente nas prisões relacionadas ⁶e condenações em todo o mundo.

Um enorme “obrigado” ao NCMEC, à WeProtect, às 61 Forças-Tarefa ICAC nos EUA, às autoridades policiais de todo o mundo e a todos os nossos colegas e colaboradores em todo o cenário de combate à CSEA – e uma nota adicional de que permanecemos abertos e ansiosos por seu feedback para melhorar ainda mais nossas estratégias e abordagens. Estamos todos juntos nisso.

- Jacqueline Beauchere, Chefe Global de Segurança da Plataforma