A Snap está profundamente empenhada na segurança da comunidade Snapchat. O nosso objetivo é ajudar a proteger os utilizadores de uma série de riscos online e potenciais danos que abrangem o ecossistema digital, incluindo crimes abomináveis que envolvem exploração e abuso sexual infantil (CSEA). A Snap tem vindo a lutar contra este conteúdo ilegal e comportamento criminoso vil durante anos, empregando medidas de deteção proativa e de resposta reativa em toda a aplicação Snapchat. Durante o último ano, fizemos alterações adicionais às nossas políticas e processos relacionados com a intenção de ajudar a levar os perpetradores à justiça. Gostaríamos de partilhar mais sobre esse trabalho aqui.

O que é a CSEA?

A exploração e o abuso sexual infantil abrangem uma série de atividades ilegais que envolvem danos sexuais a menores, incluindo: a visualização, produção e distribuição de imagens de exploração e abuso sexual infantil (CSEAI), incluindo a ameaça mais recente de fotografias e vídeos gerados por IA; o aliciamento online, ou engodo, de menores para fins sexuais; ¹extorsão sexual; ²tráfico sexual infantil; e a transmissão em direto de crianças a serem abusadas e torturadas sexualmente. ³É difícil compreender que estas realidades repulsivas realmente existem. Mas, infelizmente, esse abuso sempre existiu – e o mundo digital agora fornece um meio alternativo de abuso, expandindo os modos de ofensa para serem mais rápidos e de maior alcance.

“A tecnologia mudou fundamentalmente a forma como aqueles com interesse sexual em crianças fantasiam sobre elas, acedem a elas e as vitimizam”, disse Ernie Allen, Presidente daWeProtect Global Alliance. “ONew York Timesescreveu: 'A crise da exploração sexual infantil online está num ponto de rutura.' Notou que os relatórios estão a aumentar, os infratores estão a partilhar imagens de vítimas mais jovens e crimes mais hediondos, e as autoridades policiais estão a lutar para acompanhar. Se adicionarmos novas variações a esse desafio, como a sextorsão, que o FBI relatou ter um aumento de 7200%, o abuso em transmissão em direto e outros, fica claro que este problema deve estar no topo das agendas políticas em todo o mundo”, acrescentou.

Obrigações legais das empresas de tecnologia

Quando as empresas de tecnologia dos EUA tomam conhecimento da CSEA nas suas plataformas ou serviços, têm o dever legal de a comunicar ao National Center for Missing and Exploited Children (NCMEC). O NCMEC analisa então estas CyberTips e estabelece a ligação com as autoridades policiais nacionais e internacionais para ajudar a proteger as crianças vítimas e a punir os infratores.

Até ao ano passado, os totais anuais de CyberTips para o NCMEC tinham vindo a aumentar de ano para ano, atingindo um recorde de 36,2 milhões de relatórios ⁴em 2023, um aumento em relação aos pouco mais de 32 milhões em 2022, e 4560 em 1998, quando a CyberTipline do NCMEC foi criada. Foi este aumento recorde de CyberTips — além de outros fatores, incluindo um pico contínuo na extorsão sexual a nível global e o feedback que recebemos das autoridades policiais sobre a acionabilidade das nossas próprias CyberTips — que levou a Snap a abordar pela primeira vez o NCMEC em 2024 para recalibrar os nossos relatórios de CyberTip.

Tenho monitorizado os relatórios de CyberTip ao longo de vários anos, e acredito firmemente que a prática de algumas empresas de tecnologia tem tendido para relatartudoao NCMEC — mesmo para além da sua obrigação legal — por medo de serem acusadas de omitiralgo. ⁵As empresas que não comunicam conforme exigido por lei podem enfrentar multas pesadas. Mas esta abordagem de comunicação, juntamente com a baixa acionabilidade de muitos relatórios (seja porque as CyberTips carecem de contexto suficiente para que as autoridades policiais possam agir ou porque a conduta relatada, em alguns casos, não é uma prioridade para elas), resultou em CyberTips acumuladas; múltiplas e extensas revisões; e um aumento da frustração entre as autoridades policiais.

Objetivo: CyberTips de alto valor

O objetivo da nossa recalibração com o NCMEC foi aumentar ainda mais a acionabilidade e o valor das CyberTips da Snap, refinando as nossas próprias políticas de plataforma e os protocolos que temos em vigor para reportar ao NCMEC. Essa recalibração inicial ocorreu em maio de 2024, e as nossas alterações de política tornaram-se totalmente eficazes na última parte do ano passado.

Embora devamos evitar dar demasiada ênfase ao número puro de relatórios isoladamente, desde a implementação dos nossos refinamentos de política, a Snap tem o prazer de partilhar que vimos uma queda significativa no nosso volume geral de relatórios para o NCMEC e um declínio semelhante nas escaladas por aliciamento online – tudo isto enquanto ainda cumprimos as nossas obrigações legais de reportar CSEA em CyberTips. Os totais mais baixos ainda não se refletiram nos volumes de relatórios anuais do NCMEC, no entanto, porque as alterações foram implementadas mais tarde em 2024, deixando apenas alguns meses completos do ano para refletir as emendas.

Paralelamente, a nossa equipa tem trabalhado para melhorar os dados e a rotulagem nas nossas CyberTips. Tais esclarecimentos podem ajudar a identificar melhor os alegados crimes e os indivíduos envolvidos e, por sua vez, permitir uma triagem mais rápida e precisa dos relatórios pelo NCMEC e pelas autoridades policiais. Mesmo quando o relatório ao NCMEC não se justificar, a Snap continuará a abordar imagens e comportamentos que violem as nossas políticas de plataforma, tomando medidas – que podem incluir a remoção do conteúdo infrator, a desativação da conta e a tentativa de bloquear a criação de novas contas.

Ponto de controlo da recalibração

No mês passado, realizámos uma segunda recalibração com o NCMEC, onde a equipa da Snap recapitulou as alterações da política interna do ano passado; atualizou o NCMEC sobre o nosso progresso; confirmou algumas diretrizes operacionais adicionais; e ajudou a definir expectativas para os próximos meses. Também antecipámos algumas adições planeadas à política e aos relatórios que esperamos que continuem a aumentar o valor dos nossos relatórios tanto para o NCMEC como para as autoridades policiais. Naturalmente, este é um processo iterativo, mas estamos encorajados pelo progresso ao longo do último ano.

Olhando para o futuro

Com o tempo, esperamos que o NCMEC e as autoridades policiais possam continuar a ver volumes reduzidos de CyberTips da Snap em comparação com anos anteriores, mas uma percentagem maior dos quedoreceberem deverá conter informações de maior qualidade e ser mais acionável.

Estamos empenhados na melhoria contínua em todos os aspetos do nosso trabalho de segurança. Não pretendemos ter todas as respostas no que diz respeito ao combate à CSEA ou a qualquer outro potencial dano online; ninguém deveria, porque ninguém as tem. Dia após dia, estamos a lutar contra problemas de toda a sociedade e trazemos uma abordagem de toda aempresapara enfrentar – com os objetivos gémeos finais de mitigar o risco e reduzir os danos.

No que diz respeito às nossas CyberTips, temos um objetivo distinto para um futuro não muito distante: Seja um comandante da Força-Tarefa de Crimes na Internet Contra Crianças (ICAC) de um estado, um investigador federal ou um membro das autoridades policiais do outro lado do mundo, queremos que as autoridades estatais, federais e internacionais prossigam com confiança as CyberTips da Snap porque sabem que os nossos relatórios podem ser consistentemente considerados acionáveis, valiosos e completos. E, a nossa esperança é que esses esforços ajudem a impulsionar um aumento correspondente nas detenções relacionadas ⁶e condenações em todo o mundo.

Um enorme “obrigado” ao NCMEC, à WeProtect, às 61 Forças-Tarefa ICAC nos EUA, às autoridades policiais de todo o mundo e a todos os nossos colegas e colaboradores no panorama do combate à CSEA – e uma nota adicional de que permanecemos abertos e ávidos pelo vosso feedback para melhorar ainda mais as nossas estratégias e abordagens. Estamos todos juntos nisto.

- Jacqueline Beauchere, Diretora Global de Segurança da Plataforma