Na Snap, evoluímos continuamente nossos mecanismos de segurança e políticas de plataforma para limitar a capacidade de pessoas mal-intencionadas usarem nossa plataforma. Usamos tecnologia avançada para detectar e bloquear atividades que violam nossas regras, aplicamos os princípios de design para criar dificuldades no processo de solicitar amizade, apoiamos as autoridades policiais, colaboramos com as autoridades governamentais e trabalhamos para aumentar a conscientização e fornecer educação sobre os danos mais graves que afetam os adolescentes e, de fato, todos os membros da nossa comunidade. 

Levamos nossa responsabilidade de proteger os adolescentes muito a sério. Nosso trabalho é substancial, incluindo o seguinte: 

I. Tornar o Snapchat um ambiente hostil para pessoas mal-intencionadas

No início deste ano, anunciamos novas funcionalidades para proteger ainda mais nossa comunidade, especificamente usuários adolescentes, e para reforçar os relacionamentos reais que tornam o Snapchat único. Essas atualizações incluem: avisos expandidos no aplicativo para contatos suspeitos, proteções aprimoradas durante o processo de solicitar amizade criadas especificamente para adolescentes e melhorar a capacidade de bloquear contatos indesejados. 

Essas alterações, com foco no combate à sextorsão online, baseiam-se em nossos investimentos contínuos para combater todas as formas de exploração e abuso sexual infantil. Por exemplo:

Usamos sinais para identificar o comportamento de sextorção, para que possamos remover ativamente pessoas mal-intencionadas antes que elas tenham a oportunidade de atingir e vitimizar outras pessoas. Isso é além de alavancar e implantar tecnologia projetada para evitar a propagação de imagens de exploração e abuso sexual infantil conhecidas (CSEAI) no Snapchat, incluindo PhotoDNA (para detectar duplicadas de imagens ilegais conhecidas), CSAI Match (para detectar duplicadas de vídeos ilegais conhecidos) e API de Segurança de Conteúdo (para ajudar na detecção de imagens “nunca antes hash”).

Embora há muito tempo ofereçamos uma forma simples de denunciar dentro do aplicativo conteúdos e contas que violam nossas regras, em 2023 fizemos melhorias para reforçar nossa luta contra danos relacionados à sextorção. No ano passado, lançamos a denúncia de texto de bate-papo no aplicativo, o que permite que os Snapchatters relatem mensagens individuais diretamente da própria conversa. Também expandimos nossas ferramentas de denúncia no aplicativo para incluir um motivo de denúncia específico e adaptado para sextorção e, conforme conselhos e orientações da ONG Thorn, apresentamos essa opção de denúncia em linguagem relacionável para adolescentes e jovens (“Eles vazaram/estão ameaçando vazar minhas nudes”). Por sua vez, esses relatórios são usados para informar nossos esforços de aplicação, incluindo detecção e aplicação baseadas em sinais. Analisamos tendências, padrões e técnicas de sextorção e, se uma conta exibir determinadas características, ela está bloqueada por sextorção.

Continuamos a melhorar e adicionar ao nosso Central da Família, lançado em 2022, onde os pais podem ver com quem seu filho adolescente é amigo no Snapchat, com quem conversaram recentemente, e denunciar facilmente contas que possam ser afetadas por eles. Nosso objetivo para a Central da Família sempre foi incentivar o diálogo aberto e construtivo entre os pais/responsáveis e adolescentes sobre como permanecer seguro online. 

Colaboramos de perto com as autoridades policiais e investimos fortemente em nossas equipes de segurança e operações de aplicação da lei que operam em todo o mundo 24 horas por dia, 7 dias por semana, para ajudar a manter nossa comunidade segura. Por exemplo, nossas equipes de Confiança e Segurança mais do que dobraram de tamanho desde 2020, e nossa equipe de Operações de Aplicação da Lei mais do que triplicou nesse período. Organizamos cúpulas anuais para as autoridades policiais nos EUA para garantir que os oficiais e agências saibam como tomar as medidas adequadas contra qualquer atividade ilegal que possa estar ocorrendo em nossa plataforma. 

Também estamos trabalhando diretamente com as autoridades policiais na Nigéria, onde muitos casos de sextorção são originados, para desenvolver capacidade e conhecimento para investigar e processar os perpetradores, e planejamos continuar nosso envolvimento com o governo nigeriano para colaborar ainda mais nesta área. E trabalhamos com a Missão Internacional de Justiça, o NCMEC, outros membros da indústria e ONGs para fornecer treinamento às autoridades policiais sobre a investigação do CyberTips em países fora dos EUA onde a atividade de sextorção é prevalente.

Por muitos anos, também nos envolvemos com um corpo robusto de “sinalizadores confiáveis”: organizações sem fins lucrativos, ONGs e agências governamentais selecionadas que escalam para nós casos de abuso, ameaças iminentes à vida e outros problemas de emergência em nome de Snapchatters que precisam por meio de canais de alta prioridade. A maioria dos participantes em nosso Programa de sinalizador de confiança denunciam conteúdo e contas relacionadas a danos sexuais contra menores, incluindo sextorção.  

II. Envolver especialistas e coalizões do setor 

Além de nossos próprios investimentos, também nos envolvemos com especialistas em todo o mundo, porque sabemos que nenhuma entidade ou organização sozinha pode promover esses problemas de forma significativa. Por exemplo, a Snap representa a indústria no Conselho de Políticas internacional da Aliança Global WeProtect; somos membros do Conselho Consultivo do INHOPE e nos sentamos no Conselho de Administração da UK Internet Watch Foundation (IWF). Todas essas organizações têm a erradicação do CSEA online no coração de suas missões.

Continuamos membros ativos da Coalizão de Tecnologia, uma aliança global do setor focada no combate à exploração e abuso sexual infantil online e concluiu recentemente um mandato de dois anos no Comitê de Administração do Conselho de Administração. Também fomos membros fundadores da iniciativa Lanterna da Coalizão de Tecnologia, o primeiro programa de compartilhamento de sinais entre plataformas para que as empresas fortaleçam a forma como aplicam suas políticas de segurança infantil. Por meio da participação ativa neste programa, as empresas podem ajudar umas às outras a verificar se há pessoas mal-intencionadas, incluindo sextorcionistas.   

Além disso, aproveitamos o banco de dados "Take It Down" do Centro Nacional para as Crianças Desaparecidas e Exploradas, que permite que os menores gerem uma impressão digital – chamada de “hash”, – de imagens ou vídeos selecionados diretamente em seus dispositivos. As empresas participantes, incluindo a Snap, podem usar esses hashes para pesquisar e remover imagens duplicadas que violam nossas . Diretrizes Comunitárias. Participamos de um programa semelhante no Reino Unido chamado Report Remove e, no ano passado, nos juntamos à colaboração do SWGfL’s no StopNCII para ajudar a evitar a propagação de imagens íntimas não consensuais (NCII) no Snapchat, aproveitando o banco de dados de hash desse grupo. O StopNCII ajuda a parar a propagação de imagens íntimas para pessoas com mais de 18 anos e oferece às vítimas a capacidade de reivindicar sua privacidade sobre suas fotos e vídeos mais privados.

Este ano, também lançamos nosso Conselho Snap inaugural para o Bem-Estar Digital, um grupo de 18 adolescentes de todos os EUA, selecionados para participar de um programa piloto de um ano defendendo hábitos e práticas online mais seguros em suas escolas e comunidades. Em julho, este grupo, ao lado de pelo menos um dos pais ou acompanhante, se reuniu na sede da Snap em Santa Mônica, Califórnia para debates que produziram insights interessantes sobre tópicos como armadilhas online, dinâmica social e ferramentas parentais. Isso é um complemento ao Conselho Consultivo de Segurança da Snap, composto por 16 profissionais e três defensores da juventude, que fornecem orientação e direção direta à Snap sobre questões de segurança. Aguardamos 2025, onde esperamos criar mais oportunidades para que os membros de ambos os grupos se reúnam e revelem insights adicionais. 

III. Promovendo a conscientização 

Além de nossos investimentos internos e o trabalho que fazemos com especialistas e entre setores, um componente crítico para combater os esquemas de abuso sexual e sextorção online é aumentar a conscientização do público e do Snapchatter. 

Em 2022, lançamos o Índice de Bem-Estar Digital, a pesquisa líder do setor que oferece informações sobre como adolescentes e jovens adultos estão se saindo online em todas as plataformas. Como parte desta pesquisa, nos últimos dois anos, fizemos mergulhos profundos na sextorção. Como este estudo abrange experiências online em geral, não apenas no Snapchat, ele não só ajuda a informar nosso trabalho, mas esperamos que ofereça insights a outras pessoas em todo o ecossistema de tecnologia. No final deste mês, compartilharemos os resultados do nosso mergulho profundo de extorsão sexual no segundo ano, em conjunto com o próximo Fórum Multi-Stakeholder virtual da Coalizão sobre a sextorção financeira de menores. 

No início deste ano, tivemos a honra de ser a primeira entidade a apoiar oKnow2Protect, uma campanha de conscientização pública inovadora lançada no início deste ano pelo Departamento de Segurança Interna dos EUA (DHS). A campanha educa e capacita jovens, pais, adultos de confiança e formuladores de políticas a ajudar a prevenir e combater crimes como a sextorção financeira. Além de doar espaço de publicidade no Snapchat para os recursos educacionais do K2P, estamos conduzindo pesquisas adicionais com adolescentes e jovens adultos nos EUA para informar ainda mais a campanha. Também co-lançamos uma Lente do Snapchat de realidade aumentada para ajudar a educar os Snapchatters por meio de um questionário Know2Protect interativo. E no Reino Unido, apoiamos a campanha de conscientização pública de amplo alcance da IWF em torno desses problemas até agora, Gurls Out Loud, projetada para informar meninas de 11 a 13 anos sobre grooming sexual online, sexting e envio de nudes. Além disso, lançamos recentemente um Guia do Educador para o Snapchat, em parceria com a organização Safe and Sound Schools para desenvolver um kit de ferramentas abrangente para educadores que inclua informações e orientações sobre como combater a sextorção. 

Com base em nossos anos de pesquisa, sabemos que a conscientização e a educação comunitária são ferramentas poderosas para ajudar a evitar danos online, e continuamos a desenvolver e promover recursos no aplicativo para alcançar adolescentes e jovens diretamente no Snapchat. Em setembro de 2023, lançamos quatro novos episódios no aplicativo “Safety Snapshot” com foco em riscos e danos sexuais, incluindo sextorção financeira. Também oferecemos episódios sobre sexting e as consequências de gerar e compartilhar nudes, grooming on-line de crianças para propósitos sexuais e tráfico de sexo infantil. Todos os recursos foram revisados por especialistas no Centro Nacional de Crianças Desaparecidas e Exploradas (NCMEC) e criado em colaboração com linhas de atendimento direto relevantes e linhas de atendimento direto em áreas geográficas principais.

Continuamos a lutar contra a exploração e abuso sexual infantil online, mas ainda há muito o que fazer. Em 2025, continuaremos a conscientizar sobre possíveis perigos on-line e continuamos a reiterar que qualquer um pode ser um alvo em potencial. Queremos interromper e impedir pessoas mal-intencionadas cedo e com frequência, e queremos produzir CyberTips ainda mais acionáveis para as autoridades policiais.

É importante notar que empregamos muitas dessas mesmas estratégias, pois lutamos contra outros danos flagrantes, como atividade de drogas ilícitas, incluindo a venda de pílulas falsificadas, ameaças de violência e conteúdo de suicídio e automutilação. Percebemos que nosso trabalho neste espaço pode nunca ser concluído, mas nos importamos profundamente com a segurança dos Snapchatters e continuaremos a trabalhar colaborativamente em todo o setor, governo e autoridades policiais para trocar informações e fortalecer nossas defesas.