5 de dezembro de 2024
5 de dezembro de 2024
Publicamos este relatório de transparência duas vezes por ano para fornecer informações sobre os esforços de segurança da Snap. Estamos comprometidos com esses esforços e nos empenhamos continuamente para tornar esses relatórios mais abrangentes e informativos para as muitas partes interessadas que se preocupam profundamente com nossa moderação de conteúdo, práticas de aplicação da lei e a segurança e bem-estar da comunidade do Snapchat.
Este relatório de transparência abrange o primeiro semestre de 2024 (1º de janeiro a 30 de junho). Assim como em nossos relatórios anteriores, compartilhamos dados sobre o volume global de conteúdos no aplicativo e denúncias de contas que nossas equipes de Confiança e Segurança receberam e contra as quais aplicaram penalidades, em categorias específicas de violações das Diretrizes Comunitárias. Também compartilhamos a forma como respondemos a solicitações de autoridades policiais e governos e como respondemos a notificações de violação de direitos autorais e marcas registradas. Também fornecemos informações específicas de cada país nos arquivos vinculados na parte inferior desta página.
Como parte de nosso compromisso de melhorar continuamente nossos relatórios de transparência, também estamos introduzindo novos dados destacando nossos esforços proativos para detectar e penalizar uma gama mais ampla de violações de nossas Diretrizes Comunitárias. Incluímos esses dados nos níveis global e nacional neste relatório e continuaremos a fazê-lo daqui para frente. Também corrigimos um erro de rotulagem em nossos relatórios anteriores. Onde antes nos referíamos a “Total de conteúdo penalizado", agora nos referimos como “Total de sanções" para refletir o fato de que os dados fornecidos nas colunas relevantes incluem sanções tanto ao nível de conteúdo quanto ao nível de conta.
Para obter mais informações sobre nossas políticas de combate a possíveis danos online e planos para continuar a evoluir nossas práticas de denúncia, leia nosso recente blog de segurança e impacto sobre este relatório de transparência. Para encontrar recursos adicionais de segurança e privacidade no Snapchat, consulte nossa aba Sobre os Relatórios de Transparência no final da página.
Observe que a versão mais atualizada deste relatório de transparência pode ser encontrada em inglês (EN-US).
Visão geral das ações de nossas equipes de Confiança e Segurança para aplicar nossas Diretrizes Comunitárias
Nossas equipes de Confiança e Segurança aplicam nossas Diretrizes Comunitárias tanto proativamente (por meio do uso de ferramentas automatizadas) quanto reativamente (em resposta a denúncias), conforme detalhado nas seções a seguir deste relatório. Neste ciclo de relatórios (1º semestre de 2024), nossas equipes de Confiança e Segurança tomaram as seguintes medidas de fiscalização:
Total Enforcements
Total Unique Accounts Enforced
10,032,110
5,698,212
Veja abaixo uma análise por tipo de violação das Diretrizes Comunitárias, incluindo o tempo médio de resposta entre o momento em que detectamos a violação (proativamente ou após o recebimento de uma denúncia) e o momento em que tomamos medidas finais contra o conteúdo ou a conta em questão:
Policy Reason
Total Enforcements
Total Unique Accounts Enforced
Median Turnaround Time (minutes) From Detection To Final Action
Sexual Content
3,860,331
2,099,512
2
Child Sexual Exploitation
961,359
577,682
23
Harassment and Bullying
2,716,966
2,019,439
7
Threats & Violence
199,920
156,578
8
Self-Harm & Suicide
15,910
14,445
10
False Information
6,539
6,176
1
Impersonation
8,798
8,575
2
Spam
357,999
248,090
1
Drugs
1,113,629
718,952
6
Weapons
211,860
136,953
1
Other Regulated Goods
247,535
177,643
8
Hate Speech
324,478
272,025
27
Terrorism & Violent Extremism
6,786
4,010
5
Durante o período do relatório, vimos uma taxa de Visualização de Conteúdo que Viola Políticas (VVR) de 0,01 por cento, o que significa que a cada 10.000 visualizações de Snaps ou Histórias no Snapchat, 1 continha conteúdo que violava nossas Diretrizes Comunitárias.
Violações das Diretrizes Comunitárias denunciadas às nossas equipes de Confiança e Segurança
De 1º de janeiro a 30 de junho de 2024, em resposta a denúncias no aplicativo de violações de nossas Diretrizes Comunitárias, as equipes de Confiança e Segurança da Snap realizaram um total de 6.223.618 ações de penalização globalmente, incluindo penalizações contra 3.842.507 contas únicas. O tempo médio de resposta para nossas equipes de Confiança e Segurança tomarem medidas em resposta a essas denúncias foi de cerca de 24 minutos. Um detalhamento por categoria de denúncia é apresentado abaixo.
Total Content & Account Reports
Total Enforcements
Total Unique Accounts Enforced
19,379,848
6,346,508
4,075,838
Policy Reason
Content & Account Reports
Total Enforcements
% of the Total Reports Enforced by Snap
Total Unique Accounts Enforced
Median Turnaround Time (minutes) From Detection To Final Action
Sexual Content
5,251,375
2,042,044
32.20%
1,387,749
4
Child Sexual Exploitation
1,224,502
469,389
7.40%
393,384
133
Harassment and Bullying
6,377,555
2,702,024
42.60%
2,009,573
7
Threats & Violence
1,000,713
156,295
2.50%
129,077
8
Self-Harm & Suicide
307,660
15,149
0.20%
13,885
10
False Information
536,886
6,454
0.10%
6,095
1
Impersonation
678,717
8,790
0.10%
8,569
2
Spam
1,770,216
180,849
2.80%
140,267
1
Drugs
418,431
244,451
3.90%
159,452
23
Weapons
240,767
6,473
0.10%
5,252
1
Other Regulated Goods
606,882
199,255
3.10%
143,560
8
Hate Speech
768,705
314,134
4.90%
263,923
27
Terrorism & Violent Extremism
197,439
1,201
<0.1%
1,093
4
Nossos volumes gerais de denúncias permaneceram relativamente estáveis no primeiro semestre de 2024, em comparação aos seis meses anteriores. Nesse ciclo, vimos um aumento no total de sanções e no total de contas únicas penalizadas de aproximadamente 16%.
Nos últimos 12 meses, a Snap introduziu novos mecanismos de denúncias para usuários, o que justifica as mudanças em nossos volumes de denúncias e penalizações e os aumentos nos tempos de resposta nesse período de denúncia (1º semestre de 2024). Especificamente:
Denúncia de chat em grupo: introduzimos a denúncia de chat em grupo em 13 de outubro de 2023, que permite que os usuários denunciem abusos ocorridos em um chat com várias pessoas. Essa mudança impactou a composição de nossas métricas em todas as categorias de denúncia (porque alguns danos em potencial são mais propensos a ocorrer em um contexto de chat) e aumentou a eficácia das denúncias.
Aprimoramento de denúncias de contas: também aprimoramos nosso recurso de denúncia de contas para dar aos usuários denunciantes uma opção de enviar evidências de chat ao denunciar uma conta suspeita de ser operada por uma pessoa mal-intencionada. Essa mudança, que nos fornece maiores evidências e contexto para avaliar denúncias de contas, foi lançada em 29 de fevereiro de 2024.
Denúncias de chat e, especialmente, de chat em grupo, estão entre as mais complexas e demoradas para serem revisadas, o que aumentou o tempo de resposta em todos os níveis.
Denúncias de suspeita de exploração e abuso sexual infantil (CSEA), assédio e bullying e discurso de ódio foram particularmente impactadas pelas duas mudanças descritas acima e por mudanças no ecossistema mais amplo. Especificamente:
Conteúdo de exploração e abuso sexual infantil (CSEA): observamos um aumento nas denúncias e sanções relacionadas a CSEA no primeiro semestre de 2024. Especificamente, vimos um aumento de 64% no total de denúncias feitas no aplicativo por usuários, um aumento de 82% no total de sanções e um aumento de 108% no total de contas únicas penalizadas. Esses aumentos são na maioria impulsionados pela introdução das funcionalidades de denúncia de chat em grupo e de conta. Dada a natureza sensível dessa fila de moderação, uma equipe selecionada de agentes altamente treinados é designada para revisar denúncias de possíveis violações relacionadas à CSEA. O fluxo de denúncias adicionais combinado com a adaptação de nossas equipes a novos treinamentos resultou em um aumento nos tempos de resposta. Seguindo adiante, aumentamos significativamente o tamanho de nossas equipes globais de colaboradores para reduzir os tempos de resposta e penalizar com precisão denúncias de potencial CSEA. Esperamos que nosso relatório de transparência do segundo semestre de 2024 reflita os frutos desse esforço com um tempo de resposta significativamente melhorado.
Assédio e bullying: com base nas denúncias, observamos que assédio e bullying ocorrem desproporcionalmente em chats e, particularmente, em chats em grupo. As melhorias que introduzimos nas Denúncias de Chat em grupo e Denúncias de conta nos ajudam a tomar medidas mais abrangentes ao avaliar denúncias nessa categoria de denúncia. Além disso, a partir desse período, exigimos que os usuários insiram um comentário ao enviar uma denúncia de assédio e bullying. Analisamos esse comentário para contextualizar cada denúncia. Juntas, essas mudanças levaram a aumentos significativos no total de sanções (+91%), no total de contas únicas penalizadas (+82%) e no tempo de resposta (+245 minutos) para denúncias correspondentes.
Discurso de ódio: no primeiro semestre de 2024, observamos aumentos no conteúdo denunciado, no total de sanções e no tempo de resposta para discursos de ódio. Especificamente, vimos um aumento de 61% nas denúncias por aplicativo, um aumento de 127% no total de sanções e um aumento de 125% no total de contas únicas penalizadas. Isso se deve, em parte, às melhorias em nossos mecanismos de denúncia de chat (conforme discutido anteriormente) e foi potencializado ainda mais pelo ambiente geopolítico, particularmente a continuação do conflito entre Israel e Hamas.
Neste período do relatório, vimos uma redução de cerca de 65% no total de sanções e uma redução de cerca de 60% no total de contas únicas penalizadas em resposta a denúncias de suspeita de spam e abuso, refletindo melhorias em nossas ferramentas proativas de detecção e penalização. Vimos declínios semelhantes no total de medidas em resposta a denúncias de conteúdo relacionado a automutilação e suicídio (diminuições de cerca de 80%), refletindo nossa abordagem atualizada centrada na vítima, segundo a qual nossas equipes de Confiança e Segurança enviarão, em casos apropriados, recursos de autoajuda aos usuários em questão, em vez de tomar uma ação contra esses usuários. Essa abordagem foi idealizada por membros de nosso Conselho de Segurança, incluindo um professor de pediatria e médico especializado em mídia interativa e distúrbios da Internet.
Nossos esforços para detectar e penalizar proativamente violações de nossas Diretrizes Comunitárias
Implantamos ferramentas automatizadas para detectar proativamente e, em alguns casos, penalizar violações de nossas Diretrizes Comunitárias. Essas ferramentas incluem ferramentas de correspondência de hash (incluindo o PhotoDNA e o Google Child Sexual Abuse Imagery (CSAI) Match), ferramentas de detecção de linguagem abusiva (que detectam e reprimem com base em uma lista identificada e atualizada regularmente de palavras-chave e emojis abusivos) e tecnologia multimodal de inteligência artificial/aprendizado de máquina.
No primeiro semestre de 2024, tomamos as seguintes medidas após detectar proativamente, por meio do uso de ferramentas automatizadas, violações de nossas Diretrizes Comunitárias:
Total Enforcements
Total Unique Accounts Enforced
3,685,602
1,845,125
Policy Reason
Total Enforcements
Total Unique Accounts Enforced
Median Turnaround Time (minutes) From Detection To Final Action
Sexual Content
1,818,287
828,590
<1
Child Sexual Exploitation
491,970
188,877
1
Harassment and Bullying
14,942
11,234
8
Threats & Violence
43,625
29,599
9
Self-Harm & Suicide
761
624
9
False Information
85
81
10
Impersonation
8
6
19
Spam
177,150
110,551
<1
Drugs
869,178
590,658
5
Weapons
205,387
133,079
<1
Other Regulated Goods
48,280
37,028
9
Hate Speech
10,344
8,683
10
Terrorism & Violent Extremism
5,585
2,951
21
A exploração sexual de qualquer membro da nossa comunidade, especialmente menores, é ilegal, repugnante e proibida pelas nossas Diretrizes Comunitárias. A prevenção, detecção e erradicação da exploração sexual e abuso infantil (do inglês, CSEA) em nossa plataforma é uma prioridade para a Snap, e evoluímos continuamente nossas capacidades no combate a esses e outros tipos de crimes.
Usamos ferramentas tecnológicas de detecção ativa, como o robusto hash-matching do PhotoDNA e o Child Sexual Abuse Imagery (CSAI) Match do Google para identificar imagens e vídeos ilegais conhecidos de CSEA, respectivamente. Além disso, em alguns casos, usamos sinais comportamentais para reprimir outras atividades potencialmente ilegais de CSEA. Denunciamos conteúdo relacionado a CSEA ao U.S. National Center for Missing and Exploited Children (NCMEC - Centro Nacional para Crianças Desaparecidas e Exploradas dos EUA), conforme exigido por lei. O NCMEC, por sua vez, se articula com as autoridades nacionais ou internacionais, conforme necessário.
No primeiro semestre de 2024, tomamos as seguintes medidas ao detectar CSEA no Snapchat (proativamente ou após receber uma denúncia):
Total Content Enforced
Total Accounts Disabled
Total Submissions to NCMEC*
1,228,929
242,306
417,842
*Note that each submission to NCMEC can contain multiple pieces of content. The total individual pieces of media submitted to NCMEC is equal to our total content enforced.
Nossos esforços para fornecer recursos e apoio aos Snapchatters necessitados
Nós nos preocupamos profundamente com a saúde mental e o bem-estar dos Snapchatters, o que já ajudou e continua ajudando a fundamentar nossas decisões para construir o Snapchat de forma diferente. Como uma plataforma projetada para comunicações entre amigos reais, acreditamos que o Snapchat pode desempenhar um papel único em capacitar amigos a se ajudarem em momentos difíceis. É por isso que desenvolvemos recursos e apoio para Snapchatters que precisam.
Nossa ferramenta de busca Here For You mostra recursos de parceiros locais especializados quando os usuários pesquisam determinados tópicos relacionados à saúde mental, ansiedade, depressão, estresse, pensamentos suicidas, luto e bullying. Também desenvolvemos uma página dedicada a extorsão sexual e outros riscos e danos sexuais, em um esforço para apoiar aqueles que estão em perigo. Nossa lista global de recursos de segurança está disponível publicamente para todos os Snapchatters, em nosso Hub de Privacidade, Segurança e Políticas.
Quando nossas equipes de Confiança e Segurança tomam conhecimento de um Snapchatter em perigo, elas podem encaminhar recursos de prevenção e apoio à automutilação e notificar a equipe de resposta a emergências quando apropriado. Os recursos que compartilhamos estão disponíveis em nossa lista global de recursos de segurança e estão disponíveis publicamente para todos os Snapchatters.
Total Times Suicide Resources Shared
64,094
Recursos
Abaixo, fornecemos informações sobre recursos que recebemos de usuários solicitando uma revisão de nossa decisão de bloquear suas contas:
Policy Reason
Total Appeals
Total Reinstatements
Total Decisions Upheld
Median Turnaround Time (days) to Process Appeals
TOTAL
493,782
35,243
458,539
5
Sexual Content
162,363
6,257
156,106
4
Child Sexual Exploitation
102,585
15,318
87,267
6
Harassment and Bullying
53,200
442
52,758
7
Threats & Violence
4,238
83
4,155
5
Self-Harm & Suicide
31
1
30
5
False Information
3
0
3
<1
Impersonation
847
33
814
7
Spam
19,533
5,090
14,443
9
Drugs
133,478
7,598
125,880
4
Weapons
4,678
136
4,542
6
Other Regulated Goods
9,153
168
8,985
6
Hate Speech
3,541
114
3,427
7
Terrorism & Violent Extremism
132
3
129
9
Visão geral regional e do país
Esta seção fornece uma visão geral das ações tomadas por nossas equipes de Confiança e Segurança para fazer cumprir nossas Diretrizes Comunitárias, tanto proativamente quanto em resposta a denúncias de violações feitas no aplicativo, em uma amostragem de regiões geográficas. Nossas Diretrizes Comunitárias se aplicam a todo o conteúdo no Snapchat e a todos os Snapchatters em todo o mundo, independentemente da localização.
As informações para países individuais, incluindo todos os Estados-Membros da UE, estão disponíveis para download através do arquivo CSV em anexo.
Region
Total Enforcements
Total Unique Accounts Enforced
North America
3,828,389
2,117,048
Europe
2,807,070
1,735,054
Rest of World
3,396,651
1,846,110
Total
10,032,110
5,698,212
Region
Content & Account Reports
Total Enforcements
Total Unique Accounts Enforced
North America
5,916,815
2,229,465
1,391,304
Europe
5,781,317
2,085,109
1,378,883
Rest of World
7,681,716
2,031,934
1,319,934
Total
19,379,848
6,346,508
4,090,121
Total Enforcements
Total Unique Accounts Enforced
1,598,924
837,012
721,961
417,218
1,364,717
613,969
3,685,602
1,868,199
Moderação de Anúncios
A Snap está comprometida em garantir que todos os anúncios sejam totalmente compatíveis com nossas Políticas de Publicidade. Acreditamos em uma abordagem responsável e respeitosa à publicidade, criando uma experiência segura e agradável para todos os nossos usuários. Todos os anúncios estão sujeitos à nossa revisão e aprovação. Além disso, nos reservamos o direito de remover anúncios, inclusive em resposta à opinião do usuário, o que levamos a sério.
Abaixo, incluímos informações sobre nossa moderação para anúncios pagos que são denunciados após sua publicação no Snapchat. Observe que os anúncios no Snapchat podem ser removidos por uma variedade de motivos, conforme descrito nas Políticas de Publicidade do Snap, incluindo conteúdo enganoso, adulto, violento ou perturbador, declarações de ódio e violação de propriedade intelectual. Além disso, você agora pode encontrar a Galeria de Anúncios do Snapchat na barra de navegação deste relatório de transparência.
Total Ads Reported
Total Ads Removed
43,098
17,833
