Nosso objetivo é considerar a segurança e a privacidade em nossa abordagem para proteger os usuários. Usamos uma combinação de ferramentas automatizadas e revisão humana destinada a evitar que os usuários sejam expostos a conteúdo pornográfico ou outros danos sexuais ou exploração em superfícies públicas (como Holofote, Histórias Públicas e Mapas).
Usamos ferramentas automatizadas para identificar e remover certas fotos e vídeos ilegais de exploração sexual infantil, incluindo:
PhotoDNA da Microsoft (para detectar duplicatas de imagens ilegais conhecidas)
Correspondência CSAI do Google (para detectar duplicatas de vídeos ilegais conhecidos)
API de Segurança de Conteúdo do Google (para auxiliar na detecção de imagens novas e “nunca antes transformadas em hash”)
Usamos tecnologia semelhante para identificar e remover certas imagens íntimas não consensuais. Participamos do programa Take It Down, administrado pelo National Center for Missing and Exploited Children (NCMEC), recebendo e alavancando hashes de imagens de nudez ou parcialmente nudez fornecidas por menores que querem evitar que sejam espalhadas on-line. Também participamos do StopNCII, um programa semelhante para pessoas com 18 anos ou mais, administrado pelo South West Grid for Learning (SWGfL) com sede no Reino Unido. Além disso, em alguns casos, usamos “sinais” comportamentais para identificar atividades potencialmente ilegais ou prejudiciais para podermos remover proativamente pessoas mal-intencionadas e denunciá-las às autoridades, conforme apropriado.
Quando tomamos conhecimento de conteúdo sexualmente explícito ou de exploração, agimos rapidamente para remover o conteúdo ofensivo, tomar medidas contra a conta infratora e, quando apropriado, chegar ao NCMEC e/ou às autoridades policiais. Trabalhamos em estreita colaboração com o NCMEC e as autoridades para manter um loop de opinião sobre a eficácia de nossas políticas.
