En Snap, evolucionamos continuamente nuestros mecanismos de seguridad y políticas de la plataforma para limitar la capacidad de las personas malintencionadas de hacer un uso indebido de nuestra plataforma. Aprovechamos la tecnología avanzada para detectar y bloquear la actividad que infringe nuestras normas, aplicamos principios de diseño para crear fricción en el proceso de amistad, apoyamos a las fuerzas de seguridad, colaboramos con las autoridades gubernamentales y trabajamos para crear conciencia y proporcionar educación en relación con los daños más graves que afectan a los adolescentes y, de hecho, a todos los miembros de nuestra comunidad. 

Nos tomamos muy en serio nuestra responsabilidad de proteger a los adolescentes. Nuestro trabajo es sustancial, incluyendo lo siguiente: 

I. Hacer de Snapchat un entorno hostil para las personas malintencionadas

A principios de este año, anunciamos nuevas funciones para ayudar a salvaguardar aún más nuestra comunidad, específicamente los usuarios adolescentes, y para reforzar las relaciones del mundo real que hacen único a Snapchat. Esas actualizaciones incluyen: advertencias en la aplicación ampliadas para contactos sospechosos, protecciones mejoradas en cuanto a amistades creadas específicamente para adolescentes y una mejora de la capacidad de bloquear contactos no deseados. 

Estos cambios, que se centran en combatir la sextorsión en línea, se basan en nuestras inversiones constantes para luchar contra todas las formas de explotación y abuso sexual infantil. Por ejemplo: 

Utilizamos señales para identificar el comportamiento de sextorsión para que podamos eliminar activamente a las personas malintencionadas antes de que tengan la oportunidad de atacar y victimizar a otros. Esto se suma a aprovechar e implementar tecnología diseñada para prevenir la propagación de imágenes conocidas de explotación y abuso sexual infantil (CSEAI) en Snapchat, incluyendo PhotoDNA (para detectar duplicados de imágenes ilegales conocidas), CSAI Match (para detectar duplicados de vídeos ilegales conocidos) y Content Safety API (para ayudar a detectar imágenes nuevas y "nunca antes analizadas").

Si bien hace tiempo que ofrecemos la opción de realizar denuncias simples en la aplicación de contenido y cuentas que violan nuestras normas, en 2023 realizamos mejoras para reforzar nuestra lucha contra los daños relacionados con la sextorsión. El año pasado lanzamos la creación de informes de texto de chat en la aplicación - lo que permite a los Snapfans denunciar mensajes individuales directamente desde la conversación. También ampliamos nuestras herramientas de denuncia en la aplicación para incluir una razón de denuncia específica y personalizada para la sextorsión y, con el asesoramiento y la orientación de la ONG Thorn, presentamos esa opción de denuncia en un lenguaje fácil de identificar para adolescentes y jóvenes ("Ellos filtraron/amenazan con filtrar mis nudes"). A su vez, esos informes se utilizan para informar nuestros esfuerzos de cumplimiento, incluida la detección y aplicación basadas en señales. Analizamos las tendencias, patrones y técnicas de sextorsión y, si una cuenta muestra ciertas características, se bloquea por sextorsión.

Seguimos mejorando y añadiendo herramientas a nuestro Centro de familia, lanzado en 2022, donde los padres pueden ver quién es amigo de su hijo adolescente en Snapchat, con quién han chateado recientemente, y denunciar fácilmente las cuentas que pueden ser motivo de preocupación para ellos. Nuestro objetivo para el Centro de familia siempre ha sido generar un diálogo abierto y constructivo entre padres/cuidadores y adolescentes sobre cómo mantenerse seguros en línea. 

Colaboramos estrechamente con las fuerzas de seguridad e invertimos fuertemente en nuestros equipos de operaciones de seguridad y aplicación de la ley que operan en todo el mundo las 24 horas del día, los 7 días de la semana para ayudar a mantener segura a nuestra comunidad. Por ejemplo, nuestros equipos de Confianza y Seguridad se han más que duplicado en tamaño desde 2020, y nuestro equipo de Operaciones de Aplicación de la Ley se ha más que triplicado en ese tiempo. Organizamos cumbres anuales para las fuerzas de seguridad en Estados Unidos para garantizar que los oficiales y las agencias sepan cómo tomar las medidas adecuadas contra cualquier actividad ilegal que pueda estar teniendo lugar en nuestra plataforma. 

También estamos trabajando directamente con las fuerzas de seguridad en Nigeria - donde se originan muchos casos de sextorsión - para generar capacidad y conocimiento para investigar y enjuiciar a los autores, y planeamos continuar nuestro compromiso con el gobierno nigeriano para colaborar aún más en esta área. Y hemos trabajado con International Justice Mission, NCMEC, otros miembros de la industria y varias ONG para proporcionar formación a las fuerzas de seguridad sobre la investigación de CyberTips en países fuera de Estados Unidos donde la actividad de sextorsión es frecuente.

Durante muchos años, también nos hemos comprometido con un sólido grupo de "informadores de confianza": organizaciones sin ánimo de lucro, ONG y agencias gubernamentales seleccionadas que nos dirigen casos de abuso, amenazas inminentes a la vida y otros problemas de emergencia en nombre de los Snapfans necesitados a través de canales de alta prioridad. La mayoría de los participantes en nuestro Programa de Informadores de Confianza denuncian contenido y cuentas relacionadas con daños sexuales contra menores, incluida la sextorsión.  

II. Involucramos a expertos y coaliciones de la industria 

Además de nuestras propias inversiones, también nos comprometemos con expertos de todo el mundo, porque sabemos que ninguna entidad u organización por sí sola puede generar un avance significativo en estos problemas. Por ejemplo, Snap representa a la industria en el International Policy Board de la Alianza Global WeProtect; somos miembros del Consejo Asesor de INHOPE y formamos parte del Consejo Directivo de la Internet Watch Foundation (IWF) del Reino Unido. Todas estas organizaciones tienen la erradicación de la CSEA en línea en el centro de mira de sus objetivos.

Seguimos siendo miembros activos de Tech Coalition, una alianza global de la industria centrada en combatir la explotación y el abuso sexual infantil en línea, y recientemente concluimos un mandato de dos años en el Comité Ejecutivo de su Consejo Directivo. También fuimos miembros fundadores de la iniciativa Lantern de Tech Coalition, el primer programa de intercambio de señal multiplataforma para que las empresas fortalezcan la forma en que aplican sus políticas de seguridad infantil. A través de la participación activa en este programa, las empresas pueden ayudarse mutuamente en busca de personas malintencionadas, incluidos los sextorsionistas.   

Además, aprovechamos la base de datos de Take It Down del Centro Nacional para Niños Desaparecidos y Explotados (NCMEC), que permite a los menores generar una huella digital llamada un "hash"- de imágenes o vídeos seleccionados directamente en sus dispositivos. Las empresas participantes, incluida Snap, pueden utilizar esos hashes para buscar y eliminar imágenes duplicadas que violen nuestras Pautas para la comunidad. Participamos en un programa similar en el Reino Unido llamado Report Remove, y el año pasado nos unimos a la colaboración StopNCII de SWGfL para ayudar a prevenir la propagación de imágenes íntimas no consentidas (NCII) en Snapchat aprovechando la base de datos de hash de ese grupo. StopNCII ayuda a detener la propagación de imágenes íntimas de mayores de 18 años, y ofrece a las víctimas la capacidad de reclamar su privacidad sobre sus fotos y vídeos más privados.

Este año también lanzamos nuestro Consejo inaugural de Snap para el Bienestar Digital, un grupo de 18 adolescentes de Estados Unidos, seleccionados para participar en un programa piloto de un año de duración que defiende hábitos y prácticas en línea más seguros en sus escuelas y comunidades. En julio, este grupo, junto con al menos un padre o acompañante, se reunió en la sede de Snap en Santa Mónica, California para debatir temas como las trampas y la dinámica social en línea, y las herramientas para padres. Esto se suma al Consejo Asesor de Seguridad de Snap, que consta de 16 profesionales y tres defensores de los jóvenes, que proporcionan orientación y dirección directa a Snap en asuntos de seguridad. Esperamos con ansias al 2025, donde esperamos crear más oportunidades para que los miembros de ambos grupos se unan y descubran información adicional. 

III. Impulsando la conciencia 

Más allá de nuestras inversiones internas y el trabajo que hacemos con expertos y entre industrias, un componente crítico para combatir los esquemas de abuso sexual y sextorsión en línea está aumentando la conciencia pública y de los Snapfans. 

En 2022, lanzamos el Índice de Bienestar Digital, una investigación líder en la industria que ofrece información sobre cómo les va a los adolescentes y adultos jóvenes en línea en todas las plataformas. Como parte de esta investigación, durante los últimos dos años, hemos hecho inmersiones profundas en la sextorsión. Debido a que este estudio cubre experiencias en línea en general, no solo en Snapchat, no solo ayuda a informar nuestro trabajo, sino que esperamos que también ofrezca información a otros usuarios de todo el ecosistema tecnológico. A finales de este mes, compartiremos los resultados de nuestro segundo año de inmersión profunda en la sextorsión, junto con el próximo Multi-Stakeholder Forum de la Technology Coalition sobre la sextorsión económica de menores. 

A principios de este año, tuvimos el honor de ser la primera entidad en apoyar Know2Protect, una campaña de concienciación pública primera en su tipo lanzada a principios de este año por el Departamento de Seguridad Nacional (DHS). La campaña educa y empodera a jóvenes, padres, adultos de confianza y responsables políticos para ayudar a prevenir y combatir delitos como la sextorsión económica. Además de donar espacio publicitario en Snapchat para recursos educativos de K2P, estamos llevando a cabo investigaciones adicionales con adolescentes y adultos jóvenes en Estados Unidos para informar más sobre la campaña. También lanzamos conjuntamente una Lente de Snapchat de realidad aumentada para ayudar a educar a los Snapfans a través de un cuestionario interactivo Know2Protect. Y en el Reino Unido, hemos apoyado la campaña de concienciación pública de amplio alcance de la IWF en torno a estos temas hasta la fecha, Gurls Out Loud, diseñado para informar a niñas de 11 a 13 años sobre el grooming sexual en línea, el sexteo y el envío de nudes. Además, recientemente lanzamos una Guía de Snapchat para educadores, en asociación con Safe and Sound Schools para desarrollar un conjunto de herramientas completo para educadores que incluye información y orientación sobre cómo combatir la sextorsión. 

Basándonos en nuestros años de investigación, sabemos que despertar conciencia y la educación comunitaria son herramientas poderosas para ayudar a prevenir los daños en línea, y seguimos desarrollando y promoviendo recursos en la aplicación para llegar a adolescentes y jóvenes directamente en Snapchat. En septiembre de 2023, lanzamos cuatro nuevos episodios de "SafetySnapshot" en la aplicación que se centran en los riesgos y daños sexuales, incluida la sextorsión económica. También ofrecemos episodios sobre el sexteo y las consecuencias de crear y compartir nudes, grooming infantil en línea con fines sexuales y tráfico sexual infantil. Todos estos recursos fueron revisados por expertos en el Centro Nacional para Niños Desaparecidos y Explotados (NCMEC) y creados en colaboración con líneas de ayuda relevantes en geografías clave. 

Seguimos luchando contra la explotación y el abuso sexual infantil en línea, pero todavía hay más para hacer. En 2025, continuaremos creando conciencia sobre los posibles daños en línea y continuaremos reiterando que cualquiera puede ser un objetivo potencial. Queremos interrumpir y frustrar a las personas malintencionadas de forma temprana y frecuente, y queremos producir CyberTips aún más accionables para las fuerzas de seguridad.

Es importante señalar que empleamos muchas de estas mismas estrategias al luchar contra otros daños atroces, como la actividad de drogas ilícitas, incluidas la venta de píldoras falsificadas, las amenazas de violencia y el contenido en torno al suicidio y la autolesión. Nos damos cuenta de que nuestro trabajo en este espacio nunca se terminará, pero nos preocupamos profundamente por la seguridad de los Snapfans y continuaremos trabajando en colaboración en toda la industria, con el gobierno y con las fuerzas de seguridad para intercambiar información y fortalecer nuestras defensas.