En Snap, evolucionamos continuamente nuestros mecanismos de seguridad y las políticas de la plataforma para limitar la capacidad de que los malos actores hagan un uso indebido de nuestra plataforma. Aprovechamos la tecnología avanzada para detectar y bloquear las actividades que infringen nuestras reglas, aplicamos principios de diseño para crear fricción en el proceso de amistad, apoyamos a las fuerzas de seguridad, colaboramos con las autoridades gubernamentales y trabajamos para crear conciencia y educar sobre los daños más graves que afectan a los adolescentes, y, de hecho, a todos los miembros de nuestra comunidad. 

Nos tomamos muy en serio nuestra responsabilidad de proteger a los adolescentes. Nuestro trabajo es importante, e incluye lo siguiente: 

I. Convertir a Snapchat en un entorno hostil para los delincuentes

A principios de este año, anunciamos nuevas funciones para ayudar a proteger aún más a nuestra comunidad, específicamente a los usuarios adolescentes, y para reforzar las relaciones del mundo real que hacen que Snapchat sea único. Estas actualizaciones incluyen: advertencias ampliadas dentro de la aplicación para contactos sospechosos, protecciones de amistad mejoradas diseñadas específicamente para adolescentes y la capacidad mejorada de bloquear contactos no deseados. 

Estos cambios, centrados en la lucha contra la sextorsión en línea, se basan en nuestras inversiones continuas para luchar contra todas las formas de explotación y abuso sexual infantil. Por ejemplo: 

Usamos señales para identificar comportamientos de sextorsión para que podamos eliminar activamente a los delincuentes antes de que tengan la oportunidad de atacar y victimizar a otros. Esto se suma al uso y la implementación de tecnología diseñada para prevenir la propagación de imágenes conocidas de explotación y abuso sexual infantil (CSEAI) en Snapchat, incluido PhotoDNA (para detectar duplicados de imágenes ilegales conocidas), CSAI Match (para detectar duplicados de videos ilegales conocidos) y Content Safety API (para ayudar a detectar imágenes nuevas y "nunca antes cifradas").

Aunque desde hace tiempo ofrecemos la posibilidad de reportar desde la aplicación los contenidos y las cuentas que infringen nuestras reglas, en 2023 realizamos mejoras para reforzar nuestra lucha contra los daños relacionados con la sextorsión. El año pasado lanzamos los reportes de texto en el chat de la aplicación, que permiten a los Snapchatters reportar mensajes individuales directamente desde la propia conversación. También ampliamos nuestras herramientas de reporte en la aplicación para incluir un motivo de reporte específico y personalizado para la sextorsión y, con el asesoramiento y la orientación de la ONG Thorn, que lucha contra la CSEA, presentamos esa opción de reporte en un lenguaje cercano a los adolescentes y jóvenes ("Se filtraron / amenazan con filtrar mis nudes"). A su vez, esos reportes se usan para informar nuestros esfuerzos de aplicación de la ley, incluida la detección y aplicación basadas en señales. Analizamos las tendencias, los patrones y las técnicas de los sextorsionistas y, si una cuenta presenta ciertas características, se bloquea por sextorsión.

Seguimos mejorando y ampliando nuestro conjunto de herramientas del Centro familiar, lanzado en 2022, donde los padres pueden ver de quién es amigo su hijo adolescente en Snapchat, con quién ha chateado recientemente, y reportar fácilmente las cuentas que puedan preocuparles. Nuestro objetivo para el Centro familiar siempre ha sido promover un diálogo abierto y constructivo entre los padres/cuidadores y los adolescentes sobre la seguridad en línea. 

Colaboramos estrechamente con las fuerzas de seguridad e invertimos fuertemente en nuestros equipos de operaciones de seguridad y aplicación de la ley que operan en todo el mundo las 24 horas del día, los 7 días de la semana para ayudar a mantener la seguridad de nuestra comunidad. Por ejemplo, nuestros equipos de confianza y seguridad han duplicado su tamaño desde 2020, y nuestro equipo de operaciones de aplicación de la ley se ha triplicado con creces en ese tiempo. Organizamos cumbres anuales para las fuerzas de seguridad en los Estados Unidos para garantizar que los agentes y organismos sepan cómo actuar adecuadamente contra cualquier actividad ilegal que pueda ocurrir en nuestra plataforma. 

También estamos trabajando directamente con las fuerzas de seguridad en Nigeria, donde se originan muchos casos de sextorsión, para crear capacidad y conocimiento para investigar y procesar a los perpetradores, y planeamos continuar nuestro compromiso con el gobierno de Nigeria para seguir colaborando en esta área. Y hemos trabajado con la Misión Internacional de Justicia, el NCMEC, otros miembros de la industria y las ONG para impartir formación a las fuerzas de seguridad sobre la investigación de CyberTips en países fuera de los Estados Unidos donde la actividad de sextorsión es frecuente.

Durante muchos años, también hemos colaborado con un sólido grupo de "informantes de confianza": organizaciones sin fines de lucro, ONG y organismos gubernamentales selectos que nos comunican casos de abuso, amenazas inminentes para la vida y otros problemas de emergencia en nombre de los Snapchatters necesitados a través de canales de alta prioridad. La mayoría de los participantes en nuestro Programa de Informantes de confianza reportan contenidos y cuentas relacionados con agresiones sexuales contra menores, incluida la sextorsión.  

II. Involucrar a expertos y coaliciones de la industria 

Además de nuestras propias inversiones, también nos relacionamos con expertos de todo el mundo, porque sabemos que ninguna entidad u organización puede por sí sola avanzar de manera significativa en estos temas. Por ejemplo, Snap representa a la industria en el Consejo de políticas internacionales de la Alianza Global WeProtect; somos miembros del Consejo asesor de INHOPE y formamos parte del Consejo de administración de Internet Watch Foundation del Reino Unido. Para todas estas organizaciones, la erradicación de la explotación y el abuso sexual infantil es lo primordial en todo lo que hacen.

Seguimos siendo miembros activos de la Tech Coalition, una alianza mundial de la industria centrada en la lucha contra la explotación y el abuso sexual infantil en línea, y recientemente concluimos un periodo de dos años en el Comité ejecutivo de su junta directiva. También fuimos miembros fundadores de la iniciativa Lantern de Tech Coalition, el primer programa de intercambio de señales entre plataformas para que las empresas refuercen la forma en que aplican sus políticas de seguridad infantil. Mediante la participación activa en este programa, las empresas pueden ayudarse mutuamente a realizar comprobaciones cruzadas para detectar delincuentes, incluidos los sextorsionistas.   

Además, aprovechamos la base de datos de Take It Down del Centro Nacional para Niños Desaparecidos y Explotados (NCMEC), que permite a los menores generar una huella digital, llamada "hash", de las imágenes o videos seleccionados directamente en sus dispositivos. Las empresas participantes, incluida Snap, pueden usar esos hashes para buscar y eliminar imágenes duplicadas que infrinjan nuestros lineamientos de la comunidad. Participamos en un programa similar en el Reino Unido llamado Report Remove, y el año pasado nos unimos a la colaboración StopNCII de SWGfL para ayudar a prevenir la propagación de imágenes íntimas no consensuadas (NCII) en Snapchat aprovechando la base de datos de hash de ese grupo. StopNCII ayuda a detener la propagación de imágenes íntimas de mayores de 18 años, y ofrece a las víctimas la capacidad de recuperar la privacidad de sus fotos y videos más privados.

Este año también lanzamos nuestro primer Consejo de Snap para el bienestar digital, un grupo de 18 adolescentes de todo Estados Unidos, seleccionados para participar en un programa piloto de un año de duración que promueve hábitos y prácticas en línea más seguros en sus escuelas y comunidades. En julio, este grupo, junto con al menos un padre o acompañante, se reunió en la sede de Snap en Santa Mónica, California para debatir ideas interesantes sobre temas como las trampas en línea y las dinámicas sociales, y las herramientas parentales. Esto se suma a la Junta de asesores de seguridad de Snap, formada por 16 profesionales y tres defensores de los jóvenes, que proporcionan orientación y dirección directa a Snap sobre asuntos de seguridad. Estamos esperando el 2025, año en el que esperamos crear más oportunidades para que los miembros de ambos grupos se reúnan y descubran nuevas ideas. 

III. Impulsar el reconocimiento 

Más allá de nuestras inversiones internas y del trabajo que realizamos con expertos y entre industrias, un componente fundamental para combatir contra los abusos sexuales y esquemas de sextorsión en línea es el reconocimiento público y de los Snapchatters. 

En 2022, lanzamos el Índice de bienestar digital, una investigación líder en la industria que ofrece información sobre la situación de los adolescentes y adultos jóvenes en línea en todas las plataformas. Como parte de esta investigación, durante los últimos dos años, hemos profundizado en el tema de la sextorsión. Dado que este estudio cubre las experiencias en línea en general, no solo en Snapchat, no solo ayuda a informar nuestro trabajo, sino que esperamos que también ofrezca ideas a otros en todo el ecosistema tecnológico. A finales de este mes, compartiremos los resultados de nuestra investigación del segundo año sobre la sextorsión, junto con el próximo Foro virtual de múltiples partes interesadas de la Coalición tecnológica sobre la sextorsión económica de los menores. 

A principios de este año, tuvimos el honor de ser la primera entidad en apoyar Know2Protect, una campaña de concienciación pública pionera lanzada este año por el Departamento de seguridad nacional (DHS) de los Estados Unidos. La campaña educa y capacita a los jóvenes, los padres, los adultos de confianza y los responsables de formular políticas para ayudar a prevenir y combatir los delitos como la sextorsión económica. Además de donar espacio publicitario en Snapchat para los recursos educativos de K2P, estamos realizando investigaciones adicionales con adolescentes y adultos jóvenes en los Estados Unidos para informar aún más la campaña. También lanzamos un Lente de Snapchat de realidad aumentada para ayudar a educar a los Snapchatters a través de un cuestionario interactivo de Know2Protect. Y en el Reino Unido, apoyamos la campaña de concienciación pública de amplio alcance de la IWF sobre estos temas hasta la fecha, Gurls Out Loud, diseñada para informar a las niñas de 11 a 13 años sobre el grooming, el sexting y el envío de nudes. Además, recientemente lanzamos una Guía de Snapchat para educadores, asociándonos con Safe and Sound Schools para desarrollar un kit de herramientas completo para los educadores que incluye información y orientación sobre cómo combatir la sextorsión. 

Basándonos en nuestros años de investigación, sabemos que el reconocimiento y la educación comunitaria son herramientas poderosas para ayudar a prevenir los daños en línea, y seguimos desarrollando y promoviendo recursos en la aplicación para llegar a los adolescentes y jóvenes directamente en Snapchat. En septiembre de 2023, lanzamos cuatro nuevos episodios de "Snapshot Seguro" en la aplicación centrados en los riesgos y daños sexuales, incluida la sextorsión económica. También ofrecemos episodios sobre el sexting y las consecuencias de crear y compartir nudes, el grooming en línea con fines sexuales y la trata infantil para explotación sexual. Todos estos recursos fueron revisados por expertos en el Centro Nacional para Niños Desaparecidos y Explotados (NCMEC) y creados en colaboración con líneas directas y de ayuda pertinentes en zonas geográficas clave. 

Seguimos luchando contra la explotación y los abusos sexuales infantiles en línea, pero aún queda mucho por hacer. En 2025, continuaremos creando reconocimiento sobre los posibles daños en línea y seguiremos reiterando que cualquiera puede ser un objetivo potencial. Queremos interrumpir y frustrar a los delincuentes desde el principio y con frecuencia, y queremos producir aún más CyberTips prácticos para las fuerzas de seguridad.

Es importante señalar que empleamos muchas de estas mismas estrategias cuando luchamos contra otros daños graves, como la actividad ilícita con drogas, incluida la venta de pastillas falsificadas, las amenazas de violencia y los contenidos sobre suicidio y autolesiones. Somos conscientes de que nuestro trabajo en este espacio puede que nunca termine, pero nos preocupamos profundamente por la seguridad de los Snapchatters y continuaremos trabajando en colaboración con la industria, el gobierno y las fuerzas de seguridad para intercambiar información y fortalecer nuestras defensas.