En Snap, mejoramos continuamente nuestros mecanismos de seguridad y las políticas de la plataforma para impedir que las personas malintencionadas hagan mal uso de nuestra plataforma. Aprovechamos la tecnología avanzada para detectar y bloquear las actividades que violan nuestras reglas, aplicamos los principios de diseño para crear fricción en el proceso de amistad, apoyamos las fuerzas de seguridad, colaboramos con las autoridades gubernamentales y trabajamos para crear conciencia y proporcionar educación con respecto a los daños más graves que afectan a los adolescentes y, de hecho, a todos los miembros de nuestra comunidad. 

Tomamos muy en serio nuestra responsabilidad de proteger a los adolescentes. Nuestro trabajo es abundante e incluye lo siguiente: 

I. Hacer de Snapchat un entorno hostil para personas malintencionadas

A principios de este año, anunciamos nuevas funciones para ayudar a salvaguardar aún más a nuestra comunidad, específicamente a los usuarios adolescentes, y para reforzar las relaciones del mundo real que hacen que Snapchat sea único. Esas actualizaciones incluyen: advertencias expandidas dentro de la aplicación para contactos sospechosos, protecciones mejoradas para amistades creadas específicamente para los adolescentes y mejorar la capacidad de bloquear los contactos no deseados. 

Estos cambios, que se centraron en combatir la sextorsión en línea, se basan en nuestras inversiones continuas para luchar contra todas las formas de abuso y explotación sexual infantil. Por ejemplo: 

Usamos señales para identificar el comportamiento de una sextorsión para que podamos eliminar activamente a las personas malintencionadas antes de que tengan la oportunidad de atacar y victimizar a los demás. Esto se suma a aprovechar e implementar la tecnología diseñada para evitar la propagación de imágenes conocidas de abuso y explotación sexual infantil (CSEAI, por sus siglas en inglés) en Snapchat, incluido PhotoDNA (para detectar duplicados de imágenes ilegales conocidas), CSAI Match (para detectar duplicados de videos ilegales conocidos) y la API de seguridad de contenido (para ayudar a detectar imágenes nuevas y que “nunca tuvieron hash”).

Aunque desde hace tiempo ofrecemos denuncias simples dentro de la aplicación de contenido y cuentas que violan nuestras reglas, en 2023 realizamos mejoras para reforzar la lucha contra los daños relacionados con la sextorsión. El año pasado, lanzamos las denuncias de texto de chat dentro de la aplicación, lo que permite a los Snapchatters denunciar mensajes individuales directamente desde la misma conversación. También expandimos las herramientas de denuncia dentro de la aplicación para incluir una razón de denuncia específica y personalizada para la sextorsión y, con el asesoramiento y la orientación de la ONG Thorn, que lucha contra CSEA, presentó esa opción de denuncia en un lenguaje relacionado para adolescentes y jóvenes (“Filtraron/están amenazando con filtrar mis fotos sin ropa”). A su vez, esas denuncias se usan para informar nuestros esfuerzos de cumplimiento, incluida la detección y el cumplimiento basados en señales. Analizamos las tendencias, los patrones y las técnicas de los sextorsionistas y, si una cuenta exhibe ciertas características, se bloquea por sextorsión.

Continuamos mejorando y haciendo crecer el conjunto de herramientas del Centro familiar, lanzado en 2022, donde los padres pueden ver quién es amigo de su hijo adolescente en Snapchat, con quién han chateado recientemente y denunciar fácilmente las cuentas que puedan ser motivo de preocupación para ellos. Nuestro objetivo para el Centro familiar siempre fue generar un diálogo abierto y constructivo entre los padres, cuidadores y los adolescentes sobre cómo mantenerse seguros en línea. 

Colaboramos estrechamente con las fuerzas de seguridad e invertimos mucho en nuestros equipos de seguridad y operaciones de las fuerzas de seguridad que operan en todo el mundo las 24 horas del día, los 7 días de la semana, para ayudar a mantener a nuestra comunidad segura. Por ejemplo, los equipos de Confianza y Seguridad duplicaron con creces su tamaño desde 2020 y el equipo de Operaciones de las fuerzas de seguridad tuvo un crecimiento mayor al triple. Organizamos cumbres anuales para las fuerzas de seguridad en los EE. UU. para garantizar que los oficiales y las agencias sepan cómo tomar las medidas apropiadas contra cualquier actividad ilegal que pueda estar teniendo lugar en nuestra plataforma. 

También estamos trabajando directamente con las fuerzas de seguridad en Nigeria, donde se originan muchos casos de sextorsión, para crear la capacidad y el conocimiento para investigar y enjuiciar a los perpetradores, y planeamos continuar nuestro compromiso con el gobierno nigeriano para colaborar más en esta área. Y hemos trabajado con International Justice Mission, el NCMEC, otros miembros de la industria y las ONG para proporcionar capacitación a las fuerzas de seguridad sobre la investigación de CyberTips en países fuera de los EE. UU., donde la actividad de sextorsión es frecuente.

Durante muchos años, también nos hemos comprometido con una estructura sólida de “Informantes de confianza”: organizaciones sin fines de lucro, ONG y agencias gubernamentales seleccionadas que nos escalan a casos de abuso, amenazas inminentes a la vida y otros problemas de emergencia en nombre de los Snapchatters que lo necesitan a través de canales de alta prioridad. La mayoría de los participantes en nuestro Programa de informantes de confianza denuncian contenido y cuentas relacionados con daños sexuales contra menores, incluida la sextorsión.  

II. Incluir coaliciones y expertos de la industria 

Además de nuestras propias inversiones, también nos involucramos con expertos de todo el mundo, porque sabemos que ninguna entidad ni organización sola puede avanzar significativamente en estos problemas. Por ejemplo, Snap representa a la industria en el Consejo de Políticas internacionales de WeProtect Global Alliance; somos miembros del Consejo asesor de INHOPE y formamos parte de la Junta de fideicomisarios de Internet Watch Foundation’s (IWF) del Reino Unido. Todas estas organizaciones tienen la erradicación de CSEA en línea en el corazón de sus misiones.

Seguimos siendo miembros activos de Tech Coalition, una alianza global de la industria centrada en combatir la explotación y el abuso sexual infantil en línea, y recientemente concluimos un mandato de dos años en el Comité Ejecutivo de su Junta de Directores. También fuimos miembros fundadores de la iniciativa Lantern de Tech Coalition, el primer programa de intercambio de señales multiplataforma para que las empresas fortalezcan la forma en que hacen cumplir sus políticas de seguridad infantil. Mediante la participación activa en este programa, las empresas pueden ayudarse mutuamente a verificar si hay personas con malas intenciones, incluidos sextorsionistas.   

Además, aprovechamos la base de datos de Take It Down de National Center for Missing and Exploited Children’s (NCMEC), que permite a los menores generar una huella digital, llamada “hash”, de imágenes o videos seleccionados directamente en sus dispositivos. Las empresas participantes, Snap entre ellas, pueden usar esos hashes para buscar y eliminar imágenes duplicadas que violan nuestras Pautas para la comunidad. Participamos en un programa similar en Reino Unido llamado Report Remove y el año pasado nos unimos a la colaboración StopNCII de SWGfL para ayudar a evitar la propagación de imágenes íntimas no consensuadas (NCII, por sus siglas en inglés) en Snapchat aprovechando la base de datos de hash de ese grupo. StopNCII ayuda a detener la propagación de imágenes íntimas de personas de 18 años o más y ofrece a las víctimas la capacidad de reclamar su privacidad sobre sus fotos y videos más privados.

Este año, también lanzamos el Consejo de Snap inaugural para el bienestar digital, un grupo de 18 adolescentes de todo Estados Unidos, seleccionados para participar en un programa piloto de un año de duración que promueve hábitos y prácticas en línea más seguros en su escuela y comunidad. En julio, este grupo, junto con al menos un padre o acompañante, se reunió en la sede de Snap en Santa Mónica, California para tratar conversaciones que produjeron información interesante sobre temas como las trampas en línea, la dinámica social y las herramientas parentales. Esto se suma a la Junta Asesora de Seguridad de Snap, que consta de 16 profesionales y tres abogados de jóvenes, que proporcionan orientación y guías directas a Snap en asuntos de seguridad. Esperamos con ansias el 2025, en el que esperamos crear más oportunidades para que los miembros de ambos grupos se reúnan y descubran información adicional. 

III. Producir conciencia 

Más allá de nuestras inversiones internas y el trabajo que hacemos con expertos y con diversas industrias, un componente crítico para combatir los esquemas de sextorsión y abuso sexual en línea es aumentar la conciencia pública y de los Snapchatter. 

En 2022, lanzamos el Índice de bienestar digital, una investigación líder en la industria que ofrece información sobre cómo les va a los adolescentes y jóvenes adultos en línea en todas las plataformas. Como parte de esta investigación, durante los últimos dos años, hicimos inmersiones profundas en la sextorsión. Debido a que este estudio cubre experiencias en línea en general, no solo en Snapchat, no solo ayuda a informar nuestro trabajo, sino que esperamos que también ofrezca información a otros en todo el ecosistema tecnológico. A finales de este mes, compartiremos los resultados de nuestra inmersión profunda de sextorsión del segundo año, en conjunto con el próximo Foro virtual de múltiples partes interesadas de la Coalición de Tecnología sobre la sextorsión financiera de menores. 

A principios de este año, tuvimos el honor de ser la primera entidad en apoyar Know2Protect, una campaña de concientización pública, única en su tipo, lanzada a principios de este año por el Departamento de Seguridad Nacional (DHS) de los EE. UU. La campaña informa y capacita a los jóvenes, los padres, los adultos de confianza y los legisladores para ayudar a prevenir y combatir delitos como la sextorsión financiera. Además de donar espacio publicitario en Snapchat para recursos educativos de K2P, estamos llevando a cabo más investigaciones con adolescentes y jóvenes adultos en los EE. UU. para informar más a la campaña. También lanzamos conjuntamente un Lente de Snapchat de realidad aumentada para ayudar a educar a los Snapchatters a través de un cuestionario interactivo de Know2Protect. Y en el Reino Unido, apoyamos la campaña de concientización pública de amplio alcance de IWF en torno a estos problemas hasta la fecha, Gurls Out Loud, diseñado para informar a niñas de 11 a 13 años de edad sobre el grooming, el sexting y el envío de fotos de desnudos. Además, recientemente lanzamos una Guía para educadores de Snapchat, con la que nos asociamos con Safe and Sound Schools para desarrollar un kit de herramientas completo para los educadores que incluya información y orientación sobre cómo combatir la sextorsión. 

Basándonos en nuestros años de investigación, sabemos que la concientización y la educación comunitaria son herramientas poderosas para ayudar a evitar daños en línea y continuamos desarrollando y promoviendo recursos dentro de la aplicación para llegar a los adolescentes y jóvenes directamente en Snapchat. En septiembre de 2023, lanzamos cuatro nuevos episodios de “Safety Snapshot” dentro de la aplicación que se centran en los riesgos y daños sexuales, incluida la sextorsión financiera. También ofrecemos episodios sobre sexting y las consecuencias de crear y compartir fotos de desnudos, grooming infantil en línea con fines sexuales y trata de menores con fines de explotación sexual. Los expertos de National Center for Missing and Exploited Children (NCMEC, por sus siglas en inglés) revisaron todos estos recursos y se crearon en colaboración con líneas directas y líneas de ayuda relevantes en puntos geográficos clave. 

Continuamos luchando contra el abuso y la explotación sexual infantil en línea, pero todavía hay más para hacer. En 2025, continuaremos creando conciencia sobre los posibles daños en línea y continuaremos reiterando que cualquier persona puede ser un objetivo potencial. Queremos detener y frustrar a las personas malintencionadas de manera temprana y frecuente, y queremos producir CyberTips aún más accionables para las fuerzas de seguridad.

Es importante tener en cuenta que empleamos muchas de estas mismas estrategias para luchar contra otros daños graves, como la actividad de drogas ilícitas, incluida la venta de píldoras falsificadas, amenazas de violencia y contenido de suicidio y autolesiones. Nos damos cuenta de que nuestro trabajo en esta área quizás nunca se termine, pero nos importa profundamente la seguridad de los Snapchatters y continuaremos trabajando de manera colaborativa en toda la industria, el gobierno y las fuerzas de seguridad para intercambiar información y fortalecer nuestras defensas.