En Snap, mejoramos nuestros mecanismos de seguridad y políticas de plataforma de manera continua para limitar la capacidad de los malhechores de hacer un uso indebido de nuestra plataforma. Utilizamos tecnología de avanzada para detectar y bloquear actividades que infrinjan nuestras reglas, aplicamos principios de diseño para dificultar el proceso de solicitudes de amistad, respaldamos a las fuerzas de seguridad, colaboramos con las autoridades gubernamentales y trabajamos para crear conciencia y proporcionar educación sobre los daños más graves que afectan a los adolescentes y, de hecho, a todos los miembros de nuestra comunidad. 

Nos tomamos muy en serio nuestra responsabilidad de proteger a los adolescentes. Nuestro trabajo es importante e incluye lo siguiente: 

I. Hacer que Snapchat sea un entorno hostil para los malhechores

A principios de este año, anunciamos nuevas funciones para ayudar a proteger aún más a nuestra comunidad, específicamente a los usuarios adolescentes, y para reforzar las relaciones del mundo real que hacen que Snapchat sea única. Esas actualizaciones incluyen: ampliación de las advertencias sobre contactos sospechosos dentro de la aplicación, mejora de las medidas de protección ante las solicitudes de amistad, diseñadas específicamente para adolescentes, y mejora de la capacidad de bloqueo de contactos no deseados. 

Estos cambios, que se centran en combatir la sextorsión en línea, se basan en nuestras inversiones actuales para luchar contra todas las formas de explotación y abuso sexual infantil. Por ejemplo: 

Utilizamos señales para identificar comportamientos de sextorsión de manera que podamos eliminar activamente a los malhechores antes de que tengan la oportunidad de atacar y victimizar a otros. Además, utilizamos e implementamos tecnologías diseñadas para prevenir la propagación de imágenes conocidas de explotación y abuso sexual infantil (CSEAI, según sus siglas en inglés) en Snapchat, incluidas PhotoDNA (para detectar duplicados de imágenes ilegales conocidas), CSAI Match (para detectar duplicados de videos ilegales conocidos) y Content Safety API (para ayudar a detectar imágenes nuevas y a las cuales nunca se les haya asignado un valor hash).

Aunque hace mucho tiempo que permitimos denunciar fácilmente los contenidos y cuentas que infringen nuestras normas desde la aplicación, en 2023 implementamos mejoras para reforzar nuestra lucha contra los daños relacionados con la sextorsión. El año pasado lanzamos las denuncias de texto en el chat de la aplicación, lo que permite que los Snapfans denuncien mensajes individuales directamente desde la conversación. También ampliamos nuestras herramientas de denuncia dentro de la aplicación al permitir que se incluya un motivo de denuncia específico y personalizado para la sextorsión y, siguiendo el consejo y la orientación de la ONG de lucha contra la explotación y el abuso sexual infantil (CSEA, por sus siglas en inglés), Thorn, presentamos la opción de denuncia en un lenguaje fácil de identificar para los adolescentes y jóvenes ("Filtraron/amenazan con filtrar mis desnudos"). A su vez, esos informes se utilizan para informar a nuestras iniciativas de seguridad, lo que incluye la detección y la seguridad basadas en señales. Analizamos tendencias, patrones y técnicas de sextorsión y, si una cuenta exhibe ciertas características, se bloquea por sextorsión.

Seguimos mejorando y añadiendo herramientas a nuestro conjunto de herramientas del Centro de familia, que se lanzó en 2022, donde los padres pueden ver quién es amigo de su hijo adolescente en Snapchat, con quién chateó recientemente, y denunciar fácilmente las cuentas que puedan ser motivo de preocupación para ellos. Nuestro objetivo para el Centro de familia siempre fue promover un diálogo abierto y constructivo entre los padres/cuidadores y los adolescentes sobre cómo mantenerse seguros en línea. 

Colaboramos estrechamente con las fuerzas de seguridad e invertimos mucho en nuestros equipos de operaciones de seguridad y aplicación de la ley que operan en todo el mundo las 24 horas del día, los 7 días de la semana para ayudar a mantener segura a nuestra comunidad. Por ejemplo, nuestros equipos de Confianza y Seguridad se han duplicado con creces desde 2020 y nuestro equipo de Operaciones de Aplicación de la Ley se ha triplicado con creces en el mismo tiempo. Organizamos cumbres anuales para la aplicación de la ley en EE. UU. para garantizar que los funcionarios y agencias sepan cómo tomar las medidas adecuadas contra cualquier actividad ilegal que se pueda estar desarrollando en nuestra plataforma. 

También trabajamos directamente con las fuerzas de seguridad en Nigeria, donde se originan muchos casos de sextorsión, para crear capacidades y conocimientos que permitan investigar y enjuiciar a los autores, y planeamos continuar con nuestro compromiso con el gobierno nigeriano para colaborar aún más en este ámbito. Además, hemos trabajado con la Misión Internacional de Justicia, NCMEC, otros miembros de la industria y otras ONG para capacitar a las fuerzas de seguridad sobre la investigación de CyberTips en países fuera de los EE. UU. donde las actividades de sextorsión son frecuentes.

Durante muchos años, también nos hemos comprometido con una sólida estructura de "informadores de confianza": organizaciones sin fines de lucro, ONG y agencias gubernamentales selectas que nos informan sobre casos de abuso, amenazas inminentes a la vida y otros problemas de emergencia en nombre de los Snapchatters que lo necesitan a través de canales de alta prioridad. La mayoría de los participantes de nuestro Programa de Informantes de Confianza denuncian contenidos y cuentas relacionados con daños sexuales contra menores, incluida la sextorsión.  

II. Colaboración con expertos y coaliciones de la industria 

Además de nuestras propias inversiones, también colaboramos con expertos de todo el mundo, porque sabemos que ninguna entidad u organización puede avanzar por sí misma en estos temas de manera significativa. Por ejemplo, Snap representa a la industria en el Consejo de Políticas internacional de la Alianza Global WeProtect, somos miembros del Consejo Asesor de INHOPE y formamos parte de la Junta Directiva de la Fundación de Vigilancia de Internet (IWF) del Reino Unido. Todas estas organizaciones tienen la erradicación de la CSEA en línea como eje de sus misiones.

Seguimos siendo miembros activos de Tech Coalition, una alianza mundial de la industria que se dedica a combatir la explotación y el abuso sexual infantil en línea, y recientemente concluimos un mandato de dos años en el Comité Ejecutivo de su Junta Directiva. También fuimos miembros fundadores de la iniciativa Lantern de Tech Coalition, el primer programa de intercambio de señales entre plataformas para que las empresas fortalezcan la forma en que aplican sus políticas de seguridad infantil. A través de la participación activa en este programa, las empresas pueden ayudarse mutuamente en busca de malhechores, incluidos los extorsionistas de contenido sexual.   

Además, aprovechamos la base de datos Take It Down del Centro Nacional para Niños Desaparecidos y Explotados (NCMEC, por sus siglas en inglés), que permite a los menores generar una huella digital, llamada "valor hash", de imágenes o videos seleccionados directamente en sus dispositivos. Las empresas participantes, incluida Snap, pueden utilizar esos valores hash para buscar y eliminar imágenes duplicadas que infrinjan nuestras Pautas para la comunidad. Participamos en un programa similar del Reino Unido denominado Report Remove y, el año pasado, nos unimos a la colaboración StopNCII de SWGfL para ayudar a prevenir la propagación de imágenes íntimas no consentidas (NCII, por sus siglas en inglés) en Snapchat aprovechando la base de datos de valores hash de ese grupo. StopNCII ayuda a detener la propagación de imágenes íntimas de las personas mayores de 18 años y ofrece a las víctimas la capacidad de reclamar su privacidad sobre sus fotos y videos más privados.

Este año también lanzamos nuestro primer Consejo para el Bienestar Digital de Snap, un grupo de 18 adolescentes de todo Estados Unidos que fueron seleccionados para participar en un programa piloto de un año de duración que promueve hábitos y prácticas en línea más seguros en las escuelas y comunidades. En julio, este grupo, junto con al menos un padre o acompañante, se reunió en la sede de Snap en Santa Mónica, California para mantener conversaciones que proporcionaron información interesante sobre temas como las trampas en línea y la dinámica social, y las herramientas para padres. Esto se suma al Consejo Asesor de Seguridad de Snap, que está compuesto por 16 profesionales y tres defensores de los jóvenes, que asesoran directamente a Snap en cuanto a los asuntos de seguridad. Esperamos con ansias el año 2025, en el que esperamos crear más oportunidades para que los miembros de ambos grupos se unan y descubran información adicional. 

III. Generar conciencia 

Más allá de nuestras inversiones internas y el trabajo que hacemos con expertos y con todos los sectores, un componente crítico para combatir los esquemas de abuso sexual y sextorsión en línea es la concientización pública y de los Snapchatters. 

En 2022, lanzamos el Índice de Bienestar Digital, una investigación líder en la industria que ofrece información sobre cómo les va a los adolescentes y adultos jóvenes en línea en todas las plataformas. Como parte de esta investigación, durante los últimos dos años, hemos profundizado en la sextorsión. Debido a que este estudio cubre las experiencias en línea en general, más allá de Snapchat, no solo ayuda a informar sobre nuestro trabajo, sino que esperamos que también ofrezca información a otros en el ecosistema tecnológico. A finales de este mes, compartiremos los resultados de nuestra profundización de dos años sobre la sextorsión, junto con el próximo Foro Multisectorial virtual de Technology Coalition sobre la sextorsión económica de menores. 

A principios de este año, nos sentimos honrados de ser la primera entidad en apoyar Know2Protect, una campaña de concientización pública pionera en su tipo que lanzó el Departamento de Seguridad Nacional de EE. UU. (DHS, por sus siglas en inglés) a principios de este año. La campaña educa y empodera a jóvenes, padres, adultos de confianza y responsables políticos para ayudar a prevenir y combatir delitos como la sextorsión económica. Además de donar espacio publicitario en Snapchat para los recursos educativos de K2P, estamos llevando a cabo investigaciones adicionales con adolescentes y adultos jóvenes de EE. UU. para aportar más información a la campaña. También lanzamos en conjunto un Lente de Snapchat de realidad aumentada para ayudar a educar a los Snapchatters
a través de un cuestionario interactivo de Know2Protect. Además, en el Reino Unido, apoyamos hasta la fecha la campaña de concientización pública de alcance masivo de la IWF sobre estos temas, Gurls Out Loud, diseñada para informar a las niñas de 11 a 13 años sobre el grooming sexual, el sexteo y el envío de desnudos en línea. Asimismo, lanzamos recientemente una Guía de Snapchat para el educador, en asociación con Safe and Sound Schools, con el fin de desarrollar un conjunto de herramientas integral para los educadores que incluye información y orientación sobre cómo combatir la sextorsión. 

Basándonos en nuestros años de investigación, sabemos que la concientización y la educación de la comunidad son herramientas poderosas para ayudar a prevenir daños en línea, y continuamos desarrollando y promoviendo recursos dentro de la aplicación para acercarnos a los adolescentes y jóvenes directamente en Snapchat. En septiembre de 2023, lanzamos cuatro nuevos episodios de "Safety Snapshot" en la aplicación, los cuales se centran en los riesgos y daños sexuales, incluida la sextorsión económica. También ofrecemos episodios sobre el sexteo y las consecuencias de crear y compartir desnudos, el grooming infantil en línea con fines sexuales y la trata infantil con fines de explotación sexual. Todos estos recursos fueron revisados por expertos del Centro Nacional para Niños Desaparecidos y Explotados (NCMEC) y se crearon en colaboración con las líneas de denuncia y de ayuda pertinentes de lugares geográficos clave. 

Seguimos luchando contra la explotación y el abuso sexual infantil en línea, pero todavía hay más por hacer. En 2025, seguiremos creando conciencia sobre los posibles daños en línea y continuaremos reiterando que cualquier persona puede ser un objetivo potencial. Queremos detener y frustrar a los malhechores de forma temprana y frecuente, y queremos producir CyberTips aún más fáciles de implementar para las fuerzas de seguridad.

Cabe destacar que empleamos muchas de estas mismas estrategias para luchar contra otros daños atroces, como la actividad ilícita de drogas, que incluye la venta de píldoras falsificadas, las amenazas de violencia y el contenido sobre suicidio y autolesiones. Sabemos que nuestro trabajo en este espacio nunca se termina, pero nos preocupamos profundamente por la seguridad de los Snapchatters y continuaremos trabajando de forma colaborativa en la industria, el gobierno y las fuerzas de seguridad para intercambiar información y fortalecer nuestras medidas de defensa.