Snap está profundamente comprometido con la seguridad de la comunidad de Snapchat. Nuestro objetivo es ayudar a proteger a los usuarios de una serie de riesgos en línea y daños potenciales que abarcan el ecosistema digital, incluidos los crímenes aberrantes que involucran la explotación y el abuso sexual infantil (CSEA). Snap ha estado luchando contra este contenido ilegal y comportamiento criminal vil durante años, empleando medidas tanto de detección proactiva como de respuesta reactiva en toda la aplicación de Snapchat. Durante el último año, hemos realizado cambios adicionales en nuestras políticas y procesos relacionados con la intención de ayudar a llevar a los perpetradores ante la justicia. Nos gustaría compartir más sobre ese trabajo aquí.

¿Qué es la CSEA?

La explotación y el abuso sexual infantil abarcan una serie de actividades ilegales que implican daños sexuales a menores, entre las que se incluyen: la visualización, producción y distribución de imágenes de explotación y abuso sexual infantil (CSEAI), incluida la amenaza más reciente de fotos y videos generados por IA; el ciberacoso o la incitación a menores con fines sexuales; ¹la extorsión sexual; ²la trata de niños y niñas con fines de explotación sexual; y la transmisión en vivo de niños que son abusados y torturados sexualmente. ³Es difícil comprender que estas realidades repulsivas existan de verdad. Pero, lamentablemente, este tipo de abuso siempre ha existido, y el mundo digital ahora proporciona un medio alternativo de abuso, expandiendo los modos de delinquir para que sean más rápidos y de mayor alcance.

«La tecnología ha cambiado fundamentalmente la forma en que aquellos con interés sexual en los niños fantasean con ellos, acceden a ellos y se aprovechan de ellos», dijo Ernie Allen, presidente de la organización con sede en LondresWeProtect Global Alliance. «ElNew York Timesescribió: “La crisis de la explotación sexual infantil en línea está en un punto de quiebre”. Señaló que los informes están aumentando, los delincuentes están compartiendo imágenes de víctimas más jóvenes y crímenes más atroces, y las fuerzas del orden están luchando por mantenerse al día. Si a ese desafío se le suman nuevas variantes, como la sextorsión, que según el FBI ha aumentado un 7200 %, el abuso por transmisión en vivo y otras, está claro que este problema debería estar en la cima de las agendas políticas de todo el mundo», agregó.

Obligaciones legales de las empresas tecnológicas

Cuando las empresas de tecnología de EE. UU. tienen conocimiento de la existencia de CSEA en sus plataformas o servicios, tienen la obligación legal de informarlo al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC). Luego, el NCMEC revisa estos CyberTips y se pone en contacto con las fuerzas del orden tanto nacionales como internacionales para ayudar a proteger a los niños víctimas y castigar a los delincuentes.

Hasta el año pasado, el total anual de CyberTips al NCMEC había aumentado en gran medida año tras año, alcanzando un récord de 36,2 millones de informes ⁴en 2023, frente a los poco más de 32 millones en 2022 y los 4560 en 1998, cuando se creó la CyberTipline del NCMEC. Fue este aumento récord en los CyberTips, además de otros factores, incluido un aumento continuo de la extorsión sexual a nivel mundial y los comentarios que recibimos de las fuerzas del orden sobre la viabilidad de nuestros propios CyberTips, lo que llevó a Snap a acercarse por primera vez al NCMEC en 2024 para recalibrar nuestros informes de CyberTip.

He monitoreado los informes de CyberTip durante varios años y creo firmemente que la práctica de algunas empresas de tecnología ha tendido a informartodoal NCMEC, incluso por encima de su obligación legal, por temor a ser acusados de omitiralgo. ⁵Las empresas que no informan según lo exige la ley pueden enfrentar multas severas. Pero este enfoque de presentación de informes, junto con la baja viabilidad de muchos informes (ya sea porque los CyberTips carecen de contexto suficiente para que las fuerzas del orden tomen medidas o porque la conducta denunciada, en algunos casos, no es una prioridad para ellos), ha dado como resultado un aumento de los CyberTips, múltiples y extensas revisiones y una mayor frustración entre las fuerzas del orden.

Objetivo: CyberTips de alto valor

El objetivo de nuestra recalibración con el NCMEC era aumentar aún más la viabilidad y el valor de los CyberTips de Snap mediante el perfeccionamiento de nuestras propias políticas de plataforma y los protocolos que tenemos para informar al NCMEC. Esa recalibración inicial tuvo lugar en mayo de 2024, y nuestros cambios de política entraron en pleno vigor en la última parte del año pasado.

Si bien debemos evitar poner demasiado énfasis en el número puro de informes de forma aislada, desde la implementación de nuestras mejoras en las políticas, Snap se complace en compartir que hemos visto una caída significativa en nuestro volumen general de informes al NCMEC y una disminución similar en las escaladas por incitación en línea, todo mientras seguimos cumpliendo con nuestras obligaciones legales de informar sobre CSEA en los CyberTips. Sin embargo, los totales más bajos aún no se han filtrado a los volúmenes de informes anuales del NCMEC, porque los cambios se implementaron a finales de 2024, dejando solo unos pocos meses completos del año para reflejar las enmiendas.

Paralelamente, nuestro equipo ha estado trabajando para mejorar los datos y el etiquetado en nuestros CyberTips. Dichas aclaraciones pueden ayudar a identificar mejor los presuntos delitos y las personas involucradas y, a su vez, permitir una clasificación más rápida y precisa de los informes por parte del NCMEC y las fuerzas del orden. Incluso cuando no se justifique informar al NCMEC, Snap continuará abordando las imágenes y los comportamientos que contravienen las políticas de nuestra plataforma tomando medidas, que pueden incluir la eliminación del contenido infractor, la desactivación de la cuenta y el bloqueo de la creación de nuevas cuentas.

Punto de control de la recalibración

El mes pasado, llevamos a cabo una segunda recalibración con el NCMEC, donde el equipo de Snap recapituló los cambios en la política interna del año pasado; actualizó al NCMEC sobre nuestro progreso; confirmó algunas pautas operativas adicionales; y ayudó a establecer expectativas para los próximos meses. También anticipamos algunas adiciones adicionales planificadas a las políticas y los informes que esperamos que continúen mejorando el valor de nuestros informes tanto para el NCMEC como para las fuerzas del orden. Naturalmente, este es un proceso iterativo, pero nos alienta el progreso logrado durante el último año.

Mirando hacia el futuro

Con el tiempo, esperamos que el NCMEC y las fuerzas del orden continúen viendo volúmenes reducidos de CyberTips de Snap en comparación con años anteriores, pero un mayor porcentaje de los quesíreciban deben contener información de mayor calidad y ser más procesables.

Estamos comprometidos con la mejora continua en todos los aspectos de nuestro trabajo de seguridad. No pretendemos tener todas las respuestas con respecto a la lucha contra la CSEA o cualquier otro daño potencial en línea; nadie debería, porque nadie las tiene. Día tras día, luchamos contra problemas de toda la sociedad y aplicamos un enfoque de toda laempresapara lograr el doble objetivo final de mitigar el riesgo y reducir el daño.

Con respecto a nuestros CyberTips, tenemos un objetivo claro para un futuro no muy lejano: ya sea un comandante del Grupo de Trabajo sobre Delitos en Internet contra los Niños (ICAC) estatal, un investigador federal o un miembro de las fuerzas del orden al otro lado del mundo, queremos que las autoridades estatales, federales e internacionales investiguen con confianza los CyberTips de Snap porque saben que nuestros informes son consistentemente fiables, valiosos y exhaustivos. Y nuestra esperanza es que esos esfuerzos ayuden a impulsar un aumento correspondiente en los arrestos relacionados ⁶y condenas en todo el mundo.

Un enorme «gracias» al NCMEC, WeProtect, los 61 Grupos de Trabajo de ICAC en los EE. UU., las fuerzas del orden de todo el mundo y a todos nuestros colegas y colaboradores en el panorama de la lucha contra la CSEA, y una nota adicional de que seguimos abiertos y deseosos de recibir sus comentarios para mejorar aún más nuestras estrategias y enfoques. Estamos todos juntos en esto.

- Jacqueline Beauchere, directora global de Seguridad de la Plataforma