Snap está profundamente comprometido con la seguridad de la comunidad de Snapchat. Nuestro objetivo es ayudar a proteger a los usuarios de una serie de riesgos en línea y posibles daños que abarcan el ecosistema digital, incluidos los delitos aberrantes que implican la explotación y el abuso sexual infantil (CSEA, por sus siglas en inglés). Snap lleva años luchando contra este contenido ilegal y este vil comportamiento delictivo, empleando medidas tanto de detección proactiva como de respuesta reactiva en toda la aplicación de Snapchat. Durante el último año, hemos realizado cambios adicionales en nuestras políticas y procesos relacionados con la intención de ayudar a llevar a los autores ante la justicia. Nos gustaría compartir más sobre ese trabajo aquí.

¿Qué es la CSEA?

La explotación y el abuso sexual infantil abarca una serie de actividades ilegales que implican daños sexuales a menores, entre las que se incluyen: la visualización, producción y distribución de imágenes de explotación y abuso sexual infantil (CSEAI, por sus siglas en inglés), incluida la amenaza más reciente de fotos y vídeos generados por IA; el ciberacoso o la incitación a menores con fines sexuales; ¹la extorsión sexual; ²la trata infantil con fines de explotación sexual; y la transmisión en directo de niños que son objeto de abusos sexuales y torturas. ³Es difícil comprender que estas realidades repulsivas existan de verdad. Pero, por desgracia, este tipo de abusos siempre ha existido, y el mundo digital ofrece ahora un medio alternativo de abuso, ampliando los modos de delinquir para que sean más rápidos y de mayor alcance.

«La tecnología ha cambiado fundamentalmente la forma en que las personas con interés sexual en los niños fantasean con ellos, acceden a ellos y se aprovechan de ellos», dijo Ernie Allen, presidente de la organización con sede en LondresWeProtect Global Alliance. «ElNew York Timesescribió: “La crisis de la explotación sexual infantil en línea está en un punto de ruptura”. Señaló que las denuncias están aumentando, los delincuentes están compartiendo imágenes de víctimas más jóvenes y crímenes más atroces, y las fuerzas del orden están luchando por mantenerse al día. Si a ese reto se le añaden nuevas variantes, como la sextorsión, que según el FBI ha aumentado un 7200 %, los abusos en directo y otras, está claro que este problema debería ocupar un lugar prioritario en las agendas políticas de todo el mundo», añadió.

Obligaciones legales de las empresas tecnológicas

Cuando las empresas tecnológicas estadounidenses tienen conocimiento de la existencia de CSEA en sus plataformas o servicios, tienen la obligación legal de denunciarlo al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC, por sus siglas en inglés). A continuación, el NCMEC revisa estas ciberdenuncias y se pone en contacto con las fuerzas de seguridad nacionales e internacionales para ayudar a proteger a los niños víctimas y castigar a los delincuentes.

Hasta el año pasado, el total anual de ciberdenuncias al NCMEC había aumentado en gran medida año tras año, alcanzando un récord de 36,2 millones de denuncias ⁴en 2023, frente a los poco más de 32 millones de 2022 y los 4560 de 1998, cuando se creó la línea de ciberdenuncias del NCMEC. Fue este aumento récord de las ciberdenuncias, además de otros factores, como el continuo aumento de la extorsión sexual a nivel mundial y los comentarios que recibimos de las fuerzas del orden sobre la viabilidad de nuestras propias ciberdenuncias, lo que impulsó a Snap a dirigirse por primera vez al NCMEC en 2024 para recalibrar nuestras denuncias.

He supervisado la presentación de ciberdenuncias durante varios años, y creo firmemente que la práctica de algunas empresas de tecnología ha tendido a denunciartodoal NCMEC, incluso por encima de su obligación legal, por miedo a que se les acuse de omitiralgo. ⁵Las empresas que no informen según lo exigido por la ley pueden enfrentarse a fuertes multas. Pero este enfoque de la denuncia, unido a la baja viabilidad de muchas denuncias (ya sea porque las ciberdenuncias carecen de contexto suficiente para que las fuerzas del orden actúen o porque la conducta denunciada, en algunos casos, no es una prioridad para ellas), ha dado lugar a un aumento de las ciberdenuncias, a múltiples y extensas revisiones y a una creciente frustración entre las fuerzas del orden.

Objetivo: ciberdenuncias de alto valor

El objetivo de nuestra recalibración con el NCMEC era aumentar aún más la viabilidad y el valor de las ciberdenuncias de Snap, perfeccionando nuestras propias políticas de plataforma y los protocolos que tenemos establecidos para informar al NCMEC. Esa recalibración inicial tuvo lugar en mayo de 2024, y nuestros cambios de política entraron plenamente en vigor en la última parte del año pasado.

Aunque debemos evitar poner demasiado énfasis en el número puro de denuncias de forma aislada, desde la aplicación de nuestras mejoras en la política, a Snap le complace compartir que hemos visto un descenso significativo en nuestro volumen global de denuncias al NCMEC y un descenso similar en las derivaciones por incitación en línea, todo ello sin dejar de cumplir con nuestras obligaciones legales de denunciar la CSEA en las ciberdenuncias. Sin embargo, los totales más bajos aún no se han filtrado a los volúmenes de informes anuales del NCMEC, ya que los cambios se aplicaron a finales de 2024, dejando solo unos pocos meses completos del año para reflejar las modificaciones.

Paralelamente, nuestro equipo ha estado trabajando para mejorar los datos y el etiquetado de nuestras ciberdenuncias. Estas aclaraciones pueden ayudar a identificar mejor los presuntos delitos y a las personas implicadas y, a su vez, permitir una clasificación más rápida y precisa de las denuncias por parte del NCMEC y las fuerzas del orden. Incluso cuando la denuncia al NCMEC no esté justificada, Snap seguirá abordando las imágenes y los comportamientos que contravienen las políticas de nuestra plataforma tomando medidas, que pueden incluir la eliminación del contenido infractor, la inhabilitación de la cuenta y el bloqueo de la creación de nuevas cuentas.

Punto de control de la recalibración

El mes pasado, celebramos una segunda recalibración con el NCMEC, en la que el equipo de Snap recapituló los cambios de política interna del año pasado; actualizó al NCMEC sobre nuestro progreso; confirmó algunas directrices operativas adicionales; y ayudó a establecer las expectativas para los próximos meses. También presentamos algunas adiciones previstas a las políticas y los informes que esperamos que sigan mejorando el valor de nuestros informes tanto para el NCMEC como para las fuerzas del orden. Naturalmente, se trata de un proceso iterativo, pero nos sentimos alentados por los progresos realizados durante el último año.

Mirando hacia el futuro

Con el tiempo, esperamos que el NCMEC y las fuerzas del orden sigan viendo un volumen reducido de ciberdenuncias de Snap en comparación con años anteriores, pero un mayor porcentaje de las quesíreciban deberían contener información de mayor calidad y ser más procesables.

Estamos comprometidos con la mejora continua en todos los aspectos de nuestro trabajo de seguridad. No pretendemos tener todas las respuestas con respecto a la lucha contra la CSEA o cualquier otro daño potencial en línea; nadie debería, porque nadie las tiene. Día tras día, luchamos contra problemas que afectan a toda la sociedad y aportamos un enfoque deempresapara hacerles frente, con el doble objetivo final de mitigar el riesgo y reducir los daños.

Con respecto a nuestras ciberdenuncias, tenemos un objetivo claro para un futuro no muy lejano: ya sea un comandante del Grupo de Trabajo sobre Delitos en Internet contra los Niños (ICAC, por sus siglas en inglés) de un estado, un investigador federal o un miembro de las fuerzas del orden al otro lado del mundo, queremos que las autoridades estatales, federales e internacionales persigan con confianza las ciberdenuncias de Snap porque saben que nuestros informes son fiables, procesables, valiosos y exhaustivos. Y nuestra esperanza es que esos esfuerzos ayuden a impulsar un aumento correspondiente de las detenciones relacionadas ⁶y condenas en todo el mundo.

Un enorme «gracias» al NCMEC, a WeProtect, a los 61 grupos de trabajo del ICAC en EE. UU., a las fuerzas del orden de todo el mundo y a todos nuestros colegas y colaboradores en el panorama de la lucha contra la CSEA, y una nota adicional de que seguimos abiertos y deseosos de recibir sus comentarios para seguir mejorando nuestras estrategias y enfoques. Estamos todos juntos en esto.

- Jacqueline Beauchere, directora global de seguridad de la plataforma