05 de diciembre de 2024

05 de diciembre de 2024

Publicamos este informe de transparencia dos veces al año para proporcionar información sobre las iniciativas de seguridad de Snap. Nos comprometemos con estas iniciativas y nos esforzamos continuamente para que estos informes sean más completos e informativos para las muchas partes interesadas que están profundamente preocupadas por nuestra moderación de contenido, las prácticas de aplicación de la ley y la seguridad y el bienestar de la comunidad de Snapchat. 

Este Informe de transparencia cubre el primer semestre de 2024 (del 1 de enero al 30 de junio). De la misma manera que en nuestros informes anteriores, compartimos datos sobre el volumen global de contenido en la aplicación y de informes a nivel de cuenta que nuestros equipos de Confianza y Seguridad recibieron y aplicaron en categorías específicas de infracciones de las Pautas para la comunidad; cómo respondemos a las solicitudes de las fuerzas del orden y de los gobiernos; y cómo respondemos a los avisos de infracción de derechos de autor y de marca registrada. También proporcionamos información específica a cada país en los archivos vinculados en la parte inferior de esta página.

Como parte de nuestro compromiso continuado de siempre mejorar nuestros informes de transparencia, también presentamos nuevos datos que destacan nuestros esfuerzos proactivos para detectar y hacer cumplir una gama más amplia de infracciones de nuestras Pautas para la comunidad. Hemos incluido estos datos tanto a nivel mundial como nacional en este informe y seguiremos haciéndolo en el futuro. También hemos corregido un error de etiquetado en nuestros informes anteriores: donde anteriormente nos referíamos a "Contenido total aplicado", ahora nos referimos a "Aplicaciones totales" para reflejar el hecho de que los datos proporcionados en las columnas relevantes incluyen tanto las aplicaciones a nivel de contenido como de cuenta.

Para obtener más información sobre nuestras políticas para combatir posibles daños en línea y sobre nuestros planes para seguir evolucionando nuestras prácticas de presentación de informes, lea nuestro reciente blog de Seguridad e impacto sobre este Informe de transparencia. Para encontrar recursos adicionales de seguridad y privacidad en Snapchat, consulta nuestra pestaña Acerca de los Informes de transparencia en la parte inferior de la página.

Ten en cuenta que la versión más actualizada de este Informe de transparencia se puede encontrar en la configuración regional EN-US.

Nuestros equipos de Confianza y Seguridad hacen cumplir nuestras Pautas para la comunidad tanto de forma proactiva (a través del uso de herramientas automatizadas) como reactiva (en respuesta a denuncias), como se detalla con más detalle en las siguientes secciones de este informe. En este ciclo de informes (primer semestre de 2024), nuestros equipos de Confianza y Seguridad tomaron las siguientes acciones de cumplimiento: 

A continuación se muestra un desglose por tipo de infracción a una Pauta para la comunidad referida, incluido el tiempo medio de respuesta entre el momento en que se detecta la infracción (ya sea de forma proactiva o al recibir un informe) y el momento en que se toma una medida final sobre el contenido relevante o la cuenta:

Durante el período del informe, hemos observado una Tasa de Visualización Infractora (VVR, por sus siglas en inglés) del 0.01%, lo que significa que de cada 10 000 visualizaciones de Snaps e Historias en Snapchat, una incluía contenido que infringía nuestras Pautas para la comunidad.

Del 1 de enero al 30 de junio de 2024, en respuesta a los informes en la aplicación de infracciones de nuestras Pautas para la comunidad, los equipos de Confianza y Seguridad de Snap llevaron a cabo un total de 6 223 618 acciones de cumplimiento a nivel mundial, incluidas las acciones de cumplimiento contra 3 842 507 cuentas únicas. El tiempo medio de respuesta para que nuestros equipos de Confianza y Seguridad tomaran medidas de cumplimiento en respuesta a esos informes fue de ~24 minutos. A continuación se proporciona un desglose por categoría de informe. 

Nuestra cantidad general de informes se mantuvo bastante uniforme durante el primer semestre de 2024, en comparación con los seis meses anteriores. Durante este ciclo, observamos un aumento de las acciones tomadas y en el total de cuentas únicas sobre las que se tomaron medidas de un 16 % aproximadamente.

Durante los últimos 12 meses, Snap introdujo nuevos mecanismos de informes para los usuarios, que tienen en cuenta los cambios en nuestra cantidad de informes y medidas, además de los aumentos en los tiempos de respuesta en este período de informe (primer semestre de 2024). Específicamente:

• Informes de chat grupal: presentamos los informes de chat grupal el 13 de octubre de 2023, para permitir a los usuarios denunciar abusos que ocurren en un chat de varias personas. Este cambio afectó a la composición de nuestras métricas en todas las categorías de informes (porque es más probable que algunos daños potenciales ocurran en un contexto de chat) y aumentó la capacidad de acción de los informes. 

• Mejoras en las denuncias de cuentas: también hemos evolucionado nuestra función de denuncias de cuentas para ofrecer a los usuarios que denuncian una opción de enviar pruebas de chat al denunciar una cuenta que se sospecha que está siendo operada por un mal actor. Este cambio, que nos proporciona más pruebas y contexto para evaluar las denuncias de cuentas, se lanzó el 29 de febrero de 2024. 

Las denuncias de un chat, y especialmente las de los chats grupales, se encuentran entre las más complejas y lleva mucho tiempo revisarlas, lo que aumentó los tiempos de respuesta en todos los ámbitos. 

Las denuncias de presuntos casos de explotación y abuso sexual infantil (CSEA), acoso e intimidación y discurso de odio se vieron particularmente afectadas por los dos cambios descritos anteriormente y por los cambios en el ecosistema más amplio. Específicamente:

• CSEA: Observamos un aumento en los informes y las medidas de cumplimiento relacionados con la CSEA en el primer semestre de 2024. Específicamente, vimos un aumento del 64 % en el total de denuncias en la aplicación por parte de los usuarios, un aumento del 82 % en el total de medidas tomadas y un aumento del 108 % en el total de cuentas únicas sobre las que se tomaron medidas. Estos aumentos han sido impulsados en gran medida por la introducción de las funcionalidades de denuncia de cuentas y de los chats grupales. Dada la naturaleza sensible de este proceso de moderación, se asigna a un equipo selecto de agentes altamente capacitados para revisar las denuncias de posibles infracciones relacionadas con la CSEA. La afluencia de denuncias adicionales combinada con la adaptación de nuestros equipos a las nuevas formaciones ha dado lugar a un aumento en los tiempos de respuesta. De cara al futuro, hemos aumentado significativamente el tamaño de nuestros equipos de proveedores globales para reducir los tiempos de respuesta y hacer cumplir con precisión las denuncias de posibles CSEA. Esperamos que nuestro Informe de transparencia del segundo semestre de 2024 refleje los frutos de este esfuerzo con un tiempo de respuesta significativamente mejorado. 
  

• Acoso e intimidación: a raíz de las denuncias, hemos observado que el acoso y la intimidación ocurren de forma desproporcionada en los chats y, en particular, en los chats grupales. Las mejoras introducidas en las denuncias de chat grupal y de cuentas nos ayudan a tomar medidas más exhaustivas a la hora de evaluar los informes de esta categoría de denuncias. Además, a partir de este período, exigimos a los usuarios que introduzcan un comentario cuando emiten una denuncia de acoso e intimidación. Nosotros revisamos este comentario para contextualizar cada denuncia. En conjunto, estos cambios dieron lugar a aumentos sustanciales en el total de medidas de cumplimiento (+91 %), el total de cuentas únicas objeto de medidas de cumplimiento (+82 %) y el tiempo de respuesta (+245 minutos) para las denuncias correspondientes. 
  

• Discurso de odio: en el primer semestre de 2024, observamos aumentos en el contenido denunciado, el total de medidas coercitivas y el tiempo de respuesta por discurso de odio. Específicamente, vimos un aumento del 61 % en las denuncias en la aplicación, un aumento del 127 % en el total de medidas tomadas y un aumento del 125 % en el total de cuentas únicas objeto de medidas. Esto se debió, en parte, a las mejoras en nuestros mecanismos de denuncias de chat (como se comentó anteriormente) y se vio exacerbado aún más por el entorno geopolítico, en particular la continuación del conflicto entre Israel y Hamás. 

En este período de informe, vimos una disminución de ~ 65 % en el total de medidas y una disminución de ~ 60 % en el total de cuentas únicas objeto de medidas en respuesta a denuncias de presunto spam y abuso, lo que refleja mejoras en nuestras herramientas proactivas de detección y aplicación. Observamos descensos similares en el total de medidas tomadas en respuesta a denuncias de contenido relacionado con autolesiones y suicidio (~80 % de reducciones), lo que refleja nuestro enfoque actualizado centrado en las víctimas, según el cual nuestros equipos de Confianza y Seguridad enviarán, en los casos apropiados, recursos de autoayuda a los usuarios pertinentes, en lugar de tomar medidas contra esos usuarios. Este enfoque fue aconsejado por miembros de nuestro Consejo asesor de seguridad, incluido un profesor de pediatría y un médico especializado en medios interactivos y trastornos de Internet.

Implementamos herramientas automatizadas para detectar de forma proactiva y, en algunos casos, hacer cumplir las medidas contra las infracciones de nuestras Pautas para la Comunidad. Estas herramientas incluyen herramientas de coincidencia de hash (incluidas PhotoDNA y coincidencia de Child Sexual Abuse Imagery, o CSAI, de Google), herramientas de detección de lenguaje abusivo (que detectan y toman medidas en función de una lista identificada y actualizada regularmente de palabras clave y emojis abusivos) y tecnología de inteligencia artificial y aprendizaje automático multimodal. 

En el primer semestre de 2024, tomamos las siguientes medidas de cumplimiento después de detectar de forma proactiva, mediante el uso de herramientas automatizadas, infracciones de nuestras Pautas para la Comunidad:

La explotación sexual de cualquier miembro de nuestra comunidad, especialmente de menores, es ilegal, abominable y está prohibida por nuestras Pautas para la Comunidad. Prevenir, detectar y erradicar la Explotación y Abuso Sexual Infantil (CSEA, por sus siglas en inglés), en nuestra plataforma es una prioridad para Snap, y desarrollamos continuamente nuestras capacidades para combatir estos y otros tipos de delitos.

Utilizamos herramientas de detección de tecnología activa, como la coincidencia de hash robusta de PhotoDNA y la coincidencia de Child Sexual Abuse Imagery (CSAI) de Google para identificar imágenes y vídeos ilegales conocidos de CSEA, respectivamente. Además, en algunos casos, utilizamos señales de comportamiento para hacer cumplir otras actividades potencialmente ilegales de CSEA. Informamos sobre el contenido relacionado con CSEA al Centro Nacional para Niños Desaparecidos y Explotados de EE. UU. (NCMEC, por sus siglas en inglés), tal como lo exige la ley. Luego, el NCMEC, por su parte, coordina el cumplimiento de la legislación nacional o internacional, según se requiera.

En la primera mitad de 2024, tomamos las siguientes medidas al detectar CSEA en Snapchat (ya sea de forma proactiva o al recibir un informe):

Nos preocupamos profundamente por la salud mental y el bienestar de los usuarios de Snapchat, que informaron, y continúan informando, nuestras decisiones para construir Snapchat de manera diferente. Como plataforma diseñada para la comunicación entre amigos de verdad, creemos que Snapchat puede desempeñar un papel único en el empoderamiento de los amigos para que se ofrezcan apoyo mutuo en tiempos difíciles. Esa es la razón por la que hemos desarrollado recursos y asistencia para los Snapfans que lo necesitan. 

Nuestra herramienta de búsqueda Here For You muestra recursos de socios locales expertos cuando los usuarios buscan ciertos temas relacionados con la salud mental, la ansiedad, la depresión, el estrés, los pensamientos suicidas, el duelo y el acoso. Disponemos de una página dedicada a abordar los riesgos y posibles problemas relacionados con la extorsión sexual, como parte de nuestro compromiso por apoyar a las personas en apuros. Nuestra lista global de recursos de seguridad está disponible públicamente para todos los Snapfans en nuestro Centro de Privacidad, Seguridad y Políticas. 

Tan pronto como nuestros equipos de Confianza y Seguridad se enteran de la existencia de un Snapfan angustiado, pueden enviar recursos de prevención y apoyo contra autolesiones y notificar al personal de respuesta a emergencias cuando corresponda. Los recursos que compartimos se encuentran disponibles en nuestra lista global de recursos de seguridad, y estos están disponibles públicamente para todos los Snapfans.

A continuación proporcionamos información sobre las apelaciones que recibimos de usuarios que solicitan una revisión de nuestra decisión de bloquear su cuenta:

Esta sección proporciona una descripción general de las acciones de nuestros equipos de Confianza y Seguridad para hacer cumplir nuestras Pautas para la comunidad, tanto de forma proactiva como en respuesta a denuncias de infracciones en la aplicación, en una muestra de regiones geográficas. Nuestras Pautas para la comunidad se aplican a todo el contenido de Snapchat (y a todos los Snapfans) en todo el mundo, independientemente de su ubicación.

La información sobre países individuales, incluidos todos los Estados miembros de la UE, está disponible para descargar a través del archivo CSV adjunto.

Snap se compromete a garantizar que todos los anuncios cumplan plenamente con nuestras políticas de publicidad. Creemos en un enfoque responsable y respetuoso con la publicidad, que cree una experiencia segura y agradable para todos nuestros usuarios. Todos los anuncios estarán sujetos a nuestra revisión y aprobación. Además, nos reservamos el derecho de eliminar anuncios, incluso en respuesta a los comentarios de los usuarios, que nos tomamos muy en serio. 

A continuación hemos incluido información sobre nuestra moderación de ciertos anuncios de pago de los que recibimos denuncias tras su publicación en Snapchat. Ten en cuenta que los anuncios de Snapchat pueden eliminarse por diversos motivos, tal y como se indica en las Políticas de publicidad de Snap, entre ellos, contenidos engañosos, contenidos para adultos, contenidos violentos o inquietantes, incitación al odio e infracción de la propiedad intelectual. Además, ahora puedes encontrar la Galería de anuncios de Snapchat en la barra de navegación de este informe de transparencia.