05 de diciembre de 2024

05 de diciembre de 2024

Publicamos este informe de transparencia dos veces al año para proporcionar una visión de los esfuerzos de seguridad de Snap. Estamos comprometidos con estos esfuerzos y tratamos continuamente de hacer que estos informes sean más completos e informativos para todas las partes interesadas que se preocupan profundamente por nuestra moderación de contenido, las prácticas de cumplimiento de la ley y la seguridad y el bienestar de la comunidad de Snapchat. 

Este informe de transparencia cubre la primera mitad de 2024 (1 de enero - 30 de junio). Al igual que con nuestros informes anteriores, compartimos datos sobre el volumen global de contenido dentro de la aplicación y los informes a nivel de cuenta que nuestros equipos de Confianza y Seguridad recibieron y aplicaron en categorías específicas de infracciones de las Pautas para la Comunidad; cómo respondemos a las solicitudes de las fuerzas de seguridad y los gobiernos; y cómo respondemos a los avisos de infracción de derechos de autor y marcas registradas. También proporcionamos información específica de cada país en los archivos vinculados en la parte inferior de esta página.

Como parte de nuestro compromiso de mejorar continuamente nuestros informes de transparencia, también estamos introduciendo nuevos datos que destacan nuestros esfuerzos proactivos para detectar y actuar contra una gama más amplia de infracciones de nuestras Pautas para la Comunidad. Hemos incluido estos datos tanto a nivel global como a nivel de país dentro de este informe y continuaremos haciéndolo en el futuro. También hemos corregido un error de etiquetado en nuestros informes anteriores: donde anteriormente nos referíamos a “Total de Contenido Penalizado”, ahora nos referimos a “Total de Penalizaciones” para reflejar el hecho de que los datos proporcionados en las columnas relevantes incluyen penalizaciones tanto a nivel de contenido como a nivel de cuenta.

Para obtener más información sobre nuestras políticas para combatir posibles daños en línea y los planes para continuar evolucionando nuestras prácticas de denuncias, lee nuestro reciente blog de Seguridad e Impacto sobre este Informe de Transparencia. Para encontrar recursos adicionales sobre seguridad y privacidad en Snapchat, consultá la pestaña Acerca de los Informes de Transparencia, en la parte inferior de la página.

Se debe considerar que la versión más actualizada de este Informe de Transparencia se puede encontrar en la configuración regional EN-US.

Nuestros equipos de Confianza y Seguridad hacen cumplir nuestras Pautas para la Comunidad tanto de manera proactiva (mediante el uso de herramientas automatizadas) como retroactiva (en respuesta a informes), como se detalla más extensamente en las siguientes secciones de este informe. En este ciclo de informes (primer semestre de 2024), nuestros equipos de Confianza y Seguridad tomaron las siguientes medidas de cumplimiento: 

A continuación se muestra un desglose por tipo de infracciones de las Pautas para la Comunidad referidas, incluido el tiempo de respuesta promedio entre el momento en que detectamos la infracción (ya sea proactivamente o al recibir un informe) y el momento en que tomamos la acción final sobre el contenido o la cuenta relevante:

En el período de este informe, vimos una Tasa de Visualización de Contenido Infractor (VVR, por sus siglas en inglés) del 0.01%. Esto significa que de cada 10,000 visualizaciones de Snaps e historias de Snap en Snapchat, 1 tenía contenido que infringía nuestras Pautas para la Comunidad.

Del 1 de enero al 30 de junio de 2024, en respuesta a los informes dentro de la aplicación de infracciones a nuestras Pautas para la Comunidad, los equipos de Confianza y Seguridad de Snap tomaron un total de 6,223,618 medidas de cumplimiento a nivel mundial, incluidas penalizaciones contra 3,842,507 cuentas únicas. El tiempo de respuesta promedio para que nuestros equipos de Confianza y Seguridad tomen medidas de cumplimiento en respuesta a esos informes fue de ~24 minutos. A continuación se proporciona un desglose por categoría de informe. 

Nuestros volúmenes generales de informes se mantuvieron bastante estables en el primer semestre de 2024, en comparación con los seis meses anteriores. En este ciclo, vimos un aumento en el total de penalizaciones y el total de cuentas únicas penalizadas en aproximadamente un 16%.

En los últimos 12 meses, Snap introdujo nuevos mecanismos de informes para los usuarios, que explican los cambios en nuestros volúmenes de informe y penalización y los aumentos en los tiempos de respuesta en este período de informe (primer semestre de 2024). Específicamente:

• Informes de Chat de Grupo: Presentamos Informes de Chat de Grupo el 13 de octubre de 2023, que permite a los usuarios informar el abuso que ocurre en un chat de varias personas. Este cambio impactó la composición de nuestras métricas en todas las categorías de informes (porque es más probable que algunos daños potenciales ocurran en un contexto de chat) y aumentó la capacidad de acción sobre los informes. 

• Mejoras en los Informes de Cuentas: También evolucionamos nuestra función de Informes de Cuentas para dar a los usuarios que informan una opción de enviar evidencia de chat al denunciar una cuenta que se sospecha que es operada por un mal actor. Este cambio, que nos proporciona mayor evidencia y contexto para evaluar los informes de cuentas, se lanzó el 29 de febrero de 2024. 

Los Informes de Chat, y especialmente los Informes de Chat de Grupo, se encuentran entre los más complejos y que consumen más tiempo al revisar, lo que aumentó los tiempos de respuesta en todos los ámbitos. 

Los informes de sospechas de Explotación y Abuso Sexual Infantil (CSEA), Hostigamiento y Bullying y Discurso de Odio se vieron particularmente impactados por los dos cambios descritos anteriormente y por los cambios en el ecosistema en un sentido más amplio. Específicamente:

• CSEA: Observamos un aumento en los informes y penalizaciones relacionados con CSEA en el primer semestre de 2024. Específicamente, vimos un aumento del 64% en el total de informes dentro de la aplicación por parte de los usuarios, un aumento del 82% en el total de penalizaciones y un aumento del 108% en el total de cuentas únicas penalizadas. Estos aumentos se deben en gran medida a la introducción de las funcionalidades de Chat de grupo e Informes de cuentas. Dada la naturaleza sensible de esta fila de moderación, se asigna a un equipo selecto de agentes altamente capacitados para revisar los informes de posibles infracciones relacionadas con CSEA. La afluencia de informes adicionales combinada con la adaptación de nuestros equipos a las nuevas capacitaciones ha resultado en un aumento en los tiempos de respuesta. En el futuro, hemos aumentado significativamente el tamaño de nuestros equipos de proveedores globales para reducir los tiempos de respuesta y actuar con precisión en los informes de posibles CSEA. Esperamos que nuestro Informe de Transparencia del segundo semestre de 2024 refleje los frutos de este esfuerzo con un tiempo de respuesta materialmente mejorado. 
  

• Hostigamiento y Bullying: Según los informes, hemos observado que el Hostigamiento y el Bullying ocurre desproporcionadamente en los chats y particularmente en los chats de grupo. Las mejoras que introdujimos en los Informes de Chat de grupo e Informes de Cuentas nos ayudan a tomar medidas más integrales al evaluar los informes en esta categoría de informes. Además, a partir de este período, requerimos que los usuarios ingresen un comentario al enviar un informe de hostigamiento y bullying. Revisamos este comentario para contextualizar cada informe. Juntos, estos cambios llevaron a aumentos materiales en el total de penalizaciones (+91%), el total de cuentas únicas penalizadas (+82%) y el tiempo de respuesta (+245 minutos) para los informes correspondientes. 
  

• Discurso de Odio: En el primer semestre de 2024, observamos aumentos en el contenido informado, el total de penalizaciones y el tiempo de respuesta para el Discurso de Odio. Específicamente, vimos un aumento del 61% en los informes dentro de la aplicación, un aumento del 127% en el total de penalizaciones y un aumento del 125% en el total de cuentas únicas penalizadas. Esto se debió, en parte, a las mejoras en nuestros mecanismos de informes de chat (como se mencionó anteriormente), y se vio exacerbado aún más por el entorno geopolítico, particularmente la continuación del conflicto Israel-Hamás. 

En este período de informe, vimos una disminución del ~65% en el total de penalizaciones y una disminución del ~60% en el total de cuentas únicas penalizadas en respuesta a los informes de sospecha de Spam y Abuso, lo que refleja mejoras en nuestras herramientas de detección proactiva y cumplimiento de la ley. Vimos disminuciones similares en el total de penalizaciones en respuesta a los informes de contenido relacionado con Autolesiones y Suicidio (~80% de disminuciones), lo que refleja nuestro enfoque actualizado centrado en las víctimas, según el cual nuestros equipos de Confianza y Seguridad enviarán, en los casos apropiados, recursos de autoayuda a los usuarios relevantes, en lugar de tomar una medida de cumplimiento contra esos usuarios. Este enfoque fue informado por los miembros de nuestro Consejo Asesor de Seguridad, incluido un profesor de pediatría y un médico que se especializa en trastornos de medios interactivos e internet.

Implementamos herramientas automatizadas para detectar proactivamente y, en algunos casos, tomar medidas contra las infracciones de nuestras Pautas para la Comunidad. Estas herramientas incluyen herramientas de coincidencia de hash (incluidas PhotoDNA y Google Child Sexual Abuse Imagery (CSAI) Match), herramientas de detección de lenguaje abusivo (que detectan y toman medidas en función de una lista identificada y actualizada regularmente de palabras clave y emojis abusivos), y tecnología de inteligencia artificial / aprendizaje automático multimodal. 

En el 1 semestre de 2024, tomamos las siguientes medidas de cumplimiento después de detectar proactivamente, a través del uso de herramientas automatizadas, infracciones de nuestras Pautas para la Comunidad:

La explotación sexual de cualquier miembro de nuestra comunidad, especialmente de menores, es ilegal, abominable y está prohibida por nuestras Pautas para la Comunidad. Prevenir, detectar y erradicar la explotación y el abuso sexual infantil (CSEA) en nuestra plataforma es una prioridad importante para Snap y evolucionamos continuamente nuestras capacidades para combatir estos y otros delitos.

Utilizamos herramientas de detección de tecnología activa, como la función de coincidencia de hash robusta de PhotoDNA y la función de coincidencia Child Sexual Abuse Imagery (CSAI) de Google para identificar imágenes y videos ilegales conocidos de CSEA, respectivamente. Además, en algunos casos, usamos señales de comportamiento para tomar medidas contra otras actividades potencialmente ilegales de CSEA. Informamos sobre el contenido relacionado con CSEA al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC) de EE. UU., tal como lo requiere la ley. Por ello, el NCMEC, a su vez, coordina con las autoridades de orden público nacional o internacional, según sea necesario.

En la primera mitad de 2024, tomamos las siguientes medidas al detectar CSEA en Snapchat (ya sea proactivamente o al recibir un informe):

Nos preocupamos profundamente por la salud mental y el bienestar de los Snapchatters, algo que continúa informando nuestras decisiones de construir Snapchat de manera diferente. Como plataforma diseñada para la comunicación entre amigos reales, creemos que Snapchat puede desempeñar un papel único en empoderar a los amigos para que se ayuden mutuamente en momentos difíciles. Es por eso que hemos desarrollado recursos y apoyo para los Snapchatters que lo necesiten. 

Nuestra herramienta de búsqueda Here For You muestra recursos de socios locales expertos cuando los usuarios buscan ciertos temas relacionados con la salud mental, la ansiedad, la depresión, el estrés, los pensamientos suicidas, el duelo y el acoso. También hemos desarrollado una página dedicada a la sextorsión financiera, y otros riesgos y daños sexuales, en un esfuerzo por apoyar a las personas en peligro. Nuestra lista global de recursos de seguridad está disponible públicamente para todos los Snapchatters, en nuestro Centro de Privacidad, Seguridad y Políticas. 

Cuando nuestros Equipos de Confianza y Seguridad se dan cuenta de que un Snapchatter está en peligro, pueden enviar recursos de prevención de autolesiones y apoyo, y notificar al personal de respuesta de emergencia cuando corresponda. Los recursos que compartimos están disponibles en nuestra lista global de recursos de seguridad y se encuentran a disposición de todos los Snapchatters.

A continuación proporcionamos información sobre las apelaciones que recibimos de los usuarios que solicitan una revisión de nuestra decisión de bloquear su cuenta:

Esta sección proporciona una visión general de las acciones de nuestros equipos de Confianza y Seguridad para hacer cumplir nuestras Pautas para la Comunidad, tanto proactivamente como en respuesta a los informes de infracciones dentro de la aplicación, en una muestra de regiones geográficas. Nuestras Pautas para la Comunidad rigen todo el contenido en Snapchat—y a todos los Snapchatters—en todo el mundo, independientemente de la ubicación.

La información para países individuales, incluidos todos los Estados Miembros de la UE, está disponible para descargar a través del archivo CSV adjunto.

Snap se compromete a garantizar que todos los anuncios cumplan totalmente con nuestras normas de publicidad. Creemos en un enfoque responsable y respetuoso de la publicidad, y en crear una experiencia segura y agradable para todos nuestros usuarios. Todos los anuncios se someterán a nuestra revisión y aprobación. Además, nos reservamos el derecho de eliminar anuncios, incluso en respuesta a los comentarios de los usuarios, que tomamos en serio. 

A continuación hemos incluido información sobre nuestra moderación para los anuncios de pago que se nos informan después de su publicación en Snapchat. Tené en cuenta que los anuncios en Snapchat se pueden eliminar por una variedad de razones, como se describe en las Normas de Publicidad de Snap, que incluyen contenido engañoso, contenido para adultos, contenido violento o perturbador, discurso de odio e infracción de la propiedad intelectual. Además, ahora podés encontrar la Galería de Anuncios de Snapchat en la barra de navegación de este informe de transparencia.