05 декабря 2024 г.

19 мая 2026 г.

Мы публикуем этот отчёт о правительственных запросах два раза в год, чтобы дать представление о мерах, которые предпринимает Snap для обеспечения безопасности. Мы прилагаем все усилия для того, чтобы сделать эти отчёты более всеобъемлющими и информативными для многих заинтересованных сторон, которым небезразлична наша модерация контента, правоприменительная практика, а также безопасность и благополучие сообщества Snapchat. 

Данный отчёт о правительственных запросах охватывает первое полугодие 2024 года (1 января — 30 июня). Как и в предыдущих отчётах, мы делимся данными о глобальном объеме полученных жалоб на контент в приложении и аккаунтах, которые получила наши команды по вопросам доверия и безопасности, и в отношении которых приняли меры по определённым категориям нарушений Правил сообщества, а также о том, как мы реагировали на запросы правоохранительных и государственных органов; и как мы реагировали на уведомления о нарушении авторских прав и товарных знаков. Мы также предоставляем информацию по конкретным странам в файлах, ссылки на которые находятся в нижней части этой страницы.

В рамках нашего постоянного стремления постоянно совершенствовать наши отчёты о правительственных запросах мы также представляем новые данные, рассказывающие о наших активных усилиях по выявлению и пресечению более широкого спектра Мы включили в этот отчет данные как на глобальном уровне, так и на уровне страны, и будем продолжать делать это в дальнейшем. Мы также исправили ошибку в маркировке в наших предыдущих отчётах: там, где ранее мы упоминали «Общее количество исполненных материалов», теперь мы указываем «Общее количество исполненных мер», чтобы отразить тот факт, что данные, представленные в соответствующих столбцах, включают как принудительные меры на уровне контента, так и на уровне аккаунтов.

Более подробную информацию о нашей политике по борьбе с потенциальным вредом в Интернете и о планах по дальнейшему совершенствованию наших методов подачи жалоб можно найти в нашем недавнем блоге «Безопасность и поддержка», посвященном этому отчёту о правительственных запросах. Чтобы найти дополнительные ресурсы по безопасности и конфиденциальности в Snapchat, перейдите на вкладку «Об отчётах о правительственных запросах» внизу страницы.

Обратите внимание, что самая актуальная версия данного отчёта о правительственных запросах доступна на американском варианте английского языка.

Наши команды по вопросам доверия и безопасности следят за соблюдением наших Правил сообщества как упреждающе (с помощью автоматизированных инструментов), так и в качестве ответной меры (в ответ на жалобы), о чем подробнее говорится в следующих разделах данного отчета. В этом отчетном цикле (первое полугодие 2024 года) наши команды по вопросам доверия и безопасности предприняли следующие меры по соблюдению законодательства: 

Ниже приведена разбивка по типам нарушений Правил сообщества, включая среднее время, прошедшее с момента обнаружения нарушения (либо упреждающе, либо после получения жалобы) до момента принятия окончательных мер в отношении соответствующего контента или аккаунта:

За отчётный период коэффициент недопустимых просмотров (VVR) составил 0,01%, т. е. из каждых 10 000 Snap и просмотров историй одна содержала контент, нарушающий наши Правила сообщества.

С 1 января по 30 июня 2024 года в ответ на сообщения о нарушениях наших Правил сообщества команды Snap по вопросам доверия и безопасности предприняли в общей сложности 6 223 618 правоприменительных действий по всему миру, в том числе в отношении 3 842 507 аккаунтов. Среднее время, в течении которого наши команды по вопросам доверия и безопасности приняли меры по соблюдению закона в ответ на эти жалобы, составило ~24 минуты. Ниже представлена разбивка по категориям отчетности. 

В первом полугодии 2024 года общий объем нашей отчетности оставался довольно стабильным по сравнению с предыдущими шестью месяцами. В этом цикле мы увидели увеличение общего количества принудительных мер и общего количества уникальных аккаунтов, подвергшихся принудительным мерам, примерно на 16%.

За последние 12 месяцев Snap внедрил новые механизмы для жалоб пользователей, которые учитывают изменения в объемах жалоб и принудительных мер, а также увеличение сроков обработки в этом отчетном периоде (первое полугодие 2024 года). В частности:

• Жалобы на групповые чаты: 13 октября 2023 года мы представили функцию «Жалобы на групповые чаты», которая позволяет пользователям сообщать о злоупотреблениях, происходящих в чате с участием нескольких человек. Это изменение повлияло на распределение наших показателей по категориям жалоб (поскольку некоторые потенциальные вредные последствия с большей вероятностью могут возникнуть в контексте чата) и повысило эффективность жалоб. 

• Усовершенствование функции «Жалобы на аккаунты»: мы также усовершенствовали нашу функцию «Жалоба на аккаунты», предоставив пользователям возможность предоставлять доказательства в чате, когда они сообщают об аккаунте, подозреваемом в том, что им управляет злоумышленник. Это изменение, которое предоставляет нам больше доказательств и контекста для оценки жалоб на аккаунты, было введено 29 февраля 2024 года. 

Жалобы на чаты, и особенно групповые чаты, являются наиболее сложными и трудоёмкими для рассмотрения, что увеличивает время рассмотрения по всем направлениям. 

На сообщения о подозрениях в сексуальной эксплуатации и насилии над детьми (CSEA), оскорблениях и буллинге, а также высказываниях на почве ненависти особенно сильно повлияли два вышеописанных изменения, а также изменения в более широкой экосистеме. В частности:

• CSEA: в первом полугодии 2024 года мы наблюдали увеличение количества жалоб и правоприменительных мер, связанных с CSEA. В частности, на 64% увеличилось общее количество жалоб пользователей в приложении, на 82% — общее количество правоприменительных мер и на 108% — общее количество аккаунтов, к которым были применены принудительные меры. Этот рост в значительной мере обусловлен внедрением функций жалоб на групповые чаты и аккаунты. Учитывая деликатный характер этой очереди на модерацию, для проверки жалоб о потенциальных нарушениях, связанных с CSEA, назначается специальная группа высококвалифицированных агентов. Приток дополнительных жалоб в сочетании с адаптацией наших команд к новым тренингам привел к увеличению времени рассмотрения жалоб. В дальнейшем мы значительно увеличили численность наших глобальных команд поставщиков, чтобы сократить время рассмотрения жалоб и точно реагировать на жалобы о потенциальных CSEA. Мы ожидаем, что наш отчёт о правительственных запросах за второе полугодие 2024 года отразит результаты этих усилий, а cроки обработки значительно сократятся. 
  

• Оскорбление и буллинг: На основе жалоб мы заметили, что оскорбления и буллинг в непропорционально большей степени происходят в чатах, особенно в групповых чатах. Улучшения, внесенные нами в систему подачи жалоб на групповые чаты и аккаунты, помогают нам принимать более комплексные меры при обработке жалоб в этой категории. Кроме того, с этого периода мы требуем от пользователей вводить комментарии при отправке жалобы на оскорбления и буллинг. Мы рассматриваем этот комментарий для контекстуализации каждой жалобы. В совокупности эти изменения привели к существенному увеличению общего количества правоприменительных мер (+91%), общего количества правоприменительных мер к уникальным аккаунтам (+82%) и времени рассмотрения соответствующих жалоб (+245 минут). 
  

• Разжигание ненависти: в первом полугодии 2024 года мы наблюдали увеличение количества контента с жалобами, общего количества правоприменительных мер и времени рассмотрения жалоб на разжигание ненависти. В частности, на 61% увеличилось количество жалоб в приложении, на 127% — общее количество примененных мер и на 125% — общее количество мер, примененных к уникальным аккаунтам. Это произошло в частности, благодаря усовершенствованию механизмов подачи жалоб на чаты (о чем говорилось ранее), и усугубилось геополитической обстановкой, в частности продолжением конфликта между Израилем и Хамасом. 

В этом отчетном периоде мы наблюдали снижение общего количества принудительных мер на ~65% и сокращение на ~60% общего количества мер, примененных к уникальным аккаунтам, в ответ на жалобы о подозрении в спаме и насилии, что отражает улучшение наших инструментов упреждающего обнаружения и применения принудительных мер. Мы наблюдали аналогичное снижение общего количества принудительных мер в ответ на жалобы о контенте, связанном с нанесением вреда себе и самоубийствами (снижение на ~80%), что отражает наш обновленный подход, ориентированный на жертв, согласно которому наши команды по вопросам доверия и безопасности будут, в соответствующих случаях, направлять пользователям ресурсы самопомощи, а не принимать принудительные меры в отношении этих пользователей. В этом подходе принимали участие члены нашего Консультативного совета по безопасности, в том числе профессор педиатрии и врач, специализирующийся на проблемах в интерактивных медиа и Интернете.