Snap глубоко привержена безопасности сообщества Snapchat. Наша цель — помочь защитить пользователей от целого ряда онлайн-рисков и потенциального вреда, которые охватывают цифровую экосистему, включая отвратительные преступления, связанные с сексуальной эксплуатацией и насилием над детьми (CSEA). Snap уже много лет борется с этим незаконным контентом и гнусным преступным поведением, применяя как меры проактивного обнаружения, так и меры реагирования в приложении Snapchat. За последний год мы внесли дополнительные изменения в наши соответствующие политики и процессы с целью содействия привлечению виновных к ответственности. Мы хотели бы рассказать об этой работе подробнее.

Что такое CSEA?

Сексуальная эксплуатация и насилие над детьми охватывают целый ряд незаконных действий, связанных с причинением сексуального вреда несовершеннолетним, в том числе: просмотр, производство и распространение изображений сексуальной эксплуатации и насилия над детьми (CSEAI), включая новую угрозу в виде фотографий и видео, сгенерированных ИИ; онлайн-груминг, или вовлечение несовершеннолетних в сексуальные действия; ¹сексуальное вымогательство; ²торговля детьми в целях сексуальной эксплуатации; и прямые трансляции сексуального насилия и пыток над детьми. ³Трудно осознать, что эти отвратительные реалии действительно существуют. Но, к сожалению, такое насилие существовало всегда, а цифровой мир теперь предоставляет альтернативные средства насилия, расширяя способы совершения преступлений, делая их более быстрыми и далеко идущими.

«Технологии коренным образом изменили то, как люди с сексуальным интересом к детям фантазируют о них, получают к ним доступ и охотятся на них», — сказал Эрни Аллен, председатель лондонскогоWeProtect Global Alliance. «New York Timesписала: «Кризис сексуальной эксплуатации детей в Интернете достиг переломного момента». В статье отмечалось, что количество сообщений растет, преступники делятся изображениями более молодых жертв и более чудовищных преступлений, а правоохранительные органы с трудом справляются с ситуацией. Если добавить к этой проблеме новые вариации, такие как сексторция, число случаев которой, по данным ФБР, выросло на 7200%, прямые трансляции насилия и другие, становится ясно, что эта проблема должна стоять на первом месте в политической повестке дня во всем мире», — добавил он.

Юридические обязательства технологических компаний

Когда американские технологические компании узнают о CSEA на своих платформах или в сервисах, они по закону обязаны сообщать об этом в Национальный центр по делам пропавших и эксплуатируемых детей (NCMEC). Затем NCMEC рассматривает эти киберсообщения и взаимодействует как с внутренними, так и с международными правоохранительными органами, чтобы помочь защитить детей-жертв и наказать преступников.

До прошлого года общее годовое количество киберсообщений в NCMEC в основном росло из года в год, достигнув рекордного уровня в 36,2 миллиона сообщений ⁴в 2023 году, по сравнению с чуть более 32 миллионами в 2022 году и 4560 в 1998 году, когда была создана горячая линия NCMEC CyberTipline. Именно этот рекордный рост числа киберсообщений — в дополнение к другим факторам, включая продолжающийся всплеск сексуального вымогательства во всем мире и отзывы, которые мы получили от правоохранительных органов о практической ценности наших собственных киберсообщений, — побудил Snap впервые обратиться в NCMEC в 2024 году, чтобы пересмотреть нашу систему отчетности по киберсообщениям.

Я слежу за отчетностью по киберсообщениям в течение нескольких лет и твердо убеждена, что практика некоторых технологических компаний склоняется к тому, чтобы сообщатьобо всемв NCMEC — даже сверх своих юридических обязательств — из-за страха быть обвиненными в том, что они упустиличто-то. ⁵Компании, которые не сообщают о нарушениях в соответствии с требованиями закона, могут столкнуться с крупными штрафами. Но такой подход к отчетности в сочетании с низкой практической ценностью многих сообщений (либо потому, что в киберсообщениях не хватает контекста для принятия мер правоохранительными органами, либо потому, что сообщаемое поведение в некоторых случаях не является для них приоритетом) привел к росту числа киберсообщений, многочисленным и обширным проверкам и растущему недовольству среди правоохранительных органов.

Цель: киберсообщения высокой ценности

Целью нашей перекалибровки с NCMEC было дальнейшее повышение практической ценности и значимости киберсообщений Snap путем усовершенствования наших собственных политик платформы и протоколов, которые мы используем для отчетности перед NCMEC. Эта первоначальная перекалибровка состоялась в мае 2024 года, и наши изменения в политике полностью вступили в силу во второй половине прошлого года.

Хотя нам не следует придавать слишком большое значение чистому количеству отчетов в отрыве от контекста, с момента внедрения наших усовершенствований политики Snap рада сообщить, что мы наблюдаем значительное снижение общего объема отчетности перед NCMEC и аналогичное снижение эскалаций по онлайн-вовлечению — и все это при выполнении наших юридических обязательств по сообщению о CSEA в киберсообщениях. Однако более низкие итоговые показатели еще не отразились на годовых объемах отчетности NCMEC, поскольку изменения были внедрены в конце 2024 года, и для отражения поправок осталось всего несколько полных месяцев года.

Параллельно наша команда работает над улучшением данных и маркировки в наших киберсообщениях. Такие уточнения могут помочь лучше идентифицировать предполагаемые преступления и причастных лиц и, в свою очередь, позволят NCMEC и правоохранительным органам быстрее и точнее сортировать сообщения. Даже когда отчетность перед NCMEC может быть нецелесообразной, Snap будет продолжать бороться с изображениями и поведением, которые противоречат политике нашей платформы, принимая меры, которые могут включать удаление нарушающего контента, отключение учетной записи и блокировку создания новых учетных записей.

Контрольная точка перекалибровки

В прошлом месяце мы провели вторую перекалибровку с NCMEC, в ходе которой команда Snap подвела итоги прошлогодних изменений во внутренней политике, проинформировала NCMEC о нашем прогрессе, подтвердила некоторые дополнительные операционные инструкции и помогла сформировать ожидания на ближайшие месяцы. Мы также представили некоторые дальнейшие запланированные дополнения к политике и отчетности, которые, как мы надеемся, продолжат повышать ценность наших отчетов как для NCMEC, так и для правоохранительных органов. Естественно, это итеративный процесс, но мы воодушевлены прогрессом, достигнутым за последний год.

Взгляд в будущее

Со временем мы ожидаем, что NCMEC и правоохранительные органы могут и дальше наблюдать снижение объемов киберсообщений от Snap по сравнению с предыдущими годами, но больший процент тех, которые онивсе жеполучают, должен содержать более качественную информацию и быть более практически ценным.

Мы стремимся к постоянному совершенствованию во всех аспектах нашей работы по обеспечению безопасности. Мы не претендуем на то, что у нас есть все ответы в отношении борьбы с CSEA или любым другим потенциальным вредом в Интернете; никто не должен, потому что ни у кого их нет. Изо дня в день мы боремся с проблемами всего общества и применяемобщекорпоративныйподход, преследуя конечную двойную цель — снижение рисков и уменьшение вреда.

Что касается наших киберсообщений, у нас есть четкая цель на недалекое будущее: будь то руководитель государственной целевой группы по борьбе с интернет-преступлениями против детей (ICAC), федеральный следователь или сотрудник правоохранительных органов на другом конце света, мы хотим, чтобы государственные, федеральные и международные органы власти уверенно работали с киберсообщениями от Snap, потому что они знают, что на наши отчеты можно постоянно полагаться как на практически ценные, значимые и исчерпывающие. И мы надеемся, что эти усилия помогут вызвать соответствующий рост числа связанных с этим арестов ⁶и обвинительных приговоров по всему миру.

Огромное «спасибо» NCMEC, WeProtect, 61 целевой группе ICAC в США, правоохранительным органам по всему миру и всем нашим коллегам и сотрудникам, занимающимся борьбой с CSEA, — и дополнительное примечание: мы по-прежнему открыты для ваших отзывов и жаждем их, чтобы и дальше совершенствовать наши стратегии и подходы. Мы все в этом заодно.

- Жаклин Бошер, глобальный руководитель отдела безопасности платформы