Более двух десятилетий я работал над защитой детей от эксплуатации в Интернете, сначала в качестве руководителя группы по борьбе с преступностью в Интернете штата Нью-Джерси, позже в качестве генерального директора и соучредителя Raven (некоммерческой организации, деятельность которой направлена на борьбу с эксплуатацией детей), а теперь возглавляю правоохранительные органы и политику безопасности в Snap Inc. На этих должностях я занимался расследованием тех, кто охотился за детьми, работал с выжившими и семьями, помогал формировать политику безопасности детей, а также выступал перед конгрессом в отношении онлайн-эксплуатации и технологий.

Один урок остается неизменным: когда людям не дают возможности использовать одну онлайн-среду, они редко когда перестают быть в сети. Они просто перемещаются в другое место. 

Эта реальность должна быть центральной частью сегодняшних дебатов по предложениям запретить подросткам доступ к социальным сетям. Многие сторонники подобных предложений стремятся повысить безопасность для молодых людей в Интернете. Вопрос в том, позволят ли эти меры на самом деле достичь этого результата.

Проблема миграции

Во время тайных расследований против охотящихся на детей и сетей эксплуатации детей я неоднократно замечал одну и ту же закономерность. Когда платформа стала более эффективной в обнаружении потенциально вредоносного поведения, нарушители приспособились. Когда модерация стала лучше, они переместились. Когда давление правоохранительных органов усилилось, они изменились. Когда функции безопасности затруднили работу в обычном пространстве, они искали места с меньшим количеством правил, меньшим количеством надзора и более слабыми средствами защиты безопасности.

Та же динамика относится к молодым людям.

Подросток, который хочет общаться в Интернете, неожиданно не теряет это желание потому, что закон запрещает доступ к популярному основному сервису. Молодые люди ищут альтернативы. История неоднократно показывала это. От анонимных чатов до платформ на иностранном хостинге пользователи находят другие пути при наложении ограничений. Подростки ничем не отличаются.

Интернет не исчезает. Цифровое общение не исчезает. Вопрос не в том, выйдут ли молодые люди в Интернет. Вопрос в том, куда они попадут.

Не все платформы равны

Одно из самых больших ложных предположений в этих дебатах заключается в том, что ко всем онлайн-сервисам можно относиться так, как будто они представляют собой одинаковый уровень риска. Это не так.

Некоторые платформы, например Snapchat, инвестировали значительные средства в развитие инфраструктуры доверия и безопасности, дизайна с учетом возраста, инструментов для родителей, упреждающего обнаружения, систем подачи жалоб, модерации контента и сотрудничества с правоохранительными органами. Эти системы не совершенны, и они также не являются автономными подходами к защите детей. Но при тщательной разработке инструменты безопасности платформы могут быть более масштабируемыми, более последовательными и лучше оснащенными для раннего обнаружения, отправки жалоб и вмешательства, чем многие традиционные подходы. Но они создают нечто важное: способность обнаруживать риск и реагировать на него.

Эта возможность позволяет вмешиваться и отправлять жалобы. Это позволяет обеспечить подотчетность. Способность обнаруживать реальный риск и реагировать на него дает родителям, платформам и правоохранительным органам больше возможностей выявлять угрожающее поведение и принимать меры до того, как вред будет обострен или даже возникнет.

Это имеет значение, потому что когда молодые люди отталкиваются от ответственных платформ, уважающих ценности, они не попадают в нейтральную среду. Во многих случаях они перемещаются в более рискованные пространства, не контролируемые или размещенные в юрисдикциях, которые могут избежать расследований правоохранительными органами. В таких условиях у родителей, платформ и правоохранительных органов есть ограниченные возможности для быстрого реагирования.

Как выглядят инвестиции в безопасность на практике

Моя нынешняя работа укрепила этот самый урок.

В Snap я видел, как это выглядит, когда компания пытается интегрировать функции безопасности непосредственно в продукта а не воспринимать безопасность как что-то второстепенное. Для молодых пользователей это означает в дизайнерские решения и меры безопасности, призванные снизить риски, а не только реагировать на них. Это включает более строгие настройки по умолчанию для подростков, ограничение широкого охвата, а также создание инструментов, которые дают семьям больше информации о том, как молодые люди используют сервис.

Не менее важно и то, что это отражает основной принцип, который должны иметь в виду законодатели: существует значимая разница между тем, чтобы держать подростков в среде, где есть системы безопасности, каналы отчетности, родительские инструменты и структуры подотчетности, и подталкивать их к местам, где такая защита может вообще не существовать.

Семейный центр Snapchat — один из примеров такой философии. Это дает родителям и опекунам больше информации о том, с кем общается их ребенок, о новых друзьях, которых они добавили, о том, как они проводят время в Snapchat, определённые настройки конфиденциальности и безопасности, параметры обмена местоположением и другие сигналы, которые могут помочь заранее обнаружить проблемы семьи и начать разговор раньше. Эти инструменты не устраняют все риски. Но они создают видимость и возможности для вмешательства.

Политики должны учитывать непредвиденные последствия

Основная предположительная идея, лежащая в основе многих предложений в отношении запрета по возрасту, заключается в том, что удаление несовершеннолетних с основных платформ устраняет риск.

Мой опыт говорит о другом. Риск сохраняется. Риск перестраивается.

Политики должны меньше внимания уделять тому, чтобы молодые люди отдалились от платформ, и больше внимания тому, чтобы сделать платформы более безопасными. Это означает разрабатывать продукты с соответствующей возрастной защитой, предоставлять родителям полезные инструменты, инвестировать в развитие команд доверия и безопасности, улучшать системы обнаружения и жалоб, взаимодействовать с правоохранительными органами, повышать прозрачность и обеспечивать обучение цифровой грамотности для молодых людей. Эти меры устраняют потенциальный риск напрямую, предоставляя значимые инструменты, возможность выявлять проблемы и вмешиваться до того, как ущерб усугубится.

Безопасность важнее символизма

Защита молодых людей в Интернете — одна из самых важных политических проблем нашего времени. Однако эффективная политика требует нечто большее, чем хорошие намерения. Это требует понимания того, как люди ведут себя на самом деле.

Мой опыт расследования случаев эксплуатации детей, участия в тайных операциях, руководства организацией по безопасности детей, дачи показаний перед конгрессом, а теперь работы в технологической компании привел меня к одному выводу: дети заслуживают более безопасного использования онлайн-возможностей, а не политических решений, которые просто выводят их из поля зрения.

Ответ заключается не просто в том, чтобы удалить молодых людей с платформ, на которых уже существуют средства безопасности. Ответ — развивающаяся и требовательная цифровая среда, где безопасность, подотчетность и вмешательство являются неотъемлемой частью самого опыта.  Цель не должна быть символической. Целью должна быть безопасность. И это не всегда одно и то же.

— Джон Пиццуро, руководитель отдела правоохранительных органов и политики безопасности Snap Inc.