От повече от две десетилетия работя за защита на децата от експлоатация в интернет – първо като командир на Специалната група за борба с интернет престъпленията срещу деца в Ню Джърси, по-късно като главен изпълнителен директор и съосновател на Raven (неправителствена организация, насочена към борбата с експлоатацията на деца), а в момента ръководя дейностите, свързани с правоприлагането и политиката за безопасност в Snap Inc. В рамките на тези длъжности съм разследвал лица, извършващи сексуални престъпления срещу деца, работил съм с оцелели и техните семейства, допринесъл съм за изготвянето на политиката за безопасността на децата и съм давал показания пред Конгреса по въпроси, свързани с онлайн експлоатацията и технологиите.

Един извод остава удивително постоянен: когато на хората се попречи да използват дадена онлайн среда, те рядко спират да ползват интернет. Те просто се преместват някъде другаде. 

Тази реалност трябва да бъде от централно значение за днешния дебат относно предложенията за забрана на тийнейджърите да използват социалните медии. Много от поддръжниците на подобни предложения споделят целта да се повиши безопасността на младите хора в интернет. Въпросът е дали тези политики действително ще постигнат тази цел.

Проблемът с миграцията

По време на операции под прикритие срещу лица, извършващи сексуални посегателства над деца, и мрежи за детска експлоатация, отново и отново се натъквах на една и съща закономерност. Когато дадена платформа станеше по-ефективна в откриването на потенциално опасно поведение, извършителите се приспособяваха. Когато модерирането ставаше по-ефективно, те се преместваха другаде. Когато натискът от страна на правоохранителните органи се засилваше, те променяха тактиката си. Когато защитните мерки затрудняваха дейността им на видно място, те започваха да търсят платформи с по-малко правила, по-слаб контрол и по-недостатъчни механизми за защита.

Същата динамика важи и за младите хора.

Тийнейджърът, който иска да общува онлайн, няма изведнъж да изгуби това желание само защото законът му забранява достъпа до популярна масова платформа. Находчивите млади хора търсят алтернативи. Историята е доказала това многократно. От анонимни чат стаи до платформи, хоствани в чужбина – когато се налагат ограничения, потребителите намират други начини. Тийнейджърите не са по-различни.

Интернет не изчезва. Цифровата комуникация не се премахва. Въпросът не е дали младите хора ще влязат в интернет. Въпросът е къде ще отидат.

Не всички платформи са еднакви

Едно от най-големите погрешни схващания в този дебат е да се разглежда всяка онлайн услуга така, сякаш тя представлява еднакъв риск. Това не е така.

Някои платформи, като например Snapchat, са инвестирали значителни средства в инфраструктура за осигуряване на доверие и безопасност, дизайн, съобразен с възрастта, инструменти за родителски контрол, проактивно откриване, системи за сигнализиране, модерация на съдържанието и сътрудничество с правоохранителните органи. Тези системи не са съвършени, както не са съвършени и подходите за защита на децата извън онлайн средата. Когато обаче са добре проектирани, инструментите за безопасност на платформите могат да бъдат по-мащабируеми, по-последователни и по-добре пригодени да подпомагат ранното откриване, докладването и намесата в сравнение с много традиционни подходи.
Но те създават нещо съществено: способността да се открива риск и да се реагира на него.

Тази способност позволява намеса и подаване на сигнали. Това позволява отчетност. Възможността да се откриват и да се реагира на реални рискове предоставя на родителите, платформите и правоприлагащите органи повече възможности да разпознават заплашително поведение и да предприемат действия, преди вредата да се задълбочи или дори да настъпи.

Това е важно, защото когато младите хора биват изтласкани от отговорни платформи, които зачитат ценностите, те не се преместват в неутрална среда. В много случаи те се преместват в пространства, които са по-рискови, немодерирани или се намират в юрисдикции, които могат да избегнат разследванията на правоохранителните органи. В тези ситуации родителите, платформите и правоприлагащите органи разполагат с ограничени възможности за бърз отговор.

Как изглеждат инвестициите в безопасността на практика

Настоящата ми работа затвърди този урок.

В Snap съм наблюдавал как една компания се опитва да вгради функции за безопасност директно в потребителското преживяване, вместо да разглежда безопасността като нещо второстепенно. За по-младите потребители това включва дизайнерски решения и предпазни мерки, чиято цел е да намалят риска, а не само да реагират на него. Това включва по-строги настройки по подразбиране за тийнейджърите, ограничаване на широкия достъп и създаване на инструменти, които дават на семействата по-добра представа за това как младите хора използват услугата.

Не по-малко важно е, че това отразява един основен принцип, който политиците трябва да имат предвид: съществува съществена разлика между това да се задържат тийнейджърите в среди, които разполагат със системи за безопасност, канали за сигнализиране, инструменти за родителите и структури за отчетност, и това да се отпращат към пространства, където тези мерки за защита може изобщо да липсват.

Центърът за семейството на Snapchat е един от примерите за тази философия. Това дава на родителите и възпитателите по-добра представа за това с кого общува техният тийнейджър, кои са новите приятели, които е добавил, как прекарва времето си в Snapchat, за определени настройки за поверителност и безопасност, за възможностите за споделяне на местоположението, както и за други признаци, които могат да помогнат на семейството да забележи потенциални проблеми на ранен етап и да започне разговори по-рано. Тези инструменти не елиминират всеки риск. Но те създават видимост и възможности за намеса.

Непредвидените последици, които политиците трябва да имат предвид

Основното предположение, което стои в основата на много предложения за възрастови ограничения, е, че изключването на непълнолетните от основните платформи елиминира риска.

Моят опит показва нещо различно. Рискът не изчезва. Рискът се премества.

Политиците трябва да се съсредоточават по-малко върху отстраняването на младите хора от платформите и повече върху това да направят платформите по-безопасни. Това означава да се разработват продукти със защитни мерки, съобразени с възрастта, да се предоставят на родителите ефективни инструменти, да се инвестира в екипи, отговарящи за доверието и безопасността, да се подобряват системите за сигнализиране и откриване, да се осъществява сътрудничество с правоохранителните органи, да се повиши прозрачността и да се гарантира, че младите хора получават образование в областта на цифровата грамотност. Тези мерки се насочват пряко към потенциалния риск, като същевременно предоставят ефективни инструменти, възможност за откриване на проблеми и за намеса, преди вредата да се задълбочи.

Безопасността над символизма

Защитата на младите хора онлайн е едно от най-важните политически предизвикателства на нашето време. Но една ефективна политика изисква нещо повече от добри намерения. Тя изисква разбиране на действителното поведение на хората.

Опитът ми в разследването на сексуалната експлоатация на деца, участието в операции под прикритие, ръководенето на организация за защита на децата, даването на показания пред Конгреса и настоящата ми работа в технологична компания ме доведе до един категоричен извод: децата заслужават по-безопасна онлайн среда, а не политики, които просто ги изместват от полезрението ни.

Решението не е просто да изведем младите хора от платформите, където вече съществуват механизми за тяхната защита. Решението е да изграждаме и да изискваме дигитална среда, в която безопасността, отчетността и механизмите за намеса са неразделна част от самото онлайн преживяване. Целта не бива да бъде символичен жест. Целта трябва да бъде безопасността. А това невинаги е едно и също.

— Джон Пизуро, ръководител на отдела за правоприлагане и политика за безопасност, Snap Inc.