Od ponad dwóch dekad działam na rzecz ochrony dzieci przed wykorzystywaniem w sieci, najpierw jako dowódca grupy zadaniowej do spraw przestępstw internetowych przeciwko dzieciom w New Jersey, później jako dyrektor generalny i współzałożyciel Raven (organizacji non-profit skupionej na zwalczaniu wykorzystywania dzieci), a obecnie kierując działem polityki bezpieczeństwa i współpracy z organami ścigania w Snap Inc. Pełniąc te funkcje, prowadziłem śledztwa przeciwko drapieżcom seksualnym, pracowałem z ofiarami i ich rodzinami, pomagałem kształtować politykę bezpieczeństwa dzieci oraz zeznawałem przed Kongresem na temat technologii i wykorzystywania nieletnich w sieci.

Co zaskakujące, jedno pozostaje niezmienne: gdy ludzie nie mogą korzystać z jednego środowiska online, niezwykle rzadko rezygnują oni z samego bycia w Internecie. Po prostu przenoszą się w inne miejsce. 

Ta rzeczywistość powinna być centralnym punktem dzisiejszej debaty nad propozycjami zakazania nastolatkom korzystania z mediów społecznościowych. Wielu zwolenników takich propozycji podziela cel, jakim jest zapewnienie młodym ludziom większego bezpieczeństwa w sieci. Pytanie brzmi, czy te zasady faktycznie pozwolą na osiągnięcie tego celu.

Problem migracji

Podczas operacji pod przykryciem, wymierzonych w drapieżców seksualnych i sieci zajmujące się wykorzystywaniem dzieci, wielokrotnie widziałem ten sam schemat. Gdy platforma stała się skuteczniejsza w wykrywaniu potencjalnie szkodliwych zachowań, sprawcy dostosowywali się. Gdy moderacja się poprawiała, oni po prostu się przenosili. Gdy rosła presja ze strony organów ścigania, zmieniali platformę. Gdy środki ochronne utrudniły prowadzenie działalności w sposób oczywisty, szukali miejsc o mniejszej liczbie zasad, mniejszym stopniu nadzoru i słabszych środkach bezpieczeństwa.

Ta sama dynamika dotyczy młodych ludzi.

Nastolatek chcący komunikować się przez internet nie traci nagle tej chęci, ponieważ prawo zabrania dostępu do popularnej usługi. Zaradni młodzi ludzie szukają alternatyw. Historia dowiodła tego wielokrotnie. Od anonimowych czatów po zagraniczne platformy – po nałożeniu ograniczeń użytkownicy znajdują inne ścieżki. Nastolatki robią to samo.

Internet nie znika. Komunikacja cyfrowa nie znika. Pytanie nie brzmi, czy młodzi ludzie wejdą do sieci. Pytanie brzmi, dokąd się udadzą.

Nie wszystkie platformy są równe

Jednym z największych fałszywych założeń w tej debacie jest traktowanie każdej usługi internetowej tak, jakby niosła ze sobą taki sam poziom ryzyka. Tak nie jest.

Niektóre platformy, takie jak Snapchat, zainwestowały znaczne środki w infrastrukturę zaufania i bezpieczeństwa, projektowanie dostosowane do wieku, narzędzia dla rodziców, proaktywne wykrywanie, systemy zgłaszania, moderowanie treści i współpracę z organami ścigania. Systemy te nie są idealne, podobnie jak metody ochrony dzieci stosowane w świecie offline. Jednak przy przemyślanym projektowaniu platformy, wbudowane narzędzia bezpieczeństwa mogą być bardziej skalowalne, spójne i lepiej przystosowane do wczesnego wykrywania, zgłaszania i interwencji niż wiele tradycyjnych metod. Tworzą one jednak coś istotnego: zdolność do wykrywania ryzyka i reagowania na nie.

Ta możliwość daje szansę na interwencję i zgłoszenie. Umożliwia pociągnięcie do odpowiedzialności. Zdolność do wykrywania rzeczywistego zagrożenia i reagowania na nie daje rodzicom, platformom i organom ścigania więcej możliwości zidentyfikowania groźnych zachowań i działania, zanim szkoda nasili się lub nawet wystąpi.

Ma to znaczenie, ponieważ młodzi ludzie nie przenoszą się do neutralnego środowiska, gdy tracą dostęp do odpowiedzialnych, szanujących wartości platform. W wielu przypadkach przenoszą się do przestrzeni bardziej ryzykownych, niemoderowanych lub hostowanych w jurysdykcjach pozwalających na uniknięcie dochodzeń prowadzonych przez organy ścigania. W takich sytuacjach rodzice, platformy i organy ścigania mają ograniczone możliwości szybkiego reagowania.

Jak w praktyce wyglądają inwestycje w bezpieczeństwo

Moja obecna praca utwierdza mnie w tym przekonaniu.

W Snap przekonałem się, jak to jest, gdy firma projektuje funkcje bezpieczeństwa bezpośrednio w ramach doświadczenia z produktem, zamiast traktować je jako coś, o czym myśli się po fakcie. Jeśli chodzi o młodszych użytkowników, dotyczy to takich rozwiązań projektowych i zabezpieczeń, których celem jest redukowanie zagrożeń, a nie tylko reagowanie na nie. Rozwiązania te obejmują bardziej rygorystyczne konfiguracje domyślne dla nastolatków, ograniczenie szerokiej ekspozycji oraz tworzenie narzędzi zapewniających rodzinom lepszy wgląd w sposób korzystania z usługi przez młodych ludzi.

Co równie ważne, odzwierciedla to podstawową zasadę, o której powinni pamiętać decydenci: istnieje zasadnicza różnica między zatrzymaniem nastolatków w środowiskach wyposażonych w systemy bezpieczeństwa, kanały zgłoszeniowe, narzędzia rodzicielskie i struktury odpowiedzialności, a spychaniem ich do przestrzeni, w których takie mechanizmy ochrony mogą w ogóle nie istnieć.

Centrum rodziny na Snapchacie jest przykładem tej filozofii. Zapewnia rodzicom i opiekunom lepszy wgląd w to, z kim komunikuje się ich nastoletnie dziecko, liczbę dodanych nowych znajomych, sposób spędzania czasu na Snapchacie, niektóre ustawienia prywatności i bezpieczeństwa, wybory dotyczące udostępniania lokalizacji oraz inne sygnały, które mogą pomóc rodzinie wcześnie rozpoznać niepokojące obawy i rozpocząć rozmowy. Narzędzia te nie eliminują każdego zagrożenia. Ale dają wgląd i możliwości interwencji.

Niezamierzone konsekwencje, które powinni uwzględnić decydenci

U podstaw wielu projektów wprowadzających ograniczenia wiekowe leży przekonanie, że odcięcie małoletnich od głównych platform eliminuje ryzyko.

Moje doświadczenie sugeruje coś innego. Ryzyko nie znika. Ryzyko ulega przeniesieniu.

Decydenci powinni skupiać się w mniejszym stopniu na uniemożliwianiu młodym ludziom korzystania z platform, a w większym na podnoszeniu bezpieczeństwa platform. Wymaga to projektowania produktów z zabezpieczeniami odpowiednimi dla wieku użytkownika, zapewniania rodzicom skutecznych narzędzi nadzoru, finansowania zespołów zaufania i bezpieczeństwa, ulepszania systemów zgłaszania i detekcji, współpracy z organami ścigania, zwiększania przejrzystości oraz zapewniania młodym ludziom edukacji w zakresie umiejętności cyfrowych. Środki te bezpośrednio adresują potencjalne ryzyka, zapewniając jednocześnie skuteczne mechanizmy kontroli, możliwość wczesnego wykrywania problemów oraz reagowania, zanim dojdzie do eskalacji szkody.

Bezpieczeństwo ponad symbolikę

Ochrona młodych ludzi w Internecie jest jednym z najważniejszych wyzwań politycznych naszych czasów. Skuteczna polityka wymaga jednak czegoś więcej niż dobrych intencji. Wymaga zrozumienia tego, jak faktycznie zachowują się ludzie.

Moje doświadczenie w badaniu spraw dotyczących wykorzystywania dzieci, udziale w operacjach pod przykryciem, kierowaniu organizacją zajmującą się bezpieczeństwem dzieci, składaniu zeznań przed Kongresem, a obecnie pracy w firmie technologicznej, doprowadziło mnie do jednego wniosku: dzieci zasługują na bezpieczniejsze doświadczenia w sieci, a nie na rozwiązania systemowe, które po prostu usuwają problem z pola widzenia.

Rozwiązaniem nie jest samo usuwanie młodych ludzi z platform, na których już wprowadzono środki zapewniające bezpieczeństwo. Rozwiązanie polega na budowaniu i domaganiu się takich środowisk cyfrowych, w których bezpieczeństwo, odpowiedzialność i interwencja są osadzone w samym doświadczeniu.  Celem nie powinna być symbolika. Celem powinno być bezpieczeństwo. A to nie zawsze to samo.

— John Pizzuro, dyrektor ds. egzekwowania prawa i polityki bezpieczeństwa, Snap Inc.