Ochraně dětí před zneužíváním na internetu se věnuji již více než dvě desetiletí – zpočátku jako vedoucí pracovní skupiny pro boj s trestnou činností proti dětem na internetu v New Jersey, později jako generální ředitel a spoluzakladatel neziskové organizace Raven zaměřené na boj proti zneužívání dětí, v současnosti pak jako vedoucí oddělení pro vymáhání zákonů a bezpečnostní politiku ve společnosti Snap Inc. V těchto rolích jsem vyšetřoval predátory zaměřující se na děti, spolupracoval s oběťmi a rodinami, podílel se na tvorbě zásad pro bezpečnost dětí a na téma zneužívání na internetu a technologií vypovídal před Kongresem.

Opakovaně se mi potvrzovalo jedno poučení: když lidem znemožníte přístup do určitého online prostředí, jen málokdy přestanou používat internet jako takový. Zkrátka se jen přesunou jinam. 

A právě tato skutečnost by měla stát v centru dnešní debaty o návrzích zakázat teenagerům přístup na sociální sítě. Mnoho zastánců podobných návrhů sdílí stejný cíl – zvýšit bezpečnost mladých lidí na internetu. Otázkou je, zda k tomuto cíli navrhovaná opatření skutečně povedou.

Problém migrace

Během tajných vyšetřování zaměřených na predátory a sítě zneužívající děti jsem opakovaně pozoroval tentýž vzorec. Jakmile platforma zavedla účinnější metody odhalování potenciálně škodlivého chování, pachatelé se přizpůsobili. Když se zlepšila moderace, přesunuli se jinam. Když zesílil tlak ze strany orgánů činných v trestním řízení, změnili taktiku. Pokud jim bezpečnostní opatření zkomplikovala otevřené působení, začali hledat místa s méně pravidly, méně přísným dohledem a slabší ochranou.

A stejná dynamika platí i pro mladé lidi.

Teenager, který chce komunikovat online, neztratí zničehonic tuto touhu jen proto, že mu zákon zakazuje přístup k oblíbené mainstreamové službě. Vynalézaví mladí lidé si najdou alternativy. Dějiny nám to ukazují stále dokola. Pokud před uživatele postavíte překážku, najdou si jinou cestu, ať už to budou anonymní chatovací místnosti nebo zahraniční platformy. Teenageři nejsou výjimkou.

Internet nezmizí. Digitální komunikace bude existovat i nadále. Otázka není, jestli mladí lidé budou trávit čas na internetu. Otázka je, v jakém online prostoru to bude.

Ne všechny platformy jsou stejné

Jedním z nejmylnějších předpokladů v této debatě je považovat všechny online služby za stejně rizikové. Tak to rozhodně není.

Některé platformy, jako je Snapchat, výrazně investují do infrastruktury pro důvěru a bezpečnost, designu přiměřeného věku, nástrojů pro rodiče, proaktivní detekce, systémů hlášení, moderování obsahu a spolupráce s orgány činnými v trestním řízení. Tyto systémy nejsou dokonalé – ale to nejsou ani offline přístupy k ochraně dětí. Pokud jsou však bezpečnostní nástroje platformy promyšlené, mohou být ve srovnání s mnoha tradičními přístupy škálovatelnější, konzistentnější a lépe podporovat včasnou detekci, hlášení a zásah. Především nám ale dávají něco zásadního: schopnost odhalit riziko a reagovat na ně.

A díky ní je možné problémy nahlásit a zasáhnout. Umožňuje vyvodit odpovědnost. Schopnost odhalovat skutečná rizika a reagovat na ně dává rodičům, platformám a orgánům činným v trestním řízení více možností odhalit nebezpečné chování a zasáhnout ještě dříve, než újma eskaluje – nebo než k ní vůbec dojde.

To je důležité, protože když jsou mladí lidé vytlačeni z odpovědných platforem respektujících hodnoty, nepřesunou se do neutrálního prostředí. Často se naopak přesouvají do prostředí, která jsou rizikovější, nemoderovaná nebo provozovaná v jurisdikcích, kde se lze vyhnout vyšetřování ze strany orgánů činných v trestním řízení. V těchto prostředích pak mají rodiče, platformy i orgány činné v trestním řízení jen omezené možnosti, jak rychle reagovat.

Jak vypadají investice do bezpečnosti v praxi

Moje současná práce toto poučení jen potvrzuje.

Ve společnosti Snap jsem už na vlastní oči viděl, jak to vypadá, když se společnost snaží zabudovat bezpečnostní prvky přímo do produktu, místo aby je považovala za vedlejší dodatečnou záležitost. U mladších uživatelů to znamená, že naše rozhodnutí ohledně designu a ochranná opatření rizika aktivně snižují, namísto aby na ně jen reagovala. Příkladem jsou přísnější výchozí nastavení pro teenagery, omezení viditelnosti jejich obsahu a nástroje, které rodinám poskytují lepší přehled o tom, jak mladí lidé naši službu používají.

Stejně důležité je, že se tu odráží základní princip, který by měli mít na paměti zákonodárci: existuje významný rozdíl mezi situací, kdy ponecháme teenagery v prostředí s bezpečnostními systémy, kanály pro hlášení, nástroji pro rodiče a mechanismy pro vyvození odpovědnosti, a situací, kdy teenagery vytlačíme do prostředí, kde zmíněná ochranná opatření dost možná vůbec neexistují.

Jedním z příkladů této filozofie je Rodinné centrum na Snapchatu. Rodinné centrum dává rodičům a pečujícím osobám lepší přehled o tom, s kým jejich teenager komunikuje, jaké nové přátele si přidal, jak konkrétně na Snapchatu tráví čas, jaká má nastavení soukromí a bezpečnosti, možnosti sdílení polohy a další údaje, díky kterým může rodina včas zachytit varovné signály a dříve zavést na dané téma rozhovor. Tyto nástroje neodstraní každé riziko. Dávají nám však přehled a možnost zasáhnout.

Nezamýšlený důsledek, který by zákonodárci měli zvážit

Mnohé z návrhů zakázat určitým věkovým skupinám přístup na sociální sítě se opírají o předpoklad, že pokud odstraníme z mainstreamových platforem nezletilé, odstraníme i riziko.

Moje zkušenosti naznačují něco jiného. Riziko nezmizí. Přesune se jinam.

Zákonodárci by se tak měli méně soustředit na to, aby mladým lidem zabránili v přístupu na platformy, a více na to, aby platformy byly bezpečnější. To znamená navrhovat produkty s ochranou přizpůsobenou věku, poskytovat rodičům smysluplné nástroje, investovat do týmů pro bezpečnost a důvěru, zlepšovat systémy hlášení a detekce, spolupracovat s orgány činnými v trestním řízení, zvyšovat transparentnost a zajistit, aby se mladým lidem dostávalo vzdělání v oblasti digitální gramotnosti. Tato opatření přímo cílí na potenciální rizika a zároveň poskytují užitečné nástroje, schopnost problémy identifikovat a zasáhnout dříve, než jakákoli újma eskaluje.

Bezpečnost místo symbolických gest

Ochrana mladých lidí na internetu je jednou z nejdůležitějších politických výzev naší doby. Účinná politika ale vyžaduje víc než jen dobré úmysly. Vyžaduje porozumění tomu, jak se lidé ve skutečnosti chovají.

Moje zkušenosti s vyšetřováním zneužívání dětí, účastí na tajných operacích, vedením organizace pro bezpečnost dětí, výpovídáním před Kongresem a nynější prací pro technologickou společnost mě vedou k jedinému závěru: děti si zaslouží bezpečnější online prostředí, nikoli politická řešení, která děti jen odsunou z dohledu.

Řešením není jednoduše vykázat mladé lidi z platforem, jejichž provozovatelé do bezpečnosti už investovali. Odpovědí je naopak vytvářet a vyžadovat digitální prostředí, kde je bezpečnost, odpovědnost a schopnost zasáhnout nedílnou součástí celého zážitku. Cílem by neměla být symbolická gesta. Cílem by měla být bezpečnost. A to není vždy totéž.

– John Pizzuro, vedoucí oddělení pro vymáhání zákonů a bezpečnostní politiku, Snap Inc.