Na ochrane detí pred online zneužívaním pracujem už dve desaťročia, najprv ako veliteľ pracovnej skupiny pre internetovú kriminalitu proti deťom v New Jersey, neskôr ako generálny riaditeľ a spoluzakladateľ organizácie Raven (nezisková organizácia zameraná na boj proti zneužívaniu detí) a teraz vedúci politiky pre oblasť orgánov činných v trestnom konaní a bezpečnosť v spoločnosti Snap Inc. Vo všetkých týchto úlohách som vyšetroval predátorov detí, pracoval s pozostalými a rodinami, pomohol som formovať politiku bezpečnosti detí a svedčil som pred Kongresom o online vykorisťovaní a technológiách.

Jedno ponaučenie zostáva pozoruhodne konzistentné: keď ľudia nemôžu používať jedno online prostredie, zriedka prestanú byť online. Jednoducho sa presunú niekam inam. 

Táto realita by mala byť ústrednou súčasťou dnešnej diskusie o návrhoch na zákaz prístupu tínedžerov na sociálne siete. Mnohí zástancovia podobných návrhov majú rovnaký cieľ zvýšiť bezpečnosť mladých ľudí na internete. Otázkou je, či tieto politiky skutočne dosiahnu tento výsledok.

Problém migrácie

Počas tajných vyšetrovaní zameraných na predátorov a siete vykorisťovania detí som opakovane zaznamenal rovnaký vzorec. Keď sa platforma stala účinnejšou pri odhaľovaní potenciálne škodlivého správania, páchatelia sa prispôsobili. Keď sa moderovanie zlepšilo, presunuli sa. Keď sa tlak orgánov činných v trestnom konaní zvýšil, zmenili sa. Keď ochranné opatrenia sťažovali prevádzku na očividnom mieste, hľadali miesta s menším počtom pravidiel, menším dohľadom a slabšou bezpečnostnou ochranou.

Rovnaká dynamika sa vzťahuje na mladých ľudí.

Tínedžer, ktorý chce komunikovať online, túto túžbu náhle nestratí len preto, že zákon zakazuje prístup k obľúbenej a bežnej službe. Nápadití mladí ľudia hľadajú alternatívy. História to opakovane ukazuje. od anonymných chatovacích miestností po zahraničné platformy – keď sú presadené obmedzenia, používatelia nájdu iné spôsoby, ako ich používať. Tínedžeri sa nelíšia.

Internet nezmizne. Digitálna komunikácia nezmizne. Otázkou nie je, či mladí ľudia budú online. Otázkou je, kam pôjdu.

Nie všetky platformy sú rovnocenné

Jedným z najväčších nepravdivých predpokladov v tejto rozprave je zaobchádzať s každou online službou tak, ako keby predstavovala rovnakú úroveň rizika. Nepredstavujú.

Niektoré platformy, ako napríklad Snapchat, značne investovali do infraštruktúry dôvery a bezpečnosti, dizajnu primeraného veku, rodičovských nástrojov, proaktívnej detekcie, systémov nahlasovania, moderovania obsahu a spolupráce s orgánmi činnými v trestnom konaní. Tieto systémy nie sú dokonalé a ani nie sú prístupmi k ochrane detí mimo internetu. Keď sú však bezpečnostné nástroje platformy premyslene navrhnuté, môžu byť ľahšie rozšíriteľné, konzistentnejšie a lepšie vybavené na podporu včasného odhaľovania, nahlasovania a zásahu v porovnaní s mnohými tradičnými prístupmi. Vytvárajú však niečo základné: schopnosť odhaliť riziko a reagovať naň.

Táto schopnosť umožňuje zásah a nahlasovanie. Umožňuje zodpovednosť. Schopnosť odhaliť skutočné riziko a reagovať na naň poskytuje rodičom, platformám a orgánom činným v trestnom konaní viac príležitostí na identifikáciu ohrozujúceho správania a konanie predtým, ako ujma môže eskalovať alebo dokonca vzniknúť.

To je dôležité, pretože keď sú mladí ľudia vytlačení zo zodpovedných platforiem, ktoré rešpektujú hodnoty, nepresúvajú sa do neutrálneho prostredia. V mnohých prípadoch sa presúvajú do rizikovejších a nemoderovaných priestorov alebo s hostingom v jurisdikciách, ktoré sa môžu vyhýbať vyšetrovaniu orgánov činných v trestnom konaní. V týchto prostrediach majú rodičia, platformy a orgány činné v trestnom konaní obmedzené spôsoby, ako rýchlo reagovať.

Ako vyzerajú investície do bezpečnosti v praxi

Moja súčasná práca túto istú lekciu potvrdila.

V spoločnosti Snap vidím, ako to vyzerá, keď sa spoločnosť snaží začleniť bezpečnostné funkcie priamo do používanie produktu a nezaobchádza s bezpečnosťou ako s nejakým neskorším dodatkom. V prípade mladších používateľov to zahŕňa možnosti dizajnu a ochranné opatrenia určené na zníženie rizika, nielen na reakciu naň. Zahŕňa to silnejšie predvolené možnosti pre tínedžerov, obmedzenie širokého odhalenia a vytváranie nástrojov, ktoré rodinám poskytujú lepší prehľad o tom, ako mladí ľudia túto službu využívajú.

Rovnako dôležité je, že odráža základnú zásadu, ktorú by tvorcovia politík mali mať na pamäti: existuje zmysluplný rozdiel medzi udržiavaním tínedžerov v prostredí, ktoré má bezpečnostné systémy, kanály nahlasovania, rodičovské nástroje a štruktúry zodpovednosti, a ich vytláčaním do priestorov, v ktorých táto ochrana vôbec neexistuje.

Rodinné centrum na Snapchate je jedným z príkladov tejto filozofie. Rodičom a opatrovateľom poskytuje lepší prehľad o tom, s kým ich tínedžer komunikuje, o nových priateľoch, ktorých si pridal, o tom, ako trávi čas na Snapchate, o určitých nastaveniach súkromia a bezpečnosti, o možnostiach zdieľania polohy a o ďalších signáloch, ktoré môžu pomôcť rodine včas si všimnúť hrozby a skôr začať konverzácie. Tieto nástroje nevylučujú každé riziko. Vytvárajú však viditeľnosť a príležitosti na zásah.

Nezamýšľané dôsledky, ktoré by tvorcovia politík mali zvážiť

Základným predpokladom mnohých návrhov na zákaz podľa veku je, že odstránenie maloletých z hlavných platforiem odstraňuje riziko.

Moje skúsenosti naznačujú niečo odlišné. Riziko nezmizne. Riziko sa premiestni.

Tvorcovia politík by sa mali menej zameriavať na to, aby mladí ľudia boli mimo platforiem, a viac na to, aby boli platformy bezpečnejšie. To znamená navrhovať produkty s ochranou primeranou veku, poskytovať rodičom zmysluplné nástroje, investovať do tímov zameraných na dôveru a bezpečnosť, zlepšovať systémy nahlasovania a odhaľovania, spolupracovať s orgánmi činnými v trestnom konaní, zvýšiť transparentnosť a zabezpečiť, aby sa mladí ľudia vzdelávali v oblasti digitálnej gramotnosti. Tieto opatrenia sa priamo zameriavajú na potenciálne riziko a zároveň poskytujú zmysluplné nástroje, schopnosť identifikovať problémy a zasiahnuť skôr, ako dôjde k eskalácii akejkoľvek ujmy.

Bezpečnosť pred symbolikou

Ochrana mladých ľudí na internete je jednou z najdôležitejších politických výziev našej doby. Účinná politika si však vyžaduje viac než len dobré úmysly. Vyžaduje si pochopiť, ako sa ľudia skutočne správajú.

Moje skúsenosti s vyšetrovaním zneužívania detí, účasťou na tajných operáciách, vedením organizácie pre bezpečnosť detí, svedectvom pred Kongresom a teraz prácou v technologickej spoločnosti ma priviedli k jednému záveru: deti si zaslúžia bezpečnejšie online prostredie, nie politické riešenia, ktoré ich jednoducho presunú mimo dohľadu.

Odpoveďou nie je len odstránenie mladých ľudí z platforiem, na ktorých už existujú investície do bezpečnosti. Odpoveďou je budovanie a vyžadovanie digitálneho prostredia, v ktorom sú bezpečnosť, zodpovednosť a zásah súčasťou samotnej skúsenosti.  Cieľom by nemala byť symbolika. Cieľom by mala byť bezpečnosť. A to nie je vždy to isté.

– John Pizzuro, vedúci oddelenia politiky pre činnosti v trestnom konaní a bezpečnosť, Snap Inc.