Više od dva desetljeća radim na zaštiti djece od online iskorištavanja, najprije kao zapovjednik Radne skupine za internetske zločine nad djecom u New Jerseyju, zatim kao izvršni direktor i suosnivač udruge Raven (neprofitne organizacije usmjerene na borbu protiv iskorištavanja djece), a sada kao voditelj provedbe zakona i sigurnosne politike u tvrtki Snap Inc. Kroz te uloge istraživao sam dječje predatore, surađivao s preživjelima i obiteljima, sudjelovao u oblikovanju pravila o sigurnosti djece te svjedočio pred Kongresom o online iskorištavanju i tehnologiji.

Jedna je pouka ostala iznimno dosljedna: kada se ljudima onemogući uporaba jednog online okruženja, oni rijetko prestaju biti online. Jednostavno se premjeste negdje drugdje. 

Ta bi stvarnost trebala biti središnja točka današnje rasprave o prijedlozima za zabranu društvenih mreža tinejdžerima. Mnogi zagovornici ovakvih prijedloga imaju isti cilj – učiniti mlade sigurnijima na internetu. Pitanje je hoće li te politike doista postići taj rezultat.

Problem migracije

Tijekom tajnih istraga usmjerenih na dječje predatore i mreže za iskorištavanje, više puta sam uočio isti obrazac. Kada je platforma postala učinkovitija u otkrivanju potencijalno štetnog ponašanja, prijestupnici su se prilagodili. Kada se moderiranje poboljšalo, premjestili su se. Kada se pritisak provedbe zakona povećao, preusmjerili su se. Kada su zaštitne mjere otežale djelovanje pred očima javnosti, tražili su mjesta s manje pravila, manje nadzora i slabijom sigurnosnom zaštitom.

Ista dinamika vrijedi i za mlade.

Tinejdžer koji želi komunicirati na internetu ne gubi iznenada tu želju jer zakon zabranjuje pristup popularnoj, široko korištenoj usluzi. Snalažljivi mladi ljudi traže alternative. Povijest je to pokazala iznova i iznova. Od anonimnih soba za razgovor do platformi smještenih u inozemstvu, korisnici pronalaze druge načine kada se nametnu ograničenja. Tinejdžeri nisu drugačiji.

Internet ne nestaje. Digitalna komunikacija neće nestati. Pitanje nije hoće li mladi ljudi biti online. Pitanje je kamo će otići.

Nisu sve platforme jednake

Jedna od najvećih pogrešnih pretpostavki u ovoj raspravi je da se prema svakoj online usluzi postupa kao da predstavlja istu razinu rizika. Ne predstavljaju.

Neke platforme, poput Snapchata, uložile su znatna sredstva u infrastrukturu za povjerenje i sigurnost, dizajn primjeren dobi, roditeljske alate, proaktivno otkrivanje, sustave za prijavu, moderiranje sadržaja i suradnju s tijelima za provedbu zakona. Ovi sustavi nisu savršeni, kao što nisu ni izvanmrežni pristupi zaštiti djece. No, kada su promišljeno dizajnirani, alati za sigurnost na platformama mogu biti prilagodljiviji, dosljedniji i bolje opremljeni za podršku ranom otkrivanju, prijavljivanju i intervenciji u usporedbi s mnogim tradicionalnim pristupima. Ali oni stvaraju nešto od ključne vrijednosti: sposobnost otkrivanja rizika i reagiranja na njega.

Ta sposobnost omogućuje intervenciju i prijavljivanje. Omogućuje odgovornost. Sposobnost otkrivanja i odgovora na stvarni rizik daje roditeljima, platformama i tijelima za provedbu zakona više mogućnosti za prepoznavanje prijetećeg ponašanja i poduzimanje mjera prije nego što se šteta pogorša ili uopće nastane.

To je važno jer kada se mlade potisne s odgovornih platformi koje poštuju vrijednosti, oni ne prelaze u neutralno okruženje. U mnogim slučajevima prelaze u područja koja su rizičnija, nemoderirana ili se nalaze u jurisdikcijama koje mogu izbjeći istrage tijela za provedbu zakona. U takvim okruženjima roditelji, platforme i tijela za provedbu zakona imaju ograničene mogućnosti za brzo reagiranje.

Kako izgledaju ulaganja u sigurnost u praksi

Moj trenutačni rad dodatno je potvrdio tu istu pouku.

U tvrtki Snap sam imao priliku vidjeti kako izgleda kada tvrtka pokušava ugraditi sigurnosne značajke izravno u iskustvo proizvoda, umjesto da se sigurnost tretira kao nešto o čemu se naknadno razmišlja. Za mlađe korisnike to uključuje dizajnerske odluke i zaštitne mjere namijenjene smanjenju rizika, a ne samo reagiranju na njega. To uključuje snažnije zadane postavke za tinejdžere, ograničavanje široke izloženosti i stvaranje alata koji obiteljima pružaju bolji uvid u način na koji mladi upotrebljavaju uslugu.

Jednako je važno, to odražava osnovno načelo koje bi kreatori politika trebali imati na umu: postoji značajna razlika između zadržavanja tinejdžera u okruženjima koja imaju sigurnosne sustave, kanale za prijavu, roditeljske alate i strukture odgovornosti te njihovog usmjeravanja u područja u kojima takva zaštita možda uopće ne postoji.

Snapchatov Obiteljski centar jedan je od primjera te filozofije. Roditeljima i skrbnicima pruža bolji uvid o tome s kim njihovi tinejdžeri komuniciraju, novim prijateljima koje su dodali, načinu na koji provode vrijeme na Snapchatu, određenim postavkama privatnosti i sigurnosti, mogućnostima dijeljenja lokacije i drugim pokazateljima koji obitelji mogu pomoći da rano prepozna probleme i započne razgovore na vrijeme. Ti alati ne uklanjaju svaki rizik. Ali oni stvaraju vidljivost i mogućnosti za intervenciju.

Neželjena posljedica koju bi donositelji politika trebali uzeti u obzir

Temeljna pretpostavka koja stoji iza mnogih prijedloga zabrane pristupa prema dobi jest da uklanjanje maloljetnika s uobičajenih platformi uklanja rizik.

Moje iskustvo ukazuje na nešto drugačije. Rizik ne nestaje. Rizik se premješta.

Donositelji politika trebali bi se manje usmjeriti na udaljavanje mladih ljudi s platformi, a više na to da platforme učine sigurnijima. To znači dizajniranje proizvoda s primjerenom zaštitom za određenu dob, pružanje korisnih alata roditeljima, ulaganje u timove za povjerenje i sigurnost, poboljšanje sustava za prijavu i otkrivanje, surađivanje s tijelima za provedbu zakona, povećanje transparentnosti i osiguravanje da mladi dobiju obrazovanje o digitalnoj pismenosti. Ove mjere izravno rješavaju potencijalni rizik, istodobno pružajući korisne alate, mogućnost prepoznavanja problema i interveniranja prije nego što dođe do pogoršanja štete.

Sigurnost ispred simbolike

Zaštita mladih na internetu jedan je od najvažnijih izazova javnih politika današnjice. No, učinkovita politika zahtijeva više od dobrih namjera. Zahtijeva razumijevanje stvarnog ponašanja ljudi.

Moje iskustvo u istraživanju iskorištavanja djece, sudjelovanju u tajnim operacijama, vođenju organizacije za sigurnost djece, svjedočenju pred Kongresom i sada radu u tehnološkoj tvrtki dovelo me je do jednog zaključka: djeca zaslužuju sigurnija online iskustva, a ne rješenja javnih politika koja ih jednostavno uklanjaju iz vidokruga.

Odgovor nije jednostavno uklanjanje mladih s platformi na kojima već postoje ulaganja u sigurnost. Odgovor je izgradnja i zahtijevanje digitalnih okruženja u kojima su sigurnost, odgovornost i intervencija ugrađeni u samo iskustvo.  Cilj ne bi trebala biti simbolika. Cilj bi trebala biti sigurnost. A to nije uvijek ista stvar.

— John Pizzuro, voditelj odjela za provedbu zakona i sigurnosnu politiku, Snap Inc.