Že več kot dve desetletji si prizadevam zaščititi otroke pred izkoriščanjem na spletu – najprej kot vodja delovne skupine za spletna kazniva dejanja zoper otroke v New Jerseyju, pozneje kot izvršni direktor in soustanovitelj neprofitne organizacije Raven, ki se osredotoča na boj proti izkoriščanju otrok, zdaj pa kot vodja področja sodelovanja z organi pregona in varnostne politike pri družbi Snap Inc. V vseh teh vlogah sem preiskoval plenilce otrok, sodeloval s preživelimi in družinami, pomagal oblikovati pravilnik o varnosti otrok ter pred Kongresom pričal o spletnem izkoriščanju in tehnologiji.

V vseh teh letih se je vedno znova pokazalo eno: Če ljudem preprečimo uporabo enega spletnega okolja, zaradi tega ne prenehajo uporabljati interneta. Preprosto se preselijo nekam drugam. 

Ta resničnost bi morala biti osrednja v današnji razpravi o predlogih za prepoved dostopa do družbenih omrežij najstnikom. Številni zagovorniki takšnih predlogov si prizadevajo za večjo varnost mladih na spletu. Vprašanje je, ali bodo ti pravilniki dejansko dosegli ta rezultat.

Težava z migracijo

Med prikritimi preiskavami, usmerjenimi proti plenilcem in mrežam za izkoriščanje otrok, sem večkrat opazil enak vzorec. Ko je platforma postala učinkovitejša pri odkrivanju morebitno škodljivega vedenja, so se kršitelji prilagodili tej uredbi. Ko se je moderiranje izboljšalo, so se preselili drugam. Ko se je pritisk organov pregona povečal, so se ti pritiski spremenili. Ko so zaščitni ukrepi otežili delovanje na splošno, so iskali mesta z manj pravili, manj nadzora in šibkejšo varnostno zaščito.

Enaka dinamika velja za mlade.

Najstnik, ki želi komunicirati na spletu, te želje ne izgubi nenadoma, ker zakon prepoveduje dostop do priljubljene, splošno razširjene storitve. Iznajdljivi mladi iščejo alternative. Zgodovina je to večkrat pokazala. Uporabniki – od anonimnih klepetalnic do platform, ki gostujejo v tujini, ko so uvedene omejitve, najdejo druge poti. Najstniki se ne razlikujejo.

Internet ne izginja. Digitalna komunikacija ne bo prenehala. Vprašanje ni, ali bodo mladi uporabljali splet. Vprašanje je, kam bodo šli.

Niso vse platforme enake

Ena največjih napačnih predpostavk v tej razpravi je, da se vse spletne storitve obravnavajo, kot da predstavljajo enako stopnjo tveganja. Vendar to ni tako.

Nekatere platforme, kot je Snapchat, so veliko vlagale v vzpostavitev sistemov za zagotavljanje zaupanja in varnosti, starosti primerno zasnovo, orodja za starše, proaktivno zaznavanje, sisteme za prijavo, moderiranje vsebin ter sodelovanje z organi pregona. Ti sistemi niso popolni in niso pristopi za zaščito otrok zunaj spleta. Toda ko so varnostna orodja platforme premišljeno zasnovana, so lahko bolj prilagodljiva, bolj dosledna in bolje opremljena za zgodnje odkrivanje, prijavljanje in posredovanje v primerjavi s številnimi tradicionalnimi pristopi. Vendar ustvarjajo nekaj bistvenega: Sposobnost zaznavanja tveganja in odzivanja nanj.

Ta zmožnost omogoča posredovanje in prijavo. To omogoča odgovornost. Zmožnost zaznavanja in odzivanja na resnično tveganje daje staršem, platformam in organom pregona več priložnosti, da prepoznajo ogrožajoče vedenje in ukrepajo, preden se škoda lahko stopnjuje ali celo nastane.

To je pomembno, ker mladi, ko so izključeni iz odgovornih platform, ki spoštujejo vrednote, ne delujejo v nevtralnem okolju. V številnih primerih se preselijo v prostore, ki so bolj tvegani, niso moderirani ali gostujejo v jurisdikcijah, ki se lahko izognejo preiskavam organov kazenskega pregona. V teh okoljih imajo starši, platforme in organi pregona omejene možnosti za hitro odzivanje.

Kako izgledajo naložbe v varnost v praksi

Moje trenutno delo je to izkušnjo še okrepilo.

Pri družbi Snap sem videl, kako je, ko podjetje poskuša varnostne funkcije vgraditi neposredno v uporabniško izkušnjo izdelka, namesto da bi varnost obravnavalo šele naknadno. Za mlajše uporabnike to vključuje možnosti zasnove in zaščitne ukrepe, namenjene zmanjšanju tveganja, ne pa le odzivanju nanj. To vključuje strožje omejitve za najstnike, omejitev široke izpostavljenosti in ustvarjanje orodij, ki družinam omogočajo boljši vpogled v to, kako mladi uporabljajo storitev.

Prav tako je pomembno, da to odraža temeljno načelo, ki bi ga morali oblikovalci politik upoštevati: Obstaja pomembna razlika med tem, da najstniki ostanejo v okoljih z varnostnimi sistemi, kanali za prijavo, orodji za starševski nadzor in mehanizmi odgovornosti, ter tem, da jih potisnemo v prostore, kjer takšne zaščite morda sploh ne obstajajo.

Družinsko središče družbe Snapchat je eden od primerov tega pristopa. Staršem in skrbnikom omogoča boljši vpogled v to, s kom njihov najstnik komunicira, katere nove prijatelje je dodal, kako preživlja čas v aplikaciji Snapchat, katere nastavitve zasebnosti in varnosti uporablja, kako je nastavil deljenje lokacije ter v druge znake, ki lahko družini pomagajo zgodaj prepoznati morebitne težave in se o njih prej pogovoriti. Ta orodja ne odpravljajo vseh tveganj. Vendar te dejavnosti ustvarjajo prepoznavnost in priložnosti za posredovanje.

Nenamerne posledice, ki bi jih morali oblikovalci politik upoštevati

Temeljna predpostavka, ki temelji na številnih predlogih za prepoved starostne omejitve, je, da odstranitev mladoletnikov z običajnih platform odpravi tveganje.

Moje izkušnje kažejo drugače. Tveganje ne izgine. Tveganje se zgolj preseli drugam.

Oblikovalci politik se morajo manj osredotočiti na to, da mladim preprečijo dostop do platform in bolj na zagotavljanje njihove varnosti. To pomeni oblikovanje izdelkov z zaščitnimi ukrepi, primernimi starosti uporabnikov, zagotavljanje učinkovitih orodij za starše, vlaganje v ekipe za zaupanje in varnost, izboljševanje sistemov za prijavo in zaznavanje, sodelovanje z organi pregona, večjo preglednost ter zagotavljanje izobraževanja mladih o digitalni pismenosti. Ti ukrepi neposredno obravnavajo morebitno tveganje, hkrati pa zagotavljajo pomembna orodja, ki omogočajo prepoznavanje težav in posredovanje, preden se škoda stopnjuje.