Enam kui kaks aastakümmet olen töötanud laste kaitsmiseks veebis ekspluateerimise eest, esmalt New Jersey lastevastaste küberkuritegudega võitlemise rakkerühma ülemana, hiljem Raveni tegevjuhina ja kaasasutajana (mittetulundusühing, mis on keskendunud laste ekspluateerimise vastu võitlemisele) ning nüüd juhtides Snap Inc. õiguskaitse- ja turvapoliitikat. Nendes rollides olen uurinud lasteahistajaid, teinud koostööd kannatanute ja peredega, aidanud kujundada laste turvapoliitikat ning andnud Kongressi ees tunnistusi veebis toimuva kuritarvitamise ja tehnoloogia kohta.

Üks õppetund on jäänud märkimisväärselt järjepidevaks: kui inimestel on takistatud ühe veebikeskkonna kasutamine, lõpetavad nad harva veebis käimise. Nad liiguvad lihtsalt kuhugi mujale. 

See reaalsus peaks olema tänapäeva arutelus teismeliste sotsiaalmeedia keelamise ettepanekute üle kesksel kohal. Paljudel selliste ettepanekute pooldajatel on ühine eesmärk muuta noored veebis turvalisemaks. Küsimus on selles, kas nende poliitikatega seda tulemust tegelikult saavutatakse.

Rändeprobleem

Lasteahistajatele ja ärakasutamisvõrgustikele suunatud varjatud uurimiste ajal nägin korduvalt sama mustrit. Kui platvorm muutus potentsiaalselt kahjuliku käitumise tuvastamisel tõhusamaks, kohanesid rikkujad. Kui modereerimine paranes, liikusid nad. Kui õiguskaitseorganite surve suurenes, muutusid nad. Kui kaitsemeetmed tegid avaliku tegevuse raskemaks, otsisid nad kohti, kus oli vähem reegleid, vähem järelevalvet ja nõrgemad ohutuskaitsemeetmed.

Sama dünaamika kehtib noorte suhtes.

Teismeline, kes soovib veebis suhelda, ei kaota seda soovi äkki, sest seadus keelab juurdepääsu populaarsele peavooluteenusele. Leidlikud noored otsivad alternatiive. Ajalugu on seda ikka ja jälle näidanud. Alates anonüümsetest jututubadest kuni välismaal hostitud platvormideni leiavad kasutajad piirangute kehtestamisel muid võimalusi. Teismelised ei ole erinevad.

Internet ei ole kadumas. Digitaalne suhtlus ei kao. Küsimus ei ole selles, kas noored lähevad veebi. Küsimus on selles, kuhu nad lähevad.

Kõik platvormid ei ole võrdsed

Üks suurimaid valeeeldusi, mis on selles arutelus, on iga veebiteenuse kohtlemine nii, nagu kujutaks see endast sama riskitaset. Nad ei tee seda.

Mõned platvormid, nagu Snapchat, on investeerinud oluliselt usaldus- ja turvalisuse infrastruktuuri, vanusekohasesse disaini, vanemlikesse tööriistadesse, ennetavasse tuvastamisse, teatamissüsteemidesse, sisu modereerimisse ja koostöösse õiguskaitseorganitega. Need süsteemid ei ole täiuslikud, nagu ei ole ka võrguvälised lähenemisviisid laste kaitsmiseks. Kuid läbimõeldud kujundamisel võivad platvormi turvatööriistad olla skaleeritavamad, järjepidevamad ja paremini varustatud varase avastamise, teatamise ja sekkumise toetamiseks võrreldes paljude traditsiooniliste lähenemisviisidega. Kuid need loovad midagi olulist: võimaluse riski tuvastada ja sellele reageerida.

See võime võimaldab sekkumist ja teatamist. See võimaldab vastutust. Võimalus tuvastada tõelist riski ja sellele reageerida annab vanematele, platvormidele ja õiguskaitseorganitele rohkem võimalusi ähvardava käitumise tuvastamiseks ja tegutseda enne kahju eskaleerumist või isegi tekkimist.

See on oluline, sest kui noored on vastutustundlikest ja väärtusi austavatest platvormidest kõrvale lükatud, ei liigu nad neutraalsesse keskkonda. Paljudel juhtudel liiguvad nad riskantsematesse, modereerimata või sellistes jurisdiktsioonides asuvatesse keskkondadesse, mis võivad õiguskaitseorganite uurimistest kõrvale hoiduda. Nendes keskkondades on vanematel, platvormidel ja õiguskaitseorganitel piiratud võimalused kiireks reageerimiseks.

Millised turvainvesteeringud praktikas välja näevad

Minu praegune töö on sedasama õppetundi tugevdanud.

Snapis olen näinud, kuidas see välja näeb, kui ettevõte püüab turvafunktsioone integreerida otse tootekogemusse, selle asemel et käsitleda turvalisust kui järelmõtet. Nooremate kasutajate jaoks hõlmab see disainivalikuid ja kaitsemeetmeid, mis on mõeldud riski vähendamiseks, mitte ainult sellele reageerimiseks. See sisaldab teismelistele mõeldud tugevamaid vaikesätteid, mis piiravad laialdast nähtavust ja loovad tööriistad, mis annavad peredele parema ülevaate sellest, kuidas noored teenust kasutavad.

Sama oluline on see, et see kajastab aluspõhimõtet, mida poliitikakujundajad peaksid meeles pidama: on oluline erinevus teismeliste hoidmise vahel keskkondades, kus on turvasüsteemid, teatamiskanalid, vanemlikud tööriistad ja vastutusstruktuurid, ning nende surumise vahel ruumidesse, kus neid kaitseid ei pruugi üldse eksisteerida.

Snapchati Perekeskus on üks näide sellest filosoofiast. See annab vanematele ja hooldajatele rohkem teavet selle kohta, kellega nende teismeline suhtleb, milliste uusi sõprade nad on lisanud, kuidas nad oma aega Snapchatis veedavad, teatud privaatsus- ja turvasätted, asukoha jagamise valikud ja muud signaalid, mis võivad aidata perel muresid varakult märgata ja vestlusi varem alustada. Need tööriistad ei kõrvalda kõiki riske. Kuid need loovad nähtavust ja sekkumisvõimalusi.

Soovimatuid tagajärgi peaksid poliitikakujundajad arvestama

Paljude vanusepiirangu ettepanekute peamine eeldus on see, et alaealiste eemaldamine peavooluplatvormidelt kõrvaldab riski.

Minu kogemus näitab midagi muud. Risk ei kao. Risk paigutatakse ümber.

Poliitikakujundajad peaksid keskenduma vähem noorte platvormidest eemal hoidmisele ja rohkem platvormide turvalisemaks muutmisele. See tähendab toodete kujundamist vanusele sobivate kaitsemeetmetega, vanematele sisukate tööriistade andmist, usaldus- ja ohutusmeeskondadesse investeerimist, aruandlus- ja tuvastussüsteemide täiustamist, õiguskaitseorganite kaasamist, läbipaistvuse suurendamist ja noorte digitaalse kirjaoskuse hariduse tagamist. Need meetmed käsitlevad otseselt võimalikku riski, pakkudes samal ajal sisukaid tööriistu, võimalust tuvastada probleeme ja sekkuda enne kahju eskaleerumist.

Turvalisus üle sümboolsuse

Noorte kaitsmine veebis on meie aja üks olulisemaid poliitilisi väljakutseid. Kuid tõhus poliitika nõuab enamat kui häid kavatsusi. See nõuab mõistmist, kuidas inimesed tegelikult käituvad.

Minu kogemus laste ekspluateerimise uurimisel, varjatud operatsioonides osalemisel, laste ohutusorganisatsiooni juhtimisel, Kongressi ees tunnistuste andmisel ja nüüd tehnoloogiaettevõttes töötamisel on viinud mind ühele järeldusele: lapsed väärivad turvalisemaid veebikogemusi, mitte poliitilisi lahendusi, mis nad lihtsalt vaateväljast eemaldavad.

Lahendus ei ole ainult noorte eemaldamine platvormidelt, kus turvainvesteeringud juba olemas on. Lahendus on digitaalsete keskkondade loomine ja nõudmine, kus turvalisus, vastutus ja sekkumine on integreeritud kogemusse endasse.  Eesmärk ei tohiks olla sümboolsus. Eesmärk peaks olema ohutus. Ja need ei ole alati üks ja seesama asi.

– John Pizzuro, õiguskaitseorganite ja ohutuspoliitika juht Snap Inc.