Több mint két évtizede azon dolgozom, hogy megvédjük a gyermekeket az online kizsákmányolástól, először a New Jersey-i gyermekek elleni internetes bűncselekmények munkacsoportjának parancsnokaként, később a Raven (egy nonprofit szervezet, amely a gyermekek kizsákmányolása elleni küzdelemre épül) vezérigazgatójaként és társalapítójaként, most pedig a bűnüldöző és biztonsági politika vezetőjeként a Snap Inc.-nél. Ezekben a szerepekben gyermekek ragadozói ellen nyomoztam, dolgoztam túlélőkkel és családokkal, segítettem a gyermekek biztonsági irányelvének kialakításában, és tanúskodtam a Kongresszus előtt az online kizsákmányolásról és technológiáról.

Egy lecke meglepően következetes maradt: amikor az embereket megakadályozzák egy online környezet használatában, akkor ritkán hagyják abba az online tevékenységet. Egyszerűen elköltöznek valahova máshová. 

Ennek a valóságnak kellene a középpontban állnia a tizenévesek közösségi médiából való kitiltásáról szóló javaslatok vitájában. Az ilyen javaslatok sok támogatója egyetért abban a célban, hogy tegyük biztonságosabbá a fiatalok online jelenlétét. A kérdés az, hogy ezek az irányelvek valóban elérik-e ezt a célt.

A migrációs probléma

A gyermekek ragadozóit és kizsákmányoló hálózatokat célzó beépített nyomozások során újra és újra ugyanazt a mintát láttam. Amikor egy platform hatékonyabbá vált a potenciálisan káros viselkedés észlelésében, az elkövetők alkalmazkodtak. Amikor a moderálás javult, továbbáltak. Amikor a bűnüldöző szervek nyomása nőtt, váltottak. Amikor az óvintézkedések megnehezítették a nyílt színi működést, olyan helyeket kerestek, ahol kevesebb szabály, kevesebb felügyelet és gyengébb biztonsági védelem van.

Ugyanez a dinamika vonatkozik a fiatalokra is.

Egy online kommunikálni kívánó tizenéves nem veszíti el hirtelen ezt a vágyat, mert egy törvény tiltja egy népszerű, mainstream szolgáltatáshoz való hozzáférést. A leleményes fiatalok alternatívákat keresnek. A történelem ezt újra és újra bebizonyította. A névtelen csevegőszobáktól a külföldi üzemeltetésű platformokig a felhasználók más utakat is találnak, amikor korlátozások vannak érvényben. A tizenévesek nem különböznek ettől.

Az internet nem tűnik el. A digitális kommunikáció nem tűnik el. A kérdés nem az, hogy a fiatalok online lesznek-e. A kérdés az, hogy hová mennek.

Nem minden platform egyforma

Ennek a vitának az egyik legnagyobb téves feltételezése, hogy minden online szolgáltatást úgy kezel, mintha az ugyanolyan szintű kockázatot jelentene. Pedig nem.

Egyes platformok, mint például a Snapchat, sokat fektettek be a bizalmi és biztonsági infrastruktúrába, az életkornak megfelelő tervezésbe, a szülői eszközökbe, a proaktív észlelésbe, a jelentési rendszerekbe, a tartalommoderálásba és a bűnüldöző szervekkel való együttműködésbe. Ezek a rendszerek nem tökéletesek, ahogy a gyermekek védelmét szolgáló offline megközelítések sem. De ha gondosan tervezik meg őket, a platform biztonsági eszközei skálázhatóbbak, következetesebbek és jobban felkészültek a korai észlelés, a jelentés és a beavatkozás támogatására, mint sok hagyományos megközelítés. De valami fontosat hoznak létre: a kockázat észlelésének és az arra való reagálásnak a képességét.

Ez a képesség lehetővé teszi a beavatkozást és a jelentést. Ez lehetővé teszi az elszámoltathatóságot. A valós kockázatok észlelésének és az azokra való reagálásnak a képessége több lehetőséget biztosít a szülőknek, a platformoknak és a bűnüldöző szerveknek a fenyegető viselkedés azonosítására, és cselekvésre, mielőtt a károkozás eszkalálódna vagy akár bekövetkezne.

Ez azért számít, mert amikor a fiatalok elhagyják a felelősségteljes, értékeket tiszteletben tartó platformokat, nem egy semleges környezetbe lépnek be. Sok esetben olyan helyekre váltanak át, amelyek kockázatosabbak, nem moderáltak, vagy olyan joghatóságokban helyezkednek el, amelyek képesek elkerülni a bűnüldöző szervek általi nyomozást. Ilyen környezetben a szülők, a platformok és a bűnüldöző szervek csak korlátozott lehetőségekkel rendelkeznek arra, hogy gyorsan reagáljanak.

Hogyan néznek ki a biztonsági befektetések a gyakorlatban?

A jelenlegi munkám ugyanezt a leckét erősítette meg.

A Snapnél láttam milyen az, amikor egy vállalat biztonsági funkciókat próbál közvetlenül a termékélménybe beépíteni, nem pedig a biztonságot utólagos gondolatként kezelni. A fiatalabb felhasználók esetében ez magában foglal olyan tervezési döntéseket és védőmechanizmusokat, amelyeknek a célja nem csupán reagálás a kockázatokra, hanem azok csökkentése. Magában foglal szigorúbb alapbeállításokat a tizenévesekre vonatkozóan, korlátozva a széles körű kitettséget és létrehozva olyan eszközöket, amelyek jobb betekintést nyújtanak a családoknak abba, hogy hogyan használják a szolgáltatást a fiatalok.

Ugyanilyen fontos, hogy egy alapvető elvet tükröz, amelyet a döntéshozóknak szem előtt kell tartaniuk: jelentős különbség van aközött, hogy a tizenéveseket olyan környezetben tartjuk, ahol biztonsági rendszerek, jelentési csatornák, szülői eszközök és elszámoltathatósági struktúrák vannak, és hogy olyan helyekre tereljük-e őket, ahol ezek a védelmek egyáltalán nem léteznek.

A Snapchat Családi központ az egyik példa erre a filozófiára. A szülők és a gondviselők számára egyrészt több betekintést nyújtanak abba, hogy kivel kommunikál a tizenéves gyermekük, kiket vettek föl új barátként, hogyan töltik az idejüket a Snapchaten, másrészt bizonyos adatvédelmi és biztonsági beállításokat, helymegosztási lehetőségeket és egyéb jelzéseket, amelyek segíthetnek a családi aggályok korai felismerésében, és hamarabb elkezdeni a beszélgetéseket. Ezek az eszközök nem küszöbölnek ki minden kockázatot. De láthatóságot és beavatkozási lehetőségeket teremtenek.

A nem szándékolt következmények, amelyeket a döntéshozóknak figyelembe kell venniük

Sok korhatár-tilalomra vonatkozó javaslat mögött az az alapvető feltételezés, hogy a kiskorúak eltávolítása a mainstream platformokról megszünteti a kockázatot.

Az én tapasztalataim valami másra utalnak. A kockázat nem tűnik el. A kockázat áthelyeződik.

A döntéshozóknak kevésbé kellene összpontosítaniuk arra, hogy a fiatalokat távol tartsák a platformoktól, és jobban kellene összpontosítaniuk a platformok biztonságosabbá tételére. Ez azt jelenti, hogy a termékeket az életkornak megfelelő védelemmel kell tervezni, a szülőknek érdemi eszközöket kell biztosítani, a bizalmi és biztonsági csapatokba kell befektetni, a jelentési és észlelési rendszereket fejleszteni, a bűnüldöző szerveket bevonni, az átláthatóságot növelni, és biztosítani, hogy a fiatalok digitális műveltségi oktatásban részesüljenek. Ezek az intézkedések közvetlenül a lehetséges kockázatokkal foglalkoznak, miközben hasznos eszközöket biztosítanak, lehetővé teszik a problémák azonosítását és a beavatkozást, mielőtt a károkozás súlyosbodna.

Biztonság a szimbolizmus helyett

A fiatalok online védelme korunk egyik legfontosabb szakpolitikai kihívása. De a hatékony irányelvekhez többre van szükség, mint jó szándék. Megköveteli annak megértését, hogyan viselkednek az emberek valójában.

A gyermekek kizsákmányolása utáni nyomozások során szerzett tapasztalataim, titkos műveletekben való részvétel, egy gyermekekbiztonsági szervezet vezetése, a Kongresszus előtt való tanúskodás, és most egy technológiai vállalatnál való munkám során egy következtetésre jutottam: a gyermekek biztonságosabb online élményeket érdemelnek, nem pedig olyan irányelveket, amelyek egyszerűen szem elől tévesztik őket.

A válasz nem az, hogy a fiatalokat egyszerűen eltávolítjuk azokról a platformokról, ahol már vannak biztonsági beavatkozások. A válasz olyan digitális környezetek kiépítése és megkövetelése, ahol a biztonság, az elszámoltathatóság és a beavatkozás magába az élménybe van beépítve.  A cél nem lehet a szimbolizmus. A cél a biztonság legyen. És ez a kettő nem mindig ugyanaz.

— John Pizzuro, a Bűnüldöző és biztonsági politika vezetője, Snap Inc.