I mere end to årtier har jeg arbejdet for at beskytte børn mod onlineudnyttelse, først som leder af New Jersey Internet Crimes Against Children Task Force, senere som administrerende direktør og medstifter af Raven (en nonprofitorganisation, der fokuserer på at bekæmpe udnyttelse af børn) og nu som leder af retshåndhævende og sikkerhedspolitik hos Snap Inc. I disse roller har jeg efterforsket personer, der udnytter børn, arbejdet med overlevende og familier, bidraget til udformingen af politikker for børns sikkerhed og aflagt vidnesbyrd for Kongressen om onlineudnyttelse og teknologi.

Én erkendelse har været bemærkelsesværdig konsekvent: Når folk bliver forhindret i at bruge ét onlinemiljø, stopper de sjældent med at være online. De flytter sig blot et andet sted hen. 

Denne virkelighed bør stå i centrum for dagens debat om forslag til at udelukke teenagere fra sociale medier. Mange fortalere for forslag som disse deler målet om at gøre unge mennesker mere trygge online. Spørgsmålet er, om disse politikker faktisk vil opnå dette resultat.

Migreringsproblemet

Under skjulte efterforskninger rettet mod personer, der udnytter børn, og udnyttelsesnetværk har jeg gentagne gange set det samme mønster. Når en platform blev mere effektiv til at opdage potentielt skadelig adfærd, tilpassede gerningsmændene sig. Når modereringen blev forbedret, flyttede de sig. Når presset fra de retshåndhævende myndigheder steg, flyttede de sig. Da sikkerhedsforanstaltninger gjorde det sværere at operere i det åbne, søgte de efter steder med færre regler, mindre tilsyn og svagere sikkerhedsforanstaltninger.

Den samme dynamik gælder for unge mennesker.

En teenager, der gerne vil kommunikere online, mister ikke pludselig lysten, fordi en lov forbyder adgang til en populær, mainstream-tjeneste. Ressourcemæssige unge mennesker leder efter alternativer. Historien har vist dette igen og igen. Fra anonyme chatrum til udenlandske platforme finder brugerne andre veje, når der indføres restriktioner. Teenagere er ikke anderledes.

Internettet forsvinder ikke. Digital kommunikation forsvinder ikke. Spørgsmålet er ikke, om unge mennesker vil gå online. Spørgsmålet er, hvor de vil tage hen.

Ikke alle platforme er ens

En af de største fejlagtige antagelser i denne debat er at behandle enhver online service, som om den udgør det samme risikoniveau. Det gør de ikke.

Nogle platforme, som Snapchat, har investeret kraftigt i tillids- og sikkerhedsinfrastruktur, alderssvarende design, forældreværktøjer, proaktiv detektion, rapporteringssystemer, indholdsmoderering og samarbejde med retshåndhævende myndigheder. Disse systemer er ikke perfekte, og det er offline tilgange til beskyttelse af børn heller ikke. Men når de er designet med omhu, kan platformens sikkerhedsværktøjer være mere skalerbare, mere ensartede og bedre rustet til at understøtte tidlig opdagelse, rapportering og indgriben end mange traditionelle tilgange. Men de skaber noget vigtigt: evnen til at opdage risiko og reagere på den.

Denne mulighed understøtter indgriben og rapportering. Det giver mulighed for ansvarlighed. Muligheden for at opdage og reagere på reelle risici giver forældre, platforme og politimyndigheder flere muligheder for at identificere truende adfærd og handle, før skaden eskalerer eller overhovedet opstår.

Det er vigtigt, fordi når unge mennesker bliver skubbet væk fra ansvarlige platforme, der respekterer grundlæggende værdier, flytter de ikke til et neutralt miljø. I mange tilfælde flytter de til miljøer, der er mere risikofyldte, umodererede eller hostet i jurisdiktioner, der kan unddrage sig efterforskning fra retshåndhævende myndigheder. I disse miljøer har forældre, platforme og politimyndigheder begrænsede muligheder for at reagere hurtigt.

Hvordan sikkerhedsinvesteringer ser ud i praksis

Mit nuværende arbejde har bekræftet den samme læring.

Hos Snap har jeg set, hvordan det ser ud, når en virksomhed forsøger at indbygge sikkerhedsfunktioner direkte i produktoplevelsen i stedet for først at tænke på sikkerhed bagefter. For yngre brugere omfatter det designvalg og sikkerhedsforanstaltninger, der har til formål at reducere risikoen og ikke kun reagere på den. Det omfatter stærkere standardindstillinger for teenagere, begrænsning af bred eksponering og udvikling af værktøjer, der giver familier mere indsigt i, hvordan unge mennesker bruger tjenesten.

Lige så vigtigt afspejler det et grundlæggende princip, som politiske beslutningstagere bør have øje for: Der er en væsentlig forskel på at lade teenagere færdes i miljøer med sikkerhedssystemer, rapporteringskanaler, forældreværktøjer og mekanismer, der siker ansvarlighed, og på at skubbe dem over i miljøer, hvor disse beskyttelsesforanstaltninger slet ikke findes.

Snapchats Familiecenter er et eksempel på denne filosofi. Det giver forældre og omsorgspersoner mere indsigt i, hvem deres teenager kommunikerer med, hvilke nye venner de har tilføjet, hvordan de bruger deres tid på Snapchat, visse privatlivs- og sikkerhedsindstillinger, valg vedrørende deling af placering og andre signaler, der kan hjælpe en familie med at opdage bekymringer og starte samtaler hurtigere. Disse værktøjer eliminerer ikke alle risici. Men de skaber synlighed og muligheder for at gribe ind.

Den utilsigtede konsekvens, som politiske beslutningstagere bør overveje

Den centrale antagelse bag mange forslag om aldersforbud er, at risikoen fjernes ved at fjerne mindreårige fra mainstreamplatforme.

Min erfaring tyder på noget andet. Risikoen forsvinder ikke. Risikoen flytter sig.

Politiske beslutningstagere bør fokusere mindre på at holde unge mennesker væk fra platforme og mere på at gøre platforme mere sikre. Det betyder, at designe produkter med alderssvarende beskyttelse, give forældre meningsfulde værktøjer, investere i tillids- og sikkerhedsteams, forbedre rapporterings- og detektionssystemer, samarbejde med retshåndhævende myndigheder, øge gennemsigtigheden og sikre, at unge får undervisning i digitale færdigheder. Disse foranstaltninger håndterer potentielle risici direkte, samtidig med at de giver meningsfulde værktøjer til at identificere problemer og gribe ind, før skaden eskalerer.

Sikkerhed frem for symbolisme

Beskyttelse af unge mennesker på nettet er en af vores tids vigtigste politiske udfordringer. Men en effektiv politik kræver mere end blot gode hensigter. Det kræver en forståelse af, hvordan folk faktisk opfører sig.

Mine erfaringer med at efterforske udnyttelse af børn, deltage i skjulte operationer, lede en børnesikkerhedsorganisation, vidne for Kongressen og nu arbejde i en teknologivirksomhed har ført mig til én konklusion: Børn fortjener sikrere onlineoplevelser, ikke politiske løsninger, der blot flytter dem ud af syne.

Svaret er ikke blot at fjerne unge mennesker fra de platforme, hvor der allerede findes sikkerhedsinvesteringer. Svaret er at opbygge og kræve digitale miljøer, hvor sikkerhed, ansvarlighed og indgriben er indlejret i selve oplevelsen. Målet bør ikke være symbolik. Målet bør være sikkerhed. Og det er ikke altid det samme.

— John Pizzuro, leder af retshåndhævelse og sikkerhedspolitik hos Snap Inc.