Al meer dan twee decennia heb ik me ingezet voor de bescherming van kinderen tegen online uitbuiting: eerst als commandant van de taskforce internetcriminaliteit tegen kinderen van New Jersey, later als CEO en mede-oprichter van Raven (een non-profitorganisatie gericht op het bestrijden van kinderuitbuiting), en nu als leider in het beleid voor wetshandhaving en veiligheid bij Snap Inc. Binnen die functies heb ik onderzoek gedaan naar misbruikers van kinderen, samengewerkt met slachtoffers en gezinnen, geholpen bij het vormgeven van een veiligheidsbeleid voor kinderen en getuigd voor het Amerikaans Congres over online uitbuiting en technologie.

Eén les is opmerkelijk consistent gebleven: wanneer mensen worden verhinderd om één online omgeving te gebruiken, stoppen ze zelden met online gaan. Ze gaan gewoon ergens anders heen. 

Die realiteit zou centraal moeten staan in het huidige debat over voorstellen om tieners van sociale media te verbieden. Veel voorstanders van dergelijke voorstellen hebben hetzelfde doel om jongeren online veiliger te maken. De vraag is of dit beleid dat doel daadwerkelijk zal bereiken.

Het migratieprobleem

Tijdens undercover-onderzoeken naar misbruikers van kinderen en netwerken voor uitbuiting heb ik hetzelfde patroon gezien. Als een platform effectiever wordt in het detecteren van mogelijk gevaarlijk gedrag, passen de overtreders zich aan. Als de moderatie verbetert, zoeken ze een nieuwe plek. Als de druk op de wetshandhaving toeneemt, passen ze zich aan. Als veiligheidsmaatregelen het moeilijker maken om in het openbaar te opereren, zoeken ze naar plaatsen met minder regels, minder toezicht en zwakkere veiligheidsmaatregelen.

Dezelfde dynamiek is van toepassing op jongeren.

Een tiener die online wil communiceren verliest die wil niet plotseling omdat een wet de toegang tot een populaire, reguliere dienst verbiedt. Vindingrijke jongeren zoeken naar alternatieven. De geschiedenis heeft dit keer op keer aangetoond. Van anonieme chatrooms tot platforms die in het buitenland worden gehost: gebruikers vinden andere wegen om beperkingen te opleggen. Tieners zijn niet anders.

Het internet verdwijnt niet. Digitale communicatie gaat niet verdwijnen. De vraag is niet of jongeren online zullen gaan. De vraag is waar ze naartoe gaan.

Niet alle platforms zijn gelijk

Een van de grootste misvattingen in dit debat is dat elke online dienst wordt behandeld alsof deze hetzelfde risico vormt. Dat is niet zo.

Sommige platforms, zoals Snapchat, hebben enorm geïnvesteerd in vertrouwens- en veiligheidsinfrastructuur, leeftijdsgeschikt ontwerp, tools voor ouders, proactieve detectie, rapportagesystemen, contentmoderatie en samenwerking met wetshandhavingsinstanties. Deze systemen zijn niet perfect en bieden ook geen offline maatregelen om kinderen te beschermen. Maar mits ze zorgvuldig zijn ontworpen kunnen platformveiligheidstools schaalbaarder, consistenter en beter uitgerust zijn om vroege detectie, melding en interventie mogelijk te maken, in vergelijking met veel traditionele benaderingen. Maar ze creëren iets essentieels: de mogelijkheid om risico's te detecteren en erop te reageren.

Die mogelijkheid maakt interventie en rapportering mogelijk. Het maakt verantwoording mogelijk. De mogelijkheid om reële risico's te detecteren en erop te reageren, geeft ouders, platforms en wetshandhavingsinstanties meer mogelijkheden om bedreigend gedrag te identificeren en op te treden voordat schade escaleert of zelfs ontstaat.

Dat is belangrijk omdat als jongeren worden weggeleid van betrouwbare platforms die waarden respecteren, ze niet in een neutrale omgeving terechtkomen. In veel gevallen gaan ze dan naar plekken die riskanter, ongemodereerd of gehost worden in rechtsgebieden die wetshandhavingsonderzoeken kunnen omzeilen. In die omgevingen hebben ouders, platforms en wetshandhavingsinstanties beperkte manieren om snel te reageren.

Hoe veiligheidsinvesteringen er in de praktijk uitzien

Mijn huidige werk heeft deze les versterkt.

Bij Snap heb ik gezien hoe het eruit ziet wanneer een bedrijf veiligheidsfuncties rechtstreeks in de productervaring probeert te integreren, in plaats van veiligheid als een nagedachte te beschouwen. Voor jongere gebruikers omvat dit ontwerpkeuzes en beveiligingsmaatregelen die het risico verminderen, niet alleen erop reageren. Het omvat sterkere standaardinstellingen voor tieners, het beperken van brede blootstelling en het ontwikkelen van tools die gezinnen meer inzicht geven in hoe jongeren de dienst gebruiken.

Het weerspiegelt ook een basisprincipe dat beleidsmakers in gedachten moeten houden: er is een belangrijk verschil tussen tieners binnen omgevingen houden met veiligheidssystemen, meldingskanalen, tools voor ouders en verantwoordingsstructuren, en ze naar plekken duwen waar deze bescherming misschien helemaal niet bestaat.

Het Family Center van Snapchat is een voorbeeld van die filosofie. Het geeft ouders en verzorgers meer inzicht in met wie hun tiener communiceert, welke nieuwe vrienden ze hebben toegevoegd, hoe ze hun tijd op Snapchat doorbrengen, bepaalde privacy- en veiligheidsinstellingen, keuzes voor het delen van de locatie en andere signalen die een gezin kunnen helpen waarschuwingssignalen eerder te herkennen en sneller gesprekken aan te gaan. Die tools elimineren niet elk risico. Maar ze creëren zichtbaarheid en mogelijkheden om in te grijpen.

Beleidsmakers moeten rekening houden met onbedoelde gevolgen

De basisveronderstelling achter veel voorstellen voor een leeftijdsverbod is dat minderjarigen van reguliere platforms weghalen het risico wegneemt.

Mijn ervaring wijst op het tegendeel. Het risico verdwijnt niet. Het risico verplaatst zich.

Beleidsmakers moeten zich minder richten op het voorkomen van jongeren van platforms en meer op het veiliger maken van platforms. Dat betekent dat producten worden ontworpen met leeftijdsgeschikte beschermingsmaatregelen, ouders worden voorzien van nuttige tools, investeren in vertrouwens- en veiligheidsteams, verbeteren van de rapportage- en detectiesystemen, betrekken van wetshandhavingsinstanties, vergroten van de transparantie en ervoor zorgen dat jongeren digitale toelichting krijgen. Deze maatregelen pakken potentiële risico's rechtstreeks aan en bieden nuttige tools om problemen te identificeren en in te grijpen voordat de schade escaleert.

Veiligheid boven symboliek

Het beschermen van jongeren online is een van de belangrijkste beleidsuitdagingen van onze tijd. Maar effectief beleid vereist meer dan goede bedoelingen. Het vereist begrip van hoe mensen zich werkelijk gedragen.

Mijn ervaring met het onderzoeken van kinderuitbuiting, deelnemen aan undercover-operaties, leiden van een kinderveiligheidsorganisatie, getuigen voor het Amerikaans Congres en nu werken voor een technologiebedrijf hebben me tot één conclusie geleid: kinderen verdienen veiligere online ervaringen, geen beleidsoplossingen die hen gewoon uit het zicht verwijderen.

Het antwoord ligt niet in het verwijderen van jongeren van de platforms waar al veiligheidsinvesteringen zijn gedaan. Het antwoord ligt in het bouwen en eisen van digitale omgevingen waarin veiligheid, verantwoording en interventie zijn geïntegreerd in de ervaring zelf.  Het doel mag niet symbolisch zijn. Het doel moet veiligheid zijn. En dat is niet altijd hetzelfde.

– John Pizzuro, Hoofd rechtshandhaving en veiligheidsbeleid, Snap Inc.