Sa loob ng mahigit dalawang dekada, nagtrabaho ako para protektahan ang mga bata mula sa pananamantala online, una bilang Commander ng New Jersey Internet Crimes Against Children Task Force, kalaunan bilang CEO at Co-Founder ng Raven (isang nonprofit na nakatuon sa paglaban sa pananamantala sa bata), at ngayon ay nangunguna sa pagpapatupad ng batas at patakaran sa kaligtasan sa Snap Inc. Sa mga tungkuling iyon, nag-imbestiga ako sa mga nang-aabuso sa bata, nakipagtulungan sa mga nakaligtas at mga pamilya, tumulong na humubog sa patakaran sa kaligtasan ng bata, at nagpatotoo sa Kongreso tungkol sa online na pananamantala at teknolohiya.

Nananatiling pare-pareho ang isang aralin: kapag pinipigilan ng mga tao na gumamit ng isang online environment, bihira silang humihinto sa pag-online. Lumipat lang sila sa ibang lugar.

Dapat na mahalaga sa debate ngayon tungkol sa mga panukala na ipagbawal ang mga kabataan sa social media. Maraming mga tagapagtaguyod ng mga panukalang katulad nito ang layunin ng paggawang mas ligtas para sa mga kabataan online. Ang tanong ay kung tunay na makakamit ng mga patakarang ito ang resultang iyon.

Ang Problema sa Migration

Sa mga undercover na imbestigasyon na pumupuntirya sa mga nang-aabuso at mga network ng pananamantala sa bata, paulit-ulit na nakita ko ang parehong pattern. Nang naging mas epektibo ang isang platform sa pagtukoy ng mga potensyal na mapaminsalang pag-uugali, umangkop ang mga gumagawa ng paglabag. Nang humusay ang pag-moderate, lumipat sila. Nang tumaas ang presyur sa mga tagapagpatupad ng batas, nagbago ang mga ito. Nang mapigilan ng mga proteksiyon ang operasyon, naghanap sila ng mga lugar na may mas kaunting regulasyon, hindi gaanong nasusubaybayan, at mas mahina ang proteksyon sa kaligtasan.

Nalalapat ang parehong dynamic sa mga kabataan.

Hindi biglang mawawala ang isang kabataan na gustong makipag-ugnayan online dahil ipinagbabawal ng batas ang pag-access sa isang sikat at na pangunahing serbisyo. Naghahanap ng mga alternatibo ang mga taong may kakayahang mag-navigate. Paulit-ulit na ipinakita ito ng kasaysayan. Mula sa mga anonymous na chat room hanggang sa mga platform na pinangangasiwaan ng mga banyaga, nakakahanap ang mga user ng iba pang mga paraan kapag ipinataw ang mga paghihigpit. Hindi naiiba ang mga kabataan.

Hindi mawawala ang internet. Hindi mawawala ang digital na komunikasyon. Ang tanong ay hindi kung ang kabataan ay mag-oonline. Ang tanong ay saan sila pupunta.

Hindi Lahat ng Platform Ay Pantay-pantay.

Isa sa mga pinakamalaking maling palagay sa debate na ito ay ang pagtrato sa bawat online na serbisyo na para bang nagpapakita ito ng parehong antas ng panganib. Ngunit hindi ito pareho.

Ang ilang platform, gaya ng Snapchat, ay malakas na namumuhunan sa imprastraktura ng tiwala at kaligtasan, naaangkop na disenyo, mga tool ng magulang, proactive na pag-detect, mga sistema ng pag-uulat, pag-moderate ng content, at pakikipagtulungan sa mga tagapagpatupad ng batas. Hindi perpekto ang mga sistemang ito, pati na rin ang mga offline na pamamaraan sa pagprotekta sa mga bata. Ngunit kapag maingat na idinisenyo, mas madaling masusukat ang mga tool sa kaligtasan sa platform at mas madaling gamiting para sa maagang pag-detect, pag-ulat, at interbensyon kumpara sa maraming tradisyunal na pamamaraan. Ngunit may isang bagay silang mahalaga: ang kakayahang matukoy ang panganib at tumugon dito.

Nagbibigay-daan ang kakayahang iyon sa interbensyon at pag-uulat. Pinapayagan nito ang pananagutan. Ang kakayahang matukoy at tumugon sa tunay na panganib ay nagbibigay sa mga magulang, platform, at tagapagpatupad ng batas ng mas maraming pagkakataon para tukuyin ang nagbabantang gawi at kumilos bago lumala o mangyari ang pinsala.

Mahalaga iyon dahil kapag itinutulak ang mga kabataan mula sa mga responsable at nagbibigay-galang sa mga platform na nagrerespeto ng mga values, hindi sila lumilipat sa neutral na kapaligiran. Sa maraming kaso, lumilipat sila sa mga espasyo na mas mapanganib, hindi na-moderate, o napapangasiwaan sa mga hurisdiksyon na maaaring makaiwas sa mga imbestigasyon sa pagpapatupad ng batas. Sa mga kapaligiran na iyon, may limitadong paraan ang mga magulang, platform, at tagapagpatupad ng batas para mabilis na tumugon.

Ano ang Hitsura ng Mga Pamumuhunan sa Kaligtasan sa Aktwal na Praktis?

Pinagtibay ng parehong aralin ang aking kasalukuyang trabaho.

Sa Snap, nakita ko kung ano ang hitsura nito kapag sinusubukan ng isang kumpanya na direktang bumuo ng mga feature sa kaligtasan sa karanasan ng produkto sa halip na tratuhin ang kaligtasan bilang isinasaisip sa huli. Para sa mga mas nakababatang user, kabilang dito ang mga pagpipilian sa disenyo at mga guardrail na nilalayong mabawasan ang panganib, hindi lang reaksyon dito. Kasama rito ang mas malakas na default para sa mga kabataan, paglilimita sa malawak na pagkakalantad, at paglikha ng mga tool na nagbibigay sa mga pamilya ng mas maraming insight tungkol sa kung paano ginagamit ng mga kabataan ang serbisyo.

Mahalaga rin ito, ipinapakita nito ang isang pangunahing prinsipyo na dapat tandaan ng mga policymaker: may makabuluhang pagkakaiba sa pagitan ng pagpapanatili ng mga kabataan sa kapaligiran na may mga sistemang pangkaligtasan, mga paraan ng pag-uulat, mga tool ng magulang, at mga istraktura ng pananagutan, at pagtulak sa mga space kung saan maaaring hindi pa umiiral ang mga proteksiyong iyon.

Isang halimbawa ang Family Center ng Snapchat ng pilosopiyang iyon. Binibigyan nito ang mga magulang at caregiver ng mas maraming kabatiran sa kung sino ang kinakausap ng kanilang anak na kabataan, mga bagong kaibigan na idinagdag nila, kung paano nila ginugol ang kanilang oras sa Snapchat, ilang mga setting sa privacy at kaligtasan, mga pagpipilian sa pagbabahagi ng lokasyon, at iba pang signal na makakatulong sa pamilya na matukoy nang maaga ang mga alalahanin at simulan nang mas maagap ang pakikipag-usap. Hindi inaalis ng mga tool na iyon ang bawat panganib. Ngunit lumilikha sila ng visibility at mga pagkakataong mamagitan.

Dapat Isaalang-alang ng Mga Policymaker ang Hindi Inaasahang Resulta

Ang pangunahing batayan ng maraming panukalang pagbabawal batay sa edad ay ang paniniwalang mababawasan ang panganib kapag inalis ang mga menor de edad sa mga pangunahing platform.

Iba ang iminumungkahing ng karanasan ko. Hindi mawawala ang panganib. Lumilipat ang panganib.

Dapat na mas mababa ang focus ng mga policymaker sa pagpigil sa mga kabataan sa mga platform at higit pa sa paggawa ng mga platform mas ligtas. Nangangahulugan ito ng pagdidisenyo ng mga produkto na may mga proteksiyong angkop sa edad, pagbibigay sa mga magulang ng makabuluhang mga tool, pamumuhunan sa mga pangkat na nangangasiwa sa tiwala at kaligtasan, pagpapahusay ng mga sistema ng pag-uulat at pagtuklas, pakikipagtulungan sa mga tagapagpatupad ng batas, pagpapataas ng transparency, at pagtiyak na ang mga kabataan ay tumatanggap ng edukasyon sa digital literacy. Direktang tinutugunan ng mga hakbang na ito ang mga potensyal na panganib habang nagbibigay ng mga makabuluhang tool, ang kakayahang tukuyin ang mga problema, at mamagitan bago lumala ang anumang pinsala.

Mas Mahalaga ang Kaligtasan kaysa sa Simbolismo

Ang pagprotekta sa mga nakababata online ay isa sa pinakamahalagang hamon sa patakaran sa ating panahon. Ngunit ang epektibong patakaran ay nangangailangan ng higit sa magandang intensyon. Nangangailangan ito ng pag-unawa sa kung paano talaga kumikilos ang mga tao.

Ang aking karanasan sa imbestigasyon sa pananamantala sa bata, pakikilahok sa mga undercover na operasyon, nangunguna sa isang organisasyon sa kaligtasan ng bata, pagsaksi sa Kongreso, at ngayon sa isang kumpanya ng teknolohiya ay humantong sa akin sa isang konklusyon: Dapat ang mga bata ay mas ligtas na karanasan online, hindi mga solusyon sa patakaran na simpleng alisin ang mga ito sa kanila.

Hindi lang ang sagot sa mga kabataan mula sa mga platform kung saan mayroon na nang mga pamumuhunan sa kaligtasan. Ang sagot ay pagbuo at paghingi ng mga digital na kapaligiran kung saan isinama ang kaligtasan, pananagutan, at interbensyon sa mismong karanasan. Hindi dapat simbolismo ang layunin. Dapat kaligtasan ang layunin. At hindi sila laging pareho.

— John Pizzuro, Head ng Law Enforcement at Safety Policy, Snap Inc.