Lubos na nakatuon ang Snap sa kaligtasan ng komunidad ng Snapchat. Ang aming layunin ay tulungang protektahan ang mga user mula sa iba't ibang online na panganib at potensyal na pinsala na sumasaklaw sa digital ecosystem, kabilang ang mga karumal-dumal na krimen na kinasasangkutan ng child sexual exploitation and abuse (CSEA). Ilang taon nang nilalabanan ng Snap ang ilegal na content na ito at ang masasamang kriminal na pag-uugali, na gumagamit ng parehong proactive-detection at reactive-response na mga hakbang sa buong Snapchat app. Sa nakalipas na taon, gumawa kami ng mga karagdagang pagbabago sa aming mga kaugnay na patakaran at proseso na may layuning tumulong na maiharap sa hustisya ang mga may kasalanan. Nais naming magbahagi pa tungkol sa gawaing iyon dito.

Ano ang CSEA?

Saklaw ng child sexual exploitation and abuse ang iba't ibang ilegal na aktibidad na kinasasangkutan ng sekswal na pinsala sa mga menor de edad, kabilang ang: pagtingin, paggawa, at pamamahagi ng child sexual exploitation and abuse imagery (CSEAI), kabilang ang mas bagong banta ng mga larawan at video na binuo ng AI; ang online grooming, o pang-aakit, ng mga menor de edad para sa mga sekswal na layunin; ¹sekswal na pangingikil; ²sex trafficking ng bata; at ang live-streaming ng mga batang sekswal na inaabuso at pinahihirapan. ³Mahirap unawain na talagang umiiral ang mga kasuklam-suklam na katotohanang ito. Ngunit, nakalulungkot, palaging mayroong ganitong pang-aabuso – at ang digital na mundo ngayon ay nagbibigay ng alternatibong paraan ng pang-aabuso, na nagpapalawak sa mga paraan ng pagkakasala upang maging mas mabilis at mas malawak ang abot.

“Pangunahing binago ng teknolohiya ang paraan ng mga taong may sekswal na interes sa mga bata sa pagpapantasya tungkol sa kanila, pag-access sa kanila, at pambibiktima sa kanila,” sabi ni Ernie Allen, Tagapangulo ngWeProtect Global Alliancena nakabase sa London. “AngNew York Timesay nagsulat, 'Ang krisis ng online child sexual exploitation ay nasa bingit na.' Binanggit nito na dumarami ang mga ulat, nagbabahagi ang mga nagkasala ng mga larawan ng mga mas batang biktima at mas karumal-dumal na krimen, at nahihirapan ang tagapagpatupad ng batas na makasabay. Kung magdaragdag ka ng mga bagong pagkakaiba-iba sa hamon na iyon, tulad ng sextortion, na iniulat ng FBI na tumaas ng 7,200%, live-streaming na pang-aabuso at iba pa, malinaw na ang problemang ito ay dapat na nasa tuktok ng mga agenda ng patakaran sa buong mundo,” dagdag niya.

Mga legal na obligasyon ng mga kumpanya ng teknolohiya

Kapag nalaman ng mga kumpanya ng teknolohiya sa U.S. ang CSEA sa kanilang mga platform o serbisyo, mayroon silang legal na tungkulin na iulat ito sa National Center for Missing and Exploited Children (NCMEC). Pagkatapos ay sinusuri ng NCMEC ang mga CyberTip na ito at nakikipag-ugnayan sa parehong domestic at international na tagapagpatupad ng batas upang makatulong na mapangalagaan ang mga batang biktima at maparusahan ang mga nagkasala.

Hanggang noong nakaraang taon, ang taunang kabuuan ng mga CyberTip sa NCMEC ay higit na tumataas taon-taon, na umabot sa rekord na 36.2 milyong ulat ⁴noong 2023, mula sa mahigit 32 milyon lamang noong 2022, at 4,560 noong 1998 nang likhain ang CyberTipline ng NCMEC. Ang rekord na pagtaas na ito sa mga CyberTip — bilang karagdagan sa iba pang mga kadahilanan, kabilang ang patuloy na pagtaas ng sekswal na pangingikil sa buong mundo at feedback na natanggap namin mula sa tagapagpatupad ng batas tungkol sa pagiging naaaksyunan ng aming sariling mga CyberTip — ang nag-udyok sa Snap na unang lumapit sa NCMEC noong 2024 upang muling i-calibrate ang aming pag-uulat ng CyberTip.

Sinubaybayan ko ang pag-uulat ng CyberTip sa loob ng ilang taon, at lubos akong naniniwala na ang kasanayan ng ilang kumpanya ng teknolohiya ay nag-trend patungo sa pag-uulat nglahatsa NCMEC — kahit na higit pa sa kanilang legal na obligasyon — dahil sa takot na maakusahan na may nawawalaisang bagay. ⁵Ang mga kumpanyang nabigong mag-ulat ayon sa hinihiling ng batas ay maaaring maharap sa mabibigat na multa. Ngunit ang paraan na ito sa pag-uulat, kasama ng mababang pagiging naaaksyunan ng maraming ulat (dahil sa kakulangan ng sapat na konteksto ng mga CyberTip para sa tagapagpatupad ng batas na kumilos o dahil ang iniulat na pag-uugali ay, sa ilang mga pagkakataon, hindi isang priyoridad para sa kanila), ay nagresulta sa dumaraming CyberTip; maramihan, malawak na pagsusuri; at tumaas na pagkadismaya sa mga tagapagpatupad ng batas.

Layunin: Mga CyberTip na may Mataas na Halaga

Ang layunin ng aming muling pag-calibrate sa NCMEC ay upang higit pang mapataas ang pagiging naaaksyunan at halaga ng mga CyberTip ng Snap sa pamamagitan ng pagpino sa aming sariling mga patakaran sa platform at mga protocol na mayroon kami para sa pag-uulat sa NCMEC. Ang paunang muling pag-calibrate na iyon ay naganap noong Mayo ng 2024, at ang aming mga pagbabago sa patakaran ay naging ganap na epektibo sa huling bahagi ng nakaraang taon.

Bagama't dapat nating iwasan ang pagbibigay ng labis na diin sa purong bilang ng mga ulat nang hiwalay, mula nang ipatupad ang aming mga pagpino sa patakaran, ikinagagalak ng Snap na ibahagi na nakakita kami ng isang makabuluhang pagbaba sa aming pangkalahatang dami ng pag-uulat sa NCMEC at isang katulad na pagbaba sa mga pagdami para sa online na pang-aakit – lahat habang tinutupad pa rin ang aming mga legal na obligasyon na iulat ang CSEA sa mga CyberTip. Ang mas mababang kabuuan ay hindi pa nasasala sa taunang dami ng pag-uulat ng NCMEC, gayunpaman, dahil ang mga pagbabago ay ipinatupad sa huling bahagi ng 2024, na nag-iwan lamang ng ilang buong buwan ng taon upang maipakita ang mga pag-amyenda.

Kasabay nito, ang aming koponan ay nagsusumikap na mapabuti ang data at pag-label sa aming mga CyberTip. Ang ganitong mga paglilinaw ay maaaring makatulong upang mas mahusay na matukoy ang mga di-umano'y krimen at mga indibidwal na sangkot at, sa gayon, ay nagbibigay-daan para sa mas mabilis at mas tumpak na pag-triaging ng mga ulat ng NCMEC at tagapagpatupad ng batas. Kahit na ang pag-uulat sa NCMEC ay maaaring hindi nararapat, patuloy na tutugunan ng Snap ang mga imahe at pag-uugali na lumalabag sa aming mga patakaran sa platform sa pamamagitan ng pagkilos – na maaaring kabilang ang pag-alis ng lumalabag na content, pag-disable sa account, at paghahangad na i-block ang paglikha ng mga bagong account.

Checkpoint ng muling pag-calibrate

Noong nakaraang buwan, nagsagawa kami ng pangalawang muling pag-calibrate sa NCMEC, kung saan binalikan ng koponan ng Snap ang mga panloob na pagbabago sa patakaran noong nakaraang taon; in-update ang NCMEC sa aming pag-unlad; kinumpirma ang ilang karagdagang mga alituntunin sa pagpapatakbo; at tumulong na magtakda ng mga inaasahan para sa mga darating na buwan. Nag-preview din kami ng ilang karagdagang nakaplanong mga pagdaragdag sa patakaran at pag-uulat na inaasahan naming patuloy na magpapahusay sa halaga ng aming mga ulat sa parehong NCMEC at tagapagpatupad ng batas. Natural, ito ay isang paulit-ulit na proseso, ngunit kami ay hinihikayat ng pag-unlad sa nakalipas na taon.

Pagtingin sa hinaharap

Sa paglipas ng panahon, inaasahan namin na ang NCMEC at ang tagapagpatupad ng batas ay maaaring patuloy na makakita ng nabawasang dami ng mga CyberTip mula sa Snap kumpara sa mga nakaraang taon, ngunit isang mas malaking porsyento ng mganatatanggapnila ay dapat maglaman ng mas mataas na kalidad na impormasyon at maging mas naaaksyunan.

Kami ay nakatuon sa patuloy na pagpapabuti sa lahat ng aspeto ng aming gawaing pangkaligtasan. Hindi namin ipinagpapanggap na mayroon kaming lahat ng mga sagot patungkol sa paglaban sa CSEA o anumang iba pang potensyal na online na pinsala; walang sinuman ang dapat dahil walang sinuman ang mayroon. Araw-araw, nilalabanan namin ang mga isyu ng buong lipunan at nagdadala kami ng isangbuong kumpanyana diskarte upang harapin – na may sukdulang kambal na layunin na pagaanin ang panganib at bawasan ang pinsala.

Patungkol sa aming mga CyberTip, mayroon kaming isang natatanging layunin para sa hindi malayong hinaharap: Maging ito man ay isang state Internet Crimes Against Children Task Force (ICAC) commander, isang pederal na imbestigador, o isang miyembro ng tagapagpatupad ng batas sa kabilang panig ng mundo, gusto namin na ang mga awtoridad ng estado, pederal, at internasyonal ay may kumpiyansang ituloy ang mga CyberTip mula sa Snap dahil alam nila na ang aming mga ulat ay maaaring palaging maaasahan bilang naaaksyunan, mahalaga, at masinsinan. At, ang aming pag-asa ay ang mga pagsisikap na iyon ay makakatulong na mag-udyok ng kaukulang pagtaas sa mga kaugnay na pag-aresto ⁶at mga hatol sa buong mundo.

Isang malaking “salamat” sa NCMEC, WeProtect, sa 61 ICAC Task Forces sa U.S., sa mga tagapagpatupad ng batas sa buong mundo, at sa lahat ng aming mga kasamahan at collaborator sa buong larangan ng paglaban sa CSEA – at isang karagdagang paalala na kami ay nananatiling bukas, at sabik, para sa inyong feedback upang higit pang mapabuti ang aming mga estratehiya at diskarte. Magkakasama tayong lahat dito.

- Jacqueline Beauchere, Global Head of Platform Safety