Snap sangat berkomitmen terhadap keselamatan komunitas Snapchat. Tujuan kami adalah membantu melindungi pengguna dari berbagai risiko online dan potensi bahaya yang mencakup ekosistem digital, termasuk kejahatan keji yang melibatkan eksploitasi dan pelecehan seksual anak (CSEA). Snap telah memerangi konten ilegal dan perilaku kriminal keji ini selama bertahun-tahun, dengan menerapkan langkah-langkah deteksi proaktif dan respons reaktif di seluruh aplikasi Snapchat. Selama setahun terakhir, kami telah membuat perubahan tambahan pada kebijakan dan proses terkait dengan tujuan membantu membawa pelaku ke pengadilan. Kami ingin berbagi lebih banyak tentang pekerjaan itu di sini.

Apa itu CSEA?

Eksploitasi dan pelecehan seksual anak mencakup berbagai aktivitas ilegal yang melibatkan kekerasan seksual terhadap anak di bawah umur, termasuk: melihat, memproduksi, dan mendistribusikan citra eksploitasi dan pelecehan seksual anak (CSEAI), termasuk ancaman baru berupa foto dan video yang dihasilkan oleh AI; bujuk rayu online, atau pemikat, anak di bawah umur untuk tujuan seksual; ¹pemerasan seksual; ²perdagangan seks anak; dan siaran langsung anak-anak yang dilecehkan dan disiksa secara seksual. ³Sulit untuk memahami bahwa kenyataan yang menjijikkan ini benar-benar ada. Namun, sayangnya, pelecehan seperti itu selalu ada – dan dunia digital kini menyediakan sarana pelecehan alternatif, memperluas mode pelanggaran menjadi lebih cepat dan lebih luas jangkauannya.

“Teknologi telah secara fundamental mengubah cara orang-orang yang memiliki minat seksual pada anak-anak berfantasi tentang mereka, mengakses mereka, dan memangsa mereka,” kata Ernie Allen, KetuaWeProtect Global Alliance. “New York Timesmenulis, ‘Krisis eksploitasi seksual anak online berada di titik puncak.’ Dicatat bahwa laporan-laporan meningkat, para pelaku membagikan gambar-gambar korban yang lebih muda dan kejahatan yang lebih keji, dan penegak hukum berjuang untuk mengikutinya. Jika Anda menambahkan variasi baru pada tantangan itu, seperti pemerasan seksual, yang dilaporkan FBI naik 7.200%, pelecehan siaran langsung dan lainnya, jelas masalah ini harus menjadi agenda kebijakan utama di seluruh dunia,” tambahnya.

Kewajiban hukum perusahaan teknologi

Ketika perusahaan teknologi AS mengetahui adanya CSEA di platform atau layanan mereka, mereka memiliki kewajiban hukum untuk melaporkannya ke National Center for Missing and Exploited Children (NCMEC). NCMEC kemudian meninjau CyberTips ini dan bekerja sama dengan penegak hukum domestik dan internasional untuk membantu melindungi korban anak dan menghukum pelaku.

Hingga tahun lalu, total tahunan CyberTips ke NCMEC sebagian besar meningkat dari tahun ke tahun, mencapai rekor 36,2 juta laporan ⁴pada tahun 2023, naik dari lebih dari 32 juta pada tahun 2022, dan 4.560 pada tahun 1998 ketika CyberTipline NCMEC dibuat. Peningkatan rekor dalam CyberTips ini — selain faktor-faktor lain, termasuk lonjakan berkelanjutan dalam pemerasan seksual secara global dan umpan balik yang kami terima dari penegak hukum tentang kemampuan tindak lanjut CyberTips kami sendiri — yang mendorong Snap untuk pertama kali mendekati NCMEC pada tahun 2024 untuk mengkalibrasi ulang pelaporan CyberTip kami.

Saya telah memantau pelaporan CyberTip selama beberapa tahun, dan saya sangat yakin bahwa praktik beberapa perusahaan teknologi telah cenderung melaporkansemuanyake NCMEC — bahkan melebihi kewajiban hukum mereka — karena takut dituduh melewatkansesuatu. ⁵Perusahaan yang gagal melapor sebagaimana diwajibkan oleh hukum dapat menghadapi denda yang berat. Namun pendekatan pelaporan ini, ditambah dengan rendahnya kemampuan tindak lanjut dari banyak laporan (baik karena CyberTips tidak memiliki konteks yang cukup bagi penegak hukum untuk mengambil tindakan atau karena perilaku yang dilaporkan, dalam beberapa kasus, bukan prioritas bagi mereka), telah mengakibatkan meningkatnya CyberTips; beberapa tinjauan ekstensif; dan meningkatnya frustrasi di kalangan penegak hukum.

Tujuan: CyberTips Bernilai Tinggi

Tujuan dari kalibrasi ulang kami dengan NCMEC adalah untuk lebih meningkatkan kemampuan tindak lanjut dan nilai CyberTips Snap dengan menyempurnakan kebijakan platform kami sendiri dan protokol yang kami miliki untuk pelaporan ke NCMEC. Kalibrasi ulang awal tersebut dilakukan pada bulan Mei 2024, dan perubahan kebijakan kami mulai berlaku sepenuhnya pada paruh kedua tahun lalu.

Meskipun kita harus menghindari penekanan yang terlalu besar pada jumlah laporan secara terpisah, sejak menerapkan penyempurnaan kebijakan kami, Snap dengan senang hati berbagi bahwa kami telah melihat penurunan yang signifikan dalam volume pelaporan kami secara keseluruhan ke NCMEC dan penurunan serupa dalam eskalasi untuk bujukan online – semuanya sambil tetap memenuhi kewajiban hukum kami untuk melaporkan CSEA di CyberTips. Namun, total yang lebih rendah belum tersaring ke dalam volume pelaporan tahunan NCMEC, karena perubahan tersebut diterapkan pada akhir tahun 2024, hanya menyisakan beberapa bulan penuh dalam setahun untuk mencerminkan amandemen tersebut.

Secara paralel, tim kami telah berupaya meningkatkan data dan pelabelan di CyberTips kami. Klarifikasi semacam itu dapat membantu mengidentifikasi dugaan kejahatan dan individu yang terlibat dengan lebih baik dan, pada gilirannya, memungkinkan triase laporan yang lebih cepat dan lebih akurat oleh NCMEC dan penegak hukum. Bahkan ketika pelaporan ke NCMEC mungkin tidak dijamin, Snap akan terus menangani citra dan perilaku yang melanggar kebijakan platform kami dengan mengambil tindakan – yang dapat mencakup menghapus konten yang melanggar, menonaktifkan akun, dan berupaya memblokir pembuatan akun baru.

Pos pemeriksaan kalibrasi ulang

Bulan lalu, kami mengadakan kalibrasi ulang kedua dengan NCMEC, di mana tim Snap merekapitulasi perubahan kebijakan internal tahun lalu; memperbarui NCMEC tentang kemajuan kami; mengonfirmasi beberapa pedoman operasi tambahan; dan membantu menetapkan ekspektasi untuk bulan-bulan mendatang. Kami juga mempratinjau beberapa kebijakan dan penambahan pelaporan yang direncanakan lebih lanjut yang kami harap akan terus meningkatkan nilai laporan kami kepada NCMEC dan penegak hukum. Tentu saja, ini adalah proses berulang, tetapi kami terdorong oleh kemajuan selama setahun terakhir.

Ke depannya

Seiring waktu, kami berharap NCMEC dan penegak hukum dapat terus melihat penurunan volume CyberTips dari Snap dibandingkan dengan tahun-tahun sebelumnya, tetapi persentase yang lebih besar dari yang merekaterimaharus berisi informasi berkualitas lebih tinggi dan lebih dapat ditindaklanjuti.

Kami berkomitmen untuk perbaikan berkelanjutan dalam semua aspek pekerjaan keselamatan kami. Kami tidak berpura-pura memiliki semua jawaban sehubungan dengan memerangi CSEA atau potensi bahaya online lainnya; tidak ada yang boleh karena tidak ada yang melakukannya. Hari demi hari, kami memerangi masalah seluruh masyarakat dan kami membawa pendekatan seluruh-perusahaanuntuk menanggung – dengan tujuan kembar utama untuk mengurangi risiko dan mengurangi bahaya.

Sehubungan dengan CyberTips kami, kami memiliki tujuan yang berbeda untuk masa depan yang tidak terlalu jauh: Baik itu komandan Satuan Tugas Kejahatan Internet Terhadap Anak (ICAC) negara bagian, penyelidik federal, atau anggota penegak hukum di belahan dunia lain, kami ingin otoritas negara bagian, federal, dan internasional dengan percaya diri menindaklanjuti CyberTips dari Snap karena mereka tahu laporan kami dapat diandalkan secara konsisten sebagai laporan yang dapat ditindaklanjuti, berharga, dan menyeluruh. Dan, harapan kami adalah upaya tersebut akan membantu mendorong peningkatan penangkapan terkait ⁶dan hukuman di seluruh dunia.

Terima kasih banyak kepada NCMEC, WeProtect, 61 Satuan Tugas ICAC di AS, penegak hukum di seluruh dunia, dan semua kolega dan kolaborator kami di seluruh lanskap pemberantasan CSEA – dan catatan tambahan bahwa kami tetap terbuka, dan haus akan, umpan balik Anda untuk lebih meningkatkan strategi dan pendekatan kami. Kita semua bersama-sama dalam hal ini.

- Jacqueline Beauchere, Kepala Global Keamanan Platform