Snap amat komited terhadap keselamatan komuniti Snapchat. Matlamat kami adalah untuk membantu melindungi pengguna daripada pelbagai risiko dalam talian dan potensi kemudaratan yang merangkumi ekosistem digital, termasuk jenayah keji yang melibatkan eksploitasi dan penderaan seksual kanak-kanak (CSEA). Snap telah menentang kandungan haram dan tingkah laku jenayah keji ini selama bertahun-tahun, menggunakan kedua-dua langkah pengesanan proaktif dan tindak balas reaktif di seluruh aplikasi Snapchat. Sepanjang tahun lalu, kami telah membuat perubahan tambahan pada dasar dan proses kami yang berkaitan dengan niat untuk membantu membawa pelaku ke muka pengadilan. Kami ingin berkongsi lebih lanjut tentang usaha itu di sini.

Apakah itu CSEA?

Eksploitasi dan penderaan seksual kanak-kanak merangkumi pelbagai aktiviti haram yang melibatkan kemudaratan seksual kepada kanak-kanak bawah umur, termasuk: melihat, menghasilkan dan mengedarkan imejan eksploitasi dan penderaan seksual kanak-kanak (CSEAI), termasuk ancaman baharu foto dan video janaan AI; pemujukan dalam talian, atau umpanan, kanak-kanak bawah umur untuk tujuan seksual; ¹pemerasan seksual; ²pemerdagangan seks kanak-kanak; dan penstriman langsung kanak-kanak yang didera dan diseksa secara seksual. ³Sukar untuk memahami bahawa realiti yang menjijikkan ini benar-benar wujud. Tetapi, malangnya, penderaan sedemikian sentiasa wujud – dan dunia digital kini menyediakan cara penderaan alternatif, memperluas mod kesalahan menjadi lebih pantas dan lebih meluas.

“Teknologi telah mengubah secara asasnya cara mereka yang mempunyai minat seksual terhadap kanak-kanak berfantasi tentang mereka, mengakses mereka dan memangsakan mereka,” kata Ernie Allen, PengerusiWeProtect Global Allianceyang berpangkalan di London. “TheNew York Timesmenulis, 'Krisis eksploitasi seksual kanak-kanak dalam talian berada di tahap genting.' Ia menyatakan bahawa laporan semakin meningkat, pesalah berkongsi imej mangsa yang lebih muda dan jenayah yang lebih keji, dan penguatkuasaan undang-undang sedang bergelut untuk bersaing. Jika anda menambah variasi baharu pada cabaran itu, seperti pemerasan seksual, yang dilaporkan oleh FBI meningkat 7,200%, penyalahgunaan penstriman langsung dan lain-lain, jelas masalah ini harus berada di puncak agenda dasar di seluruh dunia,” tambahnya.

Kewajipan undang-undang syarikat teknologi

Apabila syarikat teknologi A.S. menyedari CSEA pada platform atau perkhidmatan mereka, mereka mempunyai kewajipan undang-undang untuk melaporkannya kepada Pusat Kebangsaan untuk Kanak-kanak Hilang dan Dieksploitasi (NCMEC). NCMEC kemudian menyemak CyberTips ini dan berhubung dengan penguatkuasaan undang-undang domestik dan antarabangsa untuk membantu melindungi mangsa kanak-kanak dan menghukum pesalah.

Sehingga tahun lepas, jumlah tahunan CyberTips kepada NCMEC sebahagian besarnya telah meningkat dari tahun ke tahun, mencapai rekod 36.2 juta laporan ⁴pada tahun 2023, meningkat daripada lebih 32 juta pada tahun 2022, dan 4,560 pada tahun 1998 apabila CyberTipline NCMEC diwujudkan. Peningkatan rekod dalam CyberTips ini — sebagai tambahan kepada faktor lain, termasuk lonjakan berterusan dalam pemerasan seksual di seluruh dunia dan maklum balas yang kami terima daripada penguatkuasaan undang-undang tentang kebolehtindakan CyberTips kami sendiri — yang mendorong Snap untuk mula-mula mendekati NCMEC pada tahun 2024 untuk menentukur semula pelaporan CyberTip kami.

Saya telah memantau pelaporan CyberTip selama beberapa tahun, dan saya amat percaya bahawa amalan sesetengah syarikat teknologi telah cenderung ke arah melaporkansemuanyakepada NCMEC — malah melebihi kewajipan undang-undang mereka — kerana takut dituduh terlepas pandangsesuatu. ⁵Syarikat yang gagal melaporkan seperti yang dikehendaki oleh undang-undang mungkin menghadapi denda yang berat. Tetapi pendekatan pelaporan ini, ditambah dengan kebolehtindakan yang rendah bagi banyak laporan (sama ada kerana CyberTips tidak mempunyai konteks yang mencukupi untuk penguatkuasaan undang-undang mengambil tindakan atau kerana kelakuan yang dilaporkan, dalam beberapa keadaan, bukan keutamaan bagi mereka), telah mengakibatkan peningkatan CyberTips; pelbagai ulasan yang meluas; dan peningkatan kekecewaan di kalangan penguatkuasa undang-undang.

Matlamat: CyberTips Bernilai Tinggi

Matlamat penentukuran semula kami dengan NCMEC adalah untuk meningkatkan lagi kebolehtindakan dan nilai CyberTips Snap dengan memperhalusi dasar platform kami sendiri dan protokol yang kami ada untuk melaporkan kepada NCMEC. Penentukuran semula awal itu berlaku pada Mei 2024, dan perubahan dasar kami berkuat kuasa sepenuhnya pada akhir tahun lepas.

Walaupun kita harus mengelak daripada terlalu menekankan jumlah laporan semata-mata secara berasingan, sejak melaksanakan penambahbaikan dasar kami, Snap berbesar hati untuk berkongsi bahawa kami telah melihat penurunan ketara dalam jumlah pelaporan keseluruhan kami kepada NCMEC dan penurunan yang sama dalam peningkatan untuk umpanan dalam talian – semuanya sambil masih memenuhi kewajipan undang-undang kami untuk melaporkan CSEA dalam CyberTips. Jumlah yang lebih rendah masih belum ditapis melalui jumlah pelaporan tahunan NCMEC, walau bagaimanapun, kerana perubahan itu dilaksanakan pada akhir tahun 2024, hanya meninggalkan beberapa bulan penuh tahun itu untuk mencerminkan pindaan tersebut.

Secara selari, pasukan kami telah berusaha untuk menambah baik data dan pelabelan dalam CyberTips kami. Penjelasan sedemikian boleh membantu mengenal pasti dengan lebih baik jenayah dan individu yang didakwa terlibat dan, seterusnya, membolehkan pengasingan laporan yang lebih cepat dan tepat oleh NCMEC dan penguatkuasaan undang-undang. Walaupun pelaporan kepada NCMEC mungkin tidak wajar, Snap akan terus menangani imejan dan tingkah laku yang melanggar dasar platform kami dengan mengambil tindakan – yang boleh termasuk mengalih keluar kandungan yang melanggar, melumpuhkan akaun dan berusaha untuk menyekat penciptaan akaun baharu.

Pusat pemeriksaan penentukuran semula

Bulan lepas, kami mengadakan penentukuran semula kedua dengan NCMEC, di mana pasukan Snap merumuskan perubahan dasar dalaman tahun lepas; mengemas kini NCMEC tentang kemajuan kami; mengesahkan beberapa garis panduan operasi tambahan; dan membantu menetapkan jangkaan untuk bulan-bulan akan datang. Kami juga mempratonton beberapa penambahan dasar dan pelaporan yang dirancang selanjutnya yang kami harap akan terus meningkatkan nilai laporan kami kepada NCMEC dan penguatkuasaan undang-undang. Sememangnya, ini adalah proses berulang, tetapi kami digalakkan oleh kemajuan sepanjang tahun lalu.

Memandang ke hadapan

Dari masa ke masa, kami menjangkakan bahawa NCMEC dan penguatkuasaan undang-undang mungkin terus melihat pengurangan jumlah CyberTips daripada Snap berbanding tahun-tahun sebelumnya, tetapi peratusan yang lebih besar daripada yang merekaterimaharus mengandungi maklumat berkualiti tinggi dan lebih boleh diambil tindakan.

Kami komited untuk penambahbaikan berterusan dalam semua aspek kerja keselamatan kami. Kami tidak berpura-pura mempunyai semua jawapan berkenaan dengan memerangi CSEA atau sebarang potensi bahaya dalam talian yang lain; tiada siapa yang patut kerana tiada siapa yang melakukannya. Hari demi hari, kami memerangi isu-isu seluruh masyarakat dan kami membawa pendekatan seluruh-syarikatuntuk menanggung – dengan objektif berkembar utama untuk mengurangkan risiko dan mengurangkan kemudaratan.

Berkenaan dengan CyberTips kami, kami mempunyai matlamat yang berbeza untuk masa depan yang tidak terlalu jauh: Sama ada komander Pasukan Petugas Jenayah Internet Terhadap Kanak-kanak (ICAC) negeri, penyiasat persekutuan, atau anggota penguatkuasa undang-undang di seluruh dunia, kami mahu pihak berkuasa negeri, persekutuan dan antarabangsa dengan yakin meneruskan CyberTips daripada Snap kerana mereka tahu laporan kami boleh dipercayai secara konsisten sebagai boleh diambil tindakan, berharga dan teliti. Dan, harapan kami ialah usaha tersebut akan membantu mendorong peningkatan yang sepadan dalam penangkapan yang berkaitan ⁶dan sabitan di seluruh dunia.

Ucapan “terima kasih” yang tidak terhingga kepada NCMEC, WeProtect, 61 Pasukan Petugas ICAC di A.S., penguatkuasaan undang-undang di seluruh dunia, dan semua rakan sekerja dan rakan usaha sama kami di seluruh landskap memerangi CSEA – dan nota tambahan bahawa kami tetap terbuka kepada, dan dahagakan, maklum balas anda untuk terus menambah baik strategi dan pendekatan kami. Kita semua bersama-sama dalam hal ini.

- Jacqueline Beauchere, Ketua Keselamatan Platform Global