Di Snap, kami terus menyesuaikan mekanisme keselamatan dan kebijakan platform kami untuk membatasi kemampuan pelaku kejahatan menyalahgunakan platform kami. Kami memanfaatkan teknologi canggih untuk mendeteksi dan memblokir aktivitas yang melanggar aturan kami, kami menerapkan prinsip desain untuk menciptakan friksi dalam proses pertemanan, kami mendukung penegak hukum, berkolaborasi dengan otoritas pemerintah, dan melakukan upaya untuk meningkatkan kesadaran dan memberikan edukasi terkait bahaya paling serius yang berdampak pada remaja, dan semua anggota komunitas kami. 

Kami sangat serius dalam mengemban tanggung jawab kami untuk melindungi remaja. Upaya kami cukup banyak, termasuk berikut:

I. Membuat Snapchat menjadi lingkungan yang tidak bersahabat bagi pelaku kejahatan

Awal tahun ini, kami mengumumkan fitur baru untuk lebih membantu melindungi komunitas kami, khususnya pengguna remaja, dan untuk mempererat hubungan di dunia nyata yang membuat Snapchat unik. Pembaruan tersebut meliputi: peringatan dalam aplikasi yang diperluas untuk kontak yang mencurigakan, perlindungan pertemanan yang ditingkatkan yang dibuat khusus untuk remaja, dan meningkatkan kemampuan untuk memblokir kontak yang tidak diinginkan. 

Perubahan ini, yang berfokus pada memerangi sekstorsi online, yang dibangun dari investasi kami yang berkelanjutan untuk memerangi semua bentuk eksploitasi dan pelecehan seksual anak. Misalnya:

Kami menggunakan sinyal untuk mengidentifikasi perilaku sekstorsi agar kami dapat secara aktif mengeluarkan pelaku kejahatan sebelum mereka berkesempatan untuk menargetkan dan memakan korban lain. Hal ini selain untuk memanfaatkan dan menerapkan teknologi yang dirancang untuk mencegah penyebaran gambar eksploitasi dan pelecehan seksual anak (CSEAI) yang diketahui di Snapchat, termasuk PhotoDNA (untuk mendeteksi duplikat gambar ilegal yang diketahui), CSAI Match (untuk mendeteksi duplikat video ilegal yang diketahui), dan API Keamanan Konten (untuk membantu mendeteksi gambar baru yang “belum pernah di-hash sebelumnya”).

Meskipun kami telah lama menawarkan pelaporan dalam aplikasi yang sederhana untuk konten dan akun yang melanggar aturan kami, pada tahun 2023 kami melakukan peningkatan guna lebih mendorong upaya kami melawan bahaya terkait sektorsi. Tahun lalu kami meluncurkan pelaporan teks obrolan dalam aplikasi – yang memungkinkan Snapchatter melaporkan suatu pesan secara langsung dari percakapan itu sendiri. Kami juga memperluas alat pelaporan dalam aplikasi kami dengan menyertakan alasan melaporkan sekstorsi yang spesifik dan disesuaikan dan, atas saran dan petunjuk dari LSM Thorn yang berjuang melawan CSEA, memberikan opsi pelaporan tersebut dalam bahasa yang dapat diterima untuk remaja dan anak muda (“Mereka membocorkan/mengancam membocorkan foto tanpa busana saya”). Setelah itu, laporan tersebut akan digunakan untuk memberikan masukan pada upaya penegakan kami, termasuk deteksi dan penegakan berbasis sinyal. Kami menganalisis tren, pola, dan teknik sekstorsionis dan, jika suatu akun menunjukkan karakteristik tertentu, akun tersebut akan dikunci karena sekstorsi.

Kami terus meningkatkan dan menambahkan ke Family Center kami serangkaian alat, yang dirilis pada tahun 2022, yang memungkinkan orang tua melihat siapa yang berteman dengan anak remaja mereka di Snapchat, yang baru-baru ini mereka ajak mengobrol, lalu dengan mudah melaporkan akun yang mungkin menjadi kekhawatiran mereka. Tujuan kami untuk Family Center dari awal adalah untuk mendorong adanya dialog yang terbuka dan konstruktif antara orang tua/pengasuh dan remaja tentang cara agar tetap aman saat online. 

Kami melakukan kerja sama yang erat dengan penegak hukum, dan banyak sekali berinvestasi pada keselamatan dan tim operasi penegakan hukum yang beroperasi di seluruh dunia 24 jam sehari untuk mengamankan komunitas kami. Misalnya, jumlah tim Trust and Safety kami telah berlipat ganda sejak tahun 2020, dan tim Operasi Penegakan Hukum kami bertambah tiga kali lipat pada waktu itu. Kami menjadi tuan rumah KTT tahunan untuk penegakan hukum di AS untuk memastikan petugas dan lembaga mengetahui tindakan yang tepat terhadap aktivitas ilegal yang mungkin terjadi di platform kami.

Kami juga bekerja sama secara langsung dengan penegak hukum di Nigeria – tempat banyak kasus sekstorsi berasal – untuk membangun kapasitas dan pengetahuan guna menyelidiki dan mengadili pelaku, dan kami berencana untuk melanjutkan keterlibatan dengan pemerintah Nigeria untuk kolaborasi lebih lanjut di bidang ini. Kami juga bekerja sama dengan Misi Keadilan Internasional, NCMEC, anggota lain dalam industry, dan LSM untuk memberikan pelatihan kepada penegak hukum tentang menginvestigasi CyberTips di negara-negara di luar AS yang sering terjadi aktivitas sekstorsi.

Selama bertahun-tahun, kami juga telah melibatkan kader kuat ”pelapor tepercaya”: organisasi nirlaba, LSM, dan lembaga pemerintah tertentu yang melaporkan kepada kami akan adanya kasus pelecehan, situasi yang mengancam nyawa, dan masalah darurat lainnya atas nama Snapchatter yang membutuhkan melalui saluran prioritas tinggi. Mayoritas peserta Program Pelapor Tepercaya kami melaporkan konten dan akun yang berkaitan dengan bahaya seksual terhadap anak di bawah umur, termasuk sekstorsi.  

II. Melibatkan pakar dan koalisi industri 

Selain investasi kami sendiri, kami juga melibatkan para ahli di seluruh dunia, karena kami tahu bahwa satu entitas atau organisasi saja tidak akan dapat membuat kemajuan yang berarti dalam mengatasi masalah ini. Misalnya, Snap mewakili industri di Dewan Kebijakan Aliansi Global WeProtect internasional; kami adalah anggota Dewan Penasihat INHOPE, dan duduk di Dewan Pengawas Internet Watch Foundation (IWF) Inggris. Semua organisasi ini memiliki inti misi pemberantasan CSEA online.

Kami tetap menjadi anggota aktif Koalisi Teknologi, suatu aliansi industri global yang berfokus untuk memerangi eksploitasi dan pelecehan seksual anak online, dan baru-baru ini menyelesaikan masa jabatan dua tahun di Komite Eksekutif Dewan Direksi. Kami juga merupakan anggota pendiri inisiatif Lentera Koalisi Teknologi, program berbagi sinyal lintas platform pertama bagi perusahaan untuk memperkuat penerapan kebijakan keselamatan anak. Melalui partisipasi aktif dalam program ini, perusahaan dapat saling membantu dalam memeriksa pelaku kejahatan, termasuk pelaku sekstorsi.   

Selain itu, kami memanfaatkan basis data Pusat Nasional untuk Anak Hilang dan Tereksploitasi (NCMEC), Take It Down, yang memungkinkan anak di bawah umur membuat sidik jari digital –yang disebut “hash”– dari gambar atau video yang dipilih, langsung di perangkat mereka. Perusahaan yang berpartisipasi, termasuk Snap, kemudian dapat menggunakan hash tersebut untuk mencari dan menghapus gambar duplikat yang melanggar Panduan Komunitas kami. Kami berpartisipasi dalam program serupa di Inggris yang disebut Report Remove, dan tahun lalu, kami bergabung dengan kolaborasi StopNCII SWGfL untuk membantu mencegah penyebaran gambar intim non-konsensual (NCII) di Snapchat dengan memanfaatkan basis data hash grup tersebut. StopNCII membantu menghentikan penyebaran gambar intim remaja berusia 18+ dan menawarkan kepada korban kemampuan untuk mengklaim kembali privasi mereka atas foto dan video mereka yang paling pribadi.

Tahun ini kami juga meluncurkan Dewan Snap untuk Kesejahteraan Digital pertama kami, yaitu kelompok yang terdiri dari 18 remaja dari seluruh AS, yang terpilih untuk berpartisipasi dalam program percontohan selama setahun yang memperjuangkan kebiasaan dan praktik online yang aman di sekolah dan komunitas mereka. Pada bulan Juli, grup ini, bersama setidaknya satu orang tua atau pendamping, berkumpul di kantor pusat Snap di Santa Monica, California untuk melakukan suatu diskusi yang menghasilkan wawasan menarik tentang topik seperti bahaya dan dinamika sosial online, serta alat untuk orang tua. Ini di samping Dewan Penasihat Keselamatan Snap, yang terdiri dari 16 profesional dan tiga advokat remaja, yang memberikan panduan dan arahan langsung kepada Snap tentang masalah keselamatan. Kami menantikan kedatangan tahun 2025, kami berharap dapat menciptakan lebih banyak kesempatan bagi anggota kedua grup untuk bersatu dan menggali wawasan tambahan. 

III. Mendorong kesadaran 

Di luar investasi internal dan upaya yang kami lakukan dengan para ahli dan lintas industri, komponen penting untuk memerangi pelecehan seksual dan skema sekstorsi online adalah meningkatkan kesadaran publik dan Snapchatter.

Pada tahun 2022, kami meluncurkan Indeks Kesejahteraan Digital, penelitian terkemuka yang menawarkan wawasan tentang bagaimana remaja dan anak muda melakukan penjelajahan online di semua platform. Sebagai bagian dari penelitian ini, selama dua tahun terakhir, kami telah melakukan penelitian mendalam tentang sekstorsi. Karena penelitian ini mencakup pengalaman online secara umum, tidak hanya di Snapchat, penelitian ini tidak hanya membantu memberi masukan pada upaya kami, tetapi kami berharap penelitian ini juga menawarkan wawasan kepada orang lain di seluruh ekosistem teknologi. Akhir bulan ini, kami akan membagikan hasil dari Tahun Kedua penelitian mendalam kami tentang sekstorsi, bersamaan dengan Forum Multi-Pemangku Kepentingan virtual Koalisi Teknologi yang akan datang yang membahas sekstorsi finansial terhadap anak di bawah umur. 

Awal tahun ini, kami merasa terhormat telah menjadi entitas pertama yang mendukung Know2Protect, kampanye kesadaran publik pertama yang diluncurkan awal tahun ini oleh Departemen Keamanan Dalam Negeri AS (DHS). Kampanye ini memberi pengetahuan kepada dan memberdayakan kaum muda, orang tua, orang dewasa yang dipercaya, dan pembuat kebijakan untuk membantu mencegah dan memerangi kejahatan seperti sekstorsi finansial. Selain menyumbangkan ruang iklan di Snapchat untuk sumber daya pendidikan K2P, kami melakukan penelitian tambahan dengan remaja dan anak muda di AS untuk menambah masukan kampanye. Kami juga ikut meluncurkan Lensa Snapchat augmented reality untuk membantu mengedukasi Snapchatter melalui kuis interaktif Know2Protect. Sementara di Inggris, hingga saat ini kami mendukung kampanye peningkatan kesadaran publik IWF seputar isu-isu ini, yaitu Gurls Out Loud, yang dirancang untuk memberi tahu gadis berusia 11 hingga 13 tahun tentang grooming seksual online, sexting dan pengirim gambar tanpa busana. Selain itu, baru-baru ini kami meluncurkan Panduan Pendidik untuk Snapchat, bermitra dengan Safe and Sound Schools untuk mengembangkan toolkit yang komprehensif bagi pendidik yang mencakup informasi dan panduan tentang cara memerangi sekstorsi.

Berdasarkan penelitian kami selama bertahun-tahun, kami tahu bahwa peningkatan kesadaran dan pendidikan komunitas adalah alat yang ampuh dalam membantu mencegah bahaya online, dan kami terus mengembangkan dan mempromosikan sumber daya dalam aplikasi untuk menjangkau remaja dan anak muda secara langsung di Snapchat. Pada bulan September 2023, kami merilis empat episode baru "Snapshot Keselamatan" dalam aplikasi yang berfokus pada risiko dan bahaya seks, termasuk sekstorsi keuangan. Kami juga menawarkan episode tentang sexting dan konsekuensi dari pembuatan dan berbagi gambar tanpa busana, grooming anak online untuk tujuan seksual, dan perdagangan seks anak. Semua sumber daya ini ditinjau oleh para ahli di Pusat Nasional untuk Anak Hilang dan Tereksploitasi (NCMEC) dan dibuat bekerja sama dengan hotline dan saluran bantuan yang relevan di wilayah geografis penting. 

Kami akan terus memerangi eksploitasi dan pelecehan seksual anak online, tetapi masih banyak yang harus dilakukan. Tahun 2025 nanti, kami akan terus meningkatkan kesadaran tentang potensi bahaya online dan terus menegaskan bahwa siapa pun dapat berpotensi sebagai target. Kami ingin menggagalkan pelaku kejahatan lebih dini dan sering dan kami ingin menghasilkan CyberTips yang lebih dapat ditindaklanjuti untuk penegak hukum.

Penting untuk dicatat bahwa kami menggunakan banyak dari strategi ini ketika melawan bahaya mengerikan lainnya, seperti aktivitas obat-obatan terlarang, termasuk penjualan pil palsu, ancaman kekerasan, dan konten bunuh diri dan menyakiti diri sendiri. Kami menyadari bahwa upaya kami dalam bidang ini mungkin tidak akan pernah selesai, tetapi kami sangat peduli dengan keselamatan Snapchatter dan akan terus bekerja secara kolaboratif di seluruh industri, pemerintah, dan penegak hukum untuk bertukar informasi dan memperkuat pertahanan kita.