05 Desember 2024

05 Desember 2024

Kami menerbitkan laporan transparansi ini dua kali setahun untuk memberi wawasan tentang upaya keamanan Snap. Kami berkomitmen terhadap upaya ini dan terus berupaya untuk membuat laporan ini lebih komprehensif dan informatif bagi banyak pemangku kepentingan yang sangat peduli dengan moderasi konten, praktik penegakan hukum, dan keamanan serta kesejahteraan komunitas Snapchat kami. 

Laporan Transparansi ini mencakup paruh pertama tahun 2024 (1 Januari - 30 Juni). Seperti halnya dengan laporan kami sebelumnya, kami membagikan data mengenai laporan jumlah konten dalam aplikasi dan tingkat akun yang kami terima serta menindak berbagai kategori pelanggaran yang spesifik; cara kami merespons permintaan dari penegak hukum dan pemerintah; dan cara kami menanggapi pemberitahuan pelanggaran hak cipta dan merek dagang. Kami juga menyediakan wawasan khusus negara dalam file yang ditautkan di bagian bawah halaman ini.

Sebagai bagian dari komitmen berkelanjutan kami untuk terus meningkatkan laporan transparansi kami, kami juga memperkenalkan data baru yang menyoroti upaya proaktif kami untuk mendeteksi dan mendisiplinkan berbagai pelanggaran yang lebih luas terhadap Panduan Komunitas kami. Kami telah menyertakan data ini di tingkat global dan negara dalam laporan ini dan akan terus melakukannya ke depan. Kami juga telah mengoreksi kesalahan pelabelan dalam laporan kami sebelumnya: di mana kami sebelumnya merujuk kepada “Total Konten yang Ditegakkan", kami sekarang merujuk kepada “Total Penegakan” untuk mencerminkan fakta bahwa data yang disediakan dalam kolom yang relevan mencakup penegakan tingkat konten dan penegakan tingkat akun.

Untuk informasi lebih lanjut tentang kebijakan kami dalam memerangi potensi bahaya daring, dan rencana untuk terus mengembangkan praktik pelaporan kami, silakan baca blog Keamanan & Dampak terbaru kami tentang Laporan Transparansi ini. Untuk sumber tambahan terkait keamanan dan privasi di Snapchat, lihat tab Tentang Pelaporan Transparansi di bagian bawah halaman.

Harap diperhatikan bahwa versi paling mutakhir dari Laporan Transparansi ini tersedia dalam bahasa Inggris AS.

Tim Kepercayaan & Keamanan kami menegakkan Panduan Komunitas kami secara proaktif (melalui penggunaan alat otomatis) dan reaktif (sebagai respons atas laporan), sebagaimana dirinci lebih lanjut dalam bagian berikut dari laporan ini. Dalam siklus pelaporan ini (Semester 1 2024), tim Kepercayaan & Keamanan kami mengambil tindakan penegakan berikut: 

Di bawah ini adalah rincian per jenis pelanggaran Panduan Komunitas yang bersangkutan, termasuk waktu median penyelesaian antara saat kami mendeteksi pelanggaran (baik secara proaktif atau setelah menerima laporan) dan waktu yang kami ambil tindakan akhir pada konten atau akun yang relevan:

Selama periode pelaporan, kami mencermati Angka Tampilan yang Melanggar atau Violative View Rate (VVR) sebesar 0,01 persen, yang berarti dari setiap 10.000 tampilan Snap dan Cerita yang dilihat di Snapchat, terdapat 1 konten yang melanggar Panduan Komunitas kami.

Dari tanggal 1 Januari – 30 Juni 2024, sebagai tanggapan atas laporan pelanggaran dalam Panduan Komunitas kami, tim Kepercayaan & Keamanan Snap mengambil total 6.223.618 tindakan penegakan hukum secara global, termasuk penegakan terhadap 3.842.507 akun unik. Waktu tengah penyelesaian bagi tim Kepercayaan & Keselamatan untuk mengambil tindakan penegakan sebagai tanggapan terhadap laporan ini adalah ~24 menit. Rincian per kategori pelaporan disediakan di bawah ini. 

Volume pelaporan kami secara keseluruhan tetap stabil pada Semester 1 2024, dibandingkan dengan enam bulan sebelumnya. Dalam siklus ini, kami melihat peningkatan dalam total penegakan dan total akun unik yang ditegakkan sekitar 16%.

Selama 12 bulan terakhir, Snap memperkenalkan mekanisme pelaporan baru bagi pengguna, yang memperhitungkan perubahan pada volume yang dilaporkan dan ditegakkan serta peningkatan waktu penyelesaian dalam periode pelaporan ini (Semester 1 2024). Secara khusus:

• Pelaporan Obrolan Grup: Kami memperkenalkan Pelaporan Obrolan Grup pada 13 Oktober 2023, yang memungkinkan pengguna melaporkan pelecehan yang terjadi dalam obrolan multi-orang. Perubahan ini berdampak pada susunan metrik kami di seluruh kategori pelaporan (karena beberapa potensi bahaya lebih mungkin terjadi dalam konteks obrolan) dan meningkatkan kemampuan ditindaklanjutinya laporan. 

• Peningkatan Pelaporan Akun: Kami juga mengembangkan fitur Pelaporan Akun untuk memberi pengguna opsi pelaporan untuk mengirimkan bukti obrolan saat melaporkan akun yang diduga dioperasikan oleh pelaku kejahatan. Perubahan ini, yang memberi kami bukti dan konteks yang lebih besar untuk menilai laporan akun, diluncurkan pada tanggal 29 Februari 2024. 

Laporan Obrolan, dan terutama Laporan Obrolan Grup, merupakan hal yang paling kompleks dan memakan waktu untuk ditinjau, yang meningkatkan waktu penyelesaian secara keseluruhan. 

Pelaporan untuk dugaan Eksploitasi & Pelecehan Seksual Anak (CSEA), Pelecehan & Perundungan, dan Ujaran Kebencian secara khusus dipengaruhi oleh dua perubahan yang dijelaskan di atas, dan oleh pergeseran dalam ekosistem yang lebih luas. Secara khusus:

• CSEA: Kami mengamati peningkatan dalam laporan dan pendisiplinan terkait CSEA pada Semester 1 2024. Secara khusus, kami melihat peningkatan 64% dalam total laporan dalam aplikasi oleh pengguna, peningkatan 82% dalam total penegakan, dan peningkatan 108% dalam total akun unik yang ditegakkan. Peningkatan ini sebagian besar didorong oleh pengenalan fungsionalitas Obrolan Grup dan Pelaporan Akun. Mengingat sifat sensitif dari antrean moderasi ini, tim terpilih yang terdiri dari agen yang sangat terlatih ditunjuk untuk meninjau laporan potensi pelanggaran terkait CSEA. Masuknya laporan tambahan yang dikombinasikan dengan tim kami yang beradaptasi dengan pelatihan baru telah menghasilkan peningkatan waktu penyelesaian. Ke depan, kami telah meningkatkan ukuran tim vendor global kami secara signifikan untuk mengurangi waktu penyelesaian dan secara akurat menegakkan laporan potensi CSEA. Kami berharap bahwa Laporan Transparansi Semester 2 2024 kami akan mencerminkan buah dari upaya ini dengan waktu penyelesaian yang ditingkatkan secara nyata. 
  

• Pelecehan & Perundungan: Berdasarkan laporan, kami telah mengamati bahwa Pelecehan & Perundungan terjadi secara tidak proporsional dalam obrolan, dan khususnya obrolan grup. Peningkatan yang kami perkenalkan pada Pelaporan Obrolan Grup dan Pelaporan Akun membantu kami mengambil tindakan yang lebih komprehensif saat menilai laporan dalam kategori pelaporan ini. Selain itu, sejak periode ini, kami mewajibkan pengguna untuk memasukkan komentar saat mengirim laporan pelecehan dan perundungan. Kami meninjau komentar ini untuk mengontekstualisasikan setiap laporan. Bersama-sama, perubahan ini menghasilkan peningkatan nyata dalam total penegakan (+91%), total akun unik yang ditegakkan (+82%), dan waktu penyelesaian (+245 menit) untuk laporan terkait. 
  

• Ujaran Kebencian: Pada Semester 1 2024, kami mengamati peningkatan konten yang dilaporkan, total penegakan, dan waktu penyelesaian untuk Ujaran Kebencian. Secara khusus, kami melihat peningkatan 61% dalam laporan dalam aplikasi, peningkatan 127% dalam total penegakan, dan peningkatan 125% dalam total akun unik yang ditegakkan. Hal ini disebabkan, sebagiannya, peningkatan dalam mekanisme pelaporan obrolan kami (seperti yang dibahas sebelumnya), dan semakin diperburuk oleh lingkungan geopolitik, khususnya kelanjutan konflik Israel-Hamas. 

Dalam periode pelaporan ini, kami melihat penurunan ~65% dalam total penegakan dan penurunan ~60% dalam total akun unik yang ditegakkan sebagai respons atas laporan dugaan Spam & Pelecehan, yang mencerminkan peningkatan dalam alat pendeteksi dan penegakan proaktif kami. Kami melihat penurunan serupa dalam total penegakan sebagai respons terhadap laporan konten yang berkaitan dengan Membahayakan Diri Sendiri dan Bunuh Diri (~80% penurunan), yang mencerminkan pendekatan yang berpusat pada korban yang diperbarui, yang sesuai dengan itu, tim Kepercayaan & Keamanan kami akan, dalam kasus yang sesuai, mengirim sumber daya bantuan mandiri kepada pengguna yang relevan, daripada mengambil tindakan penegakan terhadap pengguna tersebut. Pendekatan ini diinformasikan oleh anggota Dewan Penasihat Keamanan kami, termasuk seorang profesor pediatri dan dokter medis yang memiliki spesialisasi dalam hal kelainan media interaktif dan internet.

Kami menyebarkan alat otomatis untuk secara proaktif mendeteksi dan, dalam beberapa kasus, melakukan penegakan terhadap pelanggaran Panduan Komunitas kami. Alat ini termasuk alat pencocokan hash (termasuk PhotoDNA dan Google Child Sexual Abuse Imagery (CSAI) Match), alat pendeteksi bahasa kasar (yang mendeteksi dan menegakkan berdasarkan daftar kata kunci dan emoji kasar yang teridentifikasi dan diperbarui secara berkala), dan teknologi kecerdasan buatan/pembelajaran mesin. 

Pada Semester 1 2024, kami mengambil tindakan penegakan berikut setelah secara proaktif mendeteksi, melalui penggunaan alat otomatis, pelanggaran Panduan Komunitas kami:

Eksploitasi seksual terhadap anggota mana pun dari komunitas kami, terutama anak-anak di bawah umur, adalah ilegal, menjijikkan, dan dilarang oleh Panduan Komunitas kami. Mencegah, mendeteksi, dan memberantas Eksploitasi dan Pelecehan Seksual Anak atau Child Sexual Exploitation and Abuse (CSEA) di platform kami adalah prioritas utama bagi Snap, dan kami terus mengembangkan kemampuan kami untuk memerangi hal ini serta jenis kejahatan lainnya.

Kami menggunakan alat pendeteksi teknologi aktif, seperti pencocokan hash PhotoDNA yang kuat dan Pencocokan Child Sexual Abuse Imagery (CSAI) Google untuk mengidentifikasi gambar dan video CSE ilegal yang diketahui, secara berurutan. Selain itu, dalam beberapa kasus, kami menggunakan sinyal perilaku untuk menegakkan aktivitas CSEA lainnya yang berpotensi ilegal. Kami melaporkan pelanggaran kebijakan terkait CSEA kepada Pusat Nasional AS untuk Anak Hilang dan Dieksploitasi (the U.S. National Center for Missing and Exploited Children: NCMEC), seperti yang diwajibkan oleh hukum. NCMEC kemudian akan berkoordinasi dengan penegak hukum dalam negeri atau internasional, sesuai keharusan.

Pada paruh pertama tahun 2024, kami mengambil tindakan berikut saat mendeteksi CSEA di Snapchat (baik secara proaktif atau setelah menerima laporan):

Kami sangat peduli tentang kesehatan mental dan kesejahteraan Snapchatter, yang terus memengaruhi keputusan kami untuk membangun Snapchat secara berbeda. Sebagai platform yang dirancang untuk komunikasi antar teman nyata, kami percaya Snapchat dapat memainkan peran unik dalam memberdayakan teman-teman untuk saling membantu pada saat sulit. Inilah sebabnya mengapa kami telah mengembangkan sumber daya dan dukungan untuk Snapchatter yang membutuhkan. 

Alat pencarian Here For You kami menunjukkan sumber daya dari mitra lokal ahli ketika pengguna mencari topik tertentu yang terkait dengan kesehatan mental, kecemasan, depresi, stres, pikiran untuk bunuh diri, kesedihan, dan perundungan. Kami juga telah mengembangkan sebuah halaman yang didedikasikan untuk risiko dan bahaya sekstorsi finansial, dan risiko serta bahaya seksual lain, dalam upaya untuk mendukung mereka yang berada dalam kesulitan. Daftar global sumber daya keamanan kami tersedia secara publik bagi semua Snapchatter, di Pusat Privasi, Keamanan, & Kebijakan kami. 

Ketika tim Kepercayaan & Keamanan kami menyadari adanya Snapchatter yang mengalami kesulitan, mereka dapat meneruskan sumber daya pencegahan dan dukungan tentang membahayakan diri sendiri, serta memberi tahu personel tanggap darurat jika diperlukan. Sumber daya yang kami bagikan tersedia dalam daftar global sumber daya keamanan kami, dan semuanya tersedia secara terbuka bagi seluruh Snapchatter.

Di bawah ini kami menyediakan informasi tentang banding yang kami terima dari pengguna yang meminta peninjauan keputusan kami untuk mengunci akun mereka:

Bagian ini memberi ikhtisar tindakan tim Kepercayaan & Keamanan kami untuk menegakkan Panduan Komunitas kami, baik secara proaktif maupun sebagai respons terhadap laporan pelanggaran dalam aplikasi, dalam pengambilan sampel wilayah geografis. Panduan Komunitas kami berlaku atas semua konten di Snapchat—dan semua Snapchatter—di seluruh dunia, di mana pun lokasinya.

Informasi untuk masing-masing negara, termasuk semua Negara Anggota UE, tersedia untuk diunduh melalui fail CSV yang terlampir.

Snap berkomitmen untuk memastikan bahwa semua iklan sepenuhnya mematuhi kebijakan periklanan kami. Kami percaya pada pendekatan yang bertanggung jawab dan terhormat untuk iklan, yang menciptakan pengalaman aman dan menyenangkan bagi semua pengguna kami. Semua iklan tunduk pada tinjauan dan persetujuan kami. Selain itu, kami berhak menghapus iklan, termasuk sebagai tanggapan atas umpan balik pengguna, yang kami anggap serius. 

Di bawah ini kami telah menyertakan wawasan tentang moderasi kami untuk iklan berbayar yang dilaporkan kepada kami setelah publikasi mereka di Snapchat. Perhatikan bahwa iklan di Snapchat dapat dihapus karena berbagai alasan sebagaimana diuraikan dalam Kebijakan Periklanan Snap, termasuk konten yang menipu, konten dewasa, konten kekerasan atau meresahkan, ujaran kebencian, dan pelanggaran kekayaan intelektual. Selain itu, Anda kini dapat menemukan Galeri Iklan Snapchat di bilah navigasi laporan transparansi ini.