Di Snap, kami sentiasa mengembangkan mekanisme keselamatan dan dasar platform kami untuk mengehadkan keupayaan pelakon jahat menyalahgunakan platform kami. Kami memanfaatkan teknologi canggih untuk mengesan dan menyekat aktiviti yang melanggar peraturan kami, kami menggunakan prinsip reka bentuk untuk mewujudkan pergeseran dalam proses berkawan, kami menyokong penguatkuasa undang-undang, bekerjasama dengan pihak berkuasa kerajaan dan berusaha untuk meningkatkan kesedaran dan memberikan pendidikan tentang kebahayaan paling serius yang memberi kesan kepada remaja dan semua ahli komuniti kita.

Kami mengambil tanggungjawab kami untuk melindungi remaja dengan serius. Kerja kami adalah penting, termasuk perkara berikut:

I. Menajdikan Snapchat persekitaran yang bermusuhan untuk pelakon jahat

Pada awal tahun ini, kami mengumumkan ciri-ciri baharu untuk membantu melindungi komuniti kami, khususnya pengguna remaja dan untuk memperkukuhkan hubungan dunia sebenar yang menjadikan Snapchat unik. Kemas kini tersebut termasuk: amaran dalam apl yang diperluaskan untuk kenalan yang mencurigakan, perlindungan persahabatan dipertingkatkan yang dibina khusus untuk remaja dan meningkatkan keupayaan untuk menyekat kenalan yang tidak diingini.

Perubahan ini, fokus pada memerangi seksual dalam talian, membina pelaburan berterusan kami untuk melawan semua bentuk eksploitasi dan penderaan seksual kanak-kanak. Sebagai contoh:

Kami menggunakan isyarat untuk mengenal pasti tingkah laku seksual agar kami boleh secara aktif membuang pelakon jahat sebelum mereka berpeluang untuk menyasarkan dan menganiaya orang lain. Ini adalah sebagai tambahan kepada pemanfaatan dan penggunaan teknologi yang direka untuk menghalang penyebaran imej eksploitasi dan penderaan seksual kanak-kanak (CSEAI) yang diketahui di Snapchat, termasuk PhotoDNA (untuk mengesan pendua imej haram yang diketahui), CSAI Match (untuk mengesan pendua video haram yang diketahui) dan Content Safety API (untuk membantu mengesan imejan novel dan "tidak pernah dicincang").

Walaupun kami telah lama menawarkan pelaporan kandungan dan akaun mudah dalam apl yang melanggar peraturan kami, pada tahun 2023 kami telah membuat penambahbaikan untuk memperkukuhkan perjuangan kami menentang kebahayaan berkaitan dengan seksual. Tahun lepas kami melancarkan pelaporan teks sembang dalam apl - yang membolehkan Snapchatter melaporkan mesej individu secara terus daripada perbualan itu sendiri. Kami juga mengembangkan alat pelaporan dalam apl kami untuk menyertakan sebab pelaporan khusus yang disesuaikan untuk penyimpangan seksual dan, atas nasihat dan bimbingan daripada NGO yang melawan CSEA Thorn, membentangkan pilihan pelaporan itu dalam bahasa yang boleh dikaitkan degan remaja dan golongan muda (“Mereka membuka / sedang mengancam untuk mengeluarkan bogel saya”). Seterusnya, laporan tersebut digunakan untuk memberitahu usaha penguatkuasaan kami, termasuk pengesanan dan penguatkuasaan yang berasaskan isyarat. Kami menganalisis arah aliran, corak dan teknik sekstortionis dan, jika akaun menunjukkan ciri tertentu, ia dikunci untuk sekstorsi.

Kami terus menambah baik dan menambah set alatan Pusat Keluarga kami yang dikeluarkan pada 2022, di mana ibu bapa boleh melihat dengan siapa anak remaja mereka berkawan di Snapchat, dengan siapa mereka bersembang baru-baru ini dan dengan mudah melaporkan akaun yang mungkin membimbangkan mereka. Matlamat kami untuk Pusat Keluarga sentiasa adalah untuk menggesa dialog terbuka dan membina di kalangan ibu bapa/penjaga dengan remaja tentang kekal selamat dalam talian.

Kami bekerjesama rapat dengan penguatkuasa undang-undang, dan melabur banyak dalam pasukan keselamatan dan operasi penguatkuasaan undang-undang kami yang beroperasi di seluruh dunia 24/7 untuk membantu memastikan komuniti kami selamat. Sebagai contoh, pasukan Amanah dan Keselamatan kami telah meningkat lebih daripada dua kali ganda sejak tahun 2020 dan pasukan Operasi Penguatkuasaan Undang-undang kami meningkat lebih daripada tiga kali ganda berbanding dengan masa itu. Kami menganjurkan sidang kemuncak tahunan untuk penguatkuasaan undang-undang di A.S. bagi memastikan pegawai dan agensi mengetahui cara untuk mengambil tindakan yang sewajarnya terhadap sebarang aktiviti haram yang mungkin berlaku di platform kami.

Kami juga bekerjasama secara langsung dengan penguatkuasa undang-undang di Nigeria - di mana banyak sekstorsi bermula - untuk membina keupayaan dan pengetahuan untuk menyiasat dan mendakwa pelaku, dan kami merancang untuk meneruskan penglibatan kami dengan kerajaan Nigeria untuk terus bekerjasama dalam bidang ini. Dan kami telah bekerjasama dengan Misi Keadilan Antarabangsa, NCMEC, ahli industri yang lain dan NGO untuk menyediakan latihan kepada penguatkuasa undang-undang mengenai penyiasatan CyberTips di negara-negara di luar A.S. di mana aktiviti sextorsi adalah berleluasa.

Selama bertahun-tahun, kami juga telah terlibat dengan kadar yang kukuh "pencandera yang dipercayai": badan bukan untung, NGO dan agensi kerajaan terpilih yang membentangkan kepada kami tentang kes penderaan, ancaman akan berlaku kepada kehidupan dan isu kecemasan lain bagi pihak Snapchatter yang memerlukan melalui saluran keutamaan tinggi. Majoriti peserta dalam Program Pengawal Lalulintas Kepercayaan kami melaporkan kandungan dan akaun yang berkaitan dengan bahaya berkaitan seksual terhadap kanak-kanak bawah umur, termasuk sekstorsi.

II. Penglibatan pakar dan gabungan industri

Selain daripada pelaburan kami sendiri, kami juga melibatkan diri dengan pakar di seluruh dunia, kerana kami tahu tiada satu entiti atau organisasi sahaja boleh memajukan isu ini dengan bermakna. Sebagai contoh, Snap mewakili industri di Lembaga Polisi antarabangsa Perikatan Global WeProtect; kami ialah ahli Majlis Penasihat INHOPE dan menduduki Lembaga Pemegang Amanah Yayasan Pengawasan Internet UK (IWF). Kesemua organisasi ini mempunyai penghapusan CSEA dalam talian di tengah-tengah misi mereka.

Kami kekal sebagai ahli aktif Tech Coalition, sebuah pakatan industri global yang memberi tumpuan dalam memerangi eksploitasi dan penderaan seksual kanak-kanak dalam talian dan baru-baru ini menamatkan penggal dua tahun dalam Jawatankuasa Eksekutif Lembaga Pengarahnya. Kami juga mengasaskan ahli inisitaif Tanglung Tech Coalition, program perkongsian isyarat merentas platform pertama untuk syarikat memperkukuh cara mereka menguatkuasakan dasar keselamatan anak-anak. Melalui penyertaan aktif dalam program ini, syarikat-syarikat boleh membantu antara satu sama lain untuk memeriksa pelakon jahat, termasuk sekstortionis.

Selain itu, kami manfaatkan pangkalan data Take It Down oleh National Center for Missing and Exploited Children (NCMEC), yang membolehkan kanak-kanak bawah umur menjana cap jari digital dipanggil “cincang”–bagi imej atau video terpilih secara terus pada peranti mereka. Syarikat yang mengambil bahagian, termasuk Snap, boleh menggunakan cincang tersebut untuk mencari dan mengalih keluar imej pendua yang melanggar Garis Panduan Komuniti kami. Kami mengambil bahagian dalam program serupa di UK yang dipanggil Report Remove dan pada tahun lepas, kami menyertai kerjasama StopNCII SWGfL untuk membantu menghalang penyebaran imejan intim tanpa persetujuan (NCII) pada Snapchat dengan memanfaatkan pangkalan data cincang kumpulan itu. StopNCII membantu menghentikan penyebaran imej intim mereka yang berumur 18 tahun ke atas dan menawarkan mangsa keupayaan untuk menuntut semula privasi mereka mengenai foto dan video yang paling peribadi mereka.

Pada tahun ini kami juga melancarkan Majlis Snap untuk Kesejahteraan Digital sulung kami, sekumpulan 18 remaja dari seluruh A.S., yang dipilih untuk menyertai program perintis selama setahun yang memperjuangkan tabiat dan amalan dalam talian yang lebih selamat di sekolah dan komuniti mereka. Pada bulan Julai, kumpulan ini bersama-sama sekurang-kurangnya seorang ibu bapa atau pendamping, berkumpul di ibu pejabat Snap di Santa Monica, California untuk perbincangan yang menghasilkan cerapan menarik mengenai topik seperti perangkap dalam talian dan dinamik sosial serta alatan ibu bapa. Ini adalah sebagai tambahan Lembaga Penasihat Keselamatan Snap, yang terdiri daripada 16 profesional dan tiga peguam bela belia, yang memberikan bimbingan dan arahan terus kepada Snap mengenai hal keselamatan. Kami menantikan tahun 2025, di mana kami berharap dapat mewujudkan lebih banyak peluang untuk ahli kedua-dua kumpulan untuk berkumpul dan mencungkil cerapan tambahan.

III. Meningkatkan kesedaran

Di luar pelaburan dalaman kami dan kerja yang kami lakukan dengan pakar dan merentas industri, komponen penting untuk memerangi penderaan seksual dalam talian dan skim sektorsi adalah meningkatkan kesedaran orang ramai dan Snapchatter.

Pada tahun 2022, kami melancarkan Indeks Kesedaran Digital, penyelidikan terkemuka industri yang menawarkan cerapan tentang bagaimana remaja dan dewasa muda berada dalam talian merentas semua platform. Sebagai sebahgian daripada penyelidikan ini, selama dua tahun yang lalu, kami telah melakukan penyelamandalam sekstorsi Oleh keranan kajian ini merangkumi pengalaman dalam talian secara amnya bukan sahaja pada Snapchat, ia bukan sahaja membantu untuk memaklumkan kerja kami, tetapi kami berharap kajian ini juga menawarkan cerapan kepada orang lain di seluruh ekosistem teknologi. Lewat bulan ini, kami akan berkongsi keputusan penyelam sekstorsi Tahun Dua kami, bersempena dengan Forum Berbilang Pihak Berkepentingan maya Gabungan Teknologi mengenai sekstorsi kewangan kanak-kanak bawah umur.

Awal tahun ini, kami berbesar hati menjadi entiti yang menyokong Know2Protect, kempen kesedaran awam yang pertama seumpamanya yang dilancarkan awal tahun ini oleh Jabatan Keselamatan Dalam Negeri (DHS) A.S. Kempen ini mendidik dan memperkasakan golongan muda, ibu bapa, orang dewasa yang dipercayai dan penggubal dasar untuk membantu mencegah dan memerangi jenayah seperti peras ugut seksual. Selain menderma ruang pengiklanan di Snapchat untuk sumber pendidikan K2P, kami sedang menjalankan penyelidikan tambahan dengan remaja dan yang muda di A.S. untuk maklumkan lebih lanjut mengenai kempen tersebut. Kami juga menlancarkan bersama Lensa Snapchat Realiti tertambah untuk membantu mendidik Snapchatter melalui kuiz interaktif Know2Protect. Dan di UK, kami menyokong kempen meningkatkan kesedaran awam IWF yang meluas mengenai isu-isu ini sehingga kini, Gurls Out Loud, yang direka untuk memaklumkan kanak-kanak perempuan berumur 11 hingga 13 tahun tahun tentang dandanan seksual dalam talian, hubungan seks dan bogel. Selain daripad, baru-baru ini kami telah melancarkan Panduan Snapchat kepada Pendidik , bekerjasama dengan Sekolah Selamat dan Bunyi untuk membangunkan kit alat yang komprehensif untuk pendidik yang merangkumi maklumat dan panduan tentang cara memerangi sekstorsi.

Berdasarkan penyelidikan kami selama bertahun-tahun, kami tahu bahawa peningkatan kesedaran dan pendidikan komuniti ialah alat yang berkuasa dalam membantu mencegah bahaya dalam talian, dan kami terus membangunkan serta mempromosikan sumber dalam apl untuk menjangkau remaja dan golongan muda secara langsung di Snapchat. Pada September 2023, kami telah mengeluarkan empat episod “Snapshot Keselamatan” dalam apl baharu yang memfokuskan pada risiko dan bahaya seksual, termasuk sekstorsi kewangan. Kami juga menawarkan episod mengenai teks seksual dan akibat daripada mencipta dan berkongsi bogel, dandanan dalam talian kanak-kanak untuk tujuan seksual dan pemerdagangan seks kanak-kanak. Ke semua sumber ini telah disemak oleh pakar di Pusat Kebangsaan untuk Kanak-Kanak Hilang dan Dieksploitasi (NCMEC) dan dicipta dengan kerjasama talian hotline dan talian bantuan yang berkaitan di geografi utama.

Kami terus melawan eksploitasi dan penderaan seksual kanak-kanak dalam talian, tetapi masih banyak lagi yang perlu dilakukan. Pada tahun 2025, kami akan terus meningkatkan kesedaran tentang potensi bahaya dalam talian dan terus mengulangi bahawa sesiapa sahaja boleh menjadi sasaran yang berpotensi. Kami mahu menggangu dan manggagalkan pelakon jahat yang kerap dan kami mahu menghasilkan CyberTips yang lebih boleh diambil tindakan untuk penguatkuasaan undang-undang.

Adalah penting untuk ambil perhatian bahawa kami menggunakan banyak strategi yang sama semasa kami melawan kemudaratan besar yang lain, seperti aktiviti dadah terlarang, termasuk penjualan pil tiruan, ancaman keganasan dan bunuh diri dan kandungan yang mencederakan diri sendiri. Kami menyedari bahawa kerja kami dalam ruang ini mungkin tidak akan selesai, tetapi kami amat mengambil berat tentang keselamatan Snapchatter dan akan terus bekerjasama merentasi industri, kerajaan dan penguatkuasaan undang-undang untuk bertukar maklumat dan mengukuhkan pertahanan kami.