Membantu anak muda berkembang di dunia digital mencakup melihat melampaui narasi sederhana yang menggambarkan kehidupan daring sebagai sesuatu yang secara inheren baik atau buruk. Kita juga harus fokus pada pengalaman autentik dan sehari-hari dari Generasi Z untuk memahami apa yang memungkinkan mereka untuk berkembang. Ketika kita memasuki era baru yang didefinisikan oleh peningkatan pesat AI generatif, komitmen kami untuk mendasarkan pekerjaan keamanan kami dalam penelitian objektif lebih penting dari sebelumnya – dan ini akan membantu memastikan bahwa Snapchat tetap menjadi layanan komunikasi yang berpusat pada keaslian, koneksi, kepemilikan, dan kepedulian.

Hari ini, kami membagikan beberapa wawasan baru dari tahun kelima dan terakhir studi Indeks Kesejahteraan Digital (DWBI), khususnya hasil yang berpusat pada lanskap konten yang dihasilkan oleh AI yang berkembang dan dampaknya terhadap hubungan interpersonal.

Selama lima tahun terakhir, Snap telah melakukan penelitian agnostik platform untuk membantu melacak dan mengukur kesejahteraan psikologis di dunia daring Generasi Z. Kami melakukan survei ini untuk menambah basis bukti global tentang kebiasaan dan praktik digital anak muda, serta membantu meningkatkan kesadaran dari kekhawatiran yang muncul sehingga orang tua, pendidik, perusahaan teknologi, pemerintah, dan masyarakat sipil dapat bekerja sama lebih efektif untuk memitigasi risiko, mengurangi potensi bahaya, serta mencegah pengulangan. DWBI memeriksa pengalaman anak berusia 13 hingga 24 tahun di enam negara di seluruh ekosistem digital yang lebih luas, alih-alih berfokus pada platform tunggal apa pun, termasuk Snapchat. Temuan terbaru dari Australia, Prancis, Jerman, India, Inggris, dan Amerika Serikat mencakup wawasan baru tentang pembuatan dan distribusi gambar deepfake di kalangan Generasi Z.

Wacana publik seputar AI sering berayun antara optimisme yang tidak terkendali dan keprihatinan mendalam. Daripada mengandalkan garis keras mana pun, temuan DWBI terbaru memberikan pandangan berbasis bukti tentang bagaimana anak berusia 13 hingga 24 tahun di enam wilayah geografis terlibat dengan AI generatif. Temuan tersebut mengungkapkan gambaran yang kompleks dan, terkadang, memprihatinkan tentang interaksi peer-to-peer yang melibatkan deepfake. Misalnya:

• Hampir sepertiga (30%) responden, berusia 13 hingga 24 tahun, melaporkan telah membuat deepfake seseorang

• Lebih dari separuh (53%) dari mereka yang membuat deepfake melaporkan bahwa tindakan tersebut mengakibatkan “drama” atau “konflik” dalam lingkaran sosial mereka, dan 

• Meskipun mayoritas menggunakan alat AI generatif untuk kreativitas, kesenangan, dan hiburan, lebih dari sepertiga (35% bersih) mengatakan deepfake yang mereka buat dihasilkan dengan niat jahat, khususnya: untuk membuat seseorang terlihat buruk atau membuat mereka kesal (12%), sebagai pembalasan (12%), atau untuk mengejek atau melecehkan orang lain (11%).

Ketika ditanya bagaimana mereka akan menanggapi secara khusus terhadap deepfake seksual dari diri mereka sendiri, sebagian besar remaja di bawah umur (81%) mengatakan mereka akan berbicara dengan seseorang, yaitu orang tua (65%), sementara tujuh dari 10 dewasa muda Gen Z (70%) mengatakan mereka akan melaporkannya, dengan penegak hukum (53%) dan platform teknologi (51%) outlet utama mereka. Lebih dari satu dari 10 remaja di bawah umur (18%) dan lebih dari dua dari 10 remaja berusia 18 hingga 24 tahun (22%) mengatakan mereka hanya akan mengabaikannya atau tidak mengambil tindakan apa pun dari yang tercantum. Grafik di bawah ini menguraikan opsi tindakan yang tercantum.

Temuan ini menggarisbawahi kebenaran penting: kesejahteraan digital di abad ke-21 memerlukan lebih dari alat dan sumber daya keamanan tradisional; hal ini menuntut literasi AI yang mendalam dan praktis. Ketika 30% anak muda melaporkan telah membuat media sintetis yang melibatkan teman sebaya mereka, aktivitas tersebut mungkin memiliki implikasi bagi hubungan pribadi, reputasi, dan rasa kontrol individu atas bagaimana mereka digambarkan.

Oleh karena itu, percakapan yang berfokus pada kebijakan perlu menjauh dari reaksi berbasis ketakutan dan menuju kerangka kerja yang mewujudkan "pribadi seutuhnya" pemuda di dunia daring saat ini. Kami dapat mempertimbangkan tiga komponen inti:

1. Literasi AI: Untuk membantu anak muda memahami tidak hanya cara menggunakan AI, tetapi juga konsekuensi etika dan sosial dari membuat konten yang mungkin melibatkan orang lain tanpa persetujuan mereka.

2. Kontrol Pribadi: Untuk memberdayakan anak muda untuk mengenali batas dan berusaha mempertahankan kontrol atas kemiripan digital mereka sendiri, dan

3. Komunikasi Terbuka: Untuk mendorong para remaja, orang tua, pendidik, dan orang dewasa tepercaya lainnya untuk melakukan percakapan terbuka dan bermakna tentang kualitas versus kuantitas interaksi digital, mengakui bahwa deepfake apa pun yang dibuat bahkan "sebagai lelucon" dapat memiliki dampak jangka panjang pada orang lain.

Tak disangka, ketika ditanya di mana dan dari siapa mereka belajar menggunakan alat AI dengan aman dan bertanggung jawab, delapan dari 10 anak berusia 13 hingga 24 tahun (81% bersih) mengatakan mereka belajar sendiri. Seperempat (27%) dari anak berusia 13 hingga 17 tahun mengatakan mereka belajar dari orang tua mereka, sementara guru menyumbang satu dari 10 basis pengetahuan remaja (11%) dan dewasa muda (10%).

Temuan ini adalah bagian dari studi selama lima tahun Snap tentang kesejahteraan psikologis secara daring Generasi Z di berbagai platform serta menandai rilis terbaru dan terakhir dari Indeks Kesejahteraan Digital (DWBI), suatu ukuran bagaimana remaja (berusia 13-17 tahun) dan dewasa muda (berusia 18-24 tahun) menjalani pengalaman daring di enam negara tersebut. Kami juga menyurvei orang tua dari remaja berusia 13 hingga 19 tahun mengenai pengalaman online anak remaja mereka. Jajak pendapat terbaru ini dilakukan antara 11 Mei hingga 30 Mei 2026, dan mencakup 9.005 responden di tiga demografi usia dan enam wilayah geografi. Hasil lengkap, termasuk pembacaan DWBI terbaru untuk setiap negara dan di keenam negara tersebut secara keseluruhan, akan dirilis pada Hari Internet Aman Sedunia 2027 di bulan Februari. Kami memilih untuk membuat temuan terkait AI ini tersedia lebih awal mengingat dialog global yang sedang berlangsung tentang banyak masalah ini.

Seiring dengan berakhirnya periode lima tahun ini dalam mempelajari kesejahteraan digital untuk menyelesaikan dan mengembangkan fokus penelitian kami dalam beberapa tahun mendatang, misi kami di seluruh ekosistem tetap jelas:  untuk membangun ruang daring tempat anak muda dapat belajar, tertawa, serta terhubung dengan seaman dan seautentik mungkin. Munculnya deepfake adalah pengingat bahwa seiring perkembangan teknologi, upaya operasional dan pendidikan kami harus berkembang bersamanya. Dengan terus berfokus pada literasi, ketahanan, dan berpikir kritis, kami dapat membantu memastikan generasi berikutnya tidak hanya "bertahan hidup" dari dunia daring, tetapi benar-benar berkembang.

Untuk mendukung upaya ini, bulan lalu, Snap mengumumkan bahwa video yang seluruhnya dihasilkan oleh AI tidak akan lagi memenuhi syarat untuk rekomendasi di fitur Spotlight Snapchat. Memang, karena konten berkualitas rendah, repetitif, dan buatan AI menjadi semakin umum di seluruh ruang daring, Snap ingin Spotlight tetap menjadi tempat di mana orang dapat menemukan kreativitas otentik dari orang sungguhan. Kami juga membuat lembar fakta singkat bagi orang tua dan remaja seputar materi buatan AI. “Berhenti. Pikirkan. Apa mungkin INI AI?” dirancang untuk memicu percakapan antara remaja, orang tua, dan orang dewasa tepercaya lainnya tentang penggunaan alat AI yang aman dan bertanggung jawab. Kami juga berkolaborasi dengan berbagai kelompok dan organisasi lain, dan merupakan yang pertama mendukung kampanye Know2Protect Departemen Keamanan Dalam Negeri AS, meningkatkan kesadaran akan eksploitasi dan pelecehan seksual anak. Know2Protect menerbitkan panduan dasar tentang deepfake di sini.   

Dalam bidang kebijakan publik, Snap mendukung Undang-Undang Take It Down, yang mulai berlaku pada Mei 2025, menetapkan kerangka kerja federal AS untuk menangani gambar intim nonkonsensual, termasuk konten buatan AI. Undang-undang tersebut menetapkan bahwa mempublikasikan atau mengancam akan mempublikasikan gambar-gambar intim tanpa persetujuan merupakan tindak pidana federal, baik materi tersebut autentik maupun dihasilkan secara sintetis, dan undang-undang tersebut mewajibkan platform-platform yang tercakup untuk menyediakan proses pelaporan dan menghapus konten yang dilaporkan dalam 48 jam.

Kekhawatiran serupa tercermin dalam kampanye “No to Nudify” yang diluncurkan pada Hari Internet yang Lebih Aman 2026, yang mempertemukan organisasi keamanan anak dan masyarakat sipil, di mana banyak di antaranya adalah mitra dan kolaborator Snap. WeProtect Global Alliance, INHOPE, the Internet Watch Foundation, NCMEC, Child Helpline International, Offlimits, dan Safe Online menyerukan larangan atas alat nudifikasi AI. Kampanye ini berpendapat bahwa apa yang disebut aplikasi "nudify" sebenarnya bukanlah eksperimen yang tidak berbahaya, tetapi sebaliknya digunakan untuk membuat citra seksual nonkonsensual dari foto biasa, dan semakin terkait dengan pelecehan, paksaan, pemerasan seksual, dan pelecehan yang memengaruhi wanita, anak perempuan, dan anak-anak.

Snap juga berpartisipasi dalam program lintas industri praktis yang dirancang untuk membatasi penyebaran materi tersebut di Snapchat. Kami adalah anggota program Take It Down NCMEC untuk anak di bawah umur dan bagian dari upaya StopNCII dari SWGfL untuk 18+, menerima dan memanfaatkan tanda tangan digital yang unik, atau “hash,” untuk membantu mendeteksi gambar intim duplikat dan menghapus konten yang melanggar aturan kami. Upaya ini penting karena tidak hanya berfokus pada deteksi awal, tetapi juga mencegah sirkulasi ulang gambar intim dan deepfake seksual yang sudah diketahui setelah mulai menyebar.

– Jacqueline Beauchere, Kepala Keamanan Platform Global, Snap Inc.