Membantu golongan muda berkembang dalam dunia digital termasuk melihat selain naratif mudah yang menggambarkan kehidupan dalam talian sebagai sesuatu sememangnya baik atau sememangnya buruk. Kita juga mesti memberikan tumpuan kepada pengalaman harian yang tulen bagi Generasi Z untuk memahami perkara yang membolehkan mereka berkembang maju. Tatkala kita memasuki era baharu yang ditakrifkan oleh peningkatan pesat AI generatif, komitmen kami untuk mendasari usaha keselamatan kami dalam penyelidikan objektif adalah lebih kritikal berbanding dengan sebelum ini – dan usaha kami dapat membantu untuk memastikan bahawa Snapchat kekal sebagai perkhidmatan komunikasi yang berpusat pada ketulenan, sambungan, kepunyaan dan kepentingan.

Hari ini, kami berkongsi beberapa cerapan baharu daripada tahun kelima dan terakhir kajian Indeks Kesejahteraan Digital (DWBI) kami, khususnya hasil yang berpusat pada landskap kandungan yang dijana oleh AI dan impaknya terhadap hubungan interpersonal.

Selama lima tahun terakhir, Snap telah menjalankan penyelidikan agnostik platform untuk membantu menjejaki dan mengukur kesejahteraan psikologi dalam talian Generasi Z. Kami menjalankan tinjauan ini untuk menambah pada asas bukti global tentang tabiat dan amalan digital golongan muda serta membantu untuk meningkatkan kesedaran tentang kebimbangan yang timbul supaya ibu bapa, pendidik, syarikat teknologi, kerajaan dan masyarakat sivil boleh bekerjasama dengan lebih berkesan untuk mengurangkan risiko, mengurangkan kemungkinan kemudaratan dan mencegah pengulangan. DWBI meninjau pengalaman kanak-kanak berumur 13 hingga 24 tahun di enam negara di seluruh ekosistem digital yang lebih luas dan bukannya memberikan tumpuan kepada mana-mana platform tunggal, termasuk Snapchat. Dapatan terkini daripada Australia, Perancis, Jerman, India, UK dan A.S. termasuk cerapan baharu tentang penciptaan dan pengedaran imej palsu tulen dalam kalangan Generasi Z.

Wacana awam tentang AI sering berayun antara optimisme yang tidak terkawal dan kekhuatiran yang mendalam. Daripada bergantung pada mana-mana daripada pandangan ekstrem ini, dapatan DWBI terkini memberikan pandangan berasaskan bukti tentang cara mereka yang berumur 13 hingga 24 tahun di enam geografi terlibat dengan AI generatif. Dapatan tersebut mendedahkan gambaran yang kompleks dan kadangkala gambaran yang interaksi rakan dengan rakan melibatkan palsu tulen yang membimbangkan. Sebagai contoh:

• Hampir satu pertiga (30%) responden, berumur 13 hingga 24, melaporkan telah mencipta palsu tulen orang lain

• Lebih daripada separuh (53%) daripada mereka yang mencipta palsu tulen melaporkan bahawa tindakan itu mengakibatkan “drama” atau “konflik” dalam kalangan lingkungan sosial mereka dan 

• Walaupun majoriti menggunakan alat AI generatif untuk kreativiti, keseronokan dan hiburan, lebih daripada satu pertiga (35% bersih) mengatakan palsu tulen yang dicipta oleh mereka dibuat dengan niat yang tidak wajar, khususnya: untuk membuat seseorang kelihatan buruk atau untuk menyinggung mereka (12%), sebagai tindakan balas (12%), atau untuk mengusik atau mengganggu orang lain (11%). 

Apabila ditanya cara mereka akan bertindak balas secara khusus terhadap palsu tulen seksual diri mereka sendiri, majoriti besar (81% bersih) remaja bawah umur berkata mereka akan memberitahu seseorang, iaitu ibu bapa (65%), manakala tujuh daripada 10 dewasa muda Gen Z (70%) berkata mereka akan melaporkannya, kepada penguatkuasaan undang-undang (53%) dan platform teknologi (51%) sebagai saluran utama mereka. Lebih daripada satu dalam 10 remaja bawah umur (18%) dan lebih daripada dua dalam 10 kanak-kanak berumur 18 hingga 24 tahun (22%) berkata mereka hanya akan mengabaikannya atau tidak mengambil mana-mana tindakan yang disenaraikan. Carta di bawah menggariskan pilihan yang diberikan untuk tindakan.

Dapatan ini menekankan satu kebenaran kritikal: kesejahteraan digital pada abad ke-21 memerlukan lebih daripada alat dan sumber keselamatan tradisional; kesejahteraan digital menuntut kecelikan AI yang mendalam dan praktikal. Apabila 30% orang muda melaporkan telah mencipta media sintetik yang melibatkan rakan sebaya mereka, aktiviti itu mungkin mempunyai implikasi untuk hubungan peribadi, reputasi dan rasa kawalan individu terhadap cara mereka digambarkan.

Oleh itu, perbualan yang memberikan tumpuan kepada dasar perlu beralih daripada reaksi berasaskan ketakutan dan ke arah rangka kerja yang merangkumi “manusia menyeluruh” belia dalam talian hari ini. Kita boleh mempertimbangkan tiga komponen teras:

1. Kecelikan AI: Untuk membantu orang muda memahami bukan sahaja cara menggunakan AI, tetapi akibat etika dan sosial daripada mencipta kandungan yang mungkin melibatkan orang lain tanpa persetujuan mereka.

2. Kawalan Peribadi: Untuk memperkasakan golongan muda bagi mengenali sempadan dan berusaha untuk mengekalkan kawalan ke atas persamaan digital mereka sendiri serta

3. Komunikasi Terbuka: Untuk menggalakkan remaja, ibu bapa, pendidik dan orang dewasa lain yang dipercayai untuk mengadakan perbualan yang terbuka dan mempertimbangkan perbualan tentang kualiti berbanding dengan kuantiti interaksi digital, menyedari bahawa sebarang palsu tulen yang dicipta walaupun "sebagai jenaka" boleh memberikan kesan yang berkekalan terhadap orang lain.

Secara kebetulan, ditanya tempat dan cara mereka belajar untuk menggunakan alat AI secara selamat dan secara bertanggungjawab, lapan daripada 10 kanak-kanak berumur 13 hingga 24 tahun (81% bersih) berkata mereka belajar sendiri. Satu perempat (27%) daripada mereka yang berumur 13 hingga 17 tahun berkata mereka belajar daripada ibu bapa mereka, manakala guru menyumbang satu daripada 10 asas pengetahuan remaja (11%) dan dewasa muda (10%).

Dapatan ini ialah sebahagian daripada kajian lima tahun Snap tentang kesejahteraan psikologi dalam talian Generasi Z pada pelbagai platform dan menandakan keluaran terkini dan terakhir Indeks Kesejahteraan Digital kami (DWBI), ukuran tentang keadaan remaja (berumur 13-17) dan orang dewasa muda (berumur 18-24) dalam talian di enam negara. Kami juga meninjau ibu bapa remaja berumur 13 hingga 19 tahun tentang pengalaman dalam talian anak remaja mereka. Tinjauan terkini ini telah dijalankan antara 11 Mei hingga 30 Mei 2026 dan termasuk 9,005 responden merentasi tiga demografik umur dan enam geografi. Hasil penuh, termasuk bacaan DWBI terkini untuk setiap negara dan merentasi semua enam negara digabungkan, akan dikeluarkan pada Hari Keselamatan Internet 2027 pada bulan Februari. Kami memilih untuk menjadikan dapatan berkaitan AI ini tersedia lebih awal disebabkan terdapat dialog global yang berterusan tentang kebanyakan isu ini.

Tatkala kami mengakhiri kajian kesejahteraan digital selama lima tahun ini dan mengembangkan tumpuan penyelidikan kami untuk beberapa tahun akan datang, misi seluruh ekosistem kami kekal jelas:  untuk membina ruang dalam talian yang orang muda boleh belajar, ketawa dan berhubung dengan selamat dan setulen yang mungkin. Peningkatan palsu tulen merupakan peringatan bahawa tatkala teknologi berkembang, usaha operasi dan pendidikan kami mesti berkembang bersamanya. Dengan terus memberikan tumpuan kepada kecelikan, daya tahan dan pemikiran kritis, kami boleh membantu untuk memastikan generasi akan datang tidak hanya "sekadar menggunakan" dalam talian, tetapi benar-benar berkembang.

Untuk menyokong usaha ini, bulan lalu, Snap mengumumkan bahawa video yang dijana oleh AI sepenuhnya tidak akan lagi layak untuk pengesyoran pada ciri Tumpuan Snapchat. Sesungguhnya, apabila kandungan yang berkualiti rendah, berulang dan dijana oleh AI menjadi semakin biasa di seluruh ruang dalam talian, Snap mahu Tumpuan kekal sebagai tempat yang orang ramai boleh menemui kreativiti yang tulen daripada orang sebenar. Kami juga mencipta lembaran fakta ringkas untuk ibu bapa dan remaja tentang bahan yang dijana oleh AI. “Berhenti. Fikirkan. Adakah INI AI?” direka bentuk untuk mencetuskan perbualan antara remaja, ibu bapa dengan orang dewasa lain yang dipercayai tentang penggunaan alat AI yang selamat dan bertanggungjawab. Kami juga bekerjasama dengan banyak kumpulan dan organisasi lain, dan merupakan yang pertama untuk menyokong kempen Know2Protect Jabatan Keselamatan Dalam Negeri A.S., meningkatkan kesedaran tentang eksploitasi dan penderaan seksual kanak-kanak. Know2Protect menerbitkan panduan tentang palsu tulen di sini. 

Dalam bidang dasar awam, Snap menyokong Akta Take It Down, yang berkuat kuasa pada Mei 2025, mewujudkan rangka kerja persekutuan A.S. untuk menangani imej intim tanpa persetujuan, termasuk kandungan yang dijana oleh AI. Undang-undang itu menjadikan tindakan menerbitkan, atau mengancam untuk menerbitkan, imej intim tanpa persetujuan secara sengaja sebagai satu jenayah, tidak kira bahan itu adalah asli atau dijana secara sintetik, dan mewajibkan platform yang diliputi untuk menyediakan proses pelaporan dan mengalih keluar kandungan yang dilaporkan dalam masa 48 jam.

Kebimbangan yang sama dicerminkan dalam kempen “Tidak kepada Kebogelan” yang dilancarkan pada Hari Keselamatan Internet 2026, yang menyatukan organisasi keselamatan kanak-kanak dan masyarakat sivil, yang kebanyakannya ialah rakan kongsi dan kolaborator Snap. WeProtect Global Alliance, INHOPE, Internet Watch Foundation, NCMEC, Child Helpline International, Offlimits dan Safe Online menyeru larangan terhadap alat pembogelan AI. Kempen ini berpendapat bahawa aplikasi yang berunsur "pembogelan" pada hakikatnya bukan eksperimen yang tidak memudaratkan, tetapi sebaliknya digunakan untuk mencipta imej seksual tanpa persetujuan daripada foto biasa, dan semakin dikaitkan dengan gangguan, paksaan, pemerasan seksual dan penderaan yang memberikan kesan kepada wanita, gadis dan kanak-kanak.

Snap juga mengambil bahagian dalam program merentas industri yang praktikal yang direka bentuk untuk mengehadkan penyebaran bahan sedemikian pada Snapchat. Kami ialah ahli program Take It Down NCMEC untuk kanak-kanak bawah umur dan usaha StopNCII SWGfL untuk 18+, menerima serta memanfaatkan tandatangan digital yang unik atau “cincangan” untuk membantu pengesanan imej intim pendua dan mengalih keluar kandungan yang melanggar peraturan kami. Usaha ini adalah penting kerana mereka memberikan tumpuan bukan sahaja pada pengesanan awal, tetapi untuk mencegah pengedaran semula imej intim yang diketahui dan palsu tulen seksual sebaik sahaja imej sedemikian mula tersebar.

– Jacqueline Beauchere, Ketua Keselamatan Platform Global, Snap Inc.