Apabila Lensa tiba pada 2015, teknologi realiti tertambah (AR) menghidupkan keajaiban di hadapan mata kita, merevolusikan apa yang kita mungkin fikirkan. Hari ini, lebih 300 juta Snapchatter terlibat dengan AR setiap hari secara sederhana, kerana kami telah menjangkakan jenis teknologi ini dalam pengalaman kamera kami setiap hari.

Kini, kemajuan terkini dalam AI membuka kemungkinan tanpa had dan menakjubkan, merombak semula perkara yang kami fikirkan boleh dilakukan sekali lagi.

Sudah, terdapat begitu banyak cara yang memberi inspirasi untuk Snapchatter untuk menyatakan diri mereka menggunakan AI, sama ada mereka mencipta Hiasan Latar Sembang AI Generatif yang asli untuk memperibadikan rupa perbualan dengan rakan, mengubah diri mereka dalam cara imaginatif dengan Lensa yang dikuasakan AI, atau belajar tentang dunia melalui perbualan dengan My AI. Kami sangat teruja dengan potensi teknologi ini untuk membantu komuniti kami teruskan membuka kunci kreativiti dan imaginasi mereka.

Ketelusan AI

Kami percaya Snapchatter harus dimaklumkan tentang jenis teknologi yang mereka gunakan sama ada mereka mencipta visual yang menyeronokkan atau belajar melalui perbualan berasaskan teks dengan My AI.

Kami menggunakan ikon kontekstual, simbol dan label dalam aplikasi untuk memberikan ketelusan kontekstual kepada Snapchat apabila mereka berinteraksi dengan ciri yang dikuasakan oleh teknologi AI. Contohnya, apabila Snapchatter berkongsi imej Impian yang dijana AI, penerima melihat info konteks dengan lebih banyak maklumat. Ciri-ciri lain, seperti alat lanjutan yang memanfaatkan AI untuk membuat Snap kelihatan lebih dizum keluar, ditandakan sebagai ciri AI dengan ikon berkilau untuk Snapchatter yang mencipta Snap.

Kami juga sangat berhati-hati untuk memeriksa semua iklan politik melalui proses semakan manusia yang ketat, termasuk pemeriksaan menyeluruh untuk sebarang penggunaan kandungan yang mengelirukan, termasuk AI untuk mencipta imej atau kandungan yang mengelirukan.

Tidak lama lagi, kami akan menambah tera air pada imej yang dihasilkan oleh AI. Ia akan muncul pada imej yang dibuat dengan alat AI generatif Snap apabila imej dieksport atau disimpan di foto. Penerima imej yang dijana AI yang dibuat pada Snapchat mungkin melihat logo hantu kecil dengan ikon kilauan yang dikenali secara meluas di sebelahnya. Penambahan tera air ini akan membantu memaklumkan mereka yang melihatnya bahawa imej itu dibuat dengan AI pada Snapchat.

Ujian & Protokol Keselamatan Standard

Kami mengambil serius tanggungjawab kami untuk mereka bentuk produk dan pengalaman yang mengutamakan privasi, keselamatan dan kesesuaian umur. Seperti semua produk kami, ciri-ciri dikuasakan AI sentiasa menjalani semakan yang ketat untuk memastikan ia mematuhi prinsip-prinsip privasi dan keselamatan kami – dan melalui pembelajaran kami dari masa ke semasa, kami telah membangunkan perlindungan tambahan:

Red-Teaming

AI red-teaming ialah taktik yang semakin biasa digunakan untuk menguji dan mengenal pasti potensi kelemahan dalam model AI dan ciri yang didayakan AI serta melaksanakan penyelesaian untuk meningkatkan keselamatan dan konsistensi output AI.

Kami telah menjadi pengguna awal kaedah AI red-teaming novel untuk model imej generatif, bekerjasama dengan HackerOne pada lebih daripada 2,500 jam kerja untuk menguji keberkesanan perlindungan ketat kami.

Penapisan Keselamatan & Pelabelan Konsisten

Memandangkan kami telah mengembangkan pengalaman yang didayakan AI Generatif yang tersedia di Snapchat, kami telah mewujudkan prinsip tadbir urus yang bertanggungjawab dan menambah baik pengurangan keselamatan kami juga.

Kami telah mencipta proses semakan keselamatan untuk mengesan dan keluarkan gesaan yang berpotensi bermasalah pada peringkat terawal pembangunan pengalaman Lensa AI yang digayakan oleh pasukan kami. Semua Lensa AI kami yang menghasilkan imej daripada segera melalui proses ini sebelum ia dimuktamadkan dan tersedia kepada komuniti kami.

Ujian Inklusif

Kami mahu Snapchatter daripada semua lapisan masyarakat mempunyai akses dan jangkaan yang saksama apabila menggunakan semua ciri-ciri dalam aplikasi kami, terutamanya pengalaman dikuasakan AI kami.

Dengan mengambil kira perkara ini, kami sedang melaksanakan ujian tambahan untuk meminimumkan hasil AI yang berpotensi berat sebelah.

Komitmen Berterusan terhadap Literasi AI

Kami percaya pada potensi besar teknologi AI untuk meningkatkan keupayaan komuniti kami untuk mengekspresikan diri mereka dan berhubung antara satu sama lain - dan kami komited untuk terus menambah baik protokol keselamatan dan ketelusan ini.

Walaupun semua alatan AI kami, berasaskan teks dan visual, direka bentuk untuk mengelakkan daripada menghasilkan bahan yang salah, berbahaya atau mengelirukan, kesilapan mungkin masih berlaku. Snapchatter dapat melaporkan kandungan, dan kami menghargai maklum balas ini.

Akhir sekali, sebagai sebahagian daripada komitmen berterusan untuk membantu komuniti kami memahami alat ini dengan lebih baik, kami kini mempunyai maklumat dan sumber tambahan di Laman Khidmat Sokongan kami.