Ketika Lensa hadir di tahun 2015, teknologi augmented reality (AR) membawa keajaiban menjadi nyata, merevolusi apa yang kami pikir mungkin terjadi. Hari ini, lebih dari 300 juta Snapchatter terlibat dengan AR setiap hari secara rata-rata, karena kami mengharapkan jenis teknologi ini dalam pengalaman kamera sehari-hari kami. 

Sekarang, kemajuan baru-baru ini dalam AI membuka kemungkinan yang tak terbatas dan menakjubkan, merombak apa yang kami pikir mungkin terjadi lagi. 

Sudah ada banyak cara yang menginspirasi bagi Snapchatter untuk mengekspresikan diri menggunakan AI, baik itu membuat Wallpaper Obrolan AI Generatif asli untuk mempersonalisasi tampilan percakapan dengan teman, mengubah diri secara imajinatif lewat Lensa yang didukung AI, atau belajar tentang dunia lewat percakapan dengan My AI. Kami sangat senang dengan potensi teknologi ini untuk membantu komunitas kami terus membuka kreativitas dan imajinasi mereka. 

Transparansi AI

Kami percaya Snapchatter harus diberi tahu tentang jenis teknologi yang mereka gunakan, baik untuk membuat visual yang menyenangkan atau belajar melalui percakapan berbasis teks dengan My AI. 

Kami menggunakan ikon kontekstual, simbol, dan label dalam aplikasi untuk memberikan transparansi kontekstual kepada Snapchatter ketika mereka berinteraksi dengan fitur yang didukung oleh teknologi AI. Misalnya, ketika Snapchatter membagikan gambar Dreams yang dihasilkan AI, penerima melihat kartu informasi dengan informasi yang lebih lengkap. Fitur lain, seperti alat perpanjangan yang memanfaatkan AI untuk membuat Snap tampak lebih diperkecil, dibatasi sebagai fitur AI dengan ikon kilau untuk Snapchatter yang menciptakan Snap. 

Kami juga sangat berhati-hati untuk memeriksa semua iklan politik melalui proses peninjauan manusia yang ketat, termasuk pemeriksaan menyeluruh untuk setiap penggunaan konten yang menyesatkan, termasuk penggunaan AI untuk membuat gambar atau konten yang menipu. 

Sebentar lagi, kami akan menambahkan tanda air ke gambar yang dihasilkan AI. Tanda air akan muncul pada gambar yang dibuat dengan alat AI generatif Snap ketika gambar diekspor atau disimpan ke rol kamera. Penerima gambar yang dihasilkan AI yang dibuat di Snapchat mungkin melihat logo hantu kecil dengan ikon kilau di sampingnya. Penambahan tanda air ini akan membantu memberi tahu mereka yang melihatnya bahwa gambar dibuat dengan AI di Snapchat. 

Pengujian & Protokol Keamanan Standar 

Kami menganggap serius tanggung jawab kami untuk merancang produk dan pengalaman yang memprioritaskan privasi, keselamatan, dan kesesuaian usia. Seperti semua produk kami, fitur yang didukung AI selalu mengalami peninjauan ketat untuk memastikan mereka mematuhi prinsip privasi dan keamanan kami – dan melalui pembelajaran kami dari waktu ke waktu, kami telah mengembangkan perlindungan tambahan:

Red-Teaming

Red-teaming AI adalah taktik yang semakin umum digunakan untuk menguji dan mengidentifikasi kekurangan potensial dalam model AI dan fitur yang didukung AI dan menerapkan solusi untuk meningkatkan keamanan dan konsistensi output AI. 

Kami telah menjadi pengguna awal metode red-teaming AI baru untuk model gambar generatif, bermitra dengan HackerOne dalam lebih dari 2.500 jam kerja untuk menguji kemanjuran perlindungan ketat kami. 

Penyaringan Keamanan & Pelabelan Konsisten

Karena kami telah memperluas pengalaman yang didukung AI Generatif yang tersedia di Snapchat, kami telah menetapkan prinsip tata kelola yang bertanggung jawab dan meningkatkan mitigasi keamanan kami juga. 

Kami telah membuat proses peninjauan keamanan untuk mendeteksi dan menghapus prompt yang berpotensi bermasalah pada tahap awal pengembangan pengalaman Lensa AI yang ditata oleh tim kami. Semua Lensa AI kami yang menghasilkan gambar dari prompt melalui proses ini sebelum diselesaikan dan tersedia untuk komunitas kami. 

Pengujian Inklusif

Kami ingin Snapchatter dari semua lapisan masyarakat memiliki akses dan harapan yang adil ketika menggunakan semua fitur dalam aplikasi kami, terutama pengalaman yang didukung AI kami. 

Dengan pemikiran ini, kami menerapkan pengujian tambahan untuk meminimalkan hasil AI yang berpotensi bias. 

Komitmen Berkelanjutan untuk Literasi AI

Kami percaya pada potensi luar biasa dari teknologi AI untuk meningkatkan kemampuan komunitas kami untuk mengekspresikan diri dan terhubung satu sama lain – dan kami berkomitmen untuk terus meningkatkan protokol keamanan dan transparansi ini. 

Meskipun semua alat AI kami, baik berbasis teks dan visual, dirancang untuk menghindari produksi materi yang tidak benar, berbahaya, atau menyesatkan, kesalahan mungkin masih terjadi. Snapchatter dapat melaporkan konten, dan kami menghargai umpan balik ini. 

Kini sebagai bagian dari komitmen berkelanjutan untuk membantu komunitas kami lebih memahami alat ini, kami sekarang memiliki informasi dan sumber daya tambahan di Situs Dukungan kami.