लेंस जब 2015 में आया, तो ऑगमेंटेड रिएलिटी (AR) प्रौद्योगिकी ने हमारी आंखों के सामने जीवन में जादू कर दिया, जिससे हमने जो सोचा था उसमें क्रांति लाना संभव हो गया। आज, 300 मिलियन से अधिक Snap चैटर्स औसतन हर दिन AR के साथ संलग्न रहते हैं, क्योंकि हम अपने रोजमर्रा के कैमरा अनुभव में इस प्रकार की प्रौद्योगिकी की उम्मीद करने लगे हैं। 

अब, AI में हाल में हुई उन्नतियों के कारण असीमित और अद्भुत संभावनाओं के द्वार खुल रहे हैं, जिससे हमें यह समझ आ रहा था कि हम जो सोच रहे थे उसे करना फिर से संभव हो गया था। 

Snap चैटर्स के लिए AI का उपयोग करके खुद को व्यक्त करने के लिए पहले से इतने सारे प्रेरणादायक तरीके हैं, चाहे वे एक फ़्रेंड के साथ बातचीत के लुक को वैयक्तीकृत करने के लिए एक जेनरेटिव AI चैट वॉलपेपर बना रहे हों, या AI-संचालित लेंस की मदद से कल्पनाशील तरीकों से खुद को बदल रहे हों, या My AI के साथ बातचीत के माध्यम से दुनिया के बारे में जान रहे हों। हम अपनी कम्युनिटी को उनकी रचनात्मकता और कल्पना को अनलॉक करना जारी रखने में मदद करने के लिए इस प्रोद्योगिकी की क्षमता से बहुत उत्साहित हैं। 

AI पारदर्शिता

हमारा मानना है कि Snap चैटर्स को उन प्रौद्योगिकियों के प्रकारों के बारे में जानकारी दी जानी चाहिए जिनका उपयोग वे कर रहे हैं चाहे वे मज़ेदार विजुअल तैयार कर रहे हों या My AI के साथ टेक्स्ट-आधारित बातचीत के माध्यम से सीख रहे हों। 

Snap चैटर्स को प्रासंगिक पारदर्शिता प्रदान करने के लिए हम ऐप में प्रासंगिक आइकन, प्रतीकों, और लेबल्स का उपयोग करते हैं, जब वे AI प्रौद्योगिकी द्वारा संचालित किसी फीचर के साथ इंटरैक्ट कर रहे होते हैं। उदाहरण के लिए, जब कोई Snap चैटर एक AI-उत्पन्न ड्रीम्स छवि को शेयर करता है, तो प्राप्तकर्ता को और अधिक जानकारी के साथ एक संदर्भ कार्ड दिखाई देता है। Snap बनाने वाले Snap चैटर के लिए एक चमकदार आइकन के साथ एक AI फीचर के रूप में अन्य फीचर्स को सीमांकित किया जाता है जैसे एक्सटेंड टूल जो एक Snap और अधिक ज़ूम आउट दिखाने के लिए AI का लाभ उठाता है। 

हम एक कठोर मानव समीक्षा प्रक्रिया के माध्यम से सभी राजनीतिक विज्ञापनों की पुनरीक्षण या अच्छी तरह जांच करते समय भी बड़ी सावधानी बरतते हैं ताकि किसी कंटेंट के भ्रामक उपयोग का पता लगाया जा सके, जिसमें धोखापूर्ण छवि या कंटेंट बनाने के लिए AI का उपयोग भी शामिल है। 

जल्द ही, हम AI-उत्पन्न छवियों में एक वाटरमार्क जोड़ देंगे। यह Snap के जेनरेटिव AI टूल्स की मदद से बनाई गई छवियों को कैमरा रोल में निर्यात या सेव करते समय उन पर दिखाई देगा। Snapchat पर बनाई गई AI-उत्पन्न छवि के प्राप्तकर्ताओं को उसके बगल में व्यापक रूप से पहचाने गए चमकदार आइकन के साथ एक छोटा घोस्ट लोगो दिख सकता है। इन वॉटरमार्क्स को जोड़ने से उसे देखने वालों को पता चल सकेगा कि उस छवि को Snapchat पर AI की मदद से बनाया गया था। 

मानकीकृत सुरक्षा परीक्षण और प्रोटोकॉल 

हम गोपनीयता, सुरक्षा, और उम्र की उपयुक्त स्थिति को प्राथमिकता देने वाले उत्पादों और अनुभवों को डिजाइन करने की अपनी जिम्मेदारी को गंभीरता से लेते हैं। हमारे सभी उत्पादों की तरह, AI-संचालित फीचर्स हमेशा कड़ी समीक्षा से गुजरते हैं जिससे सुनिश्चित हो सके कि वे हमारी सुरक्षा और गोपनीयता के सिद्धांत का पालन करते हैं - और समय के साथ अपनी सीख के माध्यम से, हमने अतिरिक्त सुरक्षा संबंधी उपाय विकसित किए हैं:

रेड-टीमिंग

AI रेड-टीमिंग, AI मॉडलों और AI-सक्षम फीचरों की जांच और उसमें मौजूद संभावित खामियों की पहचान करने और AI आउटपुट्स की सुरक्षा और सुसंगतता को बेहतर बनाने के समाधानों को लागू करने के लिए उत्तरोत्तर उपयोग की जाने वाली एक आम रणनीति है। 

हम जेनरेटिव इमेज मॉडलों के लिए नए AI रेड-टीमिंग तरीकों को सबसे पहले अपनाने, और हमारे कड़े सुरक्षा उपायों की प्रभावकारिता की जांच करने के लिए 2500 घंटे से अधिक काम पर HackerOne के साथ साझेदारी करने वालों में से एक हैं। 

सुरक्षा फिल्टरिंग और सुसंगत लेबलिंग

Snapchat पर उपलब्ध जेनरेटिव AI-सक्षम अनुभवों का विस्तार कर लेने के बाद, हमने जिम्मेदार सुशासन सिद्धांतों की स्थापना करने और अपने सुरक्षा शमन को बेहतर बनाने का काम भी किया है। 

हमने अपनी टीम द्वारा सुझाए गए AI लेंस अनुभवों के विकास के शुरुआती चरणों में संभावित समस्याग्रस्त प्रॉम्प्ट्स का पता लगाने और हटाने के लिए एक सुरक्षा समीक्षा प्रक्रिया तैयार की है। एक प्रॉम्प्ट से एक छवि उत्पन्न करने वाले हमारे सारे AI लेंस को अंतिम रूप दिए जाने और हमारे समुदाय के लिए उपलब्ध होने से पहले इस प्रक्रिया से गुजरना पड़ता है। 

समावेशी परीक्षण

हम चाहते हैं कि जीवन के हर पड़ाव वाले Snap चैटर्स को हमारे ऐप के भीतर सभी फीचर्स, विशेषकर हमारे AI-संचालित अनुभवों का उपयोग करते समय एक समान एक्सेस और उम्मीदें मिले। 

इसे ध्यान में रखते हुए, हम संभावित रूप से पक्षपाती AI परिणामों को कम करने के लिए अतिरिक्त परीक्षण कर रहे हैं। 

AI साक्षरता के प्रति निरंतर प्रतिबद्धता

हम खुद को व्यक्त करने और एक दूसरे से जुड़ने के संबंध में अपने समुदाय की क्षमता में सुधार करने के लिए AI प्रौद्योगिकी की जबरदस्त क्षमता में विश्वास करते हैं - और हम इन सुरक्षा और पारदर्शिता प्रोटोकॉल को लगातार बेहतर बनाने के लिए प्रतिबद्ध हैं। 

जबकि टेक्स्ट-आधारित और विजुअल दोनों प्रकार के हमारे सभी AI टूल्स को गलत, हानिकारक या भ्रामक कंटेंट उत्पन्न करने से बचने के लिए डिजाइन किया गया है, लेकिन फिर भी गलतियां हो सकती हैं। Snap चैटर्स, कंटेंट की रिपोर्ट कर सकते हैं, और हम इस फ़ीडबैक की सराहना करते हैं। 

अंत में, अपने समुदाय को इन टूल्स को बेहतर ढंग से समझने में मदद करने की निरंतर प्रतिबद्धता के एक हिस्से के रूप में, अब हमारी सपोर्ट साइट पर अतिरिक्त जानकारी और संसाधन उपलब्ध हैं।