2015 मध्ये लेन्सेस आल्या तेव्हा ऑग्मेंटेड रिॲलिटी (AR) तंत्रज्ञानाने आपल्या जीवनात जादू आणली आहे आणि आपल्या डोळ्यांना शक्य न वाटणाऱ्या गोष्टींमध्ये क्रांती घडवून आणली आहे. आज, 300 दशलक्षाहून अधिक स्नॅपचॅटर्स दररोज सरासरी AR सह व्यस्त असतात, कारण आम्ही आमच्या दैनंदिन कॅमेरा अनुभवामध्ये अशा प्रकारच्या तंत्रज्ञानाची अपेक्षा केली आहे.

आता AI मधील नजीकच्या काळातील प्रगती ही अमर्याद आणि चित्तथरारक शक्यतेची दारे उघडत आहोत आणि आम्ही विचार केला आहे ते पुन्हा शक्य आहे. 

आधीच स्नॅपचॅटर्ससाठी AI वापरून स्वतःला व्यक्त करण्याचे अनेक प्रेरणादायी मार्ग आहेत मग ते एखाद्या मित्रासोबतच्या संभाषणाचे स्वरूप वैयक्तिक करण्यासाठी मूळ जनरेटिव्ह AI चॅट वॉलपेपर तयार करीत आहोत, AI लेन्सेस सह कल्पनात्मक मार्गांमध्ये रूपांतरित करीत आहोत किंवा My AI सह संभाषणांद्वारे जगाबद्दल जाणून घेण्यासाठी तयार करीत आहोत. आमच्या समुदायाला त्यांची सर्जनशीलता आणि कल्पनाशक्ती अनलॉक करण्यात मदत करण्यासाठी या तंत्रज्ञानाच्या क्षमतांच्या माध्यमातून आम्ही खूप उत्सुक आहोत.

AI पारदर्शकता

आमचा विश्वास आहे की, स्नॅपचॅटर्सना ते वापरत असलेल्या तंत्रज्ञानाच्या प्रकारांबद्दल म्हणजेच मजेदार व्हिज्युअल तयार करणे किंवा My AI यांसह मजकूरावर आधारित संभाषणांद्वारे शिकत आहेत याबद्दल माहिती दिली पाहिजे.

स्नॅपचॅटर्सना जेव्हा AI तंत्रज्ञानाद्वारे समर्थित असलेल्या वैशिष्ट्याशी संवाद साधत असतात तेव्हा त्यांना संदर्भित पारदर्शकता प्रदान करण्यासाठी आम्ही अॅपमधील चिन्हे, प्रतीक आणि लेबल वापरतो. उदाहरणार्थ, जेव्हा स्नॅपचॅटर AI-व्युत्पन्न केलेली ड्रीम्स इमेज शेअर करतो, तेव्हा प्राप्तकर्त्याला अधिक माहिती असलेले संदर्भ कार्ड दिसते. Snap अधिक झूम आउट करण्यासाठी AI चा फायदा घेणारे एक विस्तारित साधन यासारखी इतर वैशिष्ट्ये Snap तयार करणाऱ्या स्नॅपचॅटरसाठी एक स्पार्कल आयकॉनसह AI वैशिष्ट्य म्हणून निर्धारित केले आहे.

आम्ही कठोर मानवी पुनरावलोकन प्रक्रियेद्वारे सर्व राजकीय जाहिरातींचे परीक्षण करण्यासाठी देखील खूप काळजी घेतो ज्यामध्ये फसव्या प्रतिमा किंवा मजकूर तयार करण्यासाठी AI सह मजकुराच्या कोणत्याही दिशाभूल केलेल्या वापराची सखोल तपासणी करणे समाविष्ट आहे. 

लवकरच आम्ही AI-व्युत्पन्न केलेल्या प्रतिमांमध्ये एक वॉटरमार्क जोडणार आहोत. जेव्हा इमेज पाठवली जाते किंवा कॅमेरा रोलमध्ये जतन केली जाते तेव्हा Snapच्या जनरेटिव्ह AI साधनांसह तयार केलेल्या प्रतिमांवर हे दिसून येईल. Snapchat वर तयार केलेल्या AI-व्युत्पन्न प्रतिमेच्या प्राप्तकर्त्यांना त्याच्या बाजूला व्यापकपणे ओळखल्या जाणाऱ्या स्पार्कल आयकॉन सह एक लहान घोस्ट लोगो दिसेल. हे वॉटरमार्क जोडल्याने ते पाहणाऱ्यांना हे कळवण्यात मदत होईल की इमेज Snapchat वर AI सह बनवलेली आहे.

मानकीकृत सुरक्षा चाचणी आणि नियम

गोपनीयता, सुरक्षितता आणि वयाच्या योग्यतेला प्राधान्य देणारी उत्पादने आणि अनुभव डिझाइन करण्याची आमची जबाबदारी आम्ही गांभीर्याने घेतो. आमच्या सर्व उत्पादनांप्रमाणेच AI-powered वैशिष्ट्ये नेहमीच आमच्या सुरक्षा आणि गोपनीयता सिद्धांतांचे पालन करण्यासाठी कठोर पुनरावलोकन केले जाते – आणि कालांतराने आमच्या शिक्षणाद्वारे आम्ही अतिरिक्त सुरक्षा विकसित करणार आहोत:

रेड-टीमिंग

AI रेड-टीमिंग हे AI मॉडेल आणि AI-सक्षम वैशिष्ट्यांमधील संभाव्य त्रुटी तपासण्यासाठी आणि ओळखण्यासाठी तसेच AI आऊटपुटची सुरक्षा आणि सुसंगतता सुधारण्यासाठी उपाय लागू करण्यासाठी वापरले जाणारे एक विस्तारित सामान्य धोरण आहे. 

आम्ही जनरेटिव्ह इमेज मॉडेलसाठी नॉव्हेल AI रेड-टीमिंग पद्धत अवलंबणार आहोत, आमच्या कठोर सुरक्षा उपायांच्या परिणामकारकतेची चाचणी घेण्यासाठी 2,500 तासांपेक्षा जास्त काम करणाऱ्या HackerOne सह भागीदारी केलेली आहे.

सुरक्षित फिल्टर वापरणे आणि सुसंगत लेबल लावणे

आम्ही Snapchat वर उपलब्ध असलेल्या जनरेटिव्ह AI-सक्षम अनुभवांचा विस्तार केल्यामुळे आम्ही जबाबदार प्रशासन तत्त्वे स्थापन केलेली आहेत आणि आम्ही आमच्या सुरक्षेतही सुधारणा केलेली आहे. 

आमच्या टीमने शैलीबद्ध केलेल्या AI लेन्स अनुभवांच्या विकासाच्या सुरुवातीच्या टप्प्यात संभाव्य समस्याप्रधान सूचना शोधण्यासाठी आणि काढून टाकण्यासाठी आम्ही सुरक्षा पुनरावलोकन प्रक्रिया तयार केली आहे. आमच्या सर्व AI लेन्सेस ज्या प्रॉम्प्टमधून प्रतिमा तयार करतात त्या अंतिम केल्या जाण्यापूर्वी आणि आमच्या समुदायासाठी उपलब्ध होण्यापूर्वी या प्रक्रियेद्वारे जातात.

सर्वसमावेशक चाचणी

आमच्या अॅपमध्ये सर्व वैशिष्ट्यांचा वापर करताना विशेषतः आमच्या AI-powered अनुभवांचा वापर करताना स्नॅपचॅटर्सना समान प्रवेश आणि अनुभव मिळावा अशी आमची इच्छा आहे. 

हे लक्षात घेऊन आम्ही संभाव्य पक्षपाती AI परिणाम कमी करण्यासाठी अतिरिक्त चाचणीची अंमलबजावणी करीत आहोत. 

AI साक्षरतेसाठी सतत वचनबद्ध आहे

आमच्या समुदायाची स्वतःला व्यक्त करण्याची आणि एकमेकांना जोडण्याची क्षमता सुधारण्यासाठी AI तंत्रज्ञानाच्या प्रचंड क्षमतेवर आमचा विश्वास आहे – आणि आम्ही या सुरक्षा आणि पारदर्शकता नियमांमध्ये सुधारणा करण्यासाठी निरंतर वचनबद्ध आहोत. 

आमची सर्व साधने ही मजकूर-दृश्य या दोन्हींवर आधारित आणि चुकीची माहिती, हानिकारक किंवा दिशाभूल करणारा मजकूर तयार करू नये यासाठी तयार केलेली आहे, परंतु यामध्ये अजूनही चुका होऊ शकतात. स्नॅपचॅटर्सना मजकुराचा अहवाल देण्यास सक्षम आहोत आणि आम्ही मिळालेल्या अभिप्रायाची प्रशंसा करतो.

शेवटी, आमच्या समुदायाला ही साधने अधिक चांगल्या प्रकारे समजून घेण्यास मदत करण्याच्या या निरंतर वचनबद्धतेचा भाग म्हणून आमच्याकडे आता आमच्या समर्थन मदत केंद्र साइट वर अतिरिक्त माहिती आणि संसाधने आहेत.