डिजिटल जगात तरुणांना भरभराट करण्यास मदत करण्यामध्ये, ऑनलाइन जीवनाकडे केवळ मूलभूतपणे चांगले किंवा मूलभूतपणे वाईट अशा सरधोपट दृष्टिकोनातून पाहण्यापलीकडे जाऊन विचार करणे समाविष्ट आहे. आम्ही जनरेशन Z च्या प्रामाणिक, दैनंदिन अनुभवांवर देखील लक्ष केंद्रित केले पाहिजेत, जे त्यांना प्रगती करण्यास सक्षम करते हे समजून घेण्यासाठी. जनरेटिव्ह AI च्या जलद राइजमुळे परिभाषित केलेल्या एका नवीन युगात प्रवेश करत असताना, उद्दिष्ट संशोधनामध्ये आमच्या सुरक्षिततेच्या कार्याला आधार देण्याची आमची वचनबद्धता पूर्वीपेक्षा अधिक महत्त्वाची आहे – आणि हे सुनिश्चित करण्यात मदत करेल की Snapchat ही सत्यता, कनेक्शन, आपलेपणा आणि महत्त्व यावर आधारित एक संप्रेषण सेवा राहील.

आज, आम्ही आमच्या डिजिटल वेल-बीइंग इंडेक्स (DWBI) अभ्यासाच्या पाचव्या आणि अंतिम वर्षातील काही नवीन अंतर्दृष्टी सामायिक करत आहोत, जे AI-निर्मित आशयाच्या बदलत्या लँडस्केपवर आणि परस्पर संबंधांवर त्याचा इम्पॅक्ट याबद्दल केंद्रित आहेत.

मागील पाच वर्षांपासून, Snap ने जनरेशन Z च्या ऑनलाइन मानसिक कल्याणाचा मागोवा घेण्यासाठी आणि मोजण्यासाठी प्लॅटफॉर्म-डायग्नोस्टिक संशोधन केले आहे. आम्ही तरुणांच्या डिजिटल सवयी आणि पद्धतींबद्दल जागतिक पुरावा बेसमध्ये जागृती करण्यासाठी हे सर्वेक्षण आयोजित करतो आणि हे उदयोन्मुख चिंतेबद्दल जागरूकता निर्माण करण्यात मदत करते जेणेकरून पालक, शिक्षक, तंत्रज्ञान कंपन्या, सरकारे आणि नागरी समाज जोखीम कमी करण्यासाठी, संभाव्य हानी कमी करण्यासाठी आणि त्याची पुनरावृत्ती रोखण्यासाठी अधिक प्रभावीपणे काम करू शकतील. DWBI Snapchat सह कोणत्याही एका प्लॅटफॉर्मवर लक्ष केंद्रित करण्याऐवजी, व्यापक डिजिटल परिसंस्थेतील सहा देशांमधील 13 ते 24 वर्षांच्या मुलांच्या अनुभवांचे परीक्षण करतो. ऑस्ट्रेलिया, फ्रान्स, जर्मनी, भारत, यूके आणि यूएस मधील नवीनतम निष्कर्षांमध्ये जनरेशन Z मधील डीपफेक प्रतिमांची निर्मिती आणि वितरणाबद्दल नवीन अंतर्दृष्टी समाविष्ट आहे.

AI विषयीची सार्वजनिक चर्चा अनेकदा बेलगाम आशावाद आणि खोल चिंता यांच्यामध्ये झुलत असते. कोणत्याही टोकाच्या भूमिकेवर अवलंबून राहण्याऐवजी, DWBI चे नवीनतम निष्कर्ष सहा भौगोलिक प्रदेशांमधील 13 ते 24 वयोगटातील तरुण जनरेटिव्ह AI चा वापर कसा करत आहेत याबद्दल पुरावा-आधारित दृष्टिकोन प्रदान करतात. ते निष्कर्ष डीपफेक्सचा समावेश असलेल्या पीअर-टू-पीअर परस्परसंवादाचे एक जटिल आणि काहीवेळा चिंताजनक चित्र प्रकट करतात. उदाहरणार्थ:

• 13 ते 24 वर्षे वयोगटातील जवळपास एक तृतीयांश (30%) प्रतिसादकर्त्यांनी दुसऱ्या कोणाचे तरी डीपफेक तयार केल्याचे सांगितले

• डीपफेक तयार करणाऱ्या अर्ध्यापेक्षा अधिक (53%) लोकांनी अहवाल दिला की या कृतीमुळे त्यांच्या सामाजिक वर्तुळात “तणाव” किंवा “संघर्ष” निर्माण झाला आणि

• बहुसंख्य लोकांनी सर्जनशीलता, मजा आणि मनोरंजनासाठी जनरेटिव्ह AI साधने वापरली, तर एक तृतीयांश पेक्षा जास्त (35% नेट) लोकांनी सांगितले की त्यांनी तयार केलेले डीपफेक हे कुत्सित हेतूने बनवले होते, विशेषतः: एखाद्याची प्रतिमा मलीन करण्यासाठी किंवा त्यांना अस्वस्थ करण्यासाठी (12%), सूड घेण्यासाठी (12%), किंवा दुसऱ्याला चिडवण्यासाठी किंवा छळ करण्यासाठी (11%). 

स्वतःच्या लैंगिक डीपफेकला ते विशेषतः कसा प्रतिसाद देतील असे विचारले असता, बहुसंख्य (एकूण 81%) अल्पवयीन किशोरवयीन मुलांनी सांगितले की ते कोणाशी तरी बोलतील, प्रामुख्याने पालकांशी (65%), तर 10 पैकी सात जनरेशन Z तरुण प्रौढांनी (70%) सांगितले की ते याची तक्रार करतील, ज्यासाठी कायद्याची अंमलबजावणी करणाऱ्या संस्था (53%) आणि तंत्रज्ञान प्लॅटफॉर्म (51%) ही त्यांची प्राथमिक माध्यमे असतील. दहापैकी एकापेक्षा अधिक अल्पवयीन मुलांनी (18%) आणि 18 ते 24 वयोगटातील दहापैकी दोनपेक्षा अधिक तरुणांनी (22%) सांगितले की ते त्याकडे निव्वळ दुर्लक्ष करतील किंवा सूचीबद्ध केलेली कोणतीही कृती करणार नाहीत. खालील चार्टमध्ये कृतीसाठी प्रस्तावित पर्यायांची रूपरेषा दिली आहे.

हे निष्कर्ष एक गंभीर सत्य अधोरेखित करतात: 21 व्या शतकातील डिजिटल कल्याणासाठी पारंपारिक सुरक्षा साधने आणि साधन संपदा यांपेक्षा अधिक काही आवश्यक आहे; त्यासाठी सखोल, व्यावहारिक AI साक्षरता आवश्यक आहे. जेव्हा 30% तरुण त्यांच्या समवयस्कांचा समावेश असलेले सिंथेटिक मीडिया तयार केल्याचे सांगतात, तेव्हा त्या कृतीचा वैयक्तिक नातेसंबंध, प्रतिष्ठा आणि स्वतःचे चित्रण कसे केले जाते यावरील व्यक्तीच्या नियंत्रणाच्या भावनेवर परिणाम होऊ शकतो.

त्यानुसार, धोरण-केंद्रित संभाषणे भीती-आधारित प्रतिक्रियांपासून दूर आणि आजच्या ऑनलाइन तरुणांच्या “संपूर्ण व्यक्ती” ला साकार करणाऱ्या चौकटीकडे जाणे आवश्यक आहे. आम्ही तीन मुख्य घटकांचा विचार करू शकतो:

1. AI साक्षरता: तरुण लोकांना केवळ AI कसा वापरावा हे समजून घेण्यासाठी मदत करण्यासाठीच नव्हे तर त्यांच्या संमतीशिवाय इतरांचा समावेश असू शकतो असा आशय तयार करण्याचे नैतिक आणि सामाजिक परिणाम आहेत.

2. वैयक्तिक नियंत्रण: तरुणांना सीमा ओळखण्यासाठी आणि त्यांच्या स्वतःच्या डिजिटल समानतेवर नियंत्रण राखण्याचा प्रयत्न करण्यासाठी सक्षम करणे आणि

3. खुले संवाद: किशोरवयीन मुले, पालक, शिक्षक आणि इतर विश्वासार्ह प्रौढांना डिजिटल संवादांच्या गुणवत्ता विरुद्ध प्रमाणाबद्दल खुले आणि विचारपूर्वक संभाषण करण्यास प्रोत्साहित करण्यासाठी, हे लक्षात घेऊन की "विनोद म्हणून" तयार केलेले कोणतेही डीपफेक इतरांवर कायमस्वरूपी परिणाम करू शकते.

योगायोगाने, जेव्हा ते AI साधने सुरक्षितपणे आणि जबाबदारीने वापरण्यास कोठे आणि कोणाकडून शिकतात, तेव्हा 13 ते 24 वर्षांच्या 10 पैकी 8 (81% नेट) यांनी सांगितले की ते स्वतःहून शिकवलेले आहेत. 13 ते 17 वयोगटातील एक चतुर्थांश (27%) मुलांनी सांगितले की ते त्यांच्या पालकांकडून शिकत आहेत, तर किशोरवयीन (11%) आणि तरुण प्रौढ (10%) या दोन्ही गटांच्या ज्ञानाच्या स्त्रोतांमध्ये शिक्षकांचा वाटा दहापैकी एक इतका होता.

हे निष्कर्ष Snap च्या विविध प्लॅटफॉर्म जनरेशन Z च्या ऑनलाइन मानसिक कल्याणाच्या पाच वर्षांच्या अभ्यासाचा भाग आहेत आणि आमच्या डिजिटल वेल-बीइंग इंडेक्स (DWBI) चा नवीनतम आणि अंतिम टप्पा दर्शवतात, जे सहा देशांमधील किशोरवयीन मुले (वय 13-17) आणि तरुण प्रौढ (वय 18-24) ऑनलाइन कशा प्रकारे वावरत आहेत याचे मोजमाप आहे. आम्ही 13 ते 19 वर्षाच्या पालकांचे त्यांच्या किशोरवयीन मुलांच्या ऑनलाइन अनुभवांबद्दल सर्वेक्षण केले आहे. हे नवीनतम सर्वेक्षण 11 मे ते 30 मे 2026 दरम्यान केले गेले आणि तीन वयोगटातील डेमोग्राफिक्स आणि सहा भौगोलिक क्षेत्रांमधील 9,005 प्रतिसादकर्त्यांचा समावेश होता. प्रत्येक देशासाठी आणि सर्व सहा एकत्रित देशांमधील नवीनतम DWBI आकडेवारीसह पूर्ण निकाल, फेब्रुवारी 2027 मध्ये सुरक्षित इंटरनेट दिनी प्रसिद्ध केले जातील. यापैकी अनेक समस्यांवर सुरू असलेले जागतिक संवाद लक्षात घेता आम्ही हे AI-संबंधित निष्कर्ष लवकर उपलब्ध करून देण्याचे ठरविले.

आम्ही डिजिटल कल्याणाचा अभ्यास करण्याचा हा पाच वर्षांचा अध्याय समाप्त करत असताना आणि पुढील अनेक वर्षांसाठी आमचे संशोधनाचे लक्ष विकसित करत असताना, आमचे परिसंस्थाव्यापी ध्येय स्पष्ट आहे: अशा ऑनलाइन जागा तयार करणे जिथे तरुण लोक शक्य तितक्या सुरक्षितपणे आणि प्रामाणिकपणे शिकू शकतील, हसू शकतील आणि एकमेकांशी जोडले जाऊ शकतील. डीपफेक्सची राइज ही याची आठवण करून देते की तंत्रज्ञान विकसित होत असताना, आमचे परिचालन आणि शैक्षणिक प्रयत्न त्यासह विकसित झाले पाहिजेत. साक्षरता, लवचिकता आणि चिकित्सक विचारांवर लक्ष केंद्रित करणे सुरू ठेवून, आपण पुढील पिढी केवळ ऑनलाइन "तग धरून राहणार" नाही, तर तिची खरोखर भरभराट होईल हे सुनिश्चित करण्यास मदत करू शकतो.

या प्रयत्नांच्या समर्थनार्थ, गेल्या महिन्यात, Snap ने घोषणा केली की पूर्णपणे AI-व्युत्पन्न केलेले व्हिडिओ Snapchat च्या स्पॉटलाइट वैशिष्ट्यावर यापुढे शिफारस पात्र राहणार नाहीत. खरंच, ऑनलाइन प्लॅटफॉर्म्सवर निकृष्ट दर्जाची, पुनरावृत्ती होणारी, AI-व्युत्पन्न सामग्री वाढत्या प्रमाणात सामान्य होत असताना, Snap ला स्पॉटलाइट हे असे एक स्थान राहावे असे वाटते जिथे लोक खऱ्या लोकांकडून अस्सल सर्जनशीलता शोधू शकतील. आम्ही AI-निर्मित सामग्रीच्या आजूबाजूला पालक आणि किशोरवयीन मुले यांच्यासाठी एक संक्षिप्त तथ्यपत्रक देखील तयार केले. “थांबवा. विचार करा. हे AI असू शकते का?” किशोरवयीन मुले, पालक आणि इतर विश्वासू प्रौढांमध्ये AI साधनांच्या सुरक्षित आणि जबाबदार वापराबद्दल संभाषण सुरू करण्यासाठी डिझाइन केले आहे. आम्ही इतर अनेक गट आणि संस्थांशी देखील सहयोग करतो आणि बाल लैंगिक शोषण आणि अत्याचाराबद्दल जागृती निर्माण करणाऱ्या, अमेरिकन डिपार्टमेंट ऑफ होमलँड सिक्युरिटीच्या Know2Protect मोहिमेला पाठिंबा देणारे आम्ही पहिले होतो. Know2Protect ने डीपफेक्स वर एक प्राइमर प्रकाशित केला आहे येथे.

सार्वजनिक धोरणाच्या क्षेत्रात, Snap ने Take It Down Act ला समर्थन दिले, जे मे 2025 मध्ये अंमलात आले, ज्याने AI-निर्मित आशयासह सहमतीशिवाय अंतरंग प्रतिमा संबोधित करण्यासाठी U.S. फेडरल फ्रेमवर्क स्थापन केले. या कायद्यानुसार संमतीशिवाय अंतरंग प्रतिमा जाणीवपूर्वक प्रकाशित करणे किंवा प्रकाशित करण्याची धमकी देणे, मग ती सामग्री अस्सल असो किंवा कृत्रिमरित्या तयार केलेली असो, आणि यासाठी कव्हर प्लॅटफॉर्मवर अहवाल प्रक्रिया प्रदान करणे आणि 48 तासांच्या आत रिपोर्ट केलेली सामग्री काढून टाकणे आवश्यक आहे.

अशीच चिंता सुरक्षित इंटरनेट दिनावर 2026 वर सुरू केलेल्या “नग्नता नको” मोहिमेमध्ये प्रतिबिंबित होतात, ज्यामध्ये बाल-सुरक्षा आणि नागरी समाज संस्था एकत्र आणतात, ज्यापैकी अनेक Snap भागीदार आणि सहयोगी आहेत. WeProtect Global Alliance, INHOPE, the Internet Watch Foundation, NCMEC, चाइल्ड हेल्पलाइन इंटरनॅशनल, Offlimits आणि Safe Online यांनी AI न्युडिफिकेशन साधनांवर बंदी घालण्याची मागणी केली. या मोहिमेमध्ये असे म्हटले आहे की तथाकथित “न्युडिफाई” अ‍ॅप्स, खरं तर निरुपद्रवी प्रयोग नाहीत, परंतु सामान्य फोटोंमधून संमतीशिवाय लैंगिकदृष्ट्या तयार करण्यासाठी वापरले जातात आणि हे छळवणूक, जबरदस्ती, लैंगिक खंडणी आणि अत्याचाराशी वाढत्या संबंधित असतात, ज्याचा परिणाम महिला, मुली आणि मुलांवर होतो.

Snapchat वरील अशा प्रकारच्या सामग्रीचा प्रसार मर्यादित करण्यासाठी डिझाइन केलेल्या व्यावहारिक क्रॉस-इंडस्ट्री कार्यक्रमांमध्ये Snap देखील भाग घेते. आम्ही अल्पवयीन मुलांसाठी NCMEC च्या Take It Down कार्यक्रमाचे आणि 18+ वयोगटासाठी SWGfL च्या StopNCII उपक्रमाचे सदस्य आहोत; आम्ही डुप्लिकेट अंतरंग प्रतिमा शोधण्यात आणि आमच्या नियमांचे उल्लंघन करणारी सामग्री काढून टाकण्यात मदत करण्यासाठी अद्वितीय डिजिटल स्वाक्षरी किंवा “हॅश” प्राप्त करतो आणि त्यांचा वापर करतो. हे प्रयत्न महत्त्वाचे आहेत कारण ते केवळ सुरुवातीच्या शोधावरच नव्हे, तर ज्ञात अंतरंग प्रतिमा आणि लैंगिक डीपफेकचा प्रसार एकदा सुरू झाल्यावर त्यांचा पुनर्प्रसार रोखण्यावरही लक्ष केंद्रित करतात.

– जॅकलिन ब्यूशेरे, ग्लोबल हेड ऑफ प्लॅटफॉर्म सेफ्टी, Snap Inc.