युवाओं को डिजिटल दुनिया में समृद्ध होने में सहयोग देने के लिए, ऐसे आसान विचारों से आगे देखना ज़रूरी है, जो ऑनलाइन ज़िंदगी को या तो पूरी तरह अच्छा या पूरी तरह बुरा बताते हैं। हमें जेनरेशन Z के वास्तविक, रोज़मर्रा के अनुभवों पर भी ध्यान देना चाहिए ताकि यह समझा जा सके कि उन्हें फलने-फूलने में क्या सक्षम बनाता है। जेनरेटिव AI के तेज़ी से बढ़ते असर के साथ जैसे-जैसे हम एक नए दौर में प्रवेश कर रहे हैं, हमारे सुरक्षा कार्यों को ऑब्जेक्टिव अनुसंधान पर आधारित करने की हमारी प्रतिबद्धता पहले से कहीं ज़्यादा अहम हो गई है – और इससे यह सुनिश्चित करने में मदद मिलेगी कि Snapchat एक संचार सेवा बना रहे, जो प्रामाणिकता, कनेक्शन, अपनेपन और महत्व पर केंद्रित है।

आज, हम अपने डिजिटल वेल-बीइंग इंडेक्स (DWBI) अध्ययन के पांचवें और अंतिम साल की कुछ नई जानकारी शेयर कर रहे हैं, इसमें खास तौर से, AI-जनरेटेड कॉन्टेंट के बदलते परिदृश्य और पारस्परिक संबंधों पर इसके इम्पैक्ट से जुड़े नतीजे शामिल हैं।

पिछले पांच सालों से, Snap ने जनरेशन Z की ऑनलाइन मनोवैज्ञानिक वेल-बीइंग को ट्रैक करने और मापने में मदद करने के लिए प्लैटफ़ॉर्म-निरपेक्ष शोध किया है। हम युवाओं की डिजिटल आदतों और प्रथाओं के बारे में वैश्विक साक्ष्य आधार में योगदान देने के लिए यह सर्वेक्षण करते हैं, और यह उभरती हुई चिंताओं के बारे में जागरूकता बढ़ाने में मदद करता है, ताकि माता-पिता, शिक्षक, टेक्नॉलजी कंपनियां, सरकारें और नागरिक समाज जोखिम को कम करने, संभावित नुकसान को कम करने और पुनरावृत्ति को रोकने के लिए एक साथ ज़्यादा असरदार ढंग से काम कर सकें। DWBI, Snapchat सहित किसी भी एक प्लैटफ़ॉर्म पर ध्यान केंद्रित करने के बजाय ब्रॉडर डिजिटल इकोसिस्टम में छह देशों में 13 से 24 साल के लोगों के अनुभवों की जांच करता है। ऑस्ट्रेलिया, फ़्रांस, जर्मनी, भारत, UK और संयुक्त राज्य अमेरिका के सबसे नए नतीजों में जेनरेशन Z के बीच डीपफ़ेक इमेजरी के निर्माण और वितरण के बारे में नई जानकारी शामिल है।

AI को लेकर सार्वजनिक बहस अक्सर अनियंत्रित आशावाद और गहरी चिंता के बीच झूलती रहती है। किसी भी चरम पर भरोसा करने के बजाय, DWBI के हालिया नतीजे इस बात की तथ्य-आधारित तस्वीर सामने रखते हैं कि छह भौगोलिक क्षेत्रों में 13 से 24 साल के युवा जेनरेटिव AI के साथ कैसे जुड़ रहे हैं। ये नतीजे डीपफेक से जुड़ी पीयर-टू-पीयर बातचीत की एक जटिल और कभी-कभी चिंताजनक तस्वीर प्रकट करते हैं। उदाहरण के लिए:

• 13 से 24 साल के लगभग एक तिहाई (30%) जवाब देने वाले लोगों ने बताया कि उन्होंने किसी और का डीपफ़ेक बनाया है

• डीपफ़ेक बनाने वालों में से आधे से ज़्यादा (53%) ने बताया कि इस ऐक्शन के कारण उनके सामाजिक दायरे में "नाटक" या "संघर्ष" हुआ है, और 

• जबकि अधिकांश लोगों ने रचनात्मकता, मज़ाक और मनोरंजन के लिए जेनरेटिव AI टूल्स का इस्तेमाल किया, एक तिहाई से ज़्यादा (35% नेट) ने कहा कि उनके द्वारा बनाए गए डीपफ़ेक बुरे इरादे से बनाए गए थे, विशेष रूप से: किसी को बुरा दिखाने या उन्हें परेशान करने के लिए (12%), बदला लेने के लिए (12%), या किसी दूसरे को छेड़ने या परेशान करने के लिए (11%)।

यह पूछने पर कि वे खुद के किसी यौन डीपफ़ेक का सामना करने पर विशेष रूप से क्या करेंगे, ज़्यादातर नाबालिग किशोरों (81% नेट) ने कहा कि वे किसी से बात करेंगे, यानी माता-पिता (65%), जबकि Gen Z के 10 में से सात युवा वयस्कों (70%) ने कहा कि वे इसकी रिपोर्ट करेंगे, जिसमें कानून प्रवर्तन (53%) और टेक्नॉलजी प्लैटफ़ॉर्म (51%) उनके प्राथमिक माध्यम होंगे। 10 में से एक से अधिक नाबालिग किशोरों (18%) और 10 में से दो से अधिक 18 से 24 साल के युवाओं (22%) ने कहा कि वे इसे बस अनदेखा कर देंगे या सूची में दिए गए किसी भी कदम को नहीं उठाएंगे। नीचे दिया गया चार्ट ऐक्शन के लिए दिए गए विकल्पों की जानकारी देता है।

ये निष्कर्ष एक महत्वपूर्ण सच्चाई को रेखांकित करते हैं: 21वीं सदी में डिजिटल वेल-बीइंग के लिए पारंपरिक सुरक्षा उपकरणों और संसाधनों से कहीं अधिक की आवश्यकता है; यह गहरी और व्यावहारिक AI साक्षरता की मांग करता है। जब 30% युवा अपने साथियों से जुड़े सिंथेटिक मीडिया बनाने की बात स्वीकार करते हैं, तो इस गतिविधि के व्यक्तिगत संबंधों, प्रतिष्ठा और इस बात पर व्यक्ति के नियंत्रण की भावना पर प्रभाव पड़ सकते हैं कि उसे किस रूप में प्रस्तुत किया जाता है।

तदनुसार, नीति-केंद्रित बातचीत को भय-आधारित प्रतिक्रियाओं से हटकर एक ऐसे ढांचे की ओर बढ़ने की आवश्यकता है जो आज के ऑनलाइन युवाओं के "संपूर्ण स्वरूप" को समाहित करता हो। हम तीन मुख्य घटकों पर विचार कर सकते हैं:

1. AI साक्षरता: युवाओं को न केवल यह समझने में मदद करने के लिए कि AI का उपयोग कैसे किया जाए, बल्कि ऐसा कॉन्टेंट बनाने के नैतिक और सामाजिक परिणामों को समझने में भी मदद करने के लिए जिसमें अन्य लोग उनकी सहमति के बिना शामिल हो सकते हैं।

2. व्यक्तिगत नियंत्रण: युवाओं को सीमाओं को पहचानने और अपनी डिजिटल छवियों पर नियंत्रण बनाए रखने का प्रयास करने के लिए सशक्त बनाना, और

3. खुला संवाद: किशोरों, माता-पिता, शिक्षकों और अन्य भरोसेमंद वयस्कों को डिजिटल इंटरैक्शन की गुणवत्ता बनाम मात्रा के बारे में खुलकर और सोच-समझकर बातचीत करने के लिए प्रोत्साहित करना, और यह पहचानना कि "मज़ाक के तौर पर" बनाया गया कोई भी डीपफ़ेक दूसरों पर स्थायी प्रभाव डाल सकता है।

संयोग से, जब यह पूछा गया कि वे AI टूल्स को सुरक्षित और ज़िम्मेदारी से इस्तेमाल करने का तरीका कहां और किससे सीख रहे थे, तो 13 से 24 साल के 10 में से 8 (81% नेट) लोगों ने बताया कि उन्होंने खुद सीखा है। 13 से 17 साल के एक चौथाई (27%) किशोरों ने कहा कि वे अपने माता-पिता से सीख रहे हैं, जबकि किशोरों (11%) और युवा वयस्कों (10%) दोनों के ज्ञान के आधार में शिक्षकों की हिस्सेदारी 10 में से एक रही।

ये नतीजे अलग-अलग प्लैटफ़ॉर्म पर जनरेशन Z के ऑनलाइन मनोवैज्ञानिक कल्याण के Snap के पांच साल के अध्ययन का हिस्सा हैं और हमारे डिजिटल वेल-बीइंग इंडेक्स (DWBI) की नवीनतम और अंतिम कड़ी को चिह्नित करते हैं, जो यह मापता है कि छह देशों में किशोर (13-17 वर्ष) और युवा वयस्क (18-24 वर्ष) ऑनलाइन माध्यमों पर कैसा महसूस कर रहे हैं। हम 13 से 19 साल के किशोरों के माता-पिता का उनके बच्चों के ऑनलाइन अनुभवों के बारे में भी सर्वेक्षण करते हैं। यह हालिया सर्वे 11 मई से 30 मई, 2026 के बीच किया गया था, जिसमें तीन उम्र के डेमोग्राफ़िक्स और छह भौगोलिक क्षेत्रों के 9,005 प्रतिभागी शामिल थे। पूरे नतीजे, जिसमें हर देश के लिए और सभी छह देशों को मिलाकर हालिया DWBI रीडिंग भी शामिल होगी, फ़रवरी में सुरक्षित इंटरनेट दिवस 2027 पर जारी किए जाएंगे। हमने इनमें से कई मुद्दों के बारे में चल रहे वैश्विक संवाद को देखते हुए इन AI से जुड़े नतीजों को जल्दी उपलब्ध कराने का फ़ैसला किया।

जैसा कि हम डिजिटल वेल-बीइंग के अध्ययन के इस पांच साल के अध्याय को समाप्त कर रहे हैं और आने वाले वर्षों के लिए अपने शोध के फोकस को विकसित कर रहे हैं, पूरे इकोसिस्टम में हमारा मिशन साफ़ है: ऐसे ऑनलाइन स्पेस बनाना जहाँ युवा यथासंभव सुरक्षित और प्रामाणिक रूप से सीख सकें, हँस सकें और जुड़ सकें। डीपफ़ेक्स का राइज़ इस बात की याद दिलाता है कि जैसे-जैसे टेक्नॉलजी का विकास होता है, हमारे परिचालन और शैक्षिक प्रयासों को भी उसके साथ विकसित होना चाहिए। साक्षरता, लचीलापन और आलोचनात्मक सोच को लगातार बढ़ावा देकर, हम यह सुनिश्चित करने में मदद कर सकते हैं कि अगली पीढ़ी ऑनलाइन केवल "काम चलाने" तक सीमित न रहे, बल्कि सही मायने में समृद्ध हो।

इन कोशिशों के समर्थन में, पिछले महीने Snap ने घोषणा की कि पूरी तरह से AI से बनाए गए वीडियो अब Snapchat के स्पॉटलाइट फ़ीचर पर नहीं सुझाए जाएंगे। दरअसल, जैसे-जैसे ऑनलाइन स्पेस में कम गुणवत्ता वाला, दोहराव वाला और AI से बना हुआ कॉन्टेंट आम होता जा रहा है, Snap चाहता है कि स्पॉटलाइट ऐसी जगह बना रहे, जहाँ लोग वास्तविक लोगों की प्रामाणिक रचनात्मकता को डिस्कवर कर सकें। हमने AI से बनी सामग्री के बारे में माता-पिता और किशोरों के लिए एक संक्षिप्त तथ्य पत्र भी बनाया है। “रुकिए। सोचें। क्या यह AI हो सकता है?” इसे किशोरों, माता-पिता और अन्य भरोसेमंद वयस्कों के बीच AI टूल्स के सुरक्षित और ज़िम्मेदार इस्तेमाल पर बातचीत शुरू करने के लिए तैयार किया गया है। हम कई अन्य ग्रुप्स और संगठनों के साथ भी सहयोग करते हैं, और बाल यौन शोषण और दुर्व्यवहार के बारे में जागरूकता बढ़ाने वाले U.S. Department of Homeland Security के Know2Protect अभियान का समर्थन करने वाले पहले संगठन थे। Know2Protect ने डीपफ़ेक्स पर यहाँ एक प्राइमर प्रकाशित किया।

सार्वजनिक नीति के क्षेत्र में, Snap ने Take It Down Act का समर्थन किया, जो मई 2025 में लागू हुआ। इस कानून के तहत गैर-सहमति से साझा की गई अंतरंग तस्वीरों और वीडियो, जिनमें AI द्वारा बनाया गया कॉन्टेंट भी शामिल है, से निपटने के लिए अमेरिका में एक संघीय ढाँचा स्थापित किया गया है। यह कानून सहमति के बिना अंतरंग तस्वीरों या वीडियो को जानबूझकर प्रकाशित करने या प्रकाशित करने की धमकी देने को संघीय अपराध बनाता है, चाहे वह सामग्री वास्तविक हो या सिंथेटिक तरीके से बनाई गई हो। साथ ही, यह कानून इसके दायरे में आने वाले प्लैटफ़ॉर्म के लिए रिपोर्ट करने की प्रक्रिया उपलब्ध कराना और रिपोर्ट किए गए कॉन्टेंट को 48 घंटों के भीतर हटाना अनिवार्य करता है।

सुरक्षित इंटरनेट दिवस 2026 पर शुरू किए गए "No to Nudify" अभियान में ऐसी ही चिंताएं झलकती हैं, जिसने बाल-सुरक्षा और नागरिक समाज के संगठनों को एकजुट किया, जिनमें से कई Snap के भागीदार और सहयोगी हैं। WeProtect Global Alliance, INHOPE, The Internet Watch Foundation, NCMEC, Child Helpline International, Offlimits, and Safe Online ने AI न्युडिफ़िकेशन टूल्स पर प्रतिबंध लगाने की मांग की है। अभियान का मानना है कि तथाकथित “न्यूडिफ़ाई” ऐप्स वास्तव में कोई हानिरहित प्रयोग नहीं हैं, बल्कि इनका उपयोग सामान्य तस्वीरों से बिना सहमति के यौन चित्र बनाने के लिए किया जाता है, और ये महिलाओं, लड़कियों और बच्चों को प्रभावित करने वाले उत्पीड़न, जबरदस्ती, यौन जबरन वसूली और दुर्व्यवहार से तेजी से जुड़ रहे हैं।

Snap, Snapchat पर ऐसे मटेरियल के प्रसार को सीमित करने के लिए डिज़ाइन किए गए व्यावहारिक क्रॉस-इंडस्ट्री प्रोग्राम्स में भी भाग लेता है। हम नाबालिगों के लिए NCMEC के Take It Down प्रोग्राम और 18+ के लिए SWGfL के StopNCII के प्रयास के सदस्य हैं, जो यूनिक डिजिटल हस्ताक्षर या “हैश” प्राप्त करते हैं और उनका उपयोग करते हैं, ताकि डुप्लिकेट अंतरंग इमेजरी का पता लगाने और हमारे नियम का उल्लंघन करने वाले कॉन्टेंट को हटाने में मदद मिल सके। ये कोशिशें अहम हैं, क्योंकि वे न सिर्फ़ शुरुआती पहचान पर ध्यान केंद्रित करती हैं, बल्कि ज्ञात अंतरंग इमेजरी और यौन डीपफ़ेक के एक बार फैलने के बाद उनके दोबारा प्रसार को रोकने पर भी ध्यान केंद्रित करती हैं।

– जैकलिन ब्यूचेरे, वैश्विक प्लैटफ़ॉर्म सुरक्षा प्रमुख, Snap Inc.