Snap Inc. में, हम बुरे लोगों द्वारा अपने प्लैटफ़ॉर्म के दुरुपयोग पर पाबंदी लगाने के लिए अपने सेफ़्टी मैकेनिज़्म और प्लैटफ़ॉर्म की नीतियों को लगातार पुख्ता बना रहे हैं। हमारे नियमों का उल्लंघन करने वाली गतिविधि का पता लगाने और उसे ब्लॉक करने के लिए हम उन्नत तकनीक की मदद लेते हैं। टीनएज़र्स और बेशक अपनी कम्युनिटी के सभी सदस्यों पर असर डालने वाले सबसे गंभीर अपराधों के संबंध में हम फ़्रेंड बनाने के प्रोसेस को जटिल बनाने के लिए डिज़ाइन से जुड़े सिद्धांत लागू करते हैं, कानूनी अधिकारियों का मदद लेते हैं, सरकारी प्राधिकरणों से सहयोग करते हैं और जागरूकता फैलाने और शिक्षा मुहैया कराने का काम करते हैं। 

हम टीनएज़र्स को सुरक्षित रखने की अपनी ज़िम्मेदारी को बेहद गंभीरता से लेते हैं। हमारे काम पुख्ता होता है, जिसमें ये शामिल हैं:

I. बुरे लोगों के लिए Snapchat का माहौल प्रतिकूल बनाना

इस साल की शुरुआत में, हमने अपनी कम्युनिटी, खास कर टीनएज़र यूज़र्स की सुरक्षा बढ़ाने में मदद करने के लिए और Snapchat को यूनीक बनाने वाले रियल-वर्ल्ड रिश्तों को मज़बूती देने के लिए नए फ़ीचर्स की घोषणा की। इन अपडेट्स में शामिल हैं: संदिग्ध संपर्कों के लिए ऐप में विस्तार से मिलने वाली चेतावनियां, फ़्रेंड बनाने से जुड़ी उन्नत सुरक्षाएं, जिन्हें टीनएज़र्स के लिए खास तौर पर बनाया गया है और अनचाहे संपर्कों को ब्लॉक करने की क्षमता में सुधार। 

ये बदलाव जो ऑनलाइन सेक्सटॉर्शन से निपटने पर फ़ोकस हैं, बच्चों से जुड़े सभी प्रकार के यौन उत्पीड़न और दुरुपयोग से मुकाबला करने के हमारे निरंतर प्रयास को ध्यान में रखकर बनाए गए हैं। उदाहरण के लिए: 

हम सेक्सटॉर्शन संबंधी व्यवहार की पहचान करने के लिए संकेतों का इस्तेमाल करते हैं, ताकि हम बुरे लोगों को समय रहते हटा सकें, इससे पहले कि उन्हें दूसरों का टारगेट करने और शोषण करने का मौका मिले। यह Snapchat पर ज्ञात बाल यौन शोषण एवं दुर्व्यवहार चित्रण (चाइल्ड सेक्सुअल एक्सप्लॉइटेशन एंड अब्यूज़ इमेज़री, CSEAI) के प्रसार को रोकने के लिए इस्तेमाल की जाने वाली तकनीक और इसका फ़ायदा उठाने के अलावे है, जिसमें PhotoDNA (ज्ञात गैर-कानूनी इमेज़ के डुप्लीकेट की पहचान करने के लिए), CSAI मैच (ज्ञात गैर-कानूनी वीडियो के डुप्लीकेट की पहचान करने के लिए) और कॉन्टेंट सेफ़्टी API (नोवेल, "नेवर-बिफ़ोर-हैश्ड" इमेज़री की पहचान करने में मदद के लिए) शामिल हैं।

हालांकि हम लंबे समय से हमारे नियमों का उल्लंघन करने वाले कॉन्टेंट और अकाउंट की आसान इन-ऐप रिपोर्टिंग की पेशकश करते आ रहे हैं, फिर भी 2023 में हमने सेक्सटॉर्शन से जुड़े नुकसानों के खिलाफ़ अपनी मुहिम को पुख्ता करने के लिए सुधार किए हैं। पिछले साल हमने ऐप में चैट टेक्स्ट रिपोर्टिंग की सुविधा लॉन्च की थी – जिससे Snap चैटर्स सीधे बातचीत करते हुए ही अलग-अलग मैसेज की रिपोर्ट कर सकते हैं। हमने अपने इन-ऐप रिपोर्टिंग टूल का भी दायरा बढ़ाया है जिसमें सेक्सटॉर्शन की रिपोर्टिंग के लिए खास आपके हिसाब से तैयार किया गया कारण और बाल यौन शोषण एवं दुर्व्यवहार (CSEA) से लड़ने वाली गैर-सरकारी संगठन Thorn की सलाह और इसकी ओर से मार्गदर्शन शामिल है। हमने यह भी कोशिश की है कि रिपोर्टिंग का विकल्प टीनएज़र्स और युवाओं द्वारा इस्तेमाल की जाने वाली भाषा में हो ("उन्होंने मेरे न्यूड्स लीक कर दिए / वे मेरे न्यूड्स लीक करने की धमकी दे रहे हैं")। बदले में, इन रिपोर्टों का इस्तेमाल कानून लागू करने के हमारे प्रयासों को जानकारी से लैस करने के लिए किया जाता है, जिनमें संकेत-आधारित पहचान करना और इन्हें अमल में लाना शामिल है। हम ट्रेंड, पैटर्न और सेक्सटॉर्शन करने वाले लोगों की तकनीकों का विश्लेषण करते हैं और अगर कोई अकाउंट ऐसी गतिविधियां दिखाता है, तो उसे सेक्सटॉर्शन के लिए लॉक कर दिया जाता है।

हम 2022 में जारी किए गए अपने फ़ैमिली सेंटर के टूल्स वाले पैकेज़ में लगातार सुधार कर रहे हैं और उसमें नए फ़ीचर्स जोड़ रहे हैं, जहां पैरेंट देख सकते हैं कि Snapchat पर उनके टीनएज़र बच्चे के कौन-कौन लोग फ़्रेंड हैं, हाल ही मे उन्होंने किससे चैट किया है और जिन अकाउंट को लेकर उन्हें चिंता होती है, उसे आसानी से रिपोर्ट कर सकते हैं। फ़ैमिली सेंटर को लेकर हमारा लक्ष्य हमेशा से ऑनलाइन रूप से सुरक्षित रहने के बारे में पैरेंट/अभिभावक और टीनएज़र्स के बीच एक्टिव तरीके से खुला और रचनात्मक बातचीत करना रहा है। 

हम अपनी कम्युनिटी को सुरक्षित रखने में मदद करने के लिए, कानून लागू करने वाले अधिकारियों के साथ घनिष्ठता से सहयोग करते हैं और दुनिया भर में 24/7 काम करने वाली अपनी सेफ़्टी और कानून लागू करने वाली टीमों में भारी निवेश करते हैं। मिसाल के तौर पर, 2020 के बाद से हमारी ट्रस्ट और सेफ़्टी टीमों का आकार दोगुना से भी ज़्यादा हो चुका है और इसी समय के दौरान हमारी कानून लागू करने वाली टीम में तिगुना से भी ज़्यादा का इज़ाफा हो चुका है। हम अमेरीका में कानून लागू करने वाले संगठनों के साथ वार्षिक शिखर सम्मेलनों की मेज़बानी करते हैं ताकि अधिकारियों और एजेंसियों के साथ यह सुनिश्चित किया जा सके कि उन्हें हमारे प्लैटफ़ॉर्म पर किसी भी गैर-कानूनी गतिविधि के खिलाफ़ उचित कार्रवाई करने का तरीका पता हो। 

हम नाइज़ीरिया में भी कानून लागू करने वाली संगठनों के साथ सीधे तौर पर काम कर रहे हैं – जहां सेक्सटॉर्शन के कई नए मामले सामने आए हैं – ताकि दोषी व्यक्तियों की छान-बीन करने और उन पर मुकदमा चलाने के लिए शक्ति और जानकारी जुटा सकें। साथ ही हम इस क्षेत्र में सहयोग बढ़ाने के लिए नाइज़ीरियाई सरकार के साथ अपनी सहभागिता बनाए रखने की योजना भी बना रहे हैं। और हमने अमेरीका के बाहर के देशों में जहां सेक्सटॉर्शन से जुड़ी गतिविधि अपनी जड़े जमाए बैठी हैं, वहां CyberTips पर छान-बीन करने के मद्देनज़र कानूनी अधिकारियों को प्रशिक्षण देने के लिए अंतरराष्ट्रीय न्याय मिशन, NCMEC, इंडस्ट्री के अन्य सदस्यों और गैर-सरकारी संगठनों के साथ काम किया है।

कई सालों से, हम "विश्वसनीय संरक्षकों" के मज़बूत कैडर के साथ भी जुड़े रहे हैं, जिनमें: गैर-लाभकारी, गैर-सरकारी संगठन और चुनिंदा सरकारी एजेंसियां शामिल हैं, जिन्होंने उच्च-वरीयता वाले चैनलों के ज़रिए ज़रूरतमंद Snap चैटर्स की ओर से दुर्व्यवहार के मामलों, जान से मारने की धमकियों और अन्य आपातकालीन मुद्दों से हमें अवगत कराया है। हमारे विश्वसनीय संरक्षक प्रोग्राम में शामिल अधिकांश भागीदार नाबालिगों के खिलाफ़ सेक्सटॉर्शन सहित यौन उत्पीड़न से जुड़े अकाउंट और कॉन्टेंट की रिपोर्ट करते हैं।  

II. उद्योग जगत के विशेषज्ञों को शामिल करना और गठबंधन 

अपने खुद के निवेश के टॉप पर, हम दुनिया भर के विशेषज्ञों को भी शामिल करते हैं क्योंकि हमें पता है कि अकेले कोई भी संस्था या संगठन इन मुद्दों को सार्थक तरीके से आगे बढ़ा नहीं सकता है। मिसाल के तौर पर, Snap Inc. WeProtect ग्लोबल एलायंस के अंतरराष्ट्रीय नीति बोर्ड के समक्ष उद्योग का प्रतिनिधित्व करता है; हम INHOPE के सलाहकार परिषद के सदस्य हैं और यूके इंटरनेट वॉच फाउंडेशन (IWF) के ट्रस्टी बोर्ड के सदस्य हैं। इन सभी संगठनों के अपने-अपने मिशन में ऑनलाइन CSEA को जड़ से उखाड़ना शामिल है।

हम ऑनलाइन बाल यौन शोषण और दुर्व्यवहार से निपटने पर केंद्रित वैश्विक उद्योग गठबंधन टेक कोआलिज़न (Tech Coalition) के सक्रिय सदस्य बने हुए हैं और हाल ही में अपने निदेशक मंडल की कार्यकारी समिति के दो साल का कार्यकाल पूरा कर चुके हैं। हम Tech Coalition के लैनटर्न (Lantern) पहल के संस्थापक सदस्य भी थे, जो कंपनियों को अपनी बाल सुरक्षा नीतियों को लागू करने के तरीके को मज़बूती देने के लिए पहला क्रॉस-प्लैटफ़ॉर्म सिग्नल-शेयरिंग प्रोग्राम है। इस प्रोग्राम में सक्रिय भागीदारी के माध्यम से, कंपनियां सेक्सटॉर्शन सहित बुरे लोगों की क्रॉस चेक करने में एक-दूसरे की मदद कर सकती हैं।   

इसके अलावे, हम गुम और शोषित बच्चों के लिए राष्ट्रीय केंद्र (National Center for Missing and Exploited Children’s, NCMEC) के टेक इट डाउन (Take It Down) डेटाबेस से मदद लेते हैं, जो नाबालिगों को सीधे उनके डिवाइस में चुनिंदा इमेज या वीडियो का डिज़िटल फ़िंगरप्रिंट जिसे "हैश" कहा जाता है, जनरेट करने की सुविधा देता है। भाग लेने वाली कंपनियां जिसमें Snap Inc. भी शामिल है, अपनी कम्युनिटी दिशानिर्देश का उल्लंघन करने वाली डुप्लीकेट तस्वीर की खोज करने और उन्हें हटाने के लिए उन हैश का इस्तेमाल कर सकती हैं। हम यूके में इसी तरह के मिलते-जुलते प्रोग्राम जिसे रिपोर्ट रिमूव (Report Remove) कहा जाता है, में भाग लेते हैं और पिछले साल हम SWGfL के StopNCII सहयोग से जुड़े हैं ताकि उस ग्रुप के हैश डेटाबेस का फ़ायदा उठा कर Snapchat पर गैर-सहमति वाली अंतरंग तस्वीर (non-consensual intimate imagery, NCII) के प्रसार को रोकने में मदद कर सकें। StopNCII 18 से अधिक उम्र के लोगों की अंतरंग तस्वीरों के प्रसार को रोकने में मदद करता है और पीड़ितों को अपने सबसे निजी तस्वीरों और वीडियो पर अपनी गोपनीयता को बरकरार रखने की क्षमता देता है।

इस साल हमने औपचारिक Snap काउंसिल फ़ॉर डिज़िटल वेल-बीइंग की भी शुरुआत की है, जो पूरे अमेरीका के 18 टीनएज़र बच्चों का ग्रुप है। इन्हें अपने स्कूलों और कम्युनिटी में सुरक्षित ऑनलाइन आदतों और कार्यप्रणालियों को बढ़ावा देने के लिए साल भर चलने वाले पायलट प्रोग्राम में भाग लेने के लिए चुना गया है। जुलाई में, यह ग्रुप कम से कम एक पैरेंट या वयोवृद्ध महिला के साथ सांता मोनिका में Snap Inc. के मुख्यालय में चर्चा के लिए इकट्ठा हुआ। जिसमें ऑनलाइन खतरों और सोशल डायनेमिक्स, और पैरेंटल टूल्स जैसे विषयों पर दिलचस्प बारीक जानकारियां निकल कर सामने आईं। यह Snap Inc. के 16 पेशेवरों और तीन युवा पैरवीकारों के सुरक्षा सलाहकार बोर्ड के अलावे है, जो सुरक्षा के मामलों पर Snap Inc. को सीधा मार्गदर्शन और दिशा प्रदान करता है। हमारी नज़र साल 2025 पर है जहां हम दोनों ग्रुप के सदस्यों को एक साथ लाने और अतिरिक्त इनसाइट्स से रू-ब-रू होने के ज़्यादा अवसरों को पैदा करने की उम्मीद कर रहे हैं। 

III. जागरूकता फैलाना 

हमारे आंतरिक निवेश तथा विशेषज्ञों और उद्योग के अलग-अलग लोगों के साथ काम करने के अलावे, ऑनलाइन यौन शोषण और सेक्सटॉर्शन स्कीम से लड़ने का एक महत्वपूर्ण घटक है लोगों और Snap चैटर के बीच जागरूकता फ़ैलाना। 

2022 में, हमने एक उद्योग-अग्रणी शोध डिज़िटल वेल-बीइंग इंडेक्स की शुरुआत की, जो इस बारे में बारीक जानकारियां देता है कि टीनएज़र बच्चे और युवा वयस्क सभी ऑनलाइन प्लैटफ़ॉर्मों पर कैसा प्रदर्शन कर रहे हैं। इस शोध के हिस्से के रूप में, पिछले दो सालों से हमने सेक्सटॉर्शन से जुड़ी बारीक जानकारियों का पता लगाया है। चूंकि यह अध्ययन सामान्य रूप से होने वाले ऑनलाइन अनुभवों को कवर करता है, न कि सिर्फ़ Snapchat पर, इसलिए यह न केवल हमारे काम के बारे में जानकारी देने में मदद करता है, बल्कि हमें उम्मीद है कि यह टेक इको-सिस्टम के अन्य लोगों के लिए भी इनसाइट्स ऑफ़र करता है। इस महीने के आखिर में, हम नाबालिगों के फ़ाइनेन्श्यल सेक्सटॉर्शन पर, Tech Coalition के आगामी वर्चुअल मल्टी-स्टेकहोल्डर फ़ोरम के साथ सेक्सटॉर्शन से जुड़ी अपने दूसरे साल की अहम जानकारियों के नतीजों को शेयर करेंगे। 

इस साल की शुरुआत में, हमने यूनाइटेड स्टेट्स डिपार्टमेंट ऑफ़ होमलैंड सिक्योरिटी (DHS). द्वारा इस साल की शुरुआत में लॉन्च किए गए अपनी तरह के पहले सार्वजनिक जारूकता अभियान Know2Protect को सपोर्ट देने वाली पहली संस्था होने का गौरव हासिल किया है। यह अभियान युवाओं, अभिभावकों, भरोसेमंद वयस्कों और नीति निर्माताओं को फ़ाइनेन्श्यल सेक्सटॉर्शन जैसे अपराधों से लड़ने और रोकने में मदद करने के लिए शिक्षित करता और सशक्त बनाता है। Snapchat पर K2P के शैक्षिक संसाधनों के लिए दान-स्वरूप विज्ञापन की जगह देने के अलावे, हम अमेरीका में टीनएज़र बच्चों और युवा वयस्कों को इस अभियान की ज़्यादा जानकारी देने के लिए अतिरिक्त शोध कर रहे हैं। हमने साथ मिलकर एक ऑगमेंटेड रिएलिटी वाला Snapchat लेंस भी लॉन्च किया है ताकि एक इंटरैक्टिव Know2Protect क्विज़ के ज़रिए Snap चैटर्स को शिक्षित करने में मदद कर सकें। और यूके में, हमने आज तक इन मुद्दों पर IWF के व्यापक जन-जागरूकता अभियान गर्ल्स आउट लाउड (Gurls Out Loud) का समर्थन किया है, जिसे 11 से 13 साल की लड़कियों को ऑनलाइन सेक्सुअल ग्रूमिंग, सेक्सटिंग और न्यूड्स भेजने के बारे में जानकारी देने के लिए डिज़ाइन किया गया है। इसके अलावे, हमने हाल ही में एज़ुकेटर्स के लिए एक कॉम्प्रीहेंसिव टूलकिट विकसित करने के लिए सेफ़ एंड साउंड स्कूल्स (Safe and Sound Schools) के साथ भागीदारी करके Snapchat में एक एज़ुकेटर गाइड को लॉन्च किया है जिसमें सेक्सटॉर्शन से निपटने के तरीकों पर जानकारी और मार्गदर्शन शामिल है। 

हमारे सालों के शोध के आधार पर, हम जानते हैं कि इंटरनेट से होने वाले नुकसानों को रोकने में मदद करने के लिए जागरूकता फैलाना और कम्युनिटी एज़ुकेशन पावरफ़ुल टूल हैं और हम Snapchat पर टीनएज़र बच्चों और युवाओं तक सीधे पहुंचने के लिए इन-ऐप संसाधनों को विकसित करना और बढ़ावा देना जारी रखेंगे। सितम्बर 2023 में, हमने फ़ाइनेन्श्यल सेक्सटॉर्शन सहित यौन जोखिमों और नुकसानों पर ध्यान केंद्रित करते हुए चार नए इन-ऐप "सेफ़्टी स्नैपशॉट" एपिसोड रिलीज़ किए हैं। हमने सेक्सटिंग और न्यूड्स बनाने और शेयर करने के नतीजों, यौन उद्देश्यों के लिए बच्चों की ऑनलाइन ग्रूमिंग और बाल यौन तस्करी पर भी एपिसोड बनाए हैं। इन सभी संसाधनों की समीक्षा गुमशुदा और शोषित बच्चों के लिए राष्ट्रीय केंद्र (NCMEC) के विशेषज्ञों द्वारा की गई थी और इन्हें महत्वपूर्ण भौगोलिक क्षेत्रों में इससे संबंध रखने वाले हॉटलाइन और हेल्पलाइन के सहयोग से बनाया गया था। 

हम ऑनलाइन बाल यौन शोषण और दुर्व्यवहार के खिलाफ़ अपनी लड़ाई जारी रखेंगे लेकिन अभी भी बहुत कुछ करना बाकी है। 2025 में, हम इंटरनेट से होने वाले संभावित नुकसानों के बारे में जागरूकता फैलाना और इस बात को दोहराना जारी रखेंगे कि कोई भी संभावित लक्ष्य हो सकता है। हम बुरे लोगों को ज़ल्द से ज़ल्द और बार-बार रोकना और उनके मंसूबों को नाकाम करना चाहते हैं और हम कानून लागू करने वाले अधिकारियों के लिए CyberTips को और भी ज़्यादा कार्रवाई योग्य बनाना चाहते हैं।

इस बात पर ध्यान देना ज़रूरी है कि हमने इन जैसी कई रणनीतियों को लागू किया है क्योंकि हम मादक पदार्थों से जुड़ी गैर-कानूनी गतिविधि जिसमें नकली दवाओं की तस्करी, हिंसा के खतरों और आत्महत्या और खुद को नुकसान पहुंचाने वाले कॉन्टेंट शामिल हैं, इन जैसी गंभीर रूप से हानि पहुंचाने वाली दूसरी चीज़ों से डट कर मुकाबला करते हैं। हमें इस बात का एहसास है कि इस क्षेत्र में हमारा काम कभी भी खत्म नहीं हो सकता लेकिन हमें Snap चैटर्स की सुरक्षा के बारे में तहेदिल से परवाह है और हम जानकारी के आदान-प्रदान और अपने सुरक्षातंत्र को पुख्ता बनाने के लिए उद्योग, सरकार और कानून लागू करने वाले अधिकारियों के साथ मिलकर काम करना जारी रखेंगे।