आज हम 2021 की पहली छमाही के लिए पारदर्शिता रिपोर्ट जारी कर रहे हैं, जो इस साल की 1 जनवरी से 30 जून की अवधि को कवर करती है। हाल की रिपोर्ट के मुताबिक, इस किस्त में इस अवधि के दौरान वैश्विक स्तर पर कम्युनिटी दिशानिर्देशों के उल्लंघन के बारे में डेटा शेयर किया गया है। इसमें हमें मिली सामग्री शिकायतों की संख्या और खास तरह के उल्लंघनों के लिए की गई कार्रवाइयों की संख्या शामिल है। साथ ही, इसमें यह भी बताया गया है कि हमने कानून लागू करने वाली संस्थाओं और सरकार के अनुरोधों का जवाब कैसे दिया; अलग-अलग देशों के लिए लागू किए गए हमारे नियम, उल्लंघन करने वाली Snapchat सामग्री को देखे जाने की दर; और प्लैटफ़ॉर्म पर झूठी जानकारी फैलने की घटनाएं। 

हम इस अवधि की रिपोर्टिंग के लिए कई अपडेट जोड़ रहे हैं, जिसमें हमारे मीडियन टर्नअराउंड टाइम को घंटों से मिनटों में लिखना शामिल है, ताकि हमारी ऑपरेशनल प्रैक्टिस और क्षमताओं के बारे में ज़्यादा जानकारी दी जा सके।

हर दिन हमारे Snapchat कैमरे का इस्तेमाल करके औसतन पांच बिलियन से ज्यादा Snap बनाएं जाते हैं। 1 जनवरी से 30 जून, 2021 तक, हमने वैश्विक स्तर पर हमारे दिशानिर्देशों का उल्लंघन करने वाली 66,29,165 सामग्री के ख़िलाफ़ कार्यवाही की। इस अवधि के दौरान, उल्लंघन करने वाली सामग्री को देखे जाने का दर (VVR) 0.10 प्रतिशत थी। इसका मतलब है कि Snap पर मौजूद सामग्री में 10,000 व्यू में से हर 10 में ऐसी सामग्री थी जो हमारे दिशानिर्देशों का उल्लंघन करती थी। साथ ही, हमने उल्लंघन की शिकायतों का जवाब देने के समय को काफ़ी कम किया है। ऐसा खास तौर पर अश्लील सामग्री, उत्पीड़न और धमकाने वाली गतिविधियों, गैरकानूनी और नकली दवाओं, और दूसरी विनियमित चीज़ों के लिए किया है। 

बाल यौन शोषण सामग्री से निपटने के लिए हमारे कदम 

हमारी कम्युनिटी की सुरक्षा हमारी सबसे बड़ी प्राथमिकता है। असल ज़िंदगी के दोस्तों के साथ बातचीत के लिए बनाए गए प्लैटफ़ॉर्म के तौर पर, हमने जानबूझकर Snapchat को इस तरीके से डिज़ाइन किया है कि अजनबी लोगों के लिए युवाओं को ढूंढना मुश्किल हो। उदाहरण के लिए, Snap चैटर्स एक दूसरे फ़्रेंड्स की सूची नहीं देख सकते और डिफ़ॉल्ट रूप से, जो पहले से फ़्रेंड नहीं है उससे कोई मैसेज नहीं पा सकते।

हमारी कम्युनिटी के किसी भी सदस्य, खास तौर पर नाबालिगों के साथ किए गए ऐसे गलत व्यवहार को हम बिल्कुल बर्दाश्त नहीं करते जो कि गैरकानूनी है, स्वीकार करने लायक नहीं है और जिस पर हमारे कम्युनिटी दिशानिर्देशों के मुताबिक पाबंदी है। हम बाल यौन शोषण सामग्री (CSAM) और किसी और तरह से बच्चों का शोषण करने वाली सामग्री सहित, हमारे प्लैटफ़ॉर्म पर होने वाले गलत व्यवहार का पता लगाने, उस पर रोक लगाने और उसे हटाने के लिए अपनी क्षमताओं को विकसित करके इन उल्लंघनों से निपटने के लिए लगन से काम करते हैं।

हमारी ट्रस्ट और सुरक्षा टीमें इनका पता लगाने के लिए टूल्स इस्तेमाल करती हैं, जैसे कि CSAM वाली गैरकानूनी इमेज और वीडियो का पता लगाने के लिए PhotoDNA और चाइल्ड सेक्सुअल अब्यूज़ इमेजरी (CSAI) मैच तकनीक का इस्तेमाल करती हैं, और नैशनल सेंटर फ़ॉर मिसिंग ऐंड एक्सप्लोइटेड चिल्ड्रन (NCMEC) से उनकी शिकायत करती हैं। इसके बाद, NCMEC कानून लागू करने वाली घरेलू या अंतरराष्ट्रीय संस्थाओं से संपर्क करती है। 

2021 की पहली छमाही में, वैश्विक स्तर पर हमने जिन अकाउंट के खिलाफ़ कार्रवाई की उनमें से 5.43 प्रतिशत में CSAM था। इसमें, हमने CSAM उल्लंघनों के 70 प्रतिशत का सक्रिय रूप से पता लगाया और उन पर कार्रवाई की। CSAM-प्रसारित समन्वित स्पैम हमलों में वृद्धि के साथ संयुक्त रूप से बढ़ी हुई सक्रिय पहचान क्षमता बढ़ी है, जिससे इस रिपोर्टिंग अवधि के लिए इस श्रेणी में बड़ी बढ़त मिली है। 

हम Snap चैटर्स को अजनबियों से बातचीत के जोखिमों और हमारे संगठन और सुरक्षा टीमों को किसी भी तरह की समस्या या नीति उल्लंघन के बारे में बताने के लिए, इन-ऐप रिपोर्टिंग का इस्तेमाल करने के बारे में शिक्षित करने में मदद के लिए, उद्योग विशेषज्ञों की मदद लेने के साथ, हमारी इन-ऐप सुविधाओं को भी विकसित कर रहे हैं। साथ ही, हमने विश्वसनीय संरक्षक प्रोग्राम के साथ भागीदारी बढ़ाना जारी रखा है, जो आपातकालीन घटनाओं की रिपोर्ट करने के लिए एक गोपनीय चैनल के साथ पुष्टि किए गए सुरक्षा विशेषज्ञ उपलब्ध कराता है, जैसे कि जान के लिए खतरा या CSAM से जुड़े मामले की रिपोर्ट करना। हम सुरक्षा शिक्षा, स्वास्थ्य संसाधन और अन्य रिपोर्टिंग मार्गदर्शन प्रदान करने के लिए इन हिस्सेदारों के साथ मिलकर काम करते हैं ताकि वे Snapchat कम्युनिटी का समर्थन करने में मदद कर सकें।

झूठी जानकारी को फैलने से रोकने का हमारा तरीका

यह पारदर्शिता रिपोर्ट जिस समयावधि को कवर करती है उसमें यह भी बताया गया है कि यह पक्का करना कितना ज़रूरी है कि जनता को सटीक और भरोसेमंद जानकारी मिले। हम लोकतांत्रिक प्रक्रियाओं, सार्वजनिक स्वास्थ्य और कोविड-19 से जुड़ी झूठी जानकारी फैलने से Snap चैटर्स की हमारी कम्युनिटी को बचाने के नए तरीकों का नियमित रूप से आकलन करते हैं और उनमें निवेश करते हैं।

2021 की पहली छमाही में, वैश्विक स्तर पर हमने गलत जानकारी से जुड़े दिशानिर्देशों का उल्लंघन करने वाले कुल 2,597 अकाउंट और सामग्री के खिलाफ़ कार्रवाई की, जो रिपोर्टिंग की पिछली अवधि में उल्लंघनों की संख्या से करीब आधे थे। चूंकि डिस्कवर और स्पॉटलाइट पर सामग्री को बड़े पैमाने पर उल्लंघन करने वाली सामग्री के वितरण को रोकने के लिए सक्रिय रूप से मॉडरेट किया जाता है, इनमें से ज़्यादातर उल्लंघन निजी Snap और स्टोरीज़ से हुए हैं, और इनमें से ज़्यादातर उल्लंघनों के बारे में हमें अपनी मॉडरेशन की कोशिशों और Snap चैटर्स की शिकायतों से ही पता चला है। 

हमने हमेशा माना है कि जब नुकसान पहुंचाने वाली सामग्री की बात आती है, तो सिर्फ़ नीतियों और कार्रवाइयों के बारे में सोचना ही काफ़ी नहीं है - प्लैटफ़ॉर्म को अपने बुनियादी ढांचे और प्रॉडक्ट डिज़ाइन के बारे में सोचने की भी ज़रूरत है। शुरुआत में, Snapchat को पारंपरिक सोशल मीडिया प्लैटफ़ॉर्म की तुलना में अलग तरह से बनाया गया था, ताकि किसी को भी कुछ भी भेज सकने वाले खुले न्यूज़फ़ीड के बजाय, करीबी फ़्रेंड्स के साथ बात करने के हमारे प्राथमिक उपयोग का समर्थन किया जा सके। Snapchat के डिज़ाइन से सामग्री के वायरल होने की क्षमता कम होती है, जिससे लोगों की सबसे खराब प्रवृत्ति को अपील करने वाली सामग्री के लिए प्रोत्साहन को हटा दिया जाता है। इससे गैरकानूनी और नुकसान पहुंचाने वाली सामग्री के फैलने से जुड़ी समस्याओं को सीमित किया जाता है।

इस तरीके से चरमपंथी सामग्री को फैलने से भी रोका जा सकता है। रिपोर्टिंग अवधि के दौरान, हमने आतंकवादी और चरमपंथी सामग्री पर हमारी पाबंदी के उल्लंघन के लिए, पांच अकाउंट हटा दिए, जो पिछली रिपोर्टिंग अवधि से थोड़ा-सा कम है। Snap में, हम इस जगह पर होने वाली घटनाओं की नियमित रूप से निगरानी करते हैं, जिससे हमारे प्लैटफ़ॉर्म पर गलत व्यवहार करने वाली हर चीज़ को कम किया जा सके। हमारे प्लैटफ़ॉर्म के ढांचे और ग्रुप चैट सुविधा के डिज़ाइन, दोनों की मदद से नुकसान पहुंचाने वाली सामग्री को फैलने और व्यवस्थित होने से रोका जाता है। हम ग्रुप चैट की पेशकश करते हैं, लेकिन उनमें सीमित संख्या में ही लोग हिस्सा ले सकते हैं, एल्गोरिथम उनके सुझाव नहीं देतीं, और अगर आप उस ग्रुप के सदस्य नहीं हैं, तो उन्हें हमारे प्लैटफ़ॉर्म पर खोजा नहीं जा सकता। 

इस अवधि के दौरान, हमने लोगों को कोविड-19 के बारे में तथ्य से भरी सार्वजनिक सुरक्षा जानकारी देने को बढ़ावा दिया है। इसमें हमारे डिस्कवर एडिटोरियल पार्टनर्स की दी गई कवरेज, सार्वजविक सेवा घोषणाओं (PSA) के ज़रिए, और सार्वजनिक स्वास्थ अधिकारियों, एजेंसियों और चिकित्सा विशेषज्ञों के साथ सवाल-जवाब शामिल हैं। साथ ही, इसमें ऑगमेंटेड रिएलिटी लेंसों और फ़िल्टर जैसे क्रिएटिव टूल्स भी शामिल हैं, जिन्हें Snap चैटर्स को सार्वजनिक स्वास्थ्य मार्गदर्शन के बारे में याद दिलाने के लिए डिज़ाइन किया गया है। इससे पहले वसंत में जब अमेरिका में युवाओं के लिए टीके उपलब्ध हो गए, तो हमने Snap चैटर्स को आम सवालों का जवाब देने में मदद करने के लिए व्हाइट हाउस के साथ एक नई पहल की, और जुलाई में, हमने इसी तरह की कोशिश करते हुए, यूके की नेशनल हेल्थ सर्विस के साथ सहयोग किया। 

आगे बढ़ते हुए, हम अपनी पारदर्शिता रिपोर्ट में ज़्यादा जानकारी शामिल करने और ऑनलाइन सुरक्षा, पारदर्शिता और कई क्षेत्रों में जवाबदेही के लिए इसे कई स्टेकहोल्डर्स के लिए मददगार बनाने की पूरी कोशिश करना चाहते हैं। हम लगातार मूल्यांकन कर रहे हैं कि कैसे हम नुकसान पहुंचाने वाली सामग्री और बुरे लोगों से निपटने के व्यापक प्रयासों को मज़बूत करें, और कई सुरक्षा पार्टनर्स और सहयोगियोंं के शुक्रगुज़ार हैं जो हमें नियमित रूप से बेहतर करने में मदद करते हैं।