05 दिसंबर, 2024

05 दिसंबर, 2024

हम Snap के सुरक्षा प्रयासों की जानकारी देने के लिए वर्ष में दो बार यह पारदर्शिता रिपोर्ट प्रकाशित करते हैं। हम इन प्रयासों के लिए समर्पित हैं और उन कई हितधारकों के लिए इन रिपोर्टों की संपूर्णता और शैक्षिक मूल्य को बेहतर बनाने के लिए कड़ी मेहनत करते हैं जिनकी हमारी सामग्री मॉडरेशन नीतियों, कानून प्रवर्तन प्रक्रियाओं और Snapchat कम्युनिटी की सुरक्षा और भलाई में निहित रुचि है।

पारदर्शिता रिपोर्ट में 2024 (1 जनवरी - 30 जून) की पहली छमाही को शामिल किया गया है। हमारी पिछली रिपोर्टों की तरह, हम इन-ऐप कंटेंट की वैश्विक मात्रा और अकाउंट-स्तरीय रिपोर्टों के बारे में डेटा साझा करते हैं जो हमारी ट्रस्ट और सुरक्षा टीमों ने कम्युनिटी दिशानिर्देशों के उल्लंघन की विशिष्ट श्रेणियों में प्राप्त और लागू की हैं; हमने कानून प्रवर्तन और सरकारों के अनुरोधों का कैसे जवाब दिया; और कैसे हमने कॉपीराइट ट्रेडमार्क उल्लंघन और उनके नोटिस का जवाब दिया। हम इस पेज के नीचे लिंक की गई फाइलों में देश-विशिष्ट जानकारी भी प्रदान करते हैं। अपनी पारदर्शिता रिपोर्ट को लगातार बेहतर बनाने की हमारी लगातार की प्रतिबद्धता के हिस्से के रूप में, हम अपने कम्युनिटी दिशानिर्देशों के उल्लंघन की एक वाइडर रेंज का पता लगाने और उसके विरुद्ध कार्रवाई करने के हमारे सक्रिय प्रयासों को उजागर करने वाले नए डेटा भी पेश कर रहे हैं।

हमने इस डेटा को इस रिपोर्ट में वैश्विक और देश दोनों लेवल पर शामिल किया है और आगे भी ऐसा करना जारी रखेंगे। हमने अपनी पिछली रिपोर्टों में एक लेबलिंग त्रुटि को भी ठीक किया है: जहां हमने पहले “कुल लागू कंटेंट” का उल्लेख किया था, अब हम “कुल प्रवर्तन” का उल्लेख करते हैं ताकि यह तथ्य दिखाई दे कि संबंधित कॉलम में प्रदान किए गए डेटा में कंटेंट-लेवल और अकाउंट-लेवल दोनों प्रवर्तन शामिल हैं।

संभावित ऑनलाइन नुकसान को दूर करने के लिए हमारी नीतियों के बारे में अधिक जानकारी के लिए, और हमारी रिपोर्टिंग पहलों को विकसित करने की योजना के लिए, कृपया इस पारदर्शिता रिपोर्ट के बारे में हमारा हालिया सुरक्षा और इम्पैक्ट ब्लॉग पढ़ें। Snapchat पर सुरक्षा एवं गोपनीयता के अतिरिक्त संसाधनों के बारे में जानने के लिए, हमारा पारदर्शिता रिपोर्टिंग के बारे में देखें, जो इस पृष्ठ के निचले हिस्से में उपलब्ध है।

कृपया ध्यान दें कि इस पारदर्शिता रिपोर्ट का सबसे अप-टू-डेट संस्करण EN-US लोकल में देखा जा सकता है।

हमारी ट्रस्ट और सुरक्षा टीमें हमारे कम्युनिटी दिशानिर्देशों को सक्रिय रूप से (स्वचालित उपकरणों के उपयोग के माध्यम से) और प्रतिक्रियात्मक रूप से (रिपोर्टों के जवाब में) लागू करती हैं, जैसा कि इस रिपोर्ट के निम्नलिखित अनुभागों में विस्तार से बताया गया है। इस रिपोर्टिंग सायकल (H1 2024) में, हमारी ट्रस्ट और सुरक्षा टीमों ने निम्नलिखित प्रवर्तन कार्रवाई की:

नीचे हर प्रकार के कम्युनिटी दिशानिर्देशों के उल्लंघन का विवरण दिया गया है, जिसमें उल्लंघन का पता लगाने के समय (सक्रिय रूप से या रिपोर्ट प्राप्त होने पर) और प्रासंगिक सामग्री या अकाउंट पर अंतिम कार्रवाई करने के बीच का औसत बदलाव शामिल है:

रिपोर्टिंग अवधि के दौरान, हमने 0.01 प्रतिशत की वॉयलेटिव व्यू रेट (VVR) देखी, जिसका मतलब है कि Snapchat पर हमारे कुल 10,000 Snap और स्टोरी के व्यू में से 1 सामग्री ऐसी थी जो हमारे कम्युनिटी दिशानिर्देशों का उल्लंघन करती थी।

1 जनवरी- 30 जून, 2024 से कम्युनिटी दिशानिर्देश के उल्लंघन की इन-ऐप रिपोर्ट के जवाब में Snap ट्रस्ट और सुरक्षा टीमों ने वैश्विक स्तर पर कुल मिलाकर 62,23,618 प्रवर्तन कार्रवाई की, जिसमें 38,42,507 विशिष्ट अकाउंट के खिलाफ लागू की गई प्रवर्तन कार्रवाई शामिल है। हमारी ट्रस्ट और सुरक्षा टीमों के लिए उन रिपोर्टों के जवाब में प्रवर्तन कार्रवाई करने के लिए औसत समय ~24 मिनट था। हर एक रिपोर्टिंग श्रेणी का विवरण नीचे दिया गया है।

पिछले छह महीनों की तुलना में H1 2024 में हमारी समग्र रिपोर्टिंग मात्रा काफी स्थिर रही। इस सायकल में, हमने कुल प्रवर्तन और लागू किए गए कुल विशिष्ट अकाउंट में लगभग 16% की वृद्धि देखी।

पिछले 12 महीनों में, Snap ने यूज़र्स के लिए नए रिपोर्टिंग तंत्र पेश किए, जो हमारे रिपोर्ट किए गए और लागू किए गए वॉल्यूम में बदलाव और इस रिपोर्टिंग अवधि (H1 2024) में टर्नअराउंड समय में वृद्धि के लिए जिम्मेदार हैं। विशेष रूप से:

• ग्रुप चैट रिपोर्टिंग: हमने 13 अक्टूबर, 2023 को ग्रुप चैट रिपोर्टिंग की शुरुआत की थी, जो यूज़र्स को एक से ज़्यादा लोगों वाली चैट में होने वाले दुर्व्यवहार की रिपोर्ट करने में सक्षम बनाती है। इस बदलाव ने सभी रिपोर्टिंग श्रेणियों में हमारे मेट्रिक्स स्ट्रक्चर को प्रभावित किया (क्योंकि चैट रेफ़रेंस में कुछ संभावित नुकसान होने की अधिक संभावना है) और रिपोर्ट की कार्रवाई क्षमता में वृद्धि हुई।

• अकाउंट रिपोर्टिंग में सुधार: हमने अपने अकाउंट रिपोर्टिंग फ़ीचर को भी तैयार किया है, ताकि रिपोर्टिंग करने वाले यूज़र्स को किसी ऐसे अकाउंट की रिपोर्ट करते समय चैट साक्ष्य प्रस्तुत करने का विकल्प दिया जा सके, जिसके बारे में संदेह है कि वह किसी गलत व्यक्ति द्वारा चलाया जा रहा है। हमें अकाउंट रिपोर्ट का आकलन करने के लिए अधिक साक्ष्य और रेफ़रेंस प्रदान करने वाला बदलाव 29 फरवरी, 2024 को लॉन्च किया गया।

चैट रिपोर्ट, और विशेष रूप से ग्रुपचैट रिपोर्ट, रिव्यु के लिए सबसे जटिल और समय लेने वाली हैं, जिससे पूरे बोर्ड में टर्नअराउंड का समय बढ़ गया।

संदिग्ध बाल यौन शोषण और दुर्व्यवहार (CSEA), उत्पीड़न और धमकाने और नफ़रत भरे भाषण के लिए रिपोर्टिंग विशेष रूप से ऊपर बताए गए दो बदलाव और ब्रॉडर इको सिस्टम में बदलाव से प्रभावित हुई थी। विशेष रूप से:

• CSEA: हमने H1 2024 में CSEA-संबंधित रिपोर्टों और प्रवर्तन में वृद्धि देखी। विशेष रूप से, हमने यूज़र्स द्वारा कुल इन-ऐप रिपोर्ट में 64% की वृद्धि, कुल प्रवर्तन में 82% की वृद्धि, तथा कुल लागू किए गए यूनीक अकाउंट में 108% की वृद्धि देखी। ये वृद्धि मुख्य रूप से ग्रुप चैट और अकाउंट रिपोर्टिंग कार्यक्षमताओं की शुरूआत के कारण हुई है। इस मॉडरेशन क्यू की संवेदनशील प्रकृति को देखते हुए, उच्च प्रशिक्षित एजेंटों की एक चयनित टीम को संभावित CSEA-संबंधित उल्लंघनों की रिपोर्ट की समीक्षा करने का काम सौंपा गया है। अतिरिक्त रिपोर्टों के आने तथा हमारी टीमों द्वारा नए प्रशिक्षणों को अपनाने के कारण कार्य-समय में वृद्धि हुई है। आगे बढ़ते हुए, हमने टर्नअराउंड समय को कम करने और संभावित SEA की रिपोर्टों पर सटीक रूप से अमल करने के लिए अपनी वैश्विक विक्रेता टीमों के आकार में काफी वृद्धि की है। हमें उम्मीद करते हैं कि हमारी H2 2024 पारदर्शिता रिपोर्ट वास्तविक रूप से बेहतर बदलाव के समय के साथ इस प्रयास के फल को दर्शाएगी।
  

• उत्पीड़न और धमकाना: रिपोर्टों के आधार पर, हमने देखा है कि चैट और विशेष रूप से ग्रुप चैट में उत्पीड़न और धमकाने की घटनाएं असमान रूप से होती हैं। ग्रुप चैट रिपोर्टिंग और अकाउंट रिपोर्टिंग में हमने जो सुधार किए हैं, वे इस रिपोर्टिंग श्रेणी में रिपोर्ट का आकलन करते समय हमें अधिक व्यापक कार्रवाई करने में मदद करते हैं। इसके अतिरिक्त, इस अवधि के अनुसार, हमें उत्पीड़न और धमकी की रिपोर्ट सबमिट करते समय यूज़र से एक टिप्पणी दर्ज करने की ज़रूरत होती है। हम प्रत्येक रिपोर्ट को संदर्भित करने के लिए इस टिप्पणी की समीक्षा करते हैं। इन बदलावों के कारण कुल प्रवर्तन (+91%), कुल लागू किए गए विशिष्ट अकाउंट (+82%), तथा संबंधित रिपोर्टों के लिए टर्नअराउंड समय (+245 मिनट) में बड़ी वृद्धि हुई।
  

• नफरत फैलाने वाला भाषण: 2024 की पहली छमाही में, हमने नफरत भरे भाषण के लिए रिपोर्ट की गई सामग्री, कुल प्रवर्तन और बदलाव के समय में वृद्धि देखी। विशेष रूप से, हमने इन-ऐप रिपोर्टों में 61% की वृद्धि, कुल प्रवर्तनों में 127% की वृद्धि, और लागू किए गए कुल विशिष्ट अकाउंट में 125% की वृद्धि देखी। यह, कुछ हद तक, हमारे चैट रिपोर्टिंग तंत्र में सुधार (जैसा कि पहले चर्चा की गई थी) के कारण था, और भू-राजनीतिक वातावरण, विशेष रूप से इज़राइल-हमास युद्ध की निरंतरता से इसे और बढ़ा दिया गया था।

इस रिपोर्टिंग अवधि में, हमने कुल प्रवर्तन में ~65% की कमी और संदिग्ध स्पैम और दुरुपयोग की रिपोर्टों के जवाब में लागू किए गए कुल विशिष्ट अकाउंट में ~60% की कमी देखी, जो हमारे सक्रिय पहचान और प्रवर्तन टूल्स में सुधार को दर्शाता है। हमने खुद को नुकसान पहुंचाने और आत्महत्या से जुड़े कंटेंट की रिपोर्टों के जवाब में कुल कार्यान्वयन में इसी तरह की गिरावट देखी (~ 80% की कमी), जो हमारे पीड़ित आधारित अपडेटेड दृष्टिकोण को दर्शाती है, जहां हमारी ट्रस्ट और सुरक्षा टीमें संबंधित यूज़र के खिलाफ़ प्रवर्तन कार्रवाई करने के बजाय उन्हें स्वयं सहायता संसाधन भेजती हैं। इस दृष्टिकोण की जानकारी हमारे सुरक्षा सलाहकार बोर्ड के सदस्यों ने दी, जिसमें बाल चिकित्सा के प्रोफेसर और मेडिकल डॉक्टर शामिल थे, जो इंटरैक्टिव मीडिया और इंटरनेट विकारों के विशेषज्ञ हैं।

हम अपने कम्युनिटी दिशानिर्देश के उल्लंघन का पहले से पता लगाने और कुछ मामलों में उसके विरुद्ध कार्रवाई करने के लिए स्वचालित उपकरण लागू करते हैं। इन टूल में हैश-मैचिंग टूल (PhotoDNA और Google बाल यौन शोषण चित्रण (CSAI) मैच सहित), अपमानजनक भाषा का पता लगाने वाले टूल (जो अपमानजनक कीवर्ड और इमोजी की पहचानी गई और नियमित रूप से अपडेट की गई सूची के आधार पर पता लगाते हैं और लागू करते हैं), और मल्टी-मॉडल आर्टिफिशियल इंटेलिजेंस / मशीन लर्निंग तकनीक शामिल हैं।

H1 2024 में, हमने स्वचालित उपकरणों के उपयोग के माध्यम से, हमारे कम्युनिटी दिशानिर्देश के उल्लंघन का सक्रिय रूप से पता लगाने के बाद निम्नलिखित प्रवर्तन कार्रवाई की:

हमारे समुदाय के किसी भी सदस्य का, विशेष रूप से नाबालिगों का यौन शोषण न कि केवल गैर-कानूनी एवं निंदनीय है, बल्कि कम्युनिटी दिशा-निर्देशों द्वारा प्रतिबंधित भी है। हमारे प्लेटफार्म पर बाल यौन शोषण और दुर्व्यवहार (CSEA) को रोकना, पता लगाना तथा उन्मूलित करना Snap पर हमारे लिए टॉप प्राथमिकता है और हम इनसे और अन्य प्रकार के अपराधों से निपटने के लिए अपनी क्षमताओं को निरंतर विकसित कर रहे हैं।

हम CSEA की ज्ञात अवैध इमेज और वीडियो की पहचान करने के लिए क्रमशः सक्रिय प्रौद्योगिकी पहचान उपकरण, जैसे PhotoDNA मजबूत हैश-मैचिंग और Google के बाल यौन दुर्व्यवहार इमेजरी (CSAI) मैच का उपयोग करते हैं। इसके अतिरिक्त, कुछ मामलों में, हम अन्य संभावित अवैध CSEA गतिविधियों के विरुद्ध कार्रवाई करने के लिए व्यवहार संबंधी संकेतों का उपयोग करते हैं। हम कानून के अनुसार, CSEA से संबंधित सामग्री की रिपोर्ट U.S. के गुमशुदा और शोषित बच्चों के राष्ट्रीय केंद्र (NCMEC) को देते हैं। इसके बाद, NCMEC ज़रूरत के हिसाब से, घरेलू या अंतर्राष्ट्रीय कानून प्रवर्तन के साथ मिलकर काम करता है।

2024 की पहली छमाही में, हमने Snapchat पर CSEA का पता लगाने पर निम्नलिखित कार्रवाई की (या तो सक्रिय रूप से या रिपोर्ट प्राप्त होने पर):

*नोट करें कि NCMEC को किए गए सबमिशन में कई तरह का कंटेंट हो सकता है। NCMEC को सौंपा गया कुल मीडिया कंटेंट, उस पूरे कंटेंट के बराबर है जिस पर हमने कार्रवाई की है।

हम Snap चैटर्स के मानसिक स्वास्थ्य और भलाई का बहुत ख्याल रखते हैं और इसको ध्यान में रख कर ही हम Snapchat को एक बेहतर जगह बनाने से जुड़ें फ़ैसले लेते हैं। असली फ्रेंड्स के मध्य और बीच में बातचीत के लिए डिजाईन किए गए प्लेटफ़ॉर्म के रूप में, Snapchat मुश्किल समय में फ्रेंड्स को एक-दूसरे की मदद करने के लिए सशक्त बनाने में अनोखी भूमिका निभा सकता है। यही कारण है कि हमने ज़रूरतमंद Snap चैटर्स के लिए संसाधन और मदद का विकास किया है।

जब यूज़र मानसिक स्वास्थ्य, चिंता, अवसाद, तनाव, आत्मघाती विचार, दु:ख और धमकाने से संबंधित कुछ विषयों की खोज करते हैं तो हमारा Here For You खोज टूल विशेषज्ञ स्थानीय भागीदारों के संसाधनों को दिखाता है। हमने संकटग्रस्त लोगों का समर्थन करने के प्रयास में, फ़ाइनेन्श्यल सेक्सटॉर्शन और अन्य यौन जोखिमों और हानियों के लिए समर्पित एक पेज भी विकसित किया है। सुरक्षा संसाधनों की हमारी वैश्विक सूची हमारे गोपनीयता, सुरक्षा और नीति हब में सभी Snap चैटर्स के लिए सार्वजनिक रूप से उपलब्ध है।

जब हमारी ट्रस्ट एंड सेफ्टी टीम को हमारे Snap चैटर के संकट में होने की जानकारी मिलती है, वे खुद को नुकसान पहुंचाने से बचने वाले तथा सहयोगी संसाधनों को आगे बढ़ा सकते हैं और उचित समय पर आपातकालीन प्रतिक्रिया को सूचित कर सकते हैं। हमारे द्वारा शेयर किए जाने वाले संसाधन हमारे सुरक्षा संसाधनों की वैश्विक सूची में उपलब्ध है और सभी Snap चैटर के लिए सार्वजानिक रूप से उपलब्ध है।

नीचे हम उन अपीलों के बारे में जानकारी दे रहे हैं जो हमें यूज़र से मिली हुई हैं, जिनमें उनके अकाउंट को लॉक करने के हमारे निर्णय की समीक्षा का अनुरोध किया गया है:

* जैसा कि ऊपर “विश्लेषण” अनुभाग में चर्चा की गई है, बाल यौन शोषण से संबंधित सामग्री या गतिविधि के प्रसार को रोकना टॉप की प्राथमिकता है। Snap इस लक्ष्य को प्राप्त करने के लिए अपने महत्वपूर्ण संसाधनों को समर्पित करता है और ऐसे आचरणों के प्रति शून्य सहनशीलता की नीति अपनाता है। हमने Snapchat के लिए नई नीतियों और रिपोर्टिंग सुविधाओं को अपनाने के लिए अपनी वैश्विक विक्रेता टीमों का विस्तार किया है। ऐसा करने से, H2 2023 और H1 2024 के बीच, हमने CSEA अपीलों के लिए समय सीमा 152 दिनों से घटाकर 15 दिन कर दी। हम अपनी प्रक्रियाओं में लगातार सुधार करने का प्रयास करते हैं, जिसमें अपील के निपटारे के समय भी शामिल है।

यह सेक्शन कम्युनिटी दिशानिर्देश लागू करने के लिए हमारे ट्रस्ट और सुरक्षा टीमों की कार्रवाइयों का अवलोकन प्रदान करता है, जो प्रोएक्टिव और हिंसक घटनाओं की रिपोर्ट के जवाब में दोनों तरह के उल्लंघन की कार्रवाई करता है। हमारे कम्युनिटी दिशानिर्देश, Snapchat—पर सभी कंटेंट और दुनिया भर के सभी Snapचैटर—पर लागू होते हैं, चाहे वे कहीं भी रहते हों।

ईयू के सभी देशों सहित, प्रत्येक देश की जानकारी संलग्न CSV फ़ाइल के माध्यम से डाउनलोड के लिए उपलब्ध है।

Snap यह सुनिश्चित करने के लिए पूरी तरह से प्रतिबद्ध है कि सभी विज्ञापन हमारी विज्ञापन नीतियों का अनुपालन करते हैं। हम जिम्मेदार एवं सम्मानजनक तरीके से विज्ञापन करने में विश्वास करते हैं, जिससे हमारे सभी यूज़र्स के लिए एक सुरक्षित और आनंददायक अनुभव का निर्माण किया जा सके। सभी विज्ञापन हमारी समीक्षा और मंज़ूरी के अधीन होते हैं। इसके अलावा, हम यूज़र फ़ीडबैक के हिसाब से विज्ञापन हटाने का अधिकार रखते हैं, जिसे हम गंभीरता से लेते हैं।

नीचे हमने पेड विज्ञापनों के लिए हमारे मॉडरेशन में अंतर्दृष्टि शामिल की है जो Snapchat पर उनके प्रकाशन के बाद हमें रिपोर्ट की जाती है।
ध्यान दें कि Snapchat पर आने वाले विज्ञापन कई कारणों से हटाए जा सकते हैं, जैसा कि Snap की विज्ञापन नीतियां में बताया गया है, जिनमें भ्रामक कंटेंट, वयस्क कंटेंट, हिंसक या परेशान करने वाला कंटेंट, घृणा से भरे भाषण और बौद्धिक संपदा का उल्लंघन शामिल है। इसके अतिरिक्त, आप इस पारदर्शिता रिपोर्ट के नेविगेशन बार में Snapchat के विज्ञापन गैलरी को देख सकते हैं।