Snap, Snapchat समुदाय की सुरक्षा के लिए पूरी तरह से प्रतिबद्ध है। हमारा उद्देश्य उपयोगकर्ताओं को डिजिटल इकोसिस्टम में फैले ऑनलाइन जोखिमों और संभावित नुकसानों की एक श्रृंखला से बचाने में मदद करना है, जिसमें बाल यौन शोषण और दुर्व्यवहार (CSEA) से जुड़े घृणित अपराध शामिल हैं। Snap, Snapchat ऐप पर सक्रिय-पहचान और प्रतिक्रियात्मक-प्रतिक्रिया दोनों उपायों को अपनाते हुए, वर्षों से इस अवैध सामग्री और घृणित आपराधिक व्यवहार के खिलाफ लड़ रहा है। पिछले एक साल में, हमने अपराधियों को न्याय के कटघरे में लाने में मदद करने के इरादे से अपनी संबंधित नीतियों और प्रक्रियाओं में अतिरिक्त बदलाव किए हैं। हम यहां उस काम के बारे में और अधिक साझा करना चाहेंगे।

CSEA क्या है?

बाल यौन शोषण और दुर्व्यवहार में नाबालिगों को यौन हानि पहुँचाने वाली कई अवैध गतिविधियाँ शामिल हैं, जिनमें शामिल हैं: बाल यौन शोषण और दुर्व्यवहार की छवियों (CSEAI) को देखना, बनाना और वितरित करना, जिसमें AI-जनित फ़ोटो और वीडियो का नया खतरा भी शामिल है; यौन उद्देश्यों के लिए नाबालिगों को ऑनलाइन तैयार करना, या बहलाना; ¹यौन जबरन वसूली; ²बाल यौन तस्करी; और बच्चों के यौन शोषण और यातना की लाइव-स्ट्रीमिंग। ³यह समझना मुश्किल है कि ये घृणित वास्तविकताएँ वास्तव में मौजूद हैं। लेकिन, दुख की बात है कि ऐसा दुर्व्यवहार हमेशा से होता रहा है - और डिजिटल दुनिया अब दुर्व्यवहार का एक वैकल्पिक साधन प्रदान करती है, जिससे अपराध करने के तरीके तेज़ और अधिक दूरगामी हो गए हैं।

लंदन स्थितWeProtect ग्लोबल अलायंसके अध्यक्ष एर्नी एलन ने कहा, "प्रौद्योगिकी ने मौलिक रूप से उस तरीके को बदल दिया है जिसमें बच्चों में यौन रुचि रखने वाले लोग उनके बारे में कल्पना करते हैं, उन तक पहुँचते हैं और उनका शिकार करते हैं।" "दन्यूयॉर्क टाइम्सने लिखा, 'ऑनलाइन बाल यौन शोषण का संकट एक निर्णायक मोड़ पर है।' इसमें कहा गया है कि रिपोर्टें बढ़ रही हैं, अपराधी कम उम्र के पीड़ितों और अधिक घृणित अपराधों की तस्वीरें साझा कर रहे हैं, और कानून प्रवर्तन तालमेल बिठाने के लिए संघर्ष कर रहा है। यदि आप उस चुनौती में नए बदलाव जोड़ते हैं, जैसे कि सेक्स्टॉर्शन, जिसमें FBI ने 7,200% की वृद्धि की सूचना दी है, लाइव-स्ट्रीमिंग दुर्व्यवहार और अन्य, तो यह स्पष्ट है कि यह समस्या दुनिया भर में नीतिगत एजेंडे में सबसे ऊपर होनी चाहिए," उन्होंने कहा।

तकनीकी कंपनियों के कानूनी दायित्व

जब अमेरिकी प्रौद्योगिकी कंपनियों को अपने प्लेटफ़ॉर्म या सेवाओं पर CSEA के बारे में पता चलता है, तो उनका कानूनी कर्तव्य है कि वे इसकी रिपोर्ट नेशनल सेंटर फ़ॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रन (NCMEC) को दें। NCMEC फिर इन साइबरटिप्स की समीक्षा करता है और बाल पीड़ितों की सुरक्षा और अपराधियों को दंडित करने में मदद करने के लिए घरेलू और अंतर्राष्ट्रीय कानून प्रवर्तन दोनों के साथ संपर्क करता है।

पिछले साल तक, NCMEC को साइबरटिप्स की वार्षिक कुल संख्या साल-दर-साल काफी हद तक बढ़ रही थी, जो रिकॉर्ड 36.2 मिलियन रिपोर्ट तक पहुंच गई थी ⁴2023 में, 2022 में 32 मिलियन से थोड़ा अधिक और 1998 में 4,560 से, जब NCMEC की साइबरटिपलाइन बनाई गई थी। साइबरटिप्स में यह रिकॉर्ड वृद्धि थी - अन्य कारकों के अलावा, जिसमें विश्व स्तर पर यौन जबरन वसूली में लगातार वृद्धि और हमारे अपने साइबरटिप्स की कार्रवाई क्षमता के बारे में कानून प्रवर्तन से हमें मिली प्रतिक्रिया शामिल है - जिसने Snap को 2024 में पहली बार NCMEC से संपर्क करने के लिए प्रेरित किया ताकि हमारी साइबरटिप रिपोर्टिंग को फिर से कैलिब्रेट किया जा सके।

मैंने कई वर्षों तक साइबरटिप रिपोर्टिंग की निगरानी की है, और मेरा दृढ़ विश्वास है कि कुछ प्रौद्योगिकी कंपनियों का अभ्यास रिपोर्टिंग की ओर बढ़ा हैसब कुछNCMEC को - यहां तक कि उनके कानूनी दायित्व से भी ऊपर - लापता होने का आरोप लगने के डर सेकुछ। ⁵कानून द्वारा आवश्यक रिपोर्ट करने में विफल रहने वाली कंपनियों को भारी जुर्माना का सामना करना पड़ सकता है। लेकिन रिपोर्टिंग के इस दृष्टिकोण ने, कई रिपोर्टों की कम कार्रवाई क्षमता के साथ (या तो क्योंकि साइबरटिप्स में कानून प्रवर्तन के लिए कार्रवाई करने के लिए पर्याप्त संदर्भ की कमी है या क्योंकि रिपोर्ट किया गया आचरण, कुछ मामलों में, उनके लिए प्राथमिकता नहीं है), बढ़ते साइबरटिप्स; कई, व्यापक समीक्षाएं; और कानून प्रवर्तन के बीच बढ़ती निराशा को जन्म दिया है।

लक्ष्य: उच्च-मूल्य वाले साइबरटिप्स

NCMEC के साथ हमारे पुनर्संयोजन का लक्ष्य हमारी अपनी प्लेटफ़ॉर्म नीतियों और NCMEC को रिपोर्ट करने के लिए हमारे पास मौजूद प्रोटोकॉल को परिष्कृत करके Snap के साइबरटिप्स की कार्रवाई क्षमता और मूल्य को और बढ़ाना था। वह प्रारंभिक पुनर्संयोजन मई 2024 में हुआ, और हमारी नीति में बदलाव पिछले साल के उत्तरार्ध में पूरी तरह से प्रभावी हो गए।

जबकि हमें केवल रिपोर्टों की संख्या पर बहुत अधिक जोर देने से बचना चाहिए, हमारी नीतिगत सुधारों को लागू करने के बाद से, Snap यह साझा करते हुए प्रसन्न है कि हमने NCMEC को हमारी समग्र रिपोर्टिंग मात्रा में एक महत्वपूर्ण गिरावट और ऑनलाइन प्रलोभन के लिए वृद्धि में इसी तरह की गिरावट देखी है - यह सब करते हुए भी साइबरटिप्स में CSEA की रिपोर्ट करने के हमारे कानूनी दायित्वों को पूरा करना। हालाँकि, कम कुल अभी तक NCMEC की वार्षिक रिपोर्टिंग मात्रा में फ़िल्टर नहीं हुए हैं, क्योंकि परिवर्तन 2024 में बाद में लागू किए गए थे, जिससे संशोधनों को दर्शाने के लिए वर्ष के केवल कुछ पूरे महीने ही बचे थे।

इसके समानांतर, हमारी टीम हमारे साइबरटिप्स में डेटा और लेबलिंग को बेहतर बनाने के लिए काम कर रही है। इस तरह के स्पष्टीकरण कथित अपराधों और इसमें शामिल व्यक्तियों की बेहतर पहचान करने में मदद कर सकते हैं और बदले में, NCMEC और कानून प्रवर्तन द्वारा रिपोर्टों की त्वरित और अधिक सटीक छंटाई की अनुमति दे सकते हैं। यहां तक कि जब NCMEC को रिपोर्ट करना आवश्यक नहीं हो सकता है, तब भी Snap कार्रवाई करके हमारी प्लेटफ़ॉर्म नीतियों का उल्लंघन करने वाली छवियों और व्यवहारों को संबोधित करना जारी रखेगा - जिसमें उल्लंघनकारी सामग्री को हटाना, खाते को अक्षम करना और नए खातों के निर्माण को अवरुद्ध करने की मांग करना शामिल हो सकता है।

पुनर्संयोजन जांच बिंदु

पिछले महीने, हमने NCMEC के साथ एक दूसरा पुनर्संयोजन किया, जहाँ Snap टीम ने पिछले साल के आंतरिक नीति परिवर्तनों को संक्षेप में प्रस्तुत किया; हमारी प्रगति पर NCMEC को अपडेट किया; कुछ अतिरिक्त ऑपरेटिंग दिशानिर्देशों की पुष्टि की; और आने वाले महीनों के लिए अपेक्षाएँ निर्धारित करने में मदद की। हमने कुछ और नियोजित नीति और रिपोर्टिंग परिवर्धन का भी पूर्वावलोकन किया, जो हमें उम्मीद है कि NCMEC और कानून प्रवर्तन दोनों के लिए हमारी रिपोर्टों के मूल्य को बढ़ाना जारी रखेगा। स्वाभाविक रूप से, यह एक पुनरावृत्ति प्रक्रिया है, लेकिन हम पिछले एक साल में हुई प्रगति से प्रोत्साहित हैं।

आगे देखते हुए

समय के साथ, हम उम्मीद करते हैं कि NCMEC और कानून प्रवर्तन पिछले वर्षों की तुलना में Snap से साइबरटिप्स की कम मात्रा देखना जारी रख सकते हैं, लेकिन उनमें से एक बड़ा प्रतिशतकरतेहैं, उनमें उच्च-गुणवत्ता वाली जानकारी होनी चाहिए और वे अधिक कार्रवाई योग्य होने चाहिए।

हम अपने सुरक्षा कार्य के सभी पहलुओं में निरंतर सुधार के लिए प्रतिबद्ध हैं। हम CSEA या किसी अन्य संभावित ऑनलाइन नुकसान से लड़ने के संबंध में सभी उत्तर होने का दिखावा नहीं करते हैं; किसी को भी नहीं करना चाहिए क्योंकि कोई नहीं करता है। दिन-प्रतिदिन, हम पूरे समाज के मुद्दों से जूझ रहे हैं और हम एक संपूर्ण-कंपनीदृष्टिकोण अपनाते हैं - जोखिम को कम करने और नुकसान को कम करने के अंतिम दोहरे उद्देश्यों के साथ।

हमारे साइबरटिप्स के संबंध में, हमारे पास निकट भविष्य के लिए एक अलग लक्ष्य है: चाहे वह एक राज्य इंटरनेट अपराध के खिलाफ बच्चों के लिए टास्क फोर्स (ICAC) कमांडर हो, एक संघीय अन्वेषक हो, या दुनिया भर में कानून प्रवर्तन का एक सदस्य हो, हम चाहते हैं कि राज्य, संघीय और अंतर्राष्ट्रीय प्राधिकरण आत्मविश्वास से Snap से साइबरटिप्स का पीछा करें क्योंकि वे जानते हैं कि हमारी रिपोर्टों पर कार्रवाई योग्य, मूल्यवान और संपूर्ण के रूप में लगातार भरोसा किया जा सकता है। और, हमारी आशा है कि उन प्रयासों से संबंधित गिरफ्तारियों में इसी तरह की वृद्धि होगी ⁶और दुनिया भर में दोषसिद्धि।

NCMEC, WeProtect, अमेरिका में 61 ICAC टास्क फोर्स, दुनिया भर में कानून प्रवर्तन, और CSEA से लड़ने वाले परिदृश्य में हमारे सभी सहयोगियों और सहयोगियों को एक बड़ा "धन्यवाद" - और एक अतिरिक्त नोट कि हम अपनी रणनीतियों और दृष्टिकोणों को और बेहतर बनाने के लिए आपकी प्रतिक्रिया के लिए खुले और उत्सुक हैं। हम सब इसमें एक साथ हैं।

- जैकलीन ब्यूचेरे, ग्लोबल हेड ऑफ़ प्लेटफ़ॉर्म सेफ़्टी