Snap हा Snapchat समुदायाच्या सुरक्षिततेसाठी कटिबद्ध आहे. बाल लैंगिक शोषण आणि गैरवर्तन (CSEA) यांसारख्या घृणास्पद गुन्ह्यांसह, डिजिटल इकोसिस्टममध्ये पसरलेल्या विविध ऑनलाइन जोखमी आणि संभाव्य हानींपासून वापरकर्त्यांचे संरक्षण करण्यात मदत करणे हे आमचे उद्दिष्ट आहे. Snap अनेक वर्षांपासून या बेकायदेशीर कंटेंट आणि घृणास्पद गुन्हेगारी वर्तनाविरुद्ध लढा देत आहे, Snapchat ॲपवर सक्रिय-शोध आणि प्रतिक्रियात्मक-प्रतिसाद या दोन्ही उपायांचा वापर करत आहे. गेल्या वर्षभरात, आम्ही गुन्हेगारांना न्याय मिळवून देण्याच्या उद्देशाने आमच्या संबंधित धोरणांमध्ये आणि प्रक्रियांमध्ये अतिरिक्त बदल केले आहेत. आम्ही त्या कामाबद्दल येथे अधिक माहिती देऊ इच्छितो.

CSEA म्हणजे काय?

बाल लैंगिक शोषण आणि गैरवर्तनामध्ये अल्पवयीन मुलांचे लैंगिक नुकसान करणाऱ्या विविध बेकायदेशीर कृत्यांचा समावेश होतो, ज्यात खालील गोष्टींचा समावेश आहे: बाल लैंगिक शोषण आणि गैरवर्तन प्रतिमा (CSEAI) पाहणे, तयार करणे आणि वितरित करणे, ज्यात AI-जनरेट केलेले फोटो आणि व्हिडिओंचा नवीन धोका समाविष्ट आहे; लैंगिक हेतूंसाठी अल्पवयीन मुलांना ऑनलाइन तयार करणे किंवा प्रलोभन देणे; ¹लैंगिक खंडणी; ²बाल लैंगिक तस्करी; आणि मुलांवर लैंगिक अत्याचार आणि छळ होत असल्याचे लाइव्ह-स्ट्रीमिंग. ³ही घृणास्पद वास्तवं प्रत्यक्षात अस्तित्वात आहेत हे समजायला कठीण आहे. पण, दुर्दैवाने, असा गैरवापर नेहमीच होत आला आहे - आणि डिजिटल जग आता गैरवापराचे पर्यायी साधन पुरवते, ज्यामुळे गुन्हेगारीचे प्रकार अधिक जलद आणि दूरगामी बनले आहेत.

लंडन-स्थित WeProtect Global Alliance चे अध्यक्ष अर्नी ॲलन म्हणाले, “तंत्रज्ञानाने मुलांमध्ये लैंगिक स्वारस्य असलेल्या लोकांच्या त्यांच्याबद्दल कल्पना करण्याच्या, त्यांच्यापर्यंत पोहोचण्याच्या आणि त्यांना बळी पाडण्याच्या पद्धतीत मूलतः बदल केला आहे.”WeProtect Global Alliance. “New York Timesने लिहिले, ‘ऑनलाइन बाल लैंगिक शोषणाचे संकट एका निर्णायक टप्प्यावर आहे.’ त्यात नमूद केले आहे की तक्रारी वाढत आहेत, गुन्हेगार लहान मुलांच्या प्रतिमा आणि अधिक घृणास्पद गुन्हे शेअर करत आहेत आणि कायद्याची अंमलबजावणी करणार्‍या यंत्रणांना याचा सामना करणे कठीण जात आहे. जर तुम्ही या आव्हानात नवीन प्रकार जोडले, जसे की सेक्सटॉर्शन, जे FBI च्या अहवालानुसार 7,200% नी वाढले आहे, लाइव्ह-स्ट्रीमिंग गैरवर्तन आणि इतर, तर ही समस्या जगभरातील धोरणात्मक अजेंड्यांमध्ये अग्रस्थानी असली पाहिजे हे स्पष्ट आहे,” ते पुढे म्हणाले.

टेक कंपन्यांची कायदेशीर जबाबदारी

जेव्हा यू.एस. तंत्रज्ञान कंपन्यांना त्यांच्या प्लॅटफॉर्म किंवा सेवांवर CSEA बद्दल माहिती मिळते, तेव्हा त्यांना नॅशनल सेंटर फॉर मिसिंग अँड एक्सप्लॉइटेड चिल्ड्रन (NCMEC) ला कळवणे हे त्यांचे कायदेशीर कर्तव्य आहे. त्यानंतर NCMEC या सायबरटिप्सचा आढावा घेते आणि पीडित मुलांचे संरक्षण करण्यासाठी आणि गुन्हेगारांना शिक्षा देण्यासाठी देशांतर्गत आणि आंतरराष्ट्रीय कायद्याची अंमलबजावणी करणार्‍या यंत्रणांशी संपर्क साधते.

गेल्या वर्षापर्यंत, NCMEC कडे येणाऱ्या सायबरटिप्सची वार्षिक संख्या दरवर्षी मोठ्या प्रमाणात वाढत होती, 2023 मध्ये विक्रमी 36.2 दशलक्ष अहवाल ⁴नोंदवले गेले, जे 2022 मध्ये 32 दशलक्षांपेक्षा थोडे जास्त होते आणि 1998 मध्ये जेव्हा NCMEC ची सायबरटिपलाइन तयार केली गेली तेव्हा 4,560 होते. सायबरटिप्समधील ही विक्रमी वाढ - इतर घटकांव्यतिरिक्त, ज्यात जागतिक स्तरावर लैंगिक खंडणीमध्ये सतत वाढ आणि आमच्या स्वतःच्या सायबरटिप्सच्या कार्यवाहीक्षमतेबद्दल कायद्याची अंमलबजावणी करणार्‍या यंत्रणांकडून मिळालेला अभिप्राय - यामुळे Snap ला 2024 मध्ये आमच्या सायबरटिप रिपोर्टिंगचे पुनर्मूल्यांकन करण्यासाठी प्रथम NCMEC शी संपर्क साधण्यास प्रवृत्त केले.

मी अनेक वर्षांपासून सायबरटिप रिपोर्टिंगवर लक्ष ठेवून आहे, आणि माझा ठाम विश्वास आहे की काही तंत्रज्ञान कंपन्यांची प्रथासर्वकाहीNCMEC ला कळवण्याकडे झुकली आहे — अगदी त्यांच्या कायदेशीर जबाबदारीच्या पलीकडे जाऊन — कारण त्यांच्यावरकाहीतरीचुकवल्याचा आरोप होण्याची भीती असते. ⁵कायद्यानुसार तक्रार करण्यात अयशस्वी ठरलेल्या कंपन्यांना मोठा दंड भरावा लागू शकतो. परंतु रिपोर्टिंगचा हा दृष्टिकोन, अनेक अहवालांच्या कमी कार्यवाहीक्षमतेसह (एकतर सायबरटिप्समध्ये कायद्याची अंमलबजावणी करणार्‍या यंत्रणांना कारवाई करण्यासाठी पुरेसा संदर्भ नसतो किंवा काही प्रकरणांमध्ये, तक्रार केलेले वर्तन त्यांच्यासाठी प्राधान्याचे नसते), यामुळे सायबरटिप्सची संख्या वाढली आहे; अनेक, विस्तृत पुनरावलोकने; आणि कायद्याची अंमलबजावणी करणार्‍या यंत्रणांमध्ये वाढलेली निराशा.

ध्येय: उच्च-मूल्याचे सायबरटिप्स

NCMEC सोबतच्या आमच्या पुनर्मूल्यांकनाचे उद्दिष्ट आमच्या स्वतःच्या प्लॅटफॉर्म धोरणांमध्ये आणि NCMEC ला रिपोर्टिंगसाठी आमच्याकडे असलेल्या प्रोटोकॉलमध्ये सुधारणा करून Snap च्या सायबरटिप्सची कार्यवाहीक्षमता आणि मूल्य आणखी वाढवणे हे होते. ते प्रारंभिक पुनर्मूल्यांकन मे 2024 मध्ये झाले आणि आमचे धोरणात्मक बदल गेल्या वर्षाच्या उत्तरार्धात पूर्णपणे प्रभावी झाले.

आम्ही केवळ अहवालांच्या संख्येवर जास्त भर देणे टाळले पाहिजे, तरीही आमच्या धोरणात्मक सुधारणांची अंमलबजावणी केल्यापासून, Snap ला हे सांगताना आनंद होत आहे की आम्ही NCMEC ला आमच्या एकूण रिपोर्टिंगच्या प्रमाणात लक्षणीय घट पाहिली आहे आणि ऑनलाइन प्रलोभनासाठीच्या तक्रारींमध्येही अशीच घट झाली आहे - हे सर्व करताना आम्ही सायबरटिप्समध्ये CSEA ची तक्रार करण्याची आमची कायदेशीर जबाबदारी पूर्ण करत आहोत. तथापि, कमी झालेली एकूण संख्या अद्याप NCMEC च्या वार्षिक रिपोर्टिंगच्या प्रमाणात दिसून आलेली नाही, कारण हे बदल 2024 च्या उत्तरार्धात लागू करण्यात आले होते, ज्यामुळे सुधारणांचे प्रतिबिंब दिसण्यासाठी वर्षाचे फक्त काही पूर्ण महिने शिल्लक राहिले.

त्याचबरोबर, आमची टीम आमच्या सायबरटिप्समधील डेटा आणि लेबलिंग सुधारण्यासाठी काम करत आहे. अशा स्पष्टीकरणांमुळे कथित गुन्हे आणि त्यात सामील असलेल्या व्यक्तींना अधिक चांगल्या प्रकारे ओळखण्यात मदत होऊ शकते आणि परिणामी, NCMEC आणि कायद्याची अंमलबजावणी करणार्‍या यंत्रणांद्वारे अहवालांचे जलद आणि अधिक अचूक वर्गीकरण होऊ शकते. जरी NCMEC ला रिपोर्टिंग करणे आवश्यक नसले तरीही, Snap आमच्या प्लॅटफॉर्म धोरणांचे उल्लंघन करणाऱ्या प्रतिमा आणि वर्तनांवर कारवाई करणे सुरू ठेवेल - ज्यात उल्लंघन करणारा कंटेंट काढून टाकणे, खाते अक्षम करणे आणि नवीन खाती तयार करण्यापासून रोखण्याचा प्रयत्न करणे यांचा समावेश असू शकतो.

पुनर्मूल्यांकन तपासणी बिंदू

गेल्या महिन्यात, आम्ही NCMEC सोबत दुसरे पुनर्मूल्यांकन केले, जिथे Snap टीमने गेल्या वर्षीच्या अंतर्गत धोरणात्मक बदलांचा आढावा घेतला; आमच्या प्रगतीबद्दल NCMEC ला अपडेट केले; काही अतिरिक्त ऑपरेटिंग मार्गदर्शक तत्त्वांची पुष्टी केली; आणि येत्या महिन्यांसाठी अपेक्षा निश्चित करण्यात मदत केली. आम्ही काही पुढील नियोजित धोरण आणि रिपोर्टिंगमधील जोडण्यांचे पूर्वावलोकन देखील केले, ज्यामुळे NCMEC आणि कायद्याची अंमलबजावणी करणार्‍या यंत्रणा या दोघांसाठीही आमच्या अहवालांचे मूल्य वाढत राहील अशी आम्हाला आशा आहे. साहजिकच, ही एक पुनरावृत्ती प्रक्रिया आहे, परंतु गेल्या वर्षभरातील प्रगतीमुळे आम्ही प्रोत्साहित झालो आहोत.

पुढील वाटचाल

कालांतराने, आम्हाला अपेक्षा आहे की NCMEC आणि कायद्याची अंमलबजावणी करणार्‍या यंत्रणांना मागील वर्षांच्या तुलनेत Snap कडून येणाऱ्या सायबरटिप्सच्या संख्येत घट दिसू शकते, परंतु त्यांना मिळणाऱ्या अहवालांपैकी जास्त टक्केवारीमिळणाऱ्याअहवालांमध्ये उच्च-गुणवत्तेची माहिती असेल आणि ते अधिक कार्यवाहीक्षम असतील.

आम्ही आमच्या सुरक्षिततेच्या कामाच्या सर्व पैलूंमध्ये सतत सुधारणा करण्यासाठी वचनबद्ध आहोत. CSEA किंवा इतर कोणत्याही संभाव्य ऑनलाइन हानीशी लढण्याच्या बाबतीत आमच्याकडे सर्व उत्तरे आहेत असा आम्ही आव आणत नाही; कोणीही तसे करू नये कारण कोणाकडेही सर्व उत्तरे नाहीत. दिवसेंदिवस, आम्ही संपूर्ण-समाज समस्यांशी लढत आहोत आणि आम्ही संपूर्ण-कंपनीदृष्टिकोन अवलंबतो - जोखीम कमी करणे आणि हानी कमी करणे या अंतिम दुहेरी उद्दिष्टांसह.

आमच्या सायबरटिप्सच्या संदर्भात, नजीकच्या भविष्यासाठी आमचे एक वेगळे ध्येय आहे: मग ते राज्याचे इंटरनेट क्राइम्स अगेन्स्ट चिल्ड्रन टास्क फोर्स (ICAC) कमांडर असोत, फेडरल तपासनीस असोत किंवा जगाच्या दुसऱ्या टोकावरील कायद्याची अंमलबजावणी करणार्‍या यंत्रणेचे सदस्य असोत, आम्ही इच्छितो की राज्य, फेडरल आणि आंतरराष्ट्रीय अधिकारी आत्मविश्वासाने Snap कडून आलेल्या सायबरटिप्सचा पाठपुरावा करतील कारण त्यांना माहित आहे की आमचे अहवाल कार्यवाहीक्षम, मौल्यवान आणि सखोल म्हणून सातत्याने विश्वासार्ह आहेत. आणि, आमची आशा आहे की त्या प्रयत्नांमुळे संबंधित अटकेमध्ये वाढ होण्यास मदत होईल ⁶आणि जगभरातील दोषी ठरवण्याच्या प्रमाणात वाढ होईल.

NCMEC, WeProtect, यू.एस. मधील 61 ICAC टास्क फोर्सेस, जगभरातील कायद्याची अंमलबजावणी करणार्‍या यंत्रणा आणि CSEA-विरोधी लढ्यात सहभागी असलेले आमचे सर्व सहकारी आणि सहयोगी यांचे खूप खूप “आभार” – आणि एक अतिरिक्त टीप की आम्ही आमच्या धोरणांमध्ये आणि दृष्टिकोनांमध्ये आणखी सुधारणा करण्यासाठी तुमच्या अभिप्रायासाठी नेहमीच खुले आणि उत्सुक आहोत. आपण सर्व यात एकत्र आहोत.

- जॅकलीन ब्यूशेर, ग्लोबल हेड ऑफ प्लॅटफॉर्म सेफ्टी