Snap मध्ये, वाईट वर्तणूक करणाऱ्यांना आमच्या प्लॅटफॉर्मचा गैरवापर करण्याची क्षमता मर्यादित करण्यासाठी आम्ही आमच्या सुरक्षा यंत्रणा आणि प्लॅटफॉर्म धोरणे सतत विकसित करत असतो. आम्ही आमच्या नियमांचे उल्लंघन करणारी क्रियाकलाप शोधण्यासाठी आणि अवरोधित करण्यासाठी प्रगत तंत्रज्ञानाचा वापर करतो, आम्ही फ्रेंडिंग प्रक्रियेत घर्षण निर्माण करण्यासाठी डिझाइन तत्त्वे लागू करतो, आम्ही कायद्याच्या अंमलबजावणीस समर्थन देतो, सरकारी अधिकाऱ्यांशी सहकार्य करतो आणि किशोरवयीन मुलांवर आणि खरोखरच आमच्या समुदायाच्या सर्व सदस्यांवर परिणाम करणार्या सर्वात गंभीर हानीबद्दल जागरूकता वाढविण्यासाठी आणि शिक्षण प्रदान करण्यासाठी कार्य करतो. 

किशोरवयीन मुलांच्या संरक्षणाची जबाबदारी आम्ही गांभीर्याने घेतो. आमचे कार्य लक्षणीय आहे, ज्यात खालील गोष्टींचा समावेश आहे: 

1. Snapchat ला वाईट वर्तणूक करणाऱ्यांसाठी प्रतिकूल वातावरण बनविणे

या वर्षाच्या सुरुवातीला, आम्ही आमच्या समुदायाचे, विशेषत: किशोरवयीन वापरकर्त्यांचे अधिक रक्षण करण्यासाठी आणि Snapchat ला अद्वितीय बनविणाऱ्या वास्तविक जगातील संबंधांना बळकट करण्यात मदत करण्यासाठी नवीन वैशिष्ट्यांची घोषणा केली. त्या अद्यतनांमध्ये समाविष्ट आहे: संशयास्पद संपर्कांसाठी विस्तारित इन-ॲप चेतावणी, विशेषत: किशोरवयीन मुलांसाठी तयार केलेले फ्रेंडिंग संरक्षण वाढविणे आणि अवांछित संपर्क अवरोधित करण्याची क्षमता सुधारणे.

ऑनलाइन सेक्सटॉर्शनचा सामना करण्यावर लक्ष केंद्रित केलेले हे बदल, सर्व प्रकारच्या बाल लैंगिक शोषण आणि शोषणाविरूद्ध लढण्यासाठी आमच्या चालू असलेल्या गुंतवणुकीवर आधारित आहेत. उदाहरणार्थ:

आम्ही सेक्सटॉर्शन वर्तन ओळखण्यासाठी सिग्नल वापरतो जेणेकरून आपण वाईट वर्तणूक करणाऱ्यांना इतरांना लक्ष्य करण्याची आणि बळी देण्याची संधी मिळण्यापूर्वी सक्रियपणे काढून टाकू शकू. फोटोडीएनए (ज्ञात बेकायदेशीर प्रतिमांचे डुप्लिकेट शोधण्यासाठी), CSAI मॅच (ज्ञात ज्ञात बेकायदेशीर व्हिडिओंचे डुप्लिकेट शोधण्यासाठी) आणि सामग्री सुरक्षा API (नवीन, "यापूर्वी कधीही हॅश केलेल्या " प्रतिमा शोधण्यात मदत करण्यासाठी) यासह Snapchat वर ज्ञात बाल लैंगिक शोषण आणि गैरवर्तन इमेजरी (CSAI) चा प्रसार रोखण्यासाठी डिझाइन केलेल्या तंत्रज्ञानाचा वापर आणि वापर करण्याव्यतिरिक्त हे आहे.

आमच्या नियमांचे उल्लंघन करणारी सामग्री आणि खात्यांचे साधे इन-अॅप रिपोर्टिंग आम्ही बऱ्याच काळापासून ऑफर केले आहे, परंतु 2023 मध्ये आम्ही संबंधित हानीविरूद्ध आमचा लढा मजबूत करण्यासाठी सुधारणा केल्या. गेल्या वर्षी आम्ही इन-अॅप चॅट टेक्स्ट रिपोर्टिंग सुरू केले - जे Snapchatters ला संभाषणातूनच थेट वैयक्तिक संदेशांची माहिती देण्यास सक्षम करते. आम्ही आमच्या इन-अॅप रिपोर्टिंग टूल्सचा विस्तार केला आणि सेक्सटॉर्शनसाठी विशिष्ट, अनुकूल रिपोर्टिंग कारण समाविष्ट केले आणि CSEA-लढाऊ स्वयंसेवी संस्था थॉर्नच्या सल्ल्यानुसार आणि मार्गदर्शनानुसार, किशोरवयीन आणि तरुणांसाठी संबंधित भाषेत रिपोर्टिंग पर्याय सादर केला ("त्यांनी लीक केले / माझे न्यूड लीक करण्याची धमकी देत आहेत"). त्याबदल्यात, त्या अहवालांचा उपयोग सिग्नल-आधारित शोध आणि अंमलबजावणीसह आमच्या अंमलबजावणी प्रयत्नांना सूचित करण्यासाठी केला जातो. आम्ही ट्रेंड्स, पॅटर्न आणि सेक्सटॉर्शनिस्टच्या तंत्रांचे विश्लेषण करतो आणि जर एखाद्या खात्यात काही वैशिष्ट्ये दर्शविली गेली तर ते सेक्सटॉर्शनसाठी लॉक केले जाते.

आम्ही 2022 मध्ये जारी केलेल्या आमच्या फॅमिली सेंटर टूल्सच्या सुइटमध्ये सुधारणा करणे आणि जोडणे सुरू ठेवतो, जिथे पालक Snapchat वर त्यांचे किशोरवयीन कोणाशी मित्र आहेत, त्यांनी अलीकडे कोणाशी गप्पा मारल्या आहेत हे पाहू शकतात आणि त्यांच्यासाठी चिंतेचा विषय ठरू शकणाऱ्या खात्यांची सहज पणे नोंद करू शकतात. फॅमिली सेंटरसाठी आमचे ध्येय नेहमीच पालक / काळजीवाहू आणि किशोरवयीन मुलांमध्ये ऑनलाइन सुरक्षित राहण्याबद्दल मुक्त आणि रचनात्मक संवाद साधणे आहे. 

आम्ही कायद्याच्या अंमलबजावणीसह जवळून सहकार्य करतो आणि आमच्या समुदायाला सुरक्षित ठेवण्यास मदत करण्यासाठी जगभरात 24/7 कार्यरत असलेल्या आमच्या सुरक्षा आणि कायदा अंमलबजावणी ऑपरेशन टीममध्ये मोठ्या प्रमाणात गुंतवणूक करतो. उदाहरणार्थ, आमच्या ट्रस्ट आणि सेफ्टी टीमचा आकार 2020 पासून दुप्पट झाला आहे आणि आमच्या लॉ एन्फोर्समेंट ऑपरेशन्स टीमने त्या काळात तिप्पट पेक्षा जास्त वाढ केली आहे. आमच्या प्लॅटफॉर्मवर होत असलेल्या कोणत्याही बेकायदेशीर क्रियाकलापांविरूद्ध योग्य कारवाई कशी करावी हे अधिकारी आणि एजन्सींना माहित आहे याची खात्री करण्यासाठी आम्ही अमेरिकेत कायद्याच्या अंमलबजावणीसाठी वार्षिक शिखर परिषदांचे आयोजन करतो. 

आम्ही नायजेरियातील कायद्याच्या अंमलबजावणीसह थेट काम करीत आहोत - जिथे बऱ्याच सेक्सटॉर्शन प्रकरणांचा उगम होतो - गुन्हेगारांचा तपास आणि खटला चालविण्याची क्षमता आणि ज्ञान तयार करण्यासाठी आणि आम्ही या क्षेत्रात अधिक सहकार्य करण्यासाठी नायजेरियन सरकारशी आमचा संबंध सुरू ठेवण्याची योजना आखत आहोत. आणि आम्ही आंतरराष्ट्रीय न्याय मिशन, NCMEC, उद्योगातील इतर सदस्य आणि स्वयंसेवी संस्थांबरोबर काम केले आहे जे अमेरिकेच्या बाहेरील देशांमध्ये सायबरटिप्सची तपासणी करण्यासाठी कायद्याच्या अंमलबजावणीस प्रशिक्षण प्रदान करतात जेथे सेक्सटॉर्शन अॅक्टिव्हीटी पूर्वीपासून आहेत.

बर्याच वर्षांपासून, आम्ही "विश्वासार्ह फ्लॅगर" च्या मजबूत संवर्गाशी देखील संलग्न आहोत: गैर-नफा, स्वयंसेवी संस्था आणि निवडक सरकारी एजन्सी जे उच्च-प्राधान्य चॅनेलद्वारे गरजू Snapchatters च्या वतीने गैरवर्तन प्रकरणे, जीवाला धोका आणि इतर आपत्कालीन समस्या वाढवतात. आमच्या विश्वासार्ह फ्लॅगर प्रोग्राममधील बहुतेक सहभागी अल्पवयीन मुलांविरूद्ध लैंगिक-संबंधित हानीशी संबंधित सामग्री आणि खात्यांचा अहवाल देतात, ज्यात सेक्सटॉर्शनचा समावेश आहे.  

II. उद्योग तज्ञ आणि आघाडींना सहभागी करून घेणे 

आमच्या स्वतःच्या गुंतवणुकीव्यतिरिक्त, आम्ही जगभरातील तज्ञांशी देखील संलग्न आहोत, कारण आम्हाला माहित आहे की कोणतीही एक संस्था किंवा संस्था एकट्याने या मुद्द्यांना अर्थपूर्णरित्या पुढे नेऊ शकत नाही. उदाहरणार्थ, Snap वीप्रोटेक्ट ग्लोबल अलायन्सच्या आंतरराष्ट्रीय धोरण मंडळावर उद्योगाचे प्रतिनिधित्व करते; आम्ही INHOPE च्या सल्लागार परिषदेचे सदस्य आहोत आणि UK इंटरनेट वॉच फाउंडेशनच्या (IWF) विश्वस्त मंडळावर आहोत. या सर्व संस्थांच्या मिशनच्या केंद्रस्थानी ऑनलाइन CSEA चे निर्मूलन आहे.

ऑनलाइन बाल लैंगिक शोषण आणि गैरवर्तनाचा सामना करण्यावर लक्ष केंद्रित करणारी जागतिक उद्योग आघाडी टेक कोलिशनचे आम्ही सक्रिय सदस्य आहोत आणि अलीकडेच त्याच्या संचालक मंडळाच्या कार्यकारी समितीवर दोन वर्षांचा कार्यकाळ पूर्ण केला आहे. आम्ही टेक कोलिशनच्या लॅनटर्न उपक्रमाचे संस्थापक सदस्य देखील होतो, कंपन्यांसाठी त्यांच्या बाल सुरक्षा धोरणांची अंमलबजावणी कशी करतात हे मजबूत करण्यासाठी पहिला क्रॉस-प्लॅटफॉर्म सिग्नल-शेअरिंग प्रोग्राम आहे. या कार्यक्रमात सक्रिय सहभागाद्वारे, कंपन्या एकमेकांना सेक्सटॉर्शन करणाऱ्यांसह वाईट वर्तणूक करणाऱ्यांना क्रॉस चेक करण्यास मदत करू शकतात.   

याव्यतिरिक्त, आम्ही नॅशनल सेंटर फॉर मिसिंग अँड एक्सप्लॉयटेड चिल्ड्रन्स (NCMEC) टेक इट डाऊन डेटाबेसचा फायदा घेतो, जे अल्पवयीन मुलांना त्यांच्या डिव्हाइसवर थेट निवडलेल्या प्रतिमा किंवा व्हिडिओंचे डिजिटल फिंगरप्रिंट - ज्याला "हॅश" म्हणतात- तयार करण्यास अनुमती देते. Snap सह सहभागी कंपन्या नंतर आमच्या सामुदायिक मार्गदर्शक तत्त्वांचे उल्लंघन करणारी डुप्लिकेट प्रतिमा शोधण्यासाठी आणि काढून टाकण्यासाठी त्या हॅशचा वापर करू शकतात. आम्ही UK मध्ये रिपोर्ट रिमूव्ह नावाच्या अशाच कार्यक्रमात भाग घेतो आणि गेल्या वर्षी, आम्ही SWGfL च्या स्टॉपNCII सहकार्यात सामील झालो जेणेकरून त्या गटाच्या हॅश डेटाबेसचा फायदा घेऊन Snapchat वर गैर-सहमतीअंतरंग प्रतिमा (NCII) चा प्रसार रोखण्यास मदत होईल. स्टॉपNCII त्या 18+ च्या अंतरंग प्रतिमांचा प्रसार थांबविण्यास मदत करते आणि पीडितांना त्यांच्या सर्वात खाजगी फोटो आणि व्हिडिओंवर त्यांची गोपनीयता परत मिळविण्याची क्षमता प्रदान करते.

या वर्षी आम्ही डिजिटल वेल-बीइंगसाठी आमची पहिली Snap कौन्सिल देखील सुरू केली , अमेरिकेतील 18 किशोरवयीन मुलांचा एक गट, त्यांच्या शाळा आणि समुदायांमध्ये सुरक्षित ऑनलाइन सवयी आणि प्रथांचे समर्थन करण्यासाठी वर्षभराच्या पायलट प्रोग्राममध्ये भाग घेण्यासाठी निवडला गेला. जुलै मध्ये, हा गट, कमीतकमी एका पालक किंवा चॅपरनसह, कॅलिफोर्नियातील सांता मोनिका येथील Snap मुख्यालयात चर्चेसाठी एकत्र आला ज्यामुळे ऑनलाइन तोटे आणि सामाजिक गतिशीलता आणि पालकांची साधने यासारख्या विषयांबद्दल महत्वपूर्ण अंतर्दृष्टी मिळाली हे Snap च्या सुरक्षा सल्लागार मंडळाव्यतिरिक्त आहे, ज्यात 16 व्यावसायिक आणि तीन युवा वकील आहेत, जे Snap ला सुरक्षिततेच्या बाबींवर योग्य दिशा दाखवतात आणि मार्गदर्शन प्रदान करतात. आम्ही 2025 ची वाट पाहत आहोत, जिथे आम्हाला आशा आहे की दोन्ही गटांच्या सदस्यांना एकत्र येण्यासाठी आणि अतिरिक्त अंतर्दृष्टी शोधण्यासाठी अधिक संधी निर्माण होतील. 

III. जनजागृती अभियान

आमच्या अंतर्गत गुंतवणुकीपलीकडे आणि तज्ञ आणि क्रॉस-इंडस्ट्रीसह आम्ही करत असलेल्या कामाच्या पलीकडे, ऑनलाइन लैंगिक शोषण आणि सेक्सटॉरशन योजनांविरूद्ध लढण्यासाठी एक महत्त्वपूर्ण घटक म्हणजे सार्वजनिक आणि Snapchatter जागरूकता वाढविणे. 

2022 मध्ये, आम्ही डिजिटल वेल-बीइंग इंडेक्स लाँच केला, जो सर्व प्लॅटफॉर्मवर किशोरवयीन आणि तरुण प्रौढ ऑनलाइन कशी कामगिरी करीत आहेत याबद्दल अंतर्दृष्टी देणारे उद्योगातील अग्रगण्य संशोधन आहे. या संशोधनाचा एक भाग म्हणून गेल्या दोन वर्षांपासून आम्ही सेक्सटॉर्शनमध्ये सखोल अन्वेषण केले आहे. कारण हा अभ्यास केवळ Snapchat वरच नव्हे तर सामान्यत: ऑनलाइन अनुभवांचा समावेश करतो, हे केवळ आमच्या कार्याची माहिती देण्यास मदत करत नाही तर आम्हाला आशा आहे की हे टेक इकोसिस्टममधील इतरांना देखील अंतर्दृष्टी प्रदान करेल. या महिन्याच्या अखेरीस, आम्ही अल्पवयीन मुलांच्या आर्थिक सेक्सटॉर्शनवर तंत्रज्ञान आघाडीच्या आगामी व्हर्च्युअल मल्टी-स्टेकहोल्डर फोरमच्या संयोजनात आमच्या दुसऱ्या वर्षाचे सेक्सटॉर्शन सखोल अन्वेषणाचे परिणाम सामायिक करू. 

अमेरिकेच्या होमलॅण्ड सिक्युरिटी विभागाने (DHS) या वर्षाच्या सुरुवातीला सुरू केलेल्या Know2Protect या पहिल्या जनजागृती मोहिमेला पाठिंबा देणारी पहिली संस्था होण्याचा मान आम्हाला मिळाला होता. ही मोहीम तरुण, पालक, विश्वासू प्रौढ आणि धोरणकर्त्यांना आर्थिक सेक्सटॉर्शन सारख्या गुन्ह्यांना रोखण्यासाठी आणि लढा देण्यास मदत करण्यासाठी शिक्षित आणि सक्षम करते. K2P शैक्षणिक संसाधनांसाठी Snapchat वर जाहिरातीची जागा दान करण्याव्यतिरिक्त, आम्ही मोहिमेची अधिक माहिती देण्यासाठी अमेरिकेतील किशोरवयीन आणि तरुण प्रौढांसह अतिरिक्त संशोधन करीत आहोत. इंटरॅक्टिव्ह Know2Protect क्विझद्वारे Snapchatters ला शिक्षित करण्यात मदत करण्यासाठी आम्ही ऑगमेंटेड रिअॅलिटी Snapchat लेन्स देखील लाँच केले. आणि UK मध्ये, आम्ही IWFच्या आजवरच्या या समस्यांभोवती व्यापक जनजागृती मोहिमेला पाठिंबा दिला, गुर्ल्स आऊट लाऊड, जे 11 ते 13 वर्षे वयोगटातील मुलींना ऑनलाइन लैंगिक ग्रूमिंग, सेक्सटिंग आणि न्यूड पाठविण्याबद्दल माहिती देण्यासाठी डिझाइन केले गेले आहे याव्यतिरिक्त, आम्ही नुकतेच Snapchat साठी एक शिक्षक मार्गदर्शक सुरू केले, सेफ अँड साऊंड स्कूल्सबरोबर भागीदारी करून शिक्षकांसाठी एक व्यापक टूलकिट विकसित केले ज्यात सेक्सटॉर्शनचा सामना कसा करावा याबद्दल माहिती आणि मार्गदर्शन समाविष्ट आहे. 

आमच्या वर्षांच्या संशोधनाच्या आधारे, आम्हाला माहित आहे की जागरूकता वाढविणे आणि सामुदायिक शिक्षण ही ऑनलाइन हानी टाळण्यास मदत करण्यासाठी शक्तिशाली साधने आहेत आणि आम्ही Snapchat वर थेट किशोरवयीन आणि तरुणांपर्यंत पोहोचण्यासाठी इन-अॅप संसाधने विकसित करणे आणि प्रोत्साहित करणे सुरू ठेवतो. सप्टेंबर 2023 मध्ये, आम्ही चार नवीन इन-अॅप "सेफ्टी स्नॅपशॉट" भाग जारी केले ज्यात लैंगिक जोखीम आणि नुकसानांवर लक्ष केंद्रित केले गेले आहे, ज्यात आर्थिक सेक्सटॉर्शनचा समावेश आहे. आम्ही सेक्सटिंग आणि न्यूड तयार करणे आणि सामायिक करण्याचे परिणाम, लैंगिक हेतूंसाठी बाल ऑनलाइन ग्रूमिंग आणि बाल लैंगिक तस्करी यावर भाग देखील ऑफर करतो. नॅशनल सेंटर फॉर मिसिंग अँड एक्सप्लॉयटेड चिल्ड्रन (NCMEC) मधील तज्ञांनी या सर्व संसाधनांचा आढावा घेतला आणि प्रमुख भौगोलिक भागातील संबंधित हॉटलाइन आणि हेल्पलाइनच्या सहकार्याने तयार केले. 

आम्ही ऑनलाइन बाल लैंगिक शोषण आणि पिळवणुकी विरूद्ध लढा देत आहोत, परंतु अद्याप बरेच काही करणे बाकी आहे. 2025 मध्ये, आम्ही संभाव्य ऑनलाइन हानीबद्दल जागरूकता वाढविणे सुरू ठेवू आणि कोणीही संभाव्य लक्ष्य असू शकते याचा पुनरुच्चार करत राहू. आम्हाला वाईट वर्तणूक करणाऱ्यांना लवकर आणि बऱ्याचदा अडथळा आणायचा आहे आणि आम्ही कायद्याच्या अंमलबजावणीसाठी अधिक कार्यक्षम सायबरटिप्स तयार करू इच्छितो.

हे लक्षात घेणे महत्वाचे आहे की आम्ही बनावट गोळ्यांची विक्री, हिंसेच्या धमक्या आणि आत्महत्या आणि स्वत: ला हानी पोहोचविणाऱ्या सामग्रीसह अवैध अमली पदार्थ अॅक्टिव्हिटी सारख्या इतर गंभीर हानींविरूद्ध लढताना यापैकी बऱ्याच समान रणनीती वापरतो. आम्हाला हे समजले आहे की या जागेत आमचे कार्य कधीही पूर्ण केले जाऊ शकत नाही, परंतु आम्ही Snapchatters च्या सुरक्षिततेची सखोल काळजी घेतो आणि माहितीची देवाणघेवाण करण्यासाठी आणि आमचे संरक्षण मजबूत करण्यासाठी उद्योग, सरकार आणि कायदा अंमलबजावणीमध्ये सहकार्याने काम करत राहू.