05 डिसेंबर 2024

05 डिसेंबर 2024

Snap च्या सुरक्षिततेच्या प्रयत्नांची अंतर्दृष्टी प्रदान करण्यासाठी आम्ही हा पारदर्शकता अहवाल वर्षातून दोनदा प्रकाशित करतो. आम्ही या प्रयत्नांसाठी वचनबद्ध आहोत आणि आमच्या सामग्री नियंत्रण, कायद्याची अंमलबजावणी पद्धती आणि Snapchat समुदायाच्या सुरक्षिततेची आणि कल्याणाची सखोल काळजी घेणाऱ्या अनेक भागधारकांसाठी हे अहवाल अधिक व्यापक आणि माहितीपूर्ण बनवण्यासाठी आम्ही सतत प्रयत्नशील आहोत. 

हा पारदर्शकता अहवाल 2024 च्या पहिल्या सहामाहीत (1 जानेवारी - 30 जून ) समाविष्ट करतो. आमच्या मागील अहवालांनुसार, आम्ही अॅपमधील सामग्रीच्या जागतिक वोल्युम आणि आमच्या विश्वास आणि सुरक्षितता कार्यसंघांना समुदाय मार्गदर्शक तत्वांच्या उल्लंघनांच्या विशिष्ट श्रेणींमध्ये प्राप्त झालेल्या आणि अंमलबजावणी केलेल्या खाते-स्तरीय अहवालांबद्दल डेटा सामायिक करतो; आम्ही कायद्याची अंमलबजावणी आणि सरकार यांच्या विनंत्यांना कसा प्रतिसाद दिला; आणि आम्ही कॉपीराइट आणि ट्रेडमार्क उल्लंघनांच्या सुचनांना कसा प्रतिसाद दिला. आम्ही या पृष्ठाच्या तळाशी लिंक केलेल्या फायलींमध्ये देश-विशिष्ट अंतर्दृष्टी देखील प्रदान करतो.

आमच्या पारदर्शकता अहवालांमध्ये सतत सुधारणा करण्याच्या आमच्या चालू वचनबद्धतेचा एक भाग म्हणून, आम्ही नवीन डेटा देखील सादर करत आहोत, जो आमच्या समुदाय मार्गदर्शक तत्वांचे उल्लंघन विस्तृत श्रेणीच्या विरुद्ध शोधण्यासाठी आणि अंमलबजावणी करण्याच्या आमच्या सक्रिय प्रयत्नांवर प्रकाश टाकतो. आम्ही या अहवालात जागतिक आणि देश दोन्ही स्तरांवर हा डेटा समाविष्ट केला आहे आणि पुढेही असे करत राहू. आम्ही आमच्या मागील अहवालांमध्ये लेबलिंग त्रुटी देखील दुरुस्त केली आहे: आम्ही पूर्वी "एकूण सामग्री अंमलबजावणी" उल्लेख केला होता, जिथे आम्ही आता "एकूण अंमलबजावणी" असा उल्लेख करतो, संबंधित स्तंभामध्ये प्रदान केलेल्या डेटा सामग्री-स्तरिय आणि खाते-स्तरिय अंमलबजावणी दोन्ही समाविष्ट आहे.

संभाव्य ऑनलाइन हानींचा सामना करण्यासाठी आमच्या धोरणांबद्दल आणि आमच्या अहवाल पद्धती विकसित करत राहण्याच्या योजनांबद्दल अधिक माहितीसाठी, कृपया या पारदर्शकता अहवालाबद्दल आमचा अलीकडील सुरक्षा आणि प्रभाव ब्लॉग वाचा. Snapchat वर अतिरिक्त सुरक्षितता आणि गोपनीयता संसाधने शोधण्यासाठी, पृष्ठाच्या तळाशी असलेला आमचा पारदर्शकता अहवाल टॅब पहा.

कृपया लक्षात घ्या की या पारदर्शकता अहवालाची सर्वात अद्ययावत आवृत्ती अमेरिकन-इंग्रजीमध्ये आढळू शकते.

आमचे ट्रस्ट आणि सुरक्षा संघ आमची समुदाय मार्गदर्शक तत्त्वे सक्रियपणे (स्वयंचलित साधनांच्या वापराद्वारे) आणि प्रतिक्रियात्मकपणे (अहवालांच्या प्रतिसादात), लागू करतात, जसे की या अहवालाच्या खालील घटकांमध्ये अधिक तपशीलवार वर्णन केलेले आहे. या अहवाल चक्रात (H1 2024), आमच्या ट्रस्ट आणि सुरक्षा टीम्सने खालील अंमलबजावणी क्रिया केली: 

खाली प्रत्येक सामुदायिक मार्गदर्शक तत्वांच्या उल्लंघनांचे ब्रेकडाउन दिले आहे, ज्यात आम्हाला उल्लंघन आढळले तेंव्हाच्या वेळेतील (एकतर सक्रियपणे किंवा अहवाल मिळाल्यानंतर) आणि आम्ही संबंधित सामग्री किंवा खात्यावर अंतिम कारवाई केली तेंव्हाचा उल्लेख टर्नअराऊंड वेळ:

अहवाल देण्याच्या कालावधी दरम्यान, आम्ही ०.०१ टक्के व्हायोलॅटीव्ह व्ह्यू रेट (VVR) पाहिला, याचा अर्थ Snapchat वरील प्रत्येक १०,००० Snap आणि स्टोरी दृश्यांपैकी १ दृश्यांमध्ये आमच्या समुदाय मार्गदर्शक तत्त्वांचे उल्लंघन करणारी आढळली..

1 जानेवारी ते 30 जून 2024 पर्यंत, आमच्या समुदाय मार्गदर्शक तत्त्वांचे उल्लंघन करणाऱ्या इन-अॅप अहवालांच्या प्रतिसादात, Snap च्या ट्रस्ट आणि सुरक्षा टीम्सने जागतिक स्तरावर एकूण 6,223,618 अंमलबजावणी क्रिया केल्या आहेत, ज्यात 3,842,507 अद्वितीय खात्यांविरूद्ध अंमलबजावणी केल्याचा समावेश आहे. आमच्या ट्रस्ट आणि सुरक्षा टीम्ससाठी त्या अहवालांच्या प्रतिसादामध्ये अंमलबजावणीची कारवाई करण्यासाठी साधारण टर्नअराउंड वेळ ~ 24 मिनिटे होता. प्रत्येक अहवाल श्रेणीचे खंडन खाली दिले आहे. 

मागील सहा महिन्यांच्या तुलनेत H1 2024 मध्ये आमचे एकूण अहवाल खंड बर्‍यापैकी स्थिर आहेत. या चक्रात, आम्ही एकूण अंमलबजावणी आणि एकूण अनन्य खात्यांमध्ये अंदाजे 16% ने वाढ पाहिली.

गेल्या 12 महिन्यांमध्ये, Snap ने वापरकर्त्यांसाठी नवीन अहवाल यंत्रणा सादर केली आहे, ज्यात आमच्या अहवाल दिलेल्या आणि लागू केलेल्या खंडांमधील बदलांसाठी आणि या अहवाल कालावधीमध्ये (H1 2024) टर्नअराउंड वेळा वाढतानाचा समावेश आहे. विशेषत:

• ग्रुप चॅट रिपोर्टिंग: आम्ही 13 ऑक्टोबर 2023 रोजी ग्रुप चॅट रिपोर्टिंग सुरू केली, जी वापरकर्त्यांना बहु-व्यक्ति चॅटमध्ये होणाऱ्या गैरवर्तन अहवाल देण्यास सक्षम करते. या बदलामुळे अहवाल श्रेणींमध्ये आमच्या मेट्रिक्सच्या मेकअप वर परिणाम झाला (कारण चॅट संदर्भात काही संभाव्य हानी होण्याची अधिक शक्यता आहेत) आणि अहवालाची क्रियाशीलता वाढते. 

• खाते अहवाल सुधारणा: आम्ही आमचे खाते अहवाल वैशिष्ट्ये देखील विकसित केली आहे आहेत जेणेकरून अहवाल वापरकर्त्यांना एखाद्या वाईट कलाकारांने संचलित केल्याचा संशय असलेल्या खात्याचा अहवाल देताना चॅट पुरावे सबमिट करण्याचा पर्याय दिला आहे. 29 फेब्रुवारी 2024 रोजी सुरू केलेला हा बदल, खाते अहवालांचे मूल्यांकन करण्यासाठी आम्हाला अधिक पुरावे आणि संदर्भ प्रदान करतो. 

चॅट रिपोर्ट्स, आणि विशेषत: ग्रुप चॅट रिपोर्ट्स, हे पुनरावलोकनासाठी सर्वात जटिल आणि वेळ घेणारे आहेत, ज्यामुळे संपूर्ण बोर्डमध्ये टर्नअराउंड वेळा वाढल्या आहेत. 

संशयित बाल लैंगिक शोषण आणि गैरवर्तन (CSEA), छळ आणि धमकी, आणि द्वेषयुक्त भाषेचा अहवाल या विशेषतः वरील वर्णन केलेल्या दोन बदलांमुळे आणि व्यापक परिसंस्थेतील बदलांमुळे प्रभावित झाला आहे. विशेषत:

• CSEA: आम्ही H1 2024 मध्ये CSEA-संबंधित अहवाल आणि अंमलबजावणी मध्ये वाढ पाहिली आहे. विशेषतः, आम्ही वापरकर्त्यांद्वारे एकूण इन-अॅप अहवालांमध्ये 64% वाढ, एकूण अंमलबजावणीमध्ये 82% वाढ आणि अंमलबजावणी केलेल्या एकूण अद्वितीय खात्यांमध्ये 108% वाढ पाहिली. ही वाढ मुख्यत्वे ग्रुप चॅट आणि खाते रेपोर्टिंग कार्यक्षमतेच्या परिचयामुळे होते. या मॉडरेशन रांगेचे संवेदनशील स्वरूप लक्षात घेऊन, CSEA-संबंधित संभाव्य उल्लंघनांच्या अहवालाचे पुनरावलोकन करण्यासाठी अत्यंत प्रशिक्षित एजंट्सची एक निवडक टीम नियुक्त केली जाते. आमच्या कार्यसंघांनी नवीन प्रशिक्षणार्थींना जुळवून घेतलेल्या अतिरिक्त अहवालांच्या ओघामुळे टर्नअराऊंड वेळेत वाढ झाली आहे. पुढे जाताना, आम्ही आमच्या जागतिक विक्रेता संघाच्या आकारात लक्षणीय वाढ केली आहे, ज्यामुळे टर्नअराउंड वेळ कमी होईल आणि संभाव्य CSEA च्या अहवालांवर अचूकपणे अंमलबजावणी होईल. आम्ही अपेक्षा करतो की आमचा H2 2024 पारदर्शकता अहवाल भौतिकदृष्या सुधारित टर्नअराउंड वेळेसह या प्रयत्नांचे फळ दर्शवेल 
  

• छळ आणि धमकी: अहवालांवर आधारित, आमच्या असे निरीक्षणात आले आहे की छळ आणि धमकी यासारखे चॅटमध्ये आणि विशेषतः ग्रुप चॅटमध्ये असमानतेने होते. ग्रुप चॅट रिपोर्टिंग आणि खाते रेपोर्टिंगमध्ये आम्ही सादर केलेल्या सुधारणा या अहवाल श्रेणीमध्ये अहवालाचे मूल्यांकन करताना अधिक व्यापक कारवाई करण्यात मदत करतात. याव्यतिरिक्त, या कालावधीत, आम्हाला वापरकर्त्यांनी छळ आणि धमकी अहवाल सबमिट करताना एक टिप्पणी इनपुट करण्याची आवश्यकता आहे. आम्ही प्रत्येक अहवालाला संदर्भित करण्यासाठी या टिप्पणीचे पुनरावलोकन करतो. एकत्रितपणे, या बदलांमुळे एकूण अंमलबजावणी (+91%), एकूण अद्वितीय खाती (+82%), आणि संबंधित अहवालांसाठी टर्नअराउंड वेळ (+245 मिनिटे) मध्ये वाढ झाली. 
  

• द्वेषयुक्त भाषण: H1 2024 मध्ये, आम्ही नोंदवलेला आशय, एकूण अंमलबजावणी, आणि द्वेषयुक्त भाषणासाठी टर्नअराउंड वेळेत वाढ झाल्याचे निरीक्षणास आले आहे. विशेषतः, आम्ही इन-अॅप अहवालांमध्ये 61% वाढ, एकूण अंमलबजावणीमध्ये 127% वाढ आणि अंमलबजावणी केलेल्या एकूण अद्वितीय खात्यांमध्ये 125% वाढ पाहिली. हे काही प्रमाणात, आमच्या चॅट अहवाल यंत्रणेमधील सुधारणांमुळे होती (पूर्वी चर्चा केल्याप्रमाणे), आणि भूराजकीय वातावरणामुळे, विशेषत: इस्रायल-हमास च्या संघर्षांच्या निरंतरपणामुळे अधिक वाढ झाली. 

या अहवालानुसार, आम्ही एकूण अंमलबजावणी मध्ये ~ 65% घट आणि संशयित स्पॅम आणि गैरवर्तनाच्या अहवालांना प्रतिसाद म्हणून लागू केलेल्या एकूण अद्वितीय खात्यांमध्ये ~ 60% कमी घट पाहिली, जी आमच्या सक्रिय शोध आणि अंमलबजावणी साधनांमध्ये सुधारणा प्रतिबिंबित करते. आत्म-हानी आणि आत्महत्येशी संबंधित सामग्रीच्या अहवालांच्या प्रतिसादात आम्ही एकूण अंमलबजावणीमध्ये समान घट पाहिली, (~ 80% घट), आमची अद्यतनित पीडीत-केंद्रित दृष्टीकोण प्रतिबिंबित करते, ज्यानुसार आमचे ट्रस्ट आणि सुरक्षा संघ कार्यसंघ, योग्य प्रकरणांमध्ये, वापरकर्ते स्वयं-मदत संसाधने, या वापरकर्त्यांविरुद्ध अंमलबजावणी कारवाई करण्याऐवजी संबंधित पाठवतील. या दृष्टीकोणाची माहिती आमच्या सुरक्षा सल्लागार मंडळाच्या सदस्यांनी दिली आहे, ज्यात एक बालरोग प्राध्यापक आणि वैद्यकीय डॉक्टर यांचा समावेश आहे जो परस्परसंवादी माध्यम आणि इंटरनेट विकारांमध्ये जाहीर आहे.

आम्ही सक्रियपणे शोधण्यासाठी आणि काही प्रकरणांमध्ये, आमच्या समुदाय मार्गदर्शक तत्त्वांच्या उल्लंघनांच्या विरुद्ध अंमलबजावणी करण्यासाठी स्वयंचलित साधने तैनात करतो. या साधनांमध्ये हॅश-मॅचिंग साधने (PhotoDNA आणि Google बाल लैंगिक गैरवर्तन इमेजरी (CSAI) साम्यसह), अपमानास्पद भाषा शोधण्याची साधने (जे ओळखल्या जाणार्‍या अपमानास्पद कीवर्ड आणि इमोजींच्या नियमितपणे अद्ययावत केलेल्या सूचीच्या आधारे शोधतात आणि अंमलबजावणी करतात), आणि मल्टी-मॉडल कृत्रिम बुद्धिमत्ता / मशीन लर्निंग तंत्रज्ञान यांचा समावेश आहे. 

H1 2024 मध्ये, आम्ही स्वयंचलित साधनांच्या वापराद्वारे, आमच्या समुदाय मार्गदर्शक तत्त्वांचे उल्लंघन केल्याचा सक्रियपणे शोध घेतल्यानंतर खालील अंमलबजावणी क्रिया केल्या:

आमच्या समुदायाच्या कोणत्याही सदस्याचे लैंगिक शोषण विशेषत: अल्पवयीन मुलांचे बेकायदेशीर, भ्रामक आणि आमच्या दिशानिर्देशांद्वारे प्रतिबंधित आहे. आमच्या प्लॅटफॉर्मवर बाल लैंगिक शोषण आणि गैरवर्तन (CSEA) प्रतिबंधित करणे, शोध आणि नष्ट करणे Snap सर्वोच्च प्राधान्य आहे आणि आम्ही या आणि इतर गुन्ह्यांचा सामना करण्यासाठी सतत आमच्या क्षमता विकसित करतो.

आम्ही अनुक्रमे CSEA च्या ज्ञात बेकायदेशीर प्रतिमा आणि व्हिडिओ ओळखण्यासाठी PhotoDNA रोबस्ट हॅश-मॅचिंग आणि Google ची बाल लैंगिक गैरवर्तन इमेजरी (CSAI) मॅच सारख्या सक्रिय तंत्रज्ञान शोध साधने वापरतो. याव्यतिरिक्त, काही प्रकरणांमध्ये, आम्ही इतर संभाव्य बेकायदेशीर CSEA क्रियाकलापांविरूद्ध अंमलबजावणी करण्यासाठी वर्तणुकीशी सिग्नल वापरतो. कायद्याच्या आवश्यकतेनुसार, आम्ही या CSEA-संबंधित सामग्रीचा अहवाल यू.एस. नॅशनल सेंटर फॉर मिसिंग अँड एक्स्प्लॉयटेड चिल्ड्रन (NCMEC) कडे करतो. नंतर NCMEC, आवश्यकतेनुसार, देशांतर्गत किंवा आंतरराष्ट्रीय कायदा अंमलबजावणीसोबत समन्वय साधते.

2024 च्या पहिल्या सहामाहीत, आम्ही Snapchat वर CSEA शोधल्यावर (एकतर सक्रियपणे किंवा अहवाल प्राप्त झाल्यावर) आम्ही खलील कृती केल्या):

*लक्षात ठेवा की NCMEC च्या प्रत्येक सबमिशनमध्ये सामग्रीचे अनेक भाग असू शकतात. NCMEC ला सबमिट केलेले एकूण वैयक्तिक भाग आमच्या लागू केलेल्या एकूण सामग्रीच्या बरोबरीचे आहेत.

आम्ही स्नॅपचॅटर्सच्या मानसिक आरोग्याची आणि कल्याणाची खूप काळजी घेतो, ज्यामुळे Snapchat वेगळ्या पद्धतीने तयार करण्याच्या आमच्या निर्णयांची माहिती देत आम्ही स्नॅपचॅटर्सच्या मानसिक आरोग्याची आणि कल्याणाची वर्तमानात आणि भविष्यात देखील Snapchat वेगळ्या पद्धतीने तयार करण्याच्या आमच्या निर्णयांची माहिती देण्याबद्दल खूप काळजी घेणार आहोत. Snapchat हे खरे मित्र आणि त्यांच्यामधील कठीण वेळी एकमेकांना मदत करण्‍यासाठी आणि मित्रांमध्‍ये संवाद साधण्‍यासाठी तयार केलेले व्यासपीठ म्‍हणून आम्‍हाला विश्‍वास आहे की त्यांना सक्षम बनवण्‍यात अनोखी भूमिका बजावू शकते. म्हणूनच आम्ही Snapchatters साठी आवश्यक संसाधने आणि समर्थन विकसित केली आहेत. 

आमचे Here For You चे सर्च टूल हे तज्ज्ञ स्थानिक भागीदारांचे स्त्रोत दर्शवितात जेव्हा वापरकर्ते मानसिक आरोग्य, चिंता, नैराश्य, तणाव, आत्महत्या विचार, दु:ख आणि धमकी यांच्याशी संबंधित काही विषयांवर शोध घेतात. वित्तीय लैंगिक शोषण आणि इतर लैंगिक जोखीम आणि हानी यांना समर्पित एक पृष्ठ देखील आम्ही विकसित केले आहे, जे संकटात सापडलेल्या व्यक्तींना मदत करण्याचा प्रयत्न करते. आमची सुरक्षा संसाधनांची जागतिक यादी आमच्या गोपनीयता, सुरक्षा आणि धोरण हबमध्ये, सर्व Snapchatters साठी सार्वजनिकरित्या उपलब्ध आहे. 

जेंव्हा आमचे ट्रस्ट अँड सेफ्टी टीम ही दुःखात असलेल्या Snapchatter बद्दल जागरूक बनतात, तेंव्हा ते सेल्फ हार्म प्रतिबंध आणि सपोर्ट संसाधने फॉरवर्ड करू शकतात आणि योग्य तेथे आपत्कालीन प्रतिसाद कर्मचार्‍यांना सूचित करू शकतात. आम्ही शेअर करतो ती संसाधने आमच्या सुरक्षा संसाधनांची जागतिक यादी वर उपलब्ध आहे, आणि सर्व स्नॅपचॅटर्ससाठी सार्वजनिकपणे उपलब्ध आहे.

खाली आम्ही वापरकर्त्यांकडून त्यांचे खाते लॉक करण्याच्या आमच्या निर्णयाचे पुनरावलोकन करण्याची विनंती करणार्‍यांकडून आम्हाला प्राप्त झालेल्या अपीलांविषयी माहिती प्रदान करतो:

* वरील "विश्लेषण" विभागात चर्चा केल्यानुसार, बाल लैंगिक शोषणाशी संबंधित सामग्री किंवा क्रियाकलापांचा प्रसार रोखणे ही सर्वोच्च प्राथमिकता आहे. Snap या ध्येयासाठी महत्त्वपूर्ण संसाधने समर्पित करते आणि अशा वागणुकीसाठी शून्य सहनशीलता आहे. आम्ही Snapchat साठी नवीन धोरणे आणि अहवाल वैशिष्ट्यांनुसार अनुकूल करण्यासाठी आमच्या जागतिक विक्रेता संघाचा विस्तार केला आहे. असे करण्यासाठी, H2 2023 आणि H1 2024 दरम्यान, आम्ही CSEA अपीलांसाठी टर्नअराऊंड वेळ 152 दिवसांपासून 15 दिवसांवर आणला. अपील टर्नअराऊंड वेळांसह आम्ही आमच्या प्रक्रियांमध्ये सुधारणा करण्याचा सतत प्रयत्न करतो.

हा विभाग आमच्या समुदाय मार्गदर्शक तत्वांची अंमलबजावणी करण्यासाठी आणि ॲपमधील उल्लंघनांच्या अहवालांना प्रतिसाद देण्यासाठी आमच्या ट्रस्ट आणि सेफ्टी टीमच्या कृतींचे विहंगावलोकन भौगोलिक प्रदेशांचे नमुने घेऊन सक्रियपणे प्रदान करतो. आमची समुदाय मार्गदर्शकतत्त्वे स्‍थाना व्‍यतिरिक्‍त Snapchat वरील सर्व कंटेंटवर—आणि सर्व स्नॅपचॅटर्सना लागू आहेत.

सर्व युरोपियन युनियन सदस्य राज्यांसह वैयक्तिक देशांची माहिती, संलग्न CSV फाइलद्वारे डाउनलोड करण्यासाठी उपलब्ध आहे.

Snap, हे आमच्या जाहिरात धोरणांचे पूर्णपणे पालन करत आहेत याची खात्री करण्यासाठी वचनबद्ध आहे. आम्ही आमच्या सर्व वापरकर्त्यांसाठी सुरक्षित आणि आनंददायक अनुभव निर्माण करून जाहिरात करण्यासाठी जबाबदार आणि आदरणीय दृष्टिकोन मध्ये विश्वास ठेवतो. सर्व जाहिराती आमच्या पुनरावलोकन आणि मंजुरीच्या अधीन आहेत. याव्यतिरिक्त, आम्ही वापरकर्त्याच्या अभिप्रायाची प्रतिसाद यासह जाहिराती काढून टाकण्याचा अधिकार राखून ठेवतो, जे आम्ही गंभीरपणे घेतो. 

खाली आम्ही Snapchat वर त्यांचे प्रकाशनानंतर आम्हाला अहवाल दिलेल्या सशुल्क जाहिरातींसाठी आमच्या नियंत्रणात अंतर्दृष्टी समाविष्ट केले आहे. लक्षात घ्या की Snapchat वरील जाहिराती Snap च्या जाहिरात धोरणात वर्णन केल्यानुसार फसव्या सामग्री, प्रौढ सामग्री, हिंसक किंवा त्रासदायक सामग्री, द्वेषयुक्त भाषण आणि बौद्धिक संपत्तीचे उल्लंघन यासह विविध कारणांसाठी काढल्या जाऊ शकतात. याव्यतिरिक्त, तुम्ही आता या पारदर्शकता अहवालाच्या नेव्हिगेशन बारमध्ये Snapchat ची जाहिराती गॅलरी शोधू शकता.