Privacy, Safety, and Policy Hub

निर्वाचन अखंडता पर सिविल सोसाइटी समूहों को हमारी प्रतिक्रिया साझा करना

22 अप्रैल 2024

इस महीने के शुरू में, Snap के साथ-साथ अन्य प्रमुख प्रौद्योगिकी कंपनियों को 200 से अधिक नागरिक समाज संगठनों, अनुसंधानकर्ताओं, और पत्रकारों से एक पत्र मिला जिसमें 2024 में चुनाव की अखंडता की सुरक्षा के लिए हमारे प्रयासों को बढ़ाने का आग्रह किया गया था। हम उनकी वकालत की सराहना करते हैं और यह सुनिश्चित करने की उनकी प्रतिबद्धता से सहमत हैं कि दुनिया भर के लोग अपने चुनावों में भाग ले सकें, साथ ही हम अपने लोकतंत्र की रक्षा के लिए हर संभव प्रयास कर रहे हैं।

इन मुद्दों के महत्व को, और उस गहरे उत्तरदायित्व को देखते हुए जो हम उन सैकड़ों करोड़ लोगों के बारे में महसूस करते हैं जो अपने फ़्रेंड्स और परिवार के साथ संवाद करने और हमारे कंटेंट के माध्यम से दुनिया के बारे में और जानने के लिए Snapchat का उपयोग करते हैं, हमने महसूस किया कि हमारी प्रतिक्रिया को सार्वजनिक रूप से जारी करना जरूरी था। आप हमारे पत्र को नीचे पढ़ सकते हैं, और इस वर्ष के चुनाव के लिए हमारी योजनाओं के बारे में यहाँ और जान सकते हैं।

***

21 अप्रैल 2024

प्रिय नागरिक समाज संगठन:

दुनिया भर में इस वर्ष की अभूतपूर्व चुनावी गतिविधि में आपकी निरंतर सतर्कता और वकालत के लिए धन्यवाद। हम इस बारे में और जानकारी शेयर करने का अवसर पाकर आभारी हैं कि Snap इस वातावरण में हमारी जिम्मेदारियों को कैसे पूरा कर रहा है, और ये प्रयास हमारी कंपनी के दीर्घकालिक मूल्यों को कैसे मैप करते हैं। 

Snapchat दृष्टिकोण का अवलोकन

चुनाव से संबंधित प्लेटफॉर्म की अखंडता के लिए हमारा दृष्टिकोण स्तरबद्ध है। एक उच्च स्तर पर, मुख्य तत्वों में शामिल हैं:

  • गहन उत्पाद सुरक्षा;

  • साफ़ और विचारशील नीतियां; 

  • राजनीतिक विज्ञापनों के लिए उचित दृष्टिकोण;

  • सहयोगात्मक, समन्वित संचालन; और

  • Snap चैटर्स को सशक्त बनाने के लिए औजार और संसाधन प्रदान करना।


एक साथ मिलाने पर, ये स्तंभ, चुनाव से संबंधित जोखिमों की एक व्यापक सीमा को कम करने के लिए हमारे दृष्टिकोण को रेखांकित करते हैं, और यह भी सुनिश्चित करते हैं कि Snap चैटर्स के पास इन औजारों और जानकारी तक पहुंच है जो दुनिया भर में लोकतांत्रिक प्रक्रियाओं में भागीदारी को सपोर्ट करते हैं। 

1. गहन उत्पाद सुरक्षा

शुरू से ही, Snapchat को पारंपरिक सोशल मीडिया से अलग तरीके से डिजाइन किया गया था। Snapchat एक अंतहीन और अवांछनीय कंटेंट के फ़ीड में नहीं खुलता है, और यह लोगों को लाइव स्ट्रीम करने की अनुमति नहीं देता है। 

हमने बहुत पहले ही यह समझ लिया है कि हानिकारक डिजिटल गलत जानकारी से होने वाले सबसे बड़े धमकियां उस गति और पैमाने से उत्पन्न होती हैं जिस गति और पैमाने पर कुछ प्लैटफ़ॉर्म इसे फैलने देते हैं। हमारी प्लेटफॉर्म नीतियां और वास्तुकला बिना जांचे सार्थक पैमाने को हासिल करने के लिए अवांछनीय या असामान्य कंटेंट के अवसरों को सीमित करती है। इसके बजाय, हम कंटेंट को एक बड़े ऑडिएंस के लिए प्रवर्धित किए जाने से पहले उसे संयत करते हैं, और मोटे तौर पर समाचार और राजनीतिक जानकारी के वितरण को सीमित करते हैं, जब तक कि वह विश्वसनीय प्रकाशकों और रचनाकारों (उदाहरण के लिए, अमेरिका में द वॉल स्ट्रीट जर्नल और द वॉशिंगटन पोस्ट, फ्रांस में ली मोंड, और भारत में टाइम्स नाउ जैसे मीडिया संगठन सहित) के पास से न आता हो। 

इस पिछले साल के दौरान, Snapchat पर जेनरेटिव AI फ़ीचर्स की शुरुआत इसी तरह के इरादे से ही की गई है। हम नागरिक प्रक्रियाओं को कमजोर करने या मतदाताओं को धोखा देने के लिए उपयोग की जा सकने वाले कंटेंट या इमेजरी उत्पन्न करने के लिए अपने AI उत्पादों की क्षमताओं को सीमित करते हैं। उदाहरण के लिए, हमारी चैटबॉट, My AI, राजनीतिक घटनाओं या सामाजिक मुद्दों से जुड़े सन्दर्भ की जानकारी प्रदान कर सकती है; इसे राजनीतिक उम्मीदवारों पर राय न देने या Snap चैटर्स को एक विशेष परिणाम के लिए मतदान देने के लिए प्रोत्साहित न करने के लिए प्रोग्राम किया गया है। और अपने टेक्स्ट-टू-इमेज फ़ीचर्स में, हमने ज्ञात राजनीतिक आंकड़ों की संभावना सहित जोखिमपूर्ण कंटेंट श्रेणियों की उत्पत्ति पर सिस्टम स्तरीय प्रतिबंध का उपयोग किया है। 

अभी एक दशक से भी अधिक समय से, और कई चुनाव चक्रों के दौरान, हमारे उत्पाद की वास्तुकला ने नागरिक प्रक्रियाओं को बाधित करने या सूचना के माहौल को कमजोर करने के लिए काम करने वाले कर्ताओं के लिए एक बेहद असत्कारशील माहौल बनाने में एक मुख्य भूमिका निभाई है। और सबूत से पता चलता है कि यह अच्छी तरह काम करता है। हमारा सबसे हाल का डेटा यह संकेत देता है कि 1 जनवरी से 30 जून 2023 तक, हानिकारक झूठी जानकारी के लिए वैश्विक रूप से लागू किए गए प्रवर्तनों की कुल संख्या (चुनाव की अखंडता के लिए जोखिम सहित) ने कुल 0.0038% प्रवर्तित कंटेंट का प्रतिनिधित्व किया था जो हमारे प्लेटफ़ार्म पर नुकसान की सबसे कम संभावना वाली श्रेणियों के अंतर्गत आते हैं।

हम 2024 में अपने प्लेटफ़ार्म की अखंडता वाले प्रयासों के लिए एक विकसित उत्पाद वाला दृष्टिकोण लाना जारी रखेंगे जिसमें 2024 के चुनाव में AI के धोखापूर्ण उपयोग का मुकाबला करने के लिए प्रौद्योगिकी समझौते के हस्ताक्षरकर्ताओं के रूप में हमारी प्रतिबद्धताएं भी शामिल हैं।

2. साफ़ और विचारशील नीतियां

अपनी उत्पाद सुरक्षा के पूरक के रूप में, हमने चुनाव जैसी हाई-प्रोफाइल घटनाओं के संदर्भ में सुरक्षा और अखंडता को बढ़ाने के लिए काम करने वाली कई नीतियों को लागू किया है। हमारे कम्युनिटी दिशानिर्देश, उदाहरण के लिए, हानिकारक झूठी जानकारी, घृणा का भाषण, और हिंसा संबंधी धमकियों या कॉल को स्पष्ट रूप से निषेध करते हैं। 

चुनाव के संबंध में हानिकारक कंटेंट के मामले में, हमारी बाहरी नीतियों मजबूत हैं और उनकी जानकारी, जानकारी की अखंडता के क्षेत्र में काम करने वाले अग्रणी शोधकर्ताओं द्वारा दी जाती है। वे हानिकारक कंटेंट की विशिष्ट श्रेणियों के बारे में बताते हैं जो निषिद्ध होती हैं, जिनमें शामिल हैं:

  • प्रक्रियात्मक हस्तक्षेप: वास्तविक चुनाव या नागरिक प्रक्रियाओं से संबंधित गलत जानकारी, जैसे महत्वपूर्ण तिथियां और समय या भागीदारी के लिए पात्रता आवश्यकताओं का गलत प्रतिनिधित्व करना;

  • भागीदारी हस्तक्षेप: कंटेंट जिसमें व्यक्तिगत सुरक्षा से संबंधित धमकी, या जो चुनावी या नागरिक प्रक्रिया में भागीदारी को रोकने के लिए अफवाह फैलाता है;

  • धोखाधड़ी या गैरकानूनी भागीदारी: कंटेंट जो लोगों को नागरिक प्रक्रिया में भाग लेने या गैरकानूनी तरीके से मतदान करने या उसे नष्ट करने के लिए गलत तरीके से प्रतिनिधित्व करने के लिए प्रोत्साहित करता है; और

  • नागरिक प्रक्रियाओं का अवैधकरण: ऐसा कंटेंट जिसका लक्ष्य, चुनावी परिणामों के बारे में झूठे या भ्रामक दावों के आधार पर लोकतांत्रिक संस्थानों को अवैध बनाना है।

हम यह सुनिश्चित करने के लिए आंतरिक मार्गदर्शन भी प्रदान करते हैं कि हमारी मॉडरेशन टीमें उन तरीकों को समझती हैं जिन तरीकों से चुनाव के जोखिम अक्सर घृणापूर्ण भाषण, द्वेष, लक्षित उत्पीड़न या यहां तक कि छद्मवेशधारण सहित अन्य श्रेणियों के नुकसान के साथ पारस्परिक रूप से संबंधित हैं।

हमारी सभी नीतियां हमारे प्लेटफ़ार्म पर मौजूद किसी भी प्रकार के कंटेंट पर लागू होती हैं, चाहे उसे यूज़र्स द्वारा उत्पन्न किया गया हो या AI द्वारा। 1 हम यह भी साफ़ कर देते हैं कि सभी नीतियां सभी Snap चैटर्स पर समान रूप से लागू होती हैं, चाहे उनकी प्रमुखता जो हो। सभी मामलों में, हानिकारक धोखे वाले कंटेंट के लिए हमारा दृष्टिकोण, सीधा है: हम उसे हटा देते हैं। हम उसे लेबल नहीं करते हैं, हम उसे डाउनरैंक नहीं करते हैं; हम उसे निकाल देते हैं। हमारे कंटेंट नियम का उल्लंघन करने वाले Snap चैटर्स को एक स्ट्राइक और एक चेतावनी मैसेज प्राप्त होता है; यदि वे ऐसे उल्लंघन करते रहते हैं, तो वे अपने अकाउंट के विशेषाधिकार खो सकते हैं (हालांकि सभी Snap चैटर्स को हमारे प्रवर्तन निर्णय पर अपील करने का एक अवसर दिया जाता है)। 

3. राजनीतिक विज्ञापनों के लिए उपयुक्त दृष्टिकोण

लोकतांत्रिक चुनाव के संबंध में विज्ञापन की अनुमति देने वाले प्लेटफ़ार्म के रूप में, हमने चुनाव की अखंडता के जोखिमों को कम करने के लिए कठोर प्रथाओं को अपनाने का ख्याल रखा है। सबसे विशेष रूप से, Snapchat पर राजनीतिक विज्ञापनों को हमारे प्लेटफॉर्म पर डालने से पहले, मानव द्वारा प्रत्येक विज्ञापन की समीक्षा और तथ्य की जांच की जाती है। इन प्रयासों का सपोर्ट करने के लिए, हम जरूरत के अनुसार Poynter और अन्य अंतर्राष्ट्रीय तथ्य जांच नेटवर्क के सदस्य संगठनों के साथ पार्टनरशिप करते हैं ताकि इस बात का स्वतंत्र, निष्पक्षीय आकलन प्रदान किया जा सके कि विज्ञापनदाताओं के दावों की पुष्टि की जा सकती है या नहीं। राजनीतिक विज्ञापन के लिए हमारी पुनरीक्षण प्रक्रिया में, धोखा देने वाली छवियाँ या कंटेंट बनाने के लिए AI के किसी भ्रामक उपयोग के लिए एक पूरी तरह से जांच शामिल है।

पारदर्शिता का सपोर्ट करने के लिए, विज्ञापन को स्पष्ट रूप से बताना होगा कि उसका भुगतान किसने किया है। और हमारी राजनीतिक विज्ञापन नीतियों के तहत, हम विदेशी सरकारों या उस देश के बाहर स्थित लोगों या संस्थाओं द्वारा विज्ञापन का भुगतान किए जाने की अनुमति नहीं देते हैं जहां चुनाव हो रहा है। हमारा मानना है कि यह देखना जनता के हित में है कि एक ऐसा राजनीतिक विज्ञापन लाइब्रेरी चलाने और रखने के लिए किस राजनीतिक विज्ञापन को अनुमोदित किया गया है जिसमें लक्षित, लागत, और इनसाइट के बारे में जानकारी होती है।  

इन सभी प्रक्रियाओं का अनुपालन सुनिश्चित करने के लिए, हमारी वाणिज्यिक कंटेंट नीतियां, प्रभावशील लोगों को पारंपरिक विज्ञापन प्रारूपों के बाहर की भुगतान वाली राजनीतिक कंटेंट को बढ़ावा देने से रोक देती हैं। इससे सुनिश्चित होता है कि सभी भुगतान वाली राजनीतिक कंटेंट, हमारी विज्ञापन समीक्षा प्रथाओं और अस्वीकरण आवश्यकताओं के अधीन है।

4. सहयोगात्मक, समन्वित संचालन

Snap में हम अपनी चुनाव अखंडता सुरक्षा को संचालित करने के लिए एक अत्‍यंत सहयोगात्मक दृष्टिकोण अपनाते हैं। आतंरिक रूप से, हमने 2024 में दुनिया भर में चुनाव के संबंध में सभी प्रासंगिक घटनाक्रमों की निगरानी के लिए, गलत जानकारी, राजनीतिक विज्ञापन, और साइबर सुरक्षा विशेषज्ञों सहित एक क्रॉस-फंक्शनल चुनाव अखंडता टीम संयोजित की है। इस ग्रुप में प्रतिनिधित्व की व्यापकता से हमारी पूरी कंपनी के दृष्टिकोण का पता चलता है, जो हम विश्वास और सुरक्षा, कंटेंट मॉडरेशन, इंजीनियरिंग, उत्पाद, कानूनी, नीति, गोपनीयता संचालन, सुरक्षा, और अन्य विभागों के प्रतिनिधियों के साथ मिलकर प्लेटफ़ॉर्म की अखंडता की रक्षा करने के लिए अपनाते हैं।

अपने कंटेंट मॉडरेशन और प्रवर्तन के दौरान, हम उन सभी देशों के अनुरूप भाषा क्षमता को बनाए रखते हैं जहाँ Snap अपना कार्य करता है। हमने उच्च जोखिम वाली वैश्विक घटनाओं के फ़ेस या मामले में संचालन की चपलता सुनिश्चित करने के लिए, एक संकट प्रतिक्रिया प्रोटोकॉल को भी संचालित किया है।

समन्वय की इस भावना का विस्तार, बाहरी सहयोग तक भी है। हम सलाह, शोध इनसाइट के बारे में जानने, और चिंताओं को सुनने या घटना के अग्रेषण के बारे में जानने के लिए नियमित रूप से लोकतंत्र के हितधारकों और नागरिक समाज संगठनों के साथ जुड़ते हैं। (आपके पत्र के कई हस्ताक्षर, इन उद्देश्यों के लिए हमारे लिए मूल्यवान भागीदार बने रहते हैं।) हम अक्सर प्लेटफ़ार्म अखंडता के लिए अपने दृष्टिकोण के बारे में सरकारों और चुनाव अधिकारियों को बताते रहते हैं। हम इस साल की तरह, उदाहरण के लिए, नागरिक समाज, चुनाव अधिकारियों, और साथी उद्योग हितधारकों के साथ काम करने वाले बहु हितधारक पहलों में भी भाग लेते हैं, ताकि प्रौद्योगिकी कंपनियों के लिए स्वैच्छिक चुनाव अखंडता दिशानिर्देश को आकार देने में मदद मिल सके। और हम नागरिक प्रक्रियाओं के लिए डिजिटल जोखिम को कम करने के सपोर्ट में सभी हितधारकों के साथ रचनात्मक रूप से जुड़ने के अतिरिक्त अवसरों का स्वागत करते हैं। 

5. Snap चैटर्स को सशक्त बनाने के लिए टूल्स और संसाधन प्रदान करना

Snap में, हम हमेशा मानते रहे हैं कि नागरिक संलग्नता, स्व-अभिव्यक्ति के सबसे शक्तिशाली रूपों में से एक है। एक ऐसे प्लेटफ़ार्म के रूप में, जो लोगों को खुद को व्यक्त करने में मदद करता है और जिसके पास नए और पहली बार मतदान करने वाले मतदाताओं तक महत्वपूर्ण पहुंच है, हम अपने समुदाय को समाचार और विश्व की घटनाओं के बारे में सटीक और विश्वसनीय जानकारी प्राप्त करने में मदद करने की क्रिया को प्राथमिकता देते हैं, जिसमें शामिल है कि वे अपने स्थानीय चुनाव में कहां और कैसे मतदान कर सकते हैं।

2024 में, ये प्रयास, तीन स्तंभों पर केंद्रित होंगे, जो सालों से स्थिर बने हुए हैं: 

  • शिक्षा: डिस्कवर पर हमारे कंटेंट और प्रतिभा भागीदारी के माध्यम से चुनावों, उम्मीदवारों और मुद्दों के बारे में तथ्यात्मक और प्रासंगिक कंटेंट प्रदान करना।

  • पंजीकरण: थर्ड-पार्टी विश्वसनीय नागरिक बुनियादी ढांचे का उपयोग करके मतदान करने के लिए पंजीकरण करने के लिए Snap चैटर्स को प्रोत्साहित करना। 

  • संलग्नता: नागरिकों के आसपास ऐप में उत्तेजना और ऊर्जा बनाना और Snap चैटर्स को चुनाव के दिन से पहले / चुनाव के दिन मतदान करने के लिए प्रोत्‍साहित करना। 


इनमें से कई योजनाएं फ़िलहाल 2024 के कार्यों में शामिल हैं, लेकिन वे पिछले कुछ सालों में Snap चैटर्स को जानकारीपूर्ण संसाधनों से जोड़ने में मिली कई सफलताओं पर आधारित होंगी।

निष्कर्ष

दुनिया भर में लोकतंत्र और शक्तिशाली नई प्रौद्योगिकियों के तेजीकरण दोनों के लिए एक ऐसे परिणामी क्षण में यह पहले की तरह उतना ही महत्वपूर्ण है कि प्लैटफ़ॉर्म उनके मूल्यों के बारे में अभी भी पारदर्शी हैं। और इस समय, हमारे मूल्य इससे ज्यादा स्पष्ट नहीं हो सकते थे: हम अपने प्लेटफ़ार्म के ऐसे किसी भी दुरुपयोग को अस्वीकार करते हैं जो नागरिक प्रक्रियाओं को कमजोर करने या Snap चैटर्स की सुरक्षा लिए एक जोखिम पैदा करने का काम कर सकता है।  हमें आज तक के अपने रिकॉर्ड पर गर्व है, लेकिन हमें चुनाव से संबंधित जोखिमों के लिए सतर्क बने रहना जारी रखना चाहिए। इसके लिए, हम इन मुद्दों पर आपकी रचनात्मक भागीदारी के लिए फिर से आपका धन्यवाद करते हैं, 

भवदीय, 

किप वेंस्कॉट

प्लेटफ़ॉर्म नीति प्रमुख

समाचार पर वापस जाएँ

1

गौरतलब है कि Snapchat पर AI-उत्पन्न या AI-संवर्धित कंटेंट शेयर करना, हमारी नीतियों के खिलाफ नहीं है और यह निश्चित रूप से ऐसा कुछ नहीं है जिसे हम स्वाभाविक रूप से हानिकारक समझते हैं। अब कई वर्षों से, Snap चैटर्स को मजेदार लेंस और अन्य AR अनुभवों की मदद से छवियों में हेरफेर करने में खुशी मिली है, और हम उन तरीकों के बारे में बताने के लिए उत्साहित हैं जिन तरीकों से हमारा समुदाय खुद को रचनात्मक तरीके से व्यक्त करने के लिए AI का उपयोग कर सकता है। हालांकि, अगर कंटेंट धोखापूर्ण (या अन्यथा हानिकारक) है, हम उसे जरूर हटा देंगे, चाहे AI प्रौद्योगिकी ने जिस भी सीमा तक उसके निर्माण में भूमिका निभाई हो।

1

गौरतलब है कि Snapchat पर AI-उत्पन्न या AI-संवर्धित कंटेंट शेयर करना, हमारी नीतियों के खिलाफ नहीं है और यह निश्चित रूप से ऐसा कुछ नहीं है जिसे हम स्वाभाविक रूप से हानिकारक समझते हैं। अब कई वर्षों से, Snap चैटर्स को मजेदार लेंस और अन्य AR अनुभवों की मदद से छवियों में हेरफेर करने में खुशी मिली है, और हम उन तरीकों के बारे में बताने के लिए उत्साहित हैं जिन तरीकों से हमारा समुदाय खुद को रचनात्मक तरीके से व्यक्त करने के लिए AI का उपयोग कर सकता है। हालांकि, अगर कंटेंट धोखापूर्ण (या अन्यथा हानिकारक) है, हम उसे जरूर हटा देंगे, चाहे AI प्रौद्योगिकी ने जिस भी सीमा तक उसके निर्माण में भूमिका निभाई हो।