अभिव्यक्ति की स्वतंत्रता को प्रणालीगत जोख़िम के आकलन का केंद्रबिंदु क्यों होना चाहिए

कार्यकारी सारांश

2022 में, यूरोपियन यूनियन ने डिजिटल सर्विस ऐक्ट (DAS), को मंजूरी दी, जो यूज़र अधिकारों की रक्षा करने का वादा करने वाला कानून है और प्लेटफ़ॉर्म पर उनकी ऑनलाइन सेवाओं से होने वाले जोख़िमों की पहचान करने और उन्हें कम करने के लिए एक नियामक ज़रूरत रखता है। महत्वपूर्ण रूप से, DSA यह निर्धारित करता है कि सोशल मीडिया कंपनियों सहित ऑनलाइन प्लेटफ़ॉर्म को, इस ढांचे के तहत पहचाने गए, समाज को होने वाले गंभीर नुकसानों का समाधान करने का फ़ैसला लेते समय, अभिव्यक्ति की स्वतंत्रता पर "विशेष विचार" करना चाहिए। चूंकि इन प्लेटफ़ॉर्म ने 2024 के अंत में अपना पहला आकलन प्रकाशित किया था, इसलिए इस उद्देश्य के लिए कई चुनौतियां स्पष्ट हो रही हैं, कुछ DSA की प्रमुख शर्तों की अस्पष्टता से उत्पन्न हुई हैं और अन्य, वैश्विक मानवाधिकार मानकों को इन आकलनों में एकीकृत करने के अवसरों को खोने से उत्पन्न हुई हैं।

इस क्षेत्र में सक्रिय कई संगठनों के काम के आधार पर, ओवरसाइट बोर्ड का मानना ​​है कि यह महत्वपूर्ण है कि मानवाधिकार, विशेष रूप से अभिव्यक्ति की स्वतंत्रता, को प्रणालीगत जोख़िम के आकलन के केंद्र में रखा जाए। इसी आशय से, यह दस्तावेज़ ध्यान केंद्रित करने के चार क्षेत्र निर्धारित करता है, जो प्लेटफ़ॉर्म की जवाबदेही को बढ़ाने और कंटेंट को नियंत्रित करने के तरीके को बेहतर बनाने में मदद कर सकते हैं, एक सुसंगत और प्रभावी अधिकार-आधारित दृष्टिकोण के हिस्से के रूप में:

• प्रणालीगत जोख़िमों का अर्थ स्पष्ट करना। DSA के इस शब्द पर अस्पष्टता, अतिव्यापक व्याख्याओं के लिए दरवाज़ा खुला रख सकती है, जो संभावित रूप से भाषण पर प्रतिबंधों को प्रोत्साहित कर सकती है।
• वैश्विक मानवाधिकार मानकों का पालन करना। अधिक सुसंगत रिपोर्टिंग के लिए, जोख़िम आकलन की सभी श्रेणियों में ऐसे मानकों को पूरी तरह से एकीकृत करना। वैश्विक मानवाधिकारों को मुख्यधारा में लाना, उन्हें एक अलग श्रेणी के रूप में मानने से अधिक प्रभावी है।
• जोख़िमों की पहचान और न्यूनीकरण के डिज़ाइन में हितधारक जुड़ाव को शामिल करना। व्यापार और मानवाधिकारों पर संयुक्त राष्ट्र के मार्गदर्शक सिद्धांतों (UNGP) में निर्धारित तरीकों का पालन करके, प्लेटफ़ॉर्म अधिक सार्थक रूप से दिखा सकते हैं कि हितधारक जुड़ाव, जोख़िम के प्रति उनकी प्रतिक्रियाओं को कैसे आकार देता है।
• डेटा का गहराई से विश्लेषण करना। रिपोर्टिंग के लिए मात्रात्मक और गुणात्मक डेटा समान रूप से महत्वपूर्ण है। कंपनियों को बाहरी निरीक्षण तंत्रों से प्राप्त अंतर्दृष्टि द्वारा समर्थित अपील डेटा का अधिक खुले तौर पर उपयोग करना चाहिए, ताकि यह दिखाया जा सके कि अभिव्यक्ति की स्वतंत्रता और अन्य मानवाधिकारों का सम्मान करने में न्यूनीकरण प्रभावी हैं या नहीं।

परिचय

ऑनलाइन प्लेटफ़ॉर्म का यूरोपियन यूनियन विनियमन ने हाल ही में ऑनलाइन सेवाओं के लिए एक नया, जोख़िम-आधारित दृष्टिकोण पेश किया है, जो इस बात पर ध्यान केंद्रित करता है कि प्लेटफ़ॉर्म किस तरह से कुछ प्रकार के नुकसान पैदा कर सकते हैं या उन्हें बढ़ा सकते हैं। DSA, सोशल मीडिया को विनियमित करना चाहता है, ताकि "विश्वसनीय ऑनलाइन वातावरण" के लिए "सामंजस्यपूर्ण नियम" स्थापित किए जा सकें, जिनमें मानवाधिकारों का सम्मान किया जाता है। इसके लिए "बहुत बड़े ऑनलाइन प्लेटफ़ॉर्म" (VLOP) को यह बताना होगा कि वे ऐसे क्या कदम उठा रहे हैं, जिनसे उनकी सेवाओं को, लोगों और समाज को नुकसान पहुंचाने से रोका जा सके। VLOP द्वारा प्रकाशित प्रारंभिक "प्रणालीगत जोख़िम आकलन" इस बारे में अंतर्दृष्टि प्रदान करते हैं कि प्लेटफ़ॉर्म किस तरह से जोख़िमों की पहचान करते हैं, कैसे उनका मूल्यांकन करते हैं और उन्हें किस तरह कम करते हैं, जिनमें मानवाधिकार के लिए जोख़िम भी शामिल हैं, जो कि DSA अनुच्छेद 34 और 35 के अनुसार, उनके सिस्टम के डिज़ाइन और उपयोग से उत्पन्न होते हैं। हालांकि DSA में, पारदर्शिता बढ़ाने और मानवाधिकारों का समर्थन करने की क्षमता है, लेकिन इसके द्वारा बनाए गए प्रोत्साहन, वैश्विक स्तर पर अभिव्यक्ति की स्वतंत्रता पर अत्यधिक प्रतिबंध भी लगा सकते हैं।

जोख़िम न्यूनीकरण और अभिव्यक्ति की स्वतंत्रता के सम्मान में सामंजस्य

DSA द्वारा समाधान किए गए कई जोख़िम उन मुद्दों को दर्शाते हैं, जिन्हें बोर्ड ने अपने केस में प्राथमिकता दी है। उदाहरण के लिए, DSA (आख्यान 86) अपेक्षा है कि प्लेटफ़ॉर्म, प्रणालीगत जोख़िमों को कम करने का तरीका चुनते समय, "अभिव्यक्ति की स्वतंत्रता पर प्रभाव पर विशेष ध्यान दें।" यह ध्यान देना, बोर्ड के उस आदेश, से निकटता से जुड़ा हुआ है, जो अभिव्यक्ति की स्वतंत्रता के लिए सम्मान सुनिश्चित करने और यह पहचानने पर केंद्रित है कि अन्य अधिकारों या हितों की रक्षा के लिए, भाषण पर प्रतिबंधों को कब उचित ठहराया जा सकता है। हमारे फै़सले, जो Meta पर बाध्यकारी हैं, कंटेंट मॉडरेशन के सबसे चुनौतीपूर्ण मुद्दों से निपटते हैं, और जांच करते हैं कि Meta की पॉलिसी, डिज़ाइन विकल्प और ऑटोमेशन का उपयोग, लोगों के अधिकारों को कैसे प्रभावित करता है। ये फै़सले इस बारे में अंतर्दृष्टि प्रदान करते हैं कि Meta के प्लेटफ़ॉर्म पर जोख़िमों की पहचान और न्यूनीकरण तथा अभिव्यक्ति की स्वतंत्रता और अन्य मानवाधिकारों के सम्मान में तालमेल कैसे बैठाया जाए।     

बोर्ड इस बात पर जोर देता है कि प्रणालीगत जोख़िम आकलन में अभिव्यक्ति की स्वतंत्रता सहित मानवाधिकारों के सम्मान पर अधिक ध्यान देना चाहिए, यदि उन्हें यूज़र के लिए सार्थक प्लेटफ़ॉर्म जवाबदेही बढ़ानी है और DSA के उद्देश्यों के अनुरूप कंटेंट संचालन में सुधार करना है। यह, संगठनों – जिनमें ग्लोबल नेटवर्क इनिशिएटिव (GNI), डिजिटल ट्रस्ट एंड सेफ़्टी पार्टनरशिप (DTSP), ऐक्सेस नाऊ और सेंटर फॉर स्टडीज़ ऑन फ़्रीडम ऑफ़ एक्सप्रेशन एंड ऐक्सेस टू इन्फ़ॉर्मेशन (CELE) शामिल हैं – और क्षेत्र भर के अन्य विशेषज्ञों द्वारा प्रणालीगत जोख़िमों की समझ, को गहरा करने, वैश्विक मानवाधिकार मानकों में जोख़िम आकलन को आधार बनाने और अभिव्यक्ति की स्वतंत्रता के लिए संभावित खतरों और राजनीतिक हस्तक्षेप के जोख़िमों को उजागर करने के लिए किए गए काम के अनुरूप है। इस कार्य और प्रथम प्रणालीगत जोख़िम आकलन के अपने गहन विश्लेषण के आधार पर, बोर्ड निम्नलिखित विचार प्रस्तुत करता है।

प्रणालीगत जोख़िमों का अर्थ स्पष्ट करना

पहली रिपोर्ट "प्रणालीगत जोख़िमों" शब्द के अर्थ की साझा समझ की कमी के कारण सीमित है। इसे DSA में परिभाषित नहीं किया गया है और यह वैश्विक मानवाधिकार कानून में निहित नहीं है। हालांकि बोर्ड, DSA द्वारा जान-बूझकर अपनाए गए उस लचीले दृष्टिकोण को स्वीकार करता है, जो समय के साथ अर्थ को विकसित करने की अनुमति देता है, लेकिन यह अवधारणा की सोच-समझकर व्याख्या करने की जिम्मेदारी प्लेटफ़ॉर्म पर डालता है। इसे देखते हुए, यह समझा जा सकता है कि प्लेटफ़ॉर्म अक्सर एक संकीर्ण, अनुपालन-केंद्रित दृष्टिकोण को अपनाते हैं, जो प्रणालीगत जोख़िमों के विकास की सार्थक समझ में बाधा डाल सकता है। इसका परिणाम यह होता है कि प्रणालीगत जोख़िम विश्लेषण एक चेकलिस्ट अभ्यास में बदल जाता है, जैसा कि 2024 में प्लेटफ़ॉर्म के जोख़िम आकलन के प्रारंभिक प्रकाशन में काफी हद तक देखा गया है।

अधिकांश प्लेटफ़ॉर्म रिपोर्ट केवल DSA की सूचीबद्ध प्रणालीगत जोख़िम श्रेणियों ("अवैध कंटेंट," "मौलिक अधिकारों" पर "नकारात्मक प्रभाव", लोकतांत्रिक प्रक्रियाएं, सार्वजनिक सुरक्षा, "लिंग आधारित हिंसा" और नाबालिगों की सुरक्षा) और इसके 11 न्यूनीकरण उपायों (जैसे, "अनुकूलन" और "समायोजन" डिज़ाइन विकल्प और "अनुशंसक प्रणाली") का संदर्भ देती हैं। प्लेटफ़ॉर्म इस बात पर काफी हद तक चुप हैं कि क्या उनके आकलन ने नए जोख़िमों की पहचान की या नए न्यूनीकरण उपायों की शुरुआत की, और वे अपने प्लेटफ़ॉर्म और विशिष्ट जोख़िमों के बीच परिकल्पित संबंध को चुनौती नहीं देते हैं। यह अस्पष्टता, बदले में, प्लेटफ़ॉर्म को नए खतरों और उभरते रुझानों को अनदेखा करने या अस्पष्ट करने में मदद कर सकती है।

भाषण प्रतिबंधों को प्रोत्साहित करना

अभिव्यक्ति की स्वतंत्रता के दृष्टिकोण से, शब्द के अर्थ पर अस्पष्टता से अतिव्यापक व्याख्याएं और मनमाने ढंग से लागू किए जाने की संभावना हो सकती है, जिससे भाषण पर अत्यधिक प्रतिबंधों को बढ़ावा मिल सकता है। यह विविध विचारों को दबा सकता है और चुनौतीपूर्ण और संवेदनशील विषयों पर खुले विचार-विमर्श के लिए स्थान प्रदान करने की प्लेटफ़ॉर्म की प्रतिबद्धताओं को संभावित रूप से निरुत्साहित कर सकता है। परिणामस्वरूप, यह इन प्लेटफ़ॉर्म पर खुद को व्यक्त करने की यूज़र की स्वतंत्रता को बाधित कर सकता है। इसमें कुछ ऐसे लाभों को कमज़ोर करने की भी क्षमता है, जिन्हें DSA, यूज़र के लिए उपायों तक बेहतर पहुंच और बढ़ी हुई पारदर्शिता के रूप में ला सकता है।

प्रणालीगत जोख़िम रिपोर्टिंग के लिए वैश्विक मानवाधिकार मानकों का पालन करना

DSA, मानवाधिकारों को, जोख़िम वाले क्षेत्रों में एकीकृत करने के बजाय एक अलग श्रेणी के रूप में मानता है, जिससे प्लेटफ़ॉर्म जोख़िमों की पहचान, आकलन और उन्हें कम करने के तरीके पर खंडित दृष्टिकोण अपनाते हैं। यह विशेष रूप से समस्याजनक है, क्योंकि DSA का नया मानक है कि न्यूनीकरण "उचित, सापेक्ष और प्रभावी" होना चाहिए, जिसमें उसे लागू करने के स्पष्ट मार्गदर्शन का अभाव है। मानवाधिकारों को एक अलग श्रेणी में रखकर DSA, मानवाधिकार संबंधी विचारों को व्यापक रूप से प्रणालीगत जोख़िम संचालन में एकीकृत करने का अवसर खो देता है। यह प्लेटफ़ॉर्म को कुछ अधिकारों को अन्य अधिकारों पर प्राथमिकता देने के लिए प्रेरित करता है और उन्हें यह आकलन करने से हतोत्साहित करता है कि प्रत्येक जोख़िम क्षेत्र या "प्रभावकारी कारक" समग्र रूप से मानवाधिकारों को कैसे प्रभावित कर सकता है। अर्जेंटीना स्थित एक गैर सरकारी संगठन CELE के हाल ही के शोध में तर्क दिया गया है कि जोख़िम-आधारित दृष्टिकोण "अधिकारों को इंटरनेट संचालन के केंद्रीय मंच से बाहर धकेलता है और 'प्रतीकात्मक अनुपालन' का तर्क बना सकता है, जहां अधिकारों की संचालन भूमिका और कम हो जाती है।" वैश्विक मानवाधिकार मानकों का उपयोग, प्रणालीगत जोख़िम रिपोर्टिंग के लिए अधिक सुसंगत और अधिकार-आधारित दृष्टिकोण का समर्थन कर सकता है, जो अधिकारों पर प्रभावों का आकलन करने के लिए एक सामान्य ढांचा सुनिश्चित करते हुए कार्यप्रणाली को संरेखित करने में मदद करता है।

बारीकियों की अनदेखी

यह खंडित व्यवहार, अभिव्यक्ति की स्वतंत्रता के संदर्भ में विशेष रूप से स्पष्ट हो जाता है। हालांकि, अलग से रिपोर्टिंग, कंटेंट मॉडरेशन के तरीकों, खाता निलंबन या गलत जानकारी के बारे में चिंताओं को कवर कर सकती है, लेकिन यह अक्सर अधिक सूक्ष्म मुद्दों की अनदेखी करती है। उदाहरण के लिए, यह इस बात पर विचार करने में विफल हो सकता है कि "अवैध कंटेंट" या "प्रभावकारी कारक" जैसे कि स्वचालित पहचान, सुझाव एल्गोरिदम या खोज कार्यक्षमताएं, अभिव्यक्ति की स्वतंत्रता पर प्रणालीगत प्रभाव कैसे डाल सकती हैं, भले ही ये प्रभाव शुरू में सीमित लगें। या, दूसरे उदाहरण में, जब प्लेटफ़ॉर्म, कंटेंट हटाने पर सरकारों के साथ सहयोग करते हैं, तो अक्सर यह अस्पष्ट होता है कि ऐसे अनुरोध कैसे किए जाते हैं, कैसे रिकॉर्ड किए जाते हैं या उन पर कैसे कार्रवाई की जाती है।

पारदर्शिता की यह कमी, बोर्ड के केस कार्य में पहचानी जाने वाली एक आवर्ती समस्या रही है, जिसने सरकार के अनुरोधों (देखें Al Jazeera की साझा की गई पोस्ट, UK ड्रिल संगीत और ओकलान का अलगाव फै़सले), की अपारदर्शी और असंगत प्रकृति और अभिव्यक्ति की स्वतंत्रता को दबाने की उनकी क्षमता की जांच की है। प्लेटफ़ॉर्म, कंटेंट का पता लगाने और हटाने के लिए स्वचालित प्रणालियों पर भी बहुत अधिक निर्भर रहते हैं, जो एक ओर राजनीतिक भाषण और जवाबी भाषण के अति-एन्फ़ोर्समेंट को जन्म दे सकता है। दूसरी ओर, ऑटोमेशन पर निर्भरता कम करने में जोख़िम भी हो सकते हैं, जिसके अलग-अलग यूज़र के लिए असमान परिणाम हो सकते हैं। बोर्ड ने हाल ही में सुझाव दिया था कि Meta कुछ पॉलिसी क्षेत्रों के लिए ऑटोमेशन पर निर्भरता कम करने के लिए, 7 जनवरी, 2025 को घोषित अपने फ़ैसले के वैश्विक निहितार्थों की जांच करे।

मानवाधिकारों को मुख्यधारा में लाना

मानवाधिकारों को एक क्रॉस-कटिंग मुद्दे के रूप में मुख्यधारा में लाने के लिए, स्पष्ट और सुसंगत मानदंडों के साथ अधिकार-आधारित ढांचे के माध्यम से जोख़िमों की पहचान और आकलन करने के तरीके पर अधिक स्पष्टता और उन्हें लागू करने में मार्गदर्शन से प्लेटफ़ॉर्म को लाभ हो सकता है। हालांकि कई प्लेटफ़ॉर्म ने अपने स्वयं के दृष्टिकोण विकसित किए हैं, लेकिन वे अक्सर अपनी रिपोर्ट में UNGP से लेकर वित्त और जलवायु परिवर्तन जैसे असंबंधित क्षेत्रों के जोख़िम मॉडल तक कई तरह के ढांचों का संदर्भ देते हैं। इसके कारण, दायरे, पैमाने, अपरिवर्तनीयता और संभावित प्रतिकूल प्रभावों की संभावना जैसे कारकों का असंगत मूल्यांकन होता है। यह सब, हितधारकों की सेवाओं में जोख़िमों की तुलना करने, और उद्योगव्यापी नुकसान और यूज़र की स्वतंत्र रूप से बोलने की क्षमताओं पर सीमाओं का आकलन करने की क्षमता में बाधा डालता है।

अंतरराष्ट्रीय संधियों और UNGP से मार्गदर्शन प्राप्त करने से यह सुनिश्चित करने में मदद मिल सकती है कि प्रणालीगत जोख़िमों की पहचान और आकलन करने के प्रयास, मानवाधिकारों का अनुचित उल्लंघन न करें। UNGP, मानवाधिकार प्रभावों का आकलन करने के लिए एक संरचित दृष्टिकोण प्रदान करते हैं, जिनमें हितधारक जुड़ाव, संदर्भ और कमज़ोर समूहों पर ध्यान देने पर ज़ोर दिया जाता है। इनमें मानवाधिकारों पर संभावित प्रतिकूल प्रभावों के दायरे, पैमाने, अपरिवर्तनीयता और संभावना का मूल्यांकन करने के लिए अच्छी तरह से स्थापित मार्गदर्शन शामिल है। UNGP का उपयोग, क्रॉस-प्लेटफ़ॉर्म तुलनात्मकता को बढ़ाएगा और यह सुनिश्चित करेगा कि जोख़िम आकलन, तत्काल दिखाई देने या मापनीय होने से परे, प्लेटफ़ॉर्म डिज़ाइन और संचालन में अंतर्निहित व्यापक और दीर्घकालिक प्रभावों को कैप्चर करेगा।

जोख़िम और न्यूनीकरण उपायों के बीच अंतर करना

इन चुनौतियों से निपटने के लिए, प्लेटफ़ॉर्म को जोख़िमों को प्राथमिकता देने और न्यूनीकरण उपायों को निर्धारित करने के बीच अंतर करने के लिए एक संरचित तरीके की भी ज़रूरत होती है। अधिकार-आधारित दृष्टिकोण, प्लेटफ़ॉर्म को जोख़िम प्राथमिकता के आधार पर आकलन को सरल बनाने के बजाय, सावधानीपूर्वक मानकीकृत उपाय लागू करने में मदद कर सकता है। इस दृष्टिकोण में स्पष्ट, अधिकार-विशिष्ट मानदंडों का उपयोग करके, स्वयं न्यूनीकरण कार्यनीतियों के प्रभावों का मूल्यांकन शामिल होना चाहिए। उदाहरण के लिए, कंटेंट मॉडरेशन की प्रभावशीलता को मापने के लिए, कंटेंट की व्यापकता, फै़सलों की मात्रा, एन्फ़ोर्समेंट एरर रेट और अपील परिणामों का आकलन करने की ज़रूरत होगी। इससे यह सुनिश्चित होगा कि जोख़िमों के प्रति प्रतिक्रिया से नए या असंगत प्रभाव उत्पन्न न हों, जबकि इससे अधिक पारदर्शिता आएगी और मॉडरेशन रुझानों में तीसरे पक्ष के शोध का समर्थन करने के लिए डेटा तक पहुंच होगी।

हालांकि DSA का उद्देश्य न्यूनीकरण उपायों के आकलन के लिए एक रूपरेखा स्थापित करना है, जिसके लिए उन्हें "उचित, सापेक्ष और प्रभावी" होना ज़रूरी है, लेकिन इसमें लागू करने के स्पष्ट दिशा-निर्देशों का अभाव है। जोख़िम पहचान और आकलन के साथ, यह प्लेटफ़ॉर्म के विवेक पर बहुत कुछ छोड़ देता है और इसके परिणामस्वरूप अलग-अलग तरीकों का उपयोग होता है, जो इन न्यूनीकरण की गुणवत्ता, प्रभावशीलता और समयबद्धता को प्रभावित कर सकते हैं। 

भाषण पर प्रतिबंधों के आकलन के लिए मौजूदा वैश्विक रूपरेखाओं का उपयोग करके, न्यूनीकरण उपायों का मूल्यांकन और उन्हें लागू करने के तरीके पर स्पष्ट मार्गदर्शन प्राप्त किया जा सकता है: अर्थात, नागरिक और राजनीतिक अधिकारों पर अंतरराष्ट्रीय करार (ICCPR) के अनुच्छेद 19 (3) के आधार पर, अभिव्यक्ति की स्वतंत्रता पर वैध प्रतिबंधों के लिए तीन-भागाीय परीक्षण, और UNGP के तहत कंपनियों के लिए इसकी प्रासंगिकता। यह प्लेटफ़ॉर्म को, भाषण संबंधी चिंताओं और अन्य वैध उद्देश्यों को एकीकृत करके, न्यूनीकरण कार्यनीतियों का बेहतर मूल्यांकन करने की अनुमति देगा। इसका एक अन्य लाभ होगा यह सुनिश्चित करना कि अभिव्यक्ति की स्वतंत्रता और नागरिक विमर्श को एक अलग "जोख़िम" क्षेत्र के रूप में न माना जाए, बल्कि इसे एक क्रॉस-कटिंग मुद्दे के रूप में मुख्यधारा में लाया जाए। 

ऐसे संगठन, जो फ़ासला मिटाते हैं

मौजूदा ढांचों को अपनाने से उन धारणाओं को चुनौती मिलेगी कि अभिव्यक्ति की स्वतंत्रता का अन्य मानवाधिकारों और सामाजिक हितों के सम्मान के साथ हमेशा टकराव रहता है, और जोख़िम न्यूनीकरण के लिए अभिनव दृष्टिकोणों को बढ़ावा मिलेगा। यह मार्ग DSA के "उचित, सापेक्ष और प्रभावी" मानक और ICCPR के अनुच्छेद 19 के वैधता, औचित्य, ज़रूरत और सापेक्षता के तीन-भागीय परीक्षण जैसे अच्छी तरह से स्थापित मानवाधिकार ढांचों के बीच संबंधों को भी स्पष्ट करेगा। बोर्ड हमारे सभी केस में इस तीन-भागीय परीक्षण को लागू करता है, ताकि यह आकलन किया जा सके कि Meta के भाषण हस्तक्षेप, वैधता, वैध उद्देश्य और ज़रूरत और सापेक्षता की ज़रूरतों को पूरा करते हैं या नहीं। यह अधिकार-आधारित विश्लेषण के लिए एक पारदर्शी और अनुकरणीय मॉडल प्रदान करता है, जिसे प्लेटफ़ॉर्म अपने स्वयं के न्यूनीकरण प्रयासों में अपना सकते हैं।  

एक सुसंगत, वैश्विक प्रतिक्रिया

क्षेत्रीय विनियामक व्यवस्थाओं, जैसे कि DSA, के तहत डिज़ाइन किए गए प्रणालीगत जोख़िम ढांचे, अन्य क्षेत्रों में विनियामक दृष्टिकोण को आकार दे सकते हैं। इसलिए, सभी जोख़िम क्षेत्रों में मानवाधिकारों की क्रॉस-कटिंग भूमिका को स्पष्ट करना और प्लेटफ़ॉर्म के लिए वैश्विक मानवाधिकार मानकों पर आधारित ढांचों को अपनाना विनियामक के लिए महत्वपूर्ण है, ताकि यह सुनिश्चित किया जा सके कि उनके सिस्टम, वैश्विक स्थिरता बनाए रखते हुए, क्षेत्रीय अधिकार क्षेत्रों में जोख़िमों को प्रभावी ढंग से कम करते हैं। जैसा कि बोर्ड के व्यापक कार्य से पता चलता है, वैश्विक मानकों पर भरोसा करने के लिए जोख़िमों की पहचान करने और न्यूनीकरण को डिज़ाइन करते समय स्थानीय और क्षेत्रीय संदर्भों पर विचार करने की ज़रूरत होती है। हालांकि व्यक्तिगत अधिकारों को होने वाले नुकसान अलग-अलग क्षेत्रों में अलग-अलग तरीके से प्रकट हो सकते हैं, लेकिन वैश्विक ढांचे को लागू करने से यह सुनिश्चित हो सकता है कि कंपनी की प्रतिक्रिया सुसंगत हो और अभिव्यक्ति की स्वतंत्रता के सम्मान पर आधारित हो।

आकलन और न्यूनीकरण के डिज़ाइन में हितधारक जुड़ाव को शामिल करना

हालांकि सभी प्लेटफ़ॉर्म अपनी रिपोर्ट में हितधारक जुड़ाव (जैसे नागरिक समाज, शिक्षाविद और हाशिए पर पड़े समुदाय) का संदर्भ देते हैं, लेकिन इस बारे में सीमित जानकारी है कि यह इनपुट, प्रणालीगत जोख़िम आकलन को कैसे सूचित करता है। हालांकि प्लेटफ़ॉर्म अपनी परामर्श प्रक्रियाओं को विस्तार से बताते हैं, लेकिन वे उन परामर्शों के परिणाम और जोख़िम के अपने विश्लेषण या न्यूनीकरण के मूल्यांकन के बीच स्पष्ट रूप से संबंध नहीं दर्शाते हैं। हितधारक जुड़ाव पर यह रिपोर्टिंग, UNGP में बताए गए अच्छे उद्योग व्यवहार के साथ संरेखित होने में भी विफल रहती है। विशेष रूप से, इस बात पर स्पष्टता की कमी से कि जुड़ाव कैसे संरचित होते हैं, कौन से हितधारक शामिल होते हैं और क्या चिंताएं उठाई जाती हैं, यह समझना मुश्किल है कि हितधारक अंतर्दृष्टि व्यक्तिगत जोख़िमों के लिए प्लेटफ़ॉर्म की प्रतिक्रियाओं को कैसे प्रभावित करती है, न्यूनीकरण लागू होने से पहले और बाद में।

विविध दृष्टिकोण

सार्थक हितधारक जुड़ाव को, सक्रिय रूप से विशेषज्ञता और विविध दृष्टिकोणों की तलाश करके, प्लेटफ़ॉर्म के फ़ैसलों से सबसे अधिक प्रभावित व्यक्तियों और समूहों के इनपुट को प्राथमिकता देनी चाहिए। इसके अलावा, प्रणालीगत जोख़िमों और न्यूनीकरणों का आकलन करते समय, क्षेत्रीय और वैश्विक कारकों पर विचार करने के लिए इस प्रकार का जुड़ाव ज़रूरी है। हालांकि DSA स्थानीयकृत जोख़िम आकलन पर जोर देता है, लेकिन वर्तमान पद्धतियां अक्सर स्थानीय विविधता (जैसे, यूरोपियन यूनियन की अलग-अलग भाषाएं और संस्कृतियां) को ध्यान में रखने में विफल रहती हैं, क्योंकि प्लेटफ़ॉर्म मुख्य रूप से अपने सिस्टम को प्रभावित करने वाले संरचनात्मक मुद्दों पर ध्यान केंद्रित करते हैं। लक्षित हितधारक जुड़ाव की कमी से यह और बिगड़ जाता है, जिस कारण जोख़िम आकलन ऐसे होते हैं, जो स्थानीय संदर्भों की जटिलता को पकड़ने में विफल हो जाते हैं।

केस और पॉलिसी से संबंधित सलाह में हितधारक जुड़ाव को बोर्ड द्वारा प्राथमिकता देना इस बात पर प्रकाश डालता है कि किस तरह ऐसे प्रयास पारदर्शिता और भागीदारी को बढ़ा सकते हैं, और प्लेटफ़ॉर्म के फ़ैसलों से सबसे अधिक प्रभावित लोगों और समुदायों की आवाज़ को बढ़ा सकते हैं (देखें “शहीद” पॉलिसी से संबंधित सलाह)। इसके अतिरिक्त, ग्लोबल नेटवर्क इनिशिएटिव और डिजिटल ट्रस्ट एंड सेफ़्टी पार्टनरशिप फ़ोरम जैसे विशेषज्ञ संगठनों का काम इस बात को रेखांकित करता है कि कैसे विविध विशेषज्ञों के साथ बहु-हितधारक परामर्श, जोख़िम आकलन और न्यूनीकरण कार्यनीतियां, दोनों को समृद्ध कर सकता है, और प्लेटफ़ॉर्म को इन प्रक्रियाओं को अधिकार-आधारित दृष्टिकोण के साथ संरेखित करने में मदद कर सकता है। 

अपील डेटा का गहराई से विश्लेषण करना

चूंकि प्लेटफ़ॉर्म की शुरुआती रिपोर्ट मुख्य रूप से गुणात्मक होती हैं, इसलिए वे जोख़िमों और न्यूनीकरण उपायों का आकलन करने के लिए उपयोग किए जाने वाले मात्रात्मक डेटा में सीमित अंतर्दृष्टि प्रदान करती हैं। जब उद्धृत किए जाते हैं, तो मेट्रिक्स अक्सर उच्च स्तर के होते हैं और पहले से मौजूद पारदर्शिता रिपोर्ट प्रकटीकरणों को दोहराते हैं। बोर्ड के अनुभव के आधार पर, न्यूनीकरण उपायों की प्रभावशीलता का मूल्यांकन करने का एक तरीका, विशेष रूप से अभिव्यक्ति की स्वतंत्रता और अन्य मानवाधिकारों पर, यूज़र अपील डेटा के गुणात्मक और मात्रात्मक, दोनों आकलनों का उपयोग करना है, जैसे कि कंटेंट को हटाने या रिस्टोर करने के फ़ैसले। अपीलें न केवल त्रुटि सुधार के लिए एक तंत्र हैं, बल्कि वे स्वतंत्र भाषण की रक्षा के लिए एक महत्वपूर्ण सुरक्षा भी हैं, यह बताकर कि कौन से एन्फ़ोर्समेंट तरीके वैध अभिव्यक्ति को दबा सकते हैं। कंटेंट को ऑनलाइन बनाए रखने के फ़ैसलों के खिलाफ़ यूज़र की शिकायतें और अपीलें भी रेखांकित कर सकती हैं कि एन्फ़ोर्समेंट के तरीके, नुकसानदायक कंटेंट को ठीक से रोकने में कहां विफल हो सकते हैं।

जोख़िमों के संकेतक के रूप में एन्फ़ोर्समेंट ट्रेंड्स

अपीलें, एन्फ़ोर्समेंट की सटीकता और अवशिष्ट जोख़िमों के बारे में महत्वपूर्ण जानकारी भी प्रदान कर सकती हैं। उदाहरण के लिए, अपील की मात्रा, भौगोलिक स्थान, प्रासंगिक पॉलिसी, संबंधित जोख़िम क्षेत्रों और परिणामों का डेटा यह निर्धारित करने में मदद कर सकता है कि समय के साथ कौन से न्यूनीकरण उपाय प्रभावी हैं – और किनमें सुधार की ज़रूरत है। दुनिया भर से सालाना सैकड़ों हज़ारों अपीलें प्राप्त करने वाले बोर्ड के डेटा से, जोख़िमों के संभावित संकेतकों के रूप में एन्फ़ोर्समेंट ट्रेंड्स को रेखांकित करने में मदद मिल सकती है, जैसे कि पत्रकारिता कंटेंट की सेंसरशिप, और संकट के दौरान पॉलिसी का अति या अल्प एन्फ़ोर्समेंट, साथ ही इस डेटा से न्यूनीकरण की प्रभावशीलता का मूल्यांकन करने में मदद मिलती है। यह, बदले में, प्लेटफ़ॉर्म की स्वयं की प्रक्रियाओं को पूरक बना सकता है, जिससे स्वतंत्र निगरानी में योगदान मिलेगा।

व्यवस्थित रूप से विश्लेषण करके, खुले तौर पर रिपोर्टिंग करके और डेटा को जोख़िम आकलन में सार्थक रूप से एकीकृत करके, प्लेटफ़ॉर्म न केवल न्यूनीकरण की प्रभावशीलता को बढ़ाएंगे, बल्कि मानवाधिकारों की रक्षा के लिए उनकी प्रतिबद्धता में विश्वास को भी मज़बूत करेंगे।

निष्कर्ष

अब आकलन के शुरुआती दौर प्रकाशित हो चुके हैं और जैसे-जैसे प्लेटफ़ॉर्म अपनी अगली रिपोर्ट विकसित कर रहे हैं, यह सुनिश्चित करने के लिए कार्यप्रणाली को परिष्कृत करने का सही समय है कि उत्पादों, प्लेटफ़ॉर्म सुविधाओं और कंटेंट मॉडरेशन सिस्टम का अधिक सटीकता, गहराई और मज़बूती के साथ मूल्यांकन किया जाए। इस प्रयास का समर्थन करने के लिए, एक पारदर्शी और बहु-हितधारक दृष्टिकोण, विविध विशेषज्ञता और दृष्टिकोणों को एक साथ लाना ज़रूरी है। यह महत्वपूर्ण है कि मानवाधिकारों, विशेष रूप से अभिव्यक्ति की स्वतंत्रता को भाषण पर प्रतिबंध के लिए एक तंत्र के रूप में कार्य करने के बजाय, भाषण की सुरक्षा के लिए प्रणालीगत जोख़िम आकलन के केंद्र में रखा जाए।

अपनी विशेषज्ञता का उपयोग करके, बोर्ड अधिकार-आधारित दृष्टिकोण विकसित करने में मदद करने के लिए प्रतिबद्ध है, जो अभिव्यक्ति की स्वतंत्रता को केंद्रीय स्थान देता है। आकलन की पुनरावृत्तीय प्रकृति को देखते हुए बोर्ड, प्लेटफ़ॉर्म को प्रोत्साहित करता है कि वे फ़ीडबैक को शामिल करें और नियामक, प्लेटफ़ॉर्म और ऑडिटर के लिए मार्गदर्शन डिज़ाइन करते समय इन अंतर्दृष्टियों को ध्यान में रखें।

बोर्ड, प्रणालीगत जोख़िम आकलन और न्यूनीकरण पर इच्छुक संगठनों और विशेषज्ञों के साथ काम करने के लिए उत्सुक है।

विचार नेतृत्व को लौटें