ब्राज़ील के जनरल का भाषण

केस का सारांश

ओवरसाइट बोर्ड ने एक Facebook वीडियो को बनाए रखने के Meta के फ़ैसले को पलट दिया जिसमें ब्राज़ील के एक जनरल ने “सड़कों पर हंगामा करने” और “राष्ट्रीय कांग्रेस और सुप्रीम कोर्ट में घुसने” का आह्वान किया था. बोर्ड इस बात को मानता है कि चुनावों के दौरान और बाद में Meta, जोखिम का मूल्यांकन करने और उसे कम करने के कई उपाय करता है, लेकिन चुनावों के संदर्भ में हिंसा भड़काने के लिए उसके प्लेटफ़ॉर्म के उपयोग के संभावित उपयोग को देखते हुए, Meta को नकारात्मक परिणामों को रोकने, उन्हें कम करने और उनका समाधान करने के लिए लगातार प्रयास करने चाहिए. बोर्ड यह सुझाव देता है कि Meta को राजनैतिक हिंसा को बढ़ावा देने में उसके प्लेटफ़ॉर्म के उपयोग को रोकने के लिए, चुनाव की निष्पक्षता के अपने प्रयासों के मूल्यांकन के लिए एक फ़्रेमवर्क बनाना चाहिए.

केस की जानकारी

अक्टूबर 2022 में ब्राज़ील के राष्ट्रपति चुनावों में अत्यंत ध्रुवीकरण हुआ था जिसमें चुनावों की वैधानिकता पर सवाल उठाने वाले व्यापक और समन्वित ऑनलाइन और ऑफ़लाइन दावे किए गए थे. इनमें नई सरकार को सत्ता के हस्तांतरण को रोकने के लिए सैन्य हस्तक्षेप और सरकारी इमारतों में घुसने के आह्वान शामिल थे. राजनैतिक हिंसा का बढ़ा हुआ जोखिम, 1 जनवरी, 2023 को चुने गए नए राष्ट्रपति लुइज़ इनासियो लुला डा सिल्वा की सत्ता को मान्यता मिलने के बाद भी कम नहीं हुआ, क्योंकि नागरिक अशांति, विरोध प्रदर्शन और सैनिक ठिकानों के सामने डेरा डालने के काम जारी रहे.

दो दिन बाद 3 जनवरी, 2023 को Facebook के एक यूज़र ने 2022 के ब्राज़ील के चुनावों के बारे में एक वीडियो पोस्ट किया. पुर्तगाली भाषा में लिखे कैप्शन में “the last alternative” (अंतिम विकल्प) के रूप में ब्राज़ील की कांग्रेस को “besiege” (घेरने) का आह्वान शामिल था. वीडियो में ब्राज़ील के एक प्रमुख जनरल के भाषण का अंश भी शामिल था जो पूर्व राष्ट्रपति जाइर बोल्सोनारो के फिर से चुनाव का समर्थन करते हैं. वीडियो में, वर्दी पहने जनरल लोगों से आह्वान करते हैं कि वे “सड़कों पर निकलें” और “राष्ट्रीय कांग्रेस … [और] सुप्रीम कोर्ट तक जाएँ”. उसके बाद कई फ़ोटो दिखाई गई हैं, जिनमें से एक फ़ोटो ब्रासीलिया के उस थ्री पावर्स प्लाज़ा से उठी आग की लपटों की है, जहाँ ब्राज़ील के राष्ट्रपति कार्यालय, कांग्रेस और सुप्रीम कोर्ट के भवन बने हुए हैं. फ़ोटो पर मौजूद टेक्स्ट में पुर्तगाली में “ब्रासीलिया में आओ! मिलकर हंगामा मचाते हैं! थ्री पावर्स का घेराव करते हैं.” एक अन्य फ़ोटो पर “हम सोर्स कोड की माँग करते हैं” स्लोगन लिखा है, जिसका उपयोग प्रदर्शनकारियों ने ब्राज़ील की इलेक्ट्रॉनिक वोटिंग मशीनों की विश्वसनीयता पर सवाल उठाने के लिए किया है.

कंटेंट के पोस्ट किए जाने के दिन, एक यूज़र ने Meta की हिंसा और उकसावे के कम्युनिटी स्टैंडर्ड का उल्लंघन करने वाला बताते हुए इसकी रिपोर्ट की. इस कम्युनिटी स्टैंडर्ड में उच्च जोखिम वाली लोकेशन में बलपूर्वक प्रवेश के आह्वान की मनाही है. कुल मिलाकर, चार यूज़र्स ने 3 से 4 जनवरी के बीच सात बार उस कंटेंट की रिपोर्ट की. पहली रिपोर्ट के बाद, कंटेंट रिव्यूअर ने कंटेंट का रिव्यू किया और उन्हें इसमें Meta की पॉलिसी का उल्लंघन नहीं मिला. यूज़र ने फ़ैसले के खिलाफ़ अपील की, लेकिन एक दूसरे कंटेंट रिव्यूअर ने फ़ैसला कायम रखा. अगले दिन, अन्य छह रिपोर्ट का रिव्यू पाँच अलग-अलग मॉडरेटर्स ने किया, जिनमें से सभी ने यह पाया कि कंटेंट से Meta की पॉलिसी का उल्लंघन नहीं होता है.

8 जनवरी को, पूर्व राष्ट्रपति बोल्सोनारो के समर्थकों ने पुलिस को धमकाते और संपत्ति को नुकसान पहुँचाते हुए ब्रासीलिया के “थ्री पावर्स प्लाज़ा” स्थित राष्ट्रीय कांग्रेस, सुप्रीम कोर्ट और राष्ट्रपति कार्यालयों में घुसपैठ की. 9 जनवरी को Meta ने 8 जनवरी के दंगों को अपनी खतरनाक लोग और संगठन पॉलिसी के तहत “हिंसक घटना” करार दिया और कहा कि वह “इन कृत्यों का समर्थन या उसकी प्रशंसा करने वाले कंटेंट” को हटा देगा. कंपनी ने यह भी घोषणा की कि उसने “ब्राज़ील को अस्थायी रूप से उच्च जोखिम वाली लोकेशन” के रूप में चिह्नित किया था और वह “ऐसे कंटेंट को हटाती आ रही है जिसमें लोगों से हथियार उठाने या बलपूर्वक कांग्रेस, राष्ट्रपति भवन और अन्य संघीय इमारतों में घुसने का आह्वान किया जाता है.”

बोर्ड द्वारा इस केस को चुनने के बाद, Meta ने तय किया कि Facebook पर कंटेंट बनाए रखने संबंधी उसके बार-बार लिए गए फ़ैसले गलत थे. 20 जनवरी, 2023 को बोर्ड द्वारा इस केस को चुने जाने के बाद, Meta ने कंटेंट को हटा दिया.

मुख्य निष्कर्ष

यह केस ब्राज़ील के 2022 के आम चुनाव के संदर्भ में Meta के चुनाव की निष्पक्षता से जुड़े प्रयासों की प्रभावशीलता के बारे में चिंताएँ उत्पन्न करता है. हालाँकि चुनाव की निष्पक्षता को चुनौती देना सामान्य तौर पर संरक्षित अभिव्यक्ति माना जाता है, लेकिन कुछ परिस्थितियों में चुनावों को कमज़ोर करने की कोशिश करने वाले दावों से हिंसा हो सकती है. इस केस में वक्ता का इरादे, अभिव्यक्ति के कंटेंट और उसकी पहुँच और उस समय ब्राज़ील के राजनैतिक संदर्भ में तात्कालिक नुकसान की संभावना को देखते हुए पोस्ट को हटाना उचित कदम था.

उच्च जोखिम वाली लोकेशन में बलपूर्वक प्रवेश के आह्वान के संबंध में किसी पोस्ट द्वारा Meta के नियमों के उल्लंघन के लिए उस लोकेशन का “उच्च जोखिम” वाली होना ज़रूरी है और वह किसी ऐसे क्षेत्र में या उसके आसपास हो जिसे अलग से “अस्थायी रूप से उच्च जोखिम वाली लोकेशन” के रूप में चिह्नित किया गया हो. चूँकि पोस्ट में स्पष्ट रूप से ब्रासीलिया में थ्री पावर्स प्लाज़ा (ब्राज़ील के “अस्थायी रूप से उच्च जोखिम वाली लोकेशन” में स्थित “उच्च जोखिम वाली लोकेशन”) में स्थित सरकारी इमारतों में बलपूर्वक घुसने का स्पष्ट आह्वान किया गया था, इसलिए राजनैतिक हिंसा के चरम पर रहते समय इस कंटेंट को बनाए रखने के Meta के फ़ैसले उसके अपने नियमों के खिलाफ़ थे.

बोर्ड इस बात से अत्यंत चिंतित है कि कंटेंट को पोस्ट करने के समय ब्राज़ील में नागरिक अशांति और 8 जनवरी के दंगों के कुछ सप्ताह और महीनों पहले मिलते-जुलते कंटेंट के व्यापक फैलाव के बावजूद, Meta के कंटेंट मॉडरेटर्स ने अपने आकलन में इस कंटेंट को बार-बार उल्लंघन नहीं करने वाला बताया और वे उसे आगे रिव्यू के लिए एस्केलेट करने में विफल रहे. इसके अलावा, जब बोर्ड ने ब्राज़ील के चुनावों के पहले, उनके दौरान और उनके बाद में Meta से चुनाव से संबंधित विशिष्ट दावों के बारे में जानकारी माँगी, तो कंपनी ने कहा कि उसके पास ऐसे दावों के प्रसार का कोई डेटा नहीं है. इस केस में शामिल कंटेंट को अंततः दो से ज़्यादा सप्ताह बाद हटाया गया और इस समय तक वह घटना हो चुकी थी जिसके लिए लोगों का आह्वान किया गया था, वह भी तब किया गया जब बोर्ड ने Meta का ध्यान इस केस की ओर आकर्षित किया.

बोर्ड के एक सवाल के जवाब में, Meta ने कहा कि वह सामान्य तौर पर चुनाव की निष्पक्षता से जुड़े अपने प्रयासों की सफलता के मूल्यांकन के लिए किसी ख़ास मीट्रिक का उपयोग नहीं करता. इसलिए, बोर्ड ने पाया कि Meta को चुनाव की निष्पक्षता के लिए कंपनी के प्रयासों के मूल्यांकन के लिए और इस विषय पर लोगों को रिपोर्ट करने के लिए एक फ़्रेमवर्क बनाना चाहिए. इसका लक्ष्य कंपनी को ऐसा प्रासंगिक डेटा उपलब्ध कराना है जो उसके कंटेंट मॉडरेशन सिस्टम को समग्र रूप से बेहतर बनाए और कंपनी को यह जानकारी दे कि निर्वाचन के संबंध में उसके रिसोर्स का सबसे अच्छा उपयोग कैसे किया जाए. इस तरह की जानकारी के बिना, न तो बोर्ड और न ही लोग, Meta के चुनाव की निष्पक्षता से जुड़े प्रयासों की प्रभावशीलता का ज़्यादा व्यापक रूप से मूल्यांकन कर सकते हैं.

ओवरसाइट बोर्ड का फ़ैसला

ओवरसाइट बोर्ड ने संबंधित पोस्ट को प्लेटफ़ॉर्म पर बनाए रखने के Meta के मूल फ़ैसले को बदल दिया है.

बोर्ड ने Meta को सुझाव भी दिया कि वह:

• चुनाव की निष्पक्षता के अपने प्रयासों के मूल्यांकन के लिए एक फ़्रेमवर्क बनाए. इसमें चुनाव की निष्पक्षता के संबंध में सफल प्रयासों के लिए मीट्रिक बनाना और शेयर करना शामिल है, जिसमें Meta की कंटेंट पॉलिसी के एन्फ़ोर्समेंट और विज्ञापनों को लेकर उसके दृष्टिकोण से संबंधित प्रयास शामिल हैं.
• अपने ट्रांसपेरेंसी सेंटर में यह स्पष्ट करे कि संकट पॉलिसी प्रोटोकॉल के अलावा, कंपनी चुनाव के संदर्भों में या उच्च जोखिम वाली अन्य घटनाओं में होने वाले नुकसान के संभावित जोखिम और उसे दूर करने के अपने प्रयास में अन्य प्रोटोकॉल का उपयोग करती है.

* केस के सारांश से केस का ओवरव्यू पता चलता है और आगे के किसी फ़ैसले के लिए इसको आधार नहीं बनाया जा सकता है.

केस का पूरा फ़ैसला

1. फ़ैसले का सारांश

ओवरसाइट बोर्ड ने एक Facebook वीडियो को बनाए रखने के Meta के फ़ैसले को पलट दिया जिसमें ब्राज़ील के एक जनरल ने “सड़कों पर हंगामा करने” और “राष्ट्रीय कांग्रेस और सुप्रीम कोर्ट जाने” का आह्वान किया था. इन आह्वानों के बाद ब्रासीलिया के थ्री पावर्स प्लाज़ा में आग की एक फ़ोटो डाली गई थी जहाँ सरकारी इमारतें स्थित हैं और टेक्स्ट ओवरले में लिखा गया था कि “ब्रासीलिया में आओ! मिलकर हंगामा मचाते हैं! थ्री पावर्स का घेराव करते हैं.” बोर्ड ने पाया कि ये कथन, बोल्सोनारो के समर्थकों द्वारा चुनाव परिणामों पर विवाद करने और सत्ता परिवर्तन की कार्यवाही रोकने के लिए सैन्य हस्तक्षेप के आह्वान के संदर्भ में इन इमारतों पर हमला करने और उन पर कब्ज़ा करने के स्पष्ट और असंदिग्ध आह्वान थे. बोर्ड द्वारा इस पोस्ट को रिव्यू के लिए चुने जाने के बाद, Meta ने अपना शुरुआती फ़ैसला पलट दिया और उसे Facebook से हटा दिया.

यह केस ब्राज़ील के 2022 के आम चुनाव के संदर्भ में Meta के चुनाव की निष्पक्षता से जुड़े प्रयासों की प्रभावशीलता के बारे में व्यापक चिंताएँ उत्पन्न करता है. चुनाव की निष्पक्षता को चुनौती देना सामान्य तौर पर संरक्षित अभिव्यक्ति माना जाता है, लेकिन कुछ परिस्थितियों में चुनावों को कमज़ोर करने की कोशिश करने वाले ऑनलाइन और ऑफ़लाइन दावों से, जैसा इस केस में हुआ, ऑफ़लाइन हिंसा हो सकती है. ब्राज़ील में, ऐसा हर संकेत मौजूद था जो बताता था कि इसका परिणाम हिंसा होगी. बोर्ड इस बात को मानता है कि चुनावों के दौरान और बाद में Meta, जोखिम का मूल्यांकन करने और उसे कम करने के कई उपाय करता है, लेकिन चुनावों के संदर्भ में हिंसा भड़काने के लिए उसके प्लेटफ़ॉर्म के उपयोग के संभावित जोखिम को देखते हुए, Meta को नकारात्मक परिणामों को रोकने, उन्हें कम करने और उनका समाधान करने के लिए लगातार प्रयास करने चाहिए. चुनाव के बाद के समय को सत्ता परिवर्तन के संदर्भ में हिंसा के जोखिम के समाधान के लिए Meta के चुनाव की निष्पक्षता संबंधी प्रयासों में शामिल किया जाना चाहिए.

इसलिए, बोर्ड यह सुझाव देता है कि Meta चुनाव की निष्पक्षता के लिए कंपनी के प्रयासों के मूल्यांकन के लिए और इस विषय पर लोगों को रिपोर्ट करने के लिए एक फ़्रेमवर्क बनाए. ऐसे फ़्रेमवर्क में Meta की चुनाव की निष्पक्षता से जुड़े प्रयासों के सबसे प्रासंगिक पहलुओं की सफलता के मीट्रिक शामिल होने चाहिए, जिससे कंपनी न केवल गलतियों को पहचान पाए और उन्हें पलट पाए, बल्कि इस बात का ट्रैक भी रख पाए कि गंभीर स्थितियों में उसके उपाय कितने प्रभावी हैं. बोर्ड यह भी सुझाव देता है कि चुनाव के संदर्भ में और उच्च जोखिम वाली अन्य घटनाओं में होने वाले नुकसान के संभावित जोखिम को रोकने और उसका समाधान करने के लिए Meta के पास जो अलग-अलग प्रोटोकॉल और उपाय मौजूद हैं, वह उनके बारे में स्पष्टता दे. इसमें ऐसे प्रोटोकॉल के नाम, उनके उद्देश्य, उनके बीच संपर्क बिंदुओं और इस बात की जानकारी शामिल है कि वे एक-दूसरे से किस तरह अलग हैं. ऐसे प्रोटोकॉल का ज़्यादा प्रभावी होना, उनमें एक स्पष्ट चेन ऑफ़ कमांड का होना और उनमें पर्याप्त लोगों का होना ज़रूरी है, ख़ास तौर पर ऐसे चुनावों में काम करने के संदर्भ में जहाँ राजनैतिक हिंसा का उच्च जोखिम हो. ये सुझाव Meta के प्लेटफ़ॉर्म का राजनैतिक हिंसा को बढ़ावा देने में उपयोग किए जाने से रोकने में कंपनी की मदद करके और चुनाव से संबंधित हिंसा पर उसकी प्रतिक्रियाओं को सामान्य रूप से बेहतर बनाकर कंपनी के कंटेंट मॉडरेशन सिस्टम को समग्र रूप से बेहतर बनाने में मदद करेंगे.

2. केस की जानकारी और बैकग्राउंड

3 जनवरी, 2023 को Facebook के एक यूज़र ने 2022 के ब्राज़ील के चुनावों के बारे में एक वीडियो पोस्ट किया. पुर्तगाली भाषा में लिखे कैप्शन में “the last alternative” (अंतिम विकल्प) के रूप में ब्राज़ील की कांग्रेस को “besiege” (घेरने) का आह्वान शामिल था. एक मिनट 32 सेकंड के वीडियो में ब्राज़ील के एक प्रमुख जनरल के भाषण का अंश दिखाया गया है जो पूर्व राष्ट्रपति जाइर बोल्सोनारो के फिर से चुनाव का समर्थन करते हैं. वीडियो में, वर्दी पहने जनरल लोगों से आह्वान करते हैं कि वे “सड़कों पर निकलें” और “राष्ट्रीय कांग्रेस … [और] सुप्रीम कोर्ट तक जाएँ”. उसके बाद कई फ़ोटो दिखाई गई हैं, जिनमें से एक फ़ोटो ब्रासीलिया के उस थ्री पावर्स प्लाज़ा से उठी आग की लपटों की है, जहाँ ब्राज़ील के राष्ट्रपति कार्यालय, कांग्रेस और सुप्रीम कोर्ट के भवन बने हुए हैं. फ़ोटो पर मौजूद टेक्स्ट में पुर्तगाली में “ब्रासीलिया में आओ! मिलकर हंगामा मचाते हैं! थ्री पावर्स का घेराव करते हैं.” एक अन्य फ़ोटो पर “हम सोर्स कोड की माँग करते हैं” स्लोगन लिखा है, जिसका उपयोग प्रदर्शनकारियों ने ब्राज़ील की इलेक्ट्रॉनिक वोटिंग मशीनों की विश्वसनीयता पर सवाल उठाने के लिए किया है. वीडियो को 18,000 से ज़्यादा बार चलाया गया और शेयर नहीं किया गया.

कंटेंट को पोस्ट करने के दो दिन पहले, बोल्सोनारो के चुनावी प्रतिस्पर्धी लुइज़ इनासियो लुला डा सिल्वा ने 30 अक्टूबर, 2022 को हुए चुनाव में 50.9 प्रतिशत वोट के साथ जीत हासिल करके ब्राज़ील के राष्ट्रपति के रूप में शपथ ली थी. दो चरणों के चुनाव के पहले की, उसके दौरान की और बाद की अवधियों राजनैतिक हिंसा की अधिकता देखी गई थी, जिसे चुनाव में संभावित धोखाधड़ी के दावों से बढ़ावा मिला. ये दावे ब्राज़ील की इलेक्ट्रॉनिक वोटिंग मशीनों के हैकिंग के प्रति असुरक्षित होने की कथित चर्चाओं पर आधारित थे. चुनाव के पहले, तत्कालीन राष्ट्रपति बोल्सोनारो ने कोई भी सहायक साक्ष्य दिए बिना धोखाधड़ी का आरोप लगाते हुए चुनाव प्रणाली पर अविश्वास को और भड़काया और यह दावा किया कि इलेक्ट्रॉनिक वोटिंग मशीनें भरोसेमंद नहीं हैं. सेना के कुछ अधिकारियों ने भी चुनाव में धोखाधड़ी के इसी तरह के दावे किए और यह कहा कि चुनाव संबंधी विवादों के लिए सेना का उपयोग मध्यस्थ के रूप में किया जाए. Meta के प्लेटफ़ॉर्म पर चुनावों की वैधानिकता पर हमले करने वाले कई राजनैतिक विज्ञापनों की रिपोर्ट की गई. इनमें न्याय संबंधी संस्थाओं पर हमला करने वाली और सैन्य तख्तापलट को बढ़ावा देने वाली पोस्ट और वीडियो शामिल थे. इसके अलावा, Global Witness ने ब्राज़ील के बारे में एक रिपोर्ट प्रकाशित की कि किस तरह कम्युनिटी स्टैंडर्ड का उल्लंघन करने वाले राजनैतिक विज्ञापनों को कंपनी द्वारा स्वीकार किया गया और Meta के प्लेटफ़ॉर्म पर उन्हें प्रसारित किया गया. निष्कर्षों में म्यांमार और केन्या जैसे अन्य देशों से जुड़ी संगठन की मिलती-जुलती रिपोर्टों को भी ट्रैक किया गया.

चुनाव के बाद की अवधि में नागरिक अशांति हुई, जिसमें विरोध प्रदर्शन, चक्काजाम और सैन्य ठिकानों के सामने डेरा डालना शामिल था ताकि चुनाव परिणामों को पलटने के लिए सैन्य बल हस्तक्षेप करें. बोर्ड द्वारा परामर्श किए गए विशेषज्ञों के अनुसार, इस केस में शामिल वीडियो चुनाव के परिणाम आने के ठीक बाद पहली बार अक्टूबर 2022 में ऑनलाइन दिखाई दिया; इससे मिलता-जुलता कंटेंट अलग-अलग सोशल मीडिया पर बना रहा जिसके कारण 8 जनवरी के दंगे हुए. 12 अक्टूबर, 2022 को, जिस दिन सुपीरियर इलेक्टोरल कोर्ट ने लुला का जीत की पुष्टि की, बोल्सोनारो के समर्थक प्रदर्शनकारियों के एक ग्रुप ने ब्रासीलिया में फ़ेडरल पुलिस के मुख्यालय में घुसने की कोशिश की. कई जगह तोड़-फोड़ की घटनाएँ हुईं. 24 दिसंबर, 2022 को, ब्रासीलिया में देश के अंतरराष्ट्रीय एयरपोर्ट के पास बम गिराने की कोशिश हुई. हमले के ज़िम्मेदार व्यक्ति को गिरफ़्तार कर लिया और उसने कबूल किया कि तख्तापलट के समर्थन में ध्यान खींचने के लिए उसने ऐसा किया.

ब्राज़ील में राजनैतिक हिंसा का यह बढ़ा हुआ जोखिम, 1 जनवरी, 2023 को नए निर्वाचित राष्ट्रपति की शपथ के बाद भी कम नहीं हुआ. बोर्ड द्वारा करवाई गई रिसर्च के अनुसार, वोटिंग मशीनों के बारे में झूठे दावे Meta के प्लेटफ़ॉर्म पर पहले और दूसरे चरणों के मतदान के बाद और फिर लुला की जीत के कुछ सप्ताह बाद दिखाई दिए. इसके अलावा, 8 जनवरी तक के दिनों में बोल्सोनारो के समर्थकों ने ब्रासीलिया में विरोध प्रदर्शन को बढ़ावा देने के लिए कई अप्रत्यक्ष स्लोगन का उपयोग किया जो विशेष रूप से सरकारी इमारतों पर लक्षित थे. लॉजिस्टिक संबंधी अधिकांश व्यवस्था Facebook के अलावा अन्य कम्युनिकेशन चैनलों का उपयोग करके की गई दिखाई दी.

अंतरराष्ट्रीय चुनाव पर्यवेक्षण मिशन जैसे Organization of American States और Carter Center ने रिपोर्ट किया कि धोखाधड़ी का कोई ठोस साक्ष्य मौजूद नहीं था और यह कि अत्यंत ध्रुवीकृत निर्वाचक मंडल के दबावों के बावजूद चुनाव मुक्त और निष्पक्ष तरीके से कराए गए. ब्राज़ील के रक्षा मंत्रालय ने भी औपचारिक रूप से चुनाव का निरीक्षण किया और अनियमितता या धोखाधड़ी के साक्ष्य न मिलने की रिपोर्ट की, हालाँकि बाद में उसने एक विरोधाभासी बयान जारी करके कहा कि सैन्य बल “धोखाधड़ी की संभावना को ख़ारिज नहीं करते.” ब्राज़ील में, रक्षा मंत्रालय सैन्य बलों के कामकाज की देखरेख करता है.

8 जनवरी को तनाव उस समय चरम पर पहुँच गया जब पूर्व राष्ट्रपति बोल्सोनारो के समर्थकों ने पुलिस को धमकाते और संपत्ति को नुकसान पहुँचाते हुए ब्रासीलिया के “थ्री पावर्स प्लाज़ा” स्थित राष्ट्रीय कांग्रेस, सुप्रीम कोर्ट और राष्ट्रपति कार्यालयों, जिनका संदर्भ इस केस में दिया गया है, में घुस गए. 8 जनवरी के दंगों में शामिल होने के लिए लगभग 1,400 लोगों को गिरफ़्तार किया गया और 600 लोग अभी भी हिरासत में हैं.

8 जनवरी की घटनाओं को ध्यान में रखते हुए, संयुक्त राष्ट्र ने यह कहते हुए हिंसा की निंदा की कि यह तथ्यों को लगातार तोड़-मरोड़कर प्रस्तुत करने की पराकाष्ठा और ऐसे राजनैतिक, सामाजिक और आर्थिक कर्ताओं द्वारा हिंसा और नफ़रत को उकसावा था जो लोकतांत्रिक चुनावों के परिणामों को नकारते हुए अविश्वास, बँटवारे और विध्वंस के माहौल को भड़काते आ रहे हैं. उसने ब्राज़ील की लोकतांत्रिक संस्थाओं के प्रति अपनी प्रतिबद्धता और विश्वास दोहराया. सार्वजनिक कमेंट और बोर्ड द्वारा परामर्श किए गए विशेषज्ञों से उन नुकसानदेह प्रभावों का संकेत मिला जो उन दावों, जो ब्राज़ील की निर्वाचन प्रणाली की निष्पक्षता पर प्रारंभिक रूप से संदेह उत्पन्न करते हैं, के कारण राजनैतिक ध्रवीकरण करने और ऑफ़लाइन राजनैतिक हिंसा करवाने पर हुए (Dangerous Speech Project [PC-11010], LARDEM - Clínica de Direitos Humanos da Pontifícia Universidade Católica do Paraná [PC-11011], Instituto Vero [PC-11015], ModeraLab [PC-11016], Campaign Legal Center [PC-11017], Center for Democracy & Technology [PC-11018], InternetLab [PC-11019] और Coalizão Direitos na Rede [PC-11020] पर प्राप्त सार्वजनिक कमेंट देखें).

9 जनवरी, 2023 को Meta ने 8 जनवरी के दंगों को अपनी खतरनाक लोग और संगठन पॉलिसी के तहत “हिंसक घटना” करार दिया और कहा कि वह “इन कृत्यों का समर्थन या उसकी प्रशंसा करने वाले कंटेंट” को हटा देगा. कंपनी ने यह भी घोषणा की कि “चुनाव से पहले” उसने “ब्राज़ील को अस्थायी रूप से उच्च जोखिम वाली लोकेशन” के रूप में चिह्नित किया था और वह “ऐसे कंटेंट को हटाती आ रही है जिसमें लोगों से हथियार उठाने या बलपूर्वक कांग्रेस, राष्ट्रपति भवन और अन्य संघीय इमारतों में घुसने का आह्वान किया जाता है.”

3 जनवरी को, जिस दिन कंटेंट पोस्ट किया गया था, एक यूज़र ने Meta के हिंसा और उकसावे से जुड़े कम्युनिटी स्टैंडर्ड का उल्लंघन होने की सूचना दी थी, जो "जबरन किसी जगह पर घुसने ... का आह्वान करना प्रतिबंधित करता है, जहाँ हिंसा या ऑफ़लाइन नुकसान के बढ़ते जोखिम की संभावना होती है." कुल मिलाकर, चार यूज़र्स ने 3 से 4 जनवरी के बीच सात बार उस कंटेंट की रिपोर्ट की. पहली रिपोर्ट के बाद, ह्यूमन मॉडरेटर ने कंटेंट का रिव्यू किया और उन्हें इसमें Meta की पॉलिसी का उल्लंघन नहीं मिला. यूज़र ने फ़ैसले के खिलाफ़ अपील की, लेकिन एक दूसरे ह्यूमन मॉडरेटर ने फ़ैसला कायम रखा. अगले दिन, अन्य छह रिपोर्ट का रिव्यू पाँच अलग-अलग मॉडरेटर्स ने किया, जिनमें से सभी ने यह पाया कि कंटेंट से Meta की पॉलिसी का उल्लंघन नहीं होता है. कंटेंट को अतिरिक्त रिव्यू के लिए पॉलिसी और विषय के एक्सपर्ट के पास नहीं भेजा गया. बोर्ड के एक सवाल के जवाब में Meta ने स्पष्ट किया कि कंटेंट का रिव्यू करने वाले सात लोग यूरोप में रहते हैं. Meta के अनुसार वे सभी धाराप्रवाह पुर्तगाली बोलते हैं और उनके पास ब्राज़ील के कंटेंट का रिव्यू करने के लिए ज़रूरी भाषाई और सांस्कृतिक विशेषज्ञता मौजूद है.

बोर्ड द्वारा इस केस को चुनने के बाद, Meta ने तय किया कि Facebook पर कंटेंट बनाए रखने संबंधी उसके बार-बार लिए गए फ़ैसले गलत थे. बोर्ड द्वारा केस चुने जाने के बाद, 20 जनवरी, 2023 को Meta ने कंटेंट हटा दिया, कंटेंट क्रिएटर के अकाउंट के खिलाफ़ एक स्ट्राइक जारी की और फ़ीचर पर 24 घंटे की लिमिट लगा दी, ताकि वे उस अवधि के दौरान नया कंटेंट न बना पाएँ. Meta के एक्शन के बावजूद, नागरिक समाज समूह Ekō द्वारा बोर्ड को सबमिट किए गए सार्वजनिक कमेंट और अन्य रिपोर्ट में इस बात पर ज़ोर दिया गया कि बोर्ड द्वारा इस केस को Meta के ध्यान में लाने के बाद भी इसी तरह का कंटेंट Facebook पर बना रहा (PC-11000).

3. ओवरसाइट बोर्ड की अथॉरिटी और स्कोप

बोर्ड को उस यूज़र के अपील करने के बाद Meta के फ़ैसले का रिव्यू करने का अधिकार है, जिसने पहले ऐसे कंटेंट की रिपोर्ट की थी जिसे छोड़ दिया गया था (चार्टर अनुच्छेद 2, सेक्शन 1; उपनियम आर्टिकल 3, सेक्शन 1). बोर्ड Meta के फ़ैसले को कायम रख सकता है या उसे बदल सकता है (चार्टर अनुच्छेद 3, सेक्शन 5) और उसका फ़ैसला कंपनी पर बाध्यकारी होता है (चार्टर अनुच्छेद 4). Meta को मिलते-जुलते संदर्भ वाले समान कंटेंट पर अपने फ़ैसले को लागू करने की संभावना का भी आकलन करना चाहिए (चार्टर अनुच्छेद 4). बोर्ड के फ़ैसलों में गैर-बाध्यकारी सलाह शामिल हो सकती हैं, जिन पर Meta को जवाब देना ज़रूरी है (चार्टर अनुच्छेद 3, सेक्शन 4; अनुच्छेद 4). जहाँ Meta, सुझावों पर एक्शन लेने की प्रतिबद्धता व्यक्त करता है, वहाँ बोर्ड उनके क्रियान्वयन की निगरानी करता है.

जब बोर्ड ऐसा केस चुनता है जहाँ Meta बाद में यह स्वीकार करता है कि उसने गलती की है, तब बोर्ड मूल फ़ैसले का रिव्यू करता है और उन पॉलिसी पैरामीटर और कंटेंट मॉडरेशन प्रोसेस के बारे में ज़्यादा जानकारी जुटाता है जिनके कारण गलती हुई. फिर बोर्ड उन समस्याओं को ठीक करवाने की कोशिश करता है जो उसे Meta की अंतर्निहित पॉलिसी या प्रोसेस में दिखाई देती हैं. बोर्ड का लक्ष्य यह भी है कि वह आगे एन्फ़ोर्समेंट की सटीकता में सुधार करने और यूज़र्स के साथ निष्पक्षता से व्यवहार करने के लिए Meta को सुझाव दे.

4. अथॉरिटी और मार्गदर्शन के सोर्स

इस केस में बोर्ड ने इन स्टैंडर्ड और पुराने फ़ैसलों को ध्यान में रखते हुए विश्लेषण किया:

I. ओवरसाइट बोर्ड के फ़ैसले:

ओवरसाइट बोर्ड के कुछ सबसे प्रासंगिक पुराने फ़ैसलों में ये शामिल हैं:

• “पूर्व राष्ट्रपति ट्रंप का सस्पेंशन” (केस का फ़ैसला 2021-001-FB-FBR): बोर्ड ने यह नोट किया कि चुनाव के संदर्भों में Meta की मानवाधिकार से जुड़ी ज़िम्मेदारियाँ यह ज़रूरी बनाती है कि वह अन्य मानवाधिकारों को होने वाले गंभीर जोखिमों को दरकिनार करते हुए राजनैतिक अभिव्यक्ति को परमिशन दे.
• “म्यांमार बॉट फ़ैसला” (केस का फ़ैसला 2021-007-FB-UA): बोर्ड ने राजनैतिक संकट की अवधियों में राजनैतिक अभिव्यक्ति के संरक्षण के महत्व को हाइलाइट किया.
• “टिग्रे कम्युनिकेशन अफ़ेयर्स ब्यूरो” (केस का फ़ैसला 2022-006-FB-MR): बोर्ड ने Meta की यह ज़िम्मेदारी भी हाइलाइट की कि वह अपने प्लेटफ़ॉर्म को हिंसा भड़काने में उपयोग किए जाने के जोखिम को कम करने के लिए, संघर्ष वाले क्षेत्रों में कंटेंट के मॉडरेशन के लिए एक सिद्धांतों पर आधारित पारदर्शी सिस्टम बनाए.
• “क्निन कार्टून” (केस का फ़ैसला 2022-001-FB-UA): बोर्ड ने Meta से इस बारे में और जानकारी माँगी कि कंटेंट को विषय विशेषज्ञों को कैसे एस्केलेट किया जाता है.

II.Meta की कंटेंट पॉलिसी:

हिंसा और उकसावे संबंधी कम्युनिटी स्टैंडर्ड

हिंसा और उकसावे संबंधी कम्युनिटी स्टैंडर्ड के तहत Meta “ऐसी लोकेशन (पूजा स्थलों, शैक्षणिक संस्थानों या मतदान केंद्रों या वोट गिने जाने के स्थान पर या चुनाव स्थल सहित, लेकिन इन तक सीमित नहीं) में बलपूर्वक घुसने के इरादे या वकालत के बयानों, कॉल टू एक्शन या महत्वाकांक्षी या सशर्त बयानों को परमिशन नहीं देता जहाँ कुछ समय के लिए हिंसा या ऑफ़लाइन नुकसान के ज़्यादा जोखिम का सिग्नल हो.” इस कम्युनिटी स्टैंडर्ड के लिए पॉलिसी बनाने का कारण Meta के प्लेटफ़ॉर्म पर दिखाई देने वाले “कंटेंट से संबंधित हो सकने वाले संभावित ऑफ़लाइन नुकसान को रोकना” है. साथ ही, Meta यह समझता है कि “लोग सामान्य रूप से गैर-गंभीर तरीकों से हिंसा की धमकी देकर या उसकी माँग करके तिरस्कार या असहमति व्यक्त करते हैं.” इसलिए Meta, कंटेंट को ऐसी स्थिति में हटाता है जहाँ कंपनी मानती है कि “जान-माल के नुकसान का वास्तविक जोखिम है या लोगों की सुरक्षा को सीधा खतरा है.” यह तय करने के लिए कि क्या धमकी भरोसा करने लायक है, Meta “भाषा और संदर्भ” पर भी विचार करता है.

बोर्ड के विश्लेषण में Meta की “अभिव्यक्ति” की प्रतिबद्धता, जिसे कंपनी “सर्वोपरि” बताती है, और उसकी “सुरक्षा” की वैल्यू से भी सहायता मिली.

III. Meta की मानवाधिकारों से जुड़ी ज़िम्मेदारियाँ

बिज़नेस और मानवाधिकारों के बारे में संयुक्त राष्ट्र संघ के मार्गदर्शक सिद्धांत (UNGP), जिन्हें 2011 में संयुक्त राष्ट्र संघ की मानवाधिकार समिति ने स्वीकृति दी है, कंपनियों की मानवाधिकार से जुड़ी ज़िम्मेदारियों का स्वैच्छिक ढाँचा तैयार करते हैं. 2021 में Meta ने मानवाधिकारों से जुड़ी अपनी कॉर्पोरेट पॉलिसी की घोषणा की, जिसमें उसने UNGP के अनुसार मानवाधिकारों का ध्यान रखने की अपनी प्रतिबद्धता दोहराई.

इस केस में बोर्ड ने Meta की मानवाधिकार से जुड़ी ज़िम्मेदारियों का विश्लेषण इन अंतरराष्ट्रीय स्टैंडर्ड को ध्यान में रखते हुए किया:

• विचार और अभिव्यक्ति की आज़ादी का अधिकार: अनुच्छेद 19 और 20, नागरिक और राजनैतिक अधिकारों पर अंतरराष्ट्रीय प्रतिज्ञापत्र ( ICCPR), सामान्य टिप्पणी सं. 34, मानवाधिकार समिति, 2011; डिजिटल युग के चुनावों पर रिसर्च पेपर 1/2019 (2019): विचार और अभिव्यक्ति की आज़ादी के बारे में संयुक्त राष्ट्र संघ का ख़ास रैपर्टर, रिपोर्ट: A/HRC/38/35 (2018) और A/74/486 (2019); रबात एक्शन प्लान, संयुक्त राष्ट्र मानवाधिकार उच्चायुक्त की रिपोर्ट: A/HRC/22/17/Add.4 (2013).
• शांतिपूर्ण तरीके से किसी जगह पर इकट्ठा होने का अधिकार: अनुच्छेद 21, ICCPR; सामान्य कमेंट सं. 37, मानवाधिकार समिति, 2020.
• जीवन का अधिकार: अनुच्छेद 6, ICCPR.
• सार्वजनिक मामलों में भागीदारी और मतदान का अधिकार: अनुच्छेद 25, ICCPR.

5. यूज़र सबमिशन

बोर्ड को अपनी अपील में कंटेंट की रिपोर्ट करने वाले यूज़र ने कहा कि “वे इस और असंख्य अन्य वीडियो की रिपोर्ट पहले ही Facebook को कर चुके हैं और जवाब यही रहता है कि वह कम्युनिटी स्टैंडर्ड का उल्लंघन नहीं करता.” यूज़र ने आगे कंटेंट की हिंसा भड़काने की संभावना को ब्राज़ील में ऐसे लोगों के कृत्यों से लिंक किया "जो चुनाव के परिणामों को स्वीकार नहीं करते हैं."

6. Meta के सबमिशन

जब बोर्ड ने इस केस पर Meta का ध्यान दिलाया, तो कंपनी ने पाया कि कंटेंट को बनाए रखने का उसका मूल फ़ैसला गलत था. Meta ने इस केस में कंटेंट का देर से हटाया जाना सही ठहराने के लिए राष्ट्रपति चुनाव के पहले, दौरान और बाद के ब्राज़ील के सामाजिक और राजनैतिक संदर्भ का एक व्यापक विश्लेषण बोर्ड को प्रस्तुत किया. बाद में उसने ऐसे संभावित कारण प्रस्तुत किए जिनसे एन्फ़ोर्समेंट में लगातार गलती “हुई होगी”.

Meta ने अपने दृष्टिकोण में कहा कि “कैप्शन और वीडियो में उच्च जोखिम वाली लोकेशन को ‘घेरने’ के एक से ज़्यादा संदर्भ अलग-अलग [हिंसा और उकसावे] की पॉलिसी के तहत ‘बलपूर्वक प्रवेश’ के लेवल को नहीं बढ़ाते.” हालाँकि, “आगे के साथ थ्री पावर्स प्लाज़ा की बैकग्राउंड में फ़ोटो के साथ ‘ब्रासीलिया आओ! मिलकर हंगामा मचाते हैं! थ्री पावर्स का घेराव करते हैं’ कहते हुए लोगों का आह्वान करना इन प्रमुख लोकेशन में बलपूर्वक प्रवेश के इरादे को स्पष्ट करता है.”

Meta के अनुसार, कंटेंट को ख़बरों में रहने लायक होने के कारण छूट नहीं दी गई, भले ही उसने यह माना कि उसके प्लेटफ़ॉर्म “राजनैतिक चर्चाओं के लिए महत्वपूर्ण स्थान हैं, ख़ास तौर पर चुनावों के आसपास.” इस केस में, “हिंसा के स्पष्ट आह्वान” को देखते हुए कंटेंट की जनहित वैल्यू, नुकसान के जोखिम से ज़्यादा नहीं थी और “उसके कारण ब्राज़ील के राष्ट्रपति के चुनाव और लुला के शपथ ग्रहण के बाद ऑफ़लाइन नुकसान की आशंका बढ़ गई.” Meta को इस बात का कोई संकेत नहीं मिला कि कंटेंट को हिंसा के आह्वान की निंदा करने या उसके खिलाफ़ जागरूकता लाने के लिए शेयर किया गया था. कंपनी ने कहा कि कंटेंट को हटाने का उसका अंतिम फ़ैसला उसकी वैल्यू और अंतरराष्ट्रीय मानवाधिकार स्टैंडर्ड के अनुसार था.

चुनावों और संकट की अन्य स्थितियों का समाधान करने के लिए, Meta ने ऐसे कई जोखिम मूल्यांकन और न्यूनीकरण उपाय तैयार किए जो अलग-अलग टीमों द्वारा लागू किए जाते हैं और वे साथ-साथ या अलग-अलग लागू किए जा सकते हैं. संबंधित जोखिम मूल्यांकन के आधार पर उनमें से हर एक के लिए तीव्रता का अलग “टियर” या “लेवल” होता है:

• इंटीग्रिटी देश प्राथमिकता पॉलिसी (अर्थात जोखिम के तहत टियर निर्धारित करने का सिस्टम), जिसका संचलान Meta में प्रोडक्ट टीम द्वारा किया जाता है, प्रोडक्ट रिसोर्स निवेश की लंबी अवधि की प्राथमिकता तय करने के लिए एक फ़्रेमवर्क देता है. Meta का कहना है कि छोटी अवधि के संकट में यह प्रोसेस काम नहीं करती, लेकिन उभरते हुए जोखिमों/खतरों के हर देश का वर्ष में दो बार मूल्यांकन करता है.
• इंटीग्रिटी प्रोडक्ट ऑपरेशन सेंटर (IPOC), अलग-अलग कंपनियों के विषय विशेषज्ञतों की क्रॉस-फ़ंक्शनल टीम को “संभावित समस्याओं और ट्रेंड का रियल टाइम में जवाब देने” के लिए एक साथ लाती है. IPOC को समस्याओं के बड़े समूह के त्वरित अाकलन, जोखिमों की पहचान और यह तय करने के लिए सेट किया जाता है कि संकट या उच्च जोखिम वाली स्थिति में उनका समाधान कैसे किया जाए. जब IPOC ख़ास तौर पर चुनावों पर फ़ोकस करते हैं, तो उन्हें इलेक्शन ऑपरेशन सेंटर कहा जाता है.
• इलेक्शन ऑपरेशन सेंटर “लोगों को मतदान करने से रोकने, स्पैम, संभावित विदेशी हस्तक्षेप या [Meta की] पॉलिसी का उल्लंघन करने वाले कंटेंट की रिपोर्ट में वृद्धि जैसी चुनाव की मुख्य समस्याओं की रियल-टाइम निगरानी” ऑफ़र करता है और “सभी अन्य सोशल नेटवर्कों और पारंपरिक मीडिया पर न्यूज़ कवरेज और चुनाव से संबंधित एक्टिविटी की निगरानी करता है.” ये सेंटर Meta को “सभी का मिला-जुला दृश्य दिखाते हैं और यह ट्रैक करने में मदद करते हैं कि किस तरह का कंटेंट वायरल हो सकता है” ताकि कंपनी इन जोखिमों पर अपनी प्रतिक्रिया में “तेज़ी” ला सके. इलेक्शन ऑपरेशन सेंटर की तैयारी के एक भाग में “संभावित खतरों – उत्पीड़न से लेकर वोटर को रोकने तक – को दूर करने के लिए परिदृश्य संबंधी गहन तैयारी और प्रभावी रूप से प्रतिक्रिया करने के लिए अग्रिम रूप से सिस्टम और प्रक्रियाएँ बनाना शामिल है.”
• अंत में संकट पॉलिसी प्रोटोकॉल वह फ़्रेमवर्क है जिसका निर्माण Meta ने उभरते संकट के लिए समयबद्ध पॉलिसी विशिष्ट प्रतिक्रियाएँ देने के लिए किया है. Meta ने यह प्रोटोकॉल, पूर्व राष्ट्रपति ट्रंप का सस्पेंशन केस में ओवरसाइट बोर्ड की सिफ़ारिश के जवाब में बनाया. इस प्रोटोकॉल के तहत, Meta संकट से जुड़ी तीन कैटेगरी का उपयोग करता है जिसके आधार पर जोखिमों को कम करने के लिए उपायों के किसी दिए गए समूह का उपयोग करती है. कैटेगरी 1 संकट, उदाहरण के लिए, वह संकट होता है जो “कानून लागू करने वाली संस्था या सैन्य एक्टिविटी में वृद्धि” या “उच्च जोखिम वाले योजनाबद्ध चुनाव या फ़्लैशपॉइंट ईवेंट” द्वारा ट्रिगर होता है.

2022 के ब्राज़ील के आम चुनाव की निगरानी करने वाले इलेक्शन ऑपरेशन सेंटर, सितंबर से नवंबर 2022 के बीच कई मौकों पर चलाया गया, जिसमें चुनाव के पहले और दूसरे चरणों के दौरान चलाना शामिल है. हालाँकि, 3 जनवरी, 2023 को कंटेंट के पोस्ट किए जाने के समय कोई इलेक्शन ऑपरेशन सेंटर (या IPOC) नहीं था. Meta ने “चुनाव के बाद की अशांति” को संकट पॉलिसी प्रोटोकॉल के तहत संकट चिह्नित किया ताकि कंपनी यह आकलन कर सके कि कंटेंट से जुड़े जोखिमों को कैसे कम किया जाए.

Meta के प्लेटफ़ॉर्म पर ब्राज़ील के चुनावों के पहले, दौरान और बाद में डिजिटल ट्रेंड से जुड़े बोर्ड के सवाल के जवाब में कंपनी ने कहा कि “चुनाव की तैयारी और उस पर प्रतिक्रिया के भाग के रूप में, कई टीमों ने चुनाव से संबंधित कंटेंट के ट्रेंड की पहचान की और उन्हें [उसकी] जोखिम कम करने की स्ट्रेटेजी में शामिल किया गया.” इनमें शामिल है: “(i) उकसावे से जुड़े जोखिम या हिंसा के खतरों का फैलना; (ii) गलत जानकारी; और (iii) बिज़नेस इंटीग्रिटी, जिसमें नुकसानदेह कंटेंट वाले विज्ञापन के संभावित दुरुपयोग से जुड़े जोखिम... या कैंपेन को इस तरह से चलाने की कोशिशें शामिल हैं जो सार्वजनिक चर्चा में हेरफेर करे या उसे गलत दिशा में ले जाए.” Meta ने कहा कि “अन्य कारकों के अलावा परिणामों से प्रोडक्ट और पॉलिसी की कई कमियाँ जानने में मदद मिली.” हालाँकि, Meta को पास विशिष्ट दावों (जैसे चुनाव से जुड़ी धोखाधड़ी, ब्रासीलिया पहुँचने के आह्वान या संघीय इमारतों में बलपूर्वक घुसने के आह्वान, सैन्य हस्तक्षेप के आह्वान) के बारे में “व्यापकता डेटा” नहीं है क्योंकि सामान्य तौर पर कंपनी के एन्फ़ोर्समेंट सिस्टम “उन पॉलिसी के आधार पर निगरानी और ट्रैक करने के लिए बनाए गए हैं जिनका वे उल्लंघन करते हैं.”

बोर्ड ने Meta से लिखित में 15 सवाल पूछे, जिनमें 5 फ़ॉलो-अप सवाल शामिल हैं जिन्हें इलेक्शन ऑपरेशन सेंटर के काम करने की मौखिक जानकारी देने के बाद पूछा गया था. सवाल इनसे संबंधित थे: Meta के प्लेटफ़ॉर्म पर समन्वित व्यवहार का समाधान करने के लिए उपलब्ध पॉलिसी लीवर्स; 2022 के ब्राज़ील के चुनावों से पहले पहचाने गए जोखिम; ब्राज़ील के चुनाव के लिए इलेक्शन ऑपरेशन सेंटर और संकट पॉलिसी प्रोटोकॉल के बीच संबंध; वैधानिक राजनैतिक संगठन और नुकसानदेह समन्वित एक्शन के बीच Meta किस तरह अंतर करता है; ब्राज़ील में चुनावों के पहले, दौरान और बाद में Meta के प्लेटफ़ॉर्म पर डिजिटल ट्रेंड; और केस के कंटेंट का रिव्यू करने वाले कंटेंट मॉडरेटर्स की भाषा संबंधी योग्यता.

Meta ने 13 सवालों के जवाब दिए. Meta ने दो सवालों के जवाब नहीं दिए, एक राजनैतिक विज्ञापन और गलत जानकारी से संबंधित था और दूसरा 2022 के ब्राज़ील के चुनावों के लिए इलेक्शन ऑपरेशन सेंटल के कार्यशील रहते समय हटाए गए पेजों और अकाउंट की संख्या से संबंधित था. Meta ने बोर्ड को यह भी बताया कि पहले ही सार्वजनिक रूप से शेयर किए जरा चुके कंटेंट हटाने की संख्या के अलावा, कंपनी के पास ब्राज़ील के 2022 के चुनाव के संदर्भ में कंटेंट के मॉडरेशन का ज़्यादा सामान्य डेटा बोर्ड से शेयर करने के लिए तैयार रूप में उपलब्ध नहीं था. Meta ने आगे यह बताया कि कंपनी, सफलता के मीट्रिक और बेंचमार्क के दिए गए समूह की तुलना में चुनावों के संदर्भ में उसके परफ़ॉर्मेंस का आकलन नहीं करती. बोर्ड के सवालों के जवाब देते समय Meta ने रिसोर्स की प्राथमिकता की ज़रूरत जाहिर की और कहा कि केस के फ़ैसले के लिए माँगे गए डेटा को समयसीमा के भीतर उपलब्ध कराना संभव नहीं होगा.

7. पब्लिक कमेंट

ओवरसाइट बोर्ड को लोगों की ओर से इस केस के लिए प्रासंगिक 18 कमेंट मिले. ग्यारह कमेंट लैटिन अमेरिका और कैरेबियन से, तीन अमेरिका और कनाडा से, दो मध्य पूर्व और उत्तरी अफ़्रीका से, एक एशिया पैसिफ़िक और ओशियाना से और एक मध्य और दक्षिण एशिया से आए थे. इसके अलावा, फ़रवरी 2023 में, बोर्ड ने “कंटेंट मॉडरेशन और राजनैतिक बदलाव” विषय पर ब्राज़ील और लैटिन अमेरिका के भागीदारों के साथ एक राउंडटेबल मीटिंग आयोजित की.

सबमिशन में इन विषयों पर बात की गई थी: 2022 के ब्राज़ील के चुनाव के पहले, दौरान और बाद में सोशल मीडिया प्लेटफ़ॉर्म पर चुनाव संबंधी धोखाधड़ी से जुड़े नुकसानदेह दावों का इकट्ठा होना और सैन्य तख्तापलट के आह्वान; चुनाव संबंधी गलत जानकारी; Meta के चुनाव की निष्पक्षता संबंधी प्रयास; सत्ता के लोकतांत्रिक हस्तांतरण के संदर्भ में यूज़र्स के अधिकारी की रक्षा की Meta की ज़िम्मेदारी; चुनाव को नकारने और राजनैतिक हिंसा के बीच संबंध; और कंटेंट के रिव्यूअर्स को स्थानीय राजनैतिक संदर्भ की जानकारी होने का महत्व.

इस केस को लेकर लोगों की ओर से सबमिट किए गए कमेंट देखने के लिए कृपया यहाँ क्लिक करें.

8. ओवरसाइट बोर्ड का विश्लेषण

बोर्ड ने इस बात का परीक्षण किया कि क्या Meta की कंटेंट पॉलिसी, मानवाधिकार ज़िम्मेदारियों और वैल्यू का विश्लेषण करके इस कंटेंट को हटा दिया जाना चाहिए. इस केस का चयन इसलिए किया गया क्योंकि इससे बोर्ड को यह आकलन करने में मदद मिलती है कि Meta किस तरह अपने प्लेटफ़ॉर्म पर शांतिपूर्ण आयोजन और हिंसक कृत्य के उकसावे या समन्वयन के बीच अंतर करता है, ख़ास तौर पर सत्ता के हस्तांतरण के संदर्भ में. इसके अलावा, इस केस से बोर्ड को इस बात पर विचार करते हुए Meta के चुनाव की निष्पक्षता संबंधी प्रयासों का अधिक सामान्य परीक्षण करने, और विशेष रूप से ब्राज़ील में, का अवसर भी मिलता है कि चुनाव के बाद का समय चुनाव की निष्पक्षता के लिए संघर्ष करने और यह गारंटी देने के लिए महत्वपूर्ण होता है कि चुनाव की विधिसम्मत परिणामों का सम्मान हो. इसलिए बोर्ड ने यह पाया कि Meta के चुनाव की निष्पक्षता संबंधी प्रयासों में चुनाव संबंधी प्रक्रिया और चुनाव के बाद का समय शामिल होना चाहिए क्योंकि चुनाव के बाद भी हेरफेर हो सकते हैं, चुनाव संबंधी गलत जानकारी फैल सकती है और हिंसा के खतरे हो सकते हैं. यह केस बोर्ड की "चुनाव और नागरिक स्थान" रणनीतिक प्राथमिकता के तहत आता है.

8.1 Meta की कंटेंट पॉलिसी का अनुपालन

I. कंटेंट नियम

हिंसा और उकसावा

बोर्ड ने पाया कि इस केस का कंटेंट, हिंसा और उकसावे के कम्युनिटी स्टैंडर्ड के उस प्रतिबंध का उल्लंघन करता है जिसके अनुसार उच्च जोखिम वाली कुछ ख़ास लोकेशन में बलपूर्वक घुसने का आह्वान करने वाले कंटेंट की मनाही है. बोर्ड ने पाया कि भले ही चुनाव संबंधी प्रक्रियाओं, चुनाव के बाद के समय सहित, में Meta की “अभिव्यक्ति” की वैल्यू ख़ास तौर पर प्रासंगिक है, लेकिन इस केस में Meta की “सुरक्षा” की वैल्यू को बढ़ावा देने के लिए कंटेंट को हटाना ज़रूरी था.

उच्च जोखिम वाली लोकेशन में बलपूर्वक प्रवेश के आह्वान की मनाही करने वाली पॉलिसी लाइन के उल्लंघन के लिए, दो “उच्च जोखिम” वाले चिह्न ज़रूरी हैं. पहला, लोकेशन को “उच्च जोखिम” वाली माना गया हो और दूसरा वह किसी ऐसे क्षेत्र में या उसके आसपास हो जिसे अलग से “अस्थायी रूप से उच्च जोखिम वाली लोकेशन” के रूप में चिह्नित किया गया हो. Meta की ओर से उसके कंटेंट रिव्यूअर्स को यह विशेष निर्देश है कि “अस्थायी रूप से उच्च जोखिम वाली लोकेशन के भीतर उच्च जोखिम वाली लोकेशन में बलपूर्वक प्रवेश के कॉल टू एक्शन, इरादे के कथन, उसकी वकालत करने वाले कथन और महत्वाकांक्षी कथनों को हटा दिया जाए.”

Meta ने “उच्च जोखिम वाली लोकेशन” को ऐसी “लोकेशन के रूप में परिभाषित किया है जो हिंसा का लक्ष्य होने की संभावना के कारण स्थायी या अस्थायी रूप से उच्च जोखिम वाली मानी जाती है.” उच्च जोखिम वाली स्थायी लोकेशन में “उच्च जोखिम वाले लोगों या उनके परिवारों के काम करने या रहने की जगहें (जैसे कि किसी न्यूज़ संगठन के मुख्यालय, मेडिकल सेंटर, लेबोरेट्री, पुलिस स्टेशन, सरकारी कार्यालय वगैरह); स्थानीय, क्षेत्रीय और राष्ट्रीय चुनावों के दौरान वोटर रजिस्ट्रेशन सेंटर, मतदान केंद्र, मतगणना केंद्र के रूप में उपयोग होने वाली जगहें (जैसे कि स्थानीय लाइब्रेरी, सरकारी इमारत, सामाजिक या नागरिक केंद्र वगैरह) या चुनाव की व्यवस्था के लिए उपयोग होने वाली जगहें” शामिल हैं. Meta के अनुसार, ब्राज़ील की कांग्रेस, सुप्रीम कोर्ट और राष्ट्रपति के कार्यालय स्थायी “उच्च जोखिम वाली लोकेशन” हैं क्योंकि वहाँ उच्च जोखिम वाले व्यक्ति या उनके परिवार के लोग काम करते हैं या रहते हैं.”

व्यापक क्षेत्र या समीपता के “अस्थायी उच्च जोखिम वाली लोकेशन” के अतिरिक्त निर्धारण में “ऐसी लोकेशन आती है जिसे [Meta] द्वारा एक समयबद्ध अवधि के लिए अस्थायी लोकेशन के रूप में चिह्नित किया गया हो.” किसी स्थान को कई कारणों के आधार पर अस्थायी उच्च जोखिम वाली लोकेशन के रूप में चिह्नित किया जाता है. इन कारणों में ये शामिल हैं: “क्या पिछले 7 दिनों के दौरान लोकेशन में अधिक गंभीरता वाली हिंसा हुई है;” “लोकेशन पर नागरिक अशांति या कोर्ट के विवादास्पद फ़ैसले के संबंध में हिंसा के अधिक जोखिम के साक्ष्य हैं;” “कानून लागू करने वाली संस्था, आंतरिक सुरक्षा रिपोर्ट या विश्वसनीय पार्टनर का यह आकलन कि लोकेशन पर तात्कालिक हिंसा होने की संभावना है;” “लोकेशन पर नियोजित या सक्रिय विरोध प्रदर्शन के साक्ष्य जहाँ आयोजक ने विरोध प्रदर्शन की लोकेशन पर हथियार उपयोग करने या लाने का आह्वान किया हो;” और “आंतरिक टीमों का यह आकलन कि सुरक्षा संबंधी चिंताओं का महत्व, आत्मरक्षा और आत्मनिर्णय की अभिव्यक्ति के संभावित प्रभाव से अधिक है.” अस्थायी उच्च जोखिम वाली लोकेशन चिह्नित हो जाने पर, उसे Meta की आंतरिक टीमों के साथ शेयर कर दिया जाता है. भले ही ये चिह्नांकन सीमित समय के लिए होते हैं, कंपनी बहुत कम मामलों में ही यह समयसीमा बढ़ाती है. Meta के अनुसार, अस्थायी उच्च जोखिम वाली लोकेशन चिह्नित करने पर कंटेंट की “यूज़र द्वारा रिपोर्ट किए जाने से पहले” उसका स्वतः संज्ञान लेकर रिव्यू किया जाता है.

2022 के चुनावों के लिए, Meta ने पूरे ब्राज़ील को अस्थायी उच्च जोखिम वाली लोकेशन के रूप में चिह्नित किया था. जारी नागरिक और चुनाव संबंधी अशांति से संबद्ध हिंसा के बढ़े हुए जोखिम के Meta के आकलन के आधार पर शुरुआत में यह निर्धारण 1 सितंबर, 2022 को किया गया था. इस निर्धारण की अवधि बढ़ाकर अक्टूबर 2022 के चुनाव और उसके परिणामों को दायरे में लाने के लिए 22 फ़रवरी, 2023 तक कर दी गई. जब इस केस का कंटेंट पोस्ट किया गया था, तब इस निर्धारण की अवधि चल रही थी.

Meta के अनुसार, पॉलिसी के उल्लंघन के लिए कंटेंट के लिए दोनों निर्धारण मौजूद होने चाहिए, जो विश्लेषण में शामिल पोस्ट के मामले में सही था. Meta के अनुसार, दो परतों वाली आवश्यकता यह सुनिश्चित करने में मदद करती है कि विरोध प्रदर्शन के आह्वानों को सिरे से ही दबा न दिया जाए और यह कि सिर्फ़ हिंसा के परिणाम की संभावना वाले कंटेंट को ही हटाया जाए.

उपरोक्त को देखते हुए बोर्ड, राजनैतिक हिंसा के उच्च जोखिम के समय कंटेंट को प्लेटफ़ॉर्म पर बनाए रखने के Meta के शुरुआती फ़ैसलों को उसके खुद के स्टैंडर्ड का उल्लंघन मानता है, क्योंकि कंटेंट में स्पष्ट रूप से ब्रासीलिया में थ्री पावर्स प्लाज़ा, जो ब्राज़ील की अस्थायी रूप से उच्च जोखिम वाली लोकेशन में स्थित उच्च जोखिम वाली लोकेशन है, में स्थित सरकारी इमारतों में बलपूर्वक घुसने का स्पष्ट आह्वान किया गया था.

II. एन्फ़ोर्समेंट एक्शन

Meta के अनुसार, सात ऐसे ह्यूमन मॉडरेटर्स ने कंटेंट का रिव्यू किया था जिनके पास ज़रूरी भाषाई और सांस्कृतिक विशेषज्ञता थी. Meta, शुरुआती रिव्यू करने वाले रिव्यूअर्स से उनके फ़ैसले के पीछे के कारण रिकॉर्ड करने के लिए नहीं कहता. जब बोर्ड ने यह केस चुना, तो Meta की आंतरिक टीमों ने एक विश्लेषण किया जिसमें यह निष्कर्ष निकाला गया कि तीन संभावित कारणों से एन्फ़ोर्समेंट में बार-बार गलती “हुई होगी”: (1) रिव्यूअर्स ने यूज़र के इरादे (कॉल टू एक्शन) को शायद इसलिए गलत समझ लिया होगा क्योंकि उसमें विराम चिह्न नहीं था और कंटेंट को घटना के बारे में एक तटस्थ कमेंट मान लिया गया; या (2) विभिन्न सोर्स से उच्च जोखिम वाली घटनाओं से संबंधित कंटेंट के रखरखाव के बारे में कई अपडेट होने से सही गाइडलाइन होने के बावजूद रिव्यूअर्स ने गलत फ़ैसला लिया; या (3) रिव्यूअर्स को वीडियो में उल्लंघन दिखाई नहीं दिया.

1 और 3 कारण से पता चलता है कि मॉडरेटर्स ने कंटेंट का रिव्यू सावधानीपूर्वक नहीं किया और न ही पूरे वीडियो को देखा, क्योंकि उसमें Meta की पॉलिसी का उल्लंघन स्पष्ट दिखाई दे रहा था. हालाँकि, Meta ने इस बात का कोई स्पष्टीकरण नहीं दिया कि कंटेंट को आगे के विश्लेषण के लिए विषय विशेषज्ञों और पॉलिसी विशेषज्ञों को एस्केलेट क्यों नहीं किया गया. कंटेंट को इस तथ्य के बाजवूद एस्केलेट नहीं किया गया कि वह एक ऐसे देश से आया है जो कंटेंट को पोस्ट और रिपोर्ट किए जाते समय उस पॉलिसी लाइन के संबंध में एक “अस्थायी उच्च जोखिम वाली लोकेशन” के रूप में चिह्नित था जो इस निर्धारण के समय ही लागू होती है. कंटेंट को ब्राज़ील के समग्र ऑनलाइन और ऑफ़लाइन संदर्भ के बावजूद भी एस्केलेट नहीं किया गया था (सेक्शन 2 देखें).

Meta पहले ही बोर्ड को बता चुका है कि कंटेंट रिव्यूअर कभी-कभी वीडियो को पूरा नहीं देख पाते हैं. इसके बाजवूद, हिंसा के अधिक जोखिम की स्थितियों में, जहाँ विशिष्ट पॉलिसी लीवर्स ट्रिगर हुए हैं, बोर्ड यह अपेक्षा करेगा कि कंटेंट रिव्यूअर्स पूरे वीडियो को देखें और संभावित रूप से उल्लंघन करने वाले कंटेंट को एस्केलेट करें.

कारण 2 के संबंध में, हालाँकि Meta ने कहा कि वह अस्थायी उच्च जोखिम वाली लोकेशन में शुरुआती रिव्यू करने वाले रिव्यूअर्स को सूचित करता है, कंपनी यह मानती है कि इस और अन्य चुनाव विशिष्ट जोखिम अल्पीकरण उपायों की उसके समाजीकरण में संभावित कमियाँ हैं. इस तरह की जानकारी के समाजीकरण से कंटेंट रिव्यूअर्स को इस केस के वीडियो जैसे समस्या वाले कंटेंट को पहचानने, हटाने या एस्केलेट करने में मदद मिलती है. यह तथ्य कि उस समय ब्राज़ील में अलग-अलग मूल्यांकन और अल्पीकरण उपाय मौजूद थे, बताता है कि कंपनी के चुनाव की निष्पक्षता संबंधी प्रयासों को ज़्यादा प्रभावी बनाने के लिए संभवतः उन्हें बेहतर तरीके से व्यक्त करना होगा और उनकी चेन ऑफ़ कमांड स्पष्ट होनी चाहिए.

कंटेंट को आखिरकार हटाने के Meta के फ़ैसले के बावजूद, बोर्ड इस बात से अत्यंत चिंतित है कि कंटेंट को पोस्ट करने के समय ब्राज़ील में नागरिक अशांति और 8 जनवरी के दंगों के कुछ सप्ताह और महीनों पहले मिलते-जुलते ऑनलाइन कंटेंट के व्यापक फैलाव के बाद भी, Meta के कंटेंट मॉडरेटर्स ने अपने आकलन में इस कंटेंट को बार-बार उल्लंघन नहीं करने वाला बताया और संदर्भ से जुड़े संकेत मौजूद होने पर भी वे उसे आगे रिव्यू के लिए एस्केलेट करने में विफल रहे. इन चिंताओं के साथ यह तथ्य भी जुड़ा है कि जब बोर्ड ने ब्राज़ील के चुनावों के पहले, उनके दौरान और उनके बाद में Meta से चुनाव से संबंधित विशिष्ट दावों के बारे में जानकारी माँगी, तो कंपनी ने कहा कि उसके पास ऐसे प्रसार का कोई डेटा नहीं है (सेक्शन 6 देखें). इस केस में शामिल कंटेंट को अंततः दो से ज़्यादा सप्ताह बाद हटाया गया और इस समय तक वह उल्लंघन करने वाली घटना हो चुकी थी जिसके लिए लोगों का आह्वान किया गया था, वह भी तब किया गया जब बोर्ड ने Meta का ध्यान इस केस की ओर आकर्षित किया.

Meta ने ब्राज़ील में हिंसा का ज़्यादा जोखिम स्वीकार किया, पहले कंटेंट को पोस्ट किए जाने के पहले, दौरान और बाद में विभिन्न जोखिम मूल्यांकन उपाय अपनाकर और बाद में कंटेंट को अंततः हटाने का फ़ैसला करके बोर्ड के सामने. फिर भी, कंपनी के रिव्यूअर्स लगातार कम्युनिटी स्टैंडर्ड को पर्याप्त रूप से एन्फ़ोर्स करने में विफल रहे, ख़ास तौर पर अस्थायी उच्च जोखिम वाली लोकेशन के रूप में चिह्नित होने के कारण ट्रिगर होने वाले हिंसा और उकसावे के कम्युनिटी स्टैंडर्ड की पॉलिसी लाइन को. यह तथ्य कि संभावित उल्लंघन स्पष्ट होने के बावजूद, बोर्ड द्वारा केस चुने जाने से पहले कंटेंट को एस्केलेट नहीं किया गया था और यह कि उस समय Facebook पर उसी तरह का कंटेंट फैलाया जा रहा था (सेक्शन 2 और 8.2 देखें), बताता है कि एस्केलेशन चैनल संभवतः पर्याप्त रूप से स्पष्ट और प्रभावी नहीं हैं (क्निन कार्टून केस देखें). इससे यह भी पता चलता है कि Meta को चुनावों से जुड़े अपने सुरक्षा उपायों को बेहतर बनाने की ज़रूरत है. जैसा कि बोर्ड ने पिछले फ़ैसलों में कहा है, शुरुआती रिव्यू करने वाले रिव्यूअर्स के पास पर्याप्त भाषाई और संदर्भात्मक ज्ञान होना ज़रूरी है और उनके पास संभावित रूप से उल्लंघन करने वाले कंटेंट को एस्केलेट करने के लिए ज़रूरी टूल और चैनल होने चाहिए.

III. पारदर्शिता

बोर्ड मानता है कि Meta ने 2022 के ब्राज़ील के चुनावों की निष्पक्षता की सुरक्षा के लिए महत्वपूर्ण प्रयास किए हैं. अगस्त 2022 में, जब कैंपेन की अवधि औपचारिक रूप से शुरू हुई, Meta ने देश में चुनाव से संबंधित अपने नए कामों की सार्वजनिक घोषणा की. कंपनी ने ब्राज़ील के प्रधान निर्वाचक न्यायालय के साथ मिलकर काम किया और Facebook और Instagram पर चुनाव संबंधी पोस्ट में लेबल जोड़ा जिससे “लोग निर्वाचक न्याय वेबसाइट पर मौजूद भरोसेमंद जानकारी की ओर निर्देशित हुए.” Meta के अनुसार, इससे वेबसाइट को देखे जाने की संख्या में “10 गुना वृद्धि” हुई. इस पार्टनरशिप से प्रधान निर्वाचक न्यायालय को उल्लंघन करने वाले कंटेंट की रिपोर्ट सीधे Meta को करने की सुविधा भी मिली. Meta ने कंपनी के कम्युनिटी स्टैंडर्ड समझाने और Facebook और Instagram से गलत जानकारी को हटाने के तरीकों की जानकारी देने के लिए पूरे ब्राज़ील के निर्वाचन अधिकारियों के लिए ट्रेनिंग सेशन आयोजित किए. Meta ने “आगामी चुनावों की वैधानिकता पर संदेह जताने” वाले पेड विज्ञापन भी प्रतिबंधित किए. इसके अलावा, कंपनी ने WhatsApp पर मैसेज को फ़ॉरवर्ड करने की लिमिट भी तय की ताकि कोई मैसेज एक बार में एक ही WhatsApp ग्रुप को फ़ॉरवर्ड किया जा सके. अंत में, Meta ने विभिन्न कम्युनिटी स्टैंडर्ड, जैसे हिंसा और उकसावा, नफ़रत फैलाने वाली भाषा और धमकाना और उत्पीड़न पॉलिसी, के तहत हटाए गए कंटेंट की संख्या और चुनाव संबंधी लेबल पर क्लिक-थ्रू की कुल संख्या भी रिपोर्ट की जिनसे यूज़र्स ब्राज़ील के चुनावों के बारे में प्रामाणिक जानकारी तक पहुँचे.

इसके बावजूद, 2022 के ब्राज़ील के चुनावों के संदर्भ में कंपनी के चुनाव की निष्पक्षता संबंधी प्रयासों के बारे में बोर्ड द्वारा पूछे जाने पर, Meta ने कहा कि कंपनी के पास उसके चुनाव की निष्पक्षता संबंधी प्रयासों की सफलता को सामान्य तौर पर मापने के लिए कोई ख़ास मीट्रिक नहीं है और उसके पास कंटेंट को हटाने, देखने और चुनाव संबंधी लेबल पर क्लिक-थ्रू का डेटा ही है. बोर्ड ने यह भी नोट किया कि ट्रांसपेरेंसी सेंटर में Meta के प्रकटन और बोर्ड के साथ आदान-प्रदान से यह पूरी तरह स्पष्ट नहीं है कि कंपनी के अलग-अलग जोखिम मूल्यांकन उपाय और प्रोटोकॉल किस तरह चलते हैं (ऊपर सेक्शन 6 देखें), अलग-अलग या साथ में. Meta को इन अलग-अलग प्रोटोकॉल के बीच संपर्क बिंदु स्पष्ट करने चाहिए, इस बात को बेहतर तरीके से समझाना चाहिए कि वे एक-दूसरे से किस तरह अलग हैं और कंटेंट पॉलिसी का एन्फ़ोर्समेंट उनसे ठीक-ठीक किस तरह प्रभावित होता है.

बोर्ड को प्राप्त कई सार्वजनिक कमेंट (Ekō [PC-11000], Dangerous Speech Project [PC-11010], ModeraLab [PC-11016], Campaign Legal Center [PC-11017], InternetLab [PC-11019] और Coalizão Direitos na Rede [PC-11020]) में कहा गया कि ब्राज़ील में चुनावों की सुरक्षा के लिए कंपनी द्वारा किए गए प्रयास पर्याप्त नहीं थे. भले ही बोर्ड बड़े पैमाने पर कंटेंट को मॉडरेट करने से जुड़ी चुनौतियों को समझता है, लेकिन चुनाव और उच्च जोखिम वाले अन्य संदर्भों में मानवाधिकारों पर पड़ने वाले प्रतिकूल प्रभावों को रोकने, उन्हें कम करने और उनका समाधान करने की Meta की ज़िम्मेदारी ज़्यादा होती है और इसके लिए यह ज़रूरी है कि कंपनी उनसे सुरक्षा के प्रभावी इंतज़ाम करे. इस केस में एन्फ़ोर्समेंट की गलती, एक अकेली घटना नहीं दिखाई देती. Ekō (PC-11000) के अनुसार, इसी तरह का कंटेंट 8 जनवरी के दंगों के बाद भी Facebook पर बना रहा.

यह आकलन करने के लिए ज़्यादा पारदर्शिता की ज़रूरत है कि क्या Meta के उपाय पूरे चुनाव के संदर्भ में यथोचित और पर्याप्त हैं. बोर्ड के रिव्यू के लिए डेटा उपलब्ध न होने के कारण बोर्ड इस बात का पर्याप्त आकलन नहीं कर पाया कि क्या इस केस में एन्फ़ोर्समेंट की गलतियाँ और विभिन्न स्टेकहोल्डर्स द्वारा व्यक्त की गई चिंताएँ, कंपनी की पॉलिसी और एन्फ़ोर्समेंट के तरीकों में प्रणालीगत समस्या की सूचक हैं. इस कारण बोर्ड, Meta को इस संबंध में ज़्यादा विशिष्ट सुझाव भी नहीं दे पाया कि चुनाव की निष्पक्षता संबंधी प्रयासों को वैश्विक रूप से और बेहतर कैसे बनाया जाए.

Meta का वर्तमान डेटा प्रकटन, जो मुख्य रूप से कंटेंट हटाने पर केंद्रित है, चुनाव की निष्पक्षता के उन उपायों के परिणाम की पूरी जानकारी नहीं देता जिन्हें कंपनी किसी दिए गए मार्केट में लागू करती है. उदाहरण के लिए, उनमें चुनाव के संदर्भ में महत्वपूर्ण पॉलिसी के संबंध में एन्फ़ोर्समेंट की सटीकता शामिल नहीं है, जैसे हिंसा और उकसावे संबंधी कम्युनिटी स्टैंडर्ड, और न ही उनमें उन राजनैतिक विज्ञापनों की जानकारी है जिन्हें शुरुआत में Meta ने स्वीकृति दी लेकिन बाद में उन्हें अपनी पॉलिसी का उल्लंघन करने वाला पाया. इन जैसे मीट्रिक के साथ सांख्यिकीय ऑडिट करने से Meta न सिर्फ़ गलतियों को पलट पाएगा, बल्कि इस बात का ट्रैक भी रख पाएगा कि उसके उपाय तब कितने प्रभावी है जब उन्हें सही तरीके से लागू करना सबसे ज़्यादा महत्वपूर्ण है.

इस तरह की जानकारी के बिना, न तो बोर्ड और न ही लोग, Meta के चुनाव की निष्पक्षता से जुड़े प्रयासों की प्रभावशीलता का ज़्यादा व्यापक रूप से मूल्यांकन कर सकते हैं. इस बात पर विचार करना महत्वपूर्ण है कि राजनैतिक हिंसा की कई घटनाएँ अक्सर चुनाव संबंधी विवादों के परिणामस्वरूप होती हैं या उनके कारण भड़कती हैं, जहाँ नुकसानदेह कंटेंट ऑफ़लाइन हिंसा से पहले या हिंसा के समय ऑनलाइन मौजूद रहा (“म्यांमार बॉट” (2021-007-FB-UA), “ टिग्रे कम्युनिकेशन अफ़ेयर्स ब्यूरो” (2022-006-FB-MR) और “ पूर्व राष्ट्रपति ट्रंप का सस्पेंशन” (2021-001-FB-FBR) देखें).

इसलिए, बोर्ड ने पाया कि Meta को चुनाव की निष्पक्षता के लिए कंपनी के प्रयासों के मूल्यांकन के लिए और इस विषय पर लोगों को रिपोर्ट करने के लिए एक फ़्रेमवर्क बनाना चाहिए. इसका लक्ष्य कंपनी को ऐसा प्रासंगिक डेटा उपलब्ध कराना है जो उसके कंटेंट मॉडरेशन सिस्टम को समग्र रूप से बेहतर बनाए और कंपनी को यह जानकारी दे कि निर्वाचन के संदर्भों में उसके रिसोर्स का सबसे अच्छा उपयोग कैसे किया जाए. इससे Meta को प्रभावी रूप से स्थानीय जानकारी जुटाने और लोकतांत्रिक प्रक्रियाओं में बाधा डालने के लिए बनाए गए समन्वित ऑनलाइन और ऑफ़लाइन कैंपेन को पहचानने और उनका मूल्यांकन करने में मदद मिलती है. इसके अलावा, इस फ़्रेमवर्क से Meta को स्थायी फ़ीडबैक चैनल बनाने और निर्वाचन प्रक्रिया की औपचारिक समाप्ति के बाद भी राजनैतिक हिंसा जारी रहने पर किए जाने वाले उपाय तय करने में भी मदद मिलनी चाहिए. अंत में, बोर्ड ने नोट किया कि, जैसा कि ऊपर बताया गया है, चुनाव संबंधित संदर्भों में Meta के विभिन्न जोखिम मूल्यांकन उपायों और प्रोटोकॉल, जैसे IPOC, इंटीग्रिटी देश प्राथमिकता पॉलिसी और संकट पॉलिसी प्रोटोकॉल (ऊपर सेक्शन 6 देखें), के बीच के तालमेल का रिव्यू करना होगा और उन्हें लोगों को बेहतर तरीके से समझाना होगा.

8.2 Meta की मानवाधिकारों से जुड़ी ज़िम्मेदारियों का अनुपालन

अभिव्यक्ति की आज़ादी (अनुच्छेद 19 ICCPR)

विचारों की आज़ादी और अभिव्यक्ति का अधिकार, “लोकतांत्रिक समाज का एक केंद्रीय स्तंभ है और वह मुक्त और निष्पक्ष निर्वाचन प्रक्रियाओं की गारंटी देता है और वह सार्वजनिक और राजनैतिक चर्चाओं के लिए सार्थक है और उनका एक लक्षण है” (अभिव्यक्ति की आज़ादी पर संयुक्त राष्ट्र का विशेष रैपर्टर, रिसर्च पेपर 1/2019, पे. 2). ICCPR के अनुच्छेद 19 में अभिव्यक्ति की विस्तृत सुरक्षा का प्रावधान है, ख़ास तौर पर राजनैतिक अभिव्यक्ति के लिए. जहाँ राज्य, अभिव्यक्ति पर प्रतिबंध लगाता है, वहाँ प्रतिबंधों को वैधानिकता, औचित्य और आवश्यकता व आनुपातिकता की शर्तों को पूरा करना चाहिए (अनुच्छेद 19, पैरा. 3, ICCPR). इन आवश्यकताओं को अक्सर “तीन भागों वाला परीक्षण” कहा जाता है. बोर्ड इस फ़्रेमवर्क का उपयोग Meta की मानवाधिकार संबंधी स्वैच्छिक प्रतिबद्धताओं को समझने के लिए करता है.

I. वैधानिकता (नियमों की स्पष्टता और सुलभता)

अंतरराष्ट्रीय मानवाधिकार कानून के तहत वैधानिकता के सिद्धांत के अनुसार अभिव्यक्ति पर रोक लगाने वाले नियम स्पष्ट और सार्वजनिक रूप से उपलब्ध होने चाहिए (सामान्य कमेंट सं. 34, पैरा. 25). सोशल मीडिया कंपनियों के नियमों पर लागू होने के संबंध में, अभिव्यक्ति की आज़ादी पर संयुक्त राष्ट्र के विशेष रैपर्टर में कहा गया है कि उन्हें स्पष्ट और विशिष्ट होना चाहिए (A/HRC/38/35, पैरा. 46). Meta के प्लेटफ़ॉर्म का उपयोग करने वाले लोगों के लिए ये नियम एक्सेस करने और समझने लायक होने चाहिए और उनके एन्फ़ोर्समेंट के लिए कंटेंट रिव्यूअर्स को स्पष्ट मार्गदर्शन दिया जाना चाहिए.

बोर्ड ने पाया कि, जैसा कि इस केस के तथ्यों पर लागू होता है, कुछ ख़ास उच्च जोखिम वाली लोकेशन में बलपूर्वक प्रवेश का आह्वान करने वाले कंटेंट के लिए Meta का प्रतिबंध स्पष्ट रूप से बताया गया है और उन सटीक परिस्थितियों के बारे में भी स्पष्ट रूप से बताया गया है जब ये प्रतिबंध ट्रिगर होते हैं. केस के कंटेंट को यूज़र और कंटेंट के रिव्यूअर्स द्वारा आसानी से उल्लंघन करने वाले के रूप में पहचाना जा सकता था, ख़ास तौर पर ब्राज़ील की नागरिक अशांति के संदर्भ में. इसलिए, बोर्ड मानता है कि वैधानिकता की शर्त पूरी हुई है.

II. वैधानिक लक्ष्य

अभिव्यक्ति की आज़ादी (अनुच्छेद 19, ICCPR) से संबंधित प्रतिबंधों का उद्देश्य वैधानिक लक्ष्य प्राप्त करना ही होना चाहिए. हिंसा और उकसावे की पॉलिसी का उद्देश्य ऐसे कंटेंट को हटाकर “ऑफ़लाइन नुकसान की संभावना को रोकना है” जिसमें “जान और माल के नुकसान का वास्तविक जोखिम या लोगों की सुरक्षा को सीधे खतरा” होता है. यह पॉलिसी, अन्य लोगों को अधिकारों, जैसे जीवन का अधिकार (अनुच्छेद 6, ICCPR), की रक्षा के साथ-साथ सार्वजनिक व्यवस्था और राष्ट्रीय सुरक्षा (अनुच्छेद 19, पैरा. 3, ICCPR) का वैधानिक लक्ष्य पूरा करती है. चुनाव के संदर्भ में, यह पॉलिसी अन्य लोगों के वोट देने के अधिकार और सार्वजनिक मामलों में भाग लेने के अधिकार (अनुच्छेद 25, ICCPR) की रक्षा करने के वैधानिक लक्ष्य को भी पूरा कर सकती है.

III. आवश्यकता और आनुपातिकता

आवश्यकता और आनुपातिकता के सिद्धांत के अनुसार यह ज़रूरी है कि अभिव्यक्ति की आज़ादी से संबंधित प्रतिबंध "रक्षा करने के उनके कार्य को सही तरीके से पूरा करने वाले होने चाहिए; उनसे उन लोगों के अधिकारों में कम से कम हस्तक्षेप होना चाहिए, जिन्हें उन प्रतिबंधों से होने वाले रक्षात्मक कार्यों का लाभ मिल सकता है; [और] जिन हितों की सुरक्षा की जानी है, उसके अनुसार ही सही अनुपात में प्रतिबंध लगाए जाने चाहिए" (सामान्य कमेंट सं. 34, पैरा. 33 और 34). हिंसा के उकसावे के पुराने केसों की तरह, बोर्ड ने छह संयुक्त राष्ट्र रबात एक्शन प्लान कारकों को प्रतिबंध की आवश्यकता और आनुपातिकता तय करने के लिए प्रासंगिक पाया (देखें, उदाहरण के लिए: पूर्व राष्ट्रपति ट्रंप का सस्पेंशन केस).

बोर्ड ने माना कि कई राजनीतिक परिवेशों में, चुनावों या चुनाव प्रणाली की निष्पक्षता को चुनौती देना, अभिव्यक्ति की आज़ादी और विरोध प्रदर्शन के लोगों के अधिकार का वैधानिक उपयोग है, भले ही हिंसा की घटनाएँ अलग-अलग हुई हों. अपने राजनैतिक मैसेज के कारण, उन्हें ज़्यादा सुरक्षा का लाभ मिलता है (सामान्य कमेंट सं. 37, पैरा. 19 और 32). हालाँकि बोर्ड ने नोट किया कि यहाँ यह स्थिति नहीं है. संरक्षित राजनैतिक अभिव्यक्ति और वैधानिक लोकप्रिय चुनाव के परिणामों को पलटने के लिए हिंसा के उकसावे में अंतर करने वाली रेखा बहुत महीन है. रबात एक्शन प्लान में बताए गए कारणों के आधार पर, अभिव्यक्ति पर प्रतिबंध के लिए तय सीमा इस केस में पूरी होती है. बोर्ड ने पाया कि केस के कई तत्व उसके विश्लेषण के लिए प्रासंगिक हैं: “अंतिम विकल्प” के रूप में ब्राज़ील की कांग्रेस के “घेराव” और “थ्री पावर्स” को “हिला” देने के आह्वान; ब्राज़ील के एक प्रमुख जनरल के “सड़कों पर कूच करने” और “राष्ट्रीय कांग्रेस … [और] सुप्रीम कोर्ट में घुसने के आह्वान के वीडियो; पृष्ठभूमि में संघीय सरकार की इमारतों को जलते हुए दिखाए जाने की फ़ोटो; और “सोर्स कोड” की माँग. ये सभी, बोल्सोनारों के समर्थकों के चुनाव परिणामों पर विवाद करने और सैन्य तख्तापलट की माँग के ब्राज़ील के व्यापक संदर्भ में, सरकारी इमारतों पर हमला करने और उन पर नियंत्रण करने का स्पष्ट आह्वान थे. वक्ता का इरादे, अभिव्यक्ति के कंटेंट और उसकी पहुँच और उस समय ब्राज़ील के राजनैतिक संदर्भ में तात्कालिक नुकसान की संभावना को देखते हुए पोस्ट को हटाना उचित कदम था.

कंटेंट को राजनैतिक हिंसा के उच्च जोखिम के संदर्भ में पोस्ट किया गया था जिसमें सशस्त्र बलों से चुनाव परिणामों को पलटने के लगातार और व्यापक आह्वान किए गए थे. इसी समय, ब्रासीलिया में सरकारी इमारतों पर विशेष रूप से फ़ोकस किए गए विरोध प्रदर्शनों को बढ़ावा देने के लिए कोड वाले स्लोगन उपयोग किए जा रहे थे (सेक्शन 2 देखें). इस संबंध में बोर्ड को ITS Rio – Modera Lab (PC-11016), Coalizão Direitos na Rede (PC-11020), InternetLab (PC-11019) और Ekō (PC-11000), जिन्होंने बोर्ड द्वारा करवाई गई रिसर्च का समर्थन किया, सहित कई सार्वजनिक कमेंट से प्राप्त जानकारी से पता चलता है कि 8 जनवरी की घटनाओं तक पहुँचने तक इस तरह का कंटेंट सोशल मीडिया पर व्यापक रूप से फैला हुआ था. ये सभी भी बोल्सोनारो समर्थकों द्वारा थ्री पावर्स प्लाज़ा पर हमला करने और सैन्य तख्तापलट सहित अन्य तरीकों से सेना को हस्तक्षेप के लिए मजबूर करने की आसन्नता दिखाते हैं.

उपरोक्त को देखते हुए बोर्ड ने पाया कि कंटेंट को हटाना, उसकी मानवाधिकार ज़िम्मेदारियों से संगत है. ब्राज़ील में सार्वजनिक अधिकारियों सहित लोगों के जीवन के अधिकार की रक्षा और सार्वजनिक व्यवस्था बनाए रखने के लिए कंटेंट को हटाना एक आवश्यक और आनुपातिक प्रतिक्रिया थी. एक ऐसे संदर्भ में भी ब्राज़ील के लोगों के मतदान और सार्वजनिक मामलों में भाग लेने के अधिकार की रक्षा के लिए भी इस और मिलते-जुलते कंटेंट को हटाना आवश्यक और आनुपातिक था, जहाँ सत्ता के लोकतांत्रिक हस्तांतरण की कोशिशें चल रही थीं.

वीडियो में उल्लंघन को ठीक से पहचानने या उसे रिव्यू के लिए आगे एस्केलेट करने और केस के कंटेंट को निकालने में Meta के रिव्यू सिस्टम की लगातार विफलता एक गंभीर चिंता है, जिसके बारे में बोर्ड मानता है कि अगर कंपनी नीचे दिए गए सुझावों को लागू करता है, तो वह इस चिंता का बेहतर समाधान कर पाएगी. भले ही Meta ने ब्राज़ील में चुनाव की निष्पक्षता संबंधी प्रयासों को बेहतर बनाने के लिए सकारात्मक कदम उठाए हैं, लेकिन ब्राज़ील में देखे गए कैंपेन जैसे समन्वित कैंपने के ज़रिए उसके प्लेटफ़ॉर्म के संभावित दुरुपयोग के समाधान के लिए ये कदम पर्याप्त नहीं हैं. इस केस में, जिस कंटेंट को प्लेटफ़ॉर्म पर छोड़ दिया गया और व्यापक रूप से शेयर किया गया, वह उस तरह की गलत जानकारी और उकसावे का सामान्य प्रकार था जिसके उस समय ब्राज़ील में Meta के प्लेटफ़ॉर्म पर फैलने की रिपोर्ट की जा रही थी. इससे आगे ऐसे दावों की पुष्टि भी हुई कि लामबंदी की अच्छी ताकत रखने वाले प्रभावशाली अकाउंट ने Meta के प्लेटफ़ॉर्म पर हिंसा को बढ़ावा देने में महत्वपूर्ण भूमिका निभाई. जैसा कि बोर्ड को प्राप्त सार्वजनिक कमेंट में कहा गया था (देखें, Instituto Vero [PC-11015], ModeraLab [PC-11016], InternetLab [PC-11019], Instituto de Referência em Internet e Sociedade [PC-11021]), Meta के प्लेटफ़ॉर्म से कंटेंट के अलग-अलग हिस्सों का रिव्यू और संभावित निष्कासन अपर्याप्त और अपेक्षाकृत रूप से निष्प्रभावी है जब ऐसा कंटेंट लोकतांत्रिक प्रक्रियाओं को ध्वस्त करने के लिए लक्षित संगठित और समन्वित एक्शन का भाग होता है. चुनाव की निष्पक्षता के प्रयास और संकट प्रोटोकॉल को इन व्यापक डिजिटल ट्रेंड का समाधान करना होगा.

8.3 समान संदर्भ वाला मिलता-जुलता कंटेंट

बोर्ड ने ब्राज़ील में 8 जनवरी के दंगों से पहले के महीनों में इस विश्लेषण से मिलते-जुलते कंटेंट के प्रसार पर चिंता व्यक्त की. इस कंटेंट को उल्लंघन करने वाले के रूप में पहचानने में Meta से बार-बार हुई गलती को देखते हुए, बोर्ड इस बात पर ख़ास तौर पर ध्यान देगा कि Meta ने उसके फ़ैसले को इसी संदर्भ में प्लेटफ़ॉर्म पर बचे इसी तरह के कंटेंट पर किस तरह लागू किया, सिर्फ़ उन स्थितियों को छोड़कर जब ऐसा कंटेंट सामान्य अभिव्यक्ति और ब्रासीलिया में थ्री पावर्स प्लाज़ा इमारतों में घुसने के आह्वानों की निंदा करने या जागरूकता लाने के लिए शेयर किया गया हो.

9. ओवरसाइट बोर्ड का फ़ैसला

ओवरसाइट बोर्ड ने संबंधित कंटेंट को प्लेटफ़ॉर्म पर बनाए रखने के Meta के मूल फ़ैसले को पलट दिया है.

10. सुझाव

A. एन्फ़ोर्समेंट

1. Meta को एक ऐसा फ़्रेमवर्क बनाना चाहिए जो चुनाव की निष्पक्षता के उसके प्रयासों का मूल्यांकन करे. इसमें चुनाव की निष्पक्षता के संबंध में सफल प्रयासों के लिए मीट्रिक बनाना और शेयर करना शामिल है, जिसमें Meta की कंटेंट पॉलिसी के एन्फ़ोर्समेंट और विज्ञापनों को लेकर कंपनी के दृष्टिकोण से संबंधित प्रयास शामिल हैं. बोर्ड इस सुझाव को तब लागू मानेगा जब Meta यह फ़्रेमवर्क बनाएगा (मीट्रिक की जानकारी और उन मीट्रिक के लक्ष्यों सहित), उसे कंपनी के ट्रांसपेरेंसी सेंटर में प्रस्तुत करेगा, देश विशिष्ट रिपोर्ट प्रकाशित करना शुरू करेगा और इस मूल्यांकन के परिणामस्वरूप चुनाव की निष्पक्षता के उसके सामान्य प्रयासों में होने वाले बदलावों को सार्वजनिक रूप से प्रकट करेगा.

B. पारदर्शिता

1. Meta को अपने ट्रांसपेरेंसी सेंटर में यह स्पष्ट करना चाहिए कि संकट पॉलिसी प्रोटोकॉल के अलावा, कंपनी चुनाव के संदर्भों में या उच्च जोखिम वाली अन्य घटनाओं में होने वाले नुकसान के संभावित जोखिम और उसे दूर करने के अपने प्रयास में अन्य प्रोटोकॉल का उपयोग करती है. उन प्रोटोकॉल को नाम देने और उनका विवरण देने के अलावा, कंपनी को उनके उद्देश्य में बताने चाहिए और यह भी बताना चाहिए कि उन अलग-अलग प्रोटोकॉल के बीच संपर्क बिंदु क्या है और वे एक-दूसरे से किस तरह अलग हैं. बोर्ड इस सुझाव को तब लागू मानेगा जब Meta अपने ट्रांसपेरेंसी सेंटर में यह जानकारी प्रकाशित करेगा.

*प्रक्रिया संबंधी नोट:

ओवरसाइट बोर्ड के फ़ैसले पाँच मेंबर्स के पैनल द्वारा लिए जाते हैं और उन पर बोर्ड के अधिकांश मेंबर्स की सहमति होती है. ज़रूरी नहीं है कि बोर्ड के फ़ैसले उसके हर एक मेंबर की निजी राय को दर्शाएँ.

इस केस के फ़ैसले के लिए, बोर्ड की ओर से स्वतंत्र रिसर्च करवाई गई थी. बोर्ड की सहायता एक स्वतंत्र शोध संस्थान ने की जिसका मुख्यालय गोथेनबर्ग यूनिवर्सिटी में है और जिसके पास छह महाद्वीपों के 50 से भी ज़्यादा समाजशास्त्रियों की टीम के साथ ही दुनियाभर के देशों के 3,200 से भी ज़्यादा विशेषज्ञ हैं. बोर्ड को Duco Advisers की सहायता भी मिली, जो भौगोलिक-राजनैतिक, विश्वास और सुरक्षा और टेक्नोलॉजी के आपसी संबंध पर काम करने वाली एक एडवाइज़री फ़र्म है. Memetica ने भी विश्लेषण उपलब्ध कराया जो सोशल मीडिया ट्रेंड पर ओपन-सोर्स रिसर्च में एंगेज होने वाला संगठन है. Lionbridge Technologies, LLC कंपनी ने भाषा संबंधी विशेषज्ञता की सेवा दी, जिसके विशेषज्ञ 350 से भी ज़्यादा भाषाओं में कुशल हैं और वे दुनियाभर के 5,000 शहरों से काम करते हैं.