भारत के ओडिशा राज्य में सांप्रदायिक दंगे

इस फ़ैसले को ओडिया भाषा में पढ़ने के लिए यहाँ क्लिक करें.

ଏହି ନିଷ୍ପତ୍ତିକୁ ଓଡ଼ିଆରେ ପଢ଼ିବା ପାଇଁ ଏଠାରେ କ୍ଲିକ୍ କରନ୍ତୁ।

केस का सारांश

ओवरसाइट बोर्ड ने Facebook से एक ऐसी पोस्ट को हटाने के Meta के फ़ैसले को कायम रखा जिसमें भारत के ओडिशा राज्य में हुई सांप्रदायिक हिंसा का वीडियो था. बोर्ड ने पाया कि पोस्ट से हिंसा और उकसावे से जुड़े Meta के नियमों का उल्लंघन होता है. बोर्ड के अधिकांश सदस्य इस निष्कर्ष पर भी पहुँचे कि सभी मिलते-जुलते वीडियो को अपने प्लेटफ़ॉर्म से हटाने का Meta का फ़ैसला, ओडिशा राज्य में बढ़े हुए तनाव और जारी हिंसा के ख़ास संदर्भ में उचित था. इस केस का कंटेंट, पॉलिसी से जुड़ी किसी भी छूट के तहत नहीं आता था, लेकिन बोर्ड ने Meta से यह सुनिश्चित करने के लिए कहा कि हिंसा और उकसावे से जुड़ा उसका कम्युनिटी स्टैंडर्ड ऐसे कंटेंट को छूट दे जिसमें “हिंसक धमकियों की निंदा की गई हो या उनके खिलाफ़ जागरूकता फैलाई गई हो.”

केस की जानकारी

अप्रैल 2023 में, Facebook के एक यूज़र ने भारत के ओडिशा राज्य के संबलपुर में हिंदुओं के त्योहार हनुमान जयंती पर एक दिन पहले निकले एक जुलूस की घटना से संबंधित वीडियो पोस्ट किया. वीडियो के कैप्शन में “Sambalpur” (संबलपुर) लिखा था, जो ओडिशा का एक छोटा शहर है. यहाँ त्योहार के दौरान हिंदुओं और मुसलमानों के बीच सांप्रदायिक हिंसा भड़की थी.

वीडियो में दिखाए गए जुलूस में लोग भगवा रंग के झंडे लेकर चल रहे हैं, जो हिंदू राष्ट्रवाद का प्रतीक है और “जय श्री राम” के नारे लगा रहे हैं - जिसका शाब्दिक अनुवाद “भगवान राम (एक हिंदू देवता) की जयकार” होता है. धार्मिक संदर्भ के अलावा जहाँ इन शब्दों का उपयोग राम के प्रति श्रृद्धा दिखाने के लिए किया जाता है, वहीं इनका उपयोग कुछ परिस्थितियों में अल्पसंख्यक समूहों, ख़ास तौर पर मुसलमानों, के खिलाफ़ दुश्मनी को बढ़ावा देने के लिए भी किया गया है. वीडियो फिर एक इमारत की बालकनी में खड़े एक व्यक्ति पर ज़ूम होता है. यह इमारत जुलूस के रास्ते में मौजूद है और वह व्यक्ति जुलूस पर एक पत्थर फेंकता दिखाई देता है. फिर भीड़ “जय श्री राम,” “भागो” और “मारो-मारो” चिल्लाते हुए उस इमारत पर पत्थर बरसाती है. कंटेंट को लगभग 2,000 बार देखा गया और उसे 100 से कम कमेंट और रिएक्शन मिले.

वीडियो में दिखाए गए धार्मिक जुलूस के दौरान भड़की हिंसा के बाद, ओडिशा सरकार ने इंटरनेट सेवाएँ बंद कर दीं, सभी सोशल मीडिया प्लेटफ़ॉर्म को ब्लॉक कर दिया और संबलपुर के कई इलाकों में कर्फ़्यू लगा दिया. जुलूस के दौरान हुई हिंसा के सिलसिले में, दुकानों को कथित रूप से जला दिया गया और इस दौरान एक व्यक्ति मारा गया.

वीडियो में दिखाई गई घटनाओं के कुछ ही समय बाद, Meta को ओडिशा की कानून लागू करने वाली संस्था से एक रिक्वेस्ट मिली जिसमें एक अन्य यूज़र द्वारा पोस्ट किए गए ऐसे ही वीडियो को हटाने के लिए कहा गया. Meta ने पाया कि पोस्ट ने हिंसा और उकसावे से जुड़े कम्युनिटी स्टैंडर्ड की भावना का उल्लंघन किया है और उस वीडियो को मीडिया मैचिंग सर्विस बैंक में जोड़ दिया. यह बैंक उस कंटेंट का पता लगाता है और उसे संभावित कार्रवाइयों के लिए फ़्लैग करता है जो पहले फ़्लैग की गई फ़ोटो, वीडियो या टेक्स्ट जैसा या उससे मिलता-जुलता है.

Meta ने बोर्ड को बताया कि इस कंटेंट के कारण उत्पन्न हुए सुरक्षा जोखिमों को देखते हुए मीडिया मैचिंग सर्विस बैंक को वीडियो की सभी कॉपियों को दुनियाभर से हटाने के लिए सेट किया गया था, चाहे उसका कैप्शन कुछ भी हो. ऐसे सभी वीडियो को सामूहिक रूप से हटा दिया गया, भले ही वे जागरूकता लाने, निंदा करने और न्यूज़ रिपोर्टिंग से जुड़ी Meta की छूट के तहत आते हों. बोर्ड ने नोट किया कि मीडिया मैचिंग सर्विस बैंक की सेटिंग को देखते हुए, इस वीडियो जैसे कई कंटेंट को संबलपुर, ओडिशा की घटना के बाद के महीनों के दौरान हटाया गया है.

मीडियो मैचिंग सर्विस बैंक के ज़रिए, Meta ने इस केस में विचाराधीन कंटेंट की पहचान की और उसे हटा दिया. इसके लिए Meta ने अपने उन नियमों का उल्लेख किया जिसमें “बहुत गंभीर हिंसा के आह्वान की मनाही है जिसमें […] शामिल है जहाँ कोई टार्गेट नहीं बताया जाता लेकिन एक प्रतीक द्वारा टार्गेट दर्शाया जाता है और/या जिसमें एक हथियार या तरीके का विजुअल होता है जो हिंसा दर्शाता है.”

मुख्य निष्कर्ष

बोर्ड ने पाया कि पोस्ट, हिंसा और उकसावे से जुड़े कम्युनिटी स्टैंडर्ड का उल्लंघन करती है जिसके तहत “ऐसे कंटेंट को प्रतिबंधित किया जाता है जो लोगों की या निजी सुरक्षा के लिए प्रामाणिक धमकी हो.” बोर्ड के अधिकांश सदस्यों ने पाया कि ओडिशा में उस समय जारी हिंसा और इस तथ्य को देखते हुए कि कंटेंट पर कोई छूट लागू नहीं होती, पोस्ट किया गया कंटेंट गंभीर है और उससे हिंसा के और भड़कने का खतरा है. बोर्ड के कुछ सदस्यों का मानना है कि पोस्ट को Meta के हिंसा और उकसावे से जुड़े कम्युनिटी स्टैंडर्ड के तहत उचित रूप से हटाया जा सकता है, लेकिन किसी दूसरे कारण से. वीडियो में उकसावे की पुरानी घटना दिखाई गई थी और उसमें ऐसा कोई संकेत नहीं था कि उसे पॉलिसी से जुड़ी छूट मिलनी चाहिए और इसी तरह का कंटेंट हिंसा भड़काने के उद्देश्य से शेयर किया जा रहा था, इसलिए Meta ने कंटेंट को हटाकर सही काम किया.

बोर्ड के अधिकांश सदस्यों ने यह निष्कर्ष निकाला कि कैप्शन पर ध्यान दिए बगैर ऐसे सभी वीडियो को अपने प्लेटफ़ॉर्म से हटाने का Meta का फ़ैसला, उस समय ओडिशा राज्य में जारी हिंसा के संदर्भ में उचित था. हालाँकि अधिकांश सदस्यों ने यह भी पाया कि ऐसे व्यापक एन्फ़ोर्समेंट उपाय समयबद्ध होने चाहिए. ओडिशा में स्थिति बदलने और कंटेंट से जुड़ा हिंसा का जोखिम कम होने के बाद, Meta को वीडियो वाली पोस्ट के लिए किए गए एन्फ़ोर्समेंट उपायों का फिर से आकलन करना चाहिए और पॉलिसी से जुड़ी अपनी छूट का सामान्य उपयोग करना चाहिए. भविष्य में, बोर्ड ऐसे तरीकों का स्वागत करेगा जो संपूर्ण एन्फ़ोर्समेंट के ऐसे उपायों को उस समय और बढ़े हुए जोखिम वाले भौगोलिक इलाकों तक सीमित करते हों. ऐसे उपाय, अभिव्यक्ति की आज़ादी पर अनुपातहीन असर डाले बिना नुकसान के जोखिम का बेहतर समाधान करेंगे.

बोर्ड के कुछ सदस्यों का मानना है कि उकसावे की घटना दिखाने वाले ऐसे वीडियो को शामिल करने वाली सभी पोस्ट को हटाने का Meta का फ़ैसला, चाहे पोस्ट उसकी जागरूकता फैलाने या निंदा से जुड़ी छूट पाने के योग्य हों, एक उचित जवाब नहीं था और उससे अभिव्यक्ति पर बेवजह प्रतिबंध लगा.

इस केस में शामिल कंटेंट, पॉलिसी से जुड़ी किसी भी छूट के तहत नहीं आता था, लेकिन बोर्ड ने नोट किया कि हिंसा और उकसावे से जुड़े कम्युनिटी स्टैंडर्ड के तहत “जागरूकता फैलाने” से जुड़ी छूट, पॉलिसी की लोगों को दिखाई देने वाली भाषा में अभी भी उपलब्ध नहीं है. इस तरह, यूज़र्स को अभी भी इस बात की जानकारी नहीं है कि अगर निंदा करने या जागरूकता फैलाने के लिए शेयर किया जाता है, तो अन्यथा उल्लंघन करने वाले कंटेंट को भी परमिशन दी जाती है. इस कारण यूज़र्स, Meta के प्लेटफ़ॉर्म पर जनहित से जुड़ी चर्चाओं में भाग लेने से दूरी बना सकते हैं.

ओवरसाइट बोर्ड का फ़ैसला

ओवरसाइट बोर्ड ने Meta के कंटेंट को हटाने के फ़ैसले को कायम रखा है.

बोर्ड ने पिछले केसों में दिए गए सुझावों को दोहराते हुए कहा कि Meta:

• यह सुनिश्चित करे कि हिंसा और उकसावे के कम्युनिटी स्टैंडर्ड में ऐसे कंटेंट को परमिशन दी जाए जिसमें “किसी कार्रवाई के संभावित परिणाम के तटस्थ संदर्भ या परामर्शी चेतावनी” हो और जो कंटेंट “हिंसक धमकियों की निंदा करता हो या उनके खिलाफ़ जागरूकता फैलाता हो.”
• यूज़र्स को ज़्यादा स्पष्टता दे और कम्युनिटी स्टैंडर्ड के लैंडिंग पेज में यह समझाए, उसी तरह से जैसे कंपनी ने ख़बरों में रहने लायक होने के कारण छूट देने के मामले में किया है, कि कम्युनिटी स्टैंडर्ड से छूट तब दी जा सकती है जब उन्हें बनाने के कारण और Meta की वैल्यू के अनुसार परिणाम, नियमों के कठोरता से पालन के बजाय कुछ और होना चाहिए. बोर्ड ने Meta को पहले दिए गए सुझाव को दोहराते हुए यह भी कहा कि वह उस ट्रांसपेरेंसी सेंटर पेज का लिंक शामिल करे जहाँ “पॉलिसी का भावना” से जुड़ी छूट के बारे में जानकारी दी गई हो.

* केस के सारांश से केस का ओवरव्यू मिलता है और आगे के किसी फ़ैसले के लिए इसको आधार नहीं बनाया जा सकता है.

केस का पूरा फ़ैसला

1. फ़ैसले का सारांश

ओवरसाइट बोर्ड ने Facebook से एक वीडियो वाली पोस्ट को हटाने के Meta के फ़ैसले को कायम रखा जिसमें भारत के ओडिशा राज्य में हनुमान जयंती के धार्मिक जुलूस के दौरान हुई सांप्रदायिक हिंसा का दृश्य दिखाया गया था. वीडियो में दिखाए गए जुलूस में लोग भगवा रंग के झंडे लेकर चल रहे हैं, जो हिंदू राष्ट्रवाद का प्रतीक है और “जय श्री राम” के नारे लगा रहे हैं - जिसका शाब्दिक अनुवाद “भगवान राम (एक हिंदू देवता) की जयकार” होता है. इन शब्दों का उपयोग कुछ परिस्थितियों में अल्पसंख्यक समूहों, ख़ास तौर पर मुसलमानों, के खिलाफ़ दुश्मनी को बढ़ावा देने के लिए भी किया गया है. वीडियो फिर एक इमारत की बालकनी में खड़े एक व्यक्ति पर ज़ूम होता है. यह इमारत जुलूस के रास्ते में मौजूद है और वह व्यक्ति जुलूस पर एक पत्थर फेंकता दिखाई देता है. फिर भीड़ “जय श्री राम,” “भागो” और “मारो-मारो” चिल्लाते हुए उस इमारत पर पत्थर बरसाती है. Meta ने इस केस को बोर्ड को रेफ़र किया क्योंकि यह “अभिव्यक्ति” और “सुरक्षा” की Meta की वैल्यू के बीच खींचतान दर्शाता है और इसमें संदर्भ से जुड़े कारणों और वीडियो द्वारा प्रस्तुत किए गए ऑफ़लाइन नुकसान के जोखिमों के पूरे आकलन की ज़रूरत है.

बोर्ड ने पाया कि पोस्ट से हिंसा और उकसावे से जुड़े कम्युनिटी स्टैंडर्ड का उल्लंघन हुआ है. कंटेंट को पोस्ट करने के समय के नाजुक संदर्भ और ओडिशा में जारी हिंसा; धार्मिक जुलूस की प्रकृति और वीडियो में बहुत गंभीर हिंसा के आह्वानों; और प्लेटफ़ॉर्म पर पोस्ट किए जा रहे मिलते-जुलते कंटेंट के वायरल होने और व्यापक प्रकृति को देखते हुए, बोर्ड के अधिकांश सदस्यों ने पाया कि कंटेंट से हिंसा का प्रामाणिक आह्वान होता है.

बोर्ड के कुछ सदस्यों का मानना है कि पोस्ट को Meta के हिंसा और उकसावे से जुड़े कम्युनिटी स्टैंडर्ड के तहत उचित रूप से हटाया जा सकता है, लेकिन किसी दूसरे कारण से. उन्होंने पोस्ट को “हिंसा का प्रामाणिक आह्वान” नहीं माना क्योंकि पोस्ट करने के उद्देश्य के संबंध में संदर्भ से जुड़ा कोई संकेत मौजूद नहीं था. इसके बजाय, उन्होंने पोस्ट को संभावित रूप से “चित्रित उकसावे” का एक रूप माना (अर्थात वह कंटेंट जिसमें उकसावे के पुराने दृश्य दिखाए गए हों). बोर्ड के कुछ सदस्य इस निष्कर्ष पर पहुँचे कि पोस्ट को हिंसा और उकसावे से जुड़े कम्युनिटी स्टैंडर्ड के तहत हटाया जा सकता है क्योंकि इन कुछ सदस्यों के अनुसार कंटेंट उन दो शर्तों की पूर्ति करता है जो कंटेंट को हटाए जाने के लिए ज़रूरी हैं: 1) इस बात के संदर्भात्मक सबूत मौजूद थे कि मिलते-जुलते कंटेंट की पोस्ट को हिंसा उकसाने के उद्देश्य से शेयर किया गया था और 2) पोस्ट में ऐसे कोई संदर्भात्मक संकेत मौजूद नहीं थे जो बताते हों कि पॉलिसी से जुड़ी छूट लागू होती है जैसे जागरूकता फैलाना या न्यूज़ रिपोर्टिंग.

बोर्ड के अधिकांश सदस्य इस निष्कर्ष पर पहुँचे कि कंटेंट के शुरुआती मॉडरेशन में आने वाली कठिनाइयों को देखते हुए, कैप्शन पर ध्यान दिए बिना और कोई स्ट्राइक लगाए बिना अपने सभी प्लेटफ़ॉर्म से ऐसे सभी वीडियो को हटाने का Meta का फ़ैसला, ओडिशा राज्य में फैले हुए तनाव और जारी हिंसा के विशिष्ट संदर्भ में, जिसमें वीडियो बनाया गया था, उचित था. हालाँकि अधिकांश सदस्यों ने यह भी पाया कि ऐसे व्यापक एन्फ़ोर्समेंट उपाय समयबद्ध होने चाहिए. जब स्थानीय स्थिति बदलती है और बोर्ड द्वारा विश्लेषण किए जा रहे कंटेंट से जुड़े नुकसान का जोखिम कम होता है, तब Meta को अपने एन्फ़ोर्समेंट उपायों पर फिर से विचार करना चाहिए और शुरुआती कंटेंट को पॉलिसी से छूट के उपयोग का फ़ायदा देना चाहिए.

बोर्ड के कुछ सदस्यों का मानना है कि उकसावे की घटना दिखाने वाले ऐसे वीडियो को शामिल करने वाली सभी पोस्ट को हटाने का Meta का फ़ैसला, चाहे पोस्ट उसकी जागरूकता फैलाने या निंदा से जुड़ी छूट पाने के योग्य हों, एक उचित जवाब नहीं था; उससे अभिव्यक्ति पर बेवजह प्रतिबंध लगा; और उससे नाजुक संदर्भ के बीच असुरक्षित लोगों को खतरा हो सकता था. इन कुछ सदस्यों का मानना था कि जिस कंटेंट पर विचार किया जा रहा है, वह उकसावे का चित्रण करता है और वह खुद उकसावा नहीं है. इनका मानना है कि उकसावे का चित्रण करने वाली पोस्ट को हटाया नहीं जाना चाहिए, जहाँ संदर्भात्मक संकेत यह बताते हों कि उस पोस्ट को हिंसा और उकसावे से जुड़ी पॉलिसी से छूट मिल सकती है. ऐसे अपवादों में वह कंटेंट शामिल है जिसे जागरूकता फैलाने या न्यूज़ रिपोर्टिंग के लिए शेयर किया जाता है. कुछ सदस्यों का मानना है कि जहाँ इस बात के संकेत मौजूद हों कि दिखाए गए उकसावे का इरादा लोगों को उकसाना नहीं है बल्कि उन्हें जागरूक करना, उस घटना की निंदा करना या उसे रिपोर्ट करना है, वहाँ Meta की मानवाधिकार प्रतिबद्धताओं के अनुसार ऐसे कंटेंट को प्लेटफ़ॉर्म पर बनाए रखा जाना चाहिए. इसलिए इन सदस्यों का मानना है कि विचाराधीन वीडियो को शामिल करने वाली सभी पोस्ट को एक साथ हटाना, यूज़र की मुक्त अभिव्यक्ति का ऐसा उल्लंघन है जिसकी परमिशन नहीं दी जा सकती.

2. केस की जानकारी और बैकग्राउंड

13 अप्रैल, 2023 को Facebook के एक यूज़र ने भारत के ओडिशा राज्य के संबलपुर में हिंदुओं के त्योहार हनुमान जयंती के संदर्भ में एक दिन पहले (12 अप्रैल) निकले एक जुलूस की घटना से संबंधित वीडियो पोस्ट किया. वीडियो के कैप्शन में “Sambalpur” (संबलपुर) लिखा था, जो ओडिशा का एक छोटा शहर है. यहाँ त्योहार के दौरान हिंदुओं और मुसलमानों के बीच सांप्रदायिक हिंसा भड़की थी. वीडियो में दिखाए गए जुलूस में लोग भगवा रंग के झंडे लेकर चल रहे हैं, जो हिंदू राष्ट्रवाद का प्रतीक है और “जय श्री राम” के नारे लगा रहे हैं - जिसका शाब्दिक अनुवाद “भगवान राम (एक हिंदू देवता) की जयकार” होता है. धार्मिक संदर्भ के अलावा जहाँ इन शब्दों का उपयोग राम के प्रति श्रृद्धा दिखाने के लिए किया जाता है, वहीं इनका उपयोग कुछ परिस्थितियों में अल्पसंख्यक समूहों, ख़ास तौर पर मुसलमानों, के खिलाफ़ दुश्मनी को बढ़ावा देने के लिए भी किया गया है. बोर्ड ने जिन विशेषज्ञों से परामर्श किया, उन्होंने कहा कि नारेबाज़ी “हमले के आह्वान में बदल गई जिसका उद्देश्य दूसरे धर्म के लोगों को धमकाना और डराना था.” वीडियो फिर एक इमारत की बालकनी में खड़े एक व्यक्ति पर ज़ूम होता है. यह इमारत जुलूस के रास्ते में मौजूद है और वह व्यक्ति जुलूस पर एक पत्थर फेंकता दिखाई देता है. फिर भीड़ ने “जय श्री राम,” “भागो” और “मारो-मारो” चिल्लाते हुए उस इमारत पर पत्थर बरसाए. इस कंटेंट को लगभग 2,000 बार देखा गया, इसे 100 से कम कमेंट और रिएक्शन मिले हैं और इसे किसी ने भी शेयर नहीं किया और न ही किसी ने इसकी रिपोर्ट की.

कथित रूप से सांप्रदायिक हिंसा की घटनाएँ पूरे भारत में होती हैं. यह सामूहिक हिंसा का एक रूप है जिसमें सांप्रदायिक या जातीय समूहों के बीच झड़पें होती हैं. ये समूह धर्म, जातीयता, भाषा या नस्ल के आधार पर अलग-अलग होते हैं. इस संदर्भ में हिंसा में धार्मिक अल्पसंख्यकों को अनुपातहीन रूप से टार्गेट किया गया है, ख़ास तौर पर मुसलमानों को, और कथित तौर पर हिंसा का उद्देश्य दंड देना है. बोर्ड को प्राप्त पब्लिक कमेंट से यह हाइलाइट होता है कि सांप्रदायिक हिंसा की घटनाएँ पूरे भारत में होती हैं. 2022 में देश में सांप्रदायिक हिंसा के 2900 से ज़्यादा मामले रजिस्टर किए गए थे (PC-14046 भी देखें). बोर्ड ने जिन विशेषज्ञों से परामर्श किया, उनके अनुसार धार्मिक त्योहारों और जुलूसों का उपयोग कथित रूप से अल्पसंख्यक धार्मिक प्रथाओं के सदस्यों को धमकाने और उनके खिलाफ़ हिंसा भड़काने के लिए किया जाता है.

धार्मिक जुलूस के दौरान भड़की हिंसा और उसके बाद की घटनाओं को देखते हुए, जिनमें दुकानें जला दी गईं और एक व्यक्ति की हत्या हो गई, ओडिशा सरकार ने इंटरनेट सेवाएँबंद कर दीं, सभी सोशल मीडिया प्लेटफ़ॉर्म को ब्लॉक कर दिया और संबलपुर के कई इलाकों में कर्फ़्यू लगा दिया. पुलिस ने इन हिंसक घटनाओं के संबंध में 85 लोगों को गिरफ़्तार किया.

16 अप्रैल को, Meta को ओडिशा की कानून लागू करने वाली संस्था से एक रिक्वेस्ट मिली जिसमें एक अन्य यूज़र द्वारा पोस्ट किए गए ऐसे ही वीडियो को हटाने के लिए कहा गया. Meta ने पाया कि पोस्ट ने हिंसा और उकसावे से जुड़े कम्युनिटी स्टैंडर्ड की भावना का उल्लंघन किया है और उसे हटाने का फ़ैसला किया. बाद में 17 अप्रैल को Meta ने पोस्ट में शामिल वीडियो को मीडिया मैचिंग सर्विस (MMS) बैंक में जोड़ दिया, जो भविष्य में ऐसे कंटेंट का पता लगाकर उसे फ़्लैग करता है, जो पहले फ़्लैग की गई फ़ोटो, वीडियो या टेक्स्ट जैसा या उससे मिलता-जुलता होता है और जिस पर संभावित एक्शन लिया जा सकता है. हालाँकि, इससे पहले कि Meta उस पर कोई कार्रवाई कर पाता, कंटेंट पोस्ट करने वाले यूज़र ने उसे डिलीट कर दिया. MMS बैंक के ज़रिए, Meta ने फिर 17 अप्रैल को भी इस केस में विचाराधीन कंटेंट की पहचान की और उसे हटा दिया. इसके लिए Meta ने अपने उन प्रतिबंधों का उल्लेख किया जिसमें “[…] सहित बहुत गंभीर हिंसा के ऐसे आह्वान की मनाही है जहाँ कोई टार्गेट नहीं बताया जाता लेकिन एक प्रतीक द्वारा टार्गेट दर्शाया जाता है और/या जिसमें एक हथियार या तरीके का विजुअल होता है जो हिंसा दर्शाता है.”

23 अप्रैल को ओडिशा राज्य सरकार ने कर्फ़्यू हटा दिया और इंटरनेट सेवाएँ बहाल कर दीं. जुलाई 2023 में राज्य सरकार ने संबलपुर में एक वर्ष तक धार्मिक जुलूस निकालने पर प्रतिबंध लगाने की घोषणा की.

रिपोर्ट्स के अनुसार, भारतीय जनता पार्टी (BJP) की राज्य लीडरशिप ने कानून और व्यवस्था बनाए रखने में विफल रहने के लिए बीजू जनता दल (BJD) पार्टी के नेतृत्व वाली ओडिशा राज्य सरकार की आलोचना की और अल्पसंख्यक समूहों के सदस्यों, ख़ास तौर पर मुसलमानों, पर आरोप लगाया कि उन्हें शांतिपूर्ण धार्मिक जुलूसों पर हमला किया. बदले में BJD ने BJP पर धार्मिक तनाव बढ़ाने की कोशिश करने का आरोप लगाया.

Meta ने बताया कि कंटेंट किसी भी पॉलिसी से छूट के तहत नहीं आता क्योंकि उसे “निंदा करने या जागरूकता फैलाने के लिए शेयर नहीं किया गया था,” क्योंकि इसमें अकादमिक या न्यूज़ रिपोर्ट संबंधी कोई संदर्भ नहीं था और न ही पोस्ट करने वाले यूज़र के ऐसे अनुभव की चर्चा थी कि वह हिंसा का शिकार हुआ है. इसके अलावा, Meta ने देखा कि कैप्शन में “वीडियो में दिखाई गई घटनाओं को लेकर किसी भी तरह के नकारात्मक दृष्टिकोण” व्यक्त नहीं किया गया है और न ही उसकी निंदा की गई है. कंपनी ने इस बात पर ध्यान आकर्षित किया कि अगर कंटेंट में जागरूकता फैलाने या निंदा करने से जुड़ा कोई कैप्शन होता, तब भी Meta “सुरक्षा चिंताओं और हिंदुओं और मुसलमानों के सांप्रदायिक दंगों के जारी खतरे के चलते” इसे हटा देता.

Meta ने बोर्ड को यह भी बताया कि उसने MMS बैंक को इस तरह कॉन्फ़िगर किया है कि वह कैप्शन पर ध्यान दिए बिना इस वीडियो की हर कॉपी को हटा दे, भले ही ऐसे किसी कैप्शन में यह स्पष्ट किया गया हो कि उसका उद्देश्य न्यूज़ रिपोर्टिंग करना और/या जागरूकता फैलाना है. Meta ने आगे बताया कि उसने MMS बैंक द्वारा हटाए गए कंटेंट को पोस्ट करने वाले यूज़र्स पर स्ट्राइक नहीं लगाई. कंपनी ने ऐसा “उल्लंघन न करने वाली कमेंटरी का ध्यान रखने और अभिव्यक्ति और सुरक्षा के बीच सही संतुलन बनाए रखने के लिए किया.”

रिपोर्ट्स के अनुसार, पूरे भारत में बढ़ते सांप्रदायिक तनाव के बीच अल्पसंख्यक समूहों पर घातक हमलों को बढ़ावा देने के लिए सोशल मीडिया प्लेटफ़ॉर्म का उपयोग किया जाता रहा है. विशेषज्ञों ने नोट किया कि भारत में योजनाबद्ध तरीके से सोशल मीडिया पर ऐसे कैंपेन चलाए गए हैं जिनमें मुसलमान विरोधी मैसेज, नफ़रत फैलाने वाली भाषा या गलत जानकारी फैलाई जाती है. उन्होंने यह भी देखा कि सांप्रदायिक हिंसा से जुड़े वीडियो को ऐसे पैटर्न में फैलाया गया है जो योजना की तरफ इशारा करते हैं. संबलपुर में हिंसा भड़कने के बाद ओडिशा के एक स्थानीय मीडिया आउटलेट Argus News का एक वीडियो 72 घंटों में 34 बार Facebook पर पोस्ट किया गया. यह काम ज़्यादातर पेजों और ग्रुपों द्वारा कुछ ही मिनटों के अंतराल पर किया गया और उन्होंने दावा किया कि संबलपुर में हनुमान जयंती समारोह पर हमले के पीछे मुसलमानों का हाथ था. इसके अलावा, बोर्ड ने नोट किया कि MMS बैंक की सेटिंग को देखते हुए, इस वीडियो जैसे कई कंटेंट को संबलपुर, ओडिशा की घटनाओं के बाद के महीनों में हटाया गया है.

Meta ने बोर्ड को यह केस रेफ़र किया और कहा कि Meta की “अभिव्यक्ति” और “सुरक्षा” की वैल्यू के बीच संतुलन बनाए रखने और वीडियो से होने वाले नुकसान के खतरे का पूरा आकलन करने और उसे समझने के लिए ज़रूरी संदर्भ की वजह से यह केस उसके लिए कठिन है.

3. ओवरसाइट बोर्ड की अथॉरिटी और स्कोप

बोर्ड के पास उन फ़ैसलों को रिव्यू करने का अधिकार है, जिन्हें Meta रिव्यू के लिए सबमिट करता है (चार्टर अनुच्छेद 2, सेक्शन 1; उपनियम अनुच्छेद 2, सेक्शन 2.1.1).

बोर्ड Meta के फ़ैसले को कायम रख सकता है या उसे बदल सकता है (चार्टर अनुच्छेद 3, सेक्शन 5) और उसका फ़ैसला कंपनी पर बाध्यकारी होता है (चार्टर अनुच्छेद 4). Meta को मिलते-जुलते संदर्भ वाले समान कंटेंट पर अपने फ़ैसले को लागू करने की संभावना का भी आकलन करना चाहिए (चार्टर अनुच्छेद 4). बोर्ड के फ़ैसलों में गैर-बाध्यकारी सलाह शामिल हो सकती हैं, जिन पर Meta को जवाब देना ज़रूरी है (चार्टर अनुच्छेद 3, सेक्शन 4; अनुच्छेद 4). जहाँ Meta, सुझावों पर एक्शन लेने की प्रतिबद्धता व्यक्त करता है, वहाँ बोर्ड उनके क्रियान्वयन की निगरानी करता है.

4. अथॉरिटी और मार्गदर्शन के सोर्स

इस केस में बोर्ड ने इन स्टैंडर्ड और पुराने फ़ैसलों को ध्यान में रखते हुए विश्लेषण किया:

I. ओवरसाइट बोर्ड के फ़ैसले:

यह फ़ैसला लेने में बोर्ड ने जिन पिछले फ़ैसलों का संदर्भ लिया, उनमें ये शामिल हैं:

• “अमेरिका में, गर्भपात पर चर्चा करने वाली पोस्ट” केस ( 2023-011-IG-UA, 2023-012-FB-UA, 2023-013-FB-UA)
• “श्रीलंका फ़ार्मास्यूटिकल्स” केस ( 2022-014-FB-MR)
• “रूसी कविता” केस ( 2022-008-FB-UA)
• “क्निन कार्टून” केस ( 2022-001-FB-UA)
• “ज़्वार्टे पिएट का चित्रण” केेस ( 2021-002-FB-UA)
• “भारत में फ़्रांस के खिलाफ़ विरोध प्रदर्शन” केस ( 2020-007-FB-FBR)
• “COVID के क्लेम किए गए बचाव” केस ( 2020-006-FB-FBR)

II. Meta की कंटेंट पॉलिसीज़:

हिंसा और उकसावे से जुड़ा कम्युनिटी स्टैंडर्ड

हिंसा और उकसावे से जुड़े कम्युनिटी स्टैंडर्ड के पॉलिसी बनाने के कारण में बताया गया है कि उसका “उद्देश्य ऐसे संभावित ऑफ़लाइन नुकसान को रोकना है जो Meta के प्लेटफ़ॉर्म पर मौजूद कंटेंट के कारण हो सकता है" और यह कि Meta “जानता है कि लोग आम तौर पर छोटी-मोटी धमकी देकर या हिंसा करने की बात कहकर तिरस्कार करते हैं या असहमति जताते हैं, फिर भी [यह कंपनी] ऐसी बातों से जुड़े कंटेंट को हटा देती है जो गंभीर स्तर की हिंसा भड़काता है या उसे बढ़ावा देता है." पॉलिसी “लोगों या जगहों को टार्गेट करने वाली ऐसी धमकियाँ देना प्रतिबंधित करती है, जिनसे मृत्यु (और अन्य तरह की बहुत गंभीर हिंसा) हो सकती है, जहाँ धमकी का अर्थ है” “बहुत गंभीर हिंसा का आह्वान जिसमें कोई टार्गेट तय नहीं होता है लेकिन किसी प्रतीक से टार्गेट दर्शाया जाता है और/या उसमें हथियार या तरीके का ऐसा विजुअल होता है जो हिंसा दर्शाता है.” इस कम्युनिटी स्टैंडर्ड के तहत Meta “ऐसे कंटेंट को हटा देता है, अकाउंट को बंद कर देता है और कानून लागू करने वाली संस्था के साथ मिलकर काम करता है जब उसे लगता है कि जान-माल के नुकसान का प्रामाणिक जोखिम है या जब लोगों की सुरक्षा को सीधा खतरा होता है.” Meta “सामान्य कथनों और सार्वजनिक या निजी सुरक्षा के प्रामाणिक खतरे वाले कंटेंट में अंतर करने के लिए, संदर्भ पर भी विचार करता है.” यह आकलन करने के लिए कि कोई खतरा प्रामाणिक है या नहीं, Meta “व्यक्ति की सार्वजनिक दृश्यता और उसकी शारीरिक सुरक्षा के लिए जोखिम” जैसी अतिरिक्त जानकारी पर भी विचार करता है.

पॉलिसी की भावना से जुड़ी छूट

जैसा कि बोर्ड ने “श्रीलंका फ़ार्मास्यूटिकल्स” केस में बताया, Meta, उस स्थिति में कंटेंट को “पॉलिसी की भावना” से जुड़ी छूट दे सकता है जब पॉलिसी बनाने के कारण (वह टेक्स्ट जो हर कम्युनिटी स्टैंडर्ड को प्रस्तुत करता है) और Meta की वैल्यू के अनुसार परिणाम, नियमों (अर्थात वे नियम जिन्हें “यह पोस्ट न करें” सेक्शन में और प्रतिबंधित कंटेंट की लिस्ट में शामिल किया गया है) के कठोरता से पालन के बजाय कुछ और होना चाहिए.

बोर्ड द्वारा कंटेंट पॉलिसी का विश्लेषण Meta की “अभिव्यक्ति” की वैल्यू, जिसे कंपनी सर्वोपरि बताती है और “सुरक्षा” की वैल्यू के आधार पर किया गया था.

III. Meta की मानवाधिकारों से जुड़ी ज़िम्मेदारियाँ

बिज़नेस और मानवाधिकारों के बारे में संयुक्त राष्ट्र संघ के मार्गदर्शक सिद्धांत (UNGP), जिन्हें 2011 में संयुक्त राष्ट्र संघ की मानवाधिकार समिति ने स्वीकृति दी है, प्राइवेट बिज़नेस की मानवाधिकार से जुड़ी ज़िम्मेदारियों का स्वैच्छिक ढाँचा तैयार करते हैं. 2021 में Meta ने मानवाधिकारों से जुड़ी अपनी कॉर्पोरेट पॉलिसी की घोषणा की, जिसमें उसने UNGP के अनुसार मानवाधिकारों का ध्यान रखने की अपनी प्रतिबद्धता दोहराई. इस केस में बोर्ड ने Meta की मानवाधिकार से जुड़ी ज़िम्मेदारियों का विश्लेषण इन अंतरराष्ट्रीय स्टैंडर्ड को ध्यान में रखते हुए किया:

• विचार और अभिव्यक्ति की आज़ादी के अधिकार: अनुच्छेद 19 और 20, नागरिक और राजनैतिक अधिकारों पर अंतरराष्ट्रीय प्रतिज्ञापत्र ( ICCPR), सामान्य टिप्पणी सं. 34, मानवाधिकार समिति (2011); रबात एक्शन प्लान, संयुक्त राष्ट्र मानवाधिकार उच्चायुक्त की रिपोर्ट: A/HRC/22/17/Add.4 (2013) विचार और अभिव्यक्ति की आज़ादी के बारे में संयुक्त राष्ट्र संघ का ख़ास रैपर्टर (UNSR), रिपोर्ट: A/HRC/38/35 (2018); A/74/486 (2019).
• जीवन का अधिकार: अनुच्छेद 6, ICCPR.
• धर्म या मान्यता की आज़ादी: अनुच्छेद 18, ICCPR; धर्म या मान्यता की आज़ादी पर संयुक्त राष्ट्र का विशेष रैपर्टर, रिपोर्ट: A/HRC/40/58 (2019); A/75/385 (2020).

5. यूज़र सबमिशन

पोस्ट के लेखक को बोर्ड के रिव्यू के बारे में सूचित किया गया और उसे बोर्ड के समक्ष कथन सबमिट करने का अवसर दिया गया. यूज़र ने कोई कथन सबमिट नहीं किया.

6. Meta के सबमिशन

बोर्ड को यह केस रेफ़र करते समय Meta ने कहा कि उसकी “अभिव्यक्ति” और “सुरक्षा” की वैल्यू के बीच संतुलन बनाए रखने और वीडियो से होने वाले नुकसान के खतरे का पूरा आकलन करने और उसे समझने के लिए ज़रूरी संदर्भ की वजह से यह केस उसके लिए कठिन है. Meta ने कहा कि हिंदू और मुसलमान समुदायों के बीच ओडिशा में हनुमान जयंती धार्मिक त्योहार के दौरान हुई सांप्रदायिक झड़पों के कारण यह केस महत्वपूर्ण है.

Meta ने बताया कि मूल रूप से एस्केलेट किया गया कंटेंट – उस वीडियो वाली पोस्ट जो बोर्ड द्वारा विश्लेषण किए जा रहे वीडियो जैसा ही था लेकिन उसका कैप्शन अलग था – हिंसा और उकसावे से जुड़ी पॉलिसी की “भावना” का उल्लंघन करता है, इस तथ्य के बावजूद कि उसमें जागरूकता फैलाने वाला कैप्शन था क्योंकि: (1) इसने “कानून लागू करने वाली संस्था द्वारा फ़्लैग की गई सुरक्षा से जुड़ी गंभीर चिंताएँ बढ़ाई” जिसे Meta ने स्वतंत्र विश्लेषण से कन्फ़र्म किया; (2) यह वीडियो वायरल हो रहा था; और (3) इसके कारण बड़ी संख्या में उल्लंघन करने वाले कमेंट आए. Meta ने फिर इस कंटेंट से पैदा हुए सुरक्षा जोखिमों को देखते हुए MMS बैंक को कैप्शन पर ध्यान दिए बगैर ऐसी सभी पोस्ट को हटाने के लिए कॉन्फ़िगर किया, जिसमें वह वीडियो शामिल था जिसे आखिर में बोर्ड को रेफ़र किया गया.” इस फ़ैसले पर पहुँचने के लिए Meta ने अपनी स्थानीय सार्वजनिक पॉलिसी और सुरक्षा टीमों से प्राप्त फ़ीडबैक के आधार पर कानून लागू करने वाली संस्था से मिली चिंताओं की पुष्टि की. साथ ही स्थानीय न्यूज़ कवरेज और अन्य आंतरिक टीमों के फ़ीडबैक की मदद भी ली. फ़ैसला करते समय कंपनी ने इन बातों पर विचार किया: (1) खतरे की प्रकृति; (2) भारत में हिंदू और मुसलमान कम्युनिटी के बीच हिंसा का इतिहास; और (3) हनुमान जयंती त्योहार आने तक बचे हुए दिनों में ओडिशा में हिंसा जारी रहने का जोखिम. इसके अलावा, Meta ने कहा कि न्यूज़ कवरेज और स्थानीय पुलिस रिपोर्ट्स से इस निष्कर्ष की पुष्टि हुई कि इस वीडियो से सांप्रदायिक हिंसा और प्रतिशोध का जोखिम बढ़ सकता है.

Meta ने यह भी बताया कि इस केस में शामिल कंटेंट से हिंसा और उकसावे की पॉलिसी का उल्लंघन हुआ है क्योंकि इसमें बहुत गंभीर हिंसा करने का आह्वान है. वीडियो में दिखाया गया है कि भीड़ पर पत्थर या ईंटें फेंकी जा रही हैं और भीड़ उसके जवाब में दूसरे लोगों को “मारने” के लिए कह रही है. इसके अलावा, भले ही Meta ने यह स्वीकार किया कि उसमें टार्गेट की पहचान नहीं बताई गई है, लेकिन दर्शक यह स्पष्ट रूप से देख सकते हैं कि पत्थर इमारत और बालकनी में मौजूद व्यक्ति की ओर फेंके जा रहे हैं, जिसे Meta किसी टार्गेट की ओर लक्षित की गई हिंसा के तरीके का चित्रण मानता है.

बोर्ड के सवालों के जवाब में, Meta ने बताया कि हिंसा और उकसावे से जुड़ी पॉलिसी की भाषा के अनुसार अन्यथा उल्लंघन करने वाले कंटेंट को प्लेटफ़ॉर्म पर बने रहने की परमिशन तब दी जा सकती है जब कंटेंट को निंदा करने या जागरूकता फैलाने के संदर्भ में शेयर किया गया हो. हालाँकि इस केस में हिंसा और उकसावे से जुड़ी पॉलिसी का एक मुख्य उद्देश्य “संभावित ऑफ़लाइन नुकसान को रोकना” है, इसलिए Meta ने यह तय किया कि मूल रूप से एस्केलेट किए गए कंटेंट से हिंदू और मुसलमानों के बीच सांप्रदायिक हिंसा और बढ़ सकने से जुड़ी सुरक्षा संबंधी चिंता को पॉलिसी की भावना से ज़्यादा अहमियत दी जाएगी और कंटेंट (और उसके प्लेटफ़ॉर्म पर मौजूद वीडियो की अन्य सभी कॉपियाँ) के कैप्शन पर ध्यान दिए बगैर उसे हटा दिया जाएगा.

Meta ने यह भी तय किया कि कंटेंट, ख़बरों में रहने लायक होने की छूट पाने का हकदार नहीं है क्योंकि नुकसान का जोखिम उसकी जनहित वैल्यू से ज़्यादा है. Meta के अनुसार, नुकसान का जोखिम कई कारणों से ज़्यादा था. पहला, कंटेंट में पूरे भारत में हिंदुओं और मुसलमानों के बीच जारी धार्मिक और राजनीतिक तनाव को हाइलाइट किया गया था जिसका नियमित रूप से परिणाम हिंसा होता है. इसके अलावा, सांप्रदायिक और धार्मिक हिंसा की इस तरह की स्थानीय घटनाओं से दूसरी जगहों पर भी झड़पें होने की आशंका होती है और ऐसी घटनाएँ शुरुआती स्थान से बाहर तेज़ी से फैलती हैं. Meta की स्थानीय सार्वजनिक पॉलिसी और सुरक्षा टीमें इस बात से भी चिंतित थीं कि कर्फ़्यू और इंटरनेट सस्पेंशन हटते ही ओडिशा में हिंसा की घटनाएँ फिर से होने का जोखिम है और अन्य लोग इस वीडियो को देख सकते हैं. अंत में, कानून लागू करने वाली स्थानीय संस्था के इस कथन से Meta की चिंताओं की पुष्टि हुई कि कंटेंट से तात्कालिक हिंसा और बढ़ने की आशंका है.

Meta ने यह स्वीकार किया कि कंटेंट में अन्य लोगों को निकट हिंसा और सामयिक घटनाओं की जानकारी देने की वैल्यू हो सकती है. लेकिन इस केस में Meta ने पाया कि नुकसान का जोखिम, जनहित से ज़्यादा है. Meta ने यह नोट किया कि जब कंटेंट को हटाया गया था, तब पोस्ट चार दिन से ज़्यादा पुरानी हो चुकी थी और रियल-टाइम चेतावनी से जुड़ी उसकी वैल्यू समाप्त हो चुकी थी. Meta ने ज़ोर दिया कि पोस्ट का कैप्शन तटस्थ था, जिसकी कोई सूचनात्मक वैल्यू नहीं थी. Meta ने यह भी उल्लेख किया कि कैप्शन से हिंसा भड़कने का जोखिम कम नहीं हुआ था. Meta के अनुसार, स्थानीय और राष्ट्रीय न्यूज़ में इस केस से जुड़ी घटनाओं का व्यापक कवरेज हुआ था, जिससे इस विशेष पोस्ट की कोई सूचनात्मक वैल्यू नहीं रहती. Meta ने बोर्ड को यह भी बताया कि “कंटेंट को हटाने से कम कोई भी कार्रवाई, इस कंटेंट को शेयर करने से जुड़े संभावित जोखिमों को पर्याप्त रूप से कम नहीं करती.”

बोर्ड के सवालों के जवाब में Meta ने नोट किया कि “सामान्य तौर पर हिंसा और उकसावे से जुड़ी पॉलिसी का उल्लंघन करने पर स्ट्राइक लगाई जाती है.” लेकिन, एस्केलेशन होने पर, Meta विशेष परिस्थितियों के आधार पर यह तय कर सकता है कि स्ट्राइक लगाई जाए या नहीं. इन परिस्थितियों में यह शामिल है कि क्या कंटेंट को जागरूकता फैलाने के संदर्भ में पोस्ट किया गया था या कंटेंट में लोगों के महत्व के किसी मुद्दे की आलोचना की गई है.

Meta ने बताया कि कंपनी ने ऊपर बताए गए MMS बैंक के ज़रिए हटाए गए कंटेंट पर स्ट्राइक नहीं लगाई ताकि “अभिव्यक्ति और सुरक्षा के बीच प्रभावी संतुलन बना रहे. साथ ही ऐसा इसलिए भी किया गया क्योंकि बैंक द्वारा हटाए गए कुछ कंटेंट से पॉलिसी के कथन का उल्लंघन नहीं होता होगा.” जैसा कि इस सेक्शन में पहले बताया गया है, मूल रूप से रिपोर्ट किए गए कंटेंट को हटाने का Meta का फ़ैसला, “हिंसा और उकसावे से जुड़ी पॉलिसी की भावना” पर आधारित था. Meta ने आगे कहा कि चूँकि इसमें MMS बैंक शामिल थे, इसलिए हर कंटेंट को अलग-अलग रिव्यू करने का कोई अवसर नहीं था, जैसा कि अन्य शुरुआती रिव्यू में किया जाता है. इसलिए, Meta ने उन यूज़र्स को आगे कोई दंड न देने के लिए स्ट्राइक नहीं लगाई जिन्होंने ऐसा कंटेंट पोस्ट किया था जो पॉलिसी के कथन का उल्लंघन नहीं करता.

सरकारी रिक्वेस्ट के बारे में बोर्ड के सवालों के जवाब में, Meta ने कहा कि उसके ट्रांसपेरेंसी सेंटर में यह जानकारी दी जाती है. Meta ने बताया कि जब किसी सरकार या कानून लागू करने वाली संस्था से स्थानीय कानून के उल्लंघन पर आधारित कोई औपचारिक रिपोर्ट प्राप्त होती है, तो पहले Meta के कम्युनिटी स्टैंडर्ड के अनुसार उसका रिव्यू किया जाता है, भले ही उसमें स्थानीय कानूनों का उल्लंघन करने के कारण कंटेंट को हटाने या प्रतिबंधित करने की रिक्वेस्ट हों. अगर Meta यह पाता है कि कंटेंट उसकी पॉलिसी का उल्लंघन करता है, तो उसे हटा दिया जाता है. हालाँकि, अगर ऐसा नहीं है, तो Meta यह कन्फ़र्म करने के लिए एक कानूनी रिव्यू करता है कि क्या रिपोर्ट सही है और वह Meta की कॉर्पोरेट मानवाधिकार पॉलिसी के अनुसार मानवाधिकार सम्यक तत्परता आकलन करता है.

बोर्ड ने Meta से 16 लिखित सवाल पूछे. सवाल, कंटेंट रिव्यू की सरकारी रिक्वेस्ट के लिए Meta की प्रोसेस, शुरुआती एन्फ़ोर्समेंट के लिए Meta द्वारा MMS बैंक के उपयोग और अकाउंट के लेवल के एन्फ़ोर्समेंट अभ्यासों से जुड़े थे. Meta ने 15 सवालों के जवाब दिए और इस केस में ओडिशा राज्य की कानून लागू करने वाली संस्था से प्राप्त कंटेंट रिव्यू की रिक्वेस्ट की कॉपी देने से इंकार कर दिया.

7. पब्लिक कमेंट

ओवरसाइट बोर्ड को लोगों की ओर से इस केस के लिए प्रासंगिक 88 कमेंट मिले: 31 कमेंट एशिया पैसिफ़िक और ओशेनिया से, 42 मध्य और दक्षिण एशिया से, आठ यूरोप से, एक लैटिन अमेरिका और कैरिबियन से, एक मध्य पूर्व और उत्तरी अफ़्रीका से और पाँच अमेरिका और कनाडा से सबमिट किए गए थे. इसमें 32 ऐसे सार्वजनिक कमेंट शामिल थे जो या तो डुप्लिकेट थे, प्रकाशित करने की सहमति के बगैर सबमिट किए गए थे या प्रकाशित करने की सहमति के साथ सबमिट किए गए थे, लेकिन प्रकाशन के लिए बोर्ड की शर्तें पूरी नहीं करते थे. सार्वजनिक कमेंट को प्रकाशन की सहमति के साथ या उसके बगैर और एट्रिब्यूट करने की सहमति के साथ या उसके बगैर बोर्ड को सबमिट किया जा सकता है.

सबमिशन में इन विषयों पर बात की गई थी: भारत का सामाजिक और राजनैतिक संदर्भ, ख़ास तौर पर अलग-अलग जातीय और धार्मिक समूहों के संबंध में; सरकार की प्रासंगिक पॉलिसी और विभिन्न जातीय और धार्मिक समूहों से व्यवहार; भारत में सोशल मीडिया प्लेटफ़ॉर्म की भूमिका, ख़ास तौर पर Meta के प्लेटफ़ॉर्म; क्या ओडिशा में सांप्रदायिक हिंसा दिखाने वाला कंटेंट ऑफ़लाइन हिंसा भड़का सकता था; सोशल मीडिया कंपनियों को कंटेंट का रिव्यू करने और/या उसे हटाने की सरकारी रिक्वेस्ट से कैसा व्यवहार करना चाहिए; ट्रांसपेरेंसी रिपोर्टिंग का महत्व, ख़ास तौर पर सरकारी रिक्वेस्ट के संबंध में; भारत में हिंसा और भेदभाव बढ़ाने में मीडिया और कम्युनिकेशन की भूमिका; किसी कंटेंट से ऑफ़लाइन हिंसा भड़कने की कितनी आशंका है, इस बात का आकलन करते समय संदर्भ और ऑफ़लाइन संकेतों के विश्लेषण का महत्व; किसी ख़ास जातीय और धार्मिक समूह के खिलाफ़ योजनाबद्ध तरीके से ऑनलाइन गलत जानकारी फैलाने से जुड़ी चिंताएँ.

इस केस को लेकर लोगों की ओर से सबमिट किए गए कमेंट देखने के लिए कृपया यहाँ क्लिक करें.

बोर्ड ने भारत के कई राज्य और केंद्रीय विभागों में सूचना के अधिकार से जुड़ी कई रिक्वेस्ट भी फ़ाइल की. प्राप्त जवाब, इस केस में रिव्यू किए जा रहे कंटेंट को पोस्ट किए जाने के समय स्थानीय संदर्भ की जानकारी और संबलपुर ओडिशा में किए गए प्रतिबंधात्मक उपायों की जानकारी तक सीमित थे.

8. ओवरसाइट बोर्ड का विश्लेषण

बोर्ड ने यह तय करने के लिए Meta की कंटेंट पॉलिसी, मानवाधिकार ज़िम्मेदारियों और वैल्यू का विश्लेषण किया कि क्या इस कंटेंट को हटा दिया जाना चाहिए. बोर्ड ने यह भी आकलन किया कि कंटेंट गवर्नेंस को लेकर Meta के व्यापक दृष्टिकोण पर इस केस का क्या असर पड़ेगा, ख़ास तौर पर जारी सांप्रदायिक संघर्ष के संदर्भ में.

बोर्ड ने इस केस को सांप्रदायिक हिंसा की घटनाओं को दिखाने वाले कंटेंट को मॉडरेट करने की Meta की पॉलिसी और प्रोसेस का आकलन करने के अवसर के रूप में चुना. इसके अलावा, इसने बोर्ड को यह अवसर भी दिया कि वह ऑनलाइन उकसावे की प्रकृति की चर्चा करे और इससे निपटने के तरीकों के बारे में Meta का मार्गदर्शन करे. अंत में, इस केस के ज़रिए बोर्ड ने संकट और संघर्ष की स्थितियों में ज़्यादा सामान्य तौर पर Meta की मानवाधिकार से जुड़ी ज़िम्मेदारियों से उसके अनुपालन का परीक्षण किया.

8.1 Meta की कंटेंट पॉलिसी का अनुपालन

I. कंटेंट नियम

हिंसा और उकसावा

बोर्ड ने पाया कि पोस्ट, हिंसा और उकसावे से जुड़े कम्युनिटी स्टैंडर्ड का उल्लंघन करती है जिसके तहत Meta “ऐसे कंटेंट को हटा देता है जो लोगों की या निजी सुरक्षा के लिए प्रामाणिक धमकी हो.” ख़ास तौर पर, यह पॉलिसी “लोगों या लोकेशन को टार्गेट करने वाली ऐसी धमकियों को प्रतिबंधित करती है, जिनसे किसी की जान जा सकती है (और अत्यधिक गंभीर प्रकार की अन्य हिंसा हो सकती है)” जहाँ धमकी को “बहुत गंभीर हिंसा करने के आह्वान” के रूप में परिभाषित किया गया है. इस पॉलिसी के तहत, हिंसा के आह्वान वाले कंटेंट को तब उल्लंघन करने वाला माना जाता है जब उसमें प्रामाणिक धमकी होती है. यह तय करने के लिए कि कोई धमकी प्रामाणिक है या नहीं, धमकियों को अनौपचारिक कथनों से अलग करने के लिए Meta, भाषा और संदर्भ पर विचार करता है. बोर्ड के अधिकांश सदस्यों ने इन बातों को प्रासंगिक पाया: कंटेंट को पोस्ट करने के समय के नाजुक संदर्भ और ओडिशा में जारी हिंसा; धार्मिक जुलूस की प्रकृति; वीडियो में बहुत गंभीर हिंसा के आह्वान; और प्लेटफ़ॉर्म पर पोस्ट किए जा रहे मिलते-जुलते कंटेंट का वायरल होना और उसकी व्यापक प्रकृति (जैसा कि ऊपर सेक्शन 2 में बताया गया है). इन बातों के आधार पर, बोर्ड के अधिकांश सदस्यों ने पाया कि कंटेंट से हिंसा का प्रामाणिक आह्वान दिखाई देता है.

इस केस के कंटेंट में हिंसा का एक दृश्य है जिसमें धार्मिक जुलूस की भीड़, लोगों से बैकग्राउंड में इमारत की बालकनी में खड़े एक अज्ञात व्यक्ति (“टार्गेट”) पर पत्थर/ईंटें फेंकने (“बहुत गंभीर हिंसा”) के लिए कहती है. कंटेंट रिव्यूअर्स को उपलब्ध कराई गई “टार्गेट” की परिभाषा में Meta ने ऐसे सभी “व्यक्तियों” को शामिल किया है, अज्ञात व्यक्तियों सहित, जिन्हें “एक ऐसे असली व्यक्ति के रूप में परिभाषित किया जाता है जिसे नाम या इमेज से पहचाना नहीं जाता.” Meta, “बहुत गंभीर हिंसा” को ऐसी हिंसा के रूप में परिभाषित करता है “जो जानलेवा हो सकती है.” Meta ने अपने कंटेंट रिव्यूअर्स से कहा है कि वे “किसी धमकी को तब बहुत गंभीर माने” जब वे इस बारे में सुनिश्चित नहीं हों कि “धमकी की गंभीरता मध्यम है या ज़्यादा.” यह देखते हुए कि सभी शर्तें पूरी हो रही हैं, बोर्ड के अधिकांश सदस्यों ने माना कि कंटेंट से हिंसा और उकसावे से जुड़े कम्युनिटी स्टैंडर्ड की प्रासंगिक पॉलिसी लाइन का उल्लंघन होता है.

इस केस में संदर्भ से जुड़े कारण महत्वपूर्ण हैं. पत्थर फेंकने की घटनाएँ बड़े पैमाने पर होती रही हैं और जुलूसों के दौरान ऐसा किया जाता रहा है. इन घटनाओं को हिंदू-मुसलमान हिंसा का ट्रिगर माना जाता रहा है (उदाहरण के लिए देखें PC-14070), ख़ास तौर पर जब हिंदू और मुसलमानों के त्योहार साथ में आते हैं. जैसा कि ऊपर सेक्शन 2 में बताया गया है, इन जुलूसों में कथित रूप से हिंदू राष्ट्रवाद से जुड़े प्रतीक दिखाए गए थे (जैसे भगवा रंग के झंडे) और साथ में अल्पसंख्यक समूहों, ख़ास तौर पर मुसलमानों, के खिलाफ़ हिंसा के कूटबद्ध आह्वान किए गए थे (“जय श्री राम” के नारे). इसके अलावा, बोर्ड को इस बात की जानकारी है कि सोशल मीडिया प्लेटफ़ॉर्म – और विशेष रूप से उकसावे के कृत्य दिखाने वाले वीडियो शेयर करने – का उपयोग इस संदर्भ में हिंसा को फैलाने और भड़काने के लिए किया जाता है, ख़ास तौर पर “लाइव” और वीडियो पोस्ट से (Id.) जैसा कि इस केस में विचाराधीन वीडियो में हुआ. इस केस में बहुत गंभीर हिंसा का जोखिम ज़्यादा था क्योंकि रैली और भड़की हुई हिंसा से एक व्यक्ति की मौत हो गई, कई लोग घायल हुए और संपत्ति को नुकसान हुआ, जैसा कि ऊपर सेक्शन 2 में बताया गया है. इसलिए, कंटेंट से बहुत गंभीर हिंसा और भड़क सकती थी.

ओडिशा में सरकार द्वारा इंटरनेट पर लगाई गई पाबंदी के बावजूद, बोर्ड ने नोट किया कि MMS बैंक की सेटिंग के चलते Meta के प्लेटफ़ॉर्म से उसी वीडियो वाली कई पोस्ट को हटाया गया. Meta ने बोर्ड को यह रोचक बात बताई कि ओडिशा की कानून लागू करने वाली संस्था द्वारा फ़्लैग किया गया और मूल रूप से एस्केलेट किया गया वीडियो तब “वायरल हो रहा था” जब उसका रिव्यू किया गया था और उसमें “बड़ी संख्या में उल्लंघन करने वाले कमेंट आए थे.” जैसा कि ऊपर सेक्शन 2 में बताया गया है, रिपोर्ट्स के अनुसार मुसलमान विरोधी गलत जानकारी और नफ़रत फैलाने वाली भाषा फैलाने के लिए योजनाबद्ध कैंपेन चलाए गए हैं.

अपने कंटेंट रिव्यूअर्स को क्रियान्वयन के लिए दी गई गाइडलाइन में Meta, उल्लंघन करने वाले ऐसे कंटेंट को परमिशन देता है “जिसमें उसका संदर्भ निंदा करना या जागरूकता फैलाना हो.” जागरूकता फैलाने वाले संदर्भ को Meta ऐसे कंटेंट के रूप में परिभाषित करता है जो “स्पष्ट रूप से किसी ख़ास विषय या समस्या पर अन्य लोगों को सूचित और शिक्षित करना चाहता है; या ऐसा कंटेंट जिसमें किसी व्यक्ति के धमकी या हिंसा का टार्गेट बनने के अनुभव की बात की जाती है. इसमें शैक्षणिक और मीडिया रिपोर्ट शामिल हो सकती हैं.” Meta ने बोर्ड से कहा कि “इन छूटों को ऐसे कंटेंट का फैलाव सीमित करने के लिए डिज़ाइन किया गया है जो हिंसा भड़का सकता है और जिसके ऑफ़लाइन परिणाम भी हो सकते हैं लेकिन साथ ही जिसमें उसके विरोध को जगह देना भी ज़रूरी है जिससे हिंसा का समर्थन नहीं होता बल्कि उसका इरादा थर्ड पार्टियों की धमकी के खिलाफ़ लोगों को शिक्षित करना या चेताना होता है.”

बोर्ड ने नोट किया कि यूज़र ने संबलपुर, ओडिशा में हिंसा भड़कने के कुछ ही देर बाद कंटेंट शेयर किया था, लेकिन इसके साथ दिया गया कैप्शन तटस्थ था (“संबलपुर” – उस कस्बे का नाम जहाँ हिंसक घटनाएँ हुई थीं). तथस्थ कैप्शन और दूसरी दिशा में इशारा करने वाले संदर्भ से जुड़े संकेतों को देखते हुए, बोर्ड इस निष्कर्ष पर पहुँचा कि कंटेंट से “यह स्पष्ट पता नहीं चलता कि उसका उद्देश्य किसी विशेष विषय या मुद्दे के बारे में लोगों को सूचित और शिक्षित करना है” या “उसमें किसी धमकी या हिंसा का टार्गेट बने किसी व्यक्ति का अनुभव नहीं बताया गया है.” बोर्ड ने पाया कि कंटेंट को जिस तरह पोस्ट किया गया था, वह हिंसा और उकसावे से जुड़े कम्युनिटी स्टैंडर्ड की जागरूकता फैलाने से जुड़ी छूट के तहत नहीं आता था. नुकसान के जोखिम को देखते हुए, जैसा कि नीचे सेक्शन 8.2 में बताया गया है, बोर्ड ने माना कि पोस्ट से नुकसान का जोखिम, जनहित की वैल्यू से ज़्यादा है. इसलिए इस केस में ख़बरों में रहने लायक होने की छूट नहीं दी जा सकती.

बोर्ड के अधिकांश सदस्य इसलिए इस निष्कर्ष पर पहुँचे कि कंटेंट को पोस्ट करने से जुड़े ऑनलाइन और ऑफ़लाइन संदर्भ, पोस्ट करने के समय संबलपुर ओडिशा में बढ़े हुए तनाव और जारी हिंसा और पॉलिसी से जुड़ी किसी भी छूट के लागू होने संबंधी किसी भी संकेत न होने को देखते हुए, कंटेंट से हिंसा और बढ़ने का गंभीर और संभावित जोखिम था, उससे संबलपुर में संघर्ष में शामिल धार्मिक समुदायों के खिलाफ़ प्रमाणिक खतरे या हिंसा के आह्वान का निर्माण होता है. इसलिए, Meta की हिंसा और उकसावे से जुड़ी पॉलिसी के तहत उसे हटाना सही है.

अधिकांश सदस्यों के विपरीत, कुछ सदस्यों को इसमें संदर्भ से जुड़ा ऐसा कोई संकेत दिखाई नहीं दिया जिससे यह विश्वास किया जा सके कि धार्मिक त्योहार हनुमान जयंती के दौरान ओडिशा में मोटरसाइकल जुलूस के एक दृश्य के वीडियो को रीपोस्ट करने से “हिंसा का प्रामाणिक आह्वान होता है.” इन कुछ सदस्यों ने कहा कि इस दावे का समर्थन करने वाला कोई सबूत मौजूद नहीं है कि यूज़र द्वारा वीडियो में सुनाई दे रहे आह्वान किए जा रहे थे या वह उनका समर्थन करता है. बिना देरी किए इस प्रकृति की किसी पोस्ट को “हिंसा का प्रामाणिक आह्वान” समझना, एक ऐसा स्टैंडर्ड है जिसे उकसावा दिखाने वाले किसी भी दृश्य को वर्चुअल रूप से रीपोस्ट करने से रोकने के लिए लागू किया जा सकता है, चाहे ऐसी पोस्ट का लक्ष्य या उद्देश्य कुछ भी हो.

हालाँकि कुछ सदस्यों का मानना है कि पोस्ट को किसी दूसरे कारण से Meta के हिंसा और उकसावे के कम्युनिटी स्टैंडर्ड के तहत उचित रूप से हटाया जा सकता है. इन कुछ सदस्यों ने नोट किया कि हिंसा और उकसावे से जुड़ा स्टैंडर्ड इस बारे में कुछ नहीं कहता कि क्या “उकसावे का चित्रण” करने वाली पोस्ट को बैन कर दिया जाना चाहिए. इन कुछ सदस्यों के नज़रिए में, “उकसावे के ऐसे चित्रण” जो किसी पुरानी अभिव्यक्ति का दोहराव, रीप्ले, रीकाउंट या अन्य चित्रण हो (जैसे किसी वीडियो, न्यूज़ स्टोरी, ऑडियो क्लिप या अन्य कंटेंट को पोस्ट करना) को उचित रूप से खुद उकसावे का एक रूप नहीं माना जा सकता. “चित्रित उकसावे” और मूल उकसावे, इरादे के साथ नाम लेकर कहने और नुकसान उकसाने के परिणाम में बहुत अंतर होता है (जैसे ऐसा वीडियो जिसमें सुनने वाले लोगों से तोड़-फोड़ करने के लिए कहा जा रहा हो या ऐसी लिखित पोस्ट जिमसें बदला लेने के लिए हमलों को बढ़ावा दिया जा रहा हो). चित्रित उकसावे वाली पोस्ट को जागरूकता फैलाने, हाल की घटनाओं पर बहस करने, निंदा करने या विश्लेषण करने के लिए शेयर किया जा सकता है और अगर कुछ ख़ास शर्तें पूरी नहीं होती हैं, तो उन्हें उकसाने वाला नहीं माना जाना चाहिए.

हिंसा और उकसावे से जुड़े कम्युनिटी स्टैंडर्ड में अपहरण की पुरानी घटनाओं का चित्रण स्पष्ट रूप से बैन किया गया है, लेकिन उसमें उकसावे की पुरानी घटनाओं के चित्रण के बारे में कुछ नहीं कहा गया है. इससे यह समझा जा सकता है कि स्टैंडर्ड में उकसावे की पुरानी घटनाओं के चित्रण को कवर नहीं किया गया है. हालाँकि ये कुछ सदस्य इस निष्कर्ष पर पहुँचे कि “चित्रित उकसावे” पर हिंसा और उकसावे से जुड़ी पॉलिसी तब उचित रूप से लागू की जा सकती है जब नीचे दी गई शर्तों में से कोई शर्त पूरी होती हो: 1) चित्रित उकसावे से यह स्पष्ट पता चलता हो कि उसका इरादा उकसाने का है; या 2) पोस्टिंग में a) संदर्भ से जुड़ा ऐसा कोई संकेत मौजूद न हो जो यह बताता हो कि पॉलिसी से जागरूकता फैलाने या न्यूज़ रिपोर्टिंग जैसी छूट मिल सकती है; और b) ऐसा कोई सबूत मौजूद हो जो बताता हो कि मिलते-जुलते कंटेंट की पोस्ट को हिंसा उकसाने के उद्देश्य से शेयर किया जा रहा है या जिसके परिणामस्वरूप हिंसा हुई है. (2) में बताई गई शर्तें इस केस में पूरी होती हैं, इसलिए कंटेंट को हटाने की परमिशन दी जा सकती है.

बोर्ड के इन कुछ सदस्यों का मानना है कि हिंसा और उकसावे से जुड़े कम्युनिटी स्टैंडर्ड को यह बताने के लिए स्पष्ट करना ज़रूरी है कि पॉलिसी न सिर्फ़ हिंसा उकसाने के लिए पोस्ट किए गए कंटेंट पर लागू होती है, बल्कि वह “चित्रित उकसावे” पर भी लागू होती है अर्थात ऐसी पोस्ट पर जिनमें ऊपर बताई गई स्थितियों के तहत उकसाने के पुराने चित्रण वाले कंटेंट को सिर्फ़ शेयर किया गया है.

II. एन्फ़ोर्समेंट एक्शन

Meta पहले फ़्लैग की गई फ़ोटो, वीडियो या टेक्स्ट जैसे या उससे मिलते-जुलते कंटेंट का पता लगाने के लिए MMS बैंक का उपयोग करता है. ये बैंक, यूज़र की पोस्ट को ऐसे पुराने कंटेंट से मैच कर सकते हैं जिन्हें Meta की आंतरिक टीमों द्वारा उल्लंघन करने वाला फ़्लैग किया गया है.

Meta ने बताया कि MMS बैंक को इस तरह कॉन्फ़िगर किया जा सकता है कि बैंक में शामिल कंटेंट मिलने पर उसका क्या किया जाए. इस केस में, Meta ने बोर्ड को बताया कि इस कंटेंट के कारण उत्पन्न हुए सुरक्षा जोखिमों को देखते हुए MMS बैंक को वीडियो की सभी कॉपियों को दुनियाभर से हटाने के लिए सेट किया गया था, चाहे उसका कैप्शन कुछ भी हो. दूसरे शब्दों में, ऐसे सभी वीडियो को सामूहिक रूप से हटा दिया गया, भले ही वे जागरूकता लाने, निंदा करने और न्यूज़ रिपोर्टिंग से जुड़ी Meta की छूट के तहत आते हों. Meta ने यह भी कहा कि इस ख़ास MMS बैंक को “स्ट्राइक लगाए बिना कार्रवाई करने के लिए सेट किया गया था.”

बोर्ड ने यह हाइलाइट किया कि एन्फ़ोर्समेंट से जुड़ी Meta की कार्रवाइयों का उन यूज़र्स पर बड़ा असर पड़ा है जो जागरूकता फैलाने और निंदा करने के उद्देश्यों से ऐसा कंटेंट पोस्ट करते हैं. Meta ने बोर्ड को बताया कि वीडियो की सभी कॉपियों को हटाने के कंपनी के फ़ैसले की कोई समयसीमा नहीं थी (न ही उसे कुछ ख़ास भौगोलिक लोकेशन तक सीमित किया गया था) और यह कि फ़िलहाल उस एन्फ़ोर्समेंट को वापस लेने की कोई योजना नहीं है. बोर्ड ने नीचे सेक्शन 8.2 में “आवश्यकता और आनुपातिकता” विश्लेषण के संदर्भ में Meta की एन्फ़ोर्समेंट कार्रवाई के बारे में विस्तार से चर्चा की है.

8.2 Meta की मानवाधिकारों से जुड़ी ज़िम्मेदारियों का अनुपालन

अभिव्यक्ति की आज़ादी (अनुच्छेद 19 ICCPR)

ICCPR के अनुच्छेद 19, पैरा. 2 में “ऐसे किसी भी विचार और राय के हर रूप के कम्युनिकेशन को भेजने और प्राप्त करने के लिए व्यापक सुरक्षा दी गई है जिसे दूसरे लोगों को प्रसारित किया जा सकता हो”. इसमें “राजनैतिक भाषण,” “धार्मिक उपदेश” और “पत्रकारिता” के साथ-साथ ऐसी अभिव्यक्ति शामिल है जिसे लोग “अत्यंत आपत्तिजनक” मान सकते हैं ( सामान्य कमेंट सं. 34, (2011), पैरा. 11). अभिव्यक्ति की आज़ादी के अधिकार में सूचना की एक्सेस का अधिकार भी शामिल है (सामान्य कमेंट सं. 34, (2011), पैरा. 18-19).

जहाँ राज्य, अभिव्यक्ति पर प्रतिबंध लगाता है, वहाँ प्रतिबंधों को वैधानिकता, वैधानिक लक्ष्य और आवश्यकता तथा आनुपातिकता की शर्तों को पूरा करना चाहिए (अनुच्छेद 19, पैरा. 3, ICCPR). इन आवश्यकताओं को अक्सर “तीन भागों वाला परीक्षण” कहा जाता है. अभिव्यक्ति की आज़ादी पर संयुक्त राष्ट्र के विशेष रैपर्टर में तीन भागों वाले इस टेस्ट का प्रस्ताव दिया गया है जो प्लेटफ़ॉर्म के कंटेंट मॉडरेशन आचरण के मार्गदर्शन में फ़्रेमवर्क का काम करेगा ( A/HRC/38/35). Meta की स्वैच्छिक मानवाधिकार प्रतिबद्धताओं को समझने के लिए बोर्ड इस फ़्रेमवर्क का उपयोग करता है - रिव्यू में मौजूद कंटेंट से जुड़े व्यक्तिगत फ़ैसले के लिए और यह जानने के लिए कि कंटेंट गवर्नेंस के प्रति Meta के व्यापक नज़रिए के बारे में यह क्या कहता है. जैसा कि अभिव्यक्ति की आज़ादी के बारे में संयुक्त राष्ट्र के ख़ास रैपर्टर में कहा गया है कि भले ही “कंपनियों का सरकारों के प्रति दायित्व नहीं है, लेकिन उनका प्रभाव ऐसा है जो उनके लिए अपने यूज़र की अभिव्यक्ति की आज़ादी के अधिकार की सुरक्षा के बारे में इस तरह के सवालों का आकलन करना ज़रूरी बनाता है” (A/74/486, पैरा. 41). इस केस में, बोर्ड ने तीन भागों वाला टेस्ट न सिर्फ़ विचाराधीन कंटेंट को हटाने के Meta के फ़ैसले पर लागू किया, बल्कि कंपनी के उस फ़ैसले पर भी लागू किया जिसके तहत बोर्ड के विश्लेषण में शामिल वीडियो से मिलते-जुलते वीडियो को अपने आप हटाया जाता है, भले ही उसका कैप्शन कुछ भी हो.

I. वैधानिकता (नियमों की स्पष्टता और सुलभता)

अंतरराष्ट्रीय मानवाधिकार कानून के तहत वैधानिकता के सिद्धांत के अनुसार अभिव्यक्ति पर रोक लगाने वाले नियम स्पष्ट और सार्वजनिक रूप से उपलब्ध होने चाहिए (सामान्य कमेंट सं. 34, पैरा. 25). अभिव्यक्ति को प्रतिबंधित करने वाले नियम “उन लोगों को अभिव्यक्ति की आज़ादी को प्रतिबंधित करने के निरंकुश अधिकार नहीं दे सकते जिन पर इन्हें लागू करने की ज़िम्मेदारी है” और नियमों में "उन लोगों के लिए पर्याप्त मार्गदर्शन भी होना चाहिए जिनपर इन्हें लागू करने ज़िम्मेदारी है ताकि वे यह पता लगा सकें कि किस तरह की अभिव्यक्ति को उचित रूप से प्रतिबंधित किया गया है और किसे नहीं" (पूर्वोक्त). ऑनलाइन अभिव्यक्ति की निगरानी करने वाले नियमों के मामले में, अभिव्यक्ति की आज़ादी पर संयुक्त राष्ट्र के ख़ास रैपर्टर में कहा गया है कि उन्हें स्पष्ट और विशिष्ट होना चाहिए (A/HRC/38/35, पैरा. 46). Meta के प्लेटफ़ॉर्म का उपयोग करने वाले लोगों के लिए ये नियम एक्सेस करने और समझने लायक होने चाहिए और उनके एन्फ़ोर्समेंट के लिए कंटेंट रिव्यूअर्स को स्पष्ट मार्गदर्शन दिया जाना चाहिए.

बोर्ड ने पाया कि, जैसा कि इस केस के तथ्यों पर लागू होता है, अनिर्दिष्ट टार्गेट पर बहुत गंभीर हिंसा का आह्वान करने वाले कंटेंट पर Meta का प्रतिबंध और वे स्थितियाँ जिनके तहत यह प्रतिबंध ट्रिगर होता है, पर्याप्त रूप से स्पष्ट हैं.

बोर्ड ने यह भी नोट किया कि हिंसा और उकसावे से जुड़े कम्युनिटी स्टैंडर्ड के तहत “जागरूकता फैलाने” से जुड़ी छूट, पॉलिसी की लोगों को दिखाई देने वाली भाषा में अभी भी उपलब्ध नहीं है. दूसरे शब्दों में, यूज़र्स को अभी भी इस बात की जानकारी नहीं है कि अन्यथा उल्लंघन करने वाले कंटेंट को उस स्थिति में छूट दी जाती है जब उसे निंदा करने या जागरूकता फैलाने के संदर्भ में शेयर किया जाता है. इससे Meta के प्लेटफ़ॉर्म पर यूज़र्स द्वारा जनहित की चर्चाएँ शुरू करने या उनमें भाग लेने में रुकावट आ सकती है. इसलिए, बोर्ड ने “रूसी कविता” केस की अपनी सुझाव सं. 1 को दोहराते हुए कहा कि Meta को अपने हिंसा और उकसावे के कम्युनिटी स्टैंडर्ड के लोगों को दिखाई देने वाली भाषा में यह जोड़ना चाहिए कि कंपनी के अनुसार पॉलिसी में “किसी कार्रवाई के संभावित परिणाम के तटस्थ संदर्भ या परामर्शी चेतावनी” वाले कंटेंट और “हिंसक धमकियों की निंदा करने या उनके खिलाफ़ जागरूकता फैलाने” वाले कंटेंट की परमिशन है.

अंत में, बोर्ड ने नोट किया कि कैप्शन पर ध्यान दिए बगैर ऐसे सभी वीडियो को हटाने का Meta का फ़ैसला “पॉलिसी की भावना” से जुड़ी छूट पर आधारित है, जो स्पष्ट नहीं है और सभी यूज़र्स उसे एक्सेस भी नहीं कर सकते, इसलिए वैधानिकता टेस्ट में इससे गंभीर चिंताएँ खड़ी होती हैं. इस संबंध में, बोर्ड के कुछ सदस्यों ने आगे पाया कि वीडियो को एक साथ हटाने के बारे में Meta का अपना यह संदर्भ कि हिंसा और उकसावे से जुड़ी पॉलिसी की “भावना” के आधार पर यह उचित है, एक अनकही स्वीकारोक्ति है कि लिखित रूप में पॉलिसी खुद ऐसे व्यापक निष्कासन की परमिशन नहीं देती. हटाए गए कंटेंट के आधार पर यूज़र्स पर स्ट्राइक न लगाने का कंपनी का फ़ैसला, आगे Meta की यह स्वीकारोक्ति बताता है कि ऐसे कंटेंट को पोस्ट करना स्पष्ट रूप से पॉलिसी का उल्लंघन नहीं माना जा सकता. इन बातों से इन कुछ सदस्यों के इस निष्कर्ष को बल मिलता है कि कंपनी, जिसे कंपनी वर्चुअल रूप से स्वीकार करती है, इस केस में एन्फ़ोर्समेंट की अपनी व्यापक कार्रवाई के संबंध में वैधानिकता के टेस्ट में विफल रही है.

बोर्ड ने “श्रीलंका फ़ार्मास्यूटिकल्स” केस में अपनी सुझाव सं. 1 को दोहराया जिसमें बोर्ड ने Meta से कहा था कि वह यूज़र्स को ज़्यादा स्पष्टता दे और कम्युनिटी स्टैंडर्ड के लैंडिंग पेज में यह समझाए, उसी तरह से जैसे कंपनी ने ख़बरों में रहने लायक होने के कारण छूट देने के मामले में किया है, कि कम्युनिटी स्टैंडर्ड से छूट तब दी जा सकती है जब उन्हें बनाने के कारण और Meta की वैल्यू के अनुसार परिणाम, नियमों के कठोरता से पालन के बजाय कुछ और होना चाहिए. बोर्ड ने यह भी सुझाव दिया कि Meta उस ट्रांसपेरेंसी सेंटर पेज का लिंक शामिल करे जहाँ “पॉलिसी का भावना” से जुड़ी छूट के बारे में जानकारी दी गई हो. बोर्ड मानता है कि इस सुझाव से इस केस में Meta के व्यापक एन्फ़ोर्समेंट दृष्टिकोण की स्पष्टता और एक्सेस योग्यता से संबंधित समस्याओं का समाधान करने में मदद मिलेगी.

हिंसा और उकसावे की पॉलिसी यह नहीं बताती कि क्या “चित्रित उकसावा” प्रतिबंधित है और बोर्ड के कुछ सदस्यों का मानना है कि सीमित स्थितियों में वर्तमान पॉलिसी से ऐसे प्रतिबंध का अनुमान लगाया जा सकता है, लेकिन इसे स्पष्ट किया जाना चाहिए. कुछ सदस्यों ने नोट किया कि हिंसा और उकसावे की पॉलिसी में उन परिस्थितियों के बारे में स्पष्ट रूप से बताया जाना चाहिए जिनमें यह उकसावे का सिर्फ़ चित्रण (“चित्रित उकसावा”) करने वाले कंटेंट पर लागू होती है. इन कुछ सदस्यों का मानना है कि पॉलिसी और उसके उद्देश्य, जैसा कि उन्हें इस केस में लागू किया गया, वैधानिकता की शर्तें पूरी करने के लिए पर्याप्त स्पष्ट हैं.

II. वैधानिक लक्ष्य

अभिव्यक्ति की आज़ादी पर किसी भी प्रतिबंध का उद्देश्य “वैधानिक लक्ष्य” प्राप्त करना ही होना चाहिए. हिंसा और उकसावे की पॉलिसी का उद्देश्य “ऑफ़लाइन नुकसान की आशंका को रोकना” और ऐसे कंटेंट को हटाना है जिससे “जान-माल के नुकसान का प्रामाणिक जोखिम या लोगों की सुरक्षा को सीधा खतरा” होता है. लोगों की सुरक्षा सुनिश्चित करने के लिए प्लेटफ़ॉर्म पर हिंसा के आह्वानों को प्रतिबंधित करना, अनुच्छेद 19, पैरा. 3 के तहत एक वैधानिक लक्ष्य का निर्माण करता है, क्योंकि यह जीवन को लेकर “दूसरों के अधिकार” (ICCPR, अनुच्छेद 6) और धर्म या मान्यता की आज़ादी (ICCPR, अनुच्छेद 18) की सुरक्षा करता है.

III. आवश्यकता और आनुपातिकता

आवश्यकता और आनुपातिकता के सिद्धांत के अनुसार यह ज़रूरी है कि अभिव्यक्ति की आज़ादी से संबंधित प्रतिबंध "रक्षा करने के उनके कार्य को सही तरीके से पूरा करने वाले होने चाहिए; उनसे उन लोगों के अधिकारों में कम से कम हस्तक्षेप होना चाहिए, जिन्हें उन प्रतिबंधों से होने वाले रक्षात्मक कार्यों का लाभ मिल सकता है [और] जिन हितों की सुरक्षा की जानी है, उसके अनुसार ही सही अनुपात में प्रतिबंध लगाए जाने चाहिए" (सामान्य टिप्पणी सं. 34, पैरा. 34).

हिंसक कंटेंट से होने वाले जोखिमों का आकलन करते समय, बोर्ड छह कारकों वाले परीक्षण से मार्गदर्शन लेता है जिसकी जानकारी रबात एक्शन प्लान में दी गई है. यह परीक्षण राष्ट्रीय, नस्लीय या धार्मिक घृणा के समर्थन का समाधान करता है जिससे शत्रुता, भेदभाव या हिंसा को उकसावा मिलता है. प्रासंगिक कारकों के आकलन, ख़ासकर संदर्भ, कंटेंट और रूप, और नुकसान की आशंका और तात्कालिकता, जैसी कि नीचे व्याख्या की गई है, के आधार पर बोर्ड ने पाया कि विचाराधीन पोस्ट को हटाना, मानवाधिकारों से जुड़ी Meta की ज़िम्मेदारियों के अनुरूप है क्योंकि इससे तुरंत और संभावित नुकसान पहुँच सकता है.

वीडियो में एक धार्मिक जुलूस के दौरान पास की बालकनी में खड़े एक व्यक्ति और रैली में शामिल लोगों, जो “जय श्री राम” के नारे लगा रहे हैं, के बीच हिंसा का एक दृश्य दिखाया गया है. बोर्ड ने विशेषज्ञों की रिपोर्ट, जिसकी चर्चा ऊपर सेक्शन 2 में की गई है, के आधार पर यह नोट किया कि “जय श्री राम” जिसका शाब्दिक अर्थ “भगवान राम की जयकार” (एक हिंदू देवता) होता है, का उपयोग वीडियो में दिखाए गए धार्मिक जुलूस जैसे जुलूसों में अल्पसंख्यक समुदायों, विशेष रूप से मुसलमानों, के खिलाफ़ शत्रुता को बढ़ावा देने के लिए एक कूटबद्ध अभिव्यक्ति के रूप में किया गया है. यूज़र ने यह कंटेंट संबलपुर में हिंसा भड़कने के एक दिन बाद पोस्ट किया था, जब स्थिति नाजुक बनी हुई थी. बोर्ड ने यह भी नोट किया कि, जैसा कि ऊपर सेक्शन 2 में हाइलाइट किया गया है, संबलपुर ओडिशा की इस धार्मिक रैली के कारण हिंसा हुई और एक व्यक्ति की मौत हो गई. इन घटनाओं के बाद कुछ लोगों को गिरफ़्तार किया गया और इंटरनेट पर पाबंदी लगाई गई. बोर्ड को धार्मिक जुलूसों और सांप्रदायिक हिंसा के बीच के संबंध की जानकारी है और उसने यह हाइलाइट किया कि जुलूसों के दौरान पथराव की प्रकृति व्यापक और संगठित है जिनके कारण हिंदू-मुसलमान हिंसा होती है (देखें उदाहरण, PC-14070).

कंटेंट को पोस्ट करने से जुड़े ऑनलाइन और ऑफ़लाइन संदर्भ, वीडियो को पोस्ट करने के समय ओडिशा में बढ़े हुए तनाव और जारी हिंसा और पॉलिसी से किसी छूट के लागू होने के संकेत की अनुपस्थिति को देखते हुए, बोर्ड ने पाया कि हिंसा और उकसावे से जुड़े कम्युनिटी स्टैंडर्ड के तहत पोस्ट को हटाना आवश्यक और आनुपातिक था. पोस्ट बनाए जाते समय ओडिशा की नाज़ुक स्थिति को ध्यान में रखते हुए, वीडियो से हिंसा बढ़ने का गंभीर और संभावित जोखिम था.

इसलिए बोर्ड, संदर्भ से जुड़े कारणों और जागरूकता फैलाने के स्पष्ट उद्देश्य की अनुपस्थिति को देखते हुए, इस केस में वीडियो को हटाने के Meta के फ़ैसले से सहमत है (जैसी कि ऊपर सेक्शन 8.1 में चर्चा की गई है). बोर्ड ने यह भी नोट किया कि कंपनी ने मूल रूप से एस्केलेट किए गए कंटेंट में शामिल वीडियो को MMS बैंक में जोड़ा जिसे उसी वीडियो वाली सभी मिलती-जुलती पोस्ट को हटाने के लिए कॉन्फ़िगर किया गया था, चाहे पोस्ट का कैप्शन कुछ भी हो. इसमें जागरूकता फैलाने वाली, निंदा करने वाली और/या रिपोर्ट करने के उद्देश्य से बनाई गई पोस्ट शामिल हैं जिन्हें हिंसा और उकसावे से जुड़े कम्युनिटी स्टैंडर्ड से छूट दी जाती है.

बोर्ड के अधिकांश सदस्यों का मानना है कि शुरुआत में कंटेंट को मॉडरेट करने में आने वाली कठिनाइयाँ, इस व्यापक एन्फ़ोर्समेंट फ़ैसले के लिए बहुत प्रासंगिक हैं. Meta ने उस कंटेंट को हटाने का फ़ैसला किया जो बढ़े हुए तनाव और हिंसा के समय में हिंसा को और बढ़ाने का गंभीर और संभावित जोखिम पैदा करता था. ऐसी स्थितियों में, एन्फ़ोर्समेंट से जुड़ी Meta की कार्रवाइयों की सामयिकता महत्वपूर्ण है. जैसा कि बोर्ड ने पहले कहा था, Meta द्वारा हर महीने मॉडरेट की जाने वाले लाखों पोस्ट में गलतियाँ होना स्वाभाविक है. उल्लंघन न करने वाले कंटेंट को गलती से हटाना (फ़ाल्स पॉज़ीटिव) अभिव्यक्ति पर बुरा असर डालाता है, लेकिन हिंसक धमकियों और उकसावे को बनाए रखना (फ़ाल्स निगेटिव) से सुरक्षा को गंभीर खतरा होता है और उन लोगों की भागीदारी कम हो सकती है जिन्हें टार्गेट किया जाता है (“ अमेरिका में, गर्भपात पर चर्चा करने वाली पोस्ट” केस देखें). इस वीडियो को पोस्ट करने के कारण सुरक्षा को होने वाले खतरे के दायरे को देखते हुए, ओडिशा में बढ़े हुए तनाव और जारी हिंसा की अवधि में, कैप्शन पर ध्यान दिए बगैर और यूज़र पर स्ट्राइक लगाए बगैर ऐसे वीडियो को हटाने का Meta का फ़ैसला, इस कंटेंट को व्यापक रूप से शेयर किए जाने के संभावित जोखिमों को रोकने के लिए आवश्यक और आनुपातिक था.

ऊपर सेक्शन 2 और सेक्शन 8.1 में हाइलाइट किए गए संदर्भात्मक कारणों के अलावा, बोर्ड के अधिकांश सदस्यों ने नोट किया कि MMS बैंक की सेटिंग के कारण, संबलपुर में इंटरनेट पर लगी पाबंदी के बावजूद, Meta के प्लेटफ़ॉर्म से ऐसे कई कंटेंट को हटाया गया है. ख़ास तौर पर, अपने फ़ैसले के Meta द्वारा बताए गए कारण के अनुसार, मूल रूप से एस्केलेट किया गया वीडियो “वायरल हो रहा था” और उसमें “बड़ी संख्या में उल्लंघन करने वाले कमेंट थे.” ऊपर दिए गए सेक्शन 2 के तहत, बोर्ड ने यह हाइलाइट करने वाली रिपोर्ट की ओर ध्यान दिलाया कि भारत में मुसलमानों के खिलाफ़ नफ़रत फैलाने वाली भाषा और गलत जानकारी फैलाने के योजनाबद्ध कैंपेन चलाए जा रहे हैं. इसी सेक्शन में, बोर्ड ने उन रिपोर्ट को भी नोट किया जिनमें बताया गया है कि सांप्रदायिक हिंसा से जुड़े वीडियो को ऐसे पैटर्न में फैलाया गया है जो योजना की तरफ इशारा करते हैं. इस संबंध में, बोर्ड के अधिकांश सदस्यों ने नोट किया कि, जैसा कि धर्म या मान्यता की आज़ादी पर विशेष रैपर्टर में कहा गया है, “नागरिक, राजनैतिक और धार्मिक कार्यकर्ताओं द्वारा नफ़रत और हिंसा के उकसावे की जगह के रूप में सोशल मीडियो प्लेटफ़ॉर्म का दुरुपयोग बढ़ता जा रहा है”. इसी संबंध में, “भारत में धार्मिक अल्पसंख्यकों के खिलाफ़ प्रामाणिक और निर्मित नफ़रत के प्रसार संबंधी चिंताएँ बढ़ी हैं” ( A/75/385, पैरा. 35). अधिकांश सदस्यों को मुसलमानों को टार्गेट करके बार-बार होने वाली और व्यापक हिंसा की जानकारी है, जिसके साथ रिपोर्ट के अनुसार दंड देने का भाव जुड़ा होता है.

ये अधिकांश सदस्य इस बात को समझते हैं कि शुरुआत में हिंसा की धमकियों को हटाने में Meta को कठिनाइयाँ आती हैं (“भारत में फ़्रांस के खिलाफ़ विरोध प्रदर्शन” केस देखें). शुरुआत में Meta की पॉलिसी को एन्फ़ोर्स करने में आने वाली कठिनाइयों का विश्लेषण करते समय, बोर्ड ने पहले इस बात पर ज़ोर दिया था कि मनुष्यों को हीन बताने वाले ऐसे भाषण जिनमें स्पष्ट या अस्पष्ट रूप से भेदभावपूर्ण कृत्य या भाषा होती है, अत्याचारों में योगदान दे सकते हैं. ऐसे परिणामों को पहले ही रोकने के लिए, Meta ऐसी पोस्ट को अपने प्लेटफ़ॉर्म से विधिसम्मत रूप से हटा सकता है जो हिंसा को बढ़ावा देती हैं (“क्निन कार्टून” केस देखें). नफ़रत फैलाने वाली भाषा से जुड़े कम्युनिटी स्टैंडर्ड की व्याख्या करते हुए, बोर्ड ने इस बात पर भी विचार किया कि कुछ परिस्थितियों में, शुरुआत में नफ़रत फैलाने वाली भाषा से होने वाले मिले-जुले नुकसानों को रोकने के उद्देश्य से कंटेंट को मॉडरेट करना मानवाधिकारों से जुड़ी Meta की ज़िम्मेदारियों के अनुरूप है. यह स्थिति तब भी कायम रहती है जब कंटेंट के भागों को अलग-अलग देखे जाने पर वे हिंसा या भेदभाव को सीधे उकसाने वाले नज़र नहीं आते (“ज़्वार्टे पिएट का चित्रण” केस देखें). हिंसा और उकसावे से जुड़ी पॉलिसी के संबंध में इस केस के विशिष्ट संदर्भ को देखते हुए, बोर्ड के अधिकांश सदस्यों के लिए यही कहा जा सकता है.

हालाँकि बोर्ड के अधिकांश सदस्यों ने यह नोट किया कि एन्फ़ोर्समेंट के व्यापक उपाय, जैसे Meta का MMS बैंक वाले तरीके, की एक समयसीमा होनी चाहिए. ओडिशा में स्थिति बदलने और कंटेंट से जुड़ा हिंसा का जोखिम कम होने के बाद, Meta को MMS बैंक में जोड़े गए वीडियो वाली पोस्ट को मॉडरेट करने के लिए किए गए एन्फ़ोर्समेंट उपायों का फिर से आकलन करना चाहिए और सुनिश्चित करना चाहिए कि पॉलिसी से जुड़ी छूट का सामान्य उपयोग किया जाए. भविष्य में, बोर्ड ऐसे तरीकों का स्वागत करेगा जिनमें ऐसे व्यापक एन्फ़ोर्समेंट उपायों का उपयोग सिर्फ़ उसी समय किया जाए और ज़्यादा जोखिम वाले भौगोलिक क्षेत्रों में ही किया जाए ताकि अभिव्यक्ति की आज़ादी पर अनुपातहीन असर डाले बिना नुकसान के जोखिम को ज़रूरत के अनुसार उचित रूप से कम-ज़्यादा किया जा सके.

हालाँकि बोर्ड के कुछ सदस्य यह नहीं मानते कि यह देखे बिना कि वीडियो को जागरूकता फैलाने के लिए (जैसे किसी न्यूज़ आउटलेट द्वारा) या निंदा करने के लिए, उकसावे की किसी पुरानी घटना का चित्रण करने वाले सभी मिलते-जुलते वीडियो को पूरी दुनिया से हटा देना उचित प्रतिक्रिया नहीं है. यह कि किसी शहर में या कुछ लोगों पर सांप्रदायिक हिंसा हो रही है, यह अपने आप में ऐसा आधार नहीं बनाता कि ऐसी हिंसा को आगे फैलने से रोकने के नाम पर मुक्त अभिव्यक्ति पर ऐसा संपूर्ण प्रतिबंध लगा दिया जाए. इससे ख़ास तौर पर ऐसा कुछ दिखाई नहीं देता या यह मानने के लिए ऐसा कोई आधार तैयार नहीं होता कि ऐसे प्रतिबंधों से हिंसा में कमी आएगी.

हिंसक संघर्ष की स्थितियों में, लोगों को प्रभावित करने वाली महत्वपूर्ण घटनाओं के बारे में जागरूकता फैलाने, जानकारी शेयर करने और जवाब देने के लिए कम्युनिटी को तैयार करने की अनिवार्यता सर्वोपरि है. ज़रूरत से ज़्यादा एन्फ़ोर्समेंट से उन कम्युनिटी तक सामयिक घटनाओं की जानकारी नहीं पहुँचेगी जिन्हें खतरा है और इससे अफ़वाहों और गलत जानकारी फैलने की आशंका होती है. वाकई यह मानना खतरनाक है कि अभिव्यक्ति और सुरक्षा, आपस में हमेशा टकराने वाले लक्ष्य हैं और एक के लिए दूसरे को कुर्बानी देनी ही होती है. जबकि उन्हें अक्सर आपस में जुड़ा हुआ देखा जाता है: भड़काने वाले कंटेंट के प्रसार से ऑफ़लाइन हिंसा का जोखिम बढ़ सकता है, लेकिन जानकारी को दबाने से सुरक्षा से समझौता हो सकता है, अक्सर उन लोगों के लिए जिन्हें खतरा है. कंटेंट को इस तरह एक साथ हटा देने से संघर्ष में शामिल पार्टियों की अभिव्यक्ति पर बुरा असर पड़ने का खतरा भी होता है जिससे तनाव बढ़ सकता है और हिंसा में आग का काम कर सकता है. कंटेंट को इस तरह एकमुश्त हटाने से लोग ऐसी स्थिति में पहुँच सकते हैं जहाँ उन्हें उस समय जबरन चुप करा दिया जाता है जब उन्हें तत्काल मदद माँगने या कम से कम गवाह खड़े करने की ज़रूरत होती है. हिंसक संघर्ष की स्थितियों में, तत्काल उपलब्ध जानकारी और बातचीत की अत्यधिक ज़रूरत होती है जिसके लिए Meta के प्लेटफ़ॉर्म मुख्य स्थान हैं. यह निष्कर्ष कि हिंसक संघर्ष खुद, मुक्त अभिव्यक्ति पर संपूर्ण प्रतिबंध को उचित ठहराने के लिए पर्याप्त है, उन अधिकारवादी सरकारों और ताकतवर गैर-सरकारी लोगों के लिए स्वागत योग्य हो सकता है जो ऐसी हिंसा में शामिल होते हैं और जिन्हें दुनिया को इसकी जानकारी मिलने से रोकने या लोगों को तब तक जागरूक न होने देने का पुरस्कार मिलता है जब तक कि उनका उद्देश्य पूरा नहीं हो जाता.

ये कुछ सदस्य आगे यह भी मानते हैं कि उकसावा दिखाने वाले सभी कंटेंट को हटाने की व्यापक पॉलिसी, वैश्विक घटनाओं को कवर करने की न्यूज़ ऑर्गेनाज़ेशंस की महत्वपूर्ण भूमिका में बाधा डालेगी क्योंकि इससे Meta के प्लेटफ़ॉर्म पर उनके न्यूज़ कंटेंट का डिस्ट्रिब्यूशन तब कम होगा जब चित्रित घटनाओं में हिंसा के उकसावे की पुरानी घटनाओं का संदर्भ होगा. अगर ऐसी जानकारी को समय से प्रसारित किया जाता है, तो उसकी जागरूकता फैलाने की क्षमता, हिंसा को शांत करने या उसका विरोध करने वालों को एकजुट करने में ज़रूरी भूमिका निभा सकती है. कुछ सदस्य इस बात से भी चिंतित हैं कि उकसावा दिखाने वाली पोस्ट को एक साथ हटा देने से प्लेटफ़ॉर्म के बाहर होने वाली वास्तविक जीवन की हिंसा के उकसावे के लिए ज़िम्मेदार लोगों को पहचानने और जवाबदेह ठहराने की कोशिशों में बाधा आ सकती है. यह देखते हुए कि Meta की किसी पोस्ट का वायरल होना और लोगों तक उसका पहुँचना अधिकांश रूप से पोस्ट को शेयर किए जाने के कुछ घंटों और दिनों बाद ही होता है, बोर्ड के कुछ सदस्य यह नहीं मानते कि प्लेटफ़ॉर्म पर “चित्रित उकसावे” पर संपूर्ण प्रतिबंध, भले ही वह कुछ समय के लिए हो, Meta की वैल्यू और मानवाधिकार प्रतिबद्धताओं के अनुरूप है. कंटेंट की ज़रूरत से ज़्यादा निगरानी से, उसे पोस्ट करने के मंतव्य और संदर्भ पर ध्यान दिए बिना, अभिव्यक्ति की कंपनी की अपनी सर्वोपरि प्रतिबद्धता और अभिव्यक्ति की आज़ादी की रक्षा करने की उसके अंतरराष्ट्रीय मानवाधिकार प्रतिबद्धता को कायम रखने की Meta की ज़िम्मेदारी का त्याग होता है. कुछ सदस्य इस बात से चिंतित हैं कि अधिकांश सदस्यों की राय को दमनकारी सरकारों द्वारा ख़ुद के फ़ायदे के लिए निकाले गए इंटरनेट पाबंदी और सूचना को अन्य तरह से दबाने के आदेशों को उकसावे के चित्रण पर प्रतिबंध के नाम पर विधिसम्मत ठहराने के लिए उपयोग किया जा सकता है, लेकिन जो वास्तव में नागरिकों या अल्पसंख्यक समूहों पर हिंसा के बारे में सामयिक या संभावित रूप से जीवनरक्षक जानकारी हो सकती है.

इन कुछ सदस्यों का कहना है कि बोर्ड को अभिव्यक्ति पर ऐसे संपूर्ण बैन लगाने को उचित ठहराने के बारे में Meta के इन कोरे दावों को सीधे ही मान नहीं लेना चाहिए कि कंटेंट की “भारी मात्रा” की निगरानी में कठिनाई आती है, ख़ास तौर पर यह देखते हुए कि ओडिशा सरकार ने इंटरनेट पर पाबंदी लगा दी थी, Meta के कंटेंट मॉडरेशन के बारे में सीधे उससे बात की थी और एक वर्ष के लिए एक जगह इकट्ठे होने की आज़ादी पर बैन लगा दिया था.

ये कुछ सदस्य मानते हैं कि किसी ख़ास पैमाने पर काम करने वाली सोशल मीडिया कंपनी को उसी पैमाने पर अपनी पॉलिसी का उपयोग सुनिश्चित करना चाहिए. इसके अलावा, जैसा कि संयुक्त राष्ट्र के विशेष रैपर्टर में नोट किया गया है, सोशल मीडिया कंपनियों के पास “दी गई स्थितियों में . . . डिलीट करने के अलावा अन्य कई विकल्प उपलब्ध हो सकते हैं” ( A/74 /486, पैरा. 51) (जियोब्लॉकिंग, फैलाव रोकने, चेतावनी लेबल लगाने, विरोधी बयानों को प्रमोट करने आदि जैसे विकल्पों को नोट करते हुए). विशेष रैपर्टर में यह भी कहा गया है कि “जिस प्रकार अमेरिका को यह मू्ल्यांकन करना चाहिए कि क्या अभिव्यक्ति पर प्रतिबंध लगाना सबसे कम रुकावट वाला तरीका है, उसी तरह कंपनियों को भी इस तरह का मू्ल्यांकन करना चाहिए. और, यह मू्ल्यांकन करते समय, आवश्यकता और आनुपातिकता के सार्वजनिक प्रदर्शन का भार कंपनियों को वहन करना चाहिए.” (वही, ज़ोर दिया गया.) बोर्ड ने पहले Meta से वे विकल्प बताने के लिए कहा था कि विधिसम्मत लक्ष्यों को प्राप्त करने के लिए उसके पास कौन-कौन से विकल्प हैं और यह कि चुना गया तरीका किस तरह सबसे कम बाधक है (“ COVID के क्लेम किए गए बचाव” केस देखें). कुछ सदस्यों के लिए, विशेष रैपर्टर द्वारा प्रस्तावित कथन के अनुरूप जानकारी, यह आकलन करने में उपयोगी होगी कि क्या संकट के समय प्रमुख कंटेंट की संपूर्ण निकासी आवश्यक और आनुपातिक है. इसके अलावा, Meta के साथ ऐसे पब्लिक डायलॉग में एंगेज होने में, कंपनी बोर्ड और लोगों को विस्तार से यह बता सकती है, ख़ास तौर पर आर्टिफ़िशियल इंटेलिजेंस के संबंध में उसकी उपलब्धियों की घोषणा को देखते हुए, कि कंपनी की अपनी पॉलिसी से छूट के अंतर्गत आने वाली पोस्ट को पहचानने के लिए उसने अपनी ऑटोमेटेड टेक्नोलॉजी को बेहतर बनाने के लिए क्या-क्या प्रयास किए हैं.

9. ओवरसाइट बोर्ड का फ़ैसला

ओवरसाइट बोर्ड ने Meta के कंटेंट को हटाने के फ़ैसले को कायम रखा है.

10. सुझाव

ओवरसाइट बोर्ड ने तय किया कि वह इस फ़ैसले में कोई नया सुझाव नहीं देगा क्योंकि अन्य केसों में पहले दिए गए सुझाव यहाँ भी प्रासंगिक हैं. इसलिए बोर्ड ने फ़ैसला किया कि वह नीचे दिए गए सुझाव दोहराएगा ताकि Meta उनका गहराई से पालन करे:

• यह सुनिश्चित करे कि हिंसा और उकसावे के कम्युनिटी स्टैंडर्ड में ऐसे कंटेंट को परमिशन दी जाए जिसमें “किसी कार्रवाई के संभावित परिणाम के तटस्थ रेफ़रेंस या परामर्शी चेतावनी” हो और जो कंटेंट “हिंसक धमकियों की निंदा करता हो या उनके खिलाफ़ जागरूकता फैलाता हो” (सुझाव सं. 1, “रूसी कविता” केस). बोर्ड यह अपेक्षा करता है कि पॉलिसी में किए जाने वाले ये बदलाव Meta के शुरुआती एन्फ़ोर्समेंट में भी दिखाई दें जिसमें एन्फ़ोर्समेंट के लिए उसके द्वारा कंटेंट की पहचान, उसका क्लासिफ़ायर/ऑटोमेटेड एन्फ़ोर्समेंट और उसके कंटेंट रिव्यूअर्स द्वारा उपयोग की जाने वाली रिव्यू गाइडलाइन शामिल हैं.
• यूज़र्स को ज़्यादा स्पष्टता दे और कम्युनिटी स्टैंडर्ड के लैंडिंग पेज में यह समझाए, उसी तरह से जैसे कंपनी ने ख़बरों में रहने लायक होने के कारण छूट देने के मामले में किया है, कि कम्युनिटी स्टैंडर्ड से छूट तब दी जा सकती है जब उन्हें बनाने के कारण और Meta की वैल्यू के अनुसार परिणाम, नियमों के कठोरता से पालन के बजाय कुछ और होना चाहिए. बोर्ड ने यह भी सुझाव दिया कि Meta उस ट्रांसपेरेंसी सेंटर पेज का लिंक शामिल करे जहाँ “पॉलिसी का भावना” से जुड़ी छूट के बारे में जानकारी दी गई हो (सुझाव सं. 1, “श्रीलंका फ़ार्मास्यूटिकल्स” केस).

*प्रक्रिया संबंधी नोट:

ओवरसाइट बोर्ड के फ़ैसले पाँच मेंबर्स के पैनल द्वारा लिए जाते हैं और उन पर बोर्ड के अधिकांश मेंबर्स की सहमति होती है. ज़रूरी नहीं है कि बोर्ड के फ़ैसले उसके हर एक मेंबर की निजी राय को दर्शाएँ.

इस केस के फ़ैसले के लिए, बोर्ड की ओर से स्वतंत्र रिसर्च करवाई गई थी. बोर्ड की सहायता एक स्वतंत्र शोध संस्थान ने की जिसका मुख्यालय गोथेनबर्ग यूनिवर्सिटी में है और जिसके पास छह महाद्वीपों के 50 से भी ज़्यादा समाजशास्त्रियों की टीम के साथ ही दुनियाभर के देशों के 3,200 से भी ज़्यादा विशेषज्ञ हैं. बोर्ड को Duco Advisers की सहायता भी मिली, जो भौगोलिक-राजनैतिक, विश्वास और सुरक्षा और टेक्नोलॉजी के आपसी संबंध पर काम करने वाली एक एडवाइज़री फ़र्म है. Memetica ने भी विश्लेषण उपलब्ध कराया जो सोशल मीडिया ट्रेंड पर ओपन-सोर्स रिसर्च में एंगेज होने वाला संगठन है. Lionbridge Technologies, LLC कंपनी ने भाषा संबंधी विशेषज्ञता की सेवा दी, जिसके विशेषज्ञ 350 से भी ज़्यादा भाषाओं में कुशल हैं और वे दुनियाभर के 5,000 शहरों से काम करते हैं.