नया निर्णय इस बात पर प्रकाश डालता है कि केवल “नदी से समुद्र तक” का अलग से उपयोग करने के कारण कंटेंट को क्यों नहीं हटाया जाना चाहिए
4 सितम्बर 2024
बोर्ड ने Meta के मॉडरेशन की स्वतंत्र निगरानी के लिए, 'डेटा एक्सेस' के महत्व को भी रेखांकित किया
“From the River to the Sea” (नदी से समुद्र तक) वाक्यांश वाले Facebook कंटेंट के अलग-अलग भागों वाले तीन केसों का रिव्यू करते समय, बोर्ड ने पाया कि उन्होंने नफ़रत फैलाने वाली भाषा, हिंसा और उकसावे या खतरनाक संगठन और लोगों के संबंध में Meta के नियमों को नहीं तोड़ा है. खास तौर पर, कंटेंट के तीन भागों में फ़िलिस्तीन के साथ एकजुटता के संदर्भात्मक चिह्न थे, लेकिन उसकी भाषा ऐसी नहीं थी जिसमें हिंसा या बहिष्कार का आह्वान किया गया हो. उनमें हमास का महिमामंडन किया गया है बल्कि उसका संदर्भ ही नहीं है. हमास को Meta द्वारा खतरनाक संगठन चिह्नित किया गया है. कंटेंट को बनाए रखने के Meta के फ़ैसलों को कायम रखते हुए, बोर्ड के बहुसंख्य सदस्यों ने नोट किया कि इस वाक्यांश के कई अर्थ होते हैं और लोगों द्वारा उसका उपयोग कई तरीकों से और कई इरादों से किया जाता है. हालाँकि, अल्पसंख्य सदस्य मानते हैं कि यह वाक्यांश 2017 के हमास चार्टर में दिखाई देता है और वह 7 अक्टूबर के हमलों में उपयोग किया गया था, इसलिए किसी पोस्ट में इसका उपयोग किसी चिह्नित एंटिटी का महिमामंडन माना जाना चाहिए, जब तक कि इसके विरोधाभासी संकेत स्पष्ट रूप से मौजूद न हों.
ये तीन केस Meta की अभिव्यक्ति की वैल्यू और अभिव्यक्ति की आज़ादी की ज़रूरत, खास तौर पर संघर्ष के दौरान राजनैतिक अभिव्यक्ति, और धमकी, बहिष्कार और हिंसा से लोगों की सुरक्षा के लिए Meta की सुरक्षा और गरिमा की वैल्यू के बीच तनाव को हाइलाइट करते हैं. अक्टूबर 2023 में हमास के आतंकवादी हमले और उसके बाद इज़राइल की सैन्य कार्रवाई के बाद से मौजूद और जारी संघर्ष के कारण पूरी दुनिया में विरोध प्रदर्शन हो रहे हैं और दोनों पक्षों पर अंतरराष्ट्रीय कानून के उल्लंघन के आरोप लगाए जा रहे हैं. साथ ही यहूदी विरोध और इस्लामोफ़ोबिया में बढ़ोतरी भी बराबर प्रासंगिक हैं, न सिर्फ़ इन मामलों में बल्कि Meta के प्लेटफ़ॉर्म पर “नदी से समुद्र तक” के सामान्य उपयोग के मामले में भी. इन केसों ने फिर से संघर्ष के दौरान Meta के कंटेंट मॉडरेशन के प्रभावी आकलन के लिए डेटा की एक्सेस का महत्व रेखांकित किया है. साथ ही यह सुरक्षित विशिष्टता के आधार पर लोगों पर हमला करने वाले कंटेंट की मात्रा को ट्रैक करने के तरीके की ज़रूरत भी बताता है. बोर्ड के सुझावों में Meta से यह सुनिश्चित करने के लिए कहा गया है कि उसकी नई कंटेंट लाइब्रेरी, CrowdTangle का प्रभावी रूप से स्थान लेती है. साथ ही वह इज़राइल और फ़िलिस्तीन में Meta के प्रभावों पर BSR मानवाधिकार सम्यक तत्परता रिपोर्ट के सुझाव को पूरी तरह से लागू भी करे.
केस की जानकारी
पहले केस में, Facebook के एक यूज़र ने एक दूसरे यूज़र द्वारा पोस्ट किए गए वीडियो पर कमेंट किया. वीडियो के कैप्शन में लोगों को “बोलने” के लिए प्रोत्साहित किया गया है और उसमें “#ceasefire” और “#freepalestine” जैसे हैशटैग शामिल हैं. यूज़र के कमेंट में हैशटैग के रूप में “FromTheRiverToTheSea” वाक्यांश और “#DefundIsrael” जैसे अन्य हैशटैग भी शामिल हैं और उसमें फ़िलिस्तीन के झंडे के रंगों में दिल के इमोजी का उपयोग किया गया है. कमेंट को लगभग 3,000 बार देखा गया और चार यूज़र्स द्वारा उसकी रिपोर्ट की गई, लेकिन इन रिपोर्ट को Meta के ऑटोमेटेड सिस्टम द्वारा अपने आप बंद कर दिया गया और उन्हें ह्यूमन रिव्यू के लिए प्राथमिकता नहीं दी गई.
दूसरे केस में Facebook यूज़र ने तरबूज की तैरती हुए स्लाइस की फ़ोटो पोस्ट की जो कंप्यूटर से जेनरेट की हुई लगती है. ये स्लाइस मिलकर उस वाक्यांश के शब्द बनाती हैं और साथ में “फ़िलिस्तीन आज़ाद होगा” भी लिखा है. इस पोस्ट को लगभग 80 लाख बार देखा गया और 937 यूज़र्स ने इसकी रिपोर्ट की. इनमें से कुछ रिपोर्ट का आकलन ह्यूमन मॉडरेटर्स द्वारा किया गया, जिन्होंने पाया कि पोस्ट से Meta के नियमों का उल्लंघन नहीं होता.
तीसरे केस के लिए, एक Facebook पेज के एक एडमिन ने कनाडाई कम्युनिटी संगठन की एक पोस्ट को फिर से शेयर किया जिसमें उसके संस्थापक सदस्यों ने फ़िलिस्तीनी लोगों के लिए समर्थन की घोषणा की और उनकी निर्मम हत्या” और “यहूदी इज़राइली कब्ज़ेदारों” की आलोचना की. पोस्ट को 1,000 से कम बार देखा गया और एक यूज़र ने उसकी रिपोर्ट की लेकिन रिपोर्ट को अपने आप बंद कर दिया गया.
सभी तीन केसों में, यूज़र्स ने फिर कंटेंट को हटाने के लिए Meta को अपील की लेकिन कंपनी के एक ऑटोमेटेड टूल द्वारा आकलन के बाद उन अपीलों को ह्यूमन रिव्यू के बिना बंद कर दिया गया. Facebook पर कंटेंट को बनाए रखने के फ़ैसलों को Meta द्वारा कायम रखे जाने के बाद, यूज़र्स ने बोर्ड को अपील की.
अक्टूबर 2023 में हमास द्वारा इज़राइल पर किए गए अप्रत्याशित हमलों में 1,200 लोग मारे गए थे और 240 लोगों को बंधक बना लिया गया था. इसके बाद इज़राइल ने गाज़ा पर व्यापक सैन्य कारर्वाई की जिसमें 39,000 से ज़्यादा लोग मारे गए (जुलाई 2024 तक). तब से दोनों पक्ष अंतरराष्ट्रीय कानून का उल्लंघन करते आ रहे हैं और युद्ध अपराध और मानवता के खिलाफ़ अपराध करते आ रहे हैं. इससे पूरी दुनिया में बहस की शुरुआत हुई जिसका अधिकांश भाग Facebook, Instagram और Threads सहित सोशल मीडिया पर निष्पादित हुआ.
मुख्य निष्कर्ष
बोर्ड ने पाया कि इस बात का कोई संकेत नहीं है कि कमेंट या दोनों पोस्ट ने नफ़रत फैलाने वाली भाषा से जुड़े Meta के नियमों का उल्लंघन किया है क्योंकि उनसे हिंसा या बहिष्कार के रूप में यहूदी या इज़राइली लोगों पर कोई हमला नहीं होता है और न ही वे सुरक्षित विशिष्टता से जुड़ी अवधारणा या संस्था पर हमला करते हैं जिससे तात्कालिक हिंसा हो सकती हो. इसके बजाय, कंटेंट के तीनों हिस्सों में फ़िलिस्तीन के साथ एकजुटता के संदर्भात्मक संकेत मौजूद हैं जो हैशटैग, दृश्य निरूपण या समर्थन के कथनों के रूप में हैं. अन्य पॉलिसीज़ की बात करें तो वे न तो हिंसा और उकसावे से जुड़े नियमों का उल्लंघन करती हैं और न ही वे Meta की खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी का उल्लंघन करती हैं, क्योंकि उनमें हिंसा की धमकियाँ या जान-माल के अन्य नुकसान मौजूद नहीं हैं और वे हमास या उसके कामों का महिमामंडन भी नहीं करतीं.
उसके फ़ैसले की बात करें, तो बोर्ड के बहुसंख्य सदस्यों ने नोट किया कि “नदी से समुद्र तक” वाक्यांश के कई अर्थ होते हैं. कुछ लोगों द्वारा इसे यहूदी विरोध और इज़राइल और उसके लोगों के हिंसक उन्मूलन को बढ़ावा देने और उसे कानूनी बनाने के रूप में देखा जा सकता है, जबकि इसका उपयोग अक्सर फ़िलिस्तीनी लोगों के लिए एकजुटता, समान अधिकार और आत्म दृढ़ निश्चय और गाज़ा में युद्ध की समाप्ति के राजनैतिक आह्वान के रूप में भी उपयोग किया जाता है. इस तथ्य को देखते हुए और जैसा कि इन केसों से पता चलता है, सिर्फ़ इस वाक्यांश के उपयोग को ही किसी समूह की सुरक्षित विशिष्टताओं के आधार पर उनके खिलाफ़ हिंसा का आह्वान, किसी खास समूह के बहिष्कार का समर्थन या किसी चिह्नित एंटिटी हमास का समर्थन नहीं माना जा सकता. इस आतंकवादी समूह द्वारा स्पष्ट हिंसक उन्मूलनवादी इरादों और कार्रवाइयों के साथ इस वाक्यांश का उपयोग उसे स्वाभाविक रूप से नफ़रत फैलाने वाला या हिंसक नहीं बनाता क्योंकि कई तरह के लोग इस वाक्यांश का उपयोग कई तरह से करते हैं. Meta के प्लेटफ़ॉर्म पर पोस्ट किए गए कंटेंट का विश्लेषण करने के लिए, यह महत्वपूर्ण है कि संदर्भ और खास जोखिमों की पहचान जैसे कारकों का आकलन किया जाए. बोर्ड के बहुसंख्य सदस्यों के अनुसार अगर वाक्यांश के साथ बहिष्कार या हिंसा का आह्वान करने या नफ़रत को सही ठहराने वाले कथन या संकेत होते कंटेंट को हटाना Meta की मानवाधिकार से जुड़ी ज़िम्मेदारियों के अनुरूप हो सकता था, लेकिन ऐसा निष्कासन खुद वाक्यांश पर आधारित नहीं होगा, बल्कि उसमें उल्लंघन करने वाले अन्य एलिमेंट को देखा जाएगा. चूँकि वाक्यांश का सिर्फ़ एक ही मतलब नहीं है, इसलिए वाक्यांश वाले कंटेंट पर पूर्ण प्रतिबंध, ऐसे कंटेंट को हटाने के लिए डिफ़ॉल्ट नियम या एन्फ़ोर्समेंट या रिव्यू को ट्रिगर करने के लिए एक संकेत के रूप में इसका उपयोग करना भी सुरक्षित राजनैतिक अभिव्यक्ति में अस्वीकार्य रूप से रुकावट डालेगा.
इसके विपरीत, बोर्ड के अल्पसंख्य सदस्यों ने पाया कि Meta को यह मानते हुए एक डिफ़ॉल्ट नियम बनाना चाहिए कि इस वाक्यांश से किसी चिह्नित संगठन का महिमामंडन होता है, जब तक कि उसमें ऐसे स्पष्ट संकेत मौजूद न हों कि यूज़र की ओर से हमास या 7 अक्टूबर के हमलों का समर्थन नहीं किया जा रहा है.
इन केसों में बोर्ड द्वारा करवाई गई रिसर्च का एक भाग CrowdTangle डेटा विश्लेषण टूल पर आधारित था. सशस्त्र संघर्ष के दौरान Meta के कंटेंट मॉडरेशन फ़ैसलों की आवश्यकता और आनुपातिकता का आकलन करने के लिए बोर्ड और अन्य बाहरी स्टेकहोल्डर्स के लिए प्लेटफ़ॉर्म डेटा की एक्सेस ज़रूरी है. इसीलिए बोर्ड, टूल को बंद करने के Meta के फ़ैसले को लेकर चिंतित है क्योंकि इस बारे में अभी कई सवाल हैं कि क्या Meta की नई कंटेंट लाइब्रेरी इसका पर्याप्त स्थान ले पाएगी.
अंत में, बोर्ड यह मानता है कि रिसर्च टूल्स के साथ भी, Meta के प्लेटफ़ॉर्म पर यहूदी विरोधी, इस्लामोफ़ोबिया और नस्लवादी और नफ़रत फैलाने वाले कंटेंट में बढ़ोतरी की सीमा के प्रभावी आकलन की क्षमता सीमित है. बोर्ड ने Meta से कहा है कि वह इसका समाधान करने के लिए BSR मानवाधिकार सम्यक तत्परता रिपोर्ट द्वारा पहले जारी किए गए सुझाव को पूरी तरह लागू करे.
ओवरसाइट बोर्ड का फ़ैसला
ओवरसाइट बोर्ड ने सभी तीनों केसों में कंटेंट को बनाए रखने के Meta के फ़ैसले को कायम रखा है.
बोर्ड ने सुझाव दिया है कि Meta:
- सुनिश्चित करे कि योग्य रिसर्चर, नागरिक समाज संगठन और पत्रकार, जिनके पास पहले CrowdTangle की एक्सेस थी, उन्हें उनके द्वारा आवेदन सबमिट करने के तीन हफ़्तों के भीतर नई Meta कंटेंट लाइब्रेरी में ऑनबोर्ड किया जाए.
- सुनिश्चित करे कि उसकी कंटेंट लाइब्रेरी, CrowdTangle का उचित स्थान लेती है और उसके बराबर या उससे ज़्यादा कार्यात्मकता और डेटा की एक्सेस देती है.
- इज़राइल और फ़िलिस्तीन पर Meta के असर की रिपोर्ट के BSR मानवाधिकार सम्यक तत्परता की सुझाव सं. 16 को लागू करके ऐसा तरीका बनाए जिससे खास सुरक्षित विशिष्टताओं (जैसे कि, यहूदी विरोध, इस्लामोफ़ोबिया और होमोफ़ोबिक कंटेंट) के आधार पर लोगों पर हमला करने वाले कंटेंट की व्यापकता को ट्रैक किया जा सके.
अधिक जानकारी के लिए
For Arabic translation, click here.
For Hebrew translation, click here.
To read public comments for this case, click here.
