पेरू में मानवाधिकार रक्षक को निशाना बनाने वाला कंटेंट

सारांश

ओवरसाइट बोर्ड ने ऐसे कंटेंट को बनाए रखने के Meta के फ़ैसले को पलट दिया जिसमें पेरू के एक अग्रणी मानवाधिकार रक्षक को निशाना बनाया गया था. पेरू में बुनियादी आज़ादी, जैसे एकत्र होने और संगठन बनाने के अधिकार, पर प्रतिबंध बढ़ रहे हैं और इससे गैर-सरकारी संगठन (NGO) भी प्रभावित हो रहे हैं. इस पोस्ट को ला रेसिस्टेंसिया के एक सदस्य ने शेयर किया था. इसमें उस मानवाधिकार रक्षक की फ़ोटो है, जिसमें शायद AI की मदद से हेरफेर किया गया था और उनके चेहरे से खून टपकता हुआ दिखाया गया था. यह ग्रुप पेरू में पत्रकारों, NGO, मानवाधिकार कार्यकर्ताओं और संस्थाओं को गलत सूचना, धमकी और हिंसा के जरिए निशाना बनाता है. पूरे संदर्भ में देखे जाने पर यह पोस्ट हिंसा और उकसावे की पॉलिसी के तहत "छिपी हुई धमकी" मानी जा सकती है. यह केस Meta के प्लेटफ़ॉर्म पर छिपी हुई या कोडेड धमकियों के संभावित रूप से ज़रूरत से कम एन्फ़ोर्समेंट को उजागर करता है, इसलिए बोर्ड ने दो संबंधित सुझाव दिए.

केस की जानकारी

ला रेसिस्टेंसिया के एक सदस्य ने शायद AI से हेरफेर करके बनाई गई एक फ़ोटो पोस्ट की है, जिसमें एक मानवाधिकार संगठन के नेता के सिर की फ़ोटो में बदलाव करके उनके चेहरे को खून से लथपथ दिखाया गया है. स्पैनिश भाषा में दिए कैप्शन में कहा गया है कि गैर-सरकारी संगठन (NGO) विदेशों से पैसा लेकर वित्तीय गड़बड़ी कर रहे हैं. साथ ही उन पर हिंसक विरोध प्रदर्शनों को बढ़ावा देने का भी आरोप लगाया गया था. इस पोस्ट को शेयर किए जाने के समय, पेरू में सरकार के खिलाफ़ आम लोगों के विरोध प्रदर्शन चल रहे थे.

पोस्ट को लगभग 1,000 बार देखा गया था और उसकी रिपोर्ट की गई थी. Meta ने पाया था कि उसमें कोई उल्लंघन नहीं है. फिर जिस यूज़र ने Meta को अपील की थी, वह बोर्ड के पास आया. बोर्ड द्वारा केस को चुने जाने से पहले, Meta को अपने एक भरोसेमंद पार्टनर, NGO के ग्लोबल नेटवर्क, मानवतावादी एजेंसियों और मानवाधिकार मामलों के रिसर्चर्स से एक रिपोर्ट प्राप्त हुई जिसमें Meta के प्लेटफ़ॉर्म पर कंटेंट से उभरते खतरों को फ़्लैग किया गया था. परिणामस्वरूप, Meta ने फ़ोटो पोस्ट करने वाले अकाउंट का रिव्यू किया और अपनी सेवा की शर्तों का उल्लंघन करने के कारण उसे बंद कर दिया, जिसका अर्थ है कि यह खास पोस्ट अब Facebook पर मौजूद नहीं है.

मुख्य निष्कर्ष

बोर्ड ने एकमत से यह पाया कि यह पोस्ट, हिंसा और उकसावे से जुड़े कम्युनिटी स्टैंडर्ड के तहत “छिपी हुई या अस्पष्ट” धमकी मानी जा सकती है. जब धमकियाँ छिपी हुई होती हैं, तो उनमें धमकी के संकेत की ज़रूरत होती है, जैसे कि जवाबी बयान या कार्रवाई का आह्वान. साथ ही उनमें संदर्भ का संकेत होना चाहिए जिसमें स्थानीय विशेषज्ञों का यह कन्फ़र्म करना शामिल है कि बयान से निकट भविष्य में हिंसा हो सकती है.

AI से हेरफेर करके बनाई गई फ़ोटो में मानवाधिकार रक्षक के रूप में एक टार्गेट है जिन्हें पेरू के अधिकांश लोगों द्वारा पहचाना जा सकता है. उनकी फ़ोटो को इस तरह एडिट किया गया है जैसे उन्हें शारीरिक चोटें आई हैं. टेक्स्ट में NGO के खिलाफ़ शिकायतें हैं जिनमें कथित आर्थिक गड़बड़ियाँ शामिल हैं. साथ मिलकर ये कारक किसी धमकी के संकेत की शर्त की पूर्ति करते हैं. कंटेंट से संदर्भ के संकेत की ज़रूरत की भी पूर्ति होती है, क्योंकि पेरू में ला रेसिस्टेंसिया द्वारा किए गए हमलों सहित मानवाधिकार रक्षकों पर हमलों की अच्छी रिपोर्टिंग की जाती है. इसके अलावा, Meta को भेजी गई भरोसेमंद पार्टनर की रिपोर्ट में यह हाइलाइट किया गया है कि यह पोस्ट कैसे निकट भविष्य में हिंसा में योगदान दे सकतीहै.

Meta ने इस फ़ोटो को “खून से सने हाथों” वाले मानवाधिकार रक्षक के रूप में समझा. बोर्ड इस व्याख्या से नाखुश और निराश है क्योंकि फ़ोटो में हेरफेर करके सिर से खून बहते हुए दिखाया गया है. Meta की आंतरिक टीमें इस बात का पता आसानी से लगा सकती थीं कि मानवाधिकार रक्षक को ऑनलाइन सर्च करके ढूँढा जा सकता है, जिससे उन्हें उनकी मुस्कुराती हुई मूल फ़ोटो आसानी से मिल जाती.

कंटेंट को हटाने से कोई भी उपाय, इस केस में मानवाधिकार रक्षक के लिए उत्पन्न जोखिम को समाप्त करने के लिए पर्याप्त नहीं होता. संयुक्त राष्ट्र की हालिया रिपोर्ट में पेरू में मानवाधिकार रक्षकों, खासकर महिलाओं, के लिए असुरक्षित माहौल की चर्चा की गई थी. नागरिक समाज समूहों पर दोषारोपण से डर का माहौल बना है और यह स्थिति, कानून से जुड़े उन नए कामों से और बिगड़ी है जो NGO पर ज़्यादा नियंत्रण करना और शांतिपूर्ण सभा को रोकना चाहते हैं.

अंत में, बोर्ड को ऐसी रिपोर्ट मिली हैं कि इस कंटेंट को मूल रूप से पोस्ट करने वाले यूज़र से ही जुड़े अन्य अकाउंट द्वारा रीपोस्ट किया गया है. Meta को यह सुनिश्चित करना चाहिए कि अगर ऐसी पोस्ट को निंदा करने या जागरूकता फैलाने के लिए शेयर नहीं किया गया है, तो उन्हें हटा दिया जाना चाहिए.

ओवरसाइट बोर्ड का फ़ैसला

ओवरसाइट बोर्ड ने संबंधित कंटेंट को प्लेटफ़ॉर्म पर बनाए रखने के Meta के फ़ैसले को पलट दिया है.

बोर्ड ने Meta को ये सुझाव भी दिए हैं कि वह:

• स्पष्ट करे कि हिंसा और उकसावे से जुड़े कम्युनिटी स्टैंडर्ड के तहत, “ऐसे कोडेड कथन जिनमें हिंसा का तरीका स्पष्ट रूप से बताया नहीं गया हो,” लिखित, विज़ुअल और मौखिक रूप में प्रतिबंधित हैं.
• संभावित रूप से छिपी हुई धमकियों के बारे में वार्षिक सटीकता आकलन प्रस्तुत करे, जिसमें मानवाधिकार रक्षकों के खिलाफ़ धमकियों वाले उस कंटेंट पर खास फ़ोकस किया गया हो, जो गलती से प्लेटफ़ॉर्म पर बना रहता है जबकि राजनैतिक बयानों के मामलों को गलत तरीके से हटा दिया जाता है.

*केस के सारांश से केस का ओवरव्यू मिलता है और भविष्य में लिए जाने वाले किसी फ़ैसले के लिए इसको आधार नहीं बनाया जा सकता है.

केस का पूरा फ़ैसला

1. केस की जानकारी और बैकग्राउंड

जुलाई 2024 में, पेरू में Facebook के एक यूज़र ने पेरू के एक मानवाधिकार संगठन की जानी-मानी नेता के सिर की एक डिजिटल रूप से बदली हुई फ़ोटो पोस्ट की. संभावित रूप से AI की मदद से हेरफेर करके बनाई गई इस फ़ोटो में उन्हें स्पष्ट रूप से पहचाना जा सकता है. इसमें दिखाया गया है कि उनका चेहरा नीचे टपक रहे खून से लथपथ है. स्पैनिश भाषा में दिए कैप्शन में कहा गया है कि गैर-सरकारी संगठन (NGO) विदेशी पैसों के साथ वित्तीय गड़बड़ी कर रहे हैं. साथ ही उसमें NGO पर हिंसक विरोध प्रदर्शनों को बढ़ावा देने का भी आरोप लगाया गया था. पोस्ट को उस दौरान शेयर किया गया था जब पेरू की राजधानी लीमा में नागरिक, सरकार के खिलाफ़ प्रदर्शन कर रहे थे. इसे लगभग 1,000 बार देखा गया और इसे 100 से कम रिएक्शन मिले.

कंटेंट पोस्ट किए जाने तीन दिन बाद, एक यूज़र ने रिपोर्ट की कि इससे Meta की पॉलिसी का उल्लंघन होता है. एक ह्यूमन रिव्यूअर ने पाया कि कंटेंट से उल्लंघन नहीं होता और कंटेंट को प्लेटफ़ॉर्म पर बनाए रखा गया. यूज़र ने Meta के फ़ैसले के खिलाफ़ अपील की, लेकिन आगे कोई भी रिव्यू किए बिना अपील को अपने आप बंद कर दिया गया. इसके बाद उसी यूज़र ने बोर्ड से अपील की.

यूज़र द्वारा बोर्ड को अपील किए जाने और बोर्ड द्वारा केस को चुने जाने के बीच, पोस्ट की रिपोर्ट Meta के भरोसेमंद पार्टनर प्रोग्राम द्वारा भी उसे की गई. यह 113 देशों के NGO, मानवतावादी एजेंसियों और मानवाधिकार रिसर्चर्स का एक नेटवर्क है जो कंटेंट की रिपोर्ट करते हैं और Meta को उसकी कंटेंट पॉलिसी और एन्फ़ोर्समेंट के बारे में फ़ीडबैक देते हैं. इस रिपोर्ट के बाद, Meta की आंतरिक एस्केलेशन टीमों ने पोस्ट से जुड़े अकाउंट का रिव्यू किया और पाया कि इससे Meta की सेवा की शर्तों का उल्लंघन होता है क्योंकि यूज़र ने एक ही नाम से या मिलते-जुलते नामों से कई अकाउंट बनाए थे. Meta ने फिर अकाउंट को बंद कर दिया जिसके बाद कंटेंट को Facebook पर एक्सेस नहीं किया जा सकता था. परिणामस्वरूप, कंटेंट का बाद में आकलन नहीं हुआ.

जब बोर्ड ने इस केस को चुना, तो Meta ने पोस्ट का फिर से रिव्यू किया और यह कन्फ़र्म किया कि कंटेंट से उसकी पॉलिसी का उल्लंघन नहीं होता है.

बोर्ड ने इस केस में अपना फ़ैसला करते समय नीचे दिए संदर्भ पर ध्यान दिया:

पेरू ने एक “गंभीर राजनैतिक और सामाजिक संकट” का सामना किया है, जिसमें 2016 से अब तक छह अलग-अलग राष्ट्रपति और तीन विधायिकाएँ रह चुकी हैं (संयुक्त राष्ट्र मानवाधिकार उच्चायुक्त कार्यालय (OHCHR) की 2023 की रिपोर्ट देखें). राजनैतिक अस्थिरता दिसंबर 2022 में उस समय अपने चरम पर पहुंच गई, जब पूर्व राष्ट्रपति पेड्रो कैस्टिलो को पद से हटा दिया गया और सत्ता के दुरुपयोग के आरोप में उन्हें गिरफ्तार कर लिया गया. तत्कालीन उपराष्ट्रपति दीना बोलुआर्ट को कांग्रेस ने राष्ट्रपति पद पर नियुक्त कर दिया. OHCHR ने नोट किया कि दिसंबर 2022 की घटनाओं से “पूरे देश में विरोध प्रदर्शन भड़के जिससे सामाजिक असंतोष पैदा हुआ ... आबादी के एक बड़े हिस्से द्वारा झेले जा रहे ऐतिहासिक भेदभाव और राजनैतिक और सामाजिक-आर्थिक रूप से उपेक्षित होने के मुद्दे पर.”

तब से, संयुक्त राष्ट्र और मानवाधिकार समूह पेरू में विरोध प्रदर्शन सहित बुनियादी मानवाधिकारों पर सरकार के प्रतिबंधों पर चिंता जताते आ रहे हैं, खास तौर पर सभा के अधिकार पर. शांतिपूर्ण सभा और संगठन की आज़ादी के अधिकारों पर संयुक्त राष्ट्र के विशेष रैपर्टर की 2024 की रिपोर्ट में दिसंबर 2022 में शुरू हुए ज़्यादातर शांतिपूर्ण विरोध प्रदर्शनों के संदर्भ में “बल और बंदूकों के अत्यधिक, अंधाधुंध और अनुपातहीन उपयोग, गैर-कानूनी हत्याओं और मनमाने ढंग से बड़े पैमाने पर लोगों को हिरासत में लेने” के आरोपों का उल्लेख किया गया है. इसके बाद से सरकार के खिलाफ़ और विरोध प्रदर्शन हुए हैं, जिसमें जुलाई 2024 में हुआ विरोध प्रदर्शन भी शामिल है, जब इस केस में विचाराधीन कंटेंट पोस्ट किया गया था. दूसरी "बड़ी चिंता" "मानवाधिकार रक्षकों पर कथित रूप से दोषारोपण करना और उनका अपराधीकरण करना है ... और जोखिमग्रस्त रक्षकों के लिए प्रभावी सुरक्षा का अभाव भी है. सभा और संगठन की बुनियादी आज़ादी पर प्रतिबंध बढ़ गए हैं, इसलिए मानवाधिकार रक्षकों की स्थिति पर संयुक्त राष्ट्र के विशेष रैपर्टर ने यह डॉक्यूमेंट किया है कि किस तरह मानवाधिकार रक्षकों की स्थिति ज़्यादा अनिश्चित हो गई है. ये ट्रेंड खास तौर पर महिलाओं पर असर डालते हैं जो अपनी सक्रियता और लैंगिक पहचान, दोनों के कारण धमकियों का सामना करती हैं. विशेष रैपर्टर में नोट किया गया है कि “उन्होंने जिस तरह के उत्पीड़न का सामना करती हैं, उनमें भेदभाव, महिला विरोध और यौन उत्पीड़न प्रमुख थे.” "अधिकारियों की ओर से व्यवस्थित और अंतर-विषयक तरीके की कमी" ने भी महिला रक्षकों के लिए तब रुकावट डाली है जब वे शिकायत करती हैं और समाधान और क्षतिपूर्ति की माँग करती हैं.

NGO की गतिविधियों को सीमित करने के कानूनी प्रस्तावों से भी मानवाधिकार रक्षकों का काम खतरे में पड़ा है. जून 2024 में, पेरूवियन कांग्रेसनल फ़ॉरेन रिलेशन कमीशन ने पेरूवियन एजेंसी फ़ॉर इंटरनेशनल कोऑपरेशन बनाने के 2022 के कानून में ड्राफ़्ट संशोधन का प्रस्ताव रखा. पेरू के नागरिक समाज कार्यकर्ताओं ने चेतावनी दी है कि ये संशोधन NGO की अंतरराष्ट्रीय फ़ंडिंग में बाधा डालेंगे और उनकी अभिव्यक्ति की आज़ादी को प्रतिबंधित करेंगे. मार्च 2025 में, पेरू की कांग्रेस ने उन्हें पारित कर दिया. अगर इसे लागू किया जाता है, तो मानवाधिकार हनन के मामले में राज्य के विरुद्ध कानूनी कार्रवाई करने के लिए नागरिक समाज संगठनों पर पेनल्टी भी लगाई जा सकती है. ह्यूमन राइट्स वॉच ने ट्रैक किया है कि दुनिया भर में इस तरह के “विदेशी प्रभाव शैली के कानून” किस तरह आज़ाद नागरिक समाज पर दोषारोपण कर सकते हैं और मानवाधिकारों के प्रचार को “विदेशी ताकतों के हितों को बढ़ावा देने” के बराबर बताकर “बदनाम करने के एक आसान टूल के रूप में पेश कर सकते हैं.”

पोस्ट के अनुसार पेरू में, ये प्रस्ताव दक्षिणपंथी समूहों द्वारा राजनैतिक गुटबाज़ी के साथ-साथ सोशल मीडिया कैंपेन के माध्यम से आगे बढ़े हैं, जिनमें NGO और मानवाधिकार रक्षकों पर आतंकवाद (पेरू में "terruqueo" कहा जाता है) और विरोध प्रदर्शनों में हिंसा भड़काने के आरोप लगाए गए हैं (PC-30930 देखें). इस केस में जिस यूज़र ने पोस्ट बनाई है, वह ला रेसिस्टेंसिया का एक प्रभावशाली सदस्य है, जो दक्षिणपंथी कार्यकर्ताओं का एक अस्पष्ट रूप से संगठित समूह है. 2018 में बनाए गए इस समूह ने गलत जानकारी देने के कैंपेन, धमकी और हिंसा के जरिए पत्रकारों, NGO, मानवाधिकार रक्षकों और सार्वजनिक संस्थानों को निशाना बनाया है.

2. यूज़र सबमिशन

बोर्ड को की गई अपनी अपील में, कंटेंट की रिपोर्ट करने वाले यूज़र ने कहा कि पोस्ट में मानवाधिकार रक्षक के लिए “मौत की सफ़ाई से छिपाई गई धमकी” थी. उन्होंने आगे कहा कि पोस्ट को पेरू में मानवाधिकार रक्षकों के खिलाफ़ “उत्पीड़न और शारीरिक हमलों” के संदर्भ में देखा जाना चाहिए और यह कि उसे जुलाई 2024 के विरोध प्रदर्शनों के जवाब में शेयर किया गया था. उन्होंने बताया कि इस कंटेंट को पोस्ट करने वाला यूज़र, हिंसा भड़काने वाले समूह का सदस्य है और यह कि इस तरह की ऑनलाइन धमकियों से ऑफ़लाइन हिंसा हो चुकी है.

3.Meta की कंटेंट पॉलिसी और सबमिशन

I. Meta की कंटेंट पॉलिसी

Meta के हिंसा और उकसावे से जुड़ा कम्युनिटी स्टैंडर्ड का उद्देश्य “ऐसी संभावित ऑफ़लाइन हिंसा को रोकना है, जो [हमारे] प्लेटफ़ॉर्म पर मौजूद कंटेंट से जुड़ी हो सकती है.” पॉलिसी बनाने के कारण में कहा गया है कि Meta ऐसी “भाषा को हटा देता है जो हिंसा भड़काती है या उसे आसान बनाती है और लोगों की या निजी सुरक्षा के लिए भरोसा करने लायक खतरा होती है.” कंपनी “सामान्य या जागरूकता फैलाने वाले कथनों और सार्वजनिक या व्यक्तिगत सुरक्षा के प्रामाणिक खतरे वाले कंटेंट में अंतर करने के लिए, भाषा और संदर्भ पर भी विचार करने की कोशिश करती है. पॉलिसी कहती है कि Meta ऐसा कंटेंट को हटा देता है जिसमें “विभिन्न टार्गेट के खिलाफ़ हिंसा की धमकियाँ” होती हैं. कंपनी “हिंसा की धमकियों” को “ऐसे कथन या विज़ुअल मानती है जिनमें किसी टार्गेट पर हिंसा का इरादा, महत्वाकांक्षा या आह्वान होता है.”

यह बताने वाले एक उपशीर्षक के तहत कि Meta को "एन्फ़ोर्स करने के लिए अतिरिक्त जानकारी और/या संदर्भ की ज़रूरत होती है," कम्युनिटी स्टैंडर्ड में उल्लेख किया गया है कि Meta “ऐसे कोडेड बयानों को हटा देता है जिनमें हिंसा के तरीकों को स्पष्ट रूप से बताया नहीं जाता, लेकिन धमकी छुपी हुई या अस्पष्ट होती है, जैसा कि धमकी के संकेत या किसी संदर्भ के संकेत द्वारा दर्शाया जाता है.” धमकी के संकेत में “बदले के संदर्भ में शेयर” किया गया कोडेड बयान या ऐसे कोडेड बयान शामिल हो सकता है जो “कार्रवाई के धमकी भरे आह्वान के रूप में काम करता है.” संदर्भ के संकेत का अर्थ स्थानीय विशेषज्ञ का कन्फ़र्मेशन या यह जानकारी हो सकती है कि कथन से निकट भविष्य में हिंसा हो सकती है. संदर्भ का संकेत भी कंटेंट की रिपोर्टिंग करने वाले खतरे का निशाना हो सकता है.

रिव्यूअर्स के लिए आंतरिक गाइडलाइन में स्पष्ट किया गया है कि हिंसा की धमकियाँ किस तरह विज़ुअल रूप में मौजूद हो सकती हैं, जिनमें डिजिटल रूप से जेनरेट की गई या हेरफेर की गई इमेजरी शामिल है. यह तय करने के लिए कि क्या डिजिटल रूप से हेरफेर की गई या बनाई गई इमेजरी किसी व्यक्ति को विज़ुअल धमकी से निशाना बना रही है, Meta ऐसे कारकों पर विचार करता है कि क्या फ़ोटो में कोई लक्ष्य है या क्या इमेजरी में व्यक्ति को बहुत गंभीर हिंसा का निशाना बनाने का इरादा दर्शाया गया है.

II. Meta के सबमिशन

Meta ने कहा कि यह पोस्ट, टार्गेट के खिलाफ़ धमकियों पर रोक लगाने वाली पॉलिसी का उल्लंघन नहीं करती है, जिसमें विज़ुअल हिंसा दर्शाने वाली डिजिटल रूप से हेरफेर की गई इमजेरी शामिल है, क्योंकि इसमें कोई स्पष्ट धमकी नहीं है. Meta के अनुसार, पोस्ट का टेक्स्ट “NGO पर भ्रष्टाचार और हिंसा के आरोप लगाती है . . . इसे अनिर्दिष्ट NGO और उनकी गतिविधियों पर फ़ोकस किया गया है, जिससे न तो किसी टार्गेट की पहचान होती है और न ही यह कोई धमकी है.” Meta ने नोट किया कि NGO और मानवाधिकार रक्षकों पर भ्रष्टाचार या दुराचार के आरोप लगाने वाले कंटेंट को नियंत्रित करने की चुनौतियों आती हैं. कंपनी ने कहा कि वह “आरोपों के सच या झूठ होने का निर्धारण करने की स्थिति में नहीं है” और “भ्रष्टाचार या गलत कामों के बारे में राजनैतिक बयानबाज़ी में रुकावट नहीं डालना चाहती.” लेकिन Meta ने यह स्वीकार किया कि "कुछ मामलों में, अतिरिक्त संदर्भ के साथ, इन आरोपों से ऑफ़लाइन नुकसान का जोखिम बढ़ सकता है और सुरक्षा के हित में इन्हें हटा दिया जाना चाहिए."

Meta के लिए, पोस्ट में मौजूद फ़ोटो “[उल्लंघन का] एक करीबी आह्वान थी, क्योंकि शायद इसे डिजिटल रूप से बदला गया था और उसमें [मानवाधिकार रक्षक] को खून से लथपथ दिखाया गया था.” फ़ोटो के अपने विश्लेषण में, Meta ने पाया कि “इमेजरी में भले ही खून मौजूद था, लेकिन मानवाधिकार रक्षक घायल दिखाई नहीं दे रही थी. इसके बजाय, वह शांत दिखाई दे रही हैं और हल्के से मुस्कुरा भी रही हैं और सीधे कैमरे में देख रही हैं. उनके हावभाव से ऐसा कुछ नहीं लग रहा है कि वे घायल हैं और न ही वह खून किसी कटाव या घाव से बहता नज़र आ रहा है.” Meta ने इस बात पर भी ज़ोर दिया कि बहुत गंभीर हिंसा के संकेत यह तय करते समय महत्वपूर्ण हो सकते हैं कि क्या विज़ुअल धमकी मौजूद है. Meta ने कहा कि “अगर [फ़ोटो] में विज़ुअल रूप से हेरफेर करके उसमें चाकू के घाव या अन्य बहुत गंभीर चोटें दिखाई जातीं, तो उसे विज़ुअल धमकी माना जा सकता था.” हालाँकि, उसने यह निष्कर्ष निकाला कि "कैप्शन के साथ देखे जाने पर," "फ़ोटो का ज़्यादा स्पष्ट अर्थ" यह है कि मानवाधिकार रक्षक के “हाथों पर” NGO की उन “कथित कार्रवाइयों के कारण खून है जिनकी टेक्स्ट में चर्चा की गई है.”

“ऐसे कोडेड बयानों पर Meta के प्रतिबंध का आकलन सिर्फ़ एस्केलेशन के समय किया जाता है, जिनमें हिंसा के तरीके स्पष्ट रूप से बताए नहीं जाते”, लेकिन धमकी छिपी हुई या अस्पष्ट होती है. “छिपी हुई धमकी” से जुड़ी पॉलिसी लाइन को एन्फ़ोर्स करने के लिए Meta को धमकी के संकेत और संदर्भ के संकेत की ज़रूरत होती है. Meta ने बताया कि अकाउंट को बंद कर दिया गया था, इसलिए पोस्ट के छिपी हुई धमकी के रूप में आकलन के लिए वह व्यापक क्रॉस-फ़ंक्शनल टीम या बाहरी पार्टियों तक नहीं पहुँची, क्योंकि इसमें "बहुत सारे रिसोर्स की ज़रूरत” पड़ती.” Meta ने कहा कि अगर यह कंटेंट Facebook पर लाइव रहता, तो वह यह गहन रिव्यू करता. कंपनी ने कहा कि “इससे छिपी हुई धमकी के निर्माण की संभावना नहीं है क्योंकि [मानवाधिकार रक्षक की फ़ोटो] को विज़ुअल हिंसा के बजाय राजनैतिक आलोचना समझा जा सकता है.” छिपी हुई धमकियों के बारे में डेटा की रिक्वेस्ट के जवाब में Meta ने कहा कि वह उन कंटेंट का ट्रैक नहीं रखता जिन्हें छिपी हुई राजनैतिक धमकियों के लिए रिव्यू किया जाता है.

Meta ने कहा कि वह "मानवाधिकार रक्षकों के साथ सक्रिय रूप से एंगेज होकर उनकी ज़रूरतों को समझता है और उनकी सुरक्षा सुनिश्चित करने और उनके सामने आने वाले जोखिमों को कम करने के लिए विशिष्ट उपाय ऑफ़र करने की कोशिश करता है." कंपनी की मानवाधिकार पॉलिसी के अनुसार, “मानवाधिकार रक्षक” शब्द में मानवाधिकार संगठन; अपने अधिकारों की वकालत करने वाले कमज़ोर वर्ग के सदस्य; पेशेवर और नागरिक पत्रकार; अहिंसक राजनैतिक कार्यकर्ता; और आम लोगों से जुड़े ऐसे सभी व्यक्ति आते हैं, जो मानवाधिकारों से जुड़ी समस्या को लेकर आवाज़ उठाते हैं.

बोर्ड ने इन विषयों पर सवाल पूछे: छिपी हुई धमकियों का फ़्रेमवर्क; Meta किस तरह की फ़ोटो को विज़ुअल धमकियाँ समझता है और उनका आकलन करता है; ऑफ़लाइन नुकसान की आशंका के आकलन के लिए अतिरिक्त जानकारी और संदर्भ देने में भरोसेमंद पार्टनर की भूमिका; और Meta अपने प्लेटफ़ॉर्म पर मानवाधिकार रक्षकों की सुरक्षा कैसे करता है. Meta ने सभी सवालों के जवाब दिए.

4. पब्लिक कमेंट

ओवरसाइट बोर्ड को सबमिट करने की शर्तों को पूरा करने वाले 65 पब्लिक कमेंट मिले. उनमें से 60 कमेंट लैटिन अमेरिका और कैरेबियन से, तीन यूरोप से और दो अमेरिका और कनाडा से सबमिट किए गए थे. प्रकाशन की सहमति के साथ सबमिट किए गए पब्लिक कमेंट पढ़ने के लिए यहाँ पर क्लिक करें. व्यक्ति की पहचान बताने वाली जानकारी को पब्लिक कमेंट से हटा दिया गया है.

सबमिशन में इन विषयों पर बात की गई थी: पेरू का सामाजिक और राजनैतिक संदर्भ; मानवाधिकार रक्षकों की स्थिति; रक्षकों को दी जाने वाली धमकियों में लिंग से जुड़ा नज़रिया; हाल ही के कानूनी नवाचार जो पेरू में NGO की गतिविधियों पर असर डालते हैं; सोशल मीडिया पर इस तरह की बातें कि NGO, मानवाधिकार रक्षक और नागरिक समाज समूह “आतंकवादी” हैं; ला रेसिस्टेंशिया के कामकाज; और Meta को छिपी हुई धमकियों की संभावना वाले कंटेंट को किस तरह मॉडरेट करना चाहिए.

जनवरी 2025 में, स्टेकहोल्हर एंगेजमेंट के भाग के रूप में, बोर्ड ने मानवाधिकार रक्षकों की ऑनलाइन सुरक्षा के संबंध में हिमायती संगठनों, शिक्षाविदों, अंतर-सरकारी संगठनों और अन्य विशेषज्ञों के साथ विचार-विमर्श किया. इस राउंडटेबल में मानवाधिकार रक्षकों को मिलने वाली धमकियों और सोशल मीडिया कंपनियों में उनकी सुरक्षा के लिए पॉलिसी से जुड़े सुझावों को लागू करने के पिछले कैंपेन पर फ़ोकस किया गया था. भागीदारों ने Meta के भरोसेमंद पार्टनर प्रोग्राम के ज़रिए उस कंटेंट की रिपोर्टिंग पर भी चर्चा की, जो उनके अनुसार ऑफ़लाइन नुकसान का कारण बना सकता है.

5. ओवरसाइट बोर्ड का विश्लेषण

बोर्ड ने यह जाँचने के लिए इस केस को चुना कि Meta की पॉलिसी किस तरह मानवाधिकार रक्षकों की रक्षा करती हैं, खास तौर से जब हिंसा की धमकियाँ छिपी हुई या अस्पष्ट हों, उन्हें समझने के लिए अतिरिक्त संदर्भ की ज़रूरत हो या धमकी और उत्पीड़न के माहौल में दी गई हों. यह मामले बोर्ड की चुनाव और नागरिक स्थान की स्ट्रेटेजिक प्राथमिकता के तहत आता है.

बोर्ड ने Meta की कंटेंट पॉलिसी, वैल्यू और मानवाधिकार से जुड़ी ज़िम्मेदारियाँ के संबंध में इस केस में दिए गए Meta के फ़ैसले का विश्लेषण किया. बोर्ड ने यह भी आकलन किया कि कंटेंट गवर्नेंस को लेकर Meta के व्यापक दृष्टिकोण पर इस केस का क्या असर पड़ेगा.

5.1 Meta की कंटेंट पॉलिसी का अनुपालन

I. कंटेंट से जुड़े नियम

बोर्ड ने एकमत से पाया कि पोस्ट से हिंसा और उकसावे से जुड़ी पॉलिसी का उल्लंघन हुआ है. संदर्भ के साथ देखने पर, खून से लथपथ मानवाधिकार रक्षक की फ़ोटो के साथ टेक्स्ट का उपयोग, Meta की प्रतिबंधित धमकी की परिभाषा को पूरा करता है. बोर्ड इस बात पर एकमत है कि यह पोस्ट, Meta द्वारा वर्णित "छिपी हुई" धमकी की श्रेणी में आता है, जो संभावित रूप से अस्पष्ट पोस्ट को तब धमकी मानता है जब उनमें "खतरे का संकेत" और "संदर्भ का संकेत" हो और वे साथ मिलकर निहित या छिपा हुआ खतरा उत्पन्न करते हों.

• धमकी का संकेत: यह पोस्ट खास तौर पर NGO के कथित गलत कार्यों के बदले के रूप में “कार्रवाई का धमकी भरा आह्वान” या “हिंसा में शामिल होने की इच्छा की अभिव्यक्ति” के रूप में “धमकी” संकेत की शर्त पूरी करती है. फ़ोटो में मानवाधिकार रक्षक के रूप में एक टार्गेट दर्शाया गया है, जिसे पेरू के यूज़र स्पष्ट रूप से पहचान सकते हैं. टेक्स्ट में NGO के खिलाफ़ शिकायतें भी बताई गई हैं, जिसमें वित्तीय अनियमितताएँ और विरोध प्रदर्शनों में हिंसा भड़काना शामिल है. साथ ही मानवाधिकार रक्षक की हेरफेर करके बनाई गई फ़ोटो भी है, जिसे एडिट करके स्पष्ट रूप से दिखाया गया है कि वह हमले में घायल हुई हैं और खून से लथपथ हैं. बोर्ड, Meta के इस आश्चर्यजनक निष्कर्ष से असहमत और निराश है कि मानवाधिकार रक्षक के चेहरे से टपकते हुए खून वाली फ़ोटो, "उनके हाथों पर लगे खून" को दर्शाती है और इस प्रकार यह "राजनैतिक आलोचना" है. मानवाधिकार रक्षक “अविचलित दिखती” हैं और “उनके चेहरे पर कोई पीड़ा नहीं है” क्योंकि यह फ़ोटो उनकी एक मुस्कुराती हुई प्रोफ़ेशनल फ़ोटो का डिजिटल रूप से हेरफेर किया गया वर्जन है. उस व्यक्ति के हाथ तो दिखाई भी नहीं दे रहे हैं. Meta की आंतरिक टीमें स्पष्ट रूप से यह पता लगा सकती थीं कि दिखाए गए व्यक्ति को पहचाना जा सकता है. बोर्ड को इस बात की जानकारी नहीं है कि Meta अपने मॉडरेटर्स को कौन-से रिवर्स इमेज सर्च टूल उपलब्ध करवाता है, लेकिन वह मानता ​​है कि Meta के पास वह तकनीकी विशेषज्ञता है जो मॉडरेटर्स को फ़ोटो का आकलन करने के लिए ज़रूरी जानकारी दे सकती है. फ़ोटो के हेरफेर किए गए वर्जन में कोई घाव दिखाई नहीं दे रहा है, लेकिन सिर के एक तरफ से नीचे की ओर और व्यक्ति की आँखों से खून के टपकने के पैटर्न से पता चलता है कि यह खून सिर के घाव से निकल रहा है.
• संदर्भ का संकेत: पोस्ट से “संदर्भ” के संकेत की पूर्ति होती है क्योंकि “स्थानीय संदर्भ या विशेषज्ञों की राय यह कन्फ़र्म करती है कि विचाराधीन कथन से निकट भविष्य में हिंसा हो सकती है.” यह निष्कर्ष, उस संदर्भ से जुड़ी जानकारी पर आधारित है जिसमें पेरू में इसी प्रकार के आरोपों ने लोगों को मानवाधिकार रक्षकों को डराने-धमकाने और हिंसा के माध्यम से निशाना बनाने के लिए भरोसेमंद रूप से प्रेरित किया था. OHCHR ने मानवाधिकार संगठनों पर ला रेसिस्टेंसिया द्वारा किए गए कई हमलों को डॉक्यूमेंट किया है, जिनमें संगठनों पर “आतंकवाद समर्थक” होने और विरोध प्रदर्शनों में हिंसा को बढ़ावा देने का आरोप लगाया गया था. पत्रकारों की सुरक्षा करने वाली समिति ने रिपोर्ट किया है कि ला रेसिस्टेंसिया की एक सभा में शामिल लोगों ने एक मीडिया आउटलेट के ऑफ़िस में मौजूद लोगों को चिल्ला-चिल्लाकर इस तरह की धमकियाँ दीं कि "तुम्हारे गिने-चुने दिन बचे हैं" और "तुम मारे जाओगे." इस केस में एक भरोसेमंद पार्टनर की रिपोर्ट में प्रासंगिक जोखिम को भी यह कहते हुए उजागर किया गया था कि कंटेंट से निकट भविष्य में हिंसा की आशंका बढ़ सकती है. मानवाधिकार रक्षकों ने भी रिपोर्ट, रणनीतिक मुकदमों और स्टेकहोल्डर ईवेंट के ज़रिए हिंसा और दुर्व्यवहार की धमकियों के बारे में अपनी चिंताएँ कंपनी को बताईं.

बोर्ड के कुछ सदस्यों का मानना ​​है कि यह निष्कर्ष निकालने के लिए कि पोस्ट हिंसा और उकसावे से जुड़ी पॉलिसी का उल्लंघन करती है, "छिपी हुई धमकियों" के विश्लेषण पर निर्भर रहना ज़रूरी नहीं है. बोर्ड ने बार-बार इस बात पर ज़ोर दिया है कि Meta को पोस्ट का समग्र रूप से और संदर्भ के साथ आकलन करना चाहिए (वॉमपम बेल्ट, ईरान में विरोध प्रदर्शन का स्लोगन, महिलाओं पर हिंसा और जापान के प्रधानमंत्री से जुड़े बयान देखें). Meta की हिंसा और उकसावे से जुड़ी पॉलिसी, हिंसा की ऐसी धमकियों को प्रतिबंधित करती है जिनमें “किसी टार्गेट पर हिंसा का इरादा, महत्वाकांक्षा या आह्वान” दर्शाने वाले कथन हों. बोर्ड के इन सदस्यों के लिए, मानवाधिकार रक्षक की खून से लथपथ और पहचानी जाने लायक फ़ोटो, ऐसे कैप्शन के साथ प्रस्तुत की गई है जिसमें गलत काम करने का आरोप लगाया गया है. यह स्पष्ट रूप से "आशा की अभिव्यक्ति", "महत्वाकांक्षा" या "बहुत गंभीर हिंसा" के रूप में "कार्रवाई का आह्वान" है. बोर्ड के इन सदस्यों के लिए, इसका अर्थ केवल यह हो सकता है कि दिखाए गए व्यक्ति को हिंसा का आह्वान दर्शाने वाली इमेजरी के माध्यम से निशाना बनाया जा रहा है और उसमें उस व्यक्ति को बहुत गंभीर हिंसा का निशाना बनाने का इरादा दिखाया गया है.

II. एन्फ़ोर्समेंट एक्शन

यह केस इस बारे में चिंताएँ उत्पन्न करता है कि जिन धमकियों पर एन्फ़ोर्समेंट करने के लिए संदर्भ की ज़रूरत होती है और जिन धमकियों पर एन्फ़ोर्समेंट के लिए संदर्भ की ज़रूरत नहीं होती, उनके बीच के ऑपरेशनल अंतर के कारण ज़रूरत से कम एन्फ़ोर्समेंट हो रहा है और ज़्यादा संख्या में छिपी हुई धमकियाँ Meta के प्लेटफ़ॉर्म पर बनी हुई हैं.

बोर्ड ने पहले भी हिंसा की छिपी हुई धमकियों पर एन्फ़ोर्समेंट में आने वाली चुनौतियों को पहचाना है (यूके ड्रिल म्यूज़िक, भारत में फ़्रांस के खिलाफ़ विरोध प्रदर्शन और क्निन कार्टून देखें) क्योंकि संदर्भ को ध्यान में रखते हुए पर्याप्त गहन विश्लेषण कभी-कभी सिर्फ़ एस्केलेशन पर ही किया जाता है. हालाँकि, उसने धमकियों पर Meta की पॉलिसी के संदर्भ-विशिष्ट उपयोग का सुझाव भी दिया है जिसे बड़े पैमाने पर लागू किया जा सकता है (जापान के प्रधानमंत्री से जुड़े बयान देखें). शुरुआती रिव्यू करने वाले रिव्यूअर्स के लिए Meta का मौजूदा मार्गदर्शन, संदर्भात्मक विश्लेषण की संभावना को अत्यंत सीमित करता है (महिलाओं पर हिंसा देखें). शुरुआती मॉडरेटर्स को ऐसे कंटेंट की पहचान के लिए निर्देश या साधन नहीं दिए गए हैं जो कंपनी की सिर्फ़ एस्केलेशन के समय उपयोग होने वाली पॉलिसी का उल्लंघन करते हैं, जैसे कि इस केस में विचाराधीन नियम (सूडान की रैपिड सपोर्ट फ़ोर्स का बंधक वाला वीडियो देखें). इसका मतलब यह है कि इस केस में ह्यूमन रिव्यूअर, कंटेंट की पहली बार रिपोर्ट किए जाने पर कंटेंट का मूल्यांकन करने में विवेक और निर्णय क्षमता का उपयोग नहीं कर पाएगा या कंटेंट को उन टीमों को एस्केलेट नहीं कर पाएगा जिनके पास संदर्भ संवेदी पॉलिसी लाइन एन्फ़ोर्स करने की क्षमता है.

Meta, छिपी हुई धमकियों के लिए रिव्यू किए गए कंटेंट की संख्या का ट्रैक नहीं रखता, इसलिए बोर्ड छिपी हुई धमकियों की व्यापकता या ज़रूरत से कम एन्फ़ोर्समेंट की मात्रा का आकलन नहीं कर सकता. भले ही मानवाधिकार रक्षकों के खिलाफ़ छिपी हुई धमकियों को "कम व्यापक" समस्या के रूप में देखा जाता है, लेकिन इसका असर अभी भी बहुत ज़्यादा है और वे मानवाधिकार रक्षक इसकी तीव्रता को महसूस करते हैं जिन्हें धमकाया जाता है, जिन्हें उनका काम करने से रोका जाता है और जिन्हें शारीरिक हिंसा का सामना करना पड़ता है. इस जोखिम से निपटने के लिए, Meta को इस क्षेत्र में एन्फ़ोर्समेंट को बेहतर बनाने के अवसरों की पहचान करने के लिए अपनी परफ़ॉर्मेंस के नियमित, अच्छी-क्वालिटी वाले मूल्यांकन में निवेश करना चाहिए. Meta को इस बात को बेहतर तरीके से समझना चाहिए कि उसके प्लेटफ़ॉर्म पर छिपी हुई धमकियाँ कितनी व्यापक हैं और उसके सिस्टम कितनी सटीकता से इस कंटेंट का पता लगाते हैं और उनके खिलाफ़ एन्फ़ोर्समेंट करते हैं. यह काम अंततः ज़्यादा विस्तृत मीट्रिक बनाने के आधार के रूप में भी काम कर सकता है, जैसे कि मानवाधिकार रक्षकों को निशाना बनाने वाली धमकियों की व्यापकता और लक्षित मूल्यांकन मैकेनिज़्म. इस प्रोसेस के भाग के रूप में, Meta, संभावित रूप से छिपी ऐसी धमकियों को पहचानने के लिए एक ऑटोमेटेड टूल बनाकर देख सकता है, जिन्हें संबंधित एस्केलेशन टीमों द्वारा रिव्यू के लिए कतारबद्ध किया जाए.

अंत में, भरोसेमंद पार्टनर, छिपी हुई या कोडेड धमकियों सहित संभावित रूप से उल्लंघन करने वाले कंटेंट की पहचान करने में महत्वपूर्ण भूमिका निभाते हैं और सटीक एन्फ़ोर्समेंट के लिए ज़रूरी जानकारी देते हैं. बोर्ड ने पहले भी भरोसेमंद पार्टनर की रिपोर्ट पर Meta की प्रतिक्रिया से जुड़ी समस्याओं पर बात की है (हैती के पुलिस स्टेशन का वीडियो देखें). जैसा कि Meta ने उल्लंघन करने वाले कंटेंट का पता लगाने के लिए ऑटोमेटेड सिस्टम पर कम निर्भर होने का अपना इरादा दर्शाया है, इसलिए भरोसेमंद पार्टनर प्रोग्राम, उभरते हुए जोखिमों को सामने लाने और गलतियों की पहचान करने के लिए एक महत्वपूर्ण चैनल है. Meta को यह सुनिश्चित करना चाहिए कि कार्यक्रम को पर्याप्त रिसोर्स और सपोर्ट मिले ताकि उसकी आंतरिक टीमें एन्फ़ोर्समेंट के संबंध में ऐसे फ़ैसले ले पाएँ जिनमें भरोसेमंद पार्टनर की विशेषज्ञता और संदर्भ से जुड़ी जानकारी का उपयोग किया गया हो.

5.2Meta की मानवाधिकारों से जुड़ी ज़िम्मेदारियों का अनुपालन

बोर्ड ने पाया कि प्लेटफ़ॉर्म से कंटेंट का निष्कासन, जो Meta की कंटेंट पॉलिसीज़ की उचित व्याख्या के अनुसार ज़रूरी था, Meta की मानवाधिकार से जुड़ी ज़िम्मेदारियों के अनुरूप है.

अभिव्यक्ति की आज़ादी (आर्टिकल 19 ICCPR)

नागरिक और राजनैतिक अधिकारों पर अंतरराष्ट्रीय प्रतिज्ञापत्र (ICCPR) का अनुच्छेद 19, अभिव्यक्ति की व्यापक सुरक्षा प्रदान करता है, जिसमें राजनैतिक, सार्वजनिक मामलों और मानवाधिकारों से जुड़ी राय की सुरक्षा शामिल है (सामान्य कमेंट सं. 34, पैरा. 11-12). जहाँ राज्य, अभिव्यक्ति पर प्रतिबंध लगाता है, वहाँ प्रतिबंधों को वैधानिकता, वैधानिक लक्ष्य और आवश्यकता तथा आनुपातिकता की शर्तों को पूरा करना चाहिए (अनुच्छेद 19, पैरा. 3, ICCPR). इन आवश्यकताओं को अक्सर “तीन भागों वाला परीक्षण” कहा जाता है. बोर्ड इस फ़्रेमवर्क का उपयोग बिज़नेस और मानवाधिकारों से जुड़े संयुक्त राष्ट्र संघ के मार्गदर्शक सिद्धांतों के अनुरूप Meta की मानवाधिकार ज़िम्मेदारियों को समझने के लिए करता है, जिसके लिए Meta ने खुद अपनी कॉर्पोरेट मानवाधिकार पॉलिसी में प्रतिबद्धता जताई है. बोर्ड ऐसा इसलिए करता है कि वह रिव्यू के लिए आए कंटेंट से जुड़े अलग-अलग फ़ैसले ले सके और यह समझ सके कि कंटेंट मॉडरेशन से जुड़ा Meta का व्यापक दृष्टिकोण क्या है. जैसा कि अभिव्यक्ति की आज़ादी के बारे में संयुक्त राष्ट्र के खास रैपर्टर में कहा गया है कि भले ही “कंपनियों का सरकारों के प्रति दायित्व नहीं है, लेकिन उनका प्रभाव इस तरह का है जो उनके लिए अपने यूज़र की सुरक्षा के बारे में इस तरह के सवालों का मूल्यांकन करना ज़रूरी बनाता है” (A/74/486, पैरा. 41).

I. वैधानिकता (नियमों की स्पष्टता और सुलभता)

अंतरराष्ट्रीय मानवाधिकार कानून के तहत वैधानिकता के सिद्धांत के अनुसार अभिव्यक्ति पर रोक लगाने वाले नियम स्पष्ट और सार्वजनिक रूप से उपलब्ध होने चाहिए (सामान्य कमेंट सं. 34, पैरा. 25 पर). वैधानिकता के स्टैंडर्ड के अनुसार यह भी ज़रूरी है कि अभिव्यक्ति को प्रतिबंधित करने वाले नियम “उन लोगों को अभिव्यक्ति की आज़ादी को प्रतिबंधित करने के निरंकुश अधिकार नहीं दे सकते जिन पर इन्हें लागू करने की ज़िम्मेदारी है” और नियमों में "उन लोगों के लिए पर्याप्त मार्गदर्शन भी होना चाहिए जिन पर इन्हें लागू करने ज़िम्मेदारी है ताकि वे यह पता लगा सकें कि किस तरह की अभिव्यक्ति को उचित रूप से प्रतिबंधित किया गया है और किसे नहीं,” ( A/HRC/38/35, पैरा. 46 पर). Meta के प्लेटफ़ॉर्म का उपयोग करने वाले लोगों के लिए ये नियम एक्सेस करने और समझने लायक होने चाहिए और उनके एन्फ़ोर्समेंट के लिए कंटेंट रिव्यूअर्स को स्पष्ट मार्गदर्शन दिया जाना चाहिए.

बोर्ड ने पाया कि “विभिन्न टार्गेट के खिलाफ़ हिंसा की धमकियों” और “कोडेड बयान, जिनमें हिंसा का तरीका स्पष्ट रूप से नहीं बताया गया हो, लेकिन धमकी छिपी हुई या अस्पष्ट है” पर Meta के प्रतिबंध पर्याप्त रूप से स्पष्ट हैं, जैसा कि इस केस में लागू हुआ है.

हालाँकि बोर्ड ने नोट किया कि हिंसा और उकसावे से जुड़ी पॉलिसी के तहत धमकियों के खिलाफ़ व्यापक प्रतिबंध यह निर्धारित करता है कि "हिंसा की धमकियाँ बयान के रूप में हैं या विज़ुअल हैं", जबकि छिपी हुई धमकियों के बारे में सिर्फ़ एस्केलेशन पर लागू होने वाली पॉलिसी “कोडेड बयानों” पर फ़ोकस करती है. बोर्ड ने सुझाव दिया है कि Meta इस भाषा को स्पष्ट करे ताकि यह स्पष्ट हो सके कि लिखित, विज़ुअल और मौखिक धमकियों वाले “कोडेड बयान” प्रतिबंधित हैं. बोर्ड ने पहले Meta से ऐसी पॉलिसी और एन्फ़ोर्समेंट गाइडलाइन बनाने के लिए कहा था, जो टेक्स्ट और फ़ोटो वाले पोस्ट को समग्र रूप से देखें (ट्रांसजेंडर लोगों को टार्गेट करने के लिए पोलिश भाषा में की गई पोस्ट देखें). यह खास तौर पर इस केस की पोस्ट जैसे कंटेंट के लिए महत्वपूर्ण है, जहाँ अर्थ को समग्र रूप से समझने के लिए संदर्भ ज़रूरी है. पोस्ट के Meta के विश्लेषण में यह काम असंगत रूप से किया गया है: यह फ़ोटो की व्याख्या करते समय टेक्स्ट पर विचार करता है, लेकिन टेक्स्ट की व्याख्या करते समय फ़ोटो पर विचार नहीं करता. इसके अलावा, बोर्ड ने नोट किया कि Meta द्वारा चुनी गई शब्दावली "छिपी हुई धमकी" कुछ यूज़र्स के लिए गुमराह करने वाली हो सकती है, क्योंकि इससे पता चलता है कि कोई धमकी छिपी हुई है या शायद कम गंभीर भी है. इस केस में पोस्ट को समझने के लिए कुछ व्याख्या की ज़रूरत है, लेकिन इसका स्पष्ट उद्देश्य एक धमकी भरा मैसेज डिलीवर करना है.

II. वैधानिक लक्ष्य

अभिव्यक्ति की आज़ादी पर लगाए जाने वाले किसी भी प्रतिबंध में ICCPR में सूचीबद्ध कानूनी लक्ष्यों में से एक या एक से ज़्यादा को पूरा किया जाना चाहिए, जिसमें अन्य लोगों के अधिकारों की रक्षा शामिल है. हिंसा और उकसावे के कम्युनिटी स्टैंडर्ड का उद्देश्य ऐसे कंटेंट को हटाकर “ऑफ़लाइन हिंसा की आशंका को रोकना है” जिसमें “जान और माल के नुकसान का वास्तविक जोखिम” होता है. यह पॉलिसी, अभिव्यक्ति की आज़ादी और सभा के अधिकार (अनुच्छेद 19 और 21, ICCPR) और जीवन के अधिकार और व्यक्ति की सुरक्षा के अधिकार (अनुच्छेद 6, ICCPR; अनुच्छेद 9 ICCPR) की रक्षा करने के विधिसम्मत लक्ष्य की पूर्ति करती है.

III. आवश्यकता और आनुपातिकता

ICCPR के आर्टिकल 19(3) के तहत, आवश्यकता और आनुपातिकता के सिद्धांत के अनुसार यह ज़रूरी है कि अभिव्यक्ति की स्वतंत्रता पर लगाए जाने वाले प्रतिबंध “उनके सुरक्षात्मक कार्य को सही तरीके से पूरा करने वाले होने चाहिए; उनसे उन लोगों के अधिकारों के साथ कम से कम हस्तक्षेप होना चाहिए, जिन अधिकारों से उन्हें सुरक्षात्मक कार्यों का लाभ मिल सकता है; उन हितों के अनुसार सही अनुपात में होने चाहिए, जिनकी सुरक्षा की जानी है,” (सामान्य कमेंट सं. 34, पैरा. 34).

हिंसक कंटेंट से उत्पन्न जोखिमों का विश्लेषण करते समय, बोर्ड आम तौर पर रबात एक्शन प्लान में बताए गए छह कारणों वाले टेस्ट का उपयोग करता है. भले ही रबात फ़्रेमवर्क को राष्ट्रीय, नस्लीय या धार्मिक नफ़रत की हिमायत का आकलन करने के लिए बनाया गया था जिससे भेदभाव, दुश्मनी या हिंसा के कामों को उकसावा मिलता है, फिर भी यह टेस्ट सामान्य तौर पर हिंसा के उकसावे का आकलन करने के लिए उपयोगी है (ईरान में विरोध प्रदर्शन का स्लोगन और क्यूबा में महिलाओं से विरोध प्रदर्शन का आह्वान देखें). प्रासंगिक कारणों, खास तौर पर अभिव्यक्ति की कंटेंट और रूप, स्पीकर का इरादा और नीचे दिए गए संदर्भ के आकलन के आधार पर, बोर्ड का मानना ​​है कि जीवन के अधिकार और मानवाधिकार रक्षकों की सुरक्षा की रक्षा के लिए कंटेंट को हटाना अभिव्यक्ति पर एक आवश्यक और आनुपातिक प्रतिबंध है. पोस्ट में मानवाधिकार रक्षक की पहचान बताई गई है और उन्हें हिंसा की धमकी भी दी गई है. कंटेंट को हटाने से कम कोई भी कार्रवाई, पोस्ट से उत्पन्न जोखिमों को समाप्त करने के लिए पर्याप्त नहीं होगी.

पेरू में NGO और मानवाधिकार रक्षकों को टार्गेट करते हुए आपराधिकता और भ्रष्टाचार के आरोपों का उपयोग, ला रेसिस्टेंशिया द्वारा विरोध प्रदर्शन आयोजित करने के लिए अक्सर किया जाता रहा है, जिनके परिणामस्वरूप हिंसा हुई है. पोस्ट में इन माध्यमों से मानवाधिकार रक्षक की निजी पहचान बताई गई है और उन्हें धमकी दी गई है: i) हेरफेर करके बनाई गई फ़ोटो जिसमें हिंसक चोट के बाद की स्थिति दिखाई गई है और ii) कैप्शन में इस तरह की बातें की गई हैं जिनका उपयोग ऐसे हमले करने के लिए किया गया है.

यह कंटेंट उसी दिन पोस्ट किया गया था जिस दिन पेरू सरकार के खिलाफ़ प्रदर्शन हुए थे, जिनमें सरकार द्वारा “अधिकांश लोगों के हितों के खिलाफ काम करने के कारण” उसकी आलोचना की गई थी. शांतिपूर्ण सभा और संगठन की आज़ादी के अधिकारों पर संयुक्त राष्ट्र के विशेष रैपर्टर ने पेरू में “मानवाधिकार रक्षकों के कथित दोषारोपण और अपराधीकरण, सामाजिक विरोध के संदर्भ में सरकार की प्रतिक्रिया के लगातार समस्याग्रस्त व्यवहारों और जोखिमग्रस्त रक्षकों के लिए प्रभावी सुरक्षा की कमी” को एक प्रमुख चिंता बताया गया है. इसके अलावा, मानवाधिकार रक्षकों की स्थिति को ला रेसिस्टेंसिया जैसे समूहों से मिलने वाली धमकियों, डर, उत्पीड़न और शारीरिक हमलों के संदर्भ में समझा जाना चाहिए (PC-30929, PC-30927, PC-30930 और PC-30932 देखें). यह पोस्ट ला रेसिस्टेंसिया के एक प्रभावशाली सदस्य द्वारा की गई थी, जिसके फ़ॉलोअर्स की तादाद सोशल मीडिया पर अच्छी है. बोर्ड द्वारा करवाई गई रिसर्च में ऐसी सभाएँ आयोजित करने में यूज़र्स की सार्वजनिक भूमिका को हाइलाइट किया गया जिनमें पत्रकारों और मानवाधिकार रक्षकों को मौत की धमकियाँ दी जाती हैं और उन्हें डराया-धमकाया जाता है. बोर्ड का मानना ​​है कि ऐसे यूज़र्स की ओर से हिंसा की किसी भी धमकी से दिखाए गए लक्ष्यों को निकट भविष्य में नुकसान का खतरा हो सकता है. बोर्ड ने कहा कि NGO की आलोचना की परमिशन है, लेकिन सचमुच हिंसा करने की धमकियों की नहीं.

हाल की रिपोर्टिंग, मानवाधिकार रक्षकों को निशाना बनाने वाले खतरों की गंभीरता की पुष्टि करती है. मानवाधिकार रक्षकों की स्थिति पर संयुक्त राष्ट्र के विशेष रैपर्टर में कहा गया है कि रक्षकों को लगातार धमकियाँ मिल रही हैं और “मानवाधिकार रक्षकों की हत्या से पहले अक्सर दी जाने वाली मौत की धमकियाँ” खास तौर पर चिंता का विषय हैं. विशेष रैपर्टर में यह भी नोट किया गया है कि “कई धमकियाँ एक खास लिंग वाले व्यक्ति के लिए होती है” जिसमें महिला मानवाधिकार रक्षकों को निशाना बनाया जाता है. पेरू में, विशेष रैपर्टर ने पाया है कि “अधिकांश मानवाधिकार रक्षक सुरक्षित और सक्षम माहौल में काम नहीं कर पाते.” 2023 में पेरू के अधिकारियों को किए गए एक सार्वजनिक सूचना अनुरोध के ज़रिए, मानवाधिकार संगठन एमनेस्टी इंटरनेशनल ने नोट किया कि मानवाधिकार रक्षकों के लिए सरकार के सुरक्षा मैकेनिज़्म ने मानवाधिकार रक्षकों और/या उनके परिवारों को दी गई 197 धमकियाँ दर्ज कीं, जिनमें से 60 शारीरिक और/या मौखिक दुर्व्यवहार के शिकार थे (PC-30928 देखें). एमनेस्टी इंटरनेशनल ने यह भी कन्फ़र्म किया कि पेरू में 2023 में कम से कम चार मानवाधिकार रक्षकों की हत्या हुई है.

शारीरिक जोखिम उत्पन्न करने के अलावा, ऐसा कंटेंट जिसमें मानवाधिकार रक्षकों को धमकियों से निशाना बनाया जाता है और जिसमें ऐसे समूहों को संगठित करने के लिए उपयोग की जाने वाली बातें शामिल होती हैं जिन्होंने NGO पर हमले किए हैं, भले ही वे निहित हों और उन्हें समझने के लिए संदर्भ की ज़रूरत हो, भय का माहौल बनाता है और ऐसे माहौल को बढ़ावा देता है जिसमें नागरिक समाज समूहों को व्यापक रूप से निशाना बनाना सामान्य बात हो जाती है. व्यावहारिक रूप से, इससे मानवाधिकार रक्षकों के लिए दूसरों के अधिकारों की रक्षा करने का काम और मुश्किल हो जाता है. संयुक्त राष्ट्र की एक रिपोर्ट के अनुसार, दोषारोपण, उन अंतर्निहित मानवाधिकारों की क्षति से “स्वाभाविक रूप से जुड़ा हुआ” है, जिनकी ऐसे रक्षक हिमायत करते हैं. पेरू में, इस डायनेमिक की स्थिति उन कानूनी नवाचारों के कारण और बिगड़ गई है, जो NGO पर सरकार का ज़्यादा नियंत्रण करने और विरोध प्रदर्शनों में शांतिपूर्ण ढंग से एकत्र होने और संगठित होने की आज़ादी के अधिकारों पर प्रतिबंध लगाने की कोशिश करते हैं. जैसा कि International Center for Not-For-Profit Law (PC-30930) ने अपने पब्लिक कमेंट में कहा है: "मानवाधिकार रक्षकों का काम लोकतंत्र और कानून के शासन को मज़बूत करने के लिए ज़रूरी है... लोकतांत्रिक समाज में मानवाधिकारों का सम्मान काफ़ी हद तक मानवाधिकार रक्षकों के लिए प्रभावी और पर्याप्त गारंटी पर निर्भर करता है जिससे वे अपनी गतिविधियाँ स्वतंत्र रूप से करने में सक्षम बनते हैं."

टार्गेट किए जाने के डर के कारण, धमकियाँ मानवाधिकार रक्षकों, खास तौर पर महिलाओं की अभिव्यक्ति की आज़ादी पर बुरा असर डाल सकती हैं. महिलाएँ अक्सर समान अधिकारों की वकालत करने और उन्हें संगठित करने में बेजोड़ भूमिका निभाती हैं और उन्हें धमकियों और दुर्व्यवहार का शिकार बनाया जाता है. महिला मानवाधिकार रक्षकों ने भी उस राजनैतिक बयानबाज़ी की Meta द्वारा व्याख्या के समय ज़रूरत से ज़्यादा एन्फ़ोर्समेंट के गंभीर जोखिमों के बारे में चिंता जताई है जिसमें हिंसक रूपकों का उपयोग किया जाता है या मानवाधिकारों के हनन की ओर ध्यान आकर्षित किया जाता है (ईरान में विरोध प्रदर्शन का स्लोगन देखें). जैसा कि राय और अभिव्यक्ति की आज़ादी के अधिकार के प्रमोशन और सुरक्षा पर विशेष रैपर्टर ने 2023 की रिपोर्ट में उल्लेख किया है, लिंग आधारित गलत सूचना और ऑनलाइन दुर्व्यवहार के कारण “महिलाएँ सार्वजनिक जीवन या पत्रकारिता से दूरी बना सकती हैं या उनकी अभिव्यक्ति की आज़ादी और उनकी पेशेवर गतिविधियों को जारी रखने की उनकी क्षमता पर बुरा असर पड़ सकता है.” "मानवाधिकार रक्षकों की ऑनलाइन सुरक्षा" पर बोर्ड की राउंडटेबल में भाग लेने वाले स्टेकहोल्डर्स ने शेयर किया कि रक्षक, खास तौर पर महिलाएँ, अश्वेत महिलाएँ और समलैंगिक महिलाएँ, खुद को दुविधा की स्थिति में पाते हैं: वे अपने काम के लिए Meta के प्रोडक्ट पर निर्भर हैं, लेकिन साथ ही कंपनी के प्लेटफ़ॉर्म पर उत्पीड़न और धमकियों का भी सामना करते हैं.

5.3 समान संदर्भ वाला मिलता-जुलता कंटेंट

बोर्ड को ऐसी रिपोर्ट (PC-30929) मिली हैं कि यूज़र के अकाउंट को बंद करने के कारण एक्सेस योग्य न होने के बावजूद, कंटेंट को यूज़र से जुड़े अलग-अलग अकाउंट से रीपोस्ट किया गया है. इस फ़ैसले के बाद, Meta को यह सुनिश्चित करना चाहिए कि मिलते-जुलते कंटेंट को हटा दिया गया है, बशर्ते उसे निंदा करने या जागरूकता फैलाने के संदर्भ में शेयर न किया गया हो.

6. ओवरसाइट बोर्ड का फ़ैसला

ओवरसाइट बोर्ड ने संबंधित कंटेंट को प्लेटफ़ॉर्म पर बनाए रखने के Meta के मूल फ़ैसले को पलट दिया है.

7. सुझाव

कंटेंट पॉलिसी

1. यह सुनिश्चित करने के लिए कि हिंसा और उकसावे से जुड़ा कम्युनिटी स्टैंडर्ड, स्पष्ट रूप से यह दर्शाता है कि टेक्स्ट और इमेजरी के माध्यम से किस तरह छिपी हुई धमकियाँ दी जा सकती हैं, Meta को यह स्पष्ट करना चाहिए कि "कोडेड बयानों" से दी गई धमकियाँ लिखित, विज़ुअल और मौखिक रूप में प्रतिबंधित हैं, भले ही उनमें "हिंसा का तरीका स्पष्ट रूप से नहीं बताया गया हो."

बोर्ड इस सुझाव को तब लागू मानेगा जब हिंसा और उकसावे से जुड़े कम्युनिटी स्टैंडर्ड के लोगों को दिखाई देने वाले भाग में प्रस्तावित बदलाव दिखाई देगा.

एन्फ़ोर्समेंट

2. यह सुनिश्चित करने के लिए कि संभावित रूप से छिपे खतरों का ज़्यादा सटीकता से आकलन किया जा सके, एस्केलेशन के समय इस कंटेंट के बारे में Meta की गलत व्याख्या को ध्यान में रखते हुए, बोर्ड का सुझाव है कि Meta इस समस्या क्षेत्र के लिए सटीकता का वार्षिक मूल्यांकन तैयार करे. इसमें मानवाधिकार रक्षकों को दी गई धमकियों की पहचान और निष्कासन के फ़ाल्स-नेगेटिव रेट और राजनैतिक बयानों (जैसे, ईरान में विरोध प्रदर्शन का स्लोगन) के लिए फ़ाल्स-पॉज़िटिव रेट पर खास फ़ोकस शामिल होना चाहिए. इस प्रोसेस के भाग के रूप में, Meta को बड़े पैमाने पर उच्च जोखिम (कम व्यापकता, ज़्यादा असर) वाली धमकियों की सटीक पहचान में सुधार के अवसर तलाशने चाहिए.

बोर्ड इसे तब लागू मानेगा जब Meta इस आकलन के परिणाम शेयर करेगा, जिसमें यह भी शामिल होना चाहिए कि ये परिणाम एन्फ़ोर्समेंट के कामों और पॉलिसी बनाने में किस तरह सुधार लाएँगे.

*प्रक्रिया संबंधी नोट:

• ओवरसाइट बोर्ड के फ़ैसले पाँच मेंबर्स के पैनल द्वारा लिए जाते हैं और उन पर बोर्ड के अधिकांश मेंबर्स की सहमति होती है. ज़रूरी नहीं है कि बोर्ड के फ़ैसले, सभी सदस्यों की राय दर्शाएँ.
• अपने चार्टर के तहत, ओवरसाइट बोर्ड उन यूज़र्स की अपील रिव्यू कर सकता है, जिनका कंटेंट Meta ने हटा दिया था और उन यूज़र्स की अपील जिन्होंने उस कंटेंट की रिपोर्ट की थी जिसे Meta ने बनाए रखा. साथ ही, बोर्ड Meta की ओर से रेफ़र किए गए फ़ैसलों का रिव्यू कर सकता है (चार्टर आर्टिकल 2, सेक्शन 1). बोर्ड के पास Meta के कंटेंट से जुड़े फ़ैसलों को कायम रखने या उन्हें बदलने का बाध्यकारी अधिकार है (चार्टर आर्टिकल 3, सेक्शन 5; चार्टर आर्टिकल 4). बोर्ड ऐसे गैर-बाध्यकारी सुझाव दे सकता है, जिनका जवाब देना Meta के लिए ज़रूरी है (चार्टर आर्टिकल 3, सेक्शन 4; अनुच्छेद 4). जहाँ Meta, सुझावों पर एक्शन लेने की प्रतिबद्धता व्यक्त करता है, वहाँ बोर्ड उनके लागू होने की निगरानी करता है.
• इस केस के फ़ैसले के लिए, बोर्ड की ओर से स्वतंत्र रिसर्च करवाई गई थी. बोर्ड को Duco Advisers की सहायता मिली, जो भौगोलिक-राजनैतिक, विश्वास और सुरक्षा तथा टेक्नोलॉजी के आपसी संबंध पर काम करने वाली एक एडवाइज़री फ़र्म है. Memetica ने भी रिसर्च संबंधी सेवाएँ दीं, जो ऑनलाइन नुकसान को कम करने के लिए जोखिम परामर्श और खतरे की आशंका से जुड़ी सेवाएँ देने वाला एक डिजिटल इनवेस्टिगेशन ग्रुप है.

मामले के निर्णयों और नीति सलाहकार राय पर लौटें