पेरू में मानवाधिकार रक्षक का केस, Meta के प्लेटफ़ॉर्म पर, छिपी हुई धमकियों के बारे में चिंताएं बढ़ाता है

27 मई 2025

पेरू की एक प्रमुख मानवाधिकार रक्षक को निशाना बनाने वाले कंटेंट को बनाए रखने के Meta के निर्णय को ओवरसाइट बोर्ड ने बदल दिया। पेरू में, सभा करने और संगठन बनाने जैसी मौलिक स्वतंत्रताओं पर प्रतिबंध बढ़ रहे हैं और इससे प्रभावित होने वालों में गैर-सरकारी संगठन (NGO) भी शामिल हैं। इस पोस्ट को ला रेसिस्टेंसिया के एक सदस्य ने साझा किया था, जिसमें मानवाधिकार रक्षक की एक तस्वीर है, जिसमें उसके चेहरे से टपकता हुआ खून दिखाने के लिए संभवतः AI से बदलाव किया गया था। यह समूह पेरू में पत्रकारों, NGO, मानवाधिकार कार्यकर्ताओं और संस्थानों को, गलत जानकारी, धमकी और हिंसा के ज़रिए निशाना बनाता है। अगर संपूर्ण संदर्भ में देखा जाए, तो यह पोस्ट, हिंसा और उकसाने संबंधी पॉलिसी के तहत, पूरी तरह से एक "छिपी हुई धमकी" है। चूँकि यह केस, Meta के प्लेटफ़ॉर्म पर छिपी हुई या कोडित धमकियों के संभावित कम एन्फ़ोर्समेंट को उजागर करता है, इसलिए बोर्ड ने दो संबंधित सुझाव दिए हैं।

इस केस के बारे में

ला रेसिस्टेंसिया के एक सदस्य ने संभवतः AI के ज़रिए हेरफेर की गई एक तस्वीर पोस्ट की, जिसमें एक मानवाधिकार संगठन की नेत्री का खून से लथपथ चेहरा दिखाने के लिए, उसके हेडशॉट में बदलाव किया गया। स्पैनिश भाषा में लिखे गए कैप्शन में इशारा किया गया है कि गैर-सरकारी संगठन (NGO), विदेशों से धन प्राप्त करके वित्तीय गड़बड़ियाँ करने में लिप्त हैं, साथ ही उन पर हिंसक विरोध प्रदर्शनों को प्रोत्साहित करने का आरोप लगाया गया है। जब यह पोस्ट शेयर की गई, उस समय पेरू में नागरिकों द्वारा सरकार के खिलाफ़ प्रदर्शन किए जा रहे थे।

जब इस पोस्ट की शिकायत की गई, तब तक इसे करीब 1,000 बार देखा गया था। Meta ने निर्धारित किया कि कोई उल्लंघन नहीं हुआ था। इसके बाद वह यूज़र, जिसने Meta को अपील की थी, बोर्ड के पास आया। बोर्ड द्वारा केस का चयन किए जाने पहले, Meta को अपने एक विश्वसनीय भागीदार, जो गैर-सरकारी संगठनों, मानवतावादी एजेंसियों और मानवाधिकार शोधकर्ताओं का एक वैश्विक नेटवर्क है और Meta के प्लेटफ़ॉर्म पर मौजूद कंटेंट के कारण उभरने वाले जोखिमों को चिह्नित करता है, से एक रिपोर्ट मिली। इसके परिणामस्वरूप, Meta ने तस्वीर पोस्ट करने वाले खाते की समीक्षा की और अपनी सेवा की शर्तों का उल्लंघन करने के कारण, उस खाते को निष्क्रिय कर दिया, जिसका अर्थ है कि यह विशिष्ट पोस्ट अब Facebook पर नहीं है।

मुख्य निष्कर्ष

बोर्ड ने सर्वसम्मति से पाया कि यह पोस्ट, हिंसा और उकसाने संबंधी कम्युनिटी स्टैंडर्ड के तहत, पूरी तरह से “छिपी हुई या निहित” धमकी है। जब धमकियाँ छिपी हुए होती हैं, तो उन्हें धमकी के किसी संकेत – जैसे कि बदला लेने का कथन या कार्रवाई के लिए आह्वान - की आवश्यकता होती है और एक संदर्भ संकेत की भी, जिसमें स्थानीय विशेषज्ञों द्वारा यह पुष्टि करना शामिल है कि बयान से आसन्न हिंसा हो सकती है।

AI के ज़रिए हेरफेर की गई तस्वीर का एक निशाना है – मानवाधिकार रक्षक, जिसे कई पेरूवासियों द्वारा स्पष्ट रूप से पहचाना जा सकता है। उसकी तस्वीर को इस तरह से संपादित किया गया है, जिससे लगे कि उसे शारीरिक चोटें आई हैं। टेक्स्ट में गैर-सरकारी संगठनों के खिलाफ कई शिकायतें हैं, जिनमें कथित वित्तीय गड़बड़ियाँ भी शामिल हैं। साथ मिलकर, ये फ़ैक्टर, धमकी के संकेत की आवश्यकता को पूरा करते हैं। यह कंटेंट, एक संदर्भ संकेत की आवश्यकता को भी पूरा करता है, क्योंकि पेरू में मानवाधिकार रक्षकों के खिलाफ हमलों की काफ़ी शिकायतें हैं, जिनमें ला रेसिस्टेंसिया द्वारा किए गए हमले भी शामिल हैं। इसके अतिरिक्त, Meta को भेजी गई विश्वसनीय भागीदार की रिपोर्ट में बताया गया है कि यह पोस्ट, आसन्न हिंसा में कैसे योगदान दे सकती थी।

Meta ने इस तस्वीर की व्याख्या "अपने हाथों पर खून" वाली मानवाधिकार रक्षक के रूप में की। बोर्ड इस स्पष्टीकरण से असहमत और निराश है, यह देखते हुए कि तस्वीर में, एक सिर के खूनी घाव को दिखाने के लिए बदलाव किया गया था। Meta की आंतरिक टीमें इस बात का आसानी से पता लगा सकती थीं कि मानवाधिकार रक्षक को ऑनलाइन खोज के ज़रिए पहचाना जा सकता है, जिससे उसका मूल, मुस्कराता हुआ हेडशॉट सामने आ जाता।

इस केस में, कंटेंट हटाने के अलावा किसी भी हस्तक्षेप से, मानवाधिकार रक्षक के समक्ष मौजूद जोखिमों को पर्याप्त रूप से कम नहीं किया जा सकता था। संयुक्त राष्ट्र की हाल ही की रिपोर्ट में, पेरू में मानवाधिकार रक्षकों, विशेष रूप से महिलाओं, के लिए असुरक्षित वातावरण पर चर्चा की गई है। नागरिक समाज समूहों पर दोषारोपण ने भय का वातावरण बना दिया है, और इस गतिशीलता को विधायी पहलों ने और बढ़ा दिया है, जो गैर-सरकारी संगठनों पर अधिक नियंत्रण स्थापित करने और शांतिपूर्ण सभा को प्रतिबंधित करने की कोशिश करती हैं।

अंत में, बोर्ड को यह शिकायत मिली है कि इस कंटेंट को उसी यूज़र से जुड़े अन्य खातों से दोबारा पोस्ट किया गया है, जिसने इसे मूल रूप से पोस्ट किया था। Meta को यह सुनिश्चित करना चाहिए कि ऐसी पोस्ट हटा दी जाएँ, जब तक कि वे निंदा करने या जागरूकता बढ़ाने के लिए न हों।

ओवरसाइट बोर्ड का फ़ैसला

ओवरसाइट बोर्ड ने, कंटेंट को बनाए रखने के, Meta के फ़ैसले को बदल दिया।

बोर्ड के ये भी सुझाव हैं कि Meta:

• यह स्पष्ट करे कि हिंसा और उकसाने संबंधी कम्युनिटी स्टैंडर्ड के तहत, “ऐसे कोडित कथन, जिनमें हिंसा का तरीका स्पष्ट रूप से व्यक्त नहीं किया गया है,” लिखित, दृश्य और मौखिक रूप में निषिद्ध हैं।
• संभावित छिपी हुई धमकियों पर एक वार्षिक सटीकता मूल्यांकन तैयार करे, जिसमें मानवाधिकार रक्षकों के खिलाफ़ धमकियों वाले ऐसे कंटेंट पर विशेष रूप से ध्यान केंद्रित किया जाए, जो प्लेटफ़ॉर्म पर गलत तरीके से बरकरार है और ऐसी घटनाओं पर भी, जहाँ राजनीतिक भाषणों को गलत तरीके से हटा दिया गया है।

अधिक जानकारी

इस केस के लिए पब्लिक कमेंट पढ़ने के लिए, यहाँ क्लिक करें।

समाचार पर लौटें