जो लोग सार्वजनिक जीवन में नहीं हैं, उनकी AI-निर्मित तस्वीरों के विरुद्ध, डराने-धमकाने और उत्पीड़न संबंधी पॉलिसी को सुदृढ़ करना
17 सितम्बर 2026
ओवरसाइट बोर्ड ने Meta को Facebook से एक AI-निर्मित वीडियो हटाने के लिए कहा है, जिसमें एक युवा मुस्लिम महिला को डराया-धमकाया गया है, उसके रूप-साम्य के साथ हेरफेर करके उसे प्रस्तुत किया गया है, और जो सोशल मीडिया पर इसी तरह की पोस्ट की एक व्यापक रूप से प्रसारित शृंखला का हिस्सा था। बोर्ड ने पाया कि Meta की डराने-धमकाने और उत्पीड़न संबंधी पॉलिसी, ऐसे लोगों की AI के ज़रिये हेरफेर की गई तस्वीरों से निपटने के लिए अपर्याप्त हैं, जो सामान्यतः सार्वजनिक जीवन में नहीं होते हैं।
यह महत्वपूर्ण क्यों है
यह फ़ैसला ऐसे समय में आया है, जब जनरेटिव AI, महिलाओं और लड़कियों के लिए नए जोखिम पैदा कर रहा है और दुर्व्यवहार का स्तर, गति और गंभीरता बढ़ रही है। लैंगिक समानता के क्षेत्र में कार्य करने वाली संयुक्त राष्ट्र (UN) की प्रमुख संस्था, संयुक्त राष्ट्र महिला की रिपोर्ट 2025 के अनुसार, कई हमले “अक्सर जान-बूझकर और समन्वित होते हैं और सार्वजनिक जीवन में महिलाओं को चुप कराने के उद्देश्य से किए जाते हैं।” AI-निर्मित वीडियो ऑनलाइन उत्पीड़न की प्रकृति को बदल रहे हैं और Meta के यूज़र के अधिकारों पर महत्वपूर्ण प्रभाव डाल रहे हैं, जिनमें मुस्लिम महिलाओं तथा सामान्य रूप से महिलाओं और लड़कियों के सार्वजनिक भागीदारी के अधिकार भी शामिल हैं। ये हमले अक्सर न सिर्फ़ किसी व्यक्ति के रूप-रंग को ही गलत तरीके से नहीं दिखाते, बल्कि उनके कामों और बातों को भी गलत तरीके से दिखाते हैं, जिससे उन्हें नुकसान पहुंचता है।
इस केस के बारे में
2025 में, यूरोप में एक युवा मुस्लिम महिला का टीवी पर साक्षात्कार लिया गया था, जो कि जातीय अल्पसंख्यक पृष्ठभूमि से आने वाली महिलाओं और लड़कियों के लिए मासिक धर्म संबंधी स्वास्थ्य शिक्षा में सुधार करने तथा स्वास्थ्य संबंधी स्थितियों से जुड़े कलंक को कम करने के अभियान में स्वयंसेविका के रूप में काम कर रही थी। इसके बाद के महीनों में, विभिन्न सोशल मीडिया प्लेटफ़ॉर्म पर मौजूद खातों ने साक्षात्कार के वीडियो को डिजिटल रूप से हेरफेर कर उसका मज़ाक उड़ाया, जिसके लिए स्वास्थ्य को बढ़ावा देने वाली उसकी भूमिका और उसके रूप-रंग के बीच एक स्पष्ट विषमता प्रस्तुत की गई, जिसका स्पष्ट उद्देश्य यह संकेत देना था कि स्वास्थ्य संबंधी केस में संदेश देने के लिए वह अयोग्य है। इन वीडियो में उसके कार्यों और शब्दों में हेरफेर के लिए, उसके रूप-साम्य का उपयोग किया गया। AI-निर्मित वीडियो और तस्वीरों को मिलाकर विभिन्न प्लेटफ़ॉर्म पर करोड़ों बार देखा गया, जिनमें Meta भी शामिल है।
बोर्ड ने यूज़र की अपील के ज़रिये सबमिट की गई Facebook की एक पोस्ट का चयन, उस महिला के साथ हुए दुर्व्यवहार के केवल एक उदाहरण के रूप में किया। इस पोस्ट में महिला का एक AI-निर्मित वीडियो शामिल है, जिसमें वह स्वयं को अपने देश की नई स्वास्थ्य राजदूत के रूप में प्रस्तुत करती हुई दिखाई गई है। इस झूठे दावे को हंसी वाले इमोजी के साथ कैप्शन में भी दोहराया गया है। उसके रूप-साम्य को इस तरह प्रस्तुत किया गया है कि वह कहती हुई दिखाई देती है कि वह बताएगी कि शरीर को सुडौल कैसे रखा जाए और उसके बाद उसे कई तरह की सीमित या बेतुकी कसरतें करते हुए तथा जंक फ़ूड खाते हुए स्वस्थ खान-पान के बारे में सलाह देते हुए दिखाया गया। वीडियो के नीचे विभिन्न यूज़र की कई कमेंट में महिला का मज़ाक उड़ाया गया है, मुख्य रूप से उसके वजन और हिजाब पहनने के कारण।
बोर्ड से अपील करने वाले यूज़र के लिए, Meta को की गई उनकी प्रारंभिक शिकायत और उसके बाद कंपनी के समक्ष की गई अपील, दोनों को रिव्यू के लिए प्राथमिकता दिए बिना अपने-आप बंद कर दिया गया था। Meta ने बाद में बोर्ड को पुष्टि की कि पोस्ट को नज़रअंदाज़ करने और उस पर AI लेबल लगाए बिना उसे प्लेटफ़ॉर्म पर बने रहने देने का उसका निर्णय उसकी पॉलिसी के अनुरूप था। केवल तब, जब बोर्ड ने पोस्ट पर की गई चार अपमानजनक टिप्पणियों के बारे में सवाल पूछे, Meta ने उन टिप्पणियों को हटाने की कार्रवाई की और पुष्टि की कि उन्होंने अमानवीय तुलना पर आधारित डराने-धमकाने और उत्पीड़न संबंधी निषेध का उल्लंघन किया था।
मुख्य निष्कर्ष
बोर्ड के बहुमत का मानना है कि वीडियो को हटा दिया जाना चाहिए, क्योंकि यह Meta की डराने-धमकाने और उत्पीड़न संबंधी पॉलिसी का उल्लंघन करता है। विशेष रूप से, इसमें एक निजी व्यक्ति के शारीरिक रूप-रंग के बारे में हीनता दर्शाने वाला कथन है, उसकी सहमति के बिना उसके शब्दों और कार्यों को झूठा रूप देने के लिए AI का उपयोग किया गया है, और यह एक ऐसे अभियान का हिस्सा था, जिसे निशाना बनाए गए व्यक्ति ने बड़े पैमाने पर उत्पीड़न के रूप में अनुभव किया।
बहुमत के अनुसार, Meta द्वारा “अवांछित हेरफेर की गई तस्वीरों” की दी गई परिभाषा, जो डराने-धमकाने और उत्पीड़न संबंधी निषेधों में से एक है, बहुत संकीर्ण है और इसमें किसी व्यक्ति के रूप-रंग को बदलने के अतिरिक्त, उसके कार्यों और शब्दों को झूठा रूप देना भी शामिल होना चाहिए।
बहुमत के अनुसार, बड़े पैमाने पर उत्पीड़न के अभियानों को भी Meta बहुत संकीर्ण रूप से परिभाषित करती है और कंपनी को पीड़ितों पर ऐसे अभियानों की रिपोर्ट करने का बोझ कम करने के लिए नए उपाय अपनाने चाहिए। इन उपायों में, नियमों का उल्लंघन करने वाले, अवांछित हेरफेर किए गए कंटेंट को कंपनी के मीडिया मिलान बैंक में जोड़ना शामिल है, ताकि समान और लगभग समान कंटेंट को हटाया जा सके, और AI-निर्मित या हेरफेर किए गए मीडिया के संकेतों का उपयोग, गंभीरता के एक संकेतक के रूप में करना शामिल है, ताकि रिव्यू के लिए रिपोर्ट को प्राथमिकता दी जा सके।
बोर्ड के एक अल्पमत ने पाया कि यह कंटेंट, Meta की डराने-धमकाने और उत्पीड़न की परिभाषा के अनुरूप नहीं था और कंटेंट को प्लेटफ़ॉर्म पर बनाए रखना, कंपनी की मानवाधिकार संबंधी जिम्मेदारियों के अनुरूप था।
ओवरसाइट बोर्ड का फ़ैसला
बोर्ड ने, कंटेंट को प्लेटफ़ॉर्म पर बनाए रखने के Meta के फ़ैसले को बदल दिया और पोस्ट को हटाने का आदेश दिया।
बोर्ड ने अपने पिछले सुझावों के महत्व पर ज़ोर दिया, जिनमें तीसरे पक्ष के खातों को, डराने-धमकाने और उत्पीड़न वाले कंटेंट की रिपोर्ट करने की अनुमति देने के लिए कहा गया था।
इसके अतिरिक्त, उसके सुझाव हैं कि Meta:
- “अवांछित हेरफेर की गई तस्वीरों” की सार्वजनिक परिभाषा को विस्तृत करे, ताकि इसमें किसी निजी व्यक्ति के ऐसे डीपफ़ेक भी शामिल हों, जिनमें उसे ऐसी बातें कहते या ऐसे कार्य करते हुए दिखाया गया हो, जो उसने वास्तव में नहीं कहे या नहीं किए।
- उल्लंघन करने वाली, “अवांछित हेरफेर की गई तस्वीरों” को हटाने के लिए, उन्हें मीडिया मिलान बैंकों में जोड़ा जाए।
- AI-निर्मित या हेरफेर किए गए मीडिया के संकेतों का उपयोग, गंभीरता के एक संकेतक के रूप में किया जाए, ताकि रिव्यू के लिए रिपोर्ट को प्राथमिकता दी जा सके।
अधिक जानकारी
इस केस के लिए पब्लिक कमेंट पढ़ने के लिए, यहाँ क्लिक करें।
