गैर-प्रसिद्ध व्यक्तियों को कामुकतापूर्ण डीपफ़ेक के ख़िलाफ़ अधिक सुरक्षा की आवश्यकता
23 जून 2026
ओवरसाइट बोर्ड ने Meta के उस निर्णय को बदल दिया है, जिसमें Instagram पर एक महिला का प्रतिरूपण करने वाले, एक कथित रूप से AI-जनित वीडियो को बने रहने दिया गया था, और Meta से आग्रह किया है कि वह कामुकतापूर्ण डीपफ़ेक का निशाना बनने वाले गैर-प्रसिद्ध व्यक्तियों के लिए सुरक्षा को मज़बूत करे।
यह महत्वपूर्ण क्यों है
बोर्ड का फ़ैसला और उसके सुझाव ऐसे समय में आए हैं, जब सरकारें, जैसे कि भारत, यूनाइटेड किंगडम और स्पेन में, AI-जनित कंटेंट के संबंध में प्लेटफ़ॉर्मों के लिए नए नियम बना रही हैं। यूरोपीय संघ (EU) ने ऐसे AI सिस्टम पर प्रतिबंध लगाने के लिए एक समझौता किया है, जो बिना सहमति के, यौन रूप से स्पष्ट और अंतरंग कंटेंट या बाल यौन शोषण कंटेंट जनरेट करते हैं, जैसे कि AI ‘नग्नीकरण’ ऐप। अन्य प्लेटफ़ॉर्म, जैसे कि X, भी AI चैटबॉट द्वारा बनाई गई यौन रूप से स्पष्ट छवियों को लेकर जांच का सामना कर रहे हैं।
यह स्पष्ट है कि AI टूल की व्यापकता, तेज़ी और परिष्कार के कारण, दुनिया भर में AI-जनित, कामुकतापूर्ण और बिना सहमति वाले कंटेंट का प्रसार बढ़ गया है। कामुकतापूर्ण डीपफे़क वीडियो के प्रसार के कारण, प्रतिष्ठा संबंधी और मनोवैज्ञानिक नुकसान होता है, जो महिलाओं और लड़कियों पर ज़्यादा असर डालता है, और यह सामाजिक और राजनीतिक जीवन में भागीदारी पर भी डरावना असर डालता है।
इस केस के बारे में
सितंबर 2025 में, Instagram के एक यूज़र ने एक महिला का कथित रूप से AI-जनित आठ सेकंड का एक वीडियो पोस्ट किया, जो अपनी चुस्त पोशाक को ठीक कर रही थी और अपने शरीर को हिला-डुला रही थी और कुछ फ़्रेम में उसका अंडरवियर दिखाई दे रहा था।
अगले दिन, Meta के उस ऑटोमेटेड सिस्टम ने इस पोस्ट की पहचान की, जो ऐसे कंटेंट का पता लगाता है, जो लोगों को नुकसान पहुंचा सकता है और जिसमें वायरल होने की उच्च संभावना होती है, लेकिन इसे मानवीय रिव्यू के लिए प्राथमिकता नहीं दी गई। कुछ दिनों बाद, दो यूज़र ने उस कंटेंट की शिकायत की, लेकिन वह प्लेटफ़ॉर्म पर बना रहा। इन यूज़र में से एक ने Meta से अपील की, लेकिन फिर भी उस पोस्ट को रिव्यू नहीं किया गया, और उसके बाद उस यूज़र ने बोर्ड से अपील की। अपील करने वाले यूज़र ने बोर्ड को बताया कि वीडियो AI-जनित था और इसमें उनकी एक मित्र (जिसने अपना खाता पहले ही बंद कर दिया था) का उसकी सहमति के बिना प्रतिरूपण किया गया था।
जब बोर्ड ने इस केस पर Meta का ध्यान आकर्षित किया, तो कंपनी के विषय विशेषज्ञों ने पोस्ट को रिव्यू किया और निष्कर्ष निकाला कि यह पोस्ट, कंपनी के कम्युनिटी स्टैंडर्ड के तहत हटाने योग्य नहीं थी, लेकिन पोस्ट को केवल वयस्कों को दिखने वाली कर दिया गया।
मुख्य निष्कर्ष
बोर्ड ने पाया कि यह पोस्ट, Meta की वयस्कों के यौन शोषण संबंधी पॉलिसी के अंतर्गत गैर-सहमतिपूर्ण अंतरंग तस्वीरों (NCII) को शेयर करने पर लगे प्रतिबंध का उल्लंघन करती है। ऐसा इसलिए है, क्योंकि यह पोस्ट, गैर-सहमतिपूर्ण अंतरंग तस्वीर होने के, पॉलिसी के सभी तीन मानदंडों को पूरा करती है – यह स्पष्ट रूप से किसी निजी परिवेश में बनाया गया गैर-व्यावसायिक कंटेंट लगती है; दिखाई गई महिला “लगभग नग्न” स्थिति में है; और सहमति का अभाव है।
Meta का कहना था कि जब इस कंटेंट को फ़्लैग किया गया था, तब कंपनी के पास ऐसा कोई संकेत नहीं था कि वीडियो में दिखाई गई महिला, “एक वास्तविक महिला” है, क्योंकि उस महिला ने कंटेंट की शिकायत खुद नहीं की थी। सहमति के अभाव का निर्धारण करने के लिए, Meta जिन संकेतों का उपयोग करता है, उनमें प्रदर्शित व्यक्ति द्वारा की गई शिकायत के अलावा ऐसे कैप्शन, कमेंट या शीर्षक शामिल हैं, जो बदला लेने के संदर्भ का संकेत देते हों; या कानून एन्फ़ोर्समेंट, मीडिया या गैर-सहमतिपूर्ण अंतरंग तस्वीरों के पीड़ितों के प्रतिनिधियों जैसे स्वतंत्र स्रोतों से प्राप्त शिकायतें शामिल हैं।
बोर्ड ने पाया कि AI-जनित प्रतिरूपण को स्वाभाविक रूप से गैर-सहमतिपूर्ण माना जाना चाहिए और इसे उन संकेतों की सूची में जोड़ा जाना चाहिए, जिनका उपयोग कंपनी, सहमति के अभाव को स्थापित करने के लिए करती है।
इस प्रकार सहमति के अभाव के संकेतों का विस्तार करना, विशेष रूप से उन गैर-प्रसिद्ध व्यक्तियों के लिए लाभकारी होगा, जो गैर-सहमतिपूर्ण अंतरंग तस्वीरों का निशाना बनते हैं, क्योंकि इससे पीड़ितों पर, दुर्व्यवहार की शिकायत खुद करने का बोझ कम होगा। केस के दौरान बोर्ड ने जिन विशेषज्ञों से परामर्श किया, उन्होंने कहा कि पीड़ितों को सबसे अधिक फ़ायदा, कंटेंट को तेज़ी से हटाने और कंटेंट को फ़्लैग करने के ऐसे तरीकों से मिलता है, जो केवल खुद के द्वारा शिकायत करने पर निर्भर न हों।
इस बोझ को और कम करने के लिए, बोर्ड का मानना है कि Meta को चाहिए कि वह, निशाना बनने वाले व्यक्तियों के मित्रों और परिजनों के सत्यापित खातों को यह अनुमति दे कि वे, पॉलिसी का उल्लंघन करने वाले कंटेंट की शिकायत उन व्यक्तियों की तरफ से कर सकें।
Meta को अपने प्लेटफ़ॉर्मों पर गैर-सहमतिपूर्ण अंतरंग तस्वीरों की शिकायत और अपील प्रोसेस में भी वैश्विक स्तर पर सुधार करना चाहिए। Meta और बड़े भाषा मॉडल विकसित करने वालों को, सिस्टम डिज़ाइन में सुरक्षा उपायों को समाहित करना चाहिए और बड़े पैमाने पर कंटेंट क्रेडेंशियल लागू करने चाहिए।
ओवरसाइट बोर्ड का फ़ैसला
बोर्ड ने, कंटेंट को बने रहने देने के Meta के निर्णय को बदल दिया और पोस्ट को हटाने का आदेश दिया।
बोर्ड का सुझाव है कि Meta:
- वयस्कों के यौन शोषण संबंधी पॉलिसी में, सहमति के अभाव के लिए एक नया संकेत जोड़े: यह संदर्भ कि कंटेंट, वास्तविक व्यक्तियों का AI-जनित कामुकतापूर्ण प्रतिरूपण है।
- यूज़र को “संबद्ध खाते,” जैसे कि जैसे भरोसेमंद मित्र, परिवार के सदस्य या सहयोगी, नामित करने की अनुमति दे, जो गैर-सहमतिपूर्ण अंतरंग तस्वीरों, जिनमें प्रतिरूपण भी शामिल हैं, से संबंधित, कम्युनिटी स्टैंडर्ड के संभावित उल्लंघनों की शिकायत, यूज़र की तरफ से कर सकें।
- AI-जनित कामुकतापूर्ण प्रतिरूपण को, कंटेंट की शिकायत करने के और अपील करने के मानक फ़ॉर्मों में एक अलग श्रेणी के रूप में शामिल करे, जो “उत्पीड़न” या “नग्नता” से अलग हो। शिकायत करने के फ़ॉर्मों को वैश्विक स्तर पर उपलब्ध कराया जाना चाहिए।
बोर्ड अपने पूर्व के फ़ैसलों में दिए गए निम्नलिखित सुझावों को भी दोहराता है:
- “अपमानजनक कामुकतापूर्ण फ़ोटोशॉप” पर प्रतिबंध में प्रयुक्त शब्द “अपमानजनक” को “गैर-सहमतिपूर्ण” से बदला जाए और “फ़ोटोशॉप” शब्द को हेरफेर किए गए मीडिया के लिए अधिक सामान्य शब्द से बदला जाए।
- कंटेंट क्रेडेंशियल (जैसा कि कंटेंट स्रोत और प्रामाणिकता के लिए गठबंधन (C2PA) द्वारा निर्धारित किया गया है) को बड़े पैमाने पर लागू किया जाए और यह सुनिश्चित किया जाए कि जब भी स्रोत-संबंधी विवरण उपलब्ध हों, वे यूज़र के लिए स्पष्ट, लगातार दिखने वाले और सुलभ हों।
अधिक जानकारी
इस केस के लिए पब्लिक कमेंट पढ़ने के लिए, यहाँ क्लिक करें।
