Meta को नफ़रत फैलाने वाली भाषा वाले नुकसानदायक डीपफ़ेक के विरुद्ध और अधिक कदम उठाने चाहिए
17 सितम्बर 2026
ओवरसाइट बोर्ड ने पाया है कि यूनाइटेड किंगडम की एक स्थानीय राजनेता का डीपफ़ेक वीडियो, Facebook से हटा दिया जाना चाहिए, क्योंकि इसमें शरणार्थियों के विरुद्ध नफ़रत फैलाने वाली भाषा है, और उसने इस कंटेंट को प्लेटफ़ॉर्म पर बने रहने देने के Meta के फ़ैसले को बदल दिया है। बोर्ड ने पाया कि ऐसे कंटेंट से प्रभावी ढंग से निपटने के लिए Meta को बहुत ज़्यादा कोशिशें करने की ज़रूरत है, जिसमें नुकसानदायक डीपफ़ेक शेयर करने पर दंड बढ़ाना भी शामिल है, ताकि यूज़र को संभावित धोखे से बचाया जा सके।
यह महत्वपूर्ण क्यों है
यह केस उन विशाल चुनौतियों को सामने लाता है, जिनका सामना समाज कर रहे हैं और जिनसे सोशल मीडिया कंपनियों को निपटना चाहिए – महत्वपूर्ण मुद्दों पर निर्वाचित अधिकारियों के विचारों को गलत तरीके से प्रस्तुत करने और जनता को गुमराह करने वाले डीपफ़ेक की बढ़ती वास्तविकता और ऐसी गलत जानकारी, जो आप्रवासियों सहित अल्पसंख्यकों के विरुद्ध नफ़रत को बढ़ावा देती है। महिला राजनेताओं, पत्रकारों और कार्यकर्ताओं को डीपफ़ेक के माध्यम से उनके विचारों को गलत तरीके से प्रस्तुत करके अनुपातहीन रूप से अधिक निशाना बनाया जाता है, जिसमें उत्पीड़न अभियानों के हिस्से के रूप में किए जाने वाले हमले भी शामिल हैं, और स्थानीय राजनेताओं और कार्यकर्ताओं जैसे कम प्रमुख सार्वजनिक व्यक्तियों के पास अक्सर प्रभावी ढंग से प्रतिक्रिया देने के लिए आवश्यक संसाधनों की कमी होती है। डीपफ़ेक का प्रसार सभी सार्वजनिक सूचनाओं पर विश्वास को कमज़ोर करता है और राजनीतिक भाषण के रूप में क्या संरक्षित है और Meta के गलत जानकारी, नफ़रत फैलाने वाली भाषा या डराने-धमकाने और उत्पीड़न संबंधी नियमों का उल्लंघन कौन करता है, उनके बीच की सीमा को चुनौती देता है।
इस केस के बारे में
नवंबर 2025 में, Facebook के एक यूज़र ने स्कॉटलैंड में लेबर पार्टी की एक काउंसलर के रूप-साम्य वाला एक छोटा वीडियो पोस्ट किया। इस वीडियो में, जो AI-जनित प्रतीत होता है, उन्हें यह कहते हुए दिखाया गया है: “शरणार्थियों का यहां स्वागत है, भले ही वे हमारी महिलाओं के साथ बलात्कार करें, क्योंकि श्वेत लोग भी ऐसा करते हैं।”
यह चित्रण वास्तविक लगता है, हालांकि ध्यान से देखने पर यह नकली लगता है: ऑडियो, उसके चेहरे की गतिविधियों के साथ पूरी तरह मेल नहीं खाता, जिससे संकेत मिलता है कि यह एक जालसाजी है। यह वीडियो एक ऐसे एल्बम का हिस्सा था, जिसमें दक्षिणपंथी उग्रवाद के ख़िलाफ़ विरोध प्रदर्शन में शामिल कई नामित महिलाओं की फ़ोटो थी, जिसमें उक्त काउंसलर भी शामिल थीं। इस एल्बम और वीडियो, दोनों को मिलाकर 5,000 से अधिक व्यू, 50 से अधिक कमेंट, 20 से अधिक प्रतिक्रियाएं मिलीं और इसे 10 से अधिक बार शेयर किया गया।
दो व्यक्तियों ने, जिनमें दिखाई गई राजनेता भी शामिल थीं, डराने-धमकाने और उत्पीड़न संबंधी पॉलिसी का उल्लंघन करने के कारण इस वीडियो की शिकायत की, लेकिन Meta के सिस्टम ने इस पोस्ट को मानवीय रिव्यू के लिए प्राथमिकता नहीं दी और यह Facebook पर बना रहा। दोनों यूज़र ने Meta में अपील की, लेकिन पोस्ट को प्लेटफ़ॉर्म पर बनाए रखा गया और किसी मानव द्वारा इसे रिव्यू नहीं किया गया। इसके बाद, एक यूज़र, संबंधित राजनेता नहीं, ने बोर्ड में अपील की। जब बोर्ड ने Meta का ध्यान इस केस पर आकर्षित किया, तो कंपनी ने निष्कर्ष निकाला कि वीडियो उसके कम्युनिटी स्टैंडर्ड का उल्लंघन नहीं करता है और उस पर AI लेबल लगाना भी ज़रूरी नहीं है।
मुख्य निष्कर्ष
बोर्ड ने इस केस का मूल्यांकन, Meta की तीन पॉलिसी – नफ़रत फैलाने वाले आचरण, गलत जानकारी और डराना-धमकाना और उत्पीड़न – के संदर्भ में किया। बोर्ड ने पाया कि Meta को अपनी नफ़रत फैलाने वाले आचरण संबंधी पॉलिसी के तहत, AI-निर्मित वीडियो को हटा देना चाहिए था।
बोर्ड के बहुमत ने पाया कि वीडियो ने Meta के नफ़रत फैलाने वाले आचरण संबंधी नियमों का उल्लंघन विशेष रूप से इसलिए किया, क्योंकि इसमें शरणार्थियों के कुछ सदस्यों, जैसा कि Meta ने दावा किया था, के विरुद्ध नहीं, बल्कि पूरे समूह के रूप में शरणार्थियों पर गंभीर आपराधिकता और यौन शोषणकारी व्यवहार का आरोप लगाया गया है।
केस पर फ़ैसला देते समय, बोर्ड ने यह भी विचार किया कि यदि वीडियो ने नफ़रत फैलाने वाले आचरण संबंधी नियमों का उल्लंघन नहीं किया होता, तो क्या वह गलत जानकारी संबंधी पॉलिसी के तहत हटाए जाने की सीमा को पूरा करता। बोर्ड के बहुमत ने पाया कि गलत जानकारी के आधार पर इसे हटाना उचित नहीं होता, लेकिन इस पर “उच्च जोखिम वाला AI” लेबल लगाया जाना चाहिए था, और अपने विश्लेषण में उसने निष्कर्ष निकाला कि डीपफ़ेक पर AI लेबल लगाने संबंधी Meta के नियम अपर्याप्त हैं।
बहुमत ने पाया कि Meta को डीपफ़ेक के संबंध में अधिक मजबूत पॉलिसी की आवश्यकता है, जिसमें उन परिस्थितियों का विस्तार करना शामिल है, जिनमें “उच्च जोखिम” वाले लेबल लगाए जा सकते हैं, भ्रामक AI कंटेंट के प्रसार को कम करने के लिए अधिक उपाय करना; इसे बार-बार शेयर करने वाले खातों पर दंड बढ़ाना; और AI लेबल कब लगाए जाते हैं, इससे संबंधित डेटा पर अधिक पारदर्शिता प्रदान करना शामिल है।
बोर्ड के एक अल्पमत की इस बात से असहमति है कि वीडियो को नफ़रत फैलाने वाली भाषा माना जाना चाहिए, क्योंकि यह सभी या अधिकांश शरणार्थियों के बजाय राजनेता के कथित विचारों को निशाना बनाता है; और चूंकि वीडियो राजनीतिक भाषण है, इसलिए इसे हटाने की सीमा अधिक ऊंची होनी चाहिए।
गलत जानकारी संबंधी नियमों के तहत बोर्ड के निष्कर्षों पर भी अल्पमत विचार थे। एक अल्पमत ने कहा कि “उच्च जोखिम” वाला लेबल बहुत अधिक प्रतिबंधात्मक है और इसके बजाय कम सख्त “AI जानकारी” लेबल लगाया जाना चाहिए था। एक अन्य, अलग अल्पमत ने कहा कि नुकसान की गंभीरता, इस तथ्य के साथ कि Meta व्यवहार में बहुत कम AI लेबल लगाता है, कंटेंट को हटाने को उचित ठहराती।
बोर्ड ने पाया कि डराने-धमकाने और उत्पीड़न संबंधी नियमों के तहत वीडियो को हटाना आवश्यक नहीं होगा, क्योंकि निर्वाचित अधिकारी एक सार्वजनिक व्यक्ति है और इसलिए इस पॉलिसी के तहत निजी व्यक्तियों की तुलना में उसे कम सुरक्षा प्राप्त है।
ओवरसाइट बोर्ड का फ़ैसला
बोर्ड ने, कंटेंट को प्लेटफ़ॉर्म पर बनाए रखने के Meta के फ़ैसले को बदल दिया और नफ़रत फैलाने वाले आचरण संबंधी कम्युनिटी स्टैंडर्ड के तहत इसे हटाने की ज़रूरत बताई। इस केस पर विचार करते हुए, बोर्ड ने गलत जानकारी संबंधी कम्युनिटी स्टैंडर्ड के तहत लेबल लगाने की पॉलिसी में भी कमियाँ पाई हैं और उस पॉलिसी के संबंध में निम्नलिखित सुझाव दिए हैं।
बोर्ड का सुझाव है कि Meta:
- हेरफेर किए गए मीडिया संबंधी पॉलिसी में बदलाव किया जाए, ताकि “उच्च जोखिम” वाले लेबल लगाने की सीमा को कम किया जा सके और यह सुनिश्चित किया जाए कि यह केवल संकट या चुनावी निष्पक्षता से संबंधित उपाय न हो।
- AI-निर्मित या “उच्च जोखिम वाला AI” के तौर पर लेबल किए गए कंटेंट को देखने वाले यूज़र के लिए रुकावटें बढ़ाई जाएं, जैसे कि लेबल के बजाय मध्यवर्ती (एक ऐसी स्क्रीन, कंटेंट देखने के लिए जिस पर क्लिक करना ज़रूरी हो) का इस्तेमाल करना।
- “उच्च जोखिम” के रूप में लेबल किए गए सभी कंटेंट का विमुद्रीकरण किया जाए, उसकी पहुंच कम की जाए या उसे सुझावों से हटा दिया जाए, और उन खातों पर क्रमशः बढ़ते हुए दंड लगाए जाएं जो “उच्च जोखिम” के रूप में लेबल किए गए कंटेंट को बार-बार शेयर करते हैं।
- यह सुनिश्चित किया जाए कि मतदान या जनगणना में हस्तक्षेप से संबंधित नियमों और उदाहरणों को इस प्रकार लिखा जाए कि वे वैश्विक स्तर पर लागू हों और केवल अमेरिका के संदर्भ तक सीमित न रहें।
- अपने पारदर्शिता केंद्र में हर वर्ष सार्वजनिक रूप से डेटा जारी किया जाए कि कंटेंट पर “उच्च जोखिम” और “उच्च जोखिम वाला AI” लेबल कितनी बार लगाए गए, जिसमें यह संख्या भी शामिल हो कि ये लेबल राजनेताओं की ओर से या उनके बारे में कंटेंट पर कितनी बार लगाए गए।
- यह सुनिश्चित किया जाए कि गलत जानकारी संबंधी पॉलिसी के तहत लगाए जाने वाले सभी लेबल (“AI जानकारी”, “उच्च जोखिम” या “उच्च जोखिम वाला AI”) Meta की कंटेंट लाइब्रेरी में मौजूद कंटेंट पर दिखाई दे सकें और जिन कंटेंट पर ये लेबल लगाए गए हैं, उन्हें एक फ़िल्टर के माध्यम से खोजा जा सके।
बोर्ड ने इज़राइल-ईरान संघर्ष के AI-निर्मित वीडियो संबंधी फ़ैसले में दिए गए अपने पिछले सुझावों के महत्व को भी दोहराया है, जिसमें Meta से, डिजिटल रूप से निर्मित या हेरफेर किए गए कंटेंट के बारे में स्वयं खुलासा न करने पर लगाए जाने वाले दंड की स्पष्ट व्याख्या प्रकाशित करने का आह्वान किया गया था। उसे दंड के लिए स्पष्ट मानदंड उपलब्ध कराने चाहिए और यह सूचीबद्ध करना चाहिए कि इसके परिणामस्वरूप खाते की कौन-कौन सी सुविधाएं सीमित की जाती हैं और कितने समय के लिए।
अधिक जानकारी
इस केस के लिए पब्लिक कमेंट पढ़ने के लिए, यहाँ क्लिक करें।
