यूके की राजनेता के इमिग्रेशन से जुड़े विचारों को गलत तरीके से दिखाने वाला AI वीडियो

सारांश

ओवरसाइट बोर्ड ने पाया है कि यूके के एक स्थानीय नेता का डीपफ़ेक वीडियो Facebook से हटा दिया जाना चाहिए क्योंकि इसमें शरणार्थियों के खिलाफ़ नफ़रत फैलाने वाली भाषा है. बोर्ड ने इस केस में वीडियो को बनाए रखने के Meta के फ़ैसले को पलट दिया है. बोर्ड ने यह भी पाया कि राजनेताओं के डीपफ़ेक वीडियो से निपटने के लिए Meta को अन्य उपाय करने की भी ज़रूरत है. इन उपायों में नुकसानदेह डीपफ़ेक शेयर करने पर पेनल्टी बढ़ाना भी शामिल है, ताकि संभावित धोखे से यूज़र्स की सुरक्षा की जा सके.

यह क्यों ज़रूरी है

यह केस समाज की उन गंभीर चुनौतियों को सामने लाता है जिनका समाधान सोशल मीडिया कंपनियों को करना ही होगा. जैसे निर्वाचित अधिकारियों को डीपफ़ेक में असली जैसा दिखाते हुए महत्वपूर्ण मुद्दों पर उनके विचारों को गलत ढंग से पेश करना और लोगों को गुमराह करना और वह गलत जानकारी जो प्रवासियों सहित अल्पसंख्यकों के विरुद्ध नफ़रत को बढ़ावा देती है. महिला राजनेताओं, पत्रकारों और कार्यकर्ताओं के विचारों को गलत ढंग से पेश करके उन्हें डीपफ़ेक के ज़रिए बहुत ज़्यादा टार्गेट किया जाता है. उनका उत्पीड़न करने वाली मुहिम के तहत भी ऐसा किया जाता है. स्थानीय राजनेताओं और कार्यकर्ताओं जैसी कम मशहूर सार्वजनिक हस्तियों के पास अक्सर इसका असरदार तरीके से जवाब देने के लिए ज़रूरी संसाधन नहीं होते. डीपफ़ेक के प्रसार से सार्वजनिक रूप से उपलब्ध जानकारी पर लोगों का भरोसा कमज़ोर होता है. इससे यह तय करने में परेशानी आती है कि कौन-सी राजनैतिक अभिव्यक्ति सुरक्षित है और कौन-सी Meta के गलत जानकारी, नफ़रत फैलाने वाली भाषा या धमकाने और उत्पीड़न संबंधी नियमों का उल्लंघन करती है.

केस की जानकारी

नवंबर 2025 में, Facebook के एक यूज़र ने स्कॉटलैंड में लेबर पार्टी की एक काउंसलर जैसी दिखने वाली महिला का एक शॉर्ट वीडियो पोस्ट किया. वीडियो को AI की मदद से बनाया गया लगता था और उसमें काउंसलर को यह कहते हुए दिखाया गया था: “हमारे यहाँ शरणार्थियों का स्वागत है, भले ही वे हमारी महिलाओं का बलात्कार करें, क्योंकि गोरे लोग भी तो ऐसा करते हैं.”

वीडियो देखने में असली लगता है, लेकिन पास से देखने पर नकली मालूम पड़ता है: ऑडियो और उनके चेहरे के हाव-भाव पूरी तरह मेल नहीं खाते, जिससे साफ़ होता है कि यह वीडियो नकली है. यह वीडियो उस एल्बम का हिस्सा था जिसमें काउंसलर सहित दक्षिणपंथी-विरोधी प्रदर्शन में शामिल कई महिलाओं की फ़ोटो थीं. एल्बम और वीडियो को कुल मिलाकर 5,000 से ज़्यादा बार देखा गया, उन पर 50 से ज़्यादा कमेंट आए, 20 से ज़्यादा रिएक्शन आए और उन्हें 10 से ज़्यादा बार शेयर किया गया.

वीडियो में दिखाए गए राजनेता सहित दो व्यक्तियों ने धमकाने और उत्पीड़न से जुड़ी पॉलिसी के उल्लंघन के कारण वीडियो की रिपोर्ट की, लेकिन Meta के सिस्टम ने ह्यूमन रिव्यू के लिए इस पोस्ट को प्राथमिकता नहीं दी और यह Facebook पर बना रहा. दोनों यूज़र्स ने Meta को अपील की, लेकिन पोस्ट को बनाए रखा गया और किसी इंसान ने इसका रिव्यू नहीं किया. उनमें से एक यूज़र (राजनेता नहीं) ने बोर्ड के समक्ष इसकी अपील की. जब बोर्ड ने Meta का ध्यान इस केस पर आकर्षित किया, तो कंपनी इस निष्कर्ष पर पहुँची कि वीडियो से उसके कम्युनिटी स्टैंडर्ड का उल्लंघन नहीं होता और इस पर AI लेबल नहीं लगाया गया.

मुख्य निष्कर्ष

बोर्ड ने Meta की तीन पॉलिसी के संदर्भ में इस केस का मूल्यांकन किया - नफ़रतपूर्ण आचरण, गलत जानकारी और धमकाना और उत्पीड़न. बोर्ड ने पाया कि Meta को अपनी नफ़रतपूर्ण आचरण पॉलिसी के तहत इस AI-जेनरेटेड वीडियो को हटा देना चाहिए था.

बोर्ड के ज़्यादातर सदस्यों का मानना ​​है कि यह वीडियो, Meta के नफ़रतपूर्ण आचरण से जुड़े नियमों का उल्लंघन करता है. खास तौर पर ऐसा इसलिए है क्योंकि इसमें शरणार्थियों के पूरे समूह पर गंभीर आपराधिक गतिविधियों और यौन शोषण जैसे व्यवहार का आरोप लगाया गया है, न कि सिर्फ़ कुछ शरणार्थियों पर, जैसा कि Meta ने दावा किया था.

इस केस में फ़ैसला देते समय, बोर्ड ने इस बात पर भी विचार किया कि अगर वीडियो नफ़रतपूर्ण आचरण पॉलिसी का उल्लंघन न करता, तो क्या वह गलत जानकारी से जुड़ी पॉलिसी के तहत हटाए जाने के लिए योग्य होता. बोर्ड के ज़्यादातर सदस्यों का मानना ​​है कि गलत जानकारी की वजह से इसे हटाना सही नहीं होता, बल्कि इसे "अत्यधिक जोखिम वाला AI" लेबल दिया जाना चाहिए था. साथ ही, अपने विश्लेषण में बोर्ड इस निष्कर्ष पर पहुँचा कि डीपफ़ेक के AI लेबल के बारे में Meta के नियम अपर्याप्त हैं.

ज़्यादातर सदस्यों ने यह भी कहा कि Meta को डीपफ़ेक पर ज़्यादा कठोर नियम बनाने चाहिए. इनमें “अत्यधिक जोखिम वाला” लेबल लगाने के दायरे को बढ़ाना, कपटपूर्ण AI कंटेंट को फैलने से रोकने के कदम उठाना, बार-बार इसे शेयर करने वाले लोगों पर कठोर कार्रवाई करना और AI लेबल लगाते समय डेटा में ज़्यादा पारदर्शिता रखना शामिल है.

बोर्ड के कुछ सदस्य इस बात से सहमत नहीं हैं कि वीडियो को नफ़रत फैलाने वाली भाषा माना जाना चाहिए, क्योंकि यह सभी या ज़्यादातर शरणार्थियों के बजाय किसी राजनेता के कथित विचारों पर केंद्रित है. यह वीडियो एक राजनीतिक भाषण है, इसलिए इसे हटाने की सीमा ज़्यादा ऊँची होनी चाहिए.

गलत जानकारी से जुड़े नियमों के तहत बोर्ड के निष्कर्षों पर कुछ सदस्यों के अलग विचार भी थे. ऐसे एक सदस्य ने कहा कि "अत्यधिक जोखिम वाला" टैग बहुत कठोर है और इसकी जगह कम गंभीर "AI जानकारी" टैग लागू किया जाना चाहिए था. एक अन्य सदस्य ने कहा कि नुकसान की गंभीरता और इस बात को देखते हुए कि Meta वास्तव में ज़्यादा AI लेबल नहीं लगाता, इसे हटाना ही सही होगा.

बोर्ड ने पाया कि धमकाने और उत्पीड़न के नियमों के तहत वीडियो को हटाने की ज़रूरत नहीं है क्योंकि निर्वाचित अधिकारी एक सार्वजनिक हस्ती हैं और इसलिए इस पॉलिसी के तहत उन्हें आम लोगों की तुलना में कम सुरक्षा मिलती है.

ओवरसाइट बोर्ड का फ़ैसला

बोर्ड ने कंटेंट को बनाए रखने के Meta के फ़ैसले को बदलते हुए उस पोस्ट को नफ़रतपूर्ण आचरण से जुड़े कम्युनिटी स्टैंडर्ड के तहत हटाने के लिए कहा. इस केस पर विचार करते हुए, बोर्ड को गलत जानकारी संबंधी कम्युनिटी स्टैंडर्ड के तहत लेबल लगाने की पॉलिसी में कमियाँ भी मिली हैं और उसने इस पॉलिसी के संबंध में नीचे बताए गए सुझाव दिए.

बोर्ड ने सुझाव दिया है कि Meta:

• हेरफेर किए गए मीडिया से जुड़ी अपनी पॉलिसी में बदलाव करके “अत्यधिक जोखिम वाला” लेबल लगाने की अपनी शर्तों को कम कठोर बनाए. साथ ही यह सुनिश्चित करे कि इसका इस्तेमाल सिर्फ़ संकट या चुनाव की निष्पक्षता के उपाय के रूप में न किया जाए.
• AI-जेनरेटेड या "अत्यधिक जोखिम वाला AI" के तौर पर लेबल किए गए कंटेंट को देखने वाले यूज़र्स के लिए रुकावटें बढ़ाए, जैसे कि लेबल के बजाय इंटरस्टिशियल (एक ऐसी स्क्रीन जिस पर क्लिक करने के बाद ही कंटेंट देखा जा सके) का इस्तेमाल करना.
• “अत्यधिक जोखिम वाला” लेबल वाले सभी कंटेंट पर डिमॉनेटाइज़ करने, डिमोट करने या सुझावों से हटाने की कार्रवाई करे. अगर “अत्यधिक जोखिम वाला” लेबल वाले कंटेंट को बार-बार शेयर किया जाता है, तो अकाउंट पर पेनल्टी को धीरे-धीरे बढ़ाया जाए.
• यह सुनिश्चित करे कि वोटिंग या जनगणना में रुकावट से जुड़े नियम और उदाहरण, पूरी दुनिया के लिए प्रासंगिक हों, सिर्फ़ अमेरिका के लिए नहीं.
• अपने ट्रांसपेरेंसी सेंटर में वार्षिक डेटा सार्वजनिक करे और बताए कि कितनी बार कंटेंट पर “अत्यधिक जोखिम वाला” और “अत्यधिक जोखिम वाला AI” लेबल लगाए गए हैं, जिसमें राजनेताओं के कंटेंट या उनसे जुड़े कंटेंट पर लगाए गए लेबल की संख्या भी शामिल है.
• यह सुनिश्चित करे कि गलत जानकारी से जुड़ी पॉलिसी के अंतर्गत आने वाले सभी लेबल ("AI जानकारी," “अत्यधिक जोखिम वाला” या "अत्यधिक जोखिम वाला AI"), Meta कंटेंट लाइब्रेरी में मौजूद कंटेंट पर दिखाई दें और जिस कंटेंट पर ये लेबल लगाए गए हैं, उन्हें फ़िल्टर के ज़रिए सर्च किया जा सके.

बोर्ड ने इज़राइल-ईरान संघर्ष में AI-जेनरेटेड वीडियो के फ़ैसले में दिए गए अपने पुराने सुझाव के महत्व को दोहराया और Meta से कहा कि वह डिजिटल रूप से बनाए या बदले गए कंटेंट की जानकारी खुद न देने पर लगने वाली पेनल्टी की स्पष्ट व्याख्या प्रकाशित करे. इसमें पेनल्टी तय करने के तरीके भी बताए जाने चाहिए और यह भी स्पष्ट होना चाहिए कि इसकी वजह से अकाउंट के कौन-कौनसे फ़ीचर्स सीमित किए जाएँगे और कितने समय के लिए.

केस का पूरा फ़ैसला

1. केस की जानकारी और बैकग्राउंड

नवंबर 2025 में, Facebook के एक यूज़र ने स्कॉटलैंड में लेबर पार्टी की एक काउंसलर जैसी दिखने वाली महिला का एक शॉर्ट वीडियो पोस्ट किया. वीडियो को AI की मदद से बनाया गया लगता था और उसमें काउंसलर को यह कहते हुए दिखाया गया था: “हमारे यहाँ शरणार्थियों का स्वागत है, भले ही वे हमारी महिलाओं का बलात्कार करें, क्योंकि गोरे लोग भी तो ऐसा करते हैं.” वीडियो देखने में असली लगता है, लेकिन पास से देखने पर नकली मालूम पड़ता है: ऑडियो और उनके चेहरे के हाव-भाव पूरी तरह मेल नहीं खाते, जिससे साफ़ होता है कि यह वीडियो नकली है. यह वीडियो उस एल्बम का हिस्सा था (पूरा एल्बम रिव्यू का विषय नहीं था) जिसमें काउंसलर सहित दक्षिणपंथी-विरोधी प्रदर्शन में शामिल कई महिलाओं की फ़ोटो थीं. एल्बम में एक और विरोध प्रदर्शन का वीडियो भी था, जिसका इस मामले से कोई लेना-देना नहीं था. यह वीडियो AI-जेनरेटेड लग रहा था, लेकिन इसमें काउंसलर का उल्लेख नहीं था. एल्बम के कैप्शन में बताया गया है कि काउंसलर ने अपने ही शहर में शरणार्थियों के रहने की जगह को बंद करने के खिलाफ़ अभियान चलाया था.

एल्बम और वीडियो को कुल मिलाकर 5,000 से ज़्यादा बार देखा गया, उन पर 50 से ज़्यादा कमेंट आए, 20 से ज़्यादा रिएक्शन आए और उन्हें 10 से ज़्यादा बार शेयर किया गया. एक कमेंट में वीडियो की सच्चाई पर सवाल खड़ा किया गया और इसे अपलोड करने पर यूज़र की आलोचना की गई. एक अन्य कमेंट में कहा गया था कि दिखाई दे रही नेता अपना बलात्कार करवाना चाहती है. इस कमेंट को Meta ने पोस्ट किए जाने वाले दिन ही हटा दिया था.

वीडियो में दिखाए गए राजनेता सहित दो व्यक्तियों ने धमकाने और उत्पीड़न से जुड़ी पॉलिसी के उल्लंघन के कारण काउंसलर के वीडियो की रिपोर्ट की, लेकिन Meta के सिस्टम ने ह्यूमन रिव्यू के लिए इस पोस्ट को प्राथमिकता नहीं दी और यह Facebook पर बना रहा. दोनों यूज़र्स ने Meta को अपील की, लेकिन फिर भी पोस्ट को बनाए रखा गया और किसी इंसान ने इसका रिव्यू नहीं किया. फिर एक यूज़र ने (काउंसलर नहीं) बोर्ड को अपील की. जब बोर्ड ने Meta का ध्यान इस केस पर आकर्षित किया, तो कंपनी इस निष्कर्ष पर पहुँची कि वीडियो से उसके कम्युनिटी स्टैंडर्ड का उल्लंघन नहीं होता और इस पर AI लेबल नहीं लगाया गया.

यह केस पूरी दुनिया में सोशल मीडिया कंपनियों के सामने मौजूद सिस्टम से जुड़ी दो चुनौतियों को दर्शाता है: राजनेताओं का ज़्यादा व्यापक, असली जैसा और कपटपूर्ण कृत्रिम चित्रण, जिन्हें कभी-कभी "डीपफ़ेक" कहा जाता है और आप्रवासियों समेत अल्पसंख्यकों के विरुद्ध नफ़रत भड़काने वाली भ्रामक जानकारी. बोर्ड ने यूके के दंगों का समर्थन करने वाली पोस्ट और यूरोपियन यूनियन की आव्रजन पॉलिसी और अप्रवासियों की आलोचना से जुड़े फ़ैसलों में AI-जेनरेटेड गलत जानकारी और नफ़रत फैलाने वाली भाषा के बीच संबंधों पर बात की. बोर्ड ने इराकी कुर्दिस्तान में कथित तौर पर चुनावों में धाँधली करने का ऑडियो कॉल वाले फ़ैसले में राजनेताओं के कृत्रिम ऑडियो और राष्ट्रपति बाइडेन का छेड़छाड़ किया गया वीडियो फ़ैसले में हेरफेर किए गए वीडियो के बारे में भी बात की.

इस केस के कंटेंट को स्थानीय चुनावों के कई महीने पहले पोस्ट किया गया था. हालाँकि काउंसलर की सीट के लिए मई 2027 तक दोबारा चुनाव नहीं होने थे, लेकिन उनकी पार्टी देश भर में ऐसे चुनावों में शामिल थी जहाँ इमिग्रेशन और शरण चाहने वाले लोगों के लिए आवास एक महत्वपूर्ण मुद्दा था. 2025 में, यूनाइटेड किंगडम में शरण चाहने वाले लोगों को होटलों में ठहराने के खिलाफ़ विरोध प्रदर्शन हुए. ये विरोध प्रदर्शन उस घटना के बाद हुए जिसमें दक्षिण-पूर्वी इलाके एसेक्स में शरण चाहने वाले एक व्यक्ति ने एक महिला और 14 साल की लड़की पर यौन हमला किया. 2026 में स्कॉटलैंड सहित कई जगहों पर विरोध प्रदर्शन जारी रहे. इनमें यह दावा किया गया कि शरण चाहने वाले लोग, महिलाओं की सुरक्षा के लिए खतरा हैं. इसे कुछ लोगों द्वारा नस्लवादी दुष्प्रचार के रूप में देखा गया, जिसमें प्रवासी विरोधी नफ़रत को बढ़ावा देने के लिए महिलाओं के खिलाफ़ हिंसा को हथियार बनाया जा रहा था.

2. यूज़र सबमिशन

बोर्ड से की गई अपील में, कंटेंट की रिपोर्ट करने वाले यूज़र ने आरोप लगाया कि वीडियो AI-जेनरेटेड था, इसमें राजनेता के विचारों को गलत तरीके से पेश किया गया था और इससे महिला की सुरक्षा को खतरा हो सकता था. उनके अनुसार, लोगों को अपनी राय ज़ाहिर करने की आज़ादी होनी चाहिए, लेकिन इसमें नेताओं के ऐसे फ़ेक वीडियो बनाना शामिल नहीं होना चाहिए जिनमें उन्हें ऐसे भड़काऊ बयान देते हुए दिखाया गया हो, जो उन्होंने दिए ही ना हों.

बोर्ड को दिए गए बयान में, वीडियो में दिखाई गई काउंसलर ने कहा कि वीडियो AI-जेनरेटेड था और उन्हें जो बात कहते हुए दिखाया गया है, वह "उनके सिद्धांतों के पूरी तरह खिलाफ़ है और इससे उनकी प्रतिष्ठा को भारी नुकसान पहुँचता है." उनके अनुसार, वीडियो के बुरे असर अत्यंत गंभीर और बहुत ज़्यादा परेशान करने वाले थे. उन्होंने इसे हटवाने की कई नाकाम कोशिशें कीं, जिनमें Meta और कानून लागू करने वाली संस्थाओं को घटना की रिपोर्ट करना भी शामिल था. उन्होंने बोर्ड को बताया कि इसके बावजूद वे स्कॉटलैंड में शरणार्थियों के अधिकारों की वकालत करने और अपनी कम्युनिटी में नफ़रत बढ़ने से रोकने के कैंपेन में सक्रिय रही हैं.

3. Meta की कंटेंट पॉलिसी और सबमिशन

Meta के सबमिशन, पॉलिसी की इन तीन बातों पर केंद्रित थे: गलत जानकारी, नफ़रतपूर्ण आचरण और धमकाना और उत्पीड़न. कंपनी ने यह स्पष्ट किया कि इनमें से किसी भी पॉलिसी के अनुसार इस कंटेंट पर कोई कार्रवाई ज़रूरी नहीं थी, इसलिए इसे बिना किसी लेबल के वैसे ही छोड़ दिया गया.

गलत जानकारी

गलत जानकारी से जुड़े कम्युनिटी स्टैंडर्ड की पॉलिसी बनाने का कारण कहता है कि Meta ऐसा “कंटेंट हटा देता है जिससे राजनैतिक प्रक्रियाओं के कामकाज में सीधे तौर पर हस्तक्षेप हो सकता हो.” Meta जिन तीन कैटेगरी की गलत जानकारी हटाता है, उनमें से एक राजनैतिक प्रक्रियाओं से जुड़ी है और उसका शीर्षक "मतदान या जनगणना में हस्तक्षेप" है. मतदान या जनगणना में प्रतिबंधित हस्तक्षेप के आठ उदाहरण नीचे दिए गए हैं. इनमें “मतदान करने, मतदाता लिस्ट में नाम लिखाने या जनगणना में शामिल होने की तारीख, जगह, समय और तरीकों” के साथ-साथ “कोई उम्मीदवार चुनाव लड़ रहा है या नहीं,” इस बारे में गलत जानकारी देना शामिल है. दो उदाहरण खास तौर पर अमेरिका के लिए हैं. पॉलिसी बनाने के कारण में बताया गया है कि Meta, भरोसेमंद पार्टनर्स के साथ मिलकर काम करता है. यह गैर-सरकारी संगठनों (NGO), मानवीय सहायता एजेंसियों और मानवाधिकार रिसर्चर्स का एक ग्लोबल नेटवर्क है, जो Meta के प्लेटफ़ॉर्म पर मौजूद कंटेंट से पैदा होने वाले नए खतरों की पहचान करते हैं. वे कंटेंट की सच्चाई का पता लगाते हैं और यह भी देखते हैं कि क्या उससे "तुरंत नुकसान होने का खतरा सीधे तौर पर बढ़ सकता है." पॉलिसी बनाने का कारण यह भी मानता है कि "लोग अक्सर नुकसान न पहुँचाने वाले तरीकों से गलत जानकारी का इस्तेमाल करते हैं" जैसे "किसी बात को बढ़ा-चढ़ाकर कहने के लिए" या "मजाक या कटाक्ष" के रूप में.

Meta ने बोर्ड को बताया कि उसने इस मामले में वीडियो नहीं हटाया क्योंकि कंपनी के अनुसार, भरोसेमंद पार्टनर्स ने इसे फ़्लैग नहीं किया था. Meta आगे इस निष्कर्ष पर भी पहुँचा कि इस कंटेंट से "राजनैतिक प्रक्रियाओं के संचालन में सीधे तौर पर रुकावट पड़ने का जोखिम" नहीं था, क्योंकि इसमें "मतदान या जनगणना में हस्तक्षेप" वाले कोई प्रतिबंधित दावे नहीं थे.

कुछ ऐसी गलत जानकारी के मामले में, जो नियमों का ऐसा उल्लंघन नहीं करती कि उसे हटाया जाए, Meta का ध्यान "उसके प्रसार को कम करने या ऐसा माहौल बनाने पर होता है जिससे सार्थक बातचीत को बढ़ावा मिले." कंपनी उन स्थितियों में "यूज़र्स को काम की जानकारी देकर ऐसा करती है, जब कंटेंट संभावित रूप से गुमराह करने वाला या उलझन में डालने वाला हो. इसमें लेबल का इस्तेमाल करना भी शामिल है.

लेबल तीन तरह के होते हैं:

• “AI से ली गई जानकारी वाला लेबल” अपने आप कंटेंट पर लागू हो जाता है, जब Meta को "औद्योगिक स्तर के AI फ़ोटो इंडिकेटर्स के ज़रिए या AI-जेनरेटेड कंटेंट अपलोड करते समय लोगों के बताने से" पता चलता है. यह अन्य दो लेबल की तुलना में कम स्पष्ट है और पोस्ट के ऊपर दिखाई देता है.
• “हेरफेर किया गया मीडिया” पॉलिसी के तहत, “अत्यधिक जोखिम वाला” लेबल ऐसे कंटेंट पर लागू होता है जो (i) जो सार्वजनिक महत्व के मामले में लोगों को धोखा देने का खास तौर पर बहुत गंभीर जोखिम उत्पन्न करता है; और (ii) जिसमें डिजिटल रूप से बनाए या बदले जाने के भरोसेमंद संकेत मौजूद हों. AI से ली गई जानकारी वाले लेबल से उलट, “अत्यधिक जोखिम वाला” लेबल सिर्फ़ Meta की एस्केलेशन पॉलिसी के तहत ही लगाया जाता है. यानी इसे सिर्फ़ Meta की इन-हाउस पॉलिसी टीम, ह्यूमन रिव्यू के बाद ही लगा सकती हैं. यह प्रमुखता से दिखाई देता है, पोस्ट के नीचे आता है और डिजिटल रूप से बनाए गए या बदले गए कंटेंट के बारे में और जानने के लिए एक रिसोर्स का लिंक देता है.
• "अत्यधिक जोखिम AI" लेबल "हेरफेर किया गया मीडिया" पॉलिसी के तहत तब भी लगाया जाता है, जब कंटेंट “अत्यधिक जोखिम वाला” लेबल की सभी शर्तें पूरी करता है और उसके AI से बनाए या बदले होने के स्पष्ट संकेत मिलते हैं. इसे भी सिर्फ़ मामले को आगे भेजे जाने के केस में लागू किया जाता है और इसके लिए ह्यूमन रिव्यू की ज़रूरत होती है.

Meta ने लोगों के लिए यह ज़रूरी बनाया है कि जब भी वे ऐसा ऑर्गेनिक कंटेंट पोस्ट करें जिसमें "डिजिटल रूप से बनाया या बदला गया फ़ोटो-रियलिस्टिक वीडियो या असली जैसा लगने वाला ऑडियो" हो, तो वे ऐप में मौजूद टूल का इस्तेमाल करके इसकी जानकारी दें. Meta ने कहा कि AI-डिस्क्लोज़र टूल का इस्तेमाल न करने पर “पेनल्टी लग सकती है”.

Meta ने कहा कि जिस यूज़र ने पोस्ट बनाई थी, उसने AI के इस्तेमाल की जानकारी नहीं दी, इसलिए उस पर “AI से ली गई जानकारी” लेबल नहीं लगाया गया. कंपनी ने बोर्ड को बताया कि जब उसे "इंडस्ट्री स्टैंडर्ड AI इमेज इंडिकेटर्स" का पता चलता है, तो वह अपने आप यह लेबल लगा सकती है. इस केस में वे इंडिकेटर मौजूद नहीं थे. बोर्ड के सवालों के जवाब में, Meta ने कन्फ़र्म किया कि उसने AI के इस्तेमाल की जानकारी न देने के लिए इस यूज़र पर कोई कार्रवाई नहीं की. साथ ही, Meta ने AI सेल्फ़-डिस्क्लोज़र नियम को बड़े पैमाने पर लागू करने के बजाय केवल उन चुनिंदा केसों में लागू किया है जो उसकी इन-हाउस पॉलिसी टीम को एस्केलेट किए गए. Meta ने यह भी कहा कि वह अब वीडियो और फ़ोटो के लिए AI इंडस्ट्री-शेयर्ड सिग्नलों को पहचान सकता है और इसे सभी डिवाइसों (वेब और मोबाइल) और प्लेटफ़ॉर्म (रील्स, फ़ीड वगैरह) पर जारी कर रहा है. साथ ही, वे बड़े पैमाने पर AI-जेनरेटेड कंटेंट को पहचान पाने वाले क्लासिफ़ायर तैयार कर रहे हैं, ताकि वीडियो में इंडस्ट्री स्टैंडर्ड सोर्स सिग्नल हों या न हों, उस पर कम स्पष्ट "AI सेे ली गई जानकारी" लेबल लगाया जा सके.

Meta ने कन्फ़र्म किया कि उनके विचार में, हेरफेर किए गए मीडिया के नियमों के तहत इस कंटेंट को “अत्यधिक जोखिम वाला” की ज़्यादा प्रमुखता वाला लेबल देना भी जरूरी नहीं था. एस्केलेट होने पर कंटेंट का रिव्यू नहीं हुआ, इसलिए यह लेबल लगाने के लिए कोई मूल्यांकन नहीं किया गया. Meta ने यह बताया कि कंटेंट में डिजिटल रूप से हेरफेर की गई थी या उसे AI से बनाया गया था, यह पहचानना मुश्किल था. साथ ही इस बात का भी कोई खास खतरा नहीं था कि इससे "जनहित के किसी मुद्दे पर लोगों से कोई बड़ा छल” होगा. यह इसलिए था क्योंकि Meta का मानना था कि किसी समय-संवेदनशील ईवेंट (जैसे कि कोई नजदीकी चुनाव या संकट) को लेकर ऐसी कोई अत्यावश्यकता नहीं थी जिससे किसी बड़े छल का खतरा पैदा हो: सबसे पास के चुनाव में अभी कई महीने थे. इसके अलावा, Meta ने कहा कि पोस्ट को व्यंग्य के रूप में डाला गया था, जिसमें राजनेता के सार्वजनिक रुख को विपरीत दिखाया गया था और कम से कम एक यूज़र के कमेंट से भी यही बात पता भी चली थी. तीसरा, इस कंटेंट से बहुत कम लोगों ने इंटरैक्ट किया, जिससे यह आशंका कम हो गई कि आम लोग इससे कोई बड़ा धोखा खाएँगे.

बोर्ड के सवालों के जवाब में, Meta ने बताया कि ज़्यादा प्रमुखता से “अत्यधिक जोखिम वाला” लेबल लगाने के लिए उसकी शर्तें बहुत कठोर हैं. इसने बहुत ही सीमित मामलों में इस लेबल का इस्तेमाल किया है. Meta अपनी इन कठोर शर्तों को सही ठहराता है क्योंकि: (a) ऐसे लेबल लगाने से कंटेंट की प्रामाणिकता पर सवाल उठ सकते हैं और इसे पोस्ट करने वाले यूज़र्स की प्रतिष्ठा को नुकसान पहुँच सकता है; (b) AI की पहचान पूरी तरह सही नहीं होती और इससे बिना लेबल वाला कंटेंट ज़्यादा भरोसेमंद लग सकता है, जबकि असलियत में शायद ऐसा न हो; (c) इससे अभिव्यक्ति की आज़ादी पर बुरा असर पड़ सकता है और (d) महत्वपूर्ण ईवेंट से पहले ऐसे लेबल लगाने से राजनेताओं, सरकारों और विज्ञापन पार्टनर्स की ओर से ऐसी अभिव्यक्ति पर भी लेबल लगाने की माँग बढ़ सकती है जो उन्हें पसंद नहीं हैं. Meta ने यह भी कहा कि कंटेंट में अक्सर AI का सोर्स होने के सबूत नहीं होते, इसलिए वह दूसरे पहलुओं को देखता है, जैसे कि कंटेंट “दिखाई” देता है; और क्या कृत्रिम कंटेंट का इरादा लोगों को हँसाना है, यह भी तय करता है कि उसे कपटपूर्ण माना जाए या नहीं. Meta का कहना है कि वह "सच्चाई का मसीहा" नहीं बनना चाहता, लेकिन वह ऐसी कठोर शर्तें बनाना चाहता है जिससे उसे यह तय न करना पड़े कि कौन-सा कंटेंट कपटपूर्ण है और कौन-सा ज़रूरी.

अमेरिका के बाहर Meta, कंटेंट का रिव्यू करने और रेटिंग देने के लिए निष्पक्ष थर्ड पार्टी फै़क्ट-चेकर्स पर निर्भर करता है. उनकी रेटिंग के आधार पर भी कंटेंट पर संबंधित लेबल भी लगाए जा सकते हैं. इन रेटिंग में “झूठा” और “हेर-फेर करके बनाया गया” जैसी कैटेगरी शामिल होती हैं और इनके कारण कंटेंट का वितरण कम हो सकता है. Meta संभावित गलत जानकारी को फै़क्ट-चेकर्स के रिव्यू के लिए सामने लाने के लिए टेक्नोलॉजी का इस्तेमाल करता है और फै़क्ट-चेकर्स भी रिव्यू के लिए कंटेंट की पहचान कर सकते हैं. हालाँकि, Meta ने यह कन्फ़र्म किया कि इस केस में उसके ऑटोमेटेड सिस्टम ने कंटेंट को थर्ड-पार्टी फ़ैक्ट-चेकर्स के पास नहीं भेजा और न ही रिव्यू के लिए चुना, शायद इसलिए क्योंकि वह ज़्यादा वायरल नहीं हुआ था. Meta ने सिर्फ़ अमेरिका में थर्ड पार्टी फ़ैक्ट चेकिंग को हटाकर कम्युनिटी नोट्स को अपनाया है और बोर्ड ने दुनिया के बाकी हिस्सों में भी ऐसा ही बदलाव करने के औचित्य पर अपनी राय दी है.

पोस्ट करने वाले यूज़र के अकाउंट को इस केस में मॉनेटाइज़ नहीं किया गया था. Meta की पार्टनर मॉनेटाइजेशन पॉलिसी उन पेजों के लिए नियम तय करती है जिनके जरिए कंपनी अपने प्लेटफ़ॉर्म पर पोस्ट करने के लिए एंगेजमेंट के आधार पर पैसे देती है और उसने यह भी कहा कि गलत जानकारी के रूप में फ़्लैग किए गए कंटेंट को मॉनेटाइज़ नहीं किया जा सकता. कंटेंट मॉनेटाइज़ेशन पॉलिसी, ऐसे “विवादित सामाजिक मुद्दों” से जुड़े कंटेंट को मॉनेटाइज़ेशन को भी प्रतिबंधित या कम करती हैं, जो इमिग्रेशन सहित “व्यावसायिक उद्देश्यों के लिए विवादास्पद राजनैतिक या सामाजिक मुद्दों का फायदा उठाता है” और जिन्हें “ध्रुवीकरण या भड़काऊ तरीके से” प्रस्तुत किया जाता है.

नफ़रतपूर्ण आचरण

Meta का नफ़रतपूर्ण आचरण कम्युनिटी स्टैंडर्ड, लोगों की संरक्षित विशेषताओं के आधार पर उन पर “गंभीर अनैतिकता और आपराधिकता के आरोप” लगाने पर प्रतिबंध लगाता है. इसमें लोगों की तुलना "यौन अपराधी" और "हिंसक अपराधी" से करने को उल्लंघन माना गया है.

Meta ने पाया कि "हमारे यहाँ शरणार्थियों का स्वागत है, भले ही वे हमारी महिलाओं का बलात्कार करें, क्योंकि गोरे लोग भी तो ऐसा करते हैं" बयान इस नियम का उल्लंघन नहीं करता, क्योंकि इसमें शरणार्थियों की तुलना उनकी पहचान के आधार पर हिंसक अपराधियों या यौन अपराधियों से नहीं की गई थी. रिव्यूअर्स के लिए आंतरिक मार्गदर्शन, प्रतिबंधित “सामान्यीकरण” और स्वीकृत “व्यवहार संबंधी बयानों” में अंतर करता है. प्रतिबंधित सामान्यीकरण किसी पूरे समूह के बारे में यह मान लेते हैं कि उनमें कुछ खास गुण होते हैं (जैसे यह कहना: [समूह X] आतंकवादी होते हैं; या [समूह Y] हत्यारे होते हैं). व्यवहार संबंधी जिन बयानों की अनुमति है, वे किसी समूह के सदस्यों के कामों के बारे में किए गए दावे होते हैं (जैसे यह कहना: [समूह A] आतंकवाद में शामिल रहता है; या [समूह B] हत्या में शामिल रहता है.) Meta के अनुसार, वीडियो में दिया गया बयान कुछ शरणार्थियों की हरकतों के बारे में था और उसमें यह दावा नहीं किया गया था कि शरणार्थी स्वाभाविक रूप से यौन हिंसा करते हैं. यह किसी समूह की पहचान और यौन अपराध एक जैसा मानने के बजाय, उस समूह के सदस्यों का व्यवहार बताता है. Meta की राय में “क्योंकि गोरे लोग भी तो ऐसा करते हैं” वाक्यांश से अर्थ नहीं बदलता. बल्कि, यह दो समूहों के व्यवहार की तुलना करता है और यौन हिंसा के लिए कुछ गोरे लोगों को भी ज़िम्मेदार बताता है.

कुछ पुराने केसों में, Meta ने बोर्ड को बताया था कि अगर किसी समूह के सारे या ज़्यादातर लोगों पर साफ़ तौर पर गंभीर अपराध में शामिल होने का आरोप लगाया जाता है, तो ऐसे आचरण वाले बयान उल्लंघनकारी हो सकते हैं. यूरोपियन यूनियन की आव्रजन पॉलिसी और अप्रवासियों की आलोचना केस में, Meta ने पाया था कि अप्रवासियों को "गैंग-रेप स्पेशलिस्ट" के रूप में दिखाने वाले कथन, नियमों का उल्लंघन नहीं करते थे, क्योंकि उसमें यह नहीं कहा गया था कि यह पूरे या आधे से ज़्यादा समूह का व्यवहार है. Meta ने उस केस में बोर्ड की यह धारणा बदलने की सलाह नहीं मानी कि किसी समूह के व्यवहार वाले बयानों को पूरे समूह पर लागू माना जाए, जब तक कि कुछ और न कहा गया हो. Meta ने इस केस में अपने सबमिशन में कहा कि इस सुझाव को नामंज़ूर करने के बाद भी, वह मानता है कि "शरणार्थी बलात्कार करते हैं" जैसे बयानों का मतलब "सभी" या "ज़्यादातर" शरणार्थी नहीं होता और इसलिए ये उसकी नफ़रतपूर्ण आचरण पॉलिसी का उल्लंघन नहीं करते.

धमकाना और उत्पीड़न

Meta का धमकाना और उत्पीड़न कम्युनिटी स्टैंडर्ड, सार्वजनिक हस्तियों और आम लोगों के बीच अंतर करता है, ताकि “चर्चा करने का अवसर मिल सके, जिसमें अक्सर उन लोगों के बारे में आलोचनात्मक टिप्पणी शामिल होती है जिन्हें समाचारों में दिखाया जाता है या जिनकी सार्वजनिक ऑडियंस की संख्या बहुत ज़्यादा होती है.” सार्वजनिक हस्तियों को सिर्फ़ सबसे गंभीर हमलों से सुरक्षा दी जाती है. Meta "अनचाहे हेरफेर से बनाई गई फ़ोटो" पर रोक लगाता है, लेकिन यह नियम सिर्फ़ आम नाबालिगों, आम वयस्कों और नाबालिग अनैच्छिक सार्वजनिक हस्तियों को निशाना बनाने वाले कंटेंट पर लागू होता है और इसके लिए उन्हें खुद इसकी रिपोर्ट करनी होती है. Meta सार्वजनिक हस्तियों को "राज्य और राष्ट्रीय स्तर के सरकारी अधिकारियों," उन पदों के उम्मीदवारों और अन्य लोगों के रूप में परिभाषित करता है "जिन्हें पर्याप्त मीडिया कवरेज मिलता है." Meta ने निर्धारित किया कि वीडियो में बताई गई राजनेता एक सार्वजनिक हस्ती हैं और इसलिए उन्हें "हेरफेर करके बनाई गई अनचाही फ़ोटो" से सुरक्षा प्राप्त नहीं है.

4. पब्लिक कमेंट

बोर्ड को नौ ऐसे पब्लिक कमेंट मिले जो सबमिशन की शर्तें पूरी करते हैं. आठ कमेंट यूरोप से और एक कमेंट एशिया पैसिफ़िक और ओशेनिया से सबमिट किया गया था. प्रकाशन की सहमति के साथ सबमिट किए गए पब्लिक कमेंट पढ़ने के लिए यहाँ क्लिक करें.

सबमिशन में इन विषयों पर बात की गई थी: AI-जेनरेटेड का दायरा और उसकी व्यापकता; इमिग्रेशन विरोधी कंटेंट का प्रसार; सोशल मीडिया पर व्यंग्य, हास्य और राजनैतिक अभिव्यक्ति का इस्तेमाल जिसमें AI-जेनरेटेड कंटेंट भी शामिल है; सार्वजनिक जीवन में महिलाओं का लिंग-आधारित उत्पीड़न; गलत जानकारी से निपटने में लेबलिंग की प्रभावशीलता; धमकाने और उत्पीड़न संबंधी पॉलिसी के तहत सार्वजनिक हस्तियों के बारे में बोलने की आज़ादी की सुरक्षा; गलत जानकारी से जुड़ी पॉलिसी की कमियाँ और राजनैतिक प्रक्रिया में हस्तक्षेप; कंटेंट के स्रोत का पता लगाने में आने वाली तकनीकी चुनौतियाँ; गलत जानकारी और नफ़रत फैलाने वाली भाषा किस तरह जानकारी के माहौल और लोकतंत्र को नुकसान पहुँचाती हैं; और कपटपूर्ण और नफ़रत फैलाने वाले AI कंटेंट को बढ़ावा देने वाले कमर्शियल और मॉनेटाइज़ेशन इंसेंटिव.

जून 2026 के दौरान, बोर्ड ने राजनैतिक डीपफ़ेक, जानकारी और चुनाव की निष्पक्षता पर उनके प्रभाव और अभिव्यक्ति की आज़ादी का आदर करते हुए नुकसान से निपटने के उपायों पर हिमायती संगठनों के प्रतिनिधियों, शिक्षाविदों और अंतर-सरकारी संगठनों के प्रतिनिधियों से विचार-विमर्श किया.

भाग लेने वाले लोगों ने नोट किया कि राजनेताओं की नकल करने वाले और कमज़ोर कम्युनिटी के प्रति नफ़रत बढ़ाने वाले Ai-जेनरेटेड कंटेंट की व्यापकता बढ़ रही है. परामर्श में प्रस्तुत रिसर्च से पता चला कि यूके में ज़ेनोफ़ोबिक AI-जनरेटेड कंटेंट को उसी तरह के प्रामाणिक कंटेंट तुलना में काफ़ी ज़्यादा एंगेजमेंट मिला. भाग लेने वालों ने यह भी बताया कि महिला राजनेताओं, पत्रकारों और कार्यकर्ताओं को डीपफ़ेक के ज़रिए बहुत ज़्यादा टार्गेट किया जाता है. इन डीपफ़ेक में उनके विचारों को गलत तरीके से दिखाया जाता है, जो अक्सर उनका उत्पीड़न करने वाली मुहिम का हिस्सा होते हैं. साथ ही, स्थानीय स्तर पर चुने गए नेताओं और कार्यकर्ताओं जैसे कम मशहूर लोगों के पास अक्सर ऐसे हमलों का जवाब देने के लिए ज़रूरी संस्थागत संसाधन नहीं होते.

भाग लेने वाले लोगों ने इस बात पर चिंता जताई कि Meta की गलत जानकारी से जुड़ी पॉलिसी, चुनाव की निष्पक्षता और लोकतंत्र की समग्र सुरक्षा के लिए बहुत संकीर्ण है, क्योंकि यह मतदान प्रक्रिया से जुड़े सिर्फ़ कुछ ही झूठे दावों को ही चुनाव के नजदीक आने पर रोकती है. उन्होंने इस फ़्रेमवर्क को बुनियादी तौर पर अपर्याप्त बताया क्योंकि सोशल मीडिया पर शेयर होने वाला कंटेंट हमेशा बना रहता है और लगातार लोगों तक पहुँचता रहता है, जिससे चुनाव औपचारिक रूप से खत्म होने के बाद भी नुकसानदेह बातें चलती रहती हैं. भाग लेने वाले कई लोगों ने संभावित नुकसान की पहचान करने के लिए भरोसेमंद पार्टनर्स पर Meta की निर्भरता को एन्फ़ोर्समेंट की ज़िम्मेदारी की असंतोषजनक आउटसोर्सिंग बताया, जो कम शुरुआती एंगेजमेंट वाले कंटेंट से व्यवस्थित रूप से निपटने में विफल रहता है, खासकर छोटे बाजारों में. अंत में, भाग लेने वाले कई लोगों ने कंटेंट में AI की मदद से कोई और होने का दिखावा करने पर ज़्यादा ध्यान देने की माँग की, क्योंकि मौजूदा पॉलिसीज़ ज़्यादातर नकली अकाउंट के ज़रिए “कोई और होने का दिखावा करने” के नियमों पर केंद्रित लगती हैं (यानी, ऐसे लोग जो कोई और होने का दिखावा करने के लिए अकाउंट बनाते हैं, न कि वे लोग जो किसी व्यक्ति के व्यवहार को गलत तरीके से दिखाने वाला कंटेंट शेयर करते हैं).

व्यंग्य के बारे में भाग लेने वाले लोगों का कहना था कि राजनेताओं के AI-जेनरेटेड वीडियो या फ़ोटो पर कोई स्पष्ट सिग्नल न होने की वजह से लोग यह नहीं समझ पा रहे थे कि वह सच है या झूठ. भाग लेने वाले एक व्यक्ति ने यह भी कहा कि डीपफ़ेक, व्यंग्य का रूप ले सकते हैं और इनका उद्देश्य संदर्भ के अनुसार देखा जाना चाहिए. इसमें संबंधित व्यक्ति की सार्वजनिक स्थिति या कामों को भी शामिल किया जाना चाहिए. भाग लेने वाले कई लोगों ने इस बात पर ज़ोर दिया कि डीपफ़ेक से होने वाला ज़्यादा गंभीर नुकसान यह नहीं है कि कोई व्यूअर किसी एक कंटेंट से धोखा खा जाएगा, बल्कि इसमें है कि इससे व्यापक रूप से राजनैतिक जानकारी पर भरोसा कमज़ोर होता है. जब ऑडियंस बार-बार असली जैसी लगने वाली बनावटी बातों के संपर्क में आती है, तो वह प्रामाणिक बातचीत और बनावटी बातों में फ़र्क करने की अपनी क्षमता पर भरोसा खो सकती है. अंत में, भाग लेने वाले लोगों ने नोट किया कि इस माहौल में लेबलिंग की सुरक्षात्मक वैल्यू कम होती जा रही है. ऐसा इसलिए होता है क्योंकि लेबलिंग को असमान रूप से एन्फ़ोर्स किया जाता और इसलिए भी कि कुछ लोग अप्रामाणिक लेबल वाले कंटेंट पर भी ऐसे प्रतिक्रिया देते हैं जैसे वह प्रामाणिक हो, खासकर जब वह उनकी पहले से बनी राय को और मज़बूत करता हो.

भाग लेने वाले लोगों ने बताया कि ज़्यादातर कृत्रिम कंटेंट वैचारिक नहीं होता और उसे सिर्फ़ पैसों के लिए बनाया जाता है. इसे अक्सर वे लोग बनाते हैं जिनका कंटेंट से जुड़े देश से कोई संबंध नहीं होता. ये लोग Meta के मॉनेटाइज़ेशन टूल या कमाई करने के अन्य टूल्स का इस्तेमाल करके नफ़रतपूर्ण कंटेंट सहित सनसनीखेज कंटेंट से पैसा कमाते हैं. ऐसे कंटेंट को एल्गोरिदम आसानी से आगे बढ़ाते हैं. Meta का क्रिएटर इंसेंटिव स्ट्रक्चर, भड़काऊ पोस्ट को ज़्यादा लाइक-शेयर और एल्गोरिदम के ज़रिए बढ़ावा देता है. इससे AI-जेनरेटेड कपटपूर्ण कंटेंट बनाना आर्थिक रूप से फ़ायदेमंद हो जाता है, भले ही हर पोस्ट से सीधे कमाई न होती हो. भाग लेने वाले कई लोगों ने यह भी देखा कि AI से धोखाधड़ी को रोकने के लिए मॉनेटाइज़ेशन पर रोक लगाना एक ऐसा तरीका है जिस पर अभी तक ज़्यादा ध्यान नहीं दिया गया है.

5. ओवरसाइट बोर्ड का विश्लेषण

बोर्ड ने इस केस का चयन यह देखने के लिए किया कि Meta की पॉलिसीज़ उसके प्लेटफ़ॉर्म्स पर AI-जेनरेटेड कपटपूर्ण कंटेंट के साथ कैसा व्यवहार करती हैं, खास तौर पर जब राजनेताओं की नकल करने और सार्वजनिक चर्चा के अहम विषयों पर उनके विचार गलत तरीके से पेश करने के लिए AI टूल्स का इस्तेमाल होता है और उनमें नफ़रत फैलाने वाली भाषा भी हो सकती है. यह विश्लेषण तीन विषयों पर Meta की कंटेंट पॉलिसी और मानवाधिकार से जुड़ी ज़िम्मेदारियों का आकलन करता है: गलत जानकारी; नफ़रत फैलाने वाली भाषा; और धमकाना और उत्पीड़न.

बोर्ड ने यह भी पाया कि भले ही इस कंटेंट को गलत जानकारी से जुड़ी पॉलिसी के तहत हटाना जरूरी नहीं है, लेकिन इस पर “अत्यधिक जोखिम वाला AI” टैग होना चाहिए था. मानवाधिकारों को ध्यान में रखते हुए, बोर्ड ने कई सुझाव दिए हैं ताकि Meta ऐसे कपटपूर्ण AI-जेनरेटेड कंटेंट से बेहतर ढंग से निपट सके, जिसमें राजनेताओं को सार्वजनिक मुद्दों पर ऐसी बातें बोलते हुए दिखाया जाता है जो उन्होंने कभी कहीं ही नहीं. इन निष्कर्षों के बावजूद, इस केस में बोर्ड ने पाया कि कंटेंट से Meta की नफ़रतपूर्ण आचरण पॉलिसी का उल्लंघन होता है और इसी आधार पर इसे हटा दिया जाना चाहिए था. अंत में, बोर्ड ने यह पाया कि कंटेंट से Meta की धमकाने और उत्पीड़न से जुड़ी पॉलिसी का उल्लंघन नहीं होता.

गलत जानकारी

बोर्ड ने पाया कि वीडियो में दिख रही राजनेता का वीडियो, Meta के गलत जानकारी से जुड़े कम्युनिटी स्टैंडर्ड के नियमों का उल्लंघन नहीं करता, क्योंकि इसमें "मतदान या जनगणना में हस्तक्षेप" से जुड़ा कोई भी प्रतिबंधित दावा नहीं था.

बोर्ड के ज़्यादातर सदस्यों का मानना था कि हेरफेर किए गए मीडिया के बारे में गलत जानकारी वाले कम्युनिटी स्टैंडर्ड नियमों के तहत, इस वीडियो पर “अत्यधिक जोखिम वाला AI” लेबल लगाना ज़रूरी था, क्योंकि इसे AI से तैयार किया गया था और इससे जनता के साथ किसी बड़े मुद्दे पर बड़ा धोखा होने का खतरा था.

इस केस का वीडियो AI-जेनरेटेड लगता है, लेकिन अधिकांश दर्शकों को यह तुरंत समझ नहीं आएगा कि यह नकली है. आवाज़ और चेहरे की बनावट में अंतर और असामान्य हाव-भाव से पता चलता है कि वीडियो AI-जेनरेटेड है, लेकिन यह सब बहुत ध्यान से देखने पर ही समझ आता है. बोर्ड के ज़्यादातर सदस्यों के अनुसार Meta ने बोर्ड को बताया है कि उसके क्लासिफ़ायर अब स्रोत का मेटाडेटा न होने पर भी बड़े पैमाने पर फ़ोटो और वीडियो का अपने आप पता लगा सकते हैं, लेकिन जब यह कंटेंट पोस्ट हुआ था, तब ऐसी पहचान के लिए ह्यूमन रिव्यू की ज़रूरत होती थी. वीडियो का असली जैसा दिखना और फ़ुटेज को पूरी तरह से कृत्रिम रूप से बनाने के लिए AI का इस्तेमाल करना (उसमें छेड़छाड़ या बदलाव करने के बजाय) और उसकी जानकारी न देना, इसे राष्ट्रपति बाइडेन का छेड़छाड़ किया गया वीडियो केस वाली "चीप-फ़ेक" एडिटिंग के प्रकार से बिल्कुल अलग दिखाता है.

बोर्ड के ज़्यादातर सदस्यों का कहना है कि इस वीडियो के ज़रिए संभावित मतदाताओं को भ्रमित करने की कोशिश की गई है, क्योंकि इसमें यह “सबूत” दिया गया है कि एक निर्वाचित राजनेता के शरणार्थियों और लोगों की सुरक्षा के बारे में क्या विचार हैं. यह मौजूदा राजनीति और देश भर के बड़े विरोध-प्रदर्शनों का बड़ा मुद्दा है. Meta के सबमिशन में बताया गया है कि गैर-सार्वजनिक लोगों के लिए "अत्यधिक जोखिम वाला AI" लेबल लगाने के नियम अलग हैं, इसलिए व्यवहार में इन लेबलों का इस्तेमाल लगभग न के बराबर हुआ है. ये गैर-सार्वजनिक शर्तें, एन्फ़ोर्समेंट की एक ऐसी सीमा तय करती हैं जो नियम की सार्वजनिक भाषा, लेबल की तटस्थ और गैर-आलोचनात्मक भाषा और एन्फ़ोर्समेंट पर इसके सीमित प्रभावों को देखते हुए अत्यधिक कठोर है (यूज़र्स के खिलाफ़ प्रतिबंध, लेबल की तुलना में और भी कम इस्तेमाल किए गए दिखाई देते हैं).

इन कारणों से, Meta का यह तर्क कि कोई संकट या नज़दीकी चुनाव नहीं था और कंटेंट की पहुँच बहुत कम लोगों तक थी, विश्वसनीय नहीं लगता. इनमें से किसी भी बात का यह मतलब नहीं है कि इस कंटेंट से जनता के साथ धोखा होने की संभावना कम थी. इसके अलावा, इसमें बातों को बढ़ा-चढ़ाकर कहने या पैरोडी का कोई ऐसा सिग्नल नहीं है जिससे यह साफ़ हो सके कि इस वीडियो का उद्देश्य व्यंग्य करना है. यह वीडियो बहुत छोटा है, इसमें राजनेता की बातों को बढ़ा-चढ़ाकर नहीं दिखाया गया है या इसमें पैरोडी नहीं है. साथ ही जिस एल्बम में यह वीडियो है, उसका बाकी कंटेंट भी मज़ाकिया या व्यंग्य वाला नहीं है. ये सारी बातें लोगों से धोखा होने का खतरा बढ़ाती हैं और साफ़ इशारा करती हैं कि वीडियो का इरादा धोखा देना था. फ़ोरम फ़ॉर ह्यूमर एंड लॉ एक एकेडमिक प्रोजेक्ट है जो यह पता लगाता है कि अभिव्यक्ति की आज़ादी का कानून, हास्य की रक्षा कैसे करता है (PC-32578 देखें). इस प्रोजेक्ट ने बोर्ड को व्यंग्यात्मक डीपफ़ेक के उपयोगी उदाहरण दिए. इनमें शुरुआत में तो धोखा करने का इरादा दिखाई देता है, लेकिन जैसे ही उस कृत्रिम कंटेंट का बेतुकापन समझ में आता है, तो वह धोखा कामयाब नहीं होता (जैसे, इस्लामिक लिबास में अरबी भाषा बोलती हुई फ़्रांसीसी नेता मरीन ले पेन; या ब्राज़ील के पूर्व राष्ट्रपति बोल्सोनारो का कोविड के समय हाथ धोने का तरीका बताने वाला वीडियो). कम्युनिटी स्टैंडर्ड्स की भाषा के आधार पर, 'अत्यधिक जोखिम वाला AI' लेबल लागू होना चाहिए था.

बोर्ड के ज़्यादातर सदस्यों का मानना है कि मानवाधिकार के संबंध में Meta की ज़िम्मेदारियों के तहत यह ज़रूरी है कि वह जनहित के मामलों में किसी राजनेता के शब्दों को गलत तरीके से पेश करने के लिए जेनरेटिव AI के कपटपूर्ण इस्तेमाल पर, मौजूदा "अत्यधिक जोखिम वाला" AI लेबलिंग से ज़्यादा प्रभावी और कठोर कदम उठाए.

बोर्ड के ज़्यादातर सदस्यों के अनुसार, AI के इस्तेमाल का बेहतर ढंग से पता लगाने और जनता के लिए महत्वपूर्ण मामलों में कपटपूर्ण होने पर इस पर रोक लगाने, इसकी पहुँच को सीमित करने और स्पष्ट लेबलिंग के माध्यम से नुकसानदेह कपटपूर्ण कंटेंट पर पेनल्टी लगाने वाले उपायों का मिला-जुला रूप, अभिव्यक्ति की आज़ादी पर एक आवश्यक और आनुपातिक प्रतिबंध होगा. इससे सार्वजनिक मामलों में हिस्सा लेने के "दूसरों के अधिकारों" की रक्षा होगी और राजनेता की "प्रतिष्ठा पर गैर-कानूनी हमलों" से रक्षा होगी (अनुच्छेद 17 और 25, अंतरराष्ट्रीय नागरिक और राजनैतिक अधिकार प्रतिज्ञापत्र (ICCPR)).

बोर्ड का यह भी मानना है कि अभिव्यक्ति की आज़ादी के अंतरराष्ट्रीय मानक, गलत बयानी की भी रक्षा करते हैं और राजनैतिक मामलों में सार्वजनिक हस्तियों के बारे में खुलकर बात करने को ICCPR ने बहुत महत्व दिया है (सामान्य कमेंट सं. 34, पैरा. 38 पर). जैसा कि बोर्ड ने राष्ट्रपति बाइडेन का छेड़छाड़ किया गया वीडियो केस में देखा:

“भले ही लोग हज़ारों साल से जानते हैं कि बातें झूठी हो सकती हैं, लेकिन फ़ोटो और खासकर वीडियो-ऑडियो प्रामाणिक होने का झूठा अहसास कराते हैं. गलत जानकारी से जुड़ी राय अक्सर विवादित संदेश के दावों के पक्ष या विपक्ष के सबूतों पर टिकी होती है, जबकि छेड़छाड़ किए गए मीडिया के मामले में ध्यान इस बात पर होता है कि संदेश को कैसे बनाया गया था. ‘छेड़छाड़ किए गए मीडिया’ की एक खास बात यह है कि यह यूज़र को यह यकीन दिलाता है कि मीडिया असली है और उसमें कोई बदलाव नहीं किया गया है.”

बोर्ड के ज़्यादातर सदस्यों के अनुसार, किसी राजनेता की कथनी या करनी के बारे में झूठ बोलने और उसी झूठ का फ़र्ज़ी ऑडियो-विज़ुअल 'सबूत' गढ़ने में बड़ा अंतर है. ऐसे डीपफ़ेक, लोगों को आसानी से यह भरोसा दिला सकते हैं कि कोई झूठ पूरी तरह सच है और इससे लोकतांत्रिक चर्चा, सार्वजनिक भागीदारी और लोगों की प्रतिष्ठा को नुकसान पहुँच सकता है. जब कृत्रिम कंटेंट बेहद असली, जान-बूझकर धोखा देने और नुकसान पहुँचाने वाली हो, तो उसे राजनैतिक बयानों को अंतरराष्ट्रीय मानवाधिकार कानून से मिलने वाली ज़्यादा सुरक्षा नहीं मिलनी चाहिए (सामान्य कमेंट सं. 34, पैरा 34). जैसा कि ऊपर बताया गया है, इस बात का कोई संकेत नहीं है कि यह वीडियो व्यंग्यात्मक था. अगर ऐसा होता, तो झूठ ज़्यादा साफ़ तौर पर पता चलता और इससे दूसरों के अधिकारों को नुकसान नहीं पहुँचता. जेनरेटिव AI के फैलने से विचारों के बाज़ार में नई मुश्किलें आ गई हैं, जैसे कि इंडस्ट्री के लेवल पर होने वाली धोखाधड़ी जो लोकतंत्र और नागरिकों के भागीदारी के अधिकारों को कमज़ोर करता है. साथ ही यह किसी व्यक्ति की प्रतिष्ठा को नुकसान पहुँचाने का कारण भी बन सकता है.

जैसे-जैसे असली और कृत्रिम मीडिया में अंतर करना मुश्किल होता जा रहा है, वैसे-वैसे राजनेताओं के कृत्रिम और जान-बूझकर बनाए गए कपटपूर्ण वीडियो-ऑडियो रूप जनता के भरोसे और लोकतंत्र में भागीदारी के लिए एक गंभीर खतरा बनते जा रहे हैं. हाल ही की एक रिसर्च के अनुसार, यूके में लोग औसत रूप से असली इंसानों को दिखाने वाले कृत्रिम मीडिया को पहचान नहीं पाते. इस तरह के नकली कंटेंट का बढ़ता असर, राजनेताओं को जवाबदेह बनाने की व्यवस्था को कमज़ोर कर सकता है. ऐसा सिर्फ़ मतदान के समय ही नहीं होगा, बल्कि चुनावों के बीच भी हो सकता है (देखें: AI पर संयुक्त राष्ट्र के स्वतंत्र अंतरराष्ट्रीय वैज्ञानिक पैनल की प्रारंभिक रिपोर्ट, जुलाई 2026, 2.7, पेज 23 से). खास तौर पर, झूठे कंटेंट के बढ़ने से "लायर्स डिविडेंड" पैदा हो सकता है. यह उन लोगों को मिलने वाला फ़ायदा है जो अपनी जवाबदेही से बचने के लिए असली सबूतों को झूठा या AI-जेनरेटेड बता देते हैं (चेस्नी और सिट्रॉन, 2019). संयुक्त राष्ट्र शैक्षिक, वैज्ञानिक और सांस्कृतिक संगठन (यूनेस्को) ने डीपफ़ेक के बड़े खतरे को "जानकारी के संकट" के तौर पर परिभाषित किया है. ऐसा कंटेंट सिर्फ़ झूठ ही नहीं बोलता, बल्कि “समाज में आपसी समझ बनाने के तरीकों को भी कमज़ोर करता है.” इससे प्लेटफ़ॉर्म के एंगेजमेंट-आधारित पर्सनलाइज़ की हुई फ़ीड और सुझावों के पहले से मौजूद अनुनय प्रभाव और भी बढ़ सकते हैं, जहाँ बड़े पैमाने पर भ्रामक दावों को उनके कृत्रिम "सबूतों" के साथ पेश किया जाता है ( उपर्युक्त, 3.5 पर, पेज 37 से). यह समस्या पूरी दुनिया में है: एक स्टडी में एक साल के दौरान 38 देशों में मशहूर हस्तियों को निशाना बनाने वाले 82 डीपफ़ेक पाए गए, जिनमें एक चौथाई से ज़्यादा में मशहूर हस्तियों को झूठे बयान देते हुए दिखाया गया (राजनैतिक डीपफ़ेक के लक्ष्य, उद्देश्य और उभरती रणनीतियाँ, Recorded Future, सितंबर 2024). जैसा कि गैर-सरकारी संगठन CEE डिजिटल डेमोक्रेसी वॉच ने बोर्ड को सबमिट किए गए सार्वजनिक कमेंट में कहा है कि अगर कोई कार्रवाई नहीं की जाती है, तो डीपफ़ेक "ज्ञान संबंधी हेरफेर" को बढ़ावा दे सकते हैं और "उन सूचनात्मक परिस्थितियों को बिगाड़ सकते हैं जिनमें लोग राजनैतिक लोगों और पॉलिसीज़ पर अपनी राय बनाते हैं" (PC-32658).

राजनेताओं के कृत्रिम रूप का इस्तेमाल जब इमिग्रेशन जैसे विवादित विषयों पर उनके विचारों को गलत ढंग से दिखाने के लिए किया जाता है, तो नई समस्याएँ पैदा होती हैं, क्योंकि इनका अनुनय प्रभाव और भी गहरा हो सकता है. इस बात को दर्शाने वाले एक हाई-प्रोफ़ाइल केस में यूके की राजधानी लंदन के मेयर सादिक खान की एक वायरल कृत्रिम ऑडियो क्लिप शामिल थी, जिसमें आर्मिस्टिस डे के कार्यक्रमों और फ़िलिस्तीन-समर्थक प्रदर्शनों पर उनके विचारों को गलत ढंग से पेश किया गया था. यूके के डेटा साइंस और आर्टिफ़िशियल इंटेलिजेंस के राष्ट्रीय संस्थान, एलन ट्यूरिंग इंस्टीट्यूट ने रिपोर्ट दी है कि AI टूल्स का “यूके में आप्रवासियों के बारे में नुकसानदेह या नकारात्मक बातें फैलाने के लिए तेज़ी से दुरुपयोग किया जा रहा है” (PC-32552 और “आग में घी डालना: AI से जुड़ी जानकारी के लिए खतरे और संकट की घटनाएँ,” फ़रवरी 2026 देखें). यह गलत जानकारी, नफ़रत और अभिव्यक्ति की आज़ादी पर इनके असर के बीच के संबंध को लेकर दुनिया भर में जताई जा रही चिंताओं को दर्शाता है (AI, अभिव्यक्ति की आज़ादी और मीडिया की आज़ादी पर संयुक्त घोषणापत्र, मैंडेट होल्डर्स, अक्टूबर 2025). जब गलत जानकारी और नफ़रत एक-दूसरे से मिलते हैं, तो दुश्मनी, भेदभाव और हिंसा को बढ़ावा मिलने की आशंका भी बढ़ जाती है (नीचे नफ़रत फैलाने वाली भाषा का विश्लेषण देखें).

बोर्ड के अधिकांश सदस्यों का यह भी मानना है कि विश्व स्तर पर इस तरह की गलत जानकारी का असर उपेक्षित लोगों पर सबसे ज़्यादा होता है. इससे कुल मिलाकर इस माँग को और बल मिलता है कि सोशल मीडिया, डीपफ़ेक पर रोक लगाने के लिए और कड़े कदम उठाए. लोगों की नज़रों में महिलाएँ और लैंगिक सीमाओं का पालन न करने वाले लोग इस तरह के फ़र्जीवाड़े का असंगत रूप से निशाना बनते हैं (टिपिंग पॉइंट: AI के दौर में ऑनलाइन हिंसा का असर, उसके रूप और उससे राहत, UN Women, अप्रैल 2026). रिपोर्ट में पाया गया कि डीपफ़ेक अक्सर जान-बूझकर और आपस में मिलकर किए जाते हैं, जहाँ लक्षित हमलों से मानसिक स्वास्थ्य पर भारी असर पड़ता है और लोग खुलकर बोलने से डरते हैं. करीब आधी महिला पत्रकारों ने कहा कि वे ऐसे हमलों के डर से खुद पर पाबंदियाँ लगा लेती हैं. लैंगिक समानता के लिए काम करने वाली संयुक्त राष्ट्र (UN) की मुख्य इकाई UN Women ने यह भी डॉक्यूमेंट किया है कि महिलाओं के विरुद्ध डीपफ़ेक और लिंग आधारित भ्रामक प्रचार का लक्ष्य उन्हें "प्लेटफ़ॉर्म छोड़ने या सार्वजनिक जीवन से पूरी तरह बेदखल" होेने के लिए बाध्य करना है. संयुक्त राष्ट्र की एक अन्य स्टडी में बताया गया है कि महिलाओं के खिलाफ़ ऑनलाइन हमलों में फ़ोटो और वीडियो के ज़रिए होने वाला उत्पीड़न और बदनाम करने वाली "बनावटी कहानियाँ” बनाने के लिए AI का इस्तेमाल सबसे आम तरीकों में से हैं ( “आपकी राय से वैसे भी कोई फ़र्क नहीं पड़ता”: जेनरेटिव AI के दौर में टेक्नोलॉजी से होने वाली लिंग-आधारित हिंसा का खुलासा (दूसरा संस्करण), यूनेस्को, अप्रैल 2023). बोर्ड ने इससे पहले सार्वजनिक जीवन में महिलाओं के खिलाफ़ लक्षित दुर्व्यवहार के प्रति सोशल मीडिया कंपनियों की अपर्याप्त प्रतिक्रियाओं पर चिंता जताई है. इसमें यह रेखांकित किया गया है कि "ऑनलाइन हमलों का निशाना बनी महिलाओं की स्वतंत्र अभिव्यक्ति पर गंभीर प्रभाव पड़ता है. इससे सभी को कम जानकारी मिलने लगती है, क्योंकि इसके परिणामस्वरूप समाज में महिलाओं की आवाज़ कम सुनाई देती है" (सार्वजनिक हस्तियों को निशाना बनाने पर अकाउंट प्रतिबंध फ़ैसला देखें). स्पष्टता के लिए: इसका मतलब यह नहीं है कि टार्गेट की पहचान के आधार पर नए या अलग नियम बनाए जाएँ, बल्कि यह समझना ज़रूरी है कि AI के कपटपूर्ण इस्तेमाल से निपटने के लिए ज़्यादा मज़बूत तरीके अपनाना क्यों ज़रूरी है, ताकि इन खास और अलग-अलग तरह के असर से निपटा जा सके.

बोर्ड के ज़्यादातर सदस्यों के अनुसार, जनहित के मामलों में नेताओं की कथनी या करनी को असल जैसा दिखाने के लिए जेनरेटिव-AI के कपटपूर्ण इस्तेमाल से निपटने के एक मज़बूत तरीके में तीन बातें शामिल होंगी: a) ह्यूमन रिव्यू सहित AI से बने कंटेंट का पता लगाने की बेहतर क्षमता; b) "अत्यधिक जोखिम वाला" लेबल लगाने के बारे में लोगों के लिए स्पष्ट शर्तें; और c) साफ़ लेबलिंग या इंटरस्टिशियल जो धोखे की आशंका बताने के लिए पर्याप्त हों और इसके साथ ही नियमों को तोड़ने वाले यूज़र्स के लिए कंटेंट की रैंकिंग कम करने सहित लगातार बढ़ने वाली पेनल्टी शामिल हो. इस तरह के नज़रिए से लोगों की भागीदारी के अधिकारों को ज़्यादा सुरक्षा मिलेगी, जो उन पोस्ट को शेयर करने वाले लोगों की अभिव्यक्ति की आज़ादी पर पड़ने वाले बोझ से महत्वपूर्ण होगा.

a.) ह्यूमन रिव्यू सहित AI-जेनरेटेड कंटेंट का पता लगाने की बढ़ी हुई क्षमता

बोर्ड के ज़्यादातर सदस्यों के अनुसार, ऑटोमेटेड कंटेंट मॉडरेशन में Meta जो लगातार निवेश कर रहा है, उससे बड़े पैमाने पर AI-जेनरेटेड कंटेंट को पकड़ना आसान हो सकता है. इसमें इंडस्ट्री स्टैंडर्ड सोर्स सिग्नल के ज़रिए ऐसा करना और क्लासिफ़ायर-आधारित पहचान को बेहतर बनाना भी शामिल है. फिर भी, नुकसानदेह AI कंटेंट की पहचान में यूज़र और थर्ड पार्टी की रिपोर्टिंग के साथ ह्यूमन रिव्यू को भी महत्वपूर्ण भूमिका निभाते रहना चाहिए. यह खास तौर पर तब ज़रूरी है जब AI का इस्तेमाल ज़रूरी मामलों में लोगों को धोखा देने के लिए किया जा रहा हो. बोर्ड के ज़्यादातर सदस्य यह मानते हैं कि बड़े पैमाने पर AI के इस्तेमाल को पकड़ने के तरीके, बड़े पैमाने पर धोखाधड़ी के इरादे को पकड़ने की समस्या का समाधान नहीं करते. इसके लिए अक्सर विशेषज्ञों की मदद और मज़बूत थर्ड-पार्टी फ़ैक्ट-चेकिंग के साथ संदर्भ-आधारित जाँच की ज़रूरत होगी.

b.) "अत्यधिक जोखिम वाला" लेबल लगाने के लिए स्पष्ट सार्वजनिक शर्तें

जैसा कि ऊपर बताया गया है, "अत्यधिक जोखिम वाला" AI लेबल लगाने के लिए Meta की गैर-सार्वजनिक शर्तें बहुत कठोर हैं. बोर्ड इस बात को लेकर चिंतित है कि यह सरल नज़रिया, सार्वजनिक बातचीत पर जान-बूझकर कपटपूर्ण बनाए गए AI-संचालित मीडिया के असर को बहुत कम आँकता है. ये हस्तक्षेप, जो कंटेंट हटाने से काफ़ी दूर हैं, खास तौर पर सिर्फ़ आने वाले संकटों या चुनावों तक सीमित नहीं रखे जाने चाहिए. इस दूसरे विषय पर, अभिव्यक्ति की आज़ादी पर संयुक्त राष्ट्र के विशेष रैपर्टर के अनुसार "चुनावी दुष्प्रचार का जीवनचक्र केवल मतदान तक सीमित नहीं है बल्कि यह चुनाव से काफ़ी पहले शुरू होता है और चुनाव के बाद भी जारी रहता है, जो राजनैतिक चर्चा को बिगाड़ता है और लोकतांत्रिक समाजों को ध्रुवीकृत करता है" ( A/HRC/59/50, पैरा. 8). विशेष रैपर्टर ने बात पर भी ज़ोर दिया कि “चुनाव की निष्पक्षता और जानकारी की निष्पक्षता आपस में गहराई से जुड़ी हुई हैं” और डिजिटल प्लेटफ़ॉर्म्स ने जानकारी के हेरफेर को “दुष्प्रचार, गलत जानकारी और नफ़रत फैलाने वाली भाषा की सुनामी” में बदल दिया है. इसके परिणाम “राजनैतिक विरोधियों, अल्पसंख्यकों, आप्रवासियों और अन्य उपेक्षित समूहों” के लिए “गंभीर” रहे हैं. (पूर्वोक्त, पैरा.) 3-4). Meta को असाधारण घटनाओं के अलावा अन्य मामलों में भी गलत जानकारी और दुष्प्रचार पर लेबल लगाना चाहिए. यह देखते हुए कि कंपनी ऐसा कंटेंट हटाती नहीं है, लेबल लगाने की शर्तें कम कठोर होनी चाहिए.

c.) बढ़ती हुई रुकावटें और पेनल्टी

अंत में, बोर्ड के ज़्यादातर सदस्यों का मानना है कि Meta के मौजूदा "अत्यधिक जोखिम वाला" AI लेबल और एन्फ़ोर्समेंट के संबंधित तरीके, सार्वजनिक भागीदारी के लिए गंभीर जोखिम पैदा करने वाले कपटपूर्ण AI-जेनरेटेड कंटेंट को शेयर करने से रोकने के लिए अपर्याप्त हैं. इसके लिए Meta को यह पता लगाना होगा कि लेबल या इंटरस्टिशियल जैसे कड़े उपायों का इस्तेमाल कैसे किया जा सकता है, ताकि यूज़र्स जब कपटपूर्ण कंटेंट देखें, तभी उनके इंटरैक्शन में रुकावट डाली जा सके, न कि सिर्फ़ उसे शेयर करते समय. उद्देश्य को अच्छी तरह स्पष्ट करने के लिए लेबल की भाषा में बदलाव करना पड़ सकता है, जो कि फिलहाल तटस्थ है (लेबल में सीधे तौर पर कपट के जोखिम का उल्लेख नहीं है). जो लोग इस तरह का कंटेंट पोस्ट करते हैं, उन्हें Meta के नियमों की जानकारी दी जानी चाहिए और उनकी पोस्ट पर लेबल लगाने के साथ-साथ उन पर कार्रवाई भी होनी चाहिए, ताकि लोग नियम तोड़ने से डरें. जैसा कि Meta के थर्ड-पार्टी फ़ैक्ट-चेकर्स द्वारा "गलत" बताए गए कंटेंट के मामले में होता है, जो यूज़र्स ऐसा कंटेंट पोस्ट करते हैं जिसे बाद में "अत्यधिक जोखिम वाला" लेबल किया जाता है, उन्हें यह बताया जाना चाहिए कि उनकी पोस्ट को सुझावों से हटा दिया गया है या यूज़र फ़ीड में उसकी रैंकिंग कम कर दी गई है. इस तरह का कंटेंट पोस्ट करने वाले यूज़र्स को भी स्ट्राइक मिलनी चाहिए जिससे बार-बार उल्लंघन करने पर बढ़ती हुई कार्रवाई की जा सके. इसमें फ़ीचर सीमित करना और मॉनेटाइज़ेशन प्रोग्राम से हटाना शामिल हो सकता है.

बोर्ड के कुछ सदस्यों का मानना है कि इस पोस्ट से Meta के हेरफेर किए गए मीडिया से जुड़े नियमों का उल्लंघन नहीं होता और वे चिंतित हैं कि ज़्यादातर सदस्यों की राय, राजनैतिक बातचीत पर भारी पाबंदियों को रोक नहीं पाएगी. अंतरराष्ट्रीय मानवाधिकार स्टैंडर्ड, सार्वजनिक बहस में “सार्वजनिक और राजनैतिक जीवन के लोगों से संबंधित” अभिव्यक्ति के विशेष महत्व को स्वीकार करते हैं (सामान्य कमेंट 34, पैरा. 34). बोर्ड के इन कुछ सदस्यों के अनुसार, बोर्ड के राष्ट्रपति बाइडेन का छेड़छाड़ किया गया वीडियो केस के पुराने फ़ैसले के मुताबिक, इस कंटेंट पर “AI से ली गई जानकारी” लेबल तो होना चाहिए, लेकिन “अत्यधिक जोखिम वाला” लेबल और अभिव्यक्ति को रोकने वाले उन अतिरिक्त फ़ीचर्स की ज़रूरत नहीं है जिन्हें ज़्यादातर सदस्य Meta को लागू करने को कह रहा है.

यह बात लंबे समय से अभिव्यक्ति की आज़ादी के सिद्धांतों में स्वीकार की गई है कि राजनैतिक अभिव्यक्ति से जुड़े ऐसे मामलों में स्पीकर्स को बात को बढ़ा-चढ़ाकर कहने और झूठ बोलने तक की भी व्यापक छूट मिलनी चाहिए. बोर्ड के ज़्यादातर सदस्यों की राय का तार्किक निष्कर्ष यह निकलता है कि राजनेताओं के विचारों या कामों को AI के ज़रिए गलत तरीके से पेश करना लोकतंत्र के लिए इतना खतरनाक है कि अगर ऐसी छेड़छाड़ आम लोगों को आसानी से समझ नहीं आती है, तो ऐसी हर पोस्ट को Meta की मौजूदा पॉलिसीज़ से भी ज़्यादा कठोरता से हटाया जाना चाहिए. राष्ट्रपति बाइडेन के डीपफ़ेक वीडियो वाले केस का हवाला देते हुए बोर्ड ने कहा था कि उसमें वीडियो हटाने के बजाय उस पर लेबल लगाने जैसे कम कठोर कदम, यूज़र्स को उसकी सच्चाई बताने में मददगार हो सकते हैं. इस केस को उससे इस आधार पर अलग नहीं किया जा सकता कि उसमें फ़र्जी वीडियो साफ़ दिख रहा था, क्योंकि उस फ़ैसले की मुख्य वजह नुकसान से निपटने के लिए कम कठोर विकल्पों (यानी लेबलिंग) का मौजूद होना था.

बोर्ड के इन कुछ सदस्यों के अनुसार, राजनैतिक व्यंग्य के जाने-पहचाने रूप में मौजूद अभिव्यक्ति पर डिमोशन या अन्य पेनल्टी लगाना खास तौर पर मुश्किल है, जैसा कि इस केस में देखा गया है. इस वीडियो में एक राजनेता के विचारों को बढ़ा-चढ़ाकर और असलियत से अलग दिखाया गया है, जिसका उद्देश्य उनके गंभीर परिणामों की संभावना को सामने लाना है. इस मामले में वीडियो का अप्रत्यक्ष दावा यह है कि स्थानीय काउंसलर "शरणार्थियों का स्वागत" करने की अपनी चाहत में इतनी आगे बढ़ गई हैं कि वह बलात्कारियों का भी स्वागत करने को तैयार हैं. इस व्यंग्य में तीखापन इसलिए है क्योंकि हाल ही में यूके के कुछ नेताओं पर ऐसे मामलों को नज़रअंदाज़ करने का आरोप लगा है, जिनमें शरण चाहने वाले लोगों द्वारा की गई हिंसा (नाबालिगों पर यौन हिंसा सहित) के मामले सामने आए थे. इसे लेकर राष्ट्रीय ऑडिट के बाद, ग्रूमिंग गैंग्स की स्वतंत्र कानूनी जाँच शुरू की गई है. इस जाँच में यह पता किया जाएगा कि क्या नस्ल और जातीयता की संवेदनशीलता के कारण यौन अपराधों के पीड़ितों और बचे हुए लोगों की सुरक्षा में चूक हुई. यह माँग करना कि Meta किसी पोस्ट को हटा दे क्योंकि वह इस नेता के विचारों को गलत ढंग से दिखाती है, राजनैतिक अभिव्यक्ति की एक खास शैली को सुरक्षा न देने जैसा है और यह मुद्दा इस समय लोगों के बीच बहुत ज़रूरी और चर्चा में है. बोर्ड के नियमों के अनुसार वीडियो पर “AI-जेनरेटेड” लेबल होना चाहिए, लेकिन इसकी पहुँच कम करने के अन्य उपाय (जैसे डिमोशन या ज़्यादा कठोर लेबल) अभिव्यक्ति की आज़ादी पर अनुचित प्रतिबंध होगा. बोर्ड के कुछ सदस्यों का यह भी कहना है कि "अत्यधिक जोखिम वाला AI" लेबल सिर्फ़ तभी लगाया जाता है जब मामले को Meta के विषयवस्तु विशेषज्ञों को एस्केलेट किया जाता है और इसलिए यह बहुत ही कम मामलों में इस्तेमाल होता है. इसे देखते हुए ज़्यादा इस्तेमाल होने वाले "AI से ली गई जानकारी" लेबल का यह फ़ायदा होगा कि यह बड़े पैमाने पर और अलग-अलग यूज़र्स, सोच और संदर्भों में एक समान रूप से इस्तेमाल हो पाएगा. बोर्ड के कुछ सदस्यों का यह भी कहना है कि जब वीडियो पोस्ट हुआ, तब Meta, सोर्स मार्कर या भरोसेमंद पार्टनर के फ़्लैग के बिना अपने आप AI के इस्तेमाल को नहीं पकड़ सकता था और इस कंटेंट में ये दोनों संकेत नहीं थे. AI कंटेंट का आकलन करने में आत्मविश्वास की यह कमी, इस बात को और स्पष्ट करती है कि सिर्फ़ AI-जेनरेटेड होने के आधार पर कंटेंट को हटाने के कठोर तरीके अपनाने में क्या चुनौतियाँ और जोखिम हैं.

बोर्ड के कुछ अन्य सदस्यों के अनुसार, ऊपर दी गई गंभीर चिंताओं को ध्यान में रखते हुए, Metaके पास कंटेंट को हटाना ही सबसे कम कठोर और असरदार तरीका है. बोर्ड ने बार-बार यह बताया है कि Meta कई केसों में कम रुकावट डालने वाले "जानकारी देने वाले" लेबल लगाने में विफल रहा है (उदाहरण के लिए, ईरान-इज़राइल संघर्ष में AI-जेनरेटेड वीडियो देखें). कंपनी का दावा है कि वह इन जोखिमों को गंभीरता से लेती है, लेकिन Meta ने AI के कपटपूर्ण इस्तेमाल के मामलों में बहुत ही कम पोस्ट पर ये लेबल लगाए हैं और ऐसा लगता है कि वह AI के इस्तेमाल की जानकारी छिपाने वाले यूज़र्स पर शायद ही कभी कोई कार्रवाई करता है. जो उपाय सिर्फ़ कागज़ पर मौजूद हैं और बहुत कम इस्तेमाल किए जाते हैं, वे असल में उपलब्ध नहीं होते और उनका कोई असर नहीं होता.

बोर्ड की राउंडटेबल बैठक में, लोगों ने राजनेताओं के असली जैसे दिखने वाले डीपफ़ेक के असर और जनता की भागीदारी पर उसके बुरे असर को रोकने के काम में लेबलिंग के कारगर होने पर बड़े सवाल खड़े किए. यह स्थिति तब खास तौर पर बुरी हो जाती है जब लेबलों के साथ कंटेंट की पहुँच को सीमित नहीं किया जाता और न ही उन यूज़र्स पर पेनल्टी लगाई जाती है जो बार-बार ऐसा काम करते हैं. इन पेनल्टी का उद्देश्य उन्हें जागरूक करना और दोबारा गलती करने से रोकना होता है. ये चिंताएँ तब और बढ़ जाती हैं जब थर्ड-पार्टी फ़ैक्ट-चेकिंग जैसे कम रुकावट वाले अन्य उपाय भी इस चुनौती का सामना करने के लिए ज़रूरी मदद या दायरे के साथ काम नहीं कर रहे होते. बोर्ड के इन कुछ सदस्यों के लिए चिंता पहचान करने की तकनीकी क्षमताओं को लेकर नहीं है, बल्कि Meta की पॉलिसी से जुड़ी पसंद को लेकर है कि लेबलिंग के लिए इतनी ऊँची शर्तें रखी जाएँ कि तथाकथित “अत्यधिक जोखिम “ वाले लेबल व्यावहारिक रूप से कभी लागू ही न हों. उनकी चिंता इस बात को लेकर भी नहीं है कि उसने इस लेबलिंग को पहुँच कम करने के अन्य उपायों के साथ नहीं जोड़ा है या बड़े पैमाने पर AI के कपटपूर्ण इस्तेमाल के लिए अन्य पेनल्टी को मज़बूत नहीं किया है. राजनेताओं की कथित करनी या करनी के झूठे डॉक्यूमेंट का लोगों के लिए कोई खास मतलब नहीं है, इसलिए ये सदस्य इसे हटाना सही मानते हैं: इससे स्पीकर पर जो बोझ पड़ता है, वह लोगों की भागीदारी और लोकतंत्र को बचाने के फ़ायदे से काफ़ी कम है.

राय में ऐसे अंतर होने के बावजूद, बोर्ड का यह भी कहना है कि कानूनी तौर पर, गलत जानकारी और लेबल के इस्तेमाल के Meta के नियमों को तीन बातों में स्पष्ट किया जा सकता है ( सामान्य कमेंट सं. 34, पैरा. 25; रिपोर्ट A/HRC/38/35, पैरा. 46). पहली, पॉलिसी बनाने के कारण में कही गई इस बड़ी बात कि Meta ऐसा "कंटेंट हटाता है जिससे राजनैतिक प्रक्रियाओं के कामकाज में सीधे हस्तक्षेप पड़ने की संभावना होती है," और उसके बाद दिए गए नियमों के बीच तालमेल नहीं है. ये नियम सिर्फ़ "मतदान या जनगणना में हस्तक्षेप" से जुड़े कुछ खास दावों पर रोक लगाते हैं, जिनमें से कुछ सिर्फ़ अमेरिका से संबंधित हैं. गलत जानकारी से जुड़ी पॉलिसी बनाने के कारण में यह स्पष्ट किया जाना चाहिए कि यह सिर्फ़ चुनाव में हिस्सा लेने के तरीकों और सुरक्षा से सीधे संबंधित गलत जानकारी को हटाती है. साथ ही इसके नियमों में सभी देशों के लिए खास उदाहरण शामिल किए जाने चाहिए ताकि वे दुनिया भर के लिए प्रासंगिक हों.

दूसरी, एक चिंता यह भी है कि पॉलिसी में AI के इस्तेमाल का खुलासा न करने पर लगने वाली पेनल्टी या उन शर्तों को स्पष्ट नहीं किया गया है जिनके तहत ऐसी पेनल्टी लगाई जाती हैं, इसलिए ज़्यादा जानकारी देने की ज़रूरत है. तीसरी, हेरफेर किए गए मीडिया से जुड़े नियम ऐसी कोई जानकारी नहीं देते कि Meta "सार्वजनिक महत्व के किसी विषय पर जनता को गंभीर रूप से धोखा देने के खास तौर पर अत्यधिक जोखिम" को कैसे परिभाषित करता है. बोर्ड के ज़्यादातर सदस्य ज़्यादा कठोर उपायों और उन्हें लागू करने की कम कठोर शर्तों का समर्थन करते हैं (जैसा कि सुझावों में बताया गया है), फिर भी बोर्ड इस बात पर सहमत है कि इस बारे में ज़्यादा स्पष्टता और इन उपायों के इस्तेमाल की फ़्रीक्वेंसी पर ज़्यादा पारदर्शिता, Meta के नियमों और एन्फ़ोर्समेंट संबंधी उसकी कोशिशों को लोगों को समझाने में ज़्यादा उपयोगी होंगे.

नफ़रत फैलाने वाली भाषा

बोर्ड ने पाया है कि यह वीडियो नफ़रतपूर्ण आचरण से जुड़े कम्युनिटी स्टैंडर्ड का उल्लंघन करता है. बोर्ड के ज़्यादातर सदस्यों के अनुसार यह वीडियो बिना किसी फ़िल्टर के, शरणार्थियों के समूह पर उनकी पहचान के आधार पर गंभीर आपराधिकता और यौन शोषण का व्यवहार करने का आरोप लगाता है. इसमें टार्गेट का स्पष्ट उल्लेख किया गया है (“हमारे यहाँ शरणार्थियों का स्वागत है”) और पूरे समूह पर गंभीर अपराध का आरोप लगाया गया है (“भले ही वे हमारी महिलाओं का बलात्कार करें”). यह कथन, लोगों के बारे में सामान्य धारणा बनाने से जुड़ी परिभाषा को पूरा करता है और यूके में आप्रवासियों को एक सुरक्षा खतरे के रूप में, खास तौर पर महिलाओं और लड़कियों के लिए, पेश करने की दशकों पुरानी कोशिशों को आगे बढ़ाता है. यह निष्कर्ष, बोर्ड के यूरोपियन यूनियन की आव्रजन पॉलिसी और अप्रवासियों की आलोचना फ़ैसले के अनुरूप है. उस केस में, बोर्ड के ज़्यादातर सदस्यों ने पाया था कि आप्रवासियों की AI-जेनरेटेड फ़ोटो, जिसमें लिखा था कि जर्मनी को और "गैंग रेप स्पेशलिस्ट" की ज़रूरत नहीं है, इसी आधार पर नियमों का उल्लंघन कर रही थी.

बोर्ड के ज़्यादातर सदस्यों के अनुसार, नफ़रतपूर्ण आचरण नियमों के तहत पोस्ट को हटाना, Meta की मानवाधिकारों से जुड़ी ज़िम्मेदारियों के अनुरूप है. कम्युनिटी स्टैंडर्ड स्पष्ट है, वैधानिकता के सिद्धांत का पालन करता है और समानता और खुद से भेदभाव न होने देने के दूसरों के अधिकारों की रक्षा के लिए इसे हटाना जरूरी है (अनुच्छेद 19, पैरा. 3, ICCPR; अनुच्छेद 2, पैरा. 1, ICCPR).

कंटेंट को हटाना उचित है क्योंकि शरणार्थियों को भेदभाव, दुश्मनी और हिंसा से सुरक्षित रखने का महत्व, यूज़र की अभिव्यक्ति की आज़ादी पर प्रतिबंध से ज़्यादा है (सामान्य कमेंट सं. 34, पैरा. 34). संयुक्त राष्ट्र के रबात एक्शन प्लान और हिंसा, दुश्मनी या भेदभाव भड़काने पर लगाए गए प्रतिबंधों के अनुपात का आकलन करने वाले उसके छह कारकों के तहत, ये जोखिम वास्तविक और निकट हैं.

इस केस में सामाजिक और राजनैतिक संदर्भ खास तौर पर महत्वपूर्ण है. यूके में कथित शरणार्थी या आप्रवासी लोगों को निशाना बनाकर अक्सर हिंसा होती रही है, जैसा कि संयुक्त राष्ट्र की नस्लीय भेदभाव खत्म करने वाली समिति ने अपनी रिपोर्ट (यूके पर अंतिम निष्कर्ष, 2024) में बताया है और इसे यूके के दंगों का समर्थन करने वाली पोस्ट केस में भी डॉक्यूमेंट किया गया है. उस केस से साबित हुआ कि ऑनलाइन दुष्प्रचार के कारण हिंसा भड़की है. बोर्ड द्वारा उस फ़ैसले को प्रकाशित किए जाने के बाद से अभी तक नागरिक संगठन इसे डॉक्यूमेंट कर रहे हैं ( वर्ल्ड रिपोर्ट 2026, ह्यूमन राइट्स वॉच, फ़रवरी 2026; और स्टेट ऑफ़ हेट रिपोर्ट, होप नॉट हेट, मार्च 2026).

Meta के एन्फ़ोर्समेंट मार्गदर्शन में जन्मजात गुणों और व्यवहार से जुड़े बयानों के बीच किया गया फ़र्क बहुत ही मशीनी है: "शरणार्थी बलात्कार करते हैं" कहना तो चल जाएगा है, लेकिन "शरणार्थी बलात्कारी होते हैं" कहना नहीं. यह इरादे, कंटेंट या नुकसान की आशंका से ज़्यादा व्याकरण पर निर्भर करता है, जो सभी रबात एक्शन प्लान में प्रासंगिक कारक है. इस पोस्ट का इरादा शरणार्थियों को एक समूह के तौर पर नीचा दिखाना और इस सोच को बढ़ावा देना है कि शरणार्थियों का झुकाव हिंसा की ओर होता है. बोर्ड के ज़्यादातर सदस्यों के अनुसार, यह कहना कि गोरे लोग भी बलात्कार करते हैं, एक मज़ाक है और इसका उद्देश्य उन लोगों का मज़ाक उड़ाना है जो शरणार्थियों से सहानुभूति रखते हैं; ऐसे संदर्भ में जहाँ असल में गोरे लोगों को इस नुकसानदेह रूढ़िवाद का सामना नहीं करना पड़ता, इसका भेदभावपूर्ण असर वैसा नहीं होता.

Meta के प्लेटफ़ॉर्म पर इस तरह का कंटेंट बनाए रखने से ऐसा माहौल बनता है जहाँ भड़काने वाली कुछ घटनाओं के बाद शरणार्थियों और जातीय या धार्मिक अल्पसंख्यकों के खिलाफ़ हिंसा और भेदभाव आसानी से फैल सकता है (यूके के दंगों का समर्थन करने वाली पोस्ट देखें). बोर्ड के ज़्यादातर सदस्यों के अनुसार, Meta की मानवाधिकार से जुड़ी ज़िम्मेदारियाँ सिर्फ़ बड़े पैमाने पर नस्लवादी हिंसा रोकने तक ही सीमित नहीं हैं, बल्कि वह रोज़मर्रा के उन भेदभावों और दुश्मनी को भी रोकती हैं जो ऐसी घटनाओं से पहले देखी जाती है. जैसा कि बोर्ड के ज़्यादातर सदस्यों ने यूरोपियन यूनियन की आव्रजन पॉलिसी और अप्रवासियों की आलोचना फ़ैसले में कहा था, “हर कंटेंट के बड़े पैमाने पर असर का आकलन करने में आने वाली चुनौती और ऑनलाइन रूप से वायरल होने की अप्रत्याशित प्रकृति के कारण, यह उचित लगता है कि मॉडरेशन में Meta ज़्यादा सावधानी से अपने कदम उठाए. अगर Meta, नफ़रत फैलाने वाली ऐसी सभी भाषा को परमिशन देता है जो ICCPR के आर्टिकल 20 के तहत उकसावे की सीमा में नहीं आती, तो Meta के प्लेटफ़ॉर्म अल्पसंख्यकों और उपेक्षित समूहों के लिए अपनी भावनाओं को व्यक्त करने के असहनशील और असुरक्षित स्थान बन जाएँगे.” बोर्ड के ज़्यादातर सदस्यों के अनुसार इसे हटाना ज़रूरी है क्योंकि ऐसा कोई कम कठोर उपाय नहीं है जो पर्याप्त सुरक्षा दे सके.

बोर्ड के कुछ सदस्यों के अनुसार, वीडियो में मौजूद यह बयान तीन अलग-अलग कारणों से नफ़रतपूर्ण आचरण पॉलिसी का उल्लंघन नहीं करता. पहला, यह वीडियो शरणार्थियों के संबंध में सीधा बयान नहीं है, बल्कि यह एक राजनेता के कथित बयान का (हेरफेर किया गया) रूप है. वीडियो में यह मैसेज दिया गया है कि इस राजनेता को इस बात की परवाह नहीं है कि शरणार्थी बलात्कारी हैं या नहीं; वे उन सभी का स्वागत करेंगी. यह उस राजनेता के बारे में मैसेज है, न कि शरणार्थियों के वर्ग के बारे में.

दूसरी, अगर राजनेता के कहे शब्दों को सीधे तौर पर मान भी लिया जाए, तो भी वीडियो में यह नहीं कहा गया है कि सभी शरणार्थी या ज़्यादातर शरणार्थी या बड़ी संख्या में शरणार्थी बलात्कारी हैं. वीडियो में यह दावा किया गया है कि यह राजनेता सभी शरणार्थियों का स्वागत करती हैं, चाहे वे बलात्कारी हों या न हों, क्योंकि "गोरे लोग" भी तो बलात्कार करते हैं. यह पोस्ट सिर्फ़ इस दावे के रूप में सही लगती है कि राजनेता के लिए खतरनाक और सुरक्षित शरणार्थियों के बीच अंतर न करना गलत है, जो ब्रिटेन के यूज़र्स के लिए खास तौर पर स्पष्ट होगा क्योंकि इन मुद्दों पर व्यापक रूप से सार्वजनिक बहस हो चुकी है (ऊपर देखें).

तीसरी, नफ़रतपूर्ण आचरण संबंधी पॉलिसी के आधार पर राजनैतिक अभिव्यक्ति को हटाने की शर्तें कठोर हैं और होनी भी चाहिए. खास तौर पर पॉलिसी से जुड़ी बहसों के संदर्भ में, जो अक्सर उन लोगों के समूहों से जुड़ी सामान्य धारणा के बारे में बात करती हैं जो उन पॉलिसी से सबसे ज़्यादा प्रभावित होते हैं. यह बात अपमानजनक और भेदभावपूर्ण लग सकती है. बोर्ड के कुछ सदस्यों के अनुसार, कुछ समूहों की जन्मजात विशेषताओं के बारे में प्रतिबंधित सामान्यीकरण उन समूहों के कुछ सदस्यों के आचरण के बारे में कथनों के बीच Meta द्वारा रखा गया अंतर, अभिव्यक्ति की आज़ादी के वैश्विक सिद्धांतों के अनुरूप है. बोर्ड के ज़्यादातर सदस्यों की राय, जो नफ़रत फैलाने वाली भाषा से होने वाले "कुल नुकसान" के विचार पर आधारित है, अंतरराष्ट्रीय मानवाधिकार कानून के तहत अभिव्यक्ति पर प्रतिबंध को सही साबित करने के लिए नुकसान के सीधे असर को साबित करने की ज़रूरत को काफ़ी हद तक नहीं मानती और यह भी नहीं मानती कि नुकसान निकट भविष्य में और संभावित होना चाहिए (यूरोपियन यूनियन की आव्रजन पॉलिसी और अप्रवासियों की आलोचना में कुछ सदस्यों की राय देखें). नुकसान की आशंका और उसकी तात्कालिकता को स्पष्ट रूप से दिखाए बिना, सिर्फ़ कुल नुकसान की धारणा पर निर्भर रहना, अभिव्यक्ति को सिर्फ़ इसलिए सीमित करने जैसा है क्योंकि वह कोई विरोधी विचार व्यक्त करती है. यह स्पष्ट रूप से अंतरराष्ट्रीय मानवाधिकार मानदंडों का उल्लंघन है.

धमकाना और उत्पीड़न

बोर्ड का निष्कर्ष है कि राजनेता का वीडियो धमकाना और उत्पीड़न कम्युनिटी स्टैंडर्ड का उल्लंघन नहीं करता, क्योंकि वे एक सार्वजनिक हस्ती हैं और "छेड़छाड़ करके बनाई गई अवांछित फ़ोटो" पर रोक का फ़ायदा उन्हें नहीं मिलता.

अंतरराष्ट्री मानवाधिकार स्टैंडर्ड के अनुसार, सार्वजनिक मामलों उनकी प्रभावशाली भूमिका के मद्देनज़र, राजनेताओं और सार्वजनिक अधिकारियों को निजी व्यक्तियों की तुलना में ज़्यादा जाँच और आलोचना सहने की ज़रूरत है और जनता के पास उन्हें जवाबदेह ठहराने का अधिकार होता है (सामान्य कंमेंट सं. 34, पैरा. 11, 38 देखें). सार्वजनिक और आम लोगों में अंतर करने से यह सुनिश्चित होता है कि अभिव्यक्ति पर लगने वाला प्रतिबंध, आवश्यकता और आनुपातिकता के नियमों का पालन करे.

साथ ही, बोर्ड ने यह भी कहा कि कम्युनिटी स्टैंडर्ड में Meta की “सार्वजनिक हस्तियों” की परिभाषा को स्पष्ट करने की ज़रूरत है. इसके अनुसार सार्वजनिक हस्तियों का तात्पर्य "राज्य और राष्ट्रीय स्तर के सरकारी अधिकारियों और उनके राजनैतिक उम्मीदवारों" से है और इसमें स्थानीय या शहरी स्तर के सभी निर्वाचित अधिकारी शामिल नहीं हैं. बोर्ड का विचार है कि इन लोगों को मीडिया में चर्चा या सोशल मीडिया पर उनकी पहुँच के आधार पर नहीं, बल्कि उनके चुने हुए सार्वजनिक पद के कारण सार्वजनिक हस्ती माना जाना चाहिए. Meta अपने एन्फ़ोर्समेंट में ऐसा ही रुख अपनाता नज़र आ रहा है (जैसा कि उसके सबमिशन से पता चलता है), लेकिन उसके सार्वजनिक नियमों में यह बात स्पष्ट होनी चाहिए.

6. ओवरसाइट बोर्ड का फ़ैसला

बोर्ड ने कंटेंट को बनाए रखने के Meta के फ़ैसले को बदलते हुए उस पोस्ट को नफ़रतपूर्ण आचरण से जुड़े कम्युनिटी स्टैंडर्ड के तहत हटाने के लिए कहा. इस केस पर विचार करते हुए, बोर्ड को गलत जानकारी संबंधी कम्युनिटी स्टैंडर्ड के तहत लेबल लगाने की पॉलिसी में कमियाँ भी मिली हैं और बोर्ड ने इस बारे में सुधार के लिए नीचे बताए गए सुझाव दिए हैं.

7. सुझाव

A. कंटेंट पॉलिसी:

1. सार्वजनिक भागीदारी के यूज़र्स के अधिकारों और जानकारी की निष्पक्षता की रक्षा के लिए, Meta को “अत्यधिक जोखिम वाला” लेबलों के लिए अपनी हेरफेर किए गए मीडिया संबंधी पॉलिसी में बदलाव करना चाहिए ताकि इन लेबलों को लागू करने की शर्तों की कठोरता कम की जा सके और यह सुनिश्चित किया जा सके कि यह सिर्फ़ संकट या चुनाव की निष्पक्षता का उपाय नहीं है.

बोर्ड इस सुझाव को तब लागू मानेगा जब Meta, बोर्ड को अपडेट किया गया एन्फ़ोर्समेंट गाइडेंस उपलब्ध कराएगा, जिसमें “अत्यधिक जोखिम वाला” लेबल लागू करने के लिए ढीली की गई शर्तों को दिखाया गया हो.

2. सार्वजनिक भागीदारी के यूज़र्स के अधिकारों और जानकारी की निष्पक्षता की रक्षा के लिए, Meta को AI-जेनरेटेड या "अत्यधिक जोखिम वाला AI" के तौर पर लेबल किए गए कंटेंट को देखने वाले यूज़र्स के लिए रुकावटें बढ़ानी चाहिए; जैसे कि सिर्फ़ लेबल के बजाय बीच में कोई इंटरस्टिशियल दिखाना.

बोर्ड इस सुझाव को तब लागू माना जाएगा जब Meta इस बात का सबूत देगा कि इस यूज़ केस के लिए रुकावटें, जैसे इंटरस्टिशियल, बढ़ाई गई हैं.

3. सार्वजनिक भागीदारी के यूज़र्स के अधिकारों और जानकारी की निष्पक्षता की रक्षा के लिए, वह “अत्यधिक जोखिम वाला” लेबल वाले सभी कंटेंट पर डिमॉनेटाइज़ करने, डिमोट करने या सुझावों से हटाने की कार्रवाई करे. अगर “अत्यधिक जोखिम” लेबल वाले कंटेंट को बार-बार शेयर किया जाता है, तो अकाउंट पर पेनल्टी को धीरे-धीरे बढ़ाया जाए.

बोर्ड इस सुझाव को तब लागू मानेगा जब Meta इन बदलावों को दर्शाने के लिए अपनी छेड़छाड़ किए गए मीडिया संबंधी पॉलिसी को अपडेट करेगा और बोर्ड को सबूत देगा कि ऐसी पेनल्टी लागू की जा रही हैं.

4. यह स्पष्ट करने के लिए कि Meta की गलत जानकारी संबंधी पॉलिसी पूरी दुनिया के यूज़र्स पर लागू होती है, उसे यह सुनिश्चित करना चाहिए कि मतदान और जनगणना में हस्तक्षेप के नियम और उदाहरण पूरी दुनिया में लागू होने के लिए बनाए जाएँ, न कि सिर्फ़ अमेरिका में.

बोर्ड इस सुझाव को तब लागू मानेगा जब Meta अपने गलत जानकारी संबंधी कम्युनिटी स्टैंडर्ड को यह सुनिश्चित करने के लिए अपडेट करेगा कि सभी उदाहरण पूरी दुनिया पर लागू हों.

B. पारदर्शिता:

5. हेरफेर किए गए मीडिया संबंधी अपनी पॉलिसी के एन्फ़ोर्समेंट के बारे में पारदर्शिता बेहतर बनाने के लिए, Meta अपने ट्रांसपेरेंसी सेंटर में वार्षिक डेटा सार्वजनिक करे और बताए कि कितनी बार कंटेंट पर “अत्यधिक जोखिम वाला” और “अत्यधिक जोखिम वाला AI” लेबल लगाए गए हैं, जिसमें राजनेताओं के कंटेंट या उनसे जुड़े कंटेंट पर लगाए गए लेबल की संख्या भी शामिल है.

बोर्ड इस सुझाव को तब लागू मानेगा जब Meta इस जानकारी को अपने ट्रांसपेरेंसी सेंटर में खबरों में रहने लायक होने से जुड़ी छूट के बारे में अपने वार्षिक डिस्क्लोज़र जैसे फ़ॉर्मेट में प्रकाशित करेगा.

6. गलत जानकारी से जुड़ी रुकावटों की प्रभावशीलता संबंधी रिसर्च में मदद करने के लिए, Meta को यह सुनिश्चित करना चाहिए कि गलत जानकारी से जुड़ी पॉलिसी के अंतर्गत आने वाले सभी लेबल ("AI जानकारी," "अत्यधिक जोखिम वाला" या "अत्यधिक जोखिम वाला AI"), Meta कंटेंट लाइब्रेरी में मौजूद कंटेंट पर दिखाई दें और जिस कंटेंट पर ये लेबल लगाए गए हैं, उन्हें फ़िल्टर के ज़रिए सर्च किया जा सके.

बोर्ड इस सुझाव को तब लागू मानेगा जब Meta यह दिखाएगा कि यह कार्यात्मकता काम कर रही है.

बोर्ड ने इज़राइल-ईरान संघर्ष में AI-जेनरेटेड वीडियो के फ़ैसले में दिए गए अपने पुराने सुझाव (सं. 3) के महत्व को दोहराया और Meta से कहा कि वह डिजिटल रूप से बनाए या बदले गए कंटेंट की जानकारी खुद न देने पर लगने वाली पेनल्टी की स्पष्ट व्याख्या प्रकाशित करे. इसमें पेनल्टी तय करने के तरीके भी बताए जाने चाहिए और यह भी स्पष्ट होना चाहिए कि इसकी वजह से अकाउंट के कौन-कौनसे फ़ीचर्स सीमित किए जाएँगे और कितने समय के लिए.

*प्रक्रिया संबंधी नोट:

• ओवरसाइट बोर्ड के फ़ैसले पाँच मेंबर्स के पैनल द्वारा लिए जाते हैं और उन पर बोर्ड के ज़्यादातर मेंबर्स की सहमति होती है. ज़रूरी नहीं है कि बोर्ड के फ़ैसले, सभी सदस्यों की राय दर्शाएँ.
• अपने चार्टर के तहत, ओवरसाइट बोर्ड उन यूज़र्स की अपील का रिव्यू कर सकता है, जिनका कंटेंट Meta ने हटा दिया था और उन यूज़र्स की अपील का रिव्यू कर सकता है जिन्होंने उस कंटेंट की रिपोर्ट की थी जिसे Meta ने बनाए रखा. साथ ही, बोर्ड Meta की ओर से रेफ़र किए गए फ़ैसलों का रिव्यू कर सकता है (चार्टर आर्टिकल 2, सेक्शन 1). बोर्ड के पास Meta के कंटेंट से जुड़े फ़ैसलों को कायम रखने या उन्हें बदलने का बाध्यकारी अधिकार है (चार्टर आर्टिकल 3, सेक्शन 5; चार्टर आर्टिकल 4). बोर्ड ऐसे गैर-बाध्यकारी सुझाव दे सकता है, जिनका जवाब देना Meta के लिए ज़रूरी है (चार्टर आर्टिकल 3, सेक्शन 4; आर्टिकल 4). जहाँ Meta सुझावों पर एक्शन लेने की प्रतिबद्धता व्यक्त करता है, वहाँ बोर्ड उनके लागू होने की निगरानी करता है.
• इस केस के फ़ैसले के लिए, बोर्ड ने कोई स्वतंत्र रिसर्च नहीं करवाई.

मामले के निर्णयों और नीति सलाहकार राय पर लौटें