इराकी कुर्दिस्तान में कथित तौर पर चुनावों में धाँधली करने का ऑडियो कॉल

.بۆ خوێندنەوەی ئەم بەیانە بە شێوەزاری کوردی سۆرانی، تکایە لێرە کرتە بکە

इस अनाउंसमेंट को सोरानी कुर्दिश भाषा में पढ़ने के लिए, यहाँ क्लिक करें.

सारांश

ओवरसाइट बोर्ड ने Meta के एक फ़ैसले को पलट दिया है, जिसमें उसने यह तय किया था कि वह दो इराकी कुर्द राजनेताओं की उस ऑडियो क्लिप (इसमें संभावित रूप से हेर-फेर की गई थी) पर लेबल नहीं लगाएगा जिसमें वे संसदीय चुनावों में धाँधली करने की बात कर रहे थे. यह चुनाव बहुत ज़्यादा विवादास्पद स्थिति और ध्रुवीकरण के बीच हो रहा था और इस ऑडियो क्लिप में वे ऐसी बातें तब कर रहे थे, जब मतदान शुरू होने में दो सप्ताह से भी कम समय बचा था. बोर्ड ने Meta को कंटेंट पर लेबल लगाने के लिए कहा है.

बोर्ड को चिंता है कि सभी फ़ॉर्मेट में हेर-फेर करके बनाए गए कंटेट की व्यापकता के बावजूद, Meta द्वारा हेर-फेर करके बनाए गए कंटेंट के खिलाफ़ उसकी पॉलिसी का एन्फ़ोर्समेंट सही तरीके से नहीं किया जा रहा है. उसे हेर-फेर करके बनाए गए ऑडियो और वीडियो की पहचान करने और उन्हें लेबल करने के लिए, बड़े पैमाने पर टेक्नोलॉजी में निवेश को प्राथमिकता देनी चाहिए, ताकि यूज़र्स को पूरी जानकारी मिल सके.

इस मामले को देखें, तो हेर-फेर करके बनाए गए एक ही मीडिया वाली सभी पोस्ट पर अपने आप लेबल लगाने में Meta की विफलता, असंगत और अनुचित है.

इसके अलावा, Meta को अपने सभी प्लेटफ़ॉर्म पर पहले से मौजूद स्थानीय भाषाओं में ‘हेर-फेर करके बनाया गया मीडिया’ वाला लेबल उपलब्ध कराना चाहिए. इसे, कम से कम, चुनावी निष्पक्षता सुनिश्चित करने के लिए Meta के प्रयासों का एक अभिन्न हिस्सा होना चाहिए.

मामले की जानकारी

अक्टूबर 2024 में होने वाले इराकी कुर्दिस्तान के संसदीय चुनाव में दो सप्ताह से भी कम का समय बचा था, जब इलाके की एक प्रमुख राजनैतिक पार्टी, कुर्दिस्तान डेमोक्रेटिक पार्टी (KDP) से संबद्ध एक लोकप्रिय मीडिया संस्था ने अपने Facebook पेज पर दो मिनट की एक ऑडियो क्लिप शेयर की. सोरानी कुर्दिश भाषा में लिखी हुई पोस्ट के कैप्शन में कथित तौर पर आरोप लगाया गया है कि यह ऑडियो, इस इलाके के अन्य मुख्य राजनैतिक दल पैट्रियटिक यूनियन ऑफ़ कुर्दिस्तान (PUK) के सदस्यों, बफ़ेल और कुबाद तालाबानी नाम के भाइयों के बीच की “रिकॉर्ड की गई बातचीत” है, जो अक्टूबर 2024 के चुनावों में धाँधली करने की उनकी “भयावह योजनाओं” के बारे में है. इस ऑडियो में दो आदमी बात कर रहे हैं और साथ में अंग्रेज़ी भाषा में वॉइसओवर चल रहा है (जिसका सबटाइटल सोरानी कुर्दिश और अंग्रेज़ी में है). एक आदमी कहता है कि PUK को “कम से कम 30 सीटों” की गारंटी दी गई है, लेकिन उन्हें उन “11 सीटों” से “छुटकारा पाना” होगा जिन्हें KDP कथित तौर पर “हमेशा अपने फ़ायदे के लिए इस्तेमाल करती रही है”. दूसरा आदमी सहमति जताता है और इस बात पर ज़ोर देता है कि यह काम इस तरह से करना चाहिए कि लोगों को लगे ये सीटें वैध रूप से जीती गई हैं, क्योंकि लोगों को इस बात की जानकारी तो है – फिर भी वे साबित नहीं कर सकते – कि PUK को बगदाद और उसके "पड़ोसी" का समर्थन प्राप्त है. इस मीडिया संस्था के Facebook पेज पर लगभग 40,00,000 फ़ॉलोअर्स हैं. इस पोस्ट को लगभग 2,00,000 व्यू मिले थे.

यूज़र्स ने कंटेट को गलत जानकारी देने के लिए रिपोर्ट किया था, लेकिन Meta ने बिना रिव्यू करे सभी रिपोर्ट को बंद कर दिया. इनमें से एक यूज़र के द्वारा अपील किए जाने के बाद भी, Meta ने अपने फ़ैसले को क्लासिफ़ायर स्कोर के आधार पर बरकरार रखा. इसके बाद, उस यूज़र ने ओवरसाइट बोर्ड से अपील की.

Meta ने उसी मीडिया संस्था के Facebook और Instagram पेजों और KDP के Facebook पेज पर ऐसी अन्य पोस्ट की पहचान की थी, जिनमें वही ऑडियो क्लिप मौजूद थी. इराकी कुर्दिस्तान के बाहर मौजूद एक न्यूज़ मीडिया संस्था और एक भरोसेमंद पार्टनर के साथ ऑडियो के डिजिटल रूप से बनाए जाने की संभावना का रिव्यू करने के बाद, Meta ने कुछ पोस्ट पर लेबल लगाया, लेकिन इस पोस्ट के कंटेंट पर लेबल नहीं लगाया. इसी ऑडियो वाली अन्य पोस्ट पर लगाए गए लेबल में कहा गया है: “यह कंटेंट शायद डिजिटल रूप से बनाया गया है या असली लगने के लिए इसमें छेड़छाड़ की गई है.”

मुख्य निष्कर्ष

Meta ने बोर्ड को बताया कि जब अपने सभी प्लेटफ़ॉर्म पर AI से बनाए गए या हेर-फेर करके बनाए गए कंटेंट की पहचान करने की बात आती है, तो वह अपने आप से सिर्फ़ फ़ोटो की पहचान करने और लेबल लगाने में सक्षम है, न कि वीडियो या ऑडियो कंटेंट को. कंपनी की विशेषज्ञता और संसाधनों और Meta के सभी प्लेटफ़ॉर्म के व्यापक उपयोग को देखते हुए, उसे हेर-फेर करके बनाए गए वीडियो और ऑडियो की पहचान करने और उनके ऊपर लेबल लगाने के लिए बड़े पैमाने पर टेक्नोलॉजी में निवेश को प्राथमिकता देनी चाहिए.

हेर-फेर करके बनाए गए एक ही मीडिया वाली सभी पोस्ट पर अपने आप “AI से ली गई जानकारी” का लेबल लगाने के लिए ज़रूरी टूल्स का उपयोग करने में Meta की विफलता, असंगत और अनुचित है. छेड़छाड़ करके बनाए गए, राष्ट्रपति बाइडेन के वीडियो वाले मामले में Meta ने बोर्ड के सुझाव को लागू करने के लिए प्रतिबद्धता जताई थी कि छेड़छाड़ करके बनाए गए मीडिया के लिए, अन्य कम्युनिटी स्टैंडर्ड का उल्लंघन नहीं करते हुए, कंपनी को "प्लेटफ़ॉर्म पर उस मीडिया के सभी समान मामलों" पर एक लेबल लगाना चाहिए. इस मामले में Meta का यह दावा करना कि वह इस ऑडियो वाले हर कंटेंट पर अपने आप "बहुत ज़्यादा जोखिम" का लेबल नहीं लगाता, बोर्ड के इस सुझाव का विरोध करता है. “AI से ली गई जानकारी” और "बहुत ज़्यादा जोखिम", लोगों को जानकारी देने वाले लेबल हैं, जो Meta ने हेर-फेर करके बनाए गए मीडिया के लिए रखे हैं.

बोर्ड ने कहा कि इसमें तकनीकी संकेतों सहित कई भरोसेमंद इंडिकेटर मौजूद हैं, जो दिखाते हैं कि यह क्लिप डिजिटल रूप से बनाई गई थी. Meta की गलत जानकारी से संबंधित पॉलिसी के तहत, यह क्लिप हेर-फेर करके बनाए गए मीडिया की शर्तों को पूरा करती है. इस पर "बहुत ज़्यादा जोखिम" का लेबल लगाना, Meta की पॉलिसी और मानवाधिकार से जुड़ी ज़िम्मेदारियों के अनुरूप है. इस ऑडियो को ऐसे इलाके की चुनावी अवधि के दौरान पोस्ट किया गया था जहाँ पहले भी अनियमित चुनाव होते रहे हैं. इससे ऑडियो द्वारा चुनावी विकल्पों को प्रभावित करने और चुनावी निष्पक्षता को नुकसान पहुँचाने की क्षमता बढ़ जाती है. विवादित कंटेंट को पूरी तरह हटाने के बजाय, उस पर जानकारी देने वाला लेबल लगाने से आवश्यकता और आनुपातिकता की शर्तें पूरी हो जाती हैं.

बोर्ड को इस बात की चिंता है कि Meta के पास हेर-फेर करके बनाए गए मीडिया वाले लेबल, सोरानी कुर्दिश भाषा में उपलब्ध नहीं हैं. ऐसा तब है जब सोरानी कुर्दिश Facebook यूज़र्स के लिए उपलब्ध, ऐप में मौजूद भाषाओं में से एक है. Meta के सभी प्लेटफ़ॉर्म पर पहले से उपलब्ध स्थानीय भाषा में लेबल उपलब्ध कराना, कम से कम, चुनावी निष्पक्षता सुनिश्चित करने के लिए Meta के प्रयासों का एक अभिन्न हिस्सा होना चाहिए, ताकि यह पक्का हो सके कि जब कंटेंट को डिजिटल रूप से बनाया जाता है या उसमें छेड़छाड़ की जाती है, तो यूज़र्स को इस बात की जानकारी रहती है.

बोर्ड को इस बात की भी चिंता है कि कंपनी संभावित रूप से हेर-फेर करके बनाए गए कंटेंट के तकनीकी आकलन के लिए थर्ड-पार्टी पर निर्भर करती है. Meta को इस विशेषज्ञता को आंतरिक रूप से उपलब्ध कराने के बारे में फिर से सोचना चाहिए.

बोर्ड ने कहा कि इस मामले में मुद्दा यह है कि ऑडियो असली है या नकली, न कि यह कि ऑडियो में जो कहा गया है वह सच है या नहीं. यह देखते हुए कि अगर ऑडियो पर यह लेबल लगाया जाता है कि इसे शायद डिजिटल रूप से बनाया गया है या इसके साथ छेड़छाड़ की गई है, तो यूज़र्स इस कंटेंट की सटीकता के बारे में सचेत हो जाते हैं, बोर्ड को लगता है कि हेर-फेर करके बनाए गए मीडिया पर गलत जानकारी की पॉलिसी लागू करना काफ़ी है. हालाँकि, बोर्ड इस बात से चिंतित है कि Meta के पास चुनाव के दौरान चुनावी निष्पक्षता बनाए रखने उपायों के तहत, कंटेंट का रिव्यू करने के लिए कुर्द भाषा में फ़ैक्ट-चेकर उपलब्ध नहीं थे.

ओवरसाइट बोर्ड का फ़ैसला

ओवरसाइट बोर्ड ने Meta के कंटेंट पर लेबल न लगाने के फ़ैसले को बदलते हुए, उस पोस्ट पर लेबल लगाने के लिए कहा है.

बोर्ड ने Meta को ये सुझाव भी दिए हैं कि वह:

• हेर-फेर करके बनाए गए एक ही मीडिया वाले सभी कंटेंट पर एक प्रासंगिक लेबल लागू करे. इसमें, इस मामले में हेर-फेर करके बनाए गए ऑडियो वाली सभी पोस्ट शामिल हैं.
• पक्का करे कि Facebook, Instagram और Threads पर हेर-फेर करके बनाए गए मीडिया के लिए जानकारी देने वाले लेबल उसी भाषा में दिखाए जाएँ जिसे यूज़र ने प्लेटफ़ॉर्म के लिए चुना है.

*मामले के सारांश से मामलों का ओवरव्यू मिलता है और भविष्य में लिए जाने वाले किसी फ़ैसले के लिए इसको आधार नहीं बनाया जा सकता है.

मामले का पूरा फ़ैसला

1. मामले की जानकारी और बैकग्राउंड

अक्टूबर 2024 में होने वाले इराकी कुर्दिस्तान के संसदीय चुनाव में दो सप्ताह से भी कम का समय बचा था, जब एक प्रमुख राजनैतिक पार्टी, कुर्दिस्तान डेमोक्रेटिक पार्टी (KDP) से संबद्ध एक लोकप्रिय मीडिया संस्था ने अपने Facebook पेज पर दो मिनट की एक ऑडियो क्लिप शेयर की. सोरानी कुर्दिश भाषा में लिखी हुई पोस्ट के कैप्शन में कथित तौर पर आरोप लगाया गया है कि यह ऑडियो,राजनैतिक दल पैट्रियटिक यूनियन ऑफ़ कुर्दिस्तान (PUK) के सदस्यों, बफ़ेल और कुबाद तालाबानी नाम के भाइयों के बीच की “रिकॉर्ड की गई बातचीत” है, जो अक्टूबर 2024 के चुनावों में धाँधली करने की उनकी “भयावह योजनाओं” के बारे में है. इस ऑडियो में दो आदमी बात कर रहे हैं और साथ में अंग्रेज़ी भाषा में वॉइसओवर चल रहा है (जिसका सबटाइटल सोरानी कुर्दिश और अंग्रेज़ी में है). एक आदमी, दूसरे को यकीन दिलाता है कि उन्हें “कम से कम 30 सीटों” की गारंटी दी गई है, लेकिन उन्हें उन “11 सीटों” से “छुटकारा पाना” होगा जिन्हें KDP कथित तौर पर “हमेशा अपने फ़ायदे के लिए इस्तेमाल करती रही है”. वक्ता के अनुसार, ऐसा करने से KDP को “जैसी करनी, वैसी भरनी” का अंदाज़ा होगा. दूसरा वक्ता सहमति जताता है और इस बात पर ज़ोर देता है कि यह काम इस तरह से करना चाहिए कि लोगों को लगे ये सीटें वैध रूप से जीती गई हैं, क्योंकि लोगों को इस बात की जानकारी तो है – फिर भी वे साबित नहीं कर सकते – कि उन्हें बगदाद और उसके "पड़ोसी" का समर्थन प्राप्त है. इस मीडिया संस्था के Facebook पेज पर लगभग 40,00,000 फ़ॉलोअर्स हैं. पोस्ट पर लगभग 2,00,000 व्यू हैं और इसे 100 से कम बार शेयर किया गया है.

एक यूज़र ने Meta की गलत जानकारी से जुड़ी पॉलिसी के तहत, उसी दिन इस पोस्ट की रिपोर्ट की थी जिस दिन इसे पोस्ट किया गया था. हालाँकि, रिपोर्ट को ह्यूमन रिव्यू के लिए प्राथमिकता नहीं दी गई और Meta ने रिपोर्ट को अपने आप बंद कर दिया और बिना कोई और कार्रवाई किए, पोस्ट को Facebook पर बनाए रखा. Meta के हाई रिस्क अर्ली रिव्यू ऑपरेशन (HERO) सिस्टम ने भी इस मामले में, इन संकेतों के आधार पर अतिरिक्त रिव्यू के लिए कंटेंट की पहचान की थी कि इसके वायरल होने की संभावना है. बाद में रिपोर्ट को ह्यूमन रिव्यू के बिना ही बंद कर दिया गया, क्योंकि Meta के अनुसार, "इसके वायरल होने की संभावना इतनी ज़्यादा नहीं थी कि इसे रिव्यू के लिए भेजा जा सके". कुछ ही समय बाद, एक अन्य यूज़र ने इस कंटेंट को गलत जानकारी बताते हुए इसकी रिपोर्ट की, लेकिन Meta ने इस रिपोर्ट को भी बंद कर दिया. दूसरे यूज़र ने Meta से इसकी अपील की और कंपनी ने अपने फ़ैसले को क्लासिफ़ायर स्कोर के आधार पर बरकरार रखा. इसके बाद, यूज़र ने Meta के फ़ैसले के खिलाफ़ ओवरसाइट बोर्ड से अपील की. एक दिन बाद, Meta ने ऐसी अन्य पोस्ट की पहचान की थी, जिनमें वही ऑडियो क्लिप मौजूद थी. ये पोस्ट उसी मीडिया संस्था के Facebook और Instagram पेजों पर शेयर की गई थीं, जिसने इस मामले में पोस्ट को शेयर किया था. इसके अलावा, यह पोस्ट KDP के Facebook पेज पर भी शेयर की गई थी. इसके बाद, Meta की कंटेंट पॉलिसी टीम ने इन पोस्ट को एक समाचार संस्था को भेजा, ताकि 2024 की एक पार्टनरशिप के अनुसार, वह इस बात का आकलन कर सके कि क्या इन पोस्ट में मौजूद कंटेंट AI-जेनरेटेड था. एक भरोसेमंद पार्टनर ने तकनीकी और प्रासंगिक संकेतों पर भी इनपुट दिया, ताकि यह तय करने में मदद मिल सके कि कंटेंट AI-जेनरेटेड था या नहीं. इन परामर्शों के बाद, इस मामले में Meta ने ऑडियो क्लिप वाली कुछ पोस्ट को लेबल करने का फ़ैसला किया, लेकिन कंटेंट को नहीं. इसी ऑडियो वाली अन्य पोस्ट पर लगाए गए लेबल में कहा गया है: “यह कंटेंट शायद डिजिटल रूप से बनाया गया है या असली लगने के लिए इसमें छेड़छाड़ की गई है.” भरोसेमंद पार्टनर प्रोग्राम 113 देशों के NGO, मानवतावादी एजेंसियों और मानवाधिकार रिसर्चर्स का एक नेटवर्क है जो कंटेंट की रिपोर्ट करते हैं और Meta को उसकी कंटेंट पॉलिसी और एन्फ़ोर्समेंट के बारे में फ़ीडबैक देते हैं.

बोर्ड ने अपना फ़ैसला करते समय नीचे दिए संदर्भ पर ध्यान दिया.

KDP और PUK, इराकी कुर्दिस्तान में मुख्य राजनैतिक पार्टियाँ हैं. दोनों के पास अपने सुरक्षा बल हैं. दोनों पार्टियों के बीच लंबे समय से प्रतिद्वंद्विता चली आ रही थी, जिसका नतीजा 1994 से 1998 तक चले गृहयुद्ध के रूप में सामने आया. आखिर में, दोनों पक्षों के बीच एक सत्ता की साझेदारी को लेकर एक नाज़ुक समझौते पर सहमति बनी, जिससे उनका झगड़ा अस्थायी रूप से कम हो गया. हालाँकि, हाल के वर्षों में तनाव फिर से उभरा और बहुत बढ़ गया, जिसके कारण चुनावों में कई वर्षों तक देरी हुई, जो आखिरकार अक्टूबर 2024 में आयोजित किए गए.

इराकी कुर्दिस्तान में ज़्यादातर मीडिया संस्थाएँ राजनैतिक दलों से “सीधे तौर पर संबद्ध” हैं और पार्टियाँ या पार्टी नेता उन्हें धन मुहैया कराते हैं. इससे पक्षपातपूर्ण समाचार रिपोर्टिंग को बढ़ावा मिलता है. बोर्ड द्वारा विशेषज्ञों से किए गए परामर्श और पब्लिक रिपोर्ट्स से पता चलता है कि जिस मीडिया संस्था ने इस मामले में कंटेंट को पोस्ट किया है, वह KDP से संबद्ध और वित्तपोषित है और उसके पास संपादकीय स्वतंत्रता नहीं है.

इराक में, Facebook तीसरा सबसे ज़्यादा इस्तेमाल किया जाने वाला प्लेटफ़ॉर्म है. 2018 के संसदीय चुनाव जैसी कुर्द राजनैतिक प्रक्रियाओं के दौरान सुनियोजित ढंग से गलत जानकारी फैलाने के कैंपेन का उपयोग आम है. " शैडो मीडिया," राजनैतिक दलों और प्रभावशाली राजनैतिक हस्तियों से संबद्ध सोशल मीडिया पेजों का एक नेटवर्क है. इसने कथित तौर पर अक्टूबर 2024 के चुनावों से पहले अपने संरक्षकों के पक्ष में जनता की राय को प्रभावित करने की कोशिश की, जिनमें दोनों दलों के प्रमुख व्यक्ति शामिल हैं.

20 अक्टूबर, 2024 को KDP ने चुनाव में सबसे ज़्यादा संसदीय सीटें जीतीं. PUK दूसरे नंबर पर रही. KDP के मसरूर बरज़ानी इस समय प्रधानमंत्री हैं. PUK के कुबाद तालाबानी, जो कथित तौर पर ऑडियो में मौजूद वक्ताओं में से एक हैं, इस समय उप प्रधानमंत्री हैं.

2.यूज़र सबमिशन

जिस यूज़र ने बोर्ड को इस कंटेंट की रिपोर्ट की थी, उसने कहा कि ऑडियो AI-जेनरेटेड था, जिसे एक “संवेदनशील” चुनावी कैंपेन के दौरान शेयर किया गया था और इसका उपयोग “एक पार्टी की प्रतिष्ठा को नुकसान पहुँचाने” के लिए किया जा रहा था.

जिस मीडिया संस्था ने कंटेंट को पोस्ट किया था, उसने भी बोर्ड को एक स्टेटमेंट दिया, जिसमें बताया गया कि उसने ऑडियो को अपने समाचार कवरेज के हिस्से के रूप में शेयर किया था, “कंटेंट पर कोई राय या टिप्पणी दिए बिना”, “सिर्फ़ एक स्थानीय समाचार आइटम के रूप में.” इसमें कहा गया कि इसका लक्ष्य “सटीक” समाचार प्रकाशित करना है. मीडिया संस्था ने कहा कि एक राजनैतिक दल ने ऑडियो जारी किया है और "कई राजनैतिक पार्टियाँ नियमित रूप से ऐसे वीडियो शेयर करती हैं."

3. Meta की कंटेंट पॉलिसी और सबमिशन

I. Meta की कंटेंट पॉलिसी

गलत जानकारी से जुड़ा कम्युनिटी स्टैंडर्ड

Meta का गलत जानकारी वाला कम्युनिटी स्टैंडर्ड उसके सभी प्लेटफ़ॉर्म पर हेर-फेर करके बनाए गए मीडिया के मॉडरेशन को नियंत्रित करता है. ऐसा कंटेंट जो कम्युनिटी स्टैंडर्ड के “पोस्ट न करें” सेक्शन का उल्लंघन नहीं करता, उसके लिए पॉलिसी “इसकी व्यापकता को कम करने” या “असरदार डायलॉग को बढ़ावा देने वाला माहौल बनाने” पर ध्यान केंद्रित करती है. इस उद्देश्य के लिए, Meta उस स्थिति में कंटेंट की शुरुआत में जानकारी देने वाला लेबल लगा सकता है – या विज्ञापन के रूप में सबमिट किए गए कंटेंट को अस्वीकार कर सकता है – जब कंटेंट कोई असली लगने वाली फ़ोटो या वीडियो हो या असली लगने वाला ऑडियो हो, जबकि उसे डिजिटल रूप से बनाया गया या उसमें छेड़छाड़ की गई हो और जिससे “खास तौर पर सार्वजनिक महत्व के किसी मामले में लोगों को बड़ा धोखा होने का बहुत ज़्यादा जोखिम” पैदा होता हो.

II. Meta के सबमिशन

Meta में हेर-फेर करके बनाए गए मीडिया के लिए जानकारी वाले तीन अलग-अलग लेबल हैं: (i) "AI से ली गई जानकारी" लेबल, (ii) "बहुत ज़्यादा जोखिम" वाला लेबल और (iii) "बहुत ज़्यादा जोखिम वाला AI" लेबल.

" AI से ली गई जानकारी" लेबल अपने आप उस कंटेंट पर लागू हो जाता है जिसके बारे में Meta को "औद्योगिक स्तर के AI फ़ोटो इंडिकेटर्स के ज़रिए या AI-जेनरेटेड कंटेंट अपलोड करते समय लोगों के बताने से" पता चलता है. Meta ने पहले ही बोर्ड को बताया था कि औद्योगिर स्तर के फ़ोटो इंडिकेटर्स का पता लगाने के लिए कंपनी "उस मेटाडेटा पर निर्भर करती है जिसे GenAI क्रिएशन टूल, कंटेंट में एम्बेड करते हैं." हालाँकि, इस समय “AI से ली गई जानकारी” लेबल पर अपने आप पता लगाने और उसे अप्लाई करने की पॉलिसी, वीडियो या ऑडियो पर लागू नहीं होती है. ऐसे मामले में, Meta पूरी तरह से इस बात पर निर्भर रहता है कि यूज़र्स बताएँ कि वे AI-जेनरेटेड कंटेंट अपलोड कर रहे हैं.

आंतरिक एन्फ़ोर्समेंट गाइडलाइन के अनुसार, "बहुत ज़्यादा जोखिम" वाला लेबल, डिजिटल रूप से बनाए गए या छेड़छाड़ किए गए कंटेंट पर लगाया जाता है, जबकि "बहुत ज़्यादा जोखिम वाला AI" लेबल AI-जेनरेटेड कंटेंट पर लगाया जाता है. दोनों लेबल उन फ़ोटो, ऑडियो और वीडियो कंटेंट पर लगाए जाते हैं जो नीचे दी गई सभी शर्तों को पूरा करता है: (i) यह सार्वजनिक महत्व के मुद्दे में जनता को धोखा देने का बहुत ज़्यादा जोखिम पैदा करता है; (ii) इस बात के भरोसेमंद इंडिकेटर्स मौजूद हैं कि कंटेंट डिजिटल रूप से बनाया गया था या उसमें छेड़छाड़ की गई थी; (iii) "बहुत ज़्यादा जोखिम वाला AI" लेबल के लिए अतिरिक्त रूप से कंटेंट में ऐसे भरोसेमंद इंडिकेटर्स मौजूद होने चाहिए कि कंटेंट को AI की मदद से बनाया गया है या छेड़छाड़ की गई है. किसी पोस्ट पर लगाया गया लेबल इस बात पर निर्भर करता है कि वह “बहुत ज़्यादा जोखिम” वाला लेबल है या “बहुत ज़्यादा जोखिम वाला AI” लेबल है. "बहुत ज़्यादा जोखिम" वाले लेबल में कहा गया है, "यह कंटेंट असली लगने के लिए डिजिटल रूप से बनाया गया या छेड़छाड़ किया गया हो सकता है", जबकि "बहुत ज़्यादा जोखिम वाला AI" लेबल में कहा गया है, "यह कंटेंट असली लगने के लिए AI की मदद से डिजिटल रूप से बनाया गया या छेड़छाड़ किया गया था" (इस पर ज़ोर दिया गया है). "बहुत ज़्यादा जोखिम" वाले दोनों लेबल के साथ “और जानें” वाला एक लिंक मौजूद रहता है, जो यूज़र्स को इस आर्टिकल पर ले जाता है. Meta के अनुसार, कंपनी दो अलग-अलग लेबल के ज़रिए यूज़र्स को इस बारे में ज़्यादा सटीक जानकारी दे सकती है कि कितनी संभावना है कि कंटेंट में हेर-फेर किया गया है और मीडिया में छेड़छाड़ करने या उसे बनाने के लिए किस तरीके का उपयोग किया गया है. जब कंपनी को इस बात पर संदेह होता है कि कंटेंट को डिजिटल रूप से बनाया गया है, तो वह "बहुत ज़्यादा जोखिम" वाला लेबल लगा देती है, जिससे यूज़र्स को सतर्क किया जाता है कि कंपनी डिजिटल रूप से बनाया गया या छेड़छाड़ किया गया हो सकता है. किसी पोस्ट पर लगाया गया लेबल आम तौर पर प्लेटफ़ॉर्म पर यूज़र द्वारा तय की गई भाषा में होता है, लेकिन Meta ने कहा कि वह लेबल को कुर्दिश में अनुवादित नहीं करता है (भले ही यूज़र्स अपनी डिफ़ॉल्ट भाषा को कुर्दिश के दो अलग-अलग रूपों में सेट कर सकते हैं, जिसमें सोरानी कुर्दिश भी शामिल है).

Meta ने कहा कि जानकारी वाला लेबल लगाने से कंटेंट का डिमोशन नहीं होता और न ही उसे सुझावों से हटाया जाता है, चाहे वह "AI से ली गई जानकारी" लेबल हो या "बहुत ज़्यादा जोखिम" वाले दोनों लेबल में से कोई एक. Meta उन यूज़र्स को पॉप-अप दिखा सकता है जो “बहुत ज़्यादा जोखिम” वाले लेबल के कंटेंट को फिर से शेयर करने के लिए क्लिक करते हैं. जब यूज़र्स Facebook, Instagram या Threads पर "बहुत ज़्यादा जोखिम" वाले लेबल की फ़ोटो या वीडियो को फिर से शेयर करने की कोशिश करेंगे, तो उन्हें एक नोटिस मिलेगा जो उन्हें सतर्क करेगा कि कंटेंट डिजिटल रूप से बनाया गया या छेड़छाड़ किया गया हो सकता है. हालाँकि, यह सुविधा तब उपलब्ध नहीं होती जब पोस्ट को Instagram स्टोरीज़ या Facebook रील्स के रूप में शेयर किया जाता है, जैसा कि इस मामले में हुआ है.

Meta की आंतरिक टीमों ने एक ही ऑडियो क्लिप वाली तीन पोस्ट की पहचान करने के बाद, ऑडियो के डिजिटल रूप से बनाए जाने की संभावना का रिव्यू करने के लिए पोस्ट को एक समाचार संस्था को भेज दिया. इसके अलावा, Meta ने ऑडियो की प्रामाणिकता का आकलन करने के लिए एक भरोसेमंद पार्टनर से परामर्श किया. Meta ने ऐसे कारकों पर भी विचार किया जो सिर्फ़ इराकी कुर्दिस्तान से जुड़े थे, जैसे कि ऑडियो शेयर किए जाने की तारीख और आगामी चुनावों की तारीख के बीच की छोटी अवधि, इराकी कुर्दिस्तान में कुर्द भाषा के फ़ैक्ट-चेकर्स की कमी, ऐसे कमेंट जो यह दिखाते हैं कि कुछ यूज़र्स ने ऑडियो को हेर-फेर करके बनाए गए कंटेट के रूप में नहीं देखा और Meta के आंतरिक क्लासिफ़ायर्स द्वारा ऑडियो के संभावित रूप से वायरल होने के अन्य उदाहरणों का पता लगाना. इन बातों के आधार पर, Meta ने इस मामले में उन पोस्ट पर "बहुत ज़्यादा जोखिम" वाला लेबल लगा दिया जिनमें वही ऑडियो था, जिसे कंपनी ने पहचाना था और आकलन किया था, लेकिन कंटेंट पर नहीं. कंपनी ने समझाया कि उसने ऑडियो वाली सभी पोस्ट पर लेबल नहीं लगाया, ताकि ऐसे कंटेंट पर गलत लेबल लगाने से बचा जा सके जो लेबल लगाने की शर्तों को पूरा नहीं करते, जैसे कि ऑडियो को गलत साबित करने वाली या उसकी निंदा करने वाली पोस्ट. Meta के लिए, ऑडियो वाली सभी पोस्ट पर लेबल लगाने से यूज़र्स भ्रमित हो सकते हैं.

अक्टूबर 2024 के चुनावों में निष्पक्षता बनाए रखने की अपनी कोशिशों को हिस्से के रूप में, Meta ने बोर्ड को बताया कि उसने भड़काऊ भाषण और मतदान प्रक्रिया में हस्तक्षेप से संबंधित उल्लंघन, राजनैतिक विज्ञापनों की निगरानी और किसी और के द्वारा राजनैतिक उम्मीदवार होने का दिखावा करना और राजनैतिक उम्मीदवारों के उत्पीड़न की निगरानी के लिए रोज़ टार्गेटेड सर्च आयोजित किए. Meta ने यह भी कहा कि उसने 20 अक्टूबर, 2024 के चुनाव से पहले और उसके दौरान प्लेटफ़ॉर्म पर जोखिमों का आकलन करने और उसे कम करने उचित उपायों को लागू करने के लिए भाषा और प्रासंगिक विशेषज्ञता के साथ एक क्रॉस-फ़ंक्शनल टीम का गठन किया था. इसी की मदद से, इस मामले के कंटेंट से अलग, उसी ऑडियो वाले तीन वायरल पोस्ट की पहचान की गई. एक आंतरिक क्लासिफ़ायर ने पाया कि ये तीनों पोस्ट संभावित रूप से वायरल हो रही हैं और इन्हें कुल मिलाकर 15 लाख से ज़्यादा व्यू मिले हैं.

बोर्ड ने इन विषयों पर सवाल पूछे: हेर-फेर करके बनाए गए मीडिया पर Meta द्वारा लगाए जाने वाले लेबल; ऐसे मीडिया की पहचान करने की प्रक्रिया और Meta कब अपने आप समान या उस जैसे कंटेंट पर लेबल लगाता है; क्या कंटेंट को फ़ैक्ट-चेक किया गया था; और इराकी कुर्दिस्तान में चुनावी निष्पक्षता बनाए रखने के लिए Meta की कोशिश. Meta ने सभी सवालों के जवाब दिए.

4. पब्लिक कमेंट

ओवरसाइट बोर्ड को सबमिट करने की शर्तों को पूरा करने वाले दो पब्लिक कमेंट मिले. एक कमेंट मिडिल ईस्ट और उत्तरी अफ़्रीका से और दूसरा मध्य और दक्षिण एशिया से सबमिट किया गया था. प्रकाशन की सहमति के साथ सबमिट किए गए पब्लिक कमेंट पढ़ने के लिए यहाँ पर क्लिक करें.

सबमिशन में ये विषय शामिल थे: ऑडियो क्लिप की प्रामाणिकता; इराकी कुर्दिस्तान में चुनाव के दौरान प्रोपैगैंडा की व्यापकता; और इलाके में प्रेस की स्वतंत्रता.

5. ओवरसाइट बोर्ड का विश्लेषण

बोर्ड ने इस मामले को इस मुद्दे पर ध्यान देने के लिए चुना कि चुनाव के संदर्भ में शेयर किए गए हेर-फेर करके बनाए गए मीडिया से निपटने के दौरान, Meta किस प्रकार से अभिव्यक्ति की आज़ादी को बनाए रखता है. यह मामला बोर्ड की चुनाव और नागरिक स्थान की स्ट्रेटेजिक प्राथमिकता के तहत आता है.

बोर्ड ने Meta की कंटेंट पॉलिसी, वैल्यू और मानवाधिकार से जुड़ी ज़िम्मेदारियों के संबंध में इस मामले में दिए गए Meta के फ़ैसले का विश्लेषण किया. बोर्ड ने यह भी आकलन किया कि कंटेंट गवर्नेंस को लेकर Meta के व्यापक दृष्टिकोण पर इस मामले का क्या असर पड़ेगा.

5.1 Meta की कंटेंट पॉलिसी का अनुपालन

कंटेंट से जुड़े नियम

गलत जानकारी से जुड़ा कम्युनिटी स्टैंडर्ड

बोर्ड ने पाया कि मामले का कंटेंट, Meta की गलत जानकारी से संबंधित पॉलिसी के तहत, हेर-फेर करके बनाए गए मीडिया की शर्तों को पूरा करता है. इसलिए, इस पर “बहुत ज़्यादा जोखिम” वाला लेबल लगाया जाना चाहिए था.

यह पोस्ट इस इलाके के सार्वजनिक महत्व के मुद्दे, यानी इराकी कुर्दिस्तान चुनाव से संबंधित है. यह कंटेंट घरेलू और अंतर्राष्ट्रीय दोनों ही प्रकार की ऑडियंस को धोखा देने का बहुत ज़्यादा जोखिम पैदा करता है. अंग्रेज़ी वॉइसओवर को शायद इलाके के राजनयिकों या अंतर्राष्ट्रीय पर्यवेक्षकों को ध्यान में रखकर बनाया गया था और सोरानी कुर्दिश भाषा में दिख रहे सबटाइटल ने इसे मतदाताओं के लिए समझने में आसान बना दिया. इस कंटेंट पर लगभग 2,00,000 व्यू थे और इसे चुनाव से ठीक पहले शेयर किया गया था. इस बात के भरोसेमंद इंडिकेटर्स मौजूद हैं कि कंटेंट डिजिटल रूप से बनाया गया था या उसमें छेड़छाड़ की गई थी. Meta के भरोसेमंद सोर्सेज़ ने ऑडियो की प्रामाणिकता का जाँच करते समय इसे कन्फ़र्म किया. इन सोर्सेज़ में एक भरोसेमंद पार्टनर और इराकी कुर्दिस्तान के बाहर की एक समाचार संस्था शामिल थी, जिस पर Meta ने ऐसे कंटेंट का आकलन करने के लिए भरोसा किया था, जिसे शायद डिजिटल रूप से बनाया गया हो या उसमें छेड़छाड़ की गई हो. इन सोर्सेज़ ने बातचीत के बनावटीपन और उसमें स्वाभाविक उतार-चढ़ाव की कमी को भी हाइलाइट किया. इन्होंने उन तकनीकी संकेतों पर भी गौर किया, जिनसे पता चलता है कि ऑडियो को शायद डिजिटल रूप से बनाया गया था. इन संकेतों में ओरिजनल ऑडियो से अलग बैकग्राउंड ऑडियो की मौजूदगी के साथ-साथ, AI डिटेक्टर टूल द्वारा दी गई रेटिंग भी शामिल थी. Meta की आंतरिक टीमों से अन्य पोस्ट में मौजूद ऑडियो पर "बहुत ज़्यादा जोखिम" वाला लेबल लगाने की मंज़ूरी ली गई थी, न कि मामले के कंटेंट पर. इसलिए, मामले के कंटेंट पर "बहुत ज़्यादा जोखिम" वाला लेबल लगाया जाना चाहिए था, जो यह दिखाता है कि कंटेंट डिजिटल रूप से बनाया गया या छेड़छाड़ किया गया हो सकता है. बोर्ड को, Meta द्वारा एक ही ऑडियो वाले सभी कंटेंट पर लेबल नहीं लगाने के बारे में दिया गया स्पष्टीकरण असंतोषजनक लगा. हेर-फेर करके बनाए गए एक ही मीडिया वाले सभी कंटेंट पर लेबल लागू करने के बारे में Meta के तर्कों का विश्लेषण और बोर्ड के निष्कर्ष, नीचे मानवाधिकार विश्लेषण सेक्शन में शामिल किए गए हैं.

5.2 Meta की मानवाधिकारों से जुड़ी ज़िम्मेदारियों का अनुपालन

बोर्ड का मानना ​​है कि Meta की पॉलिसी की उचित व्याख्या के तहत, कंटेंट पर "बहुत ज़्यादा जोखिम" वाला लेबल लगाना ज़रूरी है. नीचे दिए गए नागरिक और राजनैतिक अधिकार पर अंतरराष्ट्रीय प्रतिज्ञापत्र (ICCPR) अनुच्छेद 19 के विश्लेषण के अनुसार, इस मामले में कंटेंट के साथ-साथ ऑडियो क्लिप वाली सभी पोस्ट पर लेबल लगाना, Meta की मानवाधिकार से जुड़ी ज़िम्मेदारियों के अनुरूप भी है.

अभिव्यक्ति की आज़ादी (आर्टिकल 19 ICCPR)

ICCPR के अनुच्छेद 19 में अभिव्यक्ति की विस्तृत सुरक्षा का प्रावधान है, जिसमें राजनैतिक अभिव्यक्ति शामिल है ( सामान्य टिप्पणी सं. 34, पैरा. 11-12). संयुक्त राष्ट्र (UN) की मानवाधिकार समिति ने यह कहा है कि राजनैतिक मुद्दों की चर्चा करते समय अभिव्यक्ति का महत्व खास तौर से ज़्यादा होता है (सामान्य कमेंट सं. 34, पैरा. 11 और 13). जहाँ राज्य, अभिव्यक्ति पर प्रतिबंध लगाता है, वहाँ प्रतिबंधों को वैधानिकता, वैधानिक लक्ष्य और आवश्यकता तथा आनुपातिकता की शर्तों को पूरा करना चाहिए (अनुच्छेद 19, पैरा. 3, ICCPR). इन आवश्यकताओं को अक्सर “तीन भागों वाला परीक्षण” कहा जाता है. बोर्ड इस फ़्रेमवर्क का उपयोग बिज़नेस और मानवाधिकारों से जुड़े संयुक्त राष्ट्र के मार्गदर्शक सिद्धांतों के अनुरूप Meta की मानवाधिकार से जुड़ी ज़िम्मेदारियों को समझने के लिए करता है, जिसके लिए Meta ने खुद अपनी कॉर्पोरेट मानवाधिकार पॉलिसी में प्रतिबद्धता जताई है. बोर्ड ऐसा इसलिए करता है कि वह रिव्यू के लिए आए कंटेंट से जुड़े अलग-अलग फ़ैसले ले सके और यह समझ सके कि कंटेंट मॉडरेशन से जुड़ा Meta का व्यापक दृष्टिकोण क्या है. जैसा कि अभिव्यक्ति की आज़ादी के बारे में संयुक्त राष्ट्र के विशेष प्रतिवेदक मे कहा है कि भले ही “कंपनियों का सरकारों के प्रति दायित्व नहीं है, लेकिन उनका प्रभाव इस तरह का है जो उनके लिए अपने यूज़र की सुरक्षा के बारे में इस तरह के सवालों का मूल्यांकन करना ज़रूरी बनाता है” ( A/74/486, पैरा. 41).

संयुक्त राष्ट्र मानवाधिकार समिति ने इस बात पर ज़ोर दिया कि सार्वजनिक मामलों के आचरण और वोट के अधिकार के प्रभावी उपयोग के लिए अभिव्यक्ति की आज़ादी ज़रूरी है (सामान्य कमेंट सं. 34, पैरा. 20; यह भी देखें सामान्य कमेंट सं. 25, पैरा. 12 और 25). इसी दौरान, कई संयुक्त राष्ट्र के विशेष प्रतिवेदक और संयुक्त राष्ट्र वर्क ग्रुप्स ने 2024 में एक संयुक्त बयान दिया कि: “राजनैतिक भाषण को अंतर्राष्ट्रीय कानून के तहत मज़बूत संरक्षण मिला हुआ है, फिर भी कभी-कभी राजनेता इसका दुरुपयोग करते हैं और इसका उपयोग भड़काऊ बातचीत में शामिल होने और गलत जानकारी फैलाने के लाइसेंस के रूप में करते हैं, जिसमें चुनावी परिणामों और चुनावों की निष्पक्षता के संबंध में भी गलत जानकारी फैलाना शामिल है. सोशल मीडिया के ज़रिए सुनियोजित तरीके से बदनामी करने के कैंपेन और डीपफ़ेक का उपयोग खास तौर से चिंताजनक है, क्योंकि वे चुनावों में हेर-फेर करने के शक्तिशाली टूल बन गए हैं, जिनमें विदेशी अभिनेता भी शामिल हैं जो सीमाओं के पार से चुनावों में हस्तक्षेप करना चाहते हैं” (यह भी देखें, संयुक्त राष्ट्र के विशेष प्रतिवेदक की रिपोर्ट, A/HRC/47/25, पैरा. 18, राजनेताओं और पारंपरिक मीडिया द्वारा किस प्रकार गलत जानकारी फैलाई जाती है; चुनावी संदर्भों में राय और अभिव्यक्ति की आज़ादी के अधिकार मिलने पर संयुक्त राष्ट्र के विशेष प्रतिवेदक की रिपोर्ट, A/HRC/26/30).

बोर्ड ने कहा कि इस ऑडियो को ऐसे इलाके की चुनावी अवधि के दौरान पोस्ट किया गया था जहाँ पहले भी अनियमित चुनाव होते रहे हैं. इससे ऑडियो द्वारा चुनावी विकल्पों को प्रभावित करने और चुनावी निष्पक्षता को नुकसान पहुँचाने की क्षमता बढ़ जाती है. जैसा कि संयुक्त राष्ट्र के विशेष प्रतिवेदक की रिपोर्ट से पता चलता है, सोशल मीडिया प्लेटफ़ॉर्म का चुनावी निष्पक्षता पर खास तौर से बहुत ज़्यादा प्रभाव पड़ता है (A/HRC/47/25, पैरा. 16). बोर्ड का मानना ​​है कि दुनिया भर में चुनाव संबंधी गलत जानकारी फैलाने व्यापकता के बारे में संयुक्त राष्ट्र के स्वतंत्र विशेषज्ञ के निष्कर्ष को देखते हुए, Meta की मानवाधिकार से जुड़ी ज़िम्मेदारियों के तहत इसके प्रतिकूल प्रभावों को कम करने के लिए उचित उपाय करना ज़रूरी है. जब इसे कम करने के उपायों से यूज़र्स की अभिव्यक्ति की आज़ादी का अधिकार सीमित होता हो, तो यह ज़रूरी है कि वे उन्हें ICCPR के अनुच्छेद 19(3) के तहत तीन-भाग वाले परीक्षण की शर्तों को पूरा करते हों.

I. वैधानिकता (नियमों की स्पष्टता और सुलभता)

वैधानिकता के सिद्धांत के लिए यह ज़रूरी है कि अभिव्यक्ति को सीमित करने वाले नियमों को एक्सेस किया जा सकता हो और वे स्पष्ट हों. उन्हें पर्याप्त सटीकता के साथ बनाया गया हो ताकि लोग अपने व्यवहार को उसके अनुसार बदल सकें (सामान्य कमेंट सं. 34, पैरा. 25). इसके अलावा, ये नियम “उन लोगों को अभिव्यक्ति की आज़ादी पर प्रतिबंध लगाने के निरंकुश अधिकार नहीं दे सकते, जिनके पास इन नियमों को लागू करने की ज़िम्मेदारी है” और नियमों में “उन लोगों के लिए पर्याप्त मार्गदर्शन भी होना ज़रूरी है जिन पर इन्हें लागू करने की ज़िम्मेदारी है ताकि वे यह पता लगा सकें कि किस तरह की अभिव्यक्ति को उचित रूप से प्रतिबंधित किया गया है और किसे नहीं,” (पूर्वोक्त). अभिव्यक्ति की आज़ादी पर संयुक्त राष्ट्र के विशेष प्रतिवेदक ने कहा है कि ऑनलाइन अभिव्यक्ति की निगरानी करने के मामले में निजी संस्थानों पर लागू होने वाले नियम स्पष्ट और विशिष्ट होने चाहिए (A/HRC/38/35, पैरा. 46 पर). Meta के प्लेटफ़ॉर्म का उपयोग करने वाले लोगों के लिए ये नियम एक्सेस करने और समझने लायक होने चाहिए और उनके एन्फ़ोर्समेंट के संबंध में कंटेंट रिव्यूअर्स को स्पष्ट मार्गदर्शन दिया जाना चाहिए.

बोर्ड को लगता है कि हेर-फेर करके बनाए गए मीडिया पर गलत जानकारी की पॉलिसी स्पष्ट है और इसे मामले के कंटेंट पर लागू करना काफ़ी है. पॉलिसी की भाषा यूज़र्स को लागू नियमों और Meta के सभी प्लेटफ़ॉर्म पर ऐसे कंटेंट को पोस्ट करने के परिणामों से स्पष्ट रूप से तब अवगत कराती है, (जैसे कि जानकारी वाला लेबल लगाना) जब यह अन्य कम्युनिटी स्टैंडर्ड का उल्लंघन नहीं करता है. हालाँकि, Meta को ट्रांसपेरेंसी सेंटर के एक पेज पर हेर-फेर करके बनाए गए मीडिया के सभी अलग-अलग लेबल की जानकारी को इकट्ठा करने पर विचार करना चाहिए, ताकि यूज़र्स आसानी से उनके बारे में ज़्यादा जान सकें.

II.वैधानिक लक्ष्य

अभिव्यक्ति की आज़ादी पर लगाए जाने वाले सभी प्रतिबंधों में ICCPR में सूचीबद्ध कानूनी लक्ष्यों में से एक या एक से ज़्यादा को पूरा किया जाना चाहिए, जिसमें अन्य लोगों के अधिकारों की रक्षा शामिल है (अनुच्छेद 19, पैरा. 3, ICCPR). छेड़छाड़ करके बनाए गए, राष्ट्रपति बाइडेन के वीडियो वाले मामले में, बोर्ड ने माना कि सार्वजनिक मामलों में भाग लेने के अधिकार की रक्षा करना (अनुच्छेद 25, ICCPR) एक वैध लक्ष्य है.

III.आवश्यकता और आनुपातिकता

ICCPR के आर्टिकल 19(3) के तहत, आवश्यकता और आनुपातिकता के सिद्धांत के अनुसार यह ज़रूरी है कि अभिव्यक्ति की आज़ादी पर लगाए जाने वाले प्रतिबंध “उनके सुरक्षात्मक कार्य को सही तरीके से पूरा करने वाले होने चाहिए; उनसे उन लोगों के अधिकारों के साथ कम से कम हस्तक्षेप होना चाहिए, जिन अधिकारों से उन्हें सुरक्षात्मक कार्यों का लाभ मिल सकता है; उन हितों के अनुसार सही अनुपात में होने चाहिए, जिनकी सुरक्षा की जानी है,” (सामान्य कमेंट सं. 34, पैरा. 34).

अभिव्यक्ति की आज़ादी पर संयुक्त राष्ट्र के विशेष प्रतिवेदक ने कहा है ( A/74/486, पैरा 51) कि “कंपनियों के पास कंटेंट से निपटने के ऐसे टूल उपलब्ध हैं जो मानवाधिकारों के अनुरूप तरीकों का उपयोग करते हैं और कुछ मामलों में ये टूल, सरकारों के पास उपलब्ध टूल से भी ज़्यादा व्यापक हैं.” इस संबंध में, बोर्ड का मानना ​​है कि विवादित कंटेंट को पूरी तरह हटाने के बजाय, उस पर जानकारी देने वाला लेबल, जैसे कि “बहुत ज़्यादा जोखिम” वाला लेबल लगाने से आवश्यकता और आनुपातिकता की शर्तें पूरी हो जाती हैं. इस उपाय की आवश्यकता और आनुपातिकता को तय करने में, बोर्ड ने इन कारकों पर विचार किया: a) यह कि कंटेंट को चुनाव की तारीख के करीब पोस्ट किया गया था; b) पिछले चुनावों के दौरान गलत जानकारी और भ्रामक सूचनाओं का इतिहास; c) राजनैतिक माहौल में ध्रुवीकरण की मौजूदगी; d) इलाके में समाचार मीडिया पर राजनैतिक नियंत्रण, यानी जानकारी का सोर्स; e) इस बात की संभावना कि पोस्ट में मौजूद मीडिया में छेड़छाड़ की गई है, जिसका संकेत दो स्वतंत्र आकलन से मिलता है; और f) इस बात की संभावना कि डिजिटल रूप से छेड़छाड़ किया गया मीडिया मतदाताओं को गुमराह करेगा और प्रभावित करेगा.

जानकारी पाने का अधिकार और वोट देने का अधिकार, आंतरिक रूप से जुड़े हुए हैं, एक-दूसरे को मज़बूती देने वाले हैं और लोकतंत्र निर्माण के मुख्य तत्व हैं. संयुक्त राष्ट्र के विचार और अभिव्यक्ति की आज़ादी के विशेष प्रतिवेदक, मीडिया की आज़ादी पर यूरोप के सुरक्षा और सहयोग संगठन के प्रतिनिधि, अभिव्यक्ति की आज़ादी पर अमेरिकी राज्यों के संगठन के विशेष प्रतिवेदक और मानव और जन अधिकार पर अफ़्रीकी आयोग के अभिव्यक्ति की आज़ादी और जानकारी पाने के अधिकार पर विशेष प्रतिवेदक के 2009 के संयुक्त वक्तव्य में इस बात पर ज़ोर दिया गया कि "स्वतंत्र और निष्पक्ष चुनाव सिर्फ़ तभी हो सकते हैं, जब मतदाताओं के पास पूरी जानकारी हो और उन्हें बहुलवादी और पर्याप्त जानकारी मिल सके." कंटेंट पर जानकारी वाला लेबल लगाना सबसे कम हस्तक्षेप करने वाला उपाय है, जो यूज़र्स को इस संभावना के बारे में बताएगा कि ऑडियो क्लिप डिजिटल रूप से बनाई गई थी, जो बहुत ज़्यादा ध्रुवीकृत और विवादित चुनाव से पहले जनता को गुमराह करने के जोखिम को कम करेगा. "बहुत ज़्यादा जोखिम" लेबल लगाकर, Meta यूज़र्स को यह बताता है कि कंटेंट डिजिटल रूप से बनाया गया हो सकता है. साथ ही, वह चुनाव को प्रभावित करने वाली जानकारी की सच्चाई पर फ़ैसला किए बिना कंटेंट का आकलन करने के तरीके के बारे में मार्गदर्शन करता है. बोर्ड ने इराकी कुर्दिस्तान में पारंपरिक मीडिया और सोशल मीडिया, दोनों में पक्षपातपूर्ण मीडिया वाले माहौल पर भी बात की है (देखें PC-31199, सेंटर फ़ॉर एडवांस्ड स्टडीज़ इन साइबर लॉ ऐंड आर्टिफ़िशियल इंटेलिजेंस). बिना किसी लेबल के कंटेंट को बनाए रखने से यूज़र्स की जानकारी पाने और अभिव्यक्ति की आज़ादी के लिए पहले से ही कमज़ोर ईकोसिस्टम में राजनैतिक चर्चा में भाग लेने की क्षमता पर प्रतिकूल प्रभाव पड़ता है.

अभिव्यक्ति पर हस्तक्षेप (यानी लेबलिंग) को लेकर आंतरिक निरंतरता और सामंजस्य के लिए यह ज़रूरी है कि लेबल को इस ऑडियो वाली सभी पोस्ट पर लागू किया जाए. छेड़छाड़ करके बनाए गए, राष्ट्रपति बाइडेन के वीडियो वाले मामले में बोर्ड ने सुझाव दिया कि छेड़छाड़ करके बनाए गए मीडिया के लिए, अन्य कम्युनिटी स्टैंडर्ड का उल्लंघन नहीं करते हुए, कंपनी को "प्लेटफ़ॉर्म पर उस मीडिया के सभी समान मामलों" पर एक लेबल लगाना चाहिए. बोर्ड, इस सुझाव को लागू करने के लिए Meta की प्रतिबद्धता को स्वीकार करता है. इस मामले से संबंधित, इस ऑडियो वाली सभी पोस्ट पर लेबल लागू करना उस प्रतिबद्धता के अनुरूप होगा. इस मामले में Meta का यह दावा करना कि वह इस ऑडियो वाले हर कंटेंट पर अपने आप "बहुत ज़्यादा जोखिम" का लेबल नहीं लगाता, बोर्ड के इस सुझाव का विरोध करता है.

ज़रूरी बात यह है कि लेबल लगाने से कंटेंट का महत्व कम नहीं होता और न ही उसे सुझाव के तौर पर दिखाने से रोका जाता है. इसके अतिरिक्त, ऑडियो को गलत या बुरा बताने वाले कंटेंट पर गलत लेबल लगाने से यूज़र्स के भ्रमित होने की Meta की चिंता न तो सही है और न ही इसका सपोर्ट करने वाले सबूत मिले हैं. इसके विपरीत, इस ऑडियो वाली सभी पोस्ट पर लेबल न लगाने से जनता के गुमराह और भ्रमित होने की संभावना बढ़ जाती है. बोर्ड ने नोट किया कि कुछ यूज़र्स ने मीडिया संस्था की पोस्ट पर यह सोचकर कमेंट किया कि ऑडियो असली है. Meta के अनुसार, कंपनी ने उसी मीडिया संस्था की अन्य पोस्ट पर भी लेबल लगाया था, जिनमें वही ऑडियो था. एक ही मीडिया संस्था से प्रकाशित कुछ पोस्ट पर लेबल लगाने से यूज़र्स के भ्रमित होने की संभावना या इससे भी बदतर, और ज़्यादा गुमराह होने की संभावना बढ़ जाती है. जैसा कि बोर्ड ने छेड़छाड़ करके बनाए गए, राष्ट्रपति बाइडेन के वीडियो के फ़ैसले में बताया कि कंटेंट के एक छोटे से हिस्से पर लेबल लगाने से " यह गलत धारणा बन सकती है कि बिना लेबल वाला कंटेंट स्वाभाविक रूप से भरोसेमंद है." बोर्ड को बहुत ज़्यादा विवादास्पद और ध्रुवीकरण से भरे चुनाव से पहले, Meta द्वारा लेबल के चुनिंदा उपयोग को लेकर चिंता है. हालाँकि, बोर्ड को दो अलग-अलग "बहुत ज़्यादा जोखिम" वाले लेबल की ज़रूरत नहीं लगती, एक यह बताता है कि हो सकता है कंटेंट में हेर-फेर हुआ हो और दूसरा यह बताता है कि इसमें हेर-फेर हुआ था. Meta को फिर से इस बात का आकलन करना चाहिए कि क्या यह अतिरिक्त जटिलता किसी उपयोगी उद्देश्य को पूरा करती है.

बोर्ड इस बात से भी चिंतित है कि Meta के हेर-फेर करके बनाए गए मीडिया लेबल सोरानी कुर्दिश भाषा में उपलब्ध नहीं हैं, जो कि मामले के कंटेंट में इस्तेमाल की गई भाषाओं में से एक है (यानी सबटाइटल सोरानी कुर्दिश भाषा में हैं). बोर्ड ने नोट किया कि सोरानी कुर्दिश Facebook यूज़र्स के लिए उपलब्ध, ऐप में मौजूद भाषाओं में से एक है. हालाँकि, जिन यूज़र्स की भाषा सेटिंग डिफ़ॉल्ट रूप से सोरानी कुर्दिश है, वे AI लेबल, जैसे कि "बहुत ज़्यादा जोखिम" वाले लेबल इस बोली में नहीं देख पाएँगे. कई फ़ैसलों में, बोर्ड ने Meta के कम्युनिटी स्टैंडर्ड और Meta के आंतरिक एन्फ़ोर्समेंट गाइडलाइन के पहलुओं को उसके यूज़र्स द्वारा बोली जाने वाली भाषाओं में अनुवाद करने का सुझाव दिया है. ऐसा यह सुनिश्चित करने के लिए है कि यूज़र्स को नियमों के बारे में पूरी जानकारी हो और सटीक एन्फ़ोर्समेंट हो सके (देखें भारत में RSS (राष्ट्रीय स्वयं संघ) को लेकर पंजाबियों की चिंता, म्यांमार बॉट, अरबी शब्दों पर दावेदारी). इसी प्रकार, "बहुत ज़्यादा जोखिम" वाले लेबल का उद्देश्य यूज़र्स को यह बताना है कि कंटेंट में डिजिटल रूप से हेर-फेर किया जा सकता है. Meta के सभी प्लेटफ़ॉर्म पर पहले से उपलब्ध स्थानीय भाषा में लेबल उपलब्ध कराना, चुनावी निष्पक्षता सुनिश्चित करने के लिए Meta के प्रयासों का एक अभिन्न हिस्सा होना चाहिए.

बोर्ड ने नोट किया कि इस मामले में मुद्दा ऑडियो की प्रामाणिकता से संबंधित है, जो उसमें लगाए गए आरोपों की सटीकता से स्वतंत्र है. यह देखते हुए कि अगर ऑडियो पर यह लेबल लगाया जाता है कि इसे शायद डिजिटल रूप से बनाया गया है या इसके साथ छेड़छाड़ की गई है, तो यूज़र्स इस कंटेंट की सटीकता के बारे में सचेत हो जाते हैं, बोर्ड को लगता है कि हेर-फेर करके बनाए गए मीडिया पर गलत जानकारी की पॉलिसी लागू करना काफ़ी है. हालाँकि, बोर्ड इस बात से चिंतित है कि Meta के पास चुनाव के दौरान चुनावी निष्पक्षता बनाए रखने उपायों के तहत, कंटेंट का रिव्यू करने के लिए कुर्द भाषा में फ़ैक्ट-चेकर उपलब्ध नहीं थे. यह विशेष रूप से ध्रुवीकरण से भरे चुनाव राजनैतिक वातावरण, सीमित स्वतंत्र मीडिया और चुनाव से जुड़ी गलत जानकारी और सुनियोजित ढंग से गलत जानकारी फैलाने के कैंपेन के इतिहास के संदर्भ में है.

एन्फ़ोर्समेंट

बोर्ड, Meta की हेर-फेर करके बनाए गए मीडिया की पॉलिसी के असंगत और सीमित एन्फ़ोर्समेंट और संभावित रूप से हेर-फेर करके बनाए गए कंटेंट के तकनीकी आकलन के लिए थर्ड पार्टी पर कंपनी की निर्भरता, दोनों से चिंतित है. छेड़छाड़ करके बनाए गए, राष्ट्रपति बाइडेन के वीडियो के फ़ैसले में, Meta ने बोर्ड को बताया कि "भाषण से जुड़े वीडियो को सबसे भ्रामक और पक्के तौर पर पता लगाने में सबसे आसान माना जाता है." इस मामले में, बोर्ड ने Meta को बताया कि "ऐसा कंटेंट, जिसमें सिर्फ़ ऑडियो होता है, उसमें अप्रामाणिकता के कम संकेत शामिल हो सकते हैं और इसलिए यह वीडियो कंटेंट के बराबर या उससे ज़्यादा भ्रामक हो सकता है". इस मामले में, बोर्ड ने सुझाव दिया कि Meta को फ़ोटोग्राफ़ या स्थिर इमेज पर ध्यान केंद्रित नहीं करना चाहिए और छेड़छाड़ किए गए वीडियो और ऑडियो को प्राथमिकता देनी चाहिए. हालाँकि, Meta ने बोर्ड को रिपोर्ट किया कि जब अपने सभी प्लेटफ़ॉर्म पर AI से बनाए गए या हेर-फेर करके बनाए गए कंटेंट की पहचान करने की बात आती है, तो वह अपने आप से सिर्फ़ फ़ोटो की पहचान करने और लेबल लगाने में सक्षम है, न कि वीडियो या ऑडियो कंटेंट को. ऑडियो और वीडियो पर "AI से ली गई जानकारी" लेबल लगाने में, कंपनी इस बात पर निर्भर करती है कि यूज़र्स AI के उपयोग की बात खुद बताएँगे. यह देखते हुए कि Meta अपने संसाधनों और Meta के सभी प्लेटफ़ॉर्म के व्यापक उपयोग के साथ दुनिया की सबसे ज़्यादा एडवांस, टेक्नोलॉजी और AI कंपनियों में से एक है, बोर्ड इस बात पर ज़ोर देता है कि Meta को हेर-फेर करके बनाए गए वीडियो और ऑडियो की पहचान करने और उनके ऊपर लेबल लगाने के लिए बड़े पैमाने पर टेक्नोलॉजी में निवेश को प्राथमिकता देनी चाहिए. इसके अतिरिक्त, ऐसे कंटेंट के लिए जिसकी पहचान और आकलन कंपनी ने पहले ही संभावित रूप से हेर-फेर करके बनाए गए कंटेंट के तौर पर कर ली हो और "जिससे खास तौर पर सार्वजनिक महत्व के किसी मामले में लोगों को बड़ा धोखा होने का बहुत ज़्यादा जोखिम” पैदा होता हो," हेर-फेर करके बनाए गए एक ही मीडिया वाली सभी पोस्ट पर लेबल लगाने के लिए ज़रूरी टूल्स का उपयोग करने में Meta की विफलता, असंगत और अनुचित है.

अंत में, Meta को इस बात पर फिर से सोचना चाहिए कि क्या कंटेंट के साथ छेड़छाड़ होने का आकलन करने के लिए उसके पास आंतरिक विशेषज्ञता है. बोर्ड के लिए यह स्पष्ट नहीं है कि ऐसी तकनीकी विशेषज्ञता और संसाधनों वाली कंपनी बहुत ज़्यादा जोखिम वाली स्थितियों में संभावित रूप से हेर-फेर करके बनाए गए मीडिया की पहचान का काम मीडिया संस्थाओं या भरोसेमंद पार्टनर्स को क्यों आउटसोर्स करती है.

6. ओवरसाइट बोर्ड का फ़ैसला

ओवरसाइट बोर्ड ने Meta के कंटेंट पर लेबल न लगाने के फ़ैसले को बदलते हुए, उस पोस्ट पर लेबल लगाने के लिए कहा है.

7. सुझाव

एन्फ़ोर्समेंट

1. यह सुनिश्चित करने के लिए कि "बहुत ज़्यादा जोखिम" वाले लेबल, हेर-फेर करके बनाए गए सभी समान या एक जैसे कंटेंट पर निरंतरता के साथ लगाए जाते हैं, Meta को अपने सभी प्लेटफ़ॉर्म पर हेर-फेर करके बनाए गए एक ही मीडिया वाले सभी कंटेंट पर प्रासंगिक लेबल लगाना चाहिए, जिसमें इस मामले में हेर-फेर करके बनाए गए ऑडियो वाली सभी पोस्ट शामिल हैं.

बोर्ड इस सुझाव को लागू करने पर तब विचार करेगा, जब Meta बोर्ड को प्लेटफ़ॉर्म पर हेर-फेर करके बनाए गए मीडिया वाली सभी पोस्ट को लगातार पहचानने और उचित "बहुत ज़्यादा जोखिम" वाले लेबल लगाने के लिए एक स्पष्ट प्रोसेस उपलब्ध कराएगा.

2. चुनावी निष्पक्षता की कोशिशों के एक हिस्से के रूप में और यह सुनिश्चित करने के लिए कि चुनाव से पहले Meta के सभी प्लेटफ़ॉर्म पर हेर-फेर करके बनाए गए मीडिया के बारे में यूज़र्स को बताया जाता है, Meta को यह सुनिश्चित करना चाहिए कि Facebook, Instagram और Threads पर हेर-फेर करके बनाए गए मीडिया के लिए जानकारी वाले लेबल उसी भाषा में दिखाए जाएँ, जिसे यूज़र ने उस प्लेटफ़ॉर्म के लिए चुना है.

बोर्ड इस सुझाव को लागू करने पर तब विचार करेगा, जब Meta अपने ट्रांसपेरेंसी सेंटर में उन भाषाओं के बारे में जानकारी देगा जिनमें हेर-फेर करके बनाए गए मीडिया वाले लेबल उसके प्लेटफ़ॉर्म पर यूज़र्स के लिए उपलब्ध हैं.

*प्रक्रिया संबंधी नोट:

• ओवरसाइट बोर्ड के फ़ैसले पाँच मेंबर्स के पैनल द्वारा लिए जाते हैं और उन पर बोर्ड के अधिकांश मेंबर्स की सहमति होती है. ज़रूरी नहीं है कि बोर्ड के फ़ैसले, सभी सदस्यों की राय दर्शाएँ.
• अपने चार्टर के तहत, ओवरसाइट बोर्ड उन यूज़र्स की अपील रिव्यू कर सकता है, जिनका कंटेंट Meta ने हटा दिया था और उन यूज़र्स की अपील जिन्होंने उस कंटेंट की रिपोर्ट की थी जिसे Meta ने बनाए रखा. साथ ही, बोर्ड Meta की ओर से रेफ़र किए गए फ़ैसलों का रिव्यू कर सकता है (चार्टर आर्टिकल 2, सेक्शन 1). बोर्ड के पास Meta के कंटेंट से जुड़े फ़ैसलों को कायम रखने या उन्हें बदलने का बाध्यकारी अधिकार है (चार्टर आर्टिकल 3, सेक्शन 5; चार्टर आर्टिकल 4). बोर्ड ऐसे गैर-बाध्यकारी सुझाव दे सकता है, जिनका जवाब देना Meta के लिए ज़रूरी है (चार्टर आर्टिकल 3, सेक्शन 4; अनुच्छेद 4). जहाँ Meta, सुझावों पर एक्शन लेने की प्रतिबद्धता व्यक्त करता है, वहाँ बोर्ड उनके लागू होने की निगरानी करता है.
• इस मामले के फ़ैसले के लिए, बोर्ड की ओर से स्वतंत्र रिसर्च करवाई गई थी. बोर्ड को Duco Advisers की सहायता मिली, जो भौगोलिक-राजनैतिक, विश्वास और सुरक्षा तथा टेक्नोलॉजी के आपसी संबंध पर काम करने वाली एक एडवाइज़री फ़र्म है.
• Lionbridge Technologies, LLC कंपनी ने भाषा संबंधी विशेषज्ञता की सेवा दी, जिसके विशेषज्ञ 350 से भी ज़्यादा भाषाओं में कुशल हैं और वे दुनियाभर के 5,000 शहरों से काम करते हैं.

मामले के निर्णयों और नीति सलाहकार राय पर लौटें