AI की मदद से हेरफेर किए गए ऑडियो और वीडियो को बड़े पैमाने पर पहचानना और उन पर लेबल लगाना

24 जून 2025

ओवरसाइट बोर्ड ने Meta के उस फ़ैसले को बदल दिया है, जिसमें उसने एक अत्यधिक विवादित और ध्रुवीकृत चुनाव में, मतदान शुरू होने से दो सप्ताह से भी कम समय पहले, संसदीय चुनावों में धांधली पर चर्चा करने वाले दो इराकी कुर्दिश राजनेताओं की संभावित हेरफेर की गई ऑडियो क्लिप पर लेबल नहीं लगाने फ़ैसला लिया था। बोर्ड चाहता है कि Meta, कंटेंट पर लेबल लगाए।

बोर्ड को चिंता है कि हेरफेर किए गए कंटेंट के सभी फ़ॉर्मेट में बढ़ते प्रचलन के बावजूद, Meta द्वारा अपनी हेरफेर किए गए मीडिया संबंधी पॉलिसी का एन्फ़ोर्समेंट असंगत है। उसे हेरफेर किए गए ऑडियो और वीडियो की बड़े पैमाने पर पहचान करने और उन पर लेबल लगाने के लिए प्रौद्योगिकी में निवेश को प्राथमिकता देनी चाहिए, ताकि यूज़र को उचित जानकारी मिल सके।

जैसा कि इस केस में, हेरफेर किए गए एक ही मीडिया के सभी उदाहरणों में, स्वचालित रूप से लेबल लगाने में Meta की विफलता असंगत और अनुचित है।

इसके अलावा, Meta को हेरफेर किए गए मीडिया के लिए, अपने प्लेटफ़ॉर्म पर पहले से उपलब्ध स्थानीय भाषा में लेबल उपलब्ध कराने चाहिए। यह कम से कम, Meta के चुनावी शुद्धता प्रयासों का हिस्सा होना चाहिए।

इस केस के बारे में

इराकी कुर्दिस्तान के संसदीय चुनावों से दो सप्ताह से भी कम समय पहले, अक्टूबर 2024 में, क्षेत्र के मुख्य राजनीतिक दलों में से एक, कुर्दिस्तान डेमोक्रेटिक पार्टी (KDP) से संबद्ध एक लोकप्रिय मीडिया आउटलेट ने अपने Facebook पेज पर दो मिनट की ऑडियो क्लिप साझा की। पोस्ट के सोरानी कुर्दिश भाषा में लिखे गए कैप्शन में आरोप लगाया गया है कि यह ऑडियो, क्षेत्र के अन्य मुख्य राजनीतिक दल, पैट्रियाटिक यूनियन ऑफ़ कुर्दिस्तान (PUK) के सदस्य भाइयों, बाफ़ेल और कबाद तालाबानी, के बीच एक "रिकॉर्ड की गई बातचीत" है, जो अक्टूबर 2024 के चुनावों में धांधली करने की उनकी "कुटिल योजनाओं" के बारे में है। ऑडियो में, दो व्यक्ति अंग्रेजी वॉइसओवर (सोरानी कुर्दिश और अंग्रेजी सबटाइटल के साथ) के साथ बोलते हैं। एक व्यक्ति कहता है कि PUK को "न्यूनतम 30 सीटों" की गारंटी दी गई है, लेकिन उन्हें "11 सीटों" से "छुटकारा पाना" होगा, जिन्हें KDP कथित तौर पर "हमेशा अपने लाभ के लिए इस्तेमाल करती रही है।" दूसरा व्यक्ति सहमत है, यह दिखाने की आवश्यकता पर बल देता है कि ये सीटें वैध रूप से जीती गई हैं, क्योंकि लोग जानते हैं – फिर भी साबित नहीं कर सकते – कि PUK को बगदाद और उनके "पड़ोसी" से समर्थन प्राप्त है। मीडिया आउटलेट के Facebook पेज पर लगभग 40,00,000 फ़ॉलोअर हैं। इस पोस्ट को करीब 2,00,000 बार देखा गया था।

दो यूज़र ने गलत जानकारी के लिए कंटेंट की शिकायत की, लेकिन Meta ने बिना रिव्यू किए शिकायतों को बंद कर दिया। उन यूज़र में से एक के Meta से अपील करने के बाद, कंपनी ने क्लासिफ़ायर स्कोर के आधार पर अपने फ़ैसले को कायम रखा। इसके बाद यूज़र ने ओवरसाइट बोर्ड से अपील की।

Meta ने उसी मीडिया आउटलेट के Facebook और Instagram पेजों और KDP के Facebook पेज पर उस ऑडियो क्लिप वाली अन्य पोस्ट की पहचान की। इराकी कुर्दिस्तान के बाहर स्थित एक समाचार मीडिया आउटलेट और एक विश्वसनीय भागीदार के साथ परामर्श करने के बाद, ऑडियो के डिजिटल रूप से बनाए जाने की संभावना को रिव्यू करने के बाद, Meta ने कुछ पोस्ट पर लेबल लगाया, लेकिन इस केस में कंटेंट पर लेबल नहीं लगाया। उसी ऑडियो वाली अन्य पोस्ट पर लगाए गए लेबल में कहा गया है: “हो सकता है कि वास्तविक लगने के लिए यह कंटेंट डिजिटल रूप से बनाया गया हो या इसमें छेड़छाड़ की गई हो।”

मुख्य निष्कर्ष

Meta ने बोर्ड को बताया कि जब उसके प्लेटफ़ॉर्म पर, AI की मदद से बनाए गए या हेरफेर किए गए कंटेंट को पहचानने की बात आती है, तो यह केवल स्थिर तस्वीरों को स्वचालित रूप से पहचानने और उन पर लेबल लगाने में सक्षम है, वीडियो या ऑडियो कंटेंट को नहीं। Meta की विशेषज्ञता और संसाधनों और कंपनी के प्लेटफ़ॉर्म के व्यापक उपयोग को देखते हुए, उसे हेरफेर किए गए वीडियो और ऑडियो को बड़े पैमाने पर पहचानने और उन पर लेबल लगाने के लिए, प्रौद्योगिकी में निवेश को प्राथमिकता देनी चाहिए।

हेरफेर किए गए एक ही मीडिया के सभी उदाहरणों पर स्वचालित रूप से "AI जानकारी" लेबल लगाने के लिए, अपने पास मौजूद टूल को तैनात करने में Meta की विफलता असंगत और अनुचित है। राष्ट्रपति बाइडेन के छेड़छाड़ किए गए वीडियो के केस में, Meta ने बोर्ड के इस सुझाव को लागू करने के लिए प्रतिबद्धता जताई कि हेरफेर किए गए मीडिया के लिए, अन्य कम्युनिटी स्टैंडर्ड का उल्लंघन न करते हुए, कंपनी को "प्लेटफ़ॉर्म पर उस मीडिया के सभी एक जैसे उदाहरणों" पर एक लेबल लगाना चाहिए। इस केस में Meta का यह दावा कि वह ऑडियो वाले कंटेंट पर स्वचालित रूप से "उच्च जोखिम" लेबल लागू नहीं करता, इस सुझाव के विपरीत है। "AI जानकारी" और "उच्च जोखिम" लेबल सूचनात्मक लेबल हैं, जो Meta के पास हेरफेर किए गए मीडिया के लिए हैं।

बोर्ड ने नोट किया कि तकनीकी संकेतों सहित ऐसे विश्वसनीय संकेतक हैं, जिनसे पता चलता है कि क्लिप, डिजिटल रूप से बनाई गई थी। यह Meta की गलत जानकारी संबंधी पॉलिसी के तहत, हेरफेर किए गए मीडिया की शर्तों को पूरा करता है। इस पर "उच्च जोखिम" लेबल लगाना, Meta की पॉलिसी और मानवाधिकार जिम्मेदारियों के अनुरूप है। ऑडियो को अनियमित चुनावों के इतिहास वाले क्षेत्र में, अत्यधिक विवादित चुनावी अवधि के दौरान पोस्ट किया गया था। इससे ऑडियो की, चुनावी विकल्पों को प्रभावित करने और चुनावी शुद्धता को नुकसान पहुंचाने की क्षमता बढ़ जाती है। केस के कंटेंट को पूरी तरह से हटाने के बजाय, उस पर एक सूचनात्मक लेबल लगाना, आवश्यकता और सापेक्षता की शर्तों को पूरा करता है।

बोर्ड चिंतित है कि हेरफेर किए गए मीडिया संबंधी Meta के लेबल सोरानी कुर्दिश भाषा में उपलब्ध नहीं हैं। यह तब है, जब सोरानी कुर्दिश, Facebook यूज़र के लिए ऐप में उपलब्ध भाषाओं में से एक है। यह सुनिश्चित करने के लिए कि जब कंटेंट डिजिटल रूप से बनाया गया हो या उसमें छेड़छाड़ की गई हो, तो यूज़र को सूचित किया जाए, लेबल को Meta के प्लेटफ़ॉर्म पर पहले से उपलब्ध स्थानीय भाषा में उपलब्ध कराना, कम से कम, इसके चुनावी शुद्धता प्रयासों का हिस्सा होना चाहिए।

बोर्ड, संभावित रूप से हेरफेर किए गए कंटेंट के तकनीकी मूल्यांकन के लिए, कंपनी की तीसरे पक्ष पर निर्भरता को लेकर भी चिंतित है। Meta को इस विशेषज्ञता को आंतरिक रूप से उपलब्ध कराने पर पुनर्विचार करना चाहिए।

बोर्ड ने नोट किया कि इस केस में मुद्दा यह है कि ऑडियो असली है या नकली, बजाय इसके कि ऑडियो में जो कहा गया है, क्या वह सच है। यह देखते हुए कि ऑडियो पर यह लेबल लगाना कि हो सकता है कि उसे डिजिटल रूप से बनाया गया हो या उसमें छेड़छाड़ की गई हो, यूज़र को इसके कंटेंट की सटीकता के बारे में सचेत करेगा, हेरफेर किए गए मीडिया पर गलत जानकारी संबंधी पॉलिसी का उपयोग किया जाना बोर्ड को पर्याप्त लगता है। हालांकि, बोर्ड को चिंता है कि Meta के पास, चुनाव के दौरान अपने चुनावी शुद्धता उपायों के हिस्से के रूप में कंटेंट को रिव्यू करने के लिए कुर्दिश भाषा में तथ्य-जांचकर्ता उपलब्ध नहीं थे।

ओवरसाइट बोर्ड का फ़ैसला

ओवरसाइट बोर्ड ने कंटेंट पर लेबल न लगाने के Meta के फ़ैसले को बदल दिया, क्योंकि पोस्ट पर लेबल लगाने की आवश्यकता थी।

बोर्ड के ये भी सुझाव हैं कि Meta:

• इस केस में हेरफेर किए गए ऑडियो वाली सभी पोस्ट सहित, हेरफेर किए गए समान मीडिया वाले सभी कंटेंट पर एक प्रासंगिक लेबल लगाया जाए।
• सुनिश्चित करे कि Facebook, Instagram और Threads पर, हेरफेर किए गए मीडिया के लिए सूचनात्मक लेबल उसी भाषा में प्रदर्शित किए जाएं, जिसे यूज़र ने उसके प्लेटफ़ॉर्म के लिए चुना है।

अधिक जानकारी

इस केस के लिए पब्लिक कमेंट पढ़ने के लिए, यहाँ क्लिक करें।

समाचार पर लौटें