एन्फ़ोर्समेंट दृष्टिकोण बदलकर, गुमराह करने वाले डीपफ़ेक विज्ञापनों का मुकाबला करना

5 जून 2025

बोर्ड ने उस Facebook पोस्ट को बनाए रखने के Meta के फ़ैसले को बदल दिया है, जिसमें AI की मदद से हेरफेर किया गया, एक व्यक्ति का वीडियो दिखाया गया है, जो कि ब्राज़ीलियाई फु़टबॉल दिग्गज रोनाल्डो नाज़ारियो लगता है, जो ऑनलाइन गेम का समर्थन कर रहा है। पोस्ट को हटाना, धोखाधड़ी और स्पैम संबंधी Meta के कम्युनिटी स्टैंडर्ड के अनुरूप है। Meta को विज्ञापन के लिए कंटेंट को भी अस्वीकार कर देना चाहिए था, क्योंकि इसके नियम, लोगों को विज्ञापन से जुड़ने के लिए लुभाने में किसी प्रसिद्ध व्यक्ति की छवि का उपयोग करने पर रोक लगाते हैं।  

सार्वजनिक रिपोर्टिंग के आधार पर, बोर्ड ने पाया कि वास्तविक सेलिब्रिटी वाले विज्ञापनों के एक छोटे से हिस्से पर संभावित अति-एन्फ़ोर्समेंट से बचने के लिए, संभवत: Meta अपने प्लेटफ़ॉर्म पर उल्लेखनीय रूप में स्कैम कंटेंट को अनुमति दे रहा है। बड़े पैमाने पर रिव्यूअर्स को ऐसे कंटेंट पर इस प्रतिबंध को लागू करने का अधिकार नहीं है, जो किसी फर्ज़ी व्यक्तित्व को स्थापित करता है या स्कैम या ठगी करने के लिए कोई प्रसिद्ध व्यक्ति होने का दिखावा करता है। Meta को, रिव्यूअर्स को अक्सर आसानी से पहचाने जाने वाले संकेतक, जो AI की मदद से बनाए गए कंटेंट को अलग करते हैं, प्रदान करके इस प्रतिबंध को बड़े पैमाने पर लागू करना चाहिए।

इस केस के बारे में

सितंबर 2024 में, एक यूज़र ने एक ऐसे व्यक्ति के, AI की मदद से हेरफेर किए गए वीडियो वाली पोस्ट साझा की, जो सेवानिवृत्त ब्राज़ीलियाई फुटबॉल खिलाड़ी रोनाल्डो नाज़ारियो जैसा दिखता है। वीडियो में, वह लोगों को लोकप्रिय ऑनलाइन गेम Plinko (या Plinco) खेलने के लिए एक ऐप डाउनलोड करने के लिए प्रोत्साहित करता है।

वीडियो में, रोनाल्डो नाज़ारियो की नकल करने वाले की आवाज़ और उसके होंठों के चलने में तालमेल नहीं है। वीडियो में एक स्कूली शिक्षक, एक बस ड्राइवर और किराना दुकान के एक कर्मचारी की AI की मदद से बनाई गई तस्वीरें दिखती हैं, साथ ही ब्राज़ील में इन नौकरियों का औसत वेतन भी दिखाया जाता है। ऑडियो दावा करता है कि Plinko पर खिलाड़ी, उल्लिखित नौकरियों की बजाय गेम से अधिक पैसा कमा सकते हैं। यह वीडियो, यूज़र्स को एक डाउनलोड लिंक पर क्लिक करने के लिए प्रोत्साहित करता है, लेकिन वह लिंक एक अलग गेम पर ले जाता है, जिसे कि Bubble Shooter कहा जाता है। इस पोस्ट को 6,00,000 से अधिक देखा गया था।

एक यूज़र ने Meta को कंटेंट की शिकायत की, जिसमें इसे धोखाधड़ी या स्कैम वाला बताया गया, लेकिन शिकायत को प्राथमिकता नहीं दी गई। कंपनी ने कंटेंट को नहीं हटाया। यूज़र ने इस फ़ैसले के खिलाफ़ Meta को अपील की, लेकिन इस अपील को मानवीय रिव्यू के लिए प्राथमिकता नहीं दी गई, इसलिए कंटेंट Facebook पर बना रहा। अंतत:, उस यूज़र ने Meta के फ़ैसले के खिलाफ़ बोर्ड में अपील की, जिसमें कहा गया कि पोस्ट प्रायोजित लगती है। यदि कोई पोस्ट बूस्ट की जाती है, तो उस पोस्ट पर एक विज्ञापन बनाया जाता है।

कंपनी के स्वीकार न किए जाने वाले बिज़नेस करने तरीके संबंधी विज्ञापन स्टैंडर्ड का उल्लंघन करने के कारण उस विज्ञापन को तो अक्षम कर दिया गया था, लेकिन मूल ऑर्गेनिक पोस्ट प्लेटफ़ॉर्म पर बनी रही। बोर्ड द्वारा रिव्यू के लिए इस केस की पहचान करने के बाद, Meta ने धोखाधड़ी, स्कैम और कपटपूर्ण व्यवहार संबंधी पॉलिसी का उल्लंघन करने के कारण मूल पोस्ट को हटा दिया। Meta ने बाद में पुष्टि की कि पोस्ट ने उसकी स्पैम संबंधी पॉलिसी का भी उल्लंघन किया है। 

डीपफ़ेक और डीपफ़ेक विज्ञापन वैश्विक स्तर पर बढ़ रहे हैं, जिनमें सार्वजनिक हस्तियों द्वारा धोखाधड़ी वाले राजनीतिक अभियानों का प्रचार और वित्तीय स्कैम करना शामिल है। रिपोर्ट बताती हैं कि ब्राज़ील में कई वित्तीय स्कैम, जो Facebook, Instagram और WhatsApp पर किए जाते हैं, में AI की मदद से हेरफेर किया गया कंटेंट शामिल होता है।

मुख्य निष्कर्ष

कंटेंट को हटाने का फ़ैसला, Meta की मानवाधिकार ज़िम्मेदारियों के अनुरूप था। गुमराह करने वाले, हेरफेर किए गए विज्ञापन, चित्रित व्यक्ति की निजता और प्रतिष्ठा के अधिकारों के लिए उल्लेखनीय जोखिम पैदा करते हैं। वे संभावित रूप से धोखाधड़ी को बढ़ावा देकर, जनता को भी प्रभावित करते हैं।

बोर्ड को चिंता है कि बड़े पैमाने पर कंटेंट रिव्यूअर्स उन पोस्ट को हटाने में असमर्थ हैं, जो फर्ज़ी व्यक्तित्व स्थापित करती हैं या "स्कैम या धोखाधड़ी करने के प्रयास में" कोई प्रसिद्ध व्यक्ति होने का दिखावा करती हैं, भले ही कंटेंट में स्पष्ट संकेत हों कि यह Meta की पॉलिसियों का उल्लंघन करता है। इस तरह के कंटेंट को केवल Meta की विशेष टीमों द्वारा ही हटाया जा सकता है, जिससे इसकी धोखाधड़ी, स्कैम और कपटपूर्ण व्यवहार संबंधी पॉलिसी का अल्प-एन्फ़ोर्समेंट होने की संभावना बढ़ जाती है।

संभवत: Meta अपने प्लेटफ़ॉर्म पर, स्कैम कंटेंट की उल्लेखनीय मात्रा को अनुमति दे रहा है, ताकि वास्तविक सेलिब्रिटी वाले विज्ञापनों के एक छोटे से हिस्से पर संभावित अति-एन्फ़ोर्समेंट से बचा जा सके। यह विशेष रूप से तब चिंताजनक है, जब वास्तविक सेलिब्रिटी विज्ञापनों में अति-एन्फ़ोर्समेंट के विरुद्ध अन्य संभावित सुरक्षाएं होंगी, या तो क्रॉस-चेक जैसी औपचारिक प्रणालियों या Meta में संपर्क बिंदुओं के माध्यम से। इसलिए बोर्ड ने Meta को अपना दृष्टिकोण बदलने और इस पॉलिसी को बड़े पैमाने पर लागू करने का सुझाव दिया है।

वीडियो के हेरफेर वाला या फर्ज़ी होने की प्रकृति स्पष्ट है। बोर्ड ने पाया कि यह पोस्ट, धोखाधड़ी, स्कैम और कपटपूर्ण व्यवहार संबंधी कम्युनिटी स्टैंडर्ड के तहत फर्ज़ी व्यक्तित्व या किसी प्रसिद्ध व्यक्ति के होने का दिखावा करके धोखाधड़ी या ठगी करने पर Meta के प्रतिबंध का उल्लंघन करती है। यह पोस्ट, Meta के स्पैम संबंधी कम्युनिटी स्टैंडर्ड के तहत, कपटपूर्ण या गुमराह करने वाले लिंक साझा करने पर प्रतिबंध का भी उल्लंघन करती है, क्योंकि यह Plinko का प्रचार करती है, लेकिन इसमें किसी अन्य गेम का लिंक है। इसलिए, बोर्ड ने पाया कि पोस्ट को तभी हटा दिया जाना चाहिए था, जब इसकी शिकायत की गई थी। पोस्ट को हटाने से पहले भी, Meta को अपनी हेरफेर किए गए मीडिया संबंधी पॉलिसी के तहत इस पर "AI जानकारी" लेबल लागू करना चाहिए था। Meta को विज्ञापन के लिए कंटेंट को भी अस्वीकार कर देना चाहिए था, क्योंकि इसके स्वीकार न किए जाने वाले बिज़नेस करने के तरीके संबंधी विज्ञापन स्टैंडर्ड, लोगों को विज्ञापन से जुड़ने के लिए लुभाने में किसी प्रसिद्ध व्यक्ति की तस्वीर का उपयोग करने और गुमराह करने वाली रणनीति अपनाने पर रोक लगाते हैं।

Meta की ज़िम्मेदारी है कि वह मॉनेटाइज़ किए गए ऐसे कंटेंट के "मानवाधिकार पर प्रतिकूल प्रभावों को कम करे," जो स्कैम या धोखाधड़ी कर सकता है - व्यापार और मानवाधिकारों पर संयुक्त राष्ट्र के मार्गदर्शक सिद्धांतों के अनुरूप। जब कंटेंट को बूस्ट करने के लिए भुगतान किया जाता है, तो Meta को यह सुनिश्चित करना चाहिए कि ये पोस्ट उसकी पॉलिसियों का उल्लंघन न करें।

ओवरसाइट बोर्ड का फ़ैसला

ओवरसाइट बोर्ड ने Facebook पर पोस्ट को बनाए रखने के Meta के फ़ैसले को बदल दिया।

बोर्ड के ये भी सुझाव हैं कि Meta: 

• अपनी धोखाधड़ी, स्कैम और कपटपूर्ण व्यवहार संबंधी पॉलिसी के तहत, ऐसे कंटेंट पर प्रतिबंध को बड़े पैमाने पर लागू करे, जो "स्कैम या धोखाधड़ी करने के प्रयास में, कोई फर्ज़ी व्यक्तित्व स्थापित करने या कोई प्रसिद्ध व्यक्ति होने का दिखावा करने का प्रयास करता है," रिव्यूअर्स को इस कंटेंट की पहचान करने के लिए संकेतक प्रदान करके। इसमें, उदाहरण के लिए, मीडिया हेरफेर वॉटरमार्क और मेटाडेटा की मौजूदगी, या स्पष्ट कारक, जैसे कि वीडियो-ऑडियो मेल न खाना, शामिल हो सकते हैं। 

अधिक जानकारी

इस केस के लिए पब्लिक कमेंट पढ़ने के लिए, यहाँ क्लिक करें।

समाचार पर लौटें