पलट जाना
AI से हेरफेर करके बनाया गया जुए को प्रमोट करने वाला वीडियो
5 जून 2025
बोर्ड ने एक व्यक्ति की AI के ज़रिए हेरफेर करके बनाए गए वीडियो दिखाने वाली Facebook की एक पोस्ट को बनाए रखने के Meta के फ़ैसले को पलट दिया. यह व्यक्ति ब्राज़ील के महान फ़ुटबॉल खिलाड़ी रोनाल्डो नाज़ारियो जैसा दिखाई दे रहा था जो एक ऑनलाइन गेम का समर्थन कर रहा था.
सारांश
बोर्ड ने एक व्यक्ति की AI के ज़रिए हेरफेर करके बनाए गए वीडियो दिखाने वाली Facebook की एक पोस्ट को बनाए रखने के Meta के फ़ैसले को पलट दिया. यह व्यक्ति ब्राज़ील के महान फ़ुटबॉल खिलाड़ी रोनाल्डो नाज़ारियो जैसा दिखाई दे रहा था जो एक ऑनलाइन गेम का समर्थन कर रहा था. पोस्ट को हटाना, धोखाधड़ी और स्पैम पर Meta के कम्युनिटी स्टैंडर्ड के अनुरूप है. Meta को इस कंटेंट को विज्ञापन के लिए भी अस्वीकार कर देना चाहिए था, क्योंकि इसके नियम किसी प्रसिद्ध व्यक्ति की फ़ोटो का उपयोग करके लोगों को किसी विज्ञापन से एंगेज होने के लिए लुभा नहीं सकते.
पब्लिक रिपोर्टिंग के आधार पर, बोर्ड ने नोट किया कि प्रसिद्ध हस्तियों के वास्तविक समर्थनों की छोटी संख्या पर ज़रूरत से ज़्यादा एन्फ़ोर्समेंट से बचने के लिए, कंपनी अपने प्लेटफ़ॉर्म पर स्कैम से जुड़े कई कंटेंट को परमिशन दे रही है. शुरुआती रिव्यू करने वाले रिव्यूअर्स को ऐसे कंटेंट पर यह प्रतिबंध एन्फ़ोर्स करने की ताकत नहीं दी गई है जो स्कैम या धोखाधड़ी करने के लिए जाली व्यक्तित्व दिखाते हैं या कोई प्रसिद्ध व्यक्ति होने का दिखावा करते हैं. Meta को AI कंटेंट को अलग करने वाले आसानी से पहचाने जाने लायक संकेतों की पहचान करके शुरुआती रिव्यू के दौरान या प्रतिबंध एन्फ़ोर्स करना चाहिए.
केस की जानकारी
सितंबर 2024 में, एक यूज़र ने एक पोस्ट शेयर की जिसमें एक व्यक्ति का AI से हेरफेर करके बनाया गया वीडियो था जो ब्राज़ील के रिटायर्ड फ़ुटबॉल खिलाड़ी रोनाल्डो नाज़ारियो जैसा लगता था. वीडियो में, वह लोगों को लोकप्रिय ऑनलाइन गेम Plinko (या Plinco) खेलने के लिए ऐप को डाउनलोड करने के लिए प्रोत्साहित कर रहा है.
वीडियो में, रोनाल्डो नाज़ारियो की नकल करने वाली ऑडियो और उनके होंठों के बीच तालमेल नहीं है. वीडियो में ब्राज़ील के स्कूल के एक शिक्षक, बस ड्राइवर और किराना स्टोर के एक कर्मचारी की AI से बनाई गई अवास्तविक फ़ोटो और उनके औसत वेतन दिखाए गए हैं. ऑडियो में दावा किया गया है कि Plinko खेलने वाले प्लेयर, गेम से इन बताई गई नौकरियों से ज़्यादा पैसे कमाते हैं. वीडियो में यूज़र्स को प्रोत्साहित किया गया है कि वे लिंक पर क्लिक करके ऐप को डाउनलोड करें, लेकिन यह लिंक Bubble Shooter नाम के एक अन्य गेम पर ले जाता है. इस पोस्ट को 600,000 से ज़्यादा बार देखा गया था.
एक यूज़र ने स्कैम या धोखाधड़ी के कारण Meta को इस कंटेंट की रिपोर्ट की, लेकिन रिपोर्ट को प्राथमिकता नहीं दी गई. कंपनी ने कंटेंट को नहीं हटाया. यूज़र ने इस फ़ैसले के खिलाफ़ Meta को अपील की, लेकिन इस अपील को भी ह्यूमन रिव्यू के लिए प्राथमिकता नहीं दी गई, इसलिए वह कंटेंट Facebook पर बना रहा. अंत में, यूज़र ने Meta के फ़ैसले के खिलाफ़ बोर्ड को अपील की और कहा कि पोस्ट स्पॉन्सर्ड लगती है. अगर किसी पोस्ट को बूस्ट किया जाता है, तो पोस्ट से एक विज्ञापन बन जाता है.
विज्ञापन को कंपनी की ‘बिज़नेस की अस्वीकार्य प्रथाएँ विज्ञापन स्टैंडर्ड’ का उल्लंघन करने के कारण बंद कर दिया गया, लेकिन मूल ऑर्गेनिक पोस्ट प्लेटफ़ॉर्म पर बनाी रही. जब बोर्ड ने रिव्यू के लिए इस केस की पहचान की, तो Meta ने धोखाधड़ी, स्कैम और कपटपूर्ण प्रथाएँ पॉलिसी का उल्लंघन करने के कारण मूल पोस्ट को हटा दिया. Meta ने बाद में कन्फ़र्म किया कि पोस्ट से उसकी स्पैम पॉलिसी का भी उल्लंघन होता है.
डीपफ़ेक और डीपफ़ेक समर्थन की संख्या दुनियाभर में तेज़ी से बढ़ती जा रही है. इनमें ऐसे मामले भी शामिल हैं जिनमें सार्वजनिक हस्तियाँ कपटपूर्ण राजनैतिक कैंपेन और वित्तीय स्कैम का प्रमोशन करते हैं. रिपोर्ट हाइलाइट करती हैं कि ब्राज़ील में Facebook, Instagram और WhatsApp से शुरू हुए कई वित्तीय स्कैम में AI से फेरबदल करके बनाया गया कंटेंट होता है.
मुख्य निष्कर्ष
कंटेंट को हटाना, Meta की मानवाधिकार संबंधी ज़िम्मेदारियों के अनुरूप है. भ्रामक और हेरफेर किए गए समर्थनों से दिखाए गए व्यक्ति के प्राइवेसी और प्रतिष्ठा के अधिकारों को गंभीर खतरे होते हैं. वे संभावित रूप से धोखाधड़ी को आसान बनाकर, लोगों पर भी असर डालते हैं.
बोर्ड इस बात से चिंतित है कि शुरुआती रिव्यू करने वाले रिव्यूअर्स के पास ऐसी पोस्ट को हटाने का अधिकार नहीं है जिसमें “स्कैम या धोखाधड़ी करने की कोशिश करने के लिए” जाली व्यक्तित्व दिखाया गया हो या जिसमें कोई प्रसिद्ध व्यक्ति होने का दावा किया गया हो, भले ही कंटेंट में इस बात के स्पष्ट संकेत मौजूद हों कि उससे Meta की पॉलिसी का उल्लंघन होता है. ऐसे कंटेंट को सिर्फ़ Meta की विशेष टीमों द्वारा ही हटाया जा सकता है. इस कारण से धोखाधड़ी, स्कैम और कपटपूर्ण प्रथाओं से जुड़ी पॉलिसी के ज़रूरत से कम एन्फ़ोर्समेंट का जोखिम होता है.
ऐसा लगता है कि Meta, प्रसिद्ध हस्तियों के वास्तविक समर्थनों की छोटी संख्या पर ज़रूरत से ज़्यादा एन्फ़ोर्समेंट से बचने के लिए, अपने प्लेटफ़ॉर्म पर स्कैम से जुड़े कई कंटेंट को परमिशन दे रहा है. यह खास तौर पर तब चिंताजनक होता है जब वास्तविक प्रसिद्ध हस्तियों को समर्थनों पर ज़रूरत से ज़्यादा एन्फ़ोर्समेंट से कुछ सुरक्षा मिलने की संभावना होती है, या तो क्रॉस-चेक जैसे औपचारिक सिस्टम के ज़रिए या Meta में मौजूद पॉइंट ऑफ़ कॉन्टैक्ट के ज़रिए. इसलिए बोर्ड का सुझाव है कि Meta अपने तरीके में बदलाव करे और इस पॉलिसी को शुरुआती रिव्यू के समय एन्फ़ोर्स करे.
वीडियो का हेरफेर किया गया या जाली होना स्पष्ट दिखाई देता है. बोर्ड ने पाया कि पोस्ट से धोखाधड़ी, स्कैम और कपटपूर्ण व्यवहार से जुड़े कम्युनिटी स्टैंडर्ड के तहत स्कैम या धोखाधड़ी करने के लिए जाली व्यक्तित्व या कोई प्रसिद्ध व्यक्ति होने का दिखावा करने पर Meta के प्रतिबंध का उल्लंघन होता है. इससे उसके स्पैम कम्युनिटी स्टैंडर्ड के तहत कपटपूर्ण या भ्रामक लिंक शेयर करने के बारे में Meta के प्रतिबंध का भी उल्लंघन होता है, क्योंकि इसमें Plinko को प्रमोट किया गया है लेकिन लिंक किसी और गेम पर ले जाता है. इसलिए, बोर्ड ने पाया कि रिपोर्ट किए जाने के बाद पोस्ट को हटा दिया जाना चाहिए था. पोस्ट को हटाए जाने से भी पहले, Meta को अपनी हेरफेर किया गया मीडिया पॉलिसी के तहत इस पर “AI से ली गई जानकारी” लेबल लगाना था. Meta को इस कंटेंट को विज्ञापन के लिए भी अस्वीकार कर देना चाहिए था, क्योंकि उसके बिज़नेस से जुड़े अस्वीकार्य व्यवहार विज्ञापन स्टैंडर्ड में किसी प्रसिद्ध व्यक्ति की फ़ोटो का उपयोग करके लोगों को किसी विज्ञापन से एंगेज होने के लिए लुभाने की मनाही है.
बिज़नेस और मानवाधिकारों पर संयुक्त राष्ट्र के मार्गदर्शक सिद्धांतों के अनुसार, यह Meta की ज़िम्मेदारी है कि वह मॉनेटाइज़ किए गए ऐसे कंटेंट के “मानवाधिकारों पर पड़ने वाले प्रतिकूल प्रभावों” को कम से कम करे जिनसे स्कैम या धोखाधड़ी हो सकती हो. कंटेंट को बूस्ट करने का पेमेंट किए जाने पर, Meta को यह सुनिश्चित करना चाहिए कि पोस्ट से उसकी पॉलिसीज़ का उल्लंघन न हो.
ओवरसाइट बोर्ड का फ़ैसला
ओवरसाइट बोर्ड ने पोस्ट को Facebook पर बनाए रखने के Meta के फ़ैसले को पलट दिया है.
बोर्ड ने Meta को ये सुझाव भी दिए हैं कि वह:
- रिव्यूअर्स को इस कंटेंट को पहचानने के संकेत बताकर “स्कैम या धोखाधड़ी की कोशिश में जाली व्यक्तित्व दिखाने या कोई प्रसिद्ध व्यक्ति होने का दिखावा करने की कोशिश करने वाले” कंटेंट पर धोखाधड़ी, स्कैम और कपटपूर्ण व्यवहार से जुड़े प्रतिबंध को शुरुआती रिव्यू में एन्फ़ोर्स करे. इसमें, उदाहरण के लिए, मीडिया हेरफेर वॉटरमार्क और मेटाडेटा की मौजूदगी या वीडियो-ऑडियो मिसमैच जैसे स्पष्ट कारक शामिल हो सकते हैं.
* केस के सारांश से केस का ओवरव्यू मिलता है और भविष्य में लिए जाने वाले किसी फ़ैसले के लिए इसको आधार नहीं बनाया जा सकता है.
केस का पूरा फ़ैसला
1. केस की जानकारी और बैकग्राउंड
सितंबर 2024 में, एक यूज़र ने AI से हेरफेर करके बनाया गया एक व्यक्ति का वीडियो पोस्ट किया, जो ब्राज़ील के रिटायर्ड महान फ़ुटबॉल खिलाड़ी रोनाल्डो नाज़ारियो जैसा लगता था और वह लोगों को Plinko खेलने के लिए ऐप डाउनलोड करने के लिए प्रोत्साहित कर रहा था. लोकप्रिय ऑनलाइन गेम Plinko (या Plinco) में खूँटियों से भरे एक बोर्ड पर एक गेंद गिराई जाती है और वह गेंद कहाँ गिरती है, इस आधार पर खिलाड़ियों को पुरस्कार मिलते हैं.
वीडियो की शुरुआत में रोनाल्डो नाज़ारियो, कैमरे के सामने बोल रहे हैं. पहली बार में यह असली लगता है, लेकिन फ़ुटबॉल के इस सितारे की आवाज़ की नकल, वीडियो में उनके होंठों की हलचल से तालमेल में नहीं है. वीडियो में फिर ब्राज़ील के स्कूल के एक शिक्षक, बस ड्राइवर और किराना स्टोर के एक कर्मचारी की AI से बनाई गई अवास्तविक फ़ोटो और उनके औसत वेतन दिखाए गए हैं. रोनाल्डो नाज़ारियों की आवाज़ की नकल करने वाले ऑडियो में दावा किया गया है कि Plinko को खेलना आसान है और औसत खिलाड़ी इस गेम से इसते पैसे कमा सकते हैं जो ऊपर बताई गई नौकरियों में नहीं मिलते. अंत में, वीडियो में यूज़र्स को प्रोत्साहित किया गया है कि वे लिंक पर क्लिक करके ऐप को डाउनलोड करें, लेकिन यह लिंक Bubble Shooter नाम के एक अन्य गेम पर ले जाता है. पोस्ट को 600,000 से ज़्यादा बार देखा गया और अलग-अलग यूज़र्स द्वारा 50 से ज़्यादा बार इसकी रिपोर्ट की गई.
एक यूज़र ने Meta को धोखाधड़ी या स्कैम के लिए इस कंटेंट की रिपोर्ट की, लेकिन रिपोर्ट को ह्यूमन रिव्यू के लिए प्राथमिकता नहीं दी गई और कंपनी ने कंटेंट को नहीं हटाया. यूज़र ने फिर Meta से इस फ़ैसले के खिलाफ़ अपील की. इस अपील को भी ह्यूमन रिव्यू के लिए प्राथमिकता नहीं दी गई, इसलिए वह कंटेंट प्लेटफ़ॉर्म पर बना रहा. यूज़र ने अंत में Meta के फ़ैसलों के खिलाफ़ बोर्ड में अपील की.
जिस यूज़र ने Meta के फ़ैसले के खिलाफ़ बोर्ड को अपील की, उसके अनुसार कंटेंट एक स्पॉन्सर्ड पोस्ट दिखाई पड़ती है. Meta, पोस्ट की विज़िबिलिटी बढ़ाने और उसे ज़्यादा ऑडियंस तक पहुँचाने के लिए यूज़र्स को पोस्ट को “बूस्ट” करने के लिए पेमेंट करनी की सुविधा देता है. जब किसी पोस्ट को बूस्ट किया जाता है, तो पोस्ट के आधार पर एक विज्ञापन बन जाता है. इसके अलावा, Meta ने बोर्ड से कहा कि कंपनी की पॉलिसी का उल्लंघन करने के कारण विज्ञापन को बंद कर दिया गया था. इसका मतलब है कि अतिरिक्त विज़िबिलिटी के लिए पोस्ट को आगे बूस्ट नहीं किया गया था, लेकिन ऑर्गेनिक पोस्ट उस प्लेटफ़ॉर्म पर बनी रही. जब बोर्ड ने रिव्यू के लिए इस केस की पहचान की, तो Meta ने धोखाधड़ी, स्कैम और कपटपूर्ण व्यवहार पॉलिसी का उल्लंघन करने के कारण मूल पोस्ट को हटा दिया. कंपनी ने उस यूज़र की प्रोफ़ाइल पर स्टैंडर्ड स्ट्राइक भी लगाई जिसने पोस्ट बनाई थी. Meta ने बाद में कन्फ़र्म किया कि पोस्ट से उसकी स्पैम पॉलिसी का भी उल्लंघन होता है.
बोर्ड ने इस केस में अपना फ़ैसला करते समय नीचे दिए संदर्भ पर ध्यान दिया:
डीपफ़ेक और डीपफ़ेक समर्थनों की संख्या पूरी दुनिया में बढ़ती जा रही है. ब्राज़ील में डीपफ़ेक एक प्रखुख सामाजिक और राजनैतिक समस्या है, जिसमें अक्सर प्रभावशाली राजनैतिक हस्तियाँ शामिल होती हैं. उदाहरण के लिए, उम्मीदवारों के जाली समर्थनों सहित AI से हेरफेर करके बनाई गई गलत जानकारी हाल ही के चुनावी कैंपेन में दिखाई गई हैं. 2024 में ब्राज़ील के खेल मंत्रालय ने शामिल जोखिम की चेतावनी दिए बिना ऑनलाइन जुए और आसानी से पैसा कमाने का वादा करने को बढ़ावा देने वाले सोशल मीडिया कंटेंट के बारे में अपनी चिंताएँ व्यक्त की थीं. रिपोर्ट में यह भी हाइलाइट किया गया है कि ब्राज़ील में Facebook, Instagram और WhatsApp से शुरू होने वाले अधिकांश वित्तीय स्कैम में AI से हेरफेर करके बनाया गया कंटेंट शामिल होता है (PC-31027, Centre for Advanced Studies in Cyber Law and Artificial Intelligence का कमेंट देखें).
2. यूज़र सबमिशन
जिस यूज़र ने कंटेंट की रिपोर्ट की, उसने वीडियो को झूठा और रोनाल्डो नाज़ारियो की फ़ोटो का उपयोग करके लोगों को गेम डाउनलोड करने और खेलने के लिए उकसाने वाला एक स्कैम बताया. यूज़र ने कहा कि Meta अन्य पोस्ट पर चेतावनी और लेबल लगाता है, लेकिन उसने इस केस में कोई चेतावनी नहीं लगाई या पोस्ट को डिलीट नहीं किया. उन्होंने कहा कि कंटेंट एक स्पॉन्सर्ड पोस्ट लगता है और स्पष्ट रूप से झूठा है.
3. Meta की कंटेंट पॉलिसी और सबमिशन
I. Meta की कंटेंट पॉलिसी
धोखाधड़ी, स्कैम और कपटपूर्ण व्यवहार से जुड़ा कम्युनिटी स्टैंडर्ड
धोखाधड़ी, स्कैम और कपटपूर्ण व्यवहार से जुड़ी पॉलिसी बनाने के कारण में कहा गया है कि Meta “का लक्ष्य धोखाधड़ी से यूज़र्स और बिज़नेस के पैसे, प्रॉपर्टी या निजी जानकारी लूटे जाने से उन्हें बचाना है.” ऐसा करने के लिए वह ऐसे कंटेंट को हटा देता है जिसमें “यूज़र्स और बिज़नेस से स्कैम या धोखाधड़ी करने या उनका एंगेजमेंट पाने के लिए जान-बूझकर कपटपूर्ण साधनों का उपयोग किया जाता है, जैसे जान-बूझकर गलत ढंग से पेश करना, चोरी की गई जानकारी और बढ़ा-चढ़ाकर दावे करना.”
पॉलिसी के उस सेक्शन के तहत जिसमें Meta ने “एन्फ़ोर्स करने के लिए अतिरिक्त जानकारी और/या संदर्भ” ज़रूरी बनाया है, कहा गया है कि कंपनी “ऐसे कंटेंट को हटा सकती है” जो “स्कैम या धोखाधड़ी की कोशिश में जाली व्यक्तित्व दिखाने या कोई प्रसिद्ध व्यक्ति होने का दिखावा करने की कोशिश करता” है. इसका मतलब है कि सिर्फ़ Meta की विशेष टीमें ही इस नियम को एन्फ़ोर्स कर सकती हैं और शुरुआती रिव्यू करने वाले रिव्यूअर इसे एन्फ़ोर्स नहीं कर सकते.
स्पैम कम्युनिटी स्टैंडर्ड
स्पैम से जुड़ी पॉलिसी बनाने के कारण में बताया गया है कि Meta ऐसे “कंटेंट को परमिशन नहीं देता जिसे यूज़र्स से कपट करके, उन्हें गुमराह करके या उन्हें अभिभूत करके कृत्रिम रूप से व्यूअरशिप बढ़ाने के लिए डिज़ाइन किया गया हो.” नियमों में ऐसे कंटेंट को प्रतिबंधित किया गया है जिसमें गुमराह करने वाले लिंक होते हैं. इन लिंक को “ऐसे लिंक वाले कंटेंट के रूप में परिभाषित किया गया है, जो एक खास तरह के कंटेंट का वादा करे लेकिन उससे बिल्कुल ही अलग कंटेंट डिलीवर करे.”
गलत जानकारी से जुड़ा कम्युनिटी स्टैंडर्ड
गलत जानकारी से जुड़े कम्युनिटी स्टैंडर्ड में कहा गया है कि Meta ऐसे कंटेंट को सिर्फ़ तभी हटाता है “जब उससे निकट भविष्य में जान-माल का सीधा नुकसान होने की आशंका हो” या “जब वह राजनैतिक प्रक्रियाओं के कामकाज में सीधे रुकावट डाले.” कंपनी ने यह भी ज़रूरी बनाया है कि “जब लोग ऐसा ऑर्गेनिक कंटेंट पोस्ट करते हैं जिसमें असली लगने वाला वीडियो या असली लगने वाला ऑडियो हो, जबकि उसे डिजिटल रूप से बनाया गया या बदला गया हो, तो वे हमारे AI-डिस्क्लोज़र टूल से इसकी जानकारी दें.”
अगर हेरफेर किया गया मीडिया अन्यथा कम्युनिटी स्टैंडर्ड का उल्लंघन नहीं करता, तो Meta “उस स्थिति में कंटेंट की शुरुआत में जानकारी देने वाला लेबल लगा सकता है या विज्ञापन के रूप में सबमिट किए गए कंटेंट को अस्वीकार कर सकता है, जब कंटेंट कोई असली लगने वाली फ़ोटो या वीडियो हो या असली लगने वाला ऑडियो हो, जबकि उसे डिजिटल रूप से बनाया गया या बदला गया हो और जिससे खास तौर पर सार्वजनिक महत्व के किसी मामले में लोगों से बड़ा धोखा होने का उच्च जोखिम हो.”
बिज़नेस के अस्वीकार्य व्यवहार से जुड़ा विज्ञापन स्टैंडर्ड
बिज़नेस के अस्वीकार्य व्यवहार से जुड़े विज्ञापन स्टैंडर्ड में बताया गया है कि विज्ञापनों में “ऐसे प्रोडक्ट, सर्विस, स्कीम या ऑफ़र नहीं होने चाहिए जिसमें कपटपूर्ण या गुमराह करने वाले जाने-माने व्यवहारों का उपयोग किया गया हो.” विज्ञापनों के लिए अपनी गाइडलाइन में Meta, “लोगों को ललचाकर उन्हें किसी विज्ञापन के साथ एंगेज करने के लिए किसी प्रसिद्ध व्यक्ति की फ़ोटो और गुमराह करने वाली तरकीबों का उपयोग करना” प्रतिबंधित करता है.
II. Meta के सबमिशन
बोर्ड ने जब इस केस को चुना, तब Meta को लगा कि इस कंटेंट को नहीं हटाने का उसका फ़ैसला गलत था और उसने इस पोस्ट को धोखाधड़ी, स्कैम और कपटपूर्ण व्यवहार जुड़े कम्युनिटी स्टैंडर्ड का उल्लंघन करने के लिए हटा दिया. Meta ने कहा कि पोस्ट से ऐसे कंटेंट पर उसके प्रतिबंध का उल्लंघन हुआ है “जो स्कैम या धोखाधड़ी करने की कोशिश में एक जाली व्यक्तित्व बनाने या कोई प्रसिद्ध व्यक्ति होने का दिखावा करने की कोशिश करता है.” Meta ने बताया कि AI के ज़रिए इस वीडियो को ऐसा बनाकर कि रोनाल्डो नाज़ारियो किसी ऑनलाइन गेम का उपयोग या प्रचार कर रहा है, वीडियो में उन लोगों को स्कैम करके प्रोडक्ट का उपयोग करवाने की कोशिश की गई है जो इस समर्थन के बिना अन्यथा उसे डाउनलोड नहीं करते.
जाली व्यक्तित्व का उपयोग करके समर्थन के बारे में बोर्ड के सवालों के जवाब में, Meta ने बताया कि यह सुनिश्चित करने के लिए वह सिर्फ़ एस्केलेशन पर पॉलिसी एन्फ़ोर्स करता है कि कंटेंट में दिखाए गए व्यक्ति ने वास्तव में प्रोडक्ट का समर्थन नहीं किया. Meta ने कहा कि इसके लिए उसे अत्यंत संदर्भ आधारित विश्लेषण और खास विशेषज्ञता की ज़रूरत होती है. Meta ने कहा कि: “इस बारे में शुरुआती रिव्यूअर्स की यह समझ कि किस कंटेंट को “जारी व्यक्तित्व” माना जाए, क्षेत्र के अनुसार अलग-अलग हो सकती है और इसके कारण एन्फ़ोर्समेंट में विसंगति आती है.”
Meta ने यह भी पाया कि कंटेंट से उसके स्पैम से जुड़े कम्युनिटी स्टैंडर्ड का भी उल्लंघन हुआ जो कपटपूर्ण लिंक का उपयोग प्रतिबंधित करता है. इस केस में, पोस्ट में एक लिंक शामिल था जो Plinko से अलग किसी गेम पर ले जाता था. Meta के लिए, किसी दूसरे गेम के लिंक के उपयोग से यह संकेत मिलता है कि कंटेंट को लोगों को स्कैम करने या उन्हें धोखा देने या कपटपूर्ण तरीके से एंगेजमेंट हासिल करने के लिए बनाया गया था.
Meta ने बोर्ड को बताया कि इस कंटेंट को हटाने से अन्य लोगों के अधिकार और प्रतिष्ठा की सुरक्षा भी हुई. वह इस निष्कर्ष पर पहुँचा कि “प्रामाणिकता के जोखिम, अभिव्यक्ति की वैल्यू से ज़्यादा है और इस कंटेंट को हटाने के अलावा ऐसा कोई कम कठोर रास्ता उपलब्ध नहीं है जो इसका फैलाव रोके.”
बोर्ड ने Meta से 10 सवाल पूछे जो इन विषयों पर थे: एन्फ़ोर्समेंट से जुड़े उसके व्यवहार, हेरफेर किए गए मीडिया को वह कैसे लेबल करता है और वह सेलिब्रिटी वाले बेट स्कैम से कैसे निपटता है जिनमें ऑर्गेनिक और पेमेंट वाले कंटेंट से एंगेजमेंट बढ़ाने के लिए सेलिब्रिटी के चित्रों का उपयोग किया जाता है. Meta ने सभी सवालों के जवाब दिए.
AI से हेरफेर किए गए कंटेंट को लेबल करने के बारे में बोर्ड के सवालों के जवाब में, Meta ने कहा कि पोस्ट को हटाए जाने से पहले उसने उसे AI द्वारा जेनरेट किए गए कंटेंट के रूप में लेबल नहीं किया था. Meta के अनुसार, वीडियो में “ऐसे इंडस्ट्री स्टैंडर्ड संकेत नहीं थे कि उसे AI से जेनरेट किया गया है और न ही यूज़र ने खुद इसकी जानकारी दी.”
4. पब्लिक कमेंट
बोर्ड को ऐसा चार पब्लिक कमेंट मिले जो सबमिशन की शर्तें पूरी करते हैं – कमेंट लैटिन अमेरिका और कैरिबियन, मध्य पूर्व और उत्तरी अफ़्रीका, अमेरिका और कनाडा और मध्य और दक्षिण एशिया से एक-एक मिले. प्रकाशन की सहमति के साथ सबमिट किए गए पब्लिक कमेंट पढ़ने के लिए यहाँ पर क्लिक करें.
सबमिशन में इन विषयों पर बात की गई थी: डीपफ़ेक के सामाजिक-आर्थिक प्रभाव, Meta के एन्फ़ोर्समेंट से जुड़े व्यवहारों की प्रभावशीलता और कंटेंट की कुछ कैटेगरी के लिए प्रोएक्टिव एन्फ़ोर्समेंट को समाप्त करने का Meta का फ़ैसला.
5. ओवरसाइट बोर्ड का विश्लेषण
बोर्ड ने Meta की कंटेंट पॉलिसी, वैल्यू और मानवाधिकार से जुड़ी ज़िम्मेदारियाँ के संबंध में इस केस में दिए गए Meta के फ़ैसले का विश्लेषण किया. बोर्ड ने यह भी आकलन किया कि कंटेंट गवर्नेंस को लेकर Meta के व्यापक दृष्टिकोण पर इस केस का क्या असर पड़ेगा.
बोर्ड ने पहली बार Meta की धोखाधड़ी, स्कैम और कपटपूर्ण व्यवहार से जुड़े व्यवहारों और स्पैम पॉलिसी के एन्फ़ोर्समेंट में आने वाली चुनौतियों का परीक्षण करने के लिए इस केस को चुना. स्कैम के लिए उपयोग किए जाने वाले हेरफेर वाले मीडिया की मात्रा के बढ़ने की आशंका है, खास तौर पर जेनरेटिव AI में हो रही प्रगति के साथ. यह केस बोर्ड द्वारा पॉलिसी और कंटेंट के क्यूरेशन के ऑटोमेटेड एन्फ़ोर्समेंट की स्ट्रेटेजिक प्राथमिकता के तहत आता है.
5.1 Meta की कंटेंट पॉलिसी का अनुपालन
I. कंटेंट से जुड़े नियम
बोर्ड ने पाया कि पोस्ट से धोखाधड़ी, स्कैम और कपटपूर्ण व्यवहार से जुड़े कम्युनिटी स्टैंडर्ड के तहत “स्कैम या धोखाधड़ी करने के लिए जाली व्यक्तित्व बनाने या कोई प्रसिद्ध व्यक्ति होने का दिखावा करने” पर Meta के प्रतिबंध का उल्लंघन होता है. वीडियो में ऐसा दिखाया गया है कि रोनाल्डो नाज़ारियो दूसरे लोगों को जुए का ऐसा ऐप डाउनलोड करने के लिए प्रेरित कर रहा है जिससे वे आसानी से पैसे कमा सकते हैं. वीडियो का हेरफेर किया गया या जाली होना स्पष्ट दिखाई पड़ता है क्योंकि फ़ुटबॉल स्टार की नकल करने वाला ऑडियो और वीडियो में उसके होंठों के बीच कोई तालमेल दिखाई नहीं देता है. बोर्ड को पब्लिक रिपोर्ट में ऐसा कोई सुझाव नहीं मिला कि रोनाल्डो नाज़ारियो इस गेम का समर्थन करता है.
बोर्ड ने यह भी पाया कि पोस्ट से स्पैम से जुड़े Meta के कम्युनिटी स्टैंडर्ड के तहत कपटपूर्ण या गुमराह करने वाले लिंक शेयर करने पर उसके प्रतिबंध का भी उल्लंघन होता है, क्योंकि कंटेंट में “ऐसा लिंक है जो एक तरह के कंटेंट का वादा करता है लेकिन डिलीवर ऐसा कुछ करता है जो बिल्कुल ही अलग है.” वीडियो में Plinko को प्रमोट किया गया है और यूज़र्स को इस गेम को डाउनलोड करने के लिए प्रोत्साहित किया गया है, लेकिन शामिल लिंक किसी अन्य गेम पर ले जाता है.
II. एन्फ़ोर्समेंट एक्शन
बोर्ड तक पहुँचने से पहले Meta के पास इस कंटेंट का रिव्यू करने और हटाने के कई मौके थे. 600,000 से ज़्यादा व्यू और 50 से ज़्यादा यूज़र्स द्वारा रिपोर्ट किए जाने के बावजूद, Meta ने पहली बार रिपोर्ट किए जाने पर या बाद में अपील होने पर इस पोस्ट को रिव्यू में प्राथमिकता नहीं दी.
इसे हटाए जाने से पहले, इस पर गलत जानकारी से जुड़े Meta के कम्युनिटी स्टैंडर्ड के तहत लेबल लगाकर यह बताया जाना चाहिए था कि इसमें हेरफेर किया गया मीडिया है. राष्ट्रपति बाइडेन का छेड़छाड़ किया गया वीडियो फ़ैसले में बोर्ड ने सुझाव दिया था कि Meta, हेरफेर किए गए कंटेंट पर लेबल लगाए ताकि यूज़र उसकी प्रामाणिकता के बारे में गुमराह न हों. Meta ने इस सुझाव को लागू कर दिया है. इस केस में, वीडियो में डिजिटल रूप से छेड़छाड़ करके यूज़र्स को यह मानने के लिए गुमराह किया जा रहा था कि जाना-माना फ़ुटबॉल खिलाड़ी रोनाल्डो नाज़ारियो, जुए के गेम का समर्थन कर रहा है. AI से जेनरेट किए गए कंटेंट के बारे में अपने नए नज़रिए के अनुसार, Meta को यह दिखाने के लिए “ AI से ली गई जानकारी" लेबल लगाना चाहिए कि कंटेंट को डिजिटल रूप से बनाया गया है या उसमें छेड़छाड़ की गई है.
Meta, मेटाडेटा और वॉटरमार्क पर भरोसा करके हेरफेर किए गए गुमराह करने वाले कंटेंट को लेबल करता है. कंपनी ने बोर्ड से कहा कि उसने “इस नज़रिए का पालन करते हुए बड़ी मात्रा में कंटेंट को लेबल किया है” लेकिन वह इस तरीके की प्रभावशीलता के बारे में सार्वजनिक रूप से आँकड़े शेयर नहीं करता. ऐसे कंटेंट के लिए जिसमें इस तरह के मार्कर नहीं हैं, जैसा इस पोस्ट में हुआ, अन्य संकेतों से यह पता चल सकता है कि उसे AI से जेनरेट किया गया है. इस पोस्ट में, ऑडियो और वीडियो के बीच कोई तालमेल नहीं है और वीडियो में खराब क्वालिटी की AI-जेनरेटेड फ़ोटो हैं. बोर्ड ने जिन विशेषज्ञों से परामर्श किया, उन्होंने और सार्वजनिक प्राधिकारियों ने हाइलाइट किया कि वीडियो-ऑडियो का बेमेल होना इस बात का मुख्य संकेत है कि कंटेंट में AI से हेरफेर की गई है. उन्होंने अन्य संकेतों का उल्लेख किया जिसमें चेहरे की अस्वाभाविक हलचल, रोशनी और परछाइयों में विसंगति और गति में निरंतरता और सामंजस्य का अभाव शामिल है.
आगे बोर्ड इस बात से चिंतित है कि शुरुआती रिव्यू करने वाले रिव्यूअर्स के पास ऐसी पोस्ट को हटाने का अधिकार नहीं है जिसमें “स्कैम या धोखाधड़ी करने की कोशिश करने के लिए” जाली व्यक्तित्व दिखाया गया हो या जिसमें कोई प्रसिद्ध व्यक्ति होने का दावा किया गया हो, जो कि पॉलिसी के अनुसार प्रतिबंधित है. ऐसा इसलिए क्योंकि ऐसे कंटेंट को सिर्फ़ Meta की विशेषज्ञ टीमों द्वारा हटाया जा सकता है. इस तरीके का उपयोग करने पर इस बात की पूरी आशंका होती है कि धोखाधड़ी, स्कैम और कपटपूर्ण व्यवहार से जुड़ी Meta की पॉलिसी का ज़रूरत से कम एन्फ़ोर्समेंट हो. कुछ पोस्ट के बारे में यह समझने के लिए खास विशेषज्ञता की ज़रूरत होती है कि क्या उनमें नकली व्यक्तित्व का उपयोग किया गया है, जबकि इस पोस्ट सहित अन्य पोस्ट पर एन्फ़ोर्समेंट का काम शुरुआती रिव्यू में ही किया जा सकता है.
Meta को इस कंटेंट को विज्ञापन के लिए भी अस्वीकार कर देना चाहिए था, क्योंकि उसके बिज़नेस से जुड़े अस्वीकार्य व्यवहार विज्ञापन स्टैंडर्ड में “किसी प्रसिद्ध व्यक्ति की फ़ोटो का उपयोग करके लोगों को किसी विज्ञापन से एंगेज होने के लिए लुभाने की मनाही है.” Meta ने आगे सार्वजनिक रूप से कहा है कि वह सेलिब्रिटी डीपफ़ेक के लिए चेहरे की पहचान करने वाली टेक्नोलॉजी के साथ विज्ञापनों का मूल्यांकन करता है. Meta ने बोर्ड को बताया कि विज्ञापनों का रिव्यू करने वाला उसका सिस्टम, जो मुख्य रूप से ऑटोमेशन पर निर्भर है, “इस तरह बनाया गया है कि वह विज्ञापनों के लाइव होने से पहले सभी विज्ञापनों का रिव्यू करे.” इन मैकेनिज़्म के बावजूद, ऐसा लगता है कि Meta ने इस कंटेंट को विज्ञापन के लिए स्वीकार किया. बाद में Meta ने बोर्ड को बताया कि विज्ञापन को इसलिए बंद कर दिया गया क्योंकि उससे बिज़नेस के अस्वीकार्य व्यवहारों से जुड़े उसके विज्ञापन स्टैंडर्ड का उल्लंघन हो रहा था, लेकिन ऑर्गेनिक कंटेंट प्लेटफ़ॉर्म पर एक्टिव बना रहा. जब Meta ने पाया कि इस कंटेंट से विज्ञापन स्टैंडर्ड का उल्लंघन होता है और उसने विज्ञापन को बंद कर दिया, तब पॉलिसी के स्पष्ट ओवरलैप के बावजूद संबंधित ऑर्गेनिक पोस्ट के लिए कम्युनिटी स्टैंडर्ड के संभावित उल्लंघनों के बारे में कोई अतिरिक्त रिव्यू ट्रिगर नहीं हुआ. इस कमी का समाधान करने के लिए, कंपनी तब एक ऑर्गेनिक पॉलिसी रिव्यू शुरू कर सकती है जब कंटेंट को किसी विज्ञापन पॉलिसी का उल्लंघन करने वाला पाया जाता है.
5.2 Meta की मानवाधिकारों से जुड़ी ज़िम्मेदारियों का अनुपालन
बोर्ड ने माना कि इस कंटेंट को Facebook से हटाना, Meta की मानवाधिकार ज़िम्मेदारियों से अनुरूप है.
नागरिक और राजनैतिक अधिकारों पर अंतरराष्ट्रीय समझौते (ICCPR) का अनुच्छेद 19(2), अभिव्यक्ति को व्यापक सुरक्षा प्रदान करता है. इसमें “सभी प्रकार की जानकारी और आइडिया खोजना, उन्हें पाना और देना” शामिल है. मानवाधिकार कमिटी ने अभिव्यक्ति के उन खास रूपों की लिस्ट दी है जो आर्टिकल 19 में शामिल हैं और नोट किया कि अभिव्यक्ति की आज़ादी के अधिकार में कमर्शियल विज्ञापन शामिल हो सकते हैं ( सामान्य कमेंट सं. 34, पैरा. 11).
जहाँ राज्य, अभिव्यक्ति पर प्रतिबंध लगाता है, वहाँ प्रतिबंधों को वैधानिकता, वैधानिक लक्ष्य और आवश्यकता तथा आनुपातिकता की शर्तों को पूरा करना चाहिए (अनुच्छेद 19, पैरा. 3, ICCPR). इन आवश्यकताओं को अक्सर “तीन भागों वाला परीक्षण” कहा जाता है. मानवाधिकार कमिटी ने कमर्शियल विज्ञापन के संदर्भ में इस टेस्ट की प्रयोजनीयता नोट की है ( सामान्य कमेंट सं. 34, पैरा. 33). बोर्ड इस फ़्रेमवर्क का उपयोग बिज़नेस और मानवाधिकारों से जुड़े संयुक्त राष्ट्र संघ के मार्गदर्शक सिद्धांतों के अनुरूप Meta की मानवाधिकार ज़िम्मेदारियों को समझने के लिए करता है, जिसके लिए Meta ने खुद अपनी कॉर्पोरेट मानवाधिकार पॉलिसी में प्रतिबद्धता जताई है. बोर्ड ऐसा इसलिए करता है कि वह रिव्यू के लिए आए कंटेंट से जुड़े अलग-अलग फ़ैसले ले सके और यह समझ सके कि कंटेंट मॉडरेशन से जुड़ा Meta का व्यापक दृष्टिकोण क्या है. जैसा कि अभिव्यक्ति की आज़ादी के बारे में संयुक्त राष्ट्र के खास रैपर्टर में कहा गया है कि भले ही “कंपनियों का सरकारों के प्रति दायित्व नहीं है, लेकिन उनका प्रभाव इस तरह का है जो उनके लिए अपने यूज़र की सुरक्षा के बारे में इस तरह के सवालों का मूल्यांकन करना ज़रूरी बनाता है” (A/74/486, पैरा. 41).
बोर्ड ने अक्सर राजनैतिक और सामाजिक बातचीत की रक्षा करने का महत्व नोट किया है ( सामान्य कमेंट सं. 34, पैरा. 38). सोच-विचार से जुड़ी वे बातें यहाँ लागू नहीं होतीं. बोर्ड ने इस पोस्ट को ऐसी कमर्शियल अभिव्यक्ति माना जिसे तब सीमित किया जा सकता है जब तीन भागों वाले टेस्ट की पूर्ति हो.
I. वैधानिकता (नियमों की स्पष्टता और सुलभता)
वैधानिकता के सिद्धांत के लिए यह ज़रूरी है कि अभिव्यक्ति को सीमित करने वाले नियमों को एक्सेस किया जा सकता हो और वे स्पष्ट हों. उन्हें पर्याप्त सटीकता के साथ बनाया गया हो ताकि लोग अपने व्यवहार को उसके अनुसार बदल सकें (सामान्य कमेंट सं. 34, पैरा. 25). Meta के प्लेटफ़ॉर्म का उपयोग करने वाले लोगों के लिए ये नियम एक्सेस करने और समझने लायक होने चाहिए और उनके एन्फ़ोर्समेंट के संबंध में कंटेंट रिव्यूअर्स को स्पष्ट मार्गदर्शन दिया जाना चाहिए.
बोर्ड ने पाया कि धोखाधड़ी, स्कैम और कपटपूर्ण व्यवहारों से जुड़ी Meta की पॉलिसी के नियम पर्याप्त रूप से स्पष्ट और एक्सेसिबल हैं. बोर्ड को यह स्पष्ट है कि “स्कैम या धोखाधड़ी करने की कोशिश में नकली व्यक्तित्व अपनाने या कोई प्रसिद्ध व्यक्ति होने का दिखावा करने” पर प्रतिबंध में ऐसी पोस्ट शामिल होती हैं जिनमें किसी प्रोडक्ट या ऐप का धोखाधड़ीपूर्ण समर्थन करने के लिए किसी सार्वजनिक हस्ती से समानता का उपयोग किया जाता है.
II. वैधानिक लक्ष्य
अभिव्यक्ति की आज़ादी पर लगाए जाने वाले किसी भी प्रतिबंध में ICCPR में सूचीबद्ध कानूनी लक्ष्यों में से एक या एक से ज़्यादा को पूरा किया जाना चाहिए, जिसमें अन्य लोगों के अधिकारों या प्रतिष्ठा की रक्षा शामिल है. दूसरों से स्कैम या धोखाधड़ी करने के लिए नकली व्यक्तित्व अपनाने वाली पोस्ट पर Meta के प्रतिबंध से दो लक्ष्य पूरे होते हैं. पहला, इसमें स्कैम और धोखाधड़ी से लोगों की सुरक्षा करने की कोशिश की गई है (आर्टिकल 17, मानवाधिकारों की सार्वभौमिक घोषणा). दूसरा, यह दिखाए गए लोगों के अधिकारों और प्रतिष्ठा की रक्षा करता है, क्योंकि इसके कंटेंट से प्राइवेसी के उनके अधिकार और यह तय करने की उनकी क्षमता पर असर पड़ता है कि उनकी फ़ोटो कैसे बनाई और रिलीज़ की जाएँ (आर्टिकल 17, ICPPR; महिला सार्वजनिक हस्तियों की AI से बनीं अश्लील तस्वीरें फ़ैसला भी देखें).
III. आवश्यकता और आनुपातिकता
ICCPR के आर्टिकल 19(3) के तहत, आवश्यकता और आनुपातिकता के सिद्धांत के अनुसार यह ज़रूरी है कि अभिव्यक्ति की स्वतंत्रता पर लगाए जाने वाले प्रतिबंध “उनके सुरक्षात्मक कार्य को सही तरीके से पूरा करने वाले होने चाहिए; उनसे उन लोगों के अधिकारों के साथ कम से कम हस्तक्षेप होना चाहिए, जिन अधिकारों से उन्हें सुरक्षात्मक कार्यों का लाभ मिल सकता है; उन हितों के अनुसार सही अनुपात में होने चाहिए, जिनकी सुरक्षा की जानी है.” इसके अलावा, बिज़नेस और मानवाधिकारों पर संयुक्त राष्ट्र के मार्गदर्शक सिद्धांत (UNGP) के तहत, संभावित नुकसान के बारे में किसी कंपनी की कार्रवाइयाँ, मानवाधिकार पर कोई प्रतिकूल प्रभाव डालने में उसके शामिल होने के दायरे के अनुसार होनी चाहिए (UNGP 19(b)).
बोर्ड ने पाया कि Facebook से कंटेंट को हटाने का Meta का अंतिम फ़ैसला एक आवश्यक और अनुपातिक कदम था. इस केस में, लोगों को स्कैम से बचाने का सबसे कम कठोर उपाय कंटेंट को हटाना है, खास तौर पर उन लोगों को जिनकी डिजिटल साक्षरता कम है. साथ ही रोनाल्डो नाज़ारियो की फ़ोटो के दुरुपयोग को रोकने के लिए भी यह उपाय ज़रूरी है. उसकी प्राइवेसी और प्रतिष्ठा पर इसका तुरंत असर पड़ेगा और लोगों को इससे आर्थिक नुकसान हो सकता है, इसलिए Meta को ऐसा कंटेंट हटा देना चाहिए.
एन्फ़ोर्समेंट
UNGP के अनुसार, यह Meta की ज़िम्मेदारी है कि वह मॉनेटाइज़ किए गए ऐसे कंटेंट के “मानवाधिकारों पर पड़ने वाले प्रतिकूल प्रभावों” को कम से कम करे जिनसे स्कैम या धोखाधड़ी हो सकती हो. अगर Meta के बूस्टिंग प्रोग्राम के ज़रिए कंटेंट की पहुँच बढ़ाने के लिए उसे पेमेंट किया गया है, तो कंपनी को यह सुनिश्चित करने के लिए खास देखभाल करनी चाहिए कि पोस्ट से उसकी पॉलिसीज़ का उल्लंघन न होता हो.
व्यूअर्स के लिए इन समर्थनों को पहचानना खास तौर पर तब कठिन हो सकता है जब उन्हें जेनरेटिव AI टूल द्वारा बनाया गया हो. वीडियो बनाने के लिए बेहतर जेनरेटिव AI टूल की उपलब्धता पिछले कुछ सालों में काफ़ी बढ़ी और आगे भी इसके बढ़ने की संभावना है. जैसा कि ऊपर बताया गया है, रिपोर्ट में यह हाइलाइट किया गया है कि ब्राज़ील में कुछ वित्तीय स्कैम की शुरुआत Facebook, Instagram और WhatsApp से हुई है, जिनमें डीपफ़ेक का उपयोग करके हुए स्कैम भी शामिल हैं.
ऐसा नहीं लगता कि डीपफ़ेक Plinko विज्ञापन और ऑर्गेनिक कंटेंट कोई नई समस्या है. इस केस में उसकी रिसर्च के भाग के रूप में, बोर्ड ने Meta विज्ञापन लाइब्रेरी में “Plinko ऐप” कंटेंट सर्च किया. अपनी सर्च में बोर्ड को ऐसे कंटेंट के 3,900 एक्टिव विज्ञापन मिले, जिनमें से लगभग 3,500 में वीडियो शामिल थे. इन वीडियो में से कई में इसी तरह के AI-जेनरेटेड समर्थन थे, जिनमें पुर्तगाली फ़ुटबॉल खिलाड़ी क्रिस्टियानो रोनाल्डो के डीपफ़ेक शामिल थे. ऑर्गेनिक कंटेंट के मामले में, बोर्ड को Meta के सीईओ मार्क ज़करबर्ग द्वारा Plinko के समर्थन के डीपफ़ेक भी मिले.
बोर्ड इस बात से चिंतित है कि शुरुआती रिव्यू करने वाले रिव्यूअर्स के पास ऐसी पोस्ट को हटाने का अधिकार नहीं है जिसमें “स्कैम या धोखाधड़ी करने की कोशिश करने के लिए” जाली व्यक्तित्व दिखाया गया हो या जिसमें कोई प्रसिद्ध व्यक्ति होने का दावा किया गया हो, भले ही कंटेंट में इस बात के स्पष्ट संकेत मौजूद हों कि उससे Meta की पॉलिसी का उल्लंघन होता है. एस्केलेशन के समय अतिरिक्त संदर्भ देखकर ही इस पॉलिसी को एन्फ़ोर्स करने के Meta के तरीके से उल्लंघन करने वाले कंटेंट पर ज़रूरत से कम एन्फ़ोर्समेंट की आशंका होती है. रिपोर्ट की गई घटनाओं और पत्रकारितापूर्ण रिपोर्ट सहित पब्लिक रिपोर्टिंग के आधार पर, बोर्ड ने नोट किया कि प्रसिद्ध हस्तियों के वास्तविक समर्थनों की छोटी संख्या पर ज़रूरत से ज़्यादा एन्फ़ोर्समेंट से बचने के लिए, कंपनी अपने प्लेटफ़ॉर्म पर स्कैम से जुड़े कई कंटेंट को परमिशन दे रही है. यह खास तौर पर तब चिंताजनक होता है जब वास्तविक सेलिब्रिटी के समर्थन वाले कंटेंट पर ज़रूरत से ज़्यादा एन्फ़ोर्समेंट से कुछ सुरक्षा मिलने की संभावना होती है, या तो क्रॉस-चेक जैसे औपचारिक सिस्टम के ज़रिए या Meta में मौजूद पॉइंट ऑफ़ कॉन्टैक्ट के ज़रिए. इसलिए बोर्ड का सुझाव है कि Meta अपने तरीके में बदलाव करे और इस पॉलिसी को शुरुआती रिव्यू के समय एन्फ़ोर्स करे.
6. ओवरसाइट बोर्ड का फ़ैसला
ओवरसाइट बोर्ड ने पोस्ट को Facebook पर बनाए रखने के Meta के मूल फ़ैसले को पलट दिया है.
7. सुझाव
एन्फ़ोर्समेंट
1. हेरफेर करके बनाए गए गुमराह करने वाले सेलिब्रिटी समर्थन से बेहतर तरीके से निपटने के लिए, Meta को रिव्यूअर्स को इस कंटेंट को पहचानने के संकेत बताकर “स्कैम या धोखाधड़ी की कोशिश में जाली व्यक्तित्व दिखाने या कोई प्रसिद्ध व्यक्ति होने का दिखावा करने की कोशिश करने वाले” कंटेंट पर धोखाधड़ी, स्कैम और कपटपूर्ण व्यवहार से जुड़े प्रतिबंध को शुरुआती रिव्यू में एन्फ़ोर्स करना चाहिए. इसमें, उदाहरण के लिए, मीडिया हेरफेर वॉटरमार्क और मेटाडेटा की मौजूदगी या वीडियो-ऑडियो मिसमैच जैसे स्पष्ट कारक शामिल हो सकते हैं.
बोर्ड उस स्थिति में ऐसा मानेगा कि इस सुझाव को लागू किया गया है, जब इस बदलाव को दिखाने के लिए, लोगों को ध्यान में रखकर बनाई गई और निजी आंतरिक गाइडलाइन, दोनों को अपडेट किया जाएगा.
*प्रक्रिया संबंधी नोट:
- ओवरसाइट बोर्ड के फ़ैसले पाँच मेंबर्स के पैनल द्वारा लिए जाते हैं और उन पर बोर्ड के अधिकांश मेंबर्स की सहमति होती है. ज़रूरी नहीं है कि बोर्ड के फ़ैसले, सभी सदस्यों की राय दर्शाएँ.
- अपने चार्टर के तहत, ओवरसाइट बोर्ड उन यूज़र्स की अपील रिव्यू कर सकता है, जिनका कंटेंट Meta ने हटा दिया था और उन यूज़र्स की अपील जिन्होंने उस कंटेंट की रिपोर्ट की थी जिसे Meta ने बनाए रखा. साथ ही, बोर्ड Meta की ओर से रेफ़र किए गए फ़ैसलों का रिव्यू कर सकता है (चार्टर आर्टिकल 2, सेक्शन 1). बोर्ड के पास Meta के कंटेंट से जुड़े फ़ैसलों को कायम रखने या उन्हें बदलने का बाध्यकारी अधिकार है (चार्टर आर्टिकल 3, सेक्शन 5; चार्टर आर्टिकल 4). बोर्ड ऐसे गैर-बाध्यकारी सुझाव दे सकता है, जिनका जवाब देना Meta के लिए ज़रूरी है (चार्टर आर्टिकल 3, सेक्शन 4; अनुच्छेद 4). जहाँ Meta, सुझावों पर एक्शन लेने की प्रतिबद्धता व्यक्त करता है, वहाँ बोर्ड उनके क्रियान्वयन की निगरानी करता है.
- इस केस के फ़ैसले के लिए, बोर्ड की ओर से स्वतंत्र रिसर्च करवाई गई थी. बोर्ड को Duco Advisers की सहायता मिली, जो भौगोलिक-राजनैतिक, विश्वास और सुरक्षा तथा टेक्नोलॉजी के आपसी संबंध पर काम करने वाली एक एडवाइज़री फ़र्म है.