शैतान के साथ एक यहूदी व्यक्ति की AI से जेनरेट की गई फ़ोटो की रिपोर्ट

संक्षिप्त फ़ैसलों में उन केस का परीक्षण किया जाता है जिनमें बोर्ड द्वारा कंटेंट पर Meta का ध्यान आकर्षित करने के बाद कंपनी ने कंटेंट के बारे में अपने मूल फ़ैसले को पलटा है और इसमें Meta द्वारा मानी गई गलतियों की जानकारी होती है. उन्हें पूरे बोर्ड के बजाय, बोर्ड के किसी सदस्य द्वारा स्वीकृत किया जाता है, उनमें पब्लिक कमेंट शामिल नहीं होते और उन्हें बोर्ड द्वारा आगे के फ़ैसलों के लिए आधार नहीं बनाया जा सकता. संक्षिप्त फ़ैसले, Meta के फ़ैसलों में सीधे बदलाव लाते हैं, इन सुधारों के बारे में पारदर्शिता देते हैं और साथ ही यह बताते हैं कि Meta अपने एन्फ़ोर्समेंट में कहाँ सुधार कर सकता है.

सारांश

एक यूज़र ने Meta के उस फ़ैसले के खिलाफ़ अपील की, जिसके तहत Facebook पर एक ऐसी पोस्ट को बने रहने दिया गया था जिसमें डिजिटल रूप से तैयार की गई एक फ़ोटो शामिल थी, उसमें एक यहूदी व्यक्ति को शैतान के साथ हँसते हुए दिखाया गया था, पोस्ट के कैप्शन में यह आरोप लगाया गया था कि यहूदी लोग “बुरी शक्तियों” का सहयोग करते हैं और "राजनेताओं, मीडिया की हस्तियों और कथित तौर पर अधिकार रखने वाले व्यक्तियों” को ब्लैकमेल करते हैं. जब बोर्ड ने Meta का ध्यान अपील पर आकर्षित किया, तो कंपनी ने अपना मूल फ़ैसला पलट दिया और पोस्ट को हटा दिया.

केस की जानकारी

नवंबर 2025 में, एक Facebook यूज़र द्वारा डिजिटल रूप से बनाई गई फ़ोटो पोस्ट की गई, जिसमें एक यहूदी व्यक्ति को शैतान के साथ हँसते हुए दिखाया गया था. इस फ़ोटो में दो आकृतियों को एक-दूसरे के सामने दर्शाया गया. बाईं ओर लाल रंग का, सींगों वाला मानव जैसा दिखता पात्र है, जिसके दाँत नुकीले हैं. आम तौर पर ऐसी फ़ोटो का उपयोग दानव या बुरे लोगों को दर्शाने के लिए किया जाता है. दाईं ओर एक वृद्ध, दाढ़ी वाला व्यक्ति है, जिसने किप्पा पहना हुआ है, यह यहूदी पुरुषों द्वारा पारंपरिक रूप से पहनी जाने वाली एक छोटी, गोल सिर ढकने वाली टोपी होती है और उसने एक जैकेट पहन रखी है जिस पर डेविड का सितारा दिख रहा है. दोनों आकृतियों ने अपने हाथ सामने की ओर जोड़ रखे हैं और वे हँसते हुए दिख रहे हैं. फ़ोटो को यह कैप्शन जोड़कर शेयर किया गया था और क्लेम किया गया था कि “इस ग्रह पर कोई भी बुरी शक्ति ऐसी नहीं है जिसे यहूदियों द्वारा समर्थित न बनाया गया हो” और यहूदी लोग राजनेताओं, मीडिया की हस्तियों और प्राधिकरण संबंधी पदों पर आसीन व्यक्तियों को ब्लैकमेल करते हैं. बोर्ड के समक्ष अपनी अपील में, रिपोर्ट करने वाले यूज़र ने कहा कि यह फ़ोटो “AI-जेनरेटेड फ़ोटो” है और यह कि पोस्ट करने वाला यूज़र “लगातार यहूदी विरोधी कंटेंट पोस्ट करता रहता है.”

नफ़रत फैलाने वाले आचरण से संबंधित कम्युनिटी स्टैंडर्ड के अंतर्गत, Meta ऐसे कंटेंट को हटाता है जो किसी व्यक्ति या व्यक्तियों के ग्रुप को उनकी “सुरक्षित विशिष्टताओं या आव्रजन स्थिति” के आधार पर लिखित या विज़ुअल रूप में टार्गेट करती हैं और जिनमें “हानिकारक रूढ़ीवादी टिप्पणियाँ” शामिल होती हैं. इनमें ऐसे क्लेम भी शामिल हैं कि “यहूदी लोग वित्तीय, राजनीतिक या मीडिया संस्थानों को कंट्रोल करते हैं.”

बोर्ड द्वारा इस मामले को Meta के संज्ञान में लाए जाने के बाद, कंपनी ने यह निष्कर्ष निकाला कि संबंधित कंटेंट में हानिकारक रूढ़ीवादी टिप्पणियाँ शामिल हैं, क्योंकि उसमें यह क्लेम किया गया है कि यहूदी लोग “राजनेताओं, मीडिया की हस्तियों और कथित अधिकार स्थिति वाले व्यक्तियों” को ब्लैकमेल करते हैं और दुनिया भर में “बुरी शक्तियों” का सहयोग करते हैं. परिणाम स्वरूप, Meta ने अपने मूल फ़ैसले को पलट दिया और उक्त कंटेंट को Facebook से हटा दिया.

बोर्ड का प्राधिकार और दायरा

बोर्ड को उस यूज़र के अपील करने के बाद Meta के फ़ैसले का रिव्यू करने का अधिकार है, जिसने ऐसे कंटेंट की रिपोर्ट की जिसे तब छोड़ दिया गया था (चार्टर आर्टिकल 2, सेक्शन 1; उपनियम आर्टिकल 3, सेक्शन 1).

जहाँ बोर्ड द्वारा रिव्यू किए जा रहे केस में Meta यह स्वीकार करता है कि उससे गलती हुई है और वह अपना फ़ैसला पलट देता है, वहाँ बोर्ड उस केस का चुनाव संक्षिप्त फ़ैसले के लिए कर सकता है (उपनियम अनुच्छेद 2, सेक्शन 2.1.3). बोर्ड, कंटेंट मॉडरेशन प्रोसेस के बारे में ज़्यादा जानकारी पाने, गलतियों में कमी लाने और Facebook, Instagram और Threads के यूज़र्स के लिए निष्पक्षता बढ़ाने के लिए मूल फ़ैसले का रिव्यू करता है.

केस की सार्थकता

इस मामले में कंटेंट, Meta की नफ़रत फैलाने वाले आचरण से जुड़ी पॉलिसी के अपर्याप्त एन्फ़ोर्समेंट का एक उदाहरण प्रस्तुत करता है. यह दर्शाता है कि यहूदी लोगों को टार्गेट करने वाली हानिकारक रूढ़ीवादी टिप्पणियाँ, विज़ुअल और टेक्स्ट, दोनों रूपों में दिखाई जा सकती हैं और यह कि कंटेंट पॉलिसी का उल्लंघन करने के बावजूद एन्फ़ोर्समेंट कार्रवाई से बच सकती हैं.

बोर्ड ने सुझाव दिया है जिसका लक्ष्य Meta की नफ़रत फैलाने वाले आचरण से जुड़ी पॉलिसी के एन्फ़ोर्समेंट को बेहतर बनाना है. राष्ट्रीयता के आधार पर आपराधिक आरोप फ़ैसले में, बोर्ड ने कहा कि Meta को “[लोगों के साथ] उस आंतरिक ऑडिट के परिणाम इस तरह शेयर करना चाहिए जो उसने अपनी नफ़रत फैलाने वाली भाषा [अब नफ़रत फैलाने वाले आचरण] से जुड़ी पॉलिसी को एन्फ़ोर्स करने में ह्यूमन रिव्यू की सटीकता और ऑटोमेटेड सिस्टम की परफ़ॉर्मेंस का आकलन करने के लिए किया है [...] ये परिणाम इस तरह शेयर किए जाने चाहिए जिससे इन परिणामों की सभी भाषाओं और/या क्षेत्रों में तुलना की जा सके” (सुझाव सं. 2). बोर्ड को अपने शुरूआती जवाब में, Meta ने कहा कि वह एन्फ़ोर्समेंट की सटीकता के डेटा को सार्वजनिक करने के बजाय, उसे बोर्ड के साथ गोपनीय रूप से शेयर करेगा. Meta ने बाद में रिपोर्ट किया कि “गलतियों को कम करने के लिए, कंपनी द्वारा अपनी पॉलिसी को एन्फ़ोर्स करने के तरीकों में बदलाव करने की उसकी कोशिशों के भाग के रूप में, वह उल्लंघन के कई प्रकारों के लिए कंपनी द्वारा पहचान के बजाय यूज़र्स की रिपोर्ट पर ज़्यादा भरोसा कर रहा है और इसमें नफ़रत फैलाने वाले आचरण भी शामिल है” (Meta की ओवरसाइट बोर्ड पर H1 2025 रिपोर्ट [परिशिष्ट]). हाल ही में, Meta ने स्पष्ट किया कि उसने “एक नई मीट्रिक सिस्टम का शुरूआती वर्जन पेश किया है, जिसे एन्फ़ोर्समेंट की सटीकता और रिव्यूअर की प्रभावशीलता का बेहतर आकलन करने के लिए डिज़ाइन किया गया है” (Meta की ओवरसाइट बोर्ड पर H2 2025 रिपोर्ट [परिशिष्ट]). Meta के अनुसार, कंपनी “नए सिस्टम के पूरी तरह से विकसित होने के साथ-साथ परफ़ॉर्मेंस से संबंधित डेटा शेयर करेगी.” इसका क्रियान्वयन अभी भी जारी है और बोर्ड के साथ डेटा शेयर किया जाना बाकी है.

वे पोस्ट जिनमें “From the River to the Sea”, के फ़ैसले में बोर्ड ने Meta को यह सुझाव दिया कि “उसे इज़राइल और फ़िलिस्तीन पर Meta के असर की रिपोर्ट के BSR [बिज़नेस फ़ॉर सोशल रिस्पॉन्सिबिलिटीज़] मानवाधिकार प्रभावों का समुचित आकलन के सुझाव सं. 16 को लागू करके ऐसा तरीका बनाना चाहिए जिससे खास सुरक्षित विशिष्टताओं (जैसे कि, यहूदी विरोध, इस्लामोफ़ोबिया और होमोफ़ोबिक कंटेंट) के आधार पर लोगों पर हमला करने वाले कंटेंट की व्यापकता को ट्रैक किया जा सके” (सुझाव सं. 3). Meta ने इस सुझाव को लागू करने से मना कर दिया है. कंपनी ने बताया कि हालाँकि वह “अपने एन्फ़ोर्समेंट मीट्रिक (जिसमें व्यापकता भी शामिल है) में सुधार करने के लिए प्रतिबद्ध है,” फिर भी वह “इस विशिष्ट कार्य को आगे बढ़ाने के लिए, आवश्यक संसाधनों और क्षमता से संबंधित सीमाओं का सामना कर रही है” (Meta की ओवरसाइट बोर्ड पर H2 2024 रिपोर्ट [परिशिष्ट]).

राष्ट्रीयता के आधार पर आपराधिक आरोप से संबंधित फ़ैसले के निर्णय के सुझाव सं. 2 को लागू करने से Meta विभिन्न भाषाओं और क्षेत्रों में सटीकता संबंधी डेटा की तुलना कर सकेगा, जिससे आवश्यकता पड़ने पर सटीकता दरों में सुधार के लिए संसाधनों का उचित आवंटन किया जा सकेगा. इसके अतिरिक्त, वे पोस्ट जिनमें “From the River to the Sea, के फ़ैसले के सुझाव सं. 3 को लागू करने के लिए संसाधनों का आवंटन करने से Meta को अपने प्लेटफ़ॉर्मों पर यहूदी विरोधी, मुस्लिम विरोधी, नस्लवादी और अन्य घृणास्पद कंटेंट में वृद्धि की सीमा का प्रभावी ढंग से आकलन करने में सहायता मिलेगी. इससे कंपनी यह पहचान सकेगी कि ऐसी वृद्धि कहाँ और कब सबसे अधिक प्रमुख है, ताकि वह अपनी नफ़रत फैलाने वाले आचरण से संबंधित पॉलिसी के अपर्याप्त एन्फ़ोर्समेंट को अधिक प्रभावी ढंग से समाधान कर सके. आखिरकार, बोर्ड के सुझावों का अधिक शीघ्र कार्यान्वयन, अपर्याप्त एन्फ़ोर्समेंट की समस्या का समाधान करने में और ज़्यादा योगदान देगा. बोर्ड यह नोट करता है कि मई 2026 तक उसके द्वारा जारी 73 सुझाव “प्रगति में” बनी हुई हैं, जिनमें कुछ सुझाव 2023 से ही कार्यान्वयन की प्रतीक्षा में पेंडिंग हैं.

फ़ैसला

बोर्ड ने संबंधित कंटेंट को प्लेटफ़ॉर्म पर बनाए रखने के Meta के मूल फ़ैसले को पलट दिया है. बोर्ड द्वारा केस को Meta के ध्यान में लाए जाने के बाद, Meta द्वारा मूल फ़ैसले की गलती में किए गए सुधार को बोर्ड ने स्वीकार किया.

मामले के निर्णयों और नीति सलाहकार राय पर लौटें