खतरनाक संगठनों द्वारा अपनाए गए प्रतीक

सारांश

ओवरसाइट बोर्ड ने ऐसे तीन केसों पर विचार किया जिनमें नफ़रत फैलाने वाला समूहों द्वारा अक्सर उपयोग किए जाने वाले प्रतीक शामिल थे, लेकिन इन प्रतीकों के अन्य उपयोग भी हो सकते हैं. बोर्ड ने Meta से पूछा कि वह अपने खतरनाक संगठनों और लोगों से जुड़े कम्युनिटी स्टैंडर्ड के तहत किस तरह अपने चिह्नित प्रतीकों की लिस्ट बनाता और एन्फ़ोर्स करता है. इससे यूज़र्स को बेहतर पारदर्शिता मिलेगी.

बोर्ड इस बात से चिंतित है कि चिह्नित प्रतीकों के संदर्भों का संभावित रूप से ज़रूरत से ज़्यादा एन्फ़ोर्समेंट किया जा रहा है. Meta को एक ऐसा सिस्टम भी बनाना चाहिए जो उल्लंघन न करने वाले कंटेंट को बड़ी मात्रा में हटाए जाने पर उसे फ़्लैग करे.

बोर्ड ने दो केसों में उल्लंघन करने वाले कंटेंट को हटाने और तीसरे केस में कंटेंट को बनाए रखने के Meta के फ़ैसलों को कायम रखा.

केस की जानकारी

Meta ने Instagram की तीन ऐसी पोस्ट को ओवरसाइट बोर्ड को रेफ़र किया जिनमें नफ़रत फैलाने वाला समूहों द्वारा अक्सर उपयोग किए जाने वाले प्रतीक शामिल थे, लेकिन इन प्रतीकों के अन्य उपयोग हो सकते हैं. पहली पोस्ट में शामिल फ़ोटो में एक महिला दिखाई गई थी और फ़ोटो पर “Slavic Army” (स्लाविक आर्मी) लिखा गया था. साथ ही उसके चेहरे को ढँकने वाले कपड़े पर कोलोव्रात प्रतीक को ऊपर से लगाया गया था. कैप्शन में, यूज़र स्लाविक होने पर गर्व जताया था और आशा की थी कि उसके “लोग जागेंगे.”

दूसरी पोस्ट में एक महिला की कई फ़ोटो का कैरोसल था जिसने आयरन क्रॉस के नैकलेस पहन रखा था जिस पर स्वस्तिक बना था और उसने AK-47 असॉल्ट राइफ़ल टी-शर्ट पहन रखी थी और उस पर फ़्राकतुर शैली में “Defend Europe” (यूरोप को बचाओ) लिखा हुआ था. कैप्शन में ओडल (या ओथाला) रून, #DefendEurope हैशटैग, M8 राइफ़ल दर्शाने वाले प्रतीक और दिल के इमोजी थे.

बोर्ड को दो पोस्ट रेफ़र करते समय, Meta ने उन्हें हटा दिया क्योंकि उनसे खतरनाक संगठन और लोगों से जुड़ी पॉलिसी का उल्लंघन होता है.

तीसरी पोस्ट में एक ओडल रून की ड्रॉइंग का कैरोसल था जिसे एक तलवार पर लपेटा गया था. उस पर जर्मन लेखक, दार्शनिक और सैनिक अर्नस्ट जंगर का खून और भाग्य के बारे में एक कोटेशन था. कैप्शन में वही कोटेशन दोहराया गया था, रून का चुनिंदा प्रारंभिक इतिहास बताया गया था और कहा गया था कि फ़ोटो के प्रिंट बिक्री के लिए उपलब्ध हैं. Meta इस निष्कर्ष पर पहुँचा कि इस पोस्ट से उसके नियमों का उल्लंघन नहीं होता है.

मुख्य निष्कर्ष

बोर्ड के अधिकांश सदस्यों ने पाया कि कोलोव्रात प्रतीक वाली पोस्ट से श्वेत राष्ट्रवाद का महिमामंडन होता है. बोर्ड के अल्पसंख्य सदस्य इस बात से सहमत नहीं थे कि स्लाविक गर्व और श्वेत राष्ट्रवाद के बीच कोई ऑटोमैटिक संबंध है. बोर्ड ने पाया कि यूरोप को बचाने से जुड़ी पोस्ट, श्वेत सर्वोच्चता का महिमामंडन करती है. दोनों पोस्ट को खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी का उल्लंघन करने के कारण हटा दिया जाना चाहिए. पॉलिसी बनाने के कारण के तहत, Meta ऐसे कंटेंट को हटा देता है जो नफ़रत को बढ़ावा देने वाली विचारधाराओं का महिमामंडन, समर्थन या प्रतिनिधित्व करता है. वह श्वेत राष्ट्रवाद और श्वेत सर्वोच्चता को नफ़रत फैलाने वाली विचारधाराएँ मानता है.

कोटेशन वाली पोस्ट उसी पॉलिसी का उल्लंघन नहीं करती. इसमें ओडल रून को स्पष्ट रूप से तटस्थ रूप में दिखाया गया था. कोटेशन में नफ़रत फैलाने वाली किसी विचारधारा का कोई महिमामंडन नहीं है. पोस्ट में नाज़ीवाद या खास तौर पर नफ़रत फैलाने वाली किसी अन्य चिह्नित विचारधारा का कोई संदर्भ नहीं है.

Meta के फ़ैसले, मानवाधिकार से जुड़ी उसकी ज़िम्मेदारियों के अनुसार सही थे. बहुसंख्य सदस्यों के लिए, कोलोव्रात प्रतीक वाली पोस्ट के संदर्भात्मक संकेतों, जिनमें स्लाविक राष्ट्रवाद और स्लाविक आर्मी के स्पष्ट संकेत शामिल हैं, को इस तरह समझा जा सकता है कि वह अपने अनुयायियों को हिंसक कार्रवाई करने के लिए कह रहे हैं और इसलिए उसे हटा दिया जाना चाहिए. बोर्ड के अल्पसंख्य सदस्य इस बात से असहमत हैं और वे मानते हैं कि पोस्ट से तात्कालिक या संभावित नुकसान का कोई सीधा जोखिम नहीं है.

बोर्ड मानता है कि यूरोप को बचाने से जुड़ी पोस्ट को हटाना, तात्कालिक भेदभाव के जोखिम को रोकने के लिए आवश्यक और आनुपातिक है. इसमें संदर्भ से जुड़े ऐसे कई संकेत हैं जो बताते हैं कि इससे नफ़रत फैलाने वाली चिह्नित विचारधाराओं का महिमामंडन होता है. इसे हटाना, हिंसा या बहिष्कार आयोजित करने और भड़काने में Meta के प्लेटफ़ॉर्म के दुरुपयोग को रोकने के विधिसम्मत लक्ष्य को पूरा करने के लिए आवश्यक और आनुपातिक है.

कोटेशन वाली पोस्ट को बनाए रखना उचित था, क्योंकि कंटेंट में नफ़रत फैलाने वाली किसी चिह्नित विचारधारा का संदर्भ नहीं है और वह यूज़र के आर्टवर्क की ज़्यादा जानकारी देती है.

बोर्ड ने अपनी यह चिंताएँ दोहराईं कि खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी के टियर 1 के तहत चिह्नित करने के प्रोसेस के बारे में पारदर्शिता का अभाव है, क्योंकि यूज़र के लिए यह समझना कठिन है कि कौन-सी एंटिटी, विचारधारा और संबंधित प्रतीकों को वे शेयर कर सकते हैं. Meta को चिह्नित प्रतीकों के बारे में ज़्यादा पारदर्शिता देनी चाहिए, खास तौर पर उन प्रतीकों के संबंध में जो नफ़रत फैलाने वाली चिह्नित एंटिटी या विचारधाराओं से संबंधित हैं. साथ ही उसे साक्ष्य आधारित, वैश्विक और दोहराया जाने वाला प्रोसेस बनाना चाहिए. उसे प्रतीकों को चिह्नित करने और उनके खिलाफ़ एन्फ़ोर्समेंट के बारे में अपने प्रोसेस और शर्तों की एक स्पष्ट व्याख्या प्रकाशित करनी चाहिए.

बोर्ड इस बात से चिंतित है कि चिह्नित प्रतीकों के संदर्भों का संभावित रूप से ज़रूरत से ज़्यादा एन्फ़ोर्समेंट किया जा रहा है. Meta इस क्षेत्र में एन्फ़ोर्समेंट से जुड़े अपने व्यवहारों के बारे में पर्याप्त रूप से विस्तृत डेटा कलेक्ट नहीं करता. Meta ने बोर्ड को बताया कि “संदर्भ” की आंतरिक परिभाषा, उसकी लोगों को दिखाई देने वाली पॉलिसी में मौजूद “अस्पष्ट संदर्भ” की परिभाषा से ज़्यादा व्यापक है. Meta को “संदर्भों” की आंतरिक परिभाषा सार्वजनिक रूप से उपलब्ध करानी चाहिए और उसकी सबकैटेगरीज़ को परिभाषित करना चाहिए ताकि वे यूज़र्स के लिए स्पष्ट और एक्सेसिबल रहें.

ओवरसाइट बोर्ड का फ़ैसला

ओवरसाइट बोर्ड ने पहले और दूसरे केस में कंटेंट को हटाने और तीसरे केस में कंटेंट को बनाए रखने के Meta के फ़ैसलों को कायम रखा.

बोर्ड ने सुझाव दिया है कि Meta:

• “संदर्भों” की अपनी आंतरिक परिभाषा को सार्वजनिक करे और खतरनाक संगठनों और लोगों से जुड़े कम्युनिटी स्टैंडर्ड के तहत उसकी सबकैटेगरी को परिभाषित करे.
• यह तय करने का प्रोसेस प्रस्तुत करे कि वह समूहों में चिह्नित प्रतीकों को कैसे जोड़ा जाता है और हर चिह्नित प्रतीक को किस समूह में जोड़ा जाता है और सभी चिह्नित प्रतीकों का आवधिक रूप से ऑडिट कैसे किया जाता है. साथ ही यह भी सुनिश्चित करे कि लिस्ट में वैश्विक रूप से प्रासंगिक सभी प्रतीक शामिल हों और उन सभी प्रतीकों को हटा दिया जाए जो अब प्रकाशित करने की शर्तें पूरी नहीं करते.
• ऐसे मामलों को अपने आप पहचानने और फ़्लैग करने का सिस्टम बनाए जिनमें चिह्नित प्रतीकों के कारण ऐसे “स्पाइक” आते हैं जो बताते हैं कि उल्लंघन नहीं करने वाले कंटेंट को बड़ी मात्रा में हटाया जा रहा है.
• इस बारे में स्पष्ट व्याख्या प्रकाशित करे कि वह अपने खतरनाक संगठनों और लोगों से जुड़े कम्युनिटी स्टैंडर्ड के तहत किस तरह अपने चिह्नित प्रतीकों की लिस्ट बनाता और एन्फ़ोर्स करता है.

*मामले के सारांश से मामलों का ओवरव्यू मिलता है और भविष्य में लिए जाने वाले किसी फ़ैसले के लिए इसको आधार नहीं बनाया जा सकता है.

मामले का पूरा फ़ैसला

1. केस की जानकारी और बैकग्राउंड

नवंबर 2024 में, Meta ने Instagram की तीन ऐसी पोस्ट को ओवरसाइट बोर्ड को रेफ़र किया जिनमें नफ़रत फैलाने वाला समूहों द्वारा अक्सर उपयोग किए जाने वाले प्रतीक शामिल थे, लेकिन इन प्रतीकों के अन्य उपयोग हो सकते हैं.

अप्रैल 2016 की पहली पोस्ट में, एक गोरी महिला की फ़ोटो थी जिसने अपना नीचे का आधा चेहरा स्कार्फ़ से ढँक रखा था. उसके चेहरे को ढँकने वाले स्कार्फ़ पर “स्लाविक आर्मी” लिखा हुआ था और एक कोलोव्रात प्रतीक बना हुआ था. कोलोव्रात एक तरह का स्वस्तिक जैसा प्रतीक है जिसका उपयोग नियो- नाज़ी और कुछ नियो-पैगन द्वारा किया जाता है. कैप्शन में, यूज़र ने स्लाविक होने पर गर्व व्यक्त किया और कहा कि कोलोव्रात विश्वास, युद्ध, शांति, नफ़रत और प्यार का प्रतीक है. यूज़र ने उम्मीद जताई कि उसके “लोग जागेंगे” और कहा कि वे “अपनी मौत तक अपने सपनों” का पीछा करेंगे. पोस्ट को 100 से कम बार देखा गया था और उसे 500 से कम रिएक्शन और 50 से कम कमेंट मिले. जब Meta ने इस केस को बोर्ड को रेफ़र करने के लिए चुना, तब कंपनी के पॉलिसी विषयवस्तु विशेषज्ञों ने पाया कि पोस्ट से खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी का उल्लंघन होता है और उसे हटा दिया.

अक्टूबर 2024 की दूसरी पोस्ट में सेल्फ़ी फ़ोटो का एक कैरोसल था. फ़ोटो में एक गोरी महिला को विभिन्न मुद्राओं में दिखाया गया था. उसने आयरन क्रॉस के नैकलेस पहन रखा था जिस पर स्वस्तिक बना था और उसने AK-47 असॉल्ट राइफ़ल टी-शर्ट पहन रखी थी और उस पर फ़्राकतुर फ़ॉन्ट में “Defend Europe” (यूरोप को बचाओ) लिखा हुआ था. कैप्शन में ओडल (या ओथला) रून, #DefendEurope हैशटैग, M8 राइफ़ल दर्शाने वाले प्रतीक, हाथ की ताकत दिखाने वाला इमोजी और दिल के इमोजी थे. ओडल रून, रूनिक वर्णमाला का एक प्रतीक है जिसका उपयोग यूरोप के कई भागों में तब तक किया जाता था जब तक कि सातवीं सदी में लैटिन वर्णमाला ने इसकी जगह नहीं ले ली. इसे नाज़ियों द्वारा अपनाया गया था और अब इसका उपयोग नियो-नाज़ियों और अन्य श्वेत सर्वोच्चतावादी ताकतों द्वारा उन विचारों का प्रतिनिधित्व करने के लिए किया जाता है जिन्हें वे “आर्यन नस्ल” कहते हैं. पोस्ट को लगभग 3,000 से कम बार देखा गया था और उसे 500 से कम रिएक्शन और 50 से कम कमेंट मिले. जब कंपनी ने इस केस को बोर्ड को रेफ़र करने के लिए चुना, तब Meta के पॉलिसी विषयवस्तु विशेषज्ञों ने भी पाया कि पोस्ट से खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी का उल्लंघन होता है और उसे प्लेटफ़ॉर्म से हटा दिया.

तीसरी पोस्ट भी फ़ोटो के कैरोसल से संबंधित थी. फ़रवरी 2024 में पोस्ट की गई ये फ़ोटो एक ओडल रून की एक ड्रॉइंग थी जिसे एक तलवार के आसपास लपेटा गया था और उस पर एक जर्मन लेखक, दार्शनिक और सैनिक अर्नस्ट जंगर, जो पहले और दूसरे विश्वयुद्ध में लड़ थे, का खून और भाग्य के बीच संबंध से जुड़ा एक कोटेशन था. जंगर एक जर्मन राष्ट्रवादी और नाज़ी पार्टी का आलोचक था. रून का चुनिंदा प्रारंभिक इतिहास बताने से पहले कैप्शन में उस कोटेशन को दोहराया गया है लेकिन उसमें नाज़ियों और नियो-नाज़ियों द्वारा उसे अपनाने का कोई उल्लेख नहीं है. कैप्शन के समापन में रून को “विरासत, मातृभूमि और परिवार” का एक प्रतीक बताया गया था और कहा गया था कि फ़ोटो के प्रिंट बिक्री के लिए उपलब्ध हैं. पोस्ट को लगभग 25,000 बार देखा गया था और उसे 1,000 से कम रिएक्शन और 50 से कम कमेंट मिले. Meta द्वारा इस कंटेंट को बोर्ड को रेफ़र करने के लिए चुने जाने के बाद, कंपनी के पॉलिसी विषयवस्तु विशेषज्ञ इस नतीजे पर पहुँचे कि इस तीसरी पोस्ट से किसी भी नियम का उल्लंघन नहीं होता.

2. यूज़र सबमिशन

पोस्ट के लेखकों को बोर्ड के रिव्यू के बारे में सूचित किया गया था और उन्हें कथन सबमिट करने का अवसर दिया गया था. किसी भी यूज़र ने कथन सबमिट नहीं किया.

3. Meta की कंटेंट पॉलिसी और सबमिशन

I. Meta की कंटेंट पॉलिसी

Meta की खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी का लक्ष्य “असली दुनिया को होने वाले नुकसानों को रोकना और उनमें रुकावट डालना है.” पॉलिसी बनाने के कारण में, Meta ने कहा कि वह ऐसे कंटेंट को हटा देता है जो “नफ़रत को बढ़ावा देने वाली विचारधाराओं का महिमामंडन, समर्थन या प्रतिनिधित्व करता है.” इसे पॉलिसी में नफ़रत फैलाने वाली विचारधाराओं के रूप में भी बताया गया है. नफ़रत फैलाने वाली विचारधाराओं को Meta की पॉलिसी के टियर 1 का भाग माना जाता है, जिसके तहत सबसे गहन एन्फ़ोर्समेंट किया जाता है क्योंकि Meta मानता है कि टियर 1 की एंटिटी और लोगों का “ऑफ़लाइन नुकसान से सबसे सीधा संबंध होता है.”

Meta ने बताया कि वह प्रतिबंधित विचारधाराओं को चिह्नित करता है, जिसे पॉलिसी में “नाज़ीवाद, श्वेत श्रेष्ठता, श्वेत राष्ट्रवाद [और] श्वेत अलगाववाद” के रूप में लिस्ट किया गया है क्योंकि वे “स्वाभाविक रूप से हिंसा से जुड़ी” रही हैं और “अन्य लोगों की सुरक्षित विशिष्टताओं के आधार पर हिंसा या बहिष्कार के आह्वानों के संबंध में लोगों को संगठित” करने की कोशिश करती हैं. इस लिस्टिंग के ही साथ, कंपनी कहती है कि वह “इन विचारधाराओं के स्पष्ट महिमामंडन, समर्थन और प्रतिनिधित्व” को हटा देती है.

Meta, टियर 1 की एंटिटी और विचारधाराओं के महिमामंडन को हटा देता है. अन्य बातों के अलावा, “महिमामंडन” में “किसी चिह्नित एंटिटी के हिंसक या नफ़रत फैलाने वाले काम को सही बताने या उसका बचाव करने के लिए यह क्लेम करना कि ऐसे काम नैतिक, राजनैतिक, तार्किक या अन्य किसी प्रकार से उचित हैं जो उन्हें स्वीकार्य या उचित बनाते हैं” या “चिह्नित एंटिटी द्वारा हिंसा या नफ़रत को किसी उपलब्धि या पूर्णता के रूप में दर्शाना या उसका जश्न मनाना” शामिल है.

पॉलिसी के टियर 1 के तहत, Meta ऐसे “अस्पष्ट संदर्भों” को भी हटा देता है. इसमें “अस्पष्ट हास्य और बिना कैप्शन वाले या सकारात्मक रेफ़रेंस शामिल हैं जो चिह्नित की गई एंटिटी की हिंसा या नफ़रत का महिमामंडन नहीं करते हैं.” Meta ने दो बार कहा कि वह नफ़रत फैलाने वाली विचारधाराओं के “अस्पष्ट संदर्भों” को हटा देता है, एक बार पॉलिसी बनाने के कारण में और दूसरी बार टियर 1 के संगठनों के विवरण में.

“सामाजिक और राजनैतिक बातचीत” के संदर्भ में, पॉलिसी में यूज़र्स को उस कंटेंट की परमिशन दी गई है जो चिह्नित संगठनों या लोगों या गतिविधियों की रिपोर्ट करता है, उनकी निंदा करता है या उनकी निष्पक्ष रूप से चर्चा करता है. पॉलिसी बनाने के कारण के अनुसार, ऐसा कंटेंट बनाते या शेयर करते समय, Meta ने यूज़र्स के लिए “अपना इरादा स्पष्ट करना” ज़रूरी बनाया है. अगर यूज़र का इरादा “संदिग्ध या अस्पष्ट” है, तो Meta डिफ़ॉल्ट तौर पर कंटेंट को हटा देता है.

II. Meta के सबमिशन

Meta ने तय किया कि पहले (कोलोव्रात प्रतीक वाली पोस्ट) और दूसरे (यूरोप को बचाने से जुड़ी पोस्ट) केसों में खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी का उल्लंघन हुआ है, जबकि तीसरे (कोटेशन वाली पोस्ट) केस में इस पॉलिसी का उल्लंघन नहीं होता.

बोर्ड के सवालों के जवाब में, Meta ने बताया कि टियर 1 की एंटिटी और विचारधाराओं से जुड़े प्रतीकों को तीन समूहों में बाँटा गया है. ये समूह यह तय करते हैं कि कंपनी किस तरह पोस्ट और की जाने वाली एन्फ़ोर्समेंट कार्रवाइयों का रिव्यू करती है. पहले समूह में उन प्रतीकों की एक छोटी-सी लिस्ट है जो चिह्नित एंटिटी के जाने-माने एलियाज़ के कारण “सार्वजनिक रूप से बदनाम” हैं और जिनका उपयोग उनके द्वारा “नियमित रूप से और बार-बार” किया जाता है. पहले समूह के प्रतीकों को, व्यापक रूप से मॉडरेट किए जाते समय, स्वाभाविक रूप से खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी का उल्लंघन करने वाला माना जाता है.

दूसरे और उससे काफ़ी बड़े समूह में ऐसे प्रतीक हैं जिन्हें मुख्य रूप से किसी चिह्नित एंटिटी या विचारधारा के संदर्भ में उपयोग किया जाता है. इस समूह में मौजूद प्रतीकों को Meta, व्यापक रूप से उल्लंघन करने वाला मानता है. पहले केस में कोलोव्रात प्रतीक इस दूसरे समूह के तहत आता है.

तीसरे समूह में चिह्नित एंटिटी से जुड़े प्रतीकों की एक बहुत छोटी लिस्ट है, लेकिन उनका उपयोग आम तौर पर अच्छे संदर्भों में भी किया जा सकता है. ज़रूरत से ज़्यादा एन्फ़ोर्समेंट के जोखिम से बचने के लिए, Meta इन प्रतीकों का आकलन एस्केलेशन के समय करता है और उन्हें तभी उल्लंघन करने वाला मानता है जब संदर्भ से यह पता चलता हो कि प्रतीक का उपयोग किसी चिह्नित विचारधारा के लिए किया जा रहा है. इस समूह में दूसरे और तीसरे केसों में शामिल ओडल रून शामिल है.

सभी तीन समूहों में प्रतीकों पर एन्फ़ोर्समेंट के संबंध में, अगर उन्हें किसी चिह्नित एंटिटी या विचारधारा का महिमामंडन करने, सपोर्ट करने या प्रतिनिधित्व करने के लिए शेयर किया जाता है, तो Meta ऐसी पोस्ट को हटा देता है और यूज़र के अकाउंट पर स्ट्राइक लगाता है. Meta ऐसी पोस्ट को भी हटा देता है और स्ट्राइक लगाता है जिसमें पहले समूह के किसी प्रतीक को संदर्भ या कैप्शन के बिना फ़ोटो में प्रमुखता से दिखाया जाता है. जब पहले समूह की किसी फ़ोटो को किसी संदर्भ या कैप्शन के बिना पोस्ट किया जाता है, लेकिन उसे फ़ोटो में प्रमुखता से नहीं दिखाया गया है, तो कंटेंट को अस्पष्ट संदर्भ के रूप में हटा दिया जाता है लेकिन अकाउंट पर कोई स्ट्राइक नहीं लगाई जाती. जब दूसरे समूह की किसी फ़ोटो को संदर्भ या कैप्शन के बिना शेयर किया जाता है, चाहे उसे कंटेंट में प्रमुखता से दिखाया गया हो या न दिखाया गया हो, उसे अस्पष्ट संदर्भ के रूप में स्ट्राइक के बिना हटा दिया जाएगा. जब तीसरे समूह की किसी फ़ोटो को किसी संदर्भ या कैप्शन के बिना पोस्ट किया जाता है, तो कंटेंट को भी अस्पष्ट संदर्भ के रूप में हटा दिया जाता है और स्ट्राइक नहीं लगाई जाती.

कंपनी ने नोट किया कि कोलोव्रात प्रतीक को शुरुआती रिव्यू में ही उल्लंघन करने वाला मानकर हटा दिया जाता है, बशर्ते उसका उपयोग सामाजिक और राजनैतिक बातचीत जैसे परमिशन योग्य संदर्भ में न किया गया हो. Meta ने पाया कि कोलोव्रात प्रतीक वाली पोस्ट में श्वेत राष्ट्रवाद का संदर्भ है जो नफ़रत फैलाने वाली चिह्नित विचारधारा है. Meta ने “स्लाविक प्राइड” को “श्वेत राष्ट्रवाद के नस्लवादी अंधराष्ट्रवाद को व्यक्त करने के इरादे” के रूप में देखा. कंपनी इस नतीजे पर पहुँची कि स्लाविक राष्ट्रवाद और स्लाविक आर्मी के बारे में कंटेंट के स्पष्ट संदर्भों और सेना के बारे में उसके उल्लेखों को देखते हुए, प्रतीक का उपयोग नियो-नाज़ी विचारधारा के संदर्भ में किया गया था जिसकी जड़ें स्लाविक सर्वोच्चता की मान्यताओं से जुड़ी है.

अगर एस्केलेशन के समय रिव्यू में Meta यह मानता है कि प्रतीक का उपयोग नफ़रत फैलाने वाले संदर्भ में नहीं किया गया है, तो कंपनी ओडल रून को परमिशन देती है. कंपनी इस नतीजे पर पहुँची कि यूरोप को बचाने से जुड़ी पोस्ट में, ओडल रून को ऐसे संदर्भ में शेयर किया गया था जिससे श्वेत सर्वोच्चता के महिमामंडन में रून के उपयोग का आभास हो रहा था. Meta ने कहा कि कई संकेतों से उसकी टीमों को यह तय करने में मदद मिली कि प्रतीक का उपयोग किसी नफ़रत फैलाने वाली विचारधारा की हिंसा पर खुशी मनाने के लिए किया गया है. इसमें “#DefendEurope” का उपयोग शामिल है, जो एक ऐसा हैशटैग है जिसका उपयोग अक्सर यूरोपीय श्वेत सर्वोच्चतावादी समूहों द्वारा किया जाता है; साथ ही उसमें “Defend Europe” को फ़्राकतुर फ़ॉन्ट में लिखा होना और महिला के गले में लटका आयरन क्रॉस, नाज़ी सामग्री और दुष्प्रचार से संबंधित हैं; और इसके अलावा कैप्शन में M8 राइफ़ल बनाने वाले प्रतीक, दिल और बंदूक के इमोजी भी हैं जो ओडल रून के आसपास लगे हैं.

Meta ने तय किया कि कोटेशन वाली पोस्ट से खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी का उल्लंघन नहीं होता. कंपनी ने पाया कि ओडल रून के साथ उसके ऐतिहासिक उद्गम का निष्पक्ष वर्णन और रून का भाषाई महत्व दिया गया था. जंगर कोटेशन का आकलन ज़्यादा चुनौतीपूर्ण था, लेकिन Meta अंततः इस निष्कर्ष पर पहुँचा कि ओडल रून का उपयोग नाज़ियों या श्वेत सर्वोच्चता के बारे में किया गया था.

बोर्ड के सवालों के जवाब में, Meta ने बताया कि उसने प्रतीकों की पहली या तीसरी लिस्ट का व्यवस्थागत ऑडिट पूरा नहीं किया है. कंपनी दूसरी लिस्ट को लगातार अपडेट करती रहती है. Meta ने यह जोड़ा कि कंपनी इस क्षेत्र में पॉलिसी का और विस्तार करने की संभावनाएँ तलाश रही है जिससे यह जानने में मदद मिलेगी कि वह भविष्य के ऑडिट में क्या-क्या काम कर सकती है.

बोर्ड ने चिह्नित प्रतीकों को चिह्नित करने और एन्फ़ोर्समेंट से जुड़े सवाल पूछे. Meta ने सभी सवालों के जवाब दिए.

4. पब्लिक कमेंट

ओवरसाइट बोर्ड को सबमिट करने की शर्तों को पूरा करने वाले 100 पब्लिक कमेंट मिले. इनमें से 95 कमेंट अमेरिका और कनाडा से, दो मध्य और दक्षिण एशिया से, दो मध्य पूर्व और उत्तरी अफ़्रीका से और एक यूरोप से सबमिट किया गया था. प्रकाशन की सहमति के साथ सबमिट किए गए पब्लिक कमेंट पढ़ने के लिए यहाँ पर क्लिक करें.

सबमिशन में इन विषयों पर बात की गई थी: संभावित रूप से नफ़रत फैलाने वाले प्रतीकों को मॉडरेट करने के तरीके; संभावित रूप से उल्लंघन करने वाले कंटेंट पर यूज़र को ज़्यादा संदर्भ देने की सुविधा देने का महत्व; बाहरी विषय विशेषज्ञों और भरोसेमंद पार्टनर के साथ काम करने की ज़रूरत; और AI ट्रेनिंग को संकेतों को मिलाकर विश्लेषण करने पर फ़ोकस करने का प्रस्ताव.

5. ओवरसाइट बोर्ड का विश्लेषण

बोर्ड ने इन केसों का चयन इस बात पर विचार करने के लिए किया कि Meta को यूज़र की अभिव्यक्ति की आज़ादी की रक्षा करते हुए किस तरह उन प्रतीकों को मॉडरेट करना चाहिए जो खतरनाक संगठनों को बढ़ावा दे सकते हैं. ये केस समाज के पिछड़े वर्गों के प्रति नफ़रत फैलाने वाली भाषा से जुड़ी बोर्ड की स्ट्रेटेजिक प्राथमिकता के दायरे में आते हैं.

बोर्ड ने Meta की कंटेंट पॉलिसी, वैल्यू और मानवाधिकार से जुड़ी ज़िम्मेदारियाँ के संबंध में इन केस में दिए गए Meta के फ़ैसलों का परीक्षण किया. बोर्ड ने यह भी आकलन किया कि कंटेंट गवर्नेंस को लेकर Meta के व्यापक दृष्टिकोण पर इस मामले का क्या असर पड़ेगा.

5.1 Meta की कंटेंट पॉलिसी का अनुपालन

बोर्ड इस बात पर Meta से सहमत है कि कोलोव्रात प्रतीक और यूरोप को बचाने से जुड़ी पोस्ट, Meta की खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी का उल्लंघन करती है, जबकि कोटेशन वाली पोस्ट से ऐसा उल्लंघन नहीं होता.

बोर्ड इस बात पर Meta से सहमत है कि कोलोव्रात प्रतीक वाली पोस्ट को हटा दिया जाना चाहिए, लेकिन ऐसा करने का उसका कारण दूसरा है. Meta ने पाया कि कोलोव्रात प्रतीक वाली पोस्ट उल्लंघन करती है क्योंकि उसमें नफ़रत फैलाने वाली विचारधारा का “संदर्भ” है. इसके विपरीत, बोर्ड के बहुसंख्य सदस्य मानते हैं कि इससे श्वेत राष्ट्रवाद का महिमामंडन हुआ है, जो नफ़रत फैलाने वाली एक चिह्नित विचारधारा है. स्लाविक प्राइड और स्लाविक आर्मी के संदर्भ, साथ में यह उम्मीद जताना कि उनके “लोग जागेंगे” और यह कहना कि “वे मरते दम तक अपने सपनों के पीछे भागेंगे,” बताता है कि यूज़र का इरादा पॉलिसी के टियर 1 के तहत महिमामंडन करना है, खास तौर पर “हिंसक या नफ़रत फैलाने वाले कामों को कानूनी ठहराकर या उनका बचाव करके ... यह दावा करते हुए कि उन कामों के पीछे कोई नैतिक या राजनैतिक औचित्य है जो उन्हें स्वीकार्य बनाता है,” जैसा कि पॉलिसी में बताया गया है. चूँकि “सामाजिक और राजनैतिक बातचीत” से जुड़े पॉलिसी के अपवाद में यह ज़रूरी बनाया गया है कि पोस्ट में कोई महिमामंडन न हो, इसलिए यह पोस्ट पॉलिसी के अपवाद की छूट पाने के लिए योग्य नहीं थी.

बोर्ड के अल्पसंख्य सदस्यों ने अस्पष्ट संदर्भ या नफ़रत फैलाने वाली विचारधारा के महिमामंडन के रूप में पहली पोस्ट को उल्लंघन करने वाला नहीं पाया. ये अल्पसंख्य सदस्य नहीं मानते कि स्लाविक प्राइड, जिसके सांस्कृतिक और ऐतिहासिक अर्थ भी हैं, और श्वेत राष्ट्रवाद के बीच कोई ऑटोमैटिक लिंक है. पोस्ट को पॉलिसी के “सामाजिक और राजनैतिक बातचीत” से जुड़े अपवाद का फ़ायदा भी दिया जा सकता था. इसे हटाना बताता है कि पॉलिसी में “अस्पष्ट संदर्भों” की मान्यता पर निर्भर करने से ज़रूरत से ज़्यादा एन्फ़ोर्समेंट हो सकता है. अल्पसंख्य सदस्यों ने Meta से यह भी कहा कि वह समग्र निष्कासन पर इस पॉलिसी लाइन के असर की सटीकता और शुद्धता का समय-समय पर रिव्यू करे और देखे कि क्या उसे सीमित और समायोजित करने की ज़रूरत है.

बोर्ड ने पाया कि यूरोप को बचाने से जुड़ी पोस्ट में श्वेत सर्वोच्चता की हिंसा पर खुशी जताई गई थी जिससे नफ़रत फैलाने वाली किसी चिह्नित विचारधारा का महिमामंडन होता है. बोर्ड का निष्कर्ष, पोस्ट में मौजूद इन संदर्भात्मक संकेतों के आधार निकाला गया था. भले ही ये संकेत अलग-अलग उल्लंघन न करते हों, लेकिन वे साथ मिलकर स्पष्ट महिमामंडन करते हैं:

• महिला के गले में आयरन क्रॉस, जिस पर स्वस्तिक का चिह्न था. आयरन क्रॉस, जर्मन सेना का एक मेडल है, जिस पर स्वस्तिक लगाकर उसे नाज़ियों के अनुसार बनाया गया था. दूसरे विश्व युद्ध के बाद मेडल को बंद कर दिया गया था, लेकिन नियो-नाज़ी और श्वेत सर्वोच्चता वाले समूहों ने इसे नफ़रत के एक प्रतीक के रूप में अपनाया.
• टी-शर्ट पर फ़्राकतुर फ़ॉन्ट में और कैप्शन में “यूरोप को बचाओ” वाक्यांश का उपयोग. “Defend Europe” (यूरोप को बचाओ) एक ऐसा स्लोगन है जिसका उपयोग श्वेत सर्वोच्चतावादियों और अन्य अप्रवासी विरोधी संगठनों द्वारा किया जाता है और इसका संबंध हिंसक कामों से है. फ़्राकतुर फ़ॉन्ट एक ऐसा टाइपफ़ेस है जो कभी-कभी नाज़ियों और नियो-नाज़ियों से जुड़ा रहा है.
• कैप्शन में ओडल रून के साथ M8 राइफ़ल बनाने वाली प्रतीक, ताकत दिखाने वाले हाथ और दिल के इमोजी.

चूँकि इस पोस्ट में महिमामंडन था, इसलिए बोर्ड इस नतीजे पर पहुँचा कि “सामाजिक और राजनैतिक बातचीत” से जुड़ा पॉलिसी अपवाद इस पोस्ट पर लागू नहीं था.

बोर्ड इस बात पर Meta से सहमत है कि कोटेशन वाली पोस्ट से खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी का उल्लंघन नहीं होता. ऐसा दिखाई दे रहा है कि पोस्ट में ओडल रून को निष्पक्ष तरीके से प्रस्तुत किया गया है, उसमें इसे नाज़ियों द्वारा अपनाने का कोई उल्लेख नहीं है और उसका उद्देश्य ओडल रून वाले आर्टवर्क को बेचना है. भले ही पोस्ट में एक जर्मन राष्ट्रवादी अर्नस्ट जंगर का एक कोटेशन है जो भाग्य और खून के बीच का संबंध दिखाता है, लेकिन खुद पोस्ट से महिमामंडन, नफ़रत फैलाने वाली किसी चिह्नित विचारधारा का समर्थन या प्रतिनिधित्व नहीं होता. सामान्य अर्थों में, पोस्ट में नाज़ीवाद या खास तौर पर नफ़रत फैलाने वाली किसी अन्य चिह्नित विचारधारा का कोई संदर्भ नहीं है. ऐसा लगता है कि पोस्ट में ऐसे आर्टवर्क का संदर्भ दिया गया है, जिसमें ओडल रून शामिल है. तलवार को हिंसा के प्रतीक के रूप में देखा जा सकता है, लेकिन सिर्फ़ एक संकेत से उल्लंघन नहीं माना जा सकता.

5.2 Meta की मानवाधिकारों से जुड़ी ज़िम्मेदारियों का अनुपालन

बोर्ड ने पाया कि पहली और दूसरी पोस्ट में कंटेंट को हटाने, लेकिन तीसरी पोस्ट को प्लेटफ़ॉर्म पर बनाए रखने का Meta का फ़ैसला, Meta की मानवाधिकारों से जुड़ी ज़िम्मेदारियों के अनुसार सही था. बोर्ड के अल्पसंख्य सदस्य, पहली पोस्ट को हटाने के फ़ैसले से सहमत नहीं थे.

अभिव्यक्ति की आज़ादी (आर्टिकल 19 ICCPR)

नागरिक और राजनैतिक अधिकारों पर अंतरराष्ट्रीय प्रतिज्ञापत्र (ICCPR) का अनुच्छेद 19, अभिव्यक्ति की व्यापक सुरक्षा प्रदान करता है, जिसमें “राजनैतिक बातचीत”, “सार्वजनिक मामलों पर टीका-टिप्पणी” और “अत्यधिक आपत्तिजनक” मानी जा सकने वाली अभिव्यक्तियाँ शामिल हैं (सामान्य कमेंट सं. 34, पैरा. 11). जहाँ राज्य, अभिव्यक्ति पर प्रतिबंध लगाता है, वहाँ प्रतिबंधों को वैधानिकता, वैधानिक लक्ष्य और आवश्यकता तथा आनुपातिकता की शर्तों को पूरा करना चाहिए (अनुच्छेद 19, पैरा. 3, ICCPR). इन आवश्यकताओं को अक्सर “तीन भागों वाला परीक्षण” कहा जाता है. बोर्ड इस फ़्रेमवर्क का उपयोग बिज़नेस और मानवाधिकारों से जुड़े संयुक्त राष्ट्र संघ के मार्गदर्शक सिद्धांतों के अनुरूप Meta की मानवाधिकार ज़िम्मेदारियों को समझने के लिए करता है, जिसके लिए Meta ने खुद अपनी कॉर्पोरेट मानवाधिकार पॉलिसी में प्रतिबद्धता जताई है. बोर्ड ऐसा इसलिए करता है कि वह रिव्यू के लिए आए कंटेंट से जुड़े अलग-अलग फ़ैसले ले सके और यह समझ सके कि कंटेंट मॉडरेशन से जुड़ा Meta का व्यापक दृष्टिकोण क्या है. जैसा कि अभिव्यक्ति की आज़ादी के बारे में संयुक्त राष्ट्र के खास रैपर्टर में कहा गया है कि भले ही “कंपनियों का सरकारों के प्रति दायित्व नहीं है, लेकिन उनका प्रभाव इस तरह का है जो उनके लिए अपने यूज़र की सुरक्षा के बारे में इस तरह के सवालों का मूल्यांकन करना ज़रूरी बनाता है” (A/74/486, पैरा. 41).

I. वैधानिकता (नियमों की स्पष्टता और सुलभता)

वैधानिकता के सिद्धांत के लिए यह ज़रूरी है कि अभिव्यक्ति को सीमित करने वाले नियमों को एक्सेस किया जा सकता हो और वे स्पष्ट हों. उन्हें पर्याप्त सटीकता के साथ बनाया गया हो ताकि लोग अपने व्यवहार को उसके अनुसार बदल सकें (सामान्य कमेंट सं. 34, पैरा. 25). इसके अलावा, ये नियम “उन लोगों को अभिव्यक्ति की आज़ादी पर प्रतिबंध लगाने के निरंकुश अधिकार नहीं दे सकते, जिनके पास इन नियमों को लागू करने की ज़िम्मेदारी है” और नियमों में “उन लोगों के लिए पर्याप्त मार्गदर्शन भी होना ज़रूरी है जिन पर इन्हें लागू करने की ज़िम्मेदारी है ताकि वे यह पता लगा सकें कि किस तरह की अभिव्यक्ति को उचित रूप से प्रतिबंधित किया गया है और किसे नहीं,” (पूर्वोक्त). अभिव्यक्ति की आज़ादी पर संयुक्त राष्ट्र संघ के विशेष रैपर्टर ने कहा है कि ऑनलाइन अभिव्यक्ति की निगरानी करने के मामले में निजी संस्थानों पर लागू होने वाले नियम स्पष्ट और विशिष्ट होने चाहिए (A/HRC/38/35, पैरा. 46 पर). Meta के प्लेटफ़ॉर्म का उपयोग करने वाले लोगों के लिए ये नियम एक्सेस करने और समझने लायक होने चाहिए और उनके एन्फ़ोर्समेंट के संबंध में कंटेंट रिव्यूअर्स को स्पष्ट मार्गदर्शन दिया जाना चाहिए.

बोर्ड ने खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी के टियर 1 के तहत चिह्नित करने के प्रोसेस के बारे में पारदर्शिता के अभाव पर अपनी चिंताएँ दोहराईं. इससे यूज़र्स के लिए यह समझना मुश्किल हो जाता है कि कौन-सी एंटिटी, विचारधाराएँ और संबंधित प्रतीकों को वे शेयर कर सकते हैं (ग्रीक 2023 चुनाव अभियान देखें). बोर्ड ने Meta से कहा कि वह टियर 1 की लिस्ट प्रकाशित करे (नाज़ी उद्धरण देखें). Meta ने लिस्ट प्रकाशित करने से इंकार करते हुए कहा कि इसे प्रकाशित करने से “गलत इरादों वाले लोग एन्फ़ोर्समेंट मैकेनिज़्म में रुकावट” डाल सकते हैं और “Meta के कर्मचारियों की सुरक्षा” को प्रभावित कर सकते हैं. Meta इस बात के लिए प्रतिबद्ध है कि वह अमेरिकी विदेशी आतंकी संगठन और विशेष रूप से चिह्नित वैश्विक आतंकवादियों की लिस्ट को अनपे कम्युनिटी स्टैंडर्ड में, जहाँ इन लिस्ट का उल्लेख किया गया है, हाइपरलिंक करेगा. कंपनी ने सूडान की रैपिड सपोर्ट फ़ोर्स का बंधक वाला वीडियो केस के सुझाव सं. 3 के जवाब में यह प्रतिबद्धता व्यक्त की है. हालाँकि, नफ़रत फैलाने वाली एंटिटी की लिस्ट, उसके जैसी सार्वजनिक लिस्ट पर आधारित नहीं है जिससे लोगों के लिए यह अनुमान लगाना मुश्किल हो जाता है कि नफ़रत फैलाने वाले कौन-से संबंधित प्रतीक प्रतिबंधित हैं.

बोर्ड ने Meta से कहा कि वह चिह्नित प्रतीकों के बारे में ज़्यादा पारदर्शिता दे, खास तौर पर उन प्रतीकों के संबंध में जो नफ़रत फैलाने वाली चिह्नित एंटिटी या विचारधाराओं से संबंधित हैं. बोर्ड ने Meta से कहा कि वह इस बारे में स्पष्ट प्रोसेस बनाए कि तीनों समूहों में प्रतीकों को किस तरह जोड़ा जाता है और हर प्रतीक को किस समूह में जोड़ा जाता है. बोर्ड मानता है कि इस प्रोसेस को कम से कम साक्ष्य आधारित, दायरे में वैश्विक और प्रकृति में दोहराने लायक होना चाहिए. सबसे पहले, यह प्रोसेस यह सुनिश्चित करने में मदद करेगा कि प्रतीकों की लिस्ट अप-टू-डेट है और जो प्रतीक शामिल किए जाने की शर्तों को पूरा नहीं करते हैं, उन्हें हटा दिया गया है, जबकि शेष प्रतीकों को सबसे ज़्यादा लागू होने लायक मूल्यांकन प्रोसेस के ज़रिए एन्फ़ोर्स किया गया है. उदाहरण के लिए, कई गैर-उल्लंघनकारी उद्देश्यों वाले सभी चिह्नित प्रतीकों का मूल्यांकन Meta की आंतरिक विषयवस्तु टीमों द्वारा एस्केलेटेड रिव्यू के ज़रिए या ह्यूमन रिव्यूअर्स को विशिष्ट मार्गदर्शन देकर किया जाता है. खास प्रतीकों के लिए उपयोग के प्रमुख मामलों का निर्धारण करते समय, Meta को प्रासंगिक रिसर्च के नतीजों पर भरोसा करना चाहिए, जिसमें विभिन्न भाषाओं और क्षेत्रों में कंपनी के प्लेटफ़ॉर्म पर प्रतीक के उपयोग के ट्रेंड पर रिसर्च करना शामिल हो सकता है. इसके बाद, भेदभाव न करने वाले तरीके से अपने वैश्विक नियम बनाने और एन्फ़ोर्स करने की Meta की प्रतिबद्धताओं के अनुसार (अनुच्छेद 2 और 26, ICCPR; सामान्य कमेंट सं. 34, पैरा. 26), Meta को चिह्नित प्रतीकों की लिस्ट का रिव्यू करना चाहिए. ऐसा करते समय, Meta को यह सुनिश्चित करना चाहिए कि लिस्ट में, उदाहरण के लिए, न सिर्फ़ नफ़रत फैलाने वाली ऐसी विचारधाराएँ शामिल हैं जो वैश्विक अल्पसंख्यक वाले क्षेत्रों में हैं, बल्कि उनमें वैश्विक बहुसंख्यक क्षेत्रों में मौजूद विचारधाराएँ भी शामिल होनी चाहिए, जैसा कि बोर्ड ने दक्षिण अफ़्रीका के रंगभेद के समय का झंडा दिखाने वाली पोस्ट फ़ैसले में कहा है. बोर्ड ने यह भी कहा कि प्रतीकों का उपयोग समय के साथ बदल सकता है और इसलिए, लिस्ट का समय-समय पर ऑडिट किया जाना चाहिए ताकि नए-नए उपयोगों के आधार पर संभावित रूप से ज़रूरत से ज़्यादा या कम एन्फ़ोर्समेंट के जोखिमों का समाधान किया जा सके.

यूज़र्स को ज़्यादा पारदर्शिता देने के लिए, Meta को इस बात का स्पष्ट स्पष्टीकरण भी प्रकाशित करना चाहिए कि वह किस तरह चिह्नित प्रतीकों की लिस्ट मनाता है और उसे एन्फ़ोर्स करता है. इस स्पष्टीकरण में प्रतीकों को चिह्नित करने के प्रोसेस और शर्तें शामिल होनी चाहिए. साथ ही यह भी शामिल होना चाहिए कि कंपनी अलग-अलग प्रतीकों के संबंध में किस तरह एन्फ़ोर्समेंट करती है, जिसमें स्ट्राइक का उपयोग भी शामिल है. Meta को ट्रांसपेरेंसी सेंटर में यह जानकारी प्रकाशित करनी चाहिए और खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी की लोगों को दिखाई देने वाली भाषा से इसे हाइपरलिंक करना चाहिए.

बोर्ड उस “संदर्भ” पॉलिसी लाइन में स्पष्टता के अभाव और उसके संभावित रूप से ज़रूरत से ज़्यादा विस्तृत होने पर भी चिंता जताई जिसके तहत Meta ने पहली पोस्ट को हटाया था. बोर्ड के सवालों के जवाब में, कंपनी ने कहा कि “संदर्भ” के बारे में उसकी आंतरिक परिभाषा, खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी की उसी लोगों को दिखाई देने वाली भाषा में मौजूद “अस्पष्ट संदर्भ” की परिभाषा से ज़्यादा विस्तृत है. किसी संदर्भ में “बिना किसी सीमा के सकारात्मक संदर्भ, आकस्मिक चित्रण, कैप्शन रहित फ़ोटो, अस्पष्ट हास्य या व्यंग्य और प्रतीक शामिल होते हैं.” पॉलिसी के “हम इन्हें हटा देते हैं” सेक्शन में, Meta ने सिर्फ़ इतना कहा है कि वह “ऐसे अस्पष्ट या कैप्शन रहित संदर्भों को हटा देता है जिनमें यूज़र का इरादा स्पष्ट रूप से न बताया गया हो.” इसमें “हास्य, कैप्शन रहित या सकारात्मक संदर्भ शामिल हैं जो चिह्नित एंटिटी की हिंसा या नफ़रत का महिमामंडन नहीं करते.” इसलिए बोर्ड ने Meta से कहा कि वह “संदर्भ” की आंतरिक परिभाषा को सार्वजनिक रूप से उपलब्ध कराए और उसकी सबकैटेगरीज़ को परिभाषित करे, जैसे “सकारात्मक संदर्भ” और “आकस्मिक चित्रण,” ताकि उसकी पॉलिसी लाइन यूज़र्स के लिए पर्याप्त रूप से स्पष्ट और एक्सेसिबल रहे.

II. वैधानिक लक्ष्य

अभिव्यक्ति की आज़ादी पर लगाए जाने वाले सभी प्रतिबंधों में ICCPR में सूचीबद्ध कानूनी लक्ष्यों में से एक या एक से ज़्यादा को पूरा किया जाना चाहिए, जिसमें अन्य लोगों के अधिकारों की रक्षा शामिल है (अनुच्छेद 19, पैरा. 3, ICCPR). बोर्ड ने इस बात पर विचार किया है कि खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी जिसका उद्देश्य “असली जीवन में होने वाले नुकसान को रोकना और बाधित करना है,” अन्य लोगों के अधिकारों की सुरक्षा करने के विधिसम्मत लक्ष्य को पूरा करती है, जैसे जीवन का अधिकार (अनुच्छेद 6, ICCPR) और खुद से भेदभाव न होने देने और समानता का अधिकार (अनुच्छेद 2 और 26, ICCPR), क्योंकि इसमें ऐसे संगठनों को कवर किया गया है जो नफ़रत, हिंसा और भेदभाव को बढ़ावा देते हैं और साथ ही नफ़रत से उकसाई गई हिंसक घटनाओं को भी चिह्नित किया गया है (देखें सूडान की रैपिड सपोर्ट फ़ोर्स का बंधक वाला वीडियो, ग्रीस में 2023 का चुनावी कैंपेन).

III. आवश्यकता और आनुपातिकता

ICCPR के अनुच्छेद 19(3) के तहत, आवश्यकता और आनुपातिकता के सिद्धांत के अनुसार यह ज़रूरी है कि अभिव्यक्ति की आज़ादी पर लगाए जाने वाले प्रतिबंध “उनके सुरक्षात्मक कार्य को सही तरीके से पूरा करने वाले होने चाहिए; उनसे उन लोगों के अधिकारों के साथ कम से कम हस्तक्षेप होना चाहिए, जिन अधिकारों से उन्हें सुरक्षात्मक कार्यों का लाभ मिल सकता है; उन हितों के अनुसार सही अनुपात में होने चाहिए, जिनकी सुरक्षा की जानी है,” (सामान्य कमेंट सं. 34, पैरा. 34).

देश के दायित्वों के संबंध में, संयुक्त राष्ट्र की मानवाधिकार कमिटी ने कहा है कि: “सामान्य तौर पर झंडों, यूनिफ़ॉर्म, निशानों और बैनर के उपयोग को अभिव्यक्ति का विधिसम्मत रूप माना जाना चाहिए और उसे प्रतिबंधित नहीं किया जाना चाहिए, भले ही ऐसे प्रतीक किसी बुरे अतीत की याद दिलाते हों. बहुत कम मामलों में, जहाँ ऐसे प्रतीक भेदभाव, शत्रुता या हिंसा के उकसावे से सीधे और प्रमुखता से संबंधित हों, उचित प्रतिबंध लगाए जाने चाहिए,” (शांतिपूर्ण सभा के अधिकार पर सामान्य कमेंट सं. 37, CCPR/C/GC/37, पैरा. 51).

बोर्ड के बहुसंख्य सदस्यों ने पाया कि कोलोव्रात प्रतीक वाली पोस्ट को हटाना, भेदभाव और हिंसा उकसाने या आयोजित करने में Meta के प्लेटफ़ॉर्म के दुरुपयोग को रोकने के लिए आवश्यक और आनुपातिक जवाब था. पोस्ट के संदर्भात्मक संकेतों देखते हुए, जिनमें स्लाविक राष्ट्रवाद और स्लाविक आर्मी के स्पष्ट संदर्भ शामिल हैं, पोस्ट को इस तरह समझा जा सकता है कि वह अपने अनुयायियों को हिंसक कार्रवाई करने के लिए कह रहे हैं. इन बहुसंख्य सदस्यों के लिए, पोस्ट यह दिखाती है कि हिंसा या बहिष्कार को बढ़ावा देने वाली विचारधाराओं के लिए समर्थन पाने और बढ़ाने की ऑनलाइन कोशिशों में प्रतीक किस तरह भागीदार हो सकते हैं. बोर्ड के अल्पसंख्य सदस्य इस बात से असहमत हैं और वे मानते हैं कि पोस्ट से तात्कालिक या संभावित हिंसा या भेदभाव का कोई सीधा जोखिम नहीं है. इसलिए, Meta अन्य टूल्स पर भरोसा कर सकता था, जिनमें पोस्ट का सुझाव न देना या सामान्य रूप से उसका प्रसार कम करना शामिल है. इन अल्पसंख्य सदस्यों के अनुसार, इस पोस्ट को हटाना न तो आवश्यक उपाय था और न आनुपातिक.

बोर्ड मानता है कि यूरोप को बचाने से जुड़ी पोस्ट को हटाना, आवश्यकता और आनुपातिकता के सिद्धांतों की पूर्ति करता है जिसके तहत संभावित और तात्कालिक भेदभाव और हिंसा को रोकना ज़रूरी है. दक्षिण अफ़्रीका के रंगभेद के समय का झंडा दिखाने वाली पोस्ट फ़ैसले से जुड़े कंटेंट से विपरीत, इस पोस्ट में संदर्भ से जुड़े ऐसे कई संकेत मौजूद हैं जो ज़्यादा सीधे तौर पर हिंसा के महिमामंडन से कनेक्ट हैं, जैसा कि सेक्शन 5.1 में बताया गया है. यह पोस्ट दिखाती है कि नफ़रत के प्रतीक, किस तरह नेटवर्क से जुड़े उन लोगों के लिए एकता के केंद्र बन सकते हैं, जो कंटेंट मॉडरेशन से बचते हुए कनेक्शन बनाने और समान विचारधारा वाले व्यक्तियों को भर्ती करने की कोशिश करते हैं. इसलिए, यूरोप को बचाने से जुड़ी पोस्ट को हटाना, हिंसा या बहिष्कार आयोजित करने और भड़काने में Meta के प्लेटफ़ॉर्म के दुरुपयोग को रोकने के विधिसम्मत लक्ष्य को पूरा करने के लिए आवश्यक और आनुपातिक है.

कोटेशन वाली पोस्ट को बनाए रखने के Meta के फ़ैसले को बोर्ड ने उचित माना, क्योंकि कंटेंट में नफ़रत फैलाने वाली किसी चिह्नित विचारधारा का संदर्भ नहीं है और वह यूज़र के आर्टवर्क की ज़्यादा जानकारी देती है. इसलिए, उसे हटाने की ज़रूरत नहीं थी.

बोर्ड, खतरनाक संगठनों और लोगों से जुड़े कम्युनिटी स्टैंडर्ड के तहत चिह्नित प्रतीकों के संदर्भों के संभावित रूप से ज़रूरत से ज़्यादा एन्फ़ोर्समेंट को लेकर भी चिंतित है. Meta इस क्षेत्र में एन्फ़ोर्समेंट से जुड़े अपने व्यवहारों के बारे में पर्याप्त रूप से विस्तृत डेटा कलेक्ट नहीं करता. Meta को एक ऐसा सिस्टम बनाना चाहिए जिसमें “स्पाइक” लाने वाले चिह्नित प्रतीकों को अपने आप पहचाना और फ़्लैग किया जाए जिससे यह पता चलता है कि उल्लंघन न करने वाले कंटेंट को बड़ी मात्रा में हटाया जा रहा है. यह सिस्टम वैसा ही होना चाहिए जैसा कंपनी ने कोलंबियाई पुलिस का कार्टून फ़ैसले में बोर्ड के सुझाव सं. 2 के जवाब में बनाया है. इस सिस्टम से Meta उन “स्पाइक” का विश्लेषण कर पाएगा जिनमें चिह्नित प्रतीक शामिल हैं और कंपनी इसके आधार पर भविष्य में अपनी कार्रवाइयाँ कर पाएगी, जिसमें उसके व्यवहारों को ज़्यादा सटीकता और शुद्धता लाने के लिए उनमें बदलाव करना शामिल है. उदाहरण के लिए, अगर बड़ी संख्या में ऐसे फ़ाल्स पॉज़िटिव सामने आते हैं, जिनके परिणामस्वरूप चिह्नित प्रतीकों के संदर्भों को गलत तरीके से हटा दिया जाता है, जबकि वह कंटेंट वास्तव में उल्लंघन नहीं करता है या उसे पॉलिसी के “सामाजिक और राजनैतिक बातचीत” से जुड़े अपवाद के तहत आना चाहिए, तो Meta पॉलिसी में बदलाव या एन्फ़ोर्समेंट के तरीकों में समायोजन पर विचार कर सकता है. बोर्ड, Meta से यह अपेक्षा करता है कि वह ऐसा सिस्टम बनाए और सिस्टम द्वारा पहचाने गए संभावित रूप से ज़रूरत से ज़्यादा एन्फ़ोर्समेंट को रोकने के लिए की गई कार्रवाइयों की जानकारी बोर्ड को दे. बोर्ड यह भी आशा करता है कि वह भविष्य के किसी केस में इन कार्रवाइयों को रिव्यू करेगा.

6. ओवरसाइट बोर्ड का फ़ैसला

ओवरसाइट बोर्ड ने पहले और दूसरे केस में कंटेंट को हटाने और तीसरे केस में कंटेंट को बनाए रखने के Meta के फ़ैसलों को कायम रखा.

7. सुझाव

कंटेंट पॉलिसी

1. यूज़र्स को ज़्यादा स्पष्टता देने के लिए, Meta को “संदर्भों” की अपनी आंतरिक परिभाषा को सार्वजनिक करना चाहिए और खतरनाक संगठनों और लोगों से जुड़े कम्युनिटी स्टैंडर्ड के तहत उसकी सबकैटेगरी को परिभाषित करना चाहिए.

बोर्ड इस सुझाव को तब लागू मानेगा जब Meta, खतरनाक संगठनों और लोगों से जुड़े कम्युनिटी स्टैंडर्ड की लोगों को दिखाई देने वाली भाषा को अपडेट करेगा.

एन्फ़ोर्समेंट

2. यह सुनिश्चित करने के लिए कि खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी के तहत चिह्नित प्रतीकों की लिस्ट में ऐसे प्रतीक शामिल नहीं हैं जो अब इसके लिए Meta की शर्तें पूरी नहीं करते, Meta को यह तय करने के लिए एक स्पष्ट और साक्ष्य आधारित प्रोसेस बनाना चाहिए कि प्रतीकों को किस तरह समूहों में जोड़ा जाता है और हर चिह्नित प्रतीक को किस समूह में जोड़ा जाता है. साथ ही उसे समय-समय पर सभी चिह्नित प्रतीकों का यह सुनिश्चित करने के लिए ऑडिट करना चाहिए कि लिस्ट में पूरी दुनिया के सभी प्रासंगिक प्रतीक शामिल हैं और वे प्रतीक हटा दिए गए हैं जो अब प्रकाशित शर्तों की पूर्ति नहीं करते हैं, जैसा कि इस फ़ैसले के सेक्शन 5.2 में बताया गया है.

बोर्ड इस सुझाव को तब लागू मानेगा जब Meta इस प्रोसेस को प्रकाशित करेगा और इन नए नियमों के आधार पर किए गए अपने पहले ऑडिट के डॉक्यूमेंट और परिणाम बोर्ड को उपलब्ध कराएगा.

3. खतरनाक संगठनों और लोगों से जुड़े कम्युनिटी स्टैंडर्ड के तहत चिह्नित प्रतीकों को शामिल करने वाले संभावित फ़ाल्स पॉज़िटिव का समाधान करने के लिए, Meta को एक ऐसा सिस्टम बनाना चाहिए जिसमें “स्पाइक” लाने वाले चिह्नित प्रतीकों को अपने आप पहचाना और फ़्लैग किया जाए जिससे यह पता चलता है कि उल्लंघन न करने वाले कंटेंट को बड़ी मात्रा में हटाया जा रहा है. यह सिस्टम वैसा ही होना चाहिए जैसा कंपनी ने कोलंबियाई पुलिस का कार्टून फ़ैसले में बोर्ड के सुझाव सं. 2 के जवाब में बनाया है. इस सिस्टम से Meta उन “स्पाइक” का विश्लेषण कर पाएगा जिनमें चिह्नित प्रतीक शामिल हैं और कंपनी इसके आधार पर भविष्य में अपनी कार्रवाइयाँ कर पाएगी, जिसमें उसके व्यवहारों को ज़्यादा सटीकता और शुद्धता लाने के लिए उनमें बदलाव करना शामिल है.

बोर्ड इस सुझाव को तब लागू मानेगा जब Meta ऐसा सिस्टम बना लेगा और सिस्टम द्वारा पहचाने गए संभावित रूप से ज़रूरत से ज़्यादा एन्फ़ोर्समेंट को रोकने के लिए की गई कार्रवाइयों की जानकारी बोर्ड को देगा.

पारदर्शिता

4. यूज़र्स को ज़्यादा पारदर्शिता देने के लिए, Meta को इस बारे में स्पष्ट व्याख्या प्रकाशित करनी चाहिए कि वह अपने खतरनाक संगठनों और लोगों से जुड़े कम्युनिटी स्टैंडर्ड के तहत किस तरह अपने चिह्नित प्रतीकों की लिस्ट बनाता और एन्फ़ोर्स करता है. इस स्पष्टीकरण में प्रतीकों को चिह्नित करने के प्रोसेस और शर्तें शामिल होनी चाहिए. साथ ही यह भी शामिल होना चाहिए कि कंपनी अलग-अलग प्रतीकों के संबंध में किस तरह एन्फ़ोर्समेंट करती है, जिसमें स्ट्राइक के बारे में जानकारी और चिह्नित प्रतीकों के बारे में की गई किसी अन्य एन्फ़ोर्समेंट कार्रवाई की जानकारी शामिल है.

बोर्ड इस सुझाव को तब लागू मानेगा जब जानकारी को ट्रांसपेरेंसी सेंटर में प्रकाशित कर दिया जाएगा और खतरनाक संगठनों और लोगों से जुड़े कम्युनिटी स्टैंडर्ड की लोगों को दिखाई देने वाली भाषा से उसे हाइपरलिंक कर दिया जाएगा.

*प्रक्रिया संबंधी नोट:

• ओवरसाइट बोर्ड के फ़ैसले पाँच मेंबर्स के पैनल द्वारा लिए जाते हैं और उन पर बोर्ड के अधिकांश मेंबर्स की सहमति होती है. ज़रूरी नहीं है कि बोर्ड के फ़ैसले, सभी सदस्यों की राय दर्शाएँ.
• अपने चार्टर के तहत, ओवरसाइट बोर्ड उन यूज़र्स की अपील रिव्यू कर सकता है, जिनका कंटेंट Meta ने हटा दिया था और उन यूज़र्स की अपील जिन्होंने उस कंटेंट की रिपोर्ट की थी जिसे Meta ने बनाए रखा. साथ ही, बोर्ड Meta की ओर से रेफ़र किए गए फ़ैसलों का रिव्यू कर सकता है (चार्टर आर्टिकल 2, सेक्शन 1). बोर्ड के पास Meta के कंटेंट से जुड़े फ़ैसलों को कायम रखने या उन्हें बदलने का बाध्यकारी अधिकार है (चार्टर आर्टिकल 3, सेक्शन 5; चार्टर आर्टिकल 4). बोर्ड ऐसे गैर-बाध्यकारी सुझाव दे सकता है, जिनका जवाब देना Meta के लिए ज़रूरी है (चार्टर आर्टिकल 3, सेक्शन 4; अनुच्छेद 4). जहाँ Meta, सुझावों पर एक्शन लेने की प्रतिबद्धता व्यक्त करता है, वहाँ बोर्ड उनके लागू होने की निगरानी करता है.
• इस मामले के फ़ैसले के लिए, बोर्ड की ओर से स्वतंत्र रिसर्च करवाई गई थी. बोर्ड को Duco Advisers की सहायता मिली, जो भौगोलिक-राजनैतिक, विश्वास और सुरक्षा तथा टेक्नोलॉजी के आपसी संबंध पर काम करने वाली एक एडवाइज़री फ़र्म है.

मामले के निर्णयों और नीति सलाहकार राय पर लौटें