यूके ड्रिल म्यूज़िक

जनवरी 2023 का अपडेट:

इस केस में, ओवरसाइट बोर्ड ने मेट्रोपोलिटन पुलिस सर्विस (MPS) को एक सूचना की आज़ादी रिक्वेस्ट सबमिट करके पूछा कि एक वर्ष की अवधि में ड्रिल म्यूज़िक कंटेंट का रिव्यू करने या हटाने के लिए Meta सहित सोशल मीडिया कंपनियों को MPS की ओर से भेजी गई रिक्वेस्ट की प्रकृति और मात्रा क्या थी. MPS ने 7 अक्टूबर 2022 को भेजी गई रिक्वेस्ट की मात्रा के आँकड़े भेजे और बताया कि उनमें से कितने कंटेंट को हटाया गया. MPS के पूरे जवाब को फ़ैसले के साथ प्रकाशित किया गया और उसमें शामिल आँकड़ों को बोर्ड के फ़ैसले में शामिल किया गया जिसे 22 नवंबर 2022 को प्रकाशित किया गया था. 4 जनवरी 2023 को MPS ने बोर्ड से संपर्क करके कहा कि उसे अपने जवाब में कुछ गलतियाँ मिली हैं और उसने उन्हें ठीक किया. ध्यान देने वाली बात यह है कि उसने अपने आँकड़े भी ठीक किए: मेट्रोपोलिटन पुलिस द्वारा सोशल मीडिया कंपनियों और स्ट्रीमिंग सर्विस को जून 2021 से मई 2022 के बीच ड्रिल म्यूज़िक वाले कंटेंट को रिव्यू करने या हटाने के लिए की गई कुल 992 रिक्वेस्ट [सुधार से पहले यह संख्या 286 थी] में से 879 मामलों [सुधार से पहले यह संख्या 255 थी] में कंटेंट हटा दिया गया; इनमें से 28 रिक्वेस्ट Meta के प्लेटफ़ॉर्म से संबंधित थीं [सुधार से पहले यह संख्या 21 थी] और उनमें से 24 मामलों [सुधार से पहले यह संख्या 14 थी] में कंटेंट हटा दिया गया. फ़ैसले में MPS द्वारा सुधार किए जाने से पहले के मूल आँकड़े हैं. यह अपडेट इस केस में ओवरसाइट बोर्ड के विश्लेषण या फ़ैसले में कोई बदलाव नहीं करता. सूचना की आज़ादी के जवाब का अपडेट यहाँ देखा जा सकता है.

केस का सारांश

ओवरसाइट बोर्ड ने Instagram से यूके ड्रिल म्यूज़िक वीडियो क्लिप को हटाने के Meta के फ़ैसले को पलट दिया. Meta ने मेट्रोपोलिटन पुलिस से रिक्वेस्ट मिलने पर कंटेंट को हटाया था. इस केस से कानून प्रवर्तन से Meta के रिलेशनशिप के बारे में चिंताएँ उत्पन्न होती हैं, जिससे पक्षपात को बढ़ावा मिल सकता है. बोर्ड ने इन रिलेशनशिप में तय प्रोसेस और पारदर्शिता के बेहतर सम्मान के लिए सुझाव दिए.

केस की जानकारी

जनवरी 2022 में, ख़ुद को ब्रिटिश म्यूज़िक को बढ़ावा देने वाला अकाउंट बताने वाले एक Instagram अकाउंट ने चिंक्स (ओएस) के यूके ड्रिल म्यूज़िक ट्रैक "सीक्रेट्स नॉट सेफ़" की रिलीज़ को हाइलाइट करने वाला कंटेंट पोस्ट किया जिसमें ट्रैक के म्यूज़िक वीडियो की एक क्लिप शामिल थी.

कुछ ही समय बाद, मेट्रोपोलिटन पुलिस, जो ग्रेटर लंदन में कानून प्रवर्तन के लिए ज़िम्मेदार है, ने Meta को ईमेल से रिक्वेस्ट भेजकर कहा कि कंपनी "सीक्रेट्स नॉट सेफ़” को शामिल करने वाले सभी कंटेंट का रिव्यू करे. Meta को मेट्रोपोलिटन पुलिस से अतिरिक्त संदर्भ भी मिला. Meta के अनुसार, इसमें लंदन में हत्याओं सहित गिरोह हिंसा की जानकारी शामिल थी और पुलिस को यह चिंता थी कि ट्रैक से बदले की हिंसा को बढ़ावा मिल सकता है.

Meta की विशेषज्ञ टीमों ने कंटेंट का रिव्यू किया. मेट्रोपोलिटन पुलिस द्वारा दिए गए संदर्भों पर भरोसा करते हुए, उन्होंने यह पाया कि उसमें 2017 की गोलीबारी का रेफ़रेंस देकर “अप्रत्यक्ष धमकी” दी गई है, जिससे आगे भी हिंसा भड़क सकती है. कंपनी ने हिंसा और उकसावे की पॉलिसी का उल्लंघन करने के कारण, रिव्यू किए जा रहे अकाउंट से कंटेंट हटा दिया. उसने अन्य अकाउंट से भी कंटेंट के ऐसा 52 भाग हटा दिए जिनमें चिंक्स (ओएस) का ट्रैक “सीक्रेट्स नॉट सेफ़” शामिल था. Meta के ऑटोमेटेड सिस्टम ने बाद में अन्य 112 मामलों में भी कंटेंट हटा दिया.

Meta ने इस केस को बोर्ड को रेफ़र किया. बोर्ड ने Meta से रिक्वेस्ट करके कहा कि वह कंटेंट की चिंक्स (ओएस) की पोस्ट को भी रेफ़र करे. हालाँकि, Meta ने कहा कि ऐसा करना असंभव है कि क्योंकि चिंक्स (ओएस) के अकाउंट से “सीक्रेट्स नॉट सेफ़” वीडियो को हटाने से अंततः अकाउंट ही डिलीट हो जाएगा और उसका कंटेंट सुरक्षित नहीं किया गया है.

मुख्य निष्कर्ष

बोर्ड ने पाया कि इस कंटेंट को हटाना, Meta के कम्युनिटी स्टैंडर्ड, उसकी वैल्यू या उसकी मानवाधिकार ज़िम्मेदारियों के अनुसार नहीं था.

Meta के पास इस निष्कर्ष पर पहुँचने के पर्याप्त प्रमाण नहीं थे कि कंटेंट में भरोसा करने लायक धमकी थी और बोर्ड के अपने रिव्यू में ऐसे नतीजे का समर्थन करने वाले प्रमाण सामने नहीं आए. ऐसे प्रमाण के नहीं होने पर, Meta को कंटेंट की कलात्मक प्रकृति को ज़्यादा महत्व देना चाहिए था.

इस केस से सरकारों के साथ Meta के रिलेशनशिप के बारे में चिंताएँ उत्पन्न होती हैं, ख़ास तौर पर जब कानून प्रवर्तन की रिक्वेस्ट के कारण कानूनी कंटेंट का रिव्यू, कम्युनिटी स्टैंडर्ड के उल्लंघन के लिए किया जाए और उसे हटा दिया जाए. भले ही कानून प्रवर्तन कभी-कभी संदर्भ और विशेषज्ञता देता है, लेकिन ऐसे हर कंटेंट को हटा नहीं दिया जाना चाहिए जिसे कानून प्रवर्तन हटवाना पसंद करता है. इसलिए यह महत्वपूर्ण है कि Meta इन रिक्वेस्ट का स्वतंत्र मूल्यांकन करे, ख़ास तौर पर जब वे अल्पसंख्यक या उपेक्षित ग्रुप के व्यक्तियों की कलात्मक अभिव्यक्ति से संबंधित हो, जिनके लिए उनके कंटेंट के लिए सांस्कृति पक्षपात का जोखिम बहुत ज़्यादा होता है.

कानून प्रवर्तन जिन चैनलों के ज़रिए Meta से रिक्वेस्ट करते हैं, वे अव्यवस्थित और अस्पष्ट हैं. कानून प्रवर्तन एजेंसियों से यह नहीं कहा जाता कि वे अपनी रिक्वेस्ट का औचित्य बताने के लिए न्यूनतम शर्तें पूरी करें और इसलिए इंटरैक्शन में एकरूपता नहीं होती. Meta द्वारा सरकारी रिक्वेस्ट पर प्रकाशित किया जाने वाला डेटा भी अधूरा है.

कानून प्रवर्तन के साथ Meta के रिलेशनशिप के संबंध में पारदर्शिता की कमी से कंपनी की ओर से पक्षपात बढ़ने की संभावना पैदा होती है. बोर्ड द्वारा की गई जानकारी की आज़ादी रिक्वेस्ट से पता चला कि मेट्रोपोलिटन पुलिस की ओर से सोशल मीडिया कंपनियों और स्ट्रीमिंग सर्विस को जून 2021 से लेकर मई 2022 के बीच म्यूज़िकल कंटेंट को रिव्यू करने या हटाने के लिए की गई सभी 286 रिक्वेस्ट में ड्रिल म्यूज़िक की बात की गई थी जो ख़ास तौर पर युवा ब्लैक ब्रिटिश लोगों के बीच लोकप्रिय है. इन रिक्वेस्ट में से 255 मामलों में प्लेटफ़ॉर्म से कंटेंट हटा दिया गया. Meta प्लेटफ़ॉर्म से जुड़ी 21 रिक्वेस्ट में से 14 में कंटेंट हटाया गया. बोर्ड ने पाया कि अपनी वैल्यू और मानवाधिकार से जुड़ी ज़िम्मेदारियों का सम्मान करने के लिए, कानून प्रवर्तन की रिक्वेस्ट पर Meta की प्रतिक्रिया में उचित प्रोसेस का पालन किया जाना चाहिए और उसे ज़्यादा पारदर्शी बनना चाहिए.

इस केस से निदान की एक्सेस से जुड़ी चिंताएँ भी उत्पन्न होती हैं. इस केस के भाग के रूप में, Meta ने बोर्ड को कहा कि जब कंपनी “एस्केलेट होने पर” कंटेंट से जुड़े फ़ैसले लेती है, तो यूज़र्स उसकी अपील बोर्ड को नहीं कर सकते. “एस्केलेट होने पर” लिया गया फ़ैसला, Meta की आंतरिक विशेषज्ञ टीमों द्वारा किया जाता है. Meta के अनुसार, कानून प्रवर्तन की रिक्वेस्ट पर किए गए सभी फ़ैसले “एस्केलेट होने पर” लिए जाते हैं (बशर्ते रिक्वेस्ट सार्वजनिक रूप से उपलब्‍ध “प्रोडक्ट में मौजूद रिपोर्टिंग टूल” से न की गई हो), क्योंकि वे ऐसे फ़ैसले होते हैं जो किसी ख़ास पॉलिसी पर आधारित होते हैं और सिर्फ़ Meta की आंतरिक टीमों द्वारा ही लागू किए जा सकते हैं. इस स्थिति ने क्रॉस-चेक पर बोर्ड की पॉलिसी परामर्शी राय की तैयारी में चिंताएँ बढ़ा दीं क्योंकि Meta ने यह बताया कि मई और जून 2022 के बीच, क्रॉस-चेक सिस्टम में लगभग एक तिहाई कंटेंट बोर्ड को एस्केलेट नहीं किया जा सका.

Meta ने एस्केलेट किए गए कंटेंट को बोर्ड को कई बार एस्केलेट किया, जिसमें यह शामिल है. हालाँकि, बोर्ड इस बात से चिंतित है कि यूज़र्स को उस समय निदान की एक्सेस देने से मना कर दिया गया जब Meta कंटेंट से जुड़े अपने सबसे अहम फ़ैसले करता है. कंपनी को इस समस्या का तुरंत समाधान करना चाहिए.

ओवरसाइट बोर्ड का फ़ैसला

ओवरसाइट बोर्ड ने कंटेंट को हटाने के Meta के फ़ैसले को पलट दिया.

बोर्ड ने Meta को सुझाव दिया कि वह:

• सरकार की ओर से काम करने वाले लोगों की ओर से मिलने वाली कंटेंट को हटाने की रिक्वेस्ट के लिए एक स्टैंडर्ड सिस्टम बनाए. इसमें ऐसी बातें पूछने की शर्त शामिल होनी चाहिए कि पॉलिसी का उल्लंघन किस तरह हुआ है और उसका क्या प्रमाण है.
• सरकार की ओर से काम करने वाले लोगों से कम्युनिटी स्टैंडर्ड के उल्लंघन के लिए प्राप्त कंटेंट को रिव्यू करने और हटाने की रिक्वेस्ट का डेटा प्रकाशित करे.
• सरकार की ओर से काम करने वाले लोगों की रिक्वेस्ट के कारण कंटेंट मॉडरेशन पर लिए गए फ़ैसलों के डेटा का नियमित रिव्यू करके यह आकलन करे कि उसमें कोई व्यवस्थात्मक पक्षपात तो नहीं हुआ है और अगर ऐसा कोई पक्षपात मिलता है, तो उसे ठीक करने की व्यवस्था करे.
• यूज़र्स को “एस्केलेट होने पर” लिए गए कंटेंट से जुड़े फ़ैसलों की ओवरसाइट बोर्ड से अपील करने का अवसर दे.
• ऐसे अकाउंट और कंटेंट को संरक्षित करे जिन्हें ऐसा कंटेंट पोस्ट करने के कारण दंड दिया गया हो या बंद कर दिया गया हो जो बोर्ड द्वारा जारी जाँच के अधीन हो.
• कलात्मक अभिव्यक्ति की महत्ता दिखाने के लिए अपनी “वॉइस” की वैल्यू को अपडेट करे.
• कम्युनिटी स्टैंडर्ड में यह स्पष्ट करे कि “अस्पष्ट धमकी” के कारण कंटेंट को हटाए जाने के लिए, एक मुख्य और एक द्वितीयक संकेत ज़रूरी होता है और यह स्पष्ट करे कि कौन सा संकेत इनमें से कौन सा है.

*केस के सारांश से केस का ओवरव्यू पता चलता है और आगे के किसी फ़ैसले के लिए इसको आधार नहीं बनाया जा सकता है.

केस का पूरा फ़ैसला

1. फ़ैसले का सारांश

ओवरसाइट बोर्ड ने Meta के उस फ़ैसले को पलट दिया जिसमें कलाकार चिंक्स (ओएस) के यूके ड्रिल म्यूज़िक ट्रैक की रिलीज़ अनाउंस करने वाली एक क्लिप को Instagram से हटा दिया गया था.

Meta ने इस केस को बोर्ड को रेफ़र किया क्योंकि इससे हिंसा का रेफ़रेंस देने वाली कलात्मक अभिव्यक्ति से सही व्यवहार को लेकर बार-बार सवाल खड़े होते हैं. इसमें कलात्मक अभिव्यक्ति के रूप में Meta की “वॉइस” की वैल्यू और “सुरक्षा” के बीच संतुलन लाना शामिल है.

बोर्ड ने पाया कि Meta के पास स्वतंत्र रूप से यह निष्कर्ष निकालने के पर्याप्त प्रमाण नहीं थे कि कंटेंट में भरोसेमंद अप्रत्यक्ष धमकी है. बोर्ड के आकलन के अनुसार, कंटेंट को ऐसे ठोस प्रमाण के न होने पर हटाया नहीं जाना चाहिए था कि कंटेंट से तात्कालिक नुकसान हो सकता है. तथाकथित धमकी की विश्वसनीयता का आकलन करते समय, Meta को कंटेंट के कलात्मक संदर्भ पर विस्तार से विचार करना चाहिए था. बोर्ड ने पाया कि कंटेंट से हिंसा और उकसावे पर Meta के कम्युनिटी स्टैंडर्ड का उल्लंघन नहीं होता और उसे हटाने से Meta की “वॉइस” की वैल्यू की पर्याप्त सुरक्षा नहीं होती या बिज़नेस के रूप में Meta की मानवाधिकार से जुड़ी ज़िम्मेदारियों की पूर्ति नहीं होती.

इस केस से सरकारों के साथ Meta के रिलेशनशिप को लेकर व्यापक चिंताएँ खड़ी होती हैं जिसमें ऐसी स्थितियाँ शामिल हैं जब कानून प्रवर्तन, Meta से यह आकलन करने के लिए कहता है कि कानूनी कंटेंट उसके कम्युनिटी स्टैंडर्ड का पालन करता है या नहीं. बोर्ड ने उन चैनलों को अपारदर्शी और अव्यवस्थित पाया जिनके ज़रिए सरकारें ऐसे आकलन की रिक्वेस्ट कर सकती हैं. कानून प्रवर्तन के साथ Meta के रिलेशनशिप में पारदर्शिता और पर्याप्त सुरक्षा की कमी से ऐसी संभावना बनती है कि सरकार के ऐसे अनुचित या भेदभावपूर्ण व्यवहारों को कंपनी की ओर से बढ़ावा मिल जाए.

इस केस से यह भी पता चलता है कि एस्केलेट होने पर Meta द्वारा लिए जाने वाले कंटेंट मॉडरेशन के फ़ैसलों के लिए यूज़र्स को गलत तरीके से मना कर दिया जाता है कि ओवरसाइट बोर्ड में अपील करने का कोई अवसर नहीं है. “एस्केलेट होने पर” लिए गए फ़ैसले वे होते हैं जो “बड़े पैमाने” पर होने वाली कंटेंट रिव्यू प्रोसेस के बजाय Meta की आंतरिक, विशेषज्ञ टीमों द्वारा लिए जाते हैं. अपील की ऐसी उपलब्धता न होने से बोर्ड की एक्सेस से जुड़ी चिंताएँ खड़ी होती हैं जिनका समाधान क्रॉस-चेक पर बोर्ड की आगामी पॉलिसी परामर्शी राय में किया जाएगा. जब Meta एस्केलेट होने पर कंटेंट से जुड़े अपने सर्वाधिक परिणामी फ़ैसले लेता है, तो साथ मिलकर इन चिंताओं से यूज़र्स के निदान की एक्सेस के अधिकार के बारे में गंभीर सवाल खड़े होते हैं. कंपनी को इस समस्या का तुरंत समाधान करना चाहिए.

2. केस का डिस्क्रिप्शन और बैकग्राउंड

जनवरी 2022 में एक ऐसे Instagram अकाउंट ने, जो खुद को ब्रिटिश म्यूज़िक का प्रचार करने वाला बताता है, अपने पब्लिक अकाउंट से शॉर्ट कैप्शन वाला एक वीडियो पोस्ट किया. वीडियो, रैपर चिंक्स (OS) के “सीक्रेट्स नॉट सेफ़” नामक यूके ड्रिल म्यूज़िक ट्रैक के म्यूज़िक वीडियो का 21 सेकंड की क्लिप थी. कैप्शन में चिंक्स (OS) को और साथ ही एक सहयोगी कलाकार को टैग किया गया था और इसमें हाइलाइट किया गया था कि ट्रैक को हाल ही में रिलीज़ किया गया है. वीडियो क्लिप में ट्रैक के दूसरे हिस्से को दिखाया गया है और वह टेक्स्ट “आउट नाओ” के साथ काली स्क्रीन में मंद हो जाता है.

ड्रिल, यूके में ख़ास तौर पर युवा अश्वेत लोगों के बीच लोकप्रिय रैप म्यूज़िक की उपशैली है और लंदन में कई ड्रिल कलाकार और फ़ैन रहते हैं. म्यूज़िक की यह उपशैली अति-स्थानीय है जहाँ ड्रिल कलेक्टिव को एक हाउसिंग एस्टेट जितने छोटे क्षेत्र से भी जोड़ा जा सकता है. यह एक ज़मीनी स्तर की शैली है जिसे मुख्य रूप से शहरी संदर्भ में अंग्रेज़ी में परफ़ॉर्म किया जाता है और इसमें पेशेवर और नौसिखिए लोगों में अंतर करने वाली रेखा बहुत ही बारीक है. कलाकार अक्सर सड़कों पर हो रहे हिंसक विवादों के बारे में छोटी से छोटी जानकारी देते हुए बात करते हैं. इसमें हिंसक कार्रवाई को दिखाने या व्यक्त करने के लिए फ़ोटो और शब्दों का इस तरह उपयोग किया जाता है जैसे कलाकार ख़ुद उसका साक्षी रहा हो. हिंसा के संभावित क्लेम और क्रियात्मक वाहवाही को इस शैली का भाग माना जाता है – यह कलात्मक अभिव्यक्ति का ऐसा रूप है जहाँ तथ्य और कथा का महत्व कम हो सकता है. इन क्लेम के ज़रिए, कलाकार प्रासंगिकता और लोकप्रियता पाने की कोशिश करते हैं. ड्रिल म्यूज़िक से वास्तविक जीवन में हिंसा होती है या नहीं, यह विवादित विषय है, ख़ास तौर पर इस चर्चा में किए गए क्लेम की विश्वसनीयता.

हाल ही के कुछ वर्षों में, लंदन में बंदूक और चाकू से हिंसा की घटनाएँ बढ़ी हैं जिसका अश्वेत कम्युनिटी पर बुरा असर पड़ा है.

ट्रैक के अंश नीचे दिए गए हैं. बोर्ड ने गैर-मानक अंग्रेज़ी शब्दों का अर्थ वर्ग कोष्ठकों में दिया है और व्यक्तियों के नाम बदल दिए हैं:

Ay, broski [a close friend], wait there one sec (wait). You know the same mash [gun] that I showed [name redacted] was the same mash that [name redacted] got bun [shot] with. Hold up, I’m gonna leave somebody upset (Ah, fuck). I’m gonna have man fuming. He was with me putting loud on a Blue Slim [smoking cannabis] after he heard that [name redacted] got wounded. [Name redacted] got bun, he was loosing (bow, bow) [he was beaten]. Reverse that whip [car], confused him. They ain’t ever wheeled up a booting [a drive-by shooting] (Boom). Don’t hit man clean, he was moving. Beat [shoot] at the crowd, I ain’t picking and choosing (No, no). Leave man red [bleeding], but you know [track fades out].

वीडियो पोस्ट किए जाने के कुछ ही समय बाद, Meta को यूके मेट्रोपोलिटन पुलिस से ईमेल द्वारा एक रिक्वेस्ट मिली जिसमें चिंक्स (ओएस) के इस ट्रैक वाले सभी कंटेंट का रिव्यू करने के लिए कहा गया. Meta ने कहा कि कानून प्रवर्तन ने लंद में गिरोह हिंसा और संबंधित हत्याओं के संदर्भ दिए और यह फ़्लैग किया कि पूरे ट्रैक में शामिल बातों से बदले की गिरोह हिंसा का जोखिम बढ़ सकता है.

मेट्रोपोलिटन पुलिस से रिक्वेस्ट मिलने के बाद, Meta ने कंटेंट को अपनी आंतरिक ग्लोबल ऑपरेशन टीम के रिव्यू के लिए एस्केलेट किया और फिर उसे अपनी कंटेंट पॉलिसी के पास भेजा. Meta की कंटेंट पॉलिसी टीम, विषय विशेषज्ञों के इनपुट के आधार पर और संदर्भ का ख़ास रिव्यू करने के बाद हटाने के फ़ैसले लेती है. मेट्रोपोलिटन पुलिस द्वारा दिए गए अतिरिक्त संदर्भ के आधार पर, Meta ने इस बात पर ध्यान दिया कि ट्रैक की पंक्तियों में 2017 की गोलीबारी का संदर्भ है. इससे यह तय हुआ कि कंटेंट से हिंसा और उकसावे की पॉलिसी का उल्लंघन होता है, ख़ास तौर से “कोड भाषा में ऐसे बयान, जिनमें हिंसा या नुकसान के तरीके स्पष्ट रूप से बताए नहीं जाते, लेकिन उनमें छिपी हुई या अप्रत्यक्ष धमकी होती है” की मनाही का. Meta ने माना की ट्रैक की भाषा ने “कार्रवाई के धमकीभरे आह्वान के रूप में काम किया जिससे तात्कालिक हिंसा या शारीरिक नुकसान का जोखिम हो सकता था, जिसमें बदले की गिरोह हिंसा शामिल है." Meta ने इसलिए कंटेंट को हटा दिया.

कुछ घंटों बाद, कंटेंट क्रिएटर ने Meta से फ़ैसले के खिलाफ़ अपील की. आमतौर पर, यूज़र्स कंटेंट से जुड़े Meta के ऐसे फ़ैसलों पर अपील नहीं कर सकते जो कंपनी अपनी एस्केलेशन प्रोसेस के ज़रिए लेती है. ऐसा इसलिए है क्योंकि Meta को यूज़र की अपील, एस्केलेशन टीमों के बजाय बड़े पैमाने पर रिव्यू करने वाले रिव्यूअर्स के पास चली जाती है. एस्केलेशन के समय उपलब्ध अतिरिक्त संदर्भ की एक्सेस न होने के कारण, वे रिव्यूअर ज़्यादा गलतियाँ कर सकते हैं और एस्केलेशन के समय किए गए फ़ैसले को गलती से पलट सकते हैं. हालाँकि, इस केस में मानवीय गलती के कारण, यूज़र ने Meta के बड़े पैमाने पर रिव्यू करने वाले रिव्यूअर्स को एस्केलेशन के बाद हुए फ़ैसले की अपील कर दी. बड़े पैमाने पर रिव्यू करने वाले रिव्यूअर्स ने कंटेंट को उल्लंघन नहीं करने वाला पाया और उसे Instagram पर रीस्टोर कर दिया.

आठ दिन बाद, यूके मेट्रोपोलिटन पुलिस से दूसरी रिक्वेस्ट मिलने पर Meta ने कंटेंट को अपनी एस्केलेशन प्रोसेस के ज़रिए फिर से हटा दिया.

इस केस में अकाउंट के 1,000 से भी कम फ़ॉलोअर हैं, जिनमें से अधिकांश फ़ॉलोअर यूके में रहते हैं. यूज़र को दोनों बार Meta की ओर से नोटिफ़िकेशन मिले कि उनके कंटेंट को हटा दिया गया है, लेकिन उन्हें यह सूचना नहीं दी गई कि उसे यूके कानून प्रवर्तन विभाग से मिली रिक्वेस्ट के बाद हटाना शुरू किया गया था.

रिव्यू किए जा रहे कंटेंट को हटाने के अलावा, Meta ने चिंक्स (ओएस) के अकाउंट सहित अन्य अकाउंट के 52 अन्य मामलों में भी ऐसे कंटेंट की पहचान की और उन्हें हटाया जिनमें “सीक्रेट्स नॉट सेफ़” दिखाया जा रहा था. Meta ने इस केस के समस्याप्रद कंटेंट को उल्लंघन करने वाला चिह्नित करते हुए हिंसा और उकसावे के मीडिया मैचिंग सर्विस बैंक में जोड़ दिया. ये बैंक अपने आप मैच करने वाले कंटेंट की पहचान करते हैं और उसे Facebook और Instagram से हटा सकते हैं या वहाँ अपलोड होने से रोक सकते हैं. मीडिया मैचिंग सर्विस बैंक में वीडियो को जोड़ने से अन्य यूज़र्स के मैच करने वाले कंटेंट के 112 मामलों को भी अपने आप हटा दिया गया.

Meta ने इस केस को बोर्ड को रेफ़र किया. जिस कंटेंट को यहाँ रेफ़र किया गया, उसे एक ऐसे अकाउंट से पोस्ट किया गया था जो चिंक्स (ओएस) से सीधे नहीं जुड़ा है. चूँकि चिंक्स (ओएस) का म्यूज़िक इस केस के केंद्र में था, इसलिए बोर्ड ने Meta से कहा कि वह इसी ट्रैक को दिखाने वाली चिंक्स (ओएस) की ख़ुद की पोस्ट को हटाने के बारे में भी उसके फ़ैसले को रेफ़र करे. Meta ने बोर्ड से कहा कि ऐसा करना संभव नहीं था क्योंकि कलाकार के अकाउंट से वीडियो को हटाने पर स्ट्राइक प्राप्त हुई थी. इस कारण अकाउंट की वह सीमा पार हो गई जिससे उसे हमेशा के लिए बंद किया जा सकता था. छह महीने बाद और बोर्ड द्वारा अतिरिक्त रेफ़रल की रिक्वेस्ट किए जाने से पहले, Meta ने चिंक्स (ओएस) के बंद किए गए अकाउंट को नियमित, ऑटोमेटेड प्रोसेस के भाग के रूप में हमेशा के लिए डिलीट कर दिया, भले ही उस समय इस केस में ओवरसाइट बोर्ड का फ़ैसला पेंडिंग था. चिंक्स (ओएस) के अकाउंट और उसपर मौजूद कंटेंट को डिलीट करने की कार्रवाई को पलटा नहीं जा सकता था जिसके कारण केस को बोर्ड को रेफ़र करना असंभव हो गया.

3. ओवरसाइट बोर्ड की अथॉरिटी और स्कोप

बोर्ड के पास उन फ़ैसलों को रिव्यू करने का अधिकार है, जिन्हें Meta रिव्यू के लिए रेफ़र करता है (चार्टर अनुच्छेद 2, सेक्शन 1; उपनियम अनुच्छेद 2, सेक्शन 2.1.1). बोर्ड Meta के फ़ैसले को कायम रख सकता है या उसे बदल सकता है (चार्टर अनुच्छेद 3, सेक्शन 5) और उसका फ़ैसला कंपनी पर बाध्यकारी होता है (चार्टर अनुच्छेद 4). Meta को मिलते-जुलते संदर्भ वाले समान कंटेंट पर अपने फ़ैसले को लागू करने की संभावना का भी आकलन करना चाहिए (चार्टर अनुच्छेद 4). बोर्ड के फ़ैसलों में गैर-बाध्यकारी सलाहों के साथ पॉलिसी से जुड़े सुझाव हो सकते हैं, जिन पर Meta को जवाब देना होगा (चार्टर अनुच्छेद 3, सेक्शन 4; अनुच्छेद 4).

जब बोर्ड को ऐसे केस मिलते हैं जिनमें इसी तरह के विषय होते हैं, तो वह उन्हें साथ मिलाकर एक पैनल को असाइन कर सकता है. इस केस में, बोर्ड ने Meta से कहा कि वह कलाकार चिंक्स (ओएस) द्वारा पोस्ट किए गए उसी ट्रैक को दिखाने वाले कंटेंट को भी रेफ़र करे. बोर्ड के नज़रिए में, सुरक्षा और कलात्मक अभिव्यक्ति के बीच संतुलन की कठिनाई को Meta द्वारा चिंक्स (ओएस) की पोस्ट से बेहतर तरीके से समझा जा सकता था क्योंकि उसके ख़ुद के अकाउंट से ख़ुद का म्यूज़िक पोस्ट किया गया था. इससे बोर्ड को कलाकार की पोस्ट के संबंध में बाध्यकारी फ़ैसला जारी करने की सुविधा भी मिलती. इस केस में Meta की कार्रवाई के कारण कलाकार, बोर्ड की प्रोसेस में औपचारिक रूप से भाग लेने से प्रभावशाली ढंग से बच गया और उनके कारण चिंक्स (ओएस) का अकाउंट, प्लेटफ़ॉर्म से निदान की एक्सेस के बिना ही हटा दिया गया.

इस अवसर सहित कई अवसरों पर, Meta ने उस कंटेंट को बोर्ड को रेफ़र किया जिसे Meta के भीतर एस्केलेट किया गया था (उदाहरण के लिए, “टिग्रे कम्युनिकेशन अफ़ेयर्स ब्यूरो” केस और “पूर्व राष्ट्रपति ट्रंप का सस्पेंशन” केस देखें). जब Meta “एस्केलेट होने पर” कंटेंट से जुड़ा कोई फ़ैसला लेता है, तो यूज़र्स उस फ़ैसले के खिलाफ़ कंपनी या बोर्ड को अपील नहीं कर सकते. Meta, एस्केलेशन के बाद फ़ैसला लिए गए केस के फ़ैसलों को बोर्ड को रेफ़र करने में सक्षम है, इसलिए कंटेंट को लिखने या रिपोर्ट करने वाले यूज़र्स को भी बोर्ड को अपील करने का उतना ही हक होना चाहिए. एस्केलेट होने के बाद लिए गए फ़ैसले, सबसे महत्वपूर्ण और कठिन फ़ैसलों में से कुछ हो सकते हैं, जहाँ स्वतंत्र ओवरसाइट अपनी सबसे महत्वपूर्ण भूमिका में होता है. बोर्ड के नियंत्रणकारी डॉक्यूमेंट कहते हैं कि कंटेंट मॉडरेशन से जुड़े ऐसे सभी फ़ैसले जो दायरे में आते हैं और उपनियमों (उपनियम अनुच्छेद 2, सेक्शन 1.2, 1.2.1) द्वारा छोड़े नहीं गए हैं और जिनके लिए Meta की आंतरिक अपील प्रोसेस (चार्टर अनुच्छेद 2, सेक्शन 1) पूरी हो चुकी है, उन्हें लोगों द्वारा बोर्ड को अपील किया जा सकता है.

4. अथॉरिटी के सोर्स

ओवरसाइट बोर्ड ने इन अधिकारों और स्टैंडर्ड पर विचार किया:

I. ओवरसाइट बोर्ड के फ़ैसले:

• “कोलंबियाई पुलिस का कार्टून” (केस का फ़ैसला 2022-004-FB-UA): इन चिंताओं का जवाब देते हुए कि मीडिया मैचिंग सर्विस बैंक से गलत फ़ैसलों का असर बढ़ सकता है, बोर्ड ने Meta को सुझाव दिया कि वह तुरंत ऐसी प्रक्रियाएँ बनाए जिनसे इन बैंकों में जोड़े गए उल्लंघन न करने वाले कंटेंट को तुरंत हटाया जा सके.
• “क्निन कार्टून” (केस का फ़ैसला 2022-001-FB-UA): बोर्ड ने यह देखते हुए कंटेंट को प्लेटफ़ॉर्म पर बनाए रखने के Meta के फ़ैसले को पलट दिया कि जातीय सर्ब लोगों और चूहों के बीच अप्रत्यक्ष तुलना से नफ़रत फैलाने वाली भाषा के कम्युनिटी स्टैंडर्ड का उल्लंघन होता है और इस तुलना में इतिहास की घटनाओं का रेफ़रेंस भी हिंसा और उकसावे के कम्युनिटी स्टैंडर्ड का उल्लंघन करता है.
• “वामपम बेल्ट” (केस का फ़ैसला 2021-012-FB-UA): बोर्ड ने इस बात पर ज़ोर दिया कि Meta, कलात्मक अभिव्यक्ति का सम्मान करे.
• “अल जज़ीरा की शेयर की गई पोस्ट ” (केस का फ़ैसला 2021-009-FB-UA): बोर्ड ने यह सुझाव दिया कि Meta, सरकारी रिक्वेस्ट को हैंडल करने के बारे में एक पारदर्शी प्रोसेस बनाए और उनकी रिपोर्ट को सार्वजनिक करे. ट्रांसपेरेंसी रिपोर्ट में कम्युनिटी स्टैंडर्ड के उल्लंघन के कारण कंटेंट को हटवाने वाली सरकारी रिक्वेस्ट, स्थानीय कानून का उल्लंघन करने के कारण कंटेंट को हटवाने या जियो-ब्लॉक करवाने वाली रिक्वेस्ट और उन रिक्वेस्ट को अलग-अलग रखा जाना चाहिए जिनमें कोई कार्रवाई नहीं हुई.
• “ओजलान का एकांतवास” (केस का फ़ैसला 2021-006-IG-UA): बोर्ड ने यह सुझाव दिया कि Meta उस समय यूज़र्स को सूचित करे जब उनके कंटेंट को किसी सरकारी रिक्वेस्ट के कारण हटा दिया जाता है. फ़ैसले में इन रिक्वेस्ट की ट्रांसपेरेंसी रिपोर्टिंग के बारे में सुझाव भी दिए गए.
• “भारत में फ़्रांस के खिलाफ़ विरोध प्रदर्शन” (केस का फ़ैसला 2020-007-FB-FBR): बोर्ड ने संदर्भात्मक विश्लेषण की महत्ता के कारण बड़े पैमाने पर हिंसा की अप्रत्यक्ष धमकियों का समाधान करने की चुनौतियों पर ध्यान दिया.
• “ब्रेस्ट कैंसर के लक्षण और नग्नता” (केस का फ़ैसला 2020-004-IG-UA): बोर्ड ने यह सुझाव दिया कि Meta, Instagram यूज़र्स को स्पष्ट करें कि Facebook के कम्युनिटी स्टैंडर्ड, Instagram पर भी उसी तरह से लागू होते हैं जिस तरह से वे Facebook पर लागू होते हैं. इस सुझाव को “अरबी शब्दों को स्वीकार्य उपयोग में लाना” केस के फ़ैसले ( 2022-003-IG-UA) में दोहराया गया.

II. Meta की कंटेंट पॉलिसी:

इस केस में Instagram की कम्युनिटी गाइडलाइन और Facebook के कम्युनिटी स्टैंडर्ड शामिल हैं.

Instagram कम्युनिटी गाइडलाइन में “Instagram कम्युनिटी के अन्य मेंबर का सम्मान करें” शीर्षक के तहत कहा गया है कि कंपनी एक “सकारात्मक और विविध कम्युनिटी को बढ़ावा” देना चाहती है. कंपनी ऐसे कंटेंट को हटा देती है जिनमें “भरोसा करने लायक धमकियाँ” होती हैं और जिनमें Facebook के हिंसा और उकसावे के कम्युनिटी स्टैंडर्ड से जुड़े शब्द होते हैं. गाइडलाइन में आगे कहा गया है कि:

सार्वजनिक और व्यक्तिगत सुरक्षा को नुकसान पहुँचाने वाली गंभीर धमकियों की परमिशन नहीं है. इसमें शारीरिक नुकसान की धमकियाँ तथा चोरी, तोड़-फोड़ और अन्य वित्तीय नुकसान शामिल हैं. हम धमकियों की रिपोर्ट का सावधानीपूर्वक रिव्यू करते हैं और कोई धमकी भरोसेमंद है या नहीं, इसका निर्धारण करते समय कई बातों पर विचार करते हैं.

हिंसा और उकसावे पर Facebook के कम्युनिटी स्टैंडर्ड में कहा गया है कि उसका “उद्देश्य ऐसे संभावित ऑफ़लाइन नुकसान को रोकना है जो Facebook पर मौजूद कंटेंट के कारण हो सकता है" और यह कि Meta “समझता है कि लोग आम तौर पर हल्के ढंग से धमकी देकर या हिंसा का आह्वान करके तिरस्कार या असहमति व्यक्त करते हैं, फिर भी हम ऐसी भाषा को हटा देते हैं जो गंभीर हिंसा को भड़काती है या उसे आसान बनाती है.” इसमें आगे यह भी कहा गया है कि “जब Meta को लगता है कि शारीरिक नुकसान का वास्तविक ज़ोखिम या सार्वजनिक सुरक्षा का प्रत्यक्ष खतरा है,” तो वह कंटेंट को हटा देता है, अकाउंट बंद कर देता है और कानून प्रवर्तन के साथ काम करता है. Meta कहता है कि “वह सामान्य कथनों और प्रामाणिक खतरे वाले कंटेंट में अंतर करने के लिए, भाषा और संदर्भ पर विचार करने की कोशिश भी करता है.”

यह बताने वाले उपशीर्षक कि Meta को कम्युनिटी स्टैंडर्ड “एन्फ़ोर्स करने के लिए अतिरिक्त जानकारी और/या संदर्भ चाहिए,” से यह पता चलता है कि यूज़र्स को कोड किए गए ऐसे कथन पोस्ट नहीं करने चाहिए “जहाँ हिंसा या नुकसान का तरीका स्पष्ट रूप से न बताया गया हो, लेकिन धमकी अप्रत्यक्ष या निहित हो." इनमें “हिंसा की ऐतिहासिक या काल्पनिक घटनाओं के रेफ़रेंस” और ऐसे मामले शामिल हैं जहाँ “स्थानीय संदर्भ या विषयवस्तु विशेषज्ञ यह कन्फ़र्म करें कि विचाराधीन कथन धमकीभरा हो सकता है और/या उससे तात्कालिक हिंसा या जान और माल का नुकसान हो सकता है.”

III. Meta की वैल्यू:

इनमें “वॉइस” की वैल्यू को “सर्वोपरि” बताया गया है:

हमारे कम्युनिटी स्टैंडर्ड का लक्ष्य लोगों को खुलकर अपनी बात कहने का प्लेटफ़ॉर्म देना और अभिव्यक्ति की आज़ादी सुनिश्चित करना है. Meta चाहता है कि लोग महत्वपूर्ण मुद्दों पर खुलकर बातें कर सकें, भले ही कुछ लोग उन बातों पर असहमति जताएँ या उन्हें ये बातें आपत्तिजनक लगें.

Meta, "अभिव्यक्ति” को चार वैल्यू के मामले में सीमित करता है. “सुरक्षा” और “गरिमा” इस केस में सबसे ज़्यादा प्रासंगिक है:

सुरक्षा: हम Facebook को एक सुरक्षित जगह बनाने के लिए प्रतिबद्ध हैं. हम ऐसे कंटेंट हो हटा देते हैं, जो लोगों की शारीरिक सुरक्षा को नुकसान पहुँचाने का जोखिम बढ़ा सकता है. लोगों को धमकाने वाले कंटेंट से लोगों में डर, अलगाव या चुप रहने की भावना आ सकती है और इसलिए Facebook पर ऐसा कंटेंट पोस्ट करने की परमिशन नहीं है.

गरिमा:हमारा मानना है कि सभी लोगों को एक जैसा सम्मान और एक जैसे अधिकार मिलने चाहिए. हम उम्मीद करते है कि लोग एक-दूसरे की गरिमा का ध्यान रखेंगे और दूसरों को परेशान नहीं करेंगे या नीचा नहीं दिखाएँगे.

IV. अंतरराष्ट्रीय मानवाधिकार स्टैंडर्ड:

बिज़नेस और मानवाधिकारों के बारे में संयुक्त राष्ट्र संघ के मार्गदर्शक सिद्धांत (UNGP), जिन्हें 2011 में संयुक्त राष्ट्र संघ की मानवाधिकार समिति ने स्वीकृति दी है, प्राइवेट बिज़नेस की मानवाधिकार से जुड़ी ज़िम्मेदारियों का स्वैच्छिक ढाँचा तैयार करते हैं. 2021 में Meta ने मानवाधिकारों से जुड़ी अपनी कॉर्पोरेट पॉलिसी की घोषणा की, जिसमें उसने UNGP के अनुसार मानवाधिकारों का ध्यान रखने की अपनी प्रतिज्ञा को दोहराया. इस केस में बोर्ड ने Meta की मानवाधिकार से जुड़ी ज़िम्मेदारियों का विश्लेषण इन मानवाधिकार स्टैंडर्ड को ध्यान में रखते हुए किया.

• विचार और अभिव्यक्ति की आज़ादी का अधिकार: अनुच्छेद 19, नागरिक और राजनीतिक अधिकारों पर अंतरराष्ट्रीय प्रतिज्ञापत्र ( ICCPR), सामान्य टिप्पणी सं. 34, मानव अधिकार समिति, 2011 विचार और अभिव्यक्ति की आज़ादी के बारे में संयुक्त राष्ट्र संघ का ख़ास रैपर्टर कहता है: A/HRC/38/35 (2018), A/74/486 (2019), A/HRC/44/49/Add.2 (2020).
• जीवन का अधिकार: अनुच्छेद 6, ICCPR.
• व्यक्ति की सुरक्षा का अधिकार: अनुच्छेद 9, पैरा. 1, ICCPR.
• प्रभावी निदान का अधिकार: अनुच्छेद 2, ICCPR; सामान्य कमेंट सं. 31, मानवाधिकार समिति, (2004).
• समानता रखना और भेदभाव न करना: अनुच्छेद 2, पैरा. 1 और अनुच्छेद 26 (ICCPR); अनुच्छेद 2, ICERD.
• सांस्कृतिक अधिकार: अनुच्छेद 27, ICCPR; अनुच्छेद 15, आर्थिक, सामाजिक और सांस्कृतिक अधिकारों पर अंतरराष्ट्रीय प्रतिज्ञापत्र (ICESCR); सांस्कृतिक अधिकारों के क्षेत्र में संयुक्त राष्ट्र का विशेष रैपर्टर, कलाकार की आज़ादी और रचनात्मकता पर रिपोर्ट, A/HRC/23/34, 2013.

5. यूज़र सबमिशन

Meta ने इस केस को बोर्ड को रेफ़र किया और बोर्ड ने जून 2022 के मध्य में इसे चुना. एक तकनीकी गलती के कारण, जिसे उसके बाद ठीक कर दिया गया, Meta ने उस यूज़र को सफलतापूर्वक यह जानकारी नहीं दी कि बोर्ड ने उनके द्वारा पोस्ट किए गए कंटेंट से जुड़ा केस चुना है और उन्हें बोर्ड के सामने बयान देने के लिए आमंत्रित नहीं किया. अगस्त के अंत में, Meta ने मैन्युअल रूप से यूज़र को सूचित किया, लेकिन यूज़र ने 15 दिन की समयसीमा के भीतर अपना बयान उपलब्ध नहीं कराया.

6. Meta के सबमिशन

Meta ने बोर्ड को बताया कि उसने कंटेंट को इसलिए हटाया क्योंकि Instagram पोस्ट ने हिंसा की अप्रत्यक्ष धमकी देते हुए उसकी हिंसा और उकसावे की पॉलिसी का उल्लंघन किया. Meta ने यह तर्क दिया कि उसका फ़ैसला अंतरराष्ट्रीय मानवाधिकार सिद्धांतों के अनुरूप है क्योंकि कम्युनिटी स्टैंडर्ड में यह कहा गया है कि यूज़र्स, हिंसा की अप्रत्यक्ष धमकियाँ पोस्ट नहीं कर सकते; क्योंकि इस पॉलिसी का उपयोग, दूसरे लोगों के अधिकारों और सार्वजनिक व्यवस्था की रक्षा करने के अपने विधिसम्मत लक्ष्य को पूरा करता है; और क्योंकि विचाराधीन कंटेंट को हटाया जाना उन लक्ष्यों को पाने के लिए ज़रूरी और आनुपातिक था.

Meta इस फ़ैसले को ख़ास तौर पर चुनौतीपूर्ण मानता है क्योंकि उसमें हास्य, व्यंग्य या कलात्मक अभिव्यक्ति के लिए स्पष्ट छूट नहीं है. पॉलिसी के अनुसार Meta के लिए यह आकलन करना ज़रूरी है कि क्या कोई धमकी वास्तविक है या वाहवाही लूटने या भड़काने की कोशिश है, लेकिन आखिरकार उस अभिव्यक्ति से हिंसा नहीं होती. Meta ने इस केस को महत्वपूर्ण माना क्योंकि इससे हिंसा का रेफ़रेंस देने वाली कलात्मक अभिव्यक्ति से सही व्यवहार को लेकर बार-बार सवाल खड़े होते हैं. इस आकलन में “अभिव्यक्ति” और “सुरक्षा” की उसकी वैल्यू का संतुलन शामिल है. Meta ने बोर्ड से कहा कि जब किसी क्रिएटर के काम में हिंसा की धमकियाँ होती हैं या ऐसे कथन होते हैं जिससे हिंसा का जोखिम बढ़ सकता है, तो वह “वह उसे हमारे प्लेटफ़ॉर्म से हटाने का पक्षधर है.”

मॉडरेटर्स के लिए Meta का आंतरिक मार्गदर्शन, आंतरिक क्रियान्वयन स्टैंडर्ड, “अप्रत्यक्ष धमकियों के लिए स्टैंडर्ड” तय करते हैं जिनका उपयोग Meta यह तय करने के लिए करता है कि क्या हिंसा और उकसावे के कम्युनिटी स्टैंडर्ड के तहत अप्रत्यक्ष धमकी मौजूद है. यह स्पष्ट करता है कि किसी कंटेंट को अप्रत्यक्ष धमकी मानने के लिए उसमें एक मुख्य सिग्नल (जैसे हिंसा की किसी पुरानी कार्रवाई का रेफ़रेंस) और एक द्वितीयक सिग्नल होना ज़रूरी है. द्वितीयक सिग्नल में स्थानीय संदर्भ या विषयवस्तु विशेषज्ञ का यह संकेत शामिल है कि कंटेंट संभावित रूप से धमकीभरा है या टार्गेट द्वारा यह कन्फ़र्मेशन कि उन्हें कंटेंट धमकीभरा दिखाई पड़ता है. Meta, स्थानीय NGO, कानून प्रवर्तन एजेंसियाँ, Meta की सार्वजनिक पॉलिसी टीम या अन्य स्थानीय विशेषज्ञ ये द्वितीयक सिग्नल उपलब्ध कराते हैं. “अप्रत्यक्ष धमकी का विश्लेषण” सिर्फ़ “एस्केलेट होने पर” किया जाता है, जिसका अर्थ है कि “बड़े पैमाने पर रिव्यू” करने वाले रिव्यूअर यह नहीं कर सकते. यह काम सिर्फ़ Meta की आंतरिक टीमों द्वारा किया जा सकता है.

इस केस में, Meta ने पाया कि कंटेंट में एक मुख्य सिग्नल मौजूद था जिसमें एक पुरानी गोलीबारी में रैपर की भागीदारी का रेफ़रेंस दिया गया था और उसका आगे जवाब देने का इरादा दिखाया गया था. Meta के अनुसार, दूसरा सिग्नल यूके मेट्रोपोलिटन पुलिस का यह कन्फ़र्मेशन था कि उसने कंटेंट को संभावित रूप से धमकीभरा पाया है या उससे तात्कालिक हिंसा या शारीरिक नुकसान हो सकता है. कानून प्रवर्तन ने यह नहीं कहा कि कंटेंट से स्थानीय कानून का उल्लंघन होता है. Meta ने कहा कि वह Meta की आंतरिक टीमों की राजनीतिक, सांस्कृतिक और भाषाई विशेषज्ञता के साथ-साथ कानून प्रवर्तन की रिपोर्ट का आकलन भी करता है.

Meta ने यह तर्क दिया कि ड्रिल म्यूज़िक को अक्सर हिंसा से जोड़ा जाता रहा है और पॉलिसी एक्सचेंज रिपोर्ट का हवाला दिया जिसमें क्लेम किया गया है कि लंदन की गिरोह हत्याओं में से लगभग एक तिहाई का संबंध ड्रिल म्यूज़िक से रहा है. हालाँकि, बाद में Meta ने यह स्वीकार किया कि इस रिपोर्ट की “कुछ अपराधशास्त्रियों ने आलोचना” की है. Meta ने 49 अपराधशास्त्रियों, सामाजिक विज्ञानियों और पेशेवर संगठनों द्वारा हस्ताक्षर किए गए एक खुले पत्र का उल्लेख किया, जिसमें “रिपोर्ट को ख़ारिज कर दिया गया क्योंकि वह तथ्यात्मक रूप से गलत, भ्रामक और राजनीतिक रूप से खतरनाक” है और “उसमें कारण-सहसंबंध की गंभीर गलतियाँ हुई हैं.”

Meta की कुछ ख़ास पॉलिसी को सिर्फ़ Meta की आंतरिक टीमों द्वारा ही उसकी आंतरिक एस्केलेशन के ज़रिए एन्फ़ोर्स किया जा सकता है. इसे “एस्केलेट होने पर” तय किया गया कहा जाता है. Meta ने नौ पॉलिसी क्षेत्रों में लगभग 40 “सिर्फ़ एस्केलेशन के लिए” नियमों की लिस्ट दी. बोर्ड ने Meta से पूछा कि इस केस में बड़े पैमाने पर रिव्यू करने वाले रिव्यूअर ने उस पोस्ट को रीस्टोर कैसे कर दिया जिसे एस्केलेट होने पर हटा दिया गया था. Meta ने जवाब में कहा कि “सिर्फ़ इसी केस में मानवीय गलती से ऐसा हुआ कि कंटेंट क्रिएटर, हटाने के शुरुआती फ़ैसले के खिलाफ़ अपील सबमिट कर पाया.” Meta ने यह खुलासा किया कि जब कंटेंट पर Meta की आंतरिक एस्केलेशन प्रोसेस के ज़रिए कार्रवाई की जाती है, तो आमतौर पर कंपनी द्वारा एक और बार परीक्षण के लिए अपील सबमिट नहीं की जा सकती. ऐसा इसलिए किया गया है ताकि “बड़े पैमाने पर” रिव्यू करने वाले रिव्यूअर, एस्केलेशन के दौरान हुए रिव्यू में उपलब्ध संदर्भ की एक्सेस के बिना “एस्केलेट होने पर” हुए फ़ैसले को पलट न दें.

बोर्ड की रिक्वेस्ट पर, Meta ने “कम्युनिटी स्टैंडर्ड के उल्लंघन के लिए कंटेंट को रिव्यू करने की सरकारों की ओर से प्राप्त रिक्वेस्ट” की जानकारी उपलब्ध कराई. Meta ने बोर्ड को बताया कि सरकारें ईमेल, पोस्ट या हेल्प सेंटर द्वारा कंटेंट को रिव्यू करने की रिक्वेस्ट भेज सकती हैं. साथ ही प्रोडक्ट में उपलब्ध रिपोर्टिंग टूल से भी ऐसा किया जा सकता है जो कंटेंट को ऑटोमेटेड या “बड़े पैमाने” पर होने वाले रिव्यू में भेजता है.

Meta ने कहा कि जब उसे कानून प्रवर्तन से कोई रिक्वेस्ट मिलती है, जिसे प्रोडक्ट में उपलब्ध टूल के बाहर से किया जाता है, तो वह कंटेंट हमारी आंतरिक एस्केलेशन प्रोसेस में जाता है. इस बात पर ध्यान दिए बगैर कि एस्केलेशन किस तरह प्राप्त हुआ है, एस्केलेशन की तत्काल ज़रूरत, संवेदनशीलता और जटिलता का आकलन करने के लिए दायरे और प्राथमिकता की एक स्टैंडर्ड प्रोसेस का पालन किया जाता है. यह प्रोसेस तय करती है कि Meta की कौन सी टीम रिक्वेस्ट को हैंडल करेगी और कतार में वह रिक्वेस्ट कहाँ पर आएगी. सरकारों सहित किसी थर्ड पार्टी से रिव्यू की रिक्वेस्ट मिलने के बाद, Meta की ग्लोबल ऑपरेशन टीम संकेतों के साथ एक फ़ॉर्म मैन्युअल रूप से भरती है. प्राथमिकता तय करने वाले मॉडल और पिलर्स में कानूनी, प्रतिष्ठा से जुड़े संकेतों और विनियामक जोखिमों, Meta की कम्युनिटी की शारीरिक सुरक्षा पर असर, विचाराधीन विषय के दायरे और व्यूअरशिप और विषय की समय से जुड़ी संवेदनशीलता पर विचार किया जाता है.

प्राथमिकता देने वाले इन पिलर्स को उनके महत्व के क्रम में रैंक किया जाता है और दर्ज किए गए संकेतों के आधार पर प्राथमिकता स्कोर की गणना अपने आप की जाती है. यह मॉडल डायनेमिक है और माहौल (जैसे ऑफ़लाइन ईवेंट) और Meta द्वारा किए गए सुधारों के अनुसार बदल सकता है. इस केस जैसे उच्च प्राथमिकता वाले केसों को Meta की ग्लोबल ऑपरेशन टीम में विशेषज्ञ टीम के पास भेजा जाता है. टीम, कम्युनिटी स्टैंडर्ड को ध्यान में रखते हुए कंटेंट का रिव्यू करती है, उसकी जाँच करती है, ज़रूरत होने पर अतिरिक्त आकलन के लिए स्टेकहोल्डर्स से संपर्क करती है और एन्फ़ोर्समेंट का फ़ैसला लेती है. इस केस सहित कुछ केसों में, कंटेंट को फिर इनपुट के लिए कंटेंट पॉलिसी टीम को एस्केलेट किया जाता है. कार्रवाई के बारे में उस बाहरी व्यक्ति को सूचित किया जाता है जिसने मूल रिक्वेस्ट सबमिट की थी. Meta ने बताया कि उनकी मानवाधिकार टीम आम तौर पर अप्रत्यक्ष धमकियों के फ़्रेमवर्क के बारे में लोगों से प्राप्त आवेदनों पर ध्यान नहीं देती.

Meta ने कहा कि जब उसे कानून प्रवर्तन एजेंसियों से कंटेंट को हटाने की रिक्वेस्ट मिलती हैं, तो वह कम्युनिटी स्टैंडर्ड को ध्यान में रखते हुए कंटेंट का मूल्यांकन उसी तरह करता है जिस तरह किसी अन्य कंटेंट का करता है, इस बात पर ध्यान दिए बगैर कि उसे किस तरह पाया या एस्केलेट किया गया. Meta के क्लेम के अनुसार इसका मतलब है कि सभी देशों में रिक्वेस्ट के साथ एक ही तरह से व्यवहार किया जाता है. Meta ने बताया कि पिलर्स के संबंध में दिए गए संदर्भ से प्राथमिकता स्कोर प्रभावित होता है. भले ही रिक्वेस्ट करने वाले की पहचान, प्राथमिकता के निर्धारण को सीधे प्रभावित नहीं करती, लेकिन ख़ास तरह के इन संदर्भों से प्राथमिकता पर असर पड़ता है.

ओवरसाइट बोर्ड को अपील करने के लिए, यूज़र के पास अपील रेफ़रेंस ID होनी चाहिए. Meta, अपील प्रोसेस के भाग के रूप में ये ID जारी करता है. बोर्ड के सवालों के जवाब में, Meta ने कन्फ़र्म किया कि वह कंटेंट के उन फ़ैसलों के संबंध में ऐसा करता है जो आंतरिक अपील के लिए योग्य होते हैं और जब दूसरे रिव्यू का उपयोग कर लिया जाता है. इसलिए, जिन स्थितियों में Meta, अपील की परमिशन दिए बगैर कंटेंट पर कार्रवाई करता है, वहाँ बोर्ड से अपील करने का कोई अवसर नहीं होता. ऐसा अक्सर उन केस में होता है जिनमें फ़ैसले “एस्केलेट होने पर” लिए जाते हैं, जैसे जब सरकार की ओर से रिक्वेस्ट मिलने पर जिनका रिव्यू किया जाता है (प्रोडक्ट में उपलब्ध रिपोर्टिंग टूल के बाहर से प्राप्त) और ऐसा कंटेंट जिसका रिव्यू “सिर्फ़ एस्केलेशन के लिए” पॉलिसी के तहत किया जाता है.

बोर्ड ने Meta को औपचारिक रूप से 26 लिखित सवाल सबमिट किए, जिनमें फ़ॉलो-अप सवालों के तीन राउंड शामिल हैं. इस संख्या में वे सवाल शामिल नहीं हैं जो बोर्ड को Meta द्वारा दी गई व्यक्तिगत ब्रीफ़िंग में बोर्ड ने इस संबंध में पूछे थे कि वह सरकारी रिक्वेस्ट को कैसे हैंडल करता है. तेईस लिखित सवालों का पूरी तरह जवाब दिया गया और तीन रिक्वेस्ट का जवाब Meta ने नहीं दिया. Meta ने कानून प्रवर्तन की “अप्रत्यक्ष धमकियों,” ड्रिल म्यूज़िक पर फ़ोकस ग्लोबल और यूके में प्राप्त रिक्वेस्ट का डेटा देने से इंकार कर दिया. उसने यह बताने से भी इंकार कर दिया कि कितनी रिक्वेस्ट के कारण कम्युनिटी स्टैंडर्ड का उल्लंघन करने वाला कंटेंट हटाया गया. इसके अलावा, Meta ने इस केस में मेट्रोपोलिटन पुलिस से प्राप्त कंटेंट रिव्यू रिक्वेस्ट की कॉपी देने से भी इंकार कर दिया. हालाँकि, मेट्रोपोलिटन पुलिस ने बोर्ड को Meta को भेजी गई अपनी पहली रिक्वेस्ट की कॉपी इस शर्त पर उपलब्ध कराई कि रिक्वेस्ट का कंटेंट गोपनीय रखा जाएगा.

7. पब्लिक कमेंट

ओवरसाइट बोर्ड ने लोगों की ओर से इस केस पर मिले दस कमेंट पर ध्यान दिया. एक-एक कमेंट इनमें से सभी क्षेत्रों से सबमिट किया गया था: यूरोप; मध्य पूर्व और उत्तरी अफ़्रीका; और लैटिन अमेरिका और कैरिबियन. दो कमेंट मध्य और दक्षिण एशिया से और पाँच कमेंट अमेरिका और कनाडा से सबमिट किए गए थे. मेट्रोपोलिटन पुलिस ने एक कमेंट दिया; उसने यह समझा कि बोर्ड इस तथ्य को जाहिर करेगा, लेकिन उसने कमेंट को प्रकाशित करने की परमिशन नहीं दी. बोर्ड ने मेट्रोपोलिटन पुलिस से रिक्वेस्ट करके कहा कि वह अपने फ़ैसले पर पारदर्शिता के नज़रिए से फिर से विचार करे, लेकिन उसने फिर भी इंकार कर दिया. मेट्रोपोलिटन पुलिस ने कहा कि वह बाद में कभी सहमति दे सकता है. अगर ऐसा होता है, तो बोर्ड सार्वजनिक कमेंट शेयर करेगा.

सबमिशन में ये थीम शामिल थीं: कानून प्रवर्तन द्वारा जातीय पक्षपात और अश्वेत कम्युनिटी को अनुचित रूप से निशाना बनाना; कलात्मक अभिव्यक्ति के आकलन में सामाजिक-सांस्कृतिक संदर्भ का महत्व; ड्रिल म्यूज़िक और हिंसा के बीच अनौपचारिक संबंध; और सरकार की ओर से की गई कंंटेंट हटाने की रिक्वेस्ट का रखरखाव.

बोर्ड ने सूचना की आज़ादी कानून के तहत रिक्वेस्ट (रेफ़रेंस नंबर: 01/FOI/22/025946) दर्ज करके मेट्रोपोलिटन पुलिस से सोशल मीडिया और स्ट्रीमिंग कंपनियों से कंटेंट को रिव्यू करने और/या हटाने की रिक्वेस्ट करने उसकी पॉलिसी और व्यवहार से जुड़ी जानकारी माँगी. उस रिक्वेस्ट के जवाब से बोर्ड ने नीचे दिया गया विश्लेषण किया.

इस केस को लेकर लोगों की ओर से सबमिट किए गए कमेंट देखने के लिए कृपया यहाँ क्लिक करें. बोर्ड की सूचना की आज़ादी की रिक्वेस्ट का मेट्रोपोलिटन पुलिस का जवाब देखने के लिए, कृपया यहाँ क्लिक करें.

8. ओवरसाइट बोर्ड का विश्लेषण

बोर्ड ने इन तीन दृष्टिकोणों से इस सवाल पर ध्यान दिया कि क्या इस कंटेंट को रीस्टोर कर दिया जाना चाहिए: Meta की कंटेंट पॉलिसी, कंपनी वैल्यू और मानवाधिकारों से जुड़ी उसकी ज़िम्मेदारियाँ.

8.1 Meta की कंटेंट पॉलिसी का अनुपालन

I. कंटेंट नियम

बोर्ड ने यह पाया कि इस केस में Meta द्वारा कंटेंट का हटाया जाना, हिंसा और उकसावे से जुड़े कम्युनिटी स्टैंडर्ड के अनुसार नहीं था.

बड़े पैमाने पर धमकियों का पता लगाना और उनका आकलन करना कठिन होता है, ख़ास तौर पर जब धमकियाँ अप्रत्यक्ष होती हैं और जब संदर्भ के आकलन के लिए विशिष्ट सांस्कृतिक या भाषाई विशेषज्ञता की ज़रूरत होती है (“भारत में फ़्रांस के खिलाफ़ विरोध प्रदर्शन” और “क्निन कार्टून” केस में ओवरसाइट बोर्ड के फ़ैसले देखें). कलात्मक अभिव्यक्ति में अप्रत्यक्ष धमकियाँ हो सकती हैं, उसी तरह जैसे अन्य माध्यमों में होती हैं. कला में अप्रत्यक्ष धमकी की विश्वसनीयता के आकलन में होने वाली कठिनाई ख़ास तौर पर गंभीर होती है. कला में निहित मैसेज का इरादा जान-बूझकर अस्पष्ट बनाया जा सकता है और उसे लोगों की समझ पर छोड़ा जा सकता है. हिंसा के रेफ़रेंस वाले कथनों को कोड किया जा सकता है लेकिन उन्हें प्रदर्शन करके या व्यंग्य के रूप में भी प्रस्तुत किया जा सकता है. वे कला के कुछ रूपों में चरित्र चित्रण भी कर सकते हैं, जैसे ड्रिल म्यूज़िक. Meta ने इस केस को बोर्ड को रेफ़र करते समय इन चुनौतियों को स्वीकार किया.

बोर्ड, Meta की इस बात से सहमत था कि वीडियो के बोल में हिंसा और उकसावे के कम्युनिटी स्टैंडर्ड के तहत हिंसा की खुली धमकी नहीं थी.

यह ज़्यादा चुनौतीपूर्ण सवाल है कि क्या वीडियो में उसी पॉलिसी के तहत अप्रत्यक्ष धमकी है या नहीं. पॉलिसी बनाने के कारण में यह कहा गया है कि Meta, “संभावित ऑफ़लाइन नुकसान को रोकना” चाहता है और यह कि जो भाषा “गंभीर हिंसा को भड़काती या आसान बनाती है” और जिसमें “जान और माल के नुकसान का वास्तविक जोखिम या लोगों की सुरक्षा को सीधा खतरा” होता है, उसे हटा दिया जाएगा. भरोसेमंद धमकियों और गैर-भरोसेमंद धमकियों से अलग करने पर ज़ोर दिया गया है. भाषा और नुकसान के जोखिम के बीच अनौपचारिक संबंध स्थापित करने के लिए कई रिसोर्स वाले विश्लेषण की ज़रूरत होती है.

हिंसा और उकसावे के कम्युनिटी स्टैंडर्ड के तहत “अप्रत्यक्ष या निहित” धमकी वाला कंटेंट कहलाने के लिए, उसमें हिंसा या नुकसान के तरीके का स्पष्ट उल्लेख होना चाहिए. Meta यह आकलन करने के लिए कि अप्रत्यक्ष धमकी मौजूद है या नहीं, मॉडरेटर्स के लिए उपलब्ध अपने गैर-सार्वजनिक मार्गदर्शन में बताए गए “अप्रत्यक्ष धमकियों के विश्लेषण” का उपयोग करता है. इसके लिए यह ज़रूरी है कि अप्रत्यक्ष धमकी कहलाने के लिए कंटेंट में मुख्य और द्वितीयक, दोनों तरह के सिग्नल मौजूद हों.

बोर्ड, Meta की इस बात से सहमत है कि इस केस में मुख्य सिग्नल मौजूद है. बोल में हिंसा की “ऐतिहासिक” घटना का रेफ़रेंस है. इसके अलावा, यह समझने के लिए अतिरिक्त संदर्भ ज़रूरी है कि यह गोलीबारी लंदन में दो विरोधी गिरोहों के बीच 2017 में हुई थी. Meta के लिए, अंशों को इन ईवेंट में पूरी तरह से रेफ़र किया गया था. बोर्ड का Meta के इस निष्कर्ष के साथ सहमत होना कि मुख्य सिग्नल मौजूद है, बोर्ड द्वारा दो स्वतंत्र थर्ड पार्टी से माँगे गए विश्लेषण पर आधारित है. बोर्ड ने नोट किया कि ये विश्लेषण, Meta की व्याख्या से बहुत अलग हैं. उदाहरण के लिए, Meta ने “mash” को “गाँजा” समझा जबकि बोर्ड द्वारा संपर्क किए गए विशेषज्ञों ने इस शब्द को “बंदूक” कहा. Meta ने “bun” शब्द को “ऊँचा” समझा जबकि बोर्ड के विशेषज्ञों ने इसे “गोली मारना” कहा.

अप्रत्यक्ष या निहित धमकी की पहचान के लिए एक द्वितीयक सिग्नल भी ज़रूरी होता है जो यह बताए कि रेफ़रेंस “धमकीभरा हो सकता है और/या उससे तात्कालिक हिंसा या जान और माल का नुकसान हो सकता है” [ज़ोर दिया गया]. वह सिग्नल स्थानीय संदर्भ पर निर्भर करता है, अक्सर कानून प्रवर्तन द्वारा दिया जाता है और यह कन्फ़र्म करता है कि कंटेंट को “संभावित रूप से धमकीभरा माना जाता है या उससे तात्कालिक हिंसा या जान और माल का नुकसान हो सकता है” [ज़ोर दिया गया]. इस केस में, यूके मेट्रोपोलिटन पुलिस ने यह कन्फ़र्मेशन दिया. Meta ने पाया कि चिंक्स (ओएस) का 2017 की गोलीबारी का रेफ़रेंस संभावित रूप से धमकीभरा था या उससे तात्कालिक हिंसा या जान और माल का नुकसान हो सकता था और वह अप्रत्यक्ष धमकी मानने लायक था. Meta के संदर्भात्मक आकलन में 2017 की गोलीबारी से गिरोहों के बीच की ख़ास दुश्मनी शामिल थी. साथ ही लंदन में गिरोहों की आपसी हिंसा और हत्याओं का व्यापक संदर्भ भी शामिल था.

यह उचित है कि Meta, प्रासंगिक संदर्भ और अप्रत्यक्ष धमकियों की विश्वसनीयता का मूल्यांकन करने के लिए स्थानीय विषयवस्तु विशेषज्ञों पर भरोसा करता है. बोर्ड ने यह नोट किया कि हाल ही के वर्षों में लंदन में बंदूक और चाकू से बड़े स्तर पर हुई हिंसा से जुड़ी चिंता को समझा जा सकता है, जिसके अश्वेत कम्युनिटी पर अनुचित असर पड़े हैं. कानून प्रवर्तन कभी-कभी ऐसे संदर्भ और विशेषज्ञता देता है. लेकिन कंटेंट का हर ऐसा हिस्सा जो कानून प्रवर्तन हटवाना चाहे – और कंटेंट का हर ऐसा हिस्सा जिससे हिंसा तेज़ होने की आशंका हो – हटाया नहीं जाना चाहिए. इसलिए यह महत्वपूर्ण है कि Meta ख़ुद इन रिक्वेस्ट का मूल्यांकन करे और एक स्वतंत्र निष्कर्ष पर पहुँचे. कंपनी ने कहा कि वे ऐसा ही करते हैं. स्वतंत्रता महत्वपूर्ण है और मूल्यांकन में ऐसे ख़ास प्रमाण ज़रूरी होने चाहिए कि कंटेंट से किस तरह नुकसान होता है. यह ख़ास तौर पर उस समय जवाबी कार्रवाई करने में महत्वपूर्ण हो सकता है जब कानून प्रवर्तन चुनिंदा जानकारी शेयर करता है और जहाँ दूसरे शामिल लोगों से उनका दृष्टिकोण जानने का अवसर सीमित होता है. अल्पसंख्यक या उपेक्षित ग्रुप के लोगों की कलात्मक अभिव्यक्ति के लिए, उनके कंटेंट को लेकर सांस्कृतिक पक्षपात का जोखिम ख़ास तौर पर ज़्यादा होता है.

इस केस में, Meta ने यह नहीं कहा कि रिव्यू के लिए विचाराधीन कंटेंट के बोल में भरोसेमंद धमकी या तात्कालिक नुकसान का जोखिम है. न ही बोर्ड के रिव्यू में ऐसे निष्कर्ष को सपोर्ट करने वाले प्रमाण मिले. यह स्थापित करने के लिए कि पाँच वर्ष पहले हुई गोलीबारी के रेफ़रेंस से आज नुकसान का जोखिम है, सिर्फ़ रेफ़रेंस के अलावा अन्य प्रमाण की भी ज़रूरत होगी. यह तथ्य कि ट्रैक ऐसी घटनाओं का रेफ़रेंस देता है जिनमें गिरोहों के बीच हिंसक दुश्मनी हुई थी, इसका मतलब यह नहीं उस दुश्मनी का कलात्मक रेफ़रेंस देने को धमकी माना जाए. जब ऐसे अनौपचारिक संबंध को स्पष्ट करने वाली पर्याप्त जानकारी मौजूद न हो, जैसे किसी पुराने ऐसे गीत के बोल जिससे हिंसा हुई हो या तथाकथित धमकी के टार्गेट से प्राप्त ऐसी रिपोर्ट मौजूद न हो कि वे खतरे में हैं, तो विश्वसनीयता का मूल्यांकन करते समय तथाकथित धमकी की कलात्मक प्रकृति को ज़्यादा महत्व दिया जाना चाहिए था. यह तथ्य कि प्रदर्शन करते समय ढींगें मारना इस म्यूज़िकल शैली में सामान्य है, इस प्रासंगिक संदर्भ से Meta के इस संभावना के विश्लेषण पर असर पड़ना चाहिए था कि ट्रैक में पुरानी हिंसा के रेफ़रेंस से वर्तमान में धमकी पर भरोसा किया जा सकता है या नहीं. थर्ड पार्टी विशेषज्ञों ने बोर्ड को बताया कि किसी पुराने गलत काम या भविष्य में नुकसान के जोखिम के प्रमाण के निर्धारण के लिए गीत का पंक्ति-दर-पंक्ति विश्लेषण बिल्कुल ही गलत है और यह वेरिफ़ाई करना कि ड्रिल के बोल में तथ्यात्मक कथन हैं, चुनौतीपूर्ण है (डिजिटल राइट्स फ़ाउंडेशन, PC-10618). सार्वजनिक कमेंट (उदा., इलेक्ट्रॉनिक फ़्रंटियर फ़ाउंडेशन, PC-10971) ने कानून प्रवर्तन द्वारा कानूनी ड्रिल म्यूज़िक पर निगरानी की आलोचना की और Meta के सबमिशन में उसके द्वारा उल्लेख की गई रिसर्च की अपराधशास्त्रियों ने व्यापक आलोचना की है, जैसा कि कंपनी ने बताया. बोर्ड मानता है कि कंटेंट को हटाने से पहले इस आलोचना पर Meta के विश्लेषण में विचार किया जाना चाहिए था और उसे इससे कारण के संबंध में कानून प्रवर्तन और/या अतिरिक्त पार्टियों से अतिरिक्त जानकारी माँगने का संकेत समझना चाहिए था.

बोर्ड ने आगे कहा कि इस केस में उद्धरित चिंक्स (ओएस) का पूरा ट्रैक यूके में म्यूज़िक स्ट्रीमिंग प्लेटफ़ॉर्म पर अभी भी एक्सेस किया जा सकता है और बोर्ड को ऐसे कोई प्रमाण नहीं मिले जिनमें इससे हिंसा की कोई कार्रवाई हुई हो. यह संदर्भ, इस केस में Meta को उसके शुरुआती फ़ैसले के समय उपलब्ध नहीं था, फिर भी बोर्ड द्वारा कंटेंट के स्वतंत्र रिव्यू के समय यह प्रासंगिक है.

बोर्ड ने यह स्वीकार किया कि Meta को जिस तरह का फ़ैसला लेना था, उसमें इस तरह के कंटेंट में संदर्भ का महत्व अत्यधिक होता है और गंभीर नुकसान के जोखिम के समय इस काम के लिए समय बहुत कम होता है. कोई कंटेंट अप्रत्यक्ष धमकी है या नहीं, यह उससे जुड़े लोगों के अनुसार अलग-अलग हो सकता है, जैसा कि इस केस में हुआ. फिर भी, सरकार की रिक्वेस्ट पर कंटेंट को हटाने के Meta के फ़ैसलों में पारदर्शिता की कमी से यह मूल्यांकन करना कठिन है कि क्या Meta की गलती एकमात्र ऐसा केस है जो यथोचित असहमति दर्शाता है या वह सिस्टम के संभावित पक्षपात का संकेत है जिसके लिए अतिरिक्त डेटा और आगे जाँच की ज़रूरत है. Meta ने इस बात पर ज़ोर दिया कि उसका “अप्रत्यक्ष धमकी विश्लेषण” स्वतंत्र है — और बोर्ड ने सहमति जताई कि ऐसा ही होना चाहिए — लेकिन इस संदर्भ में Meta का ऐसा कहना पर्याप्त नहीं है. Meta ने कहा कि वह कम्युनिटी स्टैंडर्ड को ध्यान में रखते हुए कंटेंट का मूल्यांकन उसी तरह करता है जिस तरह किसी अन्य कंटेंट का करता है, इस बात पर ध्यान दिए बगैर कि उसे किस तरह पाया गया. “अप्रत्यक्ष धमकी विश्लेषण” से कानून प्रवर्तन को कंटेंट की रिपोर्ट करने (जैसे मुख्य सिग्नल फ़्लैग करना) और संभावित नुकसान का आकलन करने में Meta के लिए ज़रूरी संदर्भात्मक जानकारी देने (जैसे द्वितीयक सिग्नल के लिए स्थानीय जानकारी देना) की सुविधा मिलती है. भले ही प्राथमिकता देने वाले फ़्रेमवर्क को ग्रहण करने के पर्याप्त अच्छे कारण मौजूद हों जो यह सुनिश्चित करता है कि कानून प्रवर्तन से मिलने वाली रिपोर्ट का तुरंत आकलन हो, उस प्रोसेस को यह सुनिश्चित करने के लिए डिज़ाइन करना होगा कि ऐसी रिपोर्ट में स्वतंत्र आकलन करने के लिए पर्याप्त जानकारी हो. इसमें ज़रूरत होने पर रिक्वेस्ट करने वाली एंटिटी या अन्य पार्टियों से अतिरिक्त इनपुट माँगना शामिल है.

बोर्ड इस फ़ैसले को “क्निन कार्टून” के फ़ैसले से अलग रखता है. उस केस में, कार्टून में पहले ही हिंसक घटना में टार्गेट किए गए ग्रुप के खिलाफ़ नफ़रत फैलाने वाली भाषा का अतिरिक्त संदर्भ मौजूद था जिसके कारण “अप्रत्यक्ष धमकी” नियम को एन्फ़ोर्स किया गया. बोर्ड ने नफ़रत फैलाने वाली भाषा के कम्युनिटी स्टैंडर्ड के आधार पर प्राथमिक रूप से कंटेंट को हटाना उचित माना. बोर्ड का यह निष्कर्ष कि कंटेंट से हिंसा और उकसावे के कम्युनिटी स्टैंडर्ड का उल्लंघन भी हुआ, पोस्ट में रेफ़र की गई ऐतिहासिक घटना (ऑपरेशन स्टॉर्म) को समझने की संदर्भात्मक जानकारी पर आधारित था. यह संदर्भात्मक जानकारी, क्षेत्र के सभी लोगों को उपलब्ध है जिनमें क्रोएशियाई भाषा बोलने वाले लोग और जातीय सर्ब शामिल हैं. इस केस को बड़ी संख्या में प्राप्त रिपोर्ट इस बात का प्रमाण थीं (लगभग 400), जबकि इस केस में कंटेंट को कोई रिपोर्ट नहीं मिली. जातीय ग्रुप के खिलाफ़ नफ़रत के उकसावे को सामान्य व्यक्ति द्वारा भी देखा जा सकता था. भले ही कंटेंट में मौजूद कई रेफ़रेंस को समझने के लिए ख़ास संदर्भात्मक जानकारी की ज़रूरत थी, इस जानकारी को बाहरी थर्ड पार्टी पर भरोसा किए बिना हासिल किया जा सकता था.

II. एन्फ़ोर्समेंट एक्शन और पारदर्शिता

इस केस में, कानून प्रवर्तन की ओर से प्राप्त एक रिक्वेस्ट के कारण 52 मामलों में मैन्युअल रूप से कंटेंट हटाया गया और 112 मामलों में मिलते-जुलते कंटेंट को ऑटोमेटेड रूप से हटाया गया (28 जनवरी 2022 से 28 अगस्त 2022 के बीच). यह समझना महत्वपूर्ण है कि मेट्रोपोलिटन पुलिस की रिक्वेस्ट के जवाब में Meta की ओर से की गई कार्रवाई से इस केस के Instagram अकाउंट पर असर पड़ा, बल्कि चिंक्स (ओएस) और कई अन्य पर भी इसका असर पड़ा (यह भी देखें: “कोलंबियाई पुलिस का कार्टून” केस).

कंटेंट को हटाने की यह मात्रा, कानून प्रवर्तन के साथ Meta के रिलेशनशिप के संबंध में तय प्रोसेस और पारदर्शिता और उस रिलेशनशिप के संबंध में की गई कार्रवाइयों का महत्व रेखांकित करती है (“ओजलान का एकांतवास” और “अल जज़ीरा की शेयर की गई पोस्ट” केस में ओवरसाइट बोर्ड के फ़ैसले भी देखें). इन चिंताओं को दूर करने के लिए, दुरुपयोग से बचाने वाली एक स्पष्ट और एकरूप प्रोसेस की ज़रूरत है, जिसमें ये चीज़ें शामिल हैं: ऑडिट करना; यूज़र्स के खिलाफ़ की गई कार्रवाई में सरकार के शामिल होने का पर्याप्त नोटिस; और लोगों के लिए इन इंटरैक्शन की ट्रांसपेरेंसी रिपोर्टिंग. ये तीन पहलू आपस में जुड़े हुए हैं और सभी का समाधान होना चाहिए.

a. लोगों के लिए पारदर्शिता

Meta, स्थानीय कानून के आधार पर सरकारी रिक्वेस्ट के बारे में अपने ट्रांसपेरेंसी सेंटर में रिपोर्ट प्रकाशित करता है. वह यूज़र के डेटा के बारे में मिली सरकारी रिक्वेस्ट पर अलग रिपोर्ट भी प्रकाशित करता है. कम्युनिटी स्टैंडर्ड के कारण एन्फ़ोर्समेंट पर अलग रिपोर्ट उपलब्ध है. हालाँकि, इनमें से कोई भी रिपोर्ट यह डेटा नहीं बताती कि रिव्यू की सरकारी रिक्वेस्ट के बाद कंटेंट पॉलिसी के उल्लंघन के कारण कौन सा कंटेंट हटाया गया. हटाने की सरकारी रिक्वेस्ट पर मौजूदा पारदर्शिता डेटा, कंटेंट को हटाने के बारे में Meta और कानून प्रवर्तन के बीच हुए इंटरैक्शन का पूरा ब्यौरा नहीं देता. Meta द्वारा की जाने वाले कार्रवाइयों (स्थानीय कानून का उल्लंघन करने के कारण हटाना) पर फ़ोकस होने से, सरकारी रिक्वेस्ट की रिपोर्ट में कानून प्रवर्तन से प्राप्त ऐसी सभी रिपोर्ट को छोड़ दिया जाता है जिनके कारण कंटेंट पॉलिसी के उल्लंघन में कंटेंट हटाया गया. कानून प्रवर्तन द्वारा रिपोर्ट किया गया ऐसा कंटेंट जो स्थानीय कानून और कंटेंट पॉलिसी, दोनों का उल्लंघन करता है, शामिल नहीं किया जाता. इस कारण, बोर्ड ने इस केस के विषय को गहराई से समझने के लिए मेट्रोपोलिटन पुलिस को सूचना की आज़ादी रिक्वेस्ट सबमिट की.

Meta ने यह क्लेम किया कि कंटेंट पॉलिसी के आधार पर कंटेंट हटाने की सरकारी रिक्वेस्ट से जुड़ी पारदर्शिता का उपयोग सीमित है, क्योंकि सरकारें भी प्रोडक्ट में उपलब्ध रिपोर्टिंग टूल का उपयोग कर सकती हैं (और करती हैं). ये टूल सरकारी रिक्वेस्ट और अन्य यूज़र्स द्वारा की गई रिक्वेस्ट के बीच अंतर नहीं करते.

यह केस दिखाता है कि कानून प्रवर्तन के पास Meta की आंतरिक एन्फ़ोर्समेंट टीमों की कितनी ख़ास एक्सेस है. बोर्ड द्वारा देखे गए पत्राचार से और इस बात से इसका प्रमाण मिलता है कि किस तरह कुछ ख़ास पॉलिसी का एन्फ़ोर्समेंट कानून प्रवर्तन जैसी थर्ड पार्टियों से इंटरैक्शन पर निर्भर करता है. सिर्फ़ एस्केलेशन के समय उपयोग की जाने वाली पॉलिसी के लिए जिस तरह यह रिलेशनशिप काम करता है, जैसा इस केस में हुआ, उससे सरकार की ओर से काम करने वाले लोगों के ऐसे निष्कर्षों का स्वतंत्र आकलन करने की Meta की क्षमता पर सवाल खड़ा होता है जहाँ विस्तृत प्रमाण मौजूद नहीं होते.

बोर्ड ने स्वीकार किया कि इस विषय के संबंध में बोर्ड के पहले फ़ैसलों के बाद से Meta ने ट्रांसपेरेंसी रिपोर्टिंग के संबंध में प्रगति की है. इसमें सरकारी रिक्वेस्ट के बाद कम्युनिटी स्टैंडर्ड के तहत हटाए गए कंटेंट का मूल्यांकन करने के लिए स्कोपिंग एक्सरसाइज़ करना और Lumen को इसे भेजना शामिल है, जो सरकारों द्वारा हटाने की रिक्वेस्ट पर Berkman Klein Center for Internet & Society का एक रिसर्च प्रोजेक्ट है. इस क्षेत्र में पारदर्शिता के इससे आगे की कोशिशों से सरकारों और सोशल मीडिया कंपनियों के बीच के इंटरैक्शन की जटिलताओं की सार्वजनिक चर्चाओं में बहुत लाभ होगा.

b. कानून प्रवर्तन की रिक्वेस्ट लेने की प्रोसेस

Meta ने सार्वजनिक रूप से यह बताया है कि वह स्थानीय कानून के उल्लंघन के कारण कंटेंट हटाने की सरकारी रिक्वेस्ट का किस तरह जवाब देता है, लेकिन यह अभी भी स्पष्ट नहीं है कि Meta की कंटेंट पॉलिसी के उल्लंघन के बारे में रिव्यू की रिक्वेस्ट करने के लिए सरकारें किन चैनल का उपयोग कर सकती हैं.

यह केस बताता है कि कानून प्रवर्तन की रिक्वेस्ट का रखरखाव करने वाले Meta के सिस्टम में उस समय गंभीर खामियाँ दिखाई देती हैं, जब ये रिक्वेस्ट स्थानीय कानून पर आधारित नहीं होतीं और उसके प्रोडक्ट में मौजूद रिपोर्टिंग टूल के बाहर से की जाती हैं (जैसे वे फ़ंक्शन जिनकी एक्सेस सभी आम यूज़र्स के पास कंटेंट को फ़्लैग या रिपोर्ट करने के लिए होती है). “अल जज़ीरा की शेयर की गई पोस्ट” केस के फ़ैसले में, बोर्ड ने सुझाव दिया था कि Meta कंटेंट को हटाने की सभी सरकारी रिक्वेस्ट लेने और उनका जवाब देने के लिए एक पारदर्शी प्रोसेस बनाएँ. कानून प्रवर्तन कई कम्युनिकेशन चैनल से रिक्वेस्ट भेजती हैं, जिससे रिक्वेस्ट का मानकीकरण और केंद्रीकरण और उनके बारे में डेटा कलेक्ट करना कठिन हो जाता है. रिक्वेस्ट लेने का वर्तमान सिस्टम, जिसमें Meta द्वारा फ़ॉर्म भरा जाता है, सिर्फ़ आने वाली रिक्वेस्ट को प्राथमिकता देने पर फ़ोकस करता है. सिस्टम पर्याप्त रूप से यह सुनिश्चित नहीं करता कि थर्ड पार्टी की रिक्वेस्ट न्यूनतम स्टैंडर्ड का पालन करती हैं या नहीं और इसमें डेटा के सटीक कलेक्शन की सुविधा नहीं है जिससे इस सिस्टम के असर को ठीक से मॉनीटर और ऑडिट नहीं किया जा सकता. कुछ रिक्वेस्ट Meta के कम्युनिटी स्टैंडर्ड को रेफ़र करने वाली हो सकती हैं और अन्य में संभावित नुकसान की सामान्य चिंताएँ हो सकती हैं जिनका गैर-कानूनी एक्टिविटी या प्लेटफ़ॉर्म पॉलिसी के उल्लंघन के आरोपों से संबंध नहीं होता. कानून प्रवर्तन से पूरा संदर्भ देने और अपनी रिक्वेस्ट को उचित ठहराने वाली न्यूनतम शर्त पूरी करने के लिए नहीं कहा जाता, जिससे Meta के साथ अव्यवस्थित, बिना योजना के और असंगत इंटरैक्शन होते हैं. न्यूनतम शर्त में उदाहरण के लिए यह शामिल हो सकता है कि कानून प्रवर्तन के अनुसार Meta की किस पॉलिसी का उल्लंघन हुआ है, क्यों उल्लंघन हुआ है और उस निष्कर्ष पर पहुँचने के पर्याप्त प्रमाण कौन से हैं.

c. यूज़र्स को नोटिफ़िकेशन

ओवरसाइट बोर्ड को अपने Q2 2022 के तिमाही अपडेट में Meta ने बताया कि वह किसी सरकारी एंटिटी द्वारा रिपोर्ट किए जाने पर कम्युनिटी स्टैंडर्ड का उल्लंघन करने के कारण किसी कंटेंट को हटाने पर यूज़र्स को भेजे जाने वाले नोटिफ़िकेशन में सुधार कर रहे हैं (“ओजलान का एकांतवास” केस में बोर्ड के फ़ैसले में दिए गए सुझाव को लागू करके). इस केस में, अगर उन बदलावों को लागू कर दिया जाता, तो जिन 164 अन्य मामलों में कंटेंट को हटाया गया, उनके यूज़र्स को इस तरह का नोटिफ़िकेशन मिल जाता. Meta ने स्वीकार किया कि जब वह सरकारी रिक्वेस्ट के छोटे से छोटे डेटा को कलेक्ट करने का इंफ़्रास्ट्रक्चर तैयार कर लेगा, तब ही वह ज़्यादा विस्तृत यूज़र नोटिफ़िकेशन डिज़ाइन और टेस्ट कर पाएगा. बोर्ड और Meta इस बात पर सहमत हुए कि यह कार्य सरकारी रिक्वेस्ट के बारे में ज़्यादा जानकारी ट्रैक करने और देने पर निर्भर है, जिसे फिर Meta की सार्वजनिक ट्रांसपेरेंसी रिपोर्ट में प्रकाशित किया जा सकता है.

8.2 Meta की वैल्यू का अनुपालन

बोर्ड ने पाया कि कंटेंट को हटाने में Meta की वैल्यू का पालन नहीं हुआ. इस केस में “अभिव्यक्ति” और “सुरक्षा” की वैल्यू के बीच संतुलन में Meta को उस समय आने वाली कठिनाइयाँ दिखाई देती हैं, जब वह वैश्विक स्तर पर समय से संभावित रूप से अप्रत्यक्ष धमकियों की बड़ी मात्रा का समाधान करने की कोशिश करता है. हालाँकि, Meta यह क्लेम करता है कि “अभिव्यक्ति” की वैल्यू उसके लिए सर्वोपरि है. जैसा कि बोर्ड ने “वामपम बेल्ट” फ़ैसले में कहा, “अभिव्यक्ति” को दर्शाने के मामले में कला ख़ास तौर पर महत्वपूर्ण और ताकतवर होती है, ख़ास तौर पर उपेक्षित ग्रुप के उन लोगों के लिए जो अपने अनुभवों को कला में व्यक्त करते हैं. Meta के पास इस निष्कर्ष पर पहुँचने के लिए पर्याप्त जानकारी नहीं थी कि यह कंटेंट “सुरक्षा” का ऐसा जोखिम उत्पन्न करता है जिसके कारण “अभिव्यक्ति” को दरकिनार किया जा सकता है.

बोर्ड इस बात से चिंतित है कि जब इस बात में संदेह होता है कि कंटेंट से नुकसान का भरोसेमंद जोखिम है, Meta के अनुसार वह ऐसी स्थिति में “अभिव्यक्ति” के बजाय “सुरक्षा” को ज़्यादा महत्व देता है. कलात्मक अभिव्यक्ति के नमूने के बारे में कानून प्रवर्तन द्वारा दी गई जानकारी की विशिष्टता में कमी होने के कारण संदेह की स्थिति में, जैसा कि इस केस में हुआ, ऐसा दृष्टिकोण Meta द्वारा बताई गई वैल्यू के अनुरूप नहीं है. बोर्ड, लोगों को हिंसा से सुरक्षित रखने का महत्व समझता है और यह कि ऐसा करना ऐसी हिंसा से अनुचित रूप से प्रभावित कम्युनिटी के लिए ख़ास तौर पर महत्वपूर्ण है. बोर्ड इस बारे में भी सजग है कि कथित धमकियों के बारे में फ़ैसले बिना ज़्यादा विचार-विमर्श के तुरंत लिए जाने चाहिए. हालाँकि, अगर “अभिव्यक्ति” के खिलाफ़ कोई पूर्व धारणा है, तो उसका उपेक्षित लोगों की अभिव्यक्ति पर अनुचित असर पड़ सकता है. ऐसा करने से कानून प्रवर्तन की ताकत और ऐसी प्रोसेस का फ़ायदा उठाने की उनकी और बढ़ सकती है, जो ऐसी जानकारी होने का क्लेम कर सकते हैं जिन्हें अन्य सोर्स से वेरिफ़ाई करना कठिन होता है.

8.3 Meta की मानवाधिकारों से जुड़ी ज़िम्मेदारियों का अनुपालन

बोर्ड इस निष्कर्ष पर पहुँचा कि इस पोस्ट को हटाने का फ़ैसला करते समय, Meta ने बिज़नेस के रूप में मानवाधिकार से जुड़ी अपनी ज़िम्मेदारियाँ पूरी नहीं कीं.

सभी लोगों को बिना भेदभाव के अभिव्यक्ति की स्वतंत्रता के अधिकार की गारंटी है (अनुच्छेद 19, पैरा. 2, ICCPR; अनुच्छेद 2, पैरा. 1, ICCPR). इस केस में जातीय अल्पसंख्यक कम्युनिटी के लोगों के, उनके अपने ग्रुप, अपनी संस्कृति के अन्य मेंबर के साथ कम्युनिटी में आनंद लेने (अनुच्छेद 27, ICCPR) और सांस्कृतिक जीवन में भाग लेने (अनुच्छेद 15, ICESCR) के अधिकार भी शामिल हैं. निदान की एक्सेस का अधिकार, अंतरराष्ट्रीय मानवाधिकार कानून (अनुच्छेद 2, पैरा. 3, ICCPR; सामान्य कमेंट सं. 31) का मुख्य घटक है और निदान UNGP का तीसरा पिलर है और Meta की कॉर्पोरेट मानवाधिकार पॉलिसी में फ़ोकस का एक क्षेत्र है.

अभिव्यक्ति की आज़ादी (अनुच्छेद 19 ICCPR; अनुच्छेद 5, ICERD)

ICCPR के अनुच्छेद 19 में “कला के रूप में” अभिव्यक्ति की रक्षा का ख़ास उल्लेख किया गया है. अंतरराष्ट्रीय मानवाधिकार स्टैंडर्ड, कलात्मक अभिव्यक्ति के महत्व को मज़बूती देते हैं ( सामान्य कमेंट 34, पैरा. 11; शिन वि. कोरिया गणराज्य, मानवाधिकार कमिटी, कम्युनिकेशन सं. 926/2000). इंटरनेशनल कन्वेंशन ऑन द एलिमिनेशन ऑफ़ ऑल फ़ॉर्म्स ऑफ़ रेशियल डिस्क्रिमिनेशन (ICERD), नस्ल के आधार पर कोई भेदभाव किए बिना अभिव्यक्ति की आज़ादी के उपयोग की रक्षा करता है (अनुच्छेद 5). नस्लीय भेदभाव की समाप्ति के लिए बनी कमिटी ने "समाज के घटकों में शक्ति संतुलन को फिर से स्थापित करने में असुरक्षित समूहों" की सहायता करने और चर्चाओं में "वैकल्पिक विचार और जवाब" प्रदान करने के लिए अभिव्यक्ति की आज़ादी के महत्व पर ज़ोर दिया है (CERD समिति, सामान्य सुझाव 35, पैरा. 29). ड्रिल म्यूज़िक, युवा लोगों को और ख़ास तौर पर अश्वेत युवा लोगों को रचनात्मक अभिव्यक्ति का माध्यम देता है.

कला में अक्सर राजनीतिक पहलू होता है और अंतरराष्ट्रीय स्टैंडर्ड, यथास्थिति को चुनौती देने में इसके यूनिक और ताकतवर रोल को समझते हैं (सांस्कृतिक अधिकारों के क्षेत्र में संयुक्त राष्ट्र का विशेष रैपर्टर, A/HRC/23/34, पैरा 3-4 पर). Facebook और Instagram जैसे इंटरनेट और सोशल मीडिया प्लेटफ़ॉर्म, नई और व्यापक ऑडियंस तक पहुँचने में कलाकारों की मदद करने के लिए ख़ास महत्व रखते हैं. कलाकारों की आजीविका और उनके सामाजिक और आर्थिक अधिकार, इंटरनेट पर मौजूद सोशल मीडिया प्लेटफ़ॉर्म की एक्सेस पर निर्भर हो सकते हैं. सोशल मीडिया पर कमर्शियल सफलता पाने के लिए ड्रिल म्यूज़िक में कलाकार हिंसा की डींगे मारते हैं. ऐसे क्लेम और परफ़ॉर्मेंस की अपेक्षा इस शैली में की जाती है. इस केस में Meta की कार्रवाइयों के परिणामस्वरूप, चिंक्स (ओएस) को Instagram से हमेशा के लिए हटा दिया गया, जिससे अपनी ऑडियंस तक पहुँचने और कमर्शियल सफलता पाने की उनकी क्षमता पर बड़ा असर पड़ सकता है.

ICCPR के अनुच्छेद 19 के तहत यह ज़रूरी है कि जहाँ अभिव्यक्ति पर राज्य द्वारा प्रतिबंध लागू है, वहाँ उन्हें वैधानिकता, वैध लक्ष्य और आवश्यकता और अनुपातिकता की शर्तें पूरी करनी होंगी (अनुच्छेद 19, पैरा. 3, ICCPR). अभिव्यक्ति की आज़ादी पर UN का विशेष रैपर्टर सोशल मीडिया कंपनियों को प्रोत्साहित करता है कि वे ऑनलाइन अभिव्यक्ति को मॉडरेट करते समय इन सिद्धांतों से मार्गदर्शन लें, इस बात का ध्यान रखें कि निजी कंपनियों द्वारा बड़े पैमाने पर अभिव्यक्ति के नियत्रंण से उस संदर्भ से जुड़ी चिंताएँ सामने आ सकती हैं (A/HRC/38/35, पैरा. 45 और 70). बोर्ड ने अपने अब तक के फ़ैसलों में ICCPR के अनुच्छेद 19 पर आधारित तीन हिस्सों वाला टेस्ट लागू किया है.

I. वैधानिकता (नियमों की स्पष्टता और सुलभता)

वैधानिकता के सिद्धांत के अनुसार अभिव्यक्ति को सीमित करने वाले कानूनों के लिए यह ज़रूरी है कि वे स्पष्ट और एक्सेस लायक हों, ताकि लोग यह समझ सकें कि किस कंटेंट की परमिशन है और किसकी नहीं. इसके अलावा, उन कानूनों का विशिष्ट होना ज़रूरी है, ताकि यह सुनिश्चित किया जा सके कि जिन लोगों पर उन्हें एन्फ़ोर्स किया गया है, उन पर इसका उपयोग मनमाने ढंग से नहीं हुआ है (सामान्य कमेंट 34, पैरा. 25). Meta के कंटेंट से जुड़े नियमों की स्पष्टता और एक्सेसिबिलिटी के आकलन के लिए बोर्ड ये सिद्धांत लागू करता है और उन नियमों के आधार पर निष्पक्ष फ़ैसले लेने में रिव्यूअर्स का मार्गदर्शन करता है.

बोर्ड ने पहले व्यक्ति की गई चिंताओं को दोहराते हुए कहा कि Instagram कम्युनिटी गाइडलाइन और Facebook कम्युनिटी स्टैंडर्ड के बीच का संबंध अस्पष्ट है. अगस्त 2022 में, Meta ने इस क्षेत्र में बोर्ड के पहले के सुझावों को लागू करने ( ओवरसाइट बोर्ड के लिए Q2 2022 का तिमाही अपडेट) और दीर्घावधि में कम्युनिटी स्टैंडर्ड और गाइडलाइन को एक जैसा बनाने का वचन दिया था.

लोगों को दिखाई देने वाले हिंसा और उकसावे के कम्युनिटी स्टैंडर्ड और Meta के आंतरिक क्रियान्वयन स्टैंडर्ड का अंतर भी चिंता का विषय है. Meta यह तय करने में “सिग्नल” का उपयोग करता है कि क्या कंटेंट में अप्रत्यक्ष धमकी मौजूद है. बोर्ड के पुराने सुझावों के परिणामस्वरूप, आम लोगों को दिखाई देने वाले कम्युनिटी स्टैंडर्ड में “सिग्नल” जोड़े गए थे. हालाँकि, कम्युनिटी स्टैंडर्ड में यह नहीं बताया गया है कि Meta उन्हें मुख्य और द्वितीयक, दो तरह के सिग्नलों में बाँटता है या यह कि पॉलिसी का उल्लंघन मानने के लिए मुख्य और द्वितीयक सिग्नल, दोनों ज़रूरी हैं. इसे स्पष्ट करना उन लोगों के लिए उपयोगी होगा जो प्लेटफ़ॉर्म पर कंटेंट के बारे में शिकायतें करते हैं, जिसमें विश्वसनीय थर्ड पार्टियाँ और कानून प्रवर्तन शामिल हैं. सिग्नल के बारे में स्पष्टता होना ख़ास तौर पर महत्वपूर्ण है, क्योंकि द्वितीयक सिग्नल, कंटेंट से होने वाले नुकसान के जोखिम का सत्यापन करता है और हटाने की फ़ैसले की तरफ ले जाता है. जो थर्ड पार्टियाँ द्वितीयक सिग्नल के बिना मुख्य सिग्नल देती हैं, उन्हें यह अस्पष्ट होता है कि क्या उनके द्वारा रिपोर्ट किए जा रहे कंटेंट पर कार्रवाई की जाएगी.

II. वैधानिक लक्ष्य

अभिव्यक्ति की आज़ादी से संबंधित प्रतिबंधों का उद्देश्य वैधानिक लक्ष्य प्राप्त करना ही होना चाहिए. हिंसा और उकसावे के कम्युनिटी स्टैंडर्ड, ऑफ़लाइन नुकसान को रोकने के लिए आंशिक रूप से मौजूद हैं. यह पॉलिसी इसलिए अन्य लोगों के अधिकारों की रक्षा का विधिसम्मत लक्ष्य पूरा करती है (उस व्यक्ति के जीवन का अधिकार और सुरक्षा जिसे पोस्ट द्वारा टार्गेट किया जा रहा है).

III. आवश्यकता और आनुपातिकता

बोर्ड ने पाया कि पॉलिसी का लक्ष्य पाने के लिए कंटेंट को हटाना ज़रूरी नहीं था.

आवश्यकता और आनुपातिकता के सिद्धांत के अनुसार यह ज़रूरी है कि अभिव्यक्ति की स्वतंत्रता से संबंधित प्रतिबंध "उनके सुरक्षात्मक कार्य को सही तरीके से पूरा करने वाले होने चाहिए; उनसे उन लोगों के अधिकारों के साथ कम से कम हस्तक्षेप होना चाहिए, जिन्हें उन प्रतिबंधों से होने वाले सुरक्षात्मक कार्यों का लाभ मिल सकता है; उन हितों के अनुसार सही अनुपात में होने चाहिए जिनकी सुरक्षा की जानी है" (सामान्य कमेंट 34, पैरा. 34). विचाराधीन अभिव्यक्ति के रूप, जैसे कला के रूप में अभिव्यक्ति, पर विचार किया जाना चाहिए (सामान्य कमेंट 34, पैरा. 34).

अभिव्यक्ति की आज़ादी पर संयुक्त राष्ट्र के विशेष रैपर्टर में उन कठिनाइयों पर ध्यान दिया गया जिनका सामना कलाकार सोशल मीडिया का उपयोग करते समय करते हैं, क्योंकि ऐसी अभिव्यक्ति के लक्षण जटिल होते हैं और वे उनसे प्लेटफ़ॉर्म के नियमों का उल्लंघन आसानी से हो सकता है और उनके लिए निदान के साधन भी पर्याप्त नहीं होते (A/HRC/44/49/Add.2, पैरा. 44 - 46 पर). यह उन व्यापक प्रेक्षणों की पुष्टि करता है जो विशेष रैपर्टर ने प्लेटफ़ॉर्म द्वारा संदर्भात्मक कंटेंट मॉडरेशन की कमियों के बारे में किए हैं. इसमें वे विषय भी शामिल हैं जिन्हें ऐतिहासिक या सांस्कृतिक अर्थभेदों की ज़रूरत होती है (A/HRC/38/35, पैरा. 29 पर).

संयुक्त राष्ट्र के विशेष रैपर्टर द्वारा सांस्कृतिक अधिकारों की फ़ील्ड में कलात्मक अभिव्यक्ति की जटिलता पर ज़ोर दिया था (A/HRC/23/34, पैरा. 37 पर):

कलाकृति, गैर-कथात्मक कथनों से अलग होती है क्योंकि उसके कई अर्थ निकाले जा सकते हैं: इसलिए कलाकृति में मौजूद मैसेज को साबित करना अत्यंत कठिन है और यह ज़रूरी नहीं है कि किसी कलाकृति के बारे में की गई व्याख्या और उसके रचनाकार का कलाकृति बनाने के पीछे का उद्देश्य एक समान हो. कलात्मक अभिव्यक्तिओं और रचनाओं में हमेशा कोई ख़ास मैसेज या जानकारी नहीं होती और उन्हें ऐसा करने तक ही सीमित नहीं किया जाना चाहिए. इसके अलावा, कथा और कल्पना के प्रयोग को एक ऐसे महत्वपूर्ण तत्व के रूप में समझा जाना और उसका सम्मान किया जाना चाहिए जो क्रिएटिव एक्टिविटी और कलात्मक अभिव्यक्तियों के लिए अपरिहार्य है: वास्तविकता के निरूपण को वास्तविकता से अलग रखा जाना चाहिए... इसलिए, कलाकारों के पास मानवीयता के बुरे पक्ष की पड़ताल करने और अपराधों का वर्णन करने की छूट होनी चाहिए… उनपर इन्हें बढ़ावा देने का आरोप लगाए बिना.

विशेष रैपर्टर के प्रेक्षण इस संभावना को ख़ारिज नहीं करते कि कला का उद्देश्य नुकसान पहुँचाना हो सकता है और उनसे यह उद्देश्य प्राप्त भी किया जा सकता है. Meta जैसी बड़ी कंपनी के लिए, तुरंत, बड़े पैमाने पर और वैश्विक रूप से ऐसे आकलन करना चुनौतीपूर्ण है. “सिर्फ़ एस्केलेशन के लिए” पॉलिसी का Meta द्वारा निर्माण, जिसमें कंटेंट को हटाए जाने के लिए संदर्भ से जुड़े पूरे विश्लेषण की ज़रूरत होती है, आवश्यकता के सिद्धांत का सम्मान दिखाता है. Meta की मानवाधिकार से जुड़ी ज़िम्मेदारियों के अनुसार Meta के लिए यह ज़रूरी है कि वह उन लोगों के लिए जीवन के अधिकार और व्यक्ति की सुरक्षा पर आने वाले खतरों को रोके और उन्हें कम करे जिन्हें अप्रत्यक्ष धमकियों वाली पोस्ट से खतरे में डाला जा सकता है. हालाँकि, इस फ़ैसले के सेक्शन 8.1 में बताए गए कारणों के लिए, उस विश्लेषण में कारणता के गहराई से परीक्षण की ज़रूरत होती है और आवश्यकता की ज़रूरतें पूरी करने के लिए कला के अपने आकलन में उसे ज़्यादा बारीकी से काम करना चाहिए. बोर्ड को इस केस में भरोसे लायक धमकी के पर्याप्त प्रमाण दिखाई नहीं दिए, इसलिए कंटेंट को हटाना ज़रूरी नहीं था.

इस संबंध में, हिंसा और उकसावे की पॉलिसी में ऐसी शब्दावली का उपयोग किया गया है जिसके बारे में यह माना जा सकता है कि वह कंटेंट को अत्यधिक मात्रा में हटाने की छूट देती है. कोई “संभावित” धमकी या ऐसा कंटेंट जिससे आगे जाकर हिंसा “हो सकती” है, जैसे कोई ताना, इस केस में आवश्यकता की ज़रूरतें पूरी करने के लिए अत्यधिक व्यापक था. पुराने केसों में, बोर्ड ने यह ज़रूरी नहीं बनाया है कि कंटेंट को हटाने की परमिशन देने के लिए भविष्य की हिंसा का जोखिम तात्कालिक होना चाहिए (उदाहरण के लिए “क्निन कार्टून” केस देखें), क्योंकि Meta की मानवाधिकार से जुड़ी ज़िम्मेदारियाँ उस सरकार की ज़िम्मेदारियों से अलग हो सकती हैं जो आपराधिक या दीवानी दंड लगाती है (उदाहरण के लिए, “दक्षिण अफ़्रीका का गालियाँ” केस देखें). हालाँकि, बोर्ड ने इस बात के ज़्यादा ठोस प्रमाण माँगे कि धमकी मौजूद थी और इस केस के मुकाबले ज़्यादा भरोसे लायक थी (उदाहरण के लिए, “भारत में फ़्रांस के खिलाफ़ विरोध प्रदर्शन” देखें).

भेदभाव न करना और निदान की एक्सेस (अनुच्छेद 2(1), ICCPR)

मानवाधिकार कमिटी ने यह स्पष्ट किया कि अभिव्यक्ति पर लगाए गए किसी भी प्रतिबंध को भेदभाव न करने के सिद्धांत का सम्मान करना चाहिए (सामान्य कमेंट सं. 34, पैरा. 32 पर). इस सिद्धांत से Meta की मानवाधिकार ज़िम्मेदारियों की बोर्ड की व्याख्या की जानकारी मिलती है (अभिव्यक्ति की स्वतंत्रता पर संयुक्त राष्ट्र का विशेष रैपर्टर, A/HRC/38/35, पैरा. 48).

अपने सार्वजनिक कमेंट में डिजिटल राइट्स फ़ाउंडेशन ने तर्क दिया कि कुछ लोग ड्रिल म्यूज़िक को गिरोह हिंसा के लिए एकजुट होने का आह्वान कहते हैं, लेकिन यह युवाओं के लिए, ख़ास तौर पर अश्वेत और ब्राउन युवाओं के लिए, किसी ऐसे सिस्टम से असंतोष व्यक्त करने का एक माध्यम है जो भेदभाव और बहिष्कार को बढ़ावा देता है (PC-10618). JUSTICE ने अपनी रिपोर्ट “ Tackling Racial Injustice: Children and the Youth Justice System” में कहा कि अपराधी ठहराने के लिए कानून प्रवर्तन द्वारा ड्रिल म्यूज़िक का दुरुपयोग, सिस्टम द्वारा जातिगत भेदभाव का एक उदाहरण है. जैसा कि बोर्ड को अपनी जानकारी की आज़ादी रिक्वेस्ट से पता चला, मेट्रोपोलिटन पुलिस द्वारा 1 जून 2021 से लेकर 31 मई 2022 के बीच म्यूज़िक कंटेंट को रिव्यू करने के लिए सोशल मीडिया और स्ट्रीमिंग सेवाओं को भेजी गई सभी 286 रिक्वेस्ट ड्रिल म्यूज़िक से जुड़ी थीं. ऐसी 255 रिक्वेस्ट के कारण प्लेटफ़ॉर्म से कंटेंट हटा दिया गया. उन 286 में से 21 रिक्वेस्ट Meta के प्लेटफ़ॉर्म से संबंधित थीं और उनमें से 14 रिक्वेस्ट में कंटेंट को हटाकर कार्रवाई की गई. जैसा कि ऊपर बताया गया है, एक रिक्वेस्ट के परिणामस्वरूप एक से ज़्यादा जगह से कंटेंट हटाया जा सकता है. म्यूज़िक की हिंसा का रेफ़रेंस देने वाली कई शैलियों में से एक पर इतना ज़्यादा फ़ोकस, कुछ ख़ास कम्युनिटी पर संभावित रूप से अत्यधिक नियंत्रण की गंभीर चिंताएँ उत्पन्न होती हैं. यह कहना बोर्ड के अधिकार में नहीं आता कि क्या ये रिक्वेस्ट, पुलिस का उचित कार्य दर्शाती हैं, लेकिन यह आकलन करना बोर्ड का काम है कि ऐसी रिक्वेस्ट का जवाब देते समय Meta किसी तरह अपनी वैल्यू और मानवाधिकार से जुड़ी ज़िम्मेदारियों का सम्मान कर सकता है. इस प्रकार, और जैसा नीचे बताया गया है, कानून प्रवर्तन को दिए जाने वाले Meta के जवाब में प्रमाण से जुड़ी न्यूनतम शर्तें पूरी होने के अलावा उसे प्रभावित यूज़र्स और व्यापक जनसमुदाय के लिए पर्याप्त व्यवस्थित, ऑडिट किया गया और पारदर्शी होना चाहिए ताकि कंपनी, बोर्ड और अन्य लोग यह देख पाएँ कि Meta अपनी वैल्यू का पालन करने और मानवाधिकार से जुड़ी अपनी ज़िम्मेदारियाँ पूरी करने में कितना खरा उतरता है.

जहाँ किसी व्यक्ति की अभिव्यक्ति में किसी सरकारी व्यक्ति का हस्तक्षेप होता है, जैसा कि इस केस में हुआ, तो प्रभावित यूज़र्स को अपने अधिकारों का उपयोग करने और उस सरकारी व्यक्ति को चैलेंज करने में भी सक्षम बनाने के लिए सम्यक प्रोसेस और पारदर्शिता का पालन करना मुख्य भूमिका निभाता है. Meta को इस बात पर विचार करना चाहिए कि मौजूदा स्थिति में क्या उसकी प्रोसेस इसे सक्षम बनाती है या इसे रोकती है. कंपनी, कानून प्रवर्तन के साथ अपने सहयोग को इस तरह अस्पष्ट नहीं बना सकती जो संभावित मानवाधिकार उल्लंघनों के लिए निदान एक्सेस करने वाले यूज़र्स के लिए बाधा बन जाए.

यह भी महत्वपूर्ण है कि Meta अपने यूज़र्स को कंटेंट के उनके अधिकारों पर असर डालने वाले फ़ैसलों के लिए निदान की पर्याप्त एक्सेस उपलब्ध कराए. अभिव्यक्ति की आज़ादी के संयुक्त राष्ट्र के विशेष रैपर्टर में कलात्मक अभिव्यक्तियों के संबंध में सोशल मीडिया कंपनियों की ज़िम्मेदारियाँ तय की गई हैं (A/HRC/44/49/Add.2, पैर. 41 और आगे). महिला कलाकारों के निदान की एक्सेस पर उनका प्रेक्षण, यूनाइटेड किंगडम में अश्वेत कलाकारों की स्थिति के लिए प्रासंगिक है:

कलाकार बताते हैं कि उनके निजी और प्रोफ़ेशनल Facebook और Twitter पेज बंद कर दिए जाते हैं… अस्पष्ट कम्युनिटी गाइडलाइन के उल्लंघन में यह हो सकता है कि कलाकार “प्रतिवाद” प्रक्रिया का उपयोग न कर पाएँ जिससे वे अपनी कला को हटाने के फ़ैसले को चैलेंज कर सकते हैं. यूज़र्स के लिए प्रक्रियागत सुरक्षा उपाय और निदान की एक्सेस न होने के कारण कलाकार ऐसे प्लेटफ़ॉर्म की एक्सेस से वंचित हो जाते हैं जहाँ वे अपनी कला का प्रदर्शन कर सकते हैं और न ही उन्हें उनकी कला का आनंद लेने वाले दर्शक मिल पाते हैं. कुछ मामलों में, सरकारें यह कंट्रोल करने के लिए कंपनियों के साथ काम करती हैं कि किस तरह का कंटेंट ऑनलाइन उपलब्ध रहे. साथ मिलकर इस तरह का काम करना खतरनाक है क्योंकि इससे कलाकारों की आवाज़ दब सकती है और लोगों को… अभिव्यक्ति के रूप में कला दिखाई नहीं देगी.

अभिव्यक्ति की आज़ादी पर संयुक्त राष्ट्र के विशेष रैपर्टर ने कहा है कि सोशल मीडिया कंपनियों के लिए समाधान की प्रक्रिया में "प्लेटफ़ॉर्म से जुड़े फ़ैसलों पर अपील करने के लिए एक पारदर्शी और सुलभ प्रक्रिया शामिल होनी चाहिए, जिसमें कंपनियाँ एक तर्कसंगत जवाब देंगी, जिसे सार्वजनिक रूप से भी उपलब्ध होना चाहिए" (A/74/486, पैरा 53).

भले ही इस केस में विचाराधीन कंटेंट एक ऐसे Instagram अकाउंट द्वारा पोस्ट किया गया था जो चिंक्स (ओएस) का नहीं था, कलाकार ने वही वीडियो अपने अकाउंट पर भी पोस्ट किया था. उसे भी उसी समय हटा दिया गया जब इस केस के कंटेंट को हटाया गया, जिसके कारण पहले उसका अकाउंट बंद हुआ और फिर हटा दिया गया. इससे पता चलता है कि कानून प्रवर्तन और Meta के बीच सहयोग के कारण कलाकारों की अभिव्यक्ति बहुत हद तक सीमित हो सकती है जिससे उनकी ऑडियंस को प्लेटफ़ॉर्म पर वह कला देखने को नहीं मिलेगी. जैसा कि बोर्ड की जानकारी की आज़ादी रिक्वेस्ट से कन्फ़र्म हुआ, इस सहयोग का ख़ास और एक्सक्लूसिव टार्गेट ड्रिल कलाकार हैं, जो अधिकांश युवा अश्वेत होते हैं.

बोर्ड ने रिक्वेस्ट करके कहा कि Meta, चिंक्स (ओएस) के अकाउंट से हटाए गए कंटेंट को रिव्यू के लिए रेफ़र करे, ताकि उसका भी इस केस के कंटेंट के साथ परीक्षण किया जा सके. ऐसा करना तकनीकी रूप से संभव नहीं था क्योंकि Meta ने अकाउंट डिलीट कर दिया था. इससे निदान के अधिकार को लेकर गंभीर चिंताएँ सामने आईं, क्योंकि “एस्केले होने पर” लिए गए फ़ैसलों के खिलाफ़ यूज़र्स बोर्ड के सामने अपील नहीं कर सकते. इसमें “एन्फ़ोर्स करने के लिए अतिरिक्त संदर्भ” पॉलिसी से जुड़े गंभीर और कठिन फ़ैसले शामिल हैं, जिनके बारे में सिर्फ़ “एस्केलेट होने पर” फ़ैसला लिया जाता है. इसमें कानूनसम्मत कंटेंट सहित हटाने की सभी सरकारी रिक्वेस्ट भी शामिल हैं (“प्रोडक्ट में मौजूद टूल” के उपयोग के अलावा), जो रिव्यू के लायक हैं और ओवरसाइट बोर्ड के चार्टर के तहत दायरे में आती हैं. इनमें से बाद वाली बात उन लोगों के लिए ख़ास तौर पर चिंताजनक है जो ऐसे ग्रुप से आते हैं जिनके खिलाफ़ भेदभाव किया जाता है, क्योंकि अगर वे न्याय पाना चाहते हैं, तो Meta के प्रोडक्ट डिज़ाइन चुनावों के कारण उसमें आगे बाधाएँ आने की संभावनाएँ हैं.

निदान के अधिकार के बारे में ये चिंताएँ उन चिंताओं को बढ़ाती हैं जिन्हें क्रॉस-चेक पर आगामी पॉलिसी परामर्शी राय में बोर्ड के काम के दौरान उठाई गई थीं. क्रॉस-चेक वह सिस्टम है जिसे Meta, कंटेंट को हटाने से पहले ऐसी कुछ ख़ास पोस्ट के लिए ह्यूमन रिव्यू की अतिरिक्त लेयर लगाकर एन्फ़ोर्समेंट की गलतियाँ कम करने के लिए उपयोग करता है जिन्हें शुरुआती तौर पर उसके नियम तोड़ने वाली माना जाता है. Meta ने बोर्ड को बताया कि मई और जून 2022 के बीच क्रॉस-चेक सिस्टम में कंटेंट के लगभग एक तिहाई फ़ैसलों के खिलाफ़ यूज़र्स, बोर्ड को अपील नहीं कर पाए. बोर्ड इस बारे में क्रॉस-चेक परामर्शी राय में आगे बात करेगा.

8.4 समान संदर्भ वाला मिलता-जुलता कंटेंट

बोर्ड ने नोट किया कि इस कंटेंट को हिंसा और उकसावे के मीडिया मैचिंग सर्विस बैंक में जोड़ा गया था, जिसके कारण मिलते-जुलते कंटेंट को अपने आप हटा दिया गया और अन्य अकाउंट पर अकाउंट के लेवल की अन्य संभावित कार्रवाइयाँ हुईं. फ़ैसले के बाद, Meta को यह सुनिश्चित करना चाहिए कि कंटेंट को बैंक से हटा दिया गया है, ऐसे मिलते-जुलते कंटेंट को यथासंभव रीस्टोर कर दिया गया है जिसे उसने गलती से हटा दिया था और स्ट्राइक या अकाउंट के लेवल की पेनल्टी वापस ले ली गई हैं. इससे Instagram या Facebook पर चिंक्स (ओएस) के फिर से अकाउंट बनाने पर लगाई गई रोक भी हट जानी चाहिए.

9. ओवरसाइट बोर्ड का फ़ैसला

ओवरसाइट बोर्ड ने Meta के कंटेंट हटाने के फ़ैसले को बदल दिया है और पोस्ट को रीस्टोर करने के लिए कहा है.

10. पॉलिसी से जुड़ी सलाह का कथन

A.

1. Meta की “अभिव्यक्ति” की वैल्यू के उसके डिस्क्रिप्शन को अपडेट किया जाना चाहिए और उसमें कलात्मक और रचनात्मक अभिव्यक्ति की महत्व दर्शाया जाना चाहिए. बोर्ड इस सुझाव को तब लागू मानेगा जब Meta अपनी वैल्यू को अपडेट करेगा.

2. Meta को यह स्पष्ट करना चाहिए कि हिंसा और उकसावे के कम्युनिटी स्टैंडर्ड के तहत “अप्रत्यक्ष धमकी” के रूप में कंटेंट को हटाए जाने के लिए, एक मुख्य और एक द्वितीयक संकेत ज़रूरी है. सिग्नल की लिस्ट को आंतरिक क्रियान्वयन स्टैंडर्ड के अनुसार, मुख्य और द्वितीयक सिग्नल में बाँटा जाना चाहिए. इससे इस क्षेत्र में Meta की कंटेंट पॉलिसी को आसानी से समझा जा सकेगा, ख़ास तौर पर वे लोग जो कंटेंट को संभावित रूप से उल्लंघन करने वाले के रूप में रिपोर्ट करते हैं. बोर्ड इस सुझाव को तब लागू मानेगा जब हिंसा और उकसावे के कम्युनिटी स्टैंडर्ड की भाषा को अपडेट कर दिया जाएगा.

B. एन्फ़ोर्समेंट

3. कंटेंट को हटाने और बनाए रखने सहित, अगर Meta की आंतरिक एस्केलेशन प्रोसेस के ज़रिए कोई फ़ैसला लिया जाता है, तो Meta को यूज़र्स को ओवरसाइट बोर्ड के समक्ष अपील करने का अवसर देना चाहिए. यह बोर्ड को निदान की एक्सेस की संभावना देने और “सिर्फ़ एस्केलेट होने पर” एन्फ़ोर्समेंट फ़ैसलों के खिलाफ़ अपील पाने में बोर्ड को सक्षम बनाने के लिए ज़रूरी है. इसमें कम्युनिटी स्टैंडर्ड के उल्लंघन के कारण कंटेंट हटाने के उन मामलों के खिलाफ़ अपील भी शामिल होनी चाहिए जिन्हें प्रोडक्ट में मौजूद टूल के बाहर से “विश्वसनीय फ़्लैगर” या सरकारी की ओर से काम करने वाले लोगों की रिपोर्ट के आधार पर हटाया गया. बोर्ड इसे तब लागू मानेगा जब उसे एस्केलेशन के बाद हुए फ़ैसलों पर यूज़र की अपीलें मिलने लगेंगी और जब Meta, बोर्ड से यह डेटा शेयर करेगा कि एस्केलेशन के सभी योग्य फ़ैसलों में यूज़र्स को अपील शुरू करने के लिए रेफ़रेंस ID मिल रही हैं.

4. Meta की ओर से कोई भी आंतरिक कार्रवाई शुरू किए जाने से पहले, Meta को सरकार की ओर से काम करने वाले लोगों से रिक्वेस्ट लेने का (प्रोडक्ट में मौजूद रिपोर्टिंग टूल से बाहर) न्यूनतम शर्त पूरी करवाने वाला एक ऐसा मानक फ़ॉर्म बनाकर कंटेंट को हटाने की रिक्वेस्ट लेने का वैश्विक रूप से एक जैसा तरीका लागू करना और उसे सुनिश्चित करना चाहिए. उदाहरण के लिए, उसमें यह पूछा जाना चाहिए कि पॉलिसी की किस बात का उल्लंघन हुआ, क्यों उल्लंघन हुआ और उस निष्कर्ष पर पहुँचने के विस्तृत प्रमाण क्या हैं. इससे ट्रांसपेरेंसी रिपोर्टिंग के उद्देश्यों के लिए जानकारी का ज़्यादा व्यवस्थित कलेक्शन सुनिश्चित करने में मदद मिलेगी. बोर्ड इसे तब लागू मानेगा जब Meta, बोर्ड और ट्रांसपेरेंसी सेंटर को ऐसी आंतरिक गाइडलाइन बताए जिसमें रिक्वेस्ट लेने के ऐसे मानक सिस्टम की जानकारी हो.

5. Meta को ऐसे अकाउंट और कंटेंट को संरक्षित करना चाहिए जिन्हें ऐसा कंटेंट पोस्ट करने के कारण दंड दिया गया हो या बंद कर दिया गया हो जो बोर्ड द्वारा जारी जाँच के अधीन हो. यह उन अकाउंट को हमेशा के लिए डिलीट होने से बचाता है जिनसे बोर्ड वह कंटेंट माँग सकता है जिसे फ़ैसला लेते समय रेफ़र किया गया था या जिनसे बोर्ड यह सुनिश्चित कर सकता है कि उसके फ़ैसलों को इसी तरह के संदर्भ वाले इसी तरह के सभी फ़ैसलों पर लागू किया जा सकता है जिन्हें गलती से हटा दिया गया हो. बोर्ड इसे तब लागू मानेगा जब बोर्ड के फ़ैसल ऊपर बताई गई एंटिटी पर लागू हों और Meta उन एंटिटी की संख्या बताए जो बोर्ड के हर फ़ैसले से प्रभावित हुई हों.

C. पारदर्शिता

6. Meta अपने ट्रांसपेरेंसी सेंटर में अपनी “ कम्युनिटी स्टैंडर्ड एन्फ़ोर्समेंट रिपोर्ट” और “ कंटेंट पर प्रतिबंध की कानूनी रिक्वेस्ट की रिपोर्ट” के अलावा एक ऐसा सेक्शन बनाए जिसमें सरकार की ओर से काम करने वाले लोगों से प्राप्त कम्युनिटी स्टैंडर्ड के उल्लंघन के लिए कंटेंट के रिव्यू की रिक्वेस्ट की रिपोर्ट हो. इसमें देश और सरकारी एजेंसी के अनुसार रिव्यू और हटाने की रिक्वेस्ट की संख्या और Meta द्वारा उन्हें अस्वीकार करने की संख्या हो. पारदर्शिता को बेहतर बनाने के लिए यह ज़रूरी है. बोर्ड इसे तब लागू मानेगा जब Meta अपनी “कम्युनिटी स्टैंडर्ड एन्फ़ोर्समेंट रिपोर्ट” में सरकार की ओर से काम करने वाले लोगों से प्राप्त उन रिक्वेस्ट के लिए एक अलग सेक्शन बनाए जिनके कारण कंटेंट पॉलिसी के उल्लंघन में कंटेंट हटाया गया.

7. Meta को सिस्टम में मौजूद ऐसे पक्षपात का आकलन करने के लिए कंटेंट मॉडरेशन के अपने उन फ़ैसलों का नियमित रिव्यू करना चाहिए जो सरकार की ओर से काम करने वाले लोगों से प्राप्त कंटेंट रिव्यू की रिक्वेस्ट के कारण लिए गए हों. Meta को पक्षपात की घटनाओं को ठीक करने और/या ज़रूरत से बड़े असर को रोकने के लिए सरकार की ओर से कंटेंट हटाने की रिक्वेस्ट पर लिए गए फ़ैसलों के लिए औपचारिक फ़ीडबैक लूप बनाना चाहिए. बोर्ड इसे तब लागू मानेगा जब Meta ऐसे ऑडिट से प्राप्त सामान्य इनसाइट और सिस्टम में मौजूद पक्षपात को दूर करने के लिए की गई कार्रवाइयों की जानकारी नियमित रूप से प्रकाशित करे.

*प्रक्रिया संबंधी नोट:

ओवरसाइट बोर्ड के फ़ैसले पाँच मेंबर्स के पैनल द्वारा लिए जाते हैं और बोर्ड में बहुमत का फ़ैसला मान्य होता है. ज़रूरी नहीं है कि बोर्ड के फ़ैसले, सभी मेंबर्स की निजी राय दर्शाएँ.

इस केस के फ़ैसले के लिए, बोर्ड की ओर से स्वतंत्र रिसर्च करवाई गई थी. बोर्ड की सहायता एक स्वतंत्र शोध संस्थान ने की जिसका मुख्यालय गोथेनबर्ग यूनिवर्सिटी में है और जिसके पास छह महाद्वीपों के 50 से भी ज़्यादा समाजशास्त्रियों की टीम के साथ ही दुनियाभर के देशों के 3,200 से भी ज़्यादा विशेषज्ञ हैं. बोर्ड को Duco Advisers की सहायता भी मिली, जो भौगोलिक-राजनैतिक, विश्वास और सुरक्षा और टेक्नोलॉजी के आपसी संबंध पर काम करने वाली एक एडवाइज़री फ़र्म है. Lionbridge Technologies, LLC कंपनी ने भाषा संबंधी विशेषज्ञता की सेवा दी, जिसके विशेषज्ञ 350 से भी ज़्यादा भाषाओं में कुशल हैं और वे दुनियाभर के 5,000 शहरों से काम करते हैं.