प्रकाशित
चिह्नित खतरनाक लोगों को “शहीद” कहना
26 मार्च 2024
पॉलिसी एडवाइज़री टीम की इस राय में यह विश्लेषण किया गया है कि Meta, “शहीद” शब्द को किस तरह मॉडरेट करता है और इसमें अभिव्यक्ति की आज़ादी पर खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी के असर के बारे में महत्वपूर्ण सवाल उठाए गए हैं.
रिपोर्ट का सारांश
बोर्ड समझता है कि खतरनाक चिह्नित लोगों के संदर्भ में “शहीद” शब्द वाले कंटेंट को Meta जिस तरह से मॉडरेट करता है, वह मुक्त अभिव्यक्ति को अत्यंत और अनुपातहीन रूप से प्रतिबंधित करता है. Meta मानता है कि उसके द्वारा “खतरनाक” चिह्नित लोगों के संदर्भ में उपयोग किए गए सभी “शहीद” शब्द उल्लंघन करने वाले होते हैं और उस कंटेंट को हटा दिया जाता है. Meta के अनुसार, यह संभव है कि “शहीद” शब्द की वजह से उसके सभी प्लेटफ़ॉर्म पर कम्युनिटी स्टैंडर्ड के तहत किसी भी अन्य अकेले शब्द या वाक्यांश की तुलना में ज़्यादा कंटेंट हटा दिया जाता है. आतंकवादी हिंसा के कृत्यों के गंभीर परिणाम होते हैं – इससे निर्दोष लोगों का जीवन तबाह होता है, मानवाधिकारों में रुकावट आती है और हमारे समाज का ताना-बाना कमज़ोर होता है. हालाँकि, ऐसी किसी भी हिंसा को रोकने के लिए अभिव्यक्ति की आज़ादी पर सभी प्रतिबंध आवश्यक और आनुपातिक होने चाहिए, यह देखते हुए कि कंटेंट को बेवजह हटाने का कोई सकारात्मक असर नहीं होता, बल्कि उसका समाज पर उल्टा असर होता है.
बोर्ड के सुझाव इस नज़रिए से शुरू होते हैं कि Meta यह सुनिश्चित करने के लिए अनिवार्य रूप से कार्रवाई करे कि उसके प्लेटफ़ॉर्म्स का उपयोग लोगों को हिंसक कामों के लिए उकसाने के लिए या उन कामों को करने वाले लोगों को भर्ती करने के लिए न किया जाए. “शहीद” शब्द का उपयोग कभी-कभी चरमपंथियों द्वारा उन लोगों की प्रशंसा और महिमामंडन करने के लिए किया जाता है जो हिंसक आतंकवादी कामों को अंजाम देते समय मारे जाते हैं. हालाँकि, Meta को इस खतरे पर प्रतिक्रिया देते समय अभिव्यक्ति की आज़ादी सहित सभी मानवाधिकारों का भी सम्मान करना चाहिए.
7 अक्टूबर, 2023 को, जब बोर्ड इस पॉलिसी एडवाइज़री टीम की राय को अंतिम रूप दे रहा था, हमास (Meta के खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी में टियर 1 के तहत चिह्नित संगठन) के नेतृत्व में इज़राइल पर अभूतपूर्व आतंकी हमले किए गए जिनमें 1,200 लोग मारे गए और लगभग 240 लोगों को बंधक बना लिया गया ( विदेश मंत्रालय, इज़राइल सरकार). 6 फ़रवरी, 2024 तक की न्यूज़ रिपोर्ट के अनुसार, ऐसी आशंका है कि जनवरी के शुरुआती समय तक हमास के कब्ज़े में मौजूद लगभग 136 बंधकों में से कम से कम 30 लोग मारे जा चुके हैं. Meta ने खतरनाक संगठनों और लोगों से जुड़ी अपनी पॉलिसी के तहत इन घटनाओं को तुरंत एक आतंकी हमले के रूप में चिह्नित किया. इज़राइल ने हमलों के जवाब में तुरंत एक सैन्य अभियान शुरू किया. उस सैन्य अभियान में 4 मार्च तक गाज़ा में 30,000 से ज़्यादा लोग मारे जा चुके हैं (मानवतावादी मामलों के समन्वय के लिए संयुक्त राष्ट्र कार्यालय, जो गाज़ा के स्वास्थ्य मंत्रालय से डेटा प्राप्त करता है). जनवरी की रिपोर्ट के अनुसार, इन हमलों में मारे गए लोगों में 70% महिलाएँ और बच्चे थे.
इन घटनाओं के बाद, बोर्ड ने यह सुनिश्चित करने के लिए इस पॉलिसी एडवाज़री टीम की राय का प्रकाशन रोक दिया कि उसके सुझाव इस संदर्भ में Meta के प्लेटफ़ॉर्म्स और “शहीद” शब्द के उपयोग के लिए उचित हों. इस अतिरिक्त रिसर्च से यह कन्फ़र्म हुआ कि बोर्ड द्वारा Meta को “शहीद” शब्द को मॉडरेट करने के संबंध में दिए गए सुझावों को ऐसी घटनाओं के अत्यंत दबाव में भी कायम रखा गया और इससे संकटों पर Meta द्वारा दी जाने वाली प्रतिक्रियाओं में सभी मानवाधिकारों का ज़्यादा सम्मान सुनिश्चित किया जाएगा. साथ ही, बोर्ड ने इस बात को समझा कि इस बारे में Meta की पॉलिसीज़ ग्लोबल हैं और उनका असर इस संघर्ष में शामिल क्षेत्रों के अलावा अन्य क्षेत्रों में भी होता है. इज़राइल और फ़िलीस्तीन में हाल की घटनाओं की प्रमुखता को समझते हुए, बोर्ड के सुझाव भी ग्लोबल हैं और किसी विशेष संदर्भ तक सीमित नहीं हैं.
बोर्ड की दृष्टि में, “शहीद” शब्द को मॉडरेट करने का Meta का नज़रिया ज़रूरत से ज़्यादा विस्तृत है और उससे अभिव्यक्ति की आज़ादी और लोगों की बातचीत पर अनावश्यक प्रतिबंध लगते हैं. जैसे कि हिंसा और चिह्नित एंटिटी की रिपोर्ट करने वाली पोस्ट को गलती से हटा दिया जा सकता है. Meta का नज़रिया “शहीद” शब्द के अलग-अलग अर्थों को भी समझने में विफल रहा है जिनमें से कई अर्थ महिमामंडन करने या स्वीकृति दिखाने के लिए उपयोग नहीं किए जाते. इस नज़रिए के कारण अरबी भाषा बोलने वाले लोगों और अन्य भाषाओं के लोगों (जिनमें से कई मुसलमान हैं) की पोस्ट्स को अक्सर हटा दिया जाता है, जबकि पोस्ट को इस तरह हटाने से खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी के उद्देश्य पूरे नहीं होते. इसके अलावा, Meta की पॉलिसीज़ में, उदाहरण के लिए, चिह्नित लोगों, संगठनों और घटनाओं के महिमामंडन, समर्थन और प्रतिनिधित्व के साथ-साथ हिंसा के उकसावे को प्रतिबंधित किया गया है. अगर इन पॉलिसीज़ को एकदम सही तरीके से एन्फ़ोर्स किया जाता है, तो Meta के प्लेटफ़ॉर्म्स के आंतकवादियों द्वारा उपयोग से होने वाले खतरों को कम किया जा सकता है. इसके अनुसार, बोर्ड ने सुझाव दिया कि Meta यह न माने कि “शहीद” शब्द का उपयोग खतरनाक चिह्नित लोगों के लिए ही किया जाता है और उस पर पूरी तरह प्रतिबंध न लगाए. साथ ही वह अपनी पॉलिसी में भी बदलाव करे और इस शब्द वाले कंटेंट का विश्लेषण करते समय संदर्भ पर ज़्यादा से ज़्यादा विचार करे.
बैकग्राउंड
फ़रवरी 2023 में, Meta ने बोर्ड से पूछा कि क्या उसे ऐसे कंटेंट को हटाते रहना चाहिए जिसमें अरबी शब्द “शहीद” या अरबी अक्षरों में यही शब्द شهيد के रूप में मौजूद हो, जब इसका उपयोग खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी में चिह्नित लोगों का उल्लेख करने के लिए किया जाए. “शहीद” एक आगत शब्द भी है (अर्थात कई गैर-अरबी भाषाओं ने इस अरबी मूल के शब्द को उसकी वर्तनी सहित अपनी भाषाओं में “शामिल” किया है).
कंपनी “शहीद” शब्द को एक “आदरसूचक” शब्द मानती है जिसे कई संस्कृतियों, धर्मों और भाषाओं की कई कम्युनिटी में किसी ऐसे व्यक्ति के संदर्भ में किया जाता है जिसकी आकस्मिक मृत्यु हुई हो, जैसे किसी दुर्घटना में या किसी युद्ध में सम्मानजनक रूप से. कंपनी यह मानती है कि इस शब्द के “कई अर्थ” हैं और हालाँकि “अंग्रेज़ी भाषा में इसका कोई सीधा समतुल्य शब्द उपलब्ध नहीं है,” इसके सामान्य अंग्रेज़ी अनुवाद के रूप में “martyr” शब्द का उपयोग किया जाता है. इस बात को नोट करते हुए कि “अंग्रेज़ी भाषा में ‘martyr’ शब्द का उपयोग उस व्यक्ति के लिए किया जाता है जो किसी भलाई के काम में घायल हुआ या मारा गया हो और अक्सर इसे सकारात्मक संदर्भ में उपयोग किया जाता है,” Meta ने कहा कि “शब्द के इस उपयोग के कारण ही उसने [“शहीद”] शब्द को अपनी [खतरनाक संगठनों और लोगों] से जुड़ी पॉलिसी में प्रशंसा करने वाला बताया है.”
Meta यह मानता है कि किसी चिह्नित व्यक्ति को “शहीद” कहना, खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी के तहत हमेशा उसकी “प्रशंसा” मानी जाती है और उस पर पूरी तरह बैन है. Meta यह मानता है कि इस शब्द के कई अर्थ होने के कारण, “हो सकता है कि उससे बड़ी मात्रा में ऐसी अभिव्यक्ति पर इसका ज़रूरत से ज़्यादा एन्फ़ोर्समेंट हो रहा हो जिसका उद्देश्य किसी चिह्नित व्यक्ति की प्रशंसा करना न हो, खास तौर पर अरबी भाषा बोलने वाले लोगों के बीच.” इसके अलावा, Meta “चिह्नित एंटिटी की रिपोर्ट करने, उनकी निंदा करने या उनकी निष्पक्ष चर्चा करने” के लिए “शहीद” शब्द के उपयोग की परमिशन देने के लिए खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी के अपवाद लागू नहीं करता. यह दिसंबर 2023 में पॉलिसी में किए गए ताज़ा अपडेट में भी जारी है, जो अब “प्रशंसा” के बजाय “महिमामंडन” और “अस्पष्ट संदर्भों” को प्रतिबंधित करती है और ऐसे शब्दों वाले कंटेंट को पूरी तरह हटा दिया जाता है.
इन चिंताओं के कारण, Meta ने 2020 में पॉलिसी बनाने की प्रोसेस शुरू की थी ताकि वह “शहीद” शब्द के प्रति अपने नज़रिए का दोबारा आकलन कर सके. हालाँकि, कंपनी इस पर एकमत नहीं हो सकी और किसी नए नज़रिए को अंतिम रूप नहीं दिया जा सका.
पॉलिसी एडवाइज़री टीम की यह राय माँगे जाते समय, Meta ने बोर्ड को तीन संभावित पॉलिसी विकल्प प्रस्तुत किए:
- यथास्थिति बनाई रखी जाए.
- चिह्नित लोगों के संदर्भ में “शहीद” शब्द के उपयोग को तब परमिशन दी जाए जब पोस्ट से “प्रशंसा” शब्द से जुड़े अपवादों की पूर्ति होती हो (जैसे कि रिपोर्ट करने, निष्पक्ष चर्चा करने या निंदा करने के लिए), बशर्ते उसमें कोई अन्य प्रशंसा न हो या “हिंसा के संकेत” न हों. Meta द्वारा प्रस्तावित इन सिग्नलों के कुछ उदाहरणों में हथियारों का विज़ुअल चित्रण या सैन्य भाषा या असली दुनिया की हिंसा के संदर्भ शामिल हैं.
- चिह्नित लोगों के संदर्भ में “शहीद” शब्द के उपयोग की तब तक परमिशन दी जाए जब तक कि उसमें कोई अन्य प्रशंसा न हो या हिंसा का संकेत न हो. दूसरे विकल्प के विपरीत, ऐसा इस बात पर ध्यान दिए बगैर किया जाए कि क्या कंटेंट पर ऊपर बताया गया कोई अपवाद लागू होता है.
बोर्ड ने अन्य संभावित पॉलिसी विकल्पों पर विचार किया. पॉलिसी एडवाइज़री टीम की इस पूरी राय में दिए गए कारणों के लिए, बोर्ड के सुझाव तीसरे विकल्प के आसपास हैं, भले ही अपनी रिक्वेस्ट में Meta द्वारा प्रस्तावित हिंसा के सिग्नलों में से कम ही सिग्नलों को स्वीकार किया गया. इसके अलावा चिह्नित एंटिटी और उनके कामों की रिपोर्ट करने, उनकी निष्पक्ष चर्चा करने और उनकी निंदा करने के लिए पॉलिसी के अपवादों का विस्तृत रूप से उपयोग करने की ज़रूरत है.
मुख्य निष्कर्ष और सुझाव
बोर्ड समझता है कि खतरनाक चिह्नित लोगों के संदर्भ में “शहीद” शब्द के बारे में Meta का मौजूदा नज़रिया ज़रूरत से ज़्यादा विस्तृत है और वह मुक्त अभिव्यक्ति को अत्यंत और अनुपातहीन रूप से प्रतिबंधित करता है.
“शहीद” एक सांस्कृतिक और धार्मिक रूप से महत्वपूर्ण शब्द है. कभी-कभी इसका उपयोग उन लोगों की प्रशंसा करने और उनका “महिमामंडन” भी करने के लिए किया जाता है जो हिंसक काम करते हुए मारे गए. लेकिन इसका उपयोग अक्सर खतरनाक लोगों के संदर्भ में उनकी रिपोर्ट करने और निष्पक्ष कमेंटरी के लिए, शैक्षणिक चर्चा के लिए, मानवाधिकारों से जुड़ी बहस के लिए और कई अन्य सकारात्मक तरीकों से किया जाता है. अन्य अर्थों के अलावा, “शहीद” शब्द का व्यापक रूप से उपयोग ऐसे लोगों के संदर्भ में किया जाता है जो अपने देश की सेवा करते हुए, किसी अच्छे काम के लिए मारे गए या जो किसी सामाजिक-राजनैतिक हिंसा या प्राकृतिक आपदा का आकस्मिक शिकार बने. कुछ मुसलमान समुदायों में, इसका उपयोग प्रथम (दिया गया) नाम और उपनाम के रूप में भी किया जाता है. यह मानने का ठोस कारण मौजूद है कि “शहीद” शब्द के कई अर्थों के कारण बड़ी मात्रा में ऐसे कंटेंट को हटा दिया जाता है जिसका उद्देश्य आतंकवादियों या उनके हिंसक कामों की प्रशंसा करना नहीं होता.
चिह्नित लोगों के संदर्भ में सिर्फ़ “शहीद” शब्द का उपयोग करने के कारण ही कंटेंट को हटा देने की Meta की सोच से दुनिया की भाषाई जटिलता की उपेक्षा होती है और इसके कई उपयोगों में इसे हमेशा और सिर्फ़ अंग्रेज़ी शब्द “martyr” के समतुल्य शब्द के रूप में उपयोग किया जाता है. ऐसा करने से अभिव्यक्ति की आज़ादी और प्रेस की आज़ादी पर गंभीर असर पड़ते हैं, लोगों की बातचीत पर अकारण प्रतिबंध लगते हैं और समानता और गैर-भेदभाव के लिए गंभीर नकारात्मक परिणाम होते हैं. एन्फ़ोर्समेंट की यह अधिकता अरबी भाषा और अन्य भाषाएँ बोलने वाले लोगों पर अनुपातहीन रूप से असर डालती है जिनमें “शहीद” शब्द को आगत शब्द के रूप में उपयोग किया जाता है. साथ ही, खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी को लागू करने के अन्य तरीकों से भी Meta, सुरक्षा की अपनी वैल्यू और आतंकवादियों का महिमामंडन करने वाली सामग्री को अपने प्लेटफ़ॉर्म से बाहर रखने में सक्षम होगा. मौजूदा पॉलिसी इसलिए अनुपातहीन और अनावश्यक है.
“शहीद” शब्द से जुड़ी अपनी पॉलिसीज़ और एन्फ़ोर्समेंट का मानवाधिकारों से बेहतर सामंजस्य बैठाने के लिए, बोर्ड ने ये सुझाव दिए (पूरे सुझावों के लिए सेक्शन 6 देखें):
1. Meta को यह मानना बंद कर देना चाहिए कि किसी चिह्नित व्यक्ति या चिह्नित संगठनों के अनाम सदस्यों के लिए उपयोग किए जाने पर “शहीद” शब्द हमेशा उल्लंघन करेगा और पॉलिसी के अपवादों के लिए योग्य नहीं होगा. चिह्नित व्यक्तियों को “शहीद” बताने वाले कंटेंट को सिर्फ़ दो स्थितियों में “अस्पष्ट संदर्भ” के रूप में हटाया जाना चाहिए. पहला, जब हिंसा के तीन में से एक या ज़्यादा संकेत मौजूद हों: किसी युद्ध सामग्री/हथियार का विज़ुअल चित्रण, किसी युद्ध सामग्री/हथियार का उपयोग करने या साथ रखने के इरादे का कथन या समर्थन या किसी चिह्नित घटना का संदर्भ. दूसरा, जब कोई कंटेंट Meta की पॉलिसीज़ का अन्यथा उल्लंघन करता है (जैसे कि महिमामंडन के लिए या किसी चिह्नित व्यक्ति का संदर्भ “शहीद” के उपयोग के अलावा अन्य कारणों से अस्पष्ट रहने के कारण). किसी भी परिदृश्य में, कंटेंट को “रिपोर्ट करने, निष्पक्ष चर्चा करने और निंदा करने” से जुड़े अपवादों के लिए योग्य रहना चाहिए.
2. “अस्पष्ट संदर्भ” के बारे में प्रतिबंध को स्पष्ट करने के लिए, Meta को उल्लंघन करने वाले कंटेंट के कई उदाहरण शामिल करने चाहिए, जिसमें किसी चिह्नित व्यक्ति को “शहीद” बताने वाली पोस्ट शामिल है जिसमें सुझाव सं. 1 में बताए गए हिंसा के तीन सिग्नलों में से एक या उससे ज़्यादा सिग्नल शामिल हों.
3. Meta के आंतरिक पॉलिसी मार्गदर्शन को भी यह स्पष्ट करने के लिए अपडेट किया जाना चाहिए कि चिह्नित व्यक्तियों को “शहीद” के रूप में संदर्भित करना सिर्फ़ तब उल्लंघन करता है जब उसमें हिंसा का कोई सिग्नल शामिल हो. इसके अलावा, उन सिग्नलों के मौजूद होने पर भी, कंटेंट को “रिपोर्ट करने, निष्पक्ष चर्चा करने या निंदा करने” से जुड़े अपवादों का फ़ायदा मिलना चाहिए.
अगर Meta इन सुझावों को स्वीकार करके उन्हें लागू करता है, तो अपने मौजूदा नियमों के तहत, कंपनी ऐसे कंटेंट को हटाना जारी रखेगी जो चिह्नित लोगों का “महिमामंडन” करता है, उनकी हिंसा या नफ़रत को एक उपलब्धि बताता है या उनके हिंसक या नफ़रत फैलाने वाले कामों को वैधानिक बताता है या उनकी वकालत करता है. साथ ही कंपनी चिह्नित खतरनाक एंटिटी के समर्थन या प्रतिनिधित्व को भी हटा देगी. इन सुझावों के परिणामस्वरूप प्राप्त बोर्ड के प्रस्तावित नज़रिए से Meta द्वारा किसी चिह्नित व्यक्ति के संबंध में “शहीद” शब्द को हमेशा उल्लंघन करने वाला मानने पर रोक लगेगी और सिर्फ़ वही कंटेंट हटाया जाएगा जो पॉलिसी के अन्य उल्लंघन भी करता हो (जैसे महिमामंडन) या जो हिंसा के सिग्नलों के कारण “अस्पष्ट संदर्भ” हो. ऐसा कंटेंट भी “चिह्नित लोगों की रिपोर्ट करने, निष्पक्ष चर्चा करने और निंदा करने” से जुड़े पॉलिसी अपवादों के लिए योग्य माना जाना चाहिए.
बोर्ड ने Meta को सुझाव भी दिया कि वह:
4. उस प्रक्रिया की जानकारी दे जिसके तहत एंटिटी और घटनाओं को खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी में चिह्नित किया जाता है ताकि इस लिस्ट के बारे में पारदर्शिता आए. Meta को ऐसी सामूहिक जानकारी भी प्रकाशित करनी चाहिए कि चिह्नित लोगों की उसकी लिस्ट के हर टियर में कुल कितनी एंटिटी शामिल हैं और पिछले एक वर्ष के दौरान कितनी एंटिटी को जोड़ा और हटाया गया है.
5. नाम जोड़ने और जो नाम प्रकाशित शर्तें पूरी न करें, उन्हें हटाने का नियमित ऑडिट करने के लिए एक स्पष्ट और प्रभावी प्रक्रिया बनाएँ ताकि यह सुनिश्चित किया जा सके कि उसकी खतरनाक संगठनों और लोगों से जुड़ी एंटिटी लिस्ट अप टू डेट है और उसमें ऐसा कोई संगठन, लोग और घटनाएँ शामिल नहीं हैं जो अब Meta की चिह्नित किए जाने की परिभाषा पर खरी नहीं उतरतीं.
6. उन तरीकों के बारे में विस्तार से बताए जिनका उपयोग वह खतरनाक संगठनों और लोगों से जुड़ी अपनी पॉलिसी को एन्फ़ोर्स करते समय ह्यूमन रिव्यूअर्स की सटीकता और ऑटोमेटेड सिस्टम की परफ़ॉर्मेंस का आकलन करने के लिए करता है. Meta को इस पॉलिसी के एन्फ़ोर्समेंट में उपयोग किए जाने वाले क्लासिफ़ायर्स के परफ़ॉर्मेंस आकलन के परिणामों को समय-समय पर शेयर करना चाहिए और परिणामों को इस तरह प्रस्तुत करना चाहिए जिनकी तुलना सभी भाषाओं और/या क्षेत्रों के अनुसार की जा सके.
7. वह स्पष्ट रूप से यह बताए कि किस तरह क्लासिफ़ायर्स का उपयोग पॉलिसी के उल्लंघनों का अनुमान लगाने के लिए किया जाता है और कोई कार्रवाई न करने, कंटेंट को ह्यूमन रिव्यू की कतार में लगाने या कंटेंट को हटाने के लिए Meta किस तरह थ्रेशोल्ड सेट करता है. स्टेकहोल्डर्स को जानकारी देने के लिए इस जानकारी को कंपनी के ट्रांसपेरेंसी सेंटर में प्रदान किया जाना चाहिए.
पॉलिसी एडवाइज़री टीम की पूरी राय
1. Meta की रिक्वेस्ट
I. पॉलिसी एडवाइज़री टीम की राय की रिक्वेस्ट
1. अपनी रिक्वेस्ट (अंग्रेज़ी और अरबी भाषा में उपलब्ध) में, Meta ने बोर्ड से पूछा कि क्या वह अपनी खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी के तहत खतरनाक चिह्नित लोगों के संदर्भ में उपयोग किए गए “शहीद” (شهيد) (और उसके एकवचन/बहुवचन रूप, जिसमें अरबी और अन्य भाषाओं में आगत भिन्नरूप भी शामिल हैं) शब्द वाले कंटेंट को हटाना जारी रखना चाहिए या कंपनी की वैल्यू और मानवाधिकार की ज़िम्मेदारियों के अनुसार कोई अलग नज़रिया बेहतर होगा. Meta ने कंटेंट से जुड़ी इसी तरह की अन्य समस्याओं पर भी मार्गदर्शन माँगा जो भविष्य में पैदा हो सकती हैं.
II. Meta का नज़रिया
2. खतरनाक संगठनों और लोगों से जुड़ी Meta की पॉलिसी में पहले “चिह्नित एंटिटी और लोगों की प्रशंसा, मौलिक समर्थन या प्रतिनिधित्व” और “उल्लंघन करने वाली हिंसक घटनाओं” की प्रशंसा, मौलिक समर्थन या प्रतिनिधित्व को प्रतिबंधित किया गया है. 29 दिसंबर 2023 को, Meta ने इस पॉलिसी को अपडेट करके प्रशंसा पर प्रतिबंध हटा दिया और “महिमामंडन” और “अस्पष्ट संदर्भों” पर प्रतिबंध को जोड़ दिया. बोर्ड ने सोच-विचार से जुड़ी अपनी बातों को यह आकलन करने के लिए आगे बढ़ाया कि क्या पॉलिसी के इन बदलावों का असर उसके निष्कर्षों और सुझावों पर होगा.
3. पॉलिसी एडवाइज़री टीम की राय की यह रिक्वेस्ट, चिह्नित लोगों की प्रशंसा पर प्रतिबंध से संबंधित थी, न कि मौलिक समर्थन या प्रतिनिधित्व से. प्रतिनिधित्व और मौलिक समर्थन की तुलना में, Meta ने “प्रशंसा” को कम गंभीर उल्लंघन माना. Meta ने “टियर 1” को सबसे खतरनाक एंटिटी के लिए आरक्षित रखा है, जिसमें आतंकवादी, नफ़रत फैलाने वाले और आपराधिक संगठन शामिल हैं. जब Meta किसी “उल्लंघन करने वाली हिंसक घटना” को चिह्नित करता है, तो उन घटनाओं के अपराधियों को भी टियर 1 के खतरनाक लोगों के रूप में चिह्नित किया जाता है और इसलिए उनका महिमामंडन (पहले “प्रशंसा”) भी प्रतिबंधित है. चिह्नित घटनाओं में “आतंकवादी हमले, नफ़रत फैलाने वाली घटनाएँ, ऐसी हिंसा जिसमें एक से ज़्यादा लोग शिकार हुए हों या ऐसी हिंसा की कोशिश जिसमें एक से ज़्यादा लोग शिकार हो सकते हों, सीरियल मर्डर या नफ़रत फैलाने वाले अपराध” शामिल हैं. भले ही चिह्नित एंटिटी की अपनी लिस्ट खुद ही कंट्रोल करता है, जो सार्वजनिक नहीं है, लेकिन इस तरह चिह्नित किया जाना आंशिक रूप से अमेरिका सरकार द्वारा बनाई गई चिह्नित लोगों की लिस्ट पर आधारित होता है (अर्थात, Meta की चिह्नित लोगों की लिस्ट कम से कम अमेरिकी सरकार की उस लिस्ट जितनी व्यापक होगी जिससे उसे बनाया गया है). कम्युनिटी स्टैंडर्ड में यह बताया गया है कि टियर 1 की एंटिटी में “स्पेशली डेज़िग्नेटेड नारकोटिक्स ट्रैफ़िकिंग किंगपिन्स (SDNTKs),” “फ़ॉरेन टेररिस्ट ऑर्गेनाइज़ेशंस (FTOs)” और “स्पेशली डेज़िग्नेटेड ग्लोबल टेररिस्ट” शामिल हैं. अमेरिकी सरकार की ये लिस्ट सार्वजनिक रूप से क्रमशः यहाँ, यहाँ और यहाँ उपलब्ध हैं.
4. 29 दिसंबर, 2023 के पॉलिसी अपडेट से पहले, “प्रशंसा” की Meta की परिभाषा में "किसी चिह्नित एंटिटी या घटना के बारे में सकारात्मक बातें करना," "किसी चिह्नित एंटिटी को उपलब्धि के रूप में दिखाना," "चिह्नित एंटिटी के उद्देश्य को सही बताने के लिए यह क्लेम करना कि उनका नफ़रत फैलाने वाला, हिंसक या आपराधिक आचरण कानूनी या नैतिक या अन्य किसी तरीके से उचित या स्वीकार्य है" और "खुद को ऐसी किसी चिह्नित एंटिटी या घटना के साथ वैचारिक रूप से” जोड़ना शामिल था. यह परिभाषा, या उदाहरणों की सीरीज़, हमारे पहले केसों में से एक में दिए गए ओवरसाइट बोर्ड के सुझाव के बाद स्पष्टता को बेहतर बनाने के लिए जोड़ी गई थी ( नाज़ी उद्धरण फ़ैसला, सुझाव सं. 2). दिसंबर 2023 के पॉलिसी अपडेट के बाद, “महिमामंडन” को “किसी चिह्नित एंटिटी के हिंसक या नफ़रत फैलाने वाले काम को सही बताने या उसका बचाव करने के लिए यह क्लेम करना कि ऐसे काम नैतिक, राजनैतिक, तार्किक या अन्य किसी प्रकार से उचित हैं जो उन्हें स्वीकार्य या उचित बनाते हैं” या “चिह्नित एंटिटी द्वारा हिंसा या नफ़रत को किसी उपलब्धि या पूर्णता के रूप में दर्शाने या उसका जश्न मनाने” के रूप में परिभाषित किया गया है. ज़्यादा व्यापक रूप से, Meta अपने पॉलिसी अपडेट में कहता है कि “अगर यूज़र ने अपना इरादा स्पष्ट रूप से नहीं बताया है, तो वह अस्पष्ट या संदर्भरहित रेफ़रेंस को हटा देगा.” पॉलिसी में कहा गया है कि इसमें “अस्पष्ट हास्य” और “बिना कैप्शन वाले या सकारात्मक रेफ़रेंस शामिल हैं जो चिह्नित की गई एंटिटी की हिंसा या नफ़रत का महिमामंडन नहीं करते हैं.” हालाँकि, पॉलिसी में ऐसे उदाहरण नहीं दिए गए हैं कि किस तरह की पोस्ट इस नियम का उल्लंघन करेंगी. Meta ने बोर्ड को बताया है कि वह ऐसे सभी कंटेंट को हटाना जारी रखेगा जो चिह्नित लोगों को “शहीद” बताता है. ऐसे रेफ़रेंस के लिए, कंपनी पहले से यह मानती है कि “शहीद” शब्द सभी संदर्भों में उल्लंघन करता है, जिसके कारण किसी चिह्नित व्यक्ति को रेफ़र करने के लिए उपयोग किए जाते समय इस शब्द पर पूरी तरह प्रतिबंध लग जाता है. इस प्रतिबंध के दायरे को आंशिक रूप से अमेरिका द्वारा चिह्नित लोगों की ऊपर बताई गई लिस्ट द्वारा दर्शाया जा सकता है क्योंकि Meta की पॉलिसी में उसकी व्युत्पन्न लिस्ट में मौजूद किसी भी व्यक्ति (और संगठनों के सदस्यों) को “शहीद” (या “martyr” शब्द का कोई अन्य अनुवाद) कहना प्रतिबंधित है. इसमें सभी महाद्वीपों की एंटिटी शामिल हैं और यह किसी विशेष विचारधारा के आतंकवादी संगठन या संगठनों तक सीमित नहीं है.
5. कंपनी “शहीद” शब्द को “सम्मानसूचक” शब्द मानती है, जिसे कई कम्युनिटी की संस्कृतियों, धर्मों और भाषाओं में उपयोग किया जाता है. कंपनी यह मानती है कि इस शब्द के “कई अर्थ” हैं और इसे “किसी व्यक्ति की अनपेक्षित या अकाल मृत्यु, कभी-कभी गौरवशाली मृत्यु, दर्शाने के लिए उपयोग किया जाता है, जैसे जब किसी व्यक्ति की किसी दुर्घटना में या किसी लड़ाई या युद्ध में मौत हो.” Meta ने कहा कि “अंग्रेज़ी भाषा में इस शब्द का कोई सीधा समतुल्य शब्द मौजूद तो नहीं है,” लेकिन इसके लिए अक्सर अंग्रेज़ी अनुवाद के रूप में “martyr” शब्द का उपयोग किया जाता है. दिसंबर 2023 में किए गए पॉलिसी से जुड़े बदलावों से पहले बोर्ड को अपनी रिक्वेस्ट भेजते समय, Meta ने कहा कि “हम मानते हैं कि ‘martyr’ शब्द के कई अर्थ होते हैं और “इस उपयोग के कारण ही हमने अपनी [खतरनाक संगठनों और लोगों] से जुड़ी पॉलिसी में इस शब्द को प्रशंसा करने वाले शब्द के रूप में वर्गीकृत किया है.” लोगों को दिखाई देने वाले कम्युनिटी स्टैंडर्ड में इस नियम का एकमात्र रेफ़रेंस उन वाक्यांशों के एक उदाहरण के रूप में था जो प्रशंसा संबंधी प्रतिबंध का उल्लंघन करेगा. अन्य उदाहरणों के बीच, Meta ने एक वाक्यांश शामिल किया जिसमें अमेरिका के एक दोषी पाए गए आतंकवादी को “martyr” कहा गया था. पॉलिसी के अपने अरबी भाषा के वर्जन में, Meta ने उसी उदाहरण का उपयोग किया और “martyr” शब्द का अनुवाद “shaheed” किया. “martyr”/ “शहीद” वाले उदाहरण को लोगों को दिखाई देने वाले कम्युनिटी स्टैंडर्ड के दिसंबर 2023 के अपडेट में हटा दिया गया था, यद्यपि Meta ने बोर्ड को बताया है कि वह अभी भी उल्लंघन करने वाला बना हुए है और मॉडरेटर्स को उसे हटाने के निर्देश दिए गए हैं.
6. Meta किसी चिह्नित व्यक्ति के रेफ़रेंस में “शहीद” शब्द के उपयोग पर खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी के अपवाद लागू नहीं करता. ये अपवाद चिह्नित लोगों की “रिपोर्ट करने, उनकी निष्पक्ष चर्चा करने या उनकी निंदा करने” वाले कंटेंट को अन्यथा परमिशन देते हैं. ऐसे कंटेंट को हटाने पर, जिसमें किसी चिह्नित व्यक्ति की “प्रशंसा” के रूप में “शहीद” शब्द का उपयोग किया गया हो, यूज़र्स पर “गंभीर” स्ट्राइक भी लगेगी. जब इन स्ट्राइक की संख्या ज़्यादा हो जाएगी तो अकाउंट या पेज के सस्पेंशन या उसे बंद करने जैसे प्रतिबंध लगाए जाएँगे. “शहीद” शब्द से जुड़े नियम के अपवाद कहाँ लागू नहीं होंगे, इस बारे में लोगों को दिखाई देने वाले कम्युनिटी स्टैंडर्ड में नहीं बताया गया है.
7. Meta ने बताया कि “शहीद” शब्द के साथ उसका इस तरह का रवैया, सुरक्षा की उसकी वैल्यू को बेहतर बनाता है क्योंकि उसकी दृष्टि में यह कंटेंट “ऑफ़लाइन नुकसान के जोखिम में योगदान दे सकता है.” साथ ही, Meta ने यह माना कि अंग्रेज़ी शब्द “martyr,” “शहीद” शब्द का पर्याप्त अनुवाद नहीं है. “शहीद” शब्द के कई अर्थों और शुरुआत में संदर्भ और यूज़र्स के इरादों को समझने की परेशानी को देखते हुए, Meta ने यह स्वीकार किया कि वह ऐसी अभिव्यक्ति को हटाता आ रहा है जो “नुकसान के जोखिम में योगदान नहीं देती” और “जिसका उद्देश्य किसी चिह्नित व्यक्ति की प्रशंसा करना नहीं होता, खास तौर पर अरबी बोलने वाले समाज में.” जैसे कि “शहीद” शब्द वाले उस कंटेंट को हटाना जिसका उपयोग न्यूज़ रिपोर्टिंग के लिए या किसी चिह्नित व्यक्ति की अकाल मौत की निष्पक्ष चर्चा करने के लिए किया गया है, न कि उसकी या उसके आचरण की प्रशंसा (या महिमामंडन) करने के लिए.
8. 29 अगस्त, 2023 को Meta ने खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी की छूट को अपडेट करके उसमें “न्यूज़ रिपोर्टिंग,” “निष्पक्ष चर्चा,” और “निंदा” को शामिल किया. साथ ही उसमें हर अपवाद के दृष्टांत उदाहरण भी शामिल किए. इसी दौरान, Meta ने यह बताने के लिए इस छूट से जुड़ी जानकारी का भी विस्तार किया कि यूज़र “सामाजिक और राजनैतिक बातचीत के संदर्भ में” चिह्नित एंटिटी का रेफ़रेंस दे सकते हैं. परमिशन प्राप्त कंटेंट के सभी दृष्टांत उदाहरणों को दिसंबर 2023 के पॉलिसी अपडेट के भाग के रूप में हटा दिया गया था, लेकिन खुद छूट इसमें बनी रहीं. इन उदाहरणों को 8 फ़रवरी, 2024 के पॉलिसी अपडेट में बहाल किया गया. हालाँकि, न तो दिसंबर 2023 के और न फ़रवरी 2024 के अपडेट में यह स्पष्ट किया गया कि चिह्नित लोगों या संगठनों के अस्पष्ट या संदर्भरहित रेफ़रेंस को इन अपवादों का फ़ायदा नहीं मिलेगा क्योंकि उन्हें खुद पोस्ट में स्पष्ट रूप से दिखाए गए इरादे की कमी द्वारा परिभाषित किया जाता है.
9. Meta ने 2020 में पॉलिसी बनाने की प्रोसेस शुरू की थी ताकि वह “शहीद” शब्द के प्रति अपने नज़रिए का दोबारा आकलन कर सके. इसमें रिसर्च रिव्यू और स्टेकहोल्डर से सलाह लेना शामिल है. Meta इस स्टेकहोल्डर एंगेजमेंट के मुख्य निष्कर्ष के रूप में बताया कि “शहीद” का अर्थ संदर्भ पर निर्भर करता है और “यह कि कुछ जगहों पर यह शब्द असंवेदी बन गया था और प्रशंसा से उसका कोई लेना-देना नहीं था.” साथ ही, बिना किसी संदेह के ऐसे मामले भी देखे गए हैं जिनमें “शहीद” शब्द का उपयोग किसी चिह्नित व्यक्ति की प्रशंसा के लिए उपयोग किया गया और समझा गया है. किसी एक ही पोस्ट में इरादों के अंतरों का निर्धारण करना हमेशा से कठिन रहा है, खास तौर पर शुरुआत में. इस प्रोसेस के दौरान, जैसा कि Meta ने अपनी रिक्वेस्ट में बताया है, उसने दो पॉलिसी विकल्पों को “शहीद” शब्द से अपने मौजूदा व्यवहार के उपयोग के विकल्पों के रूप में पहचाना है. हालाँकि, स्टेकहोल्डर्स के बीच यह सहमति नहीं बन पाई कि कौन-सा विकल्प बेहतर है और Meta को नया नज़रिया नहीं मिल सका. कंपनी का ज़ोर देकर कहना है कि इसके प्लेटफ़ॉर्म पर कंटेंट की मात्रा देखते हुए, व्यवहारिक रूप से मुख्य चिंता यह है कि किसी संशोधित पॉलिसी का एन्फ़ोर्समेंट बड़े स्तर पर काम करेगा या नहीं.
III. पॉलिसी से जुड़े वे बदलाव जिन पर विचार करने के लिए Meta ने बोर्ड से रिक्वेस्ट की
10. Meta ने “प्रशंसा” शब्द के प्रतिबंध को “महिमामंडन” और “अस्पष्ट रेफ़रेंस” के प्रतिबंधों से बदलने से पहले बोर्ड के विचार करने के लिए निम्न पॉलिसी विकल्प प्रस्तुत किए:
1) ऐसे सभी कंटेंट को हटाना जारी रखना जिसमें “शहीद” शब्द का उपयोग खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी के तहत खतरनाक चिह्नित किसी व्यक्ति का उल्लेख करने के लिए किया गया हो.
2) जब आगे दी गई शर्तें पूरी हों, तब ऐसे कंटेट की परमिशन देना जिसमें किसी चिह्नित व्यक्ति को “शहीद” कहा गया हो: (i) यह ऐसे संदर्भ में उपयोग किया गया है जिसकी खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी के तहत परमिशन दी गई है (जैसे निंदा करना, न्यूज़ रिपोर्टिंग, अकादमिक चर्चा, सामाजिक और राजनैतिक बातचीत); (ii) जिसमें किसी चिह्नित व्यक्ति की कोई अतिरिक्त प्रशंसा, प्रतिनिधित्व या मौलिक समर्थन न हो (जैसे, पोस्ट में स्पष्ट रूप से किसी आतंकी हमले को दोषियों की प्रशंसा न की गई हो या उनकी हिंसा को उचित न ठहराया गया हो); और (iii) कंटेंट में हिंसा का कोई सिग्नल न हो. Meta द्वारा प्रस्तावित सिग्नल ये हैं: शस्त्रों का विज़ुअल चित्रण; शस्त्र/हथियार उपयोग करने या रखने के इरादे का कथन या समर्थन; सैन्य भाषा का रेफ़रेंस; आगजनी, लूट या संपत्ति को अन्य नुकसान का रेफ़रेंस; हिंसा की असली दुनिया की ज्ञात घटनाओं का रेफ़रेंस; और लोगों के खिलाफ़ हिंसा के इरादों के कथन, कॉल टू एक्शन, प्रतिनिधित्व, समर्थन या तरफ़दारी.
3) ऐसे कंटेंट को हटाना जिसमें Meta की खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी के तहत खतरनाक चिह्नित लोगों का उल्लेख करने के लिए “शहीद” शब्द का उपयोग किया गया हो, लेकिन सिर्फ़ वहाँ जहाँ अतिरिक्त प्रशंसा, प्रतिनिधित्व या समर्थन हो या जहाँ हिंसा के सिग्नल हों. ये सिग्नल वही हैं जो विकल्प दो में बताए गए हैं.
11. दूसरे और तीसरे, दोनों विकल्पों में “शहीद” शब्द के उपयोग का बेहतर संदर्भ समझने की ज़रूरत चाही गई है और ऐसा नहीं लगता कि उनके इच्छित परिणामों में बहुत ज़्यादा अंतर होगा. जहाँ तक Meta ने संदर्भ से जुड़े उन अपवादों के दायरे का विस्तार किया है, जो प्रशंसा (अब महिमामंडन) पर उसके प्रतिबंध पर सामान्य रूप से देता है, वहाँ तक दोनों विकल्प अभी भी एक-दूसरे के आसपास ही दिखाई पड़ते हैं (ऊपर पैरा. 8 देखें). Meta से इन दो विकल्पों के उपयोग और उनके परिणामों में अंतर के बारे में पूछने के बाद, बोर्ड यह समझता है कि मुख्य अंतर यह है कि दूसरे विकल्प में Meta के लिए यह देखना और कन्फ़र्म करना ज़रूरी होगा कि क्या कंटेंट पर कोई एक अपवाद (रिपोर्टिंग, निष्पक्ष चर्चा, निंदा) लागू होता है जबकि तीसरे विकल्प में इस चरण पर ध्यान नहीं दिया जाएगा और उसमें सिर्फ़ यह देखा जाएगा कि क्या पोस्ट में कोई अतिरिक्त प्रशंसा (अब “महिमामंडन” या “अस्पष्ट रेफ़रेंस”) है या हिंसा के छह लिस्ट किए गए सिग्नलों में से कोई एक मौजूद है. Meta द्वारा प्रस्तावित सभी विकल्पों के संबंध में, पॉलिसी को इस तरह लागू किया जाएगा कि किसी चिह्नित खतरनाक व्यक्ति का नाम लेने या उसे दिखाने वाला कंटेंट, जिसका इरादा संदिग्ध या अस्पष्ट हो, डिफ़ॉल्ट रूप से उल्लंघन करने वाला माना जाता है, इसलिए इरादे को स्पष्ट करने का दायित्व यूज़र के पास जाता है. दिसंबर 2023 के बदलावों में इस उपयोग को खतरनाक संगठनों और लोगों से जुड़े कम्युनिटी स्टैंडर्ड में शामिल किया गया है. इसमें बताया गया है कि टियर 1 की एंटिटी और चिह्नित घटनाओं के लिए पॉलिसी “अस्पष्ट या संदर्भरहित रेफ़रेंस” को प्रतिबंधित करती है, जिसमें “अस्पष्ट हास्य, कैप्शन रहित या सकारात्मक रेफ़रेंस जो चिह्नित एंटिटी की हिंसा या नफ़रत का महिमामंडन नहीं करते” शामिल हैं. जैसे किसी चिह्नित व्यक्ति की फ़ोटो, जिसमें किसी शब्द या कमेंटरी का उपयोग न किया गया हो, को अस्पष्ट रेफ़रेंस प्रतिबंधित करने वाली पॉलिसी के तहत हटा दिया जाएगा क्योंकि यूज़र का इरादा पर्याप्त रूप से स्पष्ट नहीं था.
12. बोर्ड ने Meta द्वारा प्रस्तुत विकल्पों पर विचार किया, लेकिन उसने अन्य विकल्पों पर भी विचार किया और दिसंबर 2023 के पॉलिसी से जुड़े बदलावों को भी देखा. इसके अलावा, यह देखते हुए कि Meta की रिक्वेस्ट में बोर्ड से सीधे पॉलिसी से जुड़े ऐसे सुझाव माँगे गए हैं जो भविष्य में इसी तरह की चुनौतियों का समाधान करे, बोर्ड ने उन क्षेत्रों में Meta के एन्फ़ोर्समेंट और पारदर्शिता से जुड़े आचरणों के संबंध में जुड़े हुए मामलों का आकलन किया जो पॉलिसी एडवाइज़री टीम की इस राय में सुस्पष्ट थे, लेकिन जिनमें ज़्यादा व्यापक रूप से अभिव्यक्ति की आज़ादी और अन्य मानवाधिकारों संबंधी पेंच भी थे.
IV. बोर्ड द्वारा Meta से पूछे गए सवाल
13. बोर्ड ने Meta से 41 लिखित सवाल पूछे. सवाल, खतरनाक संगठनों और लोगों से जुड़े कम्युनिटी स्टैंडर्ड की पॉलिसी बनाने के कारण, उन नुकसानों के प्रमाण जो Meta के प्लेटफ़ॉर्म पर “प्रशंसा” को परमिशन देने से हो सकते हैं, Meta की लोगों और एंटिटी को चिह्नित करने की प्रोसेस और चिह्नित एंटिटी की लिस्ट, Meta के स्ट्राइक सिस्टम और पॉलिसी विकल्प दो या तीन को स्वीकार करने पर आने वाली जटिलताओं से संबंधित थे. अक्टूबर 2023 में, बोर्ड ने इज़राइल पर 7 अक्टूबर के आतंकवादी हमले और इज़राइल के जारी सैन्य जवाब के संबंध में “शहीद” शब्द के लिए कंटेंट ट्रेड से जुड़े फ़ॉलो-अप सवाल पूछे और यह कि क्या अपनी रिक्वेस्ट में बोर्ड के समक्ष प्रस्तुत किए गए पॉलिसी के विकल्पों के Meta के विश्लेषण पर वर्तमान संकट का असर पड़ा था. 29 दिसंबर, 2023 के Meta के पॉलिसी अपडेट के बारे में बोर्ड ने तीन अतिरिक्त सवाल पूछे. कुल 40 सवालों के जवाब दिए गए और एक का आंशिक जवाब दिया गया. Meta ने बोर्ड को सिर्फ़ टियर 1 में चिह्नित एंटिटी की लिस्ट दी और टियर 2 और 3 एंटिटी की लिस्ट यह कहते हुए शेयर नहीं की कि “प्रशंसा” शब्द को सिर्फ़ टियर 1 के संदर्भ में ही प्रतिबंधित किया गया है.
2. स्टेकहोल्डर एंगेजमेंट
14. ओवरसाइट बोर्ड को 101 ऐसे पब्लिक कमेंट मिले जो सबमिशन की शर्तें पूरी करते हैं. कुल 72 कमेंट अमेरिका और कनाडा से सबमिट किए गए थे; 15 मध्य पूर्व और उत्तरी अफ़्रीका से; आठ यूरोप से; तीन एशिया पैसिफ़िक और ओशियाना से; दो लैटिन अमेरिका और कैरेबियन से; और एक मध्य और दक्षिण एशिया से आए थे. सभी 10 अप्रैल, 2023 से पहले मिले थे. प्रकाशन की सहमति के साथ सबमिट किए गए पब्लिक कमेंट पढ़ने के लिए यहाँ पर क्लिक करें.
15. सबमिशन में कई मुद्दों को शामिल किया गया था. कई लोगों ने “शहीद” शब्द के कई अर्थ होने के बारे में और इसके परिणामस्वरूप इस शब्द को “प्रशंसा” मानने के Meta के आचरण के मुक्त अभिव्यक्ति पर पड़ने वाले बुरे असर के बारे में बात की, खास तौर पर राजनैतिक बयानों और मानवाधिकार संबंधी डॉक्यूमेंटेशन के संबंध में. सबमिशन में एन्फ़ोर्समेंट में ऑटोमेशन के उपयोग के साथ-साथ चिह्नित लोगों और एंटिटी की Meta की लिस्ट, पारदर्शिता से जुड़ी समस्याओं और चिह्नित करने की प्रोसेस में संभावित पक्षपात पर भी चिंताएँ जताई गईं. अन्य सबमिशन में चिंता जताई गई कि पॉलिसी में बदलाव करने से आतंकवादी समूहों का सामान्यीकरण हो सकता है और हिंसा बढ़ सकती है, खास तौर पर इज़राइल और अधिकृत फ़िलिस्तीन क्षेत्रों में.
16. बोर्ड ने दक्षिण-पश्चिम एशिया और उत्तरी अफ़्रीका, सब-सहारन अफ़्रीका और दक्षिण-पूर्व एशिया में तीन क्षेत्रीय स्टेकहोल्डर राउंडटेबल आयोजित कीं. इसके अलावा, दो विषयवस्तु विशेषज्ञ राउंडटेबल, एक कंटेंट मॉडरेशन में ऑटोमेशन पर और एक आतंकवाद निरोध और मानवाधिकारों पर आयोजित की गई. भागीदारों ने इस तथ्य को मज़बूत किया कि “शहीद” शब्द के कई अर्थ होते हैं. मातृभूमि के लिए बलिदान एक संभावित अर्थ है, जिसमें आतंकवाद काकाम करते समय किसी व्यक्ति की मौत भी शामिल है, लेकिन “शहीद” शब्द का उपयोग अक्सर अन्य संदर्भों में भी किया जाता है, जैसे उन हमलों की हिंसा के शिकार हुए लोगों के बारे में बताने के लिए. कई भागीदार, जिनमें प्रभावित कम्युनिटी मेंबर, आतंकवाद निरोधक विशेषज्ञ और कंटेंट मॉडरेशन विशेषज्ञ भी शामिल थे, ने पॉलिसी के पक्षपात के बारे में चिंताएँ जताईं और इस बात पर चर्चा की कि उससे मुक्त अभिव्यक्ति पर किस तरह बुरा असर पड़ सकता है, खास तौर पर अरबी बोलने वाले लोगों और अन्य कम्युनिटी के लिए जो “शहीद” शब्द का उपयोग करते हैं. अन्य थीम्स में चिह्नित लोगों के रेफ़रेंस में “शहीद” शब्द के उपयोग और असली दुनिया के नुकसान के बीच का अनौपचारिक संबंध दिखाने वाले प्रमाणों की कमी शामिल है, जिस पर राष्ट्रीय सुरक्षा और आतंकवाद निरोधक विशेषज्ञों ने भी ज़ोर दिया था. इसी तरह, इस बारे में भी चिंताएँ जताई गई थीं कि अगर इस शब्द को बिल्कुल भी मॉडरेट नहीं किया जाता, तो इससे चिह्नित लोगों और उनके संगठनों का सामान्यीकरण हो जाएगा, जो सोशल मीडिया का उपयोग लोगों की भर्ती के लिए और अन्य तरह के मौलिक समर्थन के लिए कर सकते हैं. अन्य विषयों में उस ऑटोमेशन की क्वालिटी शामिल थी जिसका उपयोग Meta उस शब्द के कंटेंट मॉडरेशन के लिए करता है. वे विषय भी शामिल थे जिनमें भागीदारों ने इसके उपयोग के संबंध में और चिह्नित एंटिटी की Meta की लिस्ट और उन्हें चिह्नित करने की प्रोसेस के बारे में ज़्यादा पारदर्शिता चाही थी.
17. हमारे स्टेकहोल्डर एंगेजमेंट राउंडटेबल पर हमारी रिपोर्ट के लिए, कृपया यहाँ पर क्लिक करें (अरबी भाषा के वर्जन के लिए, कृपया यहाँ पर क्लिक करें).
3. ओवरसाइट बोर्ड की अथॉरिटी और स्कोप
18. Meta, बोर्ड से पॉलिसी एडवाइज़री टीम की राय माँग सकता है (चार्टर अनुच्छेद 3, सेक्शन 7.3) और बोर्ड के पास Meta की रिक्वेस्ट को स्वीकार या अस्वीकार करने का अधिकार है (उपनियम अनुच्छेद 2, सेक्शन 2.1.3). ये राय परामर्शी होती हैं (चार्टर; अनुच्छेद 3, सेक्शन 7.3). Meta को प्रकाशन के 60 दिनों के भीतर इस राय का जवाब देना ज़रूरी है (उपनियम अनुच्छेद 2, सेक्शन 2.3.2). बोर्ड उन सुझावों को लागू करने की निगरानी करता है जिन पर Meta एक्शन लेने की प्रतिबद्धता व्यक्त करता है और वह अपने केस के फ़ैसलों के पुराने सुझावों के बारे में फ़ॉलो-अप कर सकता है.
4. अथॉरिटी और मार्गदर्शन के सोर्स
I. ओवरसाइट बोर्ड के पुराने सुझाव
19. पुराने केसों में, बोर्ड ने सुझाव दिया है कि Meta, खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी को स्पष्ट करे और उसका दायरा छोटा करे और एन्फ़ोर्समेंट के बारे में तय प्रक्रिया और पारदर्शिता को बेहतर बनाए.
20. पॉलिसी की स्पष्ट बेहतर बनाने और उसका दायरा छोटा करने के संबंध में, बोर्ड ने यह सुझाव दिया कि Meta:
- रिव्यूअर्स के लिए ज्ञात सवाल मार्गदर्शन में “प्रशंसा” की परिभाषा को संकीर्ण बनाए ( न्यूज़ रिपोर्टिंग में तालिबान का उल्लेख, सुझाव सं. 3).
- अपने आंतरिक मार्गदर्शन में बदलाव करके यह स्पष्ट करे कि खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी में “रिपोर्टिंग” से जुड़ी छूट, रिपोर्टिंग के संबंध में चिह्नित एंटिटी के बारे में सकारात्मक कथनों की परमिशन देती है. यह भी बताया जाना चाहिए कि यह प्रतिबंधित “प्रशंसा” से किस तरह अलग है ( न्यूज़ रिपोर्टिंग में तालिबान का उल्लेख, सुझाव सं. 4).
- निष्पक्ष चर्चा, निंदा और न्यूज़ रिपोर्टिंग के अपवादों की समझ बढ़ाने के लिए, अपनी पॉलिसी में शर्तें और दृष्टांत उदाहरण जोड़ें (अल जज़ीरा की शेयर की गई पोस्ट, सुझाव सं. 1).
- पॉलिसी बनाने के कारण को यह दर्शाने के लिए अपडेट करे कि अभिव्यक्ति की आज़ादी और अन्य मानवाधिकारों का सम्मान करने से सुरक्षा की Meta की वैल्यू बेहतर बन सकती है. साथ ही “असली दुनिया के उन नुकसानों” के बारे में विस्तार से बताने के लिए भी अपडेट करे जिन्हें पॉलिसी रोकना चाहती है और जो अधिकार अभिव्यक्ति की वैल्यू को दबाने पर बाधित होते हैं ( ओजलान का एकांतवास, सुझाव सं. 4).
- यह समझाए कि यूज़र्स अपनी पोस्ट के पीछे के इरादे को इतना स्पष्ट कैसे कर सकते हैं कि उन्हें पॉलिसी के अपवादों का फ़ायदा मिले ( ओजलान का एकांतवास, सुझाव सं. 6).
- खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी के मुख्य शब्दों के उपयोग के बारे में विस्तार से बताए और उनके उदाहरण दे, जिनमें “प्रशंसा” का अर्थ बताना शामिल है. साथ ही वह यूज़र्स को यह स्पष्ट मार्गदर्शन भी दे कि वे अपने इरादे को स्पष्ट कैसे करें ( नाज़ी उद्धरण, सुझाव सं. 2).
21. Meta के स्ट्राइक सिस्टम के संबंध में, बोर्ड ने सुझाव दिया कि Meta:
- Facebook और Instagram पर प्रोफ़ाइल, पेज, ग्रुप और अकाउंट पर स्ट्राइक और पेनल्टी लगाने की अपनी प्रोसेस को स्पष्ट रूप से और विस्तार से समझाकर यह जानकारी आसानी से उपलब्ध करवाना चाहिए ( पूर्व राष्ट्रपति ट्रंप का सस्पेंशन, सुझाव सं. 15).
- अपने दो ट्रैक वाले स्ट्राइक सिस्टम की अपनी सार्वजनिक व्याख्या को “गंभीर स्ट्राइक” पर ज़्यादा जानकारी देते हुए ज़्यादा व्यापक और एक्सेस योग्य बनाए ( न्यूज़ रिपोर्टिंग में तालिबान का उल्लेख, सुझाव सं. 2).
- यूज़र्स को इस बारे में एक्सेस योग्य जानकारी उपलब्ध करवाए कि उनके विरुद्ध उल्लंघन, स्ट्राइक और पेनल्टी के कितने मामले हो चुके हैं और भविष्य में उनके द्वारा किए जाने वाले उल्लंघनों के क्या परिणाम होंगे ( पूर्व राष्ट्रपति ट्रंप का सस्पेंशन, सुझाव सं. 16).
22. पारदर्शिता के संबंध में, बोर्ड ने सुझाव दिया कि Meta:
- चिह्नित एंटिटी की अपनी लिस्ट को सार्वजनिक रूप से शेयर करे या कम से कम चिह्नित एंटिटी के दृष्टांत उदाहरण दे ( नाज़ी उद्धरण, सुझाव सं. 3).
- प्रोफ़ाइल, पेज और अकाउंट प्रतिबंधों (कंटेंट को हटाने के फ़ैसलों के अलावा) की संख्या शामिल करके अपनी एन्फ़ोर्समेंट रिपोर्टिंग को बेहतर बनाए और जानकारी को क्षेत्र और देश के अनुसार अलग-अलग करे ( पूर्व राष्ट्रपति ट्रंप का सस्पेंशन, सुझाव सं. 17).
- खतरनाक लोग और संगठन के “प्रशंसा” और “समर्थन” पर एन्फ़ोर्स करने वाले नियमों के लिए गड़बड़ी के रेट की ज़्यादा व्यापक जानकारी शामिल करें और उन्हें क्षेत्र और भाषा के अनुसार अलग-अलग करें ( ओजलान का एकांतवास, सुझाव सं. 12).
- गलतियों की दर के बारे में लोगों को ज़्यादा जानकारी दे और इसे हर कम्युनिटी स्टैंडर्ड के लिए देश और भाषा के अनुसार देखने योग्य बनाए ( भारत में RSS पर पंजाबी चिंता, सुझाव सं. 3).
23. ऑटोमेशन के संबंध में, बोर्ड ने सुझाव दिया कि Meta:
- यूज़र के कंटेंट के विरुद्ध एन्फ़ोर्समेंट एक्शन लेने के लिए ऑटोमेशन का उपयोग करते समय उन्हें सूचित करे, जिसमें इसका अर्थ बताने वाले सुलभ विवरण शामिल हों ( ब्रेस्ट कैंसर के लक्षण और नग्नता, सुझाव सं. 3).
- ट्रांसपेरेंसी रिपोर्टिंग का विस्तार करके यह डेटा बताए कि हर कम्युनिटी स्टैंडर्ड के लिए ऑटोमेटेड निष्कासन के कितने फ़ैसले हुए और उनमें से कितने फ़ैसलों को उसका ह्यूमन रिव्यू होने पर पलट दिया गया, ( ब्रेस्ट कैंसर के लक्षण और नग्नता, सुझाव सं. 6).
- ट्रांसपेरेंसी रिपोर्ट में उल्लंघन करने वाले कंटेंट के मीडिया मैचिंग सर्विस बैंक में गलती से शामिल कंटेंट की गलती की दर प्रकाशित करे जिसे हर कंटेंट पॉलिसी के अनुसार अलग-अलग किया गया हो. इस रिपोर्ट में यह जानकारी होनी चाहिए कि कंटेंट किस तरह बैंक में पहुँचता है और प्रोसेस में गलतियों की संभावना कम करने के लिए कंपनी क्या करती है ( कोलंबियाई पुलिस का कार्टून, सुझाव सं. 3).
- अपीलों को अपने आप प्राथमिकता देने और उन्हें बंद करने के बारे में सार्वजनिक रूप से स्पष्टीकरण दे ( ईरान में विरोध प्रदर्शन का स्लोगन, सुझाव सं. 7).
24. इस राय को अंतिम रूप दिए जाते समय इन पुराने सुझावों के क्रियान्वयन की प्रगति देखने के लिए, कृपया यहाँ पर क्लिक करें (अरबी भाषा के वर्जन के लिए, कृपया यहाँ पर क्लिक करें).
II. Meta की वैल्यू और मानवाधिकारों से जुड़ी ज़िम्मेदारियाँ
25. पॉलिसी एडवाइज़री टीम की इस राय में बोर्ड के विश्लेषण और सुझावों में Meta की वैल्यू और मानवाधिकारों से जुड़ी ज़िम्मेदारियों को ध्यान में रखा गया था.
26. Meta, अभिव्यक्ति को “सर्वोपरि” वैल्यू बताता है और कहता है कि इसे चार अन्य वैल्यू की सेवा में सीमित किया जा सकता है, जिनमें से पॉलिसी एडवाइज़री टीम की इस राय के लिए सुरक्षा सबसे प्रासंगिक है. सुरक्षा की वैल्यू की रक्षा करने के लिए, Meta “ऐसे कंटेंट हो हटा देता है, जो लोगों की जान-माल की सुरक्षा को नुकसान पहुँचाने का जोखिम बढ़ा सकता है.” यह “लोगों को डराने-धमकाने वाले कंटेंट की भी परमिशन नहीं देता” क्योंकि “इससे दूसरे लोग डर सकते हैं, उनका बहिष्कार हो सकता है या उनकी आवाज़ दब सकती है.”
27. 16 मार्च, 2021 को Meta ने अपनी कॉर्पोरेट मानवाधिकार पॉलिसी की घोषणा की, जिसमें उसने बिज़नेस और मानवाधिकार के बारे में संयुक्त राष्ट्र के मार्गदर्शक सिद्धांतों (UNGP) के अनुसार अधिकारों का ध्यान रखने की अपनी प्रतिबद्धता दर्शाई. UNGP, जिसे 2011 में संयुक्त राष्ट्र की मानवाधिकार समिति का समर्थन मिला है, प्राइवेट बिज़नेस की मानवाधिकारों से जुड़ी ज़िम्मेदारियों का स्वैच्छिक ढाँचा तैयार करते हैं. इन ज़िम्मेदारियों का अर्थ है कि अन्य बातों के अलावा कंपनियों को “अन्य लोगों के मानवाधिकारों का हनन करने से बचना चाहिए और शामिल लोगों के मानवाधिकारों पर पड़ने वाले प्रतिकूल प्रभावों का समाधान करना चाहिए,” (सिद्धांत 11, UNGP). कंपनियों से अपेक्षा की जाती है कि: “(a) वे अपनी गतिविधियों से मानवाधिकारों पर प्रतिकूल प्रभाव पड़ने का कारण बनने या उसमें योगदान देने से बचें और ऐसे प्रभाव पड़ने पर उनका समाधान करें; (b) मानवाधिकारों पर पड़ने वाले ऐसे प्रतिकूल प्रभावों को रोकें या उन्हें कम करें जो सीधे उनके कामकाज, प्रोडक्ट या उनके बिज़नेस रिलेशनशिप की सेवाओं से सीधे संबंधित होते हैं, भले ही उनसे उन प्रभावों में योगदान नहीं हुआ हो,” (सिद्धांत 13, UNGP).
28. जैसा कि बोर्ड को Meta की रिक्वेस्ट में स्वीकार किया गया है, कंटेंट मॉडरेशन संबंधी उसके आचरणों का अभिव्यक्ति की आज़ादी के अधिकार पर प्रतिकूल प्रभाव पड़ सकते हैं. दीवानी और राजनैतिक अधिकारों पर अंतरराष्ट्रीय प्रतिज्ञापत्र (ICCPR) के अनुच्छेद 19, पैरा. 2 में राजनैतिक बातचीत में इसके महत्व को देखते हुए इस अधिकार को व्यापक सुरक्षा प्रदान की गई है और मानवाधिकार कमिटी ने यह नोट किया है कि यह उस अभिव्यक्ति की भी सुरक्षा करता है जो गहन आपत्तिजनक हो सकती है ( सामान्य कमेंट सं. 34, पैरा. 11, 13 और 38). जहाँ राज्य, अभिव्यक्ति पर प्रतिबंध लगाता है, वहाँ प्रतिबंधों को वैधानिकता, वैधानिक लक्ष्य और आवश्यकता तथा आनुपातिकता की शर्तों को पूरा करना चाहिए (अनुच्छेद 19, पैरा. 3, ICCPR). इन आवश्यकताओं को अक्सर “तीन भागों वाला परीक्षण” कहा जाता है. Meta की स्वैच्छिक मानवाधिकार प्रतिबद्धताओं को समझने के लिए बोर्ड इस फ़्रेमवर्क का उपयोग करता है - रिव्यू किए जा रहे कंटेंट से जुड़े व्यक्तिगत फ़ैसले और कंटेंट संबंधी नियमों के मामले में Meta के व्यापक नज़रिए, दोनों के लिए. जैसा कि राय और अभिव्यक्ति की आज़ादी के बारे में संयुक्त राष्ट्र के खास रैपर्टर में कहा गया है कि भले ही “कंपनियों का सरकारों के प्रति दायित्व नहीं है, लेकिन उनका प्रभाव इस तरह का है जो उनके लिए अपने यूज़र की सुरक्षा के बारे में इस तरह के सवालों का आकलन करना ज़रूरी बनाता है,” (रिपोर्ट A/74/486, पैरा. 41).
29. सभी लोगों को अभिव्यक्ति की आज़ादी के अधिकार की गारंटी बराबरी से दी गई है. इस अधिकार पर लगाया गया कोई भी प्रतिबंध भेदभाव रहित होना चाहिए, जिसमें धर्म या मान्यता, बोली जाने वाली भाषा या राष्ट्रीय मूल के आधार पर भेदभाव न करना शामिल है (अनुच्छेद 2 और 26, ICCPR).
वैधानिकता (नियमों की स्पष्टता और सुलभता)
30. अभिव्यक्ति की आज़ादी का कोई भी प्रतिबंध एक्सेस योग्य होना चाहिए और दायरे, अर्थ और प्रभाव के संबंध में उसे यूज़र्स और कंटेंट रिव्यूअर्स को यह स्पष्ट मार्गदर्शन देना चाहिए कि प्लेटफ़ॉर्म पर किस कंटेंट की परमिशन है और कौन-सा कंटेंट प्रतिबंधित है. स्पष्टता या सटीकता में कमी के कारण नियमों का असमान और स्वैच्छिक एन्फ़ोर्समेंट हो सकता है (संयुक्त राष्ट्र विशेष रैपर्टर रिपोर्ट A/HRC/38/35, पैरा. 46). बोर्ड पहले भी खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी में स्पष्टता की कमी की आलोचना कर चुका है और उसने Meta को अपनी पॉलिसी को बेहतर बनाने के लिए सुझाव दिए हैं ( ओजलान का एकांतवास, सुझाव सं. 4 और सं. 6; अल जज़ीरा की शेयर की गई पोस्ट, सुझाव सं. 1; न्यूज़ रिपोर्टिंग में तालिबान का उल्लेख, सुझाव सं. 3 और सं. 4). Meta ने इसके बाद प्रशंसा की अपनी परिभाषा को स्पष्ट करने के लिए बोर्ड के सुझावों को लागू किया.
31. हालाँकि खतरनाक संगठन और लोगों से जुड़ी पॉलिसी में Meta के दिसंबर 2023 के अपडेट में वैधानिकता से जुड़ी नई चिंताएँ सामने आईं. Meta ने पोस्ट के ऐसे उदाहरण दिए हैं जो “प्रतिनिधित्व,” “समर्थन” और “महिमामंडन” के प्रतिबंधों का उल्लंघन करते हैं, लेकिन उसने “अस्पष्ट रेफ़रेंस” का उल्लंघन करने के उदाहरण नहीं दिए. पॉलिसी एडवाइज़री टीम की इस राय में बोर्ड के सुझावों का लक्ष्य, Meta के नियमों की स्पष्टता और एक्सेसिबिलिटी को और बेहतर बनाना है.
वैधानिक लक्ष्य
32. ICCPR का अनुच्छेद 19, पैरा. 3 कहता है कि अभिव्यक्ति पर लगाए गए किसी भी प्रतिबंध का वैधानिक लक्ष्य होना चाहिए, जिसमें अन्य लोगों के अधिकारों की रक्षा के साथ-साथ राष्ट्रीय सुरक्षा जैसे समाज के व्यापक हितों की रक्षा शामिल है (सामान्य कमेंट 34, पैरा. 21 और 30). खतरनाक संगठनों और लोगों से जुड़े कम्युनिटी स्टैंडर्ड के लिए Meta के पॉलिसी बनाने के कारण में बताया गया है कि उसका उद्देश्य “असली दुनिया को होने वाले नुकसानों को रोकना और बाधित करना है” जिसे बोर्ड ने कई केसों में दूसरे लोगों के अधिकारों की रक्षा करने के वैधानिक लक्ष्य के अनुरूप पाया, जिसमें जीवन का अधिकार शामिल है (अनुच्छेद 6, ICCPR). बोर्ड ने पहले भी यह पाया है कि चिह्नित एंटिटी की प्रशंसा से दूसरे लोगों के अधिकारों के नुकसान का जोखिम उत्पन्न हो सकता है और यह कि खतरनाक संगठनों और लोगों से जुड़े कम्युनिटी स्टैंडर्ड में प्रशंसा पर प्रतिबंध के ज़रिए उन नुकसानों को कम करने की कोशिश करने का एक वैधानिक लक्ष्य है ( न्यूज़ रिपोर्टिंग में तालिबान का उल्लेख).
आवश्यकता और आनुपातिकता
33. अभिव्यक्ति की आज़ादी पर लगाए जाने वाले सभी प्रतिबंध "उनके सुरक्षात्मक कार्य को पूरा करने के लिए उपयुक्त होने चाहिए; वे अपने सुरक्षात्मक कार्य कर सकने वाले उपायों में से कम से कम हस्तक्षेप करने वाले उपाय होने चाहिए; वे सुरक्षित रखे जाने वाले हित के अनुपात में होना चाहिएM” (सामान्य कमेंट 34, पैरा. 34).
34. संयुक्त राष्ट्र सुरक्षा परिषद के रिज़ॉल्यूशन 1624 (2005) में देशों से कहा गया है कि वे “आतंकवादी कृत्य या कृत्यों को करने के उकसावे को कानून द्वारा ज़रूरत और उपयुक्तता के अनुसार और अंतरराष्ट्रीय कानून के तहत अपने दायित्वों के अनुसार प्रतिबंधित करे” (पैरा. 1a) और उसके बाद के रिज़ॉल्यूशन में आतंकी संगठनों द्वारा इंटरनेट के उपयोग पर चिंता जताई गई है (UNSC रिज़ॉल्यूशन 2178 (2014) और UNSC रिज़ॉल्यूशन 2396 (2017)). ये रिज़ॉल्यूशन यही दोहराते हैं कि देशों को अंतरराष्ट्रीय मानवाधिकार कानून के तहत अपने दायित्वों के अनुसार आतंकवाद का समाधान करना और उसे रोकना चाहिए, लेकिन आतंकवाद से निपटते समय मानवाधिकारों और बुनियादी आज़ादी के प्रमोशन और रक्षा पर संयुक्त राष्ट्र के विशेष रैपर्टर में अपने दायित्वों को क्रियान्वित करने वाले कानूनों की अस्पष्टता, ऑनलाइन अभिव्यक्ति से जुड़े कानूनों सहित, और वक्ता के इरादे या बयान के अन्य लोगों पर पड़ने वाले असर के बजाय बयान पर अपने फ़ोकस, दोनों पर चिंताएँ जताई गई हैं (रिपोर्ट A/HRC/40/52, पैरा 37). विशेष रैपर्टर में यह निष्कर्ष निकाला गया है कि आतंकवादी प्रोपेगंडा के अपराधीकरण के लिए “इस बात की उचित संभावना होना ज़रूरी है कि विचाराधीन अभिव्यक्ति आतंकवादी कृत्य को उकसाने में सफल हो जाएगी, इसलिए गैर-कानूनी परिणाम के होने का अनौपचारिक लिंक या वास्तविक जोखिम स्थापित होता है,” ( पूर्वोक्त). अभिव्यक्ति की आज़ादी पर संयुक्त राष्ट्र विशेष रैपर्टर का इंटरनेट और आतंकवाद निरोधक उपायों पर संयुक्त घोषणापत्र, मीडिया की आज़ादी पर OSCE प्रतिनिधि और अभिव्यक्ति की आज़ादी पर 21 दिसंबर, 2005 का OAS विशेष रैपर्टर कहता है कि विचाराधीन अभिव्यक्ति को स्पष्ट रूप से न दिखाने से अन्य लोगों के लिए आतंकवादी कृत्य में शामिल होने का सीधा और जान-बूझकर किया गया आह्वान होता है और उससे आतंकवादी कृत्य के होने की संभावना सीधे तौर पर बढ़ जाती है, इसलिए देश दंडात्मक उपायों से अभिव्यक्ति पर प्रतिबंध और रोक नहीं लगा सकते (पै. 39). रिपोर्ट A/HRC/17/27 (16 मई, 2011, पैरा. 36) में अभिव्यक्ति की आज़ादी पर विशेष रैपर्टर द्वारा भी यह नोट करते हुए एक उच्च सीमा सेट की गई है कि अभिव्यक्ति को सिर्फ़ राष्ट्रीय सुरक्षा या आतंकवाद रोकने के कामों के लिए प्रतिबंधित किया जाना चाहिए जब “(a) अभिव्यक्ति का उद्देश्य तात्कालिक हिंसा को उकसाना हो; (b) उससे ऐसी हिंसा भड़कने की आशंका हो; और (c) अभिव्यक्ति और ऐसी हिंसा की आशंका या होने के बीच कोई सीधा और तात्कालिक कनेक्शन हो.” मानवाधिकार कमिटी के अनुसार, जब आतंकवाद निरोधक उपाय किसी खास अभिव्यक्ति को प्रतिबंधित करते हैं, तो “प्रोत्साहन,” “महिमामंडन” और “प्रशंसा” जैसे शब्दों को “सूक्ष्मता से परिभाषित” किया जाना चाहिए और उसे “लोगों को आतंकवादी कृत्यों की जानकारी देने में मीडिया की भूमिका को बेवजह प्रतिबंधित नहीं करना चाहिए,” ( सामान्य कमेंट 34, पैरा. 30 और 46).
35. ये सिद्धांत और स्टैंडर्ड, बोर्ड के विश्लेषण के लिए एक महत्वपूर्ण शुरुआती बिंदु हैं, लेकिन अंतरराष्ट्रीय मानवाधिकार कानून द्वारा देशों पर लगाए गए दायित्व और सीमाएँ उन ज़िम्मेदारियों और विवेक जैसी नहीं हैं जिनका पालन किसी प्राइवेट कंपनी को करना पड़ सकता है. किसी देश द्वारा आपराधिक प्रतिबंधों का उपयोग, किसी सोशल मीडिया प्लेटफ़ॉर्म पर कंटेंट मॉडरेट करने जैसा नहीं है और बोर्ड मानता है कि एक देश के बजाय एक प्राइवेट कंपनी के रूप में Meta कभी-कभी अभिव्यक्ति के बारे में ऐसा नज़रिया अपनाता है जो किसी देश द्वारा उचित ठहराए जाने से ज़्यादा प्रतिबंधात्मक होता है. वह ऐसा अपनी कंपनी वैल्यू (ऊपर पैरा. 27 - 28 देखें) और बड़े पैमाने पर कंटेंट को मॉडरेट करने में आने वाली अलग चुनौतियों को देखते हुए ऐसा करता है. अभिव्यक्ति की आज़ादी पर संयुक्त राष्ट्र के विशेष रैपर्टर के अनुसार: “कंपनी के नियमों और अंतरराष्ट्रीय स्टैंडर्ड में विसंगति की स्थिति में, कंपनियों को पॉलिसी में अंतर के कारण के साथ इस तरह अग्रिम स्पष्टीकरण देना चाहिए कि अंतर स्पष्ट हो जाए,” (अभिव्यक्ति की आज़ादी पर विशेष रैपर्टर की ऑनलाइन नफ़रत फैलाने वाली भाषा पर रिपोर्ट, A/74/486, 9 अक्टूबर, 2019, पैरा. 48). आनुपातिकता की आवश्यकता का आकलन करते समय, अपने पुराने कई फ़ैसलों में बोर्ड ने यह एक्सप्लोर किया है कि देशों के लिए बनाए गए अंतरराष्ट्रीय स्टैंडर्ड को कंपनी की मानवाधिकार से जुड़ी ज़िम्मेदारियों में किस तरह उचित रूप से बदला जाए, जैसा कि वह इस पॉलिसी एडवाइज़री टीम की राय के ज़रिए भी प्राप्त करना चाहता है.
36. खतरनाक संगठनों और लोगों से जुड़े कम्युनिटी स्टैंडर्ड से संबंधित बोर्ड के पुराने फ़ैसलों में भी चिह्नित एंटिटी की “प्रशंसा” के संबंध में Meta की मानवाधिकार से जुड़ी ज़िम्मेदारियों का परीक्षण किया गया है. ऐसी चिह्नित एंटिटी द्वारा Meta के प्लेटफ़ॉर्म का दुरुपयोग रोकना जो हिंसा भड़काना चाहती हैं, लोगों को भर्ती करना चाहती हैं या लोगों को अन्य तरह के मैटेरियल सपोर्ट के लिए एंगेज करना चाहती हैं, एक वैधानिक लक्ष्य है, लेकिन बोर्ड ने ऐसे कई मामले देखे हैं जिनमें “प्रशंसा” पर प्रतिबंध के विस्तार या अस्पष्टता के कारण यूज़र की अभिव्यक्ति पर अनावश्यक और अनुपातहीन प्रतिबंध लगे हैं. जैसे कि बोर्ड ने तालिबान की एक ऐसी घोषणा के बारे में उर्दू न्यूज़पेपर की पोस्ट को हटाने के फ़ैसले को पलट दिया जिसमें तालिबान ने महिलाओं और लड़कियों की शिक्षा फिर से शुरू करने की योजना की बात कही थी. बोर्ड ने माना कि वह कोई “प्रशंसा” नहीं है ( न्यूज़ रिपोर्टिंग में तालिबान का उल्लेख). इसी तरह बोर्ड ने एक यूज़र की उस पोस्ट को हटाने के Meta के फ़ैसले को भी पलट दिया जिसमें जोसेफ़ गोएबेल्स के नाम से एक गलत कोटेशन प्रस्तुत किया गया था ( नाज़ी उद्धरण) क्योंकि उसमें यह स्पष्ट करने का पर्याप्त संदर्भ मौजूद था कि पोस्ट का उद्देश्य नाज़ियों की विचारधारा की प्रशंसा करना नहीं था बल्कि अमेरिका में राजनैतिक चर्चा में शामिल होना था. बोर्ड ने अल जज़ीरा के एक समाचार को शेयर करने वाली पोस्ट को हटाने के Meta के फ़ैसले को भी पलट दिया था जिसमें एक चिह्नित समूह द्वारा हिंसा की धमकी की रिपोर्टिंग की गई थी. इसे प्लेटफ़ॉर्म पर रखा जाना चाहिए था और इस व्यवहार से Meta की पॉलिसीज़ के संभावित रूप से भेदभावपूर्ण प्रभावों से जुड़ी चिंताएँ जाहिर होती हैं ( अल जज़ीरा की शेयर की गई पोस्ट). संक्षिप्त और त्वरित फ़ैसलों में भी बोर्ड ने Meta के ऐसे कई फ़ैसलों को पलटा या पलटने का संकेत दिया जिनमें Facebook और Instagram से कई पोस्ट को शुरुआत में चिह्नित लोगों की प्रशंसा मानते हुए हटा दिया गया था ( उपनिवेशवाद विरोधी नेता एमिकर कैबराल; लेबनीज़ कार्यकर्ता; यहूदी विरोध पर की गई प्रतिक्रिया; नाइजीरिया का संघीय निर्वाचन क्षेत्र; अफ़गानिस्तान में लड़कियों की शिक्षा; अल-शबाब का उल्लेख; अल्लाह का शुक्रिया; और इज़राइल से बंधकों का अपहरण). खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी में Meta द्वारा हाल ही में किए गए बदलावों के बावजूद, इनमें से कई फ़ैसले अभी भी प्रासंगिक हैं. बोर्ड भविष्य के केसों में इस पॉलिसी का परीक्षण करना जारी रखेगा, जिसमें महिमामंडन और “अस्पष्ट रेफ़रेंस” पर नए प्रावधानों के संबंध में ऐसा करना शामिल है.
6. सुझाव और विश्लेषण
37. ओवरसाइट बोर्ड ने कंटेंट पॉलिसी, एन्फ़ोर्समेंट और पारदर्शिता के बारे में Meta को साथ सुझाव दिए. बोर्ड का मानना है कि इन सुझावों को बड़े पैमाने पर लागू किया जा सकता है और इससे अभिव्यक्ति और सुरक्षा की Meta की वैल्यू का उसके द्वारा अनुपालन बेहतर बनेगा. साथ ही इससे अभिव्यक्ति की आज़ादी और अन्य मानवाधिकारों के लिए उसका सम्मान भी बेहतर बनेगा और ज़्यादा पारदर्शिता आएगी.
6.1 “शहीद” के बारे में Meta की पॉलिसी
सुझाव 1 – कंटेंट पॉलिसी: Meta को यह मानना बंद कर देना चाहिए कि किसी चिह्नित व्यक्ति या चिह्नित संगठनों के अनाम सदस्यों के लिए उपयोग किए जाने पर “शहीद” शब्द हमेशा उल्लंघन करेगा और पॉलिसी के अपवादों के लिए योग्य नहीं होगा. चिह्नित व्यक्तियों को “शहीद” बताने वाले कंटेंट को सिर्फ़ दो स्थितियों में “अस्पष्ट संदर्भ” के रूप में हटाया जाना चाहिए. पहला, जब हिंसा के तीन में से एक या ज़्यादा संकेत मौजूद हों: किसी युद्ध सामग्री/हथियार का विज़ुअल चित्रण, किसी युद्ध सामग्री/हथियार का उपयोग करने या साथ रखने के इरादे का कथन या समर्थन या किसी चिह्नित घटना का संदर्भ. दूसरा, जब कोई कंटेंट Meta की पॉलिसीज़ का अन्यथा उल्लंघन करता है (जैसे कि महिमामंडन के लिए या किसी चिह्नित व्यक्ति का संदर्भ “शहीद” के उपयोग के अलावा अन्य कारणों से अस्पष्ट रहने के कारण). किसी भी परिदृश्य में, कंटेंट को “रिपोर्ट करने, निष्पक्ष चर्चा करने और निंदा करने” से जुड़े अपवादों के लिए योग्य रहना चाहिए.
बोर्ड इस सुझाव को तब लागू मानेगा जब Meta अपने कम्युनिटी स्टैंडर्ड को यह बताने के लिए सार्वजनिक रूप से अपडेट करेगा कि “शहीद” के रूप में किसी चिह्नित व्यक्ति का उल्लेख करने की तब परमिशन नहीं है जब हिंसा के तीन लिस्ट किए गए सिग्नलों में से एक या उससे ज़्यादा मौजूद हों.
सुझाव 2 – कंटेंट पॉलिसी: “अस्पष्ट संदर्भ” के बारे में प्रतिबंध को स्पष्ट करने के लिए, Meta को उल्लंघन करने वाले कंटेंट के कई उदाहरण शामिल करने चाहिए, जिसमें किसी चिह्नित व्यक्ति को “शहीद” बताने वाली पोस्ट शामिल है जिसमें सुझाव सं. 1 में बताए गए हिंसा के तीन सिग्नलों में से एक या उससे ज़्यादा सिग्नल शामिल हों.
बोर्ड इस सुझाव को तब लागू मानेगा जब Meta “अस्पष्ट रेफ़रेंस” के उदाहरणों के साथ अपने कम्युनिटी स्टैंडर्ड को सार्वजनिक रूप से अपडेट करेगा.
सुझाव 3 – कंटेंट पॉलिसी: Meta के आंतरिक पॉलिसी मार्गदर्शन को भी यह स्पष्ट करने के लिए अपडेट किया जाना चाहिए कि चिह्नित व्यक्तियों को “शहीद” के रूप में संदर्भित करना सिर्फ़ तब उल्लंघन करता है जब उसमें हिंसा का कोई सिग्नल शामिल हो. इसके अलावा, उन सिग्नलों के मौजूद होने पर भी, कंटेंट को “रिपोर्ट करने, निष्पक्ष चर्चा करने या निंदा करने” से जुड़े अपवादों का फ़ायदा मिलना चाहिए.
बोर्ड इस सुझाव को तब लागू मानेगा जब Meta, रिव्यूअर्स को दिए जाने वाले अपने मार्गदर्शन में “शहीद” शब्द के उपयोग को रिपोर्ट करने, निष्पक्ष चर्चा करने या निंदा करने से जुड़े अपवादों का फ़ायदा देने के लिए अपडेट करेगा और इस बदले गए मार्गदर्शन को बोर्ड के साथ शेयर करेगा.
38. Meta के लिए यह ज़रूरी है कि वह अपने प्लेटफ़ॉर्म्स को आतंकवादी हिंसा के कामों को भड़काने में उपयोग किए जाने से रोके – जो उसकी कंटेंट मॉडरेशन पॉलिसीज़ का एक वैधानिक लक्ष्य है – लेकिन Meta की मानवाधिकार से जुड़ी ज़िम्मेदारियों के लिए यह ज़रूरी है कि अभिव्यक्ति पर लगाई गई कोई भी सीमा आवश्यक और आनुपातिक हो, खास तौर पर हिंसा द्वारा प्रभावित कम्युनिटीज़ के लोगों की अभिव्यक्ति का सम्मान करने के लिए. भले ही “शहीद” शब्द का एक अर्थ अंग्रेज़ी भाषा के शब्द “martyr” जैसा है और इसे उसके स्थान पर उपयोग किया जाता है, बोर्ड ने पाया कि Meta के लिए सभी कंटेंट को सिर्फ़ इसी कारण नहीं हटा दिया जाना चाहिए कि उसमें चिह्नित लोगों के संबंध में “शहीद” शब्द का उपयोग किया गया है. ऐसा इसलिए है क्योंकि संपूर्ण प्रतिबंध में शब्द की भाषाई जटिलता पर विचार नहीं किया जाता, जिससे अभिव्यक्ति को ज़रूरत से ज़्यादा हटा दिया जाता है, मीडिया की आज़ादी और नागरिक स्थानों पर बेवजह प्रतिबंध लगते हैं और समानता और भेदभाव न करने के बारे में इसके गंभीर नकारात्मक परिणाम होते हैं. इसके अलावा, अगर इस सुझाव को स्वीकार और लागू किया जाता है, तो “महिमामंडन” और “अस्पष्ट रेफ़रेंस” को प्रतिबंधित करने वाली Meta की पॉलिसी का विवरण ज़्यादा सामान्य तौर पर लागू होता रहेगा. Meta को इसलिए सिर्फ़ “शहीद” शब्द के मौजूद होने के कारण कंटेंट को हटाना बंद कर देना चाहिए. इसके बजाय, Meta को ज़्यादा संदर्भात्मक नज़रिया अपनाना चाहिए और हिंसा के उन सिग्नलों को स्पष्टता और सूक्ष्मता से परिभाषित करना चाहिए जिनके कारण “शहीद” शब्द को नुकसानदेह माना जाएगा. जैसा कि नीचे बताया गया है, बोर्ड, Meta द्वारा अपनी रिक्वेस्ट में प्रस्तावित छह में से सिर्फ़ दो ही सिग्नलों का पूरी तरह समर्थन कर रहा है और उसने तीसरे सिग्नल को थोड़ा संक्षिप्त करने का सुझाव दिया है. Meta द्वारा प्रस्तावित तीन अन्य सिग्नल – और जिन्हें उन रिव्यूअर्स को मार्गदर्शन के रूप में उपलब्ध कराया जाता है जो हिंसा और उकसावे से जुड़ी अलग पॉलिसी एन्फ़ोर्स करते हैं – खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी के उद्देश्यों के लिए अत्यंत व्यापक हैं. साथ ही बोर्ड ने यह सुझाव भी दिया कि Meta, हिंसा के सिग्नल मौजूद होने पर उस कंटेंट के लिए अपवाद लागू करे जिसमें किसी चिह्नित एंटिटी की रिपोर्ट की गई हो, निष्पक्ष चर्चा की गई हो या उसकी आलोचना की गई हो. ऊपर दिए गए सुझाव “शहीद” शब्द के एकवचन और बहुवचन दोनों रूपों पर और “शहीद” शब्द के उन अन्य भाषाओं के वेरिएंट पर भी लागू होते हैं जिन्होंने इस शब्द को अपनाया है.
39. बोर्ड ने यह आकलन करने के लिए विशेषज्ञों और स्टेकहोल्डर्स से परामर्श किया कि Meta के प्लेटफ़ॉर्म्स पर चिह्नित एंटिटी का उल्लेख करने के लिए “शहीद” शब्द का उपयोग करने वाले कंटेंट को परमिशन देने के क्या संभावित नुकसान होंगे. कुछ स्टेकहोल्डर्स इस बारे में चिंतित थे कि Meta के प्लेटफ़ॉर्म्स का उपयोग आतंकवादियों का प्रोपेगंडा फैलाने और लोगों को भर्ती करने की उनकी कोशिशों में हो रहा है. साथ ही इससे यहूदी लोगों सहित अन्य लोगों के खिलाफ़ भेदभाव या हिंसा को आश्रय मिल रहा है (पब्लिक कमेंट देखें, जैसे, PC-11123 – CyberWell Ltd; PC-11153 – अभी यहूदी विरोध रोकें; PC-11194 – मध्य-पूर्व में सटीकता के लिए कमिटी; PC-11068 – कनाडाई यहूदी विरोध शिक्षा फ़ाउंडेशन). किसी भी रिसर्स से यह पता नहीं चलता कि “शहीद” शब्द और ऐसी हिंसा या भेदभाव में बढ़ोतरी के बीच कोई अनौपचारिक संबंध है (जैसा कि पहले पेज 10 पर Meta के रेफ़रल में कहा गया है और जिसके बाद विशेषज्ञ और स्टेकहोल्डर का एंगेजमेंट है जिसे खुद Meta ने पॉलिसी एडवाइज़री टीम की राय माँगने से पहले किया था), लेकिन ऐसे कुछ मामले हैं जिनमें शहादत को हिंसक कृत्यों से जोड़ने की कोशिश की गई है. ज़्यादा सामान्य रूप से, यह चिंताएँ व्यापक हैं कि सोशल मीडिया का उपयोग हिंसक संगठनों द्वारा लोगों को भर्ती करने और आतंकवादी कृत्यों को अंजाम देने, आतंकवाद को सामान्यीकृत करने और चरमपंथ को आसान बनाने के लिए किया जा सकता है. बोर्ड द्वारा करवाए गए गहन स्टेकहोल्डर एंगेजमेंट और विशेषज्ञ परामर्श, जिसमें आतंकवाद निरोधक विशेषज्ञों की एक राउंडटेबल भी शामिल है (स्टेकहोल्डर एंगेजमेंट राउंडटेबल देखें), से इन मान्यताओं और चिंताओं की पुष्टि हुई.
40. विशेषज्ञों और स्टेकहोल्डर्स द्वारा बोर्ड को किए गए कई सबमिशन में भी कहा गया कि “शहीद” शब्द का उपयोग करने वाले कंटेंट को हटाने से अभिव्यक्ति की आज़ादी पर बुरा असर पड़ेगा (पब्लिक कमेंट देखें, जैसे, PC-11196 – Integrity Institute; PC-11164 – SMEX, PC-11183 ECNL EFF, PC-11190 – Brennan Centre; PC-11188 – डिजिटल राइट्स फ़ाउंडेशन). इसमें ऐसी अभिव्यक्ति को हटाना भी शामिल है जिसमें “शहीद” शब्द का उपयोग चिह्नित एंटिटी की प्रशंसा करने या उनका महिमामंडन करने के लिए नहीं किया गया था, बल्कि उसका उपयोग आतंकवादियों या अन्य चिह्नित संगठनों द्वारा की गई हिंसा की रिपोर्ट करने के लिए या चिह्नित लोगों की निष्पक्ष राजनैतिक या अकादमिक चर्चा करने के लिए किया गया था.
41. जब किसी चिह्नित व्यक्ति के संबंध में “शहीद” शब्द का उपयोग करने वाले किसी कंटेंट को हटाया जाता है, तो नीचे दिए गए उदाहरण Meta के नज़रिए की जानकारी दे सकते हैं:
- कोई सरकार Meta के प्लेटफ़ॉर्म पर एक प्रेस विज्ञप्ति जारी करती है जिसमें किसी चिह्नित व्यक्ति की मृत्यु की पुष्टि की गई है और उस व्यक्ति के नाम के साथ आदरसूचक शब्द “शहीद” का उपयोग किया गया है. इस पोस्ट को हटा दिया जाएगा क्योंकि Meta पहले से यह मानता है कि “शहीद” शब्द से उल्लंघन होता है, भले ही संदर्भ से इसके निष्पक्ष चर्चा होने का संकेत मिलता है.
- कोई यूज़र एक ऐसे विरोध प्रदर्शन की फ़ोटो शेयर करता है जिसमें वह शामिल है लेकिन कैप्शन में विरोध प्रदर्शन का उद्देश्य नहीं बताया गया है. कई तख्तियों पर एक मृत चिह्नित व्यक्ति का नाम लिखा है और उसके साथ “शहीद” शब्द जोड़ा गया है. इस पोस्ट को हटा दिया जाएगा क्योंकि Meta पहले से यह मानता है कि प्लाकार्ड पर चिह्नित व्यक्ति के नाम और साथ में “शहीद” शब्द का उपयोग उल्लंघन करता है.
- एक मानवाधिकार कार्यकर्ता एक पोस्ट शेयर करता है जिसमें एक चिह्नित व्यक्ति को किसी देश द्वारा दी गई तत्काल मौत की सज़ा की जानकारी है. पोस्ट में व्यक्ति को “शहीद” कहा गया है और सरकार की आतंकवाद निरोधक पॉलिसी की आलोचना की गई है. इस पोस्ट को हटा दिया जाएगा क्योंकि Meta पहले से यह मानता है कि “शहीद” शब्द से उल्लंघन होता है, भले ही यहाँ उसका संदर्भ रिपोर्टिंग करना है.
- कम्युनिटी का एक चिंतित सदस्य एक स्थानीय सड़क की स्थिति के बारे में शिकायत पोस्ट करता है, जिसका नाम एक चिह्नित व्यक्ति के नाम पर रखा गया है और उसमें आदरसूचक शब्द “शहीद” शामिल है. इसे हटा दिया जाएगा क्योंकि Meta पहले से यह मानता है कि “शहीद” शब्द से उल्लंघन होता है, इस बात पर ध्यान दिए बगैर कि स्थानीय मुद्दों की चर्चा करते समय चिह्नित व्यक्ति का उल्लेख प्रासंगिक है.
- परिवार का एक सदस्य एक आतंकवादी हमले में मारे गए अपने प्रियजन को “शहीद” कहता है और हमलावरों की आलोचना करता है, जो चिह्नित व्यक्ति हैं. भले ही इस पोस्ट से उल्लंघन नहीं होगा, लेकिन “शहीद” शब्द के ऐसे संदर्भ में उपयोग, जहाँ अपराधियों का नाम भी लिया गया है, से ऐसा कंटेंट बन जाता है जिसे गलती से हटा दिया जाएगा क्योंकि Meta इस शब्द वाले सभी कंटेंट को हटा देता है.
42. कुछ स्टेकहोल्डर्स ने यह चिंता जाहिर की है कि अगर “शहीद” शब्द के उपयोग पर कम प्रतिबंध लगाए जाते हैं, तो बड़े पैमाने पर इससे आतंकवाद के सामान्यीकरण का सामूहिक असर होगा. इस बात से इंकार नहीं किया जा सकता कि कुछ मामलों में “शहीद” शब्द को किसी व्यक्ति और उसके हिंसक कृत्यों की स्वीकृति या समर्थन के रूप में उपयोग किया जाता है और उससे ऐसा दिखाई देता है, लेकिन बोर्ड यह नहीं मानता कि उन आधारों पर पॉलिसी में इस शब्द पर संपूर्ण प्रतिबंध लगा देना उचित है. बोर्ड को स्टेकहोल्डर्स, जिनमें आतंकवाद निरोधक विशेषज्ञ और Meta की पुरानी रिसर्च और स्टेकहोल्डर्स परामर्श शामिल हैं, से प्राप्त जानकारी को देखते हुए, बोर्ड इस निष्कर्ष पर पहुँचा कि ऐसे मामलों के गंभीर सामूहिक नुकसानदेह प्रभावों की आशंका, अभिव्यक्ति की आज़ादी पर मौजूदा पॉलिसी के बहुत ठोस नकारात्मक असर से ज़्यादा महत्वपूर्ण नहीं है. यह खास तौर पर एक महत्वपूर्ण तथ्य है, क्योंकि भले ही बोर्ड के सुझावों को लागू कर दिया जाए, आतंकवादियों और उनके समर्थकों को Meta के प्लेटफ़ॉर्म्स का मुक्त रूप से उपयोग करने से होने वाली हिंसा और अन्य नुकसानों को रोकने के लक्ष्यों की पूर्ति के लिए महत्वपूर्ण सावधानियाँ मौजूद रहती हैं.
43. बोर्ड ने इस बात पर भी विचार किया कि “शहीद” शब्द के कई अर्थ होते हैं और अक्सर इसका उपयोग इस तरह किया जाता है जिससे हिंसा या नफ़रत नहीं भड़कती बल्कि उसका उद्देश्य जनहित के मामलों की रिपोर्ट करना होता है. संपूर्ण प्रतिबंध लगाने का अर्थ है कि बड़ी मात्रा में ऐसा कंटेंट भी हटा दिया जाएगा जिससे ऐसे नुकसान नहीं होते जिन्हें कम करने के लिए Meta की पॉलिसीज़ बनाई गई हैं. बड़े पैमाने पर कंटेंट को मॉडरेट करते समय कभी-कभी एन्फ़ोर्समेंट की कुछ गलतियों को स्वीकार करना पड़ता है, लेकिन यह Meta की ज़िम्मेदारी है कि वह मानवाधिकारों से जुड़ी अपनी सभी ज़िम्मेदारियों के आधार पर अच्छे-बुरे का फ़ैसला करे. इन विचार योग्य बातों के आधार पर, बोर्ड इस नतीजे पर पहुँचा कि उसके द्वारा प्रस्तावित नज़रिया, मानवाधिकार के संबंध में Meta की समग्र ज़िम्मेदारियों में बेहतर सामंजस्य कायम करता है.
“शहीद” शब्द की सांस्कृतिक और धार्मिक सार्थकता और अर्थों की विविधता
44. “शहीद” एक सांस्कृतिक और धार्मिक महत्व का शब्द है जिसका उपयोग कई अलग-अलग संदर्भों में किया जाता है और उसके कई अर्थ हैं. बोर्ड को सबमिट किए गए पब्लिक कमेंट में और बोर्ड द्वारा करवाई गई रिसर्च में शब्द के बारे में अन्य जानकारियाँ मिलीं. “शहीद” का अर्थ “गवाह बनना” और “प्रमाणित करना” हो सकता है. इसका उपयोग इस्लामी नाम के रूप में और पश्चिम एशिया और उत्तरी अफ़्रीका सहित कुछ क्षेत्रों में उपनाम के रूप में भी किया जाता है (पब्लिक कमेंट देखें, जैसे, PC-11196 – Integrity Institute; PC-11164 – SMEX). “शहीद” शब्द का उपयोग उन लोगों के संदर्भ में भी किया जाता है जो धार्मिक कर्तव्य करते हुए मारे गए. सशस्त्र संघर्षों या हिंसक हमलों में, उन घटनाओं सहित जिनमें चिह्नित संगठन शामिल होते हैं, लोग कभी-कभी हिंसा और आतंकवाद के शिकार लोगों को भी “शहीद” कहकर याद करते हैं (पब्लिक कमेंट देखें, जैसे, PC-11164 – SMEX; न्यूजीलैंड सरकार के PC-11197 में क्राइस्टचर्च गोलीबारी के शिकारों को “शुहादा” कहा गया, जो “शहीद” का बहुवचन है; Integrity Institute के PC-11196 में हाइलाइट किया गया कि कुछ देशों में रोहिंग्या सहित उपेक्षित मुसलमान कम्युनिटी ने उन शरणार्थियों को “शहीद” कहा जिन्हें धर्म या मान्यता के आधार पर अत्याचारों के कारण बलपूर्वक म्यांमार से बाहर कर दिया गया). Memetica द्वारा बोर्ड द्वारा करवाई गई उस कंटेंट की संख्यात्मक रिसर्च, जिसे Meta के प्लेटफ़ॉर्म पर पोस्ट किया गया और जो वहाँ बना रहा, से पता चला कि “शहीद” शब्द का व्यापक रूप से उपयोग उन लोगों के संदर्भ में किया जाता है जो अपने देश की सेवा करते हुए, अपने किसी भलाई के काम के लिए मारे जाते हैं या जो सामाजिक-राजनैतिक हिंसा या प्राकृतिक आपदा के आकस्मिक शिकार हो जाते हैं. भले ही उन पोस्ट में “शहीद” शब्द को किसी चिह्नित व्यक्ति से आवश्यक रूप से जोड़ा नहीं गया, पहले दिए गए उदाहरण (पैरा. 41 देखें) बताते हैं कि “शहीद” शब्द के कितने अर्थ और उपयोग उस संदर्भ में भी प्रासंगिक हैं.
45. अक्टूबर 2023, इज़राइल पर हमास के नेतृत्व में हुए आतंकवादी हमलों और उसके जवाब में इज़राइल द्वारा गाज़ा में की गई सैन्य कार्रवाई के बाद, बोर्ड ने “शहीद” शब्द के उपयोग से जुड़े कंटेंट ट्रेंड के बारे में एक अतिरिक्त रिसर्च करवाई. इस विश्लेषण में देखी गई 12,000 से ज़्यादा पब्लिक पोस्ट में से सिर्फ़ दो में हमास का समर्थन किया गया था. लगभग सभी उपयोगों में गाज़ा पट्टी में हुई फ़िलिस्तीनी लोगों की मौत की जानकारी थी और उनमें किसी भी चिह्नित संगठन या व्यक्ति का उल्लेख नहीं था. पोस्ट में फ़िलिस्तीनी लोगों द्वारा उनके प्रियजनों की मौत पर दुख व्यक्त किया गया था, जबकि कुछ अन्य पोस्ट में घायल फ़िलिस्तीनी बच्चों और/या गाज़ा में हुए हवाई हमलों के बाद की स्थिति को दिखाया गया था. रिसर्च करने वाले लोग सिर्फ़ उसी पब्लिक कंटेंट को एक्सेस कर सकते थे जो प्लेटफ़ॉर्म पर बना रहा और वे उस कंटेंट को नहीं देख पाए जिसे Meta ने खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी का उल्लंघन करने के कारण हटा दिया था, इसलिए Meta से अतिरिक्त सवाल पूछे गए. Meta के जवाब ने रिसर्च के निष्कर्षों को मज़बूती दी. कंपनी की दृष्टि में, संकट के दौरान देखे गए कंटेंट ट्रेंड में “शहीद” शब्द के उपयोग या समझ में ऐसा कोई बदलाव दिखाई नहीं दिया जो इन घटनाओं के पहले की स्थिति से अलग हो.
46. ये अलग-अलग अर्थ दर्शाते हैं कि Meta द्वारा पहले से यह मान लिया जाना कि “शहीद” शब्द का उपयोग उल्लंघन करने वाला है और उससे असली दुनिया को नुकसान होता है और इसलिए उसे हमेशा हटा ही दिया जाना चाहिए, मुक्त अभिव्यक्ति के लिए वैश्विक रूप से नुकसानदेह है और इस समस्या का समाधान किया जाना चाहिए. Meta ने बताया कि “शहीद” शब्द संभवतः उसके प्लेटफ़ॉर्म पर सबसे ज़्यादा मॉडरेट किया जाने वाला शब्द है और विभिन्न स्टेकहोल्डर्स ने यह पाया कि चिह्नित एंटिटी और हिंसा की रिपोर्ट करने वाले कंटेंट को Meta द्वारा अक्सर हटा दिया जाता है ( पॉलिसी एडवाइज़री टीम की राय की रिक्वेस्ट, पेज 3 पर). “शहीद” शब्द के बारे में यह नज़रिया इस बात का उदाहरण है कि शुरुआती एन्फ़ोर्समेंट के लिए कंपनी बिल्कुल स्पष्ट अंतर को प्राथमिकता देती है. सैद्धांतिक रूप से ऐसे अंतर कभी-कभी उपयुक्त हो सकते हैं क्योंकि शुरुआती मॉडरेशन में अक्सर कठिन फ़ैसले लेने पड़ते हैं, लेकिन बोर्ड इस केस में इस नतीजे पर पहुँचा कि किसी चिह्नित व्यक्ति के संबंध में “शहीद” शब्द को हमेशा ही हटा दिए जाने की सोच उचित नहीं है और ऐसा नहीं किया जाना चाहिए. जैसा कि Meta ने स्वीकार किया, उसके इस नज़रिए में भाषाई और सांस्कृतिक संदर्भ पर बिल्कुल भी ध्यान नहीं दिया जाता और इस कारण दो तरह से ज़रूरत से बहुत ज़्यादा एन्फ़ोर्समेंट हो जाता है. पहला, इससे ऐसा कंटेंट हट जाता है जिसका उद्देश्य प्रशंसा या महिमामंडन करना नहीं होता लेकिन इसके बावजूद वह पॉलिसी का उल्लंघन करता है क्योंकि Meta ने पहले से यह तय किया है कि “शहीद” शब्द हमेशा उल्लंघन करने वाला माना जाएगा. दूसरा, इससे ऐसे लोगों के संबंध में “शहीद” शब्द का उपयोग करने वाले कंटेंट को गलती से हटाने की दर बढ़ती है जो चिह्नित लोग नहीं हैं क्योंकि इसमें संदर्भ का मूल्यांकन किए बिना ही उसे उल्लंघन करने वाला मान लिया जाता है.
47. “शहीद” शब्द के विभिन्न अर्थों के बावजूद, बोर्ड ने नोट किया कि खतरनाक संगठनों और लोगों की “प्रशंसा” पर Meta के प्रतिबंध में शामिल उदाहरणों को विभिन्न मार्केट के संदर्भों के अनुसार बदला नहीं गया था और वे उन उदाहरणों के अत्यंत सरल और सीधे अनुवाद थे. कम्युनिटी स्टैंडर्ड में “शहीद” शब्द के बारे में Meta के नज़रिए का एकमात्र संकेत उस वाक्यांश का उदाहरण था जिसमें एक दोषी पाए गए आतंकवादी को “martyr” कहा गया था, जिसे प्रशंसा पर उसके ज़्यादा व्यापक रूप से व्यक्त प्रतिबंध में लिस्ट किया गया था. इसी उदाहरण को सभी भाषाओं में उपयोग किया गया था और अरबी भाषा में इसका अनुवाद “शहीद” किया गया, जबकि दोनों शब्द आवश्यक रूप से एक जैसे नहीं हैं. बोर्ड ने नोट किया कि इस उदाहरण को पॉलिसी के दिसंबर 2023 के अपडेट में हटा दिया गया है. इस उदाहरण का अनुवाद बिल्कुल गलत नहीं था, लेकिन यह बताने के लिए एक उदाहरण का उपयोग कि “शहीद” का अर्थ हमेशा “martyr” होता है, सही नहीं है.
48. विपरीत दिशा में भी इन्हीं कारणों से इस पॉलिसी एडवाइज़री टीम की राय में “शहीद” शब्द पर बोर्ड के निष्कर्ष को “martyr” शब्द और अन्य भाषाओं में उस शब्द के सभी अनुवादों पर अपने आप ट्रांसफ़र नहीं किया जाना चाहिए. “Martyr” और “शहीद” शब्द सीधे तौर पर बराबर नहीं हैं, क्योंकि अंग्रेज़ी भाषा में शब्दार्थ विज्ञान की दृष्टि से पहले शब्द में ऐसे किसी भी क्षेत्र में ज़्यादा परिवर्तन नहीं होता जहाँ अंग्रेज़ी भाषा बोली जाती है. पॉलिसी एडवाइज़री टीम की इस राय में दिए गए मार्गदर्शन को ध्यान में रखते हुए, सभी भाषाओं में Meta को इस बात का आकलन करना होगा कि कौन-से शब्द महिमामंडन के बारे में Meta की सीमा में आते हैं. किसी भी स्थिति में बोर्ड ऐसे संपूर्ण प्रतिबंध का समर्थन नहीं करता जिसमें “शहीद” शब्द के उपयोग को पोस्ट के उस व्यापक संदर्भ से अलग और प्रतिबंधित किया गया हो जिसमें इसे उपयोग किया गया है. ओवरसाइट बोर्ड की नज़ीर के अनुसार, इन पोस्ट का आकलन उन्हें संपूर्ण रूप से देखकर किया जाना चाहिए. इसके अलावा, लोगों को दिखाई देने वाली उसकी पॉलिसीज़ के अनुसार, Meta को यह सुनिश्चित करना चाहिए कि “martyr” शब्द (और महिमामंडन से जुड़े वास्तविक शब्दों या अन्य भाषाओं में सकारात्मक रेफ़रेंस) का उपयोग किए जाने पर पॉलिसी के अपवाद, लोगों को चिह्नित लोगों की “रिपोर्ट करने, आलोचना करने या निष्पक्ष चर्चा करने” की परमिशन दें. यह इस बात का महत्व बताता है कि रिव्यूअर्स के लिए आंतरिक मार्गदर्शन को स्थानीय संदर्भ और रिव्यू की जा रही भाषा की भाषाई विशेषताओं के अनुसार बदलना कितना ज़रूरी है (बोर्ड के म्यांमार बॉट फ़ैसले में व्यक्त मिलती-जुलती चिंताएँ देखें, जो उस केस में सुझाव सं. 1 के लिए आधार थीं).
49. कई मामलों में बोर्ड ने Meta से कहा है कि वह बड़े पैमाने पर एन्फ़ोर्स किए जा सकने वाले स्पष्ट नियमों और उन पॉलिसी के बीच तालमेल पर फिर से विचार करे जिनमें एन्फ़ोर्समेंट के लिए संदर्भ पर ज़्यादा ध्यान दिया गया है और जो अक्सर अभिव्यक्ति की आज़ादी और यूज़र की अभिव्यक्ति का पक्ष लेती हैं (जैसे, चिह्नित एंटिटी की रिपोर्टिंग का सम्मान करने के लिए न्यूज़ रिपोर्टिंग में तालिबान का उल्लेख और अल जज़ीरा की शेयर की गई पोस्ट देखें). पुराने केसों में सीधे “शहीद” शब्द के उपयोग पर विचार नहीं किया गया था, लेकिन बोर्ड ने इस बारे में सावधान किया था कि जब लोग चिह्नित एंटिटी का रेफ़रेंस दें, तो पहले से ही यह मान न लिया जाए कि उनका इरादा बुरा ही है (नाज़ी उद्धरण देखें). विभिन्न पब्लिक कमेंट में यह हाइलाइट किया गया है कि अगर Meta पहले से यह मान लेता है कि “शहीद” शब्द से हमेशा “प्रशंसा” ही होगी, तो शुरुआती मॉडरेटर्स या ऑटोमेशन की गलतियों के परिणामस्वरूप उन लोगों के खिलाफ़ ज़रूरत से ज़्यादा एन्फ़ोर्समेंट हो जाएगा जो आतंकवादी हमलों के शिकार लोगों को याद कर रहे हैं (पब्लिक कमेंट देखें, जैसे, न्यूजीलैंड सरकार की PC-11164 – SMEX, पे.1; कमेंट PC-11197). ऐसे कंटेंट को हटाना खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी के उद्देश्यों के खिलाफ़ भी जा सकता है क्योंकि इससे आतंकवादी हिंसा की चर्चा और ऐसी हिंसा के पीछे की विचारधारा से निपटने की कोशिशों पर रोक लग जाएगी (देखें उदाहरण, PC-11164 – SMEX).
मीडिया की आज़ादी और नागरिक स्थान का सम्मान
50. बोर्ड खास तौर पर इस बात से चिंतित है कि Meta के इस नज़रिए से पत्रकारिता और नागरिकों की बातचीत पर असर पड़ता है. ऐसे असर उन स्थानों पर गंभीर हैं जहाँ आतंकवादियों या अन्य चिह्नित संगठनों द्वारा हिंसा की कई घटनाएँ होती हैं. साथ ही उन स्थानों पर भी जहाँ चिह्नित एंटिटी का नियंत्रण है या उनके पास अन्यथा राजनैतिक ताकत है. कई पब्लिक कमेंट में ये चिंताएँ व्यक्त की गईं (पब्लिक कमेंट देखें, उदाहरण, PC-11196 – Integrity Institute; PC-11157 – Palestine Institute for Public Diplomacy). मीडिया संगठन और अन्य कमेंटेटर, चिह्नित एंटिटी की रिपोर्टिंग करने से पीछे हटेंगे क्योंकि वे नहीं चाहेंगे कि उनका कंटेंट हटा दिया जाए जिसके कारण उन पर गंभीर प्रतिबंध लग सकते हैं. इन प्रतिबंधों में पेज या ग्रुप हटाना या अकाउंट बंद करना शामिल हैं. कुछ मामलों में यह अप्रत्याशित हो सकता है – जैसे कि सरकार की ओर से काम करने वाले किसी व्यक्ति के खिलाफ़ ऐसे विरोध प्रदर्शन की रिपोर्टिंग, जिसमें लोग उन चिह्नित लोगों के समर्थन में साइन दिखा रहे हैं जिन्हें सरकार की ओर से काम करने वाले उसी व्यक्ति द्वारा मार दिया गया. भाषाई, सांस्कृतिक या धार्मिक परंपराएँ यह संकेत दे सकती हैं कि “शहीद” शब्द का उपयोग इन स्थितियों में मारे गए लोगों के लिए किया गया है, जिनमें वे लोग भी शामिल हैं जो हिंसक कृत्य को अंजाम देते हुए मारे गए.
51. उन स्थितियों की जटिल पर ध्यान देना महत्वपूर्ण है जिनमें चिह्नित एंटिटी हिंसा कर सकती हैं. इनमें वे स्थितियाँ शामिल हैं जो सशस्त्र संघर्ष, विदेशी कब्ज़े का प्रतिरोध और नागरिक अशांति मानी जाने वाली स्थितियाँ शामिल हैं. उन स्थितियों की रिपोर्टिंग करने में मीडिया को गंभीर चुनौतियाँ आ सकती हैं, क्यों उन आउटलेट को स्थानीय भाषा, संस्कृति या धार्मिक प्रथाओं के प्रति संवेदनशील होने के साथ-साथ Meta की कंटेंट पॉलिसी का पालन भी करना होता है. इन चिंताओं के साथ, चिह्नित एंटिटी की Meta की लिस्ट से जुड़ी पारदर्शिता की कमी और यह तथ्य जुड़ा हुआ है कि यूज़र्स को इस बात की जानकारी नहीं है कि उस लिस्ट में कौन-से नाम हैं. उन स्थितियों की रिपोर्टिंग में अक्सर चित्रण जैसे हिंसा के सिग्नल शामिल होते हैं और अगर वे रिपोर्टिंग, निष्पक्ष चर्चा या आलोचना के अपवादों में नहीं आते हैं, तो वे पॉलिसी के उल्लंघन का संकेत हो सकते हैं. इसलिए यह महत्वपूर्ण है कि Meta उन मामलों में पॉलिसी अपवाद लागू करे जिसमें कंटेंट किसी चिह्नित एंटिटी की रिपोर्टिंग करता है, उसकी निष्पक्ष चर्चा करता है या उसकी आलोचना करता है.
52. इस प्रतिबंध से उन यूज़र्स के लिए अपने दृष्टिकोण और आलोचना व्यक्ति करना और मुश्किल हो सकता है जो उन जगहों पर रहते हैं जहाँ चिह्नित एंटिटी काम करती हैं या जहाँ वे सत्ता में हैं. सीधे तौर पर आमना-सामना होने और सुरक्षा जोखिमों से बचने के लिए, इन जगहों पर रहने वाले यूज़र अपनी कमेंटरी को सम्मानजनक रूप से तैयार कर सकते हैं जिसे आवश्यक रूप से प्रशंसा नहीं माना जाना चाहिए. ऐसी अभिव्यक्ति पर प्रतिबंध लगाना खास तौर पर चिंताजनक है, क्योंकि सोशल मीडिया से चर्चाओं के लिए एक ज़रूरी मंच मिलता है, खास तौर पर संघर्ष वाले क्षेत्रों में और उन देशों में जहाँ प्रेस की आज़ादी सीमित है.
समानता रखना और भेदभाव न करना
53. “शहीद” शब्द के व्यापक और अत्यंत अलग-अलग उपयोग के कारण, खास तौर पर अरबी बोलने वाले लोगों और अन्य भाषाएँ बोलने वाले लोगों (अधिकांश मुसलमान) के बीच जहाँ “शहीद” को आगत शब्द के रूप में स्वीकार किया गया है, Meta की पॉलिसी का इन कम्युनिटी पर अनुपातहीन असर होता है. इससे सभी यूज़र के अधिकारों का सम्मान करने में समानता रखने और अभिव्यक्ति की आज़ादी के अपने अधिकार का उपयोग करते समय भेदभाव न करने की कंपनी की ज़िम्मेदारी के संबंध में गंभीर चिंताएँ खड़ी होती हैं. यह कई पब्लिक कमेंट का केंद्र बिंदु था (देखें उदाहरण, PC-11183 ECNL EFF, PC-11190 – Brennan Centre; PC-11188 – डिजिटल राइट्स फ़ाउंडेशन. PC-11196 – Integrity Institute; इज़राइल और फ़िलिस्तीन में Meta के असर पर BSR की रिपोर्ट भी देखें). संयुक्त राष्ट्र विकास कार्यक्रम (UNDP) ने “ चरमपंथ की ओर यात्रा को रोकना” पर अपनी रिपोर्ट में हाइलाइट किया है कि अन्य मूल कारणों के अलावा चरमपंथी हिंसा के मुख्य कारक हैं “असमानता, बहिष्कार, अवसरों की कमी और अन्याय की धारणाएँ.” बोर्ड इस बात से चिंतित है कि Meta की पॉलिसी के नज़रिए के साथ कुछ खास कम्युनिटी के उपेक्षा और बहिष्कार के अनुभव भी जुड़ सकते हैं और इससे हिंसा कम करने के बताए गए लक्ष्य पर उल्टा असर भी पड़ सकता है. UNDP ने हाइलाइट किया है कि ऑनलाइन प्लेटफ़ॉर्म पर कंटेंट के मॉडरेशन के संबंध में, कंपनियों को यह सुनिश्चित करना चाहिए कि हिंसक चरमपंथी काम को रोकते समय “अनजाने में लोगों पर दोषारोपण न हो और उन्हें निशाना न बनाया जाए.”
नुकसान रोकने के कम बाधक साधन
54. आवश्यकता और आनुपातिकता के संबंध में पॉलिसी का आकलन करते समय, यह विश्लेषण करना भी ज़रूरी है कि विचाराधीन वैधानिक लक्ष्य को प्राप्त करने के लिए क्या कोई कम बाधक साधन उपलब्ध है. अगर लागू किए जाते हैं, तो इस राय में बोर्ड के सुझावों के अनुसार Meta को चिह्नित लोगों को रेफ़र करने के लिए उपयोग किए गए सभी “शहीद” शब्दों को हटाना बंद करना होगा. इसके बावजूद, इस शब्द का उपयोग करने वाले कंटेंट को उन कुछ परिस्थितियों में हटाया जा सकता है जहाँ नुकसान से संबंध कम अस्पष्ट है और ज़्यादा स्पष्ट है. सुझावों के अनुसार Meta, चिह्नित लोगों को “शहीद” के रूप में रेफ़र करने वाले को तब हटाना जारी रख सकता है जब उसके साथ पॉलिसी के अन्य उल्लंघन (जैसे महिमामंडन या अस्पष्ट रेफ़रेंस) भी जुड़े हों या कंटेंट में हिंसा के सिग्नल हों. इससे एक महत्वपूर्ण रुकावट जारी रहेगी और साथ ही पॉलिसी के बुरे प्रभावों में कमी आएगी, जिसमें किसी खास भाषाई और धार्मिक ग्रुप के खिलाफ़ ज़रूरत से ज़्यादा एन्फ़ोर्समेंट शामिल है.
55. किसी चिह्नित व्यक्ति के लिए “शहीद” के रूप में रेफ़रेंस के साथ हिंसा के सिग्नलों की मौजूदगी, इस बात का स्पष्ट संकेत देती है कि पोस्ट का लक्ष्य उस व्यक्ति को सकारात्मक रूप से प्रस्तुत करना है क्योंकि उसके साथ हिंसा जुड़ी हुई है (बशर्ते रिपोर्टिंग, निष्पक्ष चर्चा या आलोचना के अपवाद लागू न होते हों). इस रिक्वेस्ट में, Meta ने हिंसा के इन सिग्नलों का प्रस्ताव दिया जिन्हें उसकी हिंसा और उकसावे से जुड़ी पॉलिसी से लिया गया है: (1) किसी शस्त्र का दृश्य चित्रण; (2) कोई शस्त्र/हथियार उपयोग करने या रखने के इरादे या समर्थन का कथन; (3) सैन्य भाषा का रेफ़रेंस; (4) आगजनी, लूट या संपत्ति को अन्य नुकसान का रेफ़रेंस; (5) असली दुनिया की हिंसा की ज्ञात घटनाओं का रेफ़रेंस; और (6) अन्य लोगों पर हिंसा के इरादे के कथन, कॉल टू एक्शन, प्रतिनिधित्व, समर्थन या तरफ़दारी. बोर्ड ने पाया कि इनमें से कुछ सिग्नल, उस कंटेंट का उपयोगी संकेत देते हैं जिनसे नुकसान हो सकता है. सिर्फ़ “शहीद” शब्द के उपयोग से यह नहीं माना जा सकता कि ऐसा नुकसान होगा. हालाँकि अन्य सिग्नलों को यहाँ बहुत उपयोगी नहीं माना गया. हिंसा और उकसावे से जुड़ी पॉलिसी के लोगों को दिखाई देने वाले वर्जन में “हिंसा के बढ़े हुए जोखिम के अस्थायी सिग्नलों” का तीन बार उल्लेख किया गया है. ऐसा हर बार खास जगहों पर हिंसा के जोखिमों का समाधान करने के लिए डिज़ाइन किए गए नियमों के संबंध में और समयबद्ध घटनाओं के साथ किया गया, जैसे मतदान केंद्रों और विरोध प्रदर्शनों पर. सभी संदर्भों में “शहीद” शब्द के रेफ़रेंस पर एन्फ़ोर्समेंट को गाइड करने के लिए इन सभी सिग्नलों के उपयोग से, जहाँ नुकसान की आशंका संभावित या तात्कालिक न हो, अनुपातहीन एन्फ़ोर्समेंट का जोखिम होता है.
56. बोर्ड ने पाया कि खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी के व्यापक संदर्भ में, कम सिग्नलों का होना ज़्यादा उपयुक्त होता है. शस्त्र के विज़ुअल चित्रण का सिग्नल और कोई शस्त्र या हथियार उपयोग करने या रखने के इरादे के कथन या समर्थन का सिग्नल, इस बात के संकेत माने जाने चाहिए कि कंटेंट से नुकसान होने की आशंका ज़्यादा है. हालाँकि बोर्ड ने पाया कि “असली दुनिया की हिंसा की ज्ञात घटनाओं के रेफ़रेंस” का सिग्नल अत्यंत व्यापक है, क्योंकि उसमें ऐसे कई परिदृश्य हैं जिन्हें चिह्नित संगठनों या लोगों की हिंसा से हटा दिया गया है. इसलिए, इसे ज़्यादा सूक्ष्मता से परिभाषित किया जाना चाहिए और उन घटनाओं तक सीमित किया जाना चाहिए जो Meta की खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी के तहत चिह्नित है. इनमें आतंकवादी हमले, नफ़रत फैलाने वाली घटनाएँ, ऐसी हिंसा जिसमें कई लोग शिकार हुए हों या एक से ज़्यादा लोगों को शिकार बनाने की हिंसा की कोशिश, सीरियल मर्डर और नफ़रत फैलाने वाले अपराध शामिल हैं. बोर्ड द्वारा सुझाए गए तीन सिग्नल, संदर्भ के संबंध में ज़्यादा जानकारी देते हैं ताकि यह सुनिश्चित हो सके कि “शहीद” शब्द के कम अस्पष्ट उपयोग, जो आतंकवादी हिंसा के कृत्यों को ज़्यादा स्पष्टता से बताते हैं, तब भी हटा दिए जाएँ.
57. “सैन्य भाषा के रेफ़रेंस” और “आगजनी, लूट या संपत्ति के अन्य नुकसान” के Meta द्वारा प्रस्तावित शेष सिग्नल बहुत व्यापक हैं और उनके कारण सटीक एन्फ़ोर्समेंट नहीं हो पाएगा. “लोगों पर हिंसा करने के इरादे के कथन, कॉल टू एक्शन, प्रतिनिधित्व, समर्थन या तरफ़दारी” का अंतिम प्रस्तावित सिग्नल, स्वतंत्र रूप से हिंसा और उकसावे से जुड़े कम्युनिटी स्टैंडर्ड का उल्लंघन करने वाले कंटेंट की ओर ले जाएगा – और इसलिए, अगर उसे हिंसा के सिग्नल के रूप में शामिल किया जाता है, तो वह डुप्लिकेट और अनावश्यक होगा.
58. Meta के तीसरे पॉलिसी विकल्प से अलग, बोर्ड ने नोट किया कि भले ही चिह्नित लोगों के रेफ़रेंस, हिंसा के इन सिग्नलों के साथ दिए जाते हैं, तब भी उनका इरादा उन लोगों या उनके कामों के महिमामंडन का नहीं होगा. अपनी रिक्वेस्ट में (पेज 9 – 10 पर), Meta ने ज़रूरत से ज़्यादा एन्फ़ोर्समेंट की संभावना बताते हुए पाकिस्तान में मीडिया के रिपोर्टिंग व्यवहारों का रेफ़रेंस दिया. बोर्ड की दृष्टि में, जहाँ मीडिया चिह्नित लोगों की मौत को रेफ़र करेगा, वहाँ उसके लिए शस्त्रों के साथ ऐसे लोगों की फ़ोटो दिखाना और/या उनके द्वारा किए गए नुकसान की फ़ोटो दिखाना बहुत आम होगा और इससे उनके कामों का महिमामंडन नहीं होता. इस कारण से, यह ज़रूरी है कि शुरुआती रिव्यू करने वाले रिव्यूअर्स को उस कंटेंट को बनाए रखने की ट्रेनिंग दी जाए जिसमें कंटेंट का इरादा स्पष्ट रूप से एंटिटी की रिपोर्ट करना, आलोचना करना या निष्पक्ष चर्चा करना हो.
59. इसके अलावा, बोर्ड द्वारा पॉलिसी में बदलाव के लिए दिए गए सुझावों से उन कई अन्य कंटेंट पॉलिसीज़ में कोई बदलाव करने की ज़रूरत नहीं होगी जिन्हें आतंकवादियों और उनके समर्थकों को Meta के प्लेटफ़ॉर्म का उपयोग करके असली दुनिया को नुकसान पहुँचाने से रोकने के लिए बनाया गया है. किसी टियर 1 के चिह्नित व्यक्ति के रेफ़रेंस में “शहीद” शब्द का उपयोग करने वाली पोस्ट को इन परिस्थितियों में हटा दिया जाएगा:
- जब उसके साथ हिंसा के ऊपर बताए गए तीन सिग्नलों में से कोई एक या उससे ज़्यादा सिग्नल मौजूद हों.
- जब पोस्ट में खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी का कोई अन्य उल्लंघन शामिल हो (जैसे कि किसी चिह्नित व्यक्ति के प्रतिनिधित्व, समर्थन या महिमामंडन के लिए). जैसे कि महिमामंडन में किसी चिह्नित व्यक्ति के हिंसक या नफ़रत फैलाने वाले काम को सही बताया जाएगा या उसका बचाव किया जाएगा या उनकी हिंसा या नफ़रत का एक उपलब्धि के रूप में जश्न मनाया जाएगा.
- जब पोस्ट में पॉलिसी का कोई अन्य उल्लंघन शामिल होगा, नफ़रत फैलाने वाली भाषा या हिंसा और उकसावे से जुड़े उल्लंघन सहित.
- जब पोस्ट में “अस्पष्ट या संदर्भरहित” रेफ़रेंस हों. इसमें “ऐसे हास्य, बिना कैप्शन वाले या सकारात्मक रेफ़रेंस शामिल हैं जो चिह्नित एंटिटी की हिंसा या नफ़रत का महिमामंडन नहीं करते.”
60. बोर्ड के सुझाव इसलिए Meta को यूज़र्स के लिए यह ज़रूरी बनाने से नहीं रोकेंगे कि टियर 1 के किसी चिह्नित व्यक्ति का “शहीद” के रूप में उल्लेख करते समय वे अपनी पोस्ट में इरादा स्पष्ट करना सुनिश्चित करें. ये Meta को सिर्फ़ इस बात से रोकेंगे कि सिर्फ़ “शहीद” शब्द के मौजूद होने भर से ही कोई पोस्ट उल्लंघन करने वाली नहीं हो जाती. आतंकवाद से निपटने के लिए ग्लोबल इंटरनेट फ़ोरम में Meta की सक्रिय भागीदारी और उसके हैश-मैचिंग डेटाबेस का उपयोग भी यह सुनिश्चित करता है कि असली दुनिया को नुकसान पहुँचा सकने वाले कंटेंट को हटा दिया जाए. बोर्ड के सुझाव से उस कंटेंट पर ज़्यादा स्पष्ट, ज़्यादा संदर्भपरक और आनुपातिक एन्फ़ोर्समेंट होगा जिससे हिंसा का खतरा बढ़ सकता है. साथ ही इससे अभिव्यक्ति की आज़ादी और भेदभाव न करने का व्यवहार बेहतर तरीके से सुनिश्चित होगा.
वैकल्पिक पॉलिसी विकल्पों का मूल्यांकन
61. इन कारणों से, बोर्ड इस नतीजे पर पहुँचा कि अगर पॉलिसी की यथास्थिति बनाई रखी जाती है, जिसे Meta ने एक विकल्प के रूप में बोर्ड से विचार करने के लिए कहा था, तो उससे अभिव्यक्ति की आज़ादी पर अनुचित प्रतिबंध लगेंगे जो अरबी भाषा बोलने वाले लोगों, प्रासंगिक भाषाई कम्युनिटी और मुसलमानों को अनुपातहीन रूप से प्रभावित करेंगे. Meta द्वारा प्रस्तावित दूसरा पॉलिसी विकल्प उसके तीसरे विकल्प के समान ही है, जिसका उपयोग उस सीमा तक करने का सुझाव बोर्ड देता है, जहाँ तक वह “शहीद” शब्द का उपयोग संदर्भ के अनुसार करता है और खतरनाक लोगों के संबंध में कई तरह से उपयोग करने की परमिशन देता है. वास्तव में, पॉलिसी में 29 अगस्त, 2023 को Meta द्वारा किए गए बदलावों के अनुसार, कुछ मामलों में ज़्यादा सामाजिक और राजनैतिक बातचीत को परमिशन दी जाती है, जिनमें शांति समझौतों, चुनावों, मानवाधिकार से जुड़े मुद्दों, न्यूज़ रिपोर्टिंग और अकादमिक, निष्पक्ष और आलोचना करने वाली चर्चाओं के संबंध में ऐसा करना शामिल है. इससे दूसरे और तीसरे विकल्पों से चाहे गए परिणामों में और भी समानता आती है. उनमें सबसे महत्वपूर्ण अंतर उनकी तकनीकी व्यवहार्यता और बड़े पैमाने पर प्रायोगिक क्रियान्वयन है. दूसरे विकल्प में Meta के लिए यह ज़रूरी है कि वह पहले यह सुनिश्चित करे कि परमिशन प्राप्त कोई एक अपवाद लागू होता है और फिर वह यह परीक्षण करे कि क्या उसमें पॉलिसी के उल्लंघन या हिंसा के सिग्नल हैं; तीसरे विकल्प में सीधे यह परीक्षण किया जाता है कि क्या पॉलिसी के उल्लंघन या हिंसा के सिग्नल मौजूद हैं. Meta के अनुसार, दूसरे विकल्प को तकनीकी रूप से डिज़ाइन और लागू करने में बहुत ज़्यादा मेहनत लगेगी क्योंकि इसमें संभावित अपवादों के व्यापक समूह पर विचार करने की ज़रूरत होगी (हालिया बदलावों के बाद और भी व्यापक), जिनमें से हर एक अपवाद, संदर्भ के मूल्यांकन पर अत्यधिक निर्भर है. उन आकलनों को सटीकता और एकरूपता से करने की परेशानी का अप्रत्यक्ष रूप से यह मतलब है कि इसमें ह्यूमन रिव्यू की और भी ज़्यादा ज़रूरत पड़ सकती है और उसके परिणामस्वरूप एन्फ़ोर्समेंट की गलतियों में काफ़ी बढ़ोतरी हो सकती है.
62. बोर्ड मानता है कि Meta के लिए यह बेहतर होगा कि वह मौजूदा अपवादों को छोड़कर किसी ऐसे तरीके पर भरोसा करे जिसमें चिह्नित लोगों के संबंध में “शहीद” शब्द के सभी उपयोगों का ज़्यादा एकरूपता से परीक्षण किया जाए और उन उपयोगों को हटा दे जिनके साथ पॉलिसी के अन्य उल्लंघन या सुझाव सं. 1 में लिस्ट किए गए हिंसा के तीन सिग्नलों में से कोई एक हो. “शहीद” शब्द को सिर्फ़ तभी प्रतिबंधित रेफ़रेंस मानने, जब पॉलिसी के अन्य विकल्प या हिंसा के विशिष्ट सिग्नल मौजूद हों, के Meta के तीसरे प्रस्तावित विकल्प की ओर जाने वाली स्थिति स्वीकार करने के लिए पॉलिसी में बदलाव करने से, जैसा कि बोर्ड ने सुझाव दिया है, फ़ाल्स पॉज़ीटिव (उल्लंघन न करने वाले कंटेंट को गलती से हटाना) में कमी आएगी, जनहित की अभिव्यक्ति, मीडिया की आज़ादी और लोगों की बातचीत को बेहतर सुरक्षा मिलेगी और प्रभावित समूहों के लिए समानता और भेदभाव न होने देने के अधिकार पर होने वाले बुरे प्रभाव में कमी आएगी. अक्टूबर 2023 में इज़राइल पर हमास के नेतृत्व वाले हमलों और उसके बाद के संघर्ष के बाद बोर्ड के सवालों के जवाब में Meta ने यह पुष्टि की कि इन घटनाओं से उसकी रिक्वेस्ट में शुरुआत में प्रस्तुत विकल्पों की स्केलेबिलिटी के उसके विश्लेषण में कोई बदलाव नहीं हुआ है. बोर्ड की दृष्टि में, Meta के तीसरे विकल्प के आधार पर प्रस्तावित सुझाव, इतना बड़ा संकट आने पर संभावित गलतियों के लिए सबसे ज़्यादा लचीला होगा, बशर्ते “रिपोर्टिंग, निष्पक्ष चर्चा और आलोचना” के पॉलिसी अपवाद उपलब्ध रहें. बोर्ड यह स्वीकार करता है कि अगर ये पॉलिसी अपवाद उपलब्ध कराए जाते हैं, तो उनसे Meta के तीसरे विकल्प द्वारा प्रस्तावित पॉलिसी की स्केलेबिलिटी में कुछ ज़्यादा जटिलता आएगी, लेकिन वह इस नतीजे पर पहुँचा कि “शहीद” शब्द का उपयोग करने वाले कंटेंट के मॉडरेशन के संबंध में अभिव्यक्ति की आज़ादी की पर्याप्त सुरक्षा के लिए वे ज़रूरी हैं.
63. बोर्ड के कुछ सदस्य इस निष्कर्ष से असहमत हैं और वे या तो यथास्थिति बनाए रखना या Meta द्वारा प्रस्तावित दूसरे विकल्प को स्वीकार करना पसंद करेंगे. कुछ सदस्यों ने इस बात पर ज़ोर दिया कि “शहीद” शब्द का उपयोग वास्तव में आतंकी संगठनों द्वारा उन लोगों की प्रशंसा करने और उनका महिमामंडन करने के लिए किया जाता है जो हिंसक काम करते हैं और इससे कट्टरता और लोगों की भर्ती को प्रोत्साहन मिल सकता है. बोर्ड के इन सदस्यों के लिए, ये तथ्य ही असली दुनिया को नुकसान का पर्याप्त गंभीर खतरा दर्शाते हैं और ये वर्तमान संपूर्ण प्रतिबंध को बनाए रखने के लिए काफ़ी हैं, भले ही उससे अभिव्यक्ति की आज़ादी से समझौता होता हो. अन्य सदस्यों ने असली दुनिया को होने वाले उस नुकसान की सीमा पर पर्याप्त डेटा की कमी पर विचार किया जिसे Meta के प्लेटफ़ॉर्म पर “शहीद” शब्द के उपयोग से जोड़ा जा सकता है. साथ ही उन्होंने पॉलिसी के तहत ज़रूरत से ज़्यादा एन्फ़ोर्समेंट की व्यापकता पर भी विचार किया ताकि ज़्यादा एहतियाती तरीका अपनाया जा सके और ज़्यादा सुरक्षा की ओर झुकाव रखा जा सके. बोर्ड के कुछ सदस्य यह भी मानते हैं कि दूसरा विकल्प – जिसमें Meta “शहीद” शब्द के अर्थ और उपयोग पर सिर्फ़ तभी विचार करेगा जब लागू किए जा सकने वाले अपवादों को पहले उस पर लागू पाया जाएगा – ऐसी बेहतर स्थिति है जो ज़रूरत के अनुसार बनाई गई है, भले ही उसमें तकनीकी परेशानियों और बड़े पैमाने पर उपयोग करने की व्यावहारिकता से जुड़ी जटिलताएँ हों. बोर्ड ने इन विकल्पों पर गहनता से विचार और चर्चा की. पहले दिए गए सेक्शनों में बताए गए कारणों से, अधिकांश सदस्य इस निष्कर्ष पर पहुँचे कि Meta के तीसरे विकल्प पर आधारित सुझाव बेहतर संतुलन कायम करते हैं.
स्ट्राइक और पेनल्टी
64. भले ही खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी के अन्य प्रतिबंधों को बनाए रखना उचित हो सकता है, लेकिन Meta को यह सुनिश्चित करना चाहिए कि ये प्रतिबंध और उल्लंघन करने पर लगाए जाने वाले अन्य दंड आनुपातिक हों. Meta ने पहले बोर्ड को बताया है कि वह खतरनाक संगठनों और लोगों से जुड़ी अपनी पॉलिसी के सभी उल्लंघनों, जिसमें “प्रशंसा” पर उसका पुराना प्रतिबंध शामिल है, पर हमेशा गंभीर स्ट्राइक लगाता है. गंभीर स्ट्राइक से जल्दी ही अकाउंट के लेवल की पेनल्टी भी लग सकती हैं, जैसे फ़ीचर को कुछ समय के लिए सीमित करना, अकाउंट को सस्पेंड करना और प्रोफ़ाइल या पेजों को हमेशा के लिए बंद करना. इन उपायों से अभिव्यक्ति की आज़ादी के यूज़र्स के अधिकारों में गंभीर रुकावट आती है (पब्लिक कमेंट में भी इस बात पर ज़ोर दिया गया है, देखें उदाहरण, PC-11190 – Brennan Centre). बोर्ड ने पहले यह सुझाव दिया था कि Meta को अपने स्ट्राइक सिस्टम की स्पष्टता और पारदर्शिता बेहतर बनानी चाहिए ( न्यूज़ रिपोर्टिंग में तालिबान का उल्लेख, सुझाव सं. 2; पूर्व राष्ट्रपति ट्रंप का सस्पेंशन केस, सुझाव सं. 15). जवाब में Meta ने अपने ट्रांसपेरेंसी सेंटर में स्ट्राइक सिस्टम की जानकारी दी और वह यूज़र्स को यह जानने की सुविधा देता है कि Meta ने उनके अकाउंट पर कौन-सी पेनल्टी लगाई हैं. Meta ने हाल ही में स्टैंडर्ड स्ट्राइक के लिए अपने सिस्टम को अपडेट किया ताकि उसे और आनुपातिक बनाया जा सके, लेकिन इससे लोगों के लिए यह स्पष्ट नहीं होता कि क्या “गंभीर स्ट्राइक” के लिए Meta के नज़रिए को भी स्वीकार कर लिया गया है.
65. Meta ने शेयर किया कि खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी के संबंध में एन्फ़ोर्समेंट सिस्टम में बदलावों पर काम कर रहा है, लेकिन दिसंबर 2023 के उसके पॉलिसी अपडेट की व्याख्या में यह नहीं बताया गया है कि क्या उसका एन्फ़ोर्समेंट सिस्टम बदला है या बदलेगा या कैसे बदला है या बदलेगा (जैसे, गंभीर स्ट्राइक के संबंध में). अगर कंटेंट को बोर्ड के पुराने सुझावों के अनुसार सही तरीके से उल्लंघन करने वाला पाया जाता है और उस पर अधिक आनुपातिक पेनल्टी लगाई जाती है, तो बोर्ड एन्फ़ोर्समेंट सिस्टम के उन बदलावों का स्वागत करता है. खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी के अधिक हल्के और शाब्दिक रूप से अधिक अस्पष्ट उल्लंघनों के लिए गंभीर स्ट्राइक अनुपातहीन पेनल्टी हैं, जिसके परिणामस्वरूप पॉलिसी को एन्फ़ोर्समेंट के ज़रूरत से ज़्यादा एन्फ़ोर्समेंट की उच्च दर और यूज़र्स के साथ अनुचित व्यवहार की शिकायतें मिलती रहेंगी.
6.2 लिस्ट की पारदर्शिता और ऑडिट बेहतर बनाना
सुझाव 4 – पारदर्शिता: अपनी चिह्नित एंटिटी और घटनाओं की लिस्ट की पारदर्शिता बेहतर बनाने के लिए, Meta को ज़्यादा विस्तार से यह बताना चाहिए कि वह किस प्रक्रिया का पालन करते हुए एंटिटी और घटनाओं को चिह्नित करता है. उसे चिह्नित एंटिटी की अपनी सूची पर सामूहिक जानकारी भी प्रकाशित करनी चाहिए, जिसमें यह बताना शामिल है कि उसकी लिस्ट के हर टियर में कुल कितनी एंटिटी शामिल हैं और पिछले एक वर्ष के दौरान हर टियर में कितनी एंटिटी को जोड़ा और हटाया गया है.
बोर्ड इसे तब लागू मानेगा जब Meta अपने ट्रांसपेरेंसी सेंटर में यह मांगी गई जानकारी प्रकाशित करेगा.
सुझाव 5 – एन्फ़ोर्समेंट: यह सुनिश्चित करने के लिए कि Meta की खतरनाक संगठनों और लोगों से जुड़ी एंटिटी लिस्ट अप टू डेट है और उसमें ऐसा कोई संगठन, लोग और घटनाएँ शामिल नहीं हैं जो अब Meta की चिह्नित किए जाने की परिभाषा पर खरी नहीं उतरतीं, कंपनी को नाम जोड़ने और प्रकाशित शर्तें पूरी न करने वाले नामों को हटाने का नियमित ऑडिट करने के लिए एक स्पष्ट और प्रभावी प्रक्रिया बनानी चाहिए.
बोर्ड इसे तब लागू मानेगा जब Meta ऐसी ऑडिट प्रोसेस बना लेगा और अपने ट्रांसपेरेंसी सेंटर में इस प्रोसेस की जानकारी दे देगा.
66. खतरनाक संगठनों और लोगों से जुड़ी Meta की पिछली पॉलिसी के अनुसार, “प्रशंसा” और “शहीद” शब्द का उपयोग सिर्फ़ तभी प्रतिबंधित था जब उसे Meta द्वारा टियर 1 के खतरनाक व्यक्ति के रूप में चिह्नित एंटिटी का उल्लेख करने के लिए उपयोग किया जाए (“उल्लंघन करने वाली चिह्नित हिंसक घटनाओं” के समर्थकों सहित). दिसंबर 2023 के अपडेट के बाद, पॉलिसी अब टियर 1 में चिह्नित सभी एंटिटी के “अस्पष्ट रेफ़रेंस” और महिमामंडन को प्रतिबंधित करती है. “अस्पष्ट रेफ़रेंस” में “अस्पष्ट हास्य, संदर्भरहित रेफ़रेंस और सकारात्मक रेफ़रेंस शामिल हैं जो चिह्नित एंटिटी की हिंसा या नफ़रत का महिमामंडन नहीं करते.” अभिव्यक्ति की आज़ादी पर ऐसे प्रतिबंधों के संभावित प्रतिकूल असर, मुख्य रूप से उन एंटिटी पर निर्भर करता है जिन्हें Meta टियर 1 के संगठनों के रूप में चिह्नित करता है. साथ ही इस बात पर भी निर्भर करता है कि वह किस “उल्लंघन करने वाली हिंसक घटना” को चिह्नित करता है. राउंडटेबल और सार्वजनिक कमेंट में, कई स्टेकहोल्डर्स ने लिस्ट के संबंध में पारदर्शिता और तय प्रोसेस की कमी की आलोचना की और कहा कि Meta को इसे प्रकाशित करना चाहिए (पब्लिक कमेंट देखें, उदाहरण, PC-11164 – SMEX, पे.3; PC-11157 – Palestine Institute for Public Diplomacy). एक स्टेकहोल्डर इस लिस्ट को व्यापक तौर पर शेयर करने के बारे में चिंतित था क्योंकि इससे सुरक्षा संबंधी चिंताएँ उत्पन्न होती हैं. Meta की पॉलिसीज़ का दायरा समझने के लिए यह लिस्ट अत्यंत प्रासंगिक है, इसलिए कंपनी ने बोर्ड को टियर 1 में चिह्नित संगठनों और लोगों की अपनी लिस्ट दी और उन्हें चिह्नित करने की अपनी प्रोसेस के बारे में बताया. बोर्ड ने इसका गहन अध्ययन किया, जैसा कि नीचे बताया गया है.
67. जैसा कि ऊपर बताया गया है, उन अधिकांश लिस्ट को अमेरिका सरकार द्वारा सार्वजनिक किया गया है जिनसे Meta अपनी टियर 1 के चिह्नित लोगों की लिस्ट बनाता है. इनमें “स्पेशली डेज़िग्नेटेड नारकोटिक्स ट्रैफ़िकिंग किंगपिन्स (SDNTKs),” “फ़ॉरेन टेररिस्ट ऑर्गेनाइज़ेशंस (FTOs)” और “स्पेशली डेज़िग्नेटेड ग्लोबल टेररिस्ट” शामिल हैं. ये लिस्ट व्यापक हैं और इनमें अत्यंत राजनैतिक संदर्भों में कई महाद्वीपों की एंटिटी (और उनके सदस्य) शामिल हैं और ये आतंकवादी एंटिटी तक ही सीमित नहीं हैं. यह गहराई और विविधता सिर्फ़ संकेत हैं कि खतरनाक संगठनों और लोगों से जुड़ी Meta की पॉलिसी के प्रतिबंध किस सीमा तक जा सकते हैं और उनके क्या प्रभाव होंगे. इसमें चिह्नित लोगों के रेफ़रेंस में “शहीद” शब्द का ज़्यादा संपूर्ण प्रतिबंध शामिल है.
68. Meta ने बताया कि खतरनाक संगठनों और लोगों की लिस्ट में जोड़ी जाने वाली लिस्ट को रिव्यू और मंज़ूर करने की उसकी प्रोसेस “कई आंतरिक विशेषज्ञों से परामर्श, आंतरिक डेटा के आकलन और बाहरी रिसर्च पर निर्भर करता है.” Meta ने “पहले से चिह्नित संगठनों और लोगों के अतिरिक्त सदस्यों, एलियाज, प्रतीकों, स्लोगन, सब-ग्रुप या मीडिया शाखा” को डॉक्यूमेंट करने के लिए भी प्रोसेस बनाई है. 2022 में Meta के प्लेटफ़ॉर्म को खतरनाक संगठनों और लोगों की धमकियों के कंपनी द्वारा आकलन के आधार पर कंपनी ने 1,000 से कुछ कम एंटिटी को चिह्नित किया. आपराधिक एंटिटी को सबसे ज़्यादा संख्या में चिह्नित किया गया, जिसके बाद आतंकवादी एंटिटी और फिर नफ़रत फैलाने वाली एंटिटी आती हैं. Meta के पास पॉलिसी की लिस्ट से हटाने की भी प्रोसेस है जिसमें आम तौर पर यह देखा जाता है कि क्या एंटिटी अभी भी खतरनाक संगठन या व्यक्ति के संबंध में पॉलिसी की सीमा में आती है और वह “उन एक्टिव स्टेप्स पर विचार करती है जो किसी एंटिटी ने हिंसक काम बंद करने और शांति अपनाने के लिए उठाए हैं.” इस प्रोसेस का अभी पुनर्निर्माण चल रहा है, लेकिन 2022 के बाद से इसे 10 से कम बार ही लागू किया गया है. Meta ने यह बताया कि चिह्नित एंटिटी की लिस्ट को यथासंभव अप-टू-डेट रखने और खतरनाक संगठनों और लोगों से होने वाले खतरों को सटीकता से बताने के निरंतर प्रयासों के भाग के रूप में वह पहले चिह्नित एंटिटी का ऑडिट कर रहा है.
69. Meta ने बताया कि अगर चिह्नित एंटिटी या घटनाओं की उसकी लिस्ट को सार्वजनिक रूप से शेयर किया जाता है या लिस्ट में जोड़े जाने पर एंटिटी को बताया जाता है, तो इससे एन्फ़ोर्समेंट की प्रभावशीलता और Meta के कई कर्मचारियों की सुरक्षा को खतरा हो सकता है. जब एंटिटी को चिह्नित किया गया है या जब उन्हें इसकी जानकारी मिली है, तब उनमें से कुछ ने Meta के खिलाफ़ कानूनी कार्रवाई की है (Facebook बनाम CasaPound केस, 29 अप्रैल, 2020, रोम, इटली की कोर्ट, और विश्लेषण यहाँ देखें). बोर्ड ने नोट किया है कि कुछ केसों में, Meta ने मीडिया के सवालों के जवाब में कुछ ग्रुप्स के चिह्नित होने का खुलासा किया है और चिह्नित नामों को ओवरसाइट बोर्ड के फ़ैसलों के ज़रिए भी शेयर किया गया है.
70. बोर्ड ने पहले सुझाव दिया था कि Meta, चिह्नित एंटिटी की अपनी लिस्ट को सार्वजनिक रूप से शेयर करे या कम से कम दृष्टांत उदाहरण दे ( नाज़ी उद्धरण, सुझाव सं. 3). Meta ने लिस्ट प्रकाशित नहीं की है और इस सुझाव पर क्या एक्शन संभव है यह आकलन करके आगे कोई अपडेट नहीं दिया है. अगर Meta इस सुझाव को लागू करने से लगातार इंकार करता रहता है, तो उसे लिस्ट के संबंध में पारदर्शिता को बेहतर बनाने के लिए कम से कम दूसरे उपाय करने चाहिए. सामूहिक डेटा प्रकाशित करने, चिह्नित करने की प्रोसेस पर पारदर्शिता बेहतर बनाने और अचिह्नित करने की प्रोसेस को ज़्यादा प्रभावी बनाने से Meta के नियमों और प्रोसेस के बारे में यूज़र की जागरूकता में सुधार हो सकता है. इससे Meta द्वारा एंटिटी को चिह्नित किए जाने और अभिव्यक्ति की आज़ादी और अन्य मानवाधिकारों पर पड़ने वाले उसके प्रभावों की ज़्यादा छानबीन और जवाबदेही भी सुनिश्चित होगी. लिस्ट की गोपनीयता बनाए रखते हुए पारदर्शिता बेहतर बनाने के लिए Meta, रिसर्चर्स को डेटा की एक्सेस देने पर भी विचार कर सकता है.
6.3 एन्फ़ोर्समेंट की सटीकता का आकलन करने और क्लासिफ़ायर्स को टेसक्ट करने के लिए डेटा
सुझाव 6 – पारदर्शिता: Meta के एन्फ़ोर्समेंट को ज़्यादा पारदर्शी बनाने, बाज़ारों और भाषाओं के बीच क्षेत्रीय अंतरों सहित, के लिए Meta को उन तरीकों के बारे में विस्तार से बताना चाहिए जिनका उपयोग वह खतरनाक संगठनों और लोगों से जुड़ी अपनी पॉलिसी को एन्फ़ोर्स करते समय ह्यूमन रिव्यूअर्स की सटीकता और ऑटोमेटेड सिस्टम की परफ़ॉर्मेंस का आकलन करने के लिए करता है. उसे इसी पॉलिसी के एन्फ़ोर्समेंट में उपयोग किए जाने वाले क्लासिफ़ायर्स के परफ़ॉर्मेंस आकलन के परिणामों को समय-समय पर शेयर करना चाहिए और परिणामों को इस तरह प्रस्तुत करना चाहिए कि इन आकलनों की तुलना सभी भाषाओं और/या क्षेत्रों के अनुसार की जा सके.
बोर्ड इसे तब लागू मानेगा जब Meta इस जानकारी को अपने ट्रांसपेरेंसी सेंटर और कम्युनिटी स्टैंडर्ड एन्फ़ोर्समेंट रिपोर्ट में शामिल करेगा.
सुझाव 7 – पारदर्शिता: स्टेकहोल्डर्स को सूचित करने के लिए, Meta को स्पष्ट भाषा में यह जानकारी देनी चाहिए कि पॉलिसी उल्लंघनों के अनुमान जेनरेट करने के लिए किस तरह क्लासिफ़ायर्स का उपयोग किया जाता है. Meta को उन प्रोसेस की जानकारी देकर, जिनके ज़रिए थ्रेशोल्ड को सेट किया जाता है, यह भी बताना चाहिए कि वह यह थ्रेशोल्ड कैसे बनाता है कि कोई कार्रवाई नहीं करनी है, कंटेंट को ह्यूमन रिव्यू के लिए भेजना है या कंटेंट को हटाना है. इस जानकारी को कंपनी के ट्रांसपेरेंसी सेंटर में दिया जाना चाहिए.
बोर्ड इसे तब लागू मानेगा जब Meta अपने ट्रांसपेरेंसी सेंटर में यह मांगी गई जानकारी प्रकाशित करेगा.
71. राउंडटेबल और पब्लिक कमेंट में कई स्टेकहोल्डर्स ने कहा कि Meta द्वारा उसकी खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी के एन्फ़ोर्समेंट और ह्यूमन और ऑटोमेटेड रिव्यू में “शहीद” शब्द से उसके व्यवहार के कारण अक्सर एन्फ़ोर्समेंट से जुड़ी ऐसी गलतियाँ हुई हैं जिनका मुसलमानों और प्रासंगिक भाषाई कम्युनिटी पर अनुपातहीन प्रभाव पड़ा है (पब्लिक कमेंट देखें, उदाहरण, PC-11183 ECNL EFF, PC-11190 – Brennan Centre; PC-11188 – डिजिटल राइट्स फ़ाउंडेशन. PC-11196 – Integrity Institute, इज़राइल और फ़िलिस्तीन में Meta के असर पर BSR की रिपोर्ट भी देखें). Meta ने भी अपनी रिक्वेस्ट में यह स्वीकार किया कि यह “शहीद” शब्द के बारे में उसकी पॉलिसी का नतीजा है. Meta की ह्यूमन और ऑटोमेटेड एन्फ़ोर्समेंट प्रोसेस की पारदर्शिता, सटीकता और निष्पक्षता को बेहतर बनाने के लिए, बोर्ड ने उपरोक्त दो सुझाव दिए हैं.
72. Meta ने बताया कि वह नियमित रूप से ह्यूमन और ऑटोमेटेड एन्फ़ोर्समेंट की सटीकता का मूल्यांकन करता रहता है. Meta के आउटसोर्सिंग पार्टनर्स द्वारा ह्यूमन रिव्यूअर्स का समय-समय पर ऑडिट किया जाता है और वे ऑडिट, Meta की ग्लोबल ऑपरेशन टीम के अतिरिक्त मूल्यांकन के अधीन होते हैं.
73. बोर्ड ने पहले सुझाव दिया था कि Meta, खतरनाक संगठनों और लोगों की “प्रशंसा” और “समर्थन” के लिए और हर कम्युनिटी स्टैंडर्ड के लिए गलतियों की दर की जानकारी को देश और भाषा के अनुसार देखने योग्य बनाकर इस बारे में लोगों को बेहतर जानकारी देने के लिए अपनी ट्रांसपेरेंसी रिपोर्टिंग को बेहतर बनाए ( ओजलान का एकांतवास, सुझाव सं. 12, भारत में RSS पर पंजाबी चिंता, सुझाव सं. 3). Meta ने व्यवहार्यता का आकलन करने के बाद बताया कि उसने इस सुझाव को लागू करने से इंकार कर दिया है ( ओजलान का एकांतवास, सुझाव सं. 12; ओवरसाइट बोर्ड पर Meta का Q4 2021 का तिमाही अपडेट, पेज 21 पर) और उसने प्रोफ़ाइल, पेज और अकाउंट प्रतिबंधों के साथ-साथ भाषा के बजाय लोकेशन के आधार पर सटीकता के मीट्रिक परिभाषित करने की अपनी लंबी अवधि की कोशिशों पर अपना ध्यान केंद्रित किया है ( भारत में RSS पर पंजाबी चिंता, सुझाव सं. 3; ओवरसाइट बोर्ड पर Meta का Q2 2023 का तिमाही अपडेट, पेज 59 पर). खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी के अनुपातहीन एन्फ़ोर्समेंट के बारे में व्यापक चिंताओं, जो “शहीद” शब्द के बारे में Meta की स्थिति से पता चलती है, और एन्फ़ोर्समेंट के उपयोगी डेटा के Meta द्वारा प्रकटीकरण की कमी को देखते हुए, बोर्ड ने इन सुझावों और कंपनी के लिए लोकेशन के अनुसार एन्फ़ोर्समेंट की पारदर्शिता को बेहतर बनाने के महत्व को दोहराया.
74. Meta द्वारा अभी अपने ट्रांसपेरेंसी सेंटर में शेयर किए जाने वाले डेटा से ह्यूमन रिव्यू की सटीकता और ऑटोमेटेड सिस्टम्स की परफ़ॉर्मेंस के पर्याप्त इनसाइट नहीं मिलते. अपने तरीकों की छानबीन संभव बनाने के लिए, Meta को यह बताना चाहिए कि वह खतरनाक संगठनों और लोगों से जुड़ी अपनी पॉलिसी को एन्फ़ोर्स करते समय ह्यूमन रिव्यूअर्स की सटीकता और ऑटोमेटेड सिस्टम की परफ़ॉर्मेंस का आकलन किस तरह करता है. क्लासिफ़ायर्स की परफ़ॉर्मेंस पर पारदर्शिता को बेहतर बनाने के लिए, Meta को ऐसे मीट्रिक शेयर करने चाहिए जिनमें शुद्धता (जितने कंटेंट को उल्लंघन करने वाले के रूप में फ़्लैग किया गया, उनमें से कितने कंटेंट को सचमुच उल्लंघन करने वाला पाया गया) और रीकॉल (उल्लंघन करने वाला जितना कंटेंट मौजूद है, उसमें से कितने प्रतिशत कंटेंट को क्लासिफ़ायर ने उल्लंघन करने वाले के रूप में पहचाना) शामिल हों. सभी क्षेत्रों में ह्यूमन रिव्यू की सटीकता और विभिन्न भाषाओं में क्लासिफ़ायर्स की परफ़ॉर्मेंस पर जानकारी प्रकाशित करने से Meta के मानवाधिकार संबंधी दायित्वों के बारे में जवाबदेही बेहतर बनेगी. बोर्ड इसलिए अपने पुराने सुझाव दोहराता है और Meta से प्रस्तावित बदलाव करने के लिए कहता है.
75. Meta अपने कम्युनिटी स्टैंडर्ड को एन्फ़ोर्स करने के लिए क्लासिफ़ायर्स सहित ऑटोमेटेड सिस्टम्स पर निर्भर है. क्लासिफ़ायर मॉडल, ट्रेनिंग डेटा के सेट के आधार पर डेटा को अपने आप एक या उससे ज़्यादा “क्लास” (जैसे उल्लंघन करने वाला या उल्लंघन नहीं करने वाला) में बाँटते हैं. Meta बड़े पैमाने पर कंटेंट का मॉडरेशन किस तरह करता है, इसका मूल्यांकन करने के लिए यह समझना ज़रूरी है कि ये सिस्टम किस तरह काम करते हैं और वे कितने सटीक हैं. Meta अपने ट्रांसपेरेंसी सेंटर के एन्फ़ोर्समेंट सेक्शन में कुछ बुनियादी जानकारी देता है कि वह उल्लंघन करने वाले कंटेंट का पता लगाने के लिए ऑटोमेटेड सिस्टमों का उपयोग किस तरह करता है, जबकि फ़ीचर्स सेक्शन में Meta बताता है कि वह कंटेंट को किस तरह रैंक और क्यूरेट करता है. कंटेंट की रिपोर्ट किए जाने के पहले Meta कितने प्रतिशत कंटेंट को हटा देता है (अर्थात ऑटोमेटेड पहचान के आधार पर), इस बारे में वह पहले ही अपनी कम्युनिटी स्टैंडर्ड एन्फ़ोर्समेंट रिपोर्ट में जानकारी प्रकाशित कर रहा है. यह डेटा ऑटोमेटेड पहचान का महत्व बताता है, लेकिन इसमें Meta के ऑटोमेटेड सिस्टमों के उपयोग और सटीकता के विस्तृत मीट्रिक नहीं हैं, खास तौर पर ऑटोमेटेड रूप से हटाने के बारे में. सुझावों के इस सेट का लक्ष्य, एल्गोरिदम के Meta द्वारा उपयोग के बारे में बेहतर पारदर्शिता देना है.
76. बोर्ड द्वारा पूछे गए सवालों के जवाब में Meta ने बताया कि “सामान्य भाषा – अरबी” के लिए खतरनाक संगठनों और लोगों से जुड़ा क्लासिफ़ायर, Meta की पॉलिसीज़ के आधार पर एक शुरुआती रिव्यू करता है. क्लासिफ़ायर का लक्ष्य उस कंटेंट की पहचान करना होता है जो उन पॉलिसीज़ का उल्लंघन कर सकता है. बोर्ड ने पाया कि Meta को ट्रांसपेरेंसी सेंटर के एन्फ़ोर्समेंट सेक्शन में अपने यूज़र्स के लिए क्लासिफ़ायर पर इस भरोसे की जानकारी विस्तार से देनी चाहिए, जैसा कि बोर्ड ने पहले अपने फ़ैसलों में कहा है (see ब्रेस्ट कैंसर के लक्षण और नग्नता, सुझाव सं. 3; कोलंबियाई पुलिस का कार्टून, सुझाव सं. 3). खास तौर पर, उन अनुमानित कॉन्फ़िडेंस थ्रेशोल्ड के बारे में पारदर्शिता होना ज़रूरी है जिनका उपयोग यह तय करने के लिए किया जाता है कि कंटेंट पर कार्रवाई करनी है या नहीं करनी है और क्या उसे ह्यूमन रिव्यू की कतार में भेजना है (कतार में जोड़ें). साथ ही उन विचार योग्य बातों या कारणों के बारे में भी बताना चाहिए जो ये स्कोर करते हैं.
77. Meta ने बताया कि उसकी सटीकता टेस्टिंग, पॉलिसी में इंडिविजुअल उल्लंघन प्रकार पर फ़ोकस नहीं करती, बल्कि वह संपूर्ण पॉलिसी क्षेत्र की समग्र सटीकता दरों पर फ़ोकस करती है. Meta ने बताया कि वह “नियमित रूप से मीट्रिक की निगरानी करता है और बड़े पैमाने पर सटीकता की दर का ऑडिट करता है.” बोर्ड ने पहले बताया था कि कम्युनिटी स्टैंडर्ड के Meta द्वारा एन्फ़ोर्समेंट की समग्र परफ़ॉर्मेंस का मूल्यांकन करना पर्याप्त नहीं है (वैमपम बेल्ट फ़ैसला देखें). एक ऐसा सिस्टम जो औसत स्थिति में बढ़िया काम कर सकता है, वही कंटेंट की सब कैटेगरी के मामले में खराब प्रदर्शन कर सकता है, जैसे कि “शहीद” शब्द का उपयोग करने वाला कंटेंट, जहाँ कि गलत फ़ैसलों से खासकर मानवाधिकार प्रभावित हुए हों. इसलिए Meta के लिए यह दिखाना ज़रूरी है कि वह मानवाधिकारों पर अपने सिस्टमों के संभावित बुरे प्रभावों को पहचानने और कम करने के लिए सम्यक उद्यम करता है और यह कि वह ऐसे जानकारी शेयर करता है जिससे इन प्रभावों की छानबीन की जा सके.
78. कई स्टेकहोल्डर्स ने यह तर्क दिया कि Meta का एल्गोरिदम एन्फ़ोर्समेंट सिस्टम, संदर्भ पर ध्यान देने में विफल रहा, उसने गैर-अंग्रेज़ी भाषाओं में ज़्यादा गलतियाँ की और यह कि इससे मुसलमान कम्युनिटी के खिलाफ़ असमान असर पड़ा (पब्लिक कमेंट देखें, उदाहरण, PC-11190 – Brennan Centre).
79. कुछ स्टेकहोल्डर्स ने सुझाव दिया कि “शहीद” शब्द को मॉडरेट करने के लिए Meta, ऑटोमेशन का बिल्कुल भी उपयोग न करे, क्योंकि ऑटोमेशन आज तक संदर्भ को समझने में सामान्य तौर पर विफल रहा है (पब्लिक कमेंट देखें, उदाहरण, PC-11164 – SMEX, पे.4; PC-11157 – Palestine Institute for Public Diplomacy). अन्य लोगों ने तर्क दिया कि खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी का उल्लंघन करने वाले कंटेंट के लिए गंभीर पेनल्टी को देखते हुए, ऑटोमेशन का उपयोग सिर्फ़ कंटेंट को कतारबद्ध करने के लिए किया जाना चाहिए, न कि उसे अपने आप हटाने के लिए (देखें उदाहरण, PC-11183 ECNL EFF, पे. 4f). स्टेकहोल्डर्स ने सुझाव दिया कि जिस पोस्ट में किसी चिह्नित व्यक्ति के बारे में “शहीद” शब्द का उपयोग किया जाता है, उसका रिव्यू “किसी ऐसे ह्यूमन मॉडरेटर द्वारा करना बेहतर होगा जो उस पोस्ट के शुरू होने की जगह के स्थानीय संदर्भ से परिचित हो,” (देखें PC-11188 – Digital Rights Foundation, पे.2). कुछ ने सुझाव दिया कि कंटेंट को जिओ-टैग किया जाना चाहिए, ताकि ह्यूमन और ऑटोमेटेड रिव्यू में संदर्भ पर बेहतर ध्यान दिया जा सके (देखें उदाहरण, PC-11165 – Taraaz, पे. 1). स्टेकहोल्डर्स ने Meta से यह भी कहा कि वह अपने ऑटोमेटेड एन्फ़ोर्समेंट की सटीकता की ज़्यादा जानकारी दे और गैर-अंग्रेज़ी भाषाओं में अपने ऑटोमेटेड सिस्टमों को बेहतर बनाने के लिए ज़्यादा निवेश करे (देखें उदाहरण, PC-11164 – SMEX, पे.5; PC-11190 – Brennan Centre). उन्होंने Meta से यह भी कहा कि वह अपनी कंटेंट मॉडरेशन एक्टिविटी को “सभी भाषाओं में एकसमान रूप से रिपोर्ट करे, जिसमें यूज़र रिपोर्ट, कार्रवाई की दर, कार्रवाई के प्रकार, निम्नीकरण तकनीक की प्रभावकारिता, ट्रेनिंग की जानकारी और अपील की दरें शामिल हों,” (देखें उदाहरण, PC-11196 – Integrity Institute).
80. कुछ विशेषज्ञ इस बात से असहमत थे कि किसी चिह्नित एंटिटी के संबंध में “शहीद” शब्द का उपयोग कर लेने भर से ही ऑटोमेटेड सिस्टम को उस कंटेंट को प्लेटफ़ॉर्म से हटा देना चाहिए, लेकिन वे इस बात को बढ़ावा देते हैं कि मॉडरेशन के ज़्यादा लेयर वाले तरीके के भाग के रूप में इस शब्द का उपयोग किया जाए (जैसे, Meta की पॉलिसी के अनुसार रिव्यू के लिए कंटेंट को कतारबद्ध करने के सिग्नल के रूप में, लेकिन सिर्फ़ इस रेफ़रेंस के होने के कारण उसे हटाने के लिए नहीं).
81. बोर्ड यह मानता है कि बड़े पैमाने पर कंटेंट को मॉडरेट करते समय एल्गोरिदम सिस्टम की मदद लेना ज़रूरी है और प्रस्तावित तरीकों में से कई तरीके बड़े पैमाने पर और ऑटोमेशन का उपयोग करके लागू नहीं किए जा सकेंगे. लेकिन बोर्ड इस निष्कर्ष पर भी पहुँचा कि Meta को ऊपर सुझाए गए कदमों सहित अन्य कदम उठाने की ज़रूरत है, ताकि उन सिस्टमों की पारदर्शिता और निष्पक्षता सुनिश्चित की जा सके.
*प्रक्रिया संबंधी नोट:
ओवरसाइट बोर्ड की पॉलिसी एडवाइज़री टीम की राय, पाँच सदस्यों के पैनल द्वारा तैयार की जाती है और बोर्ड में बहुमत का फ़ैसला मान्य होता है. ज़रूरी नहीं है कि बोर्ड के फ़ैसले, सभी सदस्यों की निजी राय दर्शाएँ.
पॉलिसी एडवाइज़री टीम की इस राय के लिए, बोर्ड की ओर से स्वतंत्र शोध करवाया गया था. बोर्ड की सहायता एक स्वतंत्र शोध संस्थान ने की जिसका मुख्यालय गोथेनबर्ग यूनिवर्सिटी में है और जिसके पास छह महाद्वीपों के 50 से भी ज़्यादा समाजशास्त्रियों की टीम के साथ ही दुनियाभर के देशों के 3,200 से भी ज़्यादा विशेषज्ञ हैं. बोर्ड को Duco Advisers की सहायता भी मिली, जो भौगोलिक-राजनैतिक, विश्वास और सुरक्षा और टेक्नोलॉजी के आपसी संबंध पर काम करने वाली एक एडवाइज़री फ़र्म है. Memetica ने भी विश्लेषण उपलब्ध कराया जो सोशल मीडिया ट्रेंड पर ओपन-सोर्स रिसर्च में एंगेज होने वाला संगठन है. Lionbridge Technologies, LLC कंपनी ने भाषा संबंधी विशेषज्ञता की सेवा दी, जिसके विशेषज्ञ 350 से भी ज़्यादा भाषाओं में कुशल हैं और वे दुनियाभर के 5,000 शहरों से काम करते हैं.