दक्षिण अफ़्रीका का गालियाँ

केस का सारांश

ओवरसाइट बोर्ड ने Facebook के उस फ़ैसले को कायम रखा है जिसमें उसने नफ़रत फैलाने वाली भाषा के अपने कम्युनिटी स्टैंडर्ड के तहत एक ऐसी पोस्ट को हटा दिया था, जिसमें दक्षिण अफ़्रीकी समाज पर चर्चा हो रही थी. बोर्ड ने पाया कि पोस्ट में एक अपशब्द का उपयोग दक्षिण अफ़्रीकी लोगों के संदर्भ में किया गया था, जो टार्गेट किए गए लोगों को अपमानित और अलग-थलग महसूस करवाने के साथ उन्हें आहत कर रहा था.

केस की जानकारी

मई 2021 में एक Facebook यूज़र ने ऐसे किसी पब्लिक ग्रुप में अंग्रेज़ी भाषा में कुछ पोस्ट किया, जिसे आँखों से पर्दा हटाने वाला बताया गया. यूज़र की Facebook प्रोफ़ाइल फ़ोटो और बैनर फ़ोटो दोनों में एक अश्वेत व्यक्ति को दिखाया गया है. पोस्ट में दक्षिण अफ़्रीका के “बहु-जातिवाद” पर चर्चा की गई है, और तर्क रखा गया है कि 1994 से देश के अश्वेत लोगों में गरीबी, बेघर होने और भूमिहीन होने की समस्या बढ़ गई है.

इसमें कहा गया कि अधिकांश संपत्ति श्वेत लोगों के पास है और उनके नियंत्रण में है, साथ ही यह भी कि अमीर अश्वेत लोगों के पास कुछ कंपनी का स्वामित्व हो सकता है, लेकिन नियंत्रण नहीं है. इसमें यह भी कहा गया है कि अगर “you think” (आप सोचते हैं) कि श्वेत लोगों के इलाके में रहने से, उनकी भाषा बोलने से और उनके साथ पढ़ाई करने से आप “deputy-white” (कुछ हद तक श्वेत) बन जाते हैं, तो “you need to have your head examined” (आपको अपने दिमाग का इलाज करवाना चाहिए). पोस्ट के आखिरी में लिखा है कि “[y]ou are” a “sophisticated slave,” “a clever black,” “’n goeie kaffir” or “House nigger” (आप एक सूट-बूट वाले गुलाम, एक चतुर अश्वेत, एक नंबर के काफ़िर या घरेलू निगर (घरों में काम करने वाले नौकर हैं) (जिसे यहाँ पर और आगे “k***ir” (का*र) और “n***er” (नि*र) लिखा गया).

मुख्य निष्कर्ष

Facebook ने अपनी उस पॉलिसी का उल्लंघन करने के कारण नफ़रत फैलाने वाली भाषा से जुड़े अपने कम्युनिटी स्टैंडर्ड के तहत इस कंटेंट को हटा दिया था, जो पॉलिसी लोगों की जाति, नस्ल और/या मूल राष्ट्रीयता के आधार पर उन्हें निशाना बनाने के लिए उपयोग किए जाने वाले अपशब्दों पर रोक लगाती है. कंपनी ने पाया कि “k***ir” (का*र) और “n***er” (नि*र) दोनों ही शब्द Facebook की उस लिस्ट में हैं, जिसमें सब-सहारा क्षेत्र में बोले जाने वाले प्रतिबंधित अपशब्द होते हैं.

बोर्ड को लगा कि इस कंटेंट को हटाने का फ़ैसला Facebook के कम्युनिटी स्टैंडर्ड के अनुसार सही था. बोर्ड ने यह पता लगाने के लिए पब्लिक कमेंट और विशेषज्ञों के शोध का मूल्यांकन किया कि “k***ir” (का*र) और “n***er” (नि*र) दोनों ही शब्दों का उपयोग भेदभाव के नज़रिए से किया जाता है और यह भी कि दक्षिण अफ़्रीकी संदर्भ में “k***ir” (का*र) ख़ास तौर पर घृणित और आहत करने वाला शब्द है.

बोर्ड Facebook की इस बात से सहमत था कि कंटेंट में “k***ir” (का*र) शब्द के उपयोग की निंदा नहीं की गई थी, न ही इसे लेकर जागरूकता बढ़ाई जा रही थी और कंटेंट में इस शब्द का उपयोग खुद का संदर्भ देने या सशक्तिकरण के उद्देश्य से नहीं किया गया था. इसलिए, इस केस में कंपनी के नफ़रत फैलाने वाली भाषा से जुड़े कम्युनिटी स्टैंडर्ड का कोई अपवाद लागू नहीं होता है.

यूज़र की पोस्ट में दक्षिण अफ़्रीका के प्रासंगिक तथा चुनौतीपूर्ण सामाजिक-आर्थिक और राजनीतिक मुद्दों पर चर्चा की गई थी, लेकिन यूज़र ने देश में सबसे गंभीर माने जाने वाले शब्दों का उपयोग करके इस आलोचना को नस्लीय बना दिया.

दक्षिण अफ़्रीकी संदर्भ में “k***ir” (का*र) एक अपशब्द है, जो टार्गेट किए जाने वाले लोगों के लिए अपमानजनक, उन्हें अलग-थलग महसूस करवाने और आहत करने वाला है. Facebook को प्लेटफ़ॉर्म पर नस्लीय अपशब्दों के उपयोग को गंभीरता से लेना चाहिए, ख़ास तौर पर एक ऐसे देश के मामले में जो विरासत में मिली रंगभेद की समस्या से अभी भी जूझ रहा है.

बोर्ड का मानना है कि Facebook द्वारा बनाई गई अपशब्दों की लिस्ट और भी पारदर्शी होनी चाहिए. कंपनी को इस लिस्ट के बारे में और जानकारी देना चाहिए, जिसमें अलग-अलग क्षेत्रों में इसे लागू करने के तरीके और इसे गोपनीय रखने का कारण बताया गया हो.

बोर्ड ने यह सुझाव देते हुए Facebook से आग्रह किया कि वह नफ़रत फैलाने वाली भाषा से जुड़ी अपनी पॉलिसी को लागू करने में प्रक्रियात्मक निष्पक्षता बढ़ाए. इससे यूज़र्स को यह समझने में मदद मिलेगी कि Facebook ने उनका कंटेंट क्यों हटा दिया था और वे भविष्य में अपना व्यवहार बदल पाएँगे.

ओवरसाइट बोर्ड का फ़ैसला

ओवरसाइट बोर्ड ने Facebook का पोस्ट को हटाने का फ़ैसला कायम रखा.

पॉलिसी से जुड़े सुझाव देते हुए बोर्ड ने Facebook को कहा कि वह:

• यूज़र्स को नफ़रत फैलाने वाली भाषा से जुड़े कम्युनिटी स्टैंडर्ड के अंतर्गत आने वाले उस नियम के बारे में बताए, जिसका उस भाषा में उल्लंघन किया गया है, जिसमें वे Facebook का उपयोग करते हैं, जैसा कि 2020-003-FB-UA केस के फ़ैसले (अज़रबैजान में आर्मेनियाई लोग) और 2021-002-FB-UA केस के फ़ैसले (ज़्वार्टे पिएट का चित्रण) में सुझाव दिया गया है. जैसे कि इस केस में यूज़र को बताया जाना चाहिए था कि उन्होंने अपशब्दों पर लगी रोक का उल्लंघन किया था. बोर्ड ने 2021-002-FB-UA केस के फ़ैसले में सुझाव संख्या 2 को लेकर Facebook की प्रतिक्रिया पर ध्यान दिया है, जिसमें ऐसे नए क्लासिफ़ायर के बारे में बताया गया है, जो अंग्रेज़ी भाषा में Facebook का उपयोग करने वाले यूज़र्स को बताए कि उनके कंटेंट से अपशब्दों के खिलाफ़ बने नियम का उल्लंघन हुआ है. बोर्ड को उम्मीद है कि Facebook अंग्रेज़ी भाषा के यूज़र्स के लिए कार्यान्वयन की पुष्टि करने वाली जानकारी और अन्य भाषा के यूज़र्स के लिए कार्यान्वयन की समय-सीमा के बारे में जानकारी देगा.

*केस के सारांश से केस का ओवरव्यू पता चलता है और आगे के किसी फ़ैसले के लिए इसको आधार नहीं बनाया जा सकता है.

केस का पूरा फ़ैसला

1. फ़ैसले का सारांश

ओवरसाइट बोर्ड ने Facebook के उस फ़ैसले को कायम रखा है जिसमें उसने अपशब्दों के उपयोग पर रोक लगाने के लिए बने नफ़रत फैलाने वाली भाषा के अपने कम्युनिटी स्टैंडर्ड के तहत एक ऐसी पोस्ट को हटा दिया था, जिसमें दक्षिण अफ़्रीकी समाज पर चर्चा हो रही थी.

2. केस का विवरण

मई 2021 में एक Facebook यूज़र ने ऐसे किसी पब्लिक ग्रुप में अंग्रेज़ी भाषा में कुछ पोस्ट किया, जिसे आँखों से पर्दा हटाने वाला बताया गया. यूज़र की Facebook प्रोफ़ाइल फ़ोटो और बैनर फ़ोटो दोनों में एक अश्वेत व्यक्ति को दिखाया गया है. पोस्ट में दक्षिण अफ़्रीका के “बहु-जातिवाद” पर चर्चा की गई है, और तर्क रखा गया है कि 1994 से दक्षिण अफ़्रीका के अश्वेत लोगों में गरीबी, बेघर होने और भूमिहीन होने की समस्या बढ़ गई है. इसमें कहा गया कि अधिकांश संपत्ति श्वेत लोगों के पास है और उनके नियंत्रण में है, साथ ही यह भी कि अमीर अश्वेत लोगों के पास कुछ कंपनी का स्वामित्व हो सकता है, लेकिन नियंत्रण नहीं है. इसमें यह भी कहा गया है कि अगर “you think” (आप सोचते हैं) कि श्वेत लोगों के इलाके में रहने से, उनकी भाषा बोलने से और उनके साथ पढ़ाई करने से आप “deputy-white” (कुछ हद तक श्वेत) बन जाते हैं, तो “you need to have your head examined” (आपको अपने दिमाग का इलाज करवाना चाहिए). पोस्ट के आखिरी में लिखा है कि “[y]ou are” a “sophisticated slave,” “a clever black,” “’n goeie kaffir” or “House nigger” (आप एक सूट-बूट वाले गुलाम, एक चतुर अश्वेत, एक नंबर के काफ़िर या घरेलू निगर (घरों में काम करने वाले नौकर हैं) (जिसे यहाँ पर और आगे “k***ir” (का*र) और “n***er” (नि*र) लिखा गया).

उस पोस्ट को 1,000 से ज़्यादा बार देखा गया था, उसे पाँच से कम कमेंट और 10 से ज़्यादा रिएक्शन मिले थे. उसे 40 से ज़्यादा बार शेयर किया गया था. एक Facebook यूज़र ने उस पोस्ट की रिपोर्ट नफ़रत फैलाने वाली भाषा से जुड़े Facebook के कम्युनिटी स्टैंडर्ड का उल्लंघन करने के लिए की थी. Facebook के अनुसार उस कंटेंट को पोस्ट करने वाला यूज़र, उस कंटेंट की रिपोर्ट करने वाला यूज़र और “उस पर रिएक्शन देने वाले, कमेंट करने वाले और/या उसे शेयर करने वाले सभी यूज़र” के अकाउंट दक्षिण अफ़्रीका में हैं.

वह पोस्ट इस प्लेटफ़ॉर्म पर करीब एक दिन तक मौजूद रही. किसी मॉडरेटर द्वारा रिव्यू किए जाने बाद Facebook ने नफ़रत फैलाने वाली भाषा से जुड़ी अपनी पॉलिसी के तहत उस पोस्ट को हटा दिया. नफ़रत फैलाने वाली भाषा से जुड़े Facebook का कम्युनिटी स्टैंडर्ड ऐसे कंटेंट पर रोक लगाता है, जिसमें जाति, नस्ल और/या मूल राष्ट्रीयता के आधार पर “लोगों के बारे में अपशब्द कहकर बताया जाता है या इसके ज़रिए उन्हें नकारात्मक तरीके से टार्गेट किया जाता है, यहाँ अपशब्दों का मतलब ऐसे शब्दों से है, जो सहज रूप में आपत्तिजनक हैं और किसी का अपमान करने के लिए उपयोग किए जाते हैं”. Facebook ने यह देखा कि अपशब्दों पर उन्होंने वैश्विक स्तर पर रोक लगा रखी है, वहीं अपशब्दों से जुड़ी उनकी आतंरिक लिस्ट में अपशब्दों का चयन क्षेत्र के अनुसार होता है. “k***ir” (का*र) और “n***er” (नि*र) दोनों ही शब्द Facebook की उस लिस्ट में हैं, जिसमें सब-सहारा क्षेत्र में बोले जाने वाले प्रतिबंधित अपशब्द होते हैं.

Facebook ने यूज़र को सूचना दी थी कि उनकी पोस्ट से नफ़रत फैलानी वाली भाषा से जुड़े Facebook के कम्युनिटी स्टैंडर्ड का उल्लंघन हुआ है. उदाहरण के तौर पर Facebook ने बताया कि उस यूज़र को दिए गए नोटिस में बताया गया था कि यह स्टैंडर्ड नफ़रत भरी बात, अपशब्दों, और कोरोना वायरस को लेकर किए जाने वाले दावों पर रोक लगाता है. उस यूज़र ने इस फ़ैसले को लेकर Facebook से दोबारा विचार करने अपील की, और मॉडरेटर द्वारा किए गए दूसरे रिव्यू के बाद Facebook ने पुष्टि कि उस पोस्ट से उल्लंघन हुआ था. इसके बाद यूज़र ने एक अपील ओवरसाइट बोर्ड को सबमिट की.

3. प्राधिकार और दायरा

बोर्ड को उस यूज़र के अपील करने के बाद Facebook के फ़ैसले का रिव्यू करने का अधिकार है, जिसकी पोस्ट हटा दी गई थी (चार्टर अनुच्छेद 2, सेक्शन 1; उपनियम अनुच्छेद 2, सेक्शन 2.1). बोर्ड उस फ़ैसले को बरकरार रख सकता है या उसे बदल सकता है और उसके फ़ैसले Facebook पर बाध्यकारी हैं (चार्टर अनुच्छेद 3, सेक्शन 5). बोर्ड के फ़ैसलों में गैर-बाध्यकारी सलाहों के साथ पॉलिसी से जुड़े सुझाव हो सकते हैं, जिन पर Facebook को जवाब देना होगा (चार्टर अनुच्छेद 3, सेक्शन 4). पारदर्शी और नैतिक तरीके से विवादों को सुलझाने के लिए यह बोर्ड एक स्वतंत्र शिकायत निवारण प्रणाली है.

4. प्रासंगिक स्टैंडर्ड

ओवरसाइट बोर्ड ने इन स्टैंडर्ड पर विचार करते हुए अपना फ़ैसला दिया है:

I. Facebook के कम्युनिटी स्टैंडर्ड

Facebook के कम्युनिटी स्टैंडर्ड नफ़रत फैलाने वाली भाषा को “लोगों की सुरक्षित विशिष्टताओं – नस्ल, जाति, मूल राष्ट्रीयता, धार्मिक मान्यता, यौन रुचि, सामाजिक पहचान, लिंग या लैंगिक पहचान और गंभीर रोग या अक्षमता के आधार पर उन पर सीधे हमले” के रूप में परिभाषित करते हैं. “श्रेणी 3” में, “वह कंटेंट शामिल होता है, जो लोगों का वर्णन अपशब्दों से करता है या उन्हें नकारात्मक रूप से निशाना बनाता है, जहाँ अपशब्दों का मतलब होता है ऐसे शब्द जो अपने आप में ही आपत्तिजनक हों और जिनका उपयोग ऊपर बताई गई विशिष्टताओं के आधार पर अपमानजनक नामों की तरह किया जाता हो.”

II. Facebook के मूल्य

Facebook के मूल्यों की रूपरेखा कम्युनिटी स्टैंडर्ड के परिचय सेक्शन में दी गई है. “अभिव्यक्ति” के महत्व को “सर्वोपरि” बताया गया है:

हमारे कम्युनिटी स्टैंडर्ड का लक्ष्य हमेशा एक ऐसा प्लेटफ़ॉर्म बनाना रहा है, जहाँ लोग अपनी बात रख सकें और अपनी भावनाओं को व्यक्त कर सकें. […] हम चाहते हैं कि लोग अपने लिए महत्व रखने वाले मुद्दों पर खुलकर बातें कर सकें, भले ही कुछ लोग उन बातों पर असहमति जताएँ या उन्हें वे बातें आपत्तिजनक लगें.

Facebook "अभिव्यक्ति” को चार मूल्यों के मामले में सीमित करता है, जिनमें से दो यहाँ प्रासंगिक हैं.

“सुरक्षा”: हम Facebook को एक सुरक्षित जगह बनाने के लिए प्रतिबद्ध हैं. धमकी भरी अभिव्यक्ति से लोगों में डर, अलगाव की भावना आ सकती या दूसरों के विचार दब सकते हैं और Facebook पर इसकी परमिशन नहीं है.

“गरिमा” : हमारा मानना है कि सभी लोगों को एक जैसा सम्मान और एक जैसे अधिकार मिलने चाहिए. हम उम्मीद करते है कि लोग एक-दूसरे की गरिमा का ध्यान रखेंगे और दूसरों को परेशान नहीं करेंगे या नीचा नहीं दिखाएँगे.

III. मानवाधिकार स्टैंडर्ड

बिज़नेस और मानवाधिकार के बारे में संयुक्त राष्ट्र संघ के मार्गदर्शक सिद्धांत ( UNGP), जिन्हें 2011 में संयुक्त राष्ट्र संघ की मानवाधिकार समिति का समर्थन मिला है, प्राइवेट बिज़नेस के मानवाधिकारों से जुड़ी ज़िम्मेदारियों का स्वैच्छिक फ़्रेमवर्क बनाते हैं. 2021 में Facebook ने मानवाधिकारों से जुड़ी अपनी कॉर्पोरेट पॉलिसी की घोषणा की, जिसमें उन्होंने UNGP के अनुसार मानवाधिकारों का ध्यान रखने की अपनी प्रतिज्ञा को दोहराया. इस केस में बोर्ड ने इन मानवाधिकार स्टैंडर्ड को ध्यान में रखते हुए विश्लेषण किया:

• अभिव्यक्ति की स्वतंत्रता: अनुच्छेद 19, नागरिक और राजनीतिक अधिकार पर अंतरराष्ट्रीय प्रतिज्ञापत्र ( ICCPR); सामान्य टिप्पणी संख्या 34, मानवाधिकार समिति 2011; अनुच्छेद 5, हर तरह के नस्लीय भेदभाव के उन्मूलन पर अंतरराष्ट्रीय सम्मेलन ( ICERD); नफ़रत फैलाने वाली भाषा पर बनी रिपोर्ट पर संयुक्त राष्ट्र का विशेष रैपर्टर, A/74/486, 2019; ऑनलाइन कंटेंट मॉडरेशन पर बनी रिपोर्ट पर संयुक्त राष्ट्र का विशेष रैपर्टर, A/HRC/38/35, 2018.
• समानता रखना और भेदभाव न किया जाना: अनुच्छेद 2, पैरा. 1 और अनुच्छेद 26 (ICCPR); अनुच्छेद 2, ICERD; सामान्य अनुशंसा 35, नस्लीय भेदभाव के उन्मूलन की समिति, 2013.

5. यूज़र का कथन

यूज़र ने बोर्ड को अपनी अपील में कहा कि लोगों को प्लेटफ़ॉर्म पर अलग-अलग नज़रिए शेयर करने और “सभ्य और स्वस्थ चर्चा में हिस्सा लेने” देना चाहिए. यूज़र ने यह भी बताया कि उन्होंने “किसी समूह को नफ़रत के साथ निशाना बनाने या किसी दूसरे समूह के सदस्यों द्वारा किसी भी तरह से इसके सदस्यों के साथ बुरा बर्ताव करने के लिए नहीं लिखा था.” उस यूज़र ने तर्क दिया कि इसके बजाए उनकी पोस्ट ने “कुछ समूह के लोगों को आत्ममंथन करने और उनकी प्रथामिकताओं के साथ नज़रियों का फिर से मूल्यांकन करने के लिए प्रोत्साहित किया.” उन्होंने यह भी बताया कि पोस्ट में या “इससे जुड़ी भावना या इरादे में” ऐसा कुछ नहीं है जो नफ़रत भरी बातों को बढ़ावा देगा, साथ ही ये कि यह दुर्भाग्यपूर्ण है कि Facebook उन्हें यह बताने में असमर्थ है कि उनकी पोस्ट के कौन से हिस्से में नफ़रत फैलाने वाली भाषा है.

6. Facebook के फ़ैसले का स्पष्टीकरण

Facebook ने अपनी उस पॉलिसी का उल्लंघन करने के कारण नफ़रत फैलाने वाली भाषा से जुड़े कम्युनिटी स्टैंडर्ड के तहत इस कंटेंट को हटा दिया था, जो पॉलिसी लोगों की जाति, नस्ल और/या मूल राष्ट्रीयता के आधार पर उन्हें निशाना बनाने के लिए उपयोग किए जाने वाले अपशब्दों पर रोक लगाती है. Facebook ने अपने फ़ैसले से जुड़े तर्क में बताया कि वह ऐसे अपशब्दों वाले कंटेंट पर रोक लगाता है, जो अपने आप में ही आपत्तिजनक हैं और जिनका उपयोग अपमानजनक नामों की तरह किया जाता है, जब तक कि यूज़र स्पष्ट रूप से नहीं बताता कि उस कंटेंट को “किसी अपशब्द की निंदा करने, उस पर चर्चा करने, उसे लेकर जागरूकता बढ़ाने के लिए किया गया था, या फिर उस अपशब्द का उपयोग खुद के संबंध में या सशक्तिकरण लाने वाले रूप में किया गया है.” Facebook ने तर्क दिया कि इस केस में यह अपवाद लागू नहीं होते हैं.

Facebook ने तर्क दिया कि पोस्ट में खुद को “चतुर अश्वेतों” कहकर संबोधित किया है और इस वाक्यांश का उपयोग “उन अश्वेत दक्षिण अफ़्रीकी लोगों की आलोचना करने के लिए किया गया है, जिन्हें ‘प्रभावी रूप से चतुर या बुद्धिमान नज़र आने के लिए बैचेन’ माना जाता है.” Facebook ने यह भी पाया कि उस पोस्ट में उपयोग किए गए “k***ir” (का*र) और “n***er” (न*र) शब्द, दोनों ही प्रतिबंधित अपशब्दों की उनकी गोपनीय लिस्ट में हैं. Facebook के अनुसार “k***ir” (का*र) शब्द को “दक्षिण अफ़्रीका का सबसे ज़्यादा विवादास्पद नाम” माना जाता है और पुराने समय से जिसका उपयोग दक्षिण अफ़्रीकी श्वेत लोगों द्वारा “अश्वेत लोगों को अपमानजनक तरीके से संबोधित करने के लिए किया जाता रहा है.” Facebook ने यह भी बताया कि इस शब्द को “कभी-भी अश्वेत लोगों के समुदाय ने स्वीकार नहीं किया.” Facebook ने कहा कि “n***er” (िन*र) शब्द भी “दक्षिण अफ़्रीका में बहुत ही अपमानजनक है”, लेकिन “अश्वेत लोगों के समुदाय ने इसे सकारात्मक रूप से उपयोग किया जाना स्वीकार किया है.”

Facebook ने यह भी बताया कि किसी शब्द या वाक्यांश में कोई अपशब्द है या नहीं, इस बात का निर्धारण उस शब्द या वाक्यांश से जुड़े आंतरिक या बाहरी स्टेकहोल्डर से बात करके ही किया जाना चाहिए. Facebook ने उल्लेख किया कि उसने हाल ही में स्टेकहोल्डर के साथ बात की, जिन्होंने नफ़रत फैलाने वाली भाषा से जुड़ी पॉलिसी में अपवाद की आवश्यकता को स्वीकार किया, जो “उस अपशब्द का उपयोग खुद के संबंध में या सशक्तिकरण लाने के रूप में करने की अनुमति देता है.” Facebook के अनुसार, बाहरी स्टेकहोल्डर वैसे तो इस बात से सहमत हैं कि “लोगों को आम तौर पर स्वीकारे गए अपशब्द का उपयोग सशक्तिकरण के तौर पर करने देना” ज़रूरी है, लेकिन यह भी ज़रूरी है कि कोई अपशब्द का उपयोग Facebook की पॉलिसी का उल्लंघन करता है या नहीं, इस बात का निर्धारण करने के लिए वह “कोई अंदाज़ा न लगाए, कुछ तय न करे या किसी सुरक्षित विशिष्टता से जुड़े यूज़र्स के बारे में डेटा इकट्ठा” न करे. Facebook ने बोर्ड को दिए अपने जवाब में पुष्टि की कि बाहरी स्टेकहोल्डर में उत्तरी अमेरिका के सात विशेषज्ञ/संगठन, यूरोप के 16, मध्य पूर्व के 30, अफ़्रीका के दो, लैटिन अमेरिका के छह और एशिया प्रशांत/भारत क्षेत्र का एक विशेषज्ञ शामिल है.

Facebook ने निष्कर्ष निकाला कि हालाँकि यूज़र की प्रोफ़ाइल फ़ोटो में एक अश्वेत व्यक्ति को दिखाया गया है,लेकिन वह यूज़र “खुद को अपशब्दों से संबोधित नहीं कर रहा है या ना ही उन अपशब्दों पर विचार करने या स्वीकारे जाने को लेकर तर्क दे रहा है.” Facebook के अनुसार, श्वेत लोगों के बीच रहने वाले अश्वेत लोगों को निशाना बनाने के लिए “इस पोस्ट में अपशब्दों का उपयोग अपमानजनक तरीके से किया जा रहा है”. जैसा कि Facebook ने बताया था कि उस पोस्ट को हटाया जाना नफ़रत फैलाने वाली भाषा से जुड़े उनके कम्युनिटी स्टैंडर्ड के अनुसार था.

Facebook ने यह भी बताया कि उसे हटाना “गरिमा” और “सुरक्षा” के उसके मूल्यों के अनुरूप था, वहीं इसमें “अभिव्यक्ति” के महत्व को संतुलित रखने का ध्यान रखा गया था. Facebook के अनुसार उस पोस्ट में अपशब्दों का उपयोग “Facebook के मूल्यों के विपरीत जाकर आहत करने वाले तरीके से अन्य लोगों को निशाना बनाने के लिए” किया गया था. इस संबंध में Facebook ने 2020-003-FB-UA केस को लेकर बोर्ड द्वारा सुनाए गए फ़ैसले का हवाला दिया.

Facebook ने तर्क दिया कि उसका फ़ैसला अंतरराष्ट्रीय मानवाधिकार स्टैंडर्ड का पालन करते हुए लिया गया था. उन्होंने यह भी बताया कि उनका फ़ैसला अंतरराष्ट्रीय मानवाधिकार कानून की उन शर्तों को पूरा करता है कि जिसमें अभिव्यक्ति की स्वतंत्रता पर रोक लगाते समय वैधता, वैध उद्देश्य के साथ आवश्यकता और समानुपात के सिद्धांतों का ध्यान रखा जाता है. Facebook के अनुसार उनकी पॉलिसी कम्युनिटी स्टैंडर्ड में “बड़ी आसानी से उपलब्ध” है और “‘उस यूज़र ने जिन शब्दों का चयन किया है, वे पूरी तरह से अपशब्दों पर लगे प्रतिबंध के दायरे में आते हैं.” साथ ही उस कंटेंट को हटाने का फ़ैसला “दूसरों के अधिकारों का हनन होने से रोकने और उन्हें भेदभाव से बचाने” के लिए सही था और ICCPR के पैरा. 2 के अनुच्छेद 20 की आवश्यकता के अनुरूप था, जो ऐसी बातों पर रोक लगाने की वकालत करता है, जिससे “राष्ट्रीय, नस्लीय या धार्मिक घृणा से भेदभाव, शत्रुता या हिंसा को बढ़ावा मिलता है”. सबसे अंत में Facebook ने इज़राइल डेमोक्रेसी इंस्टीट्यूट और याद वाशेम के “ Recommendations for Reducing Online Hate Speech,” और रिचर्ड डेलगाडो के “ Words That Wound: A Tort Action for Racial Insults, Epithets, and Name-Calling” का संदर्भ देते हुए यह तर्क दिया कि उस कंटेंट को हटाने का उसका फ़ैसला अश्वेत समुदाय के लोगों और “नफ़रत भरी बातें पढ़ने वाले अन्य दर्शकों” को “आहत होने से बचाने के लिए आवश्यक और आनुपातिक” था.

7. थर्ड पार्टी सबमिशन

ओवरसाइट बोर्ड को इस केस से जुड़े छह पब्लिक कमेंट मिले. उनमें से तीन कमेंट सब-सहारा अफ़्रीका, मुख्य रूप से दक्षिण अफ्रीका से किए गए थे, एक मध्य पूर्व और उत्तरी अफ़्रीका से किया गया था, एक एशिया पैसिफ़िक और ओशिनिया से किया गया था, वहीं एक कमेंट अमेरिका और कनाडा से आया था. बोर्ड को मिले कमेंट में शैक्षणिक समुदायों और नागरिक समाज संगठनों सहित अन्य स्टेकहोल्डर के कमेंट शामिल थे, जो दक्षिण अफ़्रीका में अभिव्यक्ति की स्वतंत्रता और नफ़रत फैलाने वाली भाषा को लेकर किए गए थे.

सबमिट किए कमेंट “clever blacks” (चतुर अश्वेत), “n***er” (नि*र) और “k***ir” (का*र) शब्दों का विश्लेषण; क्या “n***er” (नि*र) और “k***ir” (का*र) शब्द नफ़रत फैलानी बातों में आते हैं; उस यूज़र और रिपोर्ट करने वाले की पहचान और उसका उस पोस्ट को देखे जाने के नज़रिए पर पड़ने वाला प्रभाव; साथ ही नफ़रत फैलाने वाली भाषा से जुड़ी Facebook की पॉलिसी के अपवादों की उपयुक्तता सहित अन्य विषयों पर आधारित थे.

इस केस के संबंध में सबमिट किए गए पब्लिक कमेंट देखने के लिए कृपया यहाँ क्लिक करें.

8. ओवरसाइट बोर्ड का विश्लेषण

बोर्ड ने इस सवाल पर ध्यान दिया कि क्या इन तीन दृष्टिकोणों से इस कंटेंट को रीस्टोर कर दिया जाना चाहिए: Facebook कम्युनिटी स्टैंडर्ड; इस कंपनी के मूल्य; और मानवाधिकारों से जुड़ी इनकी ज़िम्मेदारियाँ.

8.1 कम्युनिटी स्टैंडर्ड का अनुपालन

बोर्ड को लगता है कि इस कंटेंट को हटाने का फ़ैसला Facebook के कम्युनिटी स्टैंडर्ड के अनुसार सही है. यूज़र की पोस्ट में “k***ir” शब्द का उपयोग करके नफ़रत फैलाने वाली भाषा से जुड़े कम्युनिटी स्टैंडर्ड का उल्लंघन किया गया था और उस पर पॉलिसी का कोई अपवाद लागू नहीं होता था.

नफ़रत फैलाने वाली भाषा से जुड़ा कम्युनिटी स्टैंडर्ड सुरक्षित विशिष्टताओं के आधार पर किए जाने वाले हमलों को रोकता है. इसमें “वह कंटेंट शामिल होता है, जो लोगों का वर्णन अपशब्दों से करता है या उन्हें नकारात्मक रूप से निशाना बनाता है, जहाँ अपशब्दों का मतलब होता है ऐसे शब्द जो अपने आप में ही आपत्तिजनक हों और जिनका उपयोग ऊपर बताई गई विशिष्टताओं के आधार पर अपमानजनक नामों की तरह किया जाता हो.” Facebook “k***ir” और “n***er” को नस्लीय अपशब्द मानता है. बोर्ड ने लोगों के कमेंट और एक्सपर्ट रिसर्च का मूल्यांकन करके पता लगाया कि दोनों ही शब्दों का उपयोग लोगों के बीच भेदभाव करके के लिए किया जाता है और यह भी कि दक्षिण अफ़्रीकी संदर्भ में “k***ir” (का*र) ख़ास तौर पर घृणित और आहत करने वाला शब्द होता है.

इंटरनेट ग्लोबल नेटवर्क है और किसी यूज़र द्वारा Facebook पर किसी विशिष्ट संदर्भ में पोस्ट किया जाने वाला कंटेंट दूर-दूर तक फैल सकता है और दूसरे संदर्भों में नुकसान पहुँचा सकता है. साथ ही अपशब्दों की Facebook की गोपनीय लिस्ट अलग-अलग मार्केट के अनुसार अलग-अलग होती है क्योंकि हम जानते हैं कि कुछ परिस्थितियों में शब्दों के अर्थ बदल जाते हैं और उनका प्रभाव अलग-अलग पड़ सकता है. बोर्ड ने बताया कि वह पहले 2020-007-FB-FBR केस के फ़ैसले में “काफ़िर” शब्द के उपयोग पर ध्यान दे चुका है, जिसमें बोर्ड ने कंटेंट को रीस्टोर करने का आदेश दिया था. उस केस में Facebook ने इस शब्द को अपशब्द नहीं माना बल्कि हिंसा और उकसावे से जुड़ी पॉलिसी के तहत यह माना कि इसका अर्थ “non-believers” (आस्था न रखने वाले) होता है और ऐसे लोगों का समूह कथित “veiled threat” (छिपे हुए खतरे) का निशाना होता है. एक “f” वाला वह शब्द अरबी मूल का था, जिसका उपयोग उस केस में भारत में किया गया था और दक्षिण अफ़्रीका में उपयोग किया गया दो “f” वाला शब्द भी अरबी मूल का ही था. इससे पता चलता है कि दुनिया भर में कुछ विशिष्ट शब्दों पर लगभग पूरी तरह रोक लगा पाना कितना मुश्किल होता है, जहाँ एक ही या अलग-अलग भाषाओं के मिलते-जुलते या समान शब्दों का उपयोग अलग-अलग संदर्भों में करने पर उनके अर्थ अलग-अलग हो सकते हैं और वे अलग-अलग तरह के जोखिम पैदा कर सकते हैं.

बोर्ड ने बताया कि वह पोस्ट अश्वेत दक्षिण अफ़्रीकियों के किसी समूह को निशाना बना रही थी. बोर्ड ने आगे यह भी बताया कि यूज़र की आलोचना में इस समूह की अनुमान पर आधारित आर्थिक, शैक्षणिक और प्रोफ़ेशनल स्थिति और विशेषाधिकार के बारे में चर्चा की गई थी. यूज़र ने बोर्ड को दिए गए अपने कथन में तर्क दिया कि वे लोगों की नस्ल के आधार पर उन्हें निशाना नहीं बना रहे थे या उनके विरुद्ध नफ़रत या भेदभाव को बढ़ावा नहीं दे रहे थे. बोर्ड के कुछ सदस्यों को यह तर्क ठीक लगा. लेकिन यूज़र ने इस आलोचना में नस्लीय संदर्भ देने के लिए दक्षिण अफ़्रीका के सबसे अनुचित शब्दों को चुना. “good” (अच्छा) शब्द के साथ “k***ir” (का*र) शब्द के उपयोग का एक स्पष्ट ऐतिहासिक संबंध है और दक्षिण अफ़्रीका में इनके उपयोग का बहुत महत्व है. बोर्ड ने पाया कि इस संदर्भ में “k***ir” (का*र) शब्द का उपयोग इसके नुकसानदेह और भेदभावपूर्ण अर्थ से अलग नहीं माना जा सकता.

Facebook ने बोर्ड से कहा कि वह अपनी अपशब्दों की लिस्ट की समीक्षा साल में एक बार करता है. “k***ir” (का*र) शब्द को लिस्ट में शामिल करने के बारे में Facebook ने बताया कि उसने 2019 में दक्षिण अफ़्रीका के सिविल सोसायटी संगठनों के साथ इस बारे में सलाह-मशविरा किया था. उस मीटिंग में लोगों ने Facebook को बताया कि “k***ir” (का*र) शब्द का उपयोग किसी अश्वेत व्यक्ति का अपमान करने और उसे नीचा और घृणास्पद दिखाने के तरीके के रूप में किया जाता है. पॉलिसी तैयार करते और उनकी समीक्षा करते समय अपशब्दों की लिस्ट सहित अपने सभी मानवाधिकार दायित्वों को पूरा करने के लिए Facebook को प्रभावित समूहों और मानवाधिकार विशेषज्ञों सहित अन्य प्रासंगिक स्टेकहोल्डर्स से सलाह लेनी चाहिए.

अपनी अपशब्दों से जुड़ी पॉलिसी के लिए Facebook ने चार अपवाद लागू कर रखे हैं, जिनकी जानकारी नफ़रत फैलाने वाली भाषा से जुड़े कम्युनिटी स्टैंडर्ड के लिए पॉलिसी बनाने के कारण में दी गई है: “हमें पता है कि लोग कभी-कभी किसी अन्य व्यक्ति की नफ़रत फैलाने वाली भाषा की निंदा करने या उसके बारे में जागरूकता बढ़ाने के लिए ऐसा कंटेंट शेयर करते हैं, जिसमें वह भाषा शामिल होती है. अन्य मामलों में हमारे स्टैंडर्ड का उल्लंघन कर सकने वाली भाषा का उपयोग खुद के संबंध में या सशक्तिकरण लाने के उद्देश्य से भी किया जा सकता है”. बोर्ड के अधिकतर सदस्यों का मानना है कि Facebook के अपवाद इस मामले में लागू नहीं हो रहे थे. ऐसा इसलिए क्योंकि उस कंटेंट में “k***ir" (का*र) शब्द की निंदा नहीं की गई थी, किसी चीज़ के बारे में जागरूकता नहीं बढ़ाई गई थी और उसका उपयोग सशक्तिकरण करने वाले तरीके से नहीं किया गया था. बोर्ड ने यह भी पाया कि वह कंटेंट खुद का संदर्भ देने वाला नहीं था, हालाँकि कुछ सदस्यों का विचार था कि चूँकि इसमें निशाना बनाए गए समूह के कुछ विशेषाधिकार वाले सदस्यों की आलोचना की गई थी, इसलिए इस मामले में यह अपवाद लागू होना चाहिए था. लेकिन बोर्ड ने पाया कि पोस्ट में ऐसा कुछ भी नहीं था, जिससे लगे कि यूज़र अपने आप को उस निशाना बनाए गए समूह का हिस्सा मानता है. इसके अलावा, यूज़र ने उस पोस्ट में “आप” और “आपके” शब्दों का उपयोग किया, जिससे पता चलता है कि वह पोस्ट खुद के बारे में नहीं थी.

इसलिए बोर्ड को लगता है कि इस कंटेंट को हटाने का फ़ैसला लेते समय Facebook अपने कम्युनिटी स्टैंडर्ड के अनुसार काम कर रहा था.

8.2 Facebook के मूल्यों का अनुपालन

बोर्ड मानता है कि Facebook के मूल्यों में “अभिव्यक्ति” का महत्व सबसे ज़्यादा है और Facebook चाहता है कि इस प्लेटफ़ॉर्म के यूज़र्स खुलकर अपनी बातें कह पाएँ. हालाँकि Facebook के मूल्यों में “गरिमा” और “सुरक्षा” भी शामिल हैं.

बोर्ड मानता है कि दक्षिण अफ़्रीका में नस्लीय और सामाजिक-आर्थिक बराबरी से संबंधित राजनैतिक चर्चाओं के लिए “अभिव्यक्ति” का मूल्य बहुत ही महत्वपूर्ण है. संपत्ति के वितरण, नस्लीय विभाजन और असमानता से जुड़ी बातें यहाँ ख़ास तौर पर प्रासंगिक होती हैं ख़ासकर कि ऐसे समाज में जो अब भी रंगभेद से बराबरी की ओर बढ़ रहा है. अपशब्दों से निशाना बनाए गए लोगों की “अभिव्यक्ति” भी प्रभावित हो सकती है क्योंकि अपशब्दों की वजह से निशाना बनाए गए लोग चुप हो सकते हैं और वे Facebook पर चर्चाओं में भाग लेना बंद कर सकते हैं.

इस संदर्भ में बोर्ड “गरिमा” और “सुरक्षा” के मूल्यों को भी बेहद महत्वपूर्ण मानता है. बोर्ड ने पाया कि दक्षिण अफ़्रीका के संदर्भ में “k***ir” (का*र) अपशब्द का उपयोग उस अपशब्द से निशाना बनाए गए लोगों के लिए अपमानजनक, बहिष्कार करने वाला और नुकसानदेह हो सकता है (उदाहरण के लिए 2019 PeaceTech Lab और Media Monitoring Africa के लेक्सीकॉन ऑफ़ हेटफ़ुल टर्म्स के पेज 12 और 13 देखें). Facebook को अपने प्लेटफ़ॉर्म पर नस्लीय अपशब्दों के उल्लेख को गंभीरता से लेना चाहिए, ख़ास तौर पर एक ऐसे देश के मामले में जो विरासत में मिली रंगभेद की समस्या से अभी भी जूझ रहा है.

यह प्रासंगिक है कि इस संदर्भ में यूज़र ने एक ऐसे शब्द का उपयोग करना चुना, जो दक्षिण अफ़्रीका में बेहद आपत्तिजनक माना जाता है. यूज़र के लिए Facebook पर राजनैतिक और सामाजिक-आर्थिक चर्चाओं में इस तरह से भाग लेना संभव था कि वह इस अपशब्द का उपयोग किए बिना भी अपनी ऑडियंस की भावनाओं से जुड़ सकते थे. इससे दूसरों की “अभिव्यक्ति” “गरिमा” और “सुरक्षा” को बचाने के लिए उस यूज़र की “अभिव्यक्ति” को हटाना सही साबित हुआ.

8.3 Facebook की मानवाधिकार से जुड़ी ज़िम्मेदारियों का अनुपालन

बोर्ड इस निष्कर्ष पर पहुँचा कि इस कंटेंट को हटाना, एक बिज़नेस के तौर पर Facebook के मानवाधिकार दायित्वों के अनुरूप है. Facebook, बिज़नेस और मानवाधिकारों के बारे में संयुक्त राष्ट्र संघ के मार्गदर्शक सिद्धांतों (UNGP) के तहत मानवाधिकारों का सम्मान करने के लिए प्रतिबद्ध है. इसकी कॉर्पोरेट मानवाधिकार पॉलिसी में बताया गया है कि इसमें नागरिक और राजनीतिक अधिकारों से संबंधित अंतरराष्ट्रीय प्रतिज्ञापत्र (ICCPR) शामिल है.

ICCPR के अनुच्छेद 19 में अभिव्यक्ति की विस्तृत सुरक्षा का प्रावधान है. वैसे यह सुरक्षा राजनैतिक अभिव्यक्ति और विचार-विमर्श के लिए "ख़ास तौर पर ज़्यादा" होती है (सामान्य टिप्पणी 34, पैरा. 38). द इंटरनेशनल कन्वेंशन ऑन द इलिमिनेशन ऑफ़ ऑल फ़ॉर्म्स ऑफ़ रेसिअल डिस्क्रिमिनेशन (ICERD) ने भी अभिव्यक्ति की स्वतंत्रता को संरक्षण प्रदान किया है (अनुच्छेद 5) और राज्य इसका पालन कर रहे हैं या नहीं, इसका मूल्यांकन करने के लिए बनाई गई समिति ने "समाज के घटकों में शक्ति संतुलन को फिर से स्थापित करने में असुरक्षित समूहों" की सहायता करने के अधिकार और चर्चाओं में "वैकल्पिक विचार और जवाब" प्रदान करने के महत्व पर ज़ोर दिया है (CERD समिति, सामान्य सुझाव 35, पैरा 29). साथ ही, बोर्ड ने अनुच्छेद 19 ICCPR के वैधानिकता, वैधता और आवश्यकता व अनुपातिकता के तीन-भाग के परीक्षण को पूरा करने वाले कंटेंट को प्रतिबंधित करने के Facebook के फैसलों को बरकरार रखा है. बोर्ड ने यह निष्कर्ष निकाला कि इस टेस्ट के तहत Facebook के एक्शन उसकी ज़िम्मेदारियों के अनुरूप थे.

I. वैधानिकता (नियमों की स्पष्टता और सुलभता)

अंतरराष्ट्रीय मानवाधिकार कानून के तहत वैधानिकता के सिद्धांत के अनुसार अभिव्यक्ति पर रोक लगाने के लिए देशों के द्वारा उपयोग किए जाने वाले नियम स्पष्ट और आसानी से उपलब्ध होने चाहिए ( सामान्य टिप्पणी 34, पैरा. 25). मानवाधिकार समिति ने आगे कहा है कि नियमों "का कार्यान्वयन करने वाले लोगों को अभिव्यक्ति की स्वतंत्रता पर प्रतिबंध लगाने के निरंकुश निर्णय नहीं लेने दे सकते" (सामान्य टिप्पणी 34, पैरा 25). कुछ परिस्थितियों में Facebook की “अपने आप में आपत्तिजनक” और “अपमानजनक” की अवधारणाओं को बेहद व्यक्तिपरक माना जा सकता है और इनकी वैधानिकता पर सवाल खड़े हो सकते हैं ( A/74/486, पैरा. 46, यह भी देखें A/HRC/38/35, पैरा. 26). इसके अलावा कभी-कभी ऐसी परिस्थितियाँ भी आ सकती हैं, जिनमें किसी अपशब्द के एक से ज़्यादा मतलब हों या उसका उपयोग ऐसे तरीकों से किया जा सकता हो, जिन्हें “हमला” न माना जाए.

बोर्ड ने Facebook से पूछा कि उसकी अपशब्दों की अलग-अलग क्षेत्रों के लिए अलग-अलग लिस्ट को किस तरह लागू किया जाता है और यह कि क्या किसी क्षेत्र की लिस्ट में आने पर उस अपशब्द को दुनिया में कहीं भी उपयोग नहीं किया जा सकता. Facebook ने जवाब दिया कि उसका "अपशब्दों पर प्रतिबंध दुनिया भर में लागू होता है, लेकिन किस शब्द को अपशब्द माना जाए और किसे नहीं, यह निर्धारित करना क्षेत्र विशेष पर निर्भर करता है क्योंकि Facebook मानता है कि सांस्कृतिक और भाषाई भिन्नताओं के कारण हो सकता है कि कुछ स्थानों पर अपशब्द माने जाने वाले शब्द दूसरे स्थानों अपशब्द न माने जाते हों" बोर्ड ने अपना शुरुआती सवाल फिर दोहराया. इसके बाद Facebook ने जवाब दिया कि “अगर कोई शब्द किसी क्षेत्र की अपशब्दों की लिस्ट में आ जाता है, तो नफ़रत फैलाने वाली भाषा से जुड़ी पॉलिसी के तहत उस क्षेत्र में उसका उपयोग प्रतिबंधित होता है. इस शब्द का उपयोग किसी अन्य अर्थ के साथ कहीं और किया जा सकता है; Facebook स्वतंत्र रूप से इसका मूल्यांकन करेगा कि इसे अन्य क्षेत्र की अपशब्दों की लिस्ट में जोड़ा जाए या नहीं." बोर्ड को यह स्पष्ट नहीं है कि Facebook अपशब्दों के प्रतिबंधों को लागू कैसे करता है और बड़े स्तर पर ऐसा कैसे करता है. बोर्ड यह नहीं जानता है कि उल्लंघन करने वाले कंटेंट की पहचान करने और उसे हटाने की Facebook की एन्फ़ोर्समेंट प्रक्रियाएँ क्षेत्र-विशिष्ट शब्दों के लिए दुनिया भर में कैसे काम करती हैं, क्षेत्र को कैसे परिभाषित किया जाता है और यह स्वतंत्र मूल्यांकन कब और कैसे होता है.

इस मामले में, जैसा कि ऊपर उल्लेख किया गया है, बोर्ड के द्वारा परामर्श लेने के किए उपयोग किए गए स्रोत इस बात से सहमत हैं कि “k***ir” (का*र) को व्यापक रूप से दक्षिण अफ्रीका का सबसे खराब नस्लीय विशेषण समझा जाता है. चूँकि यह अभिव्यक्ति स्पष्ट रूप से प्रतिबंध के दायरे में आ गई, इसलिए Facebook ने इस मामले में अपनी वैधानिक ज़िम्मेदारी पूरी की.

बोर्ड 2021-010-FB-UA केस का अपना फ़ैसला बताता है और यह सुझाव देता है कि Facebook सार्वजनिक तौर पर उपलब्ध कम्युनिटी स्टैंडर्ड (सुझाव नंबर 1) में अपशब्दों की पॉलिसी के विवरणात्मक उदाहरण दे. बोर्ड अपशब्दों की लिस्ट के बारे में अधिक पारदर्शिता का समर्थन करता है और इस बात पर चर्चा जारी रखता है कि Facebook यूज़र्स को समानता और गैर-भेदभाव के अधिकारों का सम्मान करते हुए पर्याप्त स्पष्टता कैसे प्रदान कर सकता है. बोर्ड के कुछ सदस्यों का मानना ​​​​है कि Facebook को अपनी अपशब्दों की लिस्ट सार्वजनिक कर देनी चाहिए ताकि वह सभी यूज़र्स को उपलब्ध रहे. ज़्यादातर सदस्यों का मानना ​​​​है कि बोर्ड को यह लिस्ट बनाने की प्रक्रिया और मानदंड को बेहतर ढंग से समझना चाहिए और ख़ास तौर पर यह जानना चाहिए कि इसे लागू कैसेे किया जाता है, साथ ही इसके प्रकाशन में संभावित जोखिम क्या होते हैं, जैसे कि अपशब्दों के उल्लंघनों से बचने के लिए स्ट्रेटेजी बनाकर काम करना और यह कि क्या कुछ शब्द हानिकारक प्रभाव बढ़ाते जाते हैं. Facebook को अपशब्दों वाली लिस्ट बनाने, चिह्नित करने और रिव्यू करने की प्रक्रियाओं, वैश्विक रूप से और/या क्षेत्र या भाषा के अनुसार अपने एन्फ़ोर्समेंट और लागू करने के तरीके, तथा इसे गोपनीय रखे जाने के कारण के बारे में अधिक जानकारी प्रकाशित करके इस चर्चा में सहयोग देना चाहिए.

II. वैधानिक लक्ष्य

किसी भी देश के अभिव्यक्ति से संबंधित प्रतिबंध में ICCPR में सूचीबद्ध वैधानिक लक्ष्यों में से किसी एक का अनुसरण किया जाना चाहिए. इनमें “दूसरों के अधिकार” शामिल होते हैं. पहले बोर्ड ने कहा था कि अपशब्दों पर प्रतिबंध "लोगों को उनके समानता और गैर-भेदभाव के अधिकारों की रक्षा करने (अनुच्छेद 2, पैरा. 1, ICCPR [और] बिना उत्पीड़न या धमकी के प्लेटफ़ॉर्म पर अपनी अभिव्यक्ति की स्वतंत्रता का उपयोग करने देना चाहता है (अनुच्छेद 19, ICCPR)," साथ ही अन्य अधिकारों का उपयोग करने की स्वतंत्रता भी देना चाहता है (2020-003-FB-UA केस का फ़ैसला). बोर्ड दोहराता है कि ये इसके वैधानिक उद्देश्य हैं.

III. आवश्यकता और आनुपातिकता

अंतरराष्ट्रीय मानवाधिकार कानून के तहत आवश्यकता और अनुपातिकता के सिद्धांत के अनुसार यह ज़रूरी है कि अभिव्यक्ति की स्वतंत्रता से संबंधित प्रतिबंध "उनके सुरक्षात्मक कार्य को सही तरीके से पूरा करने वाले होने चाहिए; उनसे उन लोगों के अधिकारों के साथ कम से कम हस्तक्षेप होना चाहिए, जिन्हें उन प्रतिबंधों से होने वाले सुरक्षात्मक कार्यों का लाभ मिल सकता है; जिन हितों की सुरक्षा की जानी है, उसके अनुसार ही सही अनुपात में प्रतिबंध लगाए जाने चाहिए" ( सामान्य टिप्पणी 34, पैरा. 34). इस केस में बोर्ड का फ़ैसला यह है कि लोगों को सुरक्षा देने के लिए उस कंटेंट को हटाना उचित था. बोर्ड Facebook को अपने नफ़रत फैलाने वाली भाषा से जुड़े कम्युनिटी स्टैंडर्ड के एन्फ़ोर्समेंट में सुधार करने के लिए पॉलिसी से जुड़ा सुझाव भी देता है.

Facebook के नफ़रत फैलाने वाली भाषा से जुड़े कम्युनिटी स्टैंडर्ड में कुछ भेदभावपूर्ण अभिव्यक्ति को प्रतिबंधित किया गया है, जिनमें अपमानजनक शब्द या ऐसे शब्द शामिल होते हैं, जिनकी अभिव्यक्ति से हिंसा या भेदभावपूर्ण घटनाओं को बढ़ावा मिलता है. हालांकि इस प्रकार के प्रतिबंध बड़े स्तर पर सरकार द्वारा लागू किए जाने पर चिंताएँ उत्पन्न करेंगे ( A/74/486, पैरा. 48), ख़ास तौर से तब, जब इन्हें आपराधिक या नागरिक प्रावधानों के ज़रिए लागू किया जाए, इसलिए विशेष रैपर्टर ने यह संकेत दिया है कि कंटेंट मॉडरेशन में शामिल निकाय जैसे कि Facebook ऐसी भाषा को नियंत्रित कर सकते हैं:

घृणास्पद अभिव्यक्ति का निराकरण करने के दायरे और जटिलता से लंबे समय की चुनौतियाँ सामने आती हैं और इनके कारण कंपनियाँ ऐसी अभिव्यक्ति को प्रतिबंधित कर सकती हैं, भले ही यह विपरीत परिणामों से संबंधित नहीं हो (क्योंकि घृणा का समर्थन ICCPR के अनुच्छेद 20(2) के अंतर्गत उकसावे से संबंधित है). हालाँकि, कंपनियों को ऐसे प्रतिबंधों के आधारों को समझना चाहिए और कंटेंट पर लिए जाने वाले किसी भी एक्शन की आवश्यकता और अनुपातिकता के स्तर की जानकारी देनी चाहिए ( A/HRC/38/35, पैरा. 28).

इस केस में ऐतिहासिक और सामाजिक संदर्भ बहुत महत्वपूर्ण था, क्योंकि बोर्ड ने पाया कि "k***ir" (का*र) शब्द का उपयोग दक्षिण अफ्रीका में भेदभाव और रंगभेद के इतिहास से निकटता से जुड़ा हुआ है. बोर्ड ने वक्ता की स्थिति और उनके इरादे पर भी चर्चा की. बोर्ड मानता है कि कुछ उदाहरण ऐसे भी हो सकते हैं, जिनमें वक्ता की नस्लीय पहचान, कंटेंट के प्रभाव के विश्लेषण के लिए प्रासंगिक हो सकती है. बोर्ड ने ध्यान दिया कि विशेष रैपर्टर में इस बात पर विचार किया गया है कि नफ़रत फैलाने वाली भाषा की पॉलिसी के असंगत एन्फ़ोर्समेंट से “अल्पसंख्यकों को दंड मिल सकता है वहीं दबाने वाले या शक्तशाली समूहों की स्थिति मज़बूत हो सकती है” जिसमें उत्पीड़न और दुर्व्यवहार ऑनलाइन बना रहेगा वहीं “नस्लवाद और शक्ति की संरचनाओं के आलोचक” हटाए जा सकते हैं ( A/HRC/38/35, पैरा. 27). हालाँकि प्रोफ़ाइल फ़ोटो से यूज़र के बारे में कुछ अनुमान लगाया जा सकता है, लेकिन बोर्ड बताता है कि आम तौर पर यह कन्फ़र्म करना संभव नहीं होता है कि क्या प्रोफ़ाइल फ़ोटो में दिखने वाले लोग ही उस कंटेंट के लिए ज़िम्मेदार हैं. इसके अतिरिक्त, बोर्ड ने उन चिंताओं पर भी चर्चा की, जिनके बारे में Facebook ने बताया कि स्टेकहोल्डर्स का कहना था Facebook यूज़र्स की नस्लीय पहचान निर्धारित करने की कोशिश कर रहा था. बोर्ड इस बात से सहमत था कि Facebook के द्वारा यूज़र्स की कथित नस्लीय पहचान का डेटा एकत्र करना या उसे अपने पास रखना प्राइवेसी से जुड़ा गंभीर मुद्दा है. इरादे के संबंध में, जहाँ यूज़र का कहना था कि उनका इरादा आत्मनिरीक्षण को प्रोत्साहित करना था, वहीं पोस्ट ने कुछ अश्वेत दक्षिण अफ़्रीकियों की आलोचना करने के लिए खराब ऐतिहासिक प्रभाव छोड़ चुके नस्लीय अपशब्द का उपयोग किया.

बोर्ड के लिए यह एक जटिल फ़ैसला था. इसके परिणामस्वरूप ऐसी अभिव्यक्ति को हटा दिया गया जिसमें दक्षिण अफ्रीका के प्रासंगिक और चुनौतीपूर्ण सामाजिक-आर्थिक तथा राजनीतिक मुद्दों पर चर्चा की गई है. इस तरह की चर्चाएँ महत्वपूर्ण होती हैं और Facebook पर ऐसे मामलों पर चर्चा करते समय कुछ हद तक उकसावे को सहन किया जाना चाहिए. हालाँकि, बोर्ड ने पाया कि पिछले पैराग्राफ़ में विश्लेषण की गई जानकारी को देखते हुए, Facebook का कंटेंट को हटाने का फ़ैसला उचित था. बोर्ड ने पॉलिसी से जुड़ा सुझाव भी दिया कि Facebook यूज़र्स के लिए नफ़रत फैलाने वाली भाषा से जुड़ी अपनी पॉलिसी के एन्फ़ोर्समेंट के बारे में प्रक्रियात्मक निष्पक्षता में सुधार को प्राथमिकता दे, ताकि यूज़र्स कंटेंट के दिखाई देने के स्थान से उसे हटाने के कारणों को ज़्यादा स्पष्ट तौर पर समझ सकें और उनके पास अपने व्यवहार को बदलने पर विचार करने की संभावना हो.

9. ओवरसाइट बोर्ड का फ़ैसला

ओवरसाइट बोर्ड, Facebook के उस कंटेंट का हटाने का फ़ैसला कायम रखता है.

10. पॉलिसी से जुड़े सुझाव

एन्फ़ोर्समेंट

यूज़र्स को एक समान प्रक्रिया उपलब्ध कराना सुनिश्चित करने के लिए Facebook को:

1. यूज़र्स को नफ़रत फैलाने वाली भाषा से जुड़े कम्युनिटी स्टैंडर्ड के अंतर्गत आने वाले उस नियम के बारे में बताना चाहिए, जिसका उस भाषा में उल्लंघन किया गया हो, जिसमें वे Facebook का उपयोग करते हैं, जैसा कि 2020-003-FB-UA केस के फ़ैसले (अज़रबैजान में आर्मेनियाई लोग) और 2021-002-FB-UA केस के फ़ैसले (ज़्वार्टे पिएट का चित्रण) में सुझाव दिया गया है. जैसे कि इस केस में यूज़र को बताया जाना चाहिए था कि उन्होंने अपशब्दों पर लगी रोक का उल्लंघन किया था. बोर्ड ने 2021-002-FB-UA केस के फ़ैसले में सुझाव संख्या 2 को लेकर Facebook की प्रतिक्रिया पर ध्यान दिया है, जिसमें ऐसे नए क्लासिफ़ायर के बारे में बताया गया है, जो अंग्रेज़ी भाषा में Facebook का उपयोग करने वाले यूज़र्स को बताए कि उनके कंटेंट से अपशब्दों के खिलाफ़ बने नियम का उल्लंघन हुआ है. बोर्ड को उम्मीद है कि Facebook अंग्रेज़ी भाषा के यूज़र्स के लिए कार्यान्वयन की पुष्टि करने वाली जानकारी और अन्य भाषा के यूज़र्स के लिए कार्यान्वयन की समय-सीमा के बारे में जानकारी देगा.

*प्रक्रिया संबंधी नोट:

ओवरसाइट बोर्ड के फ़ैसले पाँच सदस्यों के पैनल द्वारा लिए जाते हैं और बोर्ड के अधिकांश सदस्य इन पर सहमति देते हैं. ज़रूरी नहीं है कि बोर्ड के फ़ैसले उसके हर एक मेंबर की निजी राय को दर्शाएँ.

इस केस के फ़ैसले के लिए, बोर्ड की ओर से स्वतंत्र शोध को अधिकृत किया गया. एक स्वतंत्र शोध संस्थान जिसका मुख्यालय गोथेनबर्ग यूनिवर्सिटी में है और छह महाद्वीपों के 50 से भी ज़्यादा समाजशास्त्रियों की टीम के साथ ही दुनिया भर के देशों के 3,200 से भी ज़्यादा विशेषज्ञों ने सामाजिक-राजनैतिक और सांस्कृतिक संदर्भ में विशेषज्ञता मुहैया कराई है. Lionbridge Technologies, LLC कंपनी ने भाषा संबंधी विशेषज्ञता की सेवा दी, जिसके विशेषज्ञ 350 से भी ज़्यादा भाषाओं में अपनी सेवाएँ देते हैं और वे दुनिया भर के 5,000 शहरों से काम करते हैं.

मामले के निर्णयों और नीति सलाहकार राय पर लौटें