लिंग पहचान और नग्नता

केस का सारांश

ओवरसाइट बोर्ड ने ट्रांसजेंडर और नॉन-बाइनरी लोगों को खुले हुए सीने के साथ दर्शाने वाली Instagram पोस्ट को हटाने वाले Meta के ओरिजनल फ़ैसले बदल दिए हैं. बोर्ड ने यह भी सुझाव दिया कि Meta अपनी वयस्क नग्नता और यौन गतिविधि के कम्युनिटी स्टैंडर्ड भी बदले ताकि इसे ऐसे स्पष्ट मापदंड के अनुसार लागू किया जा सके जो अंतरराष्ट्रीय मानवाधिकार स्टैंडर्ड का सम्मान करे.

केस की जानकारी

इस फ़ैसले में, ओवरसाइट बोर्ड ने पहली बार दो केस पर साथ में विचार किया. दो अलग-अलग चीजें एक ही Instagram अकाउंट द्वारा पोस्ट की गई थीं, एक 2021 में और दूसरी 2022 में. यह अकाउंट अमेरिका में रहने वाले एक कपल का है, जो अपने-आप को ट्रांसजेंडर और नॉन-बाइनरी मानता है.

दोनों पोस्ट में कपल की फ़ोटो हैं जिनमें उनका सीना खुला हुआ है और निप्पल ढँके हुए हैं. फ़ोटो के कैप्शन ट्रांसजेंडर के स्वास्थ्य की देखभाल को लेकर हैं और उनमें बताया गया है कि दोनों में से एक की जल्द ही टॉप सर्जरी होने वाली है (जेंडर-अफ़र्मिंग सर्जरी, जिसमें सीने को और फ़्लैट किया जाता है) और जिसके पेमेंट के लिए कपल फ़ंडरेज़िंग कर रहा है.

Meta के ऑटोमेटेड सिस्टम द्वारा कई अलर्ट और यूज़र्स की ओर से रिपोर्ट किए जाने के बाद, विभिन्न कम्युनिटी स्टैंडर्ड के संभावित उल्लंघनों के लिए पोस्ट का कई बार रिव्यू किया गया. Meta ने आखिर में दोनों ही पोस्ट यौन आग्रह के कम्युनिटी स्टैंडर्ड का कथित उल्लंघन करने की वजह से हटा दीं, क्योंकि उनमें स्तन दिखाए गए थे और फंडरेज़िंग पेज का लिंक था.

यूज़र्स ने पहले Meta से और फिर बोर्ड से अपील की. बोर्ड द्वारा केस स्वीकार किए जाने के बाद, Meta ने पाया कि उसने गलती से पोस्ट हटा दी थीं और उन्हें रिस्टोर कर दिया.

मुख्य निष्कर्ष

ओवरसाइट बोर्ड ने पाया कि इन पोस्ट को हटाना Meta के कम्युनिटी स्टैंडर्ड, वैल्यू या मानवाधिकारों की ज़िम्मेदारी के अनुसार नहीं है. ये केस Meta की पॉलिसी की मूलभूत समस्याओं को भी हाइलाइट करते हैं.

यौन आग्रह की पॉलिसी के तहत किसी कंटेंट को कब हटाया जाना चाहिए, इस पर मॉडरेटर्स के लिए Meta के आंतरिक मार्गदर्शन, पॉलिसी में बताए गए कारण या सभी के लिए उपलब्‍ध मार्गदर्शन से कहीं ज़्यादा व्यापक हैं. इससे यूज़र्स और मॉडरेटर्स को भ्रम हो जाता है और जैसा कि Meta ने भी माना कि इस वजह से कंटेंट को गलत तरीके से हटा दिया जाता है.

कम से कम एक केस में, वयस्क नग्नता और यौन गतिविधि के कम्युनिटी स्टैंडर्ड को लागू करने के लिए बनाए गए ऑटोमेटेड सिस्टम द्वारा पोस्ट को ह्यूमन रिव्यू के लिए भेजा गया था. इस स्टैंडर्ड के तहत निर्धारित स्थितियों, जैसे कि स्तनपान और जेंडर कंफ़र्मेशन सर्जरी के अलावा महिलाओं के निपल दिखाने वाली पोस्ट प्रतिबंधित है.

यह पॉलिसी जेंडर की बाइनरी विचारधारा और स्त्री-पुरुष के शरीर के अंतर पर आधारित है. ऐसे दृष्टिकोण से यह स्पष्ट नहीं होता कि इंटरसेक्स, नॉन-बाइनरी और ट्रांसजेंडर लोगों पर नियमों को कैसे लागू किया जाए और ऐसे में रिव्यूअर्स के लिए ज़रूरी है कि वह सेक्स और जेंडर का जल्दी से और व्यक्तिगत आकलन करें, जो बड़े पैमाने पर कंटेंट मॉडरेट करते समय व्यवहारिक नहीं है.

महिलाओं के निपल संबंधी प्रतिबंध और अपवाद बहुत व्यापक और साथ ही भ्रामक हैं, ख़ासकर जब वे ट्रांसजेंडर और नॉन-बाइनरी पर लागू किए जाते हैं. पॉलिसी के अपवाद विरोध प्रदर्शन से लेकर, बच्चे के जन्म होते समय की तस्वीरें, चिकित्सा और स्वास्थ्य संदर्भों तक हैं, जिसमें टॉप सर्जरी और स्तन कैंसर जागरूकता शामिल हैं. ये अपवाद अक्सर ही जटिल और अस्पष्ट तरीके से परिभाषित होते हैं. कुछ संदर्भों में, मॉडरेटर्स को दिखाई दे रहे निशानों की सीमा और प्रकृति का आकलन करके निर्धारित करना चाहिए कि कुछ अपवाद लागू होते हैं या नहीं. इस पॉलिसी में निहित स्पष्टता की कमी से यूज़र्स और रिव्यूअर्स के लिए अनिश्चितता की स्थिति पैदा होती है और इसे व्यवहारिक रूप से लागू करना संभव नहीं हो पाता.

बोर्ड ने लगातार हिदायत दी है कि Meta को इस बात को लेकर संवेदी रहना चाहिए कि इसकी पॉलिसी भेदभाव से पीड़ित लोगों को पर कैसा प्रभाव डालती हैं (उदाहरण के लिए, “ वैमपम बेल्ट” और “ अरबी शब्दों को स्वीकार्य उपयोग में लाने” के फ़ैसले). यहाँ, बोर्ड ने पाया कि वयस्क नग्नता को लेकर Meta की पॉलिसी से महिलाओं, ट्रांस और जेंडर नॉन-बाइनरी लोगों के लिए इस प्लेटफ़ॉर्म पर अभिव्यक्ति करने में रुकावट पैदा होती है. जैसे, उन संदर्भों में बहुत ज़्यादा गलत प्रभाव पड़ता है जहाँ महिलाएँ पारंपरिक रूप से ऊपरी शरीर खुला रखती हैं और ऐसे लोग जो अपनी पहचान LGBTQI+ के तौर पर करते हैं, उन पर गैर-अनुपातिक प्रभाव पड़ता है, जैसा कि इन केस से पता चलता है. Meta के ऑटोमेटेड सिस्टम ने कई बार कंटेंट की पहचान की, जबकि इससे Meta की किसी पॉलिसी का उल्लंघन नहीं हो रहा था.

Meta को ऐसी पॉलिसी बनाने और लागू करने की कोशिश करना चाहिए, जिनसे ऐसी समस्याएँ न हों. इसे अपने प्लेटफ़ॉर्म पर कंटेंट में नग्नता को मैनेज करने के लिए अपना तरीका बदलना चाहिए. इसे वयस्क नग्नता और यौन गतिविधि संबंधी पॉलिसी के संचालन के स्पष्ट मापदंड परिभाषित करने चाहिए, जिससे सभी यूज़र्स के साथ ऐसा व्यवहार सुनिश्चित हो जो मानवाधिक स्टैंडर्ड के अनुसार हो. इसे यह भी जाँच करनी चाहिए कि वयस्क नग्नता और यौन गतिविधि संबंधी पॉलिसी, बिना सहमति के फ़ोटो शेयर किए जाने के विरोध में सुरक्षा देती हैं या नहीं और क्या अन्य पॉलिसी को भी इस मामले में और ठोस करने की ज़रूरत है.

ओवरसाइट बोर्ड का फ़ैसला

ओवरसाइट बोर्ड ने संबंधित पोस्ट को हटाने के Meta के ओरिजनल फ़ैसले को बदल दिया.

बोर्ड ने Meta को सुझाव भी दिया कि वह:

• वयस्क नग्नता और यौन गतिविधि के कम्युनिटी स्टैंडर्ड संचालित करने के लिए स्पष्ट, वस्तुनिष्ट, अधिकारों का सम्मान रखने वाले मापदंड परिभाषित करे ताकि सभी लोगों के साथ अंतरराष्ट्रीय मानवाधिकार स्टैंडर्ड के अनुसार व्यवहार हो, जिसमें सेक्स या लिंग के आधार पर भेदभाव न हो. Meta को इन बदलावों के संबंध में विभिन्न स्टेकहोल्डर्स को एंगेज करके पहले मानवाधिकारों पर होने वाले प्रभाव का व्यापक आकलन चाहिए और किसी भी तरह के नुकसान का पता चलने पर उसके समाधान के लिए प्लान बनाना चाहिए.
• सभी के लिए उपलब्ध यौन आग्रह संबंधी कम्युनिटी स्टैंडर्ड में इस बारे में और ज़्यादा विवरण दे कि किस मापदंड के तहत कंटेंट को हटाया जा सकता है.
• यौन आग्रह के कम्युनिटी स्टैंडर्ड के बारे में मॉडरेटर्स को दिए जाने वाले मार्गदर्शन को संशोधित करे ताकि पॉलिसी में लोगों के लिए दिए गए नियम इसमें ज़्यादा सटीकता के साथ पता चलें. इससे Meta की ओर से होने वाली एन्फ़ोर्समेंट की गलतियाँ कम होंगी.

*केस के सारांश से केस के ओवरव्यू पता चलता है और आगे के किसी फ़ैसले के लिए इसको आधार नहीं बनाया जा सकता है.

केस का पूरा फ़ैसला

1. फ़ैसले का सारांश

ओवरसाइट बोर्ड ने Meta द्वारा Instagram पोस्ट हटाने वाले दो केस में Meta के ओरिजनल फ़ैसलों को बदल दिया. Meta ने माना कि दोनों ही केस में इसके ओरिजनल फ़ैसले गलत थे. ये केस इस बारे में महत्वपूर्ण बिंदुओं को ध्यान में लाते हैं कि Meta की पॉलिसी किस तरह से इस प्लेटफ़ॉर्म पर महिलाओं और LGBTQI+ यूज़र्स के अभिव्यक्ति के अधिकारों कोगैर-अनुपातिक तरीके से प्रभावित करती हैं. बोर्ड ने सुझाव दिया कि Meta को अपनी वयस्क नग्नता और यौन आग्रह की पॉलिसी के पूरे संचालन के लिए स्पष्ट, वस्तुनिष्ट और अधिकारों का सम्मान करने वाले मापदंड परिभाषित करना चाहिए, जिससे अंतरराष्ट्रीय मानवाधिकारों के अनुसार सभी लोगों के साथ समान व्यवहार सुनिश्चित हो और सेक्स या लिंग पहचान के आधार पर भेदभाव न हो. Meta को ऐसे किसी भी मापदंड को लागू करने के पहले इसके प्रभावों का रिव्यू करने के लिए मानवाधिकारों पर पड़ने वाले प्रभाव का व्यापक आकलन करना चाहिए. इसमें विभिन्न आदर्शवादी, भौगोलिक और सांस्कृतिक संदर्भों में व्यापक समावेशी स्टेकहोल्डर की एंगेजमेंट शामिल है. इस आकलन में किसी भी संभावित नुकसान का पता लगाना और नई पॉलिसी के लागू होने में उनके समाधान का प्लान होना चाहिए.

बोर्ड ने आगे यह भी सुझाव दिया कि Meta सभी के लिए उपलब्ध अपनी यौन आग्रह संबंधी पॉलिसी को स्पष्ट करे और एन्फ़ोर्समेंट के अपने आंतरिक मार्गदर्शन को सटीक बनाए ताकि ऐसे उल्लंघनों को बेहतर तरह से टार्गेट किया जा सके.

2. केस का वर्णन और बैकग्राउंड

ये केस, Meta द्वारा कंटेंट से जुड़े दो फ़ैसलों से संबंधित हैं, जिन पर ओवरसाइट बोर्ड एक-साथ विचार करके फ़ैसला ले रहा है. कैप्शन वाली दो अलग-अलग फ़ोटो Instagram पर एक ही अकाउंट द्वारा पोस्ट की गईं, जिसे अमेरिका निवासी एक कपल संयुक्त रूप से चलाता है. दोनों फ़ोटो में ऐसे कपल को दिखाया गया है, जिन्होंने पोस्ट में और बोर्ड को दिए गए अपने सबमिशन में बताया है कि वे ट्रांसजेंडर और नॉन-बाइनरी हैं.

Meta ने अपने यौन आग्रह कम्युनिटी स्टैंडर्ड के तहत दोनों पोस्ट को हटा दिया. दोनों केस में Meta के ऑटोमेटेड सिस्टम ने कंटेंट की पहचान, संभावित तौर पर उल्लंघन करने वाले कंटेंट के तौर पर की.

पहली फ़ोटो में, जिसे 2021 में पोस्ट किया गया था, दोनों का ही सीना खुला है और स्किन कलर वाले टेप से निपल ढँके हुए हैं. 2022 में पोस्ट की गई दूसरी फ़ोटो में, एक व्यक्ति ने कपड़े पहने हुए हैं, जबकि दूसरे व्यक्ति का सीना खुला है और उसने अपने निपल्स को अपने हाथों से ढँका हुआ है. इन फ़ोटो के साथ दिए गए कैप्शन में यह बताया गया है कि वह व्यक्ति, जिसका सीना, दोनों फ़ोटो में खुला हुआ है, जल्द ही ऊपरी भाग की जेंडर-एफ़र्मिंग सर्जरी करवाने वाला है, जिससे कि सीना और फ़्लैट होता है. वे सर्जरी से जुड़ी प्रोसेस को डॉक्यूमेंट करने के प्लान के बारे में बताते हैं और ट्रांसजेंडर के स्वास्थ्य से जुड़ी समस्याओं पर चर्चा करते हैं. वे घोषणा करते हैं कि वे सर्जरी के पेमेंट के लिए फ़ंडरेज़र चला रहे हैं क्योंकि उन्हें इस प्रक्रिया के लिए बीमा राशि हासिल करने में कठिनाइयों का सामना करना पड़ा.

पहले केस में, फ़ोटो को पहले ऑटोमैटिक रूप से उल्लंघन करने की संभावना नहीं होने के रूप में क्लासिफ़ाई किया गया था. रिपोर्ट को रिव्यू के बिना बंद कर दिया गया और कंटेंट पहले प्लेटफ़ॉर्म पर बना रहा. इसके बाद तीन यूज़र्स ने उस कंटेंट की रिपोर्ट, पोर्नोग्राफ़ी और खुद को नुकसान पहुँचाने वाले कंटेंट के तौर पर की. इन रिपोर्ट का रिव्यू ह्यूमन मॉडरेटर द्वारा किया गया, जिन्होंने पाया कि उन पोस्ट से किसी भी पॉलिसी का उल्लंघन नहीं हो रहा था. जब कंटेंट यूज़र द्वारा चौथी बार रिपोर्ट किया गया, तो दूसरे ह्यूमन रिव्यूअर ने पोस्ट को यौन आग्रह संबंधी कम्युनिटी स्टैंडर्ड का उल्लंघन करने वाला पाया और उसे हटा दिया.

दूसरे केस में, पोस्ट की पहचान Meta के ऑटोमेटेड सिस्टम द्वारा दो बार की गई और फिर उसे ह्यूमन रिव्यू के लिए भेजा गया था. दोनों ही बार कंटेंट को उल्लंघन नहीं करने वाला पाया गया था. इसके बाद दो यूज़र्स ने कंटेंट की रिपोर्ट की, लेकिन हर एक रिपोर्ट, ह्यूमन रिव्यू किए बिना अपने आप बंद कर दी गई और कंटेंट Instagram पर बना रहा. आखिर में, Meta के ऑटोमेटेड सिस्टम ने तीसरी बार कंटेंट की पहचान की और उसे ह्यूमन रिव्यू के लिए भेजा. पिछली दो बार, Meta के ऑटोमेटेड वयस्क नग्नता और यौन गतिविधि क्लासिफ़ायर ने कंटेंट को फ़्लैग किया लेकिन बार-बार रिव्यू का कारण अस्पष्ट है. अंतिम ह्यूमन रिव्यूअर ने पोस्ट को यौन आग्रह कम्युनिटी स्टैंडर्ड का उल्लंघन करने वाली पाया और उसे हटा दिया.

अकाउंट ओनर ने Meta से हटाए जाने के दोनों फ़ैसलों पर अपील की और फिर दोनों केस में ह्यूमन रिव्यूअर ने कंटेंट का रिव्यू किया. हालाँकि इन रिव्यू की वजह से Meta ने पोस्ट को रिस्टोर नहीं किया. अकाउंट ओनर ने फिर हटाने के दोनों फ़ैसलों के खिलाफ़ बोर्ड से अपील की. बोर्ड पहली बार, दो केस साथ में लेकर उन पर विचार कर रहा है. ऐसा करने के फ़ायदे हैं, Meta की कंटेंट पॉलिसी और प्रोसेस में समान समस्याओं की पहचान करना और इन समस्याओं के लिए समाधान बताना.

बोर्ड द्वारा इन पोस्ट को चुनने के बाद Meta से हटाने के इसके फ़ैसले के लिए स्पष्टीकरण माँगा गया, Meta ने हटाने को "एन्फ़ोर्समेंट की गलती" माना और पोस्ट को रीस्टोर कर दिया.

ये केस महत्वपूर्ण मुद्दों का प्रतिनिधित्व क्यों करते हैं, इस पर विचार करते हुए, बोर्ड इन केस में लोगों से भारी मात्रा में मिले कमेंट को प्रासंगिक संदर्भ मानता है. इन कमेंट में से कई ऐसे लोगों से थे जो खुद को ट्रांसजेंडर, नॉन-बाइनरी या सिसजेंडर महिला मानते हैं और जिन्होंने कहा कि वे एन्फ़ोर्समेंट की गलतियों और इन केस जैसे ही समस्याओं से निजी स्तर पर प्रभावित हुए.

बोर्ड ने Haimson et al, Witt, Suzor and Huggins द्वारा अकादमिक रिसर्च और Salty की दो रिपोर्ट algorithmic bias और censorship of marginalized communities को भी प्रासंगिक संदर्भ माना, जिनके बारे में पब्लिक कमेंट में ही बताया गया था. इन अध्ययनों से पता चलता है कि इन केस में जिन दो कम्युनिटी स्टैंडर्ड के तहत एन्फ़ोर्समेंट की गलतियों पर चर्चा की गई, वे महिलाओं और LGBTQI+ कम्युनिटी को गैर-अनुपातिक तरीके से प्रभावित करती हैं. इन अध्ययनों में से एक के सह लेखक, ओवरसाइट बोर्ड के मेंबर हैं.

3. ओवरसाइट बोर्ड की अथॉरिटी और स्कोप

बोर्ड को उस यूज़र के अपील करने के बाद Meta के फ़ैसले का रिव्यू करने का अधिकार है, जिसका कंटेंट हटा दिया गया था (चार्टर अनुच्छेद 2, सेक्शन 1; उपनियम अनुच्छेद 3, सेक्शन 1).

बोर्ड Meta के फ़ैसले को कायम रख सकता है या उसे बदल सकता है (चार्टर अनुच्छेद 3, सेक्शन 5) और उसका फ़ैसला कंपनी पर बाध्यकारी होता है (चार्टर अनुच्छेद 4). Meta को मिलते-जुलते संदर्भ वाले समान कंटेंट पर अपने फ़ैसले को लागू करने की संभावना का भी आकलन करना चाहिए (चार्टर अनुच्छेद 4). बोर्ड के फ़ैसलों में सलाहों के साथ पॉलिसी से जुड़े सुझाव हो सकते हैं, जिन पर Meta को जवाब देना होगा (चार्टर अनुच्छेद 3, सेक्शन 4; अनुच्छेद 4).

जब बोर्ड इस तरह के केस चुनता है, जहाँ Meta बोर्ड द्वारा केस की पहचान किए जाने पर मानता है कि उससे गलती हुई, तो बोर्ड ओरिजनल फ़ैसले का रिव्यू करता है. ऐसा पॉलिसी के पैरामीटर और कंटेंट मॉडरेशन की प्रोसेस, जिनकी वजह से गलती हुई है, उन्हें बेहतर तरह से समझने और पॉलिसी के अंतर्गत बोर्ड को जिन समस्याओं का पता चलता है उनका समाधान करने के लिए किया जाता है. आगे इस तरह की गलतियाँ न हों और यूज़र्स के साथ आगे से उचित व्यवहार किया जाए, इसके लिए बोर्ड सुझाव भी देता है.

जब बोर्ड को ऐसे केस मिलते हैं जिनमें एक जैसे मुद्दे होते हैं, तो वह उन्हें एक पैनल को साथ में असाइन कर सकता है ताकि एक साथ फ़ैसला दिया जा सके. हर कंटेंट को लेकर एक बाध्यकारी फ़ैसला लिया जाएगा.

4. अथॉरिटी के सोर्स

ओवरसाइट बोर्ड ने इन अधिकारों और स्टैंडर्ड पर विचार किया:

I. ओवरसाइट बोर्ड के फ़ैसले:

• “अरबी शब्दों को स्वीकार्य उपयोग में लाने” का फ़ैसला ( 2022-003-IG-UA). बोर्ड ने पॉलिसी के अपवादों को लागू करने की चुनौतियों का और पॉलिसी के कुछ चुनावों से होने वाले गैर-अनुपातिक प्रभावों का विश्लेषण किया.
• “वामपम बेल्ट फ़ैसला” ( 2021-012-FB-UA). बोर्ड ने पॉलिसी के अपवादों को लागू करने की चुनौतियों का और पॉलिसी के कुछ चुनावों से होने वाले गैर-अनुपातिक प्रभावों का विश्लेषण किया.
• “ब्रेस्ट कैंसर के लक्षण और नग्नता" ( 2020-004-IG-UA). बोर्ड ने Instagram कम्युनिटी गाइडलाइन का विश्लेषण किया और सुझाव दिया कि Meta यह स्पष्ट करे कि स्तन कैंसर जागरूकता का अपवाद मौजूद है.

II. Meta की कंटेंट पॉलिसी:

इस केस में Instagram की कम्युनिटी गाइडलाइन और Facebook के कम्युनिटी स्टैंडर्ड शामिल हैं. Meta के ट्रांसपेरेंसी सेंटर में बताया गया है कि "Facebook और Instagram की कंटेंट पॉलिसी एक जैसी हैं. इसका मतलब यह है कि अगर कंटेंट को Facebook पर उल्लंघन करने वाला माना जाता है, तो उसे Instagram पर भी उल्लंघन करने वाला माना जाएगा."

यौन आग्रह

Instagram की कम्युनिटी गाइडलाइन में बताया गया है कि “यौन सेवाएँ देने” की परमिशन नहीं है. यह प्रावधान फिर यौन आग्रह पर Facebook के कम्युनिटी स्टैंडर्ड से जुड़ा होता है.

यौन आग्रह पर पॉलिसी बनाने के कारण में Meta ने बताया है: “जब कंटेंट वयस्कों के बीच यौन बातचीत या कमर्शियल यौन सेवाओं की सुविधा देता है, प्रोत्साहित करता है या सहयोग देता है तो हम ऐसे कंटेंट की सीमा तय करते हैं. ऐसा हम उस तरह के ट्रांज़ेक्शन की सुविधाओं को रोकने के लिए करते हैं जिनमें तस्करी, ज़ोर-ज़बरदस्ती और बिना सहमति के यौन कर्म शामिल हो सकता है. हम ऐसी अश्लील भाषा को भी प्रतिबंधित करते हैं, जिससे शारीरिक संबंध बनाने का आग्रह किया जा सकता है, क्योंकि हमारी ग्लोबल कम्युनिटी में से कुछ ऑडियंस इस प्रकार के कंटेंट के प्रति संवेदनशील हो सकती है और इससे लोगों की अपने दोस्तों और पूरी कम्युनिटी से जुड़ने की क्षमता में रुकावट आ सकती है.

यौन आग्रह पर Facebook के कम्युनिटी स्टैंडर्ड में बताया गया है कि Meta स्पष्ट और निहीत दोनों तरह के आग्रह प्रतिबंधित करता है. निहीत आग्रह के दो मापदंड हैं, पॉलिसी का उल्लंघन करने वाला माने जाने के लिए दोनों मापदंडों का पूरा होना ज़रूरी है. पहला है “देना या माँगना”, मतलब ऐसा कंटेंट जिसमें निहीत या अप्रत्यक्ष रूप से (आम तौर पर संपर्क का ज़रिया देकर) यौन संबंध बनाने की पेशकश की जाती है या इसकी माँग की जाती है. दूसरा मापदंड है “संकेत देने वाली चीज़ें”, मतलब ऐसा कंटेंट जिसमें ऊपर बताई गई चीज़ों की पेशकश की गई हों या जिसमें इन अश्लील चीज़ों में से किसी का उपयोग करके माँग की गई हो.” इन चीज़ों में “लोकल भाषा के यौन शब्द” और “भाव भंगिमा” शामिल है.

वयस्क नग्नता और यौन गतिविधि

Instagram की कम्युनिटी गाइडलाइन में बताया गया है कि यूज़र: “ऐसी फ़ोटो और वीडियो पोस्ट करें, जो विविध प्रकार की ऑडियंस के लिए उचित हों. हम जानते हैं कि लोग कभी-कभी कलात्मक या सृजनात्मक प्रकार की नग्न तस्वीरें शेयर करना चाहते हैं, लेकिन हम कई कारणों से Instagram पर नग्नता दिखाने की अनुमति नहीं देते हैं. इसमें संभोग, गुप्तांग और नग्न नितम्बों के क्लोज़-अप दृश्य दिखाने वाली फ़ोटो, वीडियो, और डिजिटल रूप से बनाया गया कंटेंट शामिल होता है. इनमें महिलाओं के निपल की कुछ तरह की फ़ोटो भी शामिल हैं, लेकिन स्तनपान, बच्चे के जन्म और जन्म के बाद के पलों, स्वास्थ्य संबंधी परिस्थितियों (उदाहरण के लिए, मसटेक्टमी के बाद स्तन-कैंसर जागरूकता के लिए या लिंग कन्फ़र्म करने की सर्जरी के लिए) या फिर विरोध-प्रदर्शन के संदर्भ वाली निपल फ़ोटो को हम परमिशन दे देते हैं. यह सेक्शन Facebook के वयस्क नग्नता और यौन गतिविधि पॉलिसी से लिंक है, जिसमें इन नियमों का और विवरण है.

वयस्क नग्नता और यौन गतिविधि कम्युनिटी स्टैंडर्ड की पॉलिसी बनाने के कारण हिस्से के तौर पर, Meta ने स्पष्टीकरण दिया है: “हम नग्नता या यौन गतिविधि के प्रदर्शन को प्रतिबंधित करते हैं क्योंकि हमारी कम्युनिटी में कुछ लोग इस प्रकार के कंटेंट के प्रति संवेदनशील हो सकते हैं. इसके अतिरिक्त, हम बिना सहमति के या नाबालिग से संबंधित कंटेंट को शेयर करने से रोकने के लिए यौन तस्वीरों को डिफ़ॉल्ट रूप से निकाल देते हैं.

Facebook की वयस्क नग्नता और यौन गतिविधि संबंधी पॉलिसी में बताया गया है: “ये कंटेंट पोस्ट न करें: स्तनपान, जन्म और जन्म के बाद के पलों, चिकित्सा या स्वास्थ्य संदर्भ (उदाहरण के लिए, मसटेक्टमी के बाद, स्तन कैंसर जागरूकता या लिंग कन्फ़र्म करने की सर्जरी) या विरोध-प्रदर्शन के संदर्भ के अलावा महिलाओं के खुले निप्पल. यूज़र्स जननांगों की फ़ोटो “चिकित्सा या स्वास्थ्य संदर्भ” में पोस्ट कर सकते हैं (जिसमें जेंडर कंफ़र्म करने वाली सर्जरी शामिल है), लेकिन उन पर लोगों को संवेदनशील कंटेंट की चेतावनी देने वाला एक लेबल लगाया जाएगा. साथ ही निप्पल और उनसे जुड़े अपवादों के आंतरिक गाइडेंस में 18 अतिरिक्त कारक भी हैं.

III. Meta की वैल्यू:

Meta की वैल्यू, Facebook कम्युनिटी स्टैंडर्ड के परिचय में बताई गई हैं जहाँ “वॉइस” की वैल्यू को “सर्वोपरि” बताया गया है.

हमारे कम्युनिटी स्टैंडर्ड का लक्ष्य हमेशा एक ऐसा प्लेटफ़ॉर्म बनाना रहा है, जहाँ लोग अपनी बात रख सकें और अपनी भावनाओं को व्यक्त कर सकें. […] हम चाहते हैं कि लोग अपने लिए महत्व रखने वाले मुद्दों पर खुलकर बातें कर सकें, भले ही कुछ लोग उन बातों पर असहमति जताएँ या उन्हें वे बातें आपत्तिजनक लगें.

Meta चार वैल्यू की सर्विस में "वॉइस” को सीमित करता है, जिनमें से दो यहाँ प्रासंगिक हैं:

“सुरक्षा”: हम Facebook को एक सुरक्षित जगह बनाने के लिए प्रतिबद्ध हैं. धमकी भरी अभिव्यक्ति से दूसरे लोग डर सकते हैं, वे अलग-थलग पड़ सकते हैं या उनकी आवाज़ दब सकती है और Facebook पर इसकी परमिशन नहीं है.

"गरिमा": हमारा मानना है कि सभी लोगों को एक जैसा सम्मान और एक जैसे अधिकार मिलने चाहिए. हम उम्मीद करते हैं कि लोग एक-दूसरे की गरिमा का ध्यान रखेंगे और दूसरों को परेशान नहीं करेंगे या नीचा नहीं दिखाएँगे.

IV. अंतरराष्ट्रीय मानवाधिकार स्टैंडर्ड:

बिज़नेस और मानवाधिकारों के बारे में संयुक्त राष्ट्र संघ के मार्गदर्शक सिद्धांत (UNGP), जिन्हें 2011 में संयुक्त राष्ट्र संघ की मानवाधिकार समिति ने स्वीकृति दी है, प्राइवेट बिज़नेस की मानवाधिकार से जुड़ी ज़िम्मेदारियों का स्वैच्छिक ढाँचा तैयार करते हैं. 2021 में Meta ने मानवाधिकारों से जुड़ी अपनी कॉर्पोरेट पॉलिसी की घोषणा की, जिसमें उसने UNGP के अनुसार मानवाधिकारों का ध्यान रखने की अपनी प्रतिज्ञा को दोहराया. इन केस में बोर्ड ने Meta की मानवाधिकार से जुड़ी ज़िम्मेदारियों का विश्लेषण, निम्न मानवाधिकार स्टैंडर्ड को ध्यान में रखते हुए किया:

• विचार और अभिव्यक्ति की स्वतंत्रता के अधिकार: अनुच्छेद 19, नागरिक और राजनीतिक अधिकारों पर अंतरराष्ट्रीय प्रतिज्ञापत्र (ICCPR), सामान्य कमेंट सं. 34, मानवाधिकार समिति, 2011; कम्युनिकेशन 488/1992; रिज़ॉल्यूशन 32/2, मानवधिकार काउंसिल, 2016; विचार और अभिव्यक्ति की स्वतंत्रता के बारे में संयुक्त राष्ट्र संघ के ख़ास रैपर्टर, की रिपोर्ट: A/HRC/38/35 (2018) और A/74/486 (2019).
• महिलाओं के अधिकार: अनुच्छेद 2 और अनुच्छेद 5, महिलाओं के विरुद्ध सभी स्‍वरूपों के भेदभाव के निवारण संबंधी सम्मेलन (CEDAW).
• भेदभाव न करने का अधिकार: अनुच्छेद 2, पैरा. 1 और अनुच्छेद 26, ICCPR. निपॉमनियश्ची बनाम रूस, मानवाधिकार समिति 2018 ( CCPR/C/123/D/2318/2013).

5. यूज़र सबमिशन

यूज़र्स ने इन केस में दिए अपने सबमिशन में कहा कि उनके अनुसार कंटेंट को ट्रांसफ़ोबिया की वजह से हटाया गया. उन्होंने लिखा है कि अगर बोर्ड यह मानता है कि कंटेंट प्लेटफ़ॉर्म पर रहना चाहिए, तो फ़ैसले से Instagram पर LGBTQI+ की अभिव्यक्ति के लिए ज़्यादा बेहतर माहौल बनाने में मदद मिलेगी.

6. Meta के सबमिशन

Meta ने अपने फ़ैसले के कारण में स्पष्टीकरण देते हुए बताया कि दोनों ही कंटेंट को हटाया जाना एन्फ़ोर्समेंट की गलती थी और किसी भी पोस्ट से यौन आग्रह संबंधी पॉलिसी का उल्लंघन नहीं हो रहा था. Meta ने कहा: “ऑफ़र या माँग केवल फ़ंडरेज़र में दान की या वेबसाइट पर जाकर टी-शर्ट खरीदने की है, जिनमें से किसी का भी यौन आग्रह से कोई संबंध नहीं है.”

Meta ने यह भी कहा कि किसी भी पोस्ट से वयस्क नग्नता और यौन गतिविधि स्टैंडर्ड का उल्लंघन नहीं हो रहा है. कारण में बताया गया है कि “रिव्यूअर के लिए आंतरिक मार्गदर्शन में स्पष्ट किया गया है कि नॉन-बाइनरी, जेंडर न्यूट्रल या ट्रांसजेंडर संबंधी नग्नता का कैसे समाधन करना है.” इन केस का कंटेंट “स्पष्ट रूप से नॉन-बाइनरी या ट्रांसजेंडर संदर्भ में शेयर किया गया है, जैसा कि कंटेंट के पूरे विषय (टॉप सर्जरी होने वाली है) और उपयोग किए गए हैशटैग से पता चलता है.” Meta ने निष्कर्ष निकाला कि "भले ही इन केस में निप्पल दिख रहे थे और ढँके हुए नहीं थे, लेकिन इनसे हमारी वयस्क नग्नता और यौन गतिविधि पॉलिसी का उल्लंघन नहीं होता." Meta यह भी मानता है कि दोनों फ़ोटो में निप्पल “पूरी तरह अस्पष्ट” हैं.

कंटेंट हटाने के बाद बीत चुके समय को देखते हुए, Meta बोर्ड को यह नहीं बता पाया कंटेंट के संभावित रूप से उल्लंघनकारी होने की पहचान करने वाले विभिन्न ऑटोमेटेड सिस्टम को किस या किन पॉलिसी को लागू करने के लिए प्रोग्राम किया गया था. एक केस में, Meta यह बता सका कि कंटेंट वयस्क नग्नता और यौन गतिविधि क्लासिफ़ायर के लिए दो बार रिव्यू में था. Meta इस बारे में भी कोई स्पष्टीकरण नहीं दे सका कि रिव्यूअर्स को कंटेंट यौन आग्रह संबंधी पॉलिसी का उल्लंघन करने वाला क्यों लगा. बताए गए कारण यह माना गया है कि, Meta को "पता है कि कुछ कंटेंट रिव्यूअर हमारे आंतरिक रिव्यूअर मार्गदर्शन को ज़्यादा तकनीकी तरीके से लागू करके गलत तरीके से कंटेंट को अस्पष्ट यौन आग्रह करने (जबकि यह ऐसा नहीं करता हो) के लिए हटा सकते हैं."

बोर्ड ने Meta से 18 सवाल पूछे और Meta ने सभी का पूरा जवाब दिया.

7. पब्लिक कमेंट

ओवरसाइट बोर्ड ने लोगों की ओर से इन केस पर मिले 130 कमेंट पर विचार किया. सत्तान्वे कमेंट अमेरिका और कनाडा से, 19 यूरोप से, 10 एशिया पैसिफ़िक और ओशेनिया से, 1 लैटिन अमेरिका और कैरिबियन से, 1 मध्य पूर्व और उत्तरी अफ़्रीका से, 1 सब-सहारा अफ़्रीका से और 1 केंद्रीय और दक्षिण एशिया से सबमिट किए गए.

सबमिट किए गए कमेंट में ये विषय थे: ट्रांस, नॉन-बाइनरी और महिला यूज़र्स के कंटेंट को गलती से हटाया जाना; किस तरह की नग्नता की परमिशन है, इसे लेकर लिंग आधारित भेद करने का पक्षपात और असमानता; वयस्क नग्नता और यौन गतिविधि, और यौन आग्रह के कम्युनिटी स्टैंडर्ड के तहत किस तरह के कंटेंट की परमिशन है, इस बारे में भ्रम; ऐसे समाज में अभिव्यक्ति के लिए सोशल मीडिया का महत्व जहाँ LGBTQI+ के अधिकारों का हनन होता है.

इन केस के लिए सबमिट किए गए पब्लिक कमेंट पढ़ने के लिए, कृपया यहाँ क्लिक करें. सबमिट किए गए कई कमेंट शामिल नहीं हैं क्योंकि उनमें कमेंट करने वाले के अलावा अन्य लोगों की निजी रूप से पहचान होने की जानकारी थी.

8. ओवरसाइट बोर्ड का विश्लेषण

बोर्ड ने इन तीन दृष्टिकोणों से इस सवाल पर ध्यान दिया कि क्या इन पोस्ट को रीस्टोर कर दिया जाना चाहिए: Meta की कंटेंट पॉलिसी, कंपनी की वैल्यू और मानवाधिकारों से जुड़ी उसकी ज़िम्मेदारियाँ.

बोर्ड ने ये केस इसलिए चुने क्योंकि उपेक्षित ग्रुप के लोगों द्वारा पोस्ट किए गए गैर-उल्लंघनकारी कंटेंट को हटाने से उनकी अभिव्यक्ति की स्वतंत्रता प्रभावित होती है. यह ख़ासकर इसलिए मायने रखता है क्योंकि Instagram इन ग्रुप की कम्युनिटी बनाने के लिए महत्वपूर्ण फ़ोरम बन सकता है. ये केस दिखाते हैं कि किस तरह एन्फ़ोर्समेंट की गलती से कुछ ग्रुप पर गैर-अनुपातिक प्रभाव पड़ सकता है और इससे पॉलिसी और एन्फ़ोर्समेंट की ऐसी व्यापक समस्याएँ भी पता चलती हैं, जिन्हें ठीक किया जाना चाहिए.

8.1 Meta की कंटेंट पॉलिसी का अनुपालन

बोर्ड ने पाया कि ये पोस्ट Meta की किसी कंटेंट पॉलिसी का उल्लंघन नहीं करती है. हालाँकि कम्युनिटी गाइडलाइन Instagram पर लागू होती हैं, लेकिन Meta का यह भी कहना है कि "Facebook और Instagram की कंटेंट पॉलिसी समान हैं. जिस कंटेंट को Facebook पर उल्लंघन करने वाला माना जाता है, उसे Instagram पर भी उल्लंघन करने वाला माना जाएगा." Facebook कम्युनिटी स्टैंडर्ड में और ज़्यादा जानकारी मिलती है और उन्हें गाइडलाइन में लिंक किया गया है.

a. यौन आग्रह

यौन आग्रह से जुड़े कम्युनिटी स्टैंडर्ड के अनुसार अस्पष्ट यौन आग्रह में दो तत्व होने चाहिए:

• ऐसा कंटेंट, जिसमें अस्पष्ट रूप से ऑफ़र किया गया हो या माँग की गई हो 'और'
• यौन संकेत देने वाले तत्व.

अस्पष्ट ऑफ़र या माँग.

यौन आग्रह से जुड़े कम्युनिटी स्टैंडर्ड में अस्पष्ट रूप से ऑफ़र करने या माँगने को इस तरह परिभाषित किया गया है, "ऐसा कंटेंट, जो अस्पष्ट या अप्रत्यक्ष रूप से (आमतौर पर संपर्क का तरीका देकर) यौन आग्रह का ऑफ़र देता है या इसकी माँग करता है." Meta के "ज्ञात सवाल" में, जिनसे रिव्यूअर को अतिरिक्त आंतरिक मार्गदर्शन मिलता है, ऐसी संपर्क जानकारी की लिस्ट है जिनके कारण अस्पष्ट ऑफ़र करने के मामले में कंटेंट को हटाया जा सकता है, इसमें सोशल मीडिया प्रोफ़ाइल के लिंक और "सब्स्क्रिप्शन-आधारित वेबसाइट (जैसे, OnlyFans.com या Patreon.com) के लिंक" हैं. इन केस में, कंटेंट में ऐसे प्लेटफ़ॉर्म का लिंक दिया गया था, जहाँ यूज़र सर्जरी का पेमेंट करने के लिए फ़ंडरेज़र होस्ट कर रहे थे. चूँकि "अस्पष्ट रूप से ऑफ़र करने या माँग करने" को परिभाषित करने की Meta की आंतरिक शर्तें बहुत व्यापक हैं, इसलिए यह लिंक तकनीकी रूप से जनता आधारित स्टैंडर्ड, जो यह दर्शाते हैं कि ऑफ़र या माँग किसी यौन ज़रूरत के लिए होना चाहिए, उनका उल्लंघन किए बिना भी Meta के रिव्यूअर के मार्गदर्शन के अंतर्गत "ऑफ़र या माँग" माना जाएगा.

यौन संकेत देने वाले तत्व.

कम्युनिटी स्टैंडर्ड में यौन संकेत देने वाले तत्वों की लिस्ट दी गई है, जिसमें पोज़ शामिल हैं. ज्ञात सवालों में यौन संकेत देने वाले पोज़ की लिस्ट है, जिसे Meta व्यापक बताता है, इन पोज़ में शामिल है, नग्न "महिलाओं के स्तन डिजिटल तरीके से या इंसान के किसी अंग या वस्तु से ढंके हुए हो". दोनों इमेज में, बोर्ड ने देखा कि स्तन इंसान के अंगों (हाथ) या वस्तु (टेप) से ढँके हुए हैं. इन केस में, पोस्ट के कंटेंट से यह स्पष्ट होता है कि फ़ोटो के सब्जेक्ट की पहचान ट्रांस और नॉन-बाइनरी के रूप में हुई है, इसका यह मतलब है कि दिखाए गए स्तन ऐसे व्यक्ति के है जो महिला नहीं है. बोर्ड ने यह भी पाया कि कंटेंट यौन संकेत देने वाला नहीं है. उस आधार पर, यौन आग्रह से जुड़ी पॉलिसी का उल्लंघन करने के लिए ज़रूरी दूसरा तत्व - यौन संकेत देने वाला तत्व जैसे यौन तरीके का पोज़ (महिला के ढँके हुए स्तन) - भी नहीं मिला.

चूँकि दूसरा तत्व भी नहीं मिला इसलिए पोस्ट ने इस स्टैंडर्ड का पालन नहीं किया. पहले तत्व के सार्वजनिक वर्जन (जो यह दर्शाता है कि ऑफ़र/माँग किसी यौन ज़रूरत के लिए होना चाहिए) को लागू करने पर भी यह पता चलता है कि इन इमेज में यौन आग्रह नहीं किया गया है.

b. वयस्क नग्नता और यौन गतिविधि

वयस्क नग्नता और यौन गतिविधि से जुड़े कम्युनिटी स्टैंडर्ड के अनुसार यूज़र को "स्तनपान, प्रसव और प्रसव के बाद के पलों, चिकित्सा या स्वास्थ्य संदर्भ (जैसे, स्तन उच्छेदन के बाद, स्तन कैंसर जागरूकता या लिंग कन्फ़र्म करने की सर्जरी) या विरोध-प्रदर्शन के संदर्भ के अलावा महिलाओं के बिना ढँके निप्पल" की इमेज पोस्ट नहीं करनी चाहिए. Meta के ज्ञात सवाल आगे बताते हैं कि रिव्यूअर को "किसी भी आकार या प्रकार के स्तन के निप्पल की इमेजरी को स्पष्ट रूप से महिला-से-पुरुष बने ट्रांसजेंडर, नॉन-बाइनरी या जेंडर-न्यूट्रल संदर्भ में (जैसे, कोई यूज़र लिंग की ऐसी पहचान को दर्शाता हो)" परमिशन देनी चाहिए. इन दोनों केस में कोई भी इमेज इस कम्युनिटी स्टैंडर्ड का उल्लंघन नहीं करती है.

सबसे पहले, किसी भी इमेज में बिना ढँके निप्पल फ़ीचर नहीं किए गए. दोनों इमेज में, दोनों ने उनके निप्पल उनके हाथों या टेप से ढँके हैं. दूसरा, निप्पल ढँके हुए नहीं थे, बोर्ड ने देखा कि इमेज ऐसे टेक्स्ट के साथ शेयर की गई थी, जिसमें यह स्पष्ट था कि दोनों लोग नॉन-बाइनरी हैं. इसलिए इस पॉलिसी का उल्लंघन नहीं हुआ.

8.2 Meta के मूल्यनों का अनुपालन

बोर्ड ने पाया कि इन पोस्ट को हटाने का मूल फ़ैसला Meta के “अभिव्यक्ति” और “गरिमा” के मूल्यों से असंगत है और “सुरक्षा” के मूल्य में इसका कोई योगदान नहीं है.

एन्फ़ोर्समेंट से जुड़ी गलतियाँ, जो भेदभाव का सामना करने वाले ग्रुप को असंगत तरीके से प्रभावित करती हैं, उनसे "अभिव्यक्ति" और "गरिमा" को गंभीर ख़तरा होता है. जहाँ Meta के मानवाधिकारों से जुड़े तर्कों में "सुरक्षा" की, ख़ासतौर से बिना सहमति के इमेज शेयर करने, सेक्स ट्रैफ़िकिंग और बाल शोषण से संबंधित सुरक्षा की बात की गई, बोर्ड ने पाया कि इन रिमूवल से "सुरक्षा" नहीं बढ़ी.

8.3 Meta की मानवाधिकारों से जुड़ी ज़िम्मेदारियों का अनुपालन

अभिव्यक्ति की स्वतंत्रता (अनुच्छेद 19 ICCPR)

ICCPR का अनुच्छेद 19, अभिव्यक्ति को व्यापक सुरक्षा प्रदान करता है, जिसमें मानवाधिकार और अभिव्यक्ति से जुड़ी ऐसी चर्चा शामिल है जिसे लोग आपत्तिजनक” ( सामान्य कमेंट 34, पैरा. 11) मान सकते हैं. “लिंग” या “अन्य स्टेटस” के आधार पर भेदभाव किए बिना, सभी लोगों को अभिव्यक्ति की आज़ादी के अधिकार की गारंटी है ( ICCPR, अनुच्छेद 2, पैरा. 1). मानवाधिकार समिति ने निपॉमनियश्ची बनाम रूस ( CCPR/C/123/D/2318/2013) जैसे केस में कन्फ़र्म किया है कि भेदभाव पर प्रतिबंध में लैंगिक पहचान के आधार पर भेदभाव करना भी शामिल है.

कंटेंट महत्वपूर्ण सामाजिक मुद्दों से संबंधित है. इन यूज़र के लिए, Instagram उनकी लिंग से जुड़ी अभिव्यक्ति के बारे में चर्चा करने और उसका प्रतिनिधित्व करने के लिए फ़ोरम देता है, जिससे कनेक्शन बनाने और सपोर्ट पाने के लिए फ़ोरम मिल रहा है. कंटेंट से यूज़र की जेंडर कन्फ़र्मेशन सर्जरी करने की क्षमता भी सीधे तौर पर प्रभावित हो सकती है, क्योंकि दोनों पोस्ट में बताया गया है कि एक व्यक्ति की टॉप सर्जरी होगी और सर्जरी की कीमत की बराबरी करने के लिए फ़ंडरेज़र शेयर किया है.

अनुच्छेद 19 के अनुसार जहाँ राज्य अभिव्यक्ति पर प्रतिबंध लागू करता है, वहाँ प्रतिबंधों को वैधानिकता, वैधानिक लक्ष्य और आवश्यकता तथा समानता की शर्तों को पूरा करना ज़रूरी होता है ( ICCPR, अनुच्छेद 19, पैरा. 3). UNGP के फ़्रेमवर्क पर निर्भर रहते हुए, विचार और अभिव्यक्ति की आज़ादी के लिए संयुक्त राष्ट्र के विशेष रैपर्टर ने सोशल मीडिया कंपनियों से यह सुनिश्चित करने का आह्वान किया कि कंटेंट संबंधी उनके नियम अनुच्छेद 19, पैरा. 3, ICCPR ( A/HRC/38/35, पैरा. 45 और 70) की शर्तों के अनुसार हों. बोर्ड ने इस फ़्रेमवर्क को Meta की पॉलिसी और एन्फ़ोर्समेंट का विश्लेषण करने के लिए अपनाया है.

इस केस में, बोर्ड ने यह पाया कि Meta ने इन स्टैंडर्ड से अलाइन होने वाली पॉलिसी बनाने और एन्फ़ोर्स करने की अपनी ज़िम्मेदारियों को पूरा नहीं किया है. यौन आग्रह से जुड़ी पॉलिसी के अंतर्गत कंटेंट को हटाने के लिए लागू की गई आंतरिक शर्तें पॉलिसी बनाने के लिए बताए गए कारण से ज़्यादा विस्तृत है, जिसके साथ ज़्यादा एन्फ़ोर्स होने के परिणाम भी हैं जिनकी Meta ने ख़ुद पहचान की है. वयस्क नग्नता और यौन गतिविधि से जुड़े कम्युनिटी स्टैंडर्ड असंगत तरीके से महिलाओं और LGBTQI+ यूज़र को प्रभावित करते हैं और सेक्स तथा लिंग से जुड़ी व्यक्तिपरक वयस्क काल्पनिक धारणाओं पर निर्भर करते हैं, जिन्हें बड़े स्तर पर कंटेंट मॉडरेशन करते समय लागू करना संभव नहीं है. बोर्ड ने इन कमियों का विश्लेषण किया है और Meta को सुझाव दिया है कि इन समस्याओं को हल करने के लिए व्यापक प्रक्रिया शुरू करें.

I. वैधानिकता (नियमों की स्पष्टता और सुलभता)

अभिव्यक्ति को प्रतिबंधित करने वाले नियम स्पष्ट और सुलभ होने चाहिए, ताकि उन्हें एन्फ़ोर्स करने के लिए ज़िम्मेदार लोगों और यूज़र, दोनों को पता हो कि किन चीज़ों की परमिशन है. इन केस में जिन कम्युनिटी स्टैंडर्ड पर विचार किया गया है, वे उस स्टैंडर्ड को पूरा नहीं करते हैं.

a. यौन आग्रह

बोर्ड ने पाया कि यौन आग्रह से जुड़े कम्युनिटी स्टैंडर्ड में रिव्यूअर को दी गई आंतरिक गाइडलाइन में विस्तृत शर्ते शामिल हैं. खराब तरीके से तैयार किए गए इस मार्गदर्शन के कारण रिव्यूअर द्वारा ज़्यादा एन्फ़ोर्समेंट होता है और यूज़र भ्रमित होते हैं. Meta ने इसे स्वीकार किया, क्योंकि इसने बोर्ड को बताया कि इसके आंतरिक मार्गदर्शन को लागू करने से उन केस में "ज़्यादा एन्फ़ोर्समेंट हो" सकता है जहाँ अस्पष्ट रूप में यौन आग्रह करने से जुड़ी शर्तों को पूरा किया गया हो लेकिन यह स्पष्ट हो कि "यौन आग्रह का कोई इरादा नहीं" था.

इस पॉलिसी के दोनों तत्वों में भ्रम की स्थिति पैदा होती है. यौन आग्रह से जुड़े कम्युनिटी स्टैंडर्ड के 'ऑफ़र या माँग' घटक के संबंध में, जनता के लिए उपलब्ध नियमों में आग्रह करने वाली पार्टी के लिए "संपर्क के तरीके" का संदर्भ दिया जाता है. हालाँकि, मॉडरेटर के मार्गदर्शक, 'ज्ञात सवाल' के अनुसार अस्पष्ट 'ऑफ़र या माँग' के लिए "संपर्क के तरीके" में सोशल मीडिया प्रोफ़ाइल लिंक या थर्ड पार्टी सब्सक्रिप्शन-आधारित वेबसाइट जैसे Patreon के लिंक शामिल हैं. लेकिन यूज़र को यह स्पष्ट नहीं किया गया कि किसी अन्य सोशल मीडिया प्रोफ़ाइल, थर्ड पार्टी पेमेंट प्लेटफ़ॉर्म या फ़ंडरेज़िंग लिंक (जैसे Patreon या GoFundMe) का यह मतलब हो सकता है कि उनकी पोस्ट को आग्रह करने वाला माना जा सकता है. यह भ्रम बोर्ड को ऐसे लोगों से मिले कई सार्वजनिक कमेंट में भी दिखाई दिया, जिन्हें यह समझ नहीं आया कि ऐसे थर्ड पार्टी लिंक को शामिल करने वाले कंटेंट को क्यों हटाया गया या उनका अकाउंट क्यों बैन किया गया.

दूसरी शर्त, यौन संकेत देने वाला तत्व होना, व्यापक और अस्पष्ट है, साथ ही Meta की वयस्क नग्नता और यौन गतिविधि से जुड़ी पॉलिसी के साथ संगत नहीं है. जनता के लिए उपलब्ध कम्युनिटी स्टैंडर्ड में "यौन संकेत देने वाले पोज़" को यौन संकेत देने वाले तत्व के रूप में शामिल किया गया है. फिर 'ज्ञात सवाल' में "यौन संकेत देने वाले पोज़" की विस्तृत लिस्ट मौजूद है, जिसमें टॉपलेस होना और स्तनों को हाथों या वस्तुओं से ढँकना शामिल है. यूज़र शायद इस बात का अनुमान नहीं लगा पाएँगे कि ढँके हुए स्तनों की इमेज को भी यौन संकेत देने वाला पोज़ माना जा सकता है. इस भ्रम के साथ यह तथ्य भी जुड़ जाता है कि वयस्क नग्नता से जुड़ी पॉलिसी में ऐसे टॉपलेस फ़ोटो की अनुमति है, जिनमें निप्पल ढँके हुए हों. इस संबंध में, जिस कंटेंट को एक पॉलिसी के अंतर्गत यौन प्रवृत्ति का माना जाता है, उसे दूसरी पॉलिसी के अंतर्गत यौन प्रवृत्ति का नहीं माना जाता है.

यूज़र की अनिश्चितता के अतिरिक्त, यह तथ्य कि इस कंटेंट के बारे में रिव्यूअर बार-बार अलग-अलग नतीजों पर पहुँचें, इससे यह संकेत मिलता है कि मॉडरेटर को इस बारे में कम स्पष्टता है कि किस कंटेंट को यौन आग्रह करने वाला मानना चाहिए.

जैसा कि Meta स्वीकार करता है, स्पष्ट रूप से यौन आग्रह करने के दो तत्वों पर इसके आंतरिक मार्गदर्शन को लागू करने से ऐसा कंटेंट हटाया जा रहा है, जिसका यौन गतिविधि में शामिल होने से कोई संबंध न हो. लंबी अवधि के लिए, गलत तरह से हटाए जाने की समस्या को हल करने का सबसे अच्छा तरीका इस पॉलिसी के दायरे को बदलना हो सकता है. हालाँकि, आने वाले थोड़े समय के लिए, बोर्ड का सुझाव है कि Meta इसकी आंतरिक गाइडलाइन को बदलकर यह सुनिश्चित करें कि शर्त में जनता के लिए उपलब्ध नियम दर्शाए जाएँ और "ऑफ़र व माँग" और "यौन संकेत देने वाले तत्वों" के बीच स्पष्ट संबंध होना चाहिए. Meta को पब्लिक कम्युनिटी स्टैंडर्ड में यूज़र को इस बारे में और स्पष्टीकरण देना चाहिए कि सेक्स के लिए "ऑफ़र देने या माँग करने" में कौन-सी चीज़ें शामिल हैं और यौन संकेत देने वाले पोज़ में कौन-से पोज़ शामिल हैं.

b. वयस्क नग्नता और यौन गतिविधि

वयस्क नग्नता और यौन गतिविधि से जुड़ा स्टैंडर्ड सेक्स और लिंग संबंधी अंतरों पर आधारित है, जिन्हें लागू करना मुश्किल है और इनमें खराब तरीके से परिभाषित अपवाद शामिल हैं. पॉलिसी में मौजूद कुछ नियमों से ऐसे यूज़र के बीच भ्रम पैदा होगा, जिन्हें यह नहीं पता है कि किन चीज़ों की परमिशन है. इसके कारण मॉडरेटर भी भ्रमित होते हैं, जिन्हें अनिवार्य रूप से अधूरी जानकारी के आधार पर व्यक्तिपरक मूल्यांकन करने होते हैं और कई कारकों, अपवादों तथा अनुमानों के साथ तुरंत नियम लागू करना होता है.

लिंग के बजाए ख़ास अंगों पर फ़ोकस करने वाली भाषा का उपयोग करने (और यूज़र को उनकी प्रोफ़ाइल पर कई तरह की लैंगिक पहचानों में से चुनने का विकल्प देने) के बावजूद, Meta के अधिकतर नियमों में यह नहीं बताया गया है कि कंपनी इंटरसेक्स, ट्रांस या नॉन-बाइनरी लोगों को दिखाने वाले कंटेंट को कैसे हैंडल करती है. जैसे, पॉलिसी में "पुरुष और महिला के जननांग," "महिलाओं के स्तन" और "महिलाओं के निप्पल" की बात की गई है, लेकिन यह अस्पष्ट है कि ये विवरण ऐसे शरीर और पहचानों वाले लोगों पर कैसे लागू होते हैं, जो इन परिभाषाओं के साथ अलाइन नहीं हो सकती हैं. कई ट्रांस और नॉन-बाइनरी लोगों ने बोर्ड को दिए पब्लिक कमेंट में बताया कि यूज़र को यह नहीं पता होता है कि क्या उनके कंटेंट का उनकी लैंगिक पहचान, उनके जन्म के दौरान तय किए गए सेक्स या शारीरिक दिखावट के पहलुओं के अनुसार मूल्यांकन किया जाता है और कैटेगरी दी जाती है.

मौजूदा नियमों के अनुसार ह्यूमन रिव्यूअर को यूज़र के सेक्स और उनकी लैंगिक पहचान, दोनों का तुरंत मूल्यांकन करना होता है, सेक्स का इसलिए क्योंकि यह पॉलिसी "महिलाओं के निप्पल" पर लागू होती है, और लैंगिक पहचान का इसलिए क्योंकि इस आधार पर अपवाद मौजूद हैं कि क्या दिखाया गया व्यक्ति नॉन-बाइनरी, जेंडर न्यूट्रल, ट्रांसजेंडर है या जेंडर कन्फ़र्मेशन सर्जरी के संदर्भ में पोस्ट की जा रही है. सेक्स और लिंग के बारे में धारणाएँ बनाने के लिए प्रासंगिक संकेतों और दिखावट को समझने की ज़रूरत होती है, ये दोनों ही व्यक्तिपरक निर्धारण होते हैं जिनके कारण त्रुटियाँ होती हैं.

Meta के "महिलाओं के लिए डिफ़ॉल्ट सिद्धांत" द्वारा यह तरीका और मुश्किल हो जाता है, जिसमें महिलाओं (पुरुषों के विपरीत) की नग्नता पर लागू होने वाली ज़्यादा प्रतिबंधात्मक पॉलिसी भ्रम की स्थिति में लागू होती है. 'ज्ञात सवालों' के अनुसार जहाँ कोई स्पष्ट संदर्भ न हो और इमेज में मौजूद व्यक्ति "महिला के रूप में प्रस्तुत है या पुरुष-से-महिला बनी ट्रांसजेंडर का संदर्भ मौजूद है, तो यह डिफ़ॉल्ट रूप से महिला नग्नता मानी जाती है और प्रासंगिक पॉलिसी लागू होती है."

निप्पल को महिला का माने जाने से जुड़े नियमों पर लागू होने वाले प्रतिबंध और अपवाद विस्तृत तथा भ्रमित करने वाले हैं. अपवादों में विरोध प्रदर्शन से लेकर, बच्चे के जन्म के दौरान और स्तनपान की तस्वीरें, चिकित्सा और स्वास्थ्य संदर्भों तक शामिल हैं, जिसमें स्तन हटाने की सर्जरी की इमेज और स्तन कैंसर के बारे में जागरूकता शामिल हैं. ये अपवाद अक्सर परिभाषित नहीं किए जाते हैं या खराब तरीके से परिभाषित किए जाते हैं. समय के साथ अपवादों की लिस्ट भी काफ़ी बढ़ गई है और यही उम्मीद है कि अभिव्यक्ति का विकास होने के साथ ही यह बढ़ती रहेगी. जब महिलाओं के स्तनों की बात आती है, तो Meta की वयस्क नग्नता और यौन गतिविधि से जुड़ी पॉलिसी यह डिफ़ॉल्ट पूर्वानुमान लगा लेती है कि ऐसे चित्रण में यौन प्रवृत्ति की इमेजरी है. फिर भी अपवादों की बढ़ती हुई लिस्ट दर्शाती है कि, पॉलिसी में बताई गई कई परिस्थितियों में, महिलाओं के स्तनों की इमेज यौन संकेत देने वाली नहीं होती हैं.

यहाँ तक कि हर अपवाद में, कई सवाल खड़े होते हैं. जैसे, जेंडर कन्फ़र्मेशन सर्जरी से जुड़ा अपवाद ट्रांस और नॉन-बाइनरी यूज़र के लिए ख़ासतौर से महत्वपूर्ण है, लेकिन Meta ने अपने जनता के लिए उपलब्ध नियमों में जेंडर कन्फ़र्मेशन सर्जरी से जुड़े अपने अपवाद के दायरे के बारे में कोई स्पष्टीकरण नहीं दिया है. इसके कारण कई पब्लिक कमेंट में इस बारे में भ्रम व्यक्त किया जाता है कि क्या अपवाद के अंतर्गत अनुमत कंटेंट में सर्जरी के पहले के फ़ोटो ('पहले और बाद' वाला इफ़ेक्ट बनाने के लिए) और ब्रेस्ट ऑगमेंटेशन करवाने वाली ट्रांसवीमेन की इमेज शामिल हो सकती हैं. आंतरिक गाइडलाइन और 'ज्ञात सवालों' से यह स्पष्ट होता है कि यह अपवाद इतना सीमित है कि सार्वजनिक मार्गदर्शन को समझना मुश्किल होता है.

Meta की पॉलिसी पुरुष और महिला, इन दोनों के बीच के अंतरों पर आधारित है, जिससे जब Meta जेंडर कन्फ़र्मेशन सर्जरी से जुड़े इसके अपवाद को स्पष्ट करने की कोशिश करता है तो चुनौतियाँ पैदा होती हैं. Meta द्वारा बोर्ड को दिए गए जवाबों में, Meta ने बताया कि जेंडर कन्फ़र्मेशन सर्जरी से जुड़े अपवाद का यह मतलब है कि यह "किसी व्यक्ति द्वारा उसके स्तनों को निकालने के लिए टॉप सर्जरी करवाने से पहले के बिना ढँके निप्पल को तब परमिशन देता है, जब कंटेंट स्पष्ट रूप से महिला-से-पुरुष बने ट्रांसजेंडर, नॉन-बाइनरी या जेंडर-न्यूट्रल संदर्भ में शेयर किया गया हो." नियमों में आगे कहा गया है कि "ब्रेस्ट ऑगमेंटेशन करवाने वाली पुरुष-से-महिला बनी ट्रांसजेंडर महिलाओं के निप्पल पर प्रतिबंध है, जब तक कि निप्पल पर घाव के निशान मौजूद न हों."

सर्जरी के दौरान बने निशानों और निप्पल से जुड़ी आंतरिक गाइडलाइन और ज़्यादा जटिल हैं. स्तन के ऑपरेशन से जुड़े नियमों में इनकी अनुमति है, जैसे "ऐसे मामलों में, जहाँ निप्पल को दूसरे टिशू से फिर से बनाया गया हो या स्टेंसिल किया गया हो या टैटू बनाया गया हो" और "ऐसे मामलों में, जहाँ सर्जरी से निकाला गया कम से कम एक स्तन मौजूद हो, भले ही महिला का दूसरा नग्न निप्पल दिख रहा हो." नियमों में और ज़्यादा भ्रमित करते हुए कहा गया है कि "स्तन के ऑपरेशन के लिए, निशान में ऐसी जगह को दिखाना शामिल है, जहाँ निकाले गए स्तन के टिशू हुआ करते थे. सर्जरी के असली निशान दिखाई नहीं देने चाहिए.”

रिव्यूअर को संभावित रूप से ऐसे नियमों को लागू करने में मुश्किल आएगी, जिनके अनुसार उन्हें महिला के निप्पल से जुड़े नियमों को लागू करना है या नहीं, यह तय करने के लिए दर्शाए गए व्यक्ति की सेक्स-आधारित विशेषताओं का तेज़ी से मूल्यांकन करना होगा और फिर कुछ अपवाद लागू होते हैं या नहीं, यह निर्धारित करने के लिए व्यक्ति के लिंग का मूल्यांकन करना होगा, और फिर यह विचार करना होगा कि क्या कंटेंट सर्जिकल प्रक्रिया के पहले या बाद की स्थिति को दर्शाता है, कौन सी सर्जिकल प्रक्रिया है, और दिखाई देने वाले निशानों की सीमा और प्रकृति क्या है, ताकि यह तय किया जा सकें कि अन्य अपवाद लागू हो सकते हैं या नहीं. महिला की निप्पल दिखाती हुई इमेज को प्रतिबंधित कर दिया जाएगा, अगर इसे ऐसी महिला पोस्ट करती है जो ट्रांसजेंडर नहीं है, लेकिन उसी इमेज को ख़ुद को नॉन-बाइनरी बताने वाले व्यक्ति द्वारा पोस्ट करने पर अनुमति दी जाएगी. बोर्ड विरोध प्रदर्शन, जन्म के दौरान, जन्म के बाद और स्तनपान के संदर्भों के आधार पर भी निप्पल आधारित अतिरिक्त अपवादों के बारे में बताता है, जिनके बारे में यहाँ बात नहीं हुई, लेकिन इनका मूल्यांकन भी किया जाना चाहिए और संभावित रूप से आंतरिक शर्तें शामिल की जानी चाहिए.

लिंग, शारीरिक स्वास्थ्य, बच्चे के जन्म और पालन-पोषण के मामलों के बारे में अभिव्यक्ति से जुड़े अधिकारों के महत्व को देखते हुए, अपवादों के मौजूद जटिल पैचवर्क से यूज़र के लिए अधिक अनिश्चितता पैदा होती है और गलत नियम लागू होने की संभावना होती है, जैसा कि इस केस में देखा गया. इस पॉलिसी में निहित यूज़र और मॉडरेटर के लिए कम स्पष्टता के कारण स्टैंडर्ड काम नहीं करते हैं. जैसा कि नीचे और चर्चा की गई है, बोर्ड का यह मानना है कि Meta को वयस्क नग्नता के लिए ऐसा तरीका अपनाना चाहिए, जिससे यह सुनिश्चित हो कि सभी लोगों के साथ सेक्स या लैंगिक पहचान के आधार पर भेदभाव किए बिना व्यवहार किया जाएँ.

II. वैधानिक लक्ष्य

ICCPR के अनुच्छेद 19 के अनुसार जब सरकारें अभिव्यक्ति को प्रतिबंधित करती हैं, तो वे ऐसा केवल वैधानिक लक्ष्यों को पूरा करने के लिए कर सकती हैं, जिनका इस तरह वर्णन किया गया है: “दूसरों के अधिकारों या प्रतिष्ठा के लिए सम्मान . . . [और] राष्ट्रीय सुरक्षा या सार्वजनिक व्यवस्था (ordre public) या सार्वजनिक स्वास्थ्य और नैतिकता की रक्षा.” यह फ़ैसला इन स्टैंडर्ड को ध्यान में रखते हुए अपनी पॉलिसी में अभिव्यक्ति को सीमित करने के Meta के कारण की जाँच करता है.

a. यौन आग्रह

Meta यौन आग्रह से जुड़ी अपनी पॉलिसी में ये बताता है कि वह "यूज़र को Facebook या Instagram का उपयोग ऐसे ट्रांज़ेक्शन को बढ़ावा देने के लिए करने से रोकना चाहता है" "जिनमें ट्रैफ़िकिंग, ज़बरदस्ती और बिना-सहमति की यौन गतिविधियाँ शामिल हो सकती हैं" जो प्लेटफ़ॉर्म के बाहर हो सकती हैं. यह दूसरों के अधिकारों की सुरक्षा करने का उदाहरण है, जो कि एक वैधानिक लक्ष्य है.

b. वयस्क नग्नता और यौन गतिविधि

Meta ने वयस्क नग्नता और यौन गतिविधि से जुड़ी इसकी पॉलिसी के अलग-अलग पहलुओं के लिए कई कारण दिए हैं, जिनमें बिना सहमति के दिए गए कंटेंट का प्रसार को रोकना, व्यक्ति की उम्र अस्पष्ट होने पर अवयस्कों की सुरक्षा करना और यह तथ्य शामिल हैं कि, "हमारी कम्युनिटी में कुछ लोग इस प्रकार के कंटेंट को लेकर संवेदनशील हो सकते हैं." Meta ने बोर्ड को नग्नता पर अपने सामान्य सिद्धांतों के बारे में भी स्पष्टीकरण दिया है. इसमें कहा गया है कि “हमारी पॉलिसी तैयार करते समय, Meta ने इन चीज़ों पर ध्यान दिया (1) इमेजरी की प्राइवेट या संवेदनशील प्रकृति; (2) नग्न इमेज लेते और शेयर करते समय सहमति ली गई थी या नहीं; (3) यौन शोषण का जोख़िम; और (4) क्या ऐसी इमेज सामने आने से प्लेटफ़ॉर्म के बाहर उत्पीड़न हो सकता है, ख़ासतौर से उन देशों में जहाँ ऐसी इमेज सांस्कृतिक रूप से आपत्तिजनक हो सकती हैं.”

इनमें से अधिकतर उद्देश्य अन्य लोगों के अधिकारों की सुरक्षा करने के साथ अलाइन होते हैं. हालाँकि, "कम्युनिटी की संवेदनशीलता" की सुरक्षा करने के Meta के कारण से और विश्लेषण को बढ़ावा मिलता है. इस कारण में “सार्वजनिक नैतिकता” के वैधानिक लक्ष्य के साथ अलाइन होने की क्षमता है. फिर भी, बोर्ड ने देखा है कि “सार्वजनिक नैतिकता” की सुरक्षा करने के लक्ष्य को कभी-कभी मनवाधिकारों, ख़ासतौर से अल्पसंख्यक और कमज़ोर समूहों के सदस्यों के अधिकारों का उल्लंघन करने के लिए सरकारी भाषण नियामकों द्वारा गलत तरीके से बढ़ावा दिया जाता है. मानवाधिकार समिति ने चेतावनी दी है कि “the concept of morals derives from many social, philosophical and religious traditions; consequently, limitations... for the purpose of protecting morals must be based on principles not deriving exclusively from a single tradition” ("नैतिकता का सिद्धांत कई सामाजिक, दार्शनिक और धार्मिक परंपराओं से निकलकर आया है; इसकी वजह से, नैतिकता की सुरक्षा के उद्देश्य के लिए... सीमाएँ सिद्धांतों पर आधारित होनी चाहिए, किसी ख़ास परंपरा से उत्पन्न नहीं होनी चाहिए") (मानवाधिकार समिति, जनरल कमेंट 34).

हालाँकि मानवाधिकार कानून में यह माना गया है कि सार्वजनिक नैतिकता में सरकारों के लिए स्वतंत्र अभिव्यक्ति पर सीमाओं का वैधानिक लक्ष्य शामिल हो सकता है और सार्वजनिक नग्नता से जुड़े प्रतिबंध पूरी दुनिया में मौजूद हैं, लेकिन Meta ने इस केस के विशेष संदर्भ में "कम्युनिटी की संवेदनशीलता" के अलावा अन्य लक्ष्यों पर ज़ोर दिया है. Meta के अनुसार “हालाँकि [इसकी] नग्नता से जुड़ी पॉलिसी सार्वजनिक नैतिकता की सुरक्षा के साथ संगत है लेकिन [… यह] इस लक्ष्य पर पूरी तरह आधारित नहीं है क्योंकि नग्नता से जुड़े नैतिक स्टैंडर्ड विभिन्न संस्कृतियों में अलग-अलग हैं और बड़े स्तर पर लागू नहीं होंगे.” जैसे, कई कम्युनिटी और दुनिया के हिस्सों में, ट्रांसजेंडर और नॉन-बाइनरी लोगों के स्तनों को बिना ढँके दिखाने को कम्युनिटी की संवेदनशीलता को प्रभावित करने वाला माना जा सकता है. फिर भी Meta ऐसी अभिव्यक्ति को प्रतिबंधित नहीं करता है. इसके अलावा, बोर्ड Meta की पॉलिसी के कारण महिलाओं, ट्रांसजेंडर और नॉन-बाइनरी लोगों द्वारा अभिव्यक्ति के संबंध में अनुभव किए जा रहे ज्ञात, पुरुषों के मुक़ाबले ज़्यादा तथा बार-बार पड़ने वाले भार के बारे में चिंतित है. इन कारणों से, बोर्ड "कम्युनिटी की संवेदनशीलता" के अलावा अन्य लक्ष्यों पर फ़ोकस करता है, जिसमें Meta अपनी मनवाधिकारों से जुड़ी जिम्मेदारियों की जाँच करते हुए बेहतर हो गया है.

यह भी देखना चाहिए कि Meta द्वारा अपनी नग्नता से जुड़ी पॉलिसी के लिए दिए गए कुछ कारण इस डिफ़ॉल्ट पूर्वानुमान को दर्शाते हैं कि महिलाओं के स्तनों का यौन संकेत देने वाली प्रकृति का होना इसका आधार है. बोर्ड को कई यूज़र से पब्लिक कमेंट मिलें, जिनमें उन्होंने इस बारे में चिंता जताई है कि महिलाओं के ट्रांस और नॉन-बाइनरी शरीरों को पूर्वानुमानित रूप में कामूक तरीके से देखा जाता है, जबकि इसकी तुलना में गैर ट्रांसजेंडर पुरुषों की इमेज को पूर्वानुमानित रूप में कामूक तरीके से नहीं देखा जाता है. (जैसे, InternetLab द्वारा सबमिट किया गया पब्लिक कमेंट 10624 देखें).

बोर्ड को इस केस में अपनी केस के बारे में संपर्क करने से जुड़ी सामान्य प्रक्रियाओं के ज़रिए कई पब्लिक कमेंट मिलें. Meta के यूज़र बेस और मुख्य स्टेकहोल्डर के लिए उत्तरदायित्व का मूल्यांकन करने के लिए प्रतिबद्ध संस्था के रूप में, बोर्ड अपने विचार-विमर्श के हिस्से के रूप में इन कमेंट पर गंभीरता से ध्यान देता है. सभी केस की तरह ही, हम समझते हैं कि ये कमेंट वैश्विक राय के प्रतिनिधि नहीं हो सकते हैं. बोर्ड कमेंट के ज़रिए शेयर किए गए अनुभवों और विशेषज्ञता की सराहना करता है और इस पहुँच को ऐसी कम्युनिटी तक बढ़ाने के लिए कदम उठाता रहता है, जो शायद अभी इस प्रक्रिया में भाग नहीं ले रहे हैं.

आख़िर में, बोर्ड यह मानता है कि Meta ऐसे कुछ नुक़सानों को रोकने के महत्व पर वैधानिक तरीके से ध्यान दे सकता है, जिनसे कुछ लिंग प्रभावित हो सकते हैं. जैसा कि संयुक्त राष्ट्र के विशेष रैपर्टर ने महिलाओं के खिलाफ होने वाली हिंसा के बारे में कहा है, कि यह "important to acknowledge that the Internet is being used in a broader environment of widespread and systemic structural discrimination and gender-based violence against women and girls (स्वीकार करना महत्वपूर्ण है कि इंटरनेट का उपयोग महिलाओं और लड़कियों के खिलाफ बड़े पैमाने पर तथा लंबे समय से होते आ रहे भेदभाव और लिंग-आधारित हिंसा के व्यापक माहौल में हो रहा है)" (A/HRC/38/47). इसके अलावा, सर्वे दर्शाते हैं कि "अंतरंग तस्वीरों के बिना सहमति के डिजिटल वितरण के पीड़ितों में 90 महिलाएँ होती हैं." (A/HRC/38/47). Meta को नग्नता से जुड़े प्रतिबंधों के ज़्यादा-एन्फ़ोर्समेंट और कम-एन्फ़ोर्समेंट दोनों मामलों में, लिंग आधारित नुकसानों को सीमित करने की कोशिश करनी चाहिए.

III. आवश्यकता और आनुपातिकता

बोर्ड ने पाया कि Meta की पॉलिसी, तैयार और एन्फ़ोर्स करते समय ज़रूरत से ज़्यादा कंटेंट को कैप्चर करती हैं. दोनों में से कोई भी पॉलिसी उन समस्याओं के अनुपात नहीं है, जिन्हें वे हल करने की कोशिश कर रही हैं.

a. यौन आग्रह

यौन आग्रह से जुड़ी पॉलिसी में अस्पष्ट "ऑफ़र या माँग" और यौन संकेत देने वाले पोज़ की परिभाषाएँ बहुत व्यापक हैं और इतने ज़्यादा कंटेंट को कैप्चर करती है जो यौन आग्रह से संबंधित भी नहीं है. Meta ख़ुद भी गलत एन्फ़ोर्समेंट के जोख़िम को स्वीकार करता है, उसके अनुसार उसे "पता है कि कुछ कंटेंट रिव्यूअर [इसके] आंतरिक रिव्यूअर मार्गदर्शन को ज़्यादा तकनीकी तरीके से लागू करके गलत तरीके से कंटेंट को अस्पष्ट यौन आग्रह करने (जबकि यह ऐसा नहीं करता हो) के लिए हटा सकते हैं." Meta के आगे बताया:

फिलहाल, हमारे 'ज्ञात सवालों' के आधार पर हम सोशल या डिजिटल आइडेंटिटी की संपर्क जानकारी को शेयर करने, मेंशन करने या देने को यौन आग्रह के लिए अस्पष्ट रूप से ऑफ़र या माँग करना मानते हैं. […] हालाँकि, इस मार्गदर्शन को लागू करने से ऐसे केस में ज़्यादा-एन्फ़ोर्समेंट हो सकता है जहाँ, जैसे मान लीजिए, किसी मॉडल के लिए रिव्यूअर मानता है कि वो यौन संकेत देने वाले तरीके से पोज़ दे रही है ("यौन तरीके से संकेत देना तत्व" की शर्त पूरी होती है) और वो फ़ोटोग्राफ़र तस्वीर का क्रेडिट देने के लिए टैग करती है ("ऑफ़र या माँग" की शर्त पूरी होती है). इस तरह का कंटेंट हिंसक नहीं होता है, क्योंकि इसमें यौन संबंधों का आग्रह नहीं किया जाता है, लेकिन इसे फिर भी हटाया जा सकता है (पॉलिसी के विपरीत), क्योंकि यह अन्यथा ऊपर बताई गई दो शर्तों को पूरा करता है.

UNESCO ने डिजिटल स्पेस में एजुकेशन पर चर्चा करने वाली रिपोर्ट में गलत तरीके से ज़रूरत से ज़्यादा एन्फ़ोर्समेंट करने के जोख़िम के बारे में बताया है. इसमें कहा गया है कि “आपत्तिजनक फ़ोटो शेयर करने से संबंधित कठोर विनियमों का यह मतलब है कि कुछ मामलों में शरीर या यौन संबंधों के बारे में लर्निंग को सपोर्ट करने के लिए ऑनलाइन प्रकाशित की गई एजुकेशनल सामग्री को मॉडरेटर गलती से अनुचित, आपत्तिजनक कंटेंट समझ सकते हैं और इसलिए जेनरिक वेब प्लेटफ़ॉर्म से हटा सकते हैं.” बोर्ड ने यह भी देखा कि इसे मिले कई पब्लिक कमेंट में इस स्टैंडर्ड के अंतर्गत गलत तरीके से कंटेंट हटाने के बारे में चर्चा की गई है. जैसे, ACON, (ऑस्ट्रेलिया में HIV एजुकेशन NGO) ने लिखा है कि जिस कंटेट में यौन संबंधों के बारे में सकारात्मक तरीके से HIV रोकथाम से जुड़ी मैसेजिंग को प्रमोट किया गया और एजुकेशन वर्कशॉप को प्रमोट करने वाले कंटेंट को यौन आग्रह के लिए हटा दिया गया. इसका परिणाम यह हुआ कि NGO ने अपने कंटेंट में अपनी टार्गेट कम्युनिटी तक पहुँचने के लिए सबसे सही भाषा को चुनने के बजाए ऐसी भाषा चुनी कि जिसके कारण Meta कंटेंट को न हटाएँ (पब्लिक कमेंट 10550). यही बात जोआना विलियम्स ने भी दोहराई, जो एक रिसर्चर हैं, उन्होंने देखा कि जिन 12 यौन स्वास्थ्य संगठनों का उन्होंने इंटरव्यू लिया, उनमें से 9 ने इस क्षेत्र में Meta के मॉडरेशन से नकारात्मक तरीके से प्रभावित होने को रिपोर्ट किया (पब्लिक कमेंट 10613).

b. वयस्क नग्नता और यौन गतिविधि

सेक्स और लैंगिक पहचान के बारे में Meta के नज़रिये के आधार पर एन्फ़ोर्स करने और बदलने लायक नियम बनाने में आने वाली चुनौतियों, जैसा कि ऊपर वर्णन किया गया है, के अतिरिक्त बोर्ड ने यह भी देखा कि वयस्क नग्नता से जुड़ी Meta की पॉलिसी कुछ प्रकार के कंटेंट तथा अभिव्यक्ति पर असंगत प्रतिबंध लगाती हैं. पॉलिसी कंटेंट हटाने को अनिवार्य बना देती है, जबकि कम प्रतिबंधात्मक उपायों के ज़रिए पॉलिसी के बताए गए लक्ष्य हासिल किए जा सकते हैं.

Meta पहले से ही कंटेंट को हटाने के अलावा भी कई तरह के एन्फ़ोर्समेंट एक्शन का उपयोग करता है, जिनमें चेतावनी स्क्रीन लगाना और केवल 18 साल से ज़्यादा उम्र के यूज़र को कंटेंट देखने की परमिशन देने के लिए कंटेंट को उम्र के आधार पर सीमित करना शामिल है. इसके अलावा, यह पहले से ही वयस्क नग्नता और यौन गतिविधि से जुड़ी अपनी पॉलिसी में ऐसे उपायों का उपयोग करता है, इसमें यौन गतिविधि को कलात्मक तरीके से दिखाना शामिल है. कंटेंट में दिखाए गए शरीर के लिंग पर ध्यान दिए बिना ही नग्नता का संदर्भ वाकई यौन प्रवृत्ति का कब है, इस बारे में और बेहतर, संदर्भ-विशेष निर्धारण करने के लिए Meta ऑटोमेटेड और ह्यूमन मॉडरेटर दोनों को शामिल कर सकता है. Meta ज़्यादा यूज़र कंट्रोल देकर, जो यूज़र नग्नता संबंधी कंटेंट नहीं देखना चाहते हैं, उनके लिए ऐसे कंटेंट की विज़िबिलिटी को सीमित करके कई तरह के पॉलिसी के हस्तक्षेप शामिल कर सकता है. Meta के पास ऐसी समस्याओं के बारे में समर्पित पॉलिसी भी हैं, जिन्हें यह नग्नता से जुड़ी पॉलिसी के ज़रिए भी हल कर रहा है (जैसे वयस्क शोषण पॉलिसी और बाल यौन शोषण, दुर्व्यवहार और नग्नता से जुड़ी पॉलिसी) इन्हें और मजबूत बनाया जा सकता है.

बोर्ड ने देखा है कि Meta के एन्फ़ोर्समेंट के तरीकों के परिणामस्वरूप बड़ी संख्या में गलत परिणाम मिले हैं, या गलती से गैर-हिंसक कंटेंट हटाया गया है. Meta की Instagram के लिए पिछली कम्युनिटी स्टैंडर्ड एन्फ़ोर्समेंट रिपोर्ट ( अप्रैल-जून 2022) में खुलासा हुआ कि वयस्क नग्नता और यौन गतिविधि के संबंध में हटाए गए कंटेंट की अपील करने पर 21% मामलों में कंटेंट रीस्टोर किया गया था. बोर्ड को वयस्क नग्नता से जुड़ी पॉलिसी के अंतर्गत गलत तरीके से कंटेंट हटाने के संबंध में कई पब्लिक कमेंट मिलें.

गैर-भेदभावपूर्ण

इस बात का प्रमाण है कि Meta की पॉलिसी और वयस्क नग्नता तथा यौन गतिविधि से जुड़ी पॉलिसी से संबंधित एन्फ़ोर्समेंट के, ख़ासतौर पर महिलाओं तथा LGBTQI+ लोगों के लिए असंगत प्रभाव सकते हैं. ये प्रभाव पॉलिसी और एन्फ़ोर्समेंट, दोनों में दिखाई देते हैं और उन तरीकों को सीमित करते हैं, जिनसे ग्रुप ख़ुद को व्यक्त कर सकते हैं, पक्षपात का विरोध कर सकते हैं और समाज में नज़रों में ज़्यादा आ सकते हैं.

हालाँकि, यह केस ट्रांस और नॉन-बाइनरी यूज़र से संबंधित है, लेकिन इस केस में एन्फ़ोर्समेंट से जुड़ी गड़बड़ियाँ ऐसी मौलिक पॉलिसी के कारण हुई है जो महिलाओं को भी प्रभावित करती है, ख़ासतौर से ऐसा इसलिए क्योंकि Meta नग्नता से जुड़े कंटेंट के लिए 'महिलाओं के लिए डिफ़ॉल्ट' तरीके को अपनाता है. इसलिए, इस सेक्शन में इस बात पर ध्यान दिया गया है कि Meta की पॉलिसी LGBTQI+ और महिलाओं, दोनों को कैसे प्रभावित करती हैं. इस केस में बड़ी संख्या में पब्लिक सबमिशन मिलने के कारण इन पॉलिसी के प्रभाव के बारे में कई उदाहरण देखने को मिले हैं.

"लिंग" या "अन्य स्टेटस" के आधार पर भेदभाव किए बिना, सभी लोगों को अभिव्यक्ति की आज़ादी के अधिकार की गारंटी है (अनुच्छेद 2, पैरा. 1, ICCPR). इसमें यौन रुचि और लैंगिक पहचान शामिल है ( तूनेन बनाम ऑस्ट्रेलिया (1994); A/HRC/19/41, पैरा. 7). मानवाधिकार समिति के विधिशास्त्र में कहा गया है कि "not every differentiation based on the grounds listed in article 26 of the Covenant amounts to discrimination, as long as it is based on reasonable and objective criteria and in pursuit of an aim that is legitimate under the Covenant (प्रतिज्ञापत्र के अनुच्छेद 26 में सूचीबद्ध आधारों पर आधारित हर अंतर के कारण भेदभाव नहीं होता है, जब तक कि यह उचित तथा उद्देश्यपूर्ण शर्तों पर आधारित हो और उस लक्ष्य को हासिल करने के लिए हो जो प्रतिज्ञापत्र के अंतर्गत वैध है)." निपॉमनियश्ची बनाम रूस, मानवाधिकार समिति 2018, पैरा 7.5 (CCPR/C/123/D/2318/2013).

महिलाओं के प्रति हर प्रकार के भेदभाव के उन्मूलन पर संधि (CEDAW) “any distinction, exclusion or restriction made on the basis of sex which has the effect or purpose of impairing or nullifying the recognition, enjoyment or exercise by women […] on a basis of equality of men and women, of human rights and fundamental freedoms in the political, economic, social, cultural, civil or any other field (लिंग के आधार पर किया गया कोई अंतर, बहिष्कार या प्रतिबंध, जिसका प्रभाव या उद्देश्य महिलाओं द्वारा […] पुरुषों और महिलाओं की समानता के आधार पर मानवाधिकारों और राजनीतिक, आर्थिक, सामाजिक, सांस्कृतिक, नागरिक या किसी अन्य फ़ील्ड में मौलिक आजादी को पहचानने, उसका लाभ लेने या उपयोग करने को ख़राब या समाप्त करना है)” (CEDAW, अनुच्छेद 1). बोर्ड ने देखा है कि मानवाधिकारों से जुड़ी अंतरराष्ट्रीय संस्थाओं ने सहमति के साथ वयस्क नग्नता को अनुमति देने या प्रतिबंधित करके के मानवाधिकारों से जुड़े प्रभावों और इसके संभावित भेदभावपूर्ण प्रभावों पर ध्यान नहीं दिया है.

संयुक्त राष्ट्र के मार्गदर्शक सिद्धांतों के अनुसार "business enterprises should pay special attention to any particular human rights impacts on individuals from groups or populations that may be at heightened risk of vulnerability or marginalization (बिज़नेस एंटरप्राइज़ को ऐसे समूहों या आबादी के लोगों पर पड़ने वाले मानवाधिकारों से जुड़े किसी ख़ास प्रभाव पर ख़ास ध्यान देना चाहिए, जिन पर कम सुरक्षा मिलने या हाशिये पर होने का ज़्यादा ख़तरा हो)" ( UNGP, सिद्धांत 18 और 20) अभिव्यक्ति की आजादी पर विशेष रैपर्टर में टेक कंपनी से ज़ोर देते हुए कहा गया है कि "actively seek and take into account the concerns of communities historically at risk of censorship and discrimination (हमेशा से सेंसरशिप और भेदभाव के ख़तरे को झेल रही कम्युनिटी की चिंताओं के बारे में सक्रिय रूप से पता लगाएँ और उन पर ध्यान दें)" ( A/HRC/38/35, पैरा 48). संयुक्त राष्ट्र के व्यवसाय और मानवाधिकारों पर वर्किंग ग्रुप ने भी यह सुझाव दिया कि टेक्नोलॉजी कंपनी यह सुनिश्चित करें कि "artificial intelligence and automation do not have disproportionate adverse impacts on women’s human rights (आर्टिफ़िशियल इंटेलिजेंस और ऑटोमेशन का महिलाओं के मानवाधिकारों पर अंसगत दुष्प्रभाव न पड़ें)" (जेंडर डायमेंशन पर हैंडबुक).

भेदभाव के शिकार लोगों के लिए अभिव्यक्ति के क्षेत्र के रूप में सोशल मीडिया प्लेटफ़ॉर्म के महत्व को देखते हुए, बोर्ड लगातार अपनी अपेक्षा व्यक्त करता रहा है कि Meta ऐसे कंटेंट को गलती से हटाए जाने की संभावना के बारे में ख़ासतौर से संवेदनशील रहें, जो इन समूहों के सदस्यों द्वारा पोस्ट किया गया हो, उनके बारे में हो या उन्हें दिखाता हो. जैसा कि बोर्ड ने “वामपम बेल्ट” फ़ैसले ( 2021-012-FB-UA) में मूल निवासी लोगों की कलात्मक अभिव्यक्ति के संबंध में कहा कि Facebook की नफ़रत फैलाने वाली भाषा से जुड़ी पॉलिसी के Meta द्वारा सभी यूज़र पर समग्र रूप से एन्फ़ोर्समेंट के परफ़ॉर्मेंस का मूल्यांकन पर्याप्त नहीं है – ख़ास तौर पर विशेष ग्रुप पर असर पर विचार किया जाना चाहिए. ऐसे ही, “अरबी शब्दों को स्वीकार्य उपयोग में लाने” वाले केस में, बोर्ड ने कन्फ़र्म किया कि “पीड़ित अल्पसंख्यकों के ग्रुप वाले यूज़र्स की भाषा का अत्यधिक आधुनिकीकरण उनकी अभिव्यक्ति की स्वतंत्रता के लिए गंभीर खतरा हैं” और Meta की पॉलिसी के अपवाद (उस केस में, नफ़रत फैलाने वाली भाषा संबंधी पॉलिसी) किस तरह से उपेक्षित ग्रुप के लोगों की अभिव्यक्ति पर लागू किए गए, इस पर चिंता ज़ाहिर की ( 2022-003-IG-UA).

Meta के चुनावों की वजह से महिलाओं, ट्रांस और जेंडर नॉन-बाइनरी लोगों के लिए इसके प्लेटफ़ॉर्म पर अभिव्यक्ति के असमान अवसर उपलब्ध होते हैं. Meta की मौजूदा वयस्क नग्नता और यौन गतिविधि पॉलिसी महिलाओं के स्तनों और निप्पल को कामुक मानती है और इसलिए ये प्रतिबंधित हैं, जब तक कि वे सर्जरी के ज़रिए ऑपरेशन के या स्तनपान के संदर्भ में न हो. सेंसरशिप कुछ ग्रुप को असमान तरीके से प्रभावित नहीं करे, इसके लिए कदम उठाने के बजाय Meta की पॉलिसी इन ग्रुप पर ऐसे प्रभाव को बढ़ाकर और मज़बूत कर रही है.

ये केस खुद को LGBTQI+ मानने वाले लोगों पर Meta की पॉलिसी के चुनावों के गैर-अनुपातिक प्रभाव को हाइलाइट करते हैं, क्योंकि वयस्क नग्नता और यौन गतिविधि क्लासिफ़ायर ने, पॉलिसी के दायरे से बाहर होने के बावजूद भी कंटेंट की कई बार पहचान की. बोर्ड का मानना है कि ये केस व्यापक समस्याओं का संकेत हैं. जैसे, the Haimson et al. study में पाया गया कि ट्रांसजेंडर लोग आम तौर पर नग्नता और यौन कंटेंट की वजह से कंटेंट हटाने और अकाउंट डिलीट करने की ज़्यादा रिपोर्ट करते हैं.

Meta की पॉलिसी के चुनावों के एन्फ़ोर्समेंट का महिलाओं पर भी गैर-अनुपातिक प्रभाव पड़ता है. विट, सूज़र और हिगिंस द्वारा किए गए अध्ययन में पाया गया कि Instagram से हटाई जाने वाली महिलाओं के शरीर वाली 22% फ़ोटो, गलती से हटाई गई थीं. महिलाओं के शरीर को लेकर गैर अनुपातिक प्रभाव का विषय पब्लिक कमेंट में भी देखा गया है (उदाहरण देखें, पब्लिक कमेंट 10626 डॉ. ज़हरा स्टारडस्ट द्वारा).

नग्नता पर इस डिफ़ॉल्ट स्थिति का उन संदर्भों में भी विपरीत प्रभाव पड़ता है, जहाँ महिलाएँ पारंपरिक तौर पर सीना खुला रखती हैं. राय देने की आज़ादी के अधिकार के प्रमोशन और सुरक्षा पर विशेष रैपर्टर में ज़ोर देकर कहा गया है कि कंपनी दुनियाभर के मूल निवासी समूहों के साथ मिलकर "जिन कंटेंट में नग्नता दिखाई गई हो, उनका मूल्यांकन करते समय सांस्कृतिक और कलात्मक संदर्भ पर विचार करने के लिए बेहतर संकेतक तैयार करें)" (पैरा 54, A/HRC/38/35).

पॉलिसी से संबंधित पक्षपात न करने की चिंताओं के अलावा, ये केस एन्फ़ोर्समेंट संबंधी पक्षपात न करने की चिंताओं को भी सामने लाता है. Meta को ध्यान रखना चाहिए कि उपेक्षित ग्रुप से जुड़े यूज़र्स के कंटेंट की बार-बार या दुर्भावनापूर्ण रिपोर्टिंग होने की ज़्यादा संभावना होती है, जहाँ यूजर्स, ऐसे यूज़र्स को दबाने या उत्पीड़ित करने के लिए उल्लंघन नहीं करने वाले कंटेंट की भी रिपोर्ट करते हैं. ये समस्याएँ कई पब्लिक कमेंट में भी सामने आई हैं (उदाहरण देखें, पब्लिक कमेंट 10596 और 10628, क्रमश: GLAAD और The Human Rights Campaign Foundation द्वारा).

इन केस से यह हाइलाइट हुआ कि कई रिव्यू जेनरेट करने वाली एक से ज़्यादा रिपोर्ट गलती से हटाए जाने की संभावना को बढ़ा सकती हैं. ऐसे ही, इस केस में अधिकतर यूज़र रिपोर्ट के कारण ह्यूमन रिव्यू किया गया, जिनमें पाया गया कि कंटेंट से उल्लंघन नहीं होता है, लेकिन कंटेंट की लगातार रिपोर्ट होती रही, जब तक कि रिव्यअर ने गलती से इसे उल्लंघन करने वाला मानकर इसे हटाया नहीं.

Meta को ऐसी पॉलिसी बनाने और लागू करने की कोशिश करना चाहिए, जिनसे ऐसी समस्याओं का समाधान हो. इनमें नग्नता संबंधी ऐसी पॉलिसी शामिल है जो ज़्यादा एकसमान हो और जो सेक्स या लिंग पहचान के आधार पर भेदभाव किए बिना लागू हो. उनमें इस बारे में ज़्यादा संदर्भ वाले निर्धारण भी शामिल हो सकते हैं, कि कौन सा कंटेंट कामुक है, जहाँ तक कि निर्धारण तय करने में पक्षपाती मापदंड को आधार न बनाया गया हो.

बोर्ड ने ध्यान दिया कि Meta की वयस्क यौन शोषण संबंधी पॉलिसी में की बिना सहमति के ली गई बहुत ही पर्सनल फ़ोटो का समाधान करने के लिए विशेष पॉलिसी है. कंपनी के लिए यह प्राथमिकता वाले एन्फ़ोर्समेंट का सेक्शन रहा है (उदाहरण देखें, बिना सहमति के ली गई फ़ोटो को बार-बार पोस्ट किए जाने से रोकने के लिए उनकी ऑटोमेटेड डिटेक्शन टेक्नोलॉजी की जानकारी). जब Meta अपने प्लेटफ़ॉर्म पर नग्नता वाले कंटेंट को मैनेज करने के लिए अपने दृष्टिकोण में बदलाव करने पर विचार करता है, तो Meta को ध्यान से देखना चाहिए कि वयस्क नग्नता और यौन गतिविधि संबंधी पॉलिसी बिना सहमति के ली गई फ़ोटो शेयर किए जाने से किस हद तक सुरक्षा देती है और समझना चाहिए कि वयस्क यौन शोषण संबंधी पॉलिसी के बदलाव या इसे लागू किया जाना इसकी प्रभाविता को बढ़ाने के लिए ज़रूरी हो सकता है.

बोर्ड यह भी मानता है कि अपने प्लेटफ़ॉर्म पर यौन या पोर्नोग्राफ़ी कंटेंट को सीमित करने के पीछे Meta के वैधानित हित हो सकते हैं. लेकिन बोर्ड का मानना है कि प्रासंगिक बिज़नेस उद्देश्य ऐसे तरीकों से पूरे होने चाहिए, जिनमें सभी यूज़र्स के साथ बिना भेदभाव के व्यवहार किया जाए.

बोर्ड के कुछ मेंबर्स का मानना है कि Meta को वयस्क नग्नता संबंधी ऐसी पॉलिसी अपनाकर, अपनी मौजूदा पॉलिसी के पक्षपाती प्रभावों को कम करने की कोशिश करना चााहिए, जो सेक्स या लिंग के अंतर पर आधारित न हो. उन्होंने ध्यान दिया कि Convention on the Elimination of All Forms of Discrimination Against Women (CEDAW) में लिंग आधारित रूढ़ियों को दूर करने के प्रावधान हैं (उदाहरण के लिए आर्टिकल 5 और 10 देखें) और Meta की कॉर्पोरेट मानवाधिकार पॉलिसी में कंपनी ने CEDAW के प्रति स्पष्ट प्रतिबद्धता जताई है. उन्होंने निष्कर्ष निकाला कि नग्नता संबंधी पॉलिसी के संदर्भ में, ये अंतरराष्ट्रीय मानवाधिकार स्टैंडर्ड और गैर-पक्षपात के लिए Meta की खुद की प्रतिबद्धता, रूढ़ी आधारित अंतर को हटाने में सहयोगी हैं. मेंबर्स के इस ग्रुप ने निष्कर्ष निकाला कि ऐसी पॉलिसी जो सेक्स या लिंग के अंतर पर आधारित न हो, को अपनाना Meta की कॉर्पोरेट वैल्यू और प्रतिबद्धताओं को देखते हुए, इसकी मानवाधिकारों के प्रति अपनी ज़िम्मेदारियों को बनाए रखने के लिए सबसे बेहतर तरीका होगा. इन मेंबर्स ने ध्यान दिया कि स्टैंडर्ड और पॉलिसी में भेदभावपूर्ण प्रभाव वाले व्यवहार का समाधान करने के लिए संशोधन होने चाहिए, क्योंकि कई तरह के भेदभाव सामाजिक व्यवहार के तहत चले आ रहे हैं और आज भी मौजूद हैं.

इन मुद्दों को लेकर बोर्ड मेंबर्स के बीच कुछ असहमतियाँ हैं. कुछ मेंबर्स सैद्धांतिक रूप से इस पर सहमत हुए कि Meta को अभिव्यक्ति सीमित करने के लिए सेक्स या लिंग को आधार नहीं बनाना चाहिए, लेकिन वे सेक्स या लिंग के आधार पर सतर्क नग्नता पॉलिसी के बिना, बिना सहमति के ली गई बहुत ही पर्सनल फ़ोटो और अन्य संभावित नुकसान का प्रभावी समाधान करने में Meta की क्षमता को लेकर काफ़ी संशय में थे. बोर्ड के अन्य मेंबर्स का मानना है कि चूँकि गैर-पक्षपात के लिए लागू मानवाधिकार सिद्धांत सुरक्षित विशिष्टताओं के आधार पर अंतर करने की परमिशन देते हैं, जब तक कि वे “तार्किक और वस्तुनिष्ठ मापदंड पर आधारित हों और प्रतिज्ञापत्र के तहत वैधानिक लक्ष्य के लिए हों,” ( निपॉमनियश्ची बनाम रूस, मानवाधिकार समिति, 2018, पैरा. 7.5 (CCPR/C/123/D/2318/2013), सेक्स और लिंग निष्पक्ष पॉलिसी ज़रूरी नहीं है और इससे अन्य नुकसान या गड़बड़ हो सकती है.

वे बोर्ड मेंबर जो सेक्स और लिंग निष्पक्ष वयस्क नग्नता पॉलिसी को सपोर्ट करते हैं, उनका मानना है अंतरराष्ट्रीय मानवाधिकार स्टैंडर्ड के तहत, जैसे कि वे राज्य पर लागू हों, सुरक्षित विशिष्टताओं के आधार पर, तार्किक और वस्तुनिष्ट मापदंड के आधार पर और जब वे वैधानिक उद्देश्य के लिए हों, तब अंतर किए जा सकते हैं. वे यह नहीं मानते कि Meta की नग्नता संबंधी पॉलिसी में किए गए अंतर, इन स्टैंडर्ड के अनुसार हैं. उन्होंने आगे ध्यान दिया कि बिज़नेस के तौर पर Meta ने मानवाधिकार प्रतिबद्धताएँ ली हैं, जो ऐसे तरीके के साथ संगत नहीं हैं जिनसे ऑनलाइन अभिव्यक्ति कंपनी के सेक्स और लिंक के दृष्टिकोण के अनुसार प्रतिबंधित होती हैं.

वयस्क नग्नता और यौन गतिविधि से जुड़े कम्युनिटी स्टैंडर्ड असंगत तरीके से महिलाओं और LGBTQI+ यूज़र को प्रभावित करते हैं और सेक्स तथा लिंग से जुड़ी व्यक्तिपरक वयस्क काल्पनिक धारणाओं पर निर्भर करते हैं, जिन्हें बड़े स्तर पर कंटेंट मॉडरेशन करते समय लागू करना संभव नहीं है. संपूर्ण रूप से देखने पर, नियमों और उनके एन्फ़ोर्समेंट को लेकर भ्रम और Meta के मौजूदा वयस्क नग्नता और यौन गतिविधि पॉलिसी के भेदभावपूर्ण प्रभाव को देखते हुए, बोर्ड ने Meta को सुझाव दिया कि वह अपनी वयस्क नग्नता पॉलिसी के पूरे संचालन के लिए स्पष्ट, वस्तुनिष्ट और अधिकारों का सम्मान करने वाले मापदंड तय करे, जिससे सभी लोगों के साथ अंतरराष्ट्रीय मानवाधिकार स्टैंडर्ड के अनुसार संगत और सेक्स या लिंग पहचान के आधार पर बिना भेदभाव वाला व्यवहार हो. Meta को ऐसे किसी भी मापदंड को लागू करने के पहले इसके प्रभावों का रिव्यू करने के लिए मानवाधिकारों पर पड़ने वाले प्रभाव का व्यापक आकलन करना चाहिए. इसमें विभिन्न आदर्शवादी, भौगोलिक और सांस्कृतिक संदर्भों में व्यापक समावेशी स्टेकहोल्डर की एंगेजमेंट शामिल है. इस आकलन में किसी भी संभावित नुकसान का पता लगाना और नई पॉलिसी के लागू होने में उनके समाधान का प्लान होना चाहिए. बोर्ड ने इस फ़ैसले के जारी होने की तारीख के बाद से छह महीने की जाँच और प्लानिंग की एक रिपोर्ट की रिक्वेस्ट की.

9. ओवरसाइट बोर्ड का फ़ैसला

ओवरसाइट बोर्ड ने दोनों पोस्ट हटाने के Meta के मूल फ़ैसले को बदलते हुए, उन्हें रीस्टोर करने के लिए कहा.

10. पॉलिसी से जुड़ी सलाह का कथन

कंटेंट पॉलिसी

1. सभी यूज़र्स के साथ उचित व्यवहार हो और मॉडरेटर्स और लोगों को नग्नता संबंधी एक व्यवहारिक स्टैंडर्ड मिले, इसके लिए Meta को अपनी वयस्क नग्नता और यौन गतिविधी की पॉलिसी के पूरे संचालन के लिए स्पष्ट, वस्तुनिष्ट और अधिकारों का सम्मान करने वाले मापदंड परिभाषित करना चाहिए, जिससे अंतरराष्ट्रीय मानवाधिकारों के अनुसार सभी लोगों के साथ समान व्यवहार सुनिश्चित हो और सेक्स या लिंग पहचान के आधार पर भेदभाव न हो. Meta को ऐसे किसी भी मापदंड को लागू करने के पहले इसके प्रभावों का रिव्यू करने के लिए मानवाधिकारों पर पड़ने वाले प्रभाव का व्यापक आकलन करना चाहिए. इसमें विभिन्न आदर्शवादी, भौगोलिक और सांस्कृतिक संदर्भों में व्यापक समावेशी स्टेकहोल्डर की एंगेजमेंट शामिल है. इस आकलन में किसी भी संभावित नुकसान का पता लगाना और नई पॉलिसी के लागू होने में उनके समाधान का प्लान होना चाहिए.

2. यूज़र्स को और स्पष्टता के साथ समझाने के लिए, Meta को पब्लिक कम्युनिटी स्टैंडर्ड में यूज़र को इस बारे में और स्पष्टीकरण देना चाहिए कि सेक्स के लिए "ऑफ़र देने या माँग करने" में (थर्ड पार्टी वेबसाइट के लिंक शामिल) कौन-सी चीज़ें शामिल हैं और यौन संकेत देने वाली भाव भंगिमाओं में क्या शामिल हैं. बोर्ड इस सुझाव को तब लागू मानेगा जब इन शब्दों का उदाहरण सहित स्पष्टीकरण यौन आग्रह के कम्युनिटी स्टैंडर्ड में जोड़ दिया जाएगा.

एन्फ़ोर्समेंट

3. यह सुनिश्चित करने के लिए कि Meta की यौन आग्रह पॉलिसी के लिए इसके आंतरिक मापदंडों की वजह से, सभी के लिए उपलब्ध पॉलिसी में बताए अनुसार हटाए जा सकने वाले कंटेंट से ज़्यादा कंटेंट नहीं हटाए जाएँ और गैर-यौन कंटेंट गलती से नहीं हटाया जाए, Meta को अपने आंतरिक रिव्यूअर मार्गदर्शन को संशोधित करना चाहिए ताकि मापदंड में भी सभी के लिए उपलब्ध नियम ही हों और उसमें "ऑफ़र करने या माँगने" और "यौन संकेत वाली चीज़ों" के बीच स्पष्ट संकेत बताए गए हों. बोर्ड इस सुझाव को तब लागू मानेगा जब Meta बोर्ड को अपने अपडेट किए गए आंतरिक मार्गदर्शन उपलब्ध कराएगा, जिसमें ये संशोधित मापदंड होंगे.

*प्रक्रिया संबंधी नोट:

ओवरसाइट बोर्ड के फ़ैसले पाँच सदस्यों के पैनल द्वारा लिए जाते हैं और बोर्ड के अधिकांश सदस्य इन पर सहमति देते हैं. ज़रूरी नहीं है कि बोर्ड के फ़ैसले उसके हर एक मेंबर की निजी राय को दर्शाएँ.

इस केस के फ़ैसले के लिए, बोर्ड की ओर से स्वतंत्र शोध को अधिकृत किया गया. एक स्वतंत्र शोध संस्थान, जिसका मुख्यालय गोथेनबर्ग यूनिवर्सिटी में है और छह महाद्वीपों के 50 से भी ज़्यादा समाजशास्त्रियों की टीम के साथ ही दुनिया भर के देशों के 3,200 से भी ज़्यादा विशेषज्ञों ने सामाजिक-राजनैतिक और सांस्कृतिक संदर्भ में विशेषज्ञता मुहैया कराई. बोर्ड को Duco Advisers की सहायता भी मिली, जो भौगोलिक-राजनैतिक, विश्वास और सुरक्षा और टेक्नोलॉजी के आपसी संबंध पर काम करने वाली एक एडवाइज़री फ़र्म है.