Instagram कैरसेल मॉडरेशन में, बहाल किए गए अपशब्दों को हटाने में त्रुटियां दिखाई देना

25 सितम्बर 2025

ओवरसाइट बोर्ड ने Meta के उन तरीकों से उत्पन्न होने वाले बार-बार के अति-एन्फ़ोर्समेंट के बारे में चिंता जताई है, जिनमें Instagram कैरसेल शामिल हैं। अर्जेंटीना की सरकार और उसकी नीतियों के सामाजिक प्रभावों की आलोचना करने वाले राजनीतिक भाषण के इस केस में, एक राजनीतिक कविता बनाने के लिए कई टेक्स्ट चित्रों वाले कैरसेल के एक हिस्से को Meta ने गलत तरीके से हटा दिया था। मॉडरेटर ने केवल उस एक चित्र का मूल्यांकन किया था, जिसमें अपशब्द थे और इसलिए महत्वपूर्ण संदर्भ छूट गया।

पूरे संदर्भ पर विचार किया जा सके, इसके लिए बोर्ड ने Meta को यह सुझाव दिया है कि वह सुनिश्चित करे कि कैरसेल को रिव्यू करने वाले मॉडरेटर, कोई भी फ़ैसला लेने से पहले, कैरसेल पोस्ट का पूरा कंटेंट देख सकें। ओवरसाइट बोर्ड ने, कंटेंट को हटाने के, Meta के मूल फ़ैसले को बदल दिया।

इस केस के बारे में

"कट्टरपंथी नारीवाद" और "LGBT एजेंडा" की आलोचना वाला एक भाषण देने वाले, अर्जेंटीना के राष्ट्रपति जेवियर मिलेई के खिलाफ़ विरोध प्रदर्शन से कुछ दिन पहले, जनवरी 2025 में Instagram के एक यूज़र ने एक केवल-टेक्स्ट वाला एक चित्र कैरसेल पोस्ट किया था। आठ चित्रों पर लिखे शब्दों से एक कविता बनती है, जो अर्जेंटीना की सरकार और उस दौर में लोगों की उदासीनता की व्यापक रूप से आलोचना करती है, जब यूज़र के अनुसार, नीतिगत बदलाव, कमज़ोर समूहों को प्रभावित कर रहे हैं। कविता, पाठकों से विरोध प्रदर्शन की अपील करती है।

कैरसेल के दूसरे चित्र पर, टेस्क्ट में दो अपशब्द, "पुटो" और "ट्रावा" शामिल हैं, जिनका इस्तेमाल क्रमशः समलैंगिक पुरुषों और ट्रांस महिलाओं के संदर्भ में किया जाता है। कैरसेल पोस्ट किए जाने के एक दिन बाद, Meta के स्वचालित सिस्टम ने दूसरे चित्र को पहचाना और इसे मानवीय मॉडरेटर द्वारा रिव्यू किए जाने के लिए भेज दिया, जिन्होंने फ़ैसला किया कि इस चित्र ने नफ़रत फैलाने वाले आचरण संबंधी नियम का उल्लंघन किया है। मॉडरेटर, कैरसेल के सात अन्य चित्र नहीं देख पाए। Instagram से केवल दूसरा चित्र हटाया गया, और यूज़र के खाते के पर एक स्ट्राइक लागू कर दी गई। इस पर यूज़र ने Meta से अपील की। दूसरे रिव्यूअर ने फ़ैसले को कायम रखा। तब यूज़र ने बोर्ड के समक्ष अपील दायर की.

जब बोर्ड ने इस केस का चयन किया, तो Meta ने अपने मूल फ़ैसले को बदल दिया और दूसरे चित्र को कैरसेल में रिस्टोर कर दिया।

मुख्य निष्कर्ष

बोर्ड ने पाया कि कंटेंट, नफ़रत फैलाने वाले आचरण संबंधी पॉलिसी का उल्लंघन नहीं करता, क्योंकि यह उन अपवादों के तहत पात्र है, जो "निंदा करने या जागरूकता बढ़ाने के लिए" और "सशक्तीकरण" के लिए अपशब्दों के प्रयोग की अनुमति देते हैं। कंटेंट को रिस्टोर करने का Meta का अंतिम फ़ैसला इस व्याख्या से समर्थित था कि टेक्स्ट, LGBTQIA+ विरोधी बयानबाजी में अक्सर इस्तेमाल किए जाने वाले शब्दों का प्रयोग करके मिलेई की सरकार की निंदा करता है। यह व्याख्या, बोर्ड द्वारा Meta को अपनी पॉलिसी के कंटेंट और अपवादों का मूल्यांकन करने के लिए पहले दिए गए निर्देश के अनुरूप है। हालांकि, बोर्ड एक अतिरिक्त महत्वपूर्ण बिंदु पर प्रकाश डालता है: यह पोस्ट उन सामाजिक, राजनीतिक और आर्थिक परिवर्तनों के प्रति लोगों की उदासीनता की निंदा करती है, जिनके बारे में पोस्ट करने वाले यूज़र का मानना ​​है कि वे कुछ कमज़ोर समूहों पर नकारात्मक प्रभाव डालते हैं।

पोस्ट में इस्तेमाल किए गए अपशब्द, किसी व्यक्ति या समूह विशेष को नकारात्मक रूप से निशाना नहीं बनाते, बल्कि अर्जेंटीना सरकार की नीतियों की आलोचना करने का आह्वान करते हैं। इनका इस्तेमाल LGBTQIA+ लोगों सहित विभिन्न समूहों को प्रभावित करने वाले सरकारी कदमों के प्रति सामाजिक उदासीनता के खिलाफ़ आवाज़ उठाने के लिए किया गया था। अर्जेंटीना में अक्टूबर 2025 के चुनावों से पहले, Meta को यह सुनिश्चित करने के लिए सचेत रहना चाहिए कि राजनीतिक भाषण, जिसमें बहाल किया गया भाषण भी शामिल है, अनावश्यक रूप से हटाया न जाए।

बोर्ड ने नोट किया कि इस केस में रिव्यूअर के लिए, कविता का रूप लेने वाले टेक्स्ट चित्रों के पूरे कैरसेल तक पहुंच के बिना, यह निर्धारित करना लगभग असंभव था कि अपशब्दों का इस्तेमाल स्वीकार्य तरीके से किया गया था। बोर्ड इस बात को लेकर चिंतित है कि रिव्यूअर के पास पूरे कैरसेल तक पहुंच न होने के कारण, कैरसेल के खास चित्रों के बारे में एन्फ़ोर्समेंट संबंधी फ़ैसले लेते समय बार-बार अति-एन्फ़ोर्समेंट की संभावना हो सकती है, जैसा कि इस केस में हुआ, और वे इरादे का प्रभावी ढंग से मूल्यांकन करने के लिए सशक्त नहीं होते। यूज़र की अभिव्यक्ति की स्वतंत्रता तब प्रभावित हो सकती है, जब चुनिंदा कंटेंट को ऐसे कैरसेल से हटा दिया जाता है, जिसमें भाषण कई चित्रों में प्रकट होता है।

ओवरसाइट बोर्ड का फ़ैसला

ओवरसाइट बोर्ड ने कंटेंट को हटाने के, Meta के मूल फ़ैसले को बदल दिया।

बोर्ड का सुझाव है कि Meta:

• यह सुनिश्चित करे कि कैरसेल के कंटेंट को रिव्यू करते समय, मॉडरेटर कोई भी फ़ैसला लेने से पहले, पोस्ट का पूरा कंटेंट देख पाएं, भले ही उसका केवल एक चित्र ही मानवीय रिव्यू के लिए भेजा गया हो।
• यह सुनिश्चित करने के लिए एक एकीकृत प्रक्रिया विकसित करे कि जब कंटेंट के किसी प्रकार को मॉडरेशन में शामिल किया जाता है या महत्वपूर्ण रूप से अपडेट किया जाता है, तो कंपनी की प्रक्रियाएं और टूल, उसके मॉडरेशन की अनुमति कंपनी की मानवाधिकार ज़िम्मेदारियों के अनुरूप दें।

अधिक जानकारी

इस मामले पर सार्वजनिक टिप्पणियाँ पढ़ने के लिए यहां क्लिक करें।

समाचार पर लौटें