ओवरसाइट बोर्ड ने "नाइजीरिया के चर्च में हमले का वीडियो" केस में Meta का फ़ैसला पलट दिया

14 दिसम्बर 2022

ओवरसाइट बोर्ड ने Instagram के एक वीडियो को हटाने का Meta का फ़ैसला पलट दिया, जिसमें नाइजीरिया पर हुए आतंकी हमले के बाद के हालातों को दिखाया गया था. बोर्ड ने पाया कि चेतावनी स्क्रीन के साथ पोस्ट को रीस्टोर करने से पीड़ितों की निजता सुरक्षित रहती है, साथ ही ऐसे ईवेंट की चर्चा हो पाती है जिसे कुछ सरकारें दबाने की कोशिश कर सकती हैं.

केस की जानकारी

5 जून 2022 को, नाइजीरिया के एक Instagram यूज़र ने ज़मीन पर पड़ीं शिथिल, खून से लथपथ लाशों वाला वीडियो पोस्ट किया. यह देखने में दक्षिण-पश्चिम नाइजीरिया के चर्च पर हुए आतंकी हमले के बाद के हालात जैसा लग रहा था, जिसमें 40 लोग मारे गए थे और कई लोग घायल हुए थे. यह कंटेंट हमले वाले दिन ही पोस्ट किया गया था. पोस्ट के कमेंट में नाइजीरिया के लोगों की सुरक्षा को लेकर प्रार्थनाएँ और कथन थे.

Meta के ऑटोमेटेड सिस्टम ने कंटेंट का रिव्यू किया और एक चेतावनी स्क्रीन लगा दी. हालाँकि, यूज़र को इसके बारे में नहीं बताया गया, क्योंकि Instagram यूज़र को चेतावनी स्क्रीन लगाए जाने पर नोटिफ़िकेशन नहीं मिलते हैं.

यूज़र ने बाद में वीडियो में एक कैप्शन जोड़ा. इस कैप्शन में घटना को “दुखद” बताया गया और कई हैशटैग का उपयोग किया गया, जिसमें फ़ायरआर्म कलेक्टर, बंदूक चलाने की आवाज़ और लाइव एक्शन गेम “airsoft” (जहाँ टीमें नकली हथियारों से प्रतिस्पर्धा करती हैं) के संदर्भ थे. यूज़र ने ऐसे ही हैशटैग का उपयोग कई दूसरी पोस्ट में भी किया था.

इसके ठीक बाद, Meta के मीडिया मैचिंग सर्विस बैंक में से एक, “एस्केलेशन बैंक” ने वीडियो की पहचान की और उसे हटा दिया. मीडिया मैचिंग सर्विस बैंक, यूज़र की पोस्ट को ऑटोमैटिक तरीके से ऐसे कंटेंट से मैच कर सकता है, जिसे पहले उल्लंघन करने वाला माना गया हो. “एस्केलेशन बैंक” के कंटेंट को Meta की विशेषज्ञ आंतरिक टीमों द्वारा उल्लंघन करने वाला माना गया है. किसी भी मैचिंग कंटेंट को पहचान कर तुरंत हटा दिया जाता है.

यूज़र ने Meta से इस फ़ैसले को लेकर अपील की और ह्यूमन रिव्यूअर ने हटाए जाने को सही ठहराया. इसके बाद उस यूज़र ने बोर्ड के सामने अपनी अपील पेश की.

जब बोर्ड ने केस स्वीकार किया, तो Meta ने “एस्केलेशन बैंक” के कंटेंट का रिव्यू किया और उसे उल्लंघन नहीं करने वाला पाया और फिर बैंक से हटा दिया. हालाँकि, इस केस में उसने पोस्ट को हटाने का अपना फ़ैसला यह कहते हुए बनाए रखा, कि हैशटैग को “हिंसा की प्रशंसा करने वाला और पीड़ितों की तकलीफ़ को कम दिखाने वाला” माना जा सकता है. Meta ने पाया कि इससे कई पॉलिसी का उल्लंघन होता है, जिसमें हिंसक और आपत्तिजनक कंटेंट से जुड़ी पॉलिसी शामिल है, जिसके तहत दूसरे की परेशानी में मज़ा लेने वाली बातों की परमिशन नहीं है.

मुख्य निष्कर्ष

बोर्ड के ज़्यादातर मेंबर्स ने पाया कि इस कंटेंट को Instagram पर रीस्टोर करना, Meta के कम्युनिटी स्टैंडर्ड, मूल्यों और मानवाधिकार से जुड़ी ज़िम्मेदारियों के अनुसार है.

नाइजीरिया में लगातार आतंकी हमले हो रहे हैं और नाइजीरिया की सरकार ने कुछ हमलों की जानकारी को छिपाकर रखा है, हालाँकि 5 जून वाले हमले के मामले में ऐसा नहीं लगता. बोर्ड ने माना कि इस तरह के संदर्भों में, अभिव्यक्ति की स्वतंत्रता ख़ास तौर पर मायने रखती है.

जब हैशटैग पर ध्यान नहीं दिया जा रहा हो, तो उस स्थिति में बोर्ड के सभी मेंबर्स ने माना कि वीडियो पर चेतावनी स्क्रीन लगाई जाए. इससे पीड़ितों की निजता सुरक्षित रहेगी, जिनमें से कुछ के चेहरे दिखाई दे रहे हैं और साथ ही अभिव्यक्ति की स्वतंत्रता भी बनी रहेगी. बोर्ड इस वीडियो को “रूसी कविता” वाले केस की फ़ोटो से अलग मानता है, जो काफ़ी कम आपत्तिजनक था और उसमें बोर्ड को चेतावनी स्क्रीन की ज़रूरत नहीं महसूस हुई थी. बोर्ड इसे “सूडान के आपत्तिजनक वीडियो" की फ़ुटेज से भी अलग मानता है, जो बहुत ज़्यादा आपत्तिजनक था, जहाँ बोर्ड Meta के फ़ैसले से सहमत था कि कंटेंट को “ख़बर में रहने लायक होने की छूट” जिसके तहत अन्यथा उल्लंघन करने वाले कंटेंट की परमिशन दी जाती है, उसे लागू करके चेतावनी स्क्रीन के साथ कंटेंट को रीस्टोर किया जाए.

हैशटैग को ध्यान में रखने पर, बोर्ड के ज़्यादातर मेंबर्स मानते हैं कि कंटेंट को रीस्टोर किया जाना चाहिए, चूँकि उससे जागरूकता बढ़ रही है और उसमें दूसरे की परेशानी में मज़ा लेने की बात नहीं है. आम तौर पर हैशटैग का उपयोग कम्युनिटी में पोस्ट को प्रमोट करने के लिए किया जाता है. यह Meta के एल्गोरिद्म से आगे बढ़ता है, इसलिए कंपनी को इनके दुरुपयोग से सावधान रहना चाहिए. ज़्यादातर मेंबर्स ने देखा कि Meta ने इस पर ध्यान नहीं दिया है, कि इन हैशटैग का उपयोग सांकेतिक व्यंग्य के तौर पर किया गया है. ऐसा लगता है कि पोस्ट पर कमेंट करने वाले यूज़र्स को यह समझ आ रहा था कि पोस्ट जागरूकता फैलाने के लिए थी और पोस्ट करने वाले व्यक्ति के रेस्पॉन्स पीड़ितों के प्रति सहानुभूति वाले थे.

बोर्ड के कुछ मेंबर्स को फ़ुटेज में शूटिंग वाले हैशटैग जोड़ना दूसरों का मज़ाक उड़ाने जैसा लगा और इससे हमले में बचे हुए लोग या पीड़ितों के परिवार को सदमा पहुँच सकता है. चेतावनी स्क्रीन लगाने से यह प्रभाव कम नहीं होगा. नाइजीरिया में आतंकी हमले के संदर्भ को देखते हुए, Meta का सावधानी बरतना जायज़ है, ख़ासकर तब जब पीड़ितों को पहचाना जा सकता है. बोर्ड के कुछ मेंबर्स का मानना है कि पोस्ट को रीस्टोर नहीं किया जाना चाहिए.

बोर्ड का मानना है कि हिंसा और आपत्तिजनक कंटेंट पॉलिसी को स्पष्ट किया जाना चाहिए. पॉलिसी में “दूसरे की परेशानी में मज़ा लेने” की परमिशन नहीं है, फिर भी आंतरिक मार्गदर्शन में मॉडरेटर्स के लिए इस बारे में दी गई परिभाषा इसके सामान्य उपयोग से काफी व्यापक है.

बोर्ड ने देखा कि कंटेंट को मूल रूप से इसलिए हटाया गया था क्योंकि यह ऐसे वीडियो से मैच हो रहा था जिसे गलती से एस्केलेशन बैंक में जोड़ दिया गया था. संकट के समय के तुरंत बाद के हालातों के चलते, Meta संभवतया उल्लंघन करने वाले कंटेंट को अपने प्लेटफ़ॉर्म पर फैलने से रोकने की कोशिश कर रहा था. हालाँकि, अब कंपनी को यह पक्का करना चाहिए कि गलती से हटाया गया कंटेंट रीस्टोर किया जाए और इसके परिणामस्वरूप अकाउंट पर लागू की गई स्ट्राइक भी हटाई जाए.

ओवरसाइट बोर्ड का फ़ैसला

ओवरसाइट बोर्ड ने पोस्ट को हटाने के Meta के फ़ैसले को बदल दिया और बोर्ड ने माना कि कंटेंट को “परेशान करने वाला कंटेंट” की चेतावनी स्क्रीन लगाकर प्लेटफ़ॉर्म पर रीस्टोर किया जाना चाहिए.

बोर्ड ने Meta को सुझाव दिया कि वह:

• हिंसक और आपत्तिजनक कंटेंट से जुड़ी पॉलिसी के बारे में लोगों को दी गई व्याख्या का रिव्यू करे ताकि वह मॉडरेटर्स को दिए गए आंतरिक मार्गदर्शन के अनुसार हो.
• Instagram यूज़र्स के कंटेंट पर चेतावनी स्क्रीन लगाए जाने पर उन्हें इस बात की सूचना दे और ऐसा करने के पीछे मौजूद पॉलिसी के ख़ास कारण को भी बताए.

* अभी इस पूरे फ़ैसले का योरूबा भाषा में अनुवाद किया जा रहा है. 2023 में जल्द से जल्द बोर्ड इसकी वेबसाइट पर योरूबा में अनुवाद प्रकाशित करेगा.

ज़्यादा जानकारी के लिए

इस केस का पूरा फ़ैसला पढ़ने के लिए यहाँ क्लिक करें.

इस केस में लोगों की ओर से आए कमेंट का सारांश पढ़ने के लिए, कृपया नीचे अटैचमेंट पर क्लिक करें.

समाचार पर लौटें