2024 की वार्षिक रिपोर्ट, चुनावी वर्ष में बोर्ड के प्रभाव पर प्रकाश डालती है
27 अगस्त 2025
सह-अध्यक्षों के प्राक्कथन
आधुनिक इतिहास के सबसे बड़े चुनावी वर्ष 2024 में, ओवरसाइट बोर्ड ने अपना पहला श्वेत पत्र प्रकाशित किया। हमारे केस कार्य के विश्लेषण के आधार पर, इस पत्र में उन तरीकों को साझा किया गया है, जिनसे सोशल मीडिया कंपनियां, अंतरराष्ट्रीय मानवाधिकार मानकों द्वारा निर्देशित अभिव्यक्ति की स्वतंत्रता की रक्षा करते हुए, चुनावों के सुरक्षित और विश्वसनीय संचालन की चुनौतियों का सामना कर सकती हैं। चुनावों पर ध्यान केंद्रित करने के कारण ही हमने पिछले साल मतदाता धोखाधड़ी, गलत जानकारी और राजनीतिक व्यंग्य से संबंधित केस का चयन किया। हमने वेनेज़ुएला में चुनाव के बाद की हिंसा से संबंधित केस के लिए एक त्वरित फ़ैसला भी जारी किया।
बोर्ड ने 2024 में एक दूसरे श्वेत पत्र के माध्यम से एक अन्य विषय पर विचार किया, जिसमें AI और ऑटोमेशन के युग में कंटेंट मॉडरेशन पर ध्यान केंद्रित किया गया। Meta के ऑटोमेटेड सिस्टम के डिज़ाइन और AI टूल को तैनात करते समय, प्लेटफ़ॉर्म द्वारा वैश्विक मानवाधिकारों पर विचार करने की ज़रूरत पर प्रकाश डालते हुए, इस पत्र में AI-जनित कंटेंट के बारे में हमारे द्वारा दिए गए सुझावों पर भी प्रकाश डाला गया है। उन प्रमुख सुझावों में से एक को, जिसमें Meta से AI की मदद से बनाए गए या हेरफेर किए गए कंटेंट को लेबल करने का आह्वान किया गया था, कंपनी ने 2024 में अपनाया था। हमारे सुझावों की प्रतिक्रिया में, Meta द्वारा किए गए अन्य बदलावों के बारे में जानने के लिए, नीचे दिए गए कार्यकारी सारांश को देखें, जिन्हें हम अपने केस के फ़ैसलों के हिस्से के रूप में जारी करते हैं।
2024 में प्रत्येक तिमाही में, Meta ने हमारे जितने सुझाव अस्वीकार किए, उससे कहीं ज़्यादा स्वीकार किए और उन्हें लागू किया। महत्वपूर्ण रूप से, हमने यह आकलन स्वतंत्र पद्धति का उपयोग करके किया है, जिसके लिए Meta को यह सबूत देना ज़रूरी है कि कार्यान्वयन हो गया है।
जनवरी 2021 से अब तक, Meta को हमने 300 से ज़्यादा सुझाव दिए हैं। इनमें से 74% के कार्यान्वयन या उन पर प्रगति के परिणामस्वरूप, ज़्यादा पारदर्शिता, स्पष्ट और सुलभ नियम, यूज़र के लिए बेहतर निष्पक्षता और अभिव्यक्ति की स्वतंत्रता के सम्मान सहित, Meta की मानवाधिकार जिम्मेदारियों पर ज़्यादा ध्यान दिया गया है।
बोर्ड की डेटा टीम, जिसने कार्यान्वयन पर नज़र रखने का हमारा दृष्टिकोण विकसित किया है, यूज़र पर इस कार्य के प्रभाव को बेहतर ढंग से समझने के लिए Meta के साथ मिलकर काम कर रही है। 2024 में, बोर्ड को इस प्रभाव की पुष्टि के लिए, सबसे विस्तृत डेटा प्राप्त हुआ, जिसे नीचे 'Meta के प्लेटफ़ॉर्म में बदलाव लाना' सेक्शन में प्रस्तुत किया गया है। यह डेटा, सुझावों के जीवनचक्र का एक महत्वपूर्ण हिस्सा है, ताकि यह समझा जा सके कि बोर्ड के मार्गदर्शन से लोग कैसे प्रभावित होते हैं और हम अरबों यूज़र और उनकी बातों के लाभ के लिए Meta के प्लेटफ़ॉर्म में सुधार कैसे जारी रख सकते हैं।
एवलिन आस्वाड, पाओलो कैरोज़ा, माइकल मैककोनेल, पामेला सैन मार्टिन, हेली थॉर्निंग-श्मिट
ओवरसाइट बोर्ड ट्रस्ट के अध्यक्ष का प्राक्कथन
वैश्विक कंटेंट मॉडरेशन की निगरानी के लिए एक अनूठे मॉडल के रूप में, कंपनियों और सरकारों से स्वतंत्र, बोर्ड का निरंतर विकास का लक्ष्य, उद्योग में बदलावों और नियामक परिदृश्य के साथ तालमेल बैठाना है। बोर्ड द्वारा अपनी अपील प्रोसेस शुरू किए हुए जल्द ही पांच साल पूरे होने वाले हैं, और यह सोचना उल्लेखनीय है कि यह प्रयोग कैसे स्वतंत्र, सैद्धांतिक और वैश्विक कंटेंट संचालन के संस्थागत मॉडल के रूप में विकसित हुआ है।
2024 में, Meta ने वित्त पोषण के एक और दौर की पुष्टि की, जिसमें अपरिवर्तनीय ट्रस्ट में $30 मिलियन का योगदान शामिल था, ताकि यह सुनिश्चित किया जा सके कि बोर्ड का संचालन 2027 तक वित्त पोषित रहे। जबकि Meta ने स्वतंत्र निगरानी के प्रति अपनी प्रतिबद्धता को नवीनीकृत किया, बोर्ड ने भी अपने संचालन को अनुकूलित करने के लिए कदम उठाए, अपने कार्य के सबसे प्रभावशाली पहलुओं को प्राथमिकता देने के लिए लक्षित बजट कटौती लागू की।
निरंतर अनुकूलन को ध्यान में रखते हुए, हमने हाल ही में अपने संचालन के तरीके में बदलाव किए हैं। यह सुनिश्चित करते हुए कि बोर्ड, Meta और कंपनी द्वारा प्रदान की जाने वाली वित्तीय सहायता से स्वतंत्र रहे, हमारी संरचना को ओवरसाइट बोर्ड LLC के प्रबंधकों के समूह में सह-अध्यक्षों को शामिल करने के लिए अनुकूलित किया गया है, जिससे कार्यनीति, बजट और संचालन के लिए एक एकीकृत स्थान का निर्माण हुआ है, ताकि यह सुनिश्चित हो सके कि बोर्ड का प्रभाव दीर्घकालिक रूप से अधिकतम हो।
प्रौद्योगिकी कंपनियों के बीच विश्वास बनाने के लिए, जवाबदेही को बढ़ावा देना पहले कभी इतना महत्वपूर्ण नहीं रहा। बोर्ड का मॉडल और प्रमुख संचालन मुद्दों पर उसका विचार नेतृत्व दर्शाता है कि यह कैसे प्राप्त किया जा सकता है।
स्टीफ़न नील
कार्यकारी सारांश
बोर्ड ने 2021 से अब तक Meta को 317 सुझाव दिए हैं, जिनमें से 74% लागू हो चुके हैं, वे प्रगति पर हैं या Meta ने रिपोर्ट किया है कि वह यह काम पहले से ही कर रही है। इन सुझावों की प्रतिक्रिया में, Meta ने 2024 में/2025 की शुरुआत में निम्नलिखित बदलाव किए।
- AI की मदद से बनाए गए या हेरफेर किए गए कंटेंट को लेबल करना शुरू किया, जिसने बातों को अनावश्यक रूप से प्रतिबंधित किए बिना यूज़र को अतिरिक्त जानकारी प्रदान की।
- अपनी पॉलिसी को एकीकृत किया, ताकि वे Facebook, Instagram और Threads पर समान रूप से लागू हों, जिससे उसके प्लेटफ़ॉर्म में एकरूपता में सुधार हुआ और यूज़र के लिए नियमों में स्पष्टता आई।
- यूज़र को एक शैक्षणिक प्रशिक्षण पूरा करके, किसी योग्य पॉलिसी के अपने पहले उल्लंघन के लिए अपने खातों पर होने वाली स्ट्राइक से बचने का मौका दिया, जिससे कि अभिव्यक्ति की रक्षा करने में मदद मिली और यूज़र को यह जानने का मौका मिला कि उनकी पोस्ट में उल्लंघन क्यों था।
- यूज़र को नफ़रत फैलाने वाली भाषा के लिए अपने कंटेंट को हटाए जाने के खिलाफ़ अपील करते समय अतिरिक्त संदर्भ देने की अनुमति दी, जिससे कि व्यंग्यात्मक पोस्ट और अन्य कंटेंट का, जो जागरूकता बढ़ाने जैसे अन्य पॉलिसी अपवादों से लाभान्वित हो सकता था, अति-एन्फ़ोर्समेंट सीमित हुआ।
- संभावित उल्लंघनों के लिए लॉन्ग-फ़ॉर्म वीडियो की समीक्षा करते समय, मॉडरेटर को दिए जाने वाले संकेतकों में सुधार किया, इस कंटेंट के ज़्यादा सटीक एन्फ़ोर्समेंट के लिए।
- 2024 में चुनाव वाले 22 देशों में अपनी अपशब्दों की सूचियों का ऑडिट पूरा किया, इस नफ़रत फैलाने वाले आचरण संबंधी नियम के एन्फ़ोर्समेंट की सटीकता में सुधार की कोशिशों के हिस्से के रूप में।
- अपनी खतरनाक संगठनों और लोगों संबंधी पॉलिसी को अपडेट किया, ताकि कुछ संदर्भों में, जब यूज़र किन्हीं खास व्यक्तियों को "शहीद" कहकर संबोधित करते हैं, तो ज़्यादा अभिव्यक्ति की अनुमति मिल सके, इस शब्द पर पूर्ण प्रतिबंध को प्रभावी रूप से समाप्त किया गया।
- अपनी हिंसक और ग्राफ़िक कंटेंट संबंधी पॉलिसी की सार्वजनिक भाषा को, समीक्षकों के लिए जारी आंतरिक मार्गदर्शन के अनुरूप किया, जिससे यूज़र को स्पष्टता मिली कि पॉलिसी के तहत किस तरह के कंटेंट की अनुमति नहीं है और इसे लागू करने के तरीके में पारदर्शिता आई।
नीचे दी गई तालिका, Meta द्वारा कार्यान्वयन की नवीनतम स्थिति का विश्लेषण करते हुए, कंपनी द्वारा बोर्ड के सुझावों को पूर्ण या आंशिक रूप से लागू करने की निरंतर बढ़ती प्रवृत्ति को दर्शाती है, जैसा कि प्रकाशित जानकारी के माध्यम से सत्यापित किया गया है।
बोर्ड अपने स्वयं के स्वतंत्र, डेटा-संचालित दृष्टिकोण के माध्यम से, कार्यान्वयन की लगातार जांच करता है।
Meta के प्लेटफ़ॉर्म पर बदलाव लाना
अलग-अलग पोस्ट पर हमारे द्वारा लिए जाने वाले बाध्यकारी फ़ैसलों के अलावा, बोर्ड सुझाव भी जारी करता है, जिन पर Meta को 60 दिनों के भीतर सार्वजनिक रूप से प्रतिक्रिया देनी होती है। ये सुझाव, जो Meta के कंटेंट मॉडरेशन में मानवाधिकारों के प्रति ज़्यादा सम्मान, पारदर्शिता, एकरूपता और निष्पक्षता पर ज़ोर देते हैं, दुनिया भर के यूज़र और संगठनों को निम्नलिखित तरीकों से प्रभावित कर रहे हैं।
- अभिव्यक्ति पर कम दबाव
हमारे, बाइडेन के हेरफेर किए गए वीडियो के केस में, बोर्ड के एक सुझाव की प्रतिक्रिया में, Meta ने मई 2024 में अपने प्लेटफ़ॉर्म पर, AI की मदद से बनाए गए या हेरफेर किए गए कंटेंट पर लेबल लगाना शुरू कर दिया। कंपनी पूरे Facebook, Instagram और Threads पर वीडियो, ऑडियो और तस्वीरों की एक व्यापक श्रेणी में "AI info" लेबल लगा रही है, जिससे यूज़र को इस बारे में महत्वपूर्ण संदर्भ मिलता है कि कंटेंट को किस तरह बनाया गया है। AI की मदद से हेरफेर किया गया हर कंटेंट नुकसानदायक नहीं होता, और लेबल लगाना, कंटेंट को हटाने का एक विकल्प प्रदान करता है, जो अभिव्यक्ति को अनुचित रूप से प्रतिबंधित नहीं करता।
--- अक्टूबर 2024 के 29 दिनों में, यूज़र ने Facebook पर AI लेबल वाली 360 मिलियन से भी ज़्यादा पोस्ट और Instagram पर 330 मिलियन से भी ज़्यादा पोस्ट देखीं। इनमें से, Facebook पर यूज़र ने इन लेबल वाली 6 मिलियन पोस्ट पर और Instagram पर 13 मिलियन पोस्ट पर क्लिक किया, ताकि यह पता चल सके कि कंटेंट कैसे बनाया गया था।*---
*यूज़र की निजता की रक्षा के लिए, सभी जानकारी को एकत्रित और पहचान-रहित किया जाता है। सभी मैट्रिक्स आकलन हैं, जो कि समय विशेष के लिए वर्तमान में उपलब्ध सर्वोत्तम जानकारी पर आधारित हैं।
- स्ट्राइक और खाते पर प्रतिबंधों से बचाव
यूज़र को अब एक शैक्षणिक प्रशिक्षण पूरा करके, किसी योग्य पॉलिसी* का पहला उल्लंघन करने पर अपने खाते पर स्ट्राइक लागू होने से बचने का मौका दिया जाता है। 2025 की शुरुआत में लॉन्च की गई यह प्रणाली, निजी आवासीय जानकारी साझा करने के बारे में बोर्ड की पहली पॉलिसी से संबंधित सलाह में दिए गए एक सुझाव को दर्शाती है। अब, जब यूज़र पहली बार कोई उल्लंघन करते हैं, तो Meta उन्हें एक "योग्य उल्लंघन नोटिस" भेजता है, जिसमें उनके द्वारा उल्लंघन की गई पॉलिसी के बारे में विवरण, साथ ही फ़ैसले के विरुद्ध अपील करने या प्रशिक्षण हासिल करने का विकल्प शामिल होता है। इस तरह से यूज़र को सज़ा से बचाने से, यूज़र को इस बारे में ज़्यादा जानकारी मिलती है कि उनके कंटेंट ने एक गैर-गंभीर कम्युनिटी स्टैंडर्ड का उल्लंघन क्यों किया और खाते पर प्रतिबंधों से बचाना, उनकी स्वतंत्र अभिव्यक्ति का समर्थन करता है।
---जनवरी 2025 से शुरू हुई तीन महीने की अवधि के दौरान, 7.1 मिलियन से ज़्यादा Facebook और 7,30,000 Instagram यूज़र ने "योग्य उल्लंघन सूचना" देखने का विकल्प चुना। इन यूज़र में से, लगभग 3 मिलियन ने शैक्षणिक प्रशिक्षण शुरू किया, जिनमें से अधिकांश (Facebook पर 80%+, Instagram पर 85%+) ने इन चरणों को पूरा किया और स्ट्राइक और उसके परिणामस्वरूप खाते पर प्रतिबंधों से बच गए।**---
**इस सुविधा में कम्युनिटी स्टैंडर्ड के सबसे गंभीर उल्लंघन शामिल नहीं हैं, जैसे कि यौन शोषण, उच्च जोखिम वाली दवाएं और खतरनाक संगठनों का महिमामंडन।
- विश्वसनीय भागीदारों के प्रति प्रतिक्रिया समय में सुधार
Meta द्वारा विश्वसनीय भागीदारों, जो 113 देशों में मौजूद गैर-सरकारी संगठनों, मानवतावादी एजेंसियों और मानवाधिकार अनुसंधानकर्ताओं का एक नेटवर्क है, के साथ काम करने से Facebook, Instagram और Threads पर उभरते नुकसानों और जटिल केस को चिह्नित करने में मदद मिलती है, जो अन्यथा छूट सकते थे। हैती में गिरोह हिंसा के बारे में एक फ़ैसले में, बोर्ड ने विश्वसनीय भागीदारों द्वारा एस्केलेट की गई रिपोर्ट पर, अक्सर संकट के समय में, अलग-अलग प्रतिक्रिया समय के बारे में हमारी चिंताओं को नोट किया। हमारे संबंधित सुझाव की प्रतिक्रिया में:
---Meta ने, एस्केलेट किए जाने के पांच दिनों के भीतर प्रोग्राम के माध्यम से हल किए गए केस की संख्या में वृद्धि की, जो 2022 की दूसरी तिमाही के 69% से बढ़कर 2024 की दूसरी तिमाही में 81% हो गई। यह वृद्धि Meta द्वारा प्रोग्राम के माध्यम से चार गुना ज़्यादा कंटेंट प्राप्त करने के साथ-साथ हासिल की गई।---
- अभिव्यक्ति की स्वतंत्रता का समर्थन
बोर्ड द्वारा जारी एक पॉलिसी से संबंधित सलाह में इस बात का विस्तृत विश्लेषण दिया गया है कि अरबी शब्द "शहीद" (जिसका मोटे तौर पर अंग्रेजी अनुवाद "मार्टर" होता है) के प्रति Meta का दृष्टिकोण लाखों यूज़र की अभिव्यक्ति की स्वतंत्रता को कैसे प्रभावित कर रहा था। उस समय, जब Meta द्वारा खतरनाक घोषित व्यक्तियों का संदर्भ देने के लिए इस शब्द का उपयोग किया जाता था, तो यह कम्युनिटी स्टैंडर्ड के तहत किसी भी अन्य शब्द की तुलना में, ज़्यादा कंटेंट हटाने का कारण था। बोर्ड ने Meta की खतरनाक संगठनों और लोगों संबंधी पॉलिसी को अपडेट करने के लिए सुझाव दिए हैं, ताकि लोग अपनी पोस्ट में "शहीद" शब्द का इस्तेमाल कर सकें, बशर्ते उसमें हिंसा के संकेत न हों और न ही किन्हीं खास व्यक्तियों या संगठनों की प्रशंसा की गई हो।
---Meta की कंटेंट लाइब्रेरी का उपयोग करके, बोर्ड की खुद की डेटा टीम ने पाया कि कार्यान्वयन के बाद, "शहीद" शब्द वाली दैनिक पोस्ट में 19.5% की वृद्धि हुई, जिन्हें 50,000 से ज़्यादा बार देखा गया।***---
***कार्यान्वयन से पहले की मार्च-अगस्त 2024 की अवधि और कार्यान्वयन के बाद की अक्टूबर 2024-अप्रैल 2025 की अवधि के दौरान एकत्रित 31,498 पोस्ट के आधार पर मापा गया।
- यौन शोषण के बारे में ज़्यादा जागरूकता
2022 में भारत में एक महिला का यौन उत्पीड़न दिखाने वाले कंटेंट से संबंधित एक केस में, बोर्ड ने इस बात पर विचार किया कि यौन उत्पीड़न के बारे में जागरूकता बढ़ाने के लिए साझा की गई पोस्ट और हिंसा या भेदभाव को बढ़ावा देने वाले कंटेंट में अंतर कैसे किया जाए। बोर्ड के एक सुझाव में Meta से अनुरोध किया गया है कि वह अपनी वयस्कों का यौन शोषण संबंधी पॉलिसी में नग्नता के बिना गैर-सहमति यौन स्पर्श के चित्रण के लिए एक अपवाद बनाए, जिसे केवल तभी लागू किया जाएगा, जब केस को एस्केलेट किया जाए और जब कंटेंट अन्य मानदंडों पर खरा उतरे। ऐसे शोषण के बारे में जागरूकता बढ़ाने के विशिष्ट उद्देश्य को पूरा करने वाला योग्य कंटेंट, Meta के प्लेटफ़ॉर्म पर एक चेतावनी स्क्रीन के साथ बना रहेगा।
---दिसंबर 2024 से शुरू हुई तीन महीने की अवधि के दौरान, पूरे Facebook और Instagram पर 15,000 से ज़्यादा पोस्ट की पहचान की गई, जिनमें यूज़र ने यौन उत्पीड़न या शोषण के बारे में, पॉलिसी के नए मानदंडों के अनुरूप जागरूकता बढ़ाई। इसमें वह कंटेंट शामिल है, जिसे पहले हटा दिया गया होता, लेकिन अब Meta के प्लेटफ़ॉर्म पर एक चेतावनी स्क्रीन के साथ मौजूद है।---
2024 में, ओवरसाइट बोर्ड ने ये कार्य किए
- अपने पहले श्वेत पत्र प्रकाशित किए, जिनमें कंटेंट मॉडरेशन के दो विषयों पर हमारे केसवर्क से प्राप्त विचार नेतृत्व प्रस्तुत किया गया: चुनावों की निष्पक्षता की रक्षा की और अपने-आप को AI और ऑटोमेशन के नए युग के अनुकूल बनाया
- Threads पर कंटेंट को लेकर अपना पहला फ़ैसला जारी किया, जो कि जापानी प्रधानमंत्री के बारे में बयानों से संबंधित था
- वेनेज़ुएला में चुनाव-पश्चात संकट के बारे में त्वरित फ़ैसले जारी किए
65 फ़ैसले जारी किए
32 मानक फ़ैसले 2 त्वरित फ़ैसले 31 सारांश फ़ैसले
व्यापक मुद्दों पर, जिनमें नरसंहार से इनकार, गैर-सहमति वाली अंतरंग तस्वीरें, अवैध मतदान, बाल विवाह, राजनीतिक भाषण और समलैंगिकता-विरोधी हिंसा शामिल है
खतरनाक संगठनों या लोगों का उल्लेख करते समय, अरबी शब्द “शहीद” को मॉडरेट करने के Meta के दृष्टिकोण को लेकर 1 पॉलिसी से संबंधित सलाह प्रकाशित की गई
Meta को 48 सुझाव जारी किए
3,250+ पब्लिक कमेंट प्राप्त की
2024 में बोर्ड के समक्ष दायर की गई अपीलें
कुल संख्या:
5,58,235
Meta द्वारा संदर्भित 8 केस शामिल हैं
वृद्धि:
2023 से 33%
प्लेटफ़ॉर्मवार:
Facebook: 77% Instagram: 22% Threads: 1%
By Policy (top 5)*:
डराना-धमकाना और उत्पीड़न: 22.3%
वयस्क नग्नता और यौन गतिविधि: 17.7%
हिंसा और उकसाना: 17.4%
नफ़रत फैलाने वाला आचरण (पूर्व में नफ़रत फैलाने वाली भाषा): 16.2%
प्रतिबंधित वस्तुएँ और सेवाएँ: 7.4%
*कंटेंट को रिस्टोर करने के लिए केवल यूज़र द्वारा की गई अपीलों पर आधारित।
क्षेत्रवार
The full report is available as a PDF here.
