बोर्ड द्वारा, महिला कैंपेनर के AI-जनित वीडियो का विश्लेषण किया जाना
18 जून 2026
आज, बोर्ड विचार करने के लिए एक नए केस की घोषणा कर रहा है। इसके तहत हम लोगों और संगठनों को, नीचे दिए गए बटन का उपयोग करके पब्लिक कमेंट सबमिट करने के लिए आमंत्रित करते हैं।
केस चयन
चूँकि हम हर अपील की सुनवाई नहीं कर सकते हैं, इसलिए बोर्ड उन केस को प्राथमिकता देता है, जो दुनिया भर के बहुत से यूज़र को प्रभावित करने की संभावना रखते हैं, जो सार्वजनिक चर्चा के लिए विशिष्ट महत्व रखते हैं या जो Meta की नीतियों के बारे में महत्वपूर्ण प्रश्न उठाते हैं।
आज हम जिस केस की घोषणा कर रहे हैं, वह है:
महिला कैंपेनर का AI-जनित वीडियो
2026-043-FB-UA
रिपोर्टर की अपील
नीचे दिए गए बटन का उपयोग करके, पब्लिक कमेंट सबमिट करें
बोर्ड ने एक ऐसे केस का चयन किया है, जिसमें एक महिला कैंपेनर का AI-जनित वीडियो शामिल है, जिसमें उसे स्वास्थ्य संबंधी ऐसी सलाह देते हुए दिखाया गया था, जो उसने कभी दी ही नहीं थी, जिसके बाद उसके रूप-रंग को लेकर उसके साथ ऑनलाइन व्यापक दुर्व्यवहार, एक समाचार साक्षात्कार के बाद हुआ। बोर्ड ने रिव्यू के लिए केस के रूप में एक उदाहरण का चयन किया है कि Meta के प्लेटफ़ॉर्म पर यह दुर्व्यवहार किस प्रकार सामने आया, एक ऐसी Facebook पोस्ट में, जिसे कंपनी ने बने रहने दिया। यह केस, बोर्ड को इस बात का परीक्षण करने का अवसर देगा कि AI-जनित वीडियो, ऑनलाइन उत्पीड़न की प्रकृति को किस प्रकार बदल रहे हैं, Meta के यूज़र के अधिकारों पर इनके क्या प्रभाव पड़ते हैं, और उन महिलाओं और लड़कियों की अभिव्यक्ति और भागीदारी पर इसके क्या प्रभाव हैं, जिन्हें अक्सर निशाना बनाया जाता है।
हाल ही में, समाचार में एक युवा महिला का साक्षात्कार लिया गया था, जो कि एक अभियान समूह की स्वयंसेवक के रूप में, महिलाओं की स्वास्थ्य शिक्षा में सुधार और जातीय अल्पसंख्यक पृष्ठभूमि की महिलाओं और लड़कियों से संबंधित स्वास्थ्य स्थितियों के प्रति कलंक को कम करने के बारे में बात कर रही थी। इस वीडियो फ़ुटेज में डिजिटल रूप से हेरफेर करके उसकी भूमिका और संदेश को गलत तरीके से प्रस्तुत किया गया, जिसके कारण उसे अनेक सोशल मीडिया प्लेटफ़ॉर्म पर अपनी दिखावट को लेकर वैश्विक स्तर पर व्यापक कमेंट और दुर्व्यवहार का सामना करना पड़ा।
बोर्ड द्वारा चयनित केस एक AI-जनित वीडियो है, जिसमें समाचार साक्षात्कार वाली महिला को संदर्भ से बाहर दिखाते हुए यह कहते हुए प्रस्तुत किया गया है कि उसे हाल ही में अपने देश में एक आधिकारिक स्वास्थ्य पद पर नियुक्त किया गया है। उसे यह कहते हुए दिखाया गया है कि वह बताएगी कि फ़िट कैसे रहा जाए, और फिर उसे विभिन्न शारीरिक गतिविधियों में शामिल दिखाया गया है, जिनमें जिम में व्यायाम करना भी शामिल है, और उसे जंक फ़ूड खाते हुए खान-पान संबंधी स्वास्थ्य सलाह देते हुए भी दिखाया गया है। वास्तव में, उसने उस मूल साक्षात्कार में इनमें से कोई भी दावा नहीं किया था, जिसमें कि स्वस्थ भोजन या व्यायाम पर कोई बात नहीं हुई थी, बल्कि स्वास्थ्य संबंधी अन्य मुद्दों पर बात की गई थी। इस पोस्ट को 5,000 से ज़्यादा बार देखा गया, 200 से ज़्यादा प्रतिक्रियाएं और 50 से ज़्यादा कमेंट मिलीं। कई कमेंट में महिला की दिखावट का मज़ाक उड़ाया गया है, जिनमें उसके वजन और हिजाब को लेकर कमेंट भी शामिल हैं।
एक यूज़र ने Meta के डराने-धमकाने और उत्पीड़न संबंधी कम्युनिटी स्टैंडर्ड का उल्लंघन करने को लेकर इस कंटेंट की शिकायत की। इस शिकायत को मानवीय रिव्यू के लिए प्राथमिकता नहीं दी गई, और कंटेंट, बिना किसी AI लेबल के, प्लेटफ़ॉर्म पर बना रहा। शिकायत करने वाले यूज़र ने Meta के निर्णय के विरुद्ध अपील की, लेकिन इस अपील के बाद भी कंटेंट को मानवीय रिव्यू के लिए प्राथमिकता नहीं दी गई। इसके बाद, यूज़र ने Meta के निर्णय के ख़िलाफ़ बोर्ड में अपील की, जिसमें कहा गया कि पोस्ट में AI का इस्तेमाल करके एक महिला की सहमति के बिना, उसके जैसी दिखने वाली इमेज जनेरट की गई, गुमराह करने वाला कंटेंट तैयार किया गया और स्वास्थ्य संबंधी सलाह के लिए उसे सार्वजनिक रूप से शर्मिंदा किया गया।
जब बोर्ड ने इस केस पर Meta का ध्यान दिलाया, तो कंपनी ने निष्कर्ष निकाला कि यह पोस्ट उसके डराने-धमकाने और उत्पीड़न संबंधी कम्युनिटी स्टैंडर्ड के उल्लंघन के मानदंडों को पूरा नहीं करती। Meta के अनुसार, उस पोस्ट में वीडियो में दिखाई गई और नामित महिला की "शारीरिक दिखावट को लेकर उसे कमतर बताने वाली बातें" नहीं थीं, जिनसे पॉलिसी का उल्लंघन होता हो। Meta ने आगे स्पष्ट किया कि स्वास्थ्य संबंधी गतिविधियों को अस्वास्थ्यकर भोजन के सेवन के साथ-साथ दिखाने को, उस महिला की दिखावट पर अप्रत्यक्ष टिप्पणी के रूप में पढ़ा जा सकता है, लेकिन पोस्ट में उसकी शारीरिक दिखावट पर हमला करने वाला कोई स्पष्ट कथन नहीं था। Meta ने यह भी पाया कि पोस्ट गैर-सार्वजनिक हस्तियों को निशाना बनाने वाली “अवांछित हेरफेर की गई तस्वीरों” संबंधी उसकी निषेध पॉलिसी का उल्लंघन नहीं करती। ऐसा इसलिए, क्योंकि जिस महिला को दिखाया गया था, उसने खुद इस पोस्ट की शिकायत नहीं की थी, जबकि पोस्ट को हटाने पर विचार शुरू करने के लिए यह ज़रूरी है। Meta ने बोर्ड को यह भी बताया कि यह नियम “ऐसे डिजिटल हेरफेर” से निपटने के लिए बनाया गया है, जो किसी व्यक्ति की दिखावट (जैसे कि चेहरा या शरीर) को बदलते हैं, न कि किसी व्यक्ति के काम को बदलकर दिखाने से। Meta के अनुसार, किसी व्यक्ति के कार्यों या आचरण का मनगढ़ंत चित्रण या गलत प्रस्तुतीकरण “अवांछित हेरफेर की गई तस्वीरों” संबंधी नियम में कवर नहीं किया गया है।
बोर्ड उन पब्लिक कमेंट की सराहना करेगा, जो इनसे संबंधित हों:
- ऐसे AI-जनित कंटेंट के स्रोत, प्रसार और प्रभाव, जो लोगों का मज़ाक उड़ाता है या उनका उत्पीड़न करता है, विशेष रूप से उन महिलाओं और लड़कियों को निशाना बनाने वाला, जो सार्वजनिक चर्चाओं में भाग लेती हैं या मानवाधिकारों की वकालत करती हैं, जबकि वे सार्वजनिक हस्ती नहीं हैं।
- AI-जनित उत्पीड़न, विशेष रूप से गैर-सार्वजनिक हस्तियों को निशाना बनाने के विरुद्ध नियमों को, अभिव्यक्ति की स्वतंत्रता का सम्मान करते हुए और वैध सामाजिक एवं राजनीतिक टिप्पणी पर अति-एन्फ़ोर्समेंट से बचते हुए, सटीक रूप से कैसे लागू किया जाए।
- सोशल मीडिया प्लेटफ़ॉर्म पर प्रजनन स्वास्थ्य संबंधी जानकारी शेयर करने या उसे ऐक्सेस करने में महिलाओं और लड़कियों के सामने आने वाली बाधाएं।
- सोशल मीडिया कंपनियों के डिज़ाइन से जुड़े फ़ैसले, बड़े पैमाने पर होने वाले उत्पीड़न की व्यापकता और उनके वायरल होने की संभावना को किस तरह कम कर सकते हैं।
- “अवांछित हेरफेर की गई तस्वीरों” का निशाना बनने वाले लोगों की मदद करने के इच्छुक प्लेटफ़ॉर्मों के लिए सर्वोत्तम तरीके, जिनमें किसी व्यक्ति की दिखावट में हेरफेर (न कि उसे क्या करते या कहते हुए दिखाया गया है) तक पॉलिसी को सीमित रखने संबंधी Meta की पाबंदियां, और इस शर्त का औचित्य कि पीड़ितों को स्वयं शिकायत करनी होगी, शामिल है।
अपने फ़ैसलों में बोर्ड, Meta को पॉलिसी संबंधी सुझाव जारी कर सकता है। हालांकि ये सुझाव गैर-बाध्यकारी हैं, फिर भी Meta को 60 दिनों के भीतर उन पर प्रतिक्रिया देनी चाहिए। इस प्रकार, बोर्ड इस केस के लिए प्रासंगिक सुझावों का प्रस्ताव करने वाली पब्लिक कमेंट का स्वागत करता है।
पब्लिक कमेंट
अगर आपको या आपके संगठन को लगता है कि आप अहम दृष्टिकोण में अपना योगदान दे सकते हैं, जो हमारी आज घोषित केस पर फ़ैसले तक पहुंचने में मदद कर सकता है, तो आप नीचे के बटन का उपयोग करके, अपना योगदान सबमिट कर सकते/सकती हैं। कृपया ध्यान दें कि पब्लिक कमेंट, बिना नाम बताए सबमिट की जा सकती हैं। पब्लिक कमेंट विंडो 14 दिनों के लिए खुली है, जो कि गुरुवार, 2 जुलाई को 23:59 पैसिफ़िक स्टैंडर्ड टाइम (PST) पर बंद हो जाएगी।
आगे क्या होगा
अगले कुछ हफ़्तों में, बोर्ड मेंबर इस केस पर विचार-विमर्श करेंगे। जब वे अपने निर्णय पर पहुंच जाएंगे, तो हम इसे निर्णय पेज पर पोस्ट करेंगे।
