العنف الطائفي في ولاية أوديشا الهندية

لقراءة هذا القرار باللغة الأورية، انقر هنا.

ଏହି ନିଷ୍ପତ୍ତିକୁ ଓଡ଼ିଆରେ ପଢ଼ିବା ପାଇଁ ଏଠାରେ କ୍ଲିକ୍ କରନ୍ତୁ।

ملخص الحالة

أيد مجلس الإشراف قرار Meta بإزالة منشور على فيسبوك يتضمن مقطع فيديو للعنف الطائفي في ولاية أوديشا الهندية. وقد وجد المجلس أن المنشور قد انتهك قواعد Meta بشأن العنف والتحريض. وقد خلُصت أغلبية أعضاء المجلس إلى أن قرار Meta بإزالة كل مقاطع الفيديو المطابقة على مستوى منصاتها كان مبررًا في ظل ما تشهده ولاية أوديشا من زيادة في التوترات والعنف المستمر. وعلى الرغم من أن المحتوى في هذه الحالة لم يكن يندرج تحت أي من استثناءات السياسة، يحث المجلس Meta على التأكد من أن معيار مجتمعها بشأن العنف والتحريض يسمح بالمحتوى الذي "يدين التهديدات بارتكاب أعمال عنف أو يعزز الوعي بها".

حول الحالة

في أبريل 2023، نشر مستخدم على فيسبوك مقطع فيديو من واقعة حدثت في اليوم السابق يصور موكبًا دينيًا في سامبالبور بولاية أوديشا الهندية يتعلق بمهرجان هانومان جايانتي الهندوسي. وكان الشرح التوضيحي لمقطع الفيديو عبارة عن كلمة "سامبالبور"، وهي بلدة في ولاية أوديشا، اندلعت فهيا موجة من العنف الطائفي بين الهندوس والمسلمين خلال المهرجان.

يظهر في الفيديو موكبًا حاشدًا يحمل المشاركون فيه أعلامًا بلون الزعفران، مرتبطة بالقومية الهندوسية، ويهتفون "جاي شري رام" - والتي يمكن ترجمتها حرفيًا إلى "التحية للإله رام" (إله هندوسي). وبالإضافة إلى السياقات الدينية التي يتم فيها استخدام هذه العبارة للتعبير عن الإخلاص لرام، فقد تم استخدام التعبير في ظروف معينة لتعزيز العداء ضد الأقليات، وخاصة المسلمين. يركز الفيديو بعد ذلك على شخص يقف في شرفة أحد المباني الموجودة في طريق الموكب ويظهر وهو يرمي حجرًا على الموكب. مما يدفع الحشود إلى رشق المبنى بالحجارة وسط هتافات "جاي شري رام" و"باجو" (والتي يمكن ترجمتها إلى "اركضوا") و"مارو مارو" (والتي يمكن ترجمتها إلى "اضربوه" أو "أثخنوه ضربًا"). حصل المحتوى على نحو 2000 مشاهدة وأقل من 100 تفاعل وتعليق.

في أعقاب أعمال العنف التي اندلعت خلال الموكب الديني الظاهر في الفيديو، قطعت حكومة ولاية أوديشا خدمات الإنترنت، وحجبت الوصول إلى منصات وسائل التواصل الاجتماعي، وفرضت حظر تجول في عدة مناطق في سامبالبور. وقد ورد في سياق أعمال العنف التي اندلعت أثناء الموكب أنه قد تم إضرام النيران في المتاجر وأن شخصًا لقي مصرعه في تلك الأحداث.

بعد وقت قصير من الأحداث التي تناولها الفيديو، تلقت Meta طلبًا من سلطات إنفاذ القانون في أوديشا لإزالة مقطع فيديو مطابق، نشره مستخدم آخر مصحوبًا بشرح توضيحي مختلف. وقد تبيّن لشركة Meta أن المنشور انتهك روح معيار مجتمعها بشأن العنف والتحريض وقامت بإضافته إلى أحد بنوك خدمة مطابقة الوسائط. وتعمل هذه الخدمة على اكتشاف وتمييز المحتوى المطابق أو شبه المطابق لعناصر المحتوى التي تقرر في السابق أنها مخالفة من الصور أو مقاطع الفيديو أو النصوص ليتم اتخاذ إجراء محتمل بشأنها.

أبلغت Meta المجلس أنه تم إعداد بنك خدمة مطابقة الوسائط بحيث يزي جميع نسخ الفيديو عالميًا، بغض النظر عن الشرح التوضيحي، نظرًا للمخاطر التي يشكلها هذا المحتوى على السلامة. ويتم تطبيق عملية الإزالة الشاملة هذه على جميع مقاطع الفيديو المطابقة، حتى إذا كانت تندرج تحت استثناءات Meta المتمثلة في تعزيز الوعي والإدانة ونشر التقارير الإخبارية. وقد لاحظ المجلس أنه، بموجب إعدادات بنك خدمة مطابقة الوسائط، فقد تمت إزالة العديد من عناصر المحتوى المطابقة لهذا الفيديو في الأشهر التي تلت أحداث سامبالبور، بولاية أوديشا.

من خلال بنك خدمة مطابقة الوسائط، استطاعت Meta تحديد المحتوى المعني في هذه الحالة وأزالته، مستشهدة بقواعدها التي تحظر "[ال]دعوات لارتكاب أعمال عنف شديدة الخطورة بما في ذلك [...] لا يستهدف أشخاصًا بعينهم ولكنه يتضمن رمزًا يمثل الشخص المستهدف و/أو يتضمن صورة سلاح أو أسلوب للتعبير عن العنف".

أهم النتائج

وجد المجلس أن المنشور قد انتهك معيار المجتمع بشأن العنف والتحريض والذي يحظر "المحتوى الذي يمثل تهديدًا جديًا لأمن الفرد أو المجتمع". ويرى أغلبية أعضاء المجلس أن المحتوى قد شكّل خطرًا جديًا ومحتملاً على صعيد زيادة أعمال العنف بالنظر إلى العنف المستمر في أوديشا في ذلك الوقت، وعدم تطبيق أي من استثناءات السياسية. وتعتقد أقلية من أعضاء المجلس أنه كان يمكن إزالة المنشور بشكل صحيح بموجب معيار مجتمع Meta بشأن العنف والتحريض، ولكن لسبب مختلف. ونظرًا لأن مقطع الفيديو يصوّر حادثة تحريض سابقة دون وجود قرائن سياقية توجب تطبيق أحد استثناءات السياسة، ونظرًا لمشاركة محتوى مماثل بهدف التحريض على العنف، كان لدى Meta ما يبرر إزالة المحتوى.

وقد خلُصت أغلبية أعضاء المجلس إلى أن قرار Meta بإزالة كل مقاطع الفيديو المطابقة على مستوى منصاتها بغض النظر عن الشرح التوضيحي المصاحب، كان مبررًا في سياق العنف المستمر في ذلك الوقت. غير أن الأغلبية ترى أيضًا ضرورة أن تكون إجراءات الإنفاذ واسعة النطاق هذه محددة زمنيًا. وبعد تغيّر الوضع في أوديشا وتراجع خطر العنف المرتبط بالمحتوى، يجب على Meta إعادة تقييم إجراءات الإنفاذ التي تتخذها تجاه المنشورات التي تتضمن مقطع الفيديو وتطبيق استثناءات سياستها كالمعتاد. وفي المستقبل، يرحب المجلس بالنُهُج التي تقيد تطبيق إجراءات الإنفاذ الشاملة هذه لتقتصر على لحظة زمنية معينة وعلى المناطق الجغرافية المعرضة لخطر متزايد. وبذلك يمكن لهذه الإجراءات تحسين سبل التغلب على مخاطر حدوث الضرر دون التأثير بشكل غير متناسب على حرية التعبير.

ترى أقلية من أعضاء المجلس أن الإزالة الشاملة التي قامت بها Meta لجميع المنشورات التي تضمنت الفيديو المطابق الذي يصوّر حادثة تحريض، بغض النظر عما إذا كانت المنشورات مؤهلة لاستثناءات تعزيز الوعي أو الإدانة، لم تكن استجابة متناسبة وشكّلت قيدًا لا داعي له على التعبير.

في حين أن المحتوى في هذه الحالة لم يكن يندرج تحت أي من استثناءات السياسة، يلاحظ المجلس أن استثناء "تعزيز الوعي" بموجب معيار المجتمع بشأن العنف والتحريض لا يزال غير متاح في الصيغة المعلنة لعامة الجمهور من هذه السياسة. وعلى هذا النحو، لا يزال المستخدمون غير مدركين أن المحتوى المخالف مسموح به إذا تمت مشاركته للإدانة أو تعزيز الوعي. وهو ما قد يمنع المستخدمين من المشاركة في مناقشات تمس المصلحة العامة على منصات Meta.

قرار مجلس الإشراف

أيد مجلس الإشراف القرار الذي اتخذته شركة Meta بإزالة المحتوى.

يكرر المجلس توصياته من الحالات السابقة، والتي أوصى فيها Meta بما يلي:

• التأكد من سماح معيار مجتمعها بشأن العنف والتحريض بالمحتوى الذي يتضمن عبارات تنطوي على "إشارة حيادية إلى نتيجة محتملة لإجراء أو تحذير استشاري" والمحتوى الذي "يدين التهديدات بارتكاب أعمال عنف أو يعزز الوعي بشأنها".
• توفير مزيد من الوضوح للمستخدمين والتوضيح في الصفحة المقصودة لمعايير المجتمع، بنفس الطريقة التي تتبعها مع استثناء الأهمية الإخبارية، أنه قد يتم إصدار استثناءات من معايير المجتمع عندما تسعى مبادئ السياسة للمعايير المعنية، وقيم Meta، إلى تحقيق نتيجة تختلف عن تلك التي ستتحقق عند التطبيق الصارم للقواعد. يكرر المجلس أيضًا توصيته السابقة إلى Meta بتضمين رابط إلى صفحة مركز الشفافية التي توفر معلومات عن استثناء "روح السياسة".

* توفر ملخصات الحالة نظرة عامة على الحالات ولا تُشكّل سابقة قانونية.

القرار الكامل للمجلس بشأن الحالة

1. ملخص القرار

أيد مجلس الإشراف قرار Meta بإزالة منشور على فيسبوك يحتوي على مقطع فيديو يصوّر مشهدًا لعنف طائفي في ولاية أوديشا الهندية خلال مهرجان هانومان جايانتي الديني. يظهر في الفيديو موكبًا حاشدًا يحمل المشاركون فيه أعلامًا بلون الزعفران، مرتبطة بالقومية الهندوسية، ويهتفون "جاي شري رام" - والتي يمكن ترجمتها حرفيًا إلى "التحية للإله رام" (إله هندوسي)، والتي تُستخدم في بعض الظروف لتعزيز العداء ضد الأقليات، وخاصة المسلمين. يركز الفيديو بعد ذلك على شخص يقف في شرفة أحد المباني الموجودة في طريق الموكب ويظهر وهو يرمي حجرًا على الموكب. مما يدفع الحشود إلى رشق المبنى بالحجارة وسط هتافات "جاي شري رام" و"باجو" (والتي يمكن ترجمتها إلى "اركضوا") و"مارو مارو" (والتي يمكن ترجمتها إلى "اضربوه" أو "أثخنوه ضربًا"). أحالت Meta هذه الحالة إلى المجلس لأنها توضح حالة الشد والجذب بين قيمتي "حرية الرأي" و"السلامة" لدى Meta، ولأنها تتطلب تحليلاً كاملاً للعوامل السياقية وتقييمًا لمخاطر حدوث ضرر على أرض الواقع بسبب مقطع الفيديو.

يرى المجلس أن المنشور قد انتهك معيار المجتمع بشأن العنف والتحريض. وبالنظر إلى عدم استقرار الأوضاع واستمرار العنف في أوديشا في وقت نشر المحتوى؛ وطبيعة الموكب الديني والدعوات إلى ارتكاب أعمال عنف شديدة الخطورة في مقطع الفيديو؛ وطبيعة سرعة واتساع نطاق انتشار المحتوى المماثل الذي يتم نشره على المنصة، يجد أغلبية أعضاء المجلس أن المحتوى يشكل دعوة جدّية للعنف.

وتعتقد أقلية الأعضاء أنه كان يمكن إزالة المنشور بشكل صحيح بموجب معيار مجتمع Meta بشأن العنف والتحريض، ولكن لسبب مختلف. ولم يفسر هؤلاء الأعضاء المنشور على أنه "دعوة جدّية للعنف" في غياب أي قرائن سياقية تتعلق بالغرض من النشر. وبدلاً من ذلك، نظروا إلى المنشور باعتباره شكلاً من أشكال "التحريض المصوّر" المحتمل (أي باعتبار أنه محتوى يصوّر مشهدًا تحريضيًا سابقًا). وقد خلُصت الأقلية إلى أنه يمكن إزالة المنشور بموجب معيار مجتمع Meta بشأن العنف والتحريض لأنه يستوفي شرطين تعتقد الأقلية أنه يجب استيفائهما لتبرير مثل هذه الإزالة: 1) وجود قرينة سياقية تدل على أنه تمت مشاركة منشورات تتضمن محتوىً مماثلاً بهدف التحريض على العنف، و2) عدم احتواء المنشور على أي قرائن سياقية تشير إلى إمكانية تطبيق أحد استثناءات السياسة مثل تعزيز الوعي أو نشر التقارير الإخبارية.

خلُصت أغلبية أعضاء المجلس إلى أنه في ضوء التحديات التي تكتنف الإشراف على المحتوى على نطاق واسع، فإن قرار Meta بإزالة جميع مقاطع الفيديو المطابقة على مستوى منصاتها بغض النظر عن الشرح التوضيحي المصاحب دون تطبيق إنذارات، كان له ما يبرره في هذا السياق تحديدًا لما يشهده من توترات متزايدة وعنف مستمر في ولاية أوديشا، التي تم تصوير الفيديو بها. غير أن الأغلبية ترى أيضًا ضرورة أن تكون إجراءات الإنفاذ واسعة النطاق هذه محددة زمنيًا. وبعد تغيّر الوضع المحلي المعني وتراجع خطر الضرر المرتبط بالمحتوى قيد التحليل من قبل المجلس، يجب على Meta إعادة تقييم إجراءات الإنفاذ الخاصة بها، والسماح بتطبيق استثناءات السياسة على نطاق واسع.

ترى أقلية من أعضاء المجلس أن الإزالة الشاملة التي قامت بها Meta لجميع المنشورات التي تضمنت الفيديو المطابق الذي يصوّر حادثة تحريض، بغض النظر عما إذا كانت المنشورات مؤهلة لاستثناءات تعزيز الوعي أو الإدانة، لم تكن استجابة متناسبة؛ وشكّلت قيدًا لا داعي له على التعبير ويمكن أن تعرّض الأشخاص الضعفاء للخطر في ظل سياق غير مستقر. وترى الأقلية أن المحتوى المعني عبارة عن تصوير للتحريض وليس تحريضًا في حد ذاته. وترى الأقلية ضرورة عدم إزالة منشور يصوّر التحريض حين تشير القرائن السياقية إلى إمكانية تطبيق أحد استثناءات سياسة العنف والتحريض. وتشمل هذه الاستثناءات المحتوى الذي تتم مشاركته لأغراض تعزيز الوعي أو نشر التقارير الإخبارية. وتعتقد الأقلية أنه عند وجود مؤشرات على أن القصد من وراء نشر محتوى تحريضي مصوّر ليس التحريض وإنما تعزيز الوعي أو الإدانة أو نشر التقارير، فإن التزامات Meta في مجال حقوق الإنسان تتطلب إبقاء هذا المحتوى على المنصة. ولذلك تعتقد الأقلية أن إزالة المنشورات التي تحتوي على الفيديو المعني بشكل جماعي تمثل انتهاكًا غير مسموح به لحرية التعبير لدى المستخدمين.

2. وصف الحالة ومعلومات أساسية عنها

في 13 أبريل 2023، نشر مستخدم على فيسبوك مقطع فيديو من واقعة حدثت في اليوم السابق، أي 12 أبريل، يصوّر موكبًا دينيًا في سامبالبور بولاية أوديشا الهندية في سياق مهرجان هانومان جايانتي الهندوسي. وكان الشرح التوضيحي لمقطع الفيديو عبارة عن كلمة "سامبالبور"، وهي بلدة في ولاية أوديشا، اندلعت فهيا موجة من العنف الطائفي بين الهندوس والمسلمين خلال المهرجان. يظهر في الفيديو موكبًا حاشدًا يحمل المشاركون فيه أعلامًا بلون الزعفران، مرتبطة بالقومية الهندوسية، ويهتفون "جاي شري رام" - والتي يمكن ترجمتها حرفيًا إلى "التحية للإله رام" (إله هندوسي). وبالإضافة إلى السياقات الدينية التي يتم فيها استخدام هذه العبارة للتعبير عن الإخلاص لرام، فقد تم استخدام التعبير في ظروف معينة لتعزيز العداء ضد الأقليات، وخاصة المسلمين. أفاد الخبراء الذين استشارهم المجلس أن الهتاف تحول إلى "صيحة هجوم تهدف إلى تخويف وتهديد أولئك الذين يتعبدون بشكل مختلف". يركز الفيديو بعد ذلك على شخص يقف في شرفة أحد المباني الموجودة في طريق الموكب ويظهر وهو يرمي حجرًا على الموكب. مما دفع الحشود إلى رشق المبنى بالحجارة وسط هتافات "جاي شري رام" و"باجو" (والتي يمكن ترجمتها إلى "اركضوا") و"مارو مارو" (والتي يمكن ترجمتها إلى "اضربوه" أو "أثخنوه ضربًا"). وقد شوهد المحتوى نحو 2000 مرة، وتلقى أقل من 100 تعليق وتفاعل، ولم تتم مشاركته أو الإبلاغ عنه من قِبل أي شخص.

وتفيد التقارير بأن العنف الطائفي، وهو أحد أشكال العنف الجماعي الذي ينطوي على اشتباكات بين مجموعات طائفية أو إثنية تعرّف نفسها باختلافاتها الدينية أو الإثنية أو اللغوية أو العرقية، منتشر على نطاق واسع في الهند. وفي هذا السياق، يستهدف العنف الأقليات الدينية بشكل غير متناسب، ولا سيّما المسلمين، ويقال إن مرتكبيه يفلتون من العقاب. وتسلط التعليقات العامة التي تلقاها المجلس الضوء على الطبيعة الواسعة الانتشار للعنف الطائفي في جميع أنحاء الهند. في عام 2022، تم تسجيل أكثر من 2900 حالة عنف طائفي في البلاد (راجع أيضًا، التعليق PC-14046). وقد أوضح الخبراء الذين استشارهم المجلس أن المهرجانات والمواكب الدينية استخدمت، حسبما أفادت التقارير، لتخويف أفراد الأقليات الدينية والتحريض على العنف ضدهم.

في أعقاب أعمال العنف التي اندلعت أثناء الموكب الديني وتداعياته، عندما أُضرمت النيران في المتاجر وقُتل أحد الأشخاص، قامت حكومة ولاية أوديشا بقطعخدمات الإنترنت، وحجب منصات وسائل التواصل الاجتماعي، وفرض حظر التجول في عدة مناطق في سامبالبور. وأشارت التقارير إلى قيام الشرطة باعتقال 85 شخصًا على صلة بأحداث العنف المذكورة.

في 16 أبري، تلقت Meta طلبًا من سلطات إنفاذ القانون في أوديشا لإزالة مقطع فيديو مطابق، نشره مستخدم آخر مصحوبًا بشرح توضيحي مختلف. وقد تبيّن لشركة Meta أن المنشور انتهك روح معيار مجتمعها بشأن العنف والتحريض وقررت إزالته. بعد ذلك، أضافت Meta في 17 أبريل الفيديو الوارد في المنشور إلى أحد بنوك خدمات مطابقة الوسائط، الذي يعمل على اكتشاف وتمييز أي محتوى مطابق أو شبه مطابق لعناصر المحتوى التي تقرر في السابق أنها مخالفة من الصور ومقاطع الفيديو والنصوص ليتم اتخاذ إجراء إضافي محتمل بشأنها. ومع هذا، فقد قام المستخدم الذي نشر المحتوى بحذفه في نفس التاريخ قبل أن تتخذ Meta إجراءً بشأنه. من خلال بنك خدمة مطابقة الوسائط، استطاعت Meta حينها تحديد المحتوى المعني في هذه الحالة وأزالته، كذلك في 17 أبريل، مستشهدة بحظرها "[ال]دعوات لارتكاب أعمال عنف شديدة الخطورة بما في ذلك [...] لا يستهدف أشخاصًا بعينهم ولكنه يتضمن رمزًا يمثل الشخص المستهدف و/أو يتضمن صورة سلاح أو أسلوب للتعبير عن العنف".

في 23 أبريل، رفعت حكومة ولاية أوديشا حظر التجول وأعادت الوصول إلى خدمات الإنترنت. وفي يوليو 2023، أعلنت حكومة الولاية حظر المواكب الدينية في سامبالبور لمدة عام.

ووفقًا للتقارير، انتقدت قيادة حزب بهاراتيا جاناتا (BJP) في الولاية حكومة ولاية أوديشا التي يقودها حزب بيجو جانتا دال (BJD) لفشلها في الحفاظ على القانون والنظام وألقت باللوم على أعضاء الأقليات، وخاصة المسلمين، لمهاجمة المواكب الدينية السلمية. واتهم حزب بيجو جانتا دال بدوره حزب بهاراتيا جاناتا بمحاولة تأجيج التوترات الدينية.

أوضحت Meta أن المحتوى لم يندرج تحت أي من استثناءات السياسة حيث "لم تتم مشاركته بقصد الإدانة أو تعزيز الوعي" نظرًا لعدم وجود سياق أكاديمي أو تقرير إخباري أو مناقشة لتجربة مؤلف المحتوى كشخص مستهدف بالعنف. وأشارت Meta أيضًا إلى أن الشرح التوضيحي لا يدين أو يعبر عن "أي منظور سلبي عن الأحداث التي جرى تصويرها في مقطع الفيديو". ومع ذلك، ذكرت الشركة أنه حتى لو تضمن المحتوى شرحًا توضيحيًا لتعزيز الوعي بالعنف أو إدانته، كانت ستزيله أيضًا "نظرًا لوجود مخاوف جمة متعلقة بالسلامة ومخاطر مستمرة تتعلق بحدوث عنف طائفي بين الهندوس والمسلمين".

كشفت Meta أيضًا للمجلس أنها قامت بتكوين إعدادات بنك خدمة مطابقة الوسائط لإزالة جميع نسخ الفيديو بغض النظر عن الشرح التوضيحي المصاحب له حتى لو بيّن هذا الشرح التوضيحي أن استثناءات نشر التقارير الإخبارية و/أو تعزيز الوعي تنطبق على الحالة. وأوضحت Meta أيضًا أنها لم تطبق إنذارات على المستخدمين الذين تمت إزالة محتواهم بواسطة بنك خدمة مطابقة الوسائط "لمراعاة التعليقات غير المخالفة وتحقيق التوازن الصحيح بين حرية الرأي والسلامة".

وفقًا للتقارير، تم استخدام منصات وسائل التواصل الاجتماعي لتشجيع الهجمات المميتة ضد الأقليات في ظل تصاعد التوترات الطائفية في جميع أنحاء الهند. ويشير الخبراء إلى وجود حملات منسقة على وسائل التواصل الاجتماعي في الهند لنشر رسائل معادية للمسلمين أو خطاب يحض على الكراهية أو معلومات مغلوطة. كما لاحظوا انتشار مقاطع فيديو حول العنف الطائفي بأنماط تحمل بصمات تشير إلى أنها تتم بشكل منسق. وبعد اندلاع أعمال العنف في سامبالبور، نشرت أرجوس نيوز، وهي منفذ إعلامي محلي في أوديشا، مقطع فيديو على فيسبوك 34 مرة على الأقل خلال 72 ساعة، غالبًا عن طريق الصفحات والمجموعات بفاصل دقائق بين بعضها البعض، مدعية أن المسلمين كانوا وراء الهجوم على احتفال هانومان جايانتي في سامبالبور. علاوة على ذلك، يشير المجلس إلى أنه، بموجب إعدادات بنك خدمة مطابقة الوسائط، فقد تمت إزالة العديد من عناصر المحتوى المطابقة لهذا الفيديو في الأشهر التي تلت أحداث سامبالبور، بولاية أوديشا.

أحالت Meta هذه الحالة إلى المجلس، وأشارت إلى أن البت فيها صعب بسبب حالة الشد والجذب بين قيمتي "حرية الرأي" و"السلامة" لدى Meta، وبسبب الحاجة إلى توفر معلومات كافية للوقوف على تقييم وتقدير كامل لمخاطر الأضرار الناجمة عن الفيديو.

3. سُلطة ونطاق مجلس الإشراف

يتمتع المجلس بسلطة مراجعة القرارات التي تقدمها Meta للمراجعة (المادة 2، القسم 1 من اتفاقية المجلس؛ المادة 2، القسم 2.1.1 من اللائحة الداخلية).

يجوز للمجلس تأييد قرار شركة Meta أو إلغائه (المادة 3، القسم 5 من اتفاقية المجلس)، ويكون قراره بهذا الشأن ملزمًا للشركة (المادة 4 من اتفاقية المجلس). يجب على شركة Meta أيضًا تقييم جدوى تطبيق قرارها على أي محتوى مماثل له سياق موازٍ (المادة 4 من اتفاقية المجلس). وقد تتضمن قرارات المجلس توصيات غير مُلزِمة يجب على شركة Meta الاستجابة لها (المادة 3، القسم 4 من اتفاقية المجلس؛ المادة 4). وعندما تلتزم Meta بتنفيذ التوصيات، يراقب المجلس هذا التنفيذ.

4. مصادر السُلطة والإرشادات

استند تحليل المجلس في هذه الحالة إلى المعايير والسوابق التالية:

1. قرارات مجلس الإشراف:

تتضمن قرارات مجلس الإشراف السابقة المشار إليها في هذا القرار ما يلي:

• حالات "المنشورات التي تناقش الإجهاض في الولايات المتحدة" ( ‎2023-011-IG-UA و‎2023-012-FB-UA و‎2023-013-FB-UA)
• حالة "المستحضرات الدوائية في سريلانكا" ( ‎2022-014-FB-MR)
• حالة "القصيدة الروسية" ( ‎2022-008-FB-UA)
• حالة "كرتون كنين" ( ‎2022-001-FB-UA)
• حالة "تصوير زوارت بييت" ( ‎2021-002-FB-UA)
• حالة "الاحتجاجات في الهند ضد فرنسا" ( ‎2020-007-FB-FBR)
• حالة "علاج فيروس كورونا (كوفيد-١٩) المزعوم" ( ‎2020-006-FB-FBR)

2. سياسات المحتوى لدى شركة Meta:

معيار المجتمع بشأن العنف والتحريض

تنص مبادئ السياسة التي يستند إليها معيار المجتمع بشأن العنف والتحريض على أنها تهدف إلى "منع تعرُّض المستخدمين لأي أذى محتمل على أرض الواقع قد ينتج عن محتوى يتم نشره" على منصات Meta وأنه في حين أن Meta "تتفهم أن الأشخاص عادةً ما يعبرون عن الازدراء أو الاختلاف من خلال التهديد أو الدعوة إلى العنف بطرق هزلية، إلا أن [الشركة] تُزيل أي عبارات تحرض على العنف أو تساعد عليه". تحظر هذه السياسة "التهديدات التي قد تتسبب في التعرض للموت (والأشكال الأخرى من أعمال العنف شديدة الخطورة) ...والتي تستهدف الأشخاص أو الأماكن حيث يتم تعريف التهديد بأنه" "دعوات لارتكاب أعمال عنف شديدة الخطورة بما في ذلك محتوى لا يستهدف أشخاصًا بعينهم ولكنه يتضمن رمزًا يمثل الشخص المستهدف و/أو يتضمن صورة سلاح أو أسلوب للتعبير عن العنف". بموجب معيار المجتمع هذا فإن Meta "تزيل المحتوى وتعطل الحسابات وتتعاون مع سلطات إنفاذ القانون عندما تعتقد [Meta] بوجود تهديد فعلي ينطوي على إيذاء جسدي أو تهديد مباشر للسلامة العامة." تأخذ Meta في حسبانها أيضًا السياق "من أجل التفرقة بين العبارات العفوية والمحتوى الذي يمثل تهديدًا جديًا لأمن الفرد أو المجتمع". ولتقييم جدية التهديد، قد تضع Meta أيضًا في اعتبارها معلومات إضافية مثل "مكانة الشخص في المجتمع والمخاطر التي قد تؤثر في سلامته البدنية".

استثناء روح السياسة

كما ناقش المجلس في حالة "المستحضرات الدوائية في سريلانكا" يجوز لشركة Meta تطبيق استثناء "روح السياسة" على المحتوى عندما تسعى مبادئ السياسة (النص الذي يمثل مقدمة لكل معيار مجتمع) وقيم Meta إلى تحقيق نتيجة تختلف عن تلك التي ستتحقق عند التطبيق الصارم للقواعد (أي القواعد المحددة تحت عنوان "يجب عدم نشر" وفي قائمة المحتوى المحظور).

استند المجلس في تحليله لسياسات المحتوى إلى قيمة "حرية الرأي" لدى Meta، والتي تصفها الشركة بأنها "ذات أهمية قصوى" وذلك بالإضافة إلى إحدى قيمها الأخرى وهي "السلامة".

3. مسؤوليات شركة Meta تجاه حقوق الإنسان

تُرسي مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان (UNGP)، التي أقرها مجلس حقوق الإنسان التابع للأمم المتحدة عام 2011، إطار عمل تطوعي لمسؤوليات الأنشطة التجارية الخاصة فيما يتعلق بحقوق الإنسان. في عام 2021، أعلنت شركة Meta عن سياسة حقوق الإنسان الخاصة بالشركة، والتي أعادت التأكيد من خلالها على الالتزام باحترام حقوق الإنسان على نحو يتفق مع مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان. استند تحليل المجلس لمسؤوليات شركة Meta تجاه حقوق الإنسان في هذه الحالة إلى المعايير الدولية التالية:

• الحقوق في حرية الرأي والتعبير: المادتان 19 و20 من العهد الدولي الخاص بالحقوق المدنية والسياسية (ICCPR)، التعليق العام رقم 34، اللجنة المعنية بحقوق الإنسان، (2011)؛ خطة عمل الرباط، مفوض الأمم المتحدة السامي لحقوق الإنسان، تقرير: A/HRC/22/17/Add.4 ‏(2013) تقارير مقرر الأمم المتحدة الخاص (UNSR) المعني بحرية الرأي والتعبير: A/HRC/38/35 ‏(2018)؛ A/74/486 ‏(2019).
• الحق في الحياة: المادة 6 من العهد الدولي الخاص بالحقوق المدنية والسياسية.
• حرية الدين أو المعتقد: المادة 18، العهد الدولي الخاص بالحقوق المدنية والسياسية؛ مقرر الأمم المتحدة الخاص المعني بحرية الدين أو المعتقد، التقارير: A/HRC/40/58 ‏(2019)؛ A/75/385 ‏(2020).

5. المعلومات المقدَّمة من المستخدمين

تم إبلاغ كاتب المنشور بالمراجعة التي أجراها المجلس وإتاحة الفرصة له لتقديم بيان إلى المجلس. ولم يقدم المستخدم بيانًا.

6. المعلومات المقدَّمة من Meta

عند إحالة هذه الحالة إلى المجلس، أشارت Meta إلى أن البت فيها صعب بسبب حالة الشد والجذب بين قيمتي "حرية الرأي" و"السلامة" لدى Meta، وبسبب الحاجة إلى توفر معلومات كافية للوقوف على تقييم وتقدير كامل لمخاطر الأضرار الناجمة عن الفيديو. أشارت Meta إلى أهمية هذه الحالة بسبب الاشتباكات الطائفية بين المجتمعات الهندوسية والمسلمة خلال مهرجان هانومان جايانتي الديني في أوديشا.

أوضحت Meta أن المحتوى الذي تم تصعيده في الأصل - والذي كان عبارة عن منشور يتضمن مقطع فيديو مطابق لمقطع الفيديو الذي يتم تحليله من قِبل المجلس، ولكن بشرح توضيحي مختلف - ينتهك "روح" سياسة العنف والتحريض، على الرغم من احتوائه على شرح توضيحي لتعزيز الوعي، وذلك للأسباب التالية: (1) "إثارته مخاوف كبيرة تتعلق بالسلامة تم الإبلاغ عنها من قبل سلطات إنفاذ القانون" والتي أكدتها Meta من خلال تحليل مستقل؛ (2) وسرعة انتشاره؛ (3) وإثارته لعدد كبير من التعليقات المخالفة. عندئذ قامت Meta بتكوين إعدادات بنك خدمة مطابقة الوسائط على نحو يضمن إزالة جميع نسخ الفيديو بغض النظر عن الشرح التوضيحي، والتي تضمنت مقطع الفيديو المحال في النهاية إلى المجلس، نظرًا لما يمثل هذا المحتوى من مخاطر على السلامة". وللوصول إلى هذا القرار، تأكدت Meta من المخاوف التي أثارتها سلطات إنفاذ القانون بشكل مستقل استنادًا إلى التعليقات الواردة من الفرق المحلية المعنية بالسياسة العامة والسلامة لدى شركة Meta، بالإضافة إلى التغطية الإخبارية المحلية والتعليقات الواردة من الفرق الداخلية الأخرى. عند اتخاذ قرارها، نظرت الشركة فيما يلي: (1) طبيعة التهديد؛ (2) وتاريخ العنف بين المجتمعات الهندوسية والمسلمة في الهند؛ (3) وخطر استمرار العنف في أوديشا في الأيام التي سبقت مهرجان هانومان جايانتي الديني. بالإضافة إلى ذلك، ذكرت Meta أن التغطية الإخبارية وتقارير الشرطة المحلية عززت الاستنتاج القائل بأن هذا الفيديو يمكن أن يساهم في خطر العنف الطائفي والانتقام.

أوضحت Meta أيضًا أن المحتوى في هذه الحالة ينتهك سياسة العنف والتحريض، حيث يتضمن دعوة إلى ارتكاب أعمال عنف شديدة الخطورة، حيث يُظهر الفيديو إلقاء الحجارة أو الطوب على حشد من الناس والحشد يدعو الآخرين إلى "ضرب" الشخص أو "إثخانه ضربًا" ردًا على ذلك. علاوة على ذلك، فبينما تعترف Meta بأن الشخص المستهدف لم يتم تحديده بشكل صريح، يمكن للمشاهدين رؤية الحجارة وهي ترمي بشكل واضح باتجاه المبنى والفرد الموجود في الشرفة، وهو ما تعتبره Meta تصويرًا مرئيًا لأسلوب عنف موجه نحو الشخص المستهدف.

وردًا على أسئلة المجلس، أوضحت Meta أنه بموجب نص سياسة العنف والتحريض، قد يُسمح على المنصة بنشر المحتوى الذي عادة ما يشكّل انتهاكًا إذا تمت مشاركته في سياق الإدانة أو تعزيز الوعي. ومع ذلك، نظرًا لأن أحد الأغراض الرئيسية لسياسة العنف والتحريض هو "منع حدوث ضرر محتمل على أرض الواقع"، قررت Meta في هذه الحالة أن المخاوف بشأن السلامة المتمثلة احتمال إسهام المحتوى الذي تم تصعيده في الأصل في مخاطر وقوع المزيد من العنف الطائفي بين الهندوس والمسلمين تكفل اللجوء إلى روح السياسة لإزالة هذا المحتوى (وجميع النسخ الأخرى من مقطع الفيديو من منصاتها)، بغض النظر عن الشرح التوضيحي المصاحب للمحتوى.

قررت Meta أيضًا أن المحتوى لم يتأهل لاستثناء الأهمية الإخبارية، لأن مخاطر الضرر المترتبة عليه تفوق قيمة المحتوى على صعيد المصلحة العامة. وفقًا لشركة Meta، كانت مخاطر الضرر عالية لعدة أسباب. أولاً، يسلط المحتوى الضوء على التوترات الدينية والسياسية المستمرة بين الهندوس والمسلمين والتي عادة ما تسفر عن أعمال عنف على مستوى الهند. علاوة على ذلك، فإن الحوادث المحلية من هذا النوع من العنف الطائفي والديني قادرة على إثارة اشتباكات في أماكن أخرى وانتشارها بسرعة إلى ما هو أبعد من الموقع الأولي الذي وقعت فيه. وكانت فرق السياسة العامة والسلامة المحلية في Meta قلقة أيضًا بشأن خطر تجدد أعمال العنف في أوديشا بمجرد رفع حظر التجول وإنهاء تعليق الإنترنت وتمكّن المزيد من الأشخاص من مشاهدة مقطع الفيديو. وأخيرًا، فإن تحديد سلطات إنفاذ القانون المحلية للمحتوى على أنه يحتمل أن يسهم في مزيد من أعمال العنف الوشيكة أكد مخاوف Meta.

أقرت Meta بأهمية محاولات إخطار الآخرين بوجود عنف وشيك أو أحداث جارية. ومع ذلك، في هذه الحالة، وجدت Meta أن مخاطر الضرر تفوق المصلحة العامة. أشارت Meta في وقت إزالة المحتوى، أنه قد مضى على المنشور أربعة أيام ولم تعد له قيمة كتحذير آني. أكدت Meta أن الشرح التوضيحي للمنشور كان محايدًا، ولم تكن له قيمة معلوماتية أكبر. وذكرت Meta أيضًا أن الشرح التوضيحي لم يقلل من مخاطر تحريض المنشور على العنف. وفقًا لشركة Meta، كانت هناك تغطية إخبارية محلية ووطنية واسعة النطاق للأحداث المعنية في هذه الحالة، مما قلل من القيمة الإعلامية لهذا المنشور تحديدًا. وقد أبلغت Meta المجلس أيضًا أنه "لا يمكن لأي إجراء أقل من إزالة المحتوى أن يعالج بشكل مناسب المخاطر المحتملة المرتبطة بمشاركة هذا المحتوى".

ردًا على أسئلة المجلس، ذكرت Meta أنه "بوجه عام، يتم تطبيق الإنذارات على نطاق واسع لكل انتهاكات سياسة العنف والتحريض". ولكن، عند التصعيد، يمكن أن تقرر Meta عدم تطبيق الإنذارات استنادًا إلى ظروف استثنائية بما في ذلك حينما يتم نشر المحتوى في سياق تعزيز الوعي، أو عندما يهدف المحتوى إلى إدانة قضية تحظى باهتمام عام.

أوضحت Meta أنها لم تطبق إنذارًا على المحتوى من خلال بنك خدمة مطابقة الوسائط المذكور أعلاه بهدف "الموازنة بشكل فعّال بين حرية الرأي والسلامة ومراعاة أن بعض عناصر المحتوى التي أزالها بنك خدمة مطابقة الوسائط لم تنتهك نص السياسة". كما سبق أن أوضحت Meta في هذا القسم، فإن قرار Meta بإزالة المحتوى المبلغ عنه في الأصل كانت تستند إلى "روح سياسة العنف والتحريض". أضافت Meta أنه نظرًا للاستعانة ببنوك خدمة مطابقة الوسائط، لم تكن هناك فرصة لمراجعة كل عنصر من عناصر المحتوى بشكل منفرد كما هو الحال عند العمل على نطاق واسع. ولذلك لم تطبق Meta الإنذارات كي لا تفرض المزيد من العقوبات على المستخدمين الذين نشروا المحتوى الذي لم ينتهك نص السياسة.

ردًا على أسئلة المجلس بشأن الطلبات الحكومية، ذكرت Meta المعلومات المقدمة في مركز الشفافية. أوضحت Meta أنه عند تلقي بلاغًا رسميًا استنادًا إلى انتهاك القوانين المحلية من حكومة أو سلطة إنفاذ قانون محلية، فإنها تراجعه في البداية في ضوء معايير مجتمع Meta، حتى إذا كان يتضمن طلبات لإزالة أو تقييد المحتوى بداعي انتهاك القوانين المحلية. إذا قررت Meta أن المحتوى انتهك سياساتها، تتم إزالته. ومع هذا، إذا لم ينتهك المحتوى سياسات Meta، فإنها تُجري مراجعة قانونية للتأكد من صلاحية البلاغ وتبذل العناية الواجبة بشأن حقوق الإنسان بما يتماشى مع سياسة حقوق الإنسان الخاصة بالشركة.

طرح المجلس ‏16 سؤالاً كتابيًا على شركة Meta. تناولت الأسئلة عمليات Meta فيما يتعلق بالطلبات الحكومية لمراجعة المحتوى، واستعانة Meta ببنوك خدمة مطابقة الوسائط للإنفاذ على نطاق واسع وممارسات الإنفاذ على مستوى الحساب. أجابت Meta عن 15 سؤالًا ورفضت تقديم نسخة من طلب مراجعة المحتوى الذي تلقته من سلطة إنفاذ القانون في ولاية أوديشا في هذه الحالة.

7. التعليقات العامة

تلقى مجلس الإشراف 88 تعليقًا عامًا على صلة بهذه الحالة. تم تقديم 31 تعليقًا من دول آسيا والمحيط الهادئ والأوقيانوس، و42 تعليقًا وسط وجنوب آسيا، وثمانية تعليقات من أوروبا، وتعليق واحد من أمريكا اللاتينية والكاريبي، وتعليق واحد من الشرق الأوسط وشمال أفريقيا، وخمسة تعليقات من الولايات المتحدة وكندا. يتضمن هذا المجموع 32 تعليقًا عامًا عبارة عن تعليقات مكررة أو تعليقات مقدمة دون موافقة على نشرها أو تمت الموافقة على نشرها ولكنها لا تستوفي شروط المجلس لنشر التعليقات. يمكن تقديم التعليقات العامة إلى المجلس مع الموافقة أو عدم الموافقة على نشرها، أو الموافقة أو عدم الموافقة على نسبتها إلى أصحابها.

تناولت التعليقات المقدمة الموضوعات التالية: السياق الاجتماعي والسياسي في الهند، ولا سيّما فيما يتعلق بمختلف الجماعات الإثنية والدينية؛ والسياسات الحكومية ذات الصلة ومعاملة الجماعات الإثنية والدينية المختلفة؛ ودور منصات وسائل التواصل الاجتماعي، ولا سيّما منصات Meta، في الهند؛ وما إذا كان من المرجّح أن يحرّض المحتوى الذي يصوّر العنف الطائفي في أوديشا على ارتكاب أعمال عنف على أرض الواقع؛ وكيف يجب على شركات وسائل التواصل الاجتماعي التعامل مع الطلبات الحكومية لمراجعة و/أو إزالة المحتوى؛ وأهمية تقارير الشفافية، ولا سيّما فيما يتعلق بالطلبات الحكومية؛ ودور وسائل الإعلام والاتصالات في زيادة العنف والتمييز في الهند؛ وأهمية تحليل القرائن السياقية والإشارات على أرض الواقع عند تقييم مدى احتمال أن يحرّض أحد عناصر المحتوى على ارتكاب أعمال عنف على أرض الواقع؛ والمخاوف بشأن حملات التضليل المنسقة عبر الإنترنت والتي تهدف إلى نشر الكراهية ضد مجموعات إثنية ودينية محددة.

لقراءة التعليقات العامة المقدمة في هذه الحالة، يرجى النقر هنا.

قدّم المجلس أيضًا طلبات للحصول على المعلومات إلى العديد من الولايات والسلطات في وسط الهند. واقتصرت الردود المقدمة على معلومات عن السياق المحلي في وقت نشر المحتوى الذي تتم مراجعته في هذه الحالة وإجراءات الحظر في سامبالبور بولاية أوديشا.

8. تحليل مجلس الإشراف

حلَل مجلس الإشراف سياسات Meta بشأن المحتوى، ومسؤولياتها تجاه حقوق الإنسان وقيمها لتحديد ضرورة حذف هذا المحتوى. وأجرى المجلس أيضًا تقييمًا للآثار التي تمثلها هذه الحالة بالنسبة إلى نهج Meta الأوسع في إدارة المحتوى، لا سيّما في السياقات التي تنطوي على عنف طائفي مستمر.

اختار المجلس هذه الحالة كفرصة لتقييم سياسات Meta وممارساتها في الإشراف على المحتوى الذي يصوّر حالات العنف الطائفي. علاوة على ذلك، فإن توفر للمجلس فرصة لمناقشة طبيعة التحريض على الإنترنت وتقديم إرشادات إلى Meta بشأن كيفية التعامل مع هذا التحريض. أخيرًا، تسمح الحالة للمجلس بفحص مدى امتثال Meta لمسؤولياتها تجاه حقوق الإنسان في حالات النزاع والأزمات بوجه أعم.

8.1 الامتثال لسياسات المحتوى لدى Meta

1. قواعد المحتوى

العنف والتحريض

وجد المجلس أن المنشور قد انتهك معيار المجتمع بشأن العنف والتحريض والذي تزيل بموجبه Meta "المحتوى الذي يمثل تهديدًا جديًا لأمن الفرد أو المجتمع". وتحظر السياسة على وجه التحديد [ال]تهديدات التي قد تفضي إلى الموت (والأشكال الأخرى من أعمال العنف شديدة الخطورة) ...والتي تستهدف الأشخاص أو الأماكن حيث يتم تعريف التهديد بأنه" "دعوات لارتكاب أعمال عنف شديدة الخطورة". بموجب هذه السياسة، يتم اعتبار المحتوى الذي يتضمن دعوات لارتكاب أعمال عنف مخالفًا عندما يتضمن تهديدًا جدّيًا. عند تحديد جدّية التهديد، تنظر Meta في اللغة والسياق للتفرقة بين التهديدات والعبارات العفوية. وجدت الأغلبية أن للعوامل التالية أهمية في هذه الحالة: عدم استقرار الأوضاع واستمرار العنف في أوديشا في وقت نشر المحتوى؛ وطبيعة الموكب الديني والدعوات إلى ارتكاب أعمال عنف شديدة الخطورة في مقطع الفيديو؛ وطبيعة سرعة واتساع نطاق انتشار المحتوى المماثل الذي يتم نشره على المنصة (على النحو الموضح في القسم 2 أعلاه). استنادًا إلى هذه العوامل، ترى أغلبية أعضاء المجلس أن المحتوى قد شكّل دعوة جدّية لارتكاب أعمال عنف.

يصوّر المحتوى في هذه الحالة مشهد عنف يدعو فيه حشدًا يسير في موكب ديني الأشخاص إلى رشق شخص غير محدد يقف في شرفة المبنى الذي يظهر في الخلفية ("الشخص المستهدف") بالحجارة/القرميد ("عنف شديد الخطورة"). تقوم Meta تحت تعريف "الشخص المستهدف" المقدم إلى مراجعي المحتوى أي "شخص"، بما في ذلك الأشخاص المجهولين، ويتم تعريفه بأنه "شخص حقيقي لم يتم تحديده بالاسم أو الصورة". ينص تعريف Meta لمصطلح "العنف شديد الخطورة" على أنه "أي عنف من المحتمل أن يكون مميتًا. توجه Meta مشرفي المحتوى لديها إلى "اعتبار التهديد شديد الخطورة" حال عدم تأكدهم "مما إذا كان التهديد شديد أو متوسط الخطورة". بالنظر إلى استيفاء جميع المتطلبات، تجد أغلبية أعضاء المجلس أن المحتوى ينتهك خط السياسة ذي الصلة لمعيار المجتمع بشأن العنف والتحريض.

تحظى العوامل السياقية بأهمية كبيرة في هذه الحالة. لقد انتشرت حوادث الرشق بالحجارة على نطاق واسع وجرى تنظيمها أثناء المواكب ولوحظ أنها تثير العنف بين الهندوس والمسلمين (انظر على سبيل المثال، PC-14070)، خاصة عندما تتداخل المهرجانات الدينية الهندوسية والإسلامية. وكما ورد في القسم 2 أعلاه، تشير التقارير إلى أن هذه المواكب تعرض رموزًا مرتبطة بالقومية الهندوسية (على سبيل المثال، أعلام بلون الزعفران) وتكون مصحوبة بدعوات مستترة لارتكاب أعمال عنف (هتاف "جاي شري رام") ضد الأقليات، لا سيّما المسلمين. علاوة على ذلك، يدرك المجلس أن منصات وسائل التواصل الاجتماعي - وخاصة مشاركة مقاطع الفيديو التي تصوّر أعمال التحريض - تُستخدم في هذا السياق، للتعبئة والتحريض على العنف على نطاق أوسع، وتحديدًا من خلال "البث المباشر" ومنشورات الفيديو (المرجع نفسه) على نحو مماثل للفيديو المعني في هذه الحالة. وقد تزايد خطر وقوع أعمال عنف شديدة الخطورة في هذه الحالة حيث أدى التجمع والعنف الناتج عن التحريض إلى وقوع وفيات وإصابات وأضرار في الممتلكات، كما تم توضيحه في القسم 2 أعلاه. وبالتالي، كان من المرجّح أن يؤدي المحتوى إلى مزيد من أعمال العنف شديدة الخطورة.

على الرغم من قطع حكومة أوديشا لخدمات الإنترنت، يلاحظ المجلس حقيقة أنه تمت إزالة العديد من المنشورات التي تضمنت نفس الفيديو من منصات Meta، وذلك في ضوء إعدادات بنك خدمة مطابقة الوسائط. ومن المثير للاهتمام ما أخبرت به Meta المجلس من أن الفيديو الأصلي الذي تم تصعيده بعد إبلاغ سلطات إنفاذ القانون في أوديشا عنه "كان ينتشر بسرعة" عند مراجعته وكان يتضمن عددًا كبيرًا من التعليقات المخالفة". وكما ذُكر في القسم 2 أعلاه، وردت تقارير عن حملات منسقة تهدف إلى نشر المعلومات المغلوطة المعادية للمسلمين والخطاب الذي يحض على الكراهية ضدهم.

في إرشادات الإنفاذ التي توفرها لمراجعي المحتوى، تسمح Meta بنشر "المحتوى المخالف إذا تمت مشاركته في سياق الإدانة أو تعزيز الوعي". تعرِّف Meta سياق تعزيز الوعي على أنه ذلك الذي "يسعى بوضوح إلى إخبار وتثقيف الآخرين بشأن موضوعات أو قضايا معينة؛ أو المحتوى الذي يتحدث عن تجربة المرء كهدف للتهديد أو العنف. وهو ما قد يتضمن التقارير الأكاديمية والإعلامية". أخبرت Meta المجلس أن "هذه الاستثناءات مصممة للحد من انتشار المحتوى الذي يحرض على العنف ويمكن أن تكون له عواقب على أرض الواقع مع السماح في الوقت ذاته بمساحة للخطاب المضاد غير الداعم الذي يهدف إلى تثقيف الأشخاص أو تحذيرهم من التهديدات الصادرة عن جهات خارجية".

ويلاحظ المجلس أنه على الرغم من أن المستخدم شارك المحتوى بعد وقت قصير من اندلاع أعمال العنف في سامبالبور بولاية أوديشا، فقد كان مصحوبًا بشرح توضيحي محايد ("سامبالبور" - اسم المدينة التي وقعت فيها أحداث العنف). وبالنظر إلى الشرح التوضيحي المحايد وعدم وجود قرائن سياقية تشير إلى اتجاه مختلف، يخلُص المجلس إلى أن المحتوى "لم يكن يهدف بوضوح إلى إعلام وتثقيف الآخرين حول موضوع أو قضية معينة" أو "الحديث عن تجربة المرء في كونه هدفًا لتهديد أو عنف". ويرى المجلس أن المحتوى بالهيئة التي نُشر عليها لا يندرج تحت استثناء تعزيز الوعي بمعيار المجتمع بشأن العنف والتحريض. وبالنظر إلى مخاطر الضرر، وعلى النحو الذي تمت مناقشته في القسم 8.2 أدناه، فقد اعتبر المجلس أن خطر الضرر يفوق قيمة المصلحة العامة للمنشور. لذلك، لا ينبغي تطبيق استثناء الأهمية الإخبارية في هذه الحالة.

من هذا المنطلق، خلُصت أغلبية أعضاء المجلس إلى أنه بالنظر إلى السياق المحيط بنشر المحتوى سواء على الإنترنت أو على أرض الواقع، والتوترات والعنف المتصاعدين اللذين كانا لا يزالان مستمرين في سامبالبور بولاية أوديشا وقت النشر، وعدم وجود أي مؤشر على إمكانية تطبيق أي من استثناءات السياسة، فإن المحتوى يشكل خطرًا جدّيًا ومحتملاً قد يسفر عن تفاقم أعمال العنف، أو يشكّل تهديدًا جدّيًا أو دعوة لارتكاب أعمال عنف ضد الطوائف الدينية المنخرطة في المواجهة في سامبالبور. وبالتالي، فإن إزالته تتفق مع سياسة Meta بشأن للعنف والتحريض.

على النقيض من الأغلبية، لم تتمكن الأقلية من تحديد أي مؤشرات سياقية تدعم الاعتقاد بأن إعادة نشر الفيديو الذي يصوّر مشهدًا لموكب بالدراجات النارية في أوديشا أقناء مهرجان هانومان جايانتي الديني "تشكّل دعوة جدّية للعنف". تلاحظ الأقلية عدم وجود دليل يدعم التأكيد على أن المستخدم كان يُصدر هذه الدعوات التي ظهرت في الفيديو أو يؤيدها. إن تفسير منشور من هذا النوع، بشكل مجرد، باعتبار أنه "دعوة جدّية للعنف" هو معيار يمكن تطبيقه لحظر إعادة نشر أي مشهد تقريبًا يصوّر التحريض، بغض النظر عن هدف أو غرض هذا المنشور.

تعتقد الأقلية، على الرغم من ذلك، أنه كان يمكن إزالة المنشور في هذه الحالة بشكل صحيح بموجب معيار مجتمع Meta بشأن العنف والتحريض لسبب مختلف. تلاحظ الأقلية أن معيار المجتمع بشأن العنف والتحريض لا يذكر ما إذا كانت منشورات "التحريض المصوّر" محظورة أم لا. من وجهة نظر الأقلية، لا يمكن اعتبار "التحريض المصوّر" الذي يشكّل تكرار أو إعادة عرض أو إعادة سرد أو أي تصوير آخر لأوجه تعبير سابقة (على سبيل المثال، نشر فيديو أو موضوع إخباري أو مقطع صوتي أو أي محتوى آخر) بشكل صحيح نوعًا من التحريض في حد ذاته. ويختلف "التحريض المصوّر" اختلافًا جوهريًا عن التحريض الأصلي، أي التعبير المنقول بغرض التحريض على إلحاق الضرر وتحقيق هذه الغاية (على سبيل المثال، مقطع فيديو يدفع المشاهدين إلى ارتكاب أعمال تخريبية أو منشور مكتوب يشجع على تنفيذ هجمات انتقامية). ويمكن مشاركة المنشورات التي تتضمن تحريضًا مصوّرًا بهدف تعزيز الوعي، أو مناقشة الأحداث الأخيرة، أو الإدانة، أو التحليل، ويجب ألا يتم تفسيرها على أنها تشكّل تحريضًا ما لم يتم استيفاء شروط محددة.

في حين يحظر معيار المجتمع بشأن العنف والتحريض صراحةً صور ومقاطع فيديو حالات الخطف السابقة، فإنه لا يتناول صور ومقاطع فيديو أفعال التحريض السابقة. ويمكن تفسير المعيار على أنه لا يغطي الصور ومقاطع الفيديو السابقة لعمليات التحريض. خلُصت الأقلية، على الرغم من ذلك، إلى أنه يمكن تطبيق سياسة العنف والتحريض بشكل صحيح على "التحريض المصوّر" عند استيفاء أي من الشروط التالية: 1) إذا كان نشر التحريض المصوّر يدل على وجود نية واضحة للتحريض؛ أو 2) إذا كان النشر أ) لا يتضمن أي قرائن سياقية تشير إلى إمكانية تطبيق أحد استثناءات السياسة مثل تعزيز الوعي أو نشر التقارير الإخبارية؛ وب) وجود دليل على أنه تمت مشاركة منشورات تتضمن محتوى مماثل بهدف التحريض على العنف أو أسفرت عن وقوع أعمال عنف. تم استيفاء الشروط الواردة في النقطة (2) في هذه الحالة، مما يجعل إزالة المحتوى من الأمور المسموح بها.

تعتقد الأقلية في المجلس أنه سيكون من المهم توضيح معيار المجتمع بشأن العنف والتحريض لينص على أن السياسة لا تنطبق فقط على المحتوى المنشور للتحريض على العنف، وإنما تنطبق أيضًا على "التحريض المصوّر"، ويُقصد به المنشورات التي تشارك فقط عناصر محتوى تصوّر حالات تحريض سابقة بموجب الشروط المذكورة أعلاه.

2. إجراء الإنفاذ

تستعين Meta ببنوك خدمة مطابقة الوسائط لاكتشاف المحتوى المطابق أو شبه المطابق لعناصر المحتوى التي تقرر في السابق أنها مخالفة من الصور ومقاطع الفيديو والنصوص. بإمكان هذه البنوك مطابقة منشورات المستخدمين مع المحتوى الذي سبق تمييزه كمخالف بواسطة فِرق Meta الداخلية.

أوضحت Meta أنه يمكن تكوين بنوك خدمة مطابقة الوسائط بحيث تتخذ إجراءات مختلفة بمجرد اكتشاف المحتوى المودع بتلك البنوك. في هذه الحالة، أبلغت Meta المجلس أنه تم إعداد بنك خدمة مطابقة الوسائط بحيث يزي جميع نسخ الفيديو عالميًا، بغض النظر عن الشرح التوضيحي، نظرًا للمخاطر التي يشكلها هذا المحتوى على السلامة. بعبارة أخرى، يتم تطبيق عملية الإزالة الشاملة هذه على جميع مقاطع الفيديو المطابقة، حتى إذا كانت تندرج تحت استثناءات Meta المتمثلة في تعزيز الوعي والإدانة ونشر التقارير الإخبارية. ذكرت Meta أيضًا أن بنك خدمة مطابقة الوسائط هذا تحديدًا "تم إعداده لاتخاذ إجراء دون تطبيق إنذار".

يسلط المجلس الضوء على التأثير الملموس لإجراء الإنفاذ الذي اتخذته Meta تجاه المستخدمين الذين ينشرون عناصر محتوى مطابقة لأغراض تعزيز الوعي والإدانة. أبلغت Meta المجلس أن قرار الشركة بإزالة كل نسخ مقطع الفيديو لم يكن محددًا بوقت (أو بمواقع جغرافية معينة)، وأنه لا توجد خطط في الوقت الحالي للتراجع عن إجراء الإنفاذ هذا. ويتناول المجلس قرار الإنفاذ الذي اتخذته Meta بمزيد من التفصيل أدناه، بموجب القسم 8.2 في سياق تحليل "الضرورة والتناسب".

8.2 الامتثال لمسؤوليات شركة Meta تجاه حقوق الإنسان

حرية التعبير (المادة 19 من العهد الدولي الخاص بالحقوق المدنية والسياسية)

تنص المادة 19، الفقرة 2، من العهد الدولي الخاص بالحقوق المدنية والسياسية على ضرورة توفير حماية واسعة "لحرية التعبير وتلقِّي المعلومات من مختلف ضروب الأفكار والآراء التي يمكن نقلها إلى الآخرين"، بما في ذلك "الخطاب السياسي" و"الخطاب الديني" و"الصحافة" بالإضافة إلى التعبير الذي قد يعتبره الأشخاص "مسيئًا للغاية" ( التعليق العام رقم 34، (2011)، الفقرة 11). يتضمن الحق في حرية التعبير الحق في التماس المعلومات (التعليق العام رقم 34، (2011)، الفقرتان 18-19).

عند فرض الدولة لقيود على حرية التعبير، يجب أن تفي تلك القيود بمتطلبات الشرعية والهدف المشروع والضرورة والتناسب (المادة 19، الفقرة 3، العهد الدولي الخاص بالحقوق المدنية والسياسية). وتتم الإشارة إلى هذه المتطلبات غالبًا باسم "الاختبار الثلاثي". جرى اقتراح هذا الاختبار الثلاثي من قبل مقرر الأمم المتحدة الخاص المعني بحرية التعبير كإطار تسترشد به الممارسات التي تتبعها المنصات للإشراف على المحتوى ( A/HRC/38/35). يستخدم المجلس إطار العمل هذا لتفسير التزامات Meta الطوعية تجاه حقوق الإنسان، سواء فيما يتعلق بقرارات المحتوى الفردي التي تخضع للمراجعة وما يعكسه ذلك عن نهج Meta الأوسع تجاه إدارة المحتوى. وكما ذكر مقرر الأمم المتحدة الخاص المعني بحرية التعبير أنه على الرغم من أن "الشركات لا تتحمل التزامات الحكومات، لكن تأثيرها من النوع الذي يتطلب منها تقييم نفس النوع من الأسئلة المتعلقة بحماية حقوق مستخدميها في حرية التعبير" (A/74/486، الفقرة 41). في هذه الحالة، طبّق المجلس الاختبار الثلاثي ليس فقط على قرار Meta بإزالة المحتوى المعني، بل أيضًا على قرار الشركة بالإزالة التلقائية لمقاطع الفيديو المطابقة للمقطع الذي يتم تحليله بواسطة المجلس، بغض النظر عن الشرح التوضيحي المصاحب.

1. الشرعية (وضوح القواعد وسهولة الوصول إليها)

يتطلب مبدأ الشرعية بموجب القانون الدولي لحقوق الإنسان أن تكون القواعد التي تحد من حرية التعبير واضحة ومتاحة لعامة الجمهور (التعليق العام رقم 34، الفقرة 25). إن القواعد التي تقيد حرية التعبير "يجب ألا تمنح الأشخاص المسؤولين عن تنفيذ القانون سلطة تقديرية مطلقة في تقييد حرية التعبير" وأن توفر "إرشادات كافية للأشخاص المسؤولين عن إنفاذها حتى تتيح لهم التأكد من ضروب التعبير المقيدة وغير المقيدة بشكل صحيح" (المرجع نفسه). بتطبيق ذلك على القواعد التي تحكم الخطاب على الإنترنت، قال مقرر الأمم المتحدة الخاص المعني بحرية التعبير إن هذه القواعد يجب أن تكون واضحة ومحددة ( A/HRC/38/35، الفقرة 46). يجب أن يتمكن الأشخاص الذين يستخدمون منصات Meta من الوصول إلى هذه القواعد وفهمها، ويجب أن تتوفر لمراجعي المحتوى إرشادات واضحة بشأن إنفاذها.

يرى المجلس أن حظر المحتوى الذي يدعو إلى ارتكاب أعمال عنف شديدة الخطورة، كما هو مطبق على وقائع هذه الحالة، ضد أهداف غير محددة بالإضافة الشروط التي يتم بموجبها الحظر هي أمور واضحة بما فيه الكفاية.

يلاحظ المجلس أن استثناء "تعزيز الوعي" بموجب معيار المجتمع بشأن العنف والتحريض لا يزال غير متاح في الصيغة المعلنة لعامة الجمهور من هذه السياسة. بعبارة أخرى، لا يزال المستخدمون غير مدركين أن المحتوى المخالف مسموح به إذا تمت مشاركته في سياق الإدانة أو تعزيز الوعي، وهو ما قد يمنع المستخدمين من بدء مناقشات تتناول الصالح العام على منصات Meta أو المشاركة فيها. لذلك، يكرر المجلس توصيته رقم 1 من حالة "القصيدة الروسية"، والتي يحث فيها المجلس Meta على أن تضيف إلى الصياغة المعلنة لمعيار مجتمعها بشأن العنف والتحريض أن تفسير الشركة لهذه السياسة ينص على أنها تسمح "بالإشارة الحيادية إلى نتيجة محتملة لإجراء أو تحذير استشاري" وتسمح بالمحتوى الذي "يدين التهديدات بارتكاب أعمال عنف أو يعزز الوعي بشأنها".

أخيرًا، يلاحظ المجلس أن قرار Meta بإزالة كل مقاطع الفيديو المطابقة بغض النظر عن الشرح التوضيحي المصاحب يستند إلى استثناء "روح السياسة"، وهو استثناء غير واضح وغير متاح للمستخدمين، مما يثير مخاوف جدّية في ظل اختبار الشرعية. وفي هذا الشأن، ترى أقلية من أعضاء المجلس أيضًا أن إشارة Meta ذاتها إلى أن عمليات الإزالة الجماعية مبررة بواسطة "روح" سياسة العنف والتحريض كاعتراف ضمني بأن السياسة ذاتها في صيغتها المكتوبة لا تكفل عمليات الإزالة الجماعية هذه. ويوضح قرار الشركة بعدم فرض إنذارات ضد المستخدمين على أساس المحتوى الذي تمت إزالته اعتراف Meta بأن نشر هذا النوع من المحتوى لا يمكن أن يُفسّر بشكل عادل على أنه انتهاك للسياسة. تعزز هذه العوامل ما خلُصت إليه الأقلية من أن الشركة، باعترافها افتراضيًا، قد فشلت في تلبية متطلبات اختبار الشرعية فيما يتعلق بإجراء الإنفاذ الأوسع نطاقًا الذي اتخذته في هذه الحالة.

يكرر المجلس توصيته رقم 1 في حالة "المستحضرات الدوائية في سريلانكا"، والتي حث المجلس فيها شركة Meta على توفير مزيد من الوضوح للمستخدمين والتوضيح في الصفحة المقصودة لمعايير المجتمع، بنفس الطريقة التي تتبعها مع استثناء الأهمية الإخبارية، أنه قد يتم إصدار استثناءات من معايير المجتمع عندما تسعى مبادئ السياسة للمعايير المعنية، وقيم Meta، إلى تحقيق نتيجة تختلف عن تلك التي ستتحقق عند التطبيق الصارم للقواعد. أوصى المجلس Meta أيضًا بتضمين رابط إلى صفحة مركز الشفافية التي توفر معلومات عن استثناء "روح السياسة". ويعتقد المجلس أن تنفيذ هذه التوصية سيعالج القضايا المثيرة للقلق فيما يتعلق بوضوح وإمكانية الوصول إلى نهج الإنفاذ الأوسع لشركة Meta في هذه الحالة.

في حين أن سياسة العنف والتحريض لا تحدد ما إذا كان "التحريض المصوّر" محظورًا أم لا، تعتقد الأقلية في المجلس أن مثل هذا الحظر - في ظل ظروف محدودة - يمكن استنتاجه من السياسة الحالية ولكن يجب توضيحه بشكل صريح. وتشير الأقلية إلى أن سياسة العنف والتحريض يجب أن تنص بوضوح على الظروف التي تنطبق فيها على المحتوى الذي يصوّر التحريض فقط ("التحريض المصوّر"). وترى الأقلية أن السياسة وأغراضها، على النحو الذي طُبقت فيها على هذه الحالة، واضحة بما فيه الكفاية للوفاء بمتطلبات الشرعية.

2. الهدف المشروع

يجب أن يسعى أي تقييد لحرية التعبير أيضًا إلى تحقيق "هدف مشروع". وتهدف سياسة العنف والتحريض إلى "منع أي ضرر محتمل على أرض الواقع" وإزالة المحتوى الذي يشكّل "خطرًا حقيقيًا بوقوع ضرر بدني أو تهديدات مباشرة للسلامة العامة". إن حظر الدعوات إلى العنف على المنصة لضمان سلامة الأشخاص يُشكّل هدفًا مشروعًا بموجب الفقرة 3 من المادة 19، لأنه يحمي "حقوق الآخرين" في الحياة (المادة 6 من العهد الدولي الخاص بالحقوق المدنية والسياسية)، وفي حرية الدين أو المعتقد (المادة 18 من العهد الدولي الخاص بالحقوق المدنية والسياسية).

3. الضرورة والتناسب

يقتضي مبدأ الضرورة والتناسب أن تكون أي تقييدات يتم فرضها على حرية التعبير "مناسبة لتحقيق وظيفة الحماية المنوطة بها، ويجب أن تكون أقل الوسائل تدخلاً مقارنة بغيرها من الوسائل التي يمكن أن تحقق النتيجة المنشودة؛ ويجب أن تكون متناسبة مع المصلحة التي ستحميها" (التعليق العام رقم 34، الفقرة 34).

أثناء تحليل المخاطر التي يُشكّلها المحتوى الذي ينطوي على عنف، يسترشد المجلس باختبار العوامل الستة الموصوف في خطة عمل الرباط، والذي يتناول الدعوة إلى الكراهية القومية أو العرقية أو الدينية التي تُشكّل تحريضًا على العداء أو التمييز أو العنف. واستنادًا إلى تقييم العوامل ذات الصلة، لا سيّما السياق والمحتوى والشكل، إلى جانب احتمالية حدوث الضرر ومدى كونه وشيكًا، والتي نتناولها بمزيد من التفصيل أدناه، يرى المجلس أن إزالة المنشور المعني تتفق مع مسؤوليات Meta تجاه حقوق الإنسان لأنه يُشكّل ضررًا وشيكًا ومحتملاً.

يعرض مقطع الفيديو مشهد عنف خلال موكب ديني بين شخص يقف أعلى مبنى مجاور والأشخاص المشاركون في المسيرة وهم يهتفون "جاي شري رام". ويحيط المجلس علمًا بتقارير الخبراء، التي تمت مناقشتها في القسم 2 أعلاه، والتي تفيد بأن "جاي شري رام" - والتي يمكن ترجمتها حرفيًا إلى "التحية للإله رام" (إله هندوسي) - قد تم استخدامها في المواكب الدينية كما هو موضح في مقطع الفيديو كتعبير مستتر لتعزيز العداء ضد الأقليات، وخاصة المسلمين. وقد نشر المستخدم المحتوى بعد يوم واحد من اندلاع أعمال العنف في سامبالبور في وقت كان الوضع فيه لا يزال غير مستقر. ويشير المجلس أيضًا، كما هو موضح في القسم 2 أعلاه، إلى أن هذا التجمع الديني في سامبالبور، بولاية أوديشا قد أدى إلى اندلاع أعمال عنف وحالة وفاة، وأعقب هذه الأحداث اعتقالات وقطع خدمات الإنترنت. ويدرك المجلس العلاقة بين المواكب الدينية والعنف الطائفي ويسلط الضوء على أن رشق الحجارة أثناء المواكب له طبيعة واسعة الانتشار ومنظمة لوحظ أنها تؤدي إلى أعمال عنف بين الهندوس والمسلمين (راجع على سبيل المثال، PC-14070).

بالنظر إلى السياق على الإنترنت أو على أرض الواقع المحيط بنشر المحتوى، والتوترات والعنف المتصاعدين اللذين كانا لا يزالان مستمرين في أوديشا في الفترة التي تم فيها نشر الفيديو، وعدم وجود أي مؤشر على إمكانية تطبيق أي استثناء سياسي، يجد المجلس أن إزالة المنشور بموجب معيار المجتمع بشأن العنف والتحريض كانت ضرورية ومتناسبة. وبالنظر إلى السياق غير المستقر في أوديشا وقت إنشاء المنشور، فقد شكّل الفيديو خطرًا جدّيًا ومحتملاً لزيادة العنف.

يوافق المجلس من هذا المنطلق على إزالة Meta لمقطع الفيديو في هذه الحالة، نظرًا للعوامل السياقية وعدم وجود غرض واضح لتعزيز الوعي (كما تمت مناقشته في القسم 8.1 أعلاه). ويشير المجلس أيضًا إلى أن الشركة أضافت مقطع الفيديو الموجود في المحتوى الذي تم تصعيده في الأصل إلى بنك من بنوك خدمة مطابقة الوسائط تم تعيين إعداداته بحيث يزيل جميع المنشورات المماثلة التي تحتوي على مقطع الفيديو نفسه بغض النظر عن الشرح التوضيحي المصاحب للمنشورات. ويتضمن ذلك المنشورات التي تهدف إلى تعزيز الوعي و/أو الإدانة و/أو نشر التقارير الإخبارية - وكلها استثناءات لمعيار المجتمع بشأن العنف والتحريض.

تعتقد أغلبية أعضاء المجلس أن التحديات المتمثلة في الإشراف على المحتوى على نطاق واسع لها أهمية كبيرة في تقييم قرار الإنفاذ الأوسع هذا. وقد اتخذت Meta هذا القرار لإزالة محتوى شكّل خطرًا جدّيًا ومحتملًا قد يؤدي إلى مزيد من العنف في لحظة شهدت توتر وعنف متصاعد. وفي مثل هذه اللحظات، يعد توقيت اتخاذ Meta لإجراءات الإنفاذ أمرًا جوهريًا. وكما أكد المجلس سابقًا، لا مفر من حدوث أخطاء في ظل إشراف Meta على مئات الملايين من المنشورات كل شهر. وفي حين تترك عمليات الإزالة الخاطئة للمحتوى غير المخالف (النتائج الإيجابية الخاطئة) تأثيرًا سلبيًا على التعبير، فإن ترك التهديدات بالعنف والتحريض عن طريق الخطأ (النتائج السلبية الخاطئة) يمثل مخاطر كبيرة على السلامة ويمكن أن يمنع المستهدفين من المشاركة (راجع حالات "المنشورات التي تناقش الإجهاض في الولايات المتحدة"). ونظرًا لحجم المخاطر على السلامة التي أحاطت بنشر مقطع الفيديو هذا، في فترة شهدت تصاعد في التوترات والعنف المستمر في أوديشا، كان قرار Meta بإزالة مقاطع الفيديو المطابقة بغض النظر عن أي شرح توضيحي مصاحب، ودون تطبيق إنذارات لمعاقبة المستخدمين، أمرًا ضروريًا ومتناسبًا لمعالجة المخاطر المحتملة لهذا المحتوى الذي تتم مشاركته على نطاق واسع.

بالإضافة إلى العوامل السياقية الموضحة في القسم 2 والقسم 8.1 أعلاه، تشير أغلبية أعضاء المجلس إلى أن العديد من مقاطع الفيديو المطابقة قد أزيلت من منصات Meta بسبب إعدادات بنك خدمة مطابقة الوسائط، على الرغم من قطع الحكومة لخدمات الإنترنت في سامبالبور. وعلى وجه الخصوص، وفقًا لحيثيات قرار Meta، فإن مقطع الفيديو الذي تم تصعيده في الأصل "كان ينتشر بسرعة" وكان يتضمن "عددًا كبيرًا من التعليقات المخالفة". بموجب القسم 2 أعلاه، يشير المجلس إلى التقارير التي تسلط الضوء على وجود حملات منسقة في الهند لنشر الخطاب الذي يحض على الكراهية والمعلومات المغلوطة ضد المسلمين. وفي القسم نفسه، يشير المجلس أيضًا إلى التقارير التي تفيد بانتشار مقاطع فيديو حول العنف الطائفي بأنماط تحمل بصمات تشير إلى أنها تتم بشكل منسق. وفي هذا الصدد، تلاحظ الأغلبية أنه، كما ذكر المقرر الخاص المعني بحرية الدين أو المعتقد، "تُستغل منصات وسائل التواصل الاجتماعي بشكل متزايد كحيز لقيام الجهات الفاعلة المدنية والسياسية والدينية بالتحريض على الكراهية والعنف". وفي سياق متصل، أثيرت مخاوف "بشأن انتشار الكراهية الحقيقية والمصطنعة ضد الأقليات الدينية في الهند" ( A/75/385، الفقرة 35). وتدرك الأغلبية وجود تاريخ من العنف المتكرر والواسع النطاق الذي يستهدف المسلمين، والذي يقال إنه يمارَس دون عقاب.

تقر هذه الأغلبية بالتحديات التي تواجهها Meta في إزالة التهديدات بالعنف على نطاق واسع (راجع حالة "الاحتجاجات في الهند ضد فرنسا"). وعند تحليل صعوبات إنفاذ سياسات Meta على نطاق واسع، أكد المجلس سابقًا أن الخطاب الذي يجرد الأشخاص من إنسانيتهم والذي يتألف من أفعال أو خطاب تمييزي ضمني أو صريح قد يساهم في ارتكاب الفظائع. ولمنع حدوث مثل هذه النتائج، يحق بشكل مشروع لشركة Meta أن تزيل من منصاتها المنشورات التي تشجّع على العنف (راجع حالة "كرتون كنين"). في تفسير معيار المجتمع بشأن الخطاب الذي يحض على الكراهية، يرى المجلس أيضًا أنه، في ظل ظروف معينة، قد يكون الإشراف على المحتوى بهدف معالجة الأضرار التراكمية الناتجة عن الخطاب الذي يحض على الكراهية على نطاق واسع متماشيًا مع مسؤوليات Meta تجاه حقوق الإنسان. ويظل هذا الرأي ثابتًا حتى عندما لا يبدو أن عناصر معينة من المحتوى، عند عرضها بشكل منفصل، تحرّض على العنف أو التمييز بشكل مباشر (راجع حالة "تصوير زوارت بييت"). وبالنسبة لأغلبية أعضاء المجلس، يمكن قول الشيء نفسه، في ضوء السياق المحدد لهذه الحالة، فيما يتعلق بسياسة العنف والتحريض.

على الرغم من ذلك، تشير أغلبية أعضاء المجلس، إلى ضرورة أن تكون إجراءات الإنفاذ واسعة النطاق مثل نهج بنك خدمة مطابقة الوسائط لدى Meta محددة زمنيًا. وبعد تغيّر الوضع في أوديشا وتراجع خطر العنف المرتبط بعنصر المحتوى هذا، يجب على Meta إعادة تقييم إجراءات الإنفاذ التي تتخذها للإشراف على المنشورات التي تتضمن مقطع الفيديو الذي تمت إضافته إلى بنك خدمة مطابقة الوسائط لضمان تطبيق استثناءات السياسة كالمعتاد. وفي المستقبل، يرحب المجلس بالنُهُج التي تحد من إجراءات الإنفاذ الشاملة تلك لتقتصر على نقطة زمنية معينة ويقتصر تطبيقها على المناطق الجغرافية التي تشهد مخاطر متزايدة لوقوع أضرار دون أن تؤثر بشكل غير متناسب على حرية التعبير.

مع هذا، لا تعتقد أقلية أعضاء المجلس أن الإزالة الجماعية الشاملة التي تقوم بها Meta على مستوى العالم لكل مقاطع الفيديو المطابقة التي تصوّر حادثة تحريض سابقة بغض النظر عما إذا تمت مشاركة الفيديو لتعزيز الوعي (على سبيل المثال بواسطة منفذ إخباري) أو الإدانة كانت استجابة متناسبة. إن تعرض مدينة أو تجمع سكني للعنف الطائفي لا يمكن أن يشكّل، في حد ذاته، أساسًا لمثل هذه القيود الشاملة على حرية التعبير باسم تجنب المزيد من هذا العنف. ويفتقر هذا بشكل خاص إلى أي دليل أو حتى سبب للاعتقاد بأن مثل هذه القيود ستؤدي إلى تقليل العنف.

في حالات الصراع العنيف، تعد ضرورة تعزيز الوعي وتبادل المعلومات وتهيئة المجتمعات المحلية للتفاعل مع الأحداث الهامة التي تؤثر عليها أمرًا بالغ الأهمية. إن الإفراط في إنفاذ السياسات بشكل صارم ينذر بخطر ترك المجتمعات الضعيفة في الظلام فيما يتعلق بالأحداث الجارية، مما يخلق إمكانية انتشار الشائعات والمعلومات المغلوطة. والحقيقة أنه من الخطورة بمكان أن نفترض أن حرية الرأي والسلامة هدفان متعارضان بالضرورة، وأنه يجب التضحية بأحدهما من أجل الآخر. وبدلاً من ذلك، كثيرًا ما يكون هذان الهدفان متشابكان بشكل عميق: في حين أن انتشار المحتوى الذي يهدف إلى التحريض قد يؤدي إلى زيادة مخاطر العنف على أرض الواقع، فإن قمع المعلومات يمكن أن يؤدي إلى تقويض السلامة، وغالبًا ما تكون سلامة السكان الضعفاء. وقد تسفر عمليات الإزالة الجماعية الشاملة هذه أيضًا عن خطر التأثير بشكل غير متناسب على الخطاب الصادر عن بعض أطراف النزاع، بطرق قد تزيد من التوترات وتؤجج الدافع إلى العنف. يمكن أن تؤدي عمليات الإزالة الشاملة هذه إلى وضع الأفراد في حالة من الصمت القسري في وقت يحتاجون فيه بشدة إلى طلب المساعدة أو على الأقل الإدلاء بشهادتهم. وفي حالات النزاع العنيف، هناك حاجة ماسة إلى المعلومات والحوار اللذين يمكن الوصول إليهما بسهولة، وهو ما توفر منصات Meta مكانًا رئيسيًا له. إن الاستنتاج بأن حالات النزاع العنيف يمكن، في حد ذاتها، أن تبرِر فرض قيود شاملة على حرية التعبير سيكون خبرًا سارًا للحكومات الاستبدادية والجهات الفاعلة القوية غير الحكومية المشاركة في مثل هذا العنف، وسيشكّل حافزًا لحجب المعرفة عن العالم أو تأخير الوعي حتى تحقق القوى أغراضها.

وتعتقد الأقلية أيضًا أن اتباع سياسة عامة لإزالة كل عناصر المحتوى التي تصوّر التحريض سيتعارض مع الدور الحيوي للمؤسسات الإخبارية في تغطية الأحداث العالمية، مما يحد من انتشار محتواها الإخباري على منصات Meta عندما تتضمن الأحداث المصوّرة فيها عمليات تحريض سابقة على ارتكاب أعمال عنف. ويمكن أن تلعب احتمالية تعزيز الوعي من خلال نشر هذه المعلومات في الوقت المناسب دورًا مهمًا في التخفيف من حدة العنف أو حشد المعارضة له. تشعر الأقلية بالقلق أيضًا من أن عمليات الإزالة الشاملة للمنشورات التي تصوّر التحريض يمكن أن تُضعِف الجهود المبذولة لتحديد ومحاسبة المسؤولين عن التحريض على العنف الفعلي الذي يحدث خارج المنصة. وبالنظر إلى أن سرعة انتشار المنشورات على Meta ومعدلات وصولها تحدث غالبًا في الساعات والأيام التي تلي مشاركة المنشورات مباشرةً، لا تعتقد الأقلية أن حظر "التحريض المصوّر" بشكل شامل على المنصة، حتى لو كان لفترة زمنية محددة، يتوافق مع قيم Meta والتزاماتها تجاه حقوق الإنسان. وتشكّل الرقابة الصارمة على المحتوى، دون مراعاة للدوافع والسياق الذي يتم نشره فيه، تخلفًا عن الوفاء بمسؤوليات Meta تجاه تمسك الشركة بالتزامها الأساسي بحرية الرأي، والتزامها في ضوء حقوق الإنسان الدولية بحماية حرية التعبير. وتشعر الأقلية بالقلق من احتمال أن تتبنى الحكومات القمعية منطق الأغلبية لإضفاء الشرعية على أوامر قطع خدمات الإنترنت وغيرها من أشكال قمع المعلومات التي تخدم مصالحها الذاتية تحت مسمى منع ما يمكن تسميته بتصوير التحريض، لكن ذلك يرقى إلى مستوى المعلومات الآنية التي يمكن أن تنقذ الحياة فيما يتعلق بالعنف ضد المدنيين أو الأقليات.

بالنسبة إلى الأقلية، لا ينبغي أن يذعن المجلس بسهولة لمجرد تقديم Meta لتأكيدات بشأن التحدي المتمثل في اتساع "نطاق" المحتوى لتبرير مثل هذا الحظر الشامل على التعبير، لا سيما في سياق يشهد قطع حكومة ولاية أوديشا لخدمات الإنترنت، وتواصلها مباشرة مع Meta بشأن الإشراف على المحتوى، وفرض حظر على حرية التجمع لمدة عام.

تعتقد الأقلية أنه يجب على شركة وسائل التواصل الاجتماعي التي تعمل عند نطاق معين أن تضمن تطبيق سياساتها على نفس النطاق. بالإضافة إلى ذلك، وكما أشار مقرر الأمم المتحدة الخاص، لدى شركات وسائل التواصل الاجتماعي "مجموعة من الخيارات التي لا تصل إلى درجة الحذف والتي قد تكون متاحة . . . في حالات معينة" ( A/74 /486، الفقرة 51) (مع ذكر خيارات مثل اعتماد قيود جغرافية محددة وتقليل تضخيم أثر المحتوى وإضافة العلامات التحذيرية وتشجيع توجيه الرسائل المضادة، وغير ذلك). ذكر المقرر الخاص أيضًا أنه "مثلما ينبغي للدول تقييم ما إذا كان فرض قيود على الخطاب هو النهج الأقل تقييدًا، ينبغي للشركات كذلك إجراء هذا النوع من التقييم. وعند إجراء التقييم، ينبغي أن تتحمل الشركات عبء إثبات الضرورة والتناسب علنًا". (المرجع نفسه، التشديد مُضاف.) وقد سبق أن دعا للمجلس شركة Meta إلى شرح سلسلة الخيارات المتاحة لها لتحقيق الأهداف المشروعة وتوضيح سبب كون الخيار المحدد هو الوسيلة الأقل تدخلاً (راجع حالة "علاج فيروس كورونا (كوفيد-١٩) المزعوم"). وبالنسبة للأقلية، فإن المعلومات المتوافقة مع الخطوط التي اقترحها المقرر الخاص ستكون مفيدة في تقييم ما إذا كان من الضروري والمتناسب إجراء عملية إزالة جماعية شاملة للمحتوى الرئيسي أثناء وجود أزمة. وعلاوة على ذلك، من خلال المشاركة في مثل هذا الحوار العام مع Meta، يمكن للشركة أن تشرح بمزيد من التفصيل للمجلس والجمهور، لا سيّما في ضوء إنجازاتها المعلنة فيما يتعلق بالذكاء الاصطناعي، الجهود التي تبذلها الشركة لتحسين تقنياتها الآلية لاكتشاف المنشورات التي قد تنطبق عليها استثناءات السياسة.

9. قرار مجلس الإشراف

أيد مجلس الإشراف القرار الذي اتخذته شركة Meta بإزالة المحتوى.

10. التوصيات

قرر مجلس الإشراف عدم إصدار توصيات جديدة في هذا القرار، في ظل إصدار توصيات سابقة ذات صلة في حالات أخرى. ولذلك، يقرر المجلس إعادة التأكيد على التوصيات التالية، كي تتبعها Meta عن كثب:

• التأكد من سماح معيار مجتمعها بشأن العنف والتحريض بالمحتوى الذي يتضمن عبارات تنطوي على "إشارة حيادية إلى نتيجة محتملة لإجراء أو تحذير استشاري" والمحتوى الذي "يدين التهديدات بارتكاب أعمال عنف أو يعزز الوعي بشأنها" (التوصية رقم 1، حالة "القصيدة الروسية"). ويتوقع المجلس أن تنعكس تغييرات السياسة هذه على عمليات الإنفاذ على نطاق واسع لدى Meta، بما في ذلك اكتشاف المحتوى الذي سيتم اتخاذ إجراءات إنفاذ بشأنه، والإنفاذ من خلال أدوات التصنيف/الأتمتة وإرشادات المراجعة المستخدمة من قبل مراجعي المحتوى لدى الشركة.
• توفير مزيد من الوضوح للمستخدمين والتوضيح في الصفحة المقصودة لمعايير المجتمع، بنفس الطريقة التي تتبعها مع استثناء الأهمية الإخبارية، أنه قد يتم إصدار استثناءات من معايير المجتمع عندما تسعى مبادئ السياسة للمعايير المعنية، وقيم Meta، إلى تحقيق نتيجة تختلف عن تلك التي ستتحقق عند التطبيق الصارم للقواعد. أوصى المجلس Meta أيضًا بتضمين رابط إلى صفحة مركز الشفافية التي توفر معلومات عن استثناء "روح السياسة" (التوصية رقم 1، حالة "المستحضرات الدوائية في سريلانكا").

*ملاحظة إجرائية:

يتم إعداد قرارات مجلس الإشراف من قِبل لجان مكونة من خمسة أعضاء ويتم اعتمادها من أغلبية أعضاء المجلس. ولا يلزم بالضرورة أن تُعبّر قرارات المجلس عن وجهات النظر الشخصية لجميع الأعضاء.

بالنسبة إلى القرار المتخذ بشأن هذه الحالة، تم إجراء بحث مستقل نيابة عن المجلس. تلقى المجلس مساعدة من معهد أبحاث مستقل يقع مقره في جامعة جوتنبرج والذي يعتمد على فريق مكون من أكثر من 50 عالم اجتماع من ست قارات، فضلاً عن أكثر من 3200 خبير محلي من جميع أنحاء العالم. وقد تلقى المجلس أيضًا مساعدة من شركة Duco Advisors، وهي شركة تركز على نقطة التقاء الجغرافيا السياسية والثقة والأمان والتكنولوجيا. وقد تم تقديم تحليلات أيضًا بواسطة Memetica، وهي مؤسسة متخصصة في الأبحاث مفتوحة المصدر عن اتجاهات وسائل التواصل الاجتماعي. تم توفير الخبرة اللغوية بواسطة شركة Lionbridge Technologies LLC، التي يتقن المتخصصون بها أكثر من 350 لغة ويعملون من 5000 مدينة في جميع أنحاء العالم.