كارتون كنين

هذا القرار متاح أيضًا باللغتين الصربية والكرواتية.

Да бисте прочитали ову одлуку на српском језику, кликните овде.

Da biste ovu odluku pročitali na hrvatskom, kliknite ovdje.

ملخص الحالة

ألغى مجلس الإشراف قرار شركة Meta الأصلي بترك منشور على فيسبوك يصوّر الصرب على أنهم جرذان. وعلى الرغم من أن Meta قد أزالت المنشور في النهاية بداعي انتهاك سياسة الخطاب الذي يحض على الكراهية، فقد قرر نحو 40 مشرفًا في السابق أن المحتوى لم ينتهك هذه السياسة. وهو ما يشير إلى أن المشرفين قد دأبوا على تفسير سياسة الخطاب الذي يحض على الكراهية باعتبار أنها تستوجب وجود مقارنة صريحة وليست ضمنية بين الصرب والجرذان قبل اتخاذ قرارهم بوجود مخالفة.

حول هذه الحالة

في ديسمبر 2021، نشرت صفحة عامة على فيسبوك نسخة معدّلة من كارتون "The Pied Piper" الذي أنتجته شركة ديزني مع شرح توضيحي باللغة الكرواتية ترجمته Meta على هذا النحو "العازف من تشوفغلاف والجرذان من كنين."

يصوّر الفيديو مدينة تجتاحها الجرذان. وعلى الرغم من أن اسم المدينة في الكارتون الأصلي كما يتضح من اللافتة التي تظهر في مدخل المدينة هو "هاملين"، كان اسم المدينة في الفيديو الذي تم تعديله يشير إلى مدينة "كنين" الكرواتية. ويصف الراوي كيف قررت الجرذان أنها تريد العيش في "بلد لا يعيش به سوى الجرذان"، ولذلك بدأوا في مضايقة سكان المدينة واضطهادهم.

ويتابع الراوي أن الجرذان عندما استولت على المدينة، ظهر عازف ناي من قرية تشوفغلاف الكرواتية. بعد عزف لحن على "الناي السحري"، تبدأ الجرذان في ترديد "أغنيتها المفضلة" وتتبع عازف الناي إلى خارج المدينة. وتخلِّد كلمات الأغنية ذكرى مومسيلو دوجيتش، القس الصربي الأرثوذكسي الذي كان قائدًا لقوات المقاومة الصربية خلال الحرب العالمية الثانية.

يقود عازف الناي الجرذان إلى جرار، والذي يختفي بعد ذلك. يختتم الراوي بأن الجرذان "اختفت إلى الأبد من هذه البلاد" و"عاش الجميع في سعادة إلى الأبد."

شُوهد المحتوى في هذه الحالة أكثر من 380 ألف مرة. وعلى الرغم من قيام المستخدمين بإبلاغ شركة Meta عن المحتوى 397 مرة، لم تقم الشركة بإزالته. وبعد التقدم بطعن إلى المجلس بشأن الحالة، أجرت Meta مراجعة بشرية إضافية، ووجدت، مرة أخرى، أن المحتوى لم ينتهك سياساتها.

في يناير 2022، عندما حدد المجلس الحالة لمراجعتها بالكامل، قررت Meta أنه على الرغم من أن المنشور لم ينتهك نص سياساتها بشأن الخطاب الذي يحض على الكراهية، فقد انتهاك روح السياسة، وقامت بإزالة المنشور من فيسبوك. لاحقًا، عندما أرادت Meta تفسير قرارها إلى المجلس، غيّرت رأيها مرة أخرى، وخلُصت إلى أن المنشور انتهك نص سياسة الخطاب الذي يحض على الكراهية، وأن كل المراجعات السابقة لم تكن صائبة.

في حين أخبرت Meta المستخدمين الذين أبلغوا عن المنشور والبالغ عددهم 397 بقرارها الأولي بأن المحتوى لم يخالف سياساتها، لم تخبر الشركة هؤلاء المستخدمين أنها غيّرت قرارها لاحقًا.

أهم النتائج

يرى المجلس أن المحتوى في هذه الحالة ينتهك معايير مجتمع فيسبوك بشأن الخطاب الذي يحض على الكراهية، وبشأن العنف والتحريض.

تحظر سياسة Meta بشأن الخطاب الذي يحض على الكراهية الهجوم على الأشخاص على أساس سمات تتمتع بحقوق حماية، بما في ذلك العِرق. يعتبر المحتوى في هذه الحالة ازدرائي وبغيض، حيث يتم تشبيه الصرب بالجرذان والاحتفاء بأفعال سابقة تنم عن معاملة تمييزية.

على الرغم من أن المحتوى لا يذكر الصرب بالاسم، يتضح من الإشارات التاريخية الواردة في المحتوى أن الجرذان الذين يتم إخراجهم من المدينة يمثلون هذه المجموعة. إن استبدال الاسم "هاملين" وإحلال اسم مدينة "كنين" الكرواتية محله، ونسبة العازف إلى قرية تشوفغلاف الكرواتية (إشارة إلى أغنية "Bojna Čavoglave" المعادية للصرب التي غنتها فرقة 'Thompson' التي ينتمي مطربها الرئيسي إلى تشوفغلاف) وصورة الجرذان التي تفر على الجرارات تعتبر جميعًا إشارات إلى "عملية العاصفة" التي شنها الجيش الكرواتي. وقد أسفرت هذه العملية التي وقعت عام 1995 حسبما أفادت التقارير عن تهجير مدنيين صرب وإعدامهم وإخفائهم قسريًا. تؤكد تعليقات المستخدمين على المنشور أن هذا الارتباط كان واضحًا للأشخاص الذين شاهدوا المحتوى.

يشعر المجلس بالقلق من أن ما يقرب من 40 مشرفًا ناطقًا باللغة الكرواتية قرروا أن المحتوى لا ينتهك معيار مجتمع فيسبوك بشأن الخطاب الذي يحض على الكراهية. وهو ما يشير إلى أن المراجعين قد دأبوا على تفسير السياسة على أنها تستوجب وجود مقارنة صريحة بين الصرب والجرذان كي يتخذوا قرارهم بوجود مخالفة.

يرى المجلس أيضًا أن المحتوى قد انتهك معيار مجتمع فيسبوك بشأن العنف والتحريض. ولا يتفق المجلس مع تقييم Meta من أن المحتوى يمثل دعوة للطرد دون عنف. من خلال الإشارة إلى أحداث "عملية العاصفة"، يهدف المنشور إلى تذكير الأشخاص بالنزاع السابق ويتضمن تهديدًا عنيفًا. يحتفي الكارتون بالطرد العنيف لسكان "كنين" من ذوي الأصول الصربية وقد يُسهم في خلق مناخ يشعر فيه الأشخاص بالحق في مهاجمة هذه المجموعة.

السؤال الخطير الذي تطرحه هذه الحالة هو لماذا خلُصت Meta إلى أن المحتوى لم ينتهك سياساتها، على الرغم من مراجعته عدة مرات. تُظهر حقيقة عدم إرسال المحتوى إلى فرق Meta المتخصصة لتقييمه قبل وصوله إلى المجلس أن عمليات الشركة لتصعيد المحتوى ليست واضحة وفعالة بشكل كافٍ. ومن هذا المنطلق، يحث المجلس شركة Meta على تقديم معلومات أكثر عن آلية تصعيد المحتوى لديها.

قرار مجلس الإشراف

ألغى مجلس الإشراف قرار شركة Meta الأصلي بإبقاء المحتوى.

وفي صورة رأي استشاري بشأن السياسة، يوصي مجلس الإشراف شركة Meta بما يلي:

• توضيح معيار المجتمع بشأن الخطاب الذي يحض على الكراهية والإرشادات المقدمة للمراجعين، مع توضيح أنه حتى الإشارات الضمنية للمجموعات التي تتمتع بالحماية محظورة بموجب السياسة، عندما يسهل بشكل معقول فهم تلك الإشارات.
• تمشيًا مع التزام Meta بعد حالة "حزام وامبوم" (‎2021-012-FB-UA)، يوصي المجلس Meta بإخطار جميع المستخدمين الذين أبلغوا عن المحتوى إذا أدت مراجعة لاحقة إلى تغيير قرارها الأولي. ينبغي على Meta أيضًا الكشف عن نتائج أي تجارب لتقييم جدوى إدخال هذا التغيير مع الجمهور.

*توفر ملخصات الحالة نظرة عامة على الحالة ولا تُشكّل سابقة قانونية.

القرار الكامل للمجلس بشأن الحالة

1. ملخص القرار

ألغى مجلس الإشراف قرار شركة Meta الأصلي بإبقاء المحتوى على فيسبوك. بعد تلقي أكثر من 390 بلاغًا من المستخدمين لإزالة هذا المحتوى وإجراء Meta مراجعة إضافية للمحتوى عند تحديد المجلس للحالة، وجدت Meta أن المحتوى غير مخالف. مع هذا، عند صياغة تفسير هذا القرار للمجلس، غيرت Meta موقفها وأعلنت عن وجود "خطأ في الإنفاذ" أدى إلى إزالة المحتوى بدعوى انتهاك سياسة الخطاب الذي يحض على الكراهية. يرى المجلس أن المحتوى ينتهك معايير مجتمع Meta بشأن الخطاب الذي يحض على الكراهية، وبشأن العنف والتحريض. ويرى أن سياسة الخطاب الذي يحض على الكراهية وتحديدًا مقارنة الأشخاص بالحيوانات تنطبق على المحتوى الذي يستهدف المجموعات من خلال إشارات ضمنية إلى سمات تتمتع بحقوق حماية. في هذه الحالة، قارن المحتوى الصرب بالجرذان. وجد المجلس أيضًا أن إزالة المحتوى تتفق مع قيم ومسؤوليات Meta تجاه حقوق الإنسان.

2. وصف الحالة ومعلومات أساسية عنها

في أوائل شهر ديسمبر 2021، نشرت صفحة عامة على فيسبوك تصف نفسها بأنها بوابة إخبارية لكرواتيا مقطع فيديو وشرح توضيحي باللغة الكرواتية. وقد قامت Meta بترجمة الشرح التوضيحي إلى: "العازف من تشوفغلاف والجرذان من كنين." وكان مقطع الفيديو عبارة عن نسخة معدلة من كرتون "The Pied Piper" من إنتاج شركة ديزني. كانت مدة الفيديو دقيقتان و10 ثوانٍ، وكان مصحوبًا بتعليق صوتي باللغة الكرواتية تتراكب معه كلمة "pretjerivač"، التي تشير إلى منصة كرواتية على الإنترنت تحمل الاسم نفسه.

صوّر الفيديو مدينة تجتاحها الجرذان. وعلى الرغم من أن اسم المدينة في كارتون ديزني الأصلي كما يتضح من اللافتة التي تظهر في مدخل المدينة هو "هاملين"، كان اسم المدينة في الفيديو الذي تم تعديله يشير إلى مدينة "كنين" الكرواتية. وصف الراوي في بداية الفيديو كيف عاشت الجرذان مع البشر في مدينة كنين الملكية لسنوات عديدة. ويتابع الراوي أن الجرذان قررت أنها تريد العيش في "بلد لا يعيش به سوى الجرذان"، لذلك بدأوا في مضايقة الأشخاص الذين يعيشون في المدينة. ويشرح الراوي بعد ذلك أنه عند استيلاء الجرذان على المدينة، ظهر عازف ناي من قرية تشوفغلاف الكرواتية. في بداية الأمر، لم تأخذ الجرذان وجود عازف الناي على نحو جاد واستمروا في "عدوانهم الجرذاني الشديد". ومع ذلك، بعد أن بدأ العازف بعزف أحد ألحانه على "الناي السحري،" بدأت الجرذان، التي أسرها اللحن، في ترديد "أغنيتها المفضلة" وتبعت عازف الناي إلى خارج المدينة. ترجمت Meta كلمات الأغنية التي غنتها الجرذان على النحو التالي: "ما هذا الشيء الذي يضيء في دينارا، الشارة الملكية التي يضعها دوجيتش على رأسه [...] ستشرق شمس الحرية من دينارا، وسيقوم القائد العسكري مومسيلو بإحضارها." وبعد ذلك صوّر الفيديو أهل المدينة وهم يغلقون البوابة خلف عازف الناي والجرذان. اختتم الفيديو بأن قاد العازف الجرذان إلى جرار، والذي اختفي بعد ذلك. اختتم الراوي تعليقه بأنه ما أن استدرج عازف الناي كل الجرذان إلى "الجرار السحري"، "اختفت الجرذان إلى الأبد من هذه البلاد" و "عاش الجميع في سعادة إلى الأبد".

ترتبط الخلفية التاريخية الواقعية التالية بقرار المجلس. أعلنت كرواتيا استقلالها عن جمهورية يوغوسلافيا الاتحادية الاشتراكية في 25 يونيو 1991. استعانت دولة يوغوسلافيا المتبقية (التي سميت فيما بعد جمهورية يوغوسلافيا الاتحادية)، والتي صارت تتألف في الغالب من ذوي الأصول الصربية والعديد من الأقليات العرقية، بما في ذلك الكروات، بقواتها المسلحة في محاولة لمنع الانفصال. أسفرت الحرب التي تلت ذلك، والتي استمرت حتى عام 1995، عن ارتكاب أعمال وحشية شديدة من كلا الجانبين، بما في ذلك التهجير القسري لأكثر من 200000 من ذوي الأصول الصربية من كرواتيا (تقرير هيومن رايتس ووتش، كرواتيا، أغسطس 1996). عارضت الأقلية العرقية الصربية في كرواتيا، بدعم من الجيش الوطني اليوغوسلافي، استقلال كرواتيا وأنشأت (من بين إجراءات أخرى) كيانًا يشبه الدولة يُعرف باسم جمهورية كرايينا الصربية (RSK). أصبحت كنين عاصمة لجمهورية كرايينا الصربية. خلال تلك الفترة، تم طرد الكثير من الكروات إلى خارج كنين. وفي عام 1995، أعادت القوات الكرواتية احتلال كنين في عملية عسكرية أطلق عليها "عملية العاصفة". وقد كانت هذه العملية هي آخر معركة كبرى في الحرب. ونظرًا لهروب بعض الصرب باستخدام الجرارات، يمكن استخدام الإشارة إلى الجرارات لإذلال الصرب وتهديدهم.

تشوفغلاف هي قرية في كرواتيا بالقرب من كنين، وتشتهر بأنها مسقط رأس المغني والشاعر الغنائي الرئيسي لفرقة Thompson. اشتهرت هذه الفرقة الكرواتية خلال حرب الاستقلال الكرواتية بأغنيتها المعادية للصرب "Bojna Čavoglave"، والتي لا تزال موجودة على الإنترنت إلى الآن. تحتفي الأغنية، التي أضيفت إلى الفيديو وتحتوي على صور عنيفة، باستعادة كنين خلال عملية العاصفة. تم تعريف عازف الناي الذي أخرج الجرذان من كنين في الكارتون بأنه "العازف من تشوفغلاف." يحمل اللحن والكلمات التي غنتها الجرذان في الكارتون معانٍ محددة. كانت الكلمات مأخوذة من أغنية بعنوان "ما هذا الشيء الذي يضيء فوق دينارا،" والتي تخلد ذكرى الماضي الصربي ومومسيلو دوجيتش، القس الصربي الأرثوذكسي الذي كان قائدًا لقوات المقاومة الصربية خلال الحرب العالمية الثانية.

تضم الصفحة التي شاركت المحتوى أكثر من 50 ألف متابع. وتمت مشاهدة المحتوى أكثر من 380 ألف مرة، ومشاركته أكثر من 540 مرة، ونال أكثر من 2400 تفاعل وأكثر من 1200 تعليق. يمتلك معظم المستخدمين الذين تفاعلوا مع المحتوى أو قاموا بالتعليق عليه أو مشاركته حسابات في كرواتيا. من بين التعليقات المكتوبة باللغة الكرواتية عبارات ترجمتها Meta على النحو التالي: "الكراهية مرض" و"هل تفكر في مقدار ما تسببه من ضرر بهذا الفيديو والحماقات المماثلة لشعبك الكرواتي الذي يعيش في صربيا؟"

أبلغ المستخدمون عن المحتوى 397 مرة، لكن Meta لم تقم بإزالته. من بين الأشخاص الذين أبلغوا عن المنشور، اختار 362 مستخدمًا الإبلاغ عنه لانتهاك سياسة الخطاب الذي يحض على الكراهية. تقدم العديد من المستخدمين بطعن على قرار ترك المنشور إلى المجلس. استند القرار إلى طعن مقدم من أحد هؤلاء المستخدمين، والذي يبدو أن حسابه موجودًا في صربيا. تم رفض بلاغ المستخدم تلقائيًا من خلال نظام تلقائي. يتعامل هذا النظام مع البلاغات في الحالات التي تم فحصها بالفعل واعتبارها غير مخالفة من قبل المراجعين البشريين في Meta لعدد معين من المرات، بحيث لا تتم إعادة مراجعة نفس المحتوى. تم تقييم المحتوى في هذه الحالة واعتباره غير مخالف بواسطة العديد من المراجعين البشريين قبل تفعيل القرار التلقائي. بلفظ آخر، على الرغم من مراجعة بلاغ المستخدم الذي أدى إلى هذا الطعن بواسطة نظام تلقائي، فقد تمت مراجعة البلاغات السابقة لنفس المحتوى بواسطة مراجعين بشريين، والذين قرروا أن المحتوى غير مخالف.

بعد أن تقدم المستخدم الذي أبلغ عن المحتوى بطعن إلى المجلس على قرار Meta بعدم اتخاذ أي إجراء، تم إجراء مراجعة بشرية إضافية على مستوى الطعن ووجدت أن المحتوى مرة أخرى لم يخالف سياسات Meta. أوضحت Meta أيضًا أن ما يصل مجموعه إلى نحو 40 "قرارًا من قرارات المراجعين البشريين (...) قيّمت المحتوى على أنه غير مخالف" وأنه "لم يقم أي مراجع بشري بتصعيد المحتوى". تمت معظم هذه المراجعات البشرية على مستوى الطعن. أضافت Meta أن كل المراجعين الذين راجعوا المحتوى من الناطقين باللغة الكرواتية.

عندما أدرج مجلس الإشراف هذه الحالة في قائمته المختصرة المرسلة إلى Meta لتأكيد الأهلية القانونية للمراجعة الكاملة، لم تغير Meta تقييمها للمحتوى، كما تفعل أحيانًا في تلك المرحلة. في نهاية يناير 2022، عندما حدد المجلس هذه الحالة للمراجعة الكاملة، ألقى فريق سياسة المحتوى لدى Meta نظرة أخرى على الحالة. عند هذه النقطة، قررت Meta أن منشور كارتون كنين لم ينتهك نص سياسة الخطاب الذي يحض على الكراهية لكنه انتهك روح السياسة وبالتالي قررت إزالته من فيسبوك. أوضحت Meta أن قرار "'روح السياسة' يتم اتخاذه عندما يوضح قسم مبادئ السياسة بأحد معايير المجتمع أن السياسة تهدف إلى تناول سيناريو معين لا تتناوله صياغة السياسة ذاتها بشكل مباشر. في هذه الظروف، قد نزيل المحتوى رغم ذلك من خلال قرار 'روح السياسة'". لاحقًا، عند صياغة حيثياتها للمجلس، غيّرت Meta رأيها مرة أخرى، وخلُصت هذه المرة إلى أن المنشور انتهك نص سياسة الخطاب الذي يحض على الكراهية، وأن كل المراجعات السابقة لم تكن صائبة.

وفقًا لشركة Meta، لم يتم إخبار المستخدمين البالغ عددهم 397 الذين أبلغوا عن المحتوى إلا بقرارات Meta الأولية التي تفيد بأن المحتوى لم ينتهك سياسات Meta. ولم يتم إخبارهم عندما غيّرت Meta قرارها وأزالت المحتوى. وضّحت Meta أنها، نتيجة لوجود "قيود تتعلق بالإمكانات الفنية والموارد"، لم تخبر المستخدمين عندما يتم تقييم المحتوى المبلغ عنه في بادئ الأمر على أنه غير مخالف ويجب الإبقاء عليه، ثم يتم تقييمه لاحقًا باعتباره مخالفًا وتجب إزالته.

3. سُلطة ونطاق مجلس الإشراف

يتمتع المجلس بسلطة مراجعة قرار شركة Meta بعد تلقي طعن من المستخدم الذي أبلغ عن المحتوى الذي تم تركه (المادة 2، القسم 1 من اتفاقية المجلس؛ المادة 3، القسم 1 من اللائحة الداخلية). يجوز للمجلس تأييد قرار شركة Meta أو إلغائه (المادة 3، القسم 5 من اتفاقية المجلس)، ويكون قراره بهذا الشأن ملزمًا للشركة (المادة 4 من اتفاقية المجلس). يجب على شركة Meta أيضًا تقييم جدوى تطبيق قرارها على أي محتوى مماثل له سياق موازٍ (المادة 4 من اتفاقية المجلس). وقد تتضمن قرارات المجلس بيانات استشارية بشأن السياسية تضم توصيات غير ملزمة يجب على شركة Meta الرد عليها (اتفاقية المجلس، المادة 3، القسم 4؛ المادة 4).

4. مصادر السُلطة

أخذ مجلس الإشراف مصادر السُلطة التالية في الاعتبار:

1. قرارات مجلس الإشراف:

تتضمن أكثر قرارات مجلس الإشراف السابقة ارتباطًا بهذه الحالة ما يلي:

• القرار الصادر بشأن الحالة ‎2021-002-FB-UA ("زوارت بييت"): في هذه الحالة، أشارت أغلبية أعضاء المجلس إلى أن "الإشراف على المحتوى لمعالجة الأضرار التراكمية للخطاب الذي يحض على الكراهية يمكن أن يتفق مع مسؤوليات فيسبوك تجاه حقوق الإنسان في ظروف معينة، حتى إذا كانت حرية التعبير لا تحرض بشكل مباشر على العنف أو التمييز." وجد المجلس أيضًا أن "التدخلات الأقل شدة، مثل التسميات أو الشاشات التحذيرية أو غيرها من إجراءات تقليل الانتشار لم تكن لتوفر الحماية الكافية ضد الآثار التراكمية لترك (...) المحتوى على المنصة."
• القرار الصادر بشأن الحالة ‎2020-003-FB-UA ("الأرمن في أذربيجان"): في سياق اللغة التي تستهدف جماعة معينة استنادًا إلى الأصل القومي خلال فترات النزاع، أشار المجلس إلى أن" تراكم هذا المحتوى حال تركه على المنصة قد يخلق بيئة يزيد فيها احتمال حدوث أعمال تمييز وعنف."
• القرار الصادر بشأن الحالة ‎2021-011-FB-UA ("الإهانات في جنوب أفريقيا"): قرر المجلس أنه تمشيًا مع مسؤوليات Meta تجاه حقوق الإنسان يجوز حظر "بعض أشكال التعبير التمييزي" حتى في حالة "عدم اشتراط أن يحرض هذا التعبير على ارتكاب أعمال عنف أو تمييز."

2. سياسات المحتوى لدى Meta:

تنص مبادئ السياسة في معيار مجتمع فيسبوك بشأن الخطاب الذي يحض على الكراهية على أن الخطاب الذي يحض على الكراهية غير مسموح به على المنصة "لأنه يخلق بيئة من التخويف والإقصاء ويقود في بعض الحالات إلى العنف على أرض الواقع." يعرّف معيار المجتمع الخطاب الذي يحض على الكراهية على أنه هجوم مباشر ضد الأشخاص على أساس سمات تتمتع بحقوق حماية، بما في ذلك العِرق و/أو السلالة و/أو الأصل القومي. تحظر Meta المحتوى الذي يستهدف شخصًا أو مجموعة من الأشخاص على أساس سمة أو سمات تتمتع بحقوق حماية باستخدام "خطاب أو صور تجرد الأشخاص من إنسانيتهم من خلال التعميمات، أو العبارات السلوكية غير المتحفظة التي تصف الأشخاص أو تقارنهم (في شكل مكتوب أو مرئي) بأي مما يلي: الحيوانات التي تعتبر في الثقافة السائدة حيوانات دونية فكريًا أو جسمانيًا." تحظر Meta أيضًا "الإقصاء في شكر دعوات لاتخاذ إجراء أو عبارات تنطوي على نوايا أو تطلعات أو عبارات مشروطة أو عبارات تدعو إلى الإقصاء أو تدعمه، والذي يتم تعريفه بأنه [...] إقصاء صريح، ويعني أشياءً مثل طرد مجموعات معينة أو الإشارة إلى أنها مجموعات غير مسموح بها."

تنص مبادئ السياسية في معيار مجتمع فيسبوك بشأن العنف والتحريض على أن Meta "تهدف إلى منع وقوع أي ضرر محتمل على أرض الواقع على نحو قد يرتبط بفيسبوك" وأنها تقيّد التعبير "عندما تعتقد أن هناك خطرًا حقيقيًا بوقوع ضرر بدني أو تهديدات مباشرة للسلامة العامة". وتحظر Meta على وجه التحديد "العبارات المشفرة التي لا تذكر طريقة العنف أو الأذى بوضوح، لكنها تتضمن تهديدًا خفيًا أو ضمنيًا،" بما في ذلك عندما يتضمن المحتوى "إشارات إلى أحداث عنف [...] تاريخية."

3. قيم شركة Meta:

تم توضيح قيم شركة Meta في مقدمة معايير مجتمع فيسبوك. وقد جرى وصف قيمة "حرية الرأي" بأنها "ذات أهمية قصوى":

• يتمثل هدف معايير مجتمعنا دائمًا في توفير مكان لحرية الرأي يستطيع الأشخاص من خلاله إبداء وجهات نظرهم. [...] ونحن نريد أن يتمتع الأشخاص بالقدرة على التحدث بحرية عن القضايا التي تهمهم، حتى في حالة عدم اتفاق البعض أو اعتراضهم.

تُقيد شركة Meta "حرية الرأي" لخدمة أربع قيم أخرى ترتبط اثنتان منها بهذه الحالة:

• "السلامة": نحن ملتزمون بجعل فيسبوك مكانًا آمنًا. ولا شك أن أشكال التعبير التي تحمل تهديدًا للأشخاص قد تتسبب في إخافة الآخرين أو إقصائهم، أو إسكاتهم ونحن لا نسمح بذلك على فيسبوك.
• "الكرامة": نحن نؤمن بأن الأشخاص متساوون في الكرامة والحقوق. ونتوقع من الجميع احترام كرامة الآخرين وعدم الإساءة إليهم أو الحط من قدرهم.

4. المعايير الدولية لحقوق الإنسان

تُرسي مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان (UNGP)، التي أقرها مجلس حقوق الإنسان التابع للأمم المتحدة عام 2011، إطار عمل تطوعي لمسؤوليات الأنشطة التجارية فيما يتعلق بحقوق الإنسان. في عام 2021، أعلنت شركة Meta عن سياسة حقوق الإنسان الخاصة بالشركة، والتي أعادت التأكيد من خلالها على الالتزام باحترام حقوق الإنسان على نحو يتفق مع مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان. وقد استند تحليل المجلس لمسؤوليات شركة Meta تجاه حقوق الإنسان في هذه الحالة إلى معايير حقوق الإنسان التالية:

• حرية التعبير: المادة 19 من العهد الدولي الخاص بالحقوق المدنية والسياسية (ICCPR)؛ التعليق العام رقم 34، اللجنة المعنية بحقوق الإنسان، 2011؛ تقرير مقرر الأمم المتحدة الخاص المعني بالخطاب الذي يحض على الكراهية، A/74/486، ‏2019؛ تقرير مقرر الأمم المتحدة الخاص المعني بتنقيح المحتوى، A/HRC/38/35، ‏2018؛
• المساواة وعدم التمييز: المادة 2، الفقرة 1 والمادة 26، (العهد الدولي الخاص بالحقوق المدنية والسياسية؛ المادتان 2 و5، الاتفاقية الدولية للقضاء على جميع أشكال التمييز العنصري (ICERD)؛ التوصية العامة رقم 35، لجنة القضاء على التمييز العنصري، CERD/C/GC/35، ‏2013؛
• مسؤوليات الأنشطة التجارية: تقرير الأعمال التجارية وحقوق الإنسان والمناطق المتأثرة بالنزاعات: نحو مضاعفة العمل، تقرير فريق الأمم المتحدة العامل المعني بمسألة حقوق الإنسان والشركات عبر الوطنية وغيرها من مؤسسات الأعمال (A/75/212).

5. المعلومات المقدَّمة من المستخدمين

يذكر المستخدم الذي أبلغ عن المحتوى، وتقدم بطعن إلى المجلس باللغة الكرواتية إن "شخصية عازف الناي أو "Pied Piper" ترمز إلى الجيش الكرواتي، الذي نفذ في عام 1995 عملية طرد للصرب الكرواتيين، والذين تم التعبير عنهم في الفيديو بالجرذان." وفقًا للمستخدم، لم تقم Meta بتقييم الفيديو بشكل صحيح. وذكر المستخدم أن المحتوى يمثل خطابًا يحض على الكراهية على أساس عرقي وأنه يعزز "الكراهية العرقية والدينية في البلقان." وذكر أيضًا أن "هذه البوابة وغيرها من البوابات الكرواتية تأجج التعصب العرقي بين شعبين لا تكاد تندمل بينهما جراح الحرب التي أشار إليها الفيديو."

عندما أخطره المجلس بتحديد هذه الحالة، دُعي المستخدم الذي نشر المحتوى إلى تقديم بيان. وقد رد أحد المسؤولين وأفاد بأنه كان جزءًا من الصفحة فقط كشريك أعمال.

6. المعلومات المقدَّمة من Meta

في حيثياتها إلى المجلس، وصفت Meta عملية مراجعتها لهذا القرار، لكنها ركزت على توضيح أن الأسباب التي استندت إليها في إزالة المحتوى في نهاية الأمر بموجب سياسة الخطاب الذي يحض على الكراهية كانت مبررة. بعد تكرار البلاغات، وجد عدة مراجعين بشريين أن المحتوى غير مخالف. ولم تغير الشركة رأيها إلا بعد تحديد مجلس الإشراف لهذه الحالة. عندئذ، قررت Meta أن المحتوى لم ينتهك نص سياسة الخطاب الذي يحض على الكراهية، لكنها اتخذت قرارًا يستند إلى "روح السياسة" لإزالة المحتوى. عند هذه النقطة، أخبر المجلس Meta بأنه حدد المحتوى لإخضاعه إلى مراجعة كاملة. وعندها، غيّرت Meta رأيها مرة أخرى، وخلُصت هذه المرة إلى أن المحتوى قد انتهك نص هذه السياسة. وعلى وجه التحديد، ذكرت الشركة أن المحتوى قد انتهك خط السياسة التي تحظر المحتوى الذي يستهدف أعضاء جماعة تتمتع بحقوق حماية ويحتوي على "خطاب أو صور تجرد الأشخاص من إنسانيتهم من خلال التعميمات، أو العبارات السلوكية غير المتحفظة التي تصف الأشخاص أو تقارنهم (في شكل مكتوب أو مرئي) بأي من... الحيوانات التي تعتبر في الثقافة السائدة حيوانات دونية فكريًا أو جسمانيًا." في هذا القرار المنقح، ذكرت Meta أن المحتوى كان مخالفًا لأنه تضمن هجومًا مباشرًا ضد الصرب في كنين من خلال مقارنتهم بالجرذان.

وضّحت Meta أن قرارها السابق الذي نص على أن المحتوى قد انتهك فقط "روح" سياسة الخطاب الذي يحض على الكراهية كان يستند إلى افتراض أن صيغة السياسة لا تحظر الهجمات التي تستهدف الأشخاص على أساس سمات تتمتع بحقوق حماية يتم اكتشافها ضمنيًا. بعد إجراء مراجعة إضافية لهذا المنطق، "خلُصت Meta أن من الأدق القول بإن السياسة تحظر أيضًا الهجمات التي تنطوي ضمنيًا" على سمة تتمتع بحقوق حماية.

أشارت Meta أيضًا إلى أن إزالتها للمنشور في النهاية تتسق مع قيم "الكرامة" و"السلامة" التي تقرها الشركة، عند موازنتها مع قيمة "حرية الرأي". وفقًا لشركة Meta، فإن المقارنات الازدرائية التي تقارن الأشخاص بحيوانات تعتبر دونية في الثقافة السائدة قد تسهم في تعريض الأشخاص لمعاملة ضارة ومؤذية على صعيد "الدمج الاجتماعي والسياسة العامة وغيرها من العمليات الأخرى ذات التأثير المجتمعي على المستويات المؤسسية أو الثقافية من خلال التمييز الضمني أو الصريح أو العنف الصريح." أضافت Meta أنه بالنظر إلى تاريخ حالات التوتر العرقي والتمييز المستمر ضد الأشخاص من ذوي الأصول الصربية في كرواتيا، فقد يسهم الفيديو في حدوث أضرار على أرض الواقع. وفي هذا الشأن، أشارت Meta إلى قرار المجلس بشأن حالة "زوارت بييت".

ذكرت Meta أيضًا أن الإزالة تتفق مع المعايير الدولية لحقوق الإنسان. وفقًا لشركة Meta، كانت سياستها "متاحة بسهولة" على موقع مركز شفافية Meta على الويب. وعلاوة على ذلك، فقد كان قرار إزالة المحتوى مشروعًا لحماية "حقوق الآخرين ضد التمييز. أخيرًا، قالت Meta إن قرارها بإزالة المحتوى كان ضروريًا ومتناسبًا لأن المحتوى "لا يسمح للمستخدمين بالتواصل بحرية مع الآخرين دون الشعور بالتعرض للهجوم على أساس هويتهم" ونظرًا "لعدم وجود وسيلة لتقييد هذا المحتوى أقل تدخلاً من الإزالة."

سأل المجلس Meta أيضًا عما إذا كان هذا المحتوى قد انتهك معيار المجتمع بشأن العنف والتحريض. وأجابت Meta بأنه لم ينتهك هذا المعيار لأن "المحتوى لم يتضمن تهديدات أو عبارات تنم عن نية لارتكاب أعمال عنف" ضد الأشخاص من ذوي الأصول الصربية وأن "الإقصاء أو الطرد دون عنف لا يشكل تهديدًا عنيفًا." وفقًا لشركة Meta، لإزالة المحتوى بموجب هذه السياسة "سيكون من الضروري ربط الجرذان في الفيديو بالتهجير العنيف والقسري" للصرب.

7. التعليقات العامة

تلقى مجلس الإشراف تعليقين عامين على صلة بهذه الحالة. تم تقديم أحد التعليقين من منطقة آسيا والمحيط الهادئ والأوقيانوس بينما تم تقديم التعليق الآخر من أوروبا. تناولت المعلومات المقدَّمة في هذه التعليقات الموضوعات التالية: ما إذا كان ينبغي ترك المحتوى على المنصة، وما إذا كانت مقارنة الصرب بالجرذان تنتهك سياسة Meta بشأن الخطاب الذي يحض على الكراهية، واقتراحات بشأن كيفية إنفاذ قواعد المحتوى على فيسبوك بفعّالية أكبر.

لقراءة التعليقات العامة المقدمة في هذه الحالة، يرجى النقر هنا.

8. تحليل مجلس الإشراف

نظر المجلس في مسألة ما إذا كان ينبغي استعادة هذا المحتوى من خلال ثلاث رؤى: سياسات المحتوى لدى شركة Meta، وقيَمها، ومسؤولياتها تجاه حقوق الإنسان.

8.1 الامتثال لسياسات المحتوى لدى شركة Meta

يرى المجلس أن المحتوى في هذه الحالة ينتهك معيار المجتمع بشأن الخطاب الذي يحض على الكراهية. وينتهك أيضًا معيار المجتمع بشأن العنف والتحريض.

الخطاب الذي يحض على الكراهية

تحظر سياسة Meta بشأن الخطاب الذي يحض على الكراهية الهجوم على الأشخاص على أساس سمات تتمتع بحقوق حماية، بما في ذلك العِرق. في هذه الحالة، تنتمي المجموعة التي تعرضت للهجوم إلى أصول صربية تعيش في كرواتيا، وتحديدًا في كنين، وقد جرى استهدافها على أساس أصولها العرقية. في حين لم يذكر الشرح التوضيحي ولا الفيديو العرقية الصربية بالاسم، فإن محتوى الفيديو في سياقه التاريخي، واستبدال اسم "هاملين" باسم "كنين"، وكلمات الأغنية المستخدمة في الفيديو، وتحديد أن عازف الناي من تشوفغلاف مع أغنية فرقة Thompson بشأن عملية العاصفة، واستخدام صورة الجرار هي بلا شك إشارات إلى الصرب المقيمين في كنين. تم تصوير الصرب كجرذان يجب طردهم من المدينة. تؤكد تعليقات المستخدمين على المنشور وكثرة البلاغات التي قدمها المستخدمون أن هذا الارتباط كان واضحًا بما يكفي للأشخاص الذين شاهدوا المحتوى.

يتضمن المحتوى "هجومين" في ضوء تعريف هذا المصطلح في سياسة الخطاب الذي يحض على الكراهية. أولاً، تحظر سياسة الخطاب الذي يحض على الكراهية "مقارنات الأشخاص بالحيوانات التي تعتبر في الثقافة السائدة حيوانات دونية فكريًا أو جسمانيًا." تنص معايير التنفيذ الداخلي لدى شركة Meta، والتي هي بمثابة إرشادات لمراجعي المحتوى، على أن المقارنات "بالهوام" محظورة بموجب هذه السياسة. يحتوي الفيديو على مقارنة مرئية بين الصرب والجرذان. وهو ما يشكل مقارنة ازدرائية تنتهك سياسة الخطاب الذي يحض على الكراهية ومعايير التنفيذ الداخلية.

يرى المجلس أن المقارنات الضمنية المشابهة في هذا المحتوى محظورة بموجب سياسة الخطاب الذي يحض على الكراهية.

وضّحت Meta أن القرارات السابقة بعدم إزالة المحتوى كانت تستند إلىافتراض أن نص السياسة لم يكن ينطبق على الإشارات الضمنية إلى السمات التي تتمتع بحقوق حماية. ولا يتفق المجلس مع هذا الافتراض. يحظر نص السياسة الهجمات التي تستند إلى سمة تتمتع بحقوق حماية بغض النظر عما إذا كانت الإشارات إلى هذه السمات صريحة أو ضمنية. ينص معيار الخطاب الذي يحض على الكراهية على أن المقارنات قد تأخذ شكلاً مكتوبًا أو مرئيًا، مثل الفيديو، وأن صيغة المعيار لا تشترط أن تكون الإشارات إلى المجموعات المستهدفة صريحة. على الرغم من أن هذه القراءة للسياسة تتفق مع نص السياسة ومبادئها، لم تذكر السياسة بوضوح أن الإشارات الضمنية تندرج تحت هذه السياسة أيضًا.

ثانيًا، يتضمن المحتوى دعمًا لطرد الصرب من كنين. وتعرِّف مبادئ معيار المجتمع بشأن الخطاب الذي يحض على الكراهية الهجوم بأنه "خطاب يحض على العنف أو الازدراء أو القوالب النمطية الضارة، أو ينطوي على عبارات دونية أو عبارات ازدراء أو اشمئزاز أو نبذ أو سب أو دعوات للإقصاء أو التمييز." بموجب خط السياسة لمعيار المجتمع بشأن الخطاب الذي يحض على الكراهية والذي تم تطبيقه في هذه الحالة، فإن الإقصاء الصريح يعني دعم "أشياء مثل طرد مجموعات معينة أو الإشارة إلى أنها مجموعات غير مسموح بها." يحتفي الفيديو في هذه الحالة بحادث تاريخي طُرد فيه الصرب قسرًا من كنين ويذكر المحتوى أن سكان البلدة كانوا أفضل حالًا بعد رحيل الجرذان. يحتوي هذا الفيديو على دعم للتطهير العرقي على نحو يخالف معيار المجتمع بشأن الخطاب الذي يحض على الكراهية.

العنف والتحريض

تحظر سياسة العنف والتحريض "المحتوى الذي يهدد الآخرين من خلال الإشارة إلى حوادث عنف تاريخية معروفة." يتضمن كل من الفيديو والشرح التوضيحي إشارات إلى "عملية العاصفة"، وهي عملية عسكرية نُفذت عام 1995 والتي أسفرت حسب التقارير عن تشريد وإعدام واختفاء مدنيين من أصول صربية. في هذا الفيديو، كان اسم المدينة "كنين" وقد فرّ الجرذان على ظهر الجرارات، وهما إشارتان إلى عملية العاصفة. وتوضح تعليقات المستخدمين على المنشور أن هذه الإشارات هي للصرب والكروات.

قد يسهم الفيديو في خلق مناخ يشعر فيه الأشخاص بالحق في مهاجمة الصرب. تم تصميم المنشور لتذكير الأشخاص بالنزاع السابق وإحياء الصراع العرقي، بهدف تخليص منطقة كنين ممن تبقى من الأقلية العرقية الصربية الصغيرة (حول التحريفات التاريخية والقومية الراديكالية في كرواتيا، راجع الرأي الخامس لعام 2021 بشأن كرواتيا والصادر عن اللجنة الاستشارية المعنية بالاتفاقية الإطارية لحماية الأقليات القومية، مجلس أوروبا، بشأن الخطاب الذي يحض على الكراهية على الإنترنت ضد الأشخاص من أصول صربية، راجع تقرير المفوضية الأوروبية لمناهضة العنصرية والتعصب لعام 2018، الفقرة 30). عندما يكون التهديد "خفيًا"، وفقًا لسياسة فيسبوك، فإنه يتطلب "سياقًا إضافيًا لاتخاذ إجراء بشأنه." وكان السياق حاضرًا في هذا المنشور.

لا يتفق المجلس مع تقييم Meta الذي أفاد بأن المحتوى لم يتضمن تهديدات أو تصريحات تنطوي على إبداء النية لارتكاب أعمال عنف، وأن دعوات الإقصاء أو الطرد دون تحديد وسيلة العنف قد لا تشكل تهديدًا عنيفًا. يعتبر الطرد القسري للأشخاص عملاً من أعمال العنف. لا يعتبر استخدام قصة عازف الناي دعوة للطرد السلمي بل إشارة واضحة إلى وقائع عنف تاريخية معروفة، لا سيّما مع وجود صور الجرارات.

وكما يتضح من إبلاغ المستخدمين عن هذا المنشور ومن التعليقات العامة، فإن الجرذان، من وجهة نظر المشاهدين، تعبّر في هذا الكرتون عن السكان الصرب في منطقة كنين، بما في ذلك أولئك الذين بقوا هناك. يحتفي الكرتون بمنتهى الوضوح بطردهم. في سياق قصة عازف الناي، تم تحفيز الجرذان على مغادرة كنين من خلال ناي سحري دون إجبارهم على ذلك بالقوة، لكن الإشارة إلى الجرار هي إشارة إلى الطرد القسري الفعلي المعروف في هذا البلد على نطاق واسع. الجرار عبارة عن استعارة، لكن التهديدات يمكن أن تنتقل من خلال الاستعارة بشكل لا يقل فعّالية عن انتقالها من خلال التصريحات المباشرة.

عملية المراجعة لدى Meta

يهتم المجلس بشكل خاص بالأسباب التي جعلت الشركة تخلُص إلى أن المحتوى لم يكن مخالفًا لهذا العدد الكبير من المرات. كان من المفيد لو ركزت Meta على هذا منذ البداية، بدلاً من التركيز على سبب صحة قرارها المنقح بإزالة المنشور. إذا كانت الشركة ترغب في الحد من مستوى المحتوى المخالف عل منصتها، عليها التعامل مع تحديد المجلس للحالات التي تنطوي على أخطاء في الإنفاذ كفرصة لاستكشاف أسباب هذه الأخطاء.

يلاحظ المجلس تعقيد تقييم الحالات من هذا النوع وصعوبة تطبيق معايير مجتمع فيسبوك مع مراعاة السياق، لا سيّما بالنظر إلى حجم المحتوى الذي يقيمه المراجعون البشريون كل يوم. بسبب هذه التحديات، يرى المجلس أن من المهم بالنسبة إلى شركة Meta أن تحسّن من التعليمات التي تقدمها للمراجعين ومن المسارات والعمليات المتبعة للتصعيد. يعني "التصعيد" للمراجعين البشريين إرسال الحالة إلى فرق Meta المتخصصة لتتولى تقييم المحتوى.

وفقًا للحيثيات التي قدمتها Meta، يُطلب من المراجعين البشريين تطبيق نص السياسة وليس تقييم النية وذلك تجنبًا للذاتية وتحقيقًا لاتساق الإنفاذ. وعلى الرغم من أن الموضوعية والاتساق هدفان مشروعان، يشعر المجلس بالقلق من أن التعليمات المقدمة للمراجعين قد أدت على ما يبدو إلى تقييم ما يقرب من 40 مراجعًا بشريًا للمحتوى بشكل خاطئ على أنه غير مخالف، ولم يتوصل أي مراجع إلى القرار الذي اعتقدت Meta في النهاية أنه القرار الصحيح، وهو الإزالة.

يفترض أن تؤدي إمكانية تصعيد المحتوى إلى نتائج أفضل في الحالات الصعبة. قد تؤدي المراجعة على مستوى التصعيد إلى تقييم النية كما أنها مؤهلة بشكل أفضل لأخذ السياق في الحسبان. تم الإبلاغ عن هذا المحتوى 397 مرة، وكانت معدلات وصوله كبيرة، وأثار أسئلة تتعلق بالسياسة، وتطلب سياقًا لتقييمه وانطوى على محتوى من منصة كرواتية على الإنترنت، والتي كانت، وفقًا للخبراء الذين استشارهم المجلس، موضوعًا لمناقشة عامة وبرلمانية سابقة بشأن حرية الخطاب في سياق السخرية. وعلى الرغم من ذلك، لم يقم أي مراجع بتصعيد المحتوى. أخبرت Meta المجلس أنها تشجع المراجعين على تصعيد "المحتوى الرائج"، والتصعيد في حاله الشك. عرّفت Meta المحتوى الرائج بأنه "أي شيء متكرر بطبيعته (...) جنبًا إلى جنب مع نوع الإجراء المرتبط بالمحتوى (أي ضرر محتمل أو مخاطر مجتمعية (...))". تشير حقيقة عدم تصعيد المحتوى قبل تحديد المجلس للحالة إلى أن مسارات التصعيد غير واضحة وغير فعّالة بالقدر الكافي. لقد شكل الفشل في التصعيد إخفاقًا منهجيًا.

يتمثل أحد العوامل المحتملة لعدم تصعيد المحتوى في هذه الحالة في أن Meta لا توفر للمراجعين على نطاق واسع حدودًا واضحة عندما يكون المحتوى "رائجًا." هناك عامل آخر ربما يكون قد أسهم في تحديد المراجعين للمحتوى على أنه "رائج" - وبالتالي تصعيده - وهو نظام المراجعة التلقائي الذي استخدمته Meta في هذه الحالة. وضّحت Meta أنها تستخدم الأنظمة التلقائية للرد على البلاغات عند وجود عدد معين من القرارات التي تحدد أن المحتوى غير مخالف خلال فترة زمنية معينة لتجنب إعادة المراجعة.

يشعر المجلس بالقلق تجاه مسارات التصعيد لدى شركة Meta، ويشير إلى ضرورة توفير الشركة لمزيد من المعلومات بشأنها. يجب أن تدرس الشركة ما إذا كانت المسارات الإضافية لتصعيد المحتوى ضرورية وما إذا كان النظام التلقائي المستخدم في هذه الحالة يمنع تصعيد المحتوى واسع الانتشار الذي غالبًا ما يتم الإبلاغ عنه.

كشفت الحالة أيضًا عن وجود أخطاء في عمليات الإبلاغ والطعن لدى شركة Meta. ويشعر المجلس بالقلق بشأن عدم إخطار شركة Meta للمستخدمين عندما غيرّت رأيها بشأن الحالة. يجب إرسال تحديث إلى المستخدم الذي أبلغ عن المحتوى وتم تقييمه في بادئ الأمر باعتباره غير مخالف ليترك بموجب ذلك على المنصة، ثم تم تقييمه لاحقًا باعتباره مخالفًا وتمت إزالته.

8.2 الامتثال لقيم شركة Meta

يرى المجلس أيضًا أن إزالة المحتوى تتسق مع قيم Meta المتمثلة في "حرية الرأي" و"الكرامة" و"السلامة".

ويدرك المجلس أن "حرية الرأي" هي أهم قيمة لدى شركة Meta، لكن الشركة تسمح بتقييد حرية التعبير لمنع الإساءة وغيرها من أشكال الضرر داخل الإنترنت وخارجه. قد يرى الأشخاص المستهدفون بالصور النمطية الازدرائية والسلبية أيضًا أن "حرية الرأي" لديهم قد تأثرت، لأنه قد يكون لاستخدامها تأثير إسكات على أولئك المستهدفين ويمنع مشاركتهم على فيسبوك وInstagram. من خلال السماح بمشاركة هذه المنشورات، قد تسهم Meta بخلق بيئة تمييزية.

يرى المجلس أن قيم "الكرامة" و"السلامة" ذات أهمية كبيرة في هذه الحالة. في هذا الشأن، أشار المجلس إلى التزايد المستمر في حالات العنف البدني ضد الصرب في كرواتيا (الرأي الخامس لعام 2021 الصادر عن مجلس أوروبا بشأن كرواتيا، الفقرة 116). وهو ما برر تنحية قيمة "حرية الرأي" الخاصة بالمستخدم وإحلال حماية "حرية الرأي" و"الكرامة" و"السلامة" الخاصة بالآخرين محلها.

8.3 الامتثال لمسؤوليات شركة Meta تجاه حقوق الإنسان

خلُص المجلس أيضًا إلى أن إزالة المنشور من المنصة تتفق مع مسؤوليات Meta كشركة تجاه حقوق الإنسان. ألزمت شركة Meta نفسها باحترام حقوق الإنسان بموجب مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان (UNGP). وتنص سياسة حقوق الإنسان الخاصة بالشركة على أن ذلك يتضمن العهد الدولي الخاص بالحقوق المدنية والسياسية (ICCPR).

حرية التعبير (المادة 19 من العهد الدولي الخاص بالحقوق المدنية والسياسية)

إن نطاق الحق في حرية التعبير هو نطاق واسع. توفر المادة 19، الفقرة 2، من العهد الدولي الخاص بالحقوق المدنية والسياسية حماية أكبر للتعبير عن القضايا السياسية، ومناقشة الدعاوى التاريخية (التعليق العام رقم 34، الفقرتان 20 و49). تنص المادة 19 من العهد الدولي الخاص بالحقوق المدنية والسياسية على أنه عند فرض الدولة لقيود على حرية التعبير، يجب أن تفي تلك القيود بمتطلبات الشرعية والهدف المشروع والضرورة والتناسب (المادة 19، الفقرة 3، العهد الدولي الخاص بالحقوق المدنية والسياسية). شجّع مقرر الأمم المتحدة الخاص المعني بحرية التعبير شركات وسائل التواصل الاجتماعي على الاسترشاد بهذه المبادئ عند الإشراف على التعبير على الإنترنت.

1. الشرعية (وضوح القواعد وسهولة الوصول إليها)

يقتضي مبدأ الشرعية أن تكون القواعد التي تستخدمها البلدان للحد من حرية التعبير واضحة ومتاحة لعامة الجمهور (التعليق العام رقم 34، الفقرة 25). ينص معيار الشرعية أيضًا على أن القواعد التي تقيد حرية التعبير "يجب ألا تمنح الأشخاص المسؤولين عن تنفيذ القانون سلطة تقديرية مطلقة في تقييد حرية التعبير" وأن توفر "إرشادات كافية للأشخاص المسؤولين عن إنفاذها حتى تتيح لهم التأكد من ضروب التعبير المقيدة وغير المقيدة بشكل صحيح" (المرجع نفسه.) ويجب أن يكون لدى الأفراد معلومات كافية لتحديد ما إذا كان تعبيرهم مقيدًا والأسباب التي تؤدي إلى تقييده، حتى يتمكنوا من ضبط وتعديل سلوكهم وفقًا لذلك. عند تطبيق قواعد Meta بشأن المحتوى على فيسبوك، يجب أن يتمكن المستخدمون من فهم الأمور المسموح بها والأمور المحظورة، ويجب أن تتوفر للمراجعين إرشادات واضحة بشأن كيفية تطبيق هذه المعايير.

يرى المجلس أن معيار المجتمع بشأن الخطاب الذي يحض على الكراهية يحظر الاستهداف الضمني للمجموعات على أساس سمات تتمتع بحقوق حماية. وهو ما ينطبق على كل من المقارنات الازدرائية بالحيوانات والتصريحات التي تؤيد الإقصاء أو تدعمه. توضح الأخطاء التي وقعت في هذه الحالة أن صياغة السياسة والإرشادات المقدمة للمراجعين ليست واضحة بالقدر الكافي.

في هذه الحالة، قرر نحو 40 مراجعًا بشريًا أن المحتوى لم ينتهك معيار المجتمع بشأن الخطاب الذي يحض على الكراهية. قبل القرار الأخير لشركة Meta، لم يجد أي مراجع بشري أن المحتوى يشكل مخالفة. وهو ما يدل على أن المراجعين قد دأبوا على تفسير السياسة على أنها تستوجب وجود مقارنة صريحة بين الصرب والجرذان كي يتخذوا قرارهم بوجود مخالفة. أخبرت الشركة المجلس في البداية أن روح السياسة تحظر المقارنات الضمنية بالحيوانات، وأخبرته لاحقًا بأن نص السياسة يتضمن المقارنات الضمنية. يدل الإرباك الذي اكتنف هذه العملية على وجود حاجة لوضع سياسة وإرشادات تنفيذ أوضح.

2. الهدف المشروع

وقد أقر المجلس في السابق بأن معيار المجتمع بشأن الخطاب الذي يحض على الكراهية ومعيار المجتمع بشأن العنف والتحريض يسعيان إلى تحقيق هدف مشروع يتمثل في حماية حقوق الآخرين. تتضمن هذه الحقوق الحق في المساواة وعدم (المادة 2، الفقرة 1 من العهد الدولي الخاص بالحقوق المدنية والسياسية، والمادتان 2 و5 من الاتفاقية الدولية للقضاء على جميع أشكال التمييز العنصري) وممارسة حقوقهم في حرية التعبير على المنصة دون التعرض للإساءة أو التهديد (المادة 19 من العهد الدولي الخاص بالحقوق المدنية والسياسية).

3. الضرورة والتناسب

كي تعتبر القيود التي تفرض على التعبير ضرورية ومتناسبة، يجب أن تكون هذه القيود "مناسبة لتحقيق وظيفتها الحمائية، ويجب أن تكون أقل الوسائل تدخلاً مقارنة بغيرها من الوسائل التي يمكن أن تحقق النتيجة المنشودة؛ ويجب أن تكون متناسبة مع المصلحة التي ستحميها" (التعليق العام رقم 34، الفقرة 34). أشار مقرر الأمم المتحدة الخاص المعني بحرية التعبير أيضًا إلى أنه على وسائل التواصل الاجتماعي، "يمثل حجم وتعقيد التعامل مع التعبير الذي يحض على الكراهية تحديات طويلة الأجل" (A/HRC/38/35، الفقرة 28). مع هذا، وفقًا للمقرر الخاص، ينبغي على الشركات "إثبات ضرورة وتناسب أي إجراءات متعلقة بالمحتوى (مثل إزالة المحتوى أو تعليق الحسابات)." علاوة على ذلك، فإن الشركات مطالبة "بتقييم نفس النوع من الأسئلة المتعلقة بحقوق مستخدميها في حرية التعبير" (المرجع نفسه، الفقرة 41).

يحدد معيار مجتمع فيسبوك بشأن الخطاب الذي يحض على الكراهية أشكالاً معينة من التعبير التمييزي، بما في ذلك المقارنة بالحيوانات والدعوات إلى الإقصاء، ولا يُشترط في ذلك أن يحرض التعبير على ارتكاب أعمال عنف أو تمييز. أوضح المجلس سابقًا، استنادًا إلى توجيهات مقرر الأمم المتحدة الخاص، أنه في حين أن مثل هذه المحظورات من شأنها أن تثير مخاوف إذا فرضتها الحكومات على مستوى أوسع، لا سيّما إذا تم فرضها من خلال عقوبات جنائية أو مدنية، يمكن لفيسبوك تنظيم مثل هذا التعبير، مع إثبات ضرورة وتناسب الإجراء (راجع القرار الصادر بشأن حالة "الإهانات في جنوب أفريقيا").

يعتبر المحتوى في هذه الحالة ازدرائي وبغيض، حيث يقارن الصرب بالجرذان ويحتفي بأفعال سابقة تنم عن معاملة تمييزية. كان المجلس سيتوصل إلى نتيجة مماثلة بشأن أي محتوى يستهدف مجموعة عرقية بهذه الطريقة، لا سيّما في منطقة لها تاريخ حديث من الصراع العرقي. يرى المجلس أن إزالة المحتوى من المنصة كانت ضرورية لمعالجة الأضرار الجسيمة الناتجة عن الخطاب الذي يحض على الكراهية على أساس الانتماء العرقي.

نظر المجلس في العوامل الواردة في خطة عمل الرباط (خطة عمل الرباط، المفوضية السامية للأمم المتحدة لحقوق الإنسان، A/HRC/22/17/ملحق.4، 2013) في توجيه تحليله، مع مراعاة الفروق بين التزامات الدول في القانون الدولي ومسؤوليات الشركات تجاه حقوق الإنسان . تتحمل Meta مسؤولية "السعي إلى تجنب التسبب في حدوث آثار سلبية تتعلق بحقوق الإنسان والتخفيف من حدتها عندما ترتبط ارتباطًا مباشرًا بعملياتها أو منتجاتها أو خدماتها" (مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان، المبدأ 13). ركز المجلس في تحليله على السياق الاجتماعي والسياسي، والنية، والمحتوى وشكل الخطاب ومدى انتشاره.

فيما يتعلق بالسياق، ترتبط الحالة بمنطقة شهدت مؤخرًا صراعًا عرقيًا وحالة من الخطاب الذي يحض على الكراهية على الإنترنت وحوادث تمييز ضد الأقليات العرقية في كرواتيا (راجع القسم 8.1. تحت عنوان العنف والتحريض). ويهدف إلى تأجيج الكراهية العرقية، وهو ما قد يسهم في اتخاذ الأفراد لإجراءات تمييزية. يحظى شكل التعبير وانتشاره الواسع بأهمية أيضًا. تمت مشاركة الفيديو بواسطة مسؤول إحدى الصفحات، وهي وفقًا للإفادات التي حصل عليها المجلس من الخبراء، بوابة إخبارية كرواتية معروفة بمشاعرها المضادة للصرب. يمكن أن يكون الشكل الكرتوني الذي اتخذه الفيديو ضارًا بشكل خاص لأنه ذو طابع جذاب. وقد حظي الفيديو بانتشار واسع. في حين تم إنشاء الفيديو بواسطة شخص آخر، من المحتمل أن تكون شعبية الصفحة (التي تضم أكثر من 50000 متابع) قد زادت من مدى وصول الفيديو، لا سيّما أنه يعكس مشاهدات الصفحة ومتابعيها. وقد تمت مشاهدة المحتوى أكثر من 380 ألف مرة، ومشاركته أكثر من 540 مرة، ونال أكثر من 2400 تفاعل وأكثر من 1200 تعليق.

في قراره بشأن حالة "الإهانات في جنوب أفريقيا"، قرر المجلس أنه تمشيًا مع مسؤوليات Meta تجاه حقوق الإنسان يجوز حظر "بعض أشكال التعبير التمييزي" حتى في حالة "عدم اشتراط أن يحرض هذا التعبير على ارتكاب أعمال عنف أو تمييز." يشير المجلس إلى أن المادة 20، الفقرة 2، من العهد الدولي الخاص بالحقوق المدنية والسياسية كما تم تفسيرها في خطة عمل الرباط، تتطلب احتمال حدوث ضرر وشيك لتبرير فرض قيود على حرية التعبير. لا يعتقد المجلس أن هذا المنشور من شأنه أن يسفر عن حدوث ضرر وشيك. مع هذا، بإمكان Meta إزالة المنشورات بشكل مشروع من فيسبوك إذا كانت تحرض على العنف بطريقة أقل إلحاحًا. وهو أمر مبرر، لأن مسؤوليات Meta كشركة تجاه حقوق الإنسان تختلف عن التزامات الدول تجاه حقوق الإنسان. يمكن لشركة Meta تطبيق معايير أقل صرامة لإزالة المحتوى من منصتها مقارنة بالمعايير التي تنطبق على الدول التي تفرض عقوبات جنائية أو مدنية.

في هذه الحالة، يؤثر تصوير الصرب كجرذان والدعوة لإقصائهم مع تضمين إشارات إلى أعمال عنف تاريخية في حقوق الأشخاص المستهدفين في المساواة وعدم التمييز. وهو ما يبرر إزالة المنشور. يعتقد الكثير من أعضاء المجلس أن المحتوى كان له تأثير سلبي على حرية التعبير لدى الآخرين على المنصة، لأنه أسهم في خلق بيئة قد يشعر فيها بعض المستخدمين بالتهديد.

يرى المجلس أن إزالة المحتوى من المنصة هي إجراء ضروري ومتناسب. إن التدخلات الأقل شدة، مثل التسميات أو الشاشات التحذيرية أو غيرها من إجراءات تقليل الانتشار لم تكن لتوفر الحماية الكافية ضد الآثار التراكمية لترك محتوى من ها النوع عل المنصة (للاطلاع على تحليل مشابه، راجع حالة "تصوير زوارت بييت").

9. قرار مجلس الإشراف

ألغى مجلس الإشراف قرار شركة Meta الأصلي بترك المحتوى، وطلب إزالة المنشور.

10. البيان الاستشاري بشأن السياسة

سياسة المحتوى

1. ينبغي على Meta توضيح معيار المجتمع بشأن الخطاب الذي يحض على الكراهية والإرشادات المقدمة للمراجعين، مع توضيح أنه حتى الإشارات الضمنية للمجموعات التي تتمتع بالحماية محظورة بموجب السياسة، عندما يسهل بشكل معقول فهم تلك الإشارات. سيعتبر المجلس أن هذه التوصية قد دخلت حيز التنفيذ عندما تقوم Meta بتحديث معايير مجتمعها ومعايير التنفيذ الداخلية لمراجعي المحتوى بحيث تتضمن هذا التنقيح.

الإنفاذ

2. تمشيًا مع التزام Meta بعد حالة "حزام وامبوم" (‎2021-012-FB-UA)، يوصي المجلس Meta بإخطار جميع المستخدمين الذين أبلغوا عن المحتوى إذا أدت مراجعة لاحقة إلى تغيير قرارها الأولي. ينبغي على Meta أيضًا الكشف عن نتائج أي تجارب لتقييم جدوى إدخال هذا التغيير مع الجمهور. سيعتبر المجلس أن هذه التوصية قد دخلت حيز التنفيذ عندما تشارك Meta معلومات بشأن التجارب ذات الصلة وتشارك الإشعار المحدث مع المجلس في النهاية وتؤكد استخدام هذا الإشعار بكل اللغات.

*ملاحظة إجرائية:

يتم إعداد قرارات مجلس الإشراف من قِبل لجان مكونة من خمسة أعضاء ويتم اعتمادها من أغلبية أعضاء المجلس. ولا يلزم بالضرورة أن تُعبّر قرارات المجلس عن وجهات النظر الشخصية لجميع الأعضاء.

بالنسبة إلى القرار المتخذ بشأن هذه الحالة، تم إجراء بحث مستقل نيابة عن المجلس. معهد أبحاث مستقل يقع مقره في جامعة جوتنبرج ويعتمد على فريق مكون من أكثر من 50 عالم اجتماع من ست قارات، فضلاً عن أكثر من 3200 خبير محلي من جميع أنحاء العالم. وقد تلقى المجلس أيضًا مساعدة من شركة Duco Advisors، وهي شركة تركز على نقطة التقاء الجغرافيا السياسية والثقة والأمان والتكنولوجيا. وقد تم تقديم الخبرة اللغوية من شركة Lionbridge Technologies LLC، التي يتقن المتخصصون بها أكثر من 350 لغة ويعملون من 5000 مدينة حول العالم.

العودة إلى قرارات الحالة والآراء الاستشارية المتعلقة بالسياسة