الرسم الكاريكاتوري للشرطة الكولومبية

ملخص الحالة

ألغى مجلس الإشراف قرار Meta الأصلي بإزالة منشور على فيسبوك يتضمن رسمًا كاريكاتوريًا يصوّر عنف الشرطة في كولومبيا. ويشعر المجلس بالقلق بشأن احتمال أن تؤدي بنوك خدمة مطابقة الوسائط، التي يمكنها تلقائيًا إزالة الصور التي تنتهك قواعد Meta، إلى زيادة تأثير القرارات غير الصحيحة بشأن محتوى البنك. واستجابة لهذا، يجب على Meta تحسين إجراءاتها بشكل عاجل لإزالة المحتوى غير المخالف من هذه البنوك سريعًا.

حول هذه الحالة

في سبتمبر 2020، نشر مستخدم على فيسبوك في كولومبيا رسمًا كاريكاتوريًا يشبه الشعار الرسمي للشرطة الوطنية الكولومبية، كان الرسم يصوّر ثلاثة أشخاص يرتدون زي الشرطة ويرفعون الهراوات فوق رؤوسهم. يظهر الأشخاص وهم يقومون بركل وضرب شخص آخر ملقى على الأرض والدم يسيل تحت رأسه. يقول النص الموجود على الشعار باللغة الإسبانية، "República de Colombia - Policía Nacional - Bolillo y Pata." وقد ترجمت Meta النص إلى "الشرطة الوطنية - جمهورية كولومبيا - هراوات وركل."

وفقًا لشركة Meta، في يناير 2022، أي بعد 16 شهرًا من قيام المستخدم بنشر المحتوى، أزالت الشركة المحتوى لأنه تطابق مع صورة في أحد بنوك خدمة مطابقة الوسائط. يمكن لهذه البنوك تلقائيًا اكتشاف وإزالة الصور التي تم قرر مراجعون بشريون أنها تنتهك قواعد الشركة. ونتيجة لتحديد المجلس هذه الحالة، قررت Meta أن المنشور لم ينتهك قواعدها وقامت بإعادته. استعادت الشركة أيضًا عناصر محتوى أخرى تتضمن هذا الرسم الكاريكاتوري والتي أزالتها بالخطأ بنوك خدمة مطابقة الوسائط التابعة للشركة.

أهم النتائج

كما أقرت Meta الآن، لم يكن هذا المنشور ينتهك سياساتها. ولم تكن Meta على صواب عندما أضافت هذا الرسم الكاريكاتوري إلى بنك خدمة مطابقة الوسائط، وهو ما أدى إلى إزالة جماعية وغير متناسبة للصور من المنصة، بما في ذلك المحتوى المنشور بواسطة المستخدم في هذه الحالة. على الرغم من تقدم 215 مستخدمًا بطعون على الإزالة، وقبول 98% من الطعون، لم تقم Meta بإزالة الرسم الكاريكاتوري من هذا البنك إلا بعد وصول الحالة إلى المجلس.

وتوضح هذه الحالة كيف يمكن لبنوك خدمة مطابقة الوسائط، باستخدام الأنظمة الآلية لإزالة المحتوى، زيادة تأثير القرارات غير الصحيحة التي يتخذها المراجعون البشريون الفرديون. وتزداد مخاطر الإضافات الخاطئة لهذه البنوك بشكل خاص، كما في هذه الحالة، عندما يتألف المحتوى من خطاب سياسي ينتقد جهات حكومية.

واستجابة لذلك، ينبغي على Meta وضع آلية تزيل بموجبها سريعًا أي محتوى غير مخالف أضيف بالخطأ إلى بنوك خدمة مطابقة الوسائط. إذا تكرر إلغاء قرارات إزالة المحتوى المتضمن في هذه البنوك من خلال الطعون، يفترض أن يحفز ذلك على الفور عمليات مراجعة قد تسفر عن إزالة هذا المحتوى من البنك.

يشعر المجلس بالقلق بوجه خاص من أن Meta لا تقيس دقة بنوك خدمة مطابقة الوسائط بالنسبة إلى سياسات محتوى محددة. وبدون هذه البيانات التي تحظى بأهمية كبيرة لتحسين طريقة عمل هذه البنوك، لا يمكن للشركة تحديد ما إذا كانت هذه التكنولوجيا تعمل بفعّالية أكبر مع بعض معايير المجتمع دونًا عن المعايير الأخرى.

قرار مجلس الإشراف

ألغى مجلس الإشراف قرار شركة Meta الأصلي بإزالة المحتوى.

وأوصى المجلس Meta بما يلي:

• ضمان إعادة تقييم المحتوى الذي يكثر تقديم طعون بشأنه ويكثر قبول هذه الطعون للنظر في إمكانية إزالته من بنوك خدمة مطابقة الوسائط.
• تقليل المدة الزمنية بين تحديد حاجة المحتوى المضمن في البنوك إلى مراجعة إضافية وإزالته من البنك إذا تبين أنه غير مخالف. ومن المفترض أن يضمن ذلك إزالة المحتوى غير المخالف من بنوك خدمة مطابقة الوسائط سريعًا.
• نشر معدلات الخطأ في إضافة عناصر المحتوى بالخطأ إلى بنوك خدمة مطابقة الوسائط للمحتوى المخالف، مقسمة حسب سياسة المحتوى، وذلك من خلال تقارير الشفافية الصادرة عن الشركة.

*توفر ملخصات الحالة نظرة عامة على الحالة ولا تُشكّل سابقة قانونية.

القرار الكامل للمجلس بشأن الحالة

1. ملخص القرار

قرر مجلس الإشراف إلغاء قرار Meta الأصلي بإزالة منشور على فيسبوك يتضمن رسمًا كاريكاتوريًا يصوّر عنف الشرطة في كولومبيا. يرى المجلس أن الرسم الكاريكاتوري، الذي لم ينتهك أي من معايير مجتمع فيسبوك، قد أضيف بالخطأ إلى أحد بنوك خدمة مطابقة الوسائط لدى شركة Meta مما أدى إلى إزالة المنشور بالخطأ. يمكن لهذه البنوك تلقائيًا اكتشاف وإزالة الصور التي تقرر في السابق أنها تنتهك قواعد الشركة. بعد أن حدد المجلس هذه الحالة، وجدت Meta أن هذا المحتوى غير مخالف وأقرت بأن إزالته قد تمت عن طريق الخطأ. يشعر المجلس بالقلق من أن تضمين محتوى غير مخالف عن طريق الخطأ في بنوك خدمة مطابقة الوسائط يؤدي إلى الإنفاذ بشكل خاطئ وغير متناسب. علاوة على ذلك، فإن الفشل في منع هذا الخطأ أو تصحيحه سريعًا يؤدي إلى تفاقم هذه المشكلة بمرور الوقت. من هذا المنطلق، يجب على Meta تحسين آليات المراجعة التي تتبعها بشكل عاجل لتزيل المحتوى غير المخالف من هذه البنوك سريعًا، ومراقبة أداء هذه الآليات والإعلان عن المعلومات كجزء من جهود الشفافية.

2. وصف الحالة ومعلومات أساسية عنها

في سبتمبر 2020، نشر أحد مستخدمي فيسبوك في كولومبيا صورة لرسم كاريكاتيري كتعليق على منشور مستخدم آخر. يحاكي الرسم الكاريكاتيري الشعار الرسمي للشرطة الوطنية الكولومبية ويصور ثلاثة أشخاص يرتدون زي الشرطة ويرفعون الهراوات فوق رؤوسهم. يظهر هؤلاء الأشخاص وهم يقومون بركل وضرب شخص آخر ملقى على الأرض والدم يسيل تحت رأسه. كما يظهر كتاب وقلم رصاص بجوار الشخص الملقى على الأرض. يقول النص الذي يظهر على الشعار باللغة الإسبانية، "República de Colombia - Policía Nacional - Bolillo y Pata." وقد ترجم فريق الأسواق الإقليمية لدى Meta النص إلى "الشرطة الوطنية - جمهورية كولومبيا - هراوات وركل." تم نشر المنشور أثناء اندلاع احتجاجات واسعة في البلاد في أعقاب عمليات قتل بواسطة الشرطة.

أشارت شركة Meta أنها أزالت المحتوى في يناير 2022، بعد 16 شهرًا من نشره على فيسبوك، لأنه كان يتطابق مع صورة في "بنك خدمة مطابقة الوسائط" لمحتوى ينتهك معيار مجتمع فيسبوك بشأن الأفراد الخطرين والمنظمات الخطرة. تقدم المستخدم بطعن، وأصرت Meta على قرارها بإزالة المحتوى، واستندت في قرار الإزالة بدلاً من ذلك إلى معيار المجتمع بشأن العنف والتحريض. وحين تمت الإزالة، كان المحتوى قد شوهد ثلاث مرات ولم يحصل على أي تفاعلات أو بلاغات من المستخدمين.

نتيجة لتحديد المجلس هذه الحالة، راجعت Meta المحتوى مرة أخرى وقررت أنه لم ينتهك معيار المجتمع بشأن الأفراد الخطرين والمنظمات الخطرة أو معيار المجتمع بشأن العنف والتحريض. وتمت استعادة المحتوى إلى المنصة بعد شهر تقريبًا من إزالته.

أبلغت Meta المجلس أيضًا أنه نتيجة لوجود الصورة في بنك خدمة مطابقة الوسائط، فقد تمت إزالة المحتوى المطابق، بما في ذلك هذه الحالة. قدّم المستخدمون 215 طعنًا على عمليات الإزالة تلك، وقد تم قبول 210 منها، بما يعني أن المراجعين في هذه المجموعة من الحالات قد قرروا أن المحتوى لم يكن مخالفًا. ألغت Meta كل عمليات الإزالة المتبقية وما يقابلها من إنذارات أو تقييد للميزات بعد تحديد المجلس لهذه الحالة.

3. سُلطة ونطاق مجلس الإشراف

يتمتع المجلس بسلطة مراجعة قرار شركة Meta بعد تلقي طعن من المستخدم الذي تعرض المحتوى الخاص به إلى الإزالة (المادة 2، القسم 1 من اتفاقية المجلس؛ المادة 3، القسم 1 من اللائحة الداخلية). يجوز للمجلس تأييد قرار شركة Meta أو إلغائه (المادة 3، القسم 5 من اتفاقية المجلس)، ويكون قراره بهذا الشأن ملزمًا للشركة (المادة 4 من اتفاقية المجلس). يجب على شركة Meta أيضًا تقييم جدوى تطبيق قرارها على أي محتوى مماثل له سياق موازٍ (المادة 4 من اتفاقية المجلس). وقد تتضمن قرارات المجلس بيانات استشارية بشأن السياسية تضم توصيات غير ملزمة يجب على شركة Meta الرد عليها (اتفاقية المجلس، المادة 3، القسم 4؛ المادة 4).

عندما يحدد المجلس حالات مثل هذه الحالة، والتي تقر فيها Meta لاحقًا بارتكاب خطأ، يراجع المجلس القرار الأصلي لزيادة فهم عملية الإشراف على المحتوى التي أدت إلى الخطأ وتقديم توصيات هيكلية للحد من الأخطاء ومعاملة المستخدمين بعدالة أكبر في المستقبل.

4. مصادر السُلطة

أخذ مجلس الإشراف مصادر السُلطة التالية في الاعتبار:

1.قرارات مجلس الإشراف:

أكثر قرارات المجلس تعلقًا بهذه الحالة هو القرار الصادر بشأن الحالة "الاحتجاجات في كولومبيا" (‎2021-010-FB-UA). سلّط المجلس في هذا القرار الضوء على المصلحة العامة المترتبة على السماح بالمحتوى الذي ينتقد الحكومة أثناء اندلاع الاحتجاجات، لا سيّما في السياقات التي يتم فيها اتهام الدول بانتهاك حقوق الإنسان.

2.سياسات المحتوى لدى Meta:

ينص معيار مجتمع فيسبوك بشأن الأفراد الخطرين والمنظمات الخطرة على أن Meta "تزيل الإشادة والدعم الموضوعي والتمثيل للمنظمات الخطرة المختلفة."

تنص معيار مجتمع فيسبوك بشأن العنف والتحريض على أن Meta "تهدف إلى منع وقوع أي ضرر محتمل على أرض الواقع على نحو قد يرتبط بفيسبوك" وأنها تقيّد التعبير "عندما تعتقد أن هناك خطرًا حقيقيًا بوقوع ضرر بدني أو تهديدات مباشرة للسلامة العامة".

ينص معيار مجتمع فيسبوك بشأن المحتوى العنيف والصادم على أن Meta "تزيل المحتوى الذي يعظّم العنف أو يحتفي بمعاناة الآخرين وإذلالهم."

3.قيم شركة Meta:

تم توضيح قيم شركة Meta في مقدمة معايير مجتمع فيسبوك، وقد جرى وصف قيمة "حرية الرأي" بأنها "ذات أهمية قصوى." تقيد Meta "حرية الرأي" لخدمة أربع قيم، وهي "المصداقية" و"السلامة" و"الخصوصية" و"الكرامة". وتعتبر "السلامة" و"الكرامة" هي الأكثر ارتباطًا بهذه الحالة.

4.المعايير الدولية لحقوق الإنسان:

تُرسي مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان (UNGP)، التي أقرها مجلس حقوق الإنسان التابع للأمم المتحدة عام 2011، إطار عمل تطوعي لمسؤوليات الأنشطة التجارية الخاصة فيما يتعلق بحقوق الإنسان. في عام 2021، أعلنت شركة Meta عن سياسة حقوق الإنسان الخاصة بالشركة، والتي أعادت التأكيد من خلالها على الالتزام باحترام حقوق الإنسان على نحو يتفق مع مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان.

وقد استند تحليل المجلس لمسؤوليات شركة Meta تجاه حقوق الإنسان في هذه الحالة إلى معايير حقوق الإنسان التالية التي تم تطبيقها في القسم 8 من هذا القرار:

• الحقوق في حرية الرأي والتعبير: المادة 19 من العهد الدولي الخاص بالحقوق المدنية والسياسية (ICCPR)، التعليق العام رقم 34، اللجنة المعنية بحقوق الإنسان، 2011.

5. المعلومات المقدَّمة من المستخدمين

في بيانه إلى المجلس، أشار المستخدم إلى أنه يشعر بالحيرة فيما يتعلق بسبب إزالة Meta للمحتوى. وقد أوضح المستخدم أن المحتوى يعكس الواقع في كولومبيا وهو أمر مهم للأشخاص المهتمين بالموقف أو المتأثرين به.

6. المعلومات المقدَّمة من Meta

أوضحت Meta في حيثياتها أنها أزالت المحتوى لأنه يتطابق مع صورة أدخلها بالخطأ مراجع إلى بنك خدمة مطابقة الوسائط لمعيارها بشأن الأفراد الخطرين والمنظمات الخطرة. بعد التقدم بطعن، أيدت Meta الإزالة لكنها قررت أن المحتوى انتهك سياستها بشأن العنف والتحريض بدلاً من سياسة الأفراد الخطرين والمنظمات الخطرة. أكدت Meta لاحقًا خطأ قراري إزالة المحتوى. ذكرت الشركة أن سياسة المحتوى العنيف والصادم قد تكون على صلة أيضًا بهذه الحالة لأنها تصوّر هجومًا عنيفًا، لكن ذلك لا ينطبق على الصور من قبيل الرسومات الكاريكاتورية.

وفقًا لشركة Meta، تقوم بنوك خدمة مطابقة الوسائط لديها باكتشاف الوسائط المنشورة على منصتها واتخاذ إجراء بشأنها، كما حدث في الصورة التي بين أيدينا في هذه الحالة. بمجرد اكتشاف المحتوى لإيداعه في البنك، يتم تحويله إلى سلسلة بيانات، أو "تجزئة." وبعد ذلك تقترن التجزئة ببنك معين. تتوافق بنوك خدمة مطابقة الوسائط لدى شركة Meta مع سياسات محتوى معينة مثل الأفراد الخطرين والمنظمات الخطرة أو الخطاب الذي يحض على الكراهية أو عُري الأطفال وإساءة معاملتهم واستغلالهم جنسيًا أو أي أقسام محددة داخل أي من السياسات. في هذه الحالة، ذكرت Meta أن المحتوى كان في أحد بنوك خدمة مطابقة الوسائط المخصص تحديدًا للمنظمات الإجرامية، وهي فئة محظورة بموجب سياسة الأفراد الخطرين والمنظمات الخطرة.

تبعًا للغرض الذي تستخدم فيه Meta البنك المعني، يمكن برمجته لاتخاذ إجراءات مختلفة فور اكتشافه لمحتوى مطابق للمحتوى المودع به. على سبيل المثال، قد تحذف Meta المحتوى المخالف، أو تضيف شاشة تحذيرية له، أو تتجاهله إذا تم إيداعه بالبنك كمحتوى غير مخالف. يمكن أيضًا أن توفر بنوك خدمة مطابقة الوسائط إرشادات لمراجعي المحتوى عند قيامهم بمراجعة المحتوى المودع في البنك.

ذكرت Meta أيضًا أن بنوك خدمة مطابقة الوسائط يمكن أن تتخذ إجراءات في نقاط زمنية مختلفة. على سبيل المثال، يمكن لشركة Meta عمل مسح للصور عند تحميلها لمنع نشر بعض أنواع المحتوى المخالف. ويمكن أيضًا ضبط إعدادات البنوك بحيث تقتصر على اكتشاف والتعامل مع المحتوى الذي تم تحميله حديثًا، أو يمكن استخدامها لعمل مسح للمحتوى الموجود على المنصة.

طرح المجلس على Meta سؤالاً عن كيفية اكتشافها للمحتوى وإضافتها إلى بنوك خدمة مطابقة الوسائط. أوضحت Meta أن المراجعين البشريين الذين يعملون على نطاق واسع يحددون المحتوى المؤهل للإيداع في البنك. وفقًا لشركة Meta، بالنسبة إلى بنوك خدمة مطابقة الوسائط المرتبطة بسياسة الأفراد الخطرين والمنظمات الخطرة، يتم بعد ذلك إرسال المحتوى إلى عملية يُطلق عليها اسم "المراجعة الديناميكية المتعددة،" حيث "يجب أن يوافق اثنان من المراجعين على أحد القرارات كي يتم إيداع عنصر الوسائط في البنك." تصف Meta ذلك الإجراء بأنه حاجز حماية للمساعدة على تلافي الأخطاء.

طرح المجلس أيضًا سؤالاً على Meta بشأن الآليات التي تتبعها لاكتشاف المحتوى المودع في البنك عن طريق الخطأ. ذكرت Meta أن لديها "أنظمة للتنبيه بحالات الانحراف". يتضمن ذلك نظامًا يتم تنشيطه إذا تضمن أحد البنوك محتوى تعتبره Meta واسع الانتشار. ويتضمن كذلك نظامًا لاكتشاف المحتوى المودع في البنك والذي ينطوي على مستوى عالٍ من الطعون المقبولة بعد إزالة المحتوى. وقد كانت هذه الأنظمة نشطة لهذا البنك عند إزالة المحتوى.

ذكرت Meta أن عدد عمليات الإزالة والطعون المقبولة بشأن هذا المحتوى قد أدت إلى إصدار تنبيه إلى فريق الهندسة لدى شركة Meta في توقيت إزالة المحتوى. مع هذا، وبعد شهر، عندما أبلغ المجلس Meta بهذه الحالة، لم تكن الشركة قد راجعت الأمر أو أزالت المحتوى من بنك خدمة مطابقة الوسائط. من غير الواضح ما إذا كان فريق الهندسة هذا قد قام بتنبيه فرق أخرى مسؤولة عن إعادة المراجعة وتحديد ما إذا كان المحتوى مخالفًا أم لا. بينما أشارت Meta إلى أن من المتوقع في بعض الأحيان حدوث تأخير عند مراجعة البلاغات، فإنها لم تقدم للمجلس أي إشارة إلى الوقت الذي كانت ستتعامل فيه مع هذا التنبيه. يشعر المجلس بالقلق تجاه طول مدة هذا الإطار الزمني. يجب على Meta مراقبة المدة التي تستغرقها لإزالة المحتوى الذي أضيف إلى البنك عن طريق الخطأ وإلغاء قرارات الإنفاذ الخاطئة بعد تشغيل التنبيهات وتحديد هدف ملموس لتقليل ذلك الوقت.

أخيرًا، طرح المجلس على Meta سؤالاً عن أدوات القياس التي تستخدمها لتدقيق أداء بنوك خدمة مطابقة الوسائط. ذكرت Meta أنها بوجه عام تراقب الحالات التي تتخذ فيها بنوك خدمة مطابقة الوسائط قرارات إنفاذ خاطئة وتحاول اكتشاف سبب هذه الزيادة في الأخطاء. مع هذا، عادة ما تركز عمليات تقييم التدقيق هذه على البنوك الفردية. نظرًا لأن هذه البنوك يمكن أن تستهدف خطوطًا معينة من السياسات وأن تتم برمجتها لاتخاذ مجموعة متنوعة من الإجراءات المختلفة، فقد يصعب إخراج بيانات ذات مغزى عن الدقة الإجمالية لإنفاذ معيار مجتمع معين أو لبنوك خدمة مطابقة الوسائط بشكل عام من خلال هذه التحليلات. ذكرت Meta أنها تعمل على إنشاء أداة قياس موحدة لمراقبة دقة بنوك خدمة مطابقة الوسائط.

طرح المجلس على Meta ما مجموعه 26 سؤالاً، تمت الإجابة عن 24 منها إجابة كاملة في حين أجيب عن سؤالين إجابة جزئية. وكانت الإجابة الجزئية تتعلق بدقة القياس ومعدلات الخطأ لبنوك خدمة مطابقة الوسائط والمشكلات الفنية المتعلقة بالرسائل التي أرسلتها Meta إلى المستخدم. وفرت Meta أيضًا إحاطة افتراضية لمجموعة من أعضاء المجلس عن بنوك خدمة مطابقة الوسائط.

7. التعليقات العامة

تلقى المجلس أربعة تعليقات عامة على صلة بهذه الحالة. تم تقديم تعليقين من الولايات المتحدة وكندا، وتعليقين من أمريكا اللاتينية ومنطقة الكاريبي. تناولت التعليقات المقدمة استخدام تكنولوجيا مطابقة الوسائط في الإشراف على المحتوى، والسياق الاجتماعي السياسي في كولومبيا، وأهمية وسائل التواصل الاجتماعي في تسجيل عنف الشرطة في التعامل مع المتظاهرين، وكيف ينبغي لسياسات المحتوى التي تفرضها Meta أن تحمي حرية التعبير.

لقراءة التعليقات العامة المقدمة في هذه الحالة، يرجى النقر هنا.

8. تحليل مجلس الإشراف

حدد المجلس هذه الحالة لأنها تنطوي على أحد أشكال التعبير الفني بشأن العنف الذي ترتكبه الشرطة في سياق الاحتجاجات، وهي قضية ملحة على مستوى أمريكا اللاتينية. وفرت هذه الحالة أيضًا فرصة للمجلس لتحليل استخدام Meta لتكنولوجيا خدمة مطابقة الوسائط في الإشراف على المحتوى. نظر المجلس في مسألة ما إذا كان ينبغي استعادة هذا المحتوى من خلال ثلاث رؤى: سياسات المحتوى لدى شركة Meta، وقيَمها، ومسؤولياتها تجاه حقوق الإنسان.

8.1 الامتثال لسياسات المحتوى لدى شركة Meta

1.قواعد المحتوى

يرى المجلس أن إجراءات Meta لم تكن تتسق مع سياسات المحتوى لدى Meta. وكما أقرت Meta، لم ينتهك المحتوى أي من سياسات Meta. وقد كان قرار إضافته إلى أحد بنوك خدمة مطابقة الوسائط والفشل في إلغاء الإزالة التلقائية بعد التقدم بطعن من الأمور الخاطئة.

2.إجراء الإنفاذ

استعادت Meta المحتوى وكافة عناصر المحتوى الأخرى التي تم إزالتها نتيجة الإيداع الخاطئ في بنك خدمة مطابقة الوسائط فقط بعد تحديد المجلس للحالة. وفي ردها على سؤال طرحه المجلس، ذكرت Meta أن لديها آليات للملاحظات لاكتشاف الأخطاء والتوقف عن اتخاذ إجراءات استنادًا إلى المحتوى الذي تم إيداعه في بنك خدمة مطابقة الوسائط عن طريق الخطأ. ومع ذلك، فقد طعن 215 مستخدمًا على عمليات الإزالة، وتم قبول 98‏٪ من هذه الطعون، ولم تؤد أية آلية من آليات الملاحظات إلى إزالة المحتوى من بنك خدمة مطابقة الوسائط قبل وصول الحالة إلى المجلس.

8.2 الامتثال لقيم شركة Meta

وجد المجلس أن القرار الأصلي بإزالة المحتوى لم يكن يتسق مع قيم شركة Meta المتمثلة في "حرية الرأي" وأن إزالته لم تكن مدعومة بأي من قيم Meta الأخرى.

8.3 الامتثال لمسؤوليات شركة Meta تجاه حقوق الإنسان

خلُص المجلس إلى أن قرار Meta الأولي بإزالة المحتوى لم يكن يتسق مع مسؤولياتها كشركة تجاه حقوق الإنسان. ألزمت شركة Meta نفسها باحترام حقوق الإنسان بموجب مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان (UNGP). وتنص سياسة حقوق الإنسان الخاصة بشركة فيسبوك على أن ذلك يتضمن العهد الدولي الخاص بالحقوق المدنية والسياسية (ICCPR).

حرية التعبير (المادة 19 من العهد الدولي الخاص بالحقوق المدنية والسياسية)

تنص المادة 19 من العهد الدولي الخاص بالحقوق المدنية والسياسية على حماية واسعة لحرية التعبير، ويحظى التعبير عن الاهتمامات الاجتماعية أو السياسية بحماية مشددة ( التعليق العام 34، الفقرتان 11 و20). تنص المادة 19 على أنه عند فرض الدولة لقيود على حرية التعبير، يجب أن تفي تلك القيود بمتطلبات الشرعية والهدف المشروع والضرورة والتناسب (المادة 19، الفقرة 3، العهد الدولي الخاص بالحقوق المدنية والسياسية). يستخدم المجلس هذا الإطار كدليل لتحليل إشراف Meta على المحتوى.

1.الشرعية (وضوح القواعد وسهولة الوصول إليها)

ينص متطلب الشرعية على أن تكون أي قيود تُفرض على حرية التعبير متاحة وواضحة بما يكفي لتوفير إرشادات حول الأمور المسموح بها وغير المسموح بها. في هذه الحالة، لم تُنسب إزالة المحتوى بشكل غير صحيح إلى عدم الوضوح أو عدم الوصول إلى السياسات ذات الصلة.

2.الهدف المشروع

ينبغي أن تستند أي قيود مفروضة على حرية التعبير إلى أحد الأهداف المشروعة الواردة في العهد الدولي الخاص بالحقوق المدنية والسياسية، والتي من بينها "حقوق الآخرين". وفقًا لشركة Meta، تسعى سياسات الأفراد الخطرين والمنظمات الخطرة والعنف والتحريض إلى منح حدوث عنف على أرض الواقع. ويرى المجلس باستمرار أن هذه الأهداف تتفق مع مسؤوليات شركة Meta تجاه حقوق الإنسان.

3.الضرورة والتناسب

يقتضي مبدأ الضرورة والتناسب أن تكون أي تقييدات يتم فرضها على حرية التعبير "مناسبة لتحقيق وظيفتها الحمائية، ويجب أن تكون أقل الوسائل تدخلاً مقارنة بغيرها من الوسائل التي يمكن أن تحقق النتيجة المنشودة؛ [و] يجب أن تكون متناسبة مع المصلحة التي ستحميها" (التعليق العام رقم 34، الفقرة 34).

في هذه الحالة، لم تكن إزالة محتوى المستخدم ضرورية لأنها لم تهدف إلى تحقيق أي هدف مشروع. علاوة على ذلك، فقد أتاح تصميم بنوك خدمة مطابقة الوسائط التي تستخدمها شركة Meta للمراجعين إضافة المحتوى بالخطأ إلى البنوك مما أدى إلى إزالة المحتوى المطابق تلقائيًا، على الرغم من أنه غير مخالف. يرى المجلس أن ذلك غير متناسب لأقصى درجة، استنادًا إلى العدد الكبير لعمليات الإزالة في هذه الحالة، حتى بالنظر إلى نطاق العمل الهائل لشركة Meta. على الرغم من إكمال عملية تحقق طويلة من البيانات للتحقق من عدد عمليات الإزالة، فقد منعت Meta المجلس من الإفصاح عن هذا العدد، مستشهدة بمخاوفها من أن هذا العدد لا يعتبر انعكاسًا دقيقًا لجودة أنظمة خدمة مطابقة الوسائط لدى شركة Meta.

يرى المجلس أن إزالة المحتوى في هذه الحالة كانت مثيرة للقلق بشكل خاص لأن المحتوى لمن ينتهك أي من سياسات Meta وإنما تضمن نقدًا لانتهاكات حقوق الإنسان وهو خطاب يتمتع بالحماية. تحظى مشكلة عنف الشرطة باهتمام عام كبير ومُلِّح. أشار المجلس أيضًا في السابق إلى أهمية وسائل التواصل الاجتماعي في مشاركة معلومات عن الاحتجاجات في كولومبيا في الحالة ‎2021-010-FB-UA.

يرى المجلس أن وضع ضوابط كافية تتحكم في إضافة المحتوى إلى تلك البنوك وتدقيقه وإزالته منها هو أمر ضروري بالإضافة إلى فرص الطعون. تزيد هذه البنوك بشكل كبير من نطاق بعض قرارات الإنفاذ، مما يؤدي إلى ترتب عواقب غير متناسبة على الأخطاء. وفيما يتعلق بإضافة المحتوى، وفي ضوء العواقب المترتبة على الإزالة والتي قد تزيد إلى درجة غير متناسبة عند تنفيذها آليًا، يجب على Meta تعزيز الإجراءات لضمان عدم إضافة محتوى غير مخالف. وتزداد مخاطر الإضافات الخاطئة لبنوك خدمة مطابقة الوسائط بشكل خاص، كما في هذه الحالة، عندما يتألف المحتوى من خطاب سياسي ينتقد جهات أو إجراءات حكومية. تعمل بنوك خدمة مطابقة الوسائط على التنفيذ الآلي وتزيد من تأثير القرارات الفردية الخاطئة، ومن المهم لشركة Meta أن تفكر باستمرار للوصول إلى أفضل تدابير تخفف من حدة الأخطاء لمساعدة مراجعيها، بما في ذلك، على سبيل المثال، توظيف المزيد من الأشخاص، والتدريب، والوقت المخصص لمراجعة المحتوى.

فيما يتعلق بالتدقيق والملاحظات، فإن استخدام بنوك خدمة مطابقة الوسائط لإزالة المحتوى مع وجود آليات قليلة أو معيبة لإبداء الملاحظات يثير مخاوف بشأن الإنفاذ الخاطئ غير المتناسب، حيث يتم تضخيم الخطأ الواحد إلى نطاق أكبر بكثير. على الرغم من إبلاغ Meta المجلس أن لديها آليات لتقديم الملاحظات يتم من خلالها اكتشاف وإيقاف اتخاذ إجراءات استنادًا إلى عناصر محتوى أودعت في بنوك خدمة مطابقة الوسائط عن طريق الخطأ، فقد تقدم 215 مستخدمًا بطعون على الإزالة وتم قبول 98‏% من هذه الطعون ومع هذا فقد ظل المحتوى موجودًا في البنك. يجب على Meta ضمان أن يؤدي المحتوى الذي اتخذت إجراءات بشأنه نتيجة وجوده في بنك خدمة مطابقة الوسائط وحقق معدلات إلغاء عالية إلى تنشيط المراجعات على الفور مع احتمال إزالة هذا المحتوى من البنك.

يشعر المجلس بالقلق تحديدًا من عدم وجود أدوات لقياس أداء دقة بنوك خدمة مطابقة الوسائط بالنسبة إلى سياسات محتوى معينة. ودون وجود أدوات قياس موضوعية لمراقبة دقة بنوك خدمة مطابقة الوسائط، لن تكون هناك حوكمة فعّالة حول مدى كون هذه التكنولوجيا أكثر أو أقل فعّالية في التعامل مع سياسات محتوى معينة. كذلك لا توجد معايير محددة للتحسين.

بينما يلاحظ المجلس أن Meta بصدد إنشاء أداة قياس موحدة لمراقبة دقة بنوك خدمة مطابقة الوسائط، فإنه يحث الشركة على إكمال هذه العملية في أقرب وقت ممكن عمليًا. لتمكين وضع أدوات قياس للتحسين، يجب على Meta نشر معلومات عن دقة كل سياسة من سياسات المحتوى التي تستخدم فيها تكنولوجيا مطابقة الوسائط.

يجب أن يتضمن ذلك بيانات عن معدلات الأخطاء للمحتوى غير المخالف الذي أضيف بالخطأ إلى بنوك خدمة مطابقة الوسائط للمحتوى المخالف. ويجب أن يتضمن أيضًا حجم المحتوى المتأثر بالإيداع غير الصحيح في بنوك خدمة مطابقة الوسائط وأهم أمثلة الأخطاء. ستسمح هذه البيانات لشركة Meta بفهم التأثيرات الأوسع لأخطاء إيداع المحتوى في بنوك خدمة مطابقة ووضع أهداف لتقليل تلك الأخطاء. بالإضافة إلى ذلك، ستسمح للمستخدمين بتكوين فهم أفضل عن أخطاء الإنفاذ التلقائي والتعامل معها.

9. قرار مجلس الإشراف

ألغى مجلس الإشراف قرار شركة Meta الأصلي بإزالة المحتوى.

10. البيان الاستشاري بشأن السياسة

الإنفاذ

1. لتحسين قدرة Meta على إزالة المحتوى غير المخالف من البنوك التي تمت برمجتها لاكتشاف المحتوى المخالف وإزالته تلقائيًا، يجب أن تضمن Meta إعادة تقييم المحتوى الذي يتلقى عددًا كبيرًا من الطعون المقبولة للنظر في إمكانية إزالته من بنوك خدمة مطابقة الوسائط. سيعتبر المجلس أن هذه التوصية قد دخلت حيز التنفيذ عندما تقوم Meta بما يلي: (1) الإفصاح للمجلس على معدلات الطعون والطعون المقبولة التي أدت إلى إجراء مراجعة للمحتوى الموجود في بنوك خدمة مطابقة الوسائط، و(2) التأكيد بشكل علني أن آليات إعادة التقييم هذه نشطة لكل بنوك خدمة مطابقة الوسائط التي تستهدف المحتوى المخالف.

2. لضمان سرعة إزالة المحتوى المودع عن طريق الخطأ من بنوك خدمة مطابقة الوسائط التابعة لشركة Meta، ينبغي على الشركة وضع معايير تقلل الوقت المستغرق بين اكتشاف حاجة المحتوى المودع بالبنك إلى إعادة المراجعة وإزالته من البنك إذا تبين أنه غير مخالف والالتزام بتلك المعايير. سيعتبر المجلس أن هذه التوصية قد دخلت حيز التنفيذ عندما تقوم Meta بما يلي: (1) تعيين مستهدف للمدة الزمنية الواقعة بين تنشيط إعادة المراجعة واستعادة المحتوى غير المخالف وإبلاغ المجلس بهذا المستهدف، و(2) تزويد المجلس ببيانات توضح مستوى التقدم فيما يتعلق بتحقيق هذا الهدف خلال العام القادم.

الشفافية

3. لتمكين وضع أدوات قياس للتحسين، يجب على Meta نشر معدلات الخطأ في إضافة عناصر المحتوى بالخطأ إلى بنوك خدمة مطابقة الوسائط للمحتوى المخالف، مقسمة حسب كل سياسة من سياسات المحتوى، وذلك من خلال تقارير الشفافية الصادرة عن الشركة. يجب أن تتضمن هذه التقارير معلومات عن كيفية دخول المحتوى إلى البنوك وجهود الشركة لتقليل الأخطاء في العملية. سيعتبر المجلس هذه التوصية قد دخلت حيز التنفيذ عندما تقوم Meta بتضمين هذه المعلومات في تقرير إنفاذ معايير المجتمع.

*ملاحظة إجرائية:

يتم إعداد قرارات مجلس الإشراف من قِبل لجان مكونة من خمسة أعضاء ويتم اعتمادها من أغلبية أعضاء المجلس. ولا يلزم بالضرورة أن تُعبّر قرارات المجلس عن وجهات النظر الشخصية لجميع الأعضاء.

بالنسبة إلى القرار المتخذ بشأن هذه الحالة، تم إجراء بحث مستقل نيابة عن المجلس. تلقى المجلس مساعدة من معهد أبحاث مستقل يقع مقره في جامعة جوتنبرج والذي يعتمد على فريق مكون من أكثر من 50 عالم اجتماع من ست قارات، فضلاً عن أكثر من 3200 خبير محلي من جميع أنحاء العالم. وقد تلقى المجلس أيضًا مساعدة من شركة Duco Advisors، وهي شركة تركز على نقطة التقاء الجغرافيا السياسية والثقة والأمان والتكنولوجيا. تم توفير الخبرة اللغوية بواسطة شركة Lionbridge Technologies LLC، التي يتقن المتخصصون بها أكثر من 350 لغة ويعملون من 5000 مدينة في جميع أنحاء العالم.