ألغى مجلس الإشراف قرار Meta الأصلي في حالات المنشورات التي تناقش الإجهاض في الولايات المتحدة.

تم النشر بتاريخ 6 أَيْلُول 2023

ألغى مجلس الإشراف قرارات Meta الأصلية بإزالة ثلاثة منشورات تناقش الإجهاض وتتضمن استخدامات بلاغية للغة تنم عن العنف في صورة مجاز. في حين أقرت Meta بأن قراراتها الأصلية لم تكن على صواب وأن المنشورات لم تنتهك سياسة العنف والتحريض، تثير هذه الحالات مخاوف بشأن النهج الذي تتبعه Meta لتقييم الخطاب العنيف ومدى تأثيره بشكل غير متناسب في المناقشات بشأن الإجهاض والتعبير السياسي. يجب أن تقدم Meta للمجلس بانتظام البيانات التي تستخدمها لتقييم دقة إنفاذ سياسة العنف والتحريض، حتى يتمكن المجلس من إجراء التحليل الخاص به.

حول الحالات

نُشرت عناصر المحتوى الثلاثة المتعلقة بالإجهاض قيد الدراسة في هذا القرار من قِبل مستخدمين في الولايات المتحدة خلال شهر مارس 2023.

في الحالة الأولى، نشر أحد المستخدمين صورة لأيادٍ ممدودة، يظهر فوقها نص يقول "المنطق المؤيد للإجهاض" في مجموعة عامة على فيسبوك. وتابع المنشور "لا نريدك أن تكون فقيرًا أو جائعًا أو منبوذًا. لذلك سنقتلك عوضًا عن ذلك." تصف المجموعة نفسها على أنها تدعم "قدسية الحياة البشرية".

في الحالتين الأخريين، كانت منشورات كلا المستخدمين تتعلق بمقالات إخبارية حول مشروع قانون مقترح في كارولينا الجنوبية من شأنه تطبيق قوانين جرائم القتل في الولاية على الإجهاض، مما يعني أنه سيتم السماح بتنفيذ عقوبة الإعدام على الأشخاص الذين يقومون بالإجهاض. في أحد المنشورين، على Instagram، كانت صورة عنوان المقالة مصحوبة بشرح توضيحي يشير إلى المشرّعين في ولاية كارولينا الجنوبية على أنهم "مؤيدون للحياة جدًا، وسنقتلك إذا قمت بإجراء عملية إجهاض". وقد تضمن المنشور الآخر، على فيسبوك، شرحًا توضيحيًا يطلب توضيحًا بشأن ما إذا كان موقف المشرِّعين هو أنه "من الخطأ أن تقتل ولذلك سنقتلك".

بعد أن حددت أنظمة Meta المؤتمتة، وتحديدًا أداة تصنيف الخطاب العدائي، المحتوى على أنه يشكّل ضررًا محتملاً، تم إرسال المنشورات الثلاثة إلى المراجعة البشرية. على مستوى الحالات الثلاث، قرر ستة من سبعة مراجعين بشريين أن المنشورات انتهكت معيار مجتمع Meta بشأن العنف والتحريض لأنها تضمنت تهديدات بالموت. تقدم المستخدمون الثلاثة بطعن على إزالة المحتوى الخاص بهم. عندما اختار المجلس هذه الحالات، قالت Meta إن قراراتها الأصلية لم تكن صائبة وأعادت المنشورات.

النتائج الرئيسية

خلُص المجلس إلى أنه لا يمكن تفسير أي من المنشورات الثلاثة بشكل معقول على أنها تمثل تهديدًا أو تحرض على العنف. وعلى الرغم من استخدام كل منها لصيغة مختلفة من عبارة "سنقتلك"، والتي تم التعبير عنها صوريًا بضمير المتكلم للتأكيد على وجهات النظر المتعارضة، لم يعبّر أي من المنشورات عن تهديد أو نية لارتكاب أعمال عنف. في الحالات الثلاث، أخطأ ستة من أصل سبعة مشرفين في تطبيق سياسات Meta. ونظر المجلس في مجموعة مختلفة من التفسيرات للأخطاء المرتكبة في هذه الحالات، والتي قد تمثل، كما تشير ردود Meta، مجموعة صغيرة وربما لا يمكن تلافيها من القرارات الخاطئة بشأن المنشورات. ومن الممكن أيضًا أن يكون المراجعون، الذين لا ينتمون إلى المنطقة التي نُشر المحتوى فيها، قد فشلوا في فهم السياق اللغوي أو السياسي، والتعرف على المحتوى غير المخالف الذي يستخدم كلمات تنم عن العنف. وقد لا تكون لدى Meta إرشادات تتناول هذا الأمر أيضًا، حيث أخبرت الشركة المجلس أنها لا توفر أي إرشادات محددة لمشرفيها بشأن كيفية التعامل مع المحتوى الذي يتعلق بالإجهاض كجزء من سياساتها بشأن العنف والتحريض.

عادة ما تكون مناقشات سياسة التعامل مع الإجهاض مشحونة للغاية ويمكن أن تتضمن تهديدات محظورة بواسطة Meta. وبالتالي، من المهم أن تتأكد Meta من قدرة أنظمتها على التفريق بشكل موثوق فيه بين التهديدات والاستخدامات البلاغية غير المخالفة للغة التي تنم عن العنف.

ونظرًا لعدم غموض أي من هذه الحالات، تشير الأخطاء إلى وجود مجال لتحسين عمليات الإنفاذ لدى Meta. وبينما قد تحد هذه النوعية من الأخطاء من التعبير في حالات فردية، فإنها تخلق أيضًا أنماطًا دورية من الرقابة من خلال الأخطاء والتحيزات المتكررة التي تنشأ بسبب نماذج التعلُّم الآلي المدربة على المحتوى المسيء في الوقت الحالي. علاوة على ذلك، توضح هذه الحالات أن إزالة المحتوى الذي لا ينتهك قواعد Meta عن طريق الخطأ يمكن أن يعرقل المناقشات حول القضايا الأكثر إثارة للانقسام في بلد ما، مما يعقد مسار التغلب على الانقسام.

لم توفر Meta للمجلس تأكيدات كافية على أن الأخطاء في هذه الحالات هي أخطاء غير شائعة، وأنها لا تمثل نمطًا نظاميًا لعدم الدقة.

يعتقد المجلس أن الأخطاء البسيطة نسبيًا كتلك التي تنطوي عليها هذه الحالات تمثل على الأرجح مجالات محتملة يمكن أن تؤدي فيها تقنيات التعلُّم الآلي الناشئة إلى إحداث تحسينات ملموسة. ويدعم المجلس أيضًا التحسينات التي أجرتها Meta مؤخرًا على حساسية دفق عمل الإنفاذ ضد الخطاب الذي ينم عن العنف. ومع هذا، يتوقع المجلس تلقي المزيد من البيانات لتقييم أداء Meta في هذا المجال بمرور الوقت.

قرار مجلس الإشراف

ألغى مجلس الإشراف قرار Meta الأصلي بإزالة المنشورات الثلاثة التي تناقش الإجهاض.

ويوصى المجلس Meta بما يلي:

• إمداد المجلس بالبيانات التي تستخدمها لتقييم دقة إنفاذ سياستها بشأن العنف والتحريض. يجب أن تكون هذه المعلومات شاملة بالقدر الكافي لتسمح للمجلس بالتحقق من صحة حجج Meta التي تفيد بأن نوع الأخطاء في هذه الحالات لم ينتج عن مشكلات نظامية في عمليات الإنفاذ التي تتبعها Meta.

لمزيد من المعلومات

للاطلاع على القرار الكامل بشأن الحالة، انقر هنا.

للاطلاع على ملخص تعليقات العامة بشأن هذه الحالة، يرجى النقر على المرفق الموجود أدناه.

العودة إلى الأخبار