إيقاف "لغة الخوارزميات" بما في ذلك الرموز التعبيرية المستخدمة في الخطاب الذي يحض على الكراهية
تم النشر بتاريخ 10 شُباط 2026
ألغى مجلس الإشراف قرارات Meta الأصلية بالإبقاء على محتويين يستخدمان الرموز التعبيرية للتعبير عن الكراهية والتمييز والإساءة تجاه أصحاب البشرة السوداء من خلال مقارنتهم بالقرود. دعا المجلس شركة Meta إلى منع استهداف مجموعات بالكراهية والتمييز من خلال تحسين الإشراف الآلي والبشري بحيث يأخذ في الاعتبار بشكل شامل "لغة الخوارزميات"، بما في ذلك الرموز التعبيرية. وينبغي أن يشمل ذلك ضمان أن تكون بيانات التدريب الخاصة بها لإنفاذ السياسات الآلية مناسبة على الصعيد الإقليمي ومحدثة، وأن يتم تنسيق الجهود من أجل تعطيل الحملات التي تحرض على الكراهية بشكل استباقي، وضمان أن تشمل جهود التخفيف التي تبذلها مراقبة نشطة لمحتوى الرموز التعبيرية التي تحرض على التمييز والعداء خلال الأحداث الرياضية الكبرى، مثل كأس العالم لكرة القدم (الاتحاد الدولي لكرة القدم).
عن الحالتين
تتناول هاتان الحالتان منشورين تم نشرهما في مايو 2025 باستخدام رموز تعبيرية على شكل قرود للإشارة إلى أصحاب البشرة السوداء.
في الحالة الأولى، نشر مستخدم في البرازيل مقطع فيديو قصيرًا على Facebook يعرض مشهدًا من فيلم The Hangover، حيث يتجادل شخصان، مع دبلجة باللغة البرتغالية، حول ملكية قرد. والنص الذي يظهر فوق الفيديو يذكر أسماء الشخصيات على أنها أندية كرة القدم الإسبانية "برشلونة" و"ريال مدريد". ويشير نص إضافي يظهر فوق الفيديو إلى صعود النجوم إلى الصدارة في كرة القدم البرازيلية. يتكون التعليق من رمز تعبيري لقرد. تمت مشاهدة المنشور أكثر من 22000 مرة وأبلغ عنه 12 شخصًا.
الحالة الثانية تتعلق بتعليق نُشر ردًا على مقطع فيديو على أحد حسابات Instagram في أيرلندا. وفي الفيديو، يعبر المستخدم عن سخطه بعد أن شاهد حادثة عنصرية في الشارع، ويطالب التعليق برفض العنصرية في أيرلندا. يقول تعليق مستخدم آخر إنهم لا يؤيدون الرسالة، بل يريدون أن "تنفجر" الأوضاع و"يستمتعوا بوقت رائع مع جميع [رموز القرد] في الشارع". تضمن التعليق أيضًا عدة رموز تعبيرية لقرد وضحك وصلاة، وشدد على "الأيام الرائعة القادمة". تمت مشاهدة المنشور الأصلي أكثر من 4000 مرة وأبلغ 62 شخصًا عن التعليق.
تركت أنظمة Meta الآلية والمراجعون البشريون – بعد تقدم المستخدمين بالطعن – كلا المنشورين. ومن ثم تقدم المستخدمون بالطعن إلى المجلس. وبعد أن اختار المجلس هاتين الحالتين للمراجعة، قررت Meta أن قراراتها الأولية كانت خاطئة وقامت بإزالة المنشورين في يوليو 2025 لانتهاكهما معيار المجتمع بشأن السلوك البغيض الخاص بالشركة.
قد يتم استخدام اللغة المشفرة من خلال عبارات أو رموز تعبيرية (تسمى "لغة الخوارزميات") لنقل رسائل تنطوي على إهانة للكرامة الإنسانية أو تحرض على الكراهية، مع تجاوز أنظمة الإشراف على المحتوى الآلية.
النتائج الرئيسية
يشعر المجلس بالقلق إزاء دقة إنفاذ سياسة السلوك البغيض، لا سيما في تقييم الرموز التعبيرية المستخدمة كلغة الخوارزميات. وقد عمد المصنفون إلى تصنيف المحتوى ولكنهم لم يتخذوا أي إجراء. وتقول Meta إن المراجعين يجب أن يأخذوا في الاعتبار جميع جوانب المحتوى، مثل الصور والتعليقات والتراكبات النصية، والعوامل التي تتجاوز المحتوى المباشر، بما في ذلك المنشور الرئيسي والتعليقات. وأوضحت Meta أيضًا أن المصنفين لديها يتم تدريبهم على مجموعات بيانات من الأمثلة المبلغ عنها والمصنفة، بما في ذلك الحالات التي يتم فيها استخدام الرموز التعبيرية بطرق قد تنتهك السياسات. ولكن المراجعات الآلية والبشرية فشلت في تقييم المنشورات بدقة.
ويجب على Meta تحسين الكشف التلقائي عن استخدام الرموز التعبيرية المخالفة من خلال مراجعة بيانات التدريب بشكل دوري. وينبغي لعمليات الإنفاذ أن توجه المحتوى دائمًا إلى المراجعين ذوي اللغة المناسبة والخبرة الإقليمية.
وردًا على أسئلة المجلس، ذكرت Meta أنه بعد إعلان الشركة في 7 يناير 2025، تم الآن دمج نماذج لغوية كبيرة (LLMs) على نطاق أوسع كطبقة مراجعة إضافية، بما في ذلك المحتوى الذي قد ينتهك سياسة السلوك البغيض. ووفقًا لشركة Meta، لا تحل النماذج اللغوية الكبيرة محل النماذج الحالية، بل توفر رأيًا ثانيًا بشأن قرارات الإنفاذ، مع التركيز على المحتوى الذي تم الإبلاغ عنه لإزالته. وفي هذه الحالات، لم يتم إشراك النماذج اللغوية الكبيرة في عملية المراجعة.
ويرى المجلس أن كلا المنشورين ينتهكان معيار السلوك البغيض الذي يحظر المقارنات المهينة بالحيوانات. وكلا المنشورين يستخدمان رمزًا تعبيريًا على شكل قرد لاستهداف أصحاب البشرة السوداء على أساس خصائصهم المحمية.
إن الإبقاء على هذين المنشورين يتعارض أيضًا مع مسؤوليات Meta في مجال حقوق الإنسان، حيث يجب إزالة الرموز التعبيرية التي تسعى إلى الإهانة والتحريض على التمييز أو العداء تجاه المجموعات ذات الخصائص المحمية. ومن الضروري والمتناسب إزالة كلا المنشورين.
حيث يمثل كلا المنشورين أشكالاً من لغة الخوارزميات المستخدمة للتعبير عن الكراهية والتمييز والإساءة تجاه مجموعات الخصائص المحمية المحددة، ويوضحان كيف يمكن استخدام الرموز التعبيرية لحث الآخرين على اتخاذ إجراءات تمييزية وربما عدائية.
وقد تم نشر هذا المنشور البرازيلي في سياق العنصرية والعداء المنهجي الموثق على نطاق واسع في كرة القدم، والذي يستهدف بشكل خاص اللاعبين أصحاب البشرة السوداء. وقد تمت مشاركة التعليق في الحالة الأيرلندية في سياق تصاعد التمييز العنصري وكره الأفارقة في أيرلندا.
ومن أجل تنسيق جهودها بشكل أفضل وحماية الأشخاص الذين قد لا يتم ذكرهم بشكل مباشر ولكنهم أهداف ضمنية لحملات الكراهية، يجب على Meta تطوير إطار عمل لتنسيق الإجراءات الحالية التي تتخذها من أجل تعطيل حملات الكراهية بشكل استباقي، خاصةً تلك التي تتضمن استخدام الرموز التعبيرية. ويجب على Meta أن تضمن أن جهود التخفيف العاجلة، سواء من خلال مركز عمليات نزاهة المنتج أو أي نظام آخر للتخفيف من المخاطر، تشمل المراقبة النشطة للمحتوى الذي يتضمن رموزًا تعبيرية تحرض على التمييز أو العداء الموجه في الفترة التي تسبق الأحداث الرياضية الكبرى وأثناءها وبعدها مباشرةً، مثل كأس العالم لكرة القدم 2026.
قرار مجلس الإشراف
وقد ألغى المجلس قرار Meta الأصلي بالإبقاء على كلا المنشورين.
يوصي المجلس أيضًا بأن تقوم شركة Meta بما يلي:
- تدقيق بيانات التدريب الخاصة بالأنظمة الآلية المستخدمة لإنفاذ سياسة السلوك البغيض والتأكد من تحديث البيانات بشكل دوري لتشمل أمثلة على المحتوى الذي يتضمن رموزًا تعبيرية بجميع اللغات، والاستخدامات المخالفة للرموز التعبيرية، والحالات الجديدة للاستخدام البغيض للرموز التعبيرية.
- تنسيق جهودها الحالية لتعطيل حملات الكراهية بشكل استباقي، لا سيما تلك التي تستخدم الرموز التعبيرية، من أجل حماية الأشخاص الذين لم يتم ذكرهم بشكل مباشر ولكنهم مستهدفون بشكل ضمني في حملات الكراهية.
- أن تضمن أن جهود التخفيف العاجلة، سواء من خلال مركز عمليات نزاهة المنتج أو أي نظام آخر للتخفيف من المخاطر، تشمل المراقبة النشطة للمحتوى الذي يتضمن رموزًا تعبيرية تحرض على التمييز أو العداء الموجه في الفترة التي تسبق الأحداث الرياضية الكبرى وأثناءها وبعدها مباشرةً، مثل كأس العالم لكرة القدم 2026.
يؤكد المجلس أهمية توصيته السابقة ذات الصلة بأن تقوم Meta بما يلي:
- تزويد المستخدمين بفرصة للتصحيح الذاتي مماثلة للتدخل بعد نشر المحتوى الذي تم إنشاؤه نتيجة للاحتجاجات المؤيدة لنافالني في روسيا، التوصية رقم 6. إذا لم يعد هذا التدخل ساريًا، فيجب على الشركة توفير تدخل مماثل للمنتج.
مزيد من المعلومات
لقراءة التعليقات العامة على هذه الحالة، انقر هنا.
