الرموز التعبيرية التي تستهدف أصحاب البشرة السمراء

الملخص

ألغى مجلس الإشراف قرارات Meta الأصلية بالإبقاء على منشوري محتوى يستخدِمان الرموز التعبيرية للتعبير عن الكراهية والتمييز والإساءة تجاه أصحاب البشرة السمراء عبر مقارنتهم بالقرود. دعا المجلس شركة Meta إلى التصدي للاستهداف القائم على الكراهية والتمييز؛ وذلك عبر تطوير آليات المراجعة الآلية والبشرية لتشمل "لغة الخوارزميات" والرموز التعبيرية على نحوٍ شامل. ويجب أن يشمل ذلك ضمان ملاءمة بيانات التدريب الخاصة بإنفاذ السياسات تلقائيًا مع السياقات الإقليمية وتحديثها دوريًّا، وتنسيق الجهود لإحباط حملات الكراهية بشكل استباقي، وضمان شمول جهود التخفيف من الآثار مراقبة نشطة لمحتوى الرموز التعبيرية الذي يحرض على التمييز والعدائية أثناء الفعاليات الرياضية الكبرى، مثل كأس العالم التابعة للاتحاد الدولي لكرة القدم (FIFA).

حول الحالات

تتناول هذه الحالات منشورين نُشرا في مايو 2025 يستخدِمان الرموز التعبيرية للقرود للإشارة إلى أصحاب البشرة السمراء.

في الحالة الأولى، نشر مستخدم في البرازيل مقطع فيديو قصيرًا على فيسبوك يعرض مشهدًا من فيلم "The Hangover"، يتجادل فيه شخصيتان باللغة البرتغالية حول ملكية قرد. وتُظهر النصوص المتراكبة على الفيديو أسماء الشخصيات كأندية كرة قدم إسبانية، وهما "برشلونة" و"ريال مدريد". ويشير نص متراكب إضافي إلى فتيان صاعدين في كرة القدم البرازيلية. بينما يتكون الشرح التوضيحي من رمز تعبيري لقرد. حظي المنشور بأكثر من 22 ألف مشاهدة وأبلغ عنه 12 شخصًا.

وتتعلق الحالة الثانية بتعليق نُشر رديًّا على مقطع فيديو في حساب على Instagram في أيرلندا. ويظهر المستخدم في الفيديو وهو يعرب عن استيائه بعد مشاهدة حادثة عنصرية في الشارع، بينما يدعو الشرح التوضيحي إلى رفض العنصرية في أيرلندا. ويقول تعليق مستخدم آخر إنه لا يدعم هذه الرسالة، بل يريد للموقف أن "ينفجر" وأن "يستمتع ببعض المرح الرائع مع كل [رموز تعبيرية لقرد] وفي الشارع". وتضمن التعليق بالإضافة إلى ذلك عدة رموز تعبيرية لقرد وضحك ودعاء، وأكد على وجود "أيام رائعة قادمة". شوهد المنشور الأصلي أكثر من 4000 مرة وأبلغ 62 شخصًا عن التعليق.

وأبقت أنظمة Meta التلقائية — والمراجعون البشريون عقب طعون المستخدمين — على كلا المنشورين. ثم طعن المستخدمون أمام المجلس. وبعد أن اختار المجلس هذه الحالات للمراجعة، قررت Meta أن قراراتها الأولية كانت خاطئة وأزالت المنشورات في يوليو 2025 لانتهاكها معيار المجتمع بشأن السلوك الذي يحض على الكراهية.

وتُستخدم اللغة المشفّرة من خلال عبارات أو رموز تعبيرية (يُطلق عليه اسم لغة الخوارزميات) لنقل رسائل تنطوي على تجريد من الإنسانية أو تحض على الكراهية مع تجاوز أنظمة المراجعة التلقائية للمحتوى.

أهم النتائج

يعرب المجلس عن قلقه بشأن دقة إنفاذ سياسة السلوك الذي يحض على الكراهية، خاصةً عند تقييم الرموز التعبيرية المستخدَمة كلغة خوارزميات. فقد حددت أدوات التصنيف المحتوى لكنها لم تتخذ أي إجراء. وتقول Meta إنه يجب على المراجعين مراعاة جميع جوانب المحتوى، مثل الصور والشروح التوضيحية والنصوص المتراكبة، وعوامل تتجاوز المحتوى المباشر، بما في ذلك المنشور الرئيسي والتعليقات. وأوضحت Meta أيضًا أن أدوات التصنيف تتدرب على مجموعات بيانات من أمثلة مُبلغ عنها ومصنفة، بما في ذلك الحالات التي تُستخدم فيها الرموز التعبيرية بطرق قد تنطوي على انتهاكات. ومع ذلك، أخفقت المراجعات التلقائية والبشرية في تقييم المنشورات بدقة.

ويجب على Meta تحسين الاكتشاف التلقائي لاستخدام الرموز التعبيرية الذي ينطوي على انتهاك عبر تدقيق بيانات التدريب الخاصة بها بصفة دورية. ويجب أن توجه عمليات الإنفاذ المحتوى دائمًا إلى مراجعين يتمتعون بالخبرة اللغوية والإقليمية المناسبة.

وردًّا على أسئلة المجلس، ذكرت Meta أنه بعد إعلان الشركة في 7 يناير 2025، تم دمج نماذج اللغة الكبيرة (LLM) الآن على نطاق أوسع كطبقة مراجعة إضافية، بما في ذلك للمحتوى الذي قد ينتهك سياسة السلوك الذي يحض على الكراهية. ووفقًا لشركة Meta، لا تحل نماذج اللغة الكبيرة محل النماذج الحالية، بل تقدم رأيًا ثانيًا بشأن قرارات الإنفاذ، مع التركيز على المحتوى الذي تم تمييزه للإزالة. وفي هاتين الحالتين، لم تشارك نماذج اللغة الكبيرة في عملية المراجعة.

ويرى المجلس أن كلا المنشورين ينتهكان معيار المجتمع بشأن السلوك الذي يحض على الكراهية الذي يحظر المقارنات التي تجرد من الإنسانية بالحيوانات. ويستخدِم كلا المنشورين رمز القرد التعبيري لاستهداف أصحاب البشرة السمراء استنادًا إلى سمتهم التي تتمتع بحقوق حماية.

كما يتعارض الإبقاء على المنشورات مع مسؤوليات Meta المتعلقة بحقوق الإنسان، حيث يجب أن تخضع الرموز التعبيرية التي تسعى للتجريد من الإنسانية والتحريض على التمييز أو العدائية تجاه مجموعات ذات سمات تتمتع بحقوق حماية للإزالة. ومن الضروري والمتناسب إزالة كلا المنشورين.

ويمثل كلا المنشورين أشكالاً من لغة الخوارزميات المستخدَمة للتعبير عن الكراهية والتمييز والإساءة تجاه مجموعات محددة ذات سمات تتمتع بحقوق حماية، ويوضحان كيف يمكن استخدام الرموز التعبيرية لحث الآخرين على اتخاذ إجراءات تمييزية وعدائية محتملة.

نُشر المنشور البرازيلي في سياق العنصرية والعدائية الممنهجة الموثقة على نطاق واسع في كرة القدم، والتي تستهدف اللاعبين أصحاب البشرة السمراء بشكل خاص. وتمت مشاركة التعليق في الحالة الأيرلندية في سياق تزايد التمييز العنصري ورهاب الأفارقة في أيرلندا.

ولتنسيق جهودها بشكل أفضل وحماية الأشخاص الذين قد لا يتم ذكر أسمائهم مباشرةً ولكنهم أهداف ضمنية لحملات الكراهية، يجب على Meta تطوير إطار عمل لمواءمة تدابيرها القائمة بالفعل لإحباط حملات الكراهية بشكل استباقي، خاصةً تلك التي تنطوي على استخدام الرموز التعبيرية. ويجب على Meta التأكد من أن جهودها للتخفيف من الآثار الحساسة لعنصر الوقت، سواء عبر مركز العمليات والمنتجات والنزاهة أو نظام آخر للتخفيف من المخاطر، تشمل مراقبة نشطة للمحتوى الذي يتضمن رموزًا تعبيرية تحرض على التمييز أو العدائية الموجهة في الفترة التي تسبق الفعاليات الرياضية الكبرى وخلالها وفي أعقابها مباشرة، مثل كأس العالم التابعة للاتحاد الدولي لكرة القدم (FIFA) لعام 2026.

قرار مجلس الإشراف

ألغى المجلس قرار Meta الأصلي بالإبقاء على كلا منشوري المحتوى.

كما يوصي المجلس Meta بما يلي:

• تدقيق بيانات التدريب الخاصة بها للأنظمة التلقائية المستخدَمة لإنفاذ سياسة السلوك الذي يحض على الكراهية وضمان تحديث البيانات دوريًّا لتشمل أمثلة على المحتوى الذي يتضمن رموزًا تعبيرية بجميع اللغات، واستخدام الرموز التعبيرية بشكل ينطوي على انتهاكات، والحالات الجديدة لاستخدام الرموز التعبيرية الذي يحض على الكراهية.
• مواءمة جهودها القائمة لإحباط حملات الكراهية بشكل استباقي، خاصةً تلك التي تشمل استخدام الرموز التعبيرية لحماية الأشخاص الذين لا يتم ذكر أسمائهم مباشرةً ولكنهم أهداف ضمنية لحملات الكراهية بشكل أفضل.
• ضمان أن تشمل جهود التخفيف من الآثار الحساسة لعنصر الوقت، سواء من خلال مركز العمليات والمنتجات والنزاهة أو نظام آخر للتخفيف من المخاطر، مراقبة نشطة للمحتوى الذي يتضمن رموزًا تعبيرية تحرض على التمييز أو العدائية الموجهة في الفترة التي تسبق الفعاليات الرياضية الكبرى وخلالها وفي أعقابها مباشرة، مثل كأس العالم التابعة للاتحاد الدولي لكرة القدم (FIFA).

ويؤكد المجلس مجددًا أهمية توصيته السابقة ذات الصلة بأن تقوم Meta بما يلي:

• توفير فرصة للمستخدمين للإصلاح الذاتي للمحتوى بشكل يضاهي تدخل "احتكاك وقت النشر" الذي تم إنشاؤه نتيجة للتوصية رقم 6 بشأن المظاهرات المؤيدة لنافالني في روسيا. وإذا لم يعد هذا التدخل ساريًا، يجب على الشركة توفير تدخل منتج مماثل له.

* توفر ملخصات الحالات نظرة عامة على الحالات ولا تُشكّل سابقة قانونية.

القرار الكامل بشأن الحالة

1. وصف الحالة ومعلومات أساسية عنها

يتناول هذا القرار حالتين تتضمنان استخدام رموز تعبيرية لقرد للإشارة إلى أصحاب البشرة السمراء.

وتتعلق الحالة الأولى بمقطع فيديو قصير نشره مستخدم في البرازيل على فيسبوك في مايو 2025. يعرض الفيديو مشهدًا من فيلم "The Hangover"، يظهر فيه شخصيتان وهما تتجادلان باللغة البرتغالية وتدعيان ملكية قرد. وتُسمي النصوص المتراكبة على الفيديو الشخصيتين باسمي "برشلونة" و"ريال مدريد"، وهما ناديان إسبانيان لكرة القدم. وخلال الجدال، تهدد الشخصية التي تحمل تسمية "ريال مدريد" الشخصية التي تحمل تسمية "برشلونة" بمسدس لفترة وجيزة. ويشير نص متراكب إضافي إلى فتيان صاعدين في كرة القدم البرازيلية، بينما لا يتضمن الشرح التوضيحي للفيديو سوى رمز تعبيري لقرد. حظي المنشور بأكثر من 22 ألف مشاهدة، وأبلغ 12 شخصًا عن المحتوى.

وتتعلق الحالة الثانية بتعليق نُشر في مايو 2025 رديًّا على مقطع فيديو نشره مستخدم في أيرلندا على حسابه في Instagram. ويظهر المستخدم الناشر في الفيديو أمام الكاميرا وهو يعرب عن استيائه بعد مشاهدة حادثة عنصرية في الشارع في أيرلندا، حيث صرخت مجموعة من المراهقين بإهانة عنصرية في وجه امرأة ذات بشرة سمراء. ويعرب المستخدم الناشر في الشرح التوضيحي عن حزنه الشديد تجاه الضحية، ويؤكد إمكانية أن يجمع الشخص بين كونه من أصحاب البشرة السمراء وأيرلنديًّا، لكن هذا نقاش لا يرغب "الأشخاص البيض ذوو الامتيازات" في خوضه. كما يحث المستخدم الآخرين على التحدث بصراحة وخوض نقاشات صعبة، ويشجع المجتمع على تقديم أداء أفضل في مكافحة العنصرية. وينتهي الشرح التوضيحي بهاشتاج يدعو لرفض العنصرية في أيرلندا.

وردًّا على الفيديو في الحالة الأيرلندية، علق مستخدم آخر بأنه لا يدعم هذه الرسالة. بل إنه تحدى منشئ الفيديو، سائلاً إياه عما ينوي فعله حيال هذا الموقف. كما أعرب المستخدم صاحب التعليق عن تلهفه لأن "ينفجر" الموقف و"ليستمتع ببعض المرح الرائع مع كل [الرموز التعبيرية للقرد] وفي الشارع". وتضمن التعليق عدة رموز تعبيرية إضافية للقرد والضحك والدعاء، وأكد على وجود "أيام رائعة قادمة". شوهد المنشور الرئيسي أكثر من 4000 مرة وأبلغ 62 شخصًا عن التعليق.

واكتشفت أنظمة Meta التلقائية كلا المنشورين كإصدارات يُحتمل انتهاكها لسياسة السلوك الذي يحض على الكراهية. وجدت أداة التصنيف أن المحتوى في الحالة البرازيلية غير مخالف، بينما تعذر عليها تحديد اللغة في الحالة الأيرلندية (الإنجليزية) بثقة، وبالتالي لم تتخذ أي إجراء حيال ذلك.

وأبلغ المستخدمون عن المنشورين بسبب السلوك الذي يحض على الكراهية، وتم إرسالهما للمراجعة. ومع ذلك، لم يتم وضعهما ضمن أولويات المراجعة البشرية وظلا على المنصات.

وفي كلتا الحالتين، طعن المستخدمون الذين أبلغوا عن المنشورات على قرار Meta بالإبقاء عليهما. وعقب المراجعة البشرية، أيدت Meta قراراتها الأولية عند الطعن، وبعد ذلك طعن المستخدمون أمام المجلس.

ونتيجة لاختيار المجلس لهذه الحالات للمراجعة، قررت Meta أن قراراتها الأولية كانت خاطئة وأزالت المنشورات في يوليو 2025 لانتهاكها معيار المجتمع بشأن السلوك الذي يحض على الكراهية.

ويشير المجلس إلى السياق التالي في التوصل لقراراته:

حظيت العنصرية التي يواجهها لاعبو كرة القدم البرازيليون، وخاصة أصحاب البشرة السمراء منهم، بتغطيةإعلاميةواسعة، ما سلّط الضوء على المشكلة الأوسع نطاقًا المتمثلة في العنصرية ضد اللاعبين وبين مشجعي كرة القدم. على سبيل المثال، تعرض فينيسيوس جونيور، وهو لاعب في نادي ريال مدريد، لحوادث عنصرية متعددة، بما في ذلك تشبيهه بالقرود. وتصاعدت العنصرية إلى درجة أن ولاية ريو دي جانيرو البرازيلية أصدرت "قانون فينيسيوس جونيور" في عام 2023 لمكافحة العنصرية أثناء الفعاليات الرياضية. وينص القانون على إيقاف أو حتى إنهاء أي فعالية رياضية عند حدوث فعل عنصري.

وتم الإبلاغ عن عدة حوادث بارزة أخرى ضد لاعبي كرة قدم من أصول أفريقية، تنطوي بصفة أساسية على إهانات من المشجعين في الملاعب وعلى وسائل التواصل الاجتماعي، في بلدان أوروبية (على سبيل المثال، في إسبانيا، وإيطاليا، وفرنسا، وإنجلترا). واجتذبت بطولة يورو 2020 اهتمام الجمهور بالقضية حيث واجه اللاعبون هجمة من الكراهية عبر الإنترنت. أنشأ اتحاد أمريكا الجنوبية لكرة القدم (كونميبول)، وهو الجهة القارية المنظمة لكرة القدم في أمريكا الجنوبية، فرقة عمل في مارس 2025 للقضاء على العنصرية والتمييز والعنف في كرة القدم. وجاء ذلك جزئيًّا رديًّا على العنصرية التي يواجهها اللاعبون البرازيليون، بما في ذلك هتافات القرود في المباريات.

وثقت الدراسات موجات مستمرة من الإهانات عقب المباريات وعند انتشار أخبار معينة. وجدت نقابة لاعبي كرة القدم المحترفين في إنجلترا وويلز (PFA) وشركة علوم البيانات "Signify" أنه في عام 2020 كانت أكثر من 3000 من التغريدات المرسلة لبعض اللاعبين عبارة عن رسائل مسيئة صراحةً، منها 56% كانت عنصرية. ومن بين تلك المنشورات المسيئة عنصريًّا، ظهرت نسبة 29% في شكل رموز تعبيرية. وجدت الدراسة نفسها أن 43% من اللاعبين في الدوري الإنجليزي الممتاز، وهو أعلى مستوى في نظام دوري كرة القدم الإنجليزي، تلقوا إهانات عنصرية صريحة. وبالمثل، وجد رصد حديث أجراه الاتحاد الأوروبي لكرة القدم (UEFA)، وهو الجهة المنظمة لكرة القدم في أوروبا، أن 33% من المنشورات التي تم إبلاغ Meta وTikTok وX عنها بسبب محتواها المسيء الذي تمت مشاركته حول نهائيات أندية الاتحاد الأوروبي لكرة القدم (UEFA) تم تصنيفها على أنها عنصرية.

وكجزء من بحثه في هاتين الحالتين، بحث المجلس في مكتبة محتوى Meta عن المحتوى الذي يستخدِم رمز القرد التعبيري. ويُظهر تحليل لأبرز 150 منشورًا عامًا حظيت بأكبر قدر من التفاعل على كل من فيسبوك وInstagram في الفترة بين 1 أكتوبر 2024 و1 أكتوبر 2025، أن الرمز التعبيري يُستخدم في أغلب الأحيان لمرافقة مقاطع فيديو لقرود، أو ميمات، أو محتوى مقالب فكاهي مخصص للانتشار على نطاق واسع. ومع ذلك، أظهر البحث أنه عندما يظهر الرمز التعبيري في مناقشات حول أصحاب البشرة السمراء، فإنه يحمل دلالات مختلفة في سياقات متباينة. حيث يتم توظيفه بطريقة تجرد من الإنسانية لمقارنة أصحاب البشرة السمراء بالحيوانات. وفي أوقات أخرى، يُستخدم لتسليط الضوء على العنصرية التي تمت مواجهتها أو التعليق عليها. ويستخدِمه مستخدمون يبدو أنهم من مجتمع أصحاب البشرة السمراء بطريقة تشير إلى الذات أو بدعابة، على الرغم من عدم قدرة المجلس على التحقق من هوية هؤلاء المستخدمين. واستخدمت العديد من المنشورات المتعلقة بكرة القدم رمز القرد التعبيري بطريقة تجرد من الإنسانية، وغالبًا ما كانت تستهدف لاعبين محددين، بينما ناقشت منشورات أخرى العنصرية التي يتعرض لها لاعبو كرة القدم أو أدانتها، وذلك بدرجة أقل.

سلَّط تقرير اللجنة الأيرلندية لحقوق الإنسان والمساواة الخاص بدورة الرصد السادسة للمفوضية الأوروبية لمناهضة العنصرية والتعصب الضوء على ارتفاع معدلات العنصرية والتمييز والتعصب في أيرلندا، مشيرًا إلى أن "نمو الأيديولوجية اليمينية المتطرفة، الذي أدى إلى أحداث مثل أعمال الشغب في دبلن، قد تيسر بسبب الثغرات النظامية في الحماية من العنصرية والتعصب في أيرلندا". وأدى تحول أيرلندا من دولة يغلب عليها البيض إلى دولة أكثر تنوعًا تستقبل المهاجرين في التسعينيات إلى تغير في العلاقات الاجتماعية والسياسية. ويشمل ذلك زيادة في "رهاب الأفارقة،" وهو العنصرية ضد الأشخاص من أصول أفريقية، في جميع أنحاء أيرلندا.

وأفادت وكالة الحقوق الأساسية التابعة للاتحاد الأوروبي بأن ما يقرب من نصف الأشخاص من أصول أفريقية الذين شملهم الاستطلاع حول تجاربهم في العيش في 13 دولة عضوًا في الاتحاد الأوروبي، بما في ذلك أيرلندا، "تعرضوا للتمييز العنصري، بزيادة من 39% في عام 2016 إلى 45% في عام 2022". وتعرض أكثر من 44% من المشاركين في أيرلندا للإساءات العنصرية، وأعرب 34% منهم عن قلقهم من الوقوع ضحية لهجوم بدني بسبب خلفيتهم العرقية أو كونهم مهاجرين. ويشير تقرير جرائم الكراهية لعام 2024 الصادر عن مكتب المؤسسات الديمقراطية وحقوق الإنسان (ODIHR) التابع لمنظمة الأمن والتعاون في أوروبا (OSCE) إلى أن 587 من أصل 676 جريمة كراهية سجلتها الشرطة الأيرلندية تم تصنيفها على أنها مدفوعة بتحيز عنصري وكراهية للأجانب.

وتُستخدَم اللغة المشفّرة من خلال عبارات أو رموز تعبيرية (ويُشار إليها أيضًا باسم "لغة الخوارزميات") من أجل تجاوز أنظمة المراجعة التلقائية للمحتوى. ويشير البحث إلى أن استخدام الرموز التعبيرية "يمثل وسيلة شائعة للتحايل يستغلها المستخدمون، سواء بوعي أو بغير وعي، لنقل معانٍ مسيئة من خلال ارتباطات نمطية". وأوضح الباحثون كذلك أنه على الرغم من أن "نماذج اللغة لديها فهم شامل للتراكيب النصية، إلا أنه لا تزال هناك حاجة لتعليم هذه النماذج معنى الرموز التعبيرية في سياقات مختلفة، وكيفية تحديد الرموز التعبيرية المختلفة لمدى احتمالية الكراهية في تغريدة أو منشور أو تعليق معين".

2. المعلومات المقدَّمة من المستخدمين

وأوضح المستخدمون الذين أبلغوا عن الحالات، في بياناتهم المقدمة للمجلس، أن المنشورات تضمنت لغة عنصرية من خلال تشبيه أصحاب البشرة السمراء بالقرود. وأكد المستخدم الذي أبلغ عن الحالة الأيرلندية أن استخدام الرموز التعبيرية بدلاً من الكلمات كان عنصريًّا بشكل واضح، وأن وجود المنشور على المنصة سلط الضوء على العيوب في أنظمة الاكتشاف التلقائي في Instagram.

3. سياسات المحتوى والمعلومات المقدَّمة من Meta

1. سياسات المحتوى لدى Meta

يحظر معيار المجتمع بشأن السلوك الذي يحض على الكراهية المحتوى الذي "يستهدف شخصًا أو مجموعة أشخاص ... على أساس ... سمة (سمات) تتمتع بحقوق حماية،" بما في ذلك العرق والسلالة والأصل القومي "بشكل مكتوب أو مرئي". ويشمل ذلك "الخطاب الذي يجرّد الأشخاص من إنسانيتهم في صورة مقارنات مع أو تعميمات بشأن... الحيوانات بوجه عام أو أنواع حيوانات معينة تعتبر في الثقافة السائدة حيوانات دونية (بما في ذلك، على سبيل المثال لا الحصر: أصحاب البشرة السمراء والقردة أو المخلوقات الشبيهة بالقردة)". ويمكن إظهار هذه التشبيهات مرئيًّا من خلال استخدام الرموز التعبيرية وتمييزها من خلال سياق المحتوى.

وذكرت Meta في مقدمة معايير المجتمع الخاصة بها أنها قد تزيل المحتوى الذي يستخدِم "لغة غامضة أو ضمنية" عندما يسمح لها السياق الإضافي بفهم أن المحتوى يتعارض مع معايير المجتمع بشكل معقول.

2. المعلومات المقدَّمة من Meta

ونتيجة لاختيار المجلس لهذه الحالات، تراجعت Meta عن قراراتها الأصلية بالإبقاء على كلا المنشورين وأزالتهما. وعقب مراجعة أجراها خبراء في الموضوع لدى الشركة، قررت Meta أن كلا المنشورين يشكلان خطاب تجريد من الإنسانية يقارن الأفراد بالحيوانات استنادًا إلى سماتهم التي تتمتع بحقوق حماية، وهو أمر محظور بموجب سياسة السلوك الذي يحض على الكراهية.

وفي الحالة البرازيلية، أوضحت Meta أن المحتوى يبدو وكأنه يعيد توظيف مشهد سينمائي للتعليق على ممارسات استقطاب اللاعبين في أندية كرة القدم الأوروبية، مما يشير إلى أن ريال مدريد وبرشلونة يتنافسان على اللاعبين البرازيليين (الذين غالبًا ما يكونون أصحاب بشرة سمراء) بالطريقة نفسها التي يتجادل بها الرجال في المشهد حول ملكية القرد. وبالنظر إلى الحوادث العنصرية الأخيرة التي قارن فيها مشجعون منافسون بعض هؤلاء اللاعبين الجدد بالقرود، قررت الشركة أن رمز القرد التعبيري استُخدِم لمقارنة البرازيليين أصحاب البشرة السمراء بالقرود.

وفي الحالة الأيرلندية، قررت Meta أن المستخدم صاحب التعليق يبدو وكأنه يساوي بين أصحاب البشرة السمراء والقرود من خلال مشاركة رمز القرد التعبيري للإشارة إليهم. ووفقًا لشركة Meta، وبالنظر إلى وصف الفيديو لتعرض امرأة من أصحاب البشرة السمراء لإساءة في الشارع، فإن استخدام صاحب التعليق لرمز القرد التعبيري يعكس ذلك السلوك، حيث يقارن أصحاب البشرة السمراء بالقرود ويعبر عن نية للإساءة إليهم كما فعل الشباب المشار إليهم في الفيديو.

وأخبرت Meta المجلس أن مراجعيها على نطاق واسع سمحوا ببقاء المنشورين على المنصات بسبب مزيج من الغموض السياقي، وعدم اكتمال المراجعة، وسوء تطبيق إرشادات السياسة على المؤشرات المرئية مثل الرموز التعبيرية، وقيود اللغة والأدوات. وأبلغت الشركة المجلس بأنه تم تقديم التوجيه والملاحظات للمراجعين. وكشف المزيد من التحقيقات أيضًا عن مشكلة في الأدوات منعت الترجمة الصحيحة وتوجيه الحالات، مما أدى إلى تعيين المحتوى البرازيلي للتقييم الأولي لمراجع لا يمتلك خبرة في اللغة البرتغالية. ووفقًا لشركة Meta، تم حل مشكلة التوجيه هذه منذ ذلك الحين، ويجب توجيه جميع المراجعات إلى قوائم انتظار تتمتع بالخبرة اللغوية والإقليمية ذات الصلة.

وأكدت Meta أن قرارها بإزالة كلا منشوري المحتوى يسعى لحماية حقوق الآخرين في عدم التعرض للتمييز، كما يتماشى أيضًا مع المادة 20(2) من العهد الدولي الخاص بالحقوق المدنية والسياسية (ICCPR)، التي تحظر "أي دعوة إلى الكراهية القومية أو العنصرية أو الدينية تشكل تحريضًا على التمييز أو العداوة أو العنف". واعتبرت الشركة أيضًا أن الإزالة كانت ضرورية للحفاظ على بيئة يكون فيها المستخدمون في مأمن من التمييز أو العدائية.

وردًّا على أسئلة المجلس، ذكرت Meta أن الرموز التعبيرية يمكن أن تؤثر أحيانًا في معنى المحتوى، لكن تفسيرها يختلف بشكل كبير بين المستخدمين وعبر المناطق وقد يكون لها معانٍ مختلفة في منشورات مختلفة. ولذلك، لا تعتبر الشركة الرموز التعبيرية تنطوي على انتهاكات في حد ذاتها. بدلاً من ذلك، تقدم Meta إرشادات وأمثلة في التوجيهات الداخلية للمراجعين البشريين فيما يتعلق بالمعنى المحتمل للرموز التعبيرية الشائعة الاستخدام مثل رمز القرد التعبيري، وتطلب من المراجعين مراعاة السياق الكامل الذي يظهر فيه الرمز التعبيري دائمًا لتحديد ما إذا كان استخدامه قد ينطوي على انتهاكات. ويتضمن ذلك النظر في جميع جوانب المحتوى، مثل الصور والشروح التوضيحية والنصوص المتراكبة، فضلاً عن عوامل تتجاوز المحتوى المباشر، بما في ذلك المنشور الرئيسي والتعليقات ذات الصلة.

وبالمثل، ذكرت Meta أن أنظمتها التلقائية مصممة لتحديد استخدامات الرموز التعبيرية التي قد تنتهك السياسات من خلال مراعاة السياق الذي تظهر فيه. وتحقيقًا لهذه الغاية، ووفقًا لشركة Meta، تعمد الأنظمة إلى تحليل المنشور برمّته واستخلاص عناصره وبياناته الوصفية كافة؛ "الأمر الذي يتيح للنماذج اكتشاف أنماط قد تشير إلى انتهاك السياسات، حتى عندما تُستخدَم الرموز التعبيرية كبديل للكلمات أو المفاهيم". ويتضمن ذلك مراعاة الأنماط السابقة التي تنطوي على انتهاكات. وأشارت Meta، مع ذلك، إلى أن أدوات التصنيف الخاصة بها تمنح الأولوية لإزالة انتهاكات السلوك الذي يحض على الكراهية الصريحة فقط "لتقليل مخاطر عمليات الإزالة الخاطئة والإفراط في الإنفاذ"، وهو أمر وثيق الصلة بشكل خاص بالرموز التعبيرية، التي يمكن أن يكون لها معانٍ تعتمد بشكل كبير على السياق.

وأوضحت Meta أنه بعد إعلان الشركة في 7 يناير 2025، فإنها بصدد تغيير نهج أنظمة انتهاكات السياسة التلقائية الخاص بها. وقبل ذلك التاريخ، كان النظام يستخدِم الإنفاذ الاستباقي، الذي يستلزم الاكتشاف التلقائي والإزالة التلقائية لجميع المحتويات التي تنطوي على انتهاكات. وبينما لا تزال أنظمة Meta التلقائية قادرة على اكتشاف انتهاكات السلوك الذي يحض على الكراهية المحتملة، فإن عمليات إزالة هذه الانتهاكات تعتمد الآن على بلاغات المستخدمين والتصعيد من الشركاء الموثوق بهم، بدلاً من الاعتماد فقط على الاكتشاف التلقائي. وأشارت الشركة إلى أن هذا النهج يُطبق عالميًّا، لكنها "قد تواصل الإنفاذ الاستباقي في البلدان التي تشهد أزمات". وأضافت Meta أن الشركة تعمل باستمرار على تقييم التزاماتها القانونية في جميع أنحاء العالم لتحديد ما إذا كانت هذه الجهود الاستباقية تتماشى مع القانون المحلي. بالإضافة إلى ذلك، أوضحت Meta أن الشركة تتبع "نهجًا مخصصًا" لاستخدام أدواتها التلقائية، حيث تعمل على تكييف استجابتها مع المشكلة المطروحة. على سبيل المثال، تحتفظ Meta بالمرونة لنشر أدواتها التلقائية لمعالجة الاتجاهات عالية المخاطر المحددة على المنصة، فضلاً عن أغراض مستهدفة، مثل منع الناخبين من التصويت. وفي بعض البلدان التي تشهد أزمات (والتي يمكن أن تشمل البلدان المصنفة تحت بروتوكول سياسة الأزمات) أو عدم استقرار طويلاً، حيث تتطلب النزاهة الكبيرة والمخاطر التنظيمية نظام رصد قويًّا، قد تقوم الشركة بإزالة المحتوى الذي ينطوي على انتهاكات استباقيًّا استنادًا إلى السياق على أرض الواقع.

وردًّا على أسئلة المجلس، ذكرت Meta أنه في أعقاب إعلان الشركة في 7 يناير 2025، تم دمج نماذج اللغة الكبيرة (LLM) الآن على نطاق أوسع كطبقة مراجعة إضافية، بما في ذلك المحتوى الذي قد ينتهك سياسة السلوك الذي يحض على الكراهية. ووفقًا لشركة Meta، لا تحل نماذج اللغة الكبيرة محل النماذج الحالية، بل تقدم رأيًا ثانيًا بشأن قرارات الإنفاذ، مع التركيز على المحتوى الذي تم تمييزه للإزالة. وفي الحالات الحالية، لم تشارك نماذج اللغة الكبيرة في عملية المراجعة.

وذكرت Meta أيضًا أن لديها عدة أنظمة قائمة للحد من التحيز في عملية المراجعة. وبالنسبة للمراجعين البشريين، يتضمن ذلك عمليات تدقيق أسبوعية عبر جميع فرق المراجعة، مما يسمح لشركة Meta بفهم مواضع الأخطاء حتى يمكن معالجتها. بالإضافة إلى ذلك، ووفقًا لشركة Meta، يتم إعادة تدريب المراجعين بانتظام على السياسات. وقالت الشركة إنها تعقد أيضًا جلسات كل أسبوعين للمراجعين لطلب التوضيح بشأن تفاصيل السياسة، لضمان تطبيق المعايير بشكل صحيح ومتسق. وأشارت Meta إلى أنها، بالنسبة للأنظمة التلقائية، تقوم بتدريب أدوات التصنيف الخاصة بها على البلاغات التي تمت مراجعتها بشريًّا وتختار مجموعة واسعة من المحتوى لضمان تعلم أدوات التصنيف من أكثر الحالات خطورة فضلاً عن المحتوى الذي قد يتم إغفاله بخلاف ذلك.

وردًّا على أسئلة المجلس، أوضحت Meta أنه قد يتلقى مستخدمو Instagram إخطارًا بأنه تم تمييز تعليقهم أو منشورهم، مما يوفر لهم خيار حذف المحتوى. ووفقًا لشركة Meta، نظرًا لأن سياسات الاحتفاظ بالبيانات الخاصة بها لا تمتد لأكثر من 30 يومًا، فلا يمكن تأكيد ما إذا كان المستخدم في الحالة الأيرلندية قد تم إخطاره بتعليقه.

وتُعرف Meta "الإساءة الجماعية الموجهة" بأنها "محاولات على المنصة أو خارجها لحشد مجموعة كبيرة من الأشخاص لاستهداف موضوع معين". وتزيل Meta مثل هذا المحتوى عندما يستهدف عبر أي واجهة، مثل أي مكان على المنصة، "الأفراد المعرضين لخطر متزايد من حدوث ضرر على أرض الواقع"، مثل المدافعين عن حقوق الإنسان أو القاصرين. وبالمثل، تزيل Meta أيضًا مثل هذا المحتوى عندما يستهدف أي فرد عبر ملفاته الشخصية أو بريده الوارد من خلال (1) محتوى ينتهك سياسات المضايقة والإساءة للأفراد العاديين أو (2) محتوى محل اعتراض يستند إلى سمة تتمتع بحقوق حماية. وأشارت Meta إلى أنها لا تسمح بمحتوى السلوك الذي يحض على الكراهية بغض النظر عما إذا كان المحتوى يستهدف فردًا عامًا أو عاديًّا.

وطرح المجلس أسئلة حول اعتبارات السياسة والإنفاذ للمحتوى الذي يتضمن رموزًا تعبيرية؛ وسجل إنفاذ المنشورات؛ وتحديثات إنفاذ سياسة السلوك الذي يحض على الكراهية بعد إعلان 7 يناير 2025؛ وتفاصيل حول آليات الإنفاذ المعمول بها حاليًا. وأجابت Meta على جميع الأسئلة.

4. التعليقات العامة

تلقى المجلس تسعة تعليقات عامة استوفت شروط التقديم. وتم تقديم ثمانية من التعليقات من الولايات المتحدة وكندا، وتعليق واحد من الشرق الأوسط وشمال أفريقيا. للاطلاع على التعليقات العامة المقدَّمة التي وافق أصحابها على نشرها، انقر هنا.

وغطت المشاركات الموضوعات التالية: الاستخدام المتطور للرموز التعبيرية في لغة الخوارزميات؛ والتحديات المتعلقة بالاكتشاف التلقائي للخطاب المشفّر وكذلك الإنفاذ ضد المحتوى الذي يتضمن رموزًا تعبيرية قد يكون لها معانٍ متعددة؛ وأهمية التقييمات السياقية وتدريبات المراجعين لاكتشاف التحايل على الإنفاذ من خلال لغة الخوارزميات؛ ورؤى حول العنصرية في الرياضة.

وفي أكتوبر 2025، وكجزء من المشاركة المستمرة لأصحاب المصلحة، استشار المجلس ممثلي منظمات الدفاع، والأكاديميين، والمنظمات الحكومية الدولية وغيرهم من الخبراء بشأن قضايا الإشراف على المحتوى الذي يتضمن رموزًا تعبيرية. وأكد المشاركون التحديات التي يفرضها التحليل السياقي للمحتوى الذي يتضمن رموزًا تعبيرية ذات معانٍ متطورة وواسعة النطاق. كما أشاروا إلى أنه في حين استُخدِمت بعض الرموز التعبيرية كبدائل للمجموعات ذات السمات التي تتمتع بحقوق حماية، أو تزيد من الطبيعة الضارة للرسالة، فإن الرموز التعبيرية نفسها قد تُستخدَم أيضًا في سياقات الإدانة أو التمكين أو زيادة الوعي. وتم التأكيد على أنه، على الرغم من أن الأنظمة التلقائية ونماذج اللغة الكبيرة تبشر بالخير في اكتشاف اللغة المشفّرة، إلا أن الإشراف لا يزال يتطلب إشرافًا بشريًّا لتحديد السياق والمعنى بشكل صحيح.

5. تحليل مجلس الإشراف

اختار المجلس هاتين الحالتين لاستكشاف استخدام الرموز التعبيرية كشكل من أشكال "لغة الخوارزميات" والإساءات العنصرية والتمييز عبر الإنترنت. كما يهدف إلى تقييم نهج الإنفاذ الذي تتبعه Meta تجاه مثل هذه الأشكال المتطورة من التعبير، من قِبَل المراجعين البشريين والأنظمة التلقائية على حد سواء، خاصةً بعد إعلان Meta في 7 يناير 2025 بأن الشركة بصدد تعديل نهجها تجاه إنفاذ انتهاكات السياسة تلقائيًا. وتعتبر الحالات ذات صلة بإحدى الأولويات الاستراتيجية السبع للمجلس، وهي الخطاب الذي يحض على الكراهية ضد الفئات المهمشة.

حلل المجلس قرارات Meta في هاتين الحالتين استنادًا إلى سياسات المحتوى، وقيم الشركة، ومسؤوليات حقوق الإنسان. كما أجرى المجلس تقييمًا للآثار المترتبة على هاتين الحالتين فيما يتعلق بنهج Meta الأوسع لإدارة المحتوى.

5.1 الامتثال لسياسات المحتوى لدى شركة Meta

1. قواعد المحتوى

وجد المجلس أن كلا المنشورين ينتهكان معيار المجتمع بشأن السلوك الذي يحض على الكراهية الذي يحظر المقارنات التي تجرد من الإنسانية بالحيوانات. ويشير نص السياسة المعمول به تحديدًا إلى تشبيه أصحاب البشرة السمراء بالقردة والمخلوقات الشبيهة بالقردة كمثال على خطاب التجريد من الإنسانية. ويستخدِم كلا المنشورين رمز القرد التعبيري لاستهداف أصحاب البشرة السمراء استنادًا إلى سمتهم التي تتمتع بحقوق حماية. ولذلك، ينتهك كلا منشوري المحتوى سياسة السلوك الذي يحض على الكراهية.

ففي الحالة البرازيلية، يستخدِم المنشور مشهدًا من فيلم يتجادل فيه شخصيتان وتدعيان الملكية على قرد. ويشير النص المتراكب الإضافي فوق الشخصيات في الفيديو إلى أن فرق كرة القدم، مثل ريال مدريد وبرشلونة، تتجادل حول لاعبي كرة القدم البرازيليين الصاعدين (الذين غالبًا ما يكونون من أصحاب البشرة السمراء) بالطريقة نفسها التي يتجادل بها الرجال في الفيديو حول قرد. ويؤيد هذه القراءة النص المتراكب الإضافي الذي يشير إلى فتيان صاعدين في كرة القدم البرازيلية. ويعمل استخدام رمز القرد التعبيري في الشرح التوضيحي على تعزيز نية صاحب المنشور، ومقارنة لاعبي كرة القدم البرازيليين ضمنيًّا بالقرود. ويقر المجلس بالاتجاه المثير للقلق في الرياضة، وخاصة في كرة القدم، حيث يستخدِم المشجعون إشارات إلى القرود للتمييز العنصري ضد الرياضيين أصحاب البشرة السمراء. وبالنظر إلى هذا النمط الثابت والسياق الحالي، ينتهك المنشور المعنى الصريح لسياسة السلوك الذي يحض على الكراهية لدى Meta من خلال تجريد أصحاب البشرة السمراء من إنسانيتهم في شكل تشبيهات بالحيوانات أو تعميمات عنها.

وفي الحالة الأيرلندية، يتحدى التعليق إدانة المنشور الرئيسي للعنصرية ضد أصحاب البشرة السمراء في أيرلندا. حيث يعرب عن تلهفه لأن "ينفجر" الموقف و"ليستمتع بمرح رائع مع كل [الرموز التعبيرية للقرد] في الشارع". وتنقل هذه الإشارة إلى أصحاب البشرة السمراء كقرود مع استخدام رموز تعبيرية للضحك والدعاء والتوق لمثل هذه "الأيام الرائعة القادمة" نية المستخدم في التجريد من الإنسانية من خلال مساواة أصحاب البشرة السمراء بالقرود. وبالنظر إلى زيادة رهاب الأفارقة في أيرلندا وحقيقة أن التعليق نُشر تحت مقطع فيديو يعرب عن استيائه من العنصرية في أيرلندا، فإن استخدام رموز تعبيرية لقرد في التعليق يعد إشارة واضحة إلى أصحاب البشرة السمراء، كمجموعة ذات سمات تتمتع بحقوق حماية، ومساواتهم بالقرود. ولذلك، ينتهك هذا المنشور سياسة السلوك الذي يحض على الكراهية.

2. إجراءات الإنفاذ

تثير هذه الحالات مخاوف بشأن دقة إنفاذ سياسة السلوك الذي يحض على الكراهية، خاصةً فيما يتعلق بتقييم استخدام الرموز التعبيرية كشكل من أشكال لغة الخوارزميات.

وتوجه Meta مراجعيها دائمًا بمراعاة السياق الكامل الذي يظهر فيه الرمز التعبيري لتحديد ما إذا كان استخدامه قد ينطوي على انتهاكات. وهذا يعني أنه يجب على المراجعين النظر في جميع جوانب المحتوى، مثل الصور والشروح التوضيحية والنصوص المتراكبة، فضلاً عن عوامل تتجاوز المحتوى المباشر، بما في ذلك المنشور الرئيسي والتعليقات ذات الصلة. وبما أن الرموز التعبيرية قد تنقل معانٍ متباينة، فإن هذا النهج يتماشى مع توجيهات المجلس السابقة للتقييم السياقي والشامل للمنشورات (راجع حالة حزام وامبوم، من بين حالات أخرى).

وفي هاتين الحالتين، أخفقت كل من المراجعات التلقائية والمراجعات البشرية المتعددة في مستويات الإنفاذ المختلفة في تقييم المنشورات بدقة، مما أدى إلى الإبقاء عليها على المنصات. ويعرب المجلس عن قلقه من أنه على الرغم من اكتشاف أدوات التصنيف للمحتوى في كلتا الحالتين، إلا أنها لم تتخذ أي إجراء حيالهما: حيث اعتُبر المنشور البرازيلي غير مخالف، بينما تعذرت قدرة أداة التصنيف على التأكد من أن المنشور الأيرلندي مكتوب باللغة الإنجليزية.

علاوة على ذلك، تضمنت المراجعة الأولية في الحالة البرازيلية مشكلات في التوجيه والترجمة، ولم تتم مراجعة هذا القرار الأولي بشكل أكبر، على الرغم من وجود عشرات البلاغات. ولضمان المراجعة الكافية، يجب تصميم عمليات الإنفاذ في Meta لتوجيه المحتوى دائمًا إلى مراجعين يتمتعون بالخبرة اللغوية والإقليمية المناسبة. وأخيرًا، يعرب المجلس عن قلقه من أنه في كلتا الحالتين، وعلى الرغم من التوجيهات المفصلة للتقييم السياقي والشامل للمحتوى الذي يتضمن رموزًا تعبيرية، فقد أيد كلا المراجعين البشريين عند الطعن القرار الأولي بالإبقاء على المنشورات على المنصات، رغم وضوح طبيعة المنشورات التي تنطوي على انتهاكات.

وأوضحت Meta أيضًا أن أدوات التصنيف تتدرب على مجموعات بيانات من أمثلة مُبلغ عنها ومصنفة، بما في ذلك الحالات التي تُستخدم فيها الرموز التعبيرية بطرق قد تنطوي على انتهاكات. ويجب على الشركة تحسين قدرة أنظمتها التلقائية على اكتشاف استخدام الرموز التعبيرية في السياقات التي تنطوي على انتهاك بدقة. وبالنظر إلى الاستخدام الواسع للرموز التعبيرية التي قد تحمل معانٍ مختلفة، يجب على Meta تدقيق بيانات التدريب المستخدَمة لإنفاذ سياسة السلوك الذي يحض على الكراهية بصفة دورية، خاصةً فيما يتعلق بالأمثلة التي تتضمن رموزًا تعبيرية بجميع اللغات، وضمان إدراج مجموعات بيانات أكثر قوة. ويجب على الشركة مراعاة الطبيعة المتغيرة لاستخدام الرموز التعبيرية، بالاعتماد على نتائج الأبحاث التي قد تتضمن معلومات حول اتجاهات استخدام الرموز التعبيرية على منصاتها عبر اللغات والمناطق (راجع أيضًا PC-31493). وتماشيًا مع التزامات Meta بتطوير وإنفاذ قواعدها العالمية بطريقة غير تمييزية، يجب على Meta ضمان أن تشمل مجموعات البيانات أمثلة لمحتوى غير إنجليزي يتضمن رموزًا تعبيرية.

5‏.2. الامتثال لمسؤوليات Meta المتعلقة بحقوق الإنسان

ويرى المجلس أن الإبقاء على كلا المنشورين على المنصة لم يكن متسقًا مع مسؤوليات Meta المتعلقة بحقوق الإنسان.

حرية التعبير (المادة 19 من العهد الدولي الخاص بالحقوق المدنية والسياسية)

المادة 19، الفقرة 2 من العهد الدولي الخاص بالحقوق المدنية والسياسية تنص على أن "لكل إنسان حق في حرية التعبير؛ ويشمل هذا الحق حريته في التماس مختلف صنوف المعلومات والأفكار وتلقيها ونقلها إلى الآخرين دونما اعتبار للحدود، سواء على شكل مكتوب أو مطبوع أو في قالب فني أو بأية وسيلة أخرى يختارها". ويحدد التعليق العام رقم 34 كذلك أن أشكال التعبير المحمية تشمل تلك التي قد تعتبر "مسيئة للغاية" (الفقرة 11).

وعندما تفرض الدولة قيودًا على حرية التعبير، يجب أن تفي تلك القيود بمتطلبات الشرعية والهدف المشروع والضرورة والتناسب (المادة 19، الفقرة 3، العهد الدولي الخاص بالحقوق المدنية والسياسية). وغالبًا ما يُشار إلى هذه المتطلبات باسم "الاختبار الثلاثي". ويستند المجلس إلى هذا الإطار لتفسير مسؤوليات Meta المتعلقة بحقوق الإنسان بما يتماشى مع مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان، والتي التزمت بها Meta في سياسة حقوق الإنسان الخاصة بالشركة. ويطبق المجلس هذا النهج على قراراته بشأن عناصر المحتوى الفردية الخاضعة للمراجعة، وما تكشفه هذه القرارات عن نهج Meta الأوسع في إدارة المحتوى. كما ذكر مقرر الأمم المتحدة الخاص المعني بحرية التعبير، على الرغم من أن "الشركات لا تتحمل التزامات الحكومات، إلا أن تأثيرها من النوع الذي يتطلب منها تقييم نفس النوع من الأسئلة حول حماية حق مستخدميها في حرية التعبير" (A/74/486، الفقرة 41).

1. الشرعية (وضوح القواعد وسهولة الوصول إليها)

يتطلب مبدأ الشرعية أن تكون القواعد التي تقيِّد حرية التعبير واضحة ويسهُل الوصول إليها، وأن تُصاغ بدقة كافية لتمكين الفرد من ضبط سلوكه تبعًا لها (التعليق العام رقم 34، الفقرة 25). بالإضافة إلى ذلك، "لا يجوز لهذه القواعد أن تمنح الأشخاص المسؤولين عن تنفيذها سلطة تقديرية مطلقة في تقييد حرية التعبير"، ويجب أن "تنص على توجيهات وافية للمكلفين بتنفيذها لتمكينهم من التحقق على النحو المناسب من أنواع التعبير التي تخضع للتقييد وتلك التي لا تخضع للتقييد" (المرجع نفسه). ذكر مقرر الأمم المتحدة الخاص المعني بحرية التعبير أنه عند تطبيقها على قيام الجهات الفاعلة الخاصة بحوكمة الخطاب على الإنترنت، يجب أن تكون القواعد واضحة ومحددة (A/HRC/38/35، الفقرة 46). ينبغي أن يتمكن مستخدمو منصات Meta من الوصول إلى القواعد وفهمها، كما ينبغي تزويد مراجعي المحتوى بإرشادات واضحة بشأن إنفاذها.

ويرى المجلس أن القواعد المتعلقة بالمقارنات التي تجرد من الإنسانية بالحيوانات بشكل عام أو أنواع معينة يُنظر إليها ثقافيًّا على أنها أدنى منزلة واضحة بما يكفي كما طُبقت على هاتين الحالتين. وعلى هذا النحو، ينص معيار المجتمع بشأن السلوك الذي يحض على الكراهية بوضوح وعلانية على أن تشبيه أصحاب البشرة السمراء بالقردة أو المخلوقات الشبيهة بالقردة أمر محظور، مما يسلط الضوء على الاعتراف الواسع بهذا التشبيه العنصري. علاوة على ذلك، تتضمن إرشادات Meta الداخلية قائمة توضيحية وغير حصرية من الرموز التعبيرية، بما في ذلك رموز القرد والموز، والتي يمكن أن تشير إلى تشبيه مرئي بين المجموعات ذات السمات التي تتمتع بحقوق حماية والحيوانات.

2. الهدف المشروع

ينبغي أيضًا لأي قيود مفروضة على حرية التعبير أن تسعى إلى تحقيق واحد أو أكثر من الأهداف المشروعة الواردة في العهد الدولي الخاص بالحقوق المدنية والسياسية، والتي من بينها حماية حقوق الآخرين (المادة 19، الفقرة 3، العهد الدولي الخاص بالحقوق المدنية والسياسية).

وأشار مقرر الأمم المتحدة الخاص المعني بالأشكال المعاصرة للعنصرية والتمييز العنصري وكراهية الأجانب وما يتصل بذلك من تعصب بأن الخطاب الذي يحض على الكراهية، بما في ذلك أشكاله عبر الإنترنت، "له تأثير ضار قوي على المستوى المجتمعي، حيث يدمر النسيج الاجتماعي للمجتمعات ويقوض معايير حقوق الإنسان والديمقراطية، بما في ذلك المساواة وعدم التمييز" (A/78/538، الفقرة 31، (2023)). وحذر مقرر الأمم المتحدة الخاص المعني بتعزيز وحماية الحق في حرية الرأي والتعبير شركات وسائل التواصل الاجتماعي من أن "الخطاب التحريضي لا يعرض الأفراد للخطر ويشجع على الرقابة الذاتية فحسب، بل يقسم المجتمعات أيضًا عبر تأجيج الخوف والارتياب والعدائية، وتدمير الثقة الاجتماعية وإضعاف الحوار الديمقراطي والمشاركة المدنية" (A/80/341، الفقرة 30 (2025)).

وقد سبق للمجلس أن أقر بأن معيار المجتمع بشأن الخطاب الذي يحض على الكراهية (سياسة السلوك الذي يحض على الكراهية حاليًّا) يسعى إلى تحقيق الهدف المشروع المتمثل في حماية حقوق الآخرين. وتتضمن هذه الحقوق الحق في المساواة وعدم التمييز (المادة 2، الفقرة 1، العهد الدولي الخاص بالحقوق المدنية والسياسية؛ والمادتين 2 و5 من الاتفاقية الدولية للقضاء على جميع أشكال التمييز العنصري. راجع أيضًا منشوران يُظهران عَلَم حقبة الفصل العنصري في جنوب أفريقيا وتعليق على السياسة الكينية باستخدام إهانة مصنّفة).

3. الضرورة والتناسب

بموجب المادة 19(3) من العهد الدولي الخاص بالحقوق المدنية والسياسية، فإن الضرورة والتناسب يتطلبان أن تكون القيود المفروضة على حرية التعبير "مناسبة لتحقيق وظيفة الحماية المنوطة بها، ويجب أن تكون أقل الوسائل تدخلاً مقارنة بغيرها من الوسائل التي يمكن أن تحقق النتيجة المنشودة، ويجب أن تكون متناسبة مع المصلحة التي ستحميها" (التعليق العام رقم 34، الفقرة 34).

المنشورات الفردية

ويقر المجلس بأن المحتوى الذي يتضمن رموزًا تعبيرية قد يحمل معانٍ متعددة، بما في ذلك استخدامه لأغراض الإدانة، أو الإشارة إلى الذات، أو التمكين. وبشكل مماثل للخطاب الذي يمكن استخدامه بطرق تحض على الكراهية وطرق أخرى لا تحض عليها، تتطلب الرموز التعبيرية تحليلاً سياقيًّا لفهم معناها المقصود بالكامل. ومع ذلك، يجب أن يخضع المحتوى الذي يستخدِم رموزًا تعبيرية تسعى للتحريض على التمييز أو العدائية أو العنف تجاه مجموعات ذات سمة تتمتع بحقوق حماية للإزالة.

المادة 20، الفقرة 2 من العهد الدولي الخاص بالحقوق المدنية والسياسية تنص على أن "تُحظر بالقانون أية دعوة إلى الكراهية القومية أو العنصرية أو الدينية تشكل تحريضًا على التمييز أو العداوة أو العنف". وهذا الحظر "يتفق تمامًا مع الحق في حرية التعبير الوارد في المادة 19 [من العهد الدولي الخاص بالحقوق المدنية والسياسية]، والتي تقترن ممارستها بواجبات ومسؤوليات خاصة" (التعليق العام رقم 11، (1983)، الفقرة 2). ويخضع الحظر بموجب المادة 20 أيضًا للاختبار الثلاثي للمادة 19 (التعليق العام 34، الفقرات من 50 إلى 52).

ويرى المجلس أن إزالة هذه المنشورات أمر ضروري ومتناسب لمنع استغلال منصات Meta للتحريض على التمييز أو الأعمال العدائية ضد مجموعات ذات سمات تتمتع بحقوق حماية، وهم أصحاب البشرة السمراء في هاتين الحالتين. وتعتبر لجنة القضاء على التمييز العنصري أن "التحريض بطبيعته يسعى للتأثير في الآخرين للمشاركة في أشكال معينة من السلوك، بما في ذلك ارتكاب الجرائم، من خلال الدعوة أو التهديد. وقد يكون التحريض صريحًا أو ضمنيًّا، من خلال إجراءات مثل عرض رموز عنصرية أو توزيع مواد فضلاً عن الكلمات" (التوصية العامة رقم 35، الفقرة 16 (2013)). وتلاحظ اللجنة أنه في حين أن "مفهوم التحريض كجريمة ناقصة لا يتطلب تنفيذ التحريض بالفعل، إلا أنه عند تنظيم أشكال التحريض [...] ينبغي للدول الأطراف أن تأخذ في الاعتبار، كعناصر مهمة في جرائم التحريض [...] نية المتحدث، والخطر الوشيك أو احتمالية أن يؤدي السلوك الذي يرغب فيه المتحدث أو يقصده إلى الخطاب المعني". (المرجع نفسه)

ويؤكد دليل الأمم المتحدة لعام 2023 لصناع السياسات والممارسين أهمية تحديد ومعالجة "الخطاب غير اللفظي الذي يحض على الكراهية" الذي يتم التعبير عنه من خلال مقاطع الفيديو والموسيقى والميمات والوسائط الأخرى، فضلاً عن "اللغة المشفّرة" التي قد يصعب اكتشافها. وسبق للمجلس أن استشهد بعبارة "الإبداع الخبيث"، التي صاغها مركز ويلسون (Wilson Center)، للإشارة إلى "استخدام اللغة المشفّرة؛ والميمات البصرية والنصية المتكررة والقائمة على السياق؛ وغيرها من التكتيكات لتجنب الاكتشاف على منصات التواصل الاجتماعي" (راجع قرار منشور باللغة البولندية يستهدف الأشخاص المتحولين جنسيًا).

وفي بعض السياقات، قد تمثل الرموز التعبيرية أشكالاً من "لغة الخوارزميات" للتعبير عن الكراهية والتمييز والإساءة تجاه مجموعات محددة ذات سمات تتمتع بحقوق حماية. ويرى المجلس أن المحتوى في كلتا الحالتين يتناسب مع هذا الاتجاه، من خلال الإشارة الصريحة وتشبيه أصحاب البشرة السمراء بالقرود.

ففي الحالة البرازيلية، استُخدِمت صور ورموز القرود لمقارنة لاعبي كرة القدم البرازيليين، الذين ينتمي الكثير منهم إلى أصحاب البشرة السمراء، بالقرود. ونُشر المحتوى في سياق أوسع من العنصرية والعدائية الممنهجة الموثقةعلى نطاق واسع في كرة القدم، مع تركيز خاص على الهجمات المستهدفة ضد لاعبي كرة القدم أصحاب البشرة السمراء. حظي المنشور بأكثر من 22 ألف مشاهدة ويظهر اتجاهًا مقلقًا لتكريس الصور النمطية العنصرية والتحريض على تمييز مرجح ووشيك وأعمال عدائية ضد مجموعات محددة ذات سمة تتمتع بحقوق حماية، وهم أصحاب البشرة السمراء في هذه الحالة.

وفي الحالة الأيرلندية، استخدَم صاحب التعليق رمز القرد التعبيري لمقارنة جميع أصحاب البشرة السمراء، المشار إليهم في المنشور الرئيسي، بالقرود. وتمت مشاركة التعليق وسط تزايد التمييز والإقصاء ضد أصحاب البشرة السمراء في أيرلندا، في منشور رئيسي حظي بأكثر من 293 ألف تسجيل إعجاب و9500 تعليق. وفي حالة كارتون كنين، وجد المجلس أن "تصوير الصرب كجرذان والدعوة لاستبعادهم مع الإشارة إلى أعمال عنف تاريخية، يؤثر في حقوق المساواة وعدم التمييز للفئات المستهدفة". وبالمثل، في هذه الحالة، كان صاحب التعليق يصور أصحاب البشرة السمراء كقرود. وشجع التعليق على سلوك عدائي مماثل لذلك الموصوف في المنشور الرئيسي، مما أدى إلى التحريض على التمييز والعدائية.

وتوضح هذه المنشورات كيف يمكن استخدام الرموز التعبيرية لحث الآخرين على اتخاذ إجراءات تمييزية وعدائية محتملة. ولن توفر التدخلات الأقل صرامة، مثل التصنيفات أو شاشات التحذير أو غيرها من التدابير للحد من الانتشار، حماية كافية ضد آثار الإبقاء على محتوى من هذا النوع على المنصة. ولذلك، كانت إزالتها مبررة.

وفي الحالات الأكثر غموضًا، يشجع المجلس Meta على مواصلة استكشاف تدابير أقل تدخلاً بعناية، تماشيًا مع توصية المجلس في قرار المظاهرات المؤيدة لنافالني في روسيا. ومن شأن هذه التدابير أن تسمح للمستخدمين بالإصلاح الذاتي أو تعزيز فهم أن محتوى المستخدمين يمكن أن يؤثر سلبًا في الآخرين. وعند تطوير مثل هذه التدابير، يجب على Meta التأكد من فعاليتها وعدم أدائها إلى آثار سلبية على حقوق الإنسان (راجع تعليق على السياسة الكينية باستخدام إهانة مصنّفة، التوصية رقم 1).

قضايا أوسع نطاقًا

توضح أبحاث المجلس وتقاريره أن مثل هذا المحتوى غالبًا ما يستهدف أفرادًا محددين استنادًا إلى سماتهم التي تتمتع بحقوق حماية، خاصةً في سياق الرياضة، مثل كرة القدم. وتزيل Meta الإساءة الجماعية الموجهة بموجب سياسة المضايقة والإساءة، عندما يتم تصعيد المحتوى لمراجعته من قِبَل خبراء الموضوع لديها. كما قدمت الشركة العديد من تدابير تحكم المستخدم لمعالجة الإساءة. فعلى Instagram، على سبيل المثال، يمكن للمستخدمين إدارة تعليقات غير مرغوب فيها متعددة دفعة واحدة أو حظر الحسابات التي نشرتها بشكل جماعي، أو إعداد فلاتر التعليقات "لمنع الآخرين من ترك تعليقات مسيئة تستخدم كلمات أو عبارات أو رموزًا تعبيرية لا يرغبون في رؤيتها".

ولتنسيق جهودها بشكل أفضل وحماية المستخدمين الذين قد لا يتم ذكر أسمائهم مباشرةً ولكنهم أهداف ضمنية لحملات الكراهية، يجب على Meta تطوير إطار عمل لمواءمة تدابيرها القائمة بالفعل لإحباط حملات الكراهية بشكل استباقي، خاصةً تلك التي تنطوي على استخدام الرموز التعبيرية. وينبغي أن يشمل ذلك حملات لكل من الشخصيات العادية والعامة من خلال الإشارات المباشرة/الصريحة وغير المباشرة/الضمنية التي تفعل سياسات المضايقة والإساءة أو السلوك الذي يحض على الكراهية. وسيضمن إطار العمل أن تتبع Meta نهجًا متماسكًا لمعالجة الثغرات في أنظمة المراجعة الخاصة بها، وتحديد وتقييم حملات الكراهية المنسقة والمستهدفة، وإنشاء قنوات دائمة لتقديم الملاحظات.

ويُعد ضمان تجهيز أنظمتها جيدًا للتعامل مع الحملات المستهدفة أمرًا مهمًّا أيضًا استعدادًا للفعاليات الرياضية الكبرى، وخاصة كرة القدم. وتُشير العديد من الحوادثالموثقة سواء عبر الإنترنت وفي الملاعب إلى اتجاه مقلق للعداء العنصري بين مجموعات من المشجعين والمتفرجين. ويجب على Meta التأكد من أن جهودها للتخفيف من الآثار الحساسة لعنصر الوقت تشمل مراقبة نشطة للمحتوى الذي يتضمن رموزًا تعبيرية تحرض على التمييز أو العدائية الموجهة في الفترة التي تسبق الفعاليات الرياضية الكبرى وخلالها وفي أعقابها مباشرة، مثل كأس العالم التابعة للاتحاد الدولي لكرة القدم (FIFA) لعام 2026. ويمكن تحقيق ذلك من خلال إنشاء فريق متعدد الوظائف من خبراء الموضوع من جميع أنحاء الشركة "للاستجابة في الوقت الفعلي للمشكلات والاتجاهات المحتملة"، على غرار مركز العمليات والمنتجات والنزاهة؛ وتنفيذ عملية مراجعة سريعة للطعون المتعلقة بالانتهاكات المرتبطة بالفعاليات الرياضية؛ ومراقبة الاتجاهات في الوقت الفعلي لاكتشاف الارتفاع المفاجئ في المحتوى الذي يتضمن رموزًا تعبيرية تستهدف أفرادًا معينين أو مجموعات ذات سمة تتمتع بحقوق حماية. ويجب على Meta أيضًا التواصل مع الاتحاد الدولي لكرة القدم (FIFA) والجمعيات الرياضية المهنية الأخرى لتبقى على اطلاع بالاتجاهات والديناميكيات ذات الصلة.

6. قرار مجلس الإشراف

ألغى المجلس قرار Meta الأصلي بالإبقاء على المحتوى في كلتا الحالتين قيد المراجعة.

7. التوصيات

الإنفاذ

1. لتحسين قدرة أنظمتها التلقائية على اكتشاف استخدام الرموز التعبيرية في السياقات التي تنطوي على انتهاكات بدقة أكبر، يجب على Meta تدقيق بيانات التدريب الخاصة بها المستخدَمة لإنفاذ سياسة السلوك الذي يحض على الكراهية وضمان تحديث البيانات دوريًّا لتشمل أمثلة على المحتوى الذي يتضمن رموزًا تعبيرية بجميع اللغات، واستخدام الرموز التعبيرية بشكل ينطوي على انتهاكات، والحالات الجديدة لاستخدام الرموز التعبيرية الذي يحض على الكراهية.

سيعتبر المجلس هذه التوصية منفذة عندما تزود Meta المجلس بنتائج مفصلة لتدقيقها الأول والتحسينات اللازمة التي ستنفذها الشركة نتيجة لذلك.

2. لحماية المستخدمين الذين لا يتم ذكر أسمائهم مباشرةً ولكنهم أهداف ضمنية لحملات الكراهية بشكل أفضل، يجب على Meta مواءمة جهودها القائمة لإحباط حملات الكراهية بشكل استباقي، خاصةً تلك التي تشمل استخدام الرموز التعبيرية. وينبغي أن يشمل ذلك حملات تشمل كلاً من الشخصيات العادية والعامة من خلال الإشارات المباشرة/الصريحة وغير المباشرة/الضمنية التي تفعل سياسات المضايقة والإساءة أو السلوك الذي يحض على الكراهية.

سيعتبر المجلس هذه التوصية منفذة عندما تشارك Meta مع المجلس ممارسات الإنفاذ المحدثة الخاصة بها لحملات الكراهية المستهدفة.

3. لضمان تجهيز أنظمتها جيدًا لمعالجة حملات الكراهية أثناء الفعاليات الرياضية الكبرى، مثل كأس العالم التابعة للاتحاد الدولي لكرة القدم (FIFA)، يجب على Meta التأكد من أن جهودها للتخفيف من الآثار الحساسة لعنصر الوقت، سواء من خلال مركز العمليات والمنتجات والنزاهة أو نظام آخر للتخفيف من المخاطر، تشمل مراقبة نشطة للمحتوى الذي يتضمن رموزًا تعبيرية تحرض على التمييز أو العدائية الموجهة في الفترة التي تسبق هذه الفعاليات وخلالها وفي أعقابها مباشرة.

سيعتبر المجلس هذه التوصية منفذة عندما تشارك Meta مع المجلس الأدلة التي تؤكد نشر تقييمات المخاطر وجهود التخفيف المستخدَمة أثناء الفعاليات الرياضية الكبرى.

كما يؤكد المجلس مجددًا أهمية توصياته السابقة، مشيرًا إلى صلتها بهذا الموضوع (التوصية رقم 1 من تعليق على السياسة الكينية باستخدام إهانة مصنّفة). تماشيًا مع تلك التوصيات، ينبغي لشركة Meta:

• توفير فرصة للمستخدمين للإصلاح الذاتي للمحتوى بشكل يضاهي تدخل "احتكاك وقت النشر" الذي تم إنشاؤه نتيجة للتوصية رقم 6 بشأن المظاهرات المؤيدة لنافالني في روسيا. إذا لم يَعُد هذا التدخّل قائمًا، فإنه يجب على Meta توفير تدخّل منتج مماثل له.

ملاحظة إجرائية:

• تتخذ لجان مكونة من خمسة أعضاء قرارات مجلس الإشراف، وتتم الموافقة عليها بأغلبية أصوات المجلس بالكامل. ولا تُعبر قرارات المجلس بالضرورة عن وجهات نظر جميع الأعضاء.
• بموجب اتفاقيته، يجوز لمجلس الإشراف مراجعة الطعون المقدمة من المستخدمين الذين أزالت Meta محتواهم، والطعون المقدمة من المستخدمين الذين أبلغوا عن محتوى أبقت عليه Meta، والقرارات التي تحيلها Meta إليه (المادة 2، القسم 1 من الاتفاقية). يتمتع المجلس بسلطة مُلزمة تتيح له تأييد أو إلغاء القرارات التي تتخذها Meta بشأن المحتوى (المادة 3، القسم 5 من الاتفاقية؛ المادة 4 من الاتفاقية). ويحق للمجلس إصدار توصيات غير ملزِمة تكون شركة Meta مُلزَمَة بالرد عليها (المادة 3، القسم 4 من الاتفاقية؛ المادة 4). وعندما تلتزم Meta بالعمل استنادًا إلى التوصيات، يراقب المجلس تنفيذها.
• بالنسبة إلى القرار المتخذ بشأن هذه الحالة، أُجري بحث مستقل نيابةً عن المجلس. وساعدت شركة Duco Advisors المجلس، وهي شركة استشارات تركز على نقطة التقاء الجغرافيا السياسية والثقة والأمان والتكنولوجيا.

العودة إلى قرارات الحالة والآراء الاستشارية المتعلقة بالسياسة