تعليق على السياسة الكينية باستخدام إهانة مصنّفة

الملخص

ألغى مجلس الإشراف قرار Meta الأصلي بإزالة تعليق بشأن السياسة الكينية يتضمن مصطلح "tugeges" (توجيجيز). ورغم أن التعليق يصف مجموعة من الناخبين الكينيين بشكل سلبي، فإنه لا يخلق بطبيعته جوًا من الإقصاء التمييزي والترهيب. عند نشر هذا المحتوى، لم يكن ينبغي تصنيف المصطلح على أنه إهانة. وتُبين هذه الحالة كيف أدت استجابة Meta الفضفاضة للغاية إلى قمع الخطاب السياسي والنقاش العام.

حول الحالة

ترشح رئيس وزراء كينيا السابق رايلا أودينجا لمنصب رئيس الاتحاد الأفريقي في فبراير 2025. وقبيل تلك الانتخابات، نشر أحد مستخدمي فيسبوك صورة لنائب رئيس كينيا السابق ريجاتي جاتشاجوا. ويصف النص الموجود على الصورة دعم جاتشاجوا لترشيح أودينجا. وفي الشرح التوضيحي، يذكر المستخدم أن جاتشاجوا، الذي ينتمي إلى مجموعة الكيكويو العرقية، لا يختار تأييد أودينجا، الذي ينتمي إلى مجموعة اللو العرقية، إلا لزيادة شعبيته بين أفراد اللو.

ورد مستخدم ثانٍ في تعليق، ساخرًا من محتوى المستخدم صاحب المنشور الأصلي، رافضًا إياه باعتباره موجهًا إلى "توجيجيز" ("كيكويو متخلف") - وهي إشارة مباشرة إلى مؤيدي جاتشاجوا.

في ذلك الوقت، صنّفت Meta مصطلح "توجيجيز" كإهانة بموجب معيار المجتمع بشأن السلوك الذي يحض على الكراهية. أزالت الأنظمة التلقائية تعليق المستخدم الثاني ووُجه إنذار لحسابه. ومع ذلك، أزالت Meta المصطلح من قائمة الإهانات لديها في يوليو 2025 عندما طرح المجلس أسئلة حول تصنيفه. كما استعادت الشركة التعليق وألغت الإنذار الموجه ضد المستخدم في الشهر التالي.

أهم النتائج

يشجع المجلس Meta على توخي الحكمة في عملية التصنيف قبل حظر الكلمات. لا يستوفي مصطلح "توجيجيز" تعريف Meta للإهانة. في وقت انتخابات كينيا لعام 2022، كانت طريقة استخدام الكلمة قد تجعلها مؤهلة للتصنيف كإهانة. ومع ذلك، فقد تطور استخدامها بسرعة، مما أثار تساؤلات بشأن توقيت تصنيفها في يناير 2024. عند نشر هذا المحتوى، لم يكن ينبغي تصنيف "توجيجيز" كإهانة.

ورغم أن المصطلح قد يكون ازدرائيًا فيما يتعلق بالمجموعة العرقية، يستخدمه الكثيرون لانتقاد الولاء السياسي الأعمى. وتوجد مرادفات في لهجات كينية أخرى، تُستخدم عادةً للتعبير عن النقد السياسي. لم يجد التحالف الوطني الكيني لحرية التعبير والإشراف على المحتوى أن المصطلح يمثل خطابًا يحض على الكراهية. ويشير الخبراء والتعليقات العامة إلى أن الدلالات العرقية التمييزية للمصطلح ليست ثابتة وأن الكلمة لها معانٍ عامية مختلفة. وكان على Meta أخذ هذا الأمر في الحسبان، وهو ما يؤكد أهمية إشراك الشركة لأصحاب المصلحة الوطنيين في كل من تصنيف قوائم الإهانات وتدقيقها.

وتضمنت مداولات هذه الحالة أيضًا مناقشات حول كيفية استمرار Meta في إتاحة فرصة للمستخدمين لاتخاذ إجراء عندما يحتمل أن ينتهك محتواهم سياسة السلوك الذي يحض على الكراهية. وتقترح توصية المجلس إضافة ميزة إلى المنتج للتعامل مع الانتهاكات المحتملة لسياسة السلوك الذي يحض على الكراهية.

قرار مجلس الإشراف

ألغى المجلس قرار Meta الأصلي بإزالة المحتوى.

يوصي المجلس Meta بما يلي:

• منح المستخدمين فرصة للمعالجة الذاتية مماثلة لتدخل تأخير النشر الذي أُنشئ نتيجة للتوصية رقم 6 في حالة المظاهرات المؤيدة لنافالني في روسيا. إذا لم يَعُد هذا التدخّل قائمًا، فإنه يجب على Meta توفير تدخّل منتج مماثل له.
• يعيد المجلس أيضًا التأكيد على توصية صادرة في قرار سابق، كانت Meta قد التزمت بها التزامًا كاملاً وتعمل على تنفيذها حاليًا.
• عند تدقيق قوائم الإهانات الخاصة بها، يجب على شركة Meta ضمان إجراء مشاركة خارجية واسعة النطاق مع أصحاب المصلحة المعنيين.

* توفر ملخصات الحالات نظرة عامة على الحالات ولا تُشكّل سابقة قانونية.

القرار الكامل بشأن الحالة

1. وصف الحالة ومعلومات أساسية عنها

في الفترة التي سبقت انتخابات رئيس الاتحاد الأفريقي في فبراير 2025، نشر مستخدم فيسبوك صورة مع نص متراكب لنائب رئيس كينيا السابق ريجاتي جاتشاجوا وهو يدعم ترشيح رايلا أودينجا لمنصب رئيس الاتحاد الأفريقي. وفي شرح توضيحي، يذكر المستخدم أن جاتشاجوا، الذي ينتمي إلى مجموعة الكيكويو العرقية، لم يكن يؤيد أودينجا، الذي ينتمي إلى مجموعة اللو العرقية، إلا لزيادة شعبيته بين أفراد اللو. ورد مستخدم ثانٍ، تمت الإشارة إليه في المنشور، في تعليق، ساخرًا من رد فعل صاحب المنشور الأصلي على تصريح جاتشاجوا ورافضًا التصريح باعتباره موجهًا إلى "توجيجيز"، في إشارة إلى مؤيدي جاتشاجوا. وأوضح المستخدم صاحب التعليق أن تأييد جاتشاجوا موجه لجمهور خارجي، وليس للكينيين.

حددت أداة الكشف الاستباقي لدى Meta تعليق المستخدم وأزالته لاحتوائه على مصطلح "توجيجيز" وانتهاكه لمعيار المجتمع بشأن السلوك الذي يحض على الكراهية. كانت Meta قد صنّفت الكلمة كإهانة في يناير 2024. وفي ذلك الوقت، عرفت Meta المصطلح بأنه يعني "كيكويو متخلف". أزالت Meta التعليق ووجهت إنذارًا قياسيًا لحساب المستخدم. تقدم المستخدم بطعن على قرار Meta بإزالة التعليق، لكن المشرف الذي راجع الطعن أيد القرار. ثم تقدم المستخدم صاحب المنشور بطعن إلى مجلس الإشراف. وفي يوليو 2025، وبعد أسئلة من المجلس تتعلق بتصنيف المصطلح، أزالته Meta من قائمة الإهانات. ونتيجة لذلك، تمت استعادة المحتوى وإلغاء الإنذار الموجه ضد المستخدم. تم إخطار المستخدم باستعادة المحتوى وإبلاغه بأن هذا كان نتيجة لمراجعة المجلس لحالته.

أخذ المجلس في حسبانه السياق التالي عندما توصل إلى قراره.

في الديمقراطية متعددة الأحزاب في كينيا، غالبًا ما يستفيد السياسيون والأحزاب السياسية من الانتماءات العرقية والولاءات بين المجموعات سعيًا للحصول على الأصوات أثناء الانتخابات. ومن بين الأفراد الذين تمت مناقشتهم في المنشور، يحظى أودينجا بدعم كبير من مجتمع اللو. ينحدر الرئيس الحالي ويليام روتو من مجتمع كالينجين، ثالث أكبر مجموعة عرقية في كينيا، بينما ينتمي السيد جاتشاجوا إلى مجتمع الكيكويو، وهي أكبر مجموعة عرقية. تحالف الرئيس روتو وجاتشاجوا وفازا في الانتخابات العامة لعام 2022، حيث عمل جاتشاجوا نائبًا للرئيس من عام 2022 حتى عزله في عام 2024.

غالبًا ما يكون تداخل السياسة والانتماء العرقي موضوعًا للنقاش العام في كينيا ويمكن أن يكون مثيرًا للجدل. وكانت الدعوة إلى الكراهية العرقية التي تحرض على العنف بين المجتمعات، لا سيّما أثناء الانتخابات، مبعث قلق. كانت أحداث العنف التي أعقبت انتخابات عام 2008، والتي أدت إلى وفاة 1200 شخص ونزوح مئات الآلاف من الأشخاص، لها دوافع متعددة ومعقدة، لكنها كانت مؤججة جزئيًا بخطاب يحض على الكراهية والتحريض على أساس الانتماء العرقي. ووقعت حوادث مماثلة بعد الانتخابات العامة لعام 2017. حذرت اللجنة الوطنية للتماسك والتكامل (NCIC)، وهي وكالة التماسك الاجتماعي في كينيا، من استخدام خطاب يحض على الكراهية على منصات التواصل الاجتماعي، بما في ذلك من سياسيين مثل جاتشاجوا ملمّحة إلى العنف المحتمل في الانتخابات العامة المقبلة لعام 2027. وفي سبتمبر 2023، ردًا على التكهنات، قالت اللجنة الوطنية للتماسك والتكامل إنها لم تضع خططًا لحظر كلمة "توجيجيز" باعتبارها خطابًا يحض على الكراهية، ولكن في يونيو 2024 حذرت من استخدام المصطلح للإشارة إلى الأشخاص الذين يدعمون أيديولوجية سياسية مختلفة، حيث إن الكلمة "مؤذية وتحط من قدر الأشخاص وتجردهم من إنسانيتهم". ومع ذلك، لم يتم تضمين المصطلح في قائمة مصطلحات الخطاب الذي يحض على الكراهية الخاصة باللجنة الوطنية للتماسك والتكامل.

في يونيو 2024، اندلعت احتجاجات بقيادة الشباب في كينيا بعد أن اقترحت الحكومة زيادة الضرائب. وتطورت الاحتجاجات في النهاية إلى دعوات أوسع لحكومة أكثر عرضة للمساءلة، تتجاوز الولاءات العرقية. وفي يونيو 2025، اندلعت احتجاجات بقيادة الشباب مرة أخرى، داعية إلى استقالة الرئيس روتو مما يعكس استمرار عدم الرضا عن حكومة روتو. ردًا على ذلك، شنت سلطات إنفاذ القانون حملة قمع ضد المتظاهرين، بما في ذلك إطلاق النار عليهم، مما أدى إلى وفيات وإصابات واعتقالات. وفي يوليو 2025، اتهم الرئيس روتو المعارضة التي تضم الآن جاتشاجوا بالتخطيط للإطاحة به، وهو ما نفاه جاتشاجوا.

2. المعلومات المقدَّمة من المستخدمين

في بيانه المقدّم إلى المجلس، أكّد المستخدم الذي نشر التعليق أنه لم يُهِن أحدًا ولم يُهدِّد ولم يستخدم لغة مسيئة. وأضاف أنه كان مجرد تعليق سياسي بسيط كُتب "بأسلوب متحضر"، معتبرًا أن إزالة Meta للمنشور تصرف يفتقد إلى الإنصاف.

3. سياسات المحتوى والمعلومات المقدَّمة من Meta

1. سياسات المحتوى لدى Meta

معيار المجتمع بشأن السلوك الذي يحض على الكراهية

بموجب سياسة السلوك الذي يحض على الكراهية، تزيل Meta المحتوى الذي "يصف الأشخاص أو يستهدفهم بشكل سلبي باستخدام الإهانات". وتُعرِّف Meta السلوك الذي يحض على الكراهية بأنه "هجمات مباشرةً على الأشخاص، وليس على مفاهيم أو مؤسسات" استنادًا إلى سمات تتمتع بحقوق حماية مثل العرق أو السلالة أو العجز، من بين أمور أخرى. الإهانات هي "كلمات تخلق بطبيعتها جوًا من الإقصاء والترهيب ضد الأشخاص على أساس سمة تتمتع بحقوق حماية، وغالبًا ما ترتبط هذه الكلمات بالقمع والعنف والتمييز التاريخي".

وكما ورد في مبادئ سياسة السلوك الذي يحض على الكراهية، تؤمن Meta بأن الأشخاص "يعبّرون عن آرائهم ويتواصلون بحرية أكبر عندما لا يشعرون بأنهم يتعرضون للهجوم على أساس هويتهم". وتحدد مبادئ السياسة أيضًا الحالات التي يُسمح فيها استخدام الإهانات: لإدانة الإهانة، أو الإبلاغ عنها، أو الإشارة إلى الذات، أو عند استخدامها بطريقة إيجابية. وتؤكد Meta أنها تسمح بهذه الاستخدامات عندما تكون نية المتحدث واضحة.

2. المعلومات المقدَّمة من Meta

أزالت Meta المحتوى في البداية لانتهاكه القاعدة الخاصة بالإهانات الواردة في معيار المجتمع بشأن السلوك الذي يحض على الكراهية. كان مصطلح "توجيجي" مُصنّفًا كإهانة وقت نشره، ووجدت Meta أن استخدامه لا يندرج تحت أي من الاستثناءات المسموح بها.

أضافت Meta المصطلح إلى قائمة الإهانات الخاصة بالأسواق الناطقة بالسواحيلية في يناير 2024، وذلك بعد شيوع استخدامه خلال الانتخابات العامة الكينية لعام 2022. وتم تصنيف الكلمة وفقًا لعملية التصنيف المعتمدة لدى Meta. وفقًا للتحليلات النوعية والكمية التي أجرتها الشركة آنذاك، كان يُفهم من المصطلح أنه يعني "كيكويو متخلف"، وهو صيغة الجمع لكلمة "kagege" (كاجيجي)، وهو مصطلح بلغة الكيكويو يصف "الشخص شديد الارتباك لدرجة أنه يحدق في العالم بذهول وفراغ". والمصطلح مشتق من كلمة "gega" (جيجا) التي تعني "التحديق في حيرة". وخلصت فرق السياسات والفرق الإقليمية في Meta حينها إلى أن الكلمة تُستخدم لمهاجمة الكيكويو استنادًا إلى انتمائهم العرقي.

عند الإعلان عن تغييرات السياسة في 7 يناير 2025، ذكرت Meta أنها ستتعامل مع انتهاكات سياسة السلوك الذي يحض على الكراهية بوصفها "انتهاكات أقل خطورة"، وأنها ستقلل من اعتمادها على الأنظمة التلقائية عند اتخاذ إجراءات إنفاذ ضد هذه الانتهاكات. وبدلاً من ذلك، ستعتمد الشركة على "بلاغات المستخدمين والإشارات الخارجية الأخرى" لدعم أدوات التصنيف في الكشف عن الانتهاكات المحتملة. ومع ذلك، قد تواصل استخدام أدوات التصنيف لإزالة المحتوى المخالف بشكل استباقي فور اكتشافه ودون مراجعة بشرية. وفي البلدان التي تمر بأزمات (سواء كانت مصنّفة بموجب بروتوكول سياسة الأزمات الخاص بالشركة أم لا)، ستواصل Meta الكشف الاستباقي عن انتهاكات السلوك الذي يحض على الكراهية وإزالتها دون الاعتماد على بلاغات المستخدمين أو الإشارات الخارجية.

وقت نشر المحتوى، كانت Meta قد فعّلت آليات الكشف الاستباقي والإزالة للانتهاكات المحتملة لسياسة السلوك الذي يحض على الكراهية في كينيا، وذلك ضمن تدابير النزاهة الأوسع التي اتخذتها الشركة استباقًا للانتخابات الوطنية لعام 2027، نظرًا لبدء الحملات السياسية بالفعل. وعزت Meta ذلك إلى تاريخ كينيا الطويل من التوترات العرقية المصاحبة للانتخابات، وتأثر السياسة بشكل كبير بالانتماءات القبلية، رغم أن الشركة لم تكن قد صنّفت البلاد كمنطقة أزمة بموجب بروتوكول سياسة الأزمات (CPP) فيما يخص انتخابات رئاسة الاتحاد الأفريقي. في قرار قواعد التصويت لهيئة الانتخابات الأسترالية، أبلغت Meta المجلس بإمكانية تهيئة نظامها التلقائي للكشف الاستباقي عن المحتوى، ومن ثَم إما إدراجه في قائمة الانتظار للمراجعة البشرية أو إزالته تلقائيًا.

وفي الحالة التي بين أيدينا، استخدمت Meta نظامها التلقائي لتحديد المحتوى وإزالته لانتهاكه سياسة السلوك الذي يحض على الكراهية. يعمل النظام التلقائي على اكتشاف استخدام الإهانات المصنّفة من قِبل Meta في الأسواق السواحيلية، وذلك ضمن مبادرة بحث موجهة استجابةً للتوتر السياسي المتزايد وبناءً على تقييم Meta الداخلي للمخاطر خارج المنصة. وسيستمر عمل هذا النظام للكشف عن المحتوى المخالف وإزالته حتى الانتخابات العامة لعام 2027، وبعدها ستقيم Meta ما إذا كانت ستوقف العمل به أم ستبقيه.

في يونيو 2025، وأثناء المداولات الخاصة بهذه الحالة، سأل المجلس Meta عن تصنيف مصطلح "توجيجيز" كإهانة، مستندًا إلى آراء الخبراء وأصحاب المصلحة التي أوضحت للمجلس تنوع المعاني العامية للمصطلح في الخطاب السياسي الكيني، مما يشير إلى أنه لا يُعد دائمًا هجومًا قائمًا على العرق. دفع هذا الأمر Meta لإجراء مزيد من التحقيقات، مما أدى بها إلى إعادة تقييم التصنيف بالتشاور مع فرق السياسات العامة الداخلية، ومن ثَم إزالته من قائمة الإهانات في يوليو 2025. وتوصلت Meta إلى أن المصطلح يُستخدم حاليًا أيضًا "لاستهداف السياسيين بناءً على أدوارهم كشخصيات سياسية"، وليس بناءً على سماتهم التي تتمتع بحقوق حماية. وأكدت Meta استعادة محتوى الحالة وإزالة الإنذار الموجه ضد المستخدم في 23 يوليو 2025، أي بعد خمسة أشهر من نشر المحتوى.

تجري Meta عمليات تدقيق عالمية لقائمة الإهانات لديها كجزء من ممارساتها القياسية لضمان مواكبة معاني المصطلحات المصنّفة للمستجدات. وتعتمد وتيرة عمليات التدقيق هذه على تخصيص Meta لمواردها، بما في ذلك الخبرات الإقليمية. وخارج نطاق التدقيق، تراجع فرق السياسات الإقليمية وسياسات المحتوى في Meta الطلبات الاستثنائية لإضافة المصطلحات أو إزالتها حسب الاقتضاء. وقد بدأ تدقيق هذا العام، الذي يشمل الأسواق السواحيلية، في يوليو – بعد إزالة مصطلح "توجيجيز" بالفعل من القائمة نتيجة لهذه الحالة – ومن المتوقع اكتماله بحلول سبتمبر.

وجه المجلس أسئلة حول تصنيف مصطلح "توجيجيز" ثم إزالته لاحقًا من القائمة، والتدابير المتخذة لمعالجة المحتوى الذي يحتمل أن يكون مخالفًا، وآلية تدقيق الشركة لقائمة الإهانات، وعن الكشف الاستباقي عن الخطاب الذي يحض على الكراهية المحتمل ضمن جهود Meta لضمان نزاهة الانتخابات عقب تغييرات الإنفاذ المعلنة في يناير. وقد أجابت Meta عن كل هذه الأسئلة.

4. التعليقات العامة

تلقى مجلس الإشراف أربعة تعليقات عامة استوفت شروط الإرسال. ورد تعليقان من منطقة أفريقيا جنوب الصحراء الكبرى، وتعليقان من وسط وجنوب آسيا. للاطلاع على التعليقات العامة التي وافق أصحابها على نشرها، انقر هنا.

وتناولت التعليقات المحاور التالية: الاستخدامات العامية لمصطلح "توجيجيز"؛ وقصور الإنفاذ التلقائي عن مراعاة الفروق الدقيقة في اللغة والسياق؛ وكيف يمكن أن تؤدي مراجعة Meta التلقائية للخطاب الذي يحض على الكراهية إلى كل من قصور الإنفاذ والإفراط فيه.

5. تحليل مجلس الإشراف

اختار المجلس هذه الحالة لمساعدة Meta على التوفيق بين التزامها بحرية الرأي وبين إنفاذ سياسة السلوك الذي يحض على الكراهية ضد الإهانات في البلدان التي لها تاريخ من التوتر العرقي. وأجرى المجلس تحليلاً لقرار Meta بشأن هذه الحالة في ضوء سياسات المحتوى التي تتبعها الشركة، وقيمها، ومسؤولياتها تجاه حقوق الإنسان. كما قيّم المجلس الآثار المترتبة على هذه الحالة فيما يتعلق بنهج Meta الأوسع في حوكمة المحتوى.

5.1 الامتثال لسياسات المحتوى لدى Meta

يرى المجلس أن المحتوى موضوع الحالة لا ينتهك سياسة السلوك الذي يحض على الكراهية، حيث إن استخدام مصطلح "توجيجيز" لا يستوفي تعريف Meta "للإهانة".

ويقر المجلس بأنه وقت إزالة Meta للمحتوى، كان المصطلح مصنّفًا كإهانة، وأن الأنظمة التلقائية والمراجعين البشريين بالشركة أزالوا المحتوى تماشيًا مع التوجيهات الداخلية. وبالنظر إلى تاريخ كينيا في التوتر العرقي، واحتمال تصاعد العنف حول الانتخابات، فإن حرص الشركة على إزالة الخطاب الذي يحض على الكراهية كان متماشيًا مع إجراءاتها وتصنيفات الإهانات السارية آنذاك. ومع ذلك، تطور استخدام المصطلح المصنّف محل الخلاف بسرعة، مما أثار التساؤلات حول مدى ملاءمة توقيت تصنيف Meta له في يناير 2024. وبحلول الوقت الذي نُشر فيه هذا المحتوى، بل ويمكن القول منذ أوائل عام 2024 حين تم تصنيفه لأول مرة، لم يكن ينبغي اعتباره إهانة تستوجب الحظر.

في هذه الحالة، استُخدم مصطلح "توجيجيز" لمناقشة السياسات المحيطة بترشيح رئيس الاتحاد الأفريقي والتعبير عن نقد سياسي في هذا الصدد. ورغم أن التعليق يصف مؤيدي جاتشاجوا بشكل سلبي، فإن المصطلح لا يخلق بطبيعته جوًا من الإقصاء التمييزي والترهيب، ومن ثم لا يُعد إهانة. وأكدت التعليقات العامة المقدمة على أهمية أن تراعي مراجعة المحتوى السياق والفروق الدقيقة للخطاب السياسي في كينيا لتجنب الإفراط في الإنفاذ (راجع PC-31266 وPC-31269 وPC-31270 وPC-31272).

وأكد الخبراء الذين استشارهم المجلس أنه خلال الانتخابات العامة لعام 2022، شاع استخدام مصطلح "توجيجيز" لوصف ناخبي الكيكويو الذين ينظر إليهم البعض على أنهم يصوتون دون إدراك كامل لعواقب أصواتهم. ورغم أن المصطلح قد يحمل صبغة ازدرائية عرقية في ظروف معينة، إلا أنه اكتسب في السنوات الأخيرة دلالة أوسع للإشارة إلى الأفراد - بغض النظر عن انتمائهم العرقي - الذين يصوتون دون تمحيص عميق لتوجهاتهم وولاءاتهم السياسية. ويستخدم الكثيرون المصطلح لانتقاد الولاء السياسي الأعمى أو الافتقار إلى البصيرة دون قصد استخدامه كخطاب يحض على الكراهية، حتى في المواقف التي يتداخل فيها الولاء السياسي مع الانتماء العرقي. وأشار الخبراء إلى وجود مصطلحات مرادفة في لهجات كينية أخرى، مما يدل على أن استخدام مثل هذه الكلمات أمر مألوف في النقاشات السياسية أو التعبير عن النقد السياسي في كينيا. ويلاحظ المجلس أن اللجنة الوطنية للتماسك والتكامل حذرت في يونيو 2024 من استخدام المصطلح في الخطاب السياسي لكونه "مؤذيًا ويحط من قدر الأشخاص ويجردهم من إنسانيتهم"، لكنها لم تصل إلى حد تصنيفه كخطاب يحض على الكراهية أو اقتراح حظره. وبحسب التحالف الوطني الكيني لحرية التعبير والإشراف على المحتوى، فإن استخدام كلمات من لغة الكيكويو ليس أمرًا مستهجنًا في الخطاب السياسي، وقد يؤدي عجز Meta عن التمييز بين الخطاب الذي يحض على الكراهية والتعليق السياسي المحمي إلى تهديد حرية التعبير (PC-31272). وذكرت "المبادرة العالمية للتكنولوجيا وحقوق الإنسان"، وهي مؤسسة غير هادفة للربح مقرها كينيا، أن استخدام الكلمة في هذا السياق جاء ساخرًا "لانتقاد التظاهر السياسي وما يُتصور أنه سذاجة لدى أتباع تيار سياسي معين"، بدلاً من الحط من قدر الآخرين على أساس عرقي (PC-31266).

ويلاحظ المجلس أن Meta باتت تتبع نهجًا مغايرًا تجاه الإزالة التلقائية (أو ما تسميه "استباقية") لانتهاكات السلوك الذي يحض على الكراهية عقب إعلانها في يناير 2025، باستثناء البلدان التي تشهد أزمات حيث لا تزال الإزالة التلقائية سارية. وقد أوصى المجلس في قرارات سابقة بأن تطور Meta بروتوكولاً يساعدها على معالجة الأضرار المقترنة بالأزمات أو النزاعات (انظر على سبيل المثال: مكتب تيجراي لشؤون الاتصالات، فيديو صادم حول السودان، تعليق حساب الرئيس السابق ترامب)، فضلاً عن تحسين تدابير النزاهة حتى في الفترات غير الانتخابية (خطاب الجنرال البرازيلي). كما أوصى المجلس في قرار المظاهرات المؤيدة لنافالني في روسيا بأن تبحث Meta اتخاذ تدابير لإخطار المستخدمين فورًا بأن كلمة أو عبارة في منشورهم قد تنتهك سياسة Meta بشأن الادعاءات السلبية عن الشخصية.

وبالنظر إلى السياق الكيني، يتفهم المجلس دوافع Meta لنشر آليات الكشف التلقائي عن الخطاب الذي يحض على الكراهية وإزالته قبل وقت طويل من الانتخابات الوطنية المقررة في 2027. فمن المهم ألا تنتظر Meta اندلاع الأزمات (وتحوُلها إلى عنف مثلاً) لتتخذ إجراءات احترازية تضمن الإنفاذ المناسب لسياسة السلوك الذي يحض على الكراهية. كما يقر المجلس بوجاهة منطق Meta في اللجوء تلقائيًا إلى الإنفاذ الاستباقي لسياسة السلوك الذي يحض على الكراهية في البلدان التي تشهد أزمات مستمرة. وقد تستدعي حالات النزاع المسلح الممتد تصنيفًا طويل الأمد كأزمة، بما يسمح بنشر الإزالة الاستباقية للمحتوى المخالف إلى جانب الكشف الاستباقي. ومع ذلك، يشجع المجلس Meta على توخي الحذر بشأن هذه الأساليب، إذ قد تؤدي إلى تزايد حالات إزالة المحتوى بشكل فضفاض وغير دقيق. والحذر مطلوب أيضًا عند استخدام الإنفاذ التلقائي بوجه عام، إذ يمكن أن يكون واسع النطاق ويؤدي إلى إزالة خاطئة للخطاب، لا سيما في سياق الانتخابات، وهو ما حدث في هذه الحالة.

5.2 الامتثال لمسؤوليات Meta تجاه حقوق الإنسان

يرى المجلس أن إزالة المحتوى من المنصة لم تكن متسقة مع مسؤوليات Meta تجاه حقوق الإنسان.

حرية التعبير (المادة 19 من العهد الدولي الخاص بالحقوق المدنية والسياسية)

تنص المادة 19 من العهد الدولي الخاص بالحقوق المدنية والسياسية على توفير حماية واسعة لحرية التعبير، تشمل الآراء المتعلقة بالسياسة والشئون العامة وحقوق الإنسان ( التعليق العام رقم 34، الفقرتين 11 و12). وتمنح حماية "مشددة بشكل خاص" "للنقاش العام المتعلق بالشخصيات العامة في المجال السياسي والمؤسسات العامة" باعتباره عنصرًا أساسيًا لإدارة الشؤون العامة (التعليق العام رقم 34، الفقرة 38، 20؛ راجع أيضًا التعليق العام رقم 25، الفقرتين 12 و25)، كما تحمي الخطاب الذي قد يُعتبر "مسيئًا للغاية" (التعليق العام رقم 34، (2011)، الفقرة 11).

وعندما تفرض الدولة قيودًا على حرية التعبير، يجب أن تفي تلك القيود بمتطلبات الشرعية والهدف المشروع والضرورة والتناسب (المادة 19، الفقرة 3، العهد الدولي الخاص بالحقوق المدنية والسياسية). وغالبًا ما يُشار إلى هذه المتطلبات باسم "الاختبار الثلاثي". ويستند المجلس إلى هذا الإطار لتفسير مسؤوليات Meta المتعلقة بحقوق الإنسان بما يتماشى مع مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان، والتي التزمت بها Meta في سياستها الخاصة بحقوق الإنسان. ويطبق المجلس ذلك على قراراته بشأن المحتوى الفردي الخاضع للمراجعة، وما تكشفه هذه القرارات عن نهج Meta الأوسع في حوكمة المحتوى. وكما ذكر المقرر الخاص للأمم المتحدة المعني بحرية التعبير، فإنه على الرغم من أن "الشركات لا تتحمل التزامات الحكومات، إلا أن تأثيرها من النوع الذي يتطلب منها تقييم نفس النوع من الأسئلة حول حماية حق مستخدميها في حرية التعبير" ( A/74/486، الفقرة 41).

1. الشرعية (وضوح القواعد وسهولة الوصول إليها)

يتطلب مبدأ الشرعية أن تكون القواعد التي تقيِّد حرية التعبير واضحة ويسهُل الوصول إليها، وأن تُصاغ بدقة كافية لتمكين الفرد من ضبط سلوكه تبعًا لها (التعليق العام رقم 34، الفقرة 25). بالإضافة إلى ذلك، "لا يجوز لهذه القواعد أن تمنح الأشخاص المسؤولين عن تنفيذها سلطة تقديرية مطلقة في تقييد حرية التعبير"، ويجب أن "تنص على توجيهات وافية للمكلفين بتنفيذها لتمكينهم من التحقق على النحو المناسب من أنواع التعبير التي تخضع للتقييد وتلك التي لا تخضع للتقييد" (المرجع نفسه). وقد ذكر مقرر الأمم المتحدة الخاص المعني بحرية التعبير أنه عند تطبيق القواعد على حوكمة الجهات الفاعلة الخاصة للخطاب عبر الإنترنت، يجب أن تكون هذه القواعد واضحة ومحددة (A/HRC/38/35، الفقرة 46). ينبغي أن يتمكن مستخدمو منصات Meta من الوصول إلى القواعد وفهمها، كما ينبغي تزويد مراجعي المحتوى بإرشادات واضحة بشأن إنفاذها.

وبتطبيق ذلك على المحتوى في هذه الحالة، فإن قاعدة معيار المجتمع بشأن السلوك الذي يحض على الكراهية المتعلقة بالإهانات تُعد واضحة بما فيه الكفاية. ويلاحظ المجلس زيادة شفافية Meta بشأن عملية تصنيف الإهانات الخاصة بها كنتيجة مباشرة لتنفيذ الشركة لتوصيات المجلس (انظر على سبيل المثال: تغيير دلالة كلمات عربية ازدرائية إلى كلمات مقبولة، النزاع السياسي الذي سبق الانتخابات التركية، انتقاد سياسات الهجرة والمهاجرين في الاتحاد الأوروبي).

2. الهدف المشروع

ينبغي لأي قيود مفروضة على حرية التعبير أن تسعى لتحقيق واحد أو أكثر من الأهداف المشروعة الواردة في العهد الدولي الخاص بالحقوق المدنية والسياسية، ومنها حماية حقوق الآخرين (المادة 19، الفقرة 3، العهد الدولي الخاص بالحقوق المدنية والسياسية). وقد أقر المجلس سابقًا بأن معيار المجتمع بشأن السلوك الذي يحض على الكراهية يسعى لتحقيق الهدف المشروع المتمثل في حماية حقوق الآخرين (منشوران يُظهران عَلَم حقبة الفصل العنصري في جنوب أفريقيا؛ المادة 2، الفقرة 1، العهد الدولي الخاص بالحقوق المدنية والسياسية؛ والمادتان 2 و5 من الاتفاقية الدولية للقضاء على جميع أشكال التمييز العنصري).

3. الضرورة والتناسب

بموجب المادة 19(3) من العهد الدولي الخاص بالحقوق المدنية والسياسية، فإن الضرورة والتناسب يتطلبان أن تكون القيود المفروضة على حرية التعبير "مناسبة لتحقيق وظيفة الحماية المنوطة بها، ويجب أن تكون أقل الوسائل تدخلاً مقارنةً بغيرها من الوسائل التي يمكن أن تحقق النتيجة المنشودة؛ ويجب أن تكون متناسبة مع المصلحة التي ستحميها" (التعليق العام رقم 34، الفقرة 34). وكجزء من مسؤولياتها تجاه حقوق الإنسان، ينبغي على شركات وسائل التواصل الاجتماعي التفكير في نطاق الطرق الممكنة للتعامل مع المحتوى المثير للمشاكل بخلاف الحذف لضمان صياغة القيود بدقة ( A/74/486، الفقرة 51؛ راجع علاج فيروس كورونا (كوفيد-١٩) المزعوم).

يرى المجلس أن إزالة التعليق من فيسبوك لم تكن ضرورية، إذ لم يهاجم المصطلح أي شخص على أساس عرقي، بل كان يندرج بوضوح ضمن النقاش السياسي. ولم تحقق إزالة المنشور هدف حماية حقوق الآخرين، بل أدت إلى تقييد غير ضروري للخطاب السياسي (انظر النزاع السياسي الذي سبق الانتخابات التركية). وأشار العديد من أصحاب المصلحة إلى كيفية استغلال السياسيين للانتماء العرقي في الماضي لإثارة الانقسام وتحقيق مكاسب سياسية (انظر PC-31272، التحالف الوطني لحرية التعبير والإشراف على المحتوى، كينيا)، مما أفضى أحيانًا إلى عنف انتخابي. ورغم أن Meta محقة في الانتباه لهذه الأضرار المحتملة، فإن الاستخدام العام للمصطلح واستخدامه في هذه الحالة لم يكن بغرض الترهيب أو الإقصاء أو التحريض على العنف أو التمييز.

وفي حين أن استخدام مصطلحات مثل "توجيجيز" قد يثير مخاوف عند توظيفها كهجوم قائم على العرق، خاصة من قِبل سياسي مؤثر، إلا أنه لا يمكن الجزم بأن جميع استخداماتها تؤدي إلى أضرار تبرر إدراجها في قائمة الكلمات المحظورة. وتُظهر هذه الحالة أن حظر Meta للمصطلح كان إجراءً فضفاضًا للغاية، أدى إلى قمع الخطاب السياسي والنقاش العام. لذا، ينبغي لشركة Meta توخي الحكمة في عملية التصنيف قبل إضافة مصطلحات إلى ما يعد فعليًا قائمة كلمات محظورة. ولم تجد اللجنة الوطنية للتماسك والتكامل أن الكلمة تشكل خطابًا يحض على الكراهية، وإن كانت قد حثت الجمهور على تجنب استخداماتها الإشكالية. وأكدت أبحاث الخبراء والتعليقات العامة أن الدلالات العرقية التمييزية للمصطلح ليست ثابتة ويمكن الاعتراض عليها. وكان حريًا بشركة Meta أخذ ذلك في الحسبان عند إجرائها للتحليل النوعي والكمي قبل تصنيف المصطلح في يناير 2024. ويؤكد هذا أهمية إشراك Meta لأصحاب المصلحة على المستوى الوطني لتحديد المصطلحات المناسبة للتصنيف كإهانات، مع البقاء في حالة يقظة لأن المصطلحات التي كانت تستوفي التعريف سابقًا قد يتغير معناها خلال فترات قصيرة نسبيًا.

وتماشيًا مع توصية المجلس في قرار المظاهرات المؤيدة لنافالني في روسيا، ينبغي لشركة Meta تطوير تدخلات تقنية أقل حدة من إزالة المحتوى لمعالجة أضرار الخطاب الذي يحض على الكراهية والمحتوى التمييزي. ومع ذلك، عندما استفسر المجلس، كانت المعلومات التي قدمتها Meta حول فعّالية مثل هذه التدخلات لا تزال غير حاسمة. لذا يشجع المجلس Meta على مواصلة استكشاف مثل هذه التدابير بعناية، وضمان فعاليتها وعدم إفضائها إلى آثار سلبية على حقوق الإنسان.

6. قرار مجلس الإشراف

ألغى المجلس قرار Meta الأصلي بإزالة المحتوى.

7. التوصيات

الإنفاذ

لضمان مساعدة تدخلات المنتج الحالية لدى Meta المستخدمين على تجنب انتهاكات سياسة السلوك الذي يحض على الكراهية، ينبغي لشركة Meta منح المستخدمين فرصة للمعالجة الذاتية تضاهي تدخل تأخير النشر الذي أُنشئ نتيجة للتوصية رقم 6 في حالة المظاهرات المؤيدة لنافالني في روسيا. إذا لم يَعُد هذا التدخّل قائمًا، فإنه يجب على Meta توفير تدخّل منتج مماثل له.

وسيعتبر المجلس أن هذه التوصية قد دخلت حيز التنفيذ عندما تقدم Meta بيانات إنفاذ تثبت فعّالية هذه التدخلات التقنية.

كما يكرر المجلس التوصية رقم 3 الواردة في قرار انتقاد سياسات الهجرة والمهاجرين في الاتحاد الأوروبي، والتي التزمت Meta بها التزامًا كاملاً وتعمل على تنفيذها:

عند تدقيق قوائم الإهانات الخاصة بها، ينبغي لشركة Meta ضمان إجراء مشاركة خارجية واسعة مع أصحاب المصلحة المعنيين. وينبغي أن يشمل ذلك التشاور مع المجموعات المتأثرة ومنظمات المجتمع المدني. وسيعتبر المجلس أن هذه التوصية قد دخلت حيز التنفيذ عندما تعدل Meta شرحها لآلية تدقيق وتحديث قوائم الإهانات الخاصة بكل سوق في مركز الشفافية.

*ملاحظة إجرائية:

• تُتخذ قرارات مجلس الإشراف من قِبل لجان مكونة من خمسة أعضاء، وتتم الموافقة عليها بأغلبية أصوات المجلس بالكامل. ولا تُعبر قرارات المجلس بالضرورة عن وجهات نظر جميع الأعضاء.
• بموجب اتفاقيته، يجوز لمجلس الإشراف مراجعة الطعون المقدمة من المستخدمين الذين أزالت Meta محتواهم، والطعون المقدمة من المستخدمين الذين أبلغوا عن محتوى أبقت عليه Meta، والقرارات التي تحيلها Meta إليه (المادة 2، القسم 1 من الاتفاقية). يتمتع المجلس بسلطة مُلزمة تتيح له تأييد أو إلغاء القرارات التي تتخذها Meta بشأن المحتوى (المادة 3، القسم 5 من الاتفاقية؛ المادة 4 من الميثاق). ويحق للمجلس إصدار توصيات غير ملزِمة تكون شركة Meta مُلزَمَة بالرد عليها (المادة 3، القسم 4 من الاتفاقية؛ المادة 4). وعندما تلتزم Meta بالعمل بناءً على التوصيات، يراقب المجلس تنفيذها.
• بالنسبة إلى القرار المتخذ بشأن هذه الحالة، أُجري بحث مستقل نيابةً عن المجلس. وقد تلقى المجلس مساعدة من شركة Duco Advisors، وهي شركة استشارات تركز على نقطة التقاء الجغرافيا السياسية والثقة والأمان والتكنولوجيا. كما تم توفير الخبرة اللغوية بواسطة شركة Lionbridge Technologies, LLC، التي يتقن المتخصصون بها أكثر من 350 لغة ويعملون من 5000 مدينة في جميع أنحاء العالم.

العودة إلى قرارات الحالة والآراء الاستشارية المتعلقة بالسياسة