تقييم خطط Meta لتوسيع نطاق ملاحظات المجتمع

الملخص التنفيذي

يرى مجلس الإشراف أن ميزة ملاحظات المجتمع قادرةٌ على تعزيز حرية التعبير للمستخدمين والارتقاء بمستوى الخطاب الرقمي عبر منصات Meta، شريطة تنفيذها على نطاق واسع وبسرعة كافية مع توفير ضمانات ضد عمليات التلاعب. غير أن توسيع نطاق ملاحظات المجتمع ليشمل بلدانًا خارج الولايات المتحدة قد يُفضي، في ظروف معينة -بما في ذلك في ظل الأنظمة ذات السجل القمعي في مجال حقوق الإنسان، ولا سيما في السياقات الانتخابية وأثناء الأزمات والنزاعات المستمرة- إلى تصاعد مخاطر جسيمة على حقوق الإنسان والمساهمة في وقوع أضرار ملموسة تقع على عاتق Meta مسؤولية تجنّبها أو معالجتها.

يُساور المجلسَ قلقٌ من احتمال إساءة شبكات التضليل الإعلامي المنسقة استخدامَ ملاحظات المجتمع، فضلاً عن خطر أن تُسهم هذه الملاحظات، في سياقات معينة، في تفضيل المجموعات المهيمنة سياسيًا أو عرقيًا أو لغويًا وتهميش مجموعات الأقليات.

تتوقف احتمالية وقوع هذه المخاطر على حقوق الإنسان ومدى جسامتها وكفاية سبل التخفيف منها، إلى حدٍّ بعيد، على تصميم منتج ملاحظات المجتمع وآلية عمله في كل سياق. يستلزم التحقق من مدى فعّالية وكفاية تدابير تخفيف المخاطر التي تتخذها Meta إزاء بعض هذه المخاطر -كضمان إخفاء هوية المساهمين وتوفير الحماية ضد محاولات التلاعب بالنظام أو استغلال ثغراته- إجراءَ عملية مستمرة لجمع البيانات وإعداد التقارير حول أداء ملاحظات المجتمع على أرض الواقع.

علاوة على ذلك، وبقدر ما تتصور Meta أن تكون ملاحظات المجتمع وسيلتها الأساسية لمعالجة المعلومات المضللة التي لا ترقى إلى عتبة الإزالة -أي حين لا يُرجَّح أنها تُسهم في خطر إلحاق ضرر جسدي وشيك أو التدخل في سير العمليات السياسية- يرى المجلس أن تصميم البرنامج قد يُقيّد قدرته على تحقيق هذا الهدف. يُثير التأخير في نشر الملاحظات ومحدودية عددها واعتمادها على موثوقية البيئة المعلوماتية الأشمل شكوكًا جدية حول قدرة ملاحظات المجتمع على معالجة المعلومات المضللة المرتبطة بالضرر معالجةً ذات مغزى.

يُوصي المجلس بجملة من المعايير التي يتعين على Meta اعتمادها لتقييم الحالات التي قد تستوجب فيها هذه المخاطر الحقوقية حجب ملاحظات المجتمع عن سوق بعينه. وتأتي توصيات المجلس مشروطةً بالضرورة، إذ تتعذر الإجابة عن أسئلة Meta إجابةً قاطعة دون إجراء اختبارات كافية والحصول على بيانات تفصيلية حول آلية عمل خوارزمية ملاحظات المجتمع في المواقف الواقعية ومقارنتها بأدوات معالجة المعلومات المضللة الأخرى. لذا، يوصي المجلس أيضًا بالجمع المستمر للبيانات وتقييمها وإعداد التقارير بشأن أداء ملاحظات المجتمع، استنادًا إلى هذه المعايير.

نظرة عامة

في 19 نوفمبر 2025، أعلن المجلس قبوله طلبًا من شركة Meta للحصول على توجيهات بشأن العوامل المحددة التي يتعين على الشركة مراعاتها عند البتّ في استبعاد أي بلد من خطتها الرامية إلى توسيع نطاق ملاحظات المجتمع خارج الولايات المتحدة، إذ قد يؤثر السياق المحلي على سير عمليات البرنامج. فضلاً عن ذلك، طلبت Meta من المجلس بيان كيفية الموازنة بين هذه العوامل بعضها ببعض، بطريقة قابلة للتطبيق على نطاق واسع.

في طلبها، أفادت Meta بأن برنامج ملاحظات المجتمع لا يزال في "مرحلة مبكرة من مراحل تطوير المنتج"، وأن الشركة تمتلك "بيانات محدودة من الطرح التجريبي في الولايات المتحدة". وصفت Meta هذا الطرح بأنه مرحلة "اختبار وصقل" قد ينجم عنها تطوُّر في شكل ملاحظات المجتمع. من هذا المنطلق، ينصبّ الاهتمام الرئيسي للشركة على إرساء "مبادئ توجيهية أساسية" لتطبيق البرنامج في جميع أنحاء العالم. تجدر الإشارة إلى أن المجلس لم يُقيّم الفعّالية العامة لملاحظات المجتمع في الولايات المتحدة.

استشار المجلسُ طيفًا واسعًا من أصحاب المصلحة، من بينهم خبراء تقنيون في خوارزميات إيجاد أرضية مشتركة، ومنظمات المجتمع المدني، وصحفيون، وجهات تدقيق حقائق مستقلة، بهدف جمع ملاحظات وبيانات حول أنظمة الإشراف المختلفة القائمة على أسلوب ملاحظات المجتمع (بما فيها نظام منصة X) عبر سياقات متعددة.

في 7 يناير 2025، أعلنت شركة Meta إطلاق برنامج ملاحظات المجتمع وإنهاء برنامجها لتدقيق الحقائق بواسطة جهات خارجية في الولايات المتحدة. أشارت الشركة إلى عزمها صقل ميزة ملاحظات المجتمع قبل إتاحتها للمستخدمين خارج الولايات المتحدة.

أبرز النتائج والتوصيات

انطلاقًا من دراسة واسعة النطاق للتأثيرات المحتملة على حقوق الإنسان، وضع المجلس العوامل التالية على مستوى البلدان لتوجيه مسار طرح Meta لملاحظات المجتمع:

الضمانات في السياقات القمعية لحقوق الإنسان

تعتمد ميزة ملاحظات المجتمع على قاعدة مساهمين نشطة ومتفاعلة. وقد بلغت هذه البرامج ذروة نجاحها في ظل مجتمع مدني راسخ. في الأحوال المثلى، يعتمد المساهمون على وسائل الإعلام المستقلة لدعم الملاحظات المقترحة، ويشاركون دون خشية التعرض لإساءة أو الانتقام.

يؤكد المجلس ضرورة استبعاد البلدان ذات السجل القمعي في مجال حقوق الإنسان والمجتمعات المدنية الضعيفة من الطرح الأولي، إلى أن تتمكن Meta من إثبات توافر آليات حماية قوية وفعّالة لخصوصية المساهمين، مدعومةً بأدلة على إجراء اختبارات المحاكاة العدائية في ظروف عدائية، وسياسة واضحة للتعامل مع طلبات وكالات إنفاذ القانون للحصول على بيانات ملاحظات المجتمع، فضلاً عن تدابير للحد من المخاطر.

توخي الحذر أثناء الانتخابات

تُسهم ملاحظات المجتمع في دعم حق الوصول إلى المعلومات وحرية التعبير خلال الانتخابات في البيئات المعلوماتية الراسخة التي تتمتع بإعلام حر ومجتمع مدني غير مقيّد. في غياب هذه الظروف، ينطوي البرنامج على خطر نشر ملاحظات مضللة، مما يستوجب على Meta توخي الحذر. حين تتهدد مخاطر جسيمة نزاهةَ المؤسسات السياسية، وتخلُص Meta عبر اختبار المنتجات وتقييم المخاطر والعناية الواجبة بحقوق الإنسان إلى أن ضماناتها قاصرة عن التخفيف منها، فلا يجوز إطلاق ملاحظات المجتمع قبيل الانتخابات الكبرى أو خلالها.

استبعاد البلدان التي لها تاريخ في شبكات التضليل الإعلامي المنسقة

تعمل ملاحظات المجتمع وفق افتراض مفاده أن مجموعة مساهمين تتسم بقدرٍ كافٍ من التنوع والاستقلال ستُقيّم المحتوى بحسن نية، وأن إشارات التوافق قادرة على تقدير الدقة بصورة موثوقة. قد يتهاوى هذا الافتراض حين يُثبت الفاعلون الخبثاء مرارًا قدرتهم على تنسيق أعداد كبيرة من الحسابات للترويج لمعلومات خادعة. بدلاً من ذلك، تغدو ملاحظات المجتمع عرضةً لأن تتحول إلى وسيلة للتلاعب عوضًا عن كونها ضمانة ضده. سيزداد هذا الخطر حدة كلما يسر الذكاء الاصطناعي الإنشاء والتشغيل واسع النطاق لهذه الشبكات.

إلى أن تتمكن البيانات المتعلقة بأداء ملاحظات المجتمع من التحقق من كفاية تدابير Meta للتخفيف من حدة هذا النشاط المنسق، يوصي المجلس بأن تستبعد Meta مبدئيًا البلدان التي تسود فيها أنماط تاريخية من شبكات التضليل الإعلامي المتعمد واسع النطاق. يتعين على Meta أيضًا أن تأخذ بعين الاعتبار ما إذا كان هؤلاء الفاعلون قد أبدوا نية التلاعب بالنُّظُم البيئية للمعلومات، ويمتلكون التطور التقني اللازم للقيام بذلك على نطاق واسع.

عدم الإطلاق في ظل الأزمات أو النزاعات الممتدة

إن احتمالية تعرّض ملاحظات المجتمع للتلاعب المنسق من قِبَل الجماعات المسلحة أو الجهات الحكومية أو المؤيدين لها، الساعين إلى إضفاء الشرعية على دعايتهم عبر التلاعب بنظام تقييم الملاحظات، تُفضي إلى مخاطر متزايدة في سياقات الأزمات أو النزاعات المستمرة. تُفضي الظروف المُعيقة لمشاركة مجموعات معينة -كعدم استقرار الاتصال بالإنترنت وانعدام الأمن الذي يمنع المشاركة- إلى تفاقم التفاوتات المعلوماتية. في مثل هذه الظروف، تعتبر الملاءمة الزمنية عاملاً بالغ الأهمية. يُلمح التأخير في نشر الملاحظات إلى أن ملاحظات المجتمع قد تكون ضمانةً أولية غير كافية في الأزمات والنزاعات، لا سيما أن عتبات التحريض على العنف قد تكون أقل. الملاحظات المستهدِفة لفئات بعينها قادرة، بصورة أيسر، على أن تُفضي إلى ضرر ملموس خارج الفضاء الرقمي.

نظرًا لعدم اليقين إزاء أداء ملاحظات المجتمع في ظروف النزاعات واحتمالية تسببها في تفاقم مخاطر الضرر، يرى المجلس ضرورة عدم إطلاق هذه الميزة في البلدان التي تعاني من أزمات أو نزاعات ممتدة.

تأجيل إطلاق ملاحظات المجتمع حيث يوجد تعقيد لغوي لا تستطيع Meta استيعابه تقنيًا وتشغيليًا

تستلزم ملاحظات المجتمع تمثيلاً كافيًا للمجموعات اللغوية في السياق المعني. إن عجزت Meta عن تحقيق ذلك، وجب عليها تأجيل إطلاق ملاحظات المجتمع. وإلا، قد تنشأ فوارق لغوية في الملاحظات المقترحة والمنشورة أو تتفاقم، مما يُقوّض البرنامج بوصفه مصدر معلومات تعدديًا ومتنوعًا.

ثمة اختلافات لغوية وثقافية محتملة في استخدام ملاحظات المجتمع وتفسيرها، قد يكون بعضها غير متوقع، مما قد يؤثر على طبيعة الملاحظات التي تُنشر. فعلى سبيل المثال، قد تتباين دلالة تقييم شيء ما على أنه "مفيد" من مكان إلى آخر، وعند ترجمة المصطلح إلى لغة أخرى. على Meta النظر في تأجيل إطلاق ميزة ملاحظات المجتمع في البلدان التي تتوقع فيها أنها غير قادرة بعد على استيعاب هذا التعقيد اللغوي.

توخي أقصى درجات الحذر حين يتعذر رسم ملامح الانقسامات الاجتماعية والخلافات المُولِّدة للعنف السياسي بصورة مبسّطة

يفترض تصميم خوارزمية ملاحظات المجتمع في منصة X ضمنيًا أن الخلاف والانقسام في أي سياق يمكن نمذجتهما بصورة مبسطة، مما يُنتج مقياسًا واحدًا للاستقطاب. لم تُقدّم Meta أي معلومات تُشير إلى أن برنامجها سيكون مغايرًا. غير أنه حين تتعذر نمذجة الانقسام والخلاف بسهولة على محور واحد، قد يُعزز ذلك فهمًا مُفرطًا في التبسيط للنزاع، متجاهلاً كيفية تداخل عوامل متعددة كالسياسة والعرق والدين واللغة والطبقة الاجتماعية. عمليًا، يُنذر هذا بتهميش وجهات نظر الأقليات، إذ قد تُنشر ملاحظات مضللة أو ضارة متى نالت توافقًا بين المجموعات الأغلبية. يشتد خطر الضرر هذا تحديدًا في الحالات التي تعجز فيها الخوارزمية عن تحديد الانقسام الذي يُذكي النزاع والعنف بدقة ومحاولة "إيجاد أرضية مشتركة" (مكافأة المحتوى الذي يتلقى ملاحظات إيجابية من جماهير تختلف عادةً في الرأي) عبره. وعليه، يوصي المجلس بأن تتوخى Meta أقصى درجات الحذر عند دراسة البلدان التي تسودها هذه الديناميكيات.

حين يرتفع خطر التعارض بين افتراضات تصميم ملاحظات المجتمع إزاء مجتمع ما وما يُحرّك الانقسام الاجتماعي والسياسي فيه فعلاً، لا يستلزم الأمر استبعاد هذه البلدان قطعيًا من الطرح الأولي لملاحظات المجتمع. بل ينبغي تسلسل الطرح للسماح باختبار الأداء في سياقات مختلفة، والانطلاق بحذر في بيئات سياسية ولغوية ومعلوماتية مشابهة للأماكن التي تمتلك فيها Meta مسبقًا مثل هذه البيانات وتدابير التخفيف من المخاطر والمشروعات التجريبية.

استبعاد البلدان التي تواجه عقبات مستمرة تحول دون الوصول إلى الإنترنت

يوصي المجلس باستبعاد البلدان التي تواجه عقبات مستمرة أو منهجية تحول دون الوصول إلى الإنترنت، إذ تعتمد ملاحظات المجتمع على مشاركة واسعة النطاق ومتسقة ومنصفة من المساهمين كي تؤدي وظيفتها على النحو المنشود. إن محدودية قاعدة المساهمين -جراء فجوات البنية التحتية وارتفاع التكاليف والتفاوتات الإقليمية، ولا سيما عمليات قطع الإنترنت التي تفرضها الحكومات- تُقوّض المبدأ الجوهري لملاحظات المجتمع القائم على التمثيل الشامل.

الترجيح

يوصي المجلس بإيلاء الأولوية للعوامل التي قد تُسهم ملاحظات المجتمع عبرها في إحداث الضرر أو تصعيد مخاطره، وترجيحها على العوامل المتصلة بقصور البرنامج بوصفه آليةً للحد من الضرر. وتشمل هذه العوامل عتباتُ لا يجوز فيها لشركة Meta إطلاق ملاحظات المجتمع إلى أن تُثبت قدرتها على ذلك مع التخفيف من هذه الأضرار في الوقت عينه.

يتعين على Meta تزويد المجلس بالمعايير أو مصفوفة المخاطر التي تضعها لتوجيه عملية التوسع كل ستة أشهر طوال مرحلة التوسع الأولي، مشفوعةً بأدلة توضح كيفية تطبيقها في القرارات المتعلقة بتوسيع البرنامج على مستوى البلدان.

البيانات وإعداد التقارير

تتوقف المخاطر المحتملة على حقوق الإنسان ومدى كفاية استراتيجيات التخفيف من المخاطر في ملاحظات المجتمع على تصميم المنتج وآلية عمله في سياقه. أبلغت Meta المجلس بنيتها اختبار البرنامج قبيل إطلاقه في أي سوق. يوصي المجلس بأن يرتكز هذا الاختبار على الكشف عن المخاطر المتعلقة بإخفاء هوية المساهمين وحملات التضليل الإعلامي المنسقة والتلاعب بالنظام والتمثيل اللغوي ومشاركة المساهمين، والعمل على التخفيف منها. يُنادي المجلس بتحقيق قدر كبير من الشفافية وإعداد التقارير وتمكين الباحثين من الوصول إلى البيانات المتعلقة بأداء ملاحظات المجتمع لدى Meta.

الرأي الاستشاري الكامل بشأن سياسات المحتوى

1. طلب Meta

في 7 يناير 2025، أعلنت شركة Meta إطلاق برنامج ملاحظات المجتمع وإنهاء برنامجها لتدقيق الحقائق بواسطة جهات خارجية في الولايات المتحدة. وفي هذا التاريخ، أشارت Meta إلى عزمها صقل ميزة ملاحظات المجتمع قبل إتاحتها للمستخدمين خارج الولايات المتحدة. تصف Meta ميزة ملاحظات المجتمع بأنها تتيح للمستخدمين إضافة تسميات تتضمن سياقًا إضافيًا للمحتوى حينما يعتقدون أن المعلومات الإضافية قد تكون مفيدة. يُطلق على المشاركين في برنامج ملاحظات المجتمع مسمى "المساهمين"، وهم من يقومون بتقييم الملاحظات المقترحة بكونها "مفيدة" أو "غير مفيدة" مع توضيح سبب اختيارهم عبر قائمة من الخيارات. تقوم خوارزمية باحتساب مجموع نقاط يعكس مدى حصول الملاحظة على التقييم "مفيد" من عدد كافٍ من المساهمين الذين تتباين آراؤهم عادةً استنادًا إلى تقييماتهم السابقة. تُنشر الملاحظة متى بلغ هذا المجموع عتبةً معينة، شريطةَ ألا تنتهك معايير المجتمع. يختلف هذا النظام عن برنامج تدقيق الحقائق بواسطة جهات خارجية، والذي يرتكز على منظمات شريكة تتولى مراجعة المحتوى والبحث فيه وإصدار أحكام بشأن مدى صحته، وهو ما قد يؤدي إلى تصنيف المعلومات كزائفة أو مضللة.

طلبت Meta توجيهات من المجلس بشأن العوامل المحددة التي يتعين عليها مراعاتها عند البتّ في استبعاد أي بلد من خطتها الرامية لتوسيع نطاق ملاحظات المجتمع خارج الولايات المتحدة، نظرًا لما قد يُخلّفه السياق المحلي من أثر على عمليات البرنامج. فضلاً عن ذلك، طلبت Meta من المجلس توضيح كيفية الموازنة بين هذه العوامل بعضها ببعض، بطريقة قابلة للتطبيق على نطاق واسع.

أفادت Meta في طلبها بأن برنامج ملاحظات المجتمع لا يزال في "مرحلة مبكرة من مراحل تطوير المنتج" وأن الشركة تمتلك "بيانات محدودة من الطرح التجريبي في الولايات المتحدة". وصفت Meta هذا الطرح بأنه مرحلة "اختبار وصقل" قد ينجم عنها تطوُّر في شكل ملاحظات المجتمع. من هذا المنطلق، ينصبّ الاهتمام الرئيسي للشركة على إرساء "مبادئ توجيهية أساسية" لتطبيق البرنامج في جميع أنحاء العالم. لم يقم المجلس، بناءً على ذلك، بإجراء تقييم عام لفعّالية ملاحظات المجتمع كما هو متبع في الولايات المتحدة.

حدد المجلس مجموعة من المخاطر المتعلقة بحقوق الإنسان التي تثير قلقه البالغ بشأن التخفيف من حدتها قبيل الإطلاق العالمي لملاحظات المجتمع. لتحقيق هذه الغاية، استشار المجلس طيفًا واسعًا من أصحاب المصلحة، من بينهم باحثون وخبراء تقنيون ومنظمات مجتمع مدني وصحفيون وجهات تدقيق حقائق، لجمع ملاحظات وبيانات حول آلية عمل أنظمة الإشراف المختلفة القائمة على أسلوب ملاحظات المجتمع (بما فيها نظام منصة X) عبر سياقات متعددة. يرتكز تقييم المجلس على الأداء المتوقع لنظام ملاحظات المجتمع لشركة Meta حال تطبيقه في أسواق أخرى خارج الولايات المتحدة، وذلك في ضوء تلك المعلومات.

ترتبط الإجابة عن التساؤل بشأن ما ستؤديه ملاحظات المجتمع والخوارزمية الداعمة لها في سياق معين ارتباطًا وثيقًا بالبيانات التجريبية. أشارت Meta إلى عزمها اختبار النظام تجريبيًا خارج الولايات المتحدة، مع تقييم بيانات الأداء مقارنةً بأهداف Meta للبرنامج. أفادت Meta بأنها تخطط لنشر بيانات قابلة للتنزيل حول ملاحظات المجتمع، تتضمن فئات بيانات تضاهي ما تشاركه منصة X بشأن برنامج ملاحظات المجتمع الخاص بها. سيشمل ذلك النص الكامل للملاحظات والمناطق الجغرافية المرتبطة بها، وتقييمات كل ملاحظة، وسجل الحالة، وتسجيل المستخدمين، وطلبات الملاحظات على المحتوى. على الرغم من أن هذا المستوى من البيانات لم يتوفر حتى الآن لاستخدام المجلس، وعوضًا عن ذلك، تم تزويد المجلس بمجموعة من المقاييس رفيعة المستوى بصفة سرية. زودت Meta المجلس ببيانات معينة حول ملاحظات المجتمع، شملت على سبيل المثال لا الحصر عدد المساهمين المسجلين، وعدد الملاحظات المكتوبة والمنشورة، ومتوسط الوقت اللازم للتوصل إلى توافق في الآراء في الولايات المتحدة. لا يمكن لهذا الرأي، بناءً على ذلك، تقديم تحليل تجريبي لنجاحات أو إخفاقات أو تأثير برنامج ملاحظات المجتمع لشركة Meta. يدمج الرأي، مع ذلك، رؤى مستقاة من أبحاث حول برامج مماثلة تعتمد على حشد المصادر لفهم مجالات المخاطر المحتملة في سياقات مختلفة، والتي ترتبط ارتباطًا مباشرًا بالأسئلة التي طرحتها Meta على المجلس.

تجدر الإشارة إلى أن Meta لم تطلب من المجلس تقييم فعّالية برنامجها لتدقيق الحقائق بواسطة جهات خارجية، ولا المزايا النسبية لملاحظات المجتمع مقارنةً بتدقيق الحقائق بواسطة جهات خارجية. لا يتضمن هذا الرأي، بناءً على ذلك، توصيات مستقلة حول ما إذا كان ينبغي إيقاف برنامج تدقيق الحقائق بواسطة جهات خارجية أو الإبقاء عليه. إلا أن الرأي يأخذ في الاعتبار غياب برنامج تدقيق الحقائق بواسطة جهات خارجية أو وجوده كعامل ذي صلة بكيفية معالجة Meta للمحتوى الخادع في سياق معين، وذلك نظرًا لإدراج ملاحظات المجتمع ضمن نهج Meta لمعالجة المعلومات المضللة. استفسر المجلس من Meta عما إذا كانت هذه القائمة الخاصة بالبلدان التي أبرمت فيها Meta اتفاقيات لتقديم خدمة تدقيق الحقائق بواسطة جهات خارجية ستظل دقيقة أثناء إطلاق ملاحظات المجتمع خارج الولايات المتحدة وبعده. ردت Meta بأن القائمة "عرضة للتغيير بصفة دورية". كشفت تقارير إعلاميةحديثة أنه على الرغم من عدم إصدار Meta بيانًا عامًا بشأن مستقبل تدقيق الحقائق بواسطة جهات خارجية خارج الولايات المتحدة، فقد تم تجديد العقود مع وكالات تدقيق الحقائق لعام 2026، وإن كان ذلك بمستويات تمويل مخفضة.

تشير الأسئلة المطروحة في طلب Meta إلى أن الشركة تدرس بجدية توسيع ملاحظات المجتمع لتشمل بلدانًا خارج الولايات المتحدة. لا يؤيد رأي المجلس هذا النهج ولا يعارضه. بل يمضي تحليل المجلس في دراسة الآثار المترتبة على إتاحة Meta لملاحظات المجتمع في كل مكان، ويتناول الاعتبارات التي يجب أن تحول دون إطلاق المنتج في بلد معين أو تضع شروطًا لذلك.

قبِل المجلس طلب Meta في 19 نوفمبر 2025. يمكنك العثور على طلب Meta الكامل المقدم إلى المجلس هنا. أرسل المجلس أسئلة إلى Meta في أعقاب هذا القبول. طرح المجلس أسئلة حول: تصور Meta للعلاقة بين ملاحظات المجتمع والأساليب الأخرى للتعامل مع المعلومات الخادعة؛ وكيفية تعريف الشركة لنجاح ملاحظات المجتمع وقياسه؛ وتدابير تخفيف المخاطر والعناية الواجبة بحقوق الإنسان التي اتخذتها Meta قبل إطلاق ملاحظات المجتمع في الولايات المتحدة، والجهود المماثلة المخطط لها للإطلاقات الدولية؛ وأداء ملاحظات المجتمع في الولايات المتحدة؛ والاختلافات التقنية بين ملاحظات المجتمع لشركة Meta وملاحظات المجتمع لمنصة X؛ وعلاقة ملاحظات المجتمع بالإجراءات المتعلقة بالانتخابات والأزمات والنزاعات.

2. مشاركة أصحاب المصلحة

خلال فترة إعداد هذا الرأي الاستشاري بشأن سياسات المحتوى، تواصل المجلس مع أصحاب المصلحة الخارجيين عبر الطرق التالية:

التعليقات العامة

تلقى المجلس 23 تعليقًا عامًا في ديسمبر 2025 تتعلق بهذا الرأي الاستشاري بشأن سياسات المحتوى استوفت شروط التقديم. قُدِّم ثمانية منها من الولايات المتحدة وكندا، وخمسة من منطقة آسيا والمحيط الهادئ وأوقيانوسيا، وخمسة من أوروبا، وثلاثة من أمريكا اللاتينية ومنطقة البحر الكاريبي، واثنان من الشرق الأوسط وشمال أفريقيا.

شملت القضايا التي غطتها الطلبات ما يلي:

• الفوائد المحتملة للإشراف القائم على المجتمع لمعالجة المحتوى الخادع. سلطت عدة طلبات الضوء على التأثيرات الإيجابية لملاحظات المجتمع على حرية التعبير، مثل إضافة السياق وقدرة النظام على بناء الوعي المعلوماتي، خاصة عند مقارنتها بالتدخلات التي تؤدي إلى إزالة المحتوى (راجع، على سبيل المثال، PC-315688، Full Fact). ترى هذه الطلبات أن ملاحظات المجتمع وتدقيق الحقائق بواسطة جهات خارجية يمكن أن يعملا كأدوات تكميلية. فعلى سبيل المثال، قد يكون إشراك جهات تدقيق حقائق مستقلة في البرنامج "وسيلة لزيادة الدقة والملاءمة وتبسيط الملاحظات التي يتم الحصول عليها من حشد المصادر . . . مع السماح بتفاعلات أكبر مع المستخدمين عبر الإنترنت لزيادة الثقة" (PC-31579، وكالة فرانس برس).
• المخاطر السياقية وعدم إمكانية تطبيق ملاحظات المجتمع عالميًا بشكل متساوٍ. شددت طلبات عديدة على أن القمع السياسي، والتراجع الديمقراطي، والنزاع، والتلاعب المنسق تشكل أساسًا مدى إمكانية عمل الإشراف المدفوع بالمجتمع بأمان (راجع، على سبيل المثال، PC-31580، الدكتور يوهانس إنيو أياليو والدكتورة ماريا أوسوليفان). حذر المعلقون من أنه في البلدان ذات المساحة المدنية المقيدة أو الرقابة العالية، قد تستولي أطراف متحالفة مع الدولة أو مجموعات خبيثة على ملاحظات المجتمع، مما يؤدي إلى تشويه التوافق وتعزيز الروايات الرسمية بدلاً من توفير فرص للطعن فيها (PC-31586، المنتدى الآسيوي لحقوق الإنسان والتنمية). حثت عدة طلبات Meta على تجنب التعامل مع التوسع العالمي كمجرد عملية طرح بسيطة، مؤكدةً بدلاً من ذلك على الحاجة إلى إجراء دراسات جدوى خاصة بكل بلد، وتقييمات للتأثير على حقوق الإنسان، ووضع حد أدنى لعتبات أداء النظام قبل النشر.
• اللغة وعدم المساواة اللغوية. سلطت العديد من التعليقات الضوء على أن ملاحظات المجتمع تتطلب كثافة كافية من المساهمين وفهمًا لغويًا مشتركًا للوصول إلى توافق في الوقت المناسب (راجع، على سبيل المثال، PC-31570، الدكتور سانجانا هاتوتوا؛ PC-31589، معهد الديمقراطية الرقمية في الأمريكتين؛ PC-31581، تحالف المعلومات الموثوقة). قدمت عدة طلبات أدلة تتعلق بملاحظات المجتمع في منصة X، تشير إلى أن الملاحظات المكتوبة بلغات غير الإنجليزية أقل عرضة للتقييم أو النشر بكثير، مما يترك فئات كبيرة من المستخدمين دون خدمات كافية. أشارت التعليقات أيضًا إلى أن المنشورات متعددة اللغات، والتحويل اللغوي (التبديل بين اللغات)، والاعتماد على الترجمة الآلية تؤدي إلى مخاطر سوء الفهم والاستبعاد، خاصة في المناطق متعددة اللغات.
• محدودية الفعّالية والسرعة. تشير الدراسات التجريبية المذكورة في العديد من الطلبات إلى أن جزءًا ضئيلاً فقط من الملاحظات المقترحة في أنظمة ملاحظات المجتمع يتم نشره في النهاية، وغالبًا ما يكون ذلك بعد تأخيرات كبيرة. ونتيجة لذلك، تميل ملاحظات المجتمع للظهور في محتوى "الأخبار الخفيفة" أو المحتوى منخفض الأهمية، بينما تظل المعلومات المضللة شديدة الاستقطاب أو سريعة التغير، خاصة أثناء الانتخابات والنزاعات والأزمات، دون معالجة في الغالب (PC-31597، معهد الحوار الاستراتيجي). يثير هذا الأمر مخاوف لدى هؤلاء المعلقين من احتمال فشل النظام بشكل منهجي عندما تكون الأضرار في أقصى مستوياتها.
• العلاقة بين ملاحظات المجتمع وتدقيق الحقائق الاحترافي. سادت حالة من المعارضة عبر التعليقات العامة لاستبدال برنامج تدقيق الحقائق بواسطة جهات خارجية بملاحظات المجتمع. طالبت العديد من التعليقات العامة بدلاً من ذلك باتباع نهج مختلط، حيث تكمل ملاحظات المجتمع التقييمات الاحترافية لصحة المحتوى وجهود الوعي الإعلامي. قدمت بعض التعليقات العامة مقترحات حول كيفية عمل ذلك في الممارسة العملية. فعلى سبيل المثال، يمكن أن "يتخذ المسار السريع [في ملاحظات المجتمع] لجهات تدقيق الحقائق المعتمدة أشكالاً مختلفة، مثل الموافقة التلقائية على ملاحظات جهات تدقيق الحقائق، أو منح أصواتهم وزنًا أكبر، أو ضمان قيام جهات تدقيق الحقائق بإجراء فحص متقاطع لملاحظات بعضهم البعض" (PC-31587، الشبكة الأوروبية لمعايير تدقيق الحقائق). وحذر القائمون على تدقيق الحقائق، على وجه الخصوص، من أن سحب الدعم المؤسسي مع التوسع في الاعتماد على المساهمين قد يؤدي إلى المخاطرة بإضعاف نظام المعلومات العام.
• العمالة والسلامة والمساءلة. أثارت الطلبات أيضًا مخاوف بشأن الإساءات والانتقام والمخاطر الشخصية التي يتعرض لها المساهمون. جادل أحد التعليقات العامة (PC-31578، رينيه دي ريستا وأليكسيوس مانتزارليس) بضرورة فهم كتابة الملاحظات وتقييمها بكونها "عمالة بيانات" غير مدفوعة الأجر تفيد المنصات، وأنها تؤدي إلى استغلال الخبراء والمجتمعات المهمشة والصحفيين بشكل غير متناسب.

تشير هذه الموضوعات مجتمعة إلى اهتمام حذر بالنموذج التشاركي لملاحظات المجتمع، مقترنًا بالقلق من الاعتماد المفرط على النموذج دون وجود ضمانات أقوى وشفافية أكبر.

مناقشات الطاولة المستديرة لأصحاب المصلحة

شارك المجلس في مشاورات إضافية مع أصحاب المصلحة عبر طاولتين مستديرتين حول فرص ومخاطر ملاحظات المجتمع. ضمت هاتان المناقشتان نحو 30 مشاركًا من الأمريكتين وأفريقيا وآسيا وأوروبا. شمل ذلك باحثين يركزون على انتشار المحتوى الخادع وتأثيره، وجهات تدقيق حقائق، وخبراء تقنيين، وجهات فاعلة في المجتمع المدني، ومدافعين عن حقوق الإنسان.

كانت مناقشات الطاولة المستديرة داعمة لكيفية قيام نظام ملاحظات المجتمع بتقديم سياق بدلاً من إزالة المحتوى. ويمكنه، بهذا المعنى، تقوية حرية التعبير عبر نقل الإشراف من الإزالة إلى تقديم السياق. وبدلاً من قمع الخطاب، قد يضيف النظام خطابًا مضادًا، مما يسمح للتعبير بالبقاء مرئيًا مع تحسين بيئة المعلومات المحيطة به.

أعرب المشاركون أيضًا عن شكوكهم تجاه ملاحظات المجتمع كأداة أساسية لمعالجة المعلومات المضللة، خاصة في السياقات غير التابعة للولايات المتحدة والسياقات عالية الخطورة. وأفاد المشاركون بأن الأنظمة القائمة على التوافق قد تفشل في التعامل مع المحتوى الاستقطابي أو السياسي أو المرتبط بالأزمات، وقد تمنح امتياز لقوة الأغلبية على حساب الدقة الواقعية.

حُدد التنوع اللغوي وانخفاض المعرفة الرقمية أيضًا كعقبات هيكلية، مع وجود أدلة على أن الملاحظات بلغات غير الإنجليزية ولغات الأقليات أقل عرضة للظهور بكثير، مما يترك فئات كبيرة من السكان دون خدمات. وحذر أصحاب المصلحة من أن السياقات المتأثرة بالنزاع والسياقات السلطوية تفرض مخاطر حادة، تشمل استيلاء الدولة أو الأطراف المنسقة على النظام، والإساءة إلى المساهمين، والعنف خارج الفضاء الرقمي، وهو ما يتفاقم بسبب التأخير في نشر الملاحظات.

ساد اتفاق قوي عبر المناقشات على ضرورة أن تُكمِل ملاحظات المجتمع برنامج تدقيق الحقائق بواسطة جهات خارجية، الذي يمكنه توفير الخبرة وتقييم الضرر الذي قد تفتقر إليه ملاحظات المجتمع أحيانًا (راجع أيضًا PC-31568، Full Fact). وأكد المشاركون أخيرًا على الحاجة إلى الشفافية وإتاحة الوصول إلى البيانات للباحثين، وحثوا على إجراء اختبارات تجريبية وتقييم مستقل ومساءلة أوضح قبل أي توسع عالمي.

3. برنامج ملاحظات المجتمع لشركة Meta

أساليب التعامل مع المعلومات المضللة

تصف Meta نهجها الحالي تجاه المعلومات التي تبدو زائفة أو مضللة بكونه يتضمن ثلاث استراتيجيات: إزالة أنواع معينة من المعلومات المضللة الضارة، والحد من توزيع المحتوى الذي تصنفه جهات تدقيق الحقائق الخارجية بكونه زائفًا أو مُفبركًا أو زائفًا جزئيًا، وتطبيق معلومات إضافية في شكل تسميات مختلفة على المحتوى الذي قد يكون مضللاً أو مربكًا. تندرج ملاحظات المجتمع ضمن هذه الفئة الثالثة، استنادًا إلى Meta. على الرغم من أن هذا يشير إلى أن أحد الأسباب الرئيسية لملاحظات المجتمع هو مكافحة المعلومات المضللة، فإن الإجابات عن أسئلة المجلس تشير إلى أن Meta ترى أيضًا ملاحظات المجتمع كأداة لإضافة سياق على نطاق أوسع. ويعكس هذا التأطير الأوسع اختيارًا في التصميم لإعطاء الأولوية لتقديم السياق على إزالة المحتوى، مما يسمح ببقاء ظهور الخطاب مع تسهيل قدرة المستخدمين على تقييم المعلومات وتفسيرها.

وتحدد سياسة Meta بشأن المعلومات المضللة أن الشركة تزيل المعلومات الزائفة أو المضللة "في الحالات التي يُرجَّح فيها الإسهام في خطر إلحاق ضرر بدني وشيك" أو "يُرجَّح فيها الإسهام المباشر في التدخل في سير العمليات السياسية"، بما في ذلك الانتخابات والتعدادات السكانية. وتتعاون Meta لاتخاذ هذه القرارات بشأن الضرر مع "خبراء مستقلين يمتلكون المعرفة والخبرة لتقييم صحة المحتوى وما إذا كان من المحتمل أن يسهم بشكل مباشر في خطر حدوث ضرر وشيك". ذكرت Meta في طلبها المقدم إلى المجلس أن إعلاماتها الصادرة في 7 يناير 2025 لم تؤثر على استمرارها في إزالة المحتوى الذي ينتهك سطور السياسة هذه. وعادةً ما يتم تحديد هذا النوع من المحتوى وتقييمه بالتشاور مع قناة الشركاء الموثوق بهم التابعة لشركة Meta (راجع قرار فيديو مركز الشرطة في هايتي).

يعطي شركاء Meta الخارجيون لتدقيق الحقائق - في تلك البلدان واللغات التي يعملون بها - الأولوية لتقييم المعلومات التي قد تكون زائفة والتي تتسم بكونها "مواكِبة للأحداث الجارية ورائجة ولها تأثير". قد يتم خفض تصنيف المحتوى الذي يتم تقييمه على أنه "زائف" أو "مُفبرك" أو "زائف جزئيًا" بواسطة شركاء تدقيق الحقائق، كما قد لا يُوصى به ويُرفض استخدامه في الإعلانات. تنص سياسة Meta على تطبيق إشعارات على المنشورات التي تحمل هذه التقييمات، وتُرسل Meta إشعارات إلى المستخدمين الذين قاموا بنشرها. ويشمل المحتوى الذي تعفيه Meta من تدقيق الحقائق كلاً من "المحتوى الذي لا يتضمن ادعاءً قابلاً للتحقق"، و"الآراء والخطابات الصادرة عن السياسيين"، و"الوسائط التي تم إنشاؤها أو تعديلها رقميًا وتحتوي على إحدى تسميات شفافية الذكاء الاصطناعي أو العلامات المائية الخاصة بشركة Meta استنادًا إلى مصداقيتها"، في الحالات التي يتم فيها الإفصاح عن الجانب المضلل بواسطة المستخدم الذي قام بالنشر. تتوفر آلية طعن للاعتراض على استنتاجات جهات تدقيق الحقائق.

ويمكن للمساهمين في ملاحظات المجتمع في الولايات المتحدة (حيث تم إيقاف تدقيق الحقائق بواسطة جهات خارجية) اقتراح ملاحظات تضيف سياقًا أكبر على أي جزء من المحتوى العادي (أي غير المدفوع) عبر منصات Meta. ويتوقف العرض العام للملاحظة المقترحة على تجاوزها لعتبة تقييم "توافق مفيد" وعدم انتهاكها لأي من معايير المجتمع. ويشمل ذلك أنواعًا من المحتوى لم تكن مشمولة سابقًا بتدقيق الحقائق بواسطة جهات خارجية، مثل الآراء والمنشورات الصادرة عن السياسيين. وتصرح Meta بأن المساهمين في ملاحظات المجتمع في الولايات المتحدة يُعدون جزءًا من نهجها تجاه المعلومات المضللة: حيث يمكن للمساهمين "كتابة ملاحظة وإرسالها للمنشورات التي يعتقدون أنها قد تكون مضللة أو مربكة". وكما هو موضح بمزيد من التفصيل أدناه، إذا وجد المساهمون الذين اختلفوا سابقًا أن الملاحظة مفيدة، فسيتم تثبيتها علنًا في المنشور. ولا تترتب على إضافة الملاحظة عواقب مثل خفض التصنيف أو الإزالة من التوصيات، كما هو الحال مع تسميات تدقيق الحقائق التي تشير إلى محتوى زائف أو زائف جزئيًا أو مُفبركًا. بعد إضافة ملاحظة مجتمع منشورة إلى منشور ما، تُرسل Meta إشعارات إلى الأشخاص الذين سبق لهم إعادة نشر ذلك المنشور، أو ترك تعليق عليه، أو تقييمه، أو طلب ملاحظة بشأنه.

وأوضحت Meta، في ردها على سؤال من المجلس حول العلاقة بين ملاحظات المجتمع وتدقيق الحقائق بواسطة جهات خارجية، أنها ترى الاثنين "مختلفين جوهريًا في عدة جوانب مهمة". فبالنسبة لشركة Meta، "تم تصميم تدقيق الحقائق بواسطة جهات خارجية لمعالجة الادعاءات "القابلة للتدقيق" على منصاتها، مع التركيز الصارم على البيانات الواقعية بدلاً من الآراء". ويُعد هذا التمييز حاسمًا بالنسبة لشركة Meta، ويشير إلى الغرض الأوسع لملاحظات المجتمع: "يتمكن المساهمون في ملاحظات المجتمع من إضافة سياق إلى أي جزء من المحتوى يعتقدون أن المعلومات الإضافية فيه قد تكون مفيدة، بما في ذلك المحتوى الذي يُصنف بكونه رأيًا أو غير مؤهل للمراجعة بموجب برنامج تدقيق الحقائق بواسطة جهات خارجية".

ويتمثل اختلاف رئيسي آخر، استنادًا إلى Meta، في أن ملاحظات المجتمع لا تترتب عليها "التبعات العقابية المرتبطة ببرنامج تدقيق الحقائق بواسطة جهات خارجية". وتحديدًا، "لا توجد إنذارات بسبب نشر محتوى يتلقى ملاحظة مجتمع"، كما هو الحال مع نشر معلومات مضللة "يُرجَّح إسهامها في خطر إلحاق ضرر بدني وشيك"، كما "لا يتأثر توزيع هذا المحتوى أو تحقيق الأرباح منه".

آلية عمل ملاحظات المجتمع

1. الجوانب التقنية - الخوارزمية وقائمة الانتظار

كشفت Meta في طلبها أنها قامت ببناء نظام ملاحظات المجتمع الخاص بها باستخدام خوارزمية مفتوحة المصدر من برنامج ملاحظات المجتمع الخاص بمنصة التواصل الاجتماعي X. ووصفت Meta الخوارزمية بأنها "خوارزمية توافق تستخدم مقاييس منفصلة "لمدى الفائدة " و"التوافق" لحساب مجموع نقاط "توافق مفيد" كلي". تُصمم خوارزميات التوافق، المعروفة أيضًا باسم خوارزميات إيجاد أرضية مشتركة، لتعزيز المحتوى أو التفاعلات التي يُفترض أنها تُسهم في تعزيز التفاهم والاتفاق بين المجموعات المنقسمة. تكافئ هذه الخوارزميات، من الناحية النظرية، المحتوى الذي يسعى إلى "إيجاد أرضية مشتركة"؛ أي المحتوى الذي ينال إعجاب الجماهير التي تختلف عادةً في الرأي أو يتلقى ملاحظات إيجابية منها. يجعل التصميم القائم على التوافق ميزة ملاحظات المجتمع مختلفة وظيفيًا عن تدقيق الحقائق بواسطة جهات خارجية، سواء من حيث أهدافها أو فعاليتها النسبية في أداء المهام المختلفة.

أوضحت Meta أن الخوارزمية تحتسب هذه النقاط عبر رصد الاتفاق على أن الملاحظة "مفيدة" بين عدد معين من المساهمين الذين تتباين آراؤهم عادةً استنادًا إلى تقييماتهم السابقة. تُنشر الملاحظة، وفقًا لشركة Meta، متى تجاوز مجموع نقاط "توافق مفيد" في ملاحظة ما "عتبة معينة" ولم تنتهك معايير المجتمع لشركة Meta. أفادت Meta في طلبها بأنه نظرًا لأن خوارزميتها "أكثر تعقيدًا" من الناحية العملية، فإنه "يتعذر تحديد عدد دقيق لتقييمات الفائدة التي يجب أن تنالها الملاحظة، أو حجم الخلاف الضروري للخوارزمية لتحديد تباين وجهات نظر المساهمين". يُشير الكود المصدري المتاح للعامة لميزة ملاحظات المجتمع في منصة X إلى وجود عتبة متغيرة مماثلة. صرحت Meta بأن هذا النهج "يُساعد في ضمان تجسيد الملاحظات لطيف من وجهات النظر ويحد من مخاطر التحيز". تظهر الملاحظة، في حال نشرها، في شكل لافتة أسفل المنشور الأصلي، حيث يمكن للمستخدمين النقر عليها لقراءة الملاحظة الكاملة والرابط الداعم لها.

أوضحت Meta، ردًا على الأسئلة المتعلقة بكيفية تقييم الخوارزمية للخلافات السابقة بين المساهمين، أن الشركة، اقتفاءً بأثر خوارزمية منصة X مفتوحة المصدر، "تُقيم التباين في وجهات النظر استنادًا بشكل كامل إلى كيفية تقييم المساهمين للملاحظات في الماضي" ولا تأخذ في الاعتبار سلوكيات التفاعل الأخرى مثل المتابعات أو تسجيلات الإعجاب أو إعادة النشر. "لا تضع الخوارزمية افتراضات حول طبيعة الخلاف، مثل الدلالات السياسية لاتفاقاتهم أو خلافاتهم (نظرًا لافتقارها إلى بيانات حول وجهات النظر السياسية أو موضوع كل ملاحظة)". اقترح خبير تقني استشاره المجلس المثال التالي لتوضيح هذه النقطة: من المحتمل أن يكون لبلد ما محور سياسي بارز بين الليبراليين والمحافظين، غير أن المساهمين في ملاحظات المجتمع في ذلك البلد يقيمون الملاحظات استنادًا إلى ما إذا كان المحتوى الأساسي يتضمن "ميمات"، أو يدعم أجندة حزب سياسي معين، أو يدعم نجم كرة قدم بعينه. تتعلم خوارزمية ملاحظات المجتمع، في هذه الحالة، محورًا للنزاع يمكن وصفه على أفضل وجه بأنه يجسد أحد تلك الانقسامات، نظرًا لأنه المحور الذي يفسر البيانات بصورة فضلى.

يستطيع المستخدمون والمساهمون في ملاحظات المجتمع تحديد المحتوى الذي قد يستفيد من الملاحظات، ويمكن للمساهمين كتابة ملاحظات مقترحة بشأن ذلك المحتوى. تظهر الملاحظة، فور اقتراحها، في موجز للتصويت عليها من حيث فائدتها.

يمتلك المساهمون، لتسهيل تقييم الملاحظات المقترحة، حق الوصول إلى موجز للملاحظات التي لا تزال بحاجة إلى تقييمات قبل نشرها، وهو موجز يمكن الوصول إليه عبر إعدادات تطبيقات فيسبوك وInstagram وThreads. أوضحت Meta، ردًا على سؤال حول هذا الموجز، أن الملاحظات تُمنح الأولوية "استنادًا إلى حداثة وتعداد مشاهدات المنشور، وذلك بغية الارتقاء بالملاءمة الزمنية للملاحظات وإمكانية رؤيتها. لا يُؤخذ نوع المحتوى بعين الاعتبار عند تصنيف الملاحظات (على سبيل المثال، سواء كان المحتوى مدنيًا أم سياسيًا). قد تظهر الملاحظات التي نالت مجموع نقاط فائدة أعلى بشكل أكثر بروزًا في هذا الموجز، في حين قد تظهر الملاحظات ذات مجموع نقاط الفائدة الأدنى بصورة أقل بروزًا". أفادت Meta، علاوةً على ذلك، بأنها لا تضيف منشورات بصورة مستقلة إلى هذا الموجز ولا "تستخدم أي آليات للإشارة إلى محتوى عالي الأولوية يحتاج إلى ملاحظة".

2. الجوانب التشغيلية - المساهمون والسياسات

تصف Meta في طلبها آلية عمل برنامج ملاحظات المجتمع من الناحية التشغيلية. يتقدم مستخدمو Meta، خلافًا لبرنامج تدقيق الحقائق الخاص بشركة Meta، حيث تشارك الشركة منظمات تدقيق حقائق محترفة لمراجعة وتصنيف المحتوى، بطلبات للمساهمة في البرنامج. تشترط Meta أن يتجاوز المساهمون سن 18 عامًا، وأن يمتلكوا حسابًا مرَّ على إنشائه أكثر من ستة أشهر ولم ينتهك سياسات Meta الرامية إلى "منع الأضرار الأكثر جسامة -مثل الإرهاب والاستغلال الجنسي للأطفال والاحتيال والخداع"، وأن يكون لديهم رقم هاتف موثق أو قاموا بإعداد المصادقة الثنائية. يُقبل الأشخاص "تدريجيًا وبصورة عشوائية" من قائمة الانتظار متى استوفوا معايير الأهلية، ويمكنهم حينئذٍ كتابة الملاحظات وتقييمها. يستطيع المساهمون، في الوقت الحالي، صياغة وتقديم ملاحظات "لإضافة سياق أكبر" للمحتوى العام والعادي على تطبيقات فيسبوك وInstagram وThreads الصادر من الولايات المتحدة. يتعين على المساهمين إدراج رابط يدعم السياق المنشور في الملاحظة. يمتلك المساهمون، عند تقييم الملاحظات، خيار توضيح ما إذا كانت الملاحظات التي كتبها مساهمون آخرون "مفيدة" أو "غير مفيدة" مع شرح استجابتهم عبر اختيار سبب من قائمة خيارات، مثل "ما إذا كانت الملاحظة ذات صلة بالمنشور، وسهلة الفهم، وتستخدم لغة محايدة أو غير منحازة".

تعمل ميزة ملاحظات المجتمع حاليًا بست لغات وهي: الإنجليزية، والإسبانية، والصينية، والفيتنامية، والفرنسية، والبرتغالية. الإنجليزية، والإسبانية، والصينية، والفيتنامية، والفرنسية، والبرتغالية. لم تبت Meta بعد في "اللغات التي سيتم دعمها في ملاحظات المجتمع للبلدان متعددة اللغات"، كما أنها لم تمد "البنية التحتية التقنية لملاحظات المجتمع لدعم الكتابة والتقييم والنشر بلغات تتجاوز اللغات الست المتاحة عند الإطلاق في الولايات المتحدة". أفادت Meta بأنها تتوقع بدء هذا العمل في أوائل عام 2026. أفادت Meta، ردًا على سؤال حول الاستعدادات المرتقبة للإطلاق الدولي لملاحظات المجتمع، بأنها "تعتزم إجراء اختبارات على منتج ملاحظات المجتمع قبيل إطلاقه في أي سوق. ستُقيم هذه الاختبارات آلية عمل خوارزمية إيجاد أرضية مشتركة في السياق المحلي وتساعد في تحديد أي مشكلات محتملة تتعلق بالتمثيل اللغوي أو مشاركة المساهمين."

أفادت Meta بأن الملاحظات تخضع لمعايير المجتمع ذاتها التي ينطبق عليها المحتوى العادي، مع وجود بعض الاختلافات الجوهرية في الإنفاذ. تستخدم الشركة "مزيجًا من الأنظمة المؤتمتة وفرق المراجعة المتخصصة والمراجعة البشرية من قِبَل خبراء لتقييم ما إذا كانت الملاحظات تنتهك معايير المجتمع الخاصة بنا". وأفادت Meta، علاوةً على ذلك، باستخدام مصنف يعتمد على تعلم الآلة "للحد من توزيع المنشورات التي طلب الأشخاص ملاحظات بشأنها والتي تتوقع أنظمتنا أنها قد تنتهك معايير المجتمع (رغم عدم التأكد بعد من انتهاكها) ضمن المنشورات المرشحة المعروضة في واجهة المساهمين بينما ينتظر المحتوى المراجعة البشرية". أفادت Meta بأن هذا يساعد في تقليل التعرض للمحتوى الذي يُحتمل أن يكون مخالفًا.

يؤدي إخفاء هوية المساهمين، وفقًا لشركة Meta، دورًا في آلية عمل ملاحظات المجتمع. لا تظهر أسماء المساهمين في الملاحظات التي صاغوها أو قيموها لضمان استناد التقييمات إلى "المحتوى والفائدة، بدلاً من هوية كاتب الملاحظة". أفادت Meta بأن إخفاء هوية المساهمين هذا "يُشجع على المشاركة عبر تخفيف ضغط الأقران أو المخاوف من الإساءة".

أفادت Meta في طلبها بأنها تعمل حاليًا على إيجاد سبل للحفاظ على تفاعل المساهمين، والارتقاء بجودة الملاحظات، ومنع إساءة الاستخدام والتلاعب المنسق بميزة ملاحظات المجتمع. يتلقى المساهمون الجدد عرضًا توضيحيًا داخل المنتج حول كيفية كتابة الملاحظات وتقييمها. يستطيع المساهمون النشطون أيضًا الانضمام إلى منتدى مجتمعي، مستضاف على منصة Discord، لتلقي مستجدات حول الميزات الجديدة وتقديم ملاحظات للمساهمة في تطوير المنتج. أفادت Meta بأن اشتراط امتلاك المساهمين لرقم هاتف فريد وحساب بحد أدنى للسن سيساعد في ردع إنشاء الحسابات الزائفة. ستُسهم عملية قبول المستخدمين "تدريجيًا وبصورة عشوائية" من قائمة الانتظار في "المساعدة على الحماية من الجهود المنسقة لإضافة ملاحظات إلى أجزاء محتوى بعينها أو تقييم الملاحظات بطريقة محددة". وضعت Meta، نظرًا لأن الملاحظة تستلزم رابطًا لمعلومات تدعم السياق المقترح، تدابير تحظر "روابط URL التي تنطوي على انتهاكات جسيمة" لمنع إساءة الاستخدام وتشجيع المساهمين على مشاركة معلومات عالية الجودة.

4. البحوث والتقييمات لأنظمة الإشراف القائمة على أسلوب ملاحظات المجتمع

تلقت الهيئة، كجزء من أبحاثها ومشاركتها مع أصحاب المصلحة، مجموعة من المعلومات لتقييم فرص ومخاطر أنظمة الإشراف التي تعتمد على حشد المصادر وبأسلوب ملاحظات المجتمع، فضلاً عن الملاحظات والبيانات التجريبية حول أداء هذه الأنظمة على منصات التواصل الاجتماعي الأخرى، وبشكل أساسي ميزة ملاحظات المجتمع في منصة X. قام المجلس، في ظل غياب بيانات جوهرية حول أداء نظام Meta، باستنباط هذه النتائج من ملاحظات المجتمع في منصة X للاسترشاد بها في توصياته الواردة في الأجزاء اللاحقة من الرأي. قد يشوب عملية الاستنباط هذه بعض أوجه القصور، نظرًا لاختلاف منصات Meta عن منصة X في عدة جوانب، تشمل الحجم وتوزيع قاعدة المستخدمين وديناميكيات سرعة الانتشار. سيحتاج تحليل المجلس القائم بشكل كبير على ملاحظات المجتمع في منصة X إلى تحديثه واختباره بشكل أكبر، كلما توفر مزيد من البيانات حول أداء ملاحظات المجتمع لشركة Meta.

أظهرت ميزة ملاحظات المجتمع وتكنولوجيا إيجاد أرضية مشتركة الداعمة لها نتائج واعدة في بعض الجوانب. قيل إن هذا النهج، من الناحية النظرية، يُعد "نهجًا واعدًا لمساعدة الخطاب المضاد في مكافحة المعلومات المضللة" كونه "يحترم استقلالية المستخدمين ويشجع على المشاركة الواسعة والتبادلات الصحية". استشهدت ملاحظات أخرى تلقاها المجلس بدراسات تُشير إلى أن التعليقات التوضيحية المستمدة من المجتمع على المحتوى قادرة على زيادة ثقة المستخدمين في نتائج الإشراف. أيد أصحاب المصلحة، بصفة عامة، المناهج المتبعة مع المعلومات الخادعة التي تولي الأولوية لحرية التعبير، مثل توفير سياق إضافي عبر أدوات كميزة ملاحظات المجتمع. شدد أصحاب المصلحة على أنه لا ينبغي النظر إلى ملاحظات المجتمع وتدقيق الحقائق باعتبارهما أداتين متنافرتين. سلط الكثيرون الضوء على الكيفية التي يمكن بها لكل منهما استكمال الآخر.

تستطيع ملاحظات المجتمع، استنادًا إلى بعض الأبحاث التجريبية، أن تؤدي وظيفتها كأداة مهمة للارتقاء بمستوى الخطاب الرقمي، شريطة تنفيذها بنطاق وسرعة وشفافية كافية مع وضع ضمانات ضد التلاعب. ترى دراسات تجريبية وقائمة على الملاحظة، فضلاً عن مساهمات أصحاب المصلحة، أن ملاحظات المجتمع قادرة على التفوق على تسميات التحذير العامة من حيث الشرعية المتصورة وفهم المستخدم، وأنها تُعيد تقديم شكل من أشكال المشاركة المدنية المهيكلة في حوكمة المنصات، وهي مشاركة لا ترتكز على حكم الأغلبية، بل على التعاون العابر لوجهات النظر والقائم على التفسير.

ثمة تفاؤل أيضًا بشأن إمكانية التوسع والفعالية للملاحظات المستمدة من حشد المصادر، ولا سيما عند إرفاقها بمعلومات يُحتمل أن تكون مضللة. أظهرت بعض الأبحاث أن أحكام عامة الناس، في مجموعها، قادرة على مضاهاة مستويات دقة جهات تدقيق الحقائق المحترفة. ترى هذه الأبحاث أن الاستفادة من التقييمات الجماعية لعامة الناس عبر برامج مثل ملاحظات المجتمع "تتيح اتخاذ إجراءات قابلة للتطوير ضد المعلومات المضللة". وجدت بعض الدراسات أن ملاحظات المجتمع قادرة على تقليل التفاعل والانتشار للمحتوى المصنف بكونه زائفًا أو مضللاً، وبشكل ملموس أحيانًا، فور إرفاق الملاحظة واطلاع المستخدمين عليها. بيد أن ثمة تباينات في هذه النتائج. قامت أبحاث أخرى بتحليل الأبعاد الزمنية للتفاعل مع المحتوى المضلل ووجدت أن ملاحظات المجتمع في منصة X "قد تكون بطيئة للغاية بحيث يتعذر عليها تقليل التفاعل مع المعلومات المضللة في مرحلة الانتشار المبكرة (والأكثر انتشارًا) بفعالية". وجدت دراسة بحثية أخرى أن التأثير الاجتماعي المتصور لمؤلف تغريدة المصدر قد أثر على مستويات التوافق بين المستخدمين، حيث أدى المؤلفون المؤثرون إلى "تحقيق مستوى أدنى من التوافق بين المستخدمين" وكانت ملاحظات تدقيق الحقائق على منشوراتهم "أكثر عرضة لأن تُعتبر غير صحيحة". تنبع مثل هذه الخلافات، في الغالب، من تباين أداء ملاحظات المجتمع في ظل ظروف تنفيذ مختلفة.

نظر المجلس أيضًا في آراء أصحاب المصلحة الذين جادلوا بأن أداء برامج ملاحظات المجتمع في الظروف الواقعية قد يكون غير متوقع. تواجه الأنظمة التي تعتمد على تصويت المساهمين المدعوم بالخوارزمية لإرفاق ملاحظات بالمحتوى تحديات تتعلق بالتغطية والمشاركة والملاءمة الزمنية والموثوقية، وكلها تكتسب أهمية متزايدة في المواقف عالية الخطورة مثل النزاعات والأزمات. تُشير الأبحاث المتعلقة بأنظمة الإشراف التشاركية والبشرية، في الوقت ذاته، إلى أن درجة التباين تُعد أصيلة في مثل هذه المناهج، بما في ذلك تدقيق الحقائق من قِبَل الخبراء، وأن الشفافية النسبية لملاحظات المجتمع قد تجعل هذا التباين أكثر قابلية للملاحظة وبالتالي أكثر قابلية للتقييم والارتقاء المستمر.

وجدت بعض الأبحاث أن مخرجات ملاحظات المجتمع تعكس أنماط الاختيار الذاتي، نظرًا لاعتمادها على اختيار المساهمين للمنشورات التي يودون التعليق عليها. أظهرت الدراسات أن المساهمين في منصة X في الولايات المتحدة يميلون إلى كتابة ملاحظات على منشورات مناهضة لانتماءاتهم الحزبية وتقييم ملاحظات زملائهم في الحزب بأنها مفيدة، وهو ما قد يؤدي إلى تعزيز الانقسامات الأيديولوجية. تُشير هذه النتائج إلى أن اشتراط التوافق بين أولئك الذين يختلفون عادةً قد يكون حلاً غير مكتمل لمشكلة الملاحظات ذات الدوافع الأيديولوجية، لا سيما في البيئات الرقمية المستقطبة. غير أن دراسات أخرى تُشير إلى أن شرط التوافق العابر لوجهات النظر يعمل أيضًا كعتبة للجودة تحد من رؤية الملاحظات ذات الدوافع الأيديولوجية أو ذات المصادر الضعيفة، حتى لو كان اختيار التصميم هذا يحد من التغطية الإجمالية. وثقت تقارير أخرى وأبحاث أن جهات تدقيق الحقائق المحترفة تُعد من بين المصادر الأكثر استشهادًا بها لتوفير السياق الداعم ضمن الملاحظات المنشورة في ميزة ملاحظات المجتمع في منصة X، مما يشير إلى اعتماد ملاحظات المجتمع على تدقيق الحقائق بواسطة جهات خارجية على الرغم من اختلاف وظائفها وأهدافها. لذا، من المرجح أن يؤدي تقليص الدعم لجهات تدقيق الحقائق إلى التأثير على ملاحظات المجتمع، حيث قد يتوفر للمساهمين عدد أقل من المصادر الموثوقة للاستشهاد بها. قد يكون هذا الأثر أكبر في الأماكن التي تتوفر فيها مصادر إعلامية موثوقة محدودة. يؤكد هذا الاعتماد المتبادل أهمية مناهج الحوكمة متعددة الطبقات، بدلاً من الاعتماد على أي آلية واحدة، لا سيما في السياقات عالية الخطورة أو الحساسة للوقت.

سلط العديد من أصحاب المصلحة الضوء على العدد القليل نسبيًا من الملاحظات التي تتوصل إلى توافق وتُنشر بوصفه تحديًا مركزيًا. لم تُعرض الملاحظات المقترحة على المستخدمين أبدًا في 74% من المنشورات المضللة في منصة X التي قُدمت بشأنها ملاحظات دقيقة، وذلك استنادًا إلى إحدى الدراسات. وجدت تحقيقات إعلامية أن معظم المستخدمين لا يصادفون ملاحظات منشورة أبدًا. تميل الملاحظات، عند نشرها، إلى نيل نسبة مشاهدة أدنى مما ناله المنشور الأصلي قبل إرفاق الملاحظة. يُشير هذا إلى أن المستخدمين الذين يشاهدون محتوى يتلقى ملاحظة في نهاية المطاف غالبًا لا يرون الملاحظة عند نشرها. بيد أن انخفاض معدلات النشر والرؤية قد يعكس أيضًا عتبات التوافق والمصادر المرتفعة للنظام عن قصد، والتي صُممت لإعطاء الأولوية لجودة الملاحظة والشرعية المتصورة على الكمية. أثارت التفاوتات في عدد الملاحظات المقترحة والمنشورة عبر المجموعات اللغوية المختلفة مخاوف بشأن التمثيل الكافي للمجموعات اللغوية المتنوعة في برنامج ملاحظات المجتمع. قد تتأثر هذه التفاوتات بكثافة المساهمين، والمصادر الخاصة باللغة، واستثمار المنصة في التوطين، بدلاً من الجدوى الكامنة للنموذج ذاته.

أثار بعض أصحاب المصلحة أيضًا مخاوف من أن تراكم الملاحظات غير المنشورة في منصة X (أي الملاحظات التي اقترحها المساهمون ولكنها لم تصل بعد إلى عتبة التوافق اللازمة للنشر) يؤثر سلبًا على الملاءمة الزمنية لملاحظات المجتمع. وجد تحليل زمني حديث لأنماط النشر في منصة X أن "الملاحظات تُنشر، في المتوسط، بعد 65.7 ساعة من المنشور الأصلي، مع تسبب التأخيرات الطويلة في تقليل احتمالية التوافق بشكل ملحوظ". وجدت دراسة أخرى أنه في الفترة بين يناير 2021 ويناير 2025، ظلت 87.7% من الملاحظات المقترحة في منصة X ضمن فئة "بحاجة إلى المزيد من التقييمات". لم تحقق سوى 8.3% فقط من بين جميع الملاحظات المقترحة لتقييم المساهمين حالة "مفيدة" ونُشرت، مع متوسط تأخير بلغ 26 ساعة، وهو ما يتجاوز بكثير ذروة الانتشار لمعظم المنشورات المضللة. أبلغت Meta، في تحديث سبتمبر 2025، عن أرقام مماثلة، حيث لم تُنشر سوى نحو 6% فقط من الملاحظات.

أظهر تحليل الاتجاهات السائدة في منصة X كيف يمكن لمعدلات النشر المنخفضة أن تؤثر على تفاعل المساهمين واستمرارهم. وجدت دراسة حديثة أن "معظم الملاحظات صاغتها أقلية من المساهمين" وأن "نسبة المؤلفين الذين استمروا في البرنامج عامًا تلو الآخر قد تباطأت منذ عام 2023". "تتناقص نسبة المؤلفين الذين لا يزالون نشطين، علاوةً على ذلك، مما يشير إلى انخفاض القدرة" على الاحتفاظ بالمساهمين. يؤدي تكرار تجربة عدم نشر الملاحظات، وفقًا لهؤلاء المؤلفين، إلى تثبيط المساهمين عن الاستمرار في المشاركة. يشير هذا الاتجاه إلى "المخاطر التي تهدد استدامة نظام ملاحظات المجتمع". تُشير هذه الاتجاهات، في حال كانت Meta تتصور ملاحظات المجتمع كجزء من "نهجها تجاه المعلومات المضللة" كما توحي بياناتها وسياساتها العامة، إلى أن ملاحظات المجتمع قد تؤدي إلى عدد قليل للغاية من الملاحظات الجيدة لدرجة تحول دون كون النظام أداة مجدية للتحقق من المعلومات الخادعة.

حُددت آثار نتائج هذه الأبحاث في حالات الأزمات والنزاعات بوصفها مجالاً للقلق. شارك العديد من أصحاب المصلحة أبحاثًا تتعلق بملاحظات المجتمع في منصة X تشكك في قدرتها على معالجة المعلومات المضللة بفعالية، لا سيما في اللحظات التي تزداد فيها أهمية نزاهة المعلومات، مثل الانتخابات والأزمات والنزاعات. فعلى سبيل المثال، كشفت أبحاث حول منشورات على منصة X من 5 حسابات بارزة روجت لمعلومات زائفة أثناء أعمال الشغب في ساوثبورت عام 2024 في المملكة المتحدة، أن هذه الحسابات حصدت أكثر من 430 مليون مشاهدة. توضح هذه التحليلات أنه من بين 1060 منشورًا شاركتها هذه الحسابات خلال ذروة أعمال الشغب، لم يتلقَّ سوى منشور واحد فقط ملاحظة مجتمع. تثير هذه البيانات مخاوف جدية بشأن قدرة ملاحظات المجتمع على الاستجابة السريعة للمعلومات المضللة في حالات الأزمات، لا سيما في مراحل انتشارها المبكرة والواسعة.

أعرب بعض أصحاب المصلحة عن قلقهم إزاء القرار الأخير لمنصة X بالسماح للمساهمين الذين يعملون بالذكاء الاصطناعي "بزيادة عدد الملاحظات" (راجع التعليقات العامة، على سبيل المثال، PC-31568، Full Fact). يرى المجلس وجود مخاطر في الاستعانة بمساهمين يعملون بالذكاء الاصطناعي لإنتاج الملاحظات. يؤدي انتشار أدوات الذكاء الاصطناعي إلى ظهور مسارات جديدة للتلاعب بالنظام واستغلال ثغراته. يستطيع الفاعلون الخبثاء ضبط النماذج بدقة لتفضيل روايات معينة بشكل خفي، أو صياغة الأدلة بصورة انتقائية، أو استغلال آلية التقييم، مع الظهور بمظهر الحياد في الوقت عينه. نظرًا لأن معظم أنظمة الذكاء الاصطناعي يتم تدريبها على بيانات متداخلة وتحسينها لتحقيق أهداف متماثلة، فقد تؤدي مشاركتها إلى تجانس أساليب الاستدلال والتفسيرات في الملاحظات، مما يؤدي إلى إقصاء وجهات نظر الأقليات والآراء غير الوسطية. أبلغت Meta المجلس بأنها "لا تنوي السماح لكتّاب ملاحظات من الذكاء الاصطناعي (أي روبوتات الدردشة أو الوكلاء الذين يعملون بالذكاء الاصطناعي) بتقديم ملاحظات المجتمع عبر منصات Meta". يجوز للمساهمين استخدام الذكاء الاصطناعي لمساعدتهم في كتابة الملاحظات؛ غير أنه يتعين على الإنسان تقديم الملاحظة تحت اسمه، ويُعد الشخص هو مؤلف الملاحظة".

أثار العديد من الخبراء الذين استشارهم المجلس، فضلاً عن أصحاب المصلحة الخارجيين، مخاوف بشأن القابلية للتطبيق العالمي لخوارزمية ملاحظات المجتمع في منصة X، التي صُممت لنمذجة الخلاف السياسي و"إيجاد أرضية مشتركة" عبره استنادًا بشكل أساسي إلى محور واحد، وذلك عند تطبيقها على المجتمعات التي تسود فيها محاور متعددة لانقسامات جوهرية. قد يؤدي نشر الخوارزمية في هذه البيئات إلى تعزيز فهم مبسط للنزاعات السياسية المعقدة والانقسامات الاجتماعية. أشار بعض الخبراء، مع ذلك، إلى أن الخوارزمية لم تُصمم لاستيعاب كافة أبعاد الخلاف السياسي، بل لتحديد مجالات محدودة من التوافق العابر لوجهات النظر، وهو ما قد يظل يوفر معلومات سياقية ذات مغزى حتى في المجتمعات التي تتسم بمحاور انقسام متعددة ومتداخلة. قد يؤدي عدم التقاط الخوارزمية للانقسامات الاجتماعية، من الناحية العملية، إلى إنتاج النظام لملاحظات تميل لمعالجة مجموعة فرعية من الخطاب، والتي قد لا تتوافق مع المواضيع الأكثر بروزًا واستقطابًا في بلد ما. فعلى سبيل المثال، وجدت بعض الأبحاث التي شاركها أصحاب المصلحة أن "نحو نصف" الملاحظات طُبقت على ما أسموه "الأخبار الخفيفة" (وهي القصص التي تغطي الثقافة أو نمط الحياة أو موضوعات بسيطة بدلاً من السياسة أو الأحداث الجارية). وعلى سبيل المقارنة، "كثيرًا ما ظلت الملاحظات ذات المصادر الجيدة والمتعلقة بأحداث مشحونة سياسيًا غير منشورة" (PC-31597، معهد الحوار الاستراتيجي)، وربما يرجع ذلك إلى عدم وصولها إلى عتبة التوافق اللازمة. قد يعكس هذا النمط، بدلاً من ذلك، عتبات نشر تهدف إلى إعطاء الأولوية للشرعية ومنع الاستيلاء على النظام، بدلاً من غياب مساهمات دقيقة أو ذات مصادر جيدة، كما أن هذا الانتقاء يُعد ميزة شائعة في أنظمة الحوكمة التشاركية. قد يخفق النظام أخيرًا في إظهار وجهات نظر الأقليات أو التوجهات غير الوسطية، بغض النظر عن دقتها، لا سيما إذا فشلت الخوارزمية في التقاط الانقسامات ذات الأهمية الاجتماعية والسياسية التي تتجاوز المحور الأساسي المفترض للاستقطاب في بلد ما. ستتم مناقشة الآثار المترتبة على هذه الديناميكيات على حقوق الإنسان أدناه.

توضح الأدلة ومدخلات أصحاب المصلحة المستعرضة في هذا القسم، بمجملها، أن ملاحظات المجتمع تنطوي على قيود كبيرة وفرص محتملة في آن واحد بوصفها آلية لمعالجة المحتوى الذي قد يكون مضللاً. تؤكد التحديات المحددة، والمتعلقة بالنطاق والملاءمة الزمنية والتوافق والعتبات وحوافز المساهمين والتفاوتات اللغوية ونمذجة الاختلاف، أهمية اتخاذ خيارات حذرة في التصميم والتنفيذ. تشير الأبحاث والمشاورات، في الوقت ذاته، إلى أن هذه القيود تعكس مقايضات متأصلة في أنظمة الإشراف التشاركية والتفسيرية. ينبغي، بناءً على ذلك، تقييم دور هذه الأنظمة في ضوء قدرتها على العمل كخط تدخل يولي الأولوية للشفافية ومشاركة المستخدمين وحرية التعبير.

5. تحليل حقوق الإنسان

أعلنت شركة Meta في عام 2021 عن سياسة حقوق الإنسان الخاصة بالشركة، والتي حددت فيها التزامها باحترام الحقوق استنادًا إلى مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان (UNGPs). تضع مبادئ الأمم المتحدة التوجيهية، التي اعتمدها مجلس حقوق الإنسان التابع للأمم المتحدة في عام 2011، إطارًا طوعيًا لمسؤوليات الشركات في مجال حقوق الإنسان. تشمل هذه الحقوق، "كحد أدنى . . . تلك المعبر عنها في الشرعة الدولية لحقوق الإنسان" (المبدأ 12).

يتعين على Meta، بوصفها شركة عالمية ملتزمة بمبادئ الأمم المتحدة التوجيهية، احترام المعايير الدولية لحقوق الإنسان في كافة أماكن عملها (المبدأ 11)، و"السعي لمنع أو تخفيف آثار حقوق الإنسان السلبية المرتبطة مباشرة بعملياتها أو منتجاتها أو خدماتها بمبادئ أعمالها، حتى لو لم تكن قد ساهمت في تلك الآثار" (المبدأ 13). تنص المبادئ التوجيهية للأمم المتحدة أيضًا على وجوب قيام الشركات بإجراء العناية الواجبة بحقوق الإنسان لتقييم الآثار الفعلية والمحتملة واتخاذ الإجراءات اللازمة استنادًا إلى نتائجها (المبدأ 17). ينبغي للشركات، لضمان تحقيق ذلك بفعالية، مراقبة المؤشرات النوعية والكمية ودمج مدخلات أصحاب المصلحة المتأثرين (المبدأ 20).

يُقيم المجلس، عبر قضاياه وآرائه الاستشارية، آثار قرارات السياسة والإنفاذ على حقوق الإنسان. يُقدم المجلس التوصيات المناسبة حينما تكشف هذه القضايا عن تسبب Meta في أثر سلبي، أو احتمال عدم اتخاذها خطوات لرصد النتائج السلبية والحد منها على نطاق أوسع. يركز المجلس، في الرأي الاستشاري بشأن سياسات المحتوى، بشكل مباشر على خيارات السياسة والإنفاذ لدى شركة Meta لتقييم مدى وفاء الشركة بالتزامها باحترام الحقوق بموجب مبادئ الأمم المتحدة التوجيهية.

بحث المجلس، عند تطبيق ذلك على ملاحظات المجتمع، فيما إذا كان البرنامج يُسهم في الممارسة العملية في معالجة وتخفيف الآثار السلبية المحتملة على حقوق الإنسان وفقًا لمسؤوليات Meta، لا سيما في الأسواق خارج الولايات المتحدة التي قد تُطلق فيها Meta ميزة ملاحظات المجتمع. يركز المجلس أولاً، في الأقسام التالية، على السياقات التي قد تؤدي فيها ملاحظات المجتمع مباشرةً إلى إحداث مخاطر وقوع ضرر للمستخدمين أو تصعيدها. يتم التمييز بين هذه الأضرار الفعلية وبين القصور المحتمل لملاحظات المجتمع بوصفها تدبيرًا لتخفيف الضرر (لا سيما فيما يتعلق بالمعلومات الخادعة التي لا ترقى لعتبة الإزالة لدى Meta)، وهو ما سيتم تناوله في القسم اللاحق.

الآثار المباشرة على حقوق الإنسان جراء إطلاق ملاحظات المجتمع

يُلزم المبدأ 13 من المبادئ التوجيهية للأمم المتحدة شركة Meta "بتجنب التسبب في آثار سلبية على حقوق الإنسان أو الإسهام فيها" و"معالجة هذه الآثار عند وقوعها". قد تتأثر مجموعة واسعة من الحقوق ببرنامج ملاحظات المجتمع. فعلى سبيل المثال، قد يتم تعزيز حرية التعبير، التي تشمل الحق في حرية التماس مختلف ضروب المعلومات والأفكار وتلقيها (المادة 19 من العهد الدولي الخاص بالحقوق المدنية والسياسية (ICCPR)؛ التعليق العام رقم 34، لعام 2011، الفقرة 11)، بالقدر الذي تعمل فيه ملاحظات المجتمع كوسيلة للمساهمين لامتلاك أدوات إضافية للتعبير عن أنفسهم، أو تعزيز الخطاب المضاد، أو توليد معلومات سياقية وإتاحة الوصول إليها مما قد لا يتوفر للمستخدمين بخلاف ذلك. تُعد النقاشات وتبادل الأفكار واتخاذ القرارات الجماعية ميزات جوهرية في رؤية Meta لآلية عمل النظام. لا يتم خفض تصنيف المحتوى الذي يتلقى ملاحظة مجتمع، كما قد يكون الحال مع المحتوى الذي يتلقى تسمية تدقيق حقائق. ومن هذا المنطلق، يمكن اعتبار ملاحظات المجتمع مساهمة إضافية في الحقوق التعبيرية لبعض مستخدمي المنصة.

يرى المجلس، من ناحية أخرى، أن إطلاق ملاحظات المجتمع في بلدان خارج الولايات المتحدة قد يؤدي، في ظروف معينة، إلى مخاطر جسيمة تتعلق بحقوق الإنسان، وقد يؤدي إلى أضرار ملموسة أو يسهم في وقوعها، وهي أضرار أقرت Meta بمسؤوليتها عن تجنبها أو معالجتها. تظل احتمالية وقوع هذه الأضرار وجسامتها مرتبطة إلى حد كبير بسياق كل بلد وخطط Meta للتوسع، على الرغم من أن الأبحاث وملاحظات أصحاب المصلحة حول ملاحظات المجتمع في منصة X، والمشار إليها أعلاه، تعطي تصورًا لهذه الأضرار. شاركت Meta معلومات حول هذا الموضوع في طلبها وإجاباتها على أسئلة المجلس، بما في ذلك خططها لاختبار منتج ملاحظات المجتمع قبيل إطلاقه في أي سوق. سيهدف هذا الاختبار إلى "تقييم آلية عمل خوارزمية إيجاد أرضية مشتركة في السياق المحلي والمساعدة في تحديد أي مشكلات محتملة تتعلق بالتمثيل اللغوي أو مشاركة المساهمين". ينبغي لشركة Meta، في ضوء موارد مفوضية الأمم المتحدة السامية لحقوق الإنسان لتنفيذ المبادئ التوجيهية للأمم المتحدة في المجال التقني، تركيز هذا الاختبار على "فهم كيفية قيام الحقائق الاجتماعية والاقتصادية والسياسية والحقوقية المحلية إما بمفاقمة الأضرار المتعلقة بحقوق الإنسان أو الحماية منها" مع اقتراب الإطلاق العالمي لملاحظات المجتمع. يحث المجلس شركة Meta على نشر تقارير عامة عن نتائج ذلك الاختبار قبيل عملية الإطلاق.

قد تُنشئ ملاحظات المجتمع آثارًا مثبطة على حرية التعبير، على الرغم من أن Meta تضعها في إطار "السياق" الإضافي، لا سيما حين يخشى المستخدمون أن تؤدي الرقابة المتزايدة الناجمة عن التصنيف العلني لخطابهم إلى تعرضهم للانتقام أو لإساءات محتملة، أو حين يخشون إمكانية تتبع ملاحظاتهم. قد يؤدي هذا بالمستخدمين إلى تجنب النشر حول الموضوعات المثيرة للجدل أو الحساسة تمامًا. يلاحظ المجلس، مع ذلك، أن هذا الخطر لا يقتصر على ملاحظات المجتمع وحده، ومن المرجح أن يكون حاضرًا في أي نظام مصمم لمكافحة المعلومات المضللة. قد تثبط ملاحظات المجتمع المعارضة، أو صحافة المواطن، أو تدقيق الحقائق الذي يقوده المستخدمون، أو وجهات نظر الأقليات في السياقات السياسية التي تتقلص فيها المساحة المدنية وتتعرض فيها حقوق الإنسان للخطر، لا سيما في ظل غياب الشفافية حول آلية عمل النظام أو انعدام وجود سبل مجدية للطعن. أفادت Meta بأنها تبحث إضافة القدرة على طلب تقييمات إضافية من المساهمين كمسار محتمل للمعالجة. لا يمتلك المستخدمون، في الوقت الحالي، القدرة على الطعن في ملاحظة مجتمع، وهو أمر متاح للمحتوى الذي يتلقى تسمية تدقيق حقائق، وذلك في حالات مثل اعتقادهم بأن المعنى المقصود قد تغيّر أو تم تشويهه بواسطة ملاحظة ما، أو إذا كانت الملاحظة ذاتها غير دقيقة. قد يُسهم تطوير Meta لهذه الميزة في التخفيف من خطر وقوع أثر مثبط.

قد يعرض النظامُ الأفرادَ لخطر الانتقام في حال كشف مجهولية الهوية في السياقات التي تقمع فيها الحكومات المعارضة، بما في ذلك عبر الهجمات على حرية التعبير. يؤدي هذا إلى ظهور مخاطر على حقوق المساهمين في الخصوصية (المادة 17 من العهد الدولي الخاص بالحقوق المدنية والسياسية)، وفي الأمان على أنفسهم (المادة 9 من العهد الدولي الخاص بالحقوق المدنية والسياسية)، بل وحتى الحق في الحياة (المادة 6 من العهد الدولي الخاص بالحقوق المدنية والسياسية). قد تؤدي المشاركة في ملاحظات المجتمع إلى تعريض المساهمين للمراقبة أو الاستهداف في حال استنتاج الهويات أو أنماط السلوك، حتى عند توفير مجهولية هوية رسمية. قد تكشف البيانات المتعلقة بهوية المساهمين في الملاحظات أو المتفاعلين معها عن آراء أو انتماءات سياسية، مما يضع المساهمين في خطر في البلدان التي لها تاريخ في استخدام مثل هذه المعلومات لأغراض القمع. صرحت Meta بأن وسيلة التخفيف الأساسية لديها فيما يتعلق بالكشف عن هويات المساهمين في ملاحظات المجتمع تتمثل في تصميم نموذج البيانات ذاته. تنفصل كيانات المساهمين، التي تُستخدم لإنشاء وتقييم الملاحظات، عن الملفات الشخصية لمستخدمي Meta. يتعذر على المجلس، في ظل غياب شرح أكثر تفصيلاً للهيكل التقني لكيفية تنفيذ Meta لحسابات المساهمين في ملاحظات المجتمع، التوصل إلى استنتاجات قاطعة بشأن ما إذا كانت خطط Meta الحالية ستخفف من هذا الخطر بشكل كافٍ. يتعين على شركة Meta، قبيل الإطلاق في السياقات التي تقمع فيها الحكومات المعارضة، ضمان قوة حمايتها عبر إجراء اختبارات المحاكاة العدائية للهيكل التقني لملاحظات المجتمع في ظل ظروف عدائية، مثل نمذجة التهديدات الصادرة من الجهات الفاعلة الحكومية.

يُعرب المجلس كذلك عن قلقه إزاء احتمال استخدام ملاحظات المجتمع من قبل شبكات التضليل الإعلامي المنسقة، لا سيما في البيئات التي تتوفر فيها أدلة سابقة أو حالية على هجمات أو تلاعب متعمد وواسع النطاق بأنظمة المعلومات. تدرك منصات التواصل الاجتماعي، بما فيها شركة Meta، هذا الخطر، وقد كشفت عن عدة حالات قامت فيها بإزالة حسابات بسبب هذا السلوك. يستطيع الفاعلون الخبثاء، في هذه المواقف، التنسيق من أجل "التلاعب" بآليات المشاركة والتقييم أو التلاعب بها، مما يتيح لهم، على سبيل المثال، التشويه الممنهج لوجهات النظر المعارضة أو نشر ملاحظات لا تعكس توافقًا فعليًا بين المساهمين. قد تؤدي مثل هذه الانتهاكات لملاحظات المجتمع، في حال نجاحها، إلى التلاعب بالخطاب العام بطرق تشوه بيئات المعلومات وتؤثر على حق الأشخاص في المشاركة في إدارة الشؤون العامة (المادة 25 من العهد الدولي الخاص بالحقوق المدنية والسياسية). فصلت Meta عدة ضمانات طبقتها لمنع التلاعب بملاحظات المجتمع. أفادت الشركة بأنها "تراقب محاولات التلاعب المحتملة ببرنامج ملاحظات المجتمع عبر تحليل أنماط سلوك المساهمين وتفاعلاتهم". صرحت الشركة بأنها لم ترصد، حتى تاريخه، أي سلوك زائف منسق أو تلاعب بالبرنامج.

غير أن أبحاثًا حديثة حول ملاحظات المجتمع في منصة X وجدت أن "أقلية صغيرة (5-20%) من المقيمين السيئين يمكنهم قمع الملاحظات المفيدة المستهدفة بشكل استراتيجي"، مما يثير مخاوف بشأن كفاية الضمانات، وبالتالي، ضعف الأنظمة أمام التلاعب. لا يتم "قفل" حالة النشر لملاحظات Meta إلا بعد مرور أسبوعين على التوصل إلى توافق وظهور الملاحظة. قد يجعل هذا ملاحظات المجتمع عرضة للفاعلين الخبثاء الذين يمكنهم التنسيق لإزالة ملاحظة عبر الاستمرار في تقييمها بشكل سلبي خلال الأسبوعين الفاصلين بين نشرها وقفلها. ستزداد حدة نقاط الضعف هذه مع انتشار أدوات الذكاء الاصطناعي، ولا سيما الذكاء الاصطناعي الوكيل (Agentic AI)، الذي يتيح توسيع نطاق إنشاء الحسابات وإدارتها بسهولة أكبر. لا يتضح من المعلومات المقدمة إلى المجلس ما إذا كانت هذه الضمانات تعالج بشكل كافٍ النطاق المحتمل للتهديد، على الرغم من أن ضمانات Meta تهدف نظريًا إلى مراقبة مثل هذا النشاط. ستعتمد التقييمات الإضافية لكل من جسامة هذا الخطر وكفاية ضمانات شركة Meta على البيانات التجريبية التي تفحص ما إذا كانت أدوات الذكاء الاصطناعي المستخدمة في ملاحظات المجتمع تؤدي إلى نشوء نقاط ضعف أو تفاقمها -مثل التلاعب المنسق أو عمليات المعلومات واسعة النطاق- وهو ما سيتعين على شركة Meta جمعه وتقييمه.

تستطيع ملاحظات المجتمع أيضًا أن تنطوي على مخاطر منح الأولوية للمجموعات السياسية أو العرقية أو اللغوية المهيمنة، ومن المحتمل أن تؤدي إلى تهميش الأقليات المستبعدة، لا سيما إذا كانت مجموعات متعددة تتشارك التحيز ضد إحدى الأقليات. تتفاقم هذه المشكلة إذا لم تكن هذه المجموعات مُمثلة أو كانت مُمثلة تمثيلاً ناقصًا كمساهمين، وهو ما قد يؤدي إلى قيام خوارزمية ملاحظات المجتمع بنمذجة خلافات لا تعبر عن الانقسامات المجتمعية الجوهرية. يثير هذا مخاوف بشأن الآثار المحتملة على حقوق أفراد هذه المجموعات، مثل الحقوق في المساواة وعدم التمييز (المادتان 2 و26 من العهد الدولي الخاص بالحقوق المدنية والسياسية) وحرية التعبير (المادة 19 من العهد الدولي الخاص بالحقوق المدنية والسياسية)، لا سيما إذا كانت الظروف الموضوعية تجعلهم أقل عرضة للمشاركة في إنشاء وتقييم ملاحظات المجتمع. ثمة عوامل عدة قد تجعل هذا الضرر أكثر احتمالاً أو أكثر جسامة. تمثل أحد التحديات الرئيسية لنظام ملاحظات المجتمع في منصة X، كما ناقش الخبراء وأصحاب المصلحة المذكورون أعلاه، في تطبيق خوارزمية تضع نموذجًا للاستقطاب والانقسام الاجتماعي وفق محور واحد في سياقات لا ينطبق عليها ذلك. لاحظ أصحاب المصلحة الذين استشارهم المجلس أن مثل هذا النهج الفظ قد يؤدي إلى انحراف بيئات المعلومات لصالح وجهات نظر الأغلبية، ومن المحتمل أن يؤدي إلى نشر ملاحظات ضارة تستهدف الأقليات غير المفضلة بشكل متبادل. قد تؤدي هذه الديناميكيات من المحتمل إلى زيادة الانقسام.

قد تخدم الأحكام المسبقة المشتركة تجاه مجموعات الأقليات المحرومة، في هذه الحالات، بكونها "الأرضية المشتركة" بين مجموعات الأغلبية الأخرى التي تختلف بخلاف ذلك حول محاور الاستقطاب الرئيسية الأخرى. يمكن أن يصبح هذا النوع من الضرر أكثر احتمالاً أيضًا إذا كان لدى الأقليات غير المفضلة وصول متباين إلى الإنترنت ووسائل التواصل الاجتماعي، وبالتالي تم تمثيلهم تمثيلاً ناقصًا كمساهمين في ملاحظات المجتمع. تُعد المشاركة القوية عبر المجموعات المختلفة، وبشكل خاص المجموعات اللغوية ذات الصلة ومجموعات الأقليات الأخرى (أي حسب الدين، والعرق، والجنس، والسن)، أمرًا جوهريًا لكي تتيح ملاحظات المجتمع وصولاً واسعًا لمصادر معلومات تعددية ومتنوعة كما تتصور Meta. فعلى سبيل المثال، قدم اتحاد من المنظمات غير الحكومية في جنوب آسيا بعض الأدلة على الأضرار الناجمة عن ديناميكيات الأغلبية في ملاحظات المجتمع بمنصة X في السياقات الهندية، حيث تعكس الانقسامات السياسية انتماءات معقدة ومتداخلة تمتد عبر العرق والدين واللغة والطائفة. يستوجب الخطر قدرًا كافيًا من المعقولية لاستدعاء تقييم Meta الدقيق للانقسام الاجتماعي ووضع الأقليات غير المفضلة في الأسواق التي قد تُطلق فيها ملاحظات المجتمع، على الرغم من صعوبة معرفة مدى قابلية تعميم المشكلة استنادًا إلى هذا المثال المحدود.

أشار الخبراء في خوارزميات إيجاد أرضية مشتركة الذين استشارهم المجلس إلى عدم وجود سبب تقني يمنع تصميم خوارزمية ملاحظات المجتمع بطريقة أكثر تطورًا تأخذ محاور خلاف متعددة في الاعتبار في الوقت عينه. يقوم المجلس، كما أُشير أعلاه، وفي ظل غياب مزيد من المعلومات حول التصميم، بتقييم المخاطر هنا استنادًا إلى كيفية إثبات عمل خوارزمية منصة X، التي اتخذتها Meta كنقطة انطلاق لها. قد يكون ذلك وسيلة لتخفيف المخاطر المحددة هنا، بقدر ما تقوم Meta بتصميم نسختها من ملاحظات المجتمع لتعمل بطريقة أكثر تعددية للأبعاد.

قد تعتمد جسامة احتمالية وقوع الأضرار المختلفة المشار إليها أعلاه بشكل كبير على ما إذا كانت ملاحظات المجتمع تستكمل بتدابير أخرى لمعالجة المعلومات الخادعة، مثل تدقيق الحقائق بواسطة جهات خارجية، لا سيما بالنظر إلى اعتماد ملاحظات المجتمع على عملهم، كما لوحظ سابقًا. قد تؤدي عوامل خارجية أخرى، مثل قوة استقلال وسائل الإعلام وانتشار الوعي الرقمي، من ناحية أخرى، إلى تقليل احتمالية وجسامة هذه الأضرار.

الآثار غير المباشرة على حقوق الإنسان جراء إطلاق ملاحظات المجتمع

تُعد مسؤوليات حقوق الإنسان الأكثر انطباقًا بشكل مباشر والمطلوبة من Meta بموجب المبادئ التوجيهية للأمم المتحدة فيما يتعلق بملاحظات المجتمع هي تلك التي تم استكشافها أعلاه. تتناول هذه المسؤوليات الظروف التي قد تؤدي فيها ملاحظات المجتمع، في حد ذاتها، إلى التسبب في آثار سلبية على حقوق الإنسان أو الإسهام فيها في ظل ظروف محلية معينة. تنطوي عملية إطلاق Meta العالمية لملاحظات المجتمع واستخدامها، فضلاً عن تلك المسؤوليات المباشرة، على مخاوف أوسع نطاقًا تتعلق بحقوق الإنسان، وهي مخاوف تتسم بطبيعة غير مباشرة ولكنها تظل جوهرية بالرغم من ذلك.

صرحت Meta بأنها ستواصل إنفاذ قواعد سياسات المعلومات المضللة والضرر، والتي تحظر المعلومات المضللة التي تتسم بكونها: 1) يُرجَّح إسهامها المباشر في خطر وقوع عنف وشيك، 2) يُرجَّح إسهامها المباشر في خطر التدخل في قدرة الأشخاص على المشاركة في الانتخابات. ينشر المستخدمون، مع ذلك، معلومات زائفة ومضللة قد تؤدي، في ظروف متنوعة، إلى حالات تتهدد فيها حقوق الإنسان، ولكن حينما يقل الخطر عن عتبة الإزالة تلك. فعلى سبيل المثال، صرح المقرر الخاص للأمم المتحدة المعني بحرية التعبير بأن المعلومات المضللة "تتسم بالاستقطاب السياسي، وتعيق الأشخاص عن ممارسة حقوق الإنسان الخاصة بهم ممارسةً مجدية، وتدمر ثقتهم في الحكومات والمؤسسات" (A/HRC/47/25، الفقرة 2). قد تُسهم المعلومات المضللة في مجموعة أوسع من الأضرار، متمثلة في "إخماد حرية التعبير، وخفض مستوى الثقة في الفضاء العام بوصفة مساحة للتداول الديمقراطي، وتضخيم الروايات المناهضة للديمقراطية، ودفع الاستقطاب، وتعزيز الأجندات الاستبدادية والشعبوية" (A/HRC/47/25، الفقرة 24). قد تؤدي بيئة المعلومات المتدهورة التي تسود فيها هذه الظروف إلى تعريض الأشخاص للخطر عبر تقييد وصولهم إلى المعلومات وحقهم في المشاركة في العملية السياسية.

تقع هذه الأضرار، في الوقت الذي قد تكون فيه جسيمة، عادةً دون العتبة التي قد تبرر فرض قيود حكومية على حرية التعبير بموجب المادة 19(3) من العهد الدولي الخاص بالحقوق المدنية والسياسية. أثار المقرر الخاص للأمم المتحدة المعني بحرية التعبير، في الواقع، مخاوف (A/HRC/47/25، الفقرتان 57 و58) بشأن المخاطر التي تتهدد حرية التعبير جراء تشريعات "الأخبار الزائفة" الفضفاضة للغاية. استُخدمت هذه القوانين، في جميع أنحاء العالم، كذريعة لفرض الرقابة على المنظمات غير الحكومية والصحفيين والمعارضين السياسيين. قد تكون التدابير الأقل حدة التي لا تصل إلى مستوى الإزالة أكثر تناسبًا مع الأهداف المشروعة لحقوق الإنسان، وذلك في ضوء هذه المخاوف. أكد المجلس سابقًا على أهمية معالجة الأضرار المرتبطة بالمعلومات الخادعة عبر تدابير أقل تقييدًا من الإزالة، مثل تقديم معلومات لتصحيح الأكاذيب وخفض تصنيف المحتوى المضلل (راجع قراري منشورات مؤيدة لأعمال الشغب في المملكة المتحدة ولقطات احتجاج مصحوبة بهتافات مؤيدة لدوتيرتي.) تختلف هذه التدابير عن التزامات الدول في هذا المجال، كما أشار المجلس مرارًا، إذ إن قيام الدول بفرض قيود مماثلة من شأنه أن ينتهك الحقوق.

ثمة قدر من الغموض من جانب Meta بشأن ما إذا كانت الشركة تنوي أن تكون ملاحظات المجتمع تدبيرًا لتخفيف هذه الأنواع من الأضرار. أشارت Meta، من ناحية، وردًا على سؤال المجلس حول العلاقة بين ملاحظات المجتمع وتدقيق الحقائق بواسطة جهات خارجية، إلى وجود "اختلافات جوهرية" بين الاثنين، قائلة إن ملاحظات المجتمع تخدم هدفًا أوسع: حيث "يضيف المساهمون سياقًا إلى أي جزء محتوى يعتقدون أن إضافة معلومات تكميلية فيه قد تكون مفيدة". أطلقت Meta، من ناحية أخرى، ملاحظات المجتمع في البيان ذاته الذي أعلن عن إنهاء برنامجها لتدقيق الحقائق بواسطة جهات خارجية في الولايات المتحدة. تصف الشركة ملاحظات المجتمع تحديدًا بكونها ميزة تتيح للأشخاص "إضافة سياق أكبر إلى المنشورات التي قد تكون مضللة أو مربكة" (مع التأكيد المضاف). تدرج Meta أيضًا ملاحظات المجتمع كجزء من نهجها تجاه المعلومات المضللة، حيث يعمل نظام تدقيق الحقائق بواسطة جهات خارجية كآلية "للإعلام" خارج الولايات المتحدة، وتؤدي ملاحظات المجتمع الوظيفة ذاتها داخل الولايات المتحدة.

يرى المجلس أن هذه التصريحات الأخيرة، وسياسة Meta بشأن المعلومات المضللة بشكل أوسع، تُظهر أن الشركة تسعى فعليًا لمعالجة هذا النوع من المعلومات الخادعة، وأنها تتصور قيام ملاحظات المجتمع بدور في الوفاء بتلك المسؤولية.

يرحب المجلس، بالقدر الذي تهدف إليه ملاحظات المجتمع للعمل كأداة لمعالجة المخاوف المتعلقة بحقوق الإنسان والمرتبطة بالمعلومات المضللة التي لا تستوفي عتبة الإزالة، بكون ملاحظات المجتمع لا تقيد الخطاب بالطريقة التي تتبعها التدابير الأخرى، مثل عمليات إزالة المحتوى والإنذارات على الحسابات. لا يتعرض المحتوى الذي يتلقى ملاحظة لخفض مستوى الرؤية أو الانتشار، بخلاف المنشورات التي تتلقى تسميات ناتجة عن تدقيق الحقائق بواسطة جهات خارجية. يرى المجلس أن هذه وسيلة مناسبة لضبط تناسب تدخل Meta بما يجعله أكثر اتساقًا مع حماية حرية التعبير. يستطيع البرنامج أيضًا، في بعض السياقات، توليد خطاب مضاد يعمل كرقابة فعالة على هذا النوع من المعلومات المضللة، وبالتالي يساعد Meta على الوفاء بمسؤوليتها المفترضة في هذا المجال. غير أنه في حال تصورت Meta أن ملاحظات المجتمع هي وسيلتها الأساسية أو الوحيدة لمعالجة كافة أنواع المعلومات الخادعة التي لا تستوفي عتبة الإزالة، فقد تحد قرارات التصميم الأصيلة في آلية عملها من قدرتها على القيام بذلك. تثير آثار هذه القرارات -مثل فرض الخوارزمية لمحور خلاف واحد على انقسامات مجتمعية معقدة، والتأخير في نشر الملاحظات، والعدد القليل نسبيًا للملاحظات المنشورة، وفوق كل ذلك، اعتماد النظام على عمق وموثوقية بيئة المعلومات الأوسع (بما في ذلك تدقيق الحقائق بواسطة جهات خارجية حيثما توفر)- مخاوف جدية حول مدى ملاءمة ملاحظات المجتمع للغرض المتمثل في معالجة المعلومات الخادعة المرتبطة بالضرر.

أعرب المقرر الخاص المعني بحرية التعبير مؤخرًا عن مخاوفه بشأن الآثار المترتبة على حقوق الإنسان لبعض هذه الميزات، فضلاً عن التحول على مستوى الصناعة نحو مناهج تدقيق الحقائق المدفوعة بالمجتمع، مثل ملاحظات المجتمع (A/80/341، الفقرات من 67 إلى 72). أشار المقرر الخاص أيضًا إلى نقاط ضعف محتملة، مع ملاحظة الفوائد المحتملة للإشراف المدفوع بالمجتمع، بما في ذلك قابلية التوسع والتكلفة وطبيعته الديمقراطية. تشمل هذه النقاط "قابلية السيطرة على النظام" عبر التلاعب بالتقييمات، و"عدم اتساق تطبيق المعايير"، و"الافتقار إلى خبرات موثوقة والشروط التي تفرض التوصل إلى توافق في آراء المجتمع" (A/80/341، الفقرتان 69 و70). يخلص المقرر الخاص إلى أنه "لا ينبغي النظر إلى ملاحظات المجتمع وتدقيق الحقائق باعتبارهما أداتين متنافرتين" (A/80/341، الفقرة 72). قد يصعب التوصل إلى تقييمات توافق في السياقات شديدة الاستقطاب، حيث لا تتوافق الانقسامات الاجتماعية بدقة مع نموذج الاستقطاب الذي تفترضه خوارزمية ملاحظات المجتمع، كما نُوقش أعلاه. قد يؤدي هذا القصور التقني، من الناحية العملية، إلى عرض عدد قليل للغاية من الملاحظات بما يحول دون كون النظام أداة مجدية للتحقق من المعلومات الخادعة. قد تؤدي ممارسة Meta المتمثلة في استخدام تكنولوجيتها المؤتمتة للحد من توزيع المنشورات التي توشك على انتهاك المعايير (المحتوى الذي تتوقع أنظمتها أنه يُرجَّح انتهاكه لمعايير المجتمع ولكن لم يتم تأكيد ذلك) والتي طلب الأشخاص ملاحظات بشأنها في واجهة المساهمين، علاوةً على ذلك، إلى جعل تلك المنشورات -التي تشتد حاجتها إلى التدخلات السياقية- أقل عرضة لتلقي الملاحظات. يلاحظ المجلس ممارسة Meta المتمثلة في خفض التوزيع في واجهة المساهمين، فضلاً عن آلية عمل الخوارزمية، بوصفها تفسيرًا إضافيًا لسبب احتمال قيام ملاحظات المجتمع بعرض عدد قليل للغاية من الملاحظات بما يحول دون كونها أداة مجدية للتحقق من المعلومات الخادعة. يقر المجلس، مع ذلك، بأن مخاطر الاستيلاء وعدم الاتساق وتفاوت الخبرة لا تقتصر على الأنظمة المدفوعة بالمجتمع، وقد تنشأ أيضًا في الإشراف الذي يقوده الخبراء أو الإشراف المؤتمت.

على الرغم من أن بعض الأبحاث وجدت أن ملاحظات المجتمع يُنظر إليها بكونها أكثر جدارة بالثقة من إشارات المعلومات المضللة الصادرة عن جهات تدقيق الحقائق، فقد وجدت أبحاث أخرى حول دقة ملاحظات المجتمع أن التقييمات المدفوعة بالجمهور ليست بذات القدر من الدقة مقارنة بتقييمات جهات تدقيق الحقائق المحترفة. ومن المهم كذلك ملاحظة دور المصادر التي تقدمها جهات تدقيق الحقائق المحترفة في ملاحظات المجتمع التي تصل إلى حالة "مفيدة". وجدت دراسة بحثية حديثة أن "ملاحظات المجتمع تستشهد بمصادر تدقيق الحقائق بما يصل إلى خمسة أضعاف ما تم الإبلاغ عنه سابقًا"، بينما وجدت دراسة أخرى أن "منظمات تدقيق الحقائق هي المرجع الثالث الأكثر استخدامًا على مستوى العالم". لا تعني هذه المقارنات أن برنامج تدقيق الحقائق لشركة Meta يخلو من القيود ونقاط الضعف الجوهرية هو الآخر. فعلى سبيل المثال، وجد المجلس سابقًا أن الغالبية العظمى من المحتوى الموجود في قوائم انتظار تدقيق الحقائق لا تتم مراجعته أبدًا من قِبل مدققي الحقائق، ويرجع ذلك جزئيًا إلى قيود تشغيلية ومتعلقة بالموارد (راجع الرأي الاستشاري بشأن سياسات المحتوى حول إزالة المعلومات المضللة بشأن فيروس كورونا (كوفيد-١٩)). يلاحظ المجلس، استنادًا إلى ذلك، أنه على الرغم من إثارة القيود المفروضة على ملاحظات المجتمع لمخاوف مشروعة، إلا أن التدابير القائمة على الخطاب المضاد السياقي قد تلبي اعتبارات التناسب وحرية التعبير في ظروف معينة بصورة أفضل من التدخلات الأكثر حدة، لا سيما في الحالات التي لا تستوفي فيها المعلومات المضللة عتبة الإزالة.

تجدر الإشارة، وبشكل أكثر أهمية، إلى أنه بقدر ما يُراد لنظام ملاحظات المجتمع أن يخدم كجزء من استجابة Meta الشاملة للمخاوف المتعلقة بحقوق الإنسان والناشئة عن المعلومات الزائفة والمضللة التي لا ترقى إلى مستوى الضرر المرجح والوشيك، فإنه لا يمكن تقييم إطلاقه بمعزل عن غيره. قد تكون ملاحظات المجتمع وسيلة يتلقى المستخدمون عبرها معلومات سياقية حول المحتوى الذي قد يكون مضللاً، وذلك في بعض الأسواق واللغات ومجالات القضايا التي تفتقر إلى قدرات تدقيق الحقائق المحترفة أو تنعدم فيها تمامًا. يمكن استكمال عمليات تدقيق الحقائق بواسطة جهات خارجية الأكثر قوة بملاحظات المجتمع في أماكن أخرى (راجع PC-31587، الشبكة الأوروبية لمعايير تدقيق الحقائق). يتعين على Meta مراعاة الحالة العامة للنظام البيئي للمعلومات -بما في ذلك إمكانية الوصول إلى المعلومات وموثوقيتها- عند تحديد أماكن وكيفية إطلاق ملاحظات المجتمع. ينبغي أن يكون وجود وكالات تدقيق الحقائق (أو غيابها) أحد العوامل التي تراعيها Meta عند اتخاذ هذه القرارات، نظرًا للدور الذي تؤديه هذه الوكالات غالبًا في تشكيل بيئات المعلومات الأوسع عبر البحث والمصادر وإعداد التقارير. تكتسب هذه المراعاة أهمية خاصة في البيئات المتأثرة بالنزاعات، وأثناء الانتخابات، وفي البيئات التي تفتقر فيها المجموعات المهمشة تاريخيًا والأقليات غير المفضلة إلى الوصول الكافي للمشاركة في الخطاب العام.

العناية الواجبة بحقوق الإنسان

وصفت شركة Meta إجراءات العناية الواجبة التي اتخذتها قبيل إطلاق ملاحظات المجتمع في الولايات المتحدة بكونها تمثلت في "مراجعة الأدبيات والدراسات الأكاديمية" التي تركز على نسخة ملاحظات المجتمع في منصة X، فضلاً عن خوارزميات إيجاد أرضية مشتركة بشكل أوسع. صرحت Meta بأنها أجرت هذه المراجعة، التي ركزت حصرًا على الولايات المتحدة، لتقييم عوامل متنوعة يمكن اعتبارها مؤشرات على فعالية البرنامج. شملت المراجعة فحص الأبحاث حول ما إذا كان الجمهور في الولايات المتحدة يرى ملاحظات المجتمع أكثر شرعية من تدقيق الحقائق التقليدي، وهو ما قد يشير إلى "احتمالية أكبر لقبول الأشخاص للمعلومات المقدمة عبر ملاحظة مجتمع بدلاً من تلك المقدمة من قِبل جهة تدقيق حقائق خارجية". أفادت Meta كذلك، في ردها على أسئلة المجلس، بأنها "قيمت الدراسات التي تتناول دقة ملاحظات المجتمع، مستكشفةً ما إذا كان بإمكانها مضاهاة دقة تدقيق الحقائق بواسطة جهات خارجية أو حتى التفوق عليها". لم تشر Meta إلى تركيز أي من هذه الأبحاث على الأضرار المتعلقة بحقوق الإنسان والمرتبطة بملاحظات المجتمع. أفادت Meta بأن فريق سياسة حقوق الإنسان لديها يقدم المشورة الآن للفرق المعنية المشتركة بين الوظائف لتحديد المخاطر والفوائد المحتملة لملاحظات المجتمع على حقوق الإنسان. ينبغي اعتبار هذا الرأي الاستشاري جزءًا من العناية الواجبة بحقوق الإنسان المحيطة بإطلاق Meta العالمي لملاحظات المجتمع.

استندت توصيات المجلس والتحليلات المرتبطة بها للعوامل التي يتعين على Meta مراعاتها عند استبعاد بلدان من طرح ملاحظات المجتمع إلى دراسة واسعة للتأثيرات المحتملة على حقوق الإنسان جراء الإطلاق الدولي والمعروضة أعلاه. تتوقف المخاطر المحتملة على حقوق الإنسان واستراتيجيات التخفيف المناسبة، مع ذلك، بشكل حاسم على تصميم منتج ملاحظات المجتمع ووظائفه في كل سياق. زعمت Meta التخفيف الكافي للمخاطر المتعلقة بحقوق الإنسان (بشأن مجهولية هوية المساهمين والحماية ضد التلاعب، على سبيل المثال) في المواد المقدمة للمجلس، بيد أنه يتعذر التحقق من فعالية هذه التدابير بشكل كافٍ ما لم تتوفر بيانات وتقارير حول آلية عملها من الناحية العملية.

تُعد توصيات المجلس، بناءً على ذلك، مشروطة بالضرورة، إذ تتعذر الإجابة على الأسئلة التي طرحتها Meta بدرجة عالية من الثقة في ظل غياب بيانات تفصيلية حول آلية عمل خوارزمية ملاحظات المجتمع لشركة Meta في المواقف الواقعية، فضلاً عن علاقتها بأدوات مكافحة المعلومات المضللة الأخرى. ستحتاج الشركة أيضًا إلى مراقبة وقياس التأثيرات الفعلية بعناية مع دخول المنتج حيز التشغيل في سياقات جديدة ومختلفة. تعهدت Meta باختبار منتج ملاحظات المجتمع قبيل إطلاقه في أي سوق. يلاحظ المجلس ضرورة تركيز هذا الاختبار على كشف وتخفيف المخاطر المتعلقة بآلية عمل الخوارزمية، والتمثيل اللغوي، ومشاركة المساهمين. يؤكد المجلس دعوته المتكررة لتحقيق قدر كبير من الشفافية وإعداد التقارير وإتاحة وصول الباحثين إلى البيانات المتعلقة بأداء ملاحظات المجتمع. ينبغي أن يشمل ذلك بيانات تضاهي ما تشاركه منصة X حاليًا حول نظام ملاحظات المجتمع الخاص بها، بما يتضمن، كحد أدنى، النص الكامل لجميع الملاحظات والمناطق الجغرافية المرتبطة بها، والتقييمات لكل ملاحظة، وسجل الحالة، وتسجيل المستخدمين، وطلبات الملاحظات على المحتوى.

6. العوامل الموصى بها على مستوى البلدان

يوصي المجلس بالعوامل التالية لتوجيه طرح Meta لملاحظات المجتمع. يقترح المجلس أيضًا، لتقييم هذه العوامل والموازنة بينها بطريقة قابلة للتطوير، تصنيفات وتقييمات ذات صلة يتعين على Meta مراجعتها كجزء من استعداداتها ومراقبتها النهائية لتوسع ملاحظات المجتمع. لا تُعد هذه التصنيفات والتقييمات مصادر شاملة للحقيقة بشأن الظروف على مستوى البلدان، بل تقدم قياسات عامة لبعض العوامل المذكورة أدناه. يتعين على Meta أيضًا مراجعة بياناتها الخاصة حول أداء ملاحظات المجتمع واستشارة الخبراء وأصحاب المصلحة المتأثرين من البلدان التي قد يشملها البرنامج.

من الممكن لشركة Meta، كما نُوقش أعلاه، إجراء طرح لملاحظات المجتمع بما يتوافق مع حقوق الإنسان. قد تؤثر عدة عوامل على ترتيب تنفيذ Meta، وتتطلب بعض العوامل عناية واجبة إضافية. ثمة عوامل أخرى يراها المجلس بمثابة اعتبارات جوهرية يتعين على Meta فيها ضمان قوة تخفيفات معينة قبل المضي قدمًا.

سياقات حقوق الإنسان القمعية

يعتمد برنامج ملاحظات المجتمع على قاعدة مساهمين نشطة ومتفاعلة، كما نُوقش في ثنايا الرأي. حققت الأنظمة القائمة على أسلوب ملاحظات المجتمع، وتكنولوجيات إيجاد أرضية مشتركة بشكل أوسع، أعظم نجاحاتها في السياقات التي تتسم بمجتمع مدني قوي. يعتمد المساهمون، في الأحوال المثلى، على وسائل إعلام مستقلة لدعم ملاحظات المجتمع المقترحة، ويشاركون دون خوف من الإساءة أو الانتقام بسبب كتابة الملاحظات وتقييمها. قد يصعب تحقيق هذه الظروف في البلدان ذات السجلات القمعية في مجال حقوق الإنسان. يستطيع تأثير الدولة، والفاعلون المنسقون عبر الإنترنت، والخوف من الانتقام أن يؤدي إلى انحراف المشاركة المجتمعية في مثل هذه البيئات، مما يؤدي إلى التمثيل المفرط للروايات التابعة للأغلبية أو المتحالفة مع الدولة في قاعدة المساهمين. قد يؤدي هذا إلى ظهور آثار مثبطة تُسكت أصوات المعارضة مسبقًا داخل النظام.

نظر المجلس كذلك، من ناحية أخرى، في كيفية استفادة البيئات التي تفتقر إلى مؤشرات المجتمع المدني القوي -مثل المستويات المنخفضة لحرية التعبير والأدلة التاريخية والحالية على انتهاكات حقوق الإنسان الممنهجة- من إطلاق ملاحظات المجتمع (راجع PC-31548، كوبالكس). تستطيع ملاحظات المجتمع هنا، في حال ضمان حماية قوية للمساهمين، تمكينهم من مواجهة القمع عبر استخدام النظام لإظهار وجهات نظر بديلة ونشر معلومات قد يتعذر الوصول إليها لولا ذلك. يمكن للنظام أن يمثل ساحة لمواجهة الروايات الرسمية للدولة في حال الحفاظ على مجهولية الهوية.

يوصي المجلس، نظرًا للمخاطر المحتملة على سلامة وأمن المساهمين، باستبعاد البلدان ذات السجل القمعي في مجال حقوق الإنسان والمجتمعات المدنية الضعيفة من الإطلاق الدولي الأولي لملاحظات المجتمع، إلى أن تتمكن Meta من إثبات قوة وفعالية حماية خصوصية المساهمين، مدعومةً بأدلة على إجراء اختبارات المحاكاة العدائية في ظل ظروف عدائية، ووجود سياسة واضحة للتعامل مع طلبات الحصول على بيانات ملاحظات المجتمع الصادرة من وكالات إنفاذ القانون، وتوافر تدابير لتخفيف المخاطر. يُعد هذا شرطًا ضروريًا لدى المجلس يسبق عملية التوسع. تعتمد تصنيفات مثل Freedom in the World (الحرية في العالم) وFreedom on the Net (الحرية على الإنترنت) الصادرة عن منظمة فريدوم هاوس، فضلاً عن مشروع Varieties of Democracy "أنواع الديمقراطية" (V-Dem)، وGlobal Expression Report (تقرير التعبير العالمي) الصادر عن منظمة Article 19، وPress Freedom Index (مؤشر حرية الصحافة) الصادر عن منظمة مراسلون بلا حدود، عدة مؤشرات (تتجاوز النقاط الإجمالية للبلدان) تقدم قياسات شاملة لمستويات حرية التعبير وحرية الصحافة ومشاركة المجتمع المدني.

الانتخابات عالية المخاطر

يقر المجلس بأن بعض السياقات الانتخابية قد تكون ملائمة لملاحظات المجتمع. تستطيع ملاحظات المجتمع دعم الوصول إلى المعلومات وحرية التعبير في السياقات الانتخابية، حينما تكون بيئات المعلومات راسخة، وتسمح حرية الإعلام للصحفيين بنقل وجهات نظر متعددة حول القضايا ذات الصلة، وحينما تعمل الجهات الفاعلة في المجتمع المدني دون خوف من الانتقام. يتعين على Meta المضي قدمًا بحذر، من ناحية أخرى، في الحالات التي تغيب فيها تلك الظروف ويواجه النظام خطر نشر ملاحظات تضلل الأشخاص بشأن حقائق جوهرية لممارستهم الحق في المشاركة في إدارة الشؤون العامة في لحظات حرجة من العمليات الانتخابية. لا يجوز إطلاق ملاحظات المجتمع قبيل الانتخابات الكبرى أو خلالها، حينما تسود هذه المخاطر المتعلقة بحقوق الإنسان، وتخلص Meta عبر اختبار المنتجات وتقييم المخاطر والعناية الواجبة بحقوق الإنسان إلى أن ضماناتها غير كافية للتخفيف من تلك المخاطر. يمثل هذا، بالنسبة للمجلس، عتبة يتعين على Meta استخدامها لتحديد ما إذا كانت ملاحظات المجتمع جاهزة للإطلاق في بلد ما في أي لحظة معينة.

تشير بعض الأبحاث، كما نُوقش أعلاه، إلى أن سرعة المعلومات المضللة قد تتجاوز بكثير قدرة أنظمة الإشراف القائمة على المجتمع. قد يؤدي التدخل المتأخر إلى آثار فورية على الحقوق في المشاركة السياسية بالنسبة للانتخابات التي تُعد أحداثًا محددة زمنيًا وتتسم بنشاط سياسي مكثف. قد يؤدي التعرض الأولي للمحتوى الخادع إلى تشكيل الاستجابات أو تقويض الثقة في المؤسسات والعمليات السياسية قبيل ظهور الملاحظات التي تقدم تفسيرات بديلة للمحتوى أو تصحيحات له. قد تتأثر الانتخابات التي تمتد إلى فترات ما بعد الانتخابات بسبب نتائج متنازع عليها، على سبيل المثال، باستمرار الروايات الخادعة. لا تتسبب ملاحظات المجتمع، في هاتين الحالتين، في وقوع أضرار فعلية (كما هو الحال عند إظهار خطاب الكراهية، مثلاً، أو تعريض المساهمين للانتقام من السلطات الحكومية)، غير أنها تظل تدبيرًا غير كافٍ لتخفيف مخاطر المعلومات المضللة التي لا تصل إلى مستوى الضرر المرجح والوشيك، وذلك في حال إطلاقها بمفردها. يوصي المجلس، بناءً على هذه الأسباب، بأن يتناول أي إطلاق لملاحظات المجتمع قبيل الانتخابات كيفية دمج الميزة مع تدابير النزاهة الأخرى المتعلقة بالانتخابات، مثل مراكز عمليات منتجات النزاهة ومراكز عمليات الانتخابات.

يتعين على شركة Meta، عند وضع جداول زمنية محتملة للتوسع، الاستعانة بالتصنيفات والبيانات ذات الصلة بنزاهة الانتخابات، فضلاً عن التقاويم التي ترصد الانتخابات العالمية المقبلة، مثل دليل الانتخابات الذي تصدره المؤسسة الدولية للأنظمة الانتخابية (IFES).

حالات الأزمات والنزاعات

قد تكون كافة المخاطر التي تمت مناقشتها في ثنايا هذا الرأي حاضرة في سياقات الأزمات والنزاعات. قد تكون ملاحظات المجتمع عرضة للتلاعب المنسق من قِبل الجماعات المسلحة أو الجهات الحكومية أو المؤيدين لها الساعين لإضفاء الشرعية على دعايتهم عبر التلاعب بنظام تقييم الملاحظات. تُخاطر الملاحظات التي تُنشر ولكنها تعكس توافقًا مُصنّعًا بشكل زائف بالمساهمة في بيئات معلوماتية منحرفة تعرض المستخدمين للخطر. قد تتفاقم تفاوتات المعلومات في ملاحظات المجتمع حين تعجز مجموعات بعينها عن المشاركة كمساهمين نتيجة عوامل تسود في سياقات النزاع، مثل الافتقار إلى وصول مستقر للإنترنت وغياب الأمن اللازم للمشاركة. يستطيع المحتوى الزائف أو المضلل المتعلق بالعنف والسلامة العامة -والذي قد لا يتأهل بموجب قواعد سياسات Meta بشأن المعلومات المضللة والضرر- أن ينتشر بسرعة ويؤدي إلى عواقب على أرض الواقع قبيل اقتراح الملاحظات وتقييمها ونشرها، وذلك بعيدًا عن التلاعب المتعمد بالمعلومات.

ينطوي النظام أيضًا على خطر نشر محتوى عنيف في حال حددت خوارزمية ملاحظات المجتمع انقسامًا لا يرتبط بمحركات العنف في نزاع معين. يستطيع النظام، في هذا السيناريو، "إيجاد أرضية مشتركة" محتملة بين المجموعات المهيمنة التي تتشارك العداء تجاه مجموعة أخرى منخرطة في النزاع، مما يؤدي إلى ملاحظات تستهدف هذه المجموعة المستبعدة بشكل متبادل وقد تحرض على العنف ضدها.

تتفاقم التداعيات والآثار المتعلقة بحقوق الإنسان لهذه المشكلات المحتملة في سيناريوهات الأزمات والنزاعات بسبب سرعة التطورات الحرجة. يجعل هذا الأمرُ مسألةَ الملاءمة الزمنية عاملاً بالغ الأهمية. يُشير الفاصل الزمني في نشر الملاحظات، والذي وصفه العديد من أصحاب المصلحة بكونه شاغلاً رئيسيًا، إلى أن ملاحظات المجتمع قد لا تمثل ضمانة أولية كافية في سيناريوهات الأزمات والنزاعات. تتوفر، علاوةً على ذلك، نزعة قائمة للعنف في ظروف النزاعات وبعض حالات الأزمات، مما يعني أن عتبات التحريض قد تكون أدنى. يؤدي هذا إلى إمكانية تسبب الملاحظات التي تستهدف مجموعات بعينها في وقوع ضرر على أرض الواقع بسهولة أكبر. يكرر المجلس هنا توصيته الواردة في قرار منشورات مؤيدة لأعمال الشغب في المملكة المتحدة الموجهة لشركة Meta بضرورة "إجراء تقييمات مستمرة لفعالية ملاحظات المجتمع مقارنة بالتدقيق في الحقائق المعتمد على جهات خارجية"، مع التركيز على "سرعة ودقة وحجم الملاحظات أو التسميات التي يتم إرفاقها في المواقف التي يؤدي فيها الانتشار السريع للمعلومات الزائفة إلى مخاطر على السلامة العامة".

يفترض المجلس، كما هو الحال مع الانتخابات، استمرار العمل بتدابير النزاهة الأخرى المتعلقة بالأزمات والنزاعات، مثل بروتوكول سياسة الأزمات. يتعين على شركة Meta ضمان أن يتناول أي إطلاق لملاحظات المجتمع في مثل هذه المواقف كيفية دمج الميزة مع هذه البروتوكولات والأدوات المتعلقة بالأزمات. يساور المجلس قلقٌ من أن الشركة "لم تضع أحكامًا تتعلق باستخدام المنتج في حالات الأزمات، بما في ذلك تكييف الميزة أو تعديلها أو تعليقها"، وذلك وفقًا لما أوضحته شركة Meta في ردها على سؤال من المجلس. يتعين على شركة Meta، نظرًا للمخاوف بشأن تباين أداء ملاحظات المجتمع وغياب بيانات تجريبية موثقة داخليًا حول أداء النظام أثناء الأزمات والنزاعات، الاستعانة بالتصنيفات والبيانات ذات الصلة، مثل مشروع بيانات مواقع النزاعات المسلحة وأحداثها (ACLED)، لتجنب الاعتماد على ملاحظات المجتمع أثناء تلك الأحداث.

يرى المجلس ضرورة عدم إطلاق ملاحظات المجتمع في البلدان التي تشهد أزمات أو نزاعات ممتدة، وذلك بسبب عدم اليقين هذا حول كيفية أداء ملاحظات المجتمع استجابةً لديناميكيات النزاع المعقدة، فضلاً عن احتمالية تسبب النظام في وقوع ضرر أو تصعيد مخاطره. يمثل هذا، بالنسبة للمجلس، شرطًا جوهريًا آخر يتعين على شركة Meta استخدامه لتوجيه عملية إطلاق ملاحظات المجتمع.

التعقيد اللغوي الذي تعجز شركة Meta عن استيعابه تقنيًا وتشغيليًا

يستلزم عمل ملاحظات المجتمع على النحو الذي تنشده شركة Meta أن تعكس قاعدة المساهمين اللغات المختلفة المستخدمة في سياق معين. يتعين على شركة Meta تأجيل إطلاق ملاحظات المجتمع في البلدان التي لا يعمل فيها البرنامج بتلك اللغات، أو حين تعجز Meta عن تحقيق مستويات التمثيل والمشاركة اللغوية المطلوبة لعمل النظام بشكل سليم. قد يؤدي عدم الالتزام بذلك إلى نشوء تفاوتات لغوية في الملاحظات المقترحة والمنشورة في ملاحظات المجتمع أو تفاقمها، مما يقوض ملاحظات المجتمع بوصفها مصدرًا لمعلومات تعددية ومتنوعة.

طالب المجلس شركة Meta مرارًا بضمان التكافؤ اللغوي، تقنيًا وتشغيليًا، عبر كافة أنظمة الإشراف على المحتوى لديها، فضلاً عما سبق. ركزت هذه المطالبات على وظائف مثل تطوير أدوات إنفاذ مؤتمتة تراعي السياق عبر اللغات، وضمان دقة المصنفات عبر مختلف اللغات، والعمل مع الشركاء الموثوق بهم بمختلف اللغات، والحفاظ على العلاقات مع جهات تدقيق الحقائق بواسطة جهات خارجية ممن يمكنهم تقييم الادعاءات بلغات مختلفة داخل سوق معين. لا تستطيع ملاحظات المجتمع وحدها الوفاء بكافة وظائف الإشراف على المحتوى لشركة Meta.

يلاحظ المجلس أخيرًا وجود اختلافات لغوية وثقافية ذات صلة محتملة في كيفية استخدام المجموعات المختلفة لملاحظات المجتمع. فعلى سبيل المثال، قد تختلف دلالة النقر على الزر الذي يقيم الملاحظة بأنها "مفيدة" في بلدان مختلفة بطرق غير متوقعة استنادًا إلى المعايير المتعلقة بكيفية استخدام ذلك الزر، أو الدلالة الدقيقة التي تُفهم بها كلمة "مفيدة" في واجهة مستخدم ملاحظات المجتمع عند ترجمتها إلى لغات مختلفة. ستغير هذه الاختلافات كيفية هيكلة مجموعة البيانات التي يراكمها نظام ملاحظات المجتمع، وتعديل الدلالات التي ينبغي إلحاقها بها؛ وهو ما سينعكس، في نهاية المطاف، على طبيعة الملاحظات التي يتم نشرها. يتعين على الشركة، في البلدان التي تتوقع فيها شركة Meta أن ميزات ملاحظات المجتمع هذه لا يمكنها استيعاب التعقيد اللغوي، تأجيل إطلاق البرنامج إلى أن تثبت الأبحاث والاختبارات قدرة المستخدمين عبر السياقات الثقافية واللغوية على فهم النظام والتفاعل معه.

حينما لا يتوافق الانقسام الاجتماعي والخلاف المُذكي للعنف مع محور واحد للاستقطاب

يقوم تصميم خوارزمية ملاحظات المجتمع في منصة X، بصفة عامة، بنمذجة الخلاف والانقسام في سياق معين وفق محور واحد للاستقطاب. تسعى هذه الخوارزمية إلى "إيجاد أرضية مشتركة" بين المجموعات الموجودة على طرفي ذلك الطيف. لم تقدم شركة Meta أي معلومات تُشير إلى أن برنامجها سيكون مغايرًا بشكل جوهري. قد لا يمثل هذا افتراضًا مناسبًا، مع ذلك، في السياقات التي يتعذر فيها نمذجة الانقسام والخلاف بسهولة وفق محور واحد. لن تعالج ملاحظات المجتمع، في هذه السياقات، على الأرجح كيفية تداخل عوامل متعددة (عبر السياسة والعرق والدين واللغة والطائفة، على سبيل المثال) لتغذية الخلاف.

يعني هذا من الناحية العملية أن ملاحظات المجتمع قد تتوصل، في بعض السياقات، إلى توافق وفق محور يتسم بصلة محدودة بالانقسامات المجتمعية الأكثر جوهرية. قد تُنشر ملاحظات ضارة تصل إلى حد التوافق في بعض السيناريوهات. يمكن أن يحدث هذا، على سبيل المثال، حينما تتشارك المجموعات المهيمنة تحيزًا متبادلاً ضد مجموعة أقلية، ويخدم ذلك التحيز بكونه "الأرضية المشتركة" بين تلك المجموعات المهيمنة. يشتد خطر الضرر هذا تحديدًا في السياقات التي تعجز فيها الخوارزمية عن تحديد الانقسام ومحاولة "إيجاد أرضية مشتركة" عبره، وهو الانقسام الذي يُذكي النزاع والعنف. يوصي المجلس Meta، بناءً على هذه الأسباب، بتوخي أقصى درجات الحذر عند دراسة البلدان التي تتسم بهذه الديناميكيات.

يقر المجلس بأن كافة السياقات الاجتماعية والسياسية تتسم بمحاور متعددة للانقسام والخلاف إلى حد ما. تتوفر، مع ذلك، سياقات تتفاقم فيها مخاطر عدم التوافق بين كيفية نمذجة ملاحظات المجتمع للخلاف في مجتمع ما وبين ما يُحرك الانقسام الاجتماعي والسياسي في ذلك المجتمع فعليًا. يشمل ذلك البلدان التي تتسم فيها الثقافة السياسية بالتفتت اللغوي والعرقي والديني. لا يستلزم الأمر استبعاد هذه البلدان قطعيًا من خطط شركة Meta لتوسيع ملاحظات المجتمع. بل ينبغي تسلسل الإطلاق العالمي لملاحظات المجتمع بطريقة تسمح باختبار أداء النظام في سياقات مختلفة، وينبغي البدء بحذر في بيئات أكثر تشابهًا مع الأماكن التي تمتلك فيها شركة Meta مسبقًا بيانات واختبارات وتدابير لتخفيف المخاطر. يمكن أيضًا تصميم خوارزمية ملاحظات المجتمع لنمذجة ودمج محاور متعددة للانقسام في الوقت ذاته. سيعتمد طرح شركة Meta هنا (والاستبعاد المؤقت لبعض البلدان التي لا تستوفي عتبة الإطلاق المبكر) على خيارات التصميم التي قد تميز ملاحظات المجتمع لشركة Meta عن نسخة منصة X وترتقي بها.

ينتج مشروع Varieties of Democracy "أنواع الديمقراطية" (V-Dem) تصنيفات سنوية لمؤشرات ديمقراطية متنوعة. تشمل هذه التصنيفات بيانات حول مستويات الاستقطاب في بلدان مختلفة، وإن كانت تقدم رؤى أقل حول طبيعة الاستقطاب في البلدان المختلفة. يتعين على شركة Meta، كجزء من إجراءات العناية الواجبة بحقوق الإنسان والمتعلقة بالإطلاق العالمي لملاحظات المجتمع، استشارة خبراء بشأن البلدان التي تتسم باستقطاب عالٍ لتقييم مدى قدرة خوارزميتها على رصد الانقسامات الاجتماعية والسياسية البارزة.

تاريخ شبكات التضليل الإعلامي المنسقة

تعمل ملاحظات المجتمع وفق افتراض مفاده أن مجموعة مساهمين تتسم بقدرٍ كافٍ من التنوع والاستقلال ستُقيّم المحتوى بحسن نية، وأن إشارات التوافق قادرة على تقدير الدقة بصورة موثوقة. قد لا يصح هذا الافتراض في البيئات التي أثبت فيها الفاعلون المتحالفون مع الدولة، وعمليات التأثير التجاري، وغيرهم من الفاعلين الخبثاء مرارًا قدرتهم على تنسيق أعداد كبيرة من الحسابات لترويج معلومات خادعة.

أبلغت Meta المجلس باعتقادها كفاية ضماناتها ضد التلاعب بملاحظات المجتمع واستغلال ثغراتها. سيؤدي استمرار الاختبار الواقعي لنقاط ضعف ملاحظات المجتمع إلى إنتاج البيانات اللازمة للتحقق من مدى كفاية تلك الضمانات. ستواجه ملاحظات المجتمع خطر التحول إلى وسيلة للتلاعب عوضًا عن كونها ضمانة ضده، في حال عدم تحقق ذلك. سيزداد هذا الخطر حدة كلما يسر الذكاء الاصطناعي الإنشاء والتشغيل واسع النطاق للحسابات والشبكات.

يوصي المجلس بأن تستبعد شركة Meta مبدئيًا البلدان التي اتُخذت تاريخيًا كقواعد لشبكات التضليل الإعلامي المتعمد وواسع النطاق. يتعين على شركة Meta، عند القيام بذلك، التركيز على الأسواق التي أظهرت انتشارًا عاليًا للسلوك الزائف المنسق وعمليات التأثير التي تستهدف الجماهير المحلية، كما يتضح في تقارير شركة Meta الخاصة حول هذه الموضوعات. ينبغي أن يكون الإدراج النهائي في برنامج ملاحظات المجتمع مشروطًا بنتائج الاختبارات، بما في ذلك اختبارات المحاكاة العدائية لنقاط ضعف البرنامج، والتي تُظهر كفاية الضمانات. يتعين على شركة Meta عدم الاكتفاء بالنظر في وجود فاعلين خبثاء، بمن في ذلك المرتبطون بالأنظمة السلطوية، بل مراعاة ما إذا كان هؤلاء الفاعلون قد أبدوا نية التلاعب بأنظمة المعلومات ويمتلكون التطور التقني اللازم للقيام بذلك على نطاق واسع. توثق التقارير على مستوى الدول في Freedom on the Net (الحرية على الإنترنت) وPress Freedom Index (مؤشر حرية الصحافة) حالات حملات التلاعب والتضليل الإعلامي المدعوم من البلدان، كما تفعل إفصاحات الشركة حول هذا الموضوع.

عقبات الوصول إلى الإنترنت

يوصي المجلس باستبعاد البلدان التي تواجه عقبات مستمرة أو منهجية تحول دون الوصول إلى الإنترنت، إذ تعتمد ملاحظات المجتمع على مشاركة واسعة النطاق ومتسقة ومنصفة من المساهمين كي تؤدي وظيفتها على النحو المنشود. تكون قاعدة المساهمين القادرة على المشاركة محدودة بالضرورة حينما يكون الوصول مقيدًا بفجوات البنية التحتية، والتكاليف المرتفعة، والاتصال المتقطع، والتفاوتات الإقليمية، وخاصة عمليات قطع الإنترنت التي تفرضها الحكومات. يقوض هذا المبدأ الجوهري المتمثل في أن نظام ملاحظات المجتمع يعكس طيفًا متنوعًا وممثلاً من وجهات النظر القادرة على اتخاذ قرار جماعي بشأن السياق المهم ومدى صلته بالادعاءات التي قد تكون مضللة. قد ينطوي النظام على مخاطر تضخيم التحيز، علاوةً على ذلك، في حال استبعاد مجموعات بعينها بسبب مشكلات الوصول أو التمثيل المفرط لمجموعات أخرى.

تمثل القيود الحكومية على الإنترنت عاملاً فرعيًا ذا صلة خاصة، كما تلاحظ شركة Meta في طلبها، لأن "حرية الإنترنت المحدودة (بسبب اللوائح أو الرقابة) قد تقيد وصول الأشخاص إلى المعلومات الدقيقة والآنية للملاحظات وتجعل من الصعب تحديد مصادر موثوقة لربطها داخل ملاحظاتهم (مثل القيود على استخدام محركات بحث معينة أو الوصول إلى مواقع إعلامية بعينها)". يقدم تصنيف Freedom on the Net (الحرية على الإنترنت) قياسًا شاملاً لعقبات الوصول إلى الإنترنت بصفة عامة. يشمل هذا المؤشر العقبات التي تحول دون الوصول إلى الإنترنت على المستويات البنيوية والاقتصادية والحكومية والتنظيمية والقانونية.

الترجيح

أشار المجلس، طوال توصيته بالعوامل، إلى الحالات التي قد تؤدي فيها ملاحظات المجتمع إلى إحداث مخاطر وقوع ضرر للمستخدمين أو تصعيدها. تم التمييز بين هذه الأضرار الفعلية وبين السيناريوهات التي تنبع فيها احتمالية الضرر من قصور ملاحظات المجتمع بوصفها تدبيرًا لتخفيف الضرر، لا سيما فيما يتعلق بالمعلومات الخادعة التي لا ترقى لعتبة الإزالة لدى شركة Meta. يوصي المجلس بضرورة منح العوامل التي يزداد فيها احتمال وقوع أضرار فعلية وزنًا أكبر، وقد أشار المجلس إلى أن هذه العوامل تنطوي على عتبات لا ينبغي لشركة Meta عندها إطلاق ملاحظات المجتمع إلى أن تثبت قدرتها على القيام بذلك بطريقة تضمن التخفيف من مخاطر هذه الأضرار. أوصى المجلس، في مواضع أخرى، بأن تمضي شركة Meta بحذر وتقوم بتدريج عمليات الإطلاق أو تأجيلها إلى أن تظهر الاختبارات كفاية ضماناتها. لا يعني هذا أن هذه العوامل أقل أهمية. يلاحظ المجلس تعذر أن تتسم هذه التوجيهات بالقطعية المطلقة. نظر المجلس، في مداولاته، في سيناريوهات قد يهيمن فيها وجود عامل واحد بحيث يكون استبعاد بلد ما أمرًا مناسبًا، فضلاً عن سيناريوهات لا يتسم فيها أي عامل بمفرده بكونه جسيمًا بشكل خاص، غير أن عدة عوامل تتراكم بطريقة تجعل الاستبعاد أمرًا مناسبًا.

يتعين، في نهاية المطاف، أن تفحص جهود العناية الواجبة بحقوق الإنسان وتخفيف المخاطر لدى شركة Meta العواملَ الموصى بها من قِبل المجلس جنبًا إلى جنب مع بيانات المنصة الداخلية والملاحظات الخارجية حول أداء ملاحظات المجتمع. يلاحظ المجلس أن شركة Meta تقوم بالفعل بتتبع بعض العوامل التي تمت مناقشتها أعلاه، فضلاً عن التصنيفات الموصى بها كمؤشرات بديلة للعوامل، كجزء من مؤشر تحديد أولويات النزاهة حسب البلدان الخاص بها. تُمثل هذه العملية مراجعة نصف سنوية تستخدمها شركة Meta لمراجعة وتحديد أولويات البلدان التي تواجه أعلى مخاطر وقوع ضرر وعنف على أرض الواقع. يتوقع المجلس أن تمارس شركة Meta ذات الدرجة من المنهجية الصارمة والتقدير عند تحديد كيفية المضي قدمًا في إطلاق ملاحظات المجتمع في بلدان مختلفة.

قدم المجلس لشركة Meta، في التحليل أعلاه، سلسلة من العوامل التي يتعين عليها مراعاتها عند تحديد ما إذا كان ينبغي استبعاد بلد ما من أي توسع مستقبلي لملاحظات المجتمع خارج الولايات المتحدة، فضلاً عن توجيهات بشأن الحالات التي سيكون فيها جمع وتحليل بيانات إضافية حول الأداء الوظيفي للبرنامج أمرًا حاسمًا لتقييم أهمية تلك العوامل ووزنها في المستقبل. يتعين على شركة Meta، لإثبات مراعاتها للعوامل الموصى بها من قِبل المجلس، تزويد المجلس بالمعايير أو مصفوفة المخاطر التي تضعها لتوجيه عملية التوسع كل ستة أشهر خلال فترة توسعها الأولي، مشفوعةً بأدلة توضح كيفية تطبيقها في القرارات المتعلقة بتوسيع ملاحظات المجتمع على مستوى البلدان.

سيعتبر المجلس هذه التوصية مُنفذة متى قدمت شركة Meta تقريرها الأول الذي يفصل كيفية مراعاة العوامل الموضحة وموازنتها وترجيحها لكل سوق ذي صلة، وكيف سيتم دمج جمعها وتقييمها لبيانات إضافية حول الأداء الوظيفي للبرنامج في إعادة التقييم الدوري للترجيح المناسب للعوامل الموضحة.

*ملاحظة إجرائية

يتم إعداد الآراء الاستشارية بشأن سياسات المحتوى الصادرة عن مجلس الإشراف من قِبل لجان مكونة من خمسة أعضاء ويتم اعتمادها من أغلبية أعضاء المجلس. ولا يلزم بالضرورة أن تُعبّر قرارات المجلس عن وجهات النظر الشخصية لجميع الأعضاء.

بالنسبة إلى هذا الرأي الاستشاري بشأن سياسات المحتوى، تم إجراء بحث مستقل نيابة عن المجلس. وساعدت شركة Duco Advisors المجلس، وهي شركة استشارات تركز على نقطة التقاء الجغرافيا السياسية والثقة والأمان والتكنولوجيا.

العودة إلى قرارات الحالة والآراء الاستشارية المتعلقة بالسياسة