فيديو بالذكاء الاصطناعي يزيّف آراء سياسية في المملكة المتحدة بشأن الهجرة

الملخص

خلُص مجلس الإشراف إلى أنه ينبغي إزالة مقطع فيديو بتقنية التزييف العميق لسياسية محلية في المملكة المتحدة من فيسبوك لأنه يتضمن خطابًا يحض على الكراهية ضد اللاجئين، ليُلغي بذلك قرار Meta بالإبقاء عليه. كما خلُص المجلس إلى أن Meta بحاجة إلى بذل جهود أكبر بكثير للتصدي بفعّالية لمقاطع التزييف العميق للسياسيين، بما في ذلك زيادة العقوبات على مشاركة مقاطع التزييف العميق الضارة، بهدف حماية المستخدمين من التعرض للخداع المحتمل.

أهمية هذا الأمر

تكشف هذه الحالة عن تحديات هائلة تواجهها المجتمعات ويتعين على شركات وسائل التواصل الاجتماعي التصدي لها – تزايد واقعية مقاطع التزييف العميق التي تصوّر مسؤولين منتخَبين على نحو يحرّف آراءهم بشأن قضايا مصيرية ويضلل الجمهور، والمعلومات المضللة التي تؤجج الكراهية ضد الأقليات، ومنهم المهاجرون. تتعرض السياسيات والصحفيات والناشطات بصورة غير متناسبة للاستهداف بمقاطع تزييف عميق تحرّف آراءهن، بما في ذلك في إطار حملات المضايقة، في حين تفتقر الشخصيات العامة الأقل بروزًا، مثل السياسيين المحليين والناشطين، في كثير من الأحيان إلى الموارد اللازمة للرد بفعّالية. يؤدي انتشار مقاطع التزييف العميق إلى تآكل الثقة في جميع المعلومات العامة، ويثير تساؤلات حول الحدود الفاصلة بين الخطاب السياسي المحمي وما ينتهك قواعد Meta بشأن المعلومات المضللة أو الخطاب الذي يحض على الكراهية أو المضايقة والإساءة.

حول الحالة

في نوفمبر 2025، نشر أحد مستخدمي فيسبوك مقطع فيديو قصيرًا يُظهر هيئة عضوة مجلس محلي عن حزب العمال في اسكتلندا. يُظهرها الفيديو، الذي يبدو أنه تم إنشاؤه بواسطة الذكاء الاصطناعي، وهي تقول: "اللاجئون مرحب بهم هنا، حتى لو اغتصبوا نساءنا، لأن البيض يفعلون ذلك أيضًا."

يبدو التصوير واقعيًا، لكن يتضح عند التدقيق فيه أنه مصطنع: إذ لا يتزامن الصوت تمامًا مع حركات وجهها، مما يشير إلى أنه مُفبرك. كان الفيديو جزءًا من ألبوم يضم صورة لعدد من النساء المذكورات بأسمائهن في احتجاج مناهض لليمين المتطرف، ومن بينهن عضوة المجلس المحلي. حصد الألبوم والفيديو معًا أكثر من 5000 مشاهدة وأكثر من 50 تعليقًا وأكثر من 20 تفاعلاً وأكثر من 10 مشاركات.

أبلغ شخصان، من بينهما السياسية الظاهرة في الفيديو، عن الفيديو لانتهاكه سياسة المضايقة والإساءة، لكن أنظمة Meta لم تمنح المنشور أولوية للمراجعة البشرية، فظل متاحًا على فيسبوك. تقدم كلا المستخدمَين بطعن إلى Meta، لكن أُبقي على المنشور دون أن يخضع لمراجعة بشرية. تقدم بعد ذلك أحد المستخدمَين، وليس السياسية المعنية، بطعن إلى المجلس. عندما لفت المجلس انتباه Meta إلى الحالة، خلُصت الشركة إلى أن الفيديو لم ينتهك معايير المجتمع المُتّبعة لديها وأنه لا يستدعي وضع تسمية ذكاء اصطناعي.

أهم النتائج

قيّم المجلس هذه الحالة بالرجوع إلى ثلاث من سياسات Meta - السلوك الذي يحض على الكراهية والمعلومات المضللة والمضايقة والإساءة. يرى المجلس أنه كان ينبغي على Meta إزالة الفيديو الذي تم إنشاؤه بواسطة الذكاء الاصطناعي بموجب سياسة السلوك الذي يحض على الكراهية لديها.

ترى أغلبية المجلس أن الفيديو انتهك قواعد Meta بشأن السلوك الذي يحض على الكراهية تحديدًا لأنه ينسب سلوكًا إجراميًا خطيرًا وسلوكًا جنسيًا افتراسيًا إلى اللاجئين بوصفهم مجموعة بأكملها، لا إلى بعض اللاجئين كما ادعت Meta.

عند البت في هذه الحالة، نظر المجلس أيضًا فيما إذا كان الفيديو، لو لم يكن قد انتهك قواعد السلوك الذي يحض على الكراهية، سيستوفي حد الإزالة بموجب سياسة المعلومات المضللة. ترى أغلبية المجلس أن الإزالة لم تكن لتكون مبرَّرة بموجب قواعد المعلومات المضللة، ولكن كان ينبغي أن يحصل الفيديو على تسمية "ذكاء اصطناعي عالي الخطورة"، وتخلص في تحليلها إلى أن قواعد Meta بشأن وضع تسميات الذكاء الاصطناعي على مقاطع التزييف العميق غير كافية.

ترى الأغلبية أن Meta بحاجة إلى سياسات أكثر صرامة بشأن مقاطع التزييف العميق، بما في ذلك توسيع نطاق الحالات التي يمكن فيها تطبيق تسميات "عالي الخطورة"، واتخاذ مزيد من التدابير للحد من انتشار محتوى الذكاء الاصطناعي المضلِّل، وزيادة العقوبات على الحسابات التي تشاركه بشكل متكرر وتوفير مزيد من الشفافية بشأن البيانات المتعلقة بتوقيت تطبيق تسميات الذكاء الاصطناعي.

لا تتفق أقلية من أعضاء المجلس على اعتبار الفيديو خطابًا يحض على الكراهية، لأنه موجه إلى الآراء المزعومة للسياسية، لا إلى جميع اللاجئين أو معظمهم؛ وترى أنه نظرًا لأن الفيديو يُعد خطابًا سياسيًا، ينبغي أن يكون حد الإزالة أعلى.

صدرت أيضًا آراء للأقلية بشأن ما خلُص إليه المجلس بموجب قواعد المعلومات المضللة. رأت أقلية أن تسمية "عالي الخطورة" مقيِّدة أكثر من اللازم، وأنه كان ينبغي تطبيق تسمية "معلومات ذكاء اصطناعي" الأخف. في حين رأت أقلية أخرى منفصلة أن جسامة الأضرار، إلى جانب أن Meta لا تطبق عمليًا الكثير من تسميات الذكاء الاصطناعي، من شأنها أن تبرر الإزالة.

يرى المجلس أن الفيديو لم يكن ليستوجب الإزالة بموجب قواعد المضايقة والإساءة، لأن المسؤولة المنتخَبة شخصية عامة، ومن ثمّ تحظى بحماية أقل من الأفراد العاديين بموجب السياسة.

قرار مجلس الإشراف

يُلغي المجلس قرار Meta بالإبقاء على المحتوى، ويقضي بإزالته بموجب معيار المجتمع بشأن السلوك الذي يحض على الكراهية. في إطار نظره في هذه الحالة، يرصد المجلس أيضًا أوجه قصور في سياسات التسميات بموجب معيار المجتمع بشأن المعلومات المضللة، ويقدم التوصيات التالية بشأن تلك السياسة.

يوصي المجلس Meta بما يلي:

• تغيير سياستها بشأن الوسائط التي تم التلاعب بها لخفض حد تطبيق تسميات "عالي الخطورة"، مع التأكد من عدم اقتصار ذلك على كونه تدبيرًا خاصًا بالأزمات أو نزاهة الانتخابات.
• زيادة العوائق للمستخدمين الذين يشاهدون محتوى يحمل تسمية تفيد بأنه تم إنشاؤه بواسطة الذكاء الاصطناعي أو تسمية "ذكاء اصطناعي عالي الخطورة"، مثل استخدام شاشة اعتراضية (وهي شاشة تتطلب النقر لعرض المحتوى) بدلاً من التسمية.
• إخضاع كل المحتوى الذي يحمل تسمية "عالي الخطورة" لإلغاء تحقيق الأرباح أو خفض التصنيف أو الاستبعاد من التوصيات، مع فرض عقوبات تصاعدية على الحسابات التي تشارك بشكل متكرر محتوى يحمل تسمية "عالي الخطورة".
• التأكد من صياغة القواعد والأمثلة المتعلقة بالتدخل في التصويت أو الإحصاء السكاني بحيث تنطبق على مستوى العالم ولا تقتصر على سياق الولايات المتحدة.
• الإفصاح علنًا في مركز الشفافية لديها عن بيانات سنوية بشأن عدد مرات تطبيق تسميتَي "عالي الخطورة" و"ذكاء اصطناعي عالي الخطورة" على المحتوى، بما في ذلك عدد مرات تطبيق هاتين التسميتين على المحتوى الصادر عن السياسيين أو المتعلق بهم.
• التأكد من إمكانية رؤية جميع التسميات المطبقة بموجب سياسة المعلومات المضللة ("معلومات ذكاء اصطناعي" أو "عالي الخطورة" أو "ذكاء اصطناعي عالي الخطورة") على المحتوى في مكتبة محتوى Meta، ومن إمكانية البحث عن المحتوى الذي حصل على هذه التسميات باستخدام عامل تصفية.

يؤكد المجلس مجددًا أيضًا أهمية توصيته السابقة في قرار فيديو تم إنشاؤه بواسطة الذكاء الاصطناعي في النزاع بين إسرائيل وإيران، التي دعا فيها Meta إلى نشر شرح واضح للعقوبات المترتبة على عدم الإفصاح الذاتي عن المحتوى الذي تم إنشاؤه أو تعديله رقميًا. وينبغي للشركة تقديم معايير للعقوبات وإدراج ميزات الحساب التي تُقيَّد استنادًا إلى ذلك ومدة التقييد.

القرار الكامل بشأن الحالة

1. وصف الحالة ومعلومات أساسية عنها

في نوفمبر 2025، نشر أحد مستخدمي فيسبوك مقطع فيديو قصيرًا يُظهر هيئة عضوة مجلس محلي عن حزب العمال في اسكتلندا. يُظهرها الفيديو، الذي يبدو أنه تم إنشاؤه بواسطة الذكاء الاصطناعي، وهي تقول: "اللاجئون مرحب بهم هنا، حتى لو اغتصبوا نساءنا، لأن البيض يفعلون ذلك أيضًا." يبدو التصوير واقعيًا، لكن يتضح عند التدقيق فيه أنه مصطنع: إذ لا يتزامن الصوت تمامًا مع حركات وجهها، مما يشير إلى أنه مُفبرك. كان الفيديو جزءًا من ألبوم (لم يخضع بأكمله للمراجعة) يضم صورة لعدد من النساء المذكورات بأسمائهن في احتجاج مناهض لليمين المتطرف، ومن بينهن عضوة المجلس المحلي. تضمّن الألبوم أيضًا فيديو آخر غير ذي صلة يوثّق احتجاجًا آخر، ويبدو أنه تم إنشاؤه بواسطة الذكاء الاصطناعي، لكنه لم يذكر عضوة المجلس المحلي. يشير الشرح التوضيحي للألبوم إلى أن عضوة المجلس المحلي قادت حملة ضد إغلاق مرافق إيواء اللاجئين في بلدتها.

حصد الألبوم والفيديو معًا أكثر من 5000 مشاهدة وأكثر من 50 تعليقًا وأكثر من 20 تفاعلاً وأكثر من 10 مشاركات. شكّك أحد التعليقات في صحة الفيديو وانتقد المستخدم لنشره. أشار تعليق آخر، أزالته Meta في يوم نشره نفسه، إلى أن السياسية الظاهرة في الفيديو كانت ترغب في التعرض للاغتصاب.

أبلغ شخصان، من بينهما السياسية الظاهرة في الفيديو، عن فيديو عضوة المجلس المحلي لانتهاكه سياسة المضايقة والإساءة، لكن أنظمة Meta لم تمنح المنشور أولوية للمراجعة البشرية، فظل متاحًا على فيسبوك. تقدم كلا المستخدمَين بطعن إلى Meta، لكن أُبقي على المنشور مرة أخرى دون أن يخضع لمراجعة بشرية. تقدم بعد ذلك أحد المستخدمَين، وليس عضوة المجلس المحلي الظاهرة في الفيديو، بطعن إلى المجلس. عندما لفت المجلس انتباه Meta إلى الحالة، خلُصت الشركة إلى أن الفيديو لم ينتهك معايير المجتمع المُتّبعة لديها وأنه لا يستدعي وضع تسمية ذكاء اصطناعي.

تُجسّد هذه الحالة تحديَين نظاميين مترابطين تواجههما شركات وسائل التواصل الاجتماعي على مستوى العالم: التصويرات الاصطناعية للسياسيين التي تزداد انتشارًا وواقعية وقدرة على الخداع، والتي يُشار إليها أحيانًا باسم "مقاطع التزييف العميق"، والمعلومات الكاذبة التي تؤجج الكراهية ضد الأقليات، ومنهم المهاجرون. تناول المجلس الصلات بين المعلومات الكاذبة التي يتم إنشاؤها بواسطة الذكاء الاصطناعي والخطاب الذي يحض على الكراهية في قرارَي منشورات مؤيدة لأعمال الشغب في المملكة المتحدة وانتقاد سياسات الهجرة والمهاجرين في الاتحاد الأوروبي. كما تناول المقاطع الصوتية الاصطناعية للسياسيين في قرار مكالمة صوتية مزعومة لتزوير الانتخابات في إقليم كردستان العراق، ومقاطع الفيديو التي تم التلاعب بها في قرار فيديو مفبرك للرئيس بايدن.

نُشر المحتوى في هذه الحالة قبل الانتخابات المحلية بعدة أشهر. رغم أن مقعد عضوة المجلس المحلي لم يكن مطروحًا لإعادة الانتخاب حتى مايو 2027، فقد كان حزبها يخوض منافسات في جميع أنحاء البلاد كانت فيها الهجرة وإيواء طالبي اللجوء قضية بارزة. في عام 2025، اندلعت مظاهرات ضد إيواء طالبي اللجوء في الفنادق في جميع أنحاء المملكة المتحدة، بعد أن اعتدى جنسيًا أحد طالبي اللجوء في مقاطعة إسيكس بجنوب شرق البلاد على امرأة وفتاة تبلغ من العمر 14 عامًا. استمرت الاحتجاجات في عام 2026، بما في ذلك في اسكتلندا، وسط ادعاءات بأن طالبي اللجوء يثيرون مخاوف تتعلق بسلامة النساء، وهو ما وصفه البعض بأنه معلومات كاذبة ذات طابع عنصري توظّف المخاوف المتعلقة بالعنف ضد النساء لتأجيج الكراهية ضد المهاجرين.

2. المعلومات المقدَّمة من المستخدمين

في الطعن المقدَّم إلى المجلس، ادعى المستخدم الذي أبلغ عن المحتوى أن الفيديو تم إنشاؤه بواسطة الذكاء الاصطناعي، وأنه يحرّف آراء السياسية وقد يشكّل تهديدًا لسلامة هذه السيدة. من وجهة نظر المستخدم، ينبغي أن يتمتع الأشخاص بحرية التعبير عن آرائهم، لكن لا ينبغي أن يمتد ذلك إلى إنشاء مقاطع فيديو مزيفة لسياسيين يدلون بتصريحات تحريضية لم يدلوا بها.

في إفادة مقدَّمة إلى المجلس، ذكرت عضوة المجلس المحلي الظاهرة في الفيديو أن الفيديو تم إنشاؤه بواسطة الذكاء الاصطناعي، وأن الكلمات المنسوبة إليها "تتعارض مع كل ما [تدافع] عنه، وتطعن بشكل كبير في [نزاهتها]." ووفقًا لها، كانت الآثار السلبية للفيديو كبيرة وصادمة إلى حد بعيد. وقد بذلت محاولات متعددة لإزالته باءت بالفشل، بما في ذلك إبلاغ Meta وجهات إنفاذ القانون بالواقعة. ورغم ذلك، أبلغت المجلس بأنها لا تزال تنشط في الدفاع عن حقوق اللاجئين في اسكتلندا وفي قيادة حملات لمكافحة انتشار الكراهية في مجتمعها.

3. سياسات المحتوى والمعلومات المقدَّمة من Meta

ركزت المعلومات المقدَّمة من Meta على ثلاثة مجالات للسياسات: المعلومات المضللة والسلوك الذي يحض على الكراهية والمضايقة والإساءة. أكدت الشركة أنه لم يكن من المطلوب اتخاذ أي إجراء ضد المحتوى بموجب أي من هذه السياسات، ومن ثمّ أبقت عليه دون تسمية.

المعلومات المضللة

تنص مبررات السياسة الواردة في معيار المجتمع بشأن المعلومات المضللة على أن Meta تزيل "المحتوى الذي يرجّح أن يسهم بشكل مباشر في التدخل في سير العمليات السياسية." تتعلق إحدى الفئات الثلاث للمعلومات المضللة التي تزيلها Meta بالعمليات السياسية، وتحمل عنوان "التدخل في التصويت أو الإحصاء السكاني." وتلي ذلك ثمانية أمثلة على التدخل المحظور في التصويت أو الإحصاء السكاني، ومنها المعلومات المضللة بشأن "تواريخ التصويت ومواعيده وأماكن لجان التصويت وطرق التصويت أو طرق التسجيل للمشاركة في التصويت أو الإحصاء السكاني،" و"ترشح أحد المرشحين أو عدم ترشحه." ويخص مثالان منها الولايات المتحدة تحديدًا. تشير مبررات السياسة إلى أن Meta تتعاون مع شركاء موثوق بهم، وهم شبكة عالمية من المنظمات غير الحكومية (NGOs) والوكالات الإنسانية والباحثين في مجال حقوق الإنسان الذين يرصدون المخاطر الناشئة عن المحتوى على منصات Meta، لتقييم صحة المحتوى ومدى احتمال "إسهامه بشكل مباشر في مخاطر حدوث ضرر وشيك." كما تقر مبررات السياسة بأن "الأشخاص غالبًا ما يستخدمون المعلومات المضللة بطرق غير ضارة"، مثل "المبالغة بشأن أمر ما" أو على سبيل "السخرية أو التهكم."

أبلغت Meta المجلس بأنها لم تُزل الفيديو في هذه الحالة لأن الشركاء الموثوق بهم، بحسب الشركة، لم يرصدوه. وخلصت Meta كذلك إلى أن المحتوى لم يكن "يرجّح أن يسهم بشكل مباشر في مخاطر التدخل في سير العمليات السياسية"، إذ لم يتضمن أي ادعاءات محظورة تتعلق "بالتدخل في التصويت أو الإحصاء السكاني."

بالنسبة إلى بعض المعلومات المضللة التي لا تنتهك القواعد إلى حد يستوجب الإزالة، تركز Meta على "تقليل معدلات انتشارها أو تهيئة مناخ يعزز الحوار المثمر." وتحقق الشركة ذلك بالتركيز على "تزويد المستخدمين بمعلومات مفيدة عندما يكون هناك محتوى يُحتمل أن يكون مضللاً أو مربكًا،" بما في ذلك عبر التسميات.

وتوجد ثلاثة أنواع من التسميات:

• تُطبَّق " تسمية معلومات ذكاء اصطناعي" تلقائيًا على المحتوى عندما ترصد Meta "مؤشرات صور الذكاء الاصطناعي المعتمدة في المجال أو عندما يُفصح الأشخاص عن أنهم يحمّلون محتوى تم إنشاؤه بواسطة الذكاء الاصطناعي." وتُعد هذه التسمية أقل بروزًا من التسميتين الأخريين، إذ تظهر أعلى المنشور.
• تنطبق " تسمية عالي الخطورة" على المحتوى المندرج ضمن سياسة "الوسائط التي تم التلاعب بها" الذي (1) يشكّل خطرًا كبيرًا بشكل خاص لخداع الجمهور بشكل ملموس بشأن مسألة ذات أهمية عامة؛ و(2) ينطوي على مؤشرات موثوقة على أنه تم إنشاؤه أو تعديله رقميًا. على عكس تسمية معلومات ذكاء اصطناعي، تُطبَّق تسمية "عالي الخطورة" بموجب سياسة Meta القائمة على التصعيد فقط، ما يعني أن فرق السياسات الداخلية لدى Meta هي وحدها التي يمكنها تطبيق هذه التسمية بعد إجراء مراجعة بشرية. وتُعد هذه التسمية أكثر بروزًا، إذ تظهر أسفل المنشور، وتتضمن رابطًا إلى مورد لمعرفة المزيد عن المحتوى الذي تم إنشاؤه أو تعديله رقميًا.
• تُطبَّق " تسمية ذكاء اصطناعي عالي الخطورة" أيضًا بموجب سياسة "الوسائط التي تم التلاعب بها" عندما يستوفي المحتوى جميع متطلبات تسمية "عالي الخطورة" وينطوي على مؤشرات موثوقة على أنه تم إنشاؤه أو تعديله باستخدام الذكاء الاصطناعي. وهذه التسمية أيضًا سياسة قائمة على التصعيد فقط، وتتطلب مراجعة بشرية.

تشترط Meta على الأشخاص الإفصاح، باستخدام الأدوات المتوفرة داخل التطبيق، عندما ينشرون محتوى عاديًا يحتوي على "فيديو واقعي أو مقطع صوتي يبدو واقعيًا تم إنشاؤه أو تعديله رقميًا." وتذكر Meta أن عدم استخدام أداة الإفصاح عن الذكاء الاصطناعي "قد يؤدي إلى تطبيق عقوبات."

ذكرت Meta أن المستخدم الذي أنشأ المنشور لم يُفصح عن استخدام الذكاء الاصطناعي، ولهذا السبب لم يحصل المنشور على تسمية "معلومات ذكاء اصطناعي". أبلغت الشركة المجلس بأنه يمكنها تطبيق هذه التسمية تلقائيًا عندما ترصد "مؤشرات صور الذكاء الاصطناعي المعتمدة في المجال،" لكن هذه المؤشرات لم تكن موجودة في هذه الحالة. ردًا على أسئلة المجلس، أكدت Meta أنها لم تفرض عقوبة على هذا المستخدم لعدم إفصاحه عن استخدام الذكاء الاصطناعي. علاوة على ذلك، اقتصر إنفاذ Meta لشرط الإفصاح الذاتي عن استخدام الذكاء الاصطناعي على حالات فردية تم تصعيدها إلى فرق السياسات الداخلية لديها، بدلاً من تطبيقه على نطاق واسع. أشارت Meta أيضًا إلى أنها أصبحت الآن قادرة على رصد إشارات الذكاء الاصطناعي المتداولة على مستوى المجال لمقاطع الفيديو والصور، وأنها بصدد طرح هذه الإمكانية على جميع الأجهزة (الويب والأجهزة المحمولة) والواجهات (ريلز والموجز وغيرها). بشكل منفصل، تعمل الشركة على تطوير أدوات تصنيف قادرة على رصد المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي على نطاق واسع بغرض تطبيق تسمية "معلومات ذكاء اصطناعي" الأقل بروزًا، بغض النظر عما إذا كانت مقاطع الفيديو تحتوي على إشارات تحديد المصدر المعتمدة في المجال.

أكدت Meta أن المحتوى، من وجهة نظرها، لم يكن يستدعي كذلك وضع تسمية "عالي الخطورة" الأكثر بروزًا بموجب قواعدها بشأن الوسائط التي تم التلاعب بها. ونظرًا لعدم إجراء أي مراجعة مُصعَّدة للمحتوى، لم يُجرَ تقييم لتطبيق هذه التسمية. بالإضافة إلى صعوبة تحديد ما إذا كان المحتوى قد تم تعديله أو إنشاؤه رقميًا باستخدام الذكاء الاصطناعي، أوضحت Meta أن المحتوى لم يكن يشكّل "خطرًا كبيرًا بشكل خاص لخداع الجمهور بشكل ملموس بشأن مسألة ذات أهمية عامة." ويرجع ذلك إلى أنه، بحسب تقدير Meta، لم يكن هناك أي طابع استعجالي مرتبط بحدث حساس زمنيًا – مثل انتخابات وشيكة أو أزمة – من شأنه أن يرفع خطر الخداع الملموس: إذ كانت أقرب انتخابات على بُعد أشهر. ثانيًا، أشارت Meta إلى أن المحتوى كان ساخرًا، إذ يقلب الموقف العلني للسياسية، وقد انعكس هذا الفهم في تعليق واحد على الأقل من تعليقات المستخدمين. ثالثًا، حظي المحتوى بتفاعل محدود، مما يقلل احتمال تعرض عامة الجمهور للخداع بشكل ملموس.

ردًا على أسئلة المجلس، أوضحت Meta أن الحد الذي تعتمده لتطبيق تسميات "عالي الخطورة" الأكثر بروزًا صارم للغاية. ولم تستخدم الشركة هذه التسمية إلا في عدد محدود جدًا من الحالات. تبرر Meta هذا الحد المرتفع بالأسباب التالية: (أ) إضافة مثل هذه التسميات تثير الشكوك حول مصداقية المحتوى وقد تضر بسمعة المستخدمين الذين ينشرونه و(ب) رصد الذكاء الاصطناعي ليس دقيقًا تمامًا، وقد يؤدي إلى أن يبدو المحتوى الخالي من التسميات أكثر موثوقية وهو ليس كذلك و(ج) قد يكون لذلك أثر مثبط على حرية التعبير و(د) توسيع نطاق هذه التسميات إلى ما يتجاوز الأحداث الحرجة قد يفتح الباب أمام مطالب متزايدة من السياسيين والحكومات والشركاء الإعلانيين بوضع تسميات على الخطاب الذي لا يروق لهم. أشارت Meta أيضًا إلى أنه نظرًا لأن المحتوى غالبًا ما يفتقر إلى إشارات تحديد مصدر الذكاء الاصطناعي، فإنها تعتمد على عوامل أخرى، مثل "مظهر" المحتوى؛ كما يُعد كون المحتوى الاصطناعي مقصودًا به الدعابة عاملاً في تحديد ما إذا كانت الشركة ستعتبره خادعًا أم لا. ذكرت Meta أنها تريد تجنب أن تكون "الحَكَم في تحديد الحقيقة"، وتفضل حدًا أعلى يجنّبها الاضطرار إلى إجراء تقييمات ذاتية بشأن ما هو خادع أو مهم.

خارج الولايات المتحدة، تعتمد Meta على الجهات الخارجية لتدقيق الحقائق المستقلة لمراجعة المحتوى وتقييمه، وهو ما قد يؤدي أيضًا إلى إضافة تسميات إلى المحتوى تتوافق مع التقييم. تشمل التقييمات "زائف" و"مفبرك"، وقد تؤدي إلى تقليل توزيع المحتوى. تستخدم Meta التقنية لإبراز المعلومات المضللة المحتملة كي تراجعها جهات تدقيق الحقائق، ويمكن لجهات تدقيق الحقائق أيضًا تحديد المحتوى المراد مراجعته. غير أن Meta أكدت أن أنظمتها التلقائية لم ترسل المحتوى في هذه الحالة إلى الجهات الخارجية لتدقيق الحقائق، ولم تختره تلك الجهات للمراجعة، ويُرجَّح أن ذلك يعود إلى ضعف سرعة انتشاره. ألغت Meta تدقيق الحقائق بواسطة جهات خارجية في الولايات المتحدة فقط، واستعاضت عنه ببرنامج ملاحظات المجتمع، وقد قدّم المجلس رأيًا بشأن مدى جدوى إجراء تحول مماثل في أنحاء أخرى من العالم.

لم يكن حساب المستخدم الناشر يحقق أرباحًا في هذه الحالة. تحدد سياسات تحقيق الأرباح للشركاء لدى Meta القواعد الخاصة بالصفحات التي تدفع لها الشركة مقابل النشر على منصاتها استنادًا إلى التفاعل، وتشير إلى أن المحتوى الذي يُصنَّف على أنه معلومات مضللة غير مؤهل لتحقيق الأرباح. تفرض سياسات تحقيق الأرباح من المحتوى كذلك قيودًا إضافية على تحقيق الأرباح أو تقلّصه بالنسبة إلى المحتوى المتعلق "بالقضايا الاجتماعية الخلافية" الذي "يستغل القضايا السياسية أو الاجتماعية المثيرة للجدل لأغراض تجارية،" ومنها الهجرة، عند عرضها "بطريقة تثير الاستقطاب أو التحريض."

السلوك الذي يحض على الكراهية

يحظر معيار مجتمع Meta بشأن السلوك الذي يحض على الكراهية "الادعاءات بوجود فساد أخلاقي أو سلوك إجرامي خطير" ضد الأشخاص على أساس سماتهم التي تتمتع بحقوق حماية أو وضعهم بوصفهم لاجئين. ويورد المعيار مقارنة الأشخاص بـ "مرتكبي الجرائم الجنسية" و"مرتكبي جرائم العنف" بوصفها أمثلة على الانتهاكات.

وجدت Meta أن العبارة "اللاجئون مرحب بهم هنا، حتى لو اغتصبوا نساءنا لأن البيض يفعلون ذلك أيضًا" لم تنتهك هذه القاعدة، لأنها لم تساوِ بين اللاجئين ومرتكبي جرائم العنف أو الجرائم الجنسية على أساس هويتهم. تميّز الإرشادات الداخلية الموجهة إلى المراجعين بين "التعميمات" المحظورة و"العبارات السلوكية" المسموح بها. تنسب التعميمات المحظورة سمات متأصلة إلى مجموعة بأكملها (مثل القول: [المجموعة س] إرهابيون؛ أو [المجموعة ص] قتلة). أما العبارات السلوكية المسموح بها فهي ادعاءات ضد أفعال أفراد مجموعة ما (مثل القول: [المجموعة أ] تمارس الإرهاب؛ أو [المجموعة ب] ترتكب القتل.) من وجهة نظر Meta، كان الادعاء الوارد في الفيديو يتعلق بأفعال بعض اللاجئين، ولم يزعم أن العنف الجنسي سمة متأصلة في اللاجئين. إذ يصف سلوكًا منسوبًا إلى أفراد مجموعة ما، بدلاً من المساواة بين هوية المجموعة والإجرام الجنسي. ولا تغيّر عبارة "لأن البيض يفعلون ذلك أيضًا" هذا المعنى، وذلك من وجهة نظر Meta. بل إنها تقارن بين سلوك مجموعتين، إذ تنسب العنف الجنسي إلى بعض البيض أيضًا.

في حالات سابقة، أوضحت Meta للمجلس أن العبارات السلوكية قد تصبح مخالفة عندما يُنسب الإجرام الخطير المزعوم صراحةً إلى المجموعة بأكملها أو إلى معظمها. في حالة انتقاد سياسات الهجرة والمهاجرين في الاتحاد الأوروبي، وجدت Meta أن عبارة تشير إلى تصوير المهاجرين بوصفهم "متخصصين في الاغتصاب الجماعي" غير مخالفة، لأنها لم تنسب هذا السلوك إلى المجموعة بأكملها أو إلى أكثر من نصفها. رفضت Meta توصية المجلس في تلك الحالة بعكس افتراضها، بحيث تُقرأ الإشارات إلى سلوك مجموعة ما على أنها تشير إلى المجموعة بأكملها أو إلى معظمها ما لم يُحدَّد خلاف ذلك. وأشارت Meta في المعلومات المقدَّمة منها في هذه الحالة إلى أنها، بعد رفض هذه التوصية، لا تزال تفترض أن عبارات مثل "اللاجئون يغتصبون" لا تعني "جميع" اللاجئين أو "معظمهم"، ومن ثمّ لا تنتهك سياسة السلوك الذي يحض على الكراهية لديها.

المضايقة والإساءة

يميّز معيار المجتمع بشأن المضايقة والإساءة لدى Meta بين الشخصيات العامة والأفراد العاديين بهدف "فتح الباب للنقاش، الذي يتضمن في كثير من الأحيان تعليقات ناقدة لأشخاص يحظون بشهرة إخبارية واسعة أو أشخاص لهم جمهور عام كبير." ولا تحظى الشخصيات العامة بالحماية إلا من أشد الهجمات حدة. ورغم أن Meta تحظر "الصور التي يتم التلاعب بها بشكل غير مرغوب فيه،" فإن هذه القاعدة لا تنطبق إلا على المحتوى الذي يستهدف القاصرين العاديين والأفراد العاديين البالغين والقاصرين من الشخصيات العامة الذين اكتسبوا شهرة عامة عن غير قصد منهم، في حال تقديمهم البلاغات بأنفسهم. وتعرّف Meta الشخصيات العامة بأنها تشمل "أي موظف حكومي على مستوى الولاية أو الدولة،" والمرشحين لهذه المناصب وغيرهم من "الأشخاص الذين يحظون بتغطية إخبارية كبيرة." وقررت Meta أن السياسية الظاهرة في الفيديو شخصية عامة، ومن ثمّ لا تحظى بالحماية من "الصور التي يتم التلاعب بها بشكل غير مرغوب فيه."

4. التعليقات العامة

تلقى المجلس تسعة تعليقات عامة استوفت شروط التقديم. وردت ثمانية من هذه التعليقات من أوروبا، وتعليق واحد من منطقة آسيا والمحيط الهادئ وأوقيانوسيا. للاطلاع على التعليقات العامة التي وافق أصحابها على نشرها، انقر هنا.

تناولت التعليقات المقدَّمة الموضوعات التالية: حجم المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي ومدى انتشاره؛ ونشر المحتوى المناهض للهجرة؛ واستخدام السخرية والدعابة والتعبير السياسي على وسائل التواصل الاجتماعي، بما في ذلك في المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي؛ والمضايقة القائمة على النوع الاجتماعي التي تتعرض لها النساء في الحياة العامة؛ ومدى فعالية التسميات بوصفها وسيلة للتصدي للمعلومات المضللة؛ وحماية الخطاب الموجه ضد الشخصيات العامة في سياسة المضايقة والإساءة؛ والثغرات في سياسة المعلومات المضللة والتدخل في العمليات السياسية؛ والتحديات التقنية في تحديد مصدر المحتوى؛ والطرق التي تضر بها المعلومات المضللة والخطاب الذي يحض على الكراهية بالبيئة المعلوماتية والديمقراطية؛ والحوافز التجارية وحوافز تحقيق الأرباح التي تدفع إلى إنتاج محتوى مضلل ويحض على الكراهية باستخدام الذكاء الاصطناعي.

في يونيو 2026، تشاور المجلس مع ممثلين عن منظمات مناصرة وأكاديميين ومنظمات حكومية دولية وخبراء آخرين بشأن مسألة مقاطع التزييف العميق السياسية وتأثيرها على نزاهة المعلومات والانتخابات، والكيفية التي يمكن بها للمنصات منع الضرر والحد منه مع احترام حرية التعبير.

أشار المشاركون إلى تزايد انتشار المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي، والذي يحاكي السياسيين ويوجّه الكراهية نحو المجتمعات المستضعفة. وثّق بحث عُرض خلال المشاورة أن المحتوى المعادي للأجانب الذي تم إنشاؤه بواسطة الذكاء الاصطناعي في المملكة المتحدة حظي بتفاعل أعلى بصورة غير متناسبة مقارنةً بالمحتوى الحقيقي المماثل. أشار المشاركون أيضًا إلى أن السياسيات والصحفيات والناشطات يتعرضن بصورة غير متناسبة للاستهداف بمقاطع تزييف عميق تحرّف آراءهن، بما في ذلك في إطار حملات المضايقة، وأن الشخصيات العامة الأقل بروزًا، مثل الشخصيات المنتخَبة محليًا والناشطين، كثيرًا ما تفتقر إلى الموارد المؤسسية اللازمة للرد على مثل هذه الهجمات.

أبدى المشاركون مخاوف من أن سياسة المعلومات المضللة لدى Meta ضيقة للغاية في الحماية التي توفرها لنزاهة الانتخابات والديمقراطية على نطاق أوسع، إذ لا تحظر سوى عدد محدود من الادعاءات الزائفة بشأن عمليات التصويت في الفترة القريبة من الانتخابات. ووصفوا هذا الإطار بأنه قاصر هيكليًا، نظرًا لأن المحتوى المنشور على منصات وسائل التواصل الاجتماعي يبقى إلى أجل غير مسمى ويُتداول باستمرار، مما يُبقي على الروايات الضارة لفترة تتجاوز بكثير أي فترة انتخابية رسمية. وصف عدد من المشاركين اعتماد Meta على الشركاء الموثوق بهم في تحديد الضرر المحتمل بأنه إسناد غير مُرضٍ لمسؤولية الإنفاذ إلى جهات خارجية، يُخفق بصورة منهجية في التعامل مع المحتوى الذي يحظى بتفاعل أولي محدود، ولا سيما في الأسواق الأصغر. أخيرًا، دعا عدد من المشاركين إلى مزيد من التركيز على انتحال الشخصية باستخدام الذكاء الاصطناعي في المحتوى، إذ يبدو أن السياسات الحالية تركز على القواعد المتعلقة بـ"انتحال الشخصية" عبر الحسابات الزائفة (أي أن ينشئ أشخاص حسابات للإيهام زورًا بأنهم ذلك الشخص، لا أن يشارك أشخاص محتوى يحرّف سلوك شخص ما).

فيما يتعلق بالسخرية، أشار المشاركون إلى أن غياب أي إشارات مرئية على المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي ويصوّر سياسيين حرم الجمهور من أي وسيلة موثوقة لتحديد ما إذا كان خياليًا أم حقيقيًا. ورأى أحد المشاركين أن مقاطع التزييف العميق قد تكون ساخرة، وأنه ينبغي تقييم النية في سياقها، بما في ذلك بالرجوع إلى المواقف أو الأفعال العلنية للشخص الظاهر في المقطع. أكد عدد من المشاركين أن الضرر الأخطر لمقاطع التزييف العميق لا يكمن في ما إذا كان المشاهدون الأفراد ينخدعون بأي محتوى منفرد، بل في تآكل الثقة في المعلومات السياسية على نطاق أوسع. فعندما يتعرض الجمهور بشكل متكرر لتلفيقات واقعية، قد يفقد الثقة في قدرته على تمييزها عن الخطاب الحقيقي. أخيرًا، أشار المشاركون إلى أن قيمة الحماية التي تمثلها التسميات تتراجع في هذه البيئة. ويحدث ذلك لأن التسميات تُطبَّق على نحو غير متسق، وأيضًا لأن بعض الأشخاص يواصلون التفاعل مع المحتوى الذي يحمل تسمية تفيد بأنه غير حقيقي كما لو كان حقيقيًا، لا سيما عندما يعزز تحيزات مسبقة.

أشار المشاركون إلى أن نسبة كبيرة من المحتوى المصطنع تحركها دوافع تجارية لا أيديولوجية، وغالبًا ما ينتجها أشخاص لا صلة لهم بالبلد الذي يتناوله المحتوى، ويستغلون أدوات تحقيق الأرباح لدى Meta أو غيرها من وسائل تحقيق الإيرادات للتربح من روايات مثيرة – بما فيها الروايات التي تحض على الكراهية – من المرجَّح أن تعززها الخوارزميات القائمة على التفاعل. تكافئ هياكل الحوافز التي تقدمها Meta لمنشئي المحتوى المنشوراتِ الاستفزازية بتفاعل أعلى وتضخيم خوارزمي، مما يجعل إنتاج المحتوى المضلل الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي مجديًا اقتصاديًا، حتى عندما لا تحقق المنشورات الفردية أرباحًا بشكل مباشر. ولاحظ عدد من المشاركين أن تقييد تحقيق الأرباح لا يزال أداة لم تُستكشف بالقدر الكافي لردع الاستخدام المضلل للذكاء الاصطناعي.

5. تحليل مجلس الإشراف

اختار المجلس هذه الحالة لدراسة كيفية تعامل سياسات Meta مع المحتوى المضلل الذي تم إنشاؤه بواسطة الذكاء الاصطناعي على منصاتها، لا سيما عند استخدام أدوات الذكاء الاصطناعي لانتحال شخصية السياسيين بهدف اختلاق آرائهم بشأن مسائل مهمة للنقاش العام، بما في ذلك بطرق قد تشكّل خطابًا يحض على الكراهية. يقيّم التحليل سياسات المحتوى لدى Meta ومسؤولياتها تجاه حقوق الإنسان في ثلاثة محاور: المعلومات المضللة؛ والخطاب الذي يحض على الكراهية؛ والمضايقة والإساءة.

يرى المجلس أنه على الرغم من أن المحتوى لا يستوجب الإزالة بموجب سياسة المعلومات المضللة، كان ينبغي أن يحصل على تسمية "ذكاء اصطناعي عالي الخطورة"؛ ومن منظور حقوق الإنسان، يقدم المجلس عددًا من التوصيات الرامية إلى تحسين طريقة تعامل Meta مع المحتوى المضلل الذي تم إنشاؤه بواسطة الذكاء الاصطناعي ويصوّر سياسيين يقولون أشياء لم يقولوها بشأن مسائل ذات أهمية عامة. وبصرف النظر عن هذه النتائج، خلص المجلس في هذه الحالة إلى أن المحتوى انتهك سياسة السلوك الذي يحض على الكراهية لدى Meta، وكان ينبغي إزالته على هذا الأساس. أخيرًا، يرى المجلس أن المحتوى لا ينتهك سياسة المضايقة والإساءة لدى Meta.

المعلومات المضللة

يرى المجلس أن الفيديو الذي يصوّر السياسية لم ينتهك قواعد الإزالة الواردة في معيار المجتمع بشأن المعلومات المضللة لدى Meta، إذ لم يتضمن أيًا من ادعاءات المعلومات المضللة المحظورة المتعلقة بـ"التدخل في التصويت أو الإحصاء السكاني."

من وجهة نظر أغلبية المجلس، كانت قواعد معيار المجتمع بشأن المعلومات المضللة المتعلقة بالوسائط التي تم التلاعب بها تستوجب إضافة تسمية "ذكاء اصطناعي عالي الخطورة" البارزة إلى الفيديو، لأنه تم إنشاؤه باستخدام الذكاء الاصطناعي ويشكّل خطرًا كبيرًا بشكل خاص لخداع الجمهور بشكل ملموس بشأن مسألة ذات أهمية عامة.

يحمل الفيديو في هذه الحالة سمات الوسائط التي تم إنشاؤها بواسطة الذكاء الاصطناعي، لكن لن يتضح لمعظم المشاهدين على الفور أنه مزيف. تُعد أوجه عدم التطابق المرئية بين الصوت وحركة الوجه، وتعبيرات الوجه غير الطبيعية، مؤشرات على أن الفيديو تم إنشاؤه بواسطة الذكاء الاصطناعي، لكنها لا تتضح إلا عند التدقيق. تشير الأغلبية إلى أن Meta أبلغت المجلس بأن أدوات التصنيف لديها أصبحت الآن قادرة على رصد الصور ومقاطع الفيديو تلقائيًا على نطاق واسع، حتى في غياب بيانات التعريف الخاصة بتحديد المصدر، لكن في وقت نشر هذا المحتوى، كان هذا الرصد يتطلب مراجعة بشرية. إن واقعية الفيديو، والاستخدام غير المُفصح عنه للذكاء الاصطناعي لاختلاق اللقطات بالكامل (بدلاً من تعديلها أو التلاعب بها)، يميّزانه بوضوح عن نوع التعديل القائم على "التزييف الرخيص" الذي شوهد في حالة فيديو مفبرك للرئيس بايدن.

من وجهة نظر أغلبية المجلس، يسعى الفيديو إلى خداع الناخبين المحتملين بتقديم "دليل" على الآراء المفترضة لسياسية منتخَبة بشأن إيواء اللاجئين والسلامة العامة، وهو موضوع محوري في الخطاب السياسي المعاصر وفي الاحتجاجات البارزة في جميع أنحاء البلد المعني. تشير المعلومات المقدَّمة من Meta إلى معايير غير معلنة لفرض تسميات "ذكاء اصطناعي عالي الخطورة"، ما يعني أن هذه التسميات لم تكد تُطبَّق عمليًا على أي نطاق يُعتد به. تضع هذه المعايير غير المعلنة حدًا للإنفاذ مرتفعًا للغاية بالنظر إلى الصياغة المعلنة للقاعدة واللغة المحايدة وغير الاتهامية للتسمية وآثار إنفاذها المحدودة (إذ يبدو أن العقوبات المفروضة على المستخدمين أقل شيوعًا حتى من التسميات نفسها).

لهذه الأسباب، فإن تبرير Meta بعدم وجود أزمة أو انتخابات وشيكة، وبأن المحتوى كان محدود الوصول، غير مقنع. ولا يعني أيٌّ من هذين العاملين أنه كان من غير المرجَّح أن يخدع المحتوى الجمهور. علاوة على ذلك، لا توجد أي إشارات على المبالغة أو المحاكاة الساخرة من شأنها أن توضح أن المحتوى ساخر. إن قِصر مدة الفيديو، وتصوير السياسية أمام خلفية بسيطة دون أي علامات على المبالغة أو المحاكاة الساخرة، في سياق ألبوم لا يتضمن أي محتوى آخر ساخر أو فكاهي، يزيدان من خطر الخداع ويشيران إلى نية مرجَّحة للخداع. قدّم منتدى الدعابة والقانون، وهو مشروع أكاديمي يدرس كيف يحمي قانون حرية التعبير الدعابة، (راجع PC-32578) أمثلة مفيدة للمجلس على مقاطع التزييف العميق الساخرة، التي ينكشف فيها الخداع الأولي بمجرد إدراك عبثية التلفيق (السياسية الفرنسية مارين لوبان بزي إسلامي تتحدث العربية؛ والرئيس البرازيلي السابق بولسونارو يقدم درسًا تعليميًا عن غسل اليدين في فترة جائحة كوفيد). استنادًا إلى صياغة معايير المجتمع، كان ينبغي تطبيق تسمية ذكاء اصطناعي عالي الخطورة.

ترى الأغلبية أن مسؤوليات Meta تجاه حقوق الإنسان تقتضي منها استجابة أكثر فعّالية وصرامة بكثير للاستخدام المضلل للذكاء الاصطناعي التوليدي في اختلاق تصريحات سياسي بشأن مسائل ذات أهمية عامة، مقارنةً بنهج الشركة الحالي في وضع تسميات الذكاء الاصطناعي "عالي الخطورة".

ترى الأغلبية أن الجمع بين تدابير تهدف إلى تحسين رصد استخدام الذكاء الاصطناعي وحالات استخدامه المضلل بشأن المسائل المهمة للجمهور، وإضافة العوائق، والحد من الوصول ومعاقبة الخداع الضار عبر تسميات أوضح، سيُعد قيدًا ضروريًا ومتناسبًا على حرية التعبير. ومن شأن ذلك أن يحمي "حقوق الآخرين" في المشاركة في الشؤون العامة، وأن يحمي السياسية من "الحملات غير القانونية التي تمس [سمعتها]" (المادتان 17 و25، العهد الدولي الخاص بالحقوق المدنية والسياسية (ICCPR)).

يتفق المجلس على أن المعايير الدولية بشأن حرية التعبير تحمي المعلومات الزائفة، وأن القيمة التي يوليها العهد الدولي الخاص بالحقوق المدنية والسياسية للتعبير غير المقيد بشأن الشخصيات العامة في المجال السياسي مرتفعة على نحو خاص (التعليق العام رقم 34، الفقرة 38). على نحو ما أشار المجلس في حالة فيديو مفبرك للرئيس بايدن:

"على الرغم من أن البشر يدركون منذ آلاف السنين أن الكلمات قد تكون أكاذيب، فإن الصور، ولا سيما مقاطع الفيديو والمقاطع الصوتية، تضفي مظهرًا زائفًا من المصداقية. وفي حين تتمحور الأحكام المتعلقة بالمعلومات المضللة عادةً حول الأدلة المؤيدة أو المعارضة للادعاءات الواردة في رسالة محل خلاف، تركز الأحكام المتعلقة بالوسائط التي تم التلاعب بها على الوسيلة التي أُنشئت بها الرسالة. إن السمة الأساسية التي تتسم بها 'الوسائط التي تم التلاعب بها' هي أنها تُضلل المستخدم فيعتقد أن الوسائط حقيقية ولم تخضع لأي تعديل."

من وجهة نظر أغلبية المجلس، ثمة فرق نوعي بين كذبة مُعلنة بشأن ما قاله سياسي أو فعله، و"دليل" سمعي بصري مُختلَق على الكذبة ذاتها. إذ يمكن لمقاطع التزييف العميق هذه أن تقنع الأشخاص بسهولة أكبر بأن معلومة زائفة لا تقبل الجدل، على نحو ينطوي على خطر الإضرار بالخطاب الديمقراطي والمشاركة العامة وسمعة الأفراد. وعندما يكون التلفيق شديد الواقعية ومتعمدًا في خداعه بل وخبيثًا، فلا ينبغي أن يحظى بالحماية الأكبر التي يكفلها القانون الدولي لحقوق الإنسان للخطاب السياسي (التعليق العام رقم 34، الفقرة 34). وكما ورد أعلاه، لا توجد أي مؤشرات على أن هذا الفيديو كان ساخرًا، وهو ما كان من شأنه أن يجعل الزيف أكثر وضوحًا ولا يضر بحقوق الآخرين. يطرح انتشار تقنيات الذكاء الاصطناعي التوليدي تحديات جديدة أمام سوق الأفكار، بما في ذلك الاحتيال على نطاق صناعي الذي يقوض الديمقراطية وحقوق الأشخاص في المشاركة، وقد يُمكّن من التشهير الدائم وواسع النطاق بسمعة الفرد.

ومع تزايد صعوبة التمييز بين الوسائط التي تم التلاعب بها أو المختلَقة والواقع، تشكّل التمثيلات السمعية البصرية الاصطناعية والمضللة عمدًا للمسؤولين العموميين خطرًا فريدًا وجسيمًا على ثقة الجمهور في المعلومات، ومن ثمّ على المشاركة في الديمقراطية. يُظهر بحث حديث أن الأشخاص في المملكة المتحدة يواجهون، في المتوسط، صعوبة في التعرف على الوسائط الاصطناعية التي تصوّر أشخاصًا حقيقيين. ويمكن للآثار المتراكمة لمثل هذه المقاطع المزيفة أن تقوّض آليات مساءلة السياسيين، ليس في صناديق الاقتراع فحسب، بل في الفترات بين الانتخابات أيضًا (راجع: التقرير الأولي للفريق العلمي الدولي المستقل التابع للأمم المتحدة المعني بالذكاء الاصطناعي، يوليو 2026، البند 2.7، بدءًا من الصفحة 23). وتحديدًا، قد يؤدي انتشار المحتوى المزيف إلى "عائد الكاذب،" وهو الميزة التي يجنيها من يدّعون زورًا أن الأدلة الحقيقية مزيفة أو تم إنشاؤها بواسطة الذكاء الاصطناعي للإفلات من المساءلة ( تشيسني وسيترون، 2019). وصفت منظمة الأمم المتحدة للتربية والعلم والثقافة (اليونسكو) الخطر الأوسع لمقاطع التزييف العميق بأنه "أزمة معرفة،" لا تقتصر على بث الأكاذيب، بل تقوّض "الآليات ذاتها التي تبني بها المجتمعات فهمًا مشتركًا." وقد يؤدي ذلك إلى تفاقم آثار الإقناع القائمة أصلاً للموجزات والتوصيات المخصصة القائمة على التفاعل في المنصات، حيث تقترن الادعاءات التلاعبية واسعة النطاق بـ"دليل" اصطناعي عليها ( المرجع السابق، البند 3.5، بدءًا من الصفحة 37). هذا التحدي عالمي: إذ رصدت إحدى الدراسات 82 مقطعًا من مقاطع التزييف العميق استهدفت شخصيات عامة في 38 بلدًا خلال عام واحد، واختلق أكثر من ربعها تصريحات زائفة منسوبة إلى شخصيات عامة (راجع الأهداف والغايات والأساليب الناشئة لمقاطع التزييف العميق السياسية، Recorded Future، سبتمبر 2024). وحسبما أشارت منظمة CEE Digital Democracy Watch غير الحكومية في تعليق عام قدّمته إلى المجلس، فإن مقاطع التزييف العميق، إذا تُركت دون اتخاذ أي إجراء، قد تسهم في "التلاعب المعرفي،" إذ تشوّه "الظروف المعلوماتية التي يكوّن الأشخاص في ظلها قناعاتهم بشأن الأطراف السياسية الفاعلة والسياسات" (PC-32658).

وتطرح التمثيلات الاصطناعية للسياسيين تحديات إضافية عند استخدامها لاختلاق مواقفهم وتحريفها بشأن القضايا الخلافية، مثل الهجرة، إذ قد تكون آثارها الإقناعية أكبر حتى. ومن الحالات البارزة التي توضح هذه النقطة مقطع صوتي اصطناعي واسع الانتشار لعمدة لندن، عاصمة المملكة المتحدة، صادق خان، يحرّف آراءه بشأن إحياء ذكرى يوم الهدنة والمظاهرات المؤيدة لفلسطين. تفيد مؤسسة آلان تورينج، وهي المعهد الوطني لعلوم البيانات والذكاء الاصطناعي في المملكة المتحدة، بأنها رصدت أدوات ذكاء اصطناعي "يتزايد استغلالها لنشر روايات ضارة أو سلبية عن المهاجرين في المملكة المتحدة" (راجع PC-32552 و"صب الزيت على النار: تهديدات المعلومات المرتبطة بالذكاء الاصطناعي وأحداث الأزمات،" فبراير 2026)، بما يعكس مخاوف عالمية بشأن التقاطع بين المعلومات الكاذبة والكراهية وآثاره على حرية التعبير (راجع الإعلان المشترك بشأن الذكاء الاصطناعي وحرية التعبير وحرية وسائل الإعلام، أصحاب الولايات، أكتوبر 2025). وعندما تتقاطع المعلومات الكاذبة مع الكراهية، تزداد أيضًا مخاطر التحريض على العداوة والتمييز والعنف (راجع تحليل الخطاب الذي يحض على الكراهية أدناه).

وتشير أغلبية المجلس أيضًا إلى أن آثار هذا النوع من المعلومات الكاذبة تطال على مستوى العالم الفئات المهمشة أصلاً بصورة غير متناسبة، مما يعزز الحجج الداعية إلى استجابة أكثر صرامة من وسائل التواصل الاجتماعي لمقاطع التزييف العميق عمومًا. وتتعرض النساء والأشخاص غير المتوافقين مع الأعراف الجنسانية ممن هم تحت الأضواء بصورة غير متناسبة للاستهداف بمثل هذا التزييف (راجع نقطة التحول: آثار العنف عبر الإنترنت ومظاهره وسبل الانتصاف منه في عصر الذكاء الاصطناعي، هيئة الأمم المتحدة للمرأة، أبريل 2026). وخلص التقرير إلى أن مقاطع التزييف العميق غالبًا ما تكون متعمدة ومنسقة، إذ تخلّف الهجمات الموجهة عواقب وخيمة على الصحة النفسية وأثرًا مثبطًا على المشاركة العامة، حيث أفادت نحو نصف الصحفيات بلجوئهن إلى الرقابة الذاتية استجابةً لمثل هذه الهجمات. كما وثّقت هيئة الأمم المتحدة للمرأة، وهي الكيان الرئيسي في الأمم المتحدة (UN) المعني بالمساواة بين الجنسين، أن مقاطع التزييف العميق والمعلومات الكاذبة القائمة على النوع الاجتماعي التي تستهدف النساء مصممة "لدفعهن إلى مغادرة المنصات أو الانسحاب من الحياة العامة تمامًا." وأفادت دراسة أخرى للأمم المتحدة بأن الإساءة القائمة على الصور ومقاطع الفيديو واستخدام الذكاء الاصطناعي لإنشاء "سِيَر اصطناعية" تشهيرية من أكثر وسائل الهجمات عبر الإنترنت ضد النساء شيوعًا ( "رأيكِ لا يهم على أي حال": الكشف عن العنف القائم على النوع الاجتماعي الميسَّر بالتكنولوجيا في عصر الذكاء الاصطناعي التوليدي (الطبعة الثانية)، اليونسكو، أبريل 2023). سبق أن أعرب المجلس عن مخاوفه إزاء قصور استجابات شركات وسائل التواصل الاجتماعي للإساءة الموجهة ضد النساء في الحياة العامة، مشيرًا إلى أن "الهجمات عبر الإنترنت لها أثر مثبط على حرية تعبير النساء المستهدفات، مما يحد من وصول الجميع إلى المعلومات، إذ يقل ما يسمعه المجتمع من النساء نتيجة لذلك" (راجع قرار حظر الحساب بسبب استهداف شخصيات عامة). للتوضيح: لا يعني ذلك وضع قواعد جديدة أو مختلفة بحسب هوية الشخص المستهدف، بل إدراك أهمية الاستجابات الأكثر صرامة للاستخدام المضلل للذكاء الاصطناعي عمومًا في التصدي لهذه الآثار المحددة وغير المتكافئة.

من وجهة نظر أغلبية المجلس، فإن اعتماد نهج أكثر صرامة بكثير في التعامل مع الاستخدام المضلل للذكاء الاصطناعي التوليدي لاختلاق أقوال السياسيين أو أفعالهم بصورة واقعية بشأن مسائل ذات أهمية عامة سيتكون من ثلاثة عناصر: أ) تعزيز القدرة على رصد المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي، بما في ذلك عبر المراجعة البشرية؛ ب) وضع معايير علنية أوضح لفرض تسميات "عالي الخطورة"؛ وج) وضع تسميات أوضح أو شاشات اعتراضية تضيف قدرًا من العوائق يكفي لتوضيح احتمال الخداع، إلى جانب فرض عقوبات تصاعدية على المستخدمين الذين يخالفون القواعد، بما في ذلك عبر خفض تصنيف المحتوى. ومن شأن هذا النهج أن يحقق فوائد كبيرة لحقوق المشاركة العامة تفوق أي عبء على حرية التعبير لدى الأشخاص الذين يشاركون تلك المنشورات.

أ.) تعزيز القدرة على رصد المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي، بما في ذلك عبر المراجعة البشرية

تشير الأغلبية إلى أن استثمارات Meta المستمرة في الإشراف التلقائي على المحتوى يمكن أن تسهم في تحسين رصد المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي على نطاق واسع، بما في ذلك عبر إشارات تحديد المصدر المعتمدة في المجال، فضلاً عن تحسين الرصد القائم على أدوات التصنيف. ومع ذلك، ينبغي أن تواصل البلاغات المقدَّمة من المستخدمين والجهات الخارجية، إلى جانب المراجعة البشرية، أداء دور مهم في رصد محتوى الذكاء الاصطناعي الضار. ويكتسب ذلك أهمية خاصة في حالات استخدام الذكاء الاصطناعي بهدف خداع الجمهور بشأن مسائل مهمة. وتقر الأغلبية بأن وسائل رصد استخدام الذكاء الاصطناعي على نطاق واسع لا تحل مشكلة رصد نية الخداع على نطاق واسع، وهو ما يتطلب في كثير من الأحيان تقييمًا سياقيًا يجريه متخصصون، مدعومًا بتدقيق صارم للحقائق بواسطة جهات خارجية.

ب.) وضع معايير علنية أوضح لفرض تسميات "عالي الخطورة"

على نحو ما ورد أعلاه، فإن المعايير غير المعلنة التي تعتمدها Meta لفرض تسميات الذكاء الاصطناعي "عالي الخطورة" مرتفعة للغاية. ويساور المجلس القلق من أن هذا النهج المقتصر على الحد الأدنى يقلل بشدة من تقدير تداعيات الوسائط المضللة عمدًا التي تم التلاعب بها بالذكاء الاصطناعي على الخطاب العام. وبشكل خاص، لا ينبغي أن تقتصر هذه التدخلات، التي تقل كثيرًا عن إزالة المحتوى، على الأزمات أو الانتخابات الوشيكة. وبخصوص الانتخابات، أشار المقرر الخاص للأمم المتحدة المعني بحرية التعبير إلى أن "دورة حياة المعلومات الكاذبة المتعلقة بالانتخابات لا تقتصر على عملية الاقتراع، بل تبدأ قبلها بوقت طويل وتستمر لفترة طويلة بعدها، فتشوّه الخطاب السياسي وتستقطب المجتمعات الديمقراطية" ( A/HRC/59/50، الفقرة 8). وأكد المقرر الخاص أيضًا أن "نزاهة الانتخابات ونزاهة المعلومات مترابطتان ارتباطًا وثيقًا"، وأن المنصات الرقمية ضخّمت التلاعب بالمعلومات "ليتحول إلى تسونامي من المعلومات الكاذبة والمعلومات المضللة والخطاب الذي يحض على الكراهية،" مع عواقب "كانت وخيمة" على "المعارضين السياسيين والأقليات والمهاجرين وغيرهم من الفئات المهمشة." (المرجع نفسه، الفقرتان 3 و4). ينبغي على Meta توسيع نطاق وضع التسميات على المعلومات المضللة والمعلومات الكاذبة ليتجاوز الأحداث الاستثنائية فحسب. ونظرًا لأن الشركة لا تزيل هذا المحتوى، ينبغي أن يكون حد فرض التسميات أقل.

ج.) زيادة العوائق والعقوبات

أخيرًا، ترى أغلبية المجلس أن تصميم تسميات الذكاء الاصطناعي "عالي الخطورة" الحالية لدى Meta وتدابير الإنفاذ ذات الصلة لا يكفيان لردع مشاركة المحتوى المضلل الذي تم إنشاؤه بواسطة الذكاء الاصطناعي ويشكّل مخاطر جسيمة على المشاركة العامة. ويتطلب ذلك من Meta استكشاف كيفية استخدام التسميات، أو تدابير أقوى مثل الشاشات الاعتراضية، لإضافة عوائق إلى تفاعل المستخدمين مع المحتوى المضلل عند مشاهدته، وليس عند مشاركته فقط. وقد يتطلب ذلك تغيير صياغة التسميات، التي تتسم حاليًا بالحياد (إذ لا تشير التسميات صراحةً إلى خطر الخداع)، لضمان فهم الغرض منها جيدًا. وينبغي إبلاغ المستخدمين الذين ينشرون هذا المحتوى بقواعد Meta، وأن يواجهوا عواقب تتجاوز وضع التسميات على منشوراتهم، وهو ما من شأنه أن يردع مخالفة القواعد بفعالية أكبر. وعلى غرار المحتوى الذي تقيّمه الجهات الخارجية لتدقيق الحقائق لدى Meta بأنه "زائف"، ينبغي إبلاغ المستخدمين الذين ينشرون محتوى يحمل لاحقًا تسمية "عالي الخطورة" بأن المنشور قد استُبعد من التوصيات أو خُفض تصنيفه في موجزات المستخدمين. كما ينبغي أن يتلقى المستخدمون الذين ينشرون هذا المحتوى إنذارات تتيح فرض عقوبات تصاعدية على تكرار المخالفة. وقد يشمل ذلك تقييد الميزات والاستبعاد من برامج تحقيق الأرباح.

لا ترى أقلية من أعضاء المجلس أن هذا المنشور ينتهك قواعد Meta بشأن الوسائط التي تم التلاعب بها، ويساورها القلق من أن موقف الأغلبية ليس مقيدًا بالقدر الكافي لمنع فرض قيود كبيرة على الخطاب السياسي المحمي. تعترف المعايير الدولية لحقوق الإنسان بالقيمة المرتفعة على نحو خاص للتعبير في النقاش العام "المتعلق بالشخصيات في المجال العام والسياسي" (التعليق العام رقم 34، الفقرة 34). من وجهة نظر هذه الأقلية، واتساقًا مع القرار السابق للمجلس في حالة فيديو مفبرك للرئيس بايدن، ينبغي أن يحصل المحتوى على تسمية "معلومات ذكاء اصطناعي"، دون أن يخضع لتسمية "عالي الخطورة" والإجراءات الإضافية المقيدة للخطاب التي توصي الأغلبية Meta باعتمادها.

لطالما أقرت مبادئ حرية التعبير بأنه في حالات كهذه تنطوي على خطاب سياسي، يجب أن يتمتع المتحدثون بهامش واسع للمبالغة بل وحتى للزيف. والنتيجة المنطقية لموقف الأغلبية هي أن استخدام الذكاء الاصطناعي لاختلاق آراء الشخصيات السياسية أو أفعالها ينطوي بطبيعته على خطر بالغ على الديمقراطية والمشاركة السياسية إلى حد يوجب قمع جميع هذه المنشورات بتدابير أكثر تدخلاً مما توفره Meta حاليًا في سياساتها، ما لم يكن التلاعب واضحًا للمستخدم العادي. ولا يمكن تمييز هذه الحالة عن سابقة حالة فيديو مفبرك للرئيس بايدن، التي رأى فيها المجلس أن التدابير التي لا ترقى إلى الإزالة، مثل وضع التسميات، قد تساعد في إطلاع المستخدمين على مدى مصداقية المحتوى، بحجة أن التزييف في تلك الحالة كان واضحًا، لأن الأساس الذي بُني عليه ذلك القرار هو توفر وسائل أقل تقييدًا (أي وضع التسميات) للتصدي للضرر.

من وجهة نظر هذه الأقلية، يُعد تطبيق تدابير خفض التصنيف أو غيرها من العقوبات على خطاب يتبع شكلاً مألوفًا من أشكال السخرية السياسية، كما هو الحال في هذه الحالة، أمرًا إشكاليًا على نحو خاص. إذ يبالغ الفيديو هنا في آراء السياسية، فيدفعها إلى حد متطرف غير حقيقي، بهدف كشف ما قد يترتب عليها من عواقب جذرية. والادعاء الضمني للفيديو في هذه الحالة هو أن عضوة المجلس المحلي متطرفة في رغبتها في "الترحيب باللاجئين" إلى حد أنها سترحب حتى بمن يرتكبون جرائم الاغتصاب منهم. وتكتسب هذه السخرية حدتها من حالات حديثة حظيت بتغطية إعلامية واسعة، اتُّهم فيها بعض السياسيين في المملكة المتحدة مؤخرًا بالتغاضي عن حالات عنف ارتكبها طالبو لجوء، بما في ذلك العنف الجنسي ضد القاصرين. ويأتي ذلك في أعقاب تشكيل لجنة تحقيق مستقلة منشأة بموجب القانون بشأن عصابات استدراج القاصرين، إثر تدقيق وطني، لبحث ما إذا كانت الحساسيات المتعلقة بالعرق والأصل الإثني قد أسهمت في الإخفاق في حماية ضحايا الجرائم الجنسية والناجين منها. إن الإصرار على أن تقمع Meta منشورًا لأنه يحرّف الآراء الفعلية لهذه السياسية يعني حرمان نوع مهم من الخطاب السياسي من الحماية، بشأن قضية مهمة تحظى حاليًا باهتمام عام مكثف. ينبغي وضع تسمية على الفيديو تفيد بأنه تم إنشاؤه بواسطة الذكاء الاصطناعي، وفقًا لما تقتضيه سوابق المجلس، لكن اتخاذ تدابير إضافية للحد من وصوله (مثل خفض التصنيف أو تسميات أشد) من شأنه أن يشكّل قيدًا غير جائز على حرية التعبير. وتشير هذه الأقلية أيضًا إلى أنه نظرًا لأن تسمية "ذكاء اصطناعي عالي الخطورة" لا تُطبَّق إلا عند تصعيد المحتوى إلى الخبراء المتخصصين لدى Meta، ومن ثمّ لا تُستخدم بالضرورة إلا في عدد ضئيل للغاية من الحالات، فإن استخدام تسمية "معلومات ذكاء اصطناعي" الأعم ستكون له ميزة التطبيق على نطاق واسع وبصورة أكثر إنصافًا بين مختلف المستخدمين ووجهات النظر والسياقات. وتشير هذه الأقلية أيضًا إلى أنه في وقت نشر الفيديو، لم تكن Meta قادرة على رصد استخدام الذكاء الاصطناعي تلقائيًا دون علامات تحديد المصدر أو بلاغ من الشركاء الموثوق بهم، وهو ما افتقر إليه هذا المحتوى. ويؤكد هذا الافتقار إلى الثقة في تقييم محتوى الذكاء الاصطناعي كذلك التحديات والمخاطر المترتبة على اعتماد نهج أكثر تشددًا في قمع المحتوى استنادًا جزئيًا إلى كونه تم إنشاؤه بواسطة الذكاء الاصطناعي.

من وجهة نظر أقلية أخرى، ونظرًا لجسامة المخاوف المذكورة أعلاه، تُعد الإزالة الوسيلة الأقل تقييدًا المتاحة أمام Meta من بين الوسائل الفعالة. وقد أشار المجلس مرارًا إلى إخفاقات Meta في استخدام تسميات "إعلامية" أقل تدخلاً في العديد من الحالات (راجع، على سبيل المثال، فيديو تم إنشاؤه بواسطة الذكاء الاصطناعي في النزاع بين إسرائيل وإيران). ورغم أن الشركة تزعم أنها تتعامل مع هذه المخاطر بجدية، فقد استخدمت Meta هذه التسميات للاستخدام المضلل للذكاء الاصطناعي على عدد ضئيل على نحو مقلق من المنشورات، ويبدو أنها نادرًا ما تعاقب المستخدمين (إن فعلت أصلاً) على عدم الإفصاح عن استخدام الذكاء الاصطناعي. إن التدابير التي تظل حبرًا على ورق ونادرًا ما تُطبَّق هي – من الناحية العملية - غير متاحة، ومن ثمّ غير فعالة.

خلال اجتماع المائدة المستديرة الذي عقده المجلس، أثار المشاركون تساؤلات جوهرية حول فعالية التسميات في مواجهة الآثار الإقناعية لمقاطع التزييف العميق الواقعية للسياسيين وأضرارها على المشاركة العامة. ويثير ذلك قلقًا خاصًا عندما لا تقترن التسميات بقيود على الوصول، ولا بعقوبات على المستخدمين الذين ينخرطون مرارًا في هذا السلوك، بما يحقق التوعية ويردع تكرار المخالفة في آن واحد. وتتعاظم هذه المخاوف عندما لا تعمل التدابير الأخرى الأقل تدخلاً، مثل تدقيق الحقائق بواسطة جهات خارجية، بالدعم أو النطاق اللازمَين لمواجهة هذا التحدي. من وجهة نظر هذه الأقلية، لا يتعلق القلق بقدرات الرصد التقنية، بل بخيار Meta على مستوى السياسات باعتماد حد مرتفع للغاية لوضع التسميات إلى درجة أن ما يُسمى بتسميات "عالي الخطورة" لا تُطبَّق فعليًا أبدًا، ناهيك عن قرارها عدم ربط هذه التسميات بقيود أخرى على الوصول، أو تعزيز العقوبات الأخرى على الاستخدام المضلل للذكاء الاصطناعي على نطاق واسع. ونظرًا لأن التوثيق المزيف لأقوال السياسيين أو أفعالهم المزعومة لا يحمل سوى قيمة ضئيلة أو معدومة للمصلحة العامة، يرى هؤلاء الأعضاء أن الإزالة متناسبة: إذ إن العبء الذي تفرضه على المتحدث أقل بكثير من الفائدة التي تحققها الإزالة للمشاركة العامة وحماية الديمقراطية.

وبصرف النظر عن هذه الاختلافات في الرأي، يرى المجلس أيضًا أنه من حيث الشرعية، يمكن جعل قواعد Meta بشأن المعلومات المضللة وتطبيق التسميات أكثر وضوحًا في ثلاثة جوانب ( التعليق العام رقم 34، الفقرة 25؛ والتقرير A/HRC/38/35، الفقرة 46). أولاً، ثمة انفصال بين التأكيد العام الوارد في مبررات السياسة بأن Meta تزيل "المحتوى الذي يرجّح أن يسهم بشكل مباشر في التدخل في سير العمليات السياسية" والقواعد التالية له، التي لا تحظر سوى مجموعة ضيقة من ادعاءات "التدخل في التصويت أو الإحصاء السكاني"، التي يخص بعضها الولايات المتحدة. ينبغي أن توضح مبررات سياسة المعلومات المضللة بشكل أكبر أن Meta لا تزيل سوى المعلومات المضللة المباشرة المتعلقة بوسائل المشاركة في الانتخابات وسلامتها، وأن تراجع Meta كذلك الأمثلة الخاصة ببلدان معينة في قواعدها لتصبح ذات صلة على مستوى العالم.

ثانيًا، ثمة مخاوف من أن السياسة لا تحدد العقوبات المترتبة على عدم الإفصاح عن استخدام الذكاء الاصطناعي، أو الشروط التي تُفرض بموجبها هذه العقوبات، مما يستلزم تقديم مزيد من التفاصيل. ثالثًا، لا تقدم القواعد المتعلقة بالوسائط التي تم التلاعب بها أي تفاصيل حول كيفية تعريف Meta لـ "خطر كبير بشكل خاص لخداع الجمهور بشكل ملموس بشأن مسألة ذات أهمية عامة." ورغم أن أغلبية أعضاء المجلس تؤيد اتخاذ تدابير أكثر صرامة، واعتماد حد أقل لفرضها (على النحو الوارد في التوصيات)، يتفق المجلس على أن مزيدًا من الوضوح في هذا الصدد، مدعومًا بمزيد من عمليات الإفصاح في إطار الشفافية بشأن عدد مرات تطبيق هذه التدابير، سيكون مفيدًا للغاية لفهم الجمهور لقواعد Meta وجهودها في الإنفاذ.

الخطاب الذي يحض على الكراهية

يرى المجلس أن الفيديو ينتهك معيار المجتمع بشأن السلوك الذي يحض على الكراهية. من وجهة نظر أغلبية المجلس، ينسب الفيديو سلوكًا إجراميًا خطيرًا وسلوكًا جنسيًا افتراسيًا إلى اللاجئين بوصفهم مجموعة على أساس هويتهم ودون أي تقييد. إذ يُذكر المستهدفون صراحةً (" اللاجئون مرحب بهم هنا")، ويُنسب إليهم إجرام خطير بوصفهم مجموعة بأكملها ("حتى لو اغتصبوا نساءنا"). وتستوفي العبارة تعريف التعميم، وتستند إلى عقود من شيطنة المهاجرين في المملكة المتحدة بوصفهم تهديدًا للسلامة، ولا سيما للنساء والفتيات. وتتسق هذه النتيجة مع قرار المجلس في حالة انتقاد سياسات الهجرة والمهاجرين في الاتحاد الأوروبي. ففي تلك الحالة، رأت الأغلبية أن صورة لمهاجرين تم إنشاؤها بواسطة الذكاء الاصطناعي ومصحوبة بنص يذكر أن ألمانيا لا تحتاج إلى مزيد من "المتخصصين في الاغتصاب الجماعي" كانت مخالفة لأسباب مماثلة.

من وجهة نظر الأغلبية، تتسق إزالة المنشور بموجب قواعد السلوك الذي يحض على الكراهية مع مسؤوليات Meta تجاه حقوق الإنسان. فمعيار المجتمع واضح، ويمتثل لمبدأ الشرعية، والإزالة ضرورية ومتناسبة لحماية حقوق الآخرين في المساواة وعدم التمييز (المادة 19، الفقرة 3، العهد الدولي الخاص بالحقوق المدنية والسياسية؛ المادة 2، الفقرة 1، العهد الدولي الخاص بالحقوق المدنية والسياسية).

وتُعد الإزالة متناسبة لأن فائدة حماية اللاجئين من التمييز والعداوة والعنف تفوق العبء المفروض على حرية التعبير لدى المستخدم (التعليق العام رقم 34، الفقرة 34). بموجب خطة عمل الرباط الصادرة عن الأمم المتحدة وعواملها الستة لتقييم مدى تناسب القيود المفروضة على التحريض على العنف أو العداوة أو التمييز، تُعد هذه المخاطر حقيقية ووشيكة.

ويكتسب السياق الاجتماعي والسياسي أهمية خاصة في هذه الحالة. ففي المملكة المتحدة، تكررت أعمال العنف التي تستهدف من يُنظر إليهم على أنهم لاجئون أو مهاجرون، على نحو ما لخّصته لجنة الأمم المتحدة للقضاء على التمييز العنصري ( الملاحظات الختامية بشأن المملكة المتحدة، لجنة الأمم المتحدة للقضاء على التمييز العنصري، 2024)، ووثّقته حالة منشورات مؤيدة لأعمال الشغب في المملكة المتحدة. وكما أظهرت تلك الحالة، أجّجت المعلومات الكاذبة المنتشرة عبر الإنترنت أعمال العنف، وهو ما واصلت منظمات المجتمع المدني توثيقه منذ أن نشر المجلس ذلك القرار ( التقرير العالمي 2026، هيومن رايتس ووتش، فبراير 2026؛ وتقرير حالة الكراهية، Hope Not Hate، مارس 2026).

يُعد تمييز Meta في إرشادات الإنفاذ لديها بين السمات المتأصلة والعبارات السلوكية آليًا بشكل مفرط: إذ يُسمح بعبارة "اللاجئون يغتصبون"، في حين لا يُسمح بعبارة "اللاجئون مغتصبون". فهو يعتمد على القواعد النحوية أكثر مما يعتمد على النية أو المحتوى أو احتمال وقوع الضرر، وهي جميعها عوامل ذات صلة في خطة عمل الرباط. إن النية الكامنة وراء هذا المنشور هي شيطنة اللاجئين بوصفهم مجموعة، والترويج لمعتقدات بشأن نزوع اللاجئين إلى العنف. من وجهة نظر الأغلبية، تُعد الإشارة إلى أن البيض يرتكبون الاغتصاب أيضًا إشارة مستخفة تهدف إلى السخرية ممن يُظهرون تضامنهم مع اللاجئين؛ وفي سياق لا يواجه فيه البيض فعليًا هذا القالب النمطي الضار، فإنها لا تُحدث آثارًا تمييزية مماثلة.

ويُفضي الأثر التراكمي للإبقاء على محتوى كهذا على منصات Meta إلى تهيئة بيئة يمكن أن تندلع فيها بسهولة أعمال العنف والتمييز ضد اللاجئين والأقليات العرقية أو الدينية عقب أحداث محفِّزة (راجع منشورات مؤيدة لأعمال الشغب في المملكة المتحدة). من وجهة نظر الأغلبية، لا تقتصر مسؤوليات Meta تجاه حقوق الإنسان على منع أعمال العنف العنصري واسعة النطاق فحسب، بل تشمل أيضًا أعمال العداوة والتمييز اليومية التي تسبق مثل هذه الأحداث. وعلى نحو ما ذكرت الأغلبية في حالة انتقاد سياسات الهجرة والمهاجرين في الاتحاد الأوروبي، "فإن صعوبة تقييم تأثير كل محتوى على نطاق واسع، والطبيعة غير المتوقعة لسرعة الانتشار عبر الإنترنت، تبرران اتخاذ Meta نهجًا أكثر حذرًا في الإشراف على المحتوى ... إن سماح Meta بجميع أشكال الخطاب الذي يحض على الكراهية التي لا ترقى إلى التحريض المنصوص عليه في المادة 20 من العهد الدولي الخاص بالحقوق المدنية والسياسية من شأنه أن يجعل منصات Meta مكانًا لا يُطاق وغير آمن للأقليات والفئات المهمشة للتعبير عن نفسها." من وجهة نظر الأغلبية، تُعد الإزالة ضرورية لعدم وجود تدبير أقل تقييدًا من شأنه أن يحقق وظيفة الحماية بالقدر الكافي.

من وجهة نظر أقلية من أعضاء المجلس، لا تنتهك العبارة الواردة في الفيديو معيار السلوك الذي يحض على الكراهية، وذلك لثلاثة أسباب منفصلة. أولاً، يمثل الفيديو تصويرًا (تم التلاعب به) لشيء يُتخيَّل أن سياسية قالته، وليس تأكيدًا مباشرًا بشأن اللاجئين. ومفاد رسالة الفيديو أن هذه السياسية لا تكترث لما إذا كان اللاجئون مغتصبين أم لا؛ فهي سترحب بهم جميعًا. وهذه رسالة بشأن السياسية، وليست بشأن اللاجئين بوصفهم فئة.

ثانيًا، حتى مع اعتبار الكلمات المنسوبة إلى السياسية تأكيدًا مباشرًا، لا يقول الفيديو إن جميع اللاجئين، أو حتى معظمهم، أو حتى أعدادًا كبيرة منهم، مغتصبون. والادعاء الوارد في الفيديو هو أن هذه السياسية ترحب بجميع اللاجئين بغض النظر عما إذا كانوا مغتصبين أم لا، لأن "البيض" يرتكبون الاغتصاب أيضًا. ولا يكون للمنشور معنى إلا بوصفه تأكيدًا على أن السياسية مخطئة في عدم التمييز بين اللاجئين الخطرين وغير الخطرين، وهو ما سيكون واضحًا بشكل خاص للمستخدمين في بريطانيا نظرًا للنقاش العام الواسع حول هذه القضايا (راجع ما ورد أعلاه).

ثالثًا، يُعد حد إزالة الخطاب السياسي استنادًا إلى سياسة السلوك الذي يحض على الكراهية مرتفعًا، وينبغي أن يظل كذلك. ولا سيما في سياق النقاشات حول السياسات التي غالبًا ما تتطرق إلى تعميمات بشأن فئات الأشخاص الأكثر تأثرًا بتلك السياسات، والتي قد تبدو مسيئة وتمييزية. في رأي الأقلية، يتسق تمييز Meta بين التعميمات المحظورة بشأن الصفات المتأصلة لمجموعات معينة والعبارات السلوكية بشأن سلوك بعض أفراد تلك المجموعات مع المبادئ الدولية لحرية التعبير. إن موقف الأغلبية، الذي يعتمد على مفهوم "الأضرار التراكمية" للخطاب الذي يحض على الكراهية، يتخلى إلى حد كبير عن الشرط الذي يفرضه القانون الدولي لحقوق الإنسان بإثبات علاقة سببية مباشرة بالضرر لتبرير فرض قيود على الخطاب، وبأن يكون الضرر محتملاً ووشيكًا (راجع انتقاد الأقلية في حالة انتقاد سياسات الهجرة والمهاجرين في الاتحاد الأوروبي). ومن ثمّ، فإن الاعتماد على مفهوم الأضرار التراكمية دون إثبات احتمال وقوع الضرر وكونه وشيكًا بوضوح يشبه تقييد التعبير لمجرد أنه ينقل وجهة نظر غير مرغوب فيها، وهو ما يتعارض بشكل واضح مع المعايير الدولية لحقوق الإنسان.

المضايقة والإساءة

يرى المجلس أن فيديو السياسية لا ينتهك معيار المجتمع بشأن المضايقة والإساءة لأن السياسية الظاهرة فيه شخصية عامة، ولا تستفيد من حظر "الصور التي يتم التلاعب بها بشكل غير مرغوب فيه."

بموجب المعايير الدولية لحقوق الإنسان، يتعين، عن حق، على القادة السياسيين والمسؤولين العموميين تحمّل قدر أكبر من التدقيق والانتقاد مقارنةً بالأفراد العاديين، نظرًا لدورهم المؤثر في الشؤون العامة وحق الجمهور في مساءلتهم (راجع التعليق العام رقم 34، الفقرتين 11 و38). يساعد التمييز بين الشخصيات العامة والأفراد العاديين على ضمان التزام أي قيود ناتجة عنه على التعبير بمبدأي الضرورة والتناسب.

وفي الوقت نفسه، يشير المجلس إلى أن تعريف Meta لـ"الشخصيات العامة" في معيار المجتمع يحتاج إلى توضيح. إذ ينص على أن الشخصيات العامة هي "أي موظف حكومي على مستوى الولاية أو الدولة، أو أي مرشح سياسي لأي من هذه المناصب،" ولا يشمل جميع المسؤولين العموميين المنتخَبين، بمن فيهم من هم على المستوى المحلي أو مستوى المدن. ويرى المجلس أنه من الأنسب اعتبار هؤلاء الأفراد شخصيات عامة بسبب دورهم العام بوصفهم منتخَبين، لا استنادًا إلى مدى وصولهم على وسائل التواصل الاجتماعي أو حجم التغطية الإعلامية عنهم. ويبدو أن Meta تتبنى هذا الموقف في إنفاذها (على نحو ما تعكسه المعلومات المقدَّمة منها في هذه الحالة)، لكن ينبغي أن توضح قواعدها العلنية ذلك بصورة أكبر.

6. قرار مجلس الإشراف

يُلغي المجلس قرار Meta بالإبقاء على المحتوى، ويقضي بإزالته بموجب معيار المجتمع بشأن السلوك الذي يحض على الكراهية. في إطار نظره في هذه الحالة، يرصد المجلس أيضًا أوجه قصور في سياسات التسميات بموجب معيار المجتمع بشأن المعلومات المضللة، ويقدم فيما يلي توصيات لتحسينها.

7. التوصيات

أ. سياسة المحتوى:

1. بهدف حماية حقوق المستخدمين في المشاركة العامة ونزاهة المعلومات، ينبغي على Meta تغيير سياستها بشأن الوسائط التي تم التلاعب بها فيما يتعلق بتسميات "عالي الخطورة" لخفض حد تطبيق هذه التسميات، والتأكد من ألا يقتصر ذلك على كونه تدبيرًا خاصًا بالأزمات أو نزاهة الانتخابات.

سيَعتبر المجلس هذه التوصية منفذة عندما تقدم Meta إلى المجلس إرشادات الإنفاذ المحدَّثة التي توضح خفض حدود تطبيق تسميات "عالي الخطورة".

2. بهدف حماية حقوق المستخدمين في المشاركة العامة ونزاهة المعلومات، ينبغي على Meta زيادة العوائق للمستخدمين الذين يشاهدون محتوى يحمل تسمية تفيد بأنه تم إنشاؤه بواسطة الذكاء الاصطناعي أو تسمية "ذكاء اصطناعي عالي الخطورة"، مثل استخدام شاشة اعتراضية بدلاً من التسمية.

سيَعتبر المجلس هذه التوصية منفذة عندما تقدم Meta أدلة على تطبيق زيادة العوائق، مثل الشاشات الاعتراضية، في حالة الاستخدام هذه.

3. بهدف حماية حقوق المستخدمين في المشاركة العامة ونزاهة المعلومات، ينبغي إخضاع كل المحتوى الذي يحمل تسمية "عالي الخطورة" لإلغاء تحقيق الأرباح أو خفض التصنيف أو الاستبعاد من التوصيات، مع فرض عقوبات تصاعدية على الحسابات التي تشارك بشكل متكرر محتوى يحمل تسمية "عالي الخطورة".

سيَعتبر المجلس هذه التوصية منفذة عندما تحدّث Meta سياستها بشأن الوسائط التي تم التلاعب بها لتعكس هذه التغييرات، وتقدم إلى المجلس أدلة على تطبيق هذه العقوبات.

4. بهدف توضيح أن سياسة المعلومات المضللة لديها تنطبق على المستخدمين في جميع أنحاء العالم، ينبغي على Meta التأكد من صياغة القواعد والأمثلة المتعلقة بالتدخل في التصويت أو الإحصاء السكاني بحيث تنطبق على مستوى العالم ولا تقتصر على سياق الولايات المتحدة.

سيَعتبر المجلس هذه التوصية منفذة عندما تحدّث Meta معيار المجتمع بشأن المعلومات المضللة لديها لضمان انطباق جميع الأمثلة على مستوى العالم.

ب. الشفافية:

5. بهدف تحسين الشفافية المتعلقة بإنفاذ سياستها بشأن الوسائط التي تم التلاعب بها، ينبغي على Meta الإفصاح علنًا في مركز الشفافية لديها عن بيانات سنوية بشأن عدد مرات تطبيق تسميتَي "عالي الخطورة" و"ذكاء اصطناعي عالي الخطورة" على المحتوى، بما في ذلك عدد مرات تطبيق هاتين التسميتين على المحتوى الصادر عن السياسيين أو المتعلق بهم.

سيَعتبر المجلس هذه التوصية منفذة عندما تنشر Meta هذه المعلومات في مركز الشفافية لديها بتنسيق مماثل لـعمليات الإفصاح السنوية المتعلقة باستثناء الجدارة بالنشر.

6. بهدف دعم الأبحاث المتعلقة بفعالية التدخلات بشأن المعلومات المضللة، ينبغي على Meta التأكد من إمكانية رؤية جميع التسميات المطبقة بموجب سياسة المعلومات المضللة ("معلومات ذكاء اصطناعي" أو "عالي الخطورة" أو "ذكاء اصطناعي عالي الخطورة") على المحتوى في مكتبة محتوى Meta، ومن إمكانية البحث عن المحتوى الذي حصل على هذه التسميات باستخدام فلتر.

سيَعتبر المجلس هذه التوصية منفذة عندما تثبت Meta أن هذه الوظيفة تعمل بالفعل.

يؤكد المجلس مجددًا أيضًا أهمية توصيته السابقة (رقم 3) في قرار فيديو تم إنشاؤه بواسطة الذكاء الاصطناعي في النزاع بين إسرائيل وإيران، التي دعا فيها Meta إلى نشر شرح واضح للعقوبات المترتبة على عدم الإفصاح الذاتي عن المحتوى الذي تم إنشاؤه أو تعديله رقميًا. وينبغي للشركة تقديم معايير للعقوبات وإدراج ميزات الحساب التي تُقيَّد استنادًا إلى ذلك ومدة التقييد.

*ملاحظة إجرائية:

• تصدر قرارات مجلس الإشراف عن لجان من خمسة أعضاء، وتتم الموافقة عليها بأغلبية أصوات المجلس بالكامل. ولا تُمثل قرارات المجلس بالضرورة آراء جميع الأعضاء.
• بموجب اتفاقيته، يجوز لمجلس الإشراف مراجعة الطعون المقدمة من المستخدمين الذين أزالت Meta محتواهم، والطعون المقدمة من المستخدمين الذين أبلغوا عن محتوى أبقت عليه Meta، والقرارات التي تحيلها Meta إليه (المادة 2، القسم 1 من الاتفاقية). يتمتع المجلس بسلطة مُلزمة تتيح له تأييد أو إلغاء القرارات التي تتخذها Meta بشأن المحتوى (المادة 3، القسم 5 من الاتفاقية؛ المادة 4 من الاتفاقية). ويحق للمجلس إصدار توصيات غير ملزِمة تكون شركة Meta مُلزَمَة بالرد عليها (المادة 3، القسم 4 من الاتفاقية؛ المادة 4). وعندما تلتزم Meta بالعمل استنادًا إلى التوصيات، يراقب المجلس تنفيذها.
• لم يكلّف المجلس أي جهة بإجراء أبحاث مستقلة لإصدار قراره بشأن هذه الحالة.

العودة إلى قرارات الحالة والآراء الاستشارية المتعلقة بالسياسة