يجب على Meta بذل المزيد من الجهود لمكافحة مقاطع التزييف العميق الضارة التي تتضمن خطاب يحض على الكراهية
تم النشر بتاريخ 17 أَيْلُول 2026
وجد مجلس الإشراف أن مقطع فيديو مُزيّفًا بتقنية التزييف العميق لسياسي محلي في المملكة المتحدة ينبغي إزالته من Facebook، لأنه يتضمن خطاب يحض على الكراهية ضد اللاجئين، وبذلك ألغى قرار Meta بالإبقاء عليه. وخلص المجلس إلى أن Meta بحاجة إلى بذل المزيد من الجهود للتعامل بفعالية مع هذا النوع من المحتوى، بما في ذلك تشديد العقوبات على مشاركة محتوى التزييف العميق الضار، لحماية المستخدمين من الخداع المحتمل.
ما سبب أهمية هذا الأمر
تسلّط الحالة الضوء على تحديات هائلة تواجهها المجتمعات، ويتعين على شركات وسائل التواصل الاجتماعي التصدي لها، ومن بينها الواقعية المتزايدة لمقاطع التزييف العميق التي تُظهر مسؤولين منتخبين وهم يحرّفون مواقفهم بشأن قضايا بالغة الأهمية ويضلّلون الجمهور، فضلاً عن المعلومات المضللة التي تؤجج الكراهية ضد الأقليات، بما في ذلك المهاجرين. تتعرّض السياسيات والصحفيات والناشطات للاستهداف بشكل غير متناسب من خلال مقاطع التزييف العميق التي تحرّف مواقفهن، بما في ذلك في إطار حملات الإساءة، وغالبًا ما تفتقر الشخصيات العامة الأقل شهرة، مثل السياسيين المحليين والناشطين، إلى الموارد اللازمة للتصدي لهذه المقاطع بفعالية. يؤدي انتشار مقاطع التزييف العميق إلى تقويض الثقة في جميع المعلومات العامة، ويضع حدودًا متزايدة الصعوبة بين ما يُعد خطابًا سياسيًا محميًا وما ينتهك قواعد Meta بشأن المعلومات المضللة أو الخطاب الذي يحض على الكراهية أو التنمر والإساءة.
عن الحالة
في نوفمبر/تشرين الثاني 2025، نشر أحد مستخدمي Facebook مقطع فيديو قصيرًا يُظهر صورة مشابهة لعضوة مجلس محلي عن حزب العمال في اسكتلندا. يُظهر الفيديو، الذي يبدو أنه مُنشأ باستخدام الذكاء الاصطناعي، أنها تقول: "اللاجئون مرحَّب بهم هنا، حتى لو اغتصبوا نساءنا، لأن الأشخاص البيض يفعلون ذلك أيضًا."
يبدو التصوير واقعيًا، إلا أنه عند التدقيق فيه يتضح أنه مُصطنع: الصوت غير متزامن تمامًا مع حركات وجهها، ما يشير إلى أن المقطع مٌلفق. وكان الفيديو جزءًا من ألبوم يضم صورة لعدد من النساء المذكورات أسماؤهن، وهن يشاركن في احتجاج مناهض لليمين المتطرف، وكانت عضوة المجلس المحلي من بينهن. وحصل الألبوم والفيديو معًا على أكثر من 5,000 مشاهدة، وأكثر من 50 تعليقًا، وأكثر من 20 تفاعلاً، وأكثر من 10 مشاركات.
وأبلغ شخصان، من بينهما السياسية التي ظهرت في الفيديو، عن الفيديو بسبب انتهاكه سياسة التنمر والإساءة، لكن أنظمة Meta لم تُعطِ الأولوية للمنشور للمراجعة البشرية، فبقي المحتوى على Facebook. وقدّم كلا المستخدمين طعنًا إلى Meta، لكن أُبقي على المنشور ولم يخضع لمراجعة بشرية. ثم قَدَّم أحد المستخدمَين، وليس السياسية المعنية، طعنًا أمام مجلس الإشراف. عندما لفت المجلس انتباه Meta إلى الحالة، خلصت الشركة إلى أن الفيديو لا ينتهك معايير المجتمع الخاصة بها، وأنه لا يستدعي تصنيفه بأنه "تم إنشاؤه بالذكاء الاصطناعي".
النتائج الرئيسية
قيّم المجلس هذه الحالة بالرجوع إلى ثلاث من سياسات Meta، وهي: سياسة السلوك البغيض، وسياسة المعلومات المضللة، وسياسة التنمر والإساءة. يرى المجلس أنه كان ينبغي على Meta إزالة الفيديو المُنشأ بالذكاء الاصطناعي بموجب سياسة السلوك البغيض.
وترى أغلبية أعضاء المجلس أن الفيديو انتهك قواعد Meta بشأن السلوك البغيض، وتحديدًا لأنه ينسب ارتكاب جرائم خطيرة وسلوكًا جنسيًا استغلاليًا إلى اللاجئين كجماعة بأكملها، وليس إلى بعض اللاجئين فقط، كما ادعت Meta.
وعند الفصل في الحالة، نظر المجلس أيضًا فيما إذا كان الفيديو، في حال عدم انتهاكه قواعد السلوك البغيض، يستوفي معايير الإزالة بموجب سياسة المعلومات المضللة. ترى أغلبية أعضاء المجلس أن إزالة الفيديو لم تكن مبررة بسبب المعلومات المضللة، لكن كان ينبغي أن يحمل تصنيف "عالي الخطورة تم إنشاؤه بالذكاء الاصطناعي"، ويخلص المجلس في تحليله إلى أن قواعد Meta المتعلقة بوضع تصنيف على التزييفات العميقة المُنشأة بالذكاء الاصطناعي غير كافية.
ترى الأغلبية أن Meta بحاجة إلى سياسات أكثر صرامة بشأن التزييفات العميقة، بما في ذلك توسيع الحالات التي يمكن فيها وضع تصنيف "عالي الخطورة"، واتخاذ مزيد من التدابير للحد من انتشار المحتوى الخادع المُنشأ بالذكاء الاصطناعي، وتشديد العقوبات المفروضة على الحسابات التي تكرر مشاركة هذا المحتوى، وزيادة الشفافية بشأن البيانات المتعلقة بالحالات التي تحمل تصنيف "تم إنشاؤه بالذكاء الاصطناعي".
تعارض أقلية من أعضاء المجلس الرأي القائل بأن الفيديو ينبغي اعتباره خطاب يحض على الكراهية، لأنه يستهدف الآراء المزعومة للسياسية، وليس جميع اللاجئين أو معظمهم؛ كما ترى أنه نظرًا إلى أن الفيديو يُعد خطابًا سياسيًا، ينبغي أن تكون عتبة إزالته أعلى.
كما كانت هناك آراء أقلية بشأن النتائج التي توصل إليها المجلس في إطار قواعد المعلومات المضللة. وأشارت إحدى الأقليات إلى أن تصنيف "عالي الخطورة" يعد مقيّدًا للغاية، وأنه كان ينبغي تطبيق تصنيف أقل تقييدًا وهو "معلومات الذكاء الاصطناعي". ورأت أقلية أخرى، بشكل منفصل، أن جسامة الأضرار، إلى جانب حقيقة أن Meta لا تطبّق فعليًا العديد من تصنيفات الذكاء الاصطناعي، تبرر إزالة الفيديو.
يرى المجلس أن الفيديو لا يستوجب الإزالة بموجب قواعد التنمر والإساءة، لأن المسؤول المنتخب شخصية عامة، وبالتالي يحظى بحماية أقل من الأفراد العاديين بموجب السياسة.
قرار مجلس الإشراف
يلغي المجلس قرار Meta بالإبقاء على المحتوى، ويُلزمها بإزالته بموجب معيار المجتمع بشأن السلوك البغيض. عند النظر في هذه الحالة، يرى المجلس أيضًا أوجه قصور في سياسات التصنيف بموجب معيار المجتمع بشأن المعلومات المضللة، ويقدّم التوصيات التالية بشأن هذه السياسة.
يوصي المجلس بأن تقوم شركة Meta بما يلي:
- تغيير سياستها المتعلقة بوسائل الإعلام التي تخضع للتلاعب لخفض عتبة تصنيفات "عالي الخطورة"، مع ضمان ألا يقتصر تطبيق ذلك على حالات الأزمات أو نزاهة الانتخابات.
- زيادة الخطوات الإضافية أمام المستخدمين عند عرض المحتوى المصنّف على أنه مُنشأ بالذكاء الاصطناعي أو "عالي الخطورة تم إنشاؤه بالذكاء الاصطناعي"، مثل استخدام شاشة بينية (وهي شاشة تتطلب النقر لتجاوزها وعرض المحتوى) بدلاً من الاكتفاء بوضع تصنيف.
- إخضاع جميع المحتويات المصنّفة بأنها "عالية الخطورة" لإجراءات مثل إلغاء تحقيق الدخل منها، أو خفض ترتيبها، أو استبعادها من التوصيات، مع فرض عقوبات متصاعدة على الحسابات التي تكرر مشاركة المحتوى المصنّف بأنه "عالي الخطورة".
- التأكد من صياغة القواعد والأمثلة المتعلقة بالتدخل في التصويت أو التعداد السكاني بحيث تكون قابلة للتطبيق عالميًا، وألا تقتصر على سياق الولايات المتحدة.
- الإفصاح علنًا، عبر مركز الشفافية التابع لها، عن البيانات السنوية المتعلقة بعدد المرات التي تُطبق فيها تصنيفات "عالي الخطورة" و"عالي الخطورة تم إنشاؤه بالذكاء الاصطناعي" على المحتوى، بما في ذلك عدد المرات التي تُطبق فيها هذه التصنيفات على محتوى صادر عن سياسيين أو يتعلق بهم.
- التأكد من إمكانية رؤية جميع التصنيفات بموجب سياسة المعلومات المضللة ("معلومات الذكاء الاصطناعي" أو "عالي الخطورة" أو "عالي الخطورة تم إنشاؤه بالذكاء الاصطناعي") على المحتوى في مكتبة المحتوى لدى Meta، وإتاحة البحث عن المحتوى الذي حصل على هذه التصنيفات من خلال مرشح للبحث.
كما يؤكد المجلس مجددًا على أهمية توصيته السابقة الواردة في القرار المتعلق بالفيديو الذي تم إنشاؤه بواسطة الذكاء الاصطناعي في النزاع بين إسرائيل وإيران، والتي دعت شركة Meta إلى نشر توضيح واضح للعقوبات المفروضة في حالة عدم الإفصاح الذاتي عن المحتوى الذي تم إنشاؤه أو تعديله رقميًا. وينبغي أن تحدد معايير واضحة للعقوبات، وأن توضح ميزات الحساب التي سيُفرض عليها التقييد نتيجة لذلك، والمدة التي سيستمر خلالها هذا التقييد.
مزيد من المعلومات
لقراءة التعليقات العامة على هذه الحالة، انقر هنا.
