مكافحة التأييدات المزيفة بتقنية التزييف العميق المضللة عن طريق تغيير نهج الإنفاذ

تم النشر بتاريخ 5 حَزِيران 2025

ألغى المجلس قرار شركة Meta بترك منشور على Facebook يُظهر مقطع فيديو تم التلاعب به بواسطة الذكاء الاصطناعي لشخص يبدو أنه أسطورة كرة القدم البرازيلي رونالدو نازاريو وهو يؤيد لعبة على الإنترنت. تتوافق إزالة المنشور مع معايير المجتمع الخاصة بشركة Meta بشأن الاحتيال والرسائل غير المرغوب فيها. كان ينبغي أن ترفض Meta أيضًا المحتوى للإعلان، لأن قواعدها تحظر استخدام صورة شخص مشهور ليكون بمثابة طُعم للناس بالتفاعل مع الإعلان.  

استنادًا إلى التقارير العامة، يشير المجلس إلى أن Meta تسمح على الأرجح بكميات كبيرة من المحتوى الاحتيالي على منصاتها لتجنب احتمال المبالغة في إنفاذ مجموعة فرعية صغيرة من تأييدات المشاهير الحقيقية. لا يتمتع المراجعون على نطاق واسع بصلاحية إنفاذ هذا الحظر على المحتوى الذي ينشئ شخصية مزيفة أو يتظاهر بأنه شخص مشهور في محاولة للاحتيال أو الغش. يجب على Meta إنفاذ هذا الحظر على نطاق واسع من خلال تزويد المراجعين بمؤشرات يمكن التعرف عليها بسهولة في كثير من الأحيان لتمييز محتوى الذكاء الاصطناعي.

عن الحالة

في سبتمبر 2024، شارك أحد المستخدمين منشورًا يتضمن مقطع فيديو تم التلاعب به بواسطة الذكاء الاصطناعي لشخص يبدو أنه لاعب كرة القدم البرازيلي المعتزل رونالدو نازاريو. في الفيديو، يشجع الناس على تنزيل تطبيق للعب لعبة Plinko (أو Plinco) الشهيرة على الإنترنت.

في الفيديو، لا يتزامن الصوت الذي يقلد رونالدو نازاريو مع حركات شفتيه. يعرض الفيديو أيضًا صورًا غير واقعية تم إنشاؤها بواسطة الذكاء الاصطناعي لمعلم مدرسة، وسائق حافلة، وعامل في متجر بقالة، بالإضافة إلى متوسط الراتب لوظائفهم في البرازيل. يدعي الصوت أن اللاعبين على Plinko يمكنهم كسب المزيد من المال من اللعبة أكثر من الوظائف المذكورة. يشجع الفيديو المستخدمين على النقر على رابط تنزيل التطبيق، على الرغم من أن هذا يؤدي إلى لعبة مختلفة تسمى Bubble Shooter. وقد تمت مشاهدة المنشور أكثر من 600,000 مرة.

وقد أبلغ أحد المستخدمين شركة Meta عن المحتوى باعتباره غشًا أو احتيالاً، ولكن لم يتم إعطاء الأولوية للبلاغ. لم تقم الشركة بإزالة المحتوى. وقدّم المستخدم طعنًا على هذا القرار إلى شركة Meta، ولكن لم يتم وضع هذا الطعن في أولوية المراجعة البشرية أيضًا، لذلك بقي المحتوى على Facebook. وأخيرًا، قدّم المستخدم طعنًا في قرار Meta إلى المجلس، قائلاً إن المنشور يبدو أنه مدعوم. إذا تم تعزيز منشور ما، يتم إنشاء إعلان على المنشور.

تم تعطيل الإعلان لانتهاكه معيار الإعلان عن الممارسات التجارية غير المقبولة للشركة، على الرغم من أن المنشور الأصلي الطبيعي ظل على المنصة. بعد أن حدد المجلس هذه الحالة للمراجعة، قامت Meta بإزالة المنشور الأصلي لانتهاكه سياسة ‬‏‫الغش، وعمليات الاحتيال والممارسات الخادعة. أكدت Meta لاحقًا أن المنشور انتهك أيضًا سياسة الرسائل غير المرغوب فيها. 

تتزايد عمليات التزييف العميق والتأييدات المزيفة بتقنية التزييف العميق على مستوى العالم، بما في ذلك تلك التي تشمل شخصيات عامة تروج لحملات سياسية احتيالية وعمليات احتيال مالي. تسلط التقارير الضوء على أن العديد من عمليات الاحتيال المالي في البرازيل التي تنشأ على Facebook وInstagram وWhatsApp تنطوي على محتوى تم التلاعب به بواسطة الذكاء الاصطناعي.

النتائج الرئيسية

وتتوافق إزالة المحتوى مع مسؤوليات شركة Meta تجاه حقوق الإنسان. تشكل التأييدات المضللة التي يتم التلاعب بها مخاطر كبيرة تهدد حقوق الشخص الموصوف في الخصوصية والسمعة. كما أنها تؤثر أيضًا على الجمهور، من خلال احتمال تسهيل الاحتيال.

يشعر المجلس بالقلق من أن مراجعي المحتوى على نطاق واسع غير قادرين على إزالة المنشورات التي تنشئ شخصية مزيفة أو تتظاهر بأنها شخصية مشهورة "في محاولة للاحتيال أو الغش"، حتى لو كان المحتوى يتضمن مؤشرات واضحة على أنه ينتهك سياسات Meta. لا يمكن إزالة مثل هذا المحتوى إلا من خلال فرق Meta المتخصصة، ما يجعل عدم إنفاذ سياسة ‬‏‫الغش، عمليات الاحتيال والممارسات الخادعة أكثر احتمالاً.

تسمح Meta على الأرجح بكميات كبيرة من المحتوى الاحتيالي على منصاتها لتجنب احتمال المبالغة في إنفاذ مجموعة فرعية صغيرة من تأييدات المشاهير الحقيقية. وهذا أمر مثير للقلق بشكل خاص عندما يكون لتأييدات المشاهير الحقيقية على الأرجح وسائل حماية أخرى ضد الإفراط في الإنفاذ، إما من خلال أنظمة رسمية مثل التحقق الشامل أو نقاط الاتصال في Meta. لذلك يوصي المجلس Meta بتغيير نهجها وتطبيق خط السياسة هذا على نطاق واسع.

إن طبيعة التلاعب أو التزييف في الفيديو واضحة. يرى المجلس أن المنشور ينتهك حظر Meta على المحتوى الذي يحاول إنشاء شخصية مزيفة أو التظاهر بأنه شخص مشهور في محاولة للاحتيال أو الغش، بموجب معيار المجتمع بشأن الغش، عمليات الاحتيال والممارسات الخادعة. كما أنه ينتهك أيضًا حظر Meta على مشاركة الروابط الخادعة أو المضللة بموجب معيار المجتمع بشأن الرسائل غير المرغوب فيها، حيث إنه يروج للعبة Plinko ولكنه يربطها بلعبة مختلفة. لذلك، يرى المجلس أنه كان ينبغي إزالة المنشور عند الإبلاغ عنه. حتى قبل إزالة المنشور، كان ينبغي على Meta وضع علامة "معلومات الذكاء الاصطناعي"، بموجب سياستها الخاصة بالوسائط التي تم التلاعب بها‬. كان يجب على شركة Meta أيضًا رفض المحتوى للإعلان، حيث يحظر معيار الإعلان عن الممارسات التجارية غير المقبولة للشركة، استخدام صورة شخص مشهور وأساليب مضللة لتكون بمثابة طُعم للناس بالتفاعل مع الإعلان.

تتحمل Meta مسؤولية "التخفيف من الآثار الضارة على حقوق الإنسان" للمحتوى الذي يتم تحويله إلى نقود والذي يمكن أن يؤدي إلى الاحتيال أو الغش - بما يتماشى مع مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان. عند الدفع لتعزيز المحتوى، يجب على Meta التأكد من أن هذه المنشورات لا تنتهك سياساتها.

قرار مجلس الإشراف

‏‫مجلس الإشراف يلغي قرار Meta بترك المنشور على Facebook.

يوصي المجلس أيضًا بأن تقوم شركة Meta بما يلي: 

• إنفاذ حظر سياستها الخاصة بالغش، عمليات الاحتيال والممارسات الخادعة على نطاق واسع على المحتوى الذي "يحاول إنشاء شخصية مزيفة أو التظاهر بأنه شخص مشهور في محاولة للاحتيال أو الغش" من خلال تزويد المراجعين بمؤشرات لتحديد هذا المحتوى. يمكن أن يشمل ذلك، على سبيل المثال، وجود علامات مائية وبيانات وصفية للتلاعب بالوسائط، أو عوامل واضحة مثل عدم تطابق الصوت والفيديو. 

مزيد من المعلومات

لقراءة التعليقات العامة على هذه الحالة، انقر هنا.

العودة إلى الأخبار