تعزيز سياسات التنمر والإساءة لمواجهة الصور المُنشأة بالذكاء الاصطناعي لأشخاص ليسوا من الشخصيات العامة
تم النشر بتاريخ 17 أَيْلُول 2026
يلزم مجلس الإشراف Meta بإزالة مقطع فيديو مُنشأ بالذكاء الاصطناعي من Facebook، إذ يتنمر على شابة مسلمة من خلال التلاعب بمظهرها، وكان جزءًا من سلسلة واسعة الانتشار من منشورات مماثلة عبر وسائل التواصل الاجتماعي. يرى المجلس أن سياسات Meta بشأن التنمر والإساءة غير كافية للتعامل مع الصور التي جرى التلاعب بها باستخدام الذكاء الاصطناعي لأشخاص لا يكونون عادةً محطّ اهتمام عام.
ما سبب أهمية هذا الأمر
يأتي هذا القرار في وقت يخلق فيه الذكاء الاصطناعي التوليدي مخاطر جديدة على النساء والفتيات، مع تزايد الإساءة من حيث النطاق والسرعة والخطورة. ووفقًا لتقرير صادر عن هيئة الأمم المتحدة للمرأة، في عام 2025، وهي الجهة الرئيسية في الأمم المتحدة المعنية بالمساواة بين الجنسين، فإن العديد من الهجمات "غالبًا ما تكون متعمدة ومنسقة وتهدف إلى إسكات النساء في الحياة العامة". وتغيّر مقاطع الفيديو المُنشأة بالذكاء الاصطناعي طبيعة الإساءة عبر الإنترنت، وتؤثر بشكل كبير في حقوق مستخدمي Meta، بما في ذلك حقوق النساء المسلمات في المشاركة في الحياة العامة، وحقوق النساء والفتيات عمومًا. وغالبًا ما تُزيّف هذه الهجمات ليس فقط مظهر الشخص، بل أيضًا أفعاله وأقواله، على نحو يلحق به ضررًا.
عن الحالة
في عام 2025، أُجريت مقابلة تلفزيونية مع شابة مسلمة في أوروبا بصفتها متطوعة في حملة تهدف إلى تحسين التثقيف بشأن صحة الدورة الشهرية والحد من الوصمة المرتبطة بالحالات الصحية التي تعاني منها النساء والفتيات من خلفيات تنتمي إلى أقليات عرقية. وفي الأشهر التالية، تلاعبت حسابات عبر منصات التواصل الاجتماعي رقميًا بمقطع المقابلة للسخرية منها، من خلال إحداث تباين ظاهري بين دورها في الترويج للصحة ومظهرها، في محاولة واضحة للإيحاء بأنها ليست أهلاً للتحدث في المسائل الصحية. تستخدم هذه المقاطع مظهرها للتلاعب بأفعالها وأقوالها. وقد حصدت مقاطع الفيديو والصور المُنشأة بالذكاء الاصطناعي مجتمعةً عشرات الملايين من المشاهدات عبر منصات مختلفة، بما في ذلك منصات Meta.
واختار المجلس منشورًا على Facebook، قُدّم بموجب طعن من المستخدم، باعتباره مجرد مثال واحد على الإساءة التي تعرضت لها هذه المرأة. يتضمن المنشور مقطع فيديو مُنشأ بالذكاء الاصطناعي تظهر فيه المرأة وهي تقدّم نفسها بصفتها سفيرة الصحة الجديدة لبلدها. وتتكرر هذه الادعاءات الكاذبة في التعليق المصاحب للمنشور، إلى جانب رمز تعبيري للضحك. وتظهر صورتها وهي تقول إنها ستوضح كيفية الحفاظ على لياقتها البدنية، ثم تظهر وهي تؤدي مجموعة من التمارين المحدودة أو العبثية، وتُقدّم نصائح صحية حول تناول الطعام، مع تناولها للوجبات السريعة. تسخر تعليقات عديدة أسفل الفيديو من مستخدمين مختلفين من المرأة، ولا سيما بسبب وزنها وارتدائها الحجاب.
وبالنسبة إلى المستخدم الذي طعن أمام المجلس، أُغلِق كلٌّ من بلاغه الأول إلى Meta وطعنه اللاحق أمام الشركة تلقائيًا، من دون إعطائهما أولوية للمراجعة. وأكدت Meta منذ ذلك الحين للمجلس أن قرارها بعدم اتخاذ إجراء بشأن المنشور، والإبقاء عليه على المنصة من دون إرفاق تصنيف "تم إنشاؤه بواسطة الذكاء الاصطناعي"، كان متوافقًا مع سياساتها. ولم تتخذ Meta أي إجراء إلا بعد أن طرح المجلس أسئلة بشأن أربعة تعليقات مهينة على المنشور، حيث أزالت Meta التعليقات، مؤكدةً أنها تنتهك حظر التنمر والإساءة المتعلق بالمقارنات التي تنطوي على إهانة للكرامة الإنسانية.
النتائج الرئيسية
ترى أغلبية أعضاء المجلس أنه ينبغي إزالة الفيديو لأنه ينتهك سياسة Meta بشأن التنمر والإساءة. وعلى وجه التحديد، يتضمن الفيديو تصريحًا ينتقص من مظهر شخص عادي، ويستخدم الذكاء الاصطناعي لتزييف أقوالها وأفعالها من دون موافقتها، وكان جزءًا من حملة عايشتها المستهدفة باعتبارها إساءة جماعية.
وترى الأغلبية أن تعريف Meta لـ"الصور المُعدّلة غير المرغوب فيها"، وهو أحد محظورات التنمر والإساءة، ضيق للغاية، وينبغي أن يشمل تزييف أفعال الشخص وأقواله، بالإضافة إلى تغيير مظهره.
وترى الأغلبية أيضًا أن تعريف Meta لحملات الإساءة الجماعية ضيق للغاية، وينبغي للشركة أن تعتمد تدابير جديدة لتخفيف العبء عن الضحايا عند الإبلاغ عنها. وتشمل هذه التدابير إضافة المحتوى المخالف المُعدّل غير المرغوب فيه إلى بنك مطابقة الوسائط التابع لشركة Media، بحيث تتم إزالة المحتوى المطابق والمحتوى شِبه المتطابق، واستخدام مؤشرات على أن الوسائط مُنشأة أو عُدّلت باستخدام الذكاء الاصطناعي باعتبارها مؤشرًا على مدى خطورة المحتوى، وذلك لإعطاء الأولوية لهذه البلاغات للمراجعة.
ورأت أقلية من أعضاء المجلس أن المحتوى لا يندرج ضمن تعريف Meta للتنمر والإساءة، وأن الإبقاء على المحتوى يتوافق مع مسؤوليات الشركة في مجال حقوق الإنسان.
قرار مجلس الإشراف
يلغي المجلس قرار Meta بالإبقاء على المحتوى، ويُلزم بإزالة المنشور.
يشدد المجلس على أهمية توصياته السابقة الداعية إلى السماح للحسابات التابعة لأطراف ثالثة بالإبلاغ عن المحتوى الذي ينطوي على تنمر وإساءة.
بالإضافة إلى ذلك، يوصي المجلس بأن تقوم Meta بما يلي:
- توسيع التعريف العام لمصطلح "الصور المُعدّلة غير المرغوب فيها" ليشمل مقاطع التزييف العميق لشخص عادي يظهر فيها وهو يقول أو يفعل أشياء لم يقلها أو يفعلها.
- إضافة حالات من "الصور المُعدّلة غير المرغوب فيها" المخالفة إلى بنوك مطابقة الوسائط لإزالتها.
- استخدام مؤشرات على أن الوسائط مُنشأة أو عُدّلت باستخدام الذكاء الاصطناعي باعتبارها مؤشرًا على مدى خطورة المحتوى، وذلك لإعطاء الأولوية لهذه البلاغات للمراجعة.
مزيد من المعلومات
لقراءة التعليقات العامة على هذه الحالة، انقر هنا.
