الشخصيات غير العامة بحاجة إلى حماية أكبر ضد التزييف العميق ذي الطابع الجنسي
تم النشر بتاريخ 23 حَزِيران 2026
ألغى مجلس الإشراف قرار شركة Meta بالإبقاء على مقطع فيديو، يُعتقد أنه تم إنشاؤه بواسطة الذكاء الاصطناعي، ينتحل شخصية امرأة على Instagram، وطالب المجلس Meta بتعزيز الحماية للشخصيات غير العامة المستهدفين بالتزييف العميق ذي الطابع الجنسي.
ما سبب أهمية هذا الأمر
يأتي قرار المجلس وتوصياته في وقت تعمل فيه حكومات، مثل تلك الموجودة في الهند، المملكة المتحدة و إسبانيا، على وضع قواعد جديدة للمنصات بشأن المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي. توصل الاتحاد الأوروبي (EU) إلى اتفاق لحظر أنظمة الذكاء الاصطناعي التي تنشئ محتوى جنسيًا صريحًا وحميميًّا من دون موافقة الأطراف المعنية أو مواد تتضمن إساءة جنسية للأطفال، مثل تطبيقات "إظهار العري" التي تعمل بالذكاء الاصطناعي. وتواجه منصات أخرى، مثل منصة (X)، تدقيقًا بسبب الصور الجنسية الصريحة التي تُنتجها روبوتات الدردشة المعتمدة على الذكاء الاصطناعي.
من الواضح أن حجم أدوات الذكاء الاصطناعي وسرعتها ومستوى تطورها قد أدى إلى انتشار عالمي للمحتوى الجنسي من دون موافقة والذي تم إنشاؤه بواسطة الذكاء الاصطناعي. يؤدي انتشار مقاطع الفيديو المزيفة بتقنية التزييف العميق ذات الطابع الجنسي إلى إلحاق الضرر بالسمعة وإلى أضرار نفسية، وهو ما يؤثر بشكل غير متناسب على النساء والفتيات، ويؤدي إلى تثبيط المشاركة في الحياة الاجتماعية والسياسية.
عن الحالة
في سبتمبر 2025، نشر أحد مستخدمي Instagram مقطع فيديو تبلغ مدته ثماني ثوانٍ، يُعتقد أنه تم إنشاؤه بواسطة الذكاء الاصطناعي، يظهر فيه امرأة وهي تضبط فستانها الضيق وتحرك جسدها، حيث ظهرت ملابسها الداخلية في بضعة إطارات.
وفي اليوم التالي، تم رصد المنشور من خلال نظام Meta الآلي، المُصمم لرصد المحتوى الذي قد يلحق الضرر بالأفراد ولا سيما المحتوى ذي الاحتمالية العالية للانتشار الواسع، إلا أنه لم يعط أولوية للمراجعة البشرية. وبعد بضعة أيام، أبلغ مستخدمان عن المحتوى، لكنه ظل على المنصة. قدم أحد المستخدمين طعنًا إلى Meta، ولكن المنشور لم يُراجع، فقام المستخدم بعد ذلك بتصعيد الطعن إلى المجلس. وأفاد المستخدم الذي قدم الطعن أمام المجلس بأن مقطع الفيديو تم إنشاؤه بواسطة الذكاء الاصطناعي، وأنه ينتحل شخصية صديقة له (كانت قد أغلقت حسابها بالفعل) من دون موافقتها.
عندما لفت المجلس انتباه Meta إلى هذه الحالة، راجع خبراء المحتوى المختصون في الشركة المنشور وخلصوا إلى أنه لا يستوجب الحذف بموجب معايير المجتمع الخاصة بالشركة، لكنهم جعلوا المنشور مرئيًا للبالغين فقط.
النتائج الرئيسية
يرى المجلس أن المنشور ينتهك الحظر المفروض على مشاركة الصور الحميمة من دون موافقة (NCII) بموجب سياسة Meta المتعلقة بالاستغلال الجنسي للبالغين. ويرجع ذلك إلى أن المنشور يستوفي المعايير الثلاثة للسياسة الخاصة بالصور الحميمة من دون موافقة – فهو يبدو محتوى غير تجاري في بيئة خاصة ظاهريًا؛ والمرأة الظاهرة في المنشور "شبه عارية"؛ وهناك غياب للموافقة.
أفادت شركة Meta أنه عند الإبلاغ عن المحتوى، لم تكن لدى الشركة أي مؤشرات على أن الشخص الظاهر في الفيديو هو "شخص حقيقي" لأن هذا الشخص لم يقم بالإبلاغ عن المحتوى. ومن بين المؤشرات التي تستخدمها Meta لتحديد عدم وجود موافقة، البلاغات المقدمة من الشخص الذي تظهر صورته، بالإضافة إلى التعليقات أو العناوين التي تشير إلى سياق انتقامي؛ أو البلاغات الواردة من مصادر مستقلة مثل أجهزة إنفاذ القانون أو وسائل الإعلام أو ممثلي الناجين من الصور الحميمة التي تم التقاطها دون موافقة.
يرى المجلس أن انتحال الشخصية بواسطة الذكاء الاصطناعي يُعتبر، بحكم الافتراض، غير قائم على الموافقة، وينبغي إضافته إلى مجموعة المؤشرات التي تستخدمها الشركة لإثبات عدم وجود موافقة.
إن توسيع نطاق مؤشرات عدم الموافقة بهذه الطريقة سيعود بالفائدة بشكل خاص على الشخصيات غير العامة الذين يستهدفون بصور حميمة تم التقاطها من دون موافقتهم، لأن ذلك سيخفف العبء الملقى على عاتق الضحايا في الإبلاغ عن الانتهاك بأنفسهم. وقد صرح الخبراء الذين استشارهم المجلس خلال دراسة هذه الحالة أن الضحايا يستفيدون أكثر من الإزالة السريعة وتوفير طرق أفضل للإبلاغ عن المحتوى لا تعتمد على الإبلاغ الذاتي.
وللحد من هذا العبء بشكل أكبر، يرى المجلس أنه ينبغي على Meta السماح للحسابات الموثقة لأصدقاء وعائلات الأشخاص المستهدفين بالإبلاغ عن المحتوى المخالف نيابةً عنهم.
يجب على Meta أيضًا تحسين عملية الإبلاغ عن الصور الحميمية من دون موافقة والطعن فيها على نطاق عالمي عبر منصاتها. كما ينبغي على Meta ومطوري النماذج اللغوية الكبيرة الأخرى تضمين إجراءات وقائية في تصميم الأنظمة وتطبيق نظام بيانات اعتماد المحتوى على نطاق واسع.
قرار مجلس الإشراف
يلغي المجلس قرار Meta بالإبقاء على المحتوى ويطالب بإزالة المنشور.
يوصي المجلس بأن تقوم شركة Meta بما يلي:
- ضرورة إضافة إشارة جديدة على عدم الموافقة في سياسة الاستغلال الجنسي للبالغين: السياق الذي يوضح أن المحتوى عبارة عن انتحال جنسي لأشخاص حقيقيين تم إنشاؤه بواسطة الذكاء الاصطناعي.
- السماح للمستخدمين بتحديد "حسابات مرتبطة"، مثل الأصدقاء الموثوقين أو أفراد الأسرة أو الزملاء، والذين يمكنهم الإبلاغ نيابةً عنهم عن الانتهاكات المحتملة لمعايير المجتمع التي تتضمن صورًا حميمية من دون موافقة، بما في ذلك انتحال الشخصية.
- تضمين الانتحال الجنسي الذي تم إنشاؤه بواسطة الذكاء الاصطناعي كفئة مستقلة في نماذج الإبلاغ عن المحتوى ونماذج الطعن القياسية، بحيث تكون منفصلة عن فئتي "الإساءة" أو "العري". وينبغي إتاحة نماذج الإبلاغ هذه على الصعيد العالمي.
يكرر المجلس أيضًا التوصيات التالية الصادرة عن قرارات سابقة:
- تغيير كلمة "مهين" الواردة في النص الذي يحظر "التعديل بالفوتوشوب للصور ذات الطابع الجنسي المهين" بكلمة "من دون موافقة"، واستبدال كلمة "فوتوشوب" بمصطلح أعم يشمل الوسائط التي تم التلاعب بها.
- تنفيذ بيانات اعتماد المحتوى (كما حددها التحالف من أجل مصدر المحتوى وأصالته (C2PA)) على نطاق واسع والتأكد من أنها واضحة ويمكن للمستخدمين الوصول إليها بشكل متسق كلما توفرت تفاصيل المصدر.
مزيد من المعلومات
لقراءة التعليقات العامة على هذه الحالة، انقر هنا.
