فيديو ذو طابع جنسي تم الإبلاغ عنه ومن إنشاء الذكاء الاصطناعي

الملخص

ألغى مجلس الإشراف قرار Meta بالإبقاء على فيديو على Instagram يُزعم أنه تم إنشاؤه بواسطة الذكاء الاصطناعي وينتحل شخصية امرأة، ويطالب المجلس Meta بتعزيز سبل الحماية للشخصيات غير العامة التي يستهدفها التزييف العميق ذو الطابع الجنسي.

أهمية هذا الأمر

تأتي قرارات المجلس وتوصياته في وقت تضع فيه الحكومات، كما في الهند والمملكة المتحدة وإسبانيا، قواعد جديدة للمنصات بشأن المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي. توصل الاتحاد الأوروبي (EU) إلى اتفاق لحظر أنظمة الذكاء الاصطناعي التي تنشئ محتوى جنسيًا صريحًا وحميميًا دون موافقة أصحابه أو مواد تتعلق بالاستغلال الجنسي للأطفال، مثل تطبيقات "التعري" بالذكاء الاصطناعي. تواجه منصات أخرى، مثل X، عمليات تدقيق بشأن صور جنسية صريحة أنشأتها برامج الدردشة التلقائية العاملة بالذكاء الاصطناعي.

بات من الواضح أن حجم أدوات الذكاء الاصطناعي وسرعتها وتطورها أدى إلى انتشار المحتوى ذي الطابع الجنسي الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي دون موافقة على مستوى العالم. يؤدي انتشار مقاطع فيديو التزييف العميق ذات الطابع الجنسي إلى أضرار نفسية وأضرار تمس السمعة، وهو ما يؤثر بشكل غير متناسب على النساء والفتيات، ويُحدث تأثيرًا مثبطًا للمشاركة في الحياة الاجتماعية والسياسية.

حول الحالة

في سبتمبر 2025، نشر أحد مستخدمي Instagram مقطع فيديو مدته ثماني ثوانٍ يُزعم أنه تم إنشاؤه بواسطة الذكاء الاصطناعي، يظهر فيه امرأة وهي تعدل فستانها الضيق وتحرك جسدها، مع ظهور ملابسها الداخلية في بضعة إطارات.

في اليوم التالي، حدّد نظام Meta التلقائي الذي يكتشف المحتوى الذي قد يسبب ضررًا للأفراد ويُحتمل انتشاره بشكل واسع هذا المنشور، لكن لم تُمنح له الأولوية للخضوع لمراجعة بشرية. وبعد بضعة أيام، أبلغ مستخدمان عن المحتوى، لكنه ظل متاحًا على المنصة. تقدّم أحد المستخدمين بطعن إلى Meta، لكن لم تتم مراجعة المنشور، فتقدّم المستخدم بعدها بطعن إلى المجلس. أفاد المستخدم الذي تقدّم بالطعن إلى المجلس بأن الفيديو تم إنشاؤه بواسطة الذكاء الاصطناعي، وأنه ينتحل شخصية صديقة له (كانت قد أغلقت حسابها بالفعل) دون موافقتها.

عندما لفت المجلس انتباه Meta إلى هذه الحالة، راجع خبراء الشركة المتخصصون المنشور وخلصوا إلى أنه لا يستحق الإزالة بموجب معايير المجتمع التي تتبعها الشركة، لكنهم جعلوا المنشور مرئيًا للبالغين فقط.

أهم النتائج

يرى المجلس أن المنشور ينتهك الحظر المفروض على مشاركة الصور الحميمية التي تتم مشاركتها دون موافقة أصحابها (NCII) بموجب سياسة الاستغلال الجنسي للبالغين لدى Meta. ويعود ذلك إلى استيفاء المنشور لجميع المعايير الثلاثة الواردة في السياسة بشأن الصور الحميمية التي تتم مشاركتها دون موافقة أصحابها؛ إذ يبدو محتوى غير تجاري في بيئة تبدو خاصة، وتظهر المرأة "شبه عارية"، مع غياب الموافقة.

ذكرت Meta أنه عند رصد المحتوى، لم يكن لدى الشركة أي مؤشر على أن المرأة الظاهرة في الفيديو هي "شخص حقيقي" لأنها لم تُبلِغ عن المحتوى. من بين الإشارات التي تستخدمها Meta لتحديد غياب الموافقة تقديم بلاغ من الشخص الظاهر في الصورة، إضافةً إلى الشروح التوضيحية أو التعليقات أو العناوين التي توحي بسياق انتقامي؛ أو تقديم بلاغات من مصادر مستقلة مثل جهات إنفاذ القانون أو الإعلام أو ممثلي الناجين من الصور الحميمية التي تتم مشاركتها دون موافقة أصحابها.

يرى المجلس أن انتحال الشخصية الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي يتم دون موافقة افتراضيًا، وأنه ينبغي إضافته إلى مجموعة الإشارات التي تستخدمها الشركة لإثبات غياب الموافقة.

يفيد توسيع نطاق إشارات غياب الموافقة بهذه الطريقة الشخصيات غير العامة المستهدفة بالصور الحميمية التي تتم مشاركتها دون موافقة أصحابها على وجه الخصوص؛ إذ يقلل العبء المُلقى على عاتق الضحايا للإبلاغ عن الإساءة بأنفسهم. أفاد الخبراء الذين استشارهم المجلس أثناء النظر في الحالة بأن الضحايا يستفيدون بأكبر قدر من الإزالة السريعة وطرق أفضل للإبلاغ عن المحتوى لا تعتمد على الإبلاغ الذاتي.

لتقليل هذا العبء بشكل أكبر، يرى المجلس أنه ينبغي لشركة Meta السماح للحسابات المُحقّقة من أصدقاء المستهدفين وعائلاتهم بالإبلاغ عن المحتوى المخالف نيابةً عنهم.

كما ينبغي لشركة Meta تحسين عملية الإبلاغ عن الصور الحميمية التي تتم مشاركتها دون موافقة أصحابها والطعن المتعلق بها على منصاتها على مستوى العالم. ينبغي لشركة Meta وغيرها من مطوّري نماذج اللغة الكبيرة دمج ضمانات الحماية في تصميم النظام وتطبيق بيانات اعتماد المحتوى على نطاق واسع.

قرار مجلس الإشراف

يلغي المجلس قرار Meta بالإبقاء على المحتوى ويطالب بإزالة المنشور.

يوصي المجلس Meta بما يلي:

• إضافة إشارة جديدة لغياب الموافقة في سياسة الاستغلال الجنسي للبالغين: سياق يوضح أن المحتوى عبارة عن انتحال شخصية ذي طابع جنسي لأشخاص حقيقيين تم إنشاؤه بواسطة الذكاء الاصطناعي.
• السماح للمستخدمين بتحديد "حسابات مرتبطة"، مثل الأصدقاء أو أفراد العائلة أو الأشخاص المقرّبين الموثوق بهم، يمكنها الإبلاغ نيابةً عنهم عن انتهاكات محتملة لمعايير المجتمع تتضمن صورًا حميمية تتم مشاركتها دون موافقة أصحابها، بما في ذلك حالات انتحال الشخصية.
• إدراج انتحال الشخصية ذي الطابع الجنسي الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي كفئة منفصلة في نماذج الإبلاغ عن المحتوى والطعن القياسية، تكون مستقلة عن "المضايقة" أو "العُري". وينبغي إتاحة نماذج الإبلاغ على مستوى العالم.

كما يكرر المجلس التوصيات التالية الواردة في قرارات سابقة:

• تغيير كلمة "مهينة" في الحظر المفروض على "الصور الجنسية المهينة المُعدّة ببرامج تعديل الصور" لتصبح "دون موافقة أصحابها"، واستبدال مصطلح "برامج تعديل الصور" بمصطلح أكثر عمومية لوصف الوسائط التي تم التلاعب بها.
• تطبيق بيانات اعتماد المحتوى (وفقًا للمعايير التي وضعها تحالف مصدر المحتوى ومصداقيته (C2PA)) على نطاق واسع وضمان ظهورها بشكل واضح ومتسق وإتاحة وصول المستخدمين إليها متى توفرت تفاصيل المصدر.

* توفر ملخصات الحالات نظرة عامة على الحالات ولا تُشكّل سابقة قانونية.

القرار الكامل بشأن الحالة

1. وصف الحالة ومعلومات أساسية عنها

أدى حجم أدوات الذكاء الاصطناعي وسرعتها وتطورها إلى انتشار المحتوى ذي الطابع الجنسي الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي دون موافقة. في عام 2023، توصل تقرير صادر عن منصة الأمان على الإنترنت Security Hero إلى أن 98‏% من مقاطع فيديو التزييف العميق على الإنترنت كانت "محتوى إباحيًا بالتزييف العميق" وأن 99‏% منها استهدف النساء. توصلت دراسة أجرتها عام 2024 المنظمة غير الحكومية Internet Matters إلى أن 99‏% من مقاطع التزييف العميق العارية تضمنت نساءً وفتيات.

في بيان مشترك صادر في فبراير 2026، حذّرت 61 هيئة معنية بحماية البيانات والخصوصية من مختلف أنحاء العالم من أن "التطورات الأخيرة، ولا سيما إنشاء الصور ومقاطع الفيديو بالذكاء الاصطناعي المدمج في منصات التواصل الاجتماعي المتاحة لعامة الأشخاص، أتاحت إنشاء صور حميمية دون موافقة أصحابها، وتصويرات تشهيرية، وغير ذلك من المحتوى الضار الذي يظهر فيه أفراد حقيقيون." وفقًا للمجموعة الإخبارية البريطانية Guardian، ولأن نماذج الذكاء الاصطناعي تنشئ الصور عن طريق التعلم من عناصر الصور الموجودة وتكرارها، "يُعتقد أن تطبيقات التعري مُدرَّبة على مجموعات بيانات ضخمة من الصور النسائية في معظمها لأنها تميل إلى العمل بأكبر قدر من الفعّالية على أجساد النساء."

كشف استبيان أُجري عام 2025 شمل أكثر من 16000 شخص بالغ في 10 بلدان عن أن النساء أبلغن عن أضرار وآثار سلبية أكبر من الرجال جراء الإساءة الجنسية من خلال الصور. تُظهرالأبحاث أن الإساءة الجنسية من خلال الصور دون موافقة تؤدي إلى أضرار نفسية وأضرار تمس السمعة - مثل الضيق والقلق والصدمة - والمضايقة والإهانة، وآثار على الهوية والاستقلالية والنزاهة، وتأثير مثبط للمشاركة في الحياة الاجتماعية والسياسية.

تؤكد التعليقات العامة المقدَّمة إلى المجلس أهمية مراعاة الاختلافات السياقية الثقافية والمحلية في تعريف المحتوى ذي الطابع الجنسي الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي دون موافقة وإنفاذ التدابير ضده، بما في ذلك انتحال الشخصية (راجع PC-32490 وPC-32481). وتقدّم أمثلة على الصور الحميمية التي تتم مشاركتها دون موافقة أصحابها والتي تم إنشاؤها بواسطة الذكاء الاصطناعي وتتضمن نساءً من الشخصيات العامة وغير العامة على حد سواء. أشارت المنظمة غير الحكومية Digital Rights Foundation Pakistan إلى أن خط المساعدة المعني بالأمان الرقمي التابع لها قد تلقى حالات متعددة من الإساءة من خلال الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي دون موافقة، بما في ذلك حالات استُهدفت فيها نساء باكستانيات يعشن في إيطاليا والمملكة المتحدة بالإساءة ثم وقعن ضحايا للقتل بدافع الشرف "إما هناك أو بعد إجبارهن على القدوم إلى باكستان" (PC-32481).

اتجه عدد كبير من الدوائر القضائية إلى تنظيم وتجريم مقاطع التزييف العميق دون موافقة أو الصور ذات الطابع الجنسي التي يتم إنشاؤها بواسطة الذكاء الاصطناعي. اقترحت إسبانيا تشريعًا يهدف إلى كبح مقاطع التزييف العميق بالذكاء الاصطناعي وتعزيز قواعد الموافقة المتعلقة باستخدام الصور والأصوات والملامح الشبيهة. أقرّت المكسيك "قانون أوليمبيا" الذي يركز على تعديلات تشريعية تتناول العنف الرقمي، الذي يشمل الصور الحميمية التي تتم مشاركتها دون موافقة أصحابها. أقرّت بيرو وكولومبيا قوانين تجعل استخدام مقاطع التزييف العميق عاملاً مشددًا للعقوبة في الجريمة. في كندا، يركز قانون حماية الصور الحميمية في كولومبيا البريطانية على نشر الصور الحميمية دون موافقة أصحابها.

في الولايات المتحدة، يجرّم قانون TAKE IT DOWN، الذي تم توقيعه ليصبح قانونًا في عام 2025، نشر الصور الحميمية التي تتم مشاركتها دون موافقة أصحابها أو التهديد بنشرها، بما في ذلك مقاطع التزييف العميق التي يتم إنشاؤها بواسطة الذكاء الاصطناعي، ويُلزم المنصات بإزالة هذا المحتوى في غضون 48 ساعة من الإشعار. تُلزم الحكومة الهندية المنصات بإزالة المحتوى الجنسي الذي يُنشر دون موافقة في غضون 24 ساعة من تقديم شكوى. طبّقت المملكة المتحدة مهلة إزالة مدتها 48 ساعة للصور الحميمية التي تتم مشاركتها دون موافقة أصحابها.

توصل الاتحاد الأوروبي (EU) إلى اتفاق لحظر أنظمة الذكاء الاصطناعي التي تنشئ محتوى جنسيًا صريحًا وحميميًا دون موافقة أصحابه أو مواد تتعلق بالاستغلال الجنسي للأطفال، مثل تطبيقات "التعري" بالذكاء الاصطناعي

تثير هذه الحالة اعتبارات نموذجية تتعلق بالسياسات والإنفاذ في سياق الصور ذات الطابع الجنسي التي يتم إنشاؤها بواسطة الذكاء الاصطناعي، بما في ذلك انتحال الشخصية ذي الطابع الجنسي. في عام 2024، ناقش المجلس حالتين لصور فاضحة بالذكاء الاصطناعي تشبه شخصيات عامة نسائية من الهند والولايات المتحدة. ( صور فاضحة بالذكاء الاصطناعي لشخصيات عامة نسائية). وبناءً على ذلك القرار، تنظر هذه الحالة في القضايا المتعلقة بانتحال الشخصية ذي الطابع الجنسي الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي، ولا سيما المتعلقة بالشخصيات غير العامة.

في سبتمبر 2025، نشر أحد مستخدمي Instagram مقطع فيديو مدته ثماني ثوانٍ يُزعم أنه تم إنشاؤه بواسطة الذكاء الاصطناعي، يظهر فيه امرأة ترتدي فستانًا ضيقًا. وفي الفيديو، تعدّل المرأة فستانها وتحرك جسدها، مع ظهور ملابسها الداخلية في بضعة إطارات.

في اليوم التالي، حدّد نظام Meta التلقائي الذي يكتشف المحتوى الذي قد يسبب ضررًا للأفراد ويمنحه الأولوية، ولا سيما المحتوى الذي يُحتمل انتشاره بشكل واسع، هذا المنشور. لكن لم تُمنح الأولوية لهذا البلاغ للخضوع لمراجعة بشرية.

وبعد بضعة أيام، أبلغ مستخدمان عن المحتوى بدعوى أنه محتوى إباحي، لكن لم تُمنح الأولوية لبلاغيهما للخضوع لمراجعة بشرية كذلك، وظل المحتوى على Instagram. تقدّم أحد المستخدمين المُبلِّغين بطعن إلى Meta لإزالة المحتوى، لكن لم تُمنح الأولوية للمنشور للخضوع لمراجعة بشرية مرة أخرى. وعندها، تقدَّم المستخدم بطعن إلى المجلس.

عندما لفت المجلس انتباه Meta إلى هذه الحالة، راجع خبراء Meta المتخصصون المنشور وخلصوا إلى أنه لا ينتهك معايير المجتمع التي تتبعها الشركة. ومن ثَم، لم تُزِل Meta المحتوى، لكنها قررت أنه ينبغي أن يكون مرئيًا للبالغين فقط بموجب سياسة العُري والنشاط الجنسي للبالغين.

2. المعلومات المقدَّمة من المستخدمين

عند تقديم الطعن إلى المجلس، ذكر المستخدم المُبلِّغ أن الفيديو تم إنشاؤه بواسطة الذكاء الاصطناعي وأنه انتحل شخصية امرأة، هي إحدى صديقات المستخدم المُبلِّغ، دون موافقتها، مما "ألحق الضرر بسمعتها". وأضاف المستخدم المُبلِّغ أن صديقته كانت قد أغلقت حسابها بالفعل، لكن المستخدم الناشر استمر في إنشاء محتوى ذي طابع جنسي باستخدام صورتها.

3. سياسات المحتوى والمعلومات المقدَّمة من Meta

تقييم المحتوى

توصلت Meta إلى أن المنشور لا ينتهك أي معيار من معايير المجتمع. لم تَعتبر Meta أن المنشور ينتهك سياسة العُري والنشاط الجنسي للبالغين، التي تحظر الصور الواقعية أو الرقمية لعُري البالغين، أو مقاطع الفيديو الواقعية أو الرقمية التي تركز على منطقة العانة أو ثديي المرأة أو الأرداف والمسجلة دون علم الشخص (أو الأشخاص) الظاهرين فيها. لكن بموجب هذه السياسة، تقصر الشركة إمكانية رؤية "الصور الواقعية أو الرقمية للأشخاص التي تكون فيها منطقة العانة أو الأرداف أو ثدي المرأة (أو ثدياها) محور تركيز الصورة" على المستخدمين الذين تتجاوز أعمارهم 18 عامًا. ولأن المرأة الظاهرة في الصورة تلفت الانتباه إلى منطقة العانة وملابسها الداخلية عبر تحريك ساقيها وتعديل ملابسها، قررت Meta أن المحتوى يندرج ضمن هذا البند من السياسة وأنه ينبغي أن يكون مرئيًا للبالغين فقط.

كما لم تَعتبر Meta أن المنشور ينتهك معيار المجتمع بشأن الاستغلال الجنسي للبالغين، الذي يحظر "مشاركة الصور الحميمية التي تتم مشاركتها دون موافقة أصحابها (NCII) أو التهديد بمشاركتها أو الإفصاح عن نية مشاركتها أو عرضها أو طلبها متى استوفت كل الشروط الثلاثة التالية:

أ. أن تكون الصور غير تجارية وتم التقاطها في مكان خاص.

ب. أن يكون الشخص الظاهر في الصور عاريًا (أو شبه عارٍ) أو منخرطًا في نشاط جنسي أو في وضع ينطوي على إيحاءات جنسية (ويشمل ذلك الصور التي تم إنشاؤها رقميًا أو بواسطة الذكاء الاصطناعي).

ج. غياب الموافقة على مشاركة الصور وهو ما يتبين من خلال وجود أي من الإشارات التالية:

1. سياق انتقامي (مثل الشرح التوضيحي أو التعليقات أو اسم الصفحة).

2. مصادر مستقلة مثل سجلات جهات إنفاذ القانون أو التقارير الإعلامية (مثل تسريبات الصور التي تؤكدها وسائل الإعلام) أو ممثلي أحد الناجين من الصور الحميمية التي تتم مشاركتها دون موافقة أصحابها (NCII).

3. بلاغ من شخص ظاهر في الصورة أو يحمل الاسم نفسه الذي يحمله الشخص الظاهر في الصورة."

وفقًا لشركة Meta، لم يكن لدى الشركة، وقت المراجعة بعد التصعيد، أي مؤشرات، مثل بلاغات المستخدمين، توحي بأن الشخص الظاهر في الصورة كان "شخصًا حقيقيًا". أشارت Meta إلى أنه لو كان الشخص الظاهر في الصورة قد أبلغ عن المحتوى، لكان قد انتهك سياسة الاستغلال الجنسي للبالغين. ويعود ذلك إلى أن الشخص الظاهر في الصورة يرتدي ملابس داخلية أو ملابس نوم، وهو ما يشكّل شبه عُري في انتهاك لبند سياسة مشاركة الصور الحميمية التي تتم مشاركتها دون موافقة أصحابها. وبالنسبة إلى Meta، لكان البلاغ بمثابة إشارة واضحة على غياب الموافقة.

كما لم تَعتبر Meta أن المنشور ينتهك سياسة المضايقة والإساءة التي تحظر، بموجب الفئة الأولى منها [حماية شاملة للجميع]، "الصور الجنسية المهينة المُعدّة ببرامج تعديل الصور أو الرسومات الجنسية المهينة". ويشمل ذلك المحتوى الذي تم تعديله للجمع بين رأس شخص حقيقي أو وجهه وجسد، حقيقي أو خيالي، يكون إما جنسيًا فاضحًا (عاريًا أو شبه عارٍ أو منخرطًا في نشاط جنسي) أو في وضع ينطوي على إيحاءات جنسية. ذكرت Meta أن الشخص الظاهر في الفيديو لا يظهر بطريقة جنسية فاضحة، حيث يكون عاريًا أو شبه عارٍ. وبالنسبة إلى Meta، فإن أوضاع الشخص بالمثل لا تشكّل أوضاعًا تنطوي على إيحاءات جنسية حسب التعريف الوارد في سياسة العُري والنشاط الجنسي للبالغين، التي تشمل المباعدة بين الساقين لكشف منطقة الأعضاء التناسلية أو الانحناء أثناء ارتداء ملابس داخلية أو ملابس شفافة.

ولأن السياسات الثلاث المشار إليها أعلاه تستخدم مصطلح "شبه العُري"، سأل المجلس Meta عن سبب اعتبار المنشور شبه عُري في انتهاك لبند سياسة مشاركة الصور الحميمية التي تتم مشاركتها دون موافقة أصحابها فقط. وردًّا على ذلك، أوضحت Meta أن الفرق الرئيسي بين شبه العُري والعُري هو كيفية تغطية الأجزاء الخاصة: ففي حالة شبه العُري، تكون مغطاة بجسم معتم فقط (على سبيل المثال، ملابس غير مرتداة) أو طبقة رقمية أو جسد بشري، مما يجعلها مرئية جزئيًا لكن غير مكشوفة بالكامل. وعلى النقيض من ذلك، لا ينطوي العُري الكامل على مثل هذه التغطية. وفقًا لشركة Meta، تشترك السياسات الثلاث في التعريف الأساسي نفسه لشبه العُري، وهو "إنسان غير مرتدٍ ملابس كاملة بطرق محددة" بحيث يكشف جزئيًا عن شعر العانة أو الأعضاء التناسلية أو حلمتي المرأة و/أو الأرداف، عندما تكون مغطاة بأجسام أو طبقات رقمية أو ملابس شفافة. لكن وفقًا لشركة Meta، فإن سياسة الاستغلال الجنسي للبالغين وحدها تبني على ذلك التعريف المشترك بإدراج مؤشرات إضافية لشبه العُري لأغراض تحديد الصور الحميمية المحتملة التي تتم مشاركتها دون موافقة أصحابها. وبالنسبة إلى Meta، يعكس هذا النهج الأوسع كيفية ظهور الإساءة من خلال الصور الحميمية التي تتم مشاركتها دون موافقة أصحابها على منصاتها، أي تجلّيها في شكل صور حميمية تُظهر أفرادًا في أماكن خاصة يرتدون ملابس داخلية أو غيرها من الملابس الحميمية، وهو ما يتجاوز أنواع العُري وشبه العُري المحددة بموجب السياسات الأخرى. وأوضحت Meta كذلك أنه في حين يُحتفظ بالتعريف الأساسي لإنفاذ سياسة العُري والنشاط الجنسي للبالغين تجنبًا لإزالة المحتوى غير الضار، فإن الصور الحميمية التي تتم مشاركتها دون موافقة أصحابها قد تفلت من الإنفاذ من دون التعريف الموسّع.

وفيما يتعلق بسياسة المضايقة والإساءة، أوضحت الشركة أن الصور الجنسية المهينة المُعدّة ببرامج تعديل الصور أو الرسومات الجنسية المهينة تُعتبر مهينة بطبيعتها، في حين أن الصور الحميمية التي تتم مشاركتها دون موافقة أصحابها تتضمن عادةً أشخاصًا حقيقيين تم التقاط صورهم في أماكن خاصة أو حميمية وتتم مشاركتها دون موافقتهم. ووفقًا لشركة Meta، نظرًا إلى أن هاتين تمثلان إساءتين متمايزتين، فإن التعريف الموسّع لشبه العُري بموجب سياسة الاستغلال الجنسي للبالغين لا ينطبق على بند سياسة الصور الجنسية المهينة المُعدّة ببرامج تعديل الصور أو الرسومات الجنسية المهينة بموجب سياسة المضايقة والإساءة.

وأوضحت Meta كذلك أنه على عكس معيار "شبه العُري"، يظل تعريف "الأوضاع التي تنطوي على إيحاءات جنسية"، المشار إليه أعلاه، كما هو في جميع السياسات.

وردًّا على أسئلة المجلس، ذكرت Meta أنه نظرًا إلى أن الشركة لم تكتشف على نطاق واسع بيانات تعريف المجلس الدولي للاتصالات الصحفية (IPTC) أو C2PA في مقاطع الفيديو وقت نشر المحتوى، وأن المستخدم الناشر لم يُفصِح ذاتيًا عن أن الفيديو تم إنشاؤه أو تعديله باستخدام الذكاء الاصطناعي، فإن المحتوى في هذه الحالة لم يُصنَّف بأنه تم إنشاؤه بالذكاء الاصطناعي أو تم التلاعب به. أشارت Meta إلى أن الشركة تُلزم المستخدمين بالإفصاح، من خلال أداة الإفصاح عن الذكاء الاصطناعي، كلما نشروا محتوى عاديًا يتضمن فيديو واقعيًا أو صوتًا واقعيًا تم إنشاؤه أو تعديله رقميًا، وأنه قد تُفرض على المستخدمين عقوبات لعدم الإفصاح الذاتي (راجع أيضًا قرار فيديو تم إنشاؤه بالذكاء الاصطناعي في النزاع بين إسرائيل وإيران).

تحديد الموافقة

أبلغت Meta المجلس بأن متطلبات تحديد غياب الموافقة تتفاوت عبر معايير المجتمع التي تتبعها. فيما يتعلق بالمحتوى ذي الطابع الجنسي، تتطلب بعض السياسات، مثل سياسة الاستغلال الجنسي للبالغين، وجود إشارات على غياب الموافقة للإزالة. أما السياسات الأخرى، مثل سياسة العُري والنشاط الجنسي للبالغين أو بنود معينة بموجب سياسة المضايقة والإساءة، فيُعتبر المحتوى مخالفًا لها بغض النظر عن موافقة الشخص الظاهر أو المستهدف. لكن بالنسبة إلى بنود أخرى من سياسة المضايقة والإساءة (لا تنطبق على هذه الحالة)، يلزم وجود إشارات على أن المحتوى غير مرغوب فيه لإزالته، وتُقيَّم هذه الإشارات بوصفها أداة قياس تقديرية لغياب الموافقة.

وعلى وجه التحديد، بموجب سياسة الاستغلال الجنسي للبالغين، يلزم وجود إشارات على غياب الموافقة لإزالة محتوى الصور الحميمية غير التجارية التي تتم مشاركتها دون موافقة أصحابها، بما في ذلك عندما يتم إنشاؤه بالذكاء الاصطناعي. أوضحت Meta أن الشركة تحدد ما إذا كانت الصور الجنسية الفاضحة أو ذات الإيحاءات الجنسية قد تمت مشاركتها دون موافقة استنادًا إلى سياق الانتهاك.

وأضافت الشركة أنها لا تشترط تقديم بلاغ مباشر من الشخص الظاهر في الصورة لإزالة الصور الحميمية التي تتم مشاركتها دون موافقة أصحابها إذا توفرت مؤشرات أخرى موثوقة على غياب الموافقة. وتشمل هذه المؤشرات بلاغات من أطراف خارجية مثل جهات إنفاذ القانون أو الإعلام أو الشركاء الموثوق بهم، إضافةً إلى القرائن السياقية داخل المحتوى نفسه (على سبيل المثال، في الشرح التوضيحي أو التعليقات أو اسم الصفحة) التي توحي بأن الصور تمت مشاركتها "بغرض الانتقام أو الإثارة".

وعلى النقيض من ذلك، تتم إزالة انتهاكات سياسة العُري والنشاط الجنسي للبالغين بغض النظر عن موافقة الشخص الظاهر في الصورة. وبالمثل، تُعتبر الانتهاكات المتعلقة بالصور الجنسية المهينة المُعدّة ببرامج تعديل الصور أو الرسومات الجنسية المهينة بموجب سياسة المضايقة والإساءة غير مرغوب فيها بطبيعتها، ومن ثَم لا يلزم الإبلاغ الذاتي.

وأخيرًا، بالنسبة إلى بنود أخرى من سياسة المضايقة والإساءة، تقيّم الشركة ما إذا كان المحتوى غير مرغوب فيه من خلال الإبلاغ الذاتي أو الإشارات السياقية. على سبيل المثال، ينطبق الإبلاغ الذاتي على قاعدة "الفئة الثالثة" بشأن الصور غير المرغوب فيها التي تم التلاعب بها (والتي لا يلزم أن تكون جنسية أو حميمية بطبيعتها)، لأنها ليست مهينة أو مسيئة بشكل واضح. في حين أنه بالنسبة إلى قاعدة "الفئة الأولى" المتعلقة بالتواصل غير المرغوب فيه الذي ينطوي على تحرش جنسي، لا يلزم الإبلاغ الذاتي، لكن Meta تراعي عدة إشارات لتحديد أن المحتوى يصوّر سلوكًا غير مرغوب فيه، بما في ذلك ما إذا كان المتلقي قد أبلغ ذاتيًا أو أعرب عن انزعاجه أو طلب التوقف عن التواصل أو اتخذ إجراءات على المنصة مثل الإبلاغ أو الحظر.

الإبلاغ من أطراف خارجية

أبلغت Meta المجلس بأن إشارات غياب الموافقة تنطبق بالتساوي على الصور الحميمية التي تتم مشاركتها دون موافقة أصحابها وتتضمن شخصيات عامة وشخصيات غير عامة. أوضحت الشركة أنها على نطاق واسع لا تعتمد على بلاغات من أطراف خارجية أخرى تدّعي أنها تتصرف نيابةً عن الشخص الظاهر في الصورة، لأن الشركة لا تستطيع التحقق على نحو موثوق مما إذا كانت تلك البلاغات مصرحًا بها أو موثوقة بطريقة أخرى. وبالنسبة إلى Meta، فإن الإبلاغ من أطراف خارجية، بخلاف القائمين بالإبلاغ الموثوق بهم أو الشركاء، ينطوي على خطر تقديم ادعاءات زائفة بشأن الصور الحميمية التي تتم مشاركتها دون موافقة أصحابها على محتوى ربما يكون قد شاركه بالغون موافقون، مما قد يؤدي إلى الإفراط في الإنفاذ.

وأضافت Meta أن الشركة تسمح لكل من الأشخاص الظاهرين في الصور والأطراف الخارجية بالإبلاغ عن انتحال الشخصية على فيسبوك وInstagram. تحظر سياسة تمثيل الهوية الحقيقية في Meta الحسابات التي تنتحل شخصية شخص آخر أو كيان آخر باستخدام صورته أو اسمه أو ملامحه الشبيهة. أشارت Meta إلى أنها تحظر الحسابات التي تضلّل الآخرين عمدًا بشأن هويتها من خلال، على سبيل المثال، إجراء تغييرات متكررة أو ملحوظة على تفاصيل الهوية، أو معلومات مضللة في الملف الشخصي. أوضحت الشركة أن هذه السياسة تركز على انتحال الشخصية على مستوى الحساب لا على مستوى المحتوى، لأن المستخدمين قد يشاركون محتوى الآخرين دون نية صريحة للخداع (على سبيل المثال، نشر صور الأصدقاء). ترى Meta أن الإنفاذ على مستوى المحتوى في هذه السياقات قد يؤدي إلى الإفراط في الإنفاذ. وأضافت الشركة أن انتحال الشخصية على مستوى المحتوى يخضع للإنفاذ بشكل منفصل عند التصعيد بموجب سياسة عمليات الاحتيال والخداع والممارسات الخادعة، على سبيل المثال، بالنسبة إلى المحتوى الذي يستخدم صورة شخص مشهور دون تصريح في محاولة للخداع أو الاحتيال.

طرح المجلس أسئلة بشأن اعتبارات السياسة والإنفاذ لتحديد غياب الموافقة على نطاق واسع، ولا سيما للمحتوى الذي يتضمن شخصيات غير عامة، وسبل تقديم بلاغات من أطراف خارجية نيابةً عن الأشخاص الظاهرين في الصور، بخلاف بلاغات جهات إنفاذ القانون والإعلام والشركاء الموثوق بهم، والعقوبات المفروضة على عدم الإفصاح الذاتي عن استخدام الذكاء الاصطناعي في إنشاء الفيديو أو الصوت، والتفاعل بين عدة معايير مجتمع ذات صلة. وأجابت Meta عن جميع الأسئلة.

4. التعليقات العامة

تلقى المجلس 13 تعليقًا عامًا استوفت شروط التقديم. قُدِّمت ثلاثة من التعليقات من أوروبا، وثلاثة من الولايات المتحدة وكندا، واثنان من آسيا والمحيط الهادئ والأوقيانوس، واثنان من وسط وجنوب آسيا، واثنان من أفريقيا جنوب الصحراء الكبرى، وواحد من أمريكا اللاتينية ومنطقة البحر الكاريبي. للاطلاع على التعليقات العامة التي وافق أصحابها على نشرها، انقر هنا.

تناولت المعلومات المقدَّمة الموضوعات التالية: الآثار المترتبة على وضع تعريف موحّد للمحتوى ذي الطابع الجنسي، في ضوء الاختلافات الثقافية والمحلية؛ والحاجة إلى تبسيط نهج السياسات تجاه الصور الحميمية التي تتم مشاركتها دون موافقة أصحابها؛ وتقييد المحتوى بسن بوصفه تدبيرًا غير مناسب للتعامل مع الصور الحميمية التي تتم مشاركتها دون موافقة أصحابها؛ وأهمية ومزايا السماح للأطراف الخارجية بالإبلاغ نيابةً عن الناجين من الصور الحميمية التي تتم مشاركتها دون موافقة أصحابها؛ وتوصيات بشأن تحديد غياب الموافقة على نطاق واسع، وتحسين إنفاذ التدابير ضد الصور الحميمية التي تتم مشاركتها دون موافقة أصحابها، وتطبيق ضمانات حماية على مستوى المنتج.

في مارس 2026، وفي إطار التواصل المستمر مع المساهمين، تشاور المجلس مع ممثلي منظمات الدفاع والأكاديميين والمنظمات الحكومية الدولية وغيرهم من الخبراء بشأن مسألة الإشراف على المحتوى ذي الطابع الجنسي الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي دون موافقة. قدّم المشاركون رؤى بشأن استخدام المحتوى ذي الطابع الجنسي الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي وانتشاره، بما في ذلك من خلال حالات انتحال الشخصية. وسلّطوا الضوء على أهمية التعامل مع انتحال الشخصية ذي الطابع الجنسي بالذكاء الاصطناعي دون موافقة بوصفه محتوى جنسيًا دون موافقة، لا مجرد مسألة عُري للبالغين. واقترحوا أنه ينبغي لشركات التواصل الاجتماعي اعتماد افتراض غياب الموافقة، نظرًا إلى خطر الضرر الجسيم الناجم عن الصور الحميمية التي تتم مشاركتها دون موافقة أصحابها، بما في ذلك المضايقة والاستغلال والضرر الذي يمس السمعة. أشار بعض المشاركين إلى أنه ينبغي منح الشخصيات غير العامة مستوى أعلى من الحماية، لأنها غالبًا ما تتمتع بإمكانية وصول أقل إلى الإعلام والموارد الأخرى للإبلاغ عن الإساءة. وأكد آخرون أهمية الإشراك المباشر للناجين من إساءة الصور الحميمية التي تتم مشاركتها دون موافقة أصحابها في عمليات تصميم السياسات والإنفاذ.

5. تحليل مجلس الإشراف

اختار المجلس هذه الحالة لتقييم نهج Meta تجاه المحتوى ذي الطابع الجنسي الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي، ولا سيما في السياق الذي تُستخدم فيه صورة شخص أو ملامحه الشبيهة بطريقة جنسية فاضحة أو ذات إيحاءات جنسية دون موافقته. تتعلق هذه الحالة باثنتين من الأولويات الاستراتيجية السبع للمجلس، وهما الأتمتة والذكاء الاصطناعي، والنوع الاجتماعي.

أجرى المجلس تحليلاً لقرار Meta بشأن هذه الحالة في ضوء سياسات المحتوى التي تتبعها الشركة، وقيمها، ومسؤولياتها تجاه حقوق الإنسان. كما قيّم المجلس الآثار المترتبة على هذه الحالة فيما يتعلق بنهج Meta الأوسع في حوكمة المحتوى.

5.1 الامتثال لسياسات المحتوى لدى Meta

1. قواعد المحتوى

يرى المجلس أن المنشور ينتهك الحظر الذي تفرضه Meta على مشاركة الصور الحميمية التي تتم مشاركتها دون موافقة أصحابها بموجب سياسة الاستغلال الجنسي للبالغين التي تتبعها. يمثّل هذا المنشور انتحال شخصية ذا طابع جنسي تم إنشاؤه بواسطة الذكاء الاصطناعي بوصفه نوعًا من الإساءة الجنسية من خلال الصور، حيث تُستخدم صورة شخص أو ملامحه الشبيهة بطريقة ذات إيحاءات جنسية أو فاضحة دون موافقة الشخص.

لكي ينتهك المحتوى قاعدة Meta بشأن الصور الحميمية التي تتم مشاركتها دون موافقة أصحابها، ينبغي أن يستوفي الشروط المنصوص عليها في سياسة الاستغلال الجنسي للبالغين، والمحتوى في هذه الحالة يستوفي الشروط الثلاثة جميعها. أولًا، يبدو أن الفيديو ذو طبيعة غير تجارية ويبدو أنه تم التقاطه في مكان خاص. ثانيًا، ترتدي المرأة الظاهرة في الصورة ملابس داخلية، وهو ما يستوفي تعريف شبه العُري بموجب السياسة.

وفيما يتعلق بالشرط الثالث، يلاحظ المجلس أن انتحال الشخصية الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي يتم دون موافقة افتراضيًا. على الرغم من أن Meta تحتج بأن المرأة الظاهرة في الصورة ليست "شخصًا حقيقيًا"، فقد ذكر المستخدم في طعنه المقدَّم إلى المجلس أن الفيديو تم إنشاؤه بواسطة الذكاء الاصطناعي وأنه انتحل شخصية إحدى صديقاته، التي أغلقت حسابها، على الأرجح بسبب استمرار المستخدم الناشر في استخدام صورتها لإنشاء محتوى ذي طابع جنسي. يساور المجلس القلق من أن الشركة تخلُص إلى أن الشخص الظاهر في الصورة ليس "شخصًا حقيقيًا" استنادًا فقط إلى عدم تقديم المستخدم لبلاغ. ويوضح ذلك وجود فجوة عملية في تحديد الموافقة لإنفاذ قواعد Meta بشأن الصور الحميمية التي تتم مشاركتها دون موافقة أصحابها ومحتوى انتحال الشخصية ذي الطابع الجنسي الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي، ولا سيما المتعلق بالشخصيات غير العامة.

على الرغم من أن تحديث Meta في أكتوبر 2025 لسياسة الاستغلال الجنسي للبالغين ليشمل الصور التي يتم إنشاؤها بواسطة الذكاء الاصطناعي يمثّل خطوة ضرورية إلى الأمام، فإنه نظرًا إلى انتشار محتوى انتحال الشخصية ذي الطابع الجنسي الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي على مستوى العالم، يلزم اتخاذ خطوات إضافية. ونظرًا إلى الأضرار الجسيمة لحالات انتحال الشخصية ذي الطابع الجنسي التي يتم إنشاؤها بواسطة الذكاء الاصطناعي، ينبغي للشركة أن تجعل إعطاء الأولوية للسلامة هو الوضع الافتراضي.

وتحقيقًا لهذه الغاية، وتماشيًا مع التوصيات السابقة الصادرة عن المجلس (راجع على سبيل المثال صور فاضحة بالذكاء الاصطناعي لشخصيات عامة نسائية، التوصية رقم 4)، ينبغي لشركة Meta توسيع نطاق إشارات غياب الموافقة، ولا سيما للشخصيات غير العامة. وفي حين يرى المجلس، تماشيًا مع الملاحظات التي أبداها الخبراء وأصحاب المصلحة، أن النهج الأوسع الموصى به سابقًا (اعتبار الإنشاء بالذكاء الاصطناعي إشارة سياقية على غياب الموافقة بالنسبة إلى الصور الحميمية التي تتم مشاركتها دون موافقة أصحابها بموجب سياسة الاستغلال الجنسي للبالغين) يعالج بشكل أفضل الأضرار الناجمة عن هذا المحتوى، فإن Meta لم تنفّذ التوصية بشكل فعلي.

ومن ثَم، على مستوى السياسة، ينبغي للشركة على أقل تقدير النظر في الإدراج الصريح لانتحال الشخصية ذي الطابع الجنسي لأشخاص حقيقيين الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي بوصفه إشارة سياقية على الصور الحميمية التي تتم مشاركتها دون موافقة أصحابها لتجنب الفجوات المحتملة في السياسة والإنفاذ. ويتطلب ذلك تقييمًا سياقيًا للإشارات في المحتوى (على سبيل المثال، الشرح التوضيحي للمنشور أو اسم الصفحة أو التعليقات)، على غرار، مثلاً، تقييم السياق الانتقامي بوصفه إشارة على غياب الموافقة بموجب سياسة الاستغلال الجنسي للبالغين. ومن شأن تحسين عمليات الإبلاغ والبلاغات الواردة من الحسابات المرتبطة المحددة، كما يرد بالمناقشة أدناه، أن يوفر أيضًا إشارات ذات صلة لعمليات التقييم هذه. وفي الوقت نفسه، فإن غياب هذه الإشارات السياقية مقترنًا بإفصاح المستخدم ذاتيًا عن استخدام أدوات الذكاء الاصطناعي لإنشاء صور ذات طابع جنسي، قد يدعم الاستنتاج بأن المحتوى لا يصوّر شخصًا حقيقيًا، ومن ثَم لا يُعد انتحالًا للشخصية. وهذا النهج محدد بدقة كافية لمنع الإفراط في الإنفاذ مع رصده لصور انتحال الشخصية ذات الطابع الجنسي المخالفة التي يتم إنشاؤها بواسطة الذكاء الاصطناعي.

يساور المجلس القلق أيضًا من أن نهج Meta الحالي يركز بشكل أساسي على الحسابات التي تنتحل شخصية شخص آخر أو كيان آخر بموجب سياسة تمثيل الهوية الحقيقية، وانتحال شخصية الشخصيات العامة على مستوى المحتوى بموجب سياسة عمليات الاحتيال والخداع والممارسات الخادعة. ولا يأخذ هذا النهج في الحسبان الأضرار الحادة الموثقة جيدًا لصور انتحال الشخصية ذات الطابع الجنسي التي يتم إنشاؤها بواسطة الذكاء الاصطناعي على الشخصيات غير العامة.

2. إجراء الإنفاذ

تثير هذه الحالة مصدري قلق متمايزين ومترابطين بشأن الإنفاذ ضد الصور الحميمية التي تتم مشاركتها دون موافقة أصحابها. يتعلق الأول بالقيود المفروضة على عدد الكيانات بخلاف الشخص الظاهر في الصورة التي يمكنها الإشارة إلى غياب الموافقة بموجب سياسة الاستغلال الجنسي للبالغين؛ ويتعلق الثاني بفعّالية عمليات الإبلاغ والطعن الحالية. ومن شأن إدخال تغييرات على كلتا الآليتين أن يؤدي إلى تحسين الإنفاذ ضد الصور الحميمية التي تتم مشاركتها دون موافقة أصحابها، بما في ذلك انتحال الشخصية ذي الطابع الجنسي الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي. كما توضح هذه الحالة الحاجة إلى دمج ضمانات الحماية في تصميم النظام وتطبيق بيانات اعتماد المحتوى على نطاق واسع.

تحديد الحسابات المرتبطة

توحي ردود Meta على أسئلة المجلس بأن المسار الفعّال الوحيد حاليًا أمام الشخصيات غير العامة لإثبات غياب الموافقة هو الإبلاغ الذاتي.

لا تكاد الشخصيات غير العامة تستفيد مباشرةً من بلاغات جهات إنفاذ القانون والإعلام المقدَّمة إلى Meta، إذ يتعين عليها، على سبيل المثال، تقديم شكوى منفصلة إلى جهات إنفاذ القانون والاعتماد على قرار المؤسسة العامة المعنية باتخاذ إجراء بشأنها. إضافةً إلى ذلك، نظرًا إلى انتشار المحتوى ذي الطابع الجنسي الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي، بما في ذلك انتحال الشخصية، فإن البلاغات الواردة من الشركاء الموثوق بهم وممثلي الناجين من الإساءة من خلال الصور الحميمية التي تتم مشاركتها دون موافقة أصحابها من المرجَّح أن توفر فرصة محدودة للتأكد من غياب الموافقة. وفي هذا الصدد، في حين أن إدراج البلاغات الواردة من ممثلي الناجين من الإساءة من خلال الصور الحميمية التي تتم مشاركتها دون موافقة أصحابها بوصفها مصدرًا إضافيًا لإثبات غياب الموافقة يمثّل خطوة إيجابية، فإن هذه البلاغات أقرب إلى بلاغات الشركاء الموثوق بهم ومن المرجَّح أن تكون غير كافية للضحايا لأول مرة.

تسلّط التعليقات العامة المقدَّمة إلى المجلس الضوء على أثر نهج Meta الحالي في تحديد غياب الموافقة على نطاق واسع على ضحايا الإساءة من خلال الصور، بما في ذلك انتحال الشخصية (راجع PC–32480 وPC-32489 وPC-32484). وتذهب المعلومات المقدَّمة إلى أن هذا النهج يلقي العبء على عاتق الضحايا وينطوي على خطر إعادة الإيذاء وإعادة التعرض للصدمة. إضافةً إلى ذلك، قد يكون الإبلاغ الذاتي صعبًا أيضًا عندما لا يمتلك المستخدمون المتأثرون حسابات نشطة على منصات Meta لمراقبة المحتوى المخالف والإبلاغ عنه، كما في هذه الحالة. يلاحظ الخبراء الذين استشارهم المجلس أن أكثر الأنظمة فعّالية للإبلاغ عن استخدام الصورة والملامح الشبيهة في المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي هي تلك التي تقلل العبء على الضحايا، وتتيح الإبلاغ المُجمّع أو العنقودي، بما يسمح بالإبلاغ عن منشورات متعددة في الوقت نفسه، وتُطلق الإزالة السريعة.

لمعالجة بعض هذه الفجوات في الإنفاذ، أوصى المجلس في حالة صور فاضحة بالذكاء الاصطناعي لشخصيات عامة نسائية بأنه إذا كانت الجوانب العارية أو ذات الطابع الجنسي من المحتوى قد تم إنشاؤها بواسطة الذكاء الاصطناعي أو إعدادها ببرامج تعديل الصور أو التلاعب بها بطريقة أخرى، حتى لو لم يكن هذا المحتوى "غير تجاري أو تم التقاطه في مكان خاص"، ينبغي اعتبار ذلك إشارة على غياب الموافقة. على الرغم من أن Meta، ردًّا على ذلك، حدّثت تعريف الصور الحميمية التي تتم مشاركتها دون موافقة أصحابها ليشمل الصور التي تم إنشاؤها رقميًا أو بواسطة الذكاء الاصطناعي، فإن المجلس لا يعتبر التوصية قد نُفّذت - بل أُعيدت صياغتها - لأن الشركة لا تزال لا تعتبر الإنشاء بالذكاء الاصطناعي إشارة على غياب الموافقة.

ومن ثَم، في مواجهة التزايد المتسارع لصور انتحال الشخصية ذات الطابع الجنسي التي يتم إنشاؤها بواسطة الذكاء الاصطناعي، ولتقليل العبء على ضحايا هذه الإساءة، تدعو الحاجة إلى آليات إضافية للتأكد من غياب الموافقة. وفي هذا الصدد، ينبغي لشركة Meta السماح للمستخدمين بتحديد حسابات مرتبطة للإبلاغ عن انتهاكات محتملة لمعايير المجتمع تتضمن صورًا حميمية تتم مشاركتها دون موافقة أصحابها، بما في ذلك حالات انتحال الشخصية، وذلك بموافقتهم ونيابةً عنهم. ولمعالجة مخاوف مماثلة في سياق مختلف، سبق أن قدّم المجلس توصيات بشأن تحديد أطراف خارجية لتقديم بلاغات بموجب بنود سياسة المضايقة والإساءة التي تتطلب الإبلاغ الذاتي (راجع حالة مقاطع فيديو نقاشية حول الهوية الجنسية، التوصية رقم 3). ويرى بعض أعضاء المجلس أنه ينبغي لشركة Meta النظر أيضًا في إتاحة فرص إبلاغ مماثلة للأطراف الخارجية التي تمتلك حساب Meta وتتعرف على أشخاص ظاهرين في المحتوى لا يمتلكون حسابًا (كما في الحالة الراهنة)، أو لم يتم تحديدهم كحساب مرتبط، للإبلاغ عن المحتوى.

عمليات الإبلاغ والطعن

يشير عدد من التعليقات العامة إلى أوجه القصور في عمليات الإبلاغ والطعن الحالية، مؤكدًا أهمية المراجعة الفعلية والفعّالة للبلاغات المتعلقة بالصور الحميمية التي تتم مشاركتها دون موافقة أصحابها والتي يتم إنشاؤها بواسطة الذكاء الاصطناعي، بما في ذلك انتحال الشخصية (راجع PC–32481 وPC-32489 وPC-32484).

تذكر صفحة مركز المساعدة في Meta بشأن الإبلاغ عن الصور الحميمية التي تتم مشاركتها دون موافقة أصحابها أنه يمكن للمستخدمين الإبلاغ عن هذه الصور من خلال قنوات الإبلاغ الحالية للمستخدمين أو من خلال نموذج إبلاغمتخصص، وهو متاح حاليًا فقط لسكان ولايتي تكساس وفلوريدا الأمريكيتين (في حين تشير الشركة إلى أنها "بصدد إتاحة النموذج المتخصص لجميع سكان الولايات المتحدة"). يتضمن نموذج الإبلاغ المتخصص سببين للبلاغ: الصور الحميمية (المُعرَّفة بأنها "صور عارية أو شبه عارية أو محتوى جنسي فاضح تتم مشاركته دون موافقة")، والصور الحميمية بالتزييف العميق (المُعرَّفة بأنها "محتوى جنسي مزيف أو تم إنشاؤه بواسطة الذكاء الاصطناعي ليبدو كأنه شخص ما دون موافقته").

تُعد الإساءة المتعلقة بالصور الحميمية التي يتم نشرها دون موافقة أصحابها والتي يتم إنشاؤها بواسطة الذكاء الاصطناعي، بما في ذلك حالات انتحال الشخصية ذات الطابع الجنسي، مسألة عالمية (راجع على سبيل المثال PC-32484 وPC-32487 وPC-32490 وPC-32481 وPC-32480). ومن ثَم، ينبغي أن يتمتع جميع المستخدمين على منصات Meta بمسارات سهلة الوصول للإبلاغ عن هذا المحتوى على مستوى العالم وتوجيهه إلى قنوات مراجعة مخصصة. وينبغي أن يشمل ذلك إدراج انتحال الشخصية ذي الطابع الجنسي الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي كفئة منفصلة في نماذج الإبلاغ والطعن العادية، تكون مستقلة عن المضايقة أو العُري. ونظرًا إلى أن نموذج الإبلاغ المتخصص متاح فقط لمستخدمين معينين في الولايات المتحدة، ينبغي اعتماد هذه التغييرات في نماذج الإبلاغ والطعن العادية، حيث يبلّغ المستخدمون حول العالم عن المحتوى على منصات Meta. يلاحظ الخبراء الذين استشارهم المجلس أن الاعتماد على فئات عامة للإبلاغ مثل العُري أو المضايقة كثيرًا ما يؤدي إلى نتائج غير متسقة.

آليات الإنفاذ الإضافية

وفي الوقت نفسه، يكرر المجلس توصيته في حالة فيديو تم إنشاؤه بالذكاء الاصطناعي في النزاع بين إسرائيل وإيران، التي دعت Meta إلى تطبيق بيانات اعتماد المحتوى (وفقًا للمعايير التي وضعها C2PA) على نطاق واسع وضمان ظهورها بشكل واضح ومتسق وإتاحة وصول المستخدمين إليها متى توفرت تفاصيل المصدر، بما يتجاوز أنظمة الواجهة الخلفية والاكتشاف الداخلي. ومن شأن ذلك أن يضمن حصول كل من Meta والمستخدمين على إشارات موثوقة إضافية على أن المحتوى الجنسي قد يكون تم إنشاؤه بواسطة الذكاء الاصطناعي أو تم التلاعب به. كما سيكون بمثابة تدبير جديد لإنفاذ الإشارة الدالة على غياب الموافقة أو عدم الرغبة. ويكتسي ذلك أهمية خاصة بالنسبة إلى الشخصيات غير العامة التي كثيرًا ما تتعرض للمضايقة والضرر الذي يمس السمعة، بل وحتى تهديدات لسلامتها البدنية قد تعطّل حياتها وتلحق بها الوصم والعزلة. ومع أن الأضرار التي تلحق بكل من الشخصيات العامة وغير العامة جسيمة، فإن الشخصيات العامة تتمتع بمسارات إبلاغ أكثر فعلية من الشخصيات غير العامة. وردًّا على هذه التوصية، التزمت Meta بتحسين طريقة عرضها لتفاصيل مصدر المحتوى للمستخدمين، وأقرّت بأن "هناك عملًا مهمًا في المستقبل لتوسيع نطاق التدخلات عبر أنواع المحتوى الأخرى حتى يتمكن المستخدمون من التمييز بشكل أفضل بين المحتوى الذي تم إنشاؤه بالكامل بواسطة الذكاء الاصطناعي والمحتوى الذي تم تعديله جزئيًا فقط بأدوات الذكاء الاصطناعي، وكيفية ضمان تجربة متسقة عبر فيسبوك وInstagram وThreads."

كما تسلّط تقارير الخبراء والمعلومات المقدَّمة إلى المجلس الضوء على أهمية دمج ضمانات الحماية في تصميم النظام. يشير تقرير صدر عام 2023 عن شركة تحليل الشبكات الاجتماعية Graphika إلى أن الصور الحميمية التي تتم مشاركتها دون موافقة أصحابها والتي يتم إنشاؤها بواسطة الذكاء الاصطناعي "انتقلت من خدمة مخصصة متاحة على منتديات إنترنت متخصصة إلى نشاط تجاري على الإنترنت يتسم بالتلقائية وسعة النطاق ويوظّف عددًا هائلًا من الموارد لتحقيق الأرباح من خدماته وتسويقها." ووفقًا لتقرير صدر عام 2025 عن المنظمة غير الحكومية AI Forensics، تمت الموافقة على أكثر من 3000 إعلان إباحي وتداولها عبر نظام الإعلانات في Meta في العام السابق، وهي إعلانات تضمنت أيضًا وسائط إباحية تم إنشاؤها بواسطة الذكاء الاصطناعي، مثل الصور ومقاطع الفيديو والمقاطع الصوتية. ومن ثَم، ينبغي أن تشمل ضمانات الحماية على مستوى النظام تدقيق الإعلانات الإباحية التي يتم إنشاؤها بواسطة الذكاء الاصطناعي وإنفاذ التدابير ضدها، وضمان الأمان من خلال التصميم في تدريب النماذج الرائدة ونشرها وحوكمتها، مع مراعاة الآثار على النساء والفتيات.

وأخيرًا، نظر المجلس أيضًا، عند تقييم هذه الحالة، في حلول واسعة النطاق لحماية صور المستخدمين وملامحهم الشبيهة، مثل ميزات الاشتراك الاختياري لمطابقة ملامح وجه المستخدم وتمييزها مقابل الاستخدامات المحتملة دون موافقة لصورته أو ملامحه الشبيهة (راجع على سبيل المثال PC-32489 وPC-32484). لكن استُبعدت هذه الآليات، لأن تطبيقها يعتمد بشكل أساسي على توظيف تقنيات التعرف على الوجه، التي تنطوي على مخاوف كبيرة تتعلق بالخصوصية والمراقبة والتحيز، وأثر غير متناسب موثّق على المجتمعات المهمشة.

5‏.2. الامتثال لمسؤوليات Meta المتعلقة بحقوق الإنسان

يرى المجلس أن إزالة المحتوى تتوافق مع مسؤوليات Meta المتعلقة بحقوق الإنسان.

حرية التعبير (المادة 19 من العهد الدولي الخاص بالحقوق المدنية والسياسية)

تنص المادة 19 من العهد الدولي الخاص بالحقوق المدنية والسياسية على حماية واسعة للتعبير، بما في ذلك التعبير الذي قد يُعتبر "مسيئًا للغاية" (التعليق العام رقم 34، الفقرة 11، راجع أيضًا الفقرة 17 من تقرير مقرر الأمم المتحدة الخاص المعني بحرية التعبير لسنة 2019، A/74/486).

عندما تفرض الدولة قيودًا على حرية التعبير، يجب أن تفي تلك القيود بمتطلبات الشرعية والهدف المشروع والضرورة والتناسب (المادة 19، الفقرة 3، العهد الدولي الخاص بالحقوق المدنية والسياسية). وغالبًا ما يُشار إلى هذه المتطلبات باسم "الاختبار الثلاثي". ويستند المجلس إلى هذا الإطار لتفسير مسؤوليات Meta المتعلقة بحقوق الإنسان بما يتماشى مع مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان، والتي التزمت بها Meta في سياسة حقوق الإنسان الخاصة بالشركة. ويطبق المجلس ذلك على قراراته بشأن المحتوى الفردي الخاضع للمراجعة، وما تكشفه هذه القرارات عن نهج Meta الأوسع في حوكمة المحتوى. وكما ذكر مقرر الأمم المتحدة الخاص المعني بحرية التعبير، فإنه على الرغم من أن "الشركات لا تتحمل التزامات الحكومات، فإن تأثيرها من نوع يتطلب منها تقييم النوع نفسه من الأسئلة بشأن حماية حق مستخدميها في حرية التعبير" (A/74/486، الفقرة 41).

1. الشرعية (وضوح القواعد وسهولة الوصول إليها)

يتطلب مبدأ الشرعية أن تكون القواعد التي تقيِّد حرية التعبير واضحة ويسهُل الوصول إليها، وأن تُصاغ بدقة كافية لتمكين الفرد من ضبط سلوكه تبعًا لها (التعليق العام رقم 34، الفقرة 25). بالإضافة إلى ذلك، "لا يجوز لهذه القواعد أن تمنح الأشخاص المسؤولين عن تنفيذها سلطة تقديرية مطلقة في تقييد حرية التعبير"، ويجب أن "تنص على توجيهات وافية للمكلفين بتنفيذها لتمكينهم من التحقق على النحو المناسب من أنواع التعبير التي تخضع للتقييد وتلك التي لا تخضع للتقييد" (المرجع نفسه). ذكر مقرر الأمم المتحدة الخاص المعني بحرية التعبير أنه عند تطبيقها على قيام الجهات الفاعلة الخاصة بحوكمة الخطاب على الإنترنت، يجب أن تكون القواعد واضحة ومحددة (A/HRC/38/35، الفقرة 46). ينبغي أن يتمكن مستخدمو منصات Meta من الوصول إلى القواعد وفهمها، كما ينبغي تزويد مراجعي المحتوى بإرشادات واضحة بشأن إنفاذها.

في حالة صور فاضحة بالذكاء الاصطناعي لشخصيات عامة نسائية، سلّط المجلس الضوء على عدة مخاوف بشأن وضوح قواعد Meta المتعلقة بالصور الحميمية التي تتم مشاركتها دون موافقة أصحابها وسهولة الوصول إليها. أوصى المجلس Meta بما يلي:

• إدراج جميع القواعد ذات الصلة ضمن سياسة الاستغلال الجنسي للبالغين، مع نقل بنود سياسة "الصور الجنسية المهينة المُعدّة ببرامج تعديل الصور" من سياسة المضايقة والإساءة إليها (التوصية رقم 1).
• تغيير كلمة "مهينة" في الحظر المفروض على "الصور الجنسية المهينة المُعدّة ببرامج تعديل الصور" لتصبح "دون موافقة أصحابها"، نظرًا إلى أن عبارة "دون موافقة أصحابها" ستكون وصفًا أوضح من "مهينة" لنقل فكرة عمليات التلاعب الجنسية غير المرغوب فيها بالصور (التوصية رقم 2).
• ضمان أن تتناول سياساتها مجموعة واسعة من تقنيات تعديل الوسائط وإنشائها، عبر استبدال كلمة "برامج تعديل الصور" في الحظر المفروض على "الصور الجنسية المهينة المُعدّة ببرامج تعديل الصور" بمصطلح أكثر عمومية لوصف الوسائط التي تم التلاعب بها (التوصية رقم 3).

على الرغم من أن هذه التوصيات صدرت قبل نحو عامين، فإن Meta لم تنفّذها بشكل فعلي. بعد تحديث سياسة الاستغلال الجنسي للبالغين في عام 2025، لتشمل الصور التي تم إنشاؤها رقميًا أو بواسطة الذكاء الاصطناعي ضمن بند سياسة الصور الحميمية التي تتم مشاركتها دون موافقة أصحابها، تعتبر Meta التوصية رقم 1 منفّذة، في حين يعتبرها المجلس قد أُعيدت صياغتها. فيما يتعلق بالتوصية رقم 2، أشارت Meta باستمرار إلى أن الشركة تواصل النظر في سبل توضيح سياسة المضايقة والإساءة، وإن كانت لا تتوقع إدخال تغييرات عليها، على النحو المحدد في التوصية. وبالمثل، فيما يتعلق بالتوصية رقم 3، أشارت Meta إلى أن الشركة لا تزال بصدد تحديث الصياغة ذات الصلة في سياسة المضايقة والإساءة. يدعو المجلس Meta إلى التنفيذ الكامل للتوصيتين رقم 2 و3، لضمان الوضوح للمستخدمين في سياق قواعدها المتعلقة بالصور الحميمية التي تتم مشاركتها دون موافقة أصحابها، بما في ذلك انتحال الشخصية ذي الطابع الجنسي الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي.

2. الهدف المشروع

ينبغي أيضًا لأي قيود مفروضة على حرية التعبير أن تسعى إلى تحقيق واحد أو أكثر من الأهداف المشروعة الواردة في العهد الدولي الخاص بالحقوق المدنية والسياسية، والتي من بينها حماية حقوق الآخرين (المادة 19، الفقرة 3، العهد الدولي الخاص بالحقوق المدنية والسياسية).

سبق أن أقرّ المجلس بأن القيود التي تفرضها Meta على الصور الحميمية بالتزييف العميق مصممة لحماية الأفراد من إنشاء الصور الجنسية ونشرها دون موافقتهم، ومن الأضرار الناتجة عن هذه الصور التي تلحق بالضحايا وحقوقهم (حالة صور فاضحة بالذكاء الاصطناعي لشخصيات عامة نسائية). وتشمل هذه الحقوق الحق في الصحة البدنية والنفسية، إذ إن هذا المحتوى شديد الضرر بالضحايا (المادة 12 من العهد الدولي الخاص بالحقوق الاقتصادية والاجتماعية والثقافية)؛ والتحرر من التمييز، إذ توجد أدلة دامغة تُظهر أن هذا المحتوى يؤثر بشكل غير متناسب على النساء والفتيات (المادة 2 من العهد الدولي الخاص بالحقوق المدنية والسياسية والعهد الدولي الخاص بالحقوق الاقتصادية والاجتماعية والثقافية)؛ والحق في الخصوصية، إذ إنه يؤثر على قدرة الأشخاص على الحفاظ على حياة خاصة والإذن بكيفية إنشاء صورهم وإصدارها (المادة 17 من العهد الدولي الخاص بالحقوق المدنية والسياسية).

3. الضرورة والتناسب

بموجب المادة 19(3) من العهد الدولي الخاص بالحقوق المدنية والسياسية، فإن الضرورة والتناسب يتطلبان أن تكون القيود المفروضة على حرية التعبير "مناسبة لتحقيق وظيفة الحماية المنوطة بها، ويجب أن تكون أقل الوسائل تدخلاً مقارنة بغيرها من الوسائل التي يمكن أن تحقق النتيجة المنشودة، ويجب أن تكون متناسبة مع المصلحة التي ستحميها" (التعليق العام رقم 34، الفقرة 34).

يقوّض استخدامُ صور المستخدمين دون موافقة لإنشاء صور أخرى ذات طابع جنسي حقوقَهم في الخصوصية والحماية من الضرر النفسي والبدني. يمثّل محتوى انتحال الشخصية ذي الطابع الجنسي الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي اتجاهًا مستمرًا لفقدان السيطرة على صورة الشخص وهويته. وعلى عكس الصور الحميمية بالتزييف العميق التي تتم مشاركتها دون موافقة أصحابها والتي تنطوي، على سبيل المثال، على وضع وجه شخص حقيقي على صورة أو فيديو فاضح، فإن صور انتحال الشخصية ذات الطابع الجنسي التي يتم إنشاؤها بواسطة الذكاء الاصطناعي تستخدم صورة شخص حقيقي أو ملامحه الشبيهة دون موافقته لتلفيق شخص يشبهه. يكرر المجلس أنه نظرًا إلى أن الغالبية العظمى من الأشخاص الظاهرين في هذه الصور من النساء أو الفتيات، فإن هذا النوع من المحتوى له أيضًا آثار تمييزية ويُعد ضررًا شديد الارتباط بالنوع الاجتماعي (راجع على سبيل المثال PC-32480 و32481 و32484 و32487 و32488 و32490؛ راجع أيضًا حالة صور فاضحة بالذكاء الاصطناعي لشخصيات عامة نسائية).

ومن ثَم، نظرًا إلى جسامة الأضرار وعدم كفاية أي تدابير أقل تدخلاً، فإن إزالة هذا المحتوى، بما في ذلك المنشور في هذه الحالة، تُعد تدبيرًا ضروريًا ومتناسبًا. ولأن الضرر ينبع من مشاركة هذه الصور ومشاهدتها، وليس فقط من تضليل الأشخاص بشأن مصداقيتها، فإن وضع التسميات لن يكون تدبيرًا كافيًا (راجع حالة صور فاضحة بالذكاء الاصطناعي لشخصيات عامة نسائية). وبالمثل، تسلّط المعلومات العامة المقدَّمة إلى المجلس الضوء على أن استنتاجات عدم وجود انتهاك وتقييد المحتوى بسن في هذه الحالة "قد تتحول إلى رفض فعلي للادعاء الجوهري بشأن انتحال الشخصية ذي الطابع الجنسي دون موافقة" (راجع على سبيل المثال PC-32481). ومن ثَم، فإن تقييد محتوى انتحال الشخصية ذي الطابع الجنسي الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي بسن ليس ضروريًا ومتناسبًا، لأن هذا التدبير لا يوقف فعليًا استمرار تداول هذا المحتوى، وبالتالي لا يمنع وقوع الضرر الذي يمس السمعة والمضايقة والإساءة البدنية المحتملة. إضافةً إلى ذلك، نظرًا إلى أن آليات الإنفاذ لدى Meta تتعامل مع الضرر بعد الاكتشاف، فإن الإزالة السريعة بالغة الأهمية لتقليل سرعة الانتشار والضرر المرتبط به الذي يلحق بالأشخاص المتأثرين (راجع أيضًا PC-32489).

كما تشير عدة معلومات عامة مقدَّمة إلى المجلس إلى أهمية مراعاة الاختلافات الثقافية والمحلية في إنفاذ القواعد المتعلقة بالمحتوى الجنسي (راجع على سبيل المثال PC-32490 وPC-32481). يؤكد الخبراء الذين استشارهم المجلس أن العديد من المنصات تتبنى تعريفات للضرر الجنسي تتمحور حول المنظور الغربي، وتركز في الغالب على العُري الصريح أو الأفعال الجنسية. ويذكر الخبراء أنه في بعض المجتمعات المحافظة اجتماعيًا، "يمكن أن تؤدي مقاطع الفيديو أو الصور التي يتم إنشاؤها بواسطة الذكاء الاصطناعي وتصوّر امرأة في مكان عام مع رجال (أو حتى مرتدية ملابس كاملة في مكان خاص)، حتى في السيناريوهات غير الفاضحة، إلى ضرر شديد يمس السمعة، والنبذ الاجتماعي، والزواج القسري، والعنف بدافع الشرف، أو الضرر البدني" (راجع أيضًا PC-32481). علاوةً على ذلك، أعلنت Meta مؤخرًا عن خطتها لاستخدام ذكاء اصطناعي أكثر تقدمًا لتحسين إنفاذ المحتوى، مشيرةً إلى أن هذه الأنظمة يمكنها "زيادة القدرة بأي لغة بناءً على الحاجة والتكيف لفهم الفروق الثقافية الدقيقة - بما في ذلك الثقافات الفرعية المتخصصة - والكلمات الرمزية المتغيرة بسرعة والخاصة بمناطق معينة، ومعاني الرموز التعبيرية، والعامية." يعزز المجلس الاستنتاج الذي توصل إليه الخبراء بأن الإنفاذ الفعّال للسياسات ينبغي أن يقيّم الأضرار في سياقها لمراعاة هذه الفروق المحلية والثقافية الدقيقة، بما في ذلك المحتوى ذي الإيحاءات الجنسية، ويتطلع إلى استكشاف الفرص التي توفرها أنظمة الذكاء الاصطناعي المتقدمة، من خلال رقابة مستقلة وشفافة.

في حالة صور فاضحة بالذكاء الاصطناعي لشخصيات عامة نسائية، أقرّ المجلس بأن وضع افتراض بأن الصور الجنسية التي يتم إنشاؤها بواسطة الذكاء الاصطناعي تكون دون موافقة قد يؤدي أحيانًا إلى إزالة صورة أُنشئت بموافقة، مما يثير مخاوف بشأن الإفراط في الإنفاذ ضد العُري وشبه العُري المسموح بهما. لكن نظرًا إلى الأضرار الجسيمة وإلى أن قواعد Meta المتعلقة بالصور الحميمية التي تتم مشاركتها دون موافقة أصحابها تشمل أيضًا الصور الحميمية التي تم التلاعب بها والتي يتم إنشاؤها بواسطة الذكاء الاصطناعي، ينبغي لشركة Meta توسيع نطاق إشارات غياب الموافقة، ولا سيما فيما يتعلق بالشخصيات غير العامة. وينبغي للشركة، على أقل تقدير، النظر في الإدراج الصريح لانتحال الشخصية ذي الطابع الجنسي لأشخاص حقيقيين الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي بوصفه إشارة سياقية على الصور الحميمية التي تتم مشاركتها دون موافقة أصحابها لمعالجة أضرار هذا المحتوى.

الوصول إلى سبل الانتصاف

على غرار حالة صور فاضحة بالذكاء الاصطناعي لشخصيات عامة نسائية، في الحالة الراهنة، لم تُمنح الأولوية للبلاغات والطعون الأولية المتعلقة بقرارات Meta للخضوع لمراجعة بشرية في الوقت المناسب. في حالة صور فاضحة بالذكاء الاصطناعي لشخصيات عامة نسائية، أشار المجلس إلى أنه بغض النظر عن وضع الضحايا كشخصيات عامة أو غير عامة، فإن التأخر في إزالة هذه الصور يقوّض خصوصيتهم بشدة وقد يكون كارثيًا. وترديدًا للمناقشة والتوصية في تلك الحالة بشأن تحسين عمليات الإبلاغ عن الصور الحميمية التي تتم مشاركتها دون موافقة أصحابها والتي يتم إنشاؤها بواسطة الذكاء الاصطناعي، يكرر المجلس أن الوصول إلى سبل الانتصاف في هذه السياقات مسألة قد تكون لها آثار كبيرة على حقوق الإنسان تتطلب تقييمًا دقيقًا للمخاطر والتخفيف منها.

6. قرار مجلس الإشراف

يلغي المجلس قرار Meta بالإبقاء على المحتوى ويطالب بإزالة المنشور.

7. التوصيات

السياسة

1. للمساعدة على ضمان إزالة المحتوى المخالف، ينبغي لشركة Meta إضافة إشارة جديدة لغياب الموافقة في سياسة الاستغلال الجنسي للبالغين: سياق يوضح أن المحتوى عبارة عن انتحال شخصية ذي طابع جنسي لأشخاص حقيقيين تم إنشاؤه بواسطة الذكاء الاصطناعي.

سيعتبر المجلس هذه التوصية قد دخلت حيز التنفيذ عند تحديث كل من الإرشادات الموجهة للجمهور والإرشادات الداخلية بما يعكس هذا التغيير.

الإنفاذ

2. لتقليل العبء الواقع على ضحايا الإساءة من خلال الصور الحميمية دون موافقة أصحابها، ينبغي لشركة Meta السماح للمستخدمين بتحديد حسابات مرتبطة، مثل حسابات الأصدقاء أو أفراد العائلة أو الأشخاص المقرّبين الموثوق بهم، يمكنها الإبلاغ نيابةً عنهم عن انتهاكات محتملة لمعايير المجتمع تتضمن صورًا حميمية تتم مشاركتها دون موافقة أصحابها، بما في ذلك حالات انتحال الشخصية.

سيعتبر المجلس هذه التوصية قد دخلت حيز التنفيذ عندما تجعل Meta هذه الميزات متاحة ويسهل الوصول إليها أمام كل المستخدمين عبر إعدادات حساباتهم.

لضمان وجود مسارات إبلاغ فعّالة ويمكن الوصول إليها للإبلاغ عن الإساءة من خلال الصور الحميمية التي تتم مشاركتها دون موافقة أصحابها والتي يتم إنشاؤها بواسطة الذكاء الاصطناعي، ينبغي لشركة Meta إدراج انتحال الشخصية ذي الطابع الجنسي الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي كفئة منفصلة في نماذج الإبلاغ عن المحتوى والطعن القياسية، تكون مستقلة عن "المضايقة" أو "العُري". وينبغي إتاحة نماذج الإبلاغ الموحّدة هذه على مستوى العالم.

سيعتبر المجلس هذه التوصية قد دخلت حيز التنفيذ عندما تحدّث Meta نماذج الإبلاغ الخاصة بها، وتشارك بيانات تُظهر نتائج الطرح على مستوى العالم، وتوضح كيفية تأثير عمليات الإبلاغ الجديدة على إنفاذ معيار المجتمع بشأن الاستغلال الجنسي للبالغين.

كما يكرر المجلس أهمية توصياته السابقة، مشيرًا إلى صلتها بالقضايا المثارة في هذه الحالة. تماشيًا مع تلك التوصيات، ينبغي لشركة Meta:

• تغيير كلمة "مهينة" في الحظر المفروض على "الصور الجنسية المهينة المُعدّة ببرامج تعديل الصور" لتصبح "دون موافقة أصحابها" (صور فاضحة بالذكاء الاصطناعي لشخصيات عامة نسائية، التوصية رقم 2).
• استبدال كلمة "برامج تعديل الصور" في الحظر المفروض على "الصور الجنسية المهينة المُعدّة ببرامج تعديل الصور" بمصطلح أكثر عمومية لوصف الوسائط التي تم التلاعب بها (صور فاضحة بالذكاء الاصطناعي لشخصيات عامة نسائية، التوصية رقم 3).
• تطبيق بيانات اعتماد المحتوى (وفقًا للمعايير التي وضعها C2PA) على نطاق واسع وضمان ظهورها بشكل واضح ومتسق وإتاحة وصول المستخدمين إليها متى توفرت تفاصيل المصدر (فيديو تم إنشاؤه بالذكاء الاصطناعي في النزاع بين إسرائيل وإيران، التوصية رقم 4).

ملاحظة إجرائية:

تصدر قرارات مجلس الإشراف عن لجان من خمسة أعضاء، وتتم الموافقة عليها بأغلبية أصوات المجلس بالكامل. ولا تُعبر قرارات المجلس بالضرورة عن وجهات نظر جميع الأعضاء.

بموجب اتفاقيته، يجوز لمجلس الإشراف مراجعة الطعون المقدمة من المستخدمين الذين أزالت Meta محتواهم، والطعون المقدمة من المستخدمين الذين أبلغوا عن محتوى أبقت عليه Meta، والقرارات التي تحيلها Meta إليه (المادة 2، القسم 1 من الاتفاقية). يتمتع المجلس بسلطة مُلزمة تتيح له تأييد أو إلغاء القرارات التي تتخذها Meta بشأن المحتوى (المادة 3، القسم 5 من الاتفاقية؛ المادة 4 من الاتفاقية). ويحق للمجلس إصدار توصيات غير ملزِمة تكون شركة Meta مُلزَمَة بالرد عليها (المادة 3، القسم 4 من الاتفاقية؛ المادة 4). وعندما تلتزم Meta بالعمل استنادًا إلى التوصيات، يراقب المجلس تنفيذها.

بالنسبة إلى القرار المتخذ بشأن هذه الحالة، أُجري بحث مستقل نيابةً عن المجلس. وساعدت شركة Duco Advisors المجلس، وهي شركة استشارات تركز على نقطة التقاء الجغرافيا السياسية والثقة والأمان والتكنولوجيا.

العودة إلى قرارات الحالة والآراء الاستشارية المتعلقة بالسياسة