مقطع فيديو منشأ بالذكاء الاصطناعي لناشطة

الملخص

يُلزم مجلس الإشراف شركة Meta بأن تزيل من فيسبوك مقطع فيديو مُنشأ بالذكاء الاصطناعي يضايق شابة مسلمة عن طريق التلاعب بصورتها، وكان جزءًا من سلسلة منشورات مماثلة لاقت انتشارًا واسعًا عبر وسائل التواصل الاجتماعي. ويرى المجلس أن سياسات المضايقة والإساءة لدى Meta غير كافية لمعالجة الصور المتلاعب بها بواسطة الذكاء الاصطناعي لأشخاص لا يقعون عادةً تحت أنظار الجمهور.

أهمية هذا الأمر

يأتي هذا القرار في ظل ما يفرضه الذكاء الاصطناعي التوليدي من مخاطر جديدة على النساء والفتيات، مع تزايد الإساءة نطاقًا وسرعةً وخطورةً. ووفقًا لتقرير صادر عام 2025 عن هيئة الأمم المتحدة للمرأة، وهي الكيان الرائد في الأمم المتحدة المعني بالمساواة بين الجنسين، فإن العديد من هذه الهجمات "غالبًا ما تكون متعمدة ومنسقة وتهدف إلى إسكات النساء في الحياة العامة". كما تُغيّر مقاطع الفيديو المُنشأة بواسطة الذكاء الاصطناعي طبيعة المضايقة عبر الإنترنت، وتترك آثارًا بالغة في حقوق مستخدمي Meta، بما في ذلك حقوق المشاركة العامة للنساء المسلمات، والنساء والفتيات بوجه عام. إذ لا تقتصر هذه الهجمات غالبًا على تزييف مظهر الفرد فحسب، بل تطال أفعاله وأقواله أيضًا على نحو يُلحق به الضرر.

حول الحالة

في عام 2025، أُجريت مقابلة تلفزيونية في أوروبا مع شابة مسلمة بوصفها متطوعة في حملة للتوعية بصحة المرأة أثناء الدورة الشهرية والحد من الوصمة المرتبطة بالحالات الصحية للنساء والفتيات المنتميات لأقليات عرقية. وخلال الأشهر التالية، تلاعبت حسابات عبر منصات التواصل الاجتماعي بمقطع المقابلة رقميًا للسخرية منها، من خلال افتعال تناقض ظاهري بين دورها الترويجي للصحة ومظهرها، في محاولة واضحة للإيحاء بأنها لا تصلح لتكون مبعوثة الشؤون الصحية. وقد استخدمت مقاطع الفيديو هذه صورتها للتلاعب بأفعالها وأقوالها. وحصدت مقاطع الفيديو والصور المنشأة بواسطة الذكاء الاصطناعي مجتمعةً عشرات الملايين من المشاهدات عبر مختلف المنصات، ومنها منصات Meta.

وقد اختار المجلس منشورًا على فيسبوك، قُدِّم عبر طعن من أحد المستخدمين، ليكون مجرد مثال واحد على الإساءة التي تعرضت لها هذه الشابة. ويتضمن المنشور مقطع فيديو تم إنشاؤه بواسطة الذكاء الاصطناعي تظهر فيه الشابة وهي تُعرّف نفسها بأنها سفيرة الصحة الجديدة لبلادها. وتكرر هذا الادعاء الزائف في الشرح التوضيحي المصاحب، إلى جانب رمز تعبيري ضاحك. إذ تظهر صورتها وهي تقول إنها ستوضح كيفية الحفاظ على اللياقة البدنية، ثم تُصوَّر وهي تؤدي مجموعة من التمارين الرياضية المحدودة أو الساخرة وتقدم نصائح حول الأكل الصحي بينما تتناول أطعمة غير صحية. كما تسخر تعليقات متعددة واردة أسفل مقطع الفيديو من مستخدمين مختلفين من هذه المرأة، لا سيما بسبب وزنها وارتدائها الحجاب.

بالنسبة إلى المستخدم الذي تقدّم بالطعن إلى المجلس، فقد أُغلق كلٌّ من بلاغه الأولي إلى Meta وطعنه اللاحق إليها تلقائيًا دون إدراجهما ضمن أولويات المراجعة. وأكدت Meta للمجلس منذ ذلك الحين أن قرارها بتجاهل المنشور وتركه على المنصة دون إرفاق علامة توضح أن المحتوى منشأ بالذكاء الاصطناعي، كان متوافقًا مع سياساتها. ولم تتخذ Meta إجراءً لإزالة التعليقات إلا بعد أن وجّه المجلس أسئلة بشأن أربعة تعليقات مسيئة واردة على المنشور، حيث أكدت أنها انتهكت الحظر المفروض في سياسة المضايقة والإساءة على المقارنات الازدرائية.

أهم النتائج

ترى أغلبية أعضاء المجلس أنه ينبغي إزالة مقطع الفيديو لأنه ينتهك سياسة المضايقة والإساءة لدى Meta. وتحديدًا، ينطوي المنشور على عبارة تنطوي على الدونية بشأن المظهر الجسدي لفرد عادي، واستخدم الذكاء الاصطناعي لتزييف أقوالها وأفعالها دون موافقتها، وكان جزءًا من حملة اعتبرتها الشابة المستهدفة مضايقة جماعية.

وبالنسبة إلى الأغلبية، فإن تعريف Meta "للصور المتلاعب بها بشكل غير مرغوب فيه"، وهي أحد محظورات سياسة المضايقة والإساءة، ضيّقٌ للغاية، وينبغي أن يشمل تزييف أفعال الشخص وأقواله، بالإضافة إلى تعديل مظهر الشخص.

كما تُعرّف Meta حملات المضايقة الجماعية بشكل ضيق للغاية وفقًا لرأي الأغلبية، وينبغي للشركة أن تتخذ تدابير جديدة لتخفيف العبء الواقع على الضحايا عند الإبلاغ عنها. وتشمل هذه التدابير إضافة المحتوى المخالف المتلاعب به وغير المرغوب فيه إلى بنك مطابقة الوسائط التابع للشركة لإزالة المحتوى المتطابق وشبه المتطابق، واستخدام مؤشرات الوسائط المنشأة أو المتلاعب بها بواسطة الذكاء الاصطناعي بوصفها دلالة على الخطورة لتحديد أولوية مراجعة البلاغات.

في المقابل، رأت أقلية من أعضاء المجلس أن المحتوى لم يستوفِ تعريف Meta للمضايقة والإساءة، وأن إبقاء المحتوى كان متوافقًا مع مسؤوليات الشركة تجاه حقوق الإنسان.

قرار مجلس الإشراف

يُلغي المجلس قرار Meta بترك المحتوى، ويُلزمها بإزالة المنشور.

ويؤكد المجلس أهمية توصياته السابقة الداعية إلى السماح لحسابات الجهات الخارجية بالإبلاغ عن محتوى المضايقة والإساءة.

كما يوصي المجلس Meta بما يلي:

• توسيع التعريف العام "للصور المتلاعب بها بشكل غير مرغوب فيه" ليشمل مقاطع التزييف العميق لفرد عادي يقول أو يفعل أشياء لم يقلها أو يفعلها.
• إضافة حالات "الصور المتلاعب بها بشكل غير مرغوب فيه" المخالفة إلى بنوك مطابقة الوسائط لإزالتها.
• استخدام إشارات الوسائط المنشأة أو المتلاعب بها بواسطة الذكاء الاصطناعي كمؤشر على الخطورة بغرض تحديد أولوية مراجعة البلاغات.

*توفر ملخصات الحالات نظرة عامة على الحالات ولا تُشكّل سابقة قانونية.

القرار الكامل بشأن الحالة

1. وصف الحالة ومعلومات أساسية عنها

في عام 2025، أُجريت مقابلة في نشرة إخبارية في أوروبا مع شابة مسلمة بوصفها متطوعة في حملة تتحدث عن تحسين التوعية بصحة المرأة أثناء الدورة الشهرية والحد من الوصمة المرتبطة بالحالات الصحية للنساء والفتيات المنتميات لأقليات عرقية. وخلال الأشهر التالية، تلاعبت حسابات عبر منصات تواصل اجتماعي مختلفة بمقطع هذه الشابة رقميًا للسخرية منها عن طريق افتعال تناقض ظاهري بين دورها الترويجي للصحة ومظهرها. وكانت هذه المشاهد محاولة واضحة لتسليط الضوء على وزنها والإيحاء بأنها لا تصلح لتكون مبعوثة الشؤون الصحية. وتضمنت مقاطع الفيديو والصور المُنشأة بواسطة الذكاء الاصطناعي مجموعة من المشاهد المهينة والمجردة من الإنسانية، بما في ذلك لقطات مجمعة لها وهي تتناول كميات كبيرة من الطعام، وتواجه صعوبة أثناء ممارسة التمارين في صالة ألعاب رياضية، وتصويرها كحيوان؛ وقد حصدت هذه المواد مجتمعةً عشرات الملايين من المشاهدات عبر مختلف المنصات، ومنها منصات Meta.

ويُعد المنشور محل هذه الحالة مجرد مثال واحد على الإساءة التي حدثت مستهدِفةً هذه المرأة. إذ يتضمن مقطع فيديو تم إنشاؤه بواسطة الذكاء الاصطناعي صُوّرت فيه المرأة خارج السياق وهي تُعرّف نفسها بأنها سفيرة الصحة الجديدة لبلادها. وقد تكرر هذا الادعاء الزائف، الذي فنّدته جهات تدقيق الحقائق في منشورات أخرى، في الشرح التوضيحي إلى جانب رمز تعبيري ضاحك. وفي مقطع الفيديو المنشأ بواسطة الذكاء الاصطناعي، تظهر صورتها وهي تقول إنها ستوضح كيفية الحفاظ على اللياقة البدنية، ثم تُصوَّر وهي تؤدي مجموعة من التمارين الرياضية المحدودة أو الساخرة وتقدم نصائح حول الأكل الصحي بينما تتناول أطعمة غير صحية. مع أنها لم تتحدث في المقابلة الأصلية عن الأكل الصحي أو ممارسة الرياضة، بل تناولت أهمية التوعية بصحة المرأة أثناء الدورة الشهرية فيما يتعلق بحالات مثل بطانة الرحم المهاجرة للنساء والفتيات.

وقد حصد المنشور أكثر من 5000 مشاهدة، وتلقى أكثر من 200 تفاعل، وأكثر من 50 تعليقًا. وسخرت تعليقات متعددة واردة أسفل مقطع الفيديو من مستخدمين مختلفين من مظهر المرأة، لا سيما بسبب وزنها وارتدائها الحجاب.

وبالنسبة إلى المستخدم الذي تقدّم بالطعن إلى المجلس، لم تحظَ بلاغاته بأولوية للمراجعة. وقد أكدت Meta للمجلس منذ ذلك الحين أن ترك المنشور على المنصة دون إرفاق علامة توضح أن المحتوى منشأ بالذكاء الاصطناعي كان متوافقًا مع سياساتها. ولم تتخذ Meta إجراءً لإزالة أربعة تعليقات مسيئة على المنشور إلا بعد أن وجّه المجلس أسئلة بشأنها، حيث أكدت أنها انتهكت الحظر المفروض في سياسة المضايقة والإساءة على المقارنات الازدرائية. وردًا على أسئلة المجلس، ذكرت Meta أنها لم تحدد أي حالات أخرى اتخذت فيها إجراءات ضد مقاطع فيديو التزييف العميق للمرأة المعنية خلال الفترة ذات الصلة.

وقد فرض الذكاء الاصطناعي التوليدي مخاطر جديدة على الإنترنت، لا سيما بالنسبة إلى النساء والفتيات، مع تزايد وتيرة الإساءة من حيث النطاق والسرعة والخطورة. إذ توصّل تقرير صادر عن هيئة الأمم المتحدة للمرأة نُشر في عام 2025 إلى أن 38‏% من النساء في 51 بلدًا لديهن تجارب شخصية مع الإساءة عبر الإنترنت، والتي قد تشمل المضايقة الإلكترونية. ويؤكد التقرير أن "أدوات الذكاء الاصطناعي السائدة يمكن أن... تُسفر عن عواقب غير مقصودة تتمثل في تضخيم التحيز أو تكثيف العنف وإساءة المعاملة. فعلى سبيل المثال، يمكن استخدام أدوات الذكاء الاصطناعي السائدة لإنشاء حملات تضليل إعلامي أو لإنشاء ونشر محتوى يحض على الكراهية وحملات مضايقة تلقائيًا وعلى نطاق واسع". كما أن العديد من الهجمات "غالبًا ما تكون متعمدة ومنسقة وتهدف إلى إسكات النساء في الحياة العامة".

وأوضح تقرير صادر عام 2026 عن فريق الأمم المتحدة العامل المعني بالتمييز ضد النساء والفتيات أن: "العنف القائم على النوع الاجتماعي الميسَّر بالتكنولوجيا ليس مجرد مجموعة معزولة من الانتهاكات عبر الإنترنت، بل أداة هيكلية للتمييز تقيد مشاركة النساء والفتيات في الحياة العامة والسياسية والمدنية. وغالبًا ما يعكس العنف الافتراضي أنماط العنف والقمع في الأماكن العامة المادية ويضخمها. ومن خلال طرد النساء والفتيات من المساحات الرقمية، يكرس العنف القائم على النوع الاجتماعي الميسَّر بالتكنولوجيا عدم المساواة، ويقوض الاستقلالية، ويضعف الظروف اللازمة للمشاركة الديمقراطية الشاملة للجميع، مما يهدد حقوقهن الإنسانية بما يتعارض مع متطلبات المادة 19 من العهد الدولي الخاص بالحقوق المدنية والسياسية..." (A/HRC/ 62/48، الفقرة 49). وأفادت مفوضية الأمم المتحدة السامية لحقوق الإنسان (OHCHR) في تقرير لها عام 2026 بأن 70‏% من النساء في أمريكا الشمالية وأوروبا واجهن حالات من العنف القائم على النوع الاجتماعي الميسَّر بالتكنولوجيا، والذي يشمل المضايقة عبر الإنترنت. كما تسلط التعليقات العامة في هذه الحالة الضوء على التحديات المحددة التي تواجهها النساء اللاتي يتحدثن عن موضوعات تُعد من "المحرمات" في بعض السياقات المتعلقة بالنوع الاجتماعي والصحة الجنسية (راجع PC-32637 – شارلوت مانسون، كلية سيتي للقانون).

وقد وثّقت لجنة شؤون المرأة والمساواة في البرلمان البريطاني في يناير 2026 أن النساء المسلمات اللاتي يمكن التعرف عليهن بوضوح من خلال حجابهن يتعرضن للاستهداف بالمضايقة على نحو غير متناسب، سواء عبر الإنترنت أو في الأماكن العامة، ويواجهن "عقوبة ثلاثية" مركّبة من المضايقات القائمة على العرق والنوع الاجتماعي والمعتقد. وقالت اللجنة إن هذا يؤدي إلى "سلوكيات الرقابة الذاتية والانسحاب من المشاركة في الحياة العامة".

2. المعلومات المقدَّمة من المستخدمين

في الطعن المقدم إلى المجلس، أفاد المستخدم الذي أبلغ عن المحتوى مطالبًا بإزالته، بأن المحتوى استخدم الذكاء الاصطناعي لإنشاء صورة لامرأة دون موافقتها، وافتعال محتوى مضلل والتشهير بها علنًا بسبب أنشطتها في مجال المناصرة.

3. سياسات المحتوى والمعلومات المقدَّمة من Meta

تنص معايير مجتمع Meta بشأن المضايقة والإساءة على أن المضايقة والإساءة يمكن أن تتخذا أشكالاً متعددة، وأن الشركة "لا تتسامح مع هذا النوع من السلوكيات لأنه يحرم الأشخاص من حقهم في الشعور بالأمان والاحترام...". وتوفر هذه السياسة أربع فئات من الحماية بناءً على شدة الهجوم، ووضع الشخصية العامة للشخص المستهدف، وما إذا كان شخصًا بالغًا أم قاصرًا. وفي حين يتمتع جميع الأشخاص بالحماية من أشد الهجمات خطورة (الفئة الأولى)، يحصل الأفراد العاديون والشخصيات العامة ذات الشهرة المحدودة والقصّر على تدابير حماية إضافية ضد الهجمات الأقل خطورة (الفئات من الثانية إلى الرابعة). بمعنى آخر، تضبط سياسة Meta مستوى الحماية بما يناسب أولئك الذين يقل ظهورهم تحت أنظار الجمهور و/أو المستضعفين بسبب أعمارهم.

عبارات تنطوي على الدونية بشأن المظهر الجسدي

يتمتع الجميع بالحماية من "العبارات التي تنطوي على الدونية بشأن المظهر الجسدي" بموجب الفئة الأولى من سياسة المضايقة والإساءة. وتُمثل الفئة الأولى أشد فئات الإساءة خطورة والتي تحمي جميع الأشخاص؛ سواء أكانوا شخصيات عامة أم أفرادًا عاديين أم قُصَّرًا. غير أن Meta رأت أن المنشور لم ينتهك هذه القاعدة. ومع أن الجمع بين الأنشطة المتعلقة بالصحة وتناول الأطعمة غير الصحية يمكن قراءته على أنه تعليق ضمني على مظهر المرأة المصوَّرة، فقد رأت Meta أن المنشور لم يتضمن عبارة صريحة تهاجم مظهرها الجسدي أو تشير إليه مباشرة بوصفه دونيًا.

الصور المتلاعب بها بشكل غير مرغوب فيه

وتُزال "الصور المتلاعب بها بشكل غير مرغوب فيه" بموجب الفئة الثالثة عند استيفاء ثلاثة شروط مجتمعة.

أولاً، لا تُمنح هذه الحماية إلا للأفراد العاديين أو القُصَّر الذين يُعدون شخصيات عامة بحكم الظروف. وتنص مبررات السياسة لدى Meta على أن هذا المستوى من الحماية يتوسع لحماية الأفراد العاديين من "الحط من قدرهم" أو "التشهير بهم". وتعلل Meta هذا التمييز المتعلق بالشخصيات العامة برغبتها في "فتح الباب للنقاش، الذي يتضمن في كثير من الأحيان تعليقات ناقدة لأشخاص يحظون بشهرة إخبارية واسعة أو أشخاص لهم جمهور عام كبير". وتُعرَّف الشخصية العامة في السياسة بأنها "أي موظف حكومي على مستوى الولاية أو الدولة، أو أي مرشح سياسي لأي من هذه المناصب، وأي شخص لديه أكثر من مليون معجب أو متابع على وسائل التواصل الاجتماعي والأشخاص الذين يحظون بتغطية إخبارية كبيرة". كما أن ما يُسمى "الشخصيات العامة ذات الشهرة المحدودة"، والتي تشمل "الأفراد الذين تقتصر شهرتهم الأساسية على أنهم من الناشطين أو على نشاطهم الصحفي أو أولئك الذين اكتسبوا شهرة عامة عن غير قصد منهم"، لا تشملهم الحماية أيضًا من هجمات الفئة الثالثة. وفي هذه الحالة، تذكر Meta أنها عاملت المرأة المستهدفة بوصفها فردًا عاديًا، وليس كشخصية عامة أو شخصية عامة ذات شهرة محدودة، وبالتالي كانت مؤهلة للحماية من الصور المتلاعب بها بشكل غير مرغوب فيه.

ثانيًا، يجب أن يشير الشخص المستهدف إلى أن الصور المتلاعب بها غير مرغوب فيها عن طريق الإبلاغ الذاتي عن المحتوى. وتنص السياسة على أن الإبلاغ الذاتي يساعد الشركة على "فهم أن الشخص المستهدف يشعر بالتعرض للمضايقة أو الإساءة". وقد أكدت Meta أن المرأة المستهدفة لم تُبلغ عن هذا المنشور، ولذلك لم يكن هذا الشرط مستوفى.

ثالثًا، يجب أن يكون المحتوى عبارة عن "صور متلاعب بها"، وهو مصطلح غير معرَّف للجمهور في السياسة. ومع ذلك، أبلغت Meta المجلس بأن هذه القاعدة لا تعالج إلا عمليات التلاعب الرقمي التي تُغيّر مظهر الشخص، دون تصوير أفعاله. وفي هذه الحالة، يتضمن المحتوى تصويرًا مصطنعًا للمرأة وهي تقول أشياء لم تقلها وتفعل أشياء لم تفعلها. وبحسب Meta، لم تكن هناك أي تعديلات رقمية على مظهرها، وبالتالي لم يُشكّل المحتوى "صورًا متلاعبًا بها" بموجب السياسة.

المضايقة الجماعية الموجَّهة

وخارج إطار الفئات الأربع للحماية، تنص معايير مجتمع Meta بشأن المضايقة والإساءة أيضًا على أنه يجوز لها إزالة "المضايقة الجماعية الموجهة" عندما تستهدف "أفرادًا معرضين لخطر متزايد من وقوع ضرر على أرض الواقع"، بمن فيهم المدافعون عن حقوق الإنسان. وتذكر Meta أن هذه السياسة تتطلب "سياقًا إضافيًا لإنفاذها" (أي أن السياسة لا تُنفّذ على نطاق واسع، بل بواسطة فرق داخلية متخصصة فقط). ومع أن Meta أشارت إلى أن الشخصية المستهدفة تستوفي تعريفها للمدافعين عن حقوق الإنسان، فإنها لم ترَ أن هذا المنشور والمنشورات المماثلة الموجهة ضدها ترقى إلى مستوى توجيه الآخرين للمشاركة في المضايقة. وبحسب Meta، لم تكن هناك أي جهود منظمة لتوجيه الأشخاص نحو ملفها الشخصي، أو توجيههم لإنتاج محتوى مخالف بشكل جماعي.

وقد وجّه المجلس أسئلة إلى Meta بشأن آليات الإبلاغ عن محتوى المضايقة والإساءة، وحملات المضايقة المنسقة عبر الإنترنت، وإنفاذ القواعد المتعلقة بمقاطع فيديو المضايقة والإساءة المُنشأة بواسطة الذكاء الاصطناعي. وقد أجابت Meta عن كل هذه الأسئلة.

4. التعليقات العامة

تلقى المجلس ثلاثة تعليقات عامة استوفت شروط التقديم. وقد ورد أحد هذه التعليقات من وسط وجنوب آسيا، وآخر من الولايات المتحدة وكندا، وتعليق ثالث من أوروبا. للاطلاع على التعليقات العامة المقدَّمة التي وافق أصحابها على نشرها، انقر هنا.

وتناولت المعلومات المقدَّمة موضوعاتٍ عِدة، شملت: التضليل الإعلامي القائم على النوع الاجتماعي والإساءة المُنشأة بواسطة الذكاء الاصطناعي، واشتراط Meta للإبلاغ عن محتوى المضايقة والإساءة، وأثر المضايقة عبر الإنترنت في المناقشات العامة ومناصرة حقوق الإنسان، والعوائق التي تحول دون الحصول على المعلومات المتعلقة بالصحة الجنسية.

5. تحليل مجلس الإشراف

اختار المجلس هذه الحالة لبحث الكيفية التي تُغيّر بها مقاطع الفيديو المُنشأة بواسطة الذكاء الاصطناعي طبيعة المضايقة عبر الإنترنت، وآثارها في حقوق مستخدمي Meta، وتداعيات ذلك على حقوق النساء والفتيات في التعبير والمشاركة. وترتبط هذه الحالة باثنتين من الأولويات الاستراتيجية السبع للمجلس، وهما: الأتمتة والذكاء الاصطناعي، والنوع الاجتماعي.

5.1 الامتثال لسياسات المحتوى لدى شركة Meta

1. قواعد المحتوى

بالنسبة إلى أغلبية أعضاء المجلس، ينتهك مقطع الفيديو هذا معايير مجتمع Meta بشأن المضايقة والإساءة من عدة جوانب. وفي مبررات السياسة الخاصة بمعايير مجتمعها بشأن المضايقة والإساءة، تنص Meta على أنها تزيل المحتوى الذي "يهدف إلى الحط من قدر" الأفراد العاديين "أو التشهير بهم". ويصعب تفسير الغرض من هذا المحتوى وأثره على أنه أي شيء بخلاف كونه تعمدًا للحط من قدر امرأة والتشهير بها بسبب مظهرها وكرد فعل على نشاطها في مناصرة قضايا صحة المرأة.

عبارات تنطوي على الدونية بشأن المظهر الجسدي

ترى الأغلبية أن مقطع الفيديو المُنشأ بواسطة الذكاء الاصطناعي يُشكّل "عبارة تنطوي على الدونية" تنتهك السياسة فيما يتعلق بالمظهر الجسدي للمرأة المستهدفة. إذ يزعم المقطع زيفًا أنها تشغل منصبًا حكوميًا في قطاع الصحة ("سفيرة" لبلادها)، وذلك لافتعال تناقض ظاهري بين هذا الادعاء وبين حجم جسدها وصحتها البدنية المفترضة. ومن خلال التصوير الواقعي لصورتها وهي تؤدي تمارين رياضية ساخرة وتتناول أطعمة غير صحية، يقدّم مقطع الفيديو ادعاءً شديد الوضوح والصراحة بالدونية قائمًا على مظهرها ويهدف إلى إذلالها.

وبالنسبة إلى الأغلبية، فإن إخفاق Meta في تفسير هذا المحتوى بوصفه عبارة "صريحة" تنطوي على الدونية يُعد أمرًا مقلقًا، ويرجع ذلك جزئيًا إلى أن قواعدها ذاتها لا تشترط "الصراحة" كمتطلب لإثبات الانتهاك. ومع أن إثبات الانتهاك في هذه الحالة يستند إلى استنتاج مستخلص من المقابلة بين ادعاء زائف وتمثيل بصري، فإن الأثر المترتب على ذلك ليس غامضًا ولا خفيًا. إذ إن سهولة الوصول المتزايدة إلى أدوات الذكاء الاصطناعي التوليدي وقدراتها الفائقة تزيد بشكل هائل من القدرة على فبركة ونشر اتهامات باطلة بالنفاق. وقد شكك المجلس سابقًا في ضعف تطبيق Meta لقواعدها على المحتوى البصري، لكونها حرفية للغاية أو ضعيفة في التحليل السياقي عند عدم التوصل إلى وجود انتهاكات مباشرة في مقاطع الفيديو أو الصور (راجع كارتون كنين، ومنشور باللغة البولندية يستهدف الأشخاص المتحولين جنسيًا، والمحتوى الذي يستهدف المدافعين عن حقوق الإنسان في بيرو). ويتجلى التفاوت بين إنفاذ Meta لقواعدها على المحتوى البصري مقارنة بالمحتوى المكتوب هنا في إزالة الشركة، عقب توجيه المجلس لأسئلته، أربعة تعليقات أسفل المنشور تضمنت مقارنات مكتوبة تجرد المرأة المستهدفة من إنسانيتها. ولم تكن تلك التعليقات، من وجهة نظر المجلس، أكثر صراحة من الرسالة التي يحملها مقطع الفيديو، مما يضفي طابعًا من التخبط على قرارات الإنفاذ التي تتخذها Meta. وبالنظر إلى أن منصات Meta مصممة بشكل متزايد لترويج المحتوى البصري، ولأن الإشراف على المحتوى يُشكّل طريقة تواصل الأشخاص عبر منصاتها، فإن هذا النهج القائم على الاقتصار على إزالة العبارات "الصريحة" التي تنطوي على الدونية يُعد نهجًا معيبًا. فالهجمات والتهديدات والإهانات المبطنة منتشرة على نطاق واسع عبر وسائل التواصل الاجتماعي، وعجز Meta أو رفضها التعامل معها يترك ثغرات جسيمة في الإنفاذ وفي حماية المستخدمين من المضايقة والإساءة.

وفي حين قد يدّعي البعض أن المنشور محاولة للسخرية أو الفكاهة، فإن Meta قد اختارت ألا تضع استثناءً للفكاهة في معايير المجتمع بشأن المضايقة والإساءة. كما أن أي نفاق يحاول هذا المنشور إبرازه بين دورها العام المفبرك (إذ لم تكن في الواقع تروّج للأكل الصحي أو ممارسة الرياضة) ومظهرها الجسدي، قد جاء بوضوح بغرض مضايقتها والسخرية منها بسبب شكلها.

الصور المتلاعب بها بشكل غير مرغوب فيه

وبالنسبة إلى أغلبية أعضاء المجلس، لو أن المرأة المصوَّرة قد اكتشفت المنشور وأبلغت عنه، لكان قد انتهك سياسة الصور المتلاعب بها بشكل غير مرغوب فيه. إذ تتعامل هذه القاعدة مع الإبلاغ الذاتي بوصفه المؤشر الوحيد على أن الصور المتلاعب بها "غير مرغوب فيها" أو أنها نُشرت دون موافقة. ويُلقي هذا عبء الإبلاغ الذاتي الثقيل على عاتق المستهدفين بالمضايقة (راجع PC-32633 – مركز الحقوق الإنجابية؛ وPC-32637 – شارلوت مانسون، كلية سيتي للقانون)، ولم يكن هذا الشرط مستوفى. ورغم ذلك، تعترض الأغلبية على تفسير Meta القائل بأنه حتى لو كانت المرأة قد أبلغت عن المنشور، فإنه لن ينتهك هذه القاعدة أيضًا. فالقراءة الواضحة لعبارة "الصور المتلاعب بها" تشمل فبركة أقوال الشخص أو أفعاله، ولا تقتصر على التلاعب بمظهره الجسدي. ولا تتضح الغاية التي يخدمها تمييز Meta بين التلاعب بالمظهر والتلاعب بالأفعال. إذ يمكن لفبركة الأقوال والسلوك، كما يتجلى في هذه الحالة، أن تحط من قدر الأفراد أو تشهّر بهم بسبب مظهرهم بالقدر ذاته من الخطورة (إن لم يكن أكثر) مقارنةً بالتصوير الزائف والمبالغ فيه لمظهرهم (راجع PC-32635 – مؤسسة الحقوق الرقمية). وكما تبيّن في حالة فيديو مفبرك للرئيس بايدن بشأن سياسة المعلومات المضللة لدى Meta، فإن إرشادات الإنفاذ التي تستجيب لاتجاهات المحتوى في حقبة معينة سرعان ما يتجاوزها التقدم التكنولوجي. وتشير التطورات في مقاطع الفيديو الواقعية للغاية المنشأة بواسطة الذكاء الاصطناعي التوليدي، حتى منذ أن أصدر المجلس قراره في حالة بايدن، إلى أن قواعد Meta بشأن المضايقة والإساءة بحاجة إلى التحديث أيضًا.

المضايقة الجماعية الموجَّهة

يتفق المجلس مع Meta في أن الناشطة المصوَّرة هي مدافعة عن حقوق الإنسان، ويقر بأن هذا المنشور لم ينسق صراحةً أو يقدم تعليمات لتوجيه المضايقة ضدها. غير أن أغلبية أعضاء المجلس ترى أن استنتاج Meta يستند إلى قراءة مفرطة في الضيق لما تنطوي عليه المضايقة الجماعية "الموجهة" في العصر الرقمي. فقد شاركت عدة حسابات بارزة على وسائل التواصل الاجتماعي في هذه الإساءة، موجهةً الانتباه السلبي نحوها بشكل أساسي، مما أدى فعليًا إلى سيل من الهجمات المتتالية التي كان المنشور في هذه الحالة جزءًا منها، حاملاً كل سمات المضايقة الجماعية. ومن خلال أبحاث المجلس الخاصة، لاحظ المجلس أن المحتوى الذي يشارك الادعاء الزائف بأن هذه المرأة تشغل منصبًا حكوميًا رسميًا قد بلغ ذروته بنحو 250 منشورًا في يوم واحد، ليصل إجماليه إلى أكثر من 1000 منشور خلال الفترة الخاضعة للدراسة. ويُعد التشابه بين العديد من مجموعات المنشورات التي تتشارك شروحًا توضيحية متطابقة أو شبه متطابقة دليلاً على وجود تنسيق، ومن المؤكد أن المرأة المستهدفة قد شعرت بها بوصفها مضايقة جماعية. كما يُشكّل هذا المستوى من التنسيق دليلاً إضافيًا على نية المضايقة، ويشير إلى مشكلة هيكلية في أنظمة الإنفاذ لدى Meta لا تتيح للمستخدمين أدوات محددة للإبلاغ الجماعي عن منشورات متعددة بوصفها جزءًا من حملة مخالفة. ولاحظ المجلس أيضًا أمثلة على منصة التواصل الاجتماعي X، حيث تلقى مستخدمون سألوا برنامجًا تلقائيًا للدردشة قائمًا على الذكاء الاصطناعي يُدعى Grok عما إذا كانت الادعاءات الزائفة حقيقية، إجابات تفيد بأن تلك الادعاءات صحيحة.

ويوافق المجلس على أن Meta قد أصابت في قرارها بإزالة التعليقات الواردة أسفل هذا المنشور والتي انطوت على مقارنات مباشرة تجرد من الإنسانية، وإن كان ذلك قد تم بعد أن لفت المجلس انتباه Meta إليها. وبالنسبة إلى الأغلبية، تُظهر طبيعة هذه التعليقات أن الجمهور قد فهم المنشور الأصلي واختار الانضمام إلى صاحبه في المضايقة الجماعية للمرأة المستهدفة. في حين يُقر أعضاء آخرون في المجلس بأن هذه التعليقات كانت مخالفة، لكنهم يشيرون إلى أنه لا ينبغي تقييم محتوى ناشر المنشور بناءً على التعليقات التي يثيرها المنشور من الآخرين.

وبالنسبة إلى أقلية من أعضاء المجلس، لا ينتهك المنشور معايير المجتمع بشأن المضايقة والإساءة لأنه لا يتضمن "عبارة تنطوي على الدونية بشأن المظهر الجسدي". إن تفسير هذه القاعدة على أنها تشمل الاستنتاجات، كما فعلت الأغلبية، يتسم بالاتساع المفرط، إذ يفرض تفسيرًا سياقيًا واحدًا على حساب تفسيرات أخرى محتملة بدرجة متساوية. ويتناول مقطع الفيديو نقاشًا عامًا جاريًا حول التناقض الظاهري بين شخص يظهر في الأخبار للدعوة إلى نمط حياة صحي، ولا يبدو في الوقت نفسه أنه يرقى إلى هذا المستوى. وبالنسبة إلى الأقلية، قد يكون هذا الأسلوب في التنديد بما يُعتقد أنه نفاق أسلوبًا قاسيًا أو غير لائق، لكنه لم يصل إلى حد التصريح بالدونية، أي أنها أقل شأنًا كإنسانة بسبب مظهرها الجسدي. علاوة على ذلك، ترى أقلية من أعضاء المجلس أن المرأة المستهدفة لا تستفيد من تدابير الحماية بموجب الفئة الثالثة الخاصة بالصور المتلاعب بها بشكل غير مرغوب فيه، ليس للأسباب التي ذكرتها Meta، بل لكونها "شخصية عامة ذات شهرة محدودة" وليست فردًا عاديًا. ويرجع ذلك إلى دورها العام البارز في منظمة مناصرة وظهورها في وسائل الإعلام الإخبارية الوطنية بهذه الصفة. وبالنسبة إلى هؤلاء الأعضاء في المجلس، فإن حجم المنشورات المماثلة ليس له أثر جوهري في إثبات مخالفة تتعلق بالمضايقة الجماعية الموجَّهة، طالما أن هذا المنشور لا يبلغ الحد الأدنى الذي تعتبره Meta مخالفًا لسياسة المضايقة والإساءة.

5.2 الامتثال لمسؤوليات Meta تجاه حقوق الإنسان

ترى أغلبية أعضاء المجلس أن مسؤوليات Meta تجاه حقوق الإنسان تؤيد إزالة هذا المنشور. في حين ترى الأقلية خلاف ذلك.

1. حرية التعبير (المادة 19 من العهد الدولي الخاص بالحقوق المدنية والسياسية)

عندما تفرض الدولة قيودًا على حرية التعبير، يجب أن تفي تلك القيود بمتطلبات الشرعية والهدف المشروع والضرورة والتناسب (المادة 19، الفقرة 3 من العهد الدولي الخاص بالحقوق المدنية والسياسية). وغالبًا ما يُشار إلى هذه المتطلبات باسم "الاختبار الثلاثي". يستخدم المجلس إطار العمل هذا لتفسير مسؤوليات Meta في مجال حقوق الإنسان بما يتماشى مع مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان، والتي التزمت بها Meta نفسها في سياسة حقوق الإنسان الخاصة بالشركة. وكما ذكر مقرر الأمم المتحدة الخاص المعني بحرية التعبير، فإنه على الرغم من أن "الشركات لا تتحمل التزامات الحكومات، فإن تأثيرها من نوع يتطلب منها تقييم النوع نفسه من الأسئلة بشأن حماية حق مستخدميها في حرية التعبير" (A/74/486، الفقرة 41).

1. الشرعية (وضوح القواعد وسهولة الوصول إليها)

يتطلب مبدأ الشرعية أن تكون القواعد التي تقيِّد حرية التعبير واضحة ويسهُل الوصول إليها، وأن تُصاغ بدقة كافية لتمكين الفرد من ضبط سلوكه تبعًا لها (التعليق العام رقم 34، الفقرة 25). بالإضافة إلى ذلك، "لا يجوز لهذه القواعد أن تمنح الأشخاص المسؤولين عن تنفيذها سلطة تقديرية مطلقة في تقييد حرية التعبير"، ويجب أن "تنص على توجيهات وافية للمكلفين بتنفيذها لتمكينهم من التحقق على النحو المناسب من أنواع التعبير التي تخضع للتقييد وتلك التي لا تخضع للتقييد" (المرجع نفسه). وقد ذكر مقرر الأمم المتحدة الخاص المعني بحرية التعبير أنه عندما تُطبَّق القواعد على إدارة الجهات الفاعلة الخاصة للخطاب عبر الإنترنت، ينبغي أن تكون تلك القواعد واضحة ومحددة (A/HRC/38/35، الفقرة 46). ينبغي أن يتمكن مستخدمو منصات Meta من الوصول إلى القواعد وفهمها، كما ينبغي تزويد مراجعي المحتوى بإرشادات واضحة بشأن إنفاذها.

وقد رأت أغلبية أعضاء المجلس أن قواعد Meta واضحة بما فيه الكفاية للتوصل إلى النتائج في هذه الحالة، لكنها تشير إلى ثلاثة مجالات تتطلب فيها إرشادات Meta الداخلية السرية تحديثًا لتعكس كيفية صياغة قواعدها الموجهة للجمهور. ومن شأن ذلك أن يساعد على ضمان إنفاذ أكثر دقة، والحد من الانطباعات بوجود تخبط في تفسير Meta لقواعدها.

أولاً، ينبغي توفير إرشادات واضحة للمراجعين تفيد بأن "العبارات التي تنطوي على الدونية بشأن المظهر الجسدي" ينبغي أن تشمل الانتهاكات المرتكبة من خلال الصور ومقاطع الفيديو، فضلاً عن الكلمات المكتوبة أو المنطوقة. وسيكون من المفيد تزويد المراجعين بأمثلة محددة توضح كيف يمكن أن تندرج مقاطع التزييف العميق تحت هذه الفئة.

ثانيًا، سيتفاقم التخبط الناجم عن الانفصال بين نص السياسة وإرشادات الإنفاذ مع زيادة انتشار المحتوى المُنشأ بواسطة الذكاء الاصطناعي، مما يشير إلى الحاجة لإجراء تغيير في السياسة. وينبغي لشركة Meta أن توضح أن سياستها بشأن الصور المتلاعب بها بشكل غير مرغوب فيه تشمل التلاعب غير الرضائي بأقوال الشخص أو سلوكه، كما ينبغي تحديث القاعدة العامة المنشورة للجمهور لتنص على ذلك صراحةً. فإذا صُوِّر شخص زيفًا في صورة متلاعب بها على أنه مُهان، أو محطوط من قدره، أو يرتكب عملاً غير قانوني، فينبغي تفعيل هذه السياسة.

ثالثًا، ينبغي لشركة Meta جعل متطلبات قاعدتها بشأن "المضايقة الجماعية الموجهة" أكثر وضوحًا. وكما هو موضح أدناه، ينبغي لشركة Meta تحسين نهجها في رصد وإزالة حملات المضايقة الجماعية من النوع الذي تمثله هذه الحالة، وهو ما قد يتطلب مزيجًا من التغييرات على مستوى السياسات والإنفاذ.

2. الهدف المشروع

يجب أيضًا أن يسعى أي تقييد لحرية التعبير إلى تحقيق واحد أو أكثر من الأهداف المشروعة المنصوص عليها في العهد الدولي الخاص بالحقوق المدنية والسياسية، والتي تشمل حماية حقوق الآخرين (المادة 19، الفقرة 3، العهد الدولي الخاص بالحقوق المدنية والسياسية). وتسعى معايير مجتمع Meta بشأن المضايقة والإساءة إلى حماية حقوق الآخرين، بما في ذلك حقهم في الخصوصية والسمعة والمشاركة العامة (المادتان 17 و25 من العهد الدولي الخاص بالحقوق المدنية والسياسية)، وحقهم في الصحة البدنية والعقلية (المادة 12 من العهد الدولي الخاص بالحقوق الاقتصادية والاجتماعية والثقافية).

3. الضرورة والتناسب

بموجب المادة 19(3) من العهد الدولي الخاص بالحقوق المدنية والسياسية، فإن الضرورة والتناسب يتطلبان أن تكون القيود المفروضة على حرية التعبير "مناسبة لتحقيق وظيفة الحماية المنوطة بها، ويجب أن تكون أقل الوسائل تدخلاً مقارنة بغيرها من الوسائل التي يمكن أن تحقق النتيجة المنشودة، ويجب أن تكون متناسبة مع المصلحة التي ستحميها" (التعليق العام رقم 34، الفقرة 34).

ومن الأهمية بمكان استهلال هذا التحليل بحقوق المرأة التي استُهدفت في حملة المضايقة هذه، وبحقوق الأشخاص في تلقي المعلومات المهمة المتعلقة بالصحة الجنسية والإنجابية التي ظهرت في النشرة الإخبارية لمشاركتها. من الموثَّق منذ أمد بعيد أن النساء المنخرطات في الخطاب العام عبر الإنترنت، لا سيما إذا كنّ في مرمى أنظار الجمهور وينتمين إلى أقليات دينية أو عرقية، يتعرضن لمعدلات أعلى بكثير من المضايقة والإساءة على وسائل التواصل الاجتماعي مقارنةً بغيرهن (راجع PC-32635؛ وراجع تقرير منظمة العفو الدولية "#Toxictwitter: العنف والإساءة ضد المرأة عبر الإنترنت"، الصادر في نوفمبر 2018؛ "لا عذر للإساءة"، تقرير منظمة Pen America، الصادر في مارس 2021).

ومع التطور السريع لقدرات الذكاء الاصطناعي التوليدي في إنتاج مقاطع فيديو واقعية تتيح للأشخاص تقليد الآخرين عبر الإنترنت بسهولة أكبر، تزايد استخدام هذه الأدوات لمضايقة وإساءة معاملة من يحملون آراءً غير شائعة أو غير مفضلة، وكذلك أفراد الفئات المهمَّشة. ولا يعني ذلك بالضرورة نشوء أضرار جديدة من المضايقة والإساءة تتطلب معايير مختلفة لمعالجتها، لكنه خلق تحديات إضافية تتعلق بالحجم، وبمصداقية المحتوى الذي تنتجه تطبيقات الذكاء الاصطناعي التوليدي سريعة التطور، وبالآثار الأكثر حدة الناجمة عن مضايقة شخص أو الإساءة إليه باستخدام صور شبيهة واقعية للغاية ومضلِّلة بهدف إلحاق الضرر به. وتتفاقم هذه الآثار بفعل حوافز المنصات، وتحديدًا الخوارزميات القائمة على التفاعل وبرامج تحقيق الأرباح.

وترى أغلبية أعضاء المجلس أن مسؤوليات Meta تجاه حقوق الإنسان تستوجب اتباع نهج أكثر صرامة، بحيث يُزال محتوى كمقطع الفيديو المُنشأ بواسطة الذكاء الاصطناعي في هذه الحالة لمخالفته سياسة المضايقة والإساءة. أما بالنسبة إلى الأقلية، ورغم انشغالها هي الأخرى بآثار المضايقة والإساءة، فترى إمكانية اللجوء إلى تدابير أقل تدخلاً من الإزالة، كوضع علامة تمييزية، أو خفض التصنيف، أو وقف تحقيق الأرباح، إذا ثبت أن هذا النوع من المحتوى مخالف. وترى الأقلية أن هذه التدابير أكثر اتساقًا مع مسؤوليات Meta تجاه حقوق الإنسان، وضرورية للحيلولة دون فرض قيود مفرطة الاتساع على حرية التعبير.

وترى أغلبية أعضاء المجلس أن الإزالة ضرورية لعدم وجود تدبير أقل تقييدًا يحقق وظيفة الحماية الكافية. فالضرر في هذه الحالة لا ينبع في الأساس من التضليل، بل من توظيف الصورة الواقعية للشخص كأداة لإذلاله وتشويه صورته الحقيقية. ولا يمكن تخفيف هذا الضرر عن طريق شاشات التحذير، أو وضع التسميات، أو خفض تصنيف المحتوى، لأن هذه التدابير تسمح ببقاء المحتوى المتضمن للمضايقة على المنصة. علاوة على ذلك، نادرًا ما تُطبَّق التسميات، وهي لا تزيد من صعوبة التفاعل مع هذا المحتوى أو تُبطئ من انتشاره، ما لم تُقيَّمه جهات خارجية لتدقيق الحقائق (راجع محتوى تم إنشاؤه بواسطة الذكاء الاصطناعي في النزاع بين إسرائيل وإيران).

كما أن الإزالة متناسبة، ذلك أن الفوائد التي تعود على خصوصية المرأة المستهدفة وسمعتها، وكذلك على حقها في المشاركة العامة، تفوق أي عبء يقع على تعبير المستخدم الذي أُزيل محتواه.

ولا توجد مصلحة عامة تُذكر، إن وُجدت أصلاً، في إبقاء هذا الخطاب دون قيود. وترى أغلبية أعضاء المجلس أن المرأة لم ترتكب أي مخالفة أو نفاق؛ فالمحتوى يشوّه موقفها بسوء نية بهدف مهاجمتها، ولا يتناول جوهر حججها. علاوة على ذلك، فإن الشخص المستهدف بالإساءة هو فرد عادي. فهي ليست شخصية عامة تشغل منصبًا، ولا في موقع سلطة يستوجب منها إبداء قدر أكبر من التسامح إزاء مثل هذه الهجمات (التعليق العام رقم 34، المرجع نفسه، الفقرة 38). وحتى بعد إزالة هذا المنشور، يظل المستخدم الذي نشر المحتوى حرًّا في مناقشة القضايا ذاتها التي ظهرت الشابة في الأخبار لمناقشتها، دون اللجوء إلى هجمات شخصية لا صلة لها بالموضوع. وفي المقابل، توجد مصلحة عامة كبيرة في المعلومات التي شاركتها المرأة في الأخبار - بشأن الصحة الجنسية والإنجابية، وما يتصل بها من نقد لسياسة التعليم الحكومية.

وكشفت أبحاث المجلس أن منشورات مشابهة للمحتوى في هذه الحالة، وبعضها منشأ أيضًا بواسطة الذكاء الاصطناعي، ظهرت عبر العديد من الحسابات المنفصلة على فيسبوك وInstagram، وكذلك على منصات غير تابعة لشركة Meta، غالبًا بشروح توضيحية متطابقة أو شبه متطابقة. ومع أن العديد من منصات التواصل الاجتماعي الأخرى اتخذت موقفًا غامضًا مشابهًا لموقف Meta في تعاملها مع محتوى مماثل منشأ بواسطة الذكاء الاصطناعي يضايق فردًا (بما في ذلك على X وYouTube)، فإن بعضها كان أكثر وضوحًا في ضوابطه الوقائية. فعلى سبيل المثال، تفرض TikTok قواعد تحظر الصور الشبيهة المُنشأة بالذكاء الاصطناعي (المعرَّفة بأنها "تمثيل يمكن التعرف عليه لشخص عبر صورة أو فيديو أو صوت، بما يشمل وجهه وجسده وصوته وإيماءاته") إذا كانت تهدف إلى مضايقة فرد أو الإساءة إليه، وتشترط الإفصاح عن المحتوى المُنشأ بواسطة الذكاء الاصطناعي الذي يُظهر شخصًا وكأنه يقول أو يفعل شيئًا لم يقله أو يفعله. ولمثل هذه الإساءة، لا سيما حين تُنتَج بحجم كبير وعبر منصات متعددة، كلفة نفسية على الأشخاص المستهدفين يمكن أن تؤثر في صحتهم، وقد تكون مقدمة لمضايقة وعنف فعليين، ويمكن أن تدفع الأشخاص فعليًا إلى الانسحاب من الخطاب العام. ويزداد هذا الأمر حدةً بالنسبة إلى أفراد كالمرأة المصوَّرة، ممن يتحدثن علنًا عن قضايا الصحة الجنسية والإنجابية. ولا يقتصر الأثر الرادع لذلك على تعبير الشخص المستهدف - بما يمسّ حق جمهوره المقصود في تلقي المعلومات - بل قد يمتد أيضًا إلى تعبير من يشهدون هذه الإساءة من المارّة، ممن يستوعبون المخاطر المترتبة على الانخراط في الخطاب العام. وقد لا تخاطر البيئة المتساهلة تجاه مثل هذه الإساءة بتطبيع هذه الإساءة فحسب، بل قد تُعزز أيضًا التهميش الذي تسعى إلى تحقيقه. وغالبًا ما تمتد أضرار وآثار هذا النوع من المحتوى - بما في ذلك الصور أو مقاطع الفيديو المتلاعب بها رقميًا لفرد مستهدف - لتشمل فئة بأكملها والمجتمع الأوسع نطاقًا، مما يقوّض عدة حقوق إنسانية ويُضعف المشاركة الشاملة في الحياة العامة من خلال هذا الأثر الرادع (راجع PC-32637 – شارلوت مانسون، كلية سيتي للقانون؛ A/HRC/62/48). وتُبنى هذه الحالة على قرار "فيديو ذو طابع جنسي تم الإبلاغ عنه ومن إنشاء الذكاء الاصطناعي" لتوضيح أن أضرار "التزييف العميق" لا تقتصر على المضايقة في صورة محتوى جنسي غير رضائي.

وفي حين ركزت عدة حالات سابقة للمجلس على انتحال هوية جنسي منشأ بالذكاء الاصطناعي للنساء، فإن هذه الحالة تُبيّن كيف يمكن أن تُنتهك حقوق المستخدمين أيضًا انتهاكًا جسيمًا من خلال المحاكاة الاصطناعية غير الجنسية. ونُشر مقطع التزييف العميق هذا في سياق حملة مضايقة أوسع نطاقًا عبر الإنترنت، حيث قرر المستخدم الناشر أن يتجاوز كثيرين غيره، فلم يكتفِ بمشاركة رأي، بل نشر مقطع تزييف عميق يتسم بخبث خاص في آثاره المهينة والحاطّة من القدر. وسعى الأثر التراكمي للمضايقة أو الإساءة الجماعية على خصوصية هذا الفرد وكرامته إلى إجبارها على الانسحاب من الخطاب العام.

وتراكميًا، يخلّف هذا المحتوى آثارًا مجتمعية أيضًا، إذ يبعث برسالة واضحة إلى نساء وفتيات أخريات، لا سيما من يشبهنها، بألا يتحدثن علنًا. ووفقًا للتعليقات العامة التي تلقاها المجلس، تُبيّن هذه الحالة "ظاهرة أوسع نطاقًا تتعرض فيها النساء والفتيات اللاتي يخُضن علنًا قضايا الصحة والمساواة بين الجنسين والحقوق الجنسية والإنجابية، على نحو غير متناسب، للمضايقة القائمة على النوع الاجتماعي، والوسائط المتلاعب بها، والتضليل الإعلامي" (راجع PC-32633 – مركز الحقوق الإنجابية). ويمكن أن يُسكت هذا الشكل من المحتوى المُنشأ بواسطة الذكاء الاصطناعي فعليًا النساء والفتيات، لا سيما من يظهر عليهن التديّن بوضوح، عن التحدث علنًا في قضايا قد تُعد من المحرمات أو مثيرة للجدل في مجتمعاتهن. وترى الأغلبية أنه في حين ينبغي تشجيع التضامن مع الضحايا عبر الخطاب المضاد، فإن ذلك لا يُعد علاجًا للمضايقة والإساءة. وينطبق ذلك تحديدًا على أجزاء من العالم حيث لا تضمن الرقابة الحكومية، والوصمة المجتمعية، وشُح الموارد المتاحة للمجتمع المدني أو الإعلام المستقل، توافر الظروف اللازمة للخطاب المضاد. كما أن هذه الظروف غير مضمونة أيضًا لسائر الأفراد المهمَّشين على المنصة.

وترى أقلية من أعضاء المجلس أن الإزالة لم تكن ضرورية ولا متناسبة. ومع أنه من المعقول الاختلاف مع سلوك المستخدم في هذه الحالة بل وإدانته، فلا تزال هناك، بوجه عام، مصلحة عامة في حرية مناقشة الأخبار ومن يظهرون فيها مناقشةً نقدية. ويستوجب ذلك الدفاع عن خطاب قد يكون، كما في هذه الحالة، مثيرًا للاعتراض بل ومهينًا وقاسيًا في بعض الأحيان. ومن المرجح ألا تؤدي الرقابة في هذا السياق إلا إلى تعميق الانقسام، لا سيما حين يشعر الناس بأن انتقاد الأفراد في النطاق العام يُزال بسبب اختلاف وجهة النظر. وتشير الأقلية إلى أن المرأة المستهدفة في هذه الحالة تحدثت علنًا بعد هذه التجربة، وأن عددًا لافتًا من الشخصيات البارزة أعربت عن رأيها دفاعًا عنها، مما جعل من مسيئيها عبرةً من خلال الخطاب المضاد. وتُعرب الأقلية عن قلقها من أنه لو حاولت Meta توسيع نطاق إنفاذ القرار الذي توصلت إليه الأغلبية في هذه الحالة، فقد يؤدي ذلك إلى فرض قيود مفرطة الاتساع على حرية التعبير، واحتمال إساءة أصحاب النفوذ استخدام سياسة المضايقة والإساءة لقمع النقد المشروع. وصياغة Meta الضيقة لبعض قواعد سياسة المضايقة والإساءة متناسبة لمنع هذا التجاوز، ولا يستوجب القانون الدولي لحقوق الإنسان، في رأي الأقلية، أن تتبع الشركة نهجًا أكثر تقييدًا.

2. الوصول إلى سبل الانتصاف

على غرار العديد من الحالات السابقة المتعلقة بالاستخدام المخالف لمقاطع فيديو الذكاء الاصطناعي التوليدي (راجع صور فاضحة بالذكاء الاصطناعي لشخصيات عامة نسائية، فيديو ذو طابع جنسي تم الإبلاغ عنه ومن إنشاء الذكاء الاصطناعي)، لم تُعطِ Meta أولوية لمراجعة المحتوى في هذه الحالة، سواء عند النظر الأول أو عند الطعن. ويساور المجلس قلق بالغ إزاء حجم بلاغات المستخدمين ضد المحتوى المخالف التي تُصنِّفها أدوات التصنيف على أنها تستوجب مراجعة بشرية، لكنها لا تحظى بأي مراجعة. ويثير هذا الأمر قلقًا خاصًا في حالات المضايقة والإساءة، حيث يُلحق التقاعس عن تقييم المحتوى ضررًا بالغًا بالضحايا، ويقوّض تجاهلُ بلاغات المستخدمين الصحيحة الثقةَ في أنظمة Meta للإشراف على المحتوى. ويمكن أن يتيح التقدم في استخدام الأتمتة في الإشراف على المحتوى فرصًا لخفض عدد بلاغات المستخدمين غير المُراجَعة خفضًا كبيرًا، ولا سيما في الحالات الأكثر وضوحًا، مما يُفرغ طاقة المراجعين للمراجعات الأكثر تعقيدًا من الناحية السياقية أو المتخصصة.

ويكرر المجلس تأكيد قلقه من أن عبء الإبلاغ عن المحتوى كثيرًا ما يقع على عاتق ضحايا المضايقة، وهو عبء يتفاقم بفعل غياب أدوات الإبلاغ من الجهات الخارجية، لا سيما حين تلقى المضايقة انتشارًا واسعًا (راجع مقاطع فيديو نقاشية حول الهوية الجنسية). وتزداد حدة هذه التحديات بالنسبة إلى النساء في أجزاء من العالم - لا سيما النساء المحجبات أو غيرهن ممن يظهر عليهن التديّن بوضوح - حيث تُقيَّد استقلاليتهن من خلال أشكال متعددة ومتشابكة من الأعراف الاجتماعية والتمييز بل والعنف.

ومع قيام Meta بتحديث سياساتها وإرشاداتها لضمان معاملة هذا المحتوى بوصفه مخالفًا، بما في ذلك حين يكون في صورة بصرية وقد لا يتضمن عبارات صريحة أو حرفية، فمن المهم تدريب أنظمتها على إعطاء أولوية لمراجعة هذه المنشورات، وتوفير الموارد الكافية على نحو فعّال لضمان عدم إغلاق البلاغات تلقائيًا بسبب نقص طاقة المراجعة. وحيثما يكون الأفراد ضحايا لمضايقة جماعية، ينبغي توفير أدوات تساعد على الإبلاغ عن المخالفات المترابطة، والتي ينبغي أن تحظى بالأولوية وأن تُراجَع مجتمعةً لضمان فهم السياق الكامل.

6. قرار مجلس الإشراف

تُلغي أغلبية أعضاء المجلس قرار Meta القاضي بترك المحتوى، وتُلزم الشركة بإزالة المنشور.

7. التوصيات

سياسة المحتوى

1. لسد الثغرة في سياسة المضايقة والإساءة، ينبغي لشركة Meta أن تُعرِّف علنًا "الصور المتلاعب بها بشكل غير مرغوب فيه" على أنها تشمل مقاطع التزييف العميق لفرد عادي يقول أو يفعل أشياء لم يقلها أو يفعلها، وكذلك التلاعب بمظهر الشخص.

وسيعتبر المجلس هذه التوصية قد دخلت حيز التنفيذ متى حُدِّثت السياسة علنًا بهذا التعريف.

الإنفاذ

يكرر المجلس تأكيد توصيته السابقة الواردة في قرار "حزمة قرارات مقاطع فيديو الهوية الجنسية"، الداعية إلى السماح لحسابات الجهات الخارجية بالإبلاغ عن محتوى المضايقة والإساءة (التوصية رقم 3)، مشيرًا إلى صلة هذه التوصية بمسألة هذه الحالة. ويساور المجلس القلق من أنه رغم تقديم هذه التوصية منذ أكثر من عام، لا يزال رد Meta معلَّقًا ريثما تُقيِّم جدوى التوصية. ويشجع المجلس Meta على استكمال هذا التقييم وتنفيذ التوصية.

2. لتخفيف عبء الإبلاغ الواقع على ضحايا المضايقة الجماعية باستخدام مقاطع التزييف العميق، ينبغي لشركة Meta إضافة حالات "الصور المتلاعب بها بشكل غير مرغوب فيه" المخالفة إلى بنوك مطابقة الوسائط لإزالتها.

وسيعتبر المجلس هذه التوصية منفَّذة متى قدَّمت Meta للمجلس أدلة تثبت قدرتها على توسيع نطاق الإبلاغ عن مقاطع التزييف العميق ليشمل المحتوى المطابق.

3. لضمان الوصول إلى سبل الانتصاف، ينبغي لشركة Meta استخدام إشارات الوسائط المُنشأة أو المتلاعب بها بواسطة الذكاء الاصطناعي كمؤشر على الخطورة بغرض تحديد أولوية مراجعة البلاغات.

وسيعتبر المجلس هذه التوصية قد دخلت حيز التنفيذ متى قدَّمت Meta أدلة على دمج مؤشر الإنشاء بواسطة الذكاء الاصطناعي كإشارة لتحديد الأولوية ضمن قوائم انتظار المراجعة البشرية لبلاغات المضايقة والإساءة، وشاركت أدوات قياس تُظهر أي تغيرات ناتجة في حجم بلاغات المضايقة والإساءة المُغلَقة تلقائيًا.

مذكرة إجرائية:

• تصدر قرارات مجلس الإشراف عن هيئات مكونة من خمسة أعضاء، وتُعتمد بأغلبية أصوات المجلس بكامل هيئته. ولا تُمثل قرارات المجلس بالضرورة آراء جميع الأعضاء.
• بموجب اتفاقيته، يجوز لمجلس الإشراف مراجعة الطعون المقدمة من المستخدمين الذين أزالت Meta محتواهم، والطعون المقدمة من المستخدمين الذين أبلغوا عن محتوى أبقت عليه Meta، والقرارات التي تحيلها Meta إليه (المادة 2، القسم 1 من الاتفاقية). يتمتع المجلس بسلطة مُلزمة تتيح له تأييد أو إلغاء القرارات التي تتخذها Meta بشأن المحتوى (المادة 3، القسم 5 من الاتفاقية؛ المادة 4 من الاتفاقية). ويحق للمجلس إصدار توصيات غير ملزِمة تكون شركة Meta مُلزَمَة بالرد عليها (المادة 3، القسم 4 من الاتفاقية؛ المادة 4). وعندما تلتزم Meta بالعمل استنادًا إلى التوصيات، يراقب المجلس تنفيذها.

العودة إلى قرارات الحالة والآراء الاستشارية المتعلقة بالسياسة