الهوية الجنسية والعُري

ملخص الحالة

ألغى مجلس الإشراف قرار Meta الأصلي بإزالة منشورين على Instagram يصوّران بعض الأشخاص المتحولين جنسيًا وغير مصنّفي الجنس بصدور عارية. وأوصى Meta أيضًا بتغيير معيار مجتمعها بشأن العُري والنشاط الجنسي للبالغين بحيث يخضع لمعايير واضحة تحترم المعايير الدولية لحقوق الإنسان.

حول هذه الحالة

في هذا القرار، ينظر المجلس في حالتين معًا لأول مرة. جرى نشر عنصري المحتوى المنفصلين بواسطة الحساب نفسه، حيث نُشر أحدهما عام 2021 والآخر عام 2022. ويعود الحساب لزوجين يقيمان في الولايات المتحدة ويعرفان نفسيهما كشخصين أحدهما متحول جنسيًا والآخر غير مصنّف الجنس.

وقد تضمن المنشوران صورًا يظهر بها الزوجان بصدور عارية وحلمات مغطاة. وتناقش الشروح التوضيحية المصاحبة للصور الرعاية الصحية للمتحولين جنسيًا وتشير إلى أن أحد الزوجين سيخضع قريبًا لجراحة في الجزء العلوي من الجسم (جراحة تأكيد الجنس للحصول على صدر مسطح)، وهو الأمر الذي يجمع الزوجان التبرعات من أجله.

في أعقاب سلسلة من تنبيهات أنظمة Meta التلقائية وبلاغات المستخدمين، تمت مراجعة المنشورات عدة مرات للوقوف على مدى احتوائها على انتهاكات محتملة لعدد من معايير المجتمع. أزالت Meta المنشورين في نهاية المطاف لانتهاك معيار المجتمع بشأن الإغواء الجنسي، نظرًا لظهور الثدي في الصور مع رابط لصفحة جمع التبرعات.

تقدم المستخدم بطعن إلى Meta ثم إلى المجلس. وبعد قبول المجلس لهاتين الحالتين، وجدت Meta أنها أزالت المنشورين عن طريق الخطأ وأعادتهما.

أهم النتائج

يرى مجلس الإشراف أن إزالة هذين المنشورين لا تتماشى مع معايير مجتمع Meta، أو قيمها أو مسؤولياتها تجاه حقوق الإنسان. تسلط هاتين الحالتين الضوء أيضًا على مشكلات جوهرية تتعلق بسياسات Meta.

تتسع إرشادات Meta الداخلية للمشرفين بشأن شروط إزالة المحتوى التي تنص عليها سياسة الإغواء الجنسي بشكل يفوق ما ورد في مبادئ السياسة، أو الإرشادات المعلنة لعامة الجمهور. وهو ما يؤدي إلى إرباك المستخدمين والمشرفين ويُسفر، كما أقرت Meta، عن إزالة المحتوى عن طريق الخطأ.

في حالة واحدة على الأقل، تم إرسال المحتوى إلى المراجعة البشرية بواسطة نظام تلقائي مدرّب على إنفاذ معيار المجتمع بشأن العُري والنشاط الجنسي للبالغين. ويحظر هذا المعيار الصور التي تحتوي على حلمات أنثوية إلا في ظروف محددة، مثل الرضاعة الطبيعية وجراحات تأكيد الجنس.

تتعامل هذه السياسة مع الجنس على أنه نظام ثنائي يتم فيه التمييز بين أجساد الذكور والإناث. ولا يوضح هذا النهج كيفية تطبيق القواعد على الأشخاص ثنائيي الجنس وغير مصنّفي الجنس والمتحولين جنسيًا، ويتطلب من المراجعين إجراء تقييمات سريعة وموضوعية للجنس والنوع، وهو أمر غير عملي عند الإشراف على المحتوى على نطاق واسع.

تتسم قيود واستثناءات القواعد المتعلقة بحلمات الإناث بالاتساع والإرباك، وخاصة لانطباقها على الأشخاص المتحولين جنسيًا وغير مصنّفي الجنس. تتراوح استثناءات السياسة بين الاحتجاجات ومشاهد الولادة والسياقات الطبية والصحية، بما في ذلك جراحات الجزء العلوي من الجسم والتوعية بسرطان الثدي. وغالبًا ما تتسم هذه الاستثناءات بالتعقيد وسوء التحديد. في بعض السياقات، على سبيل المثال، يجب على المشرفين تقييم مدى وطبيعة الندوب للوقوف على مدى استحقاق الحالة لتطبيق استثناء. إن الافتقار إلى الوضوح المتأصل في هذه السياسة يخلق حالة من عدم اليقين لدى المستخدمين والمراجعين، ويجعلها غير قابلة للتطبيق من الناحية العملية.

أكد المجلس مرارًا وتكرارًا على ضرورة تعامل Meta بحساسية مع تأثير سياساتها على الأشخاص المعرّضين للتمييز (راجع على سبيل المثال، القرار الصادر بشأن حالة "حزام وامبوم" وحالة "تغيير دلالة كلمات عربية ازدرائية إلى كلمات مقبولة"). هنا، يرى المجلس أن سياسات Meta بشأن عُري البالغين تؤدي إلى خلق حواجز أكبر تعيق قدرة التعبير لدى النساء والمتحولين جنسيًا وغير مصنّفي الجنس على منصاتها. على سبيل المثال، لهذه القواعد تأثير كبير في السياقات التي قد تظهر فيها المرأة تقليديًا بصدر مكشوف، وقد يتأثر الأشخاص المنتمين إلى مجتمع الميم (LGBTQI+‎) بشكل غير متناسب، كما يتضح من هاتين الحالتين. وقد رصدت أنظمة Meta التلقائية المحتوى عدة مرات، على الرغم من عدم انتهاكه لسياسات Meta.

يجب أن تسعى Meta إلى تطوير وتنفيذ سياسات تعالج هذه المخاوف. ويجب أن تغير الشركة نهجها في إدارة العُري على منصاتها من خلال وضع معايير واضحة لحوكمة سياسة العُري والنشاط الجنسي للبالغين، وتضمن التعامل مع كل المستخدمين بطريقة تتفق مع معايير حقوق الإنسان. ويجب أن تدرس أيضًا ما إذا كانت سياسة العُري والنشاط الجنسي للبالغين تحمي من مشاركة الصور الحميمية دون موافقة أصحابها، وما إذا كانت السياسات الأخرى بحاجة إلى التدعيم في هذا الصدد.

قرار مجلس الإشراف

ألغى مجلس الإشراف قرار Meta الأصلي بإزالة المنشورين.

وأوصى المجلس Meta أيضًا بما يلي:

• وضع معايير واضحة وموضوعية تحترم الحقوق لحوكمة معيار مجتمعها بشأن العُري والنشاط الجنسي للبالغين، بحيث يحظى كل الأشخاص بمعاملة تتفق مع المعايير الدولية لحقوق الإنسان، دون تمييز على أساس الجنس أو النوع. ويجب على Meta أولاً إجراء تقييم شامل لتأثير ذلك التغيير على حقوق الإنسان، مع إشراك مختلف أصحاب المصالح، ووضع خطة للتعامل مع أي أضرار يتم اكتشافها.
• توفير مزيد من التفاصيل عن المعايير التي تؤدي إلى إزالة المحتوى في النسخة المعلنة من معيار مجتمعها بشأن الإغواء الجنسي.
• مراجعة الإرشادات التي توفرها للمشرفين حول معيار مجتمعها بشأن الإغواء الجنسي حتى تعكس بشكل أكثر دقة القواعد العامة للسياسة. وهو ما سيساعد على الحد من ارتكاب Meta لأخطاء في الإنفاذ.

*توفر ملخصات الحالة نظرة عامة على الحالة ولا تُشكّل سابقة قانونية.

القرار الكامل للمجلس بشأن الحالة

1. ملخص القرار

ألغى مجلس الإشراف قرارات Meta الأصلية في حالتين تتعلقان بمنشورين على Instagram تمت إزالتهما بواسطة Meta. أقرت Meta بعدم صحة قراراتها الأصلية في الحالتين. تثير هاتان الحالتان مخاوف مهمة بشأن التأثير غير المتناسب لسياسات Meta على حقوق التعبير لدى كل من النساء والمستخدمين المنتمين لمجتمع الميم (LGBTQI+‎) على منصاتها. يوصي المجلس Meta بضرورة تحديد معايير واضحة وموضوعية تحترم الحقوق لحوكمة كافة جوانب سياساتها بشأن العُري والنشاط الجنسي للبالغين، مما يضمن توفير معاملة متساوية لكل الأشخاص على نحو يتفق مع المعايير الدولية لحقوق الإنسان، ويتجنب التمييز على أساس الجنس أو الهوية الجنسية. يجب أولاً أن تُجري Meta تقييمًا شاملاً للتأثير الواقع على حقوق الإنسان عند اتباع هذه المعايير، ويتضمن هذا التقييم مشاركة شاملة لأصحاب المصلحة عبر سياقات أيديولوجية وجغرافية وثقافية متنوعة. وإذا توصل هذا التقييم إلى أي أضرار محتملة، يجب أن يتضمن تنفيذ أي سياسة جديدة خطة تخفيف لمعالجة تلك الأضرار المحتملة.

يوصي المجلس شركة Meta أيضًا بتوضيح النسخة المعلنة من سياسة الإغواء الجنسي وتضييق نطاق إرشادات الإنفاذ الداخلية لتحسين استهداف هذه الانتهاكات.

2. وصف الحالة ومعلومات أساسية عنها

تتعلق هاتان الحالتان بقرارين اتخذتهما Meta بشأن المحتوى، ويتناولهما مجلس الإشراف معًا في هذا القرار. نشر حساب يديره زوجان يقيمان في الولايات المتحدة صورتين منفصلتين على Instagram مع شرح توضيحي لكل منهما. ويظهر في كلتا الصورتين الزوجين اللذين أشارا في المنشورين، وفي المعلومات التي قدماها إلى المجلس، إلى أنهما من المتحولين جنسيًا وغير مصنّفي الجنس.

أزالت Meta كلا المنشورين بموجب معيار مجتمعها بشأن الإغواء الجنسي. وفي كلتا الحالتين، صنفت أنظمة Meta التلقائية المحتوى على أنه يشكل انتهاكًا محتملاً.

في الصورة الأولى، المنشورة في عام 2021، ظهر الشخصان بصدور عارية مع تغطية الحلمات بشريط بلون البشرة. في الصورة الثانية، المنشورة في عام 2022، يظهر أحد الأشخاص مرتديًا ملابسه، بينما يظهر الشخص الآخر بصدر عارٍ مع تغطية حلمتيه بيديه. وتناقش الشروح التوضيحية المصاحبة لهذه الصور كيف سيخضع الشخص الذي يظهر بصدر عارٍ في الصورتين إلى عملية جراحية قريبًا في الجزء العلو من الجسم لتأكيد الجنس والحصول على صدر مسطّح. ويصف الأشخاص خططهما بشأن توثيق العملية الجراحية ويناقشان مشكلات الرعاية الصحية التي تواجه المتحولين جنسيًا. ويعلنان أنهما أطلقا حملة جمع تبرعات لدفع تكاليف العملية الجراحية لأنهما يواجهان صعوبة في توفير التغطية التأمينية لهذا الإجراء.

في الحالة الأولى، صنّفت الأنظمة التلقائية الصورة في بادئ الأمر على أنه من غير المرجح أن تكون مخالفة. وتم إغلاق البلاغات دون مراجعة وظل المحتوى في بادئ الأمر على المنصة. وأبلغ ثلاثة مستخدمين بعد ذلك عن المحتوى باعتباره إباحيًا وينطوي على إلحاق الضرر بالذات. وتولى مراجعة هذه البلاغات مشرفون بشريون توصلوا إلى أن المنشور غير مخالف. وعند إبلاغ أحد المستخدمين عن المحتوى للمرة الرابعة، وجد مراجع بشري آخر أن المنشور قد انتهك معيار المجتمع بشأن الإغواء الجنسي وقام بإزالته.

في الحالة الثانية، صنفت أنظمة Meta التلقائية المنشور مرتين، ثم تم إرساله إلى المراجعة البشرية التي توصلت إلى أنه غير مخالف في المرتين. وأبلغ مستخدمان بعد ذلك عن المحتوى؛ لكن تم إغلاق كل بلاغ تلقائيًا دون الخضوع إلى مراجعة بشرية ليظل المحتوى على Instagram. وأخيرًا، صنفت أنظمة Meta التلقائية المحتوى للمرة الثالثة، وأرسلته للمراجعة البشرية. آخر مرتين، وضعت أداة التصنيف التلقائية من Meta لمعيار المجتمع بشأن العُري والنشاط الجنسي للبالغين علامة على المحتوى، لكن سبب هذه المراجعات المتكررة غير واضح. وجد آخر مراجع بشري أن المنشور قد انتهك معيار المجتمع بشأن الإغواء الجنسي وقام بإزالته.

وقد تقدم مالكا الحساب بطعن إلى Meta على قراري الإزالة، وتولى مراجعون بشريون مراجعة المحتوى في الحالتين. مع هذا، لم تسفر هذه المراجعات عن إعادة Meta للمنشورين. عندها تقدم مالكا الحساب بطعن على قراري الإزالة إلى مجلس الإشراف. ينظر المجلس في الحالتين معًا، وهي المرة الأولى التي يحدث فيها ذلك. وتتمثل مزايا القيام بذلك في تحديد المشكلات المشابهة في عمليات وسياسات المحتوى لدى Meta وتقديم حلول تعالج هذه المشكلات.

بعد تحديد المجلس لهذين المنشورين ومطالبة Meta بتقديم تبرير لقرارها بإزالة المحتوى، أشارت Meta إلى أن الإزالة نتجت عن "خطأ في الإنفاذ" وأعادت المنشورين.

عند النظر في الأسباب التي تجعل هذه الحالات تمثل مشكلات مهمة، يلاحظ المجلس أن العدد الكبير من التعليقات العامة التي تم تلقيها في هاتين الحالتين يمثل سياقًا وثيق الصلة، وقد ورد الكثير من هذه التعليقات من أشخاص تم تحديدهم كمتحولين جنسيًا أو غير مصنّفي الجنس أو نساء متوافقات الجنس وقد أوضح هؤلاء الأشخاص أنهم تعرضوا شخصيًا لأخطاء إنفاذ ومشكلات مشابهة لتلك التي تتناولها هاتين الحالتين.

لاحظ المجلس أيضًا كسياق متصل الأبحاث الأكاديمية، والتي تم الاستشهاد بها أيضًا في التعليقات العامة، بواسطة هيمسون وآخرون، وويت وسوزر وهاجينز، وتقريرين من إعداد سولتي بشأن التحيز الخوارزمي والرقابة على المجتمعات المهمشة. وجدت هذه الدراسات أن أخطاء الإنفاذ في معياري المجتمع المشار إليهما في هاتين الحالتين يؤثران بشكل غير متناسب على النساء وأعضاء مجتمع الميم (LGBTQI+‎). وينتمي أحد المؤلفين المشاركين في إحدى هذه الدراسات إلى عضوية مجلس الإشراف.

3. سُلطة ونطاق مجلس الإشراف

يتمتع المجلس بسلطة مراجعة قرار شركة Meta بعد تلقي طعن من المستخدم الذي تعرض المحتوى الخاص به إلى الإزالة (المادة 2، القسم 1 من اتفاقية المجلس؛ المادة 3، القسم 1 من اللائحة الداخلية).

يجوز للمجلس تأييد قرار شركة Meta أو إلغائه (المادة 3، القسم 5 من اتفاقية المجلس)، ويكون قراره بهذا الشأن ملزمًا للشركة (المادة 4 من اتفاقية المجلس). يجب على شركة Meta أيضًا تقييم جدوى تطبيق قرارها على أي محتوى مماثل له سياق موازٍ (المادة 4 من اتفاقية المجلس). وقد تتضمن قرارات المجلس بيانات استشارية بشأن السياسية تضم توصيات يجب على شركة Meta الرد عليها (اتفاقية المجلس، المادة 3، القسم 4؛ المادة 4).

عندما يحدد المجلس حالات مثل التي بين أيدينا، حيث تقر Meta بارتكاب خطأ بعد تحديد المجلس للحالة، يراجع المجلس القرار الأصلي. ويهدف ذلك إلى زيادة فهم معلمات السياسة وعمليات الإشراف على المحتوى التي أسهمت في حدوث الخطأ ومعالجة المشكلات التي يكتشفها المجلس في السياسات المعنية. يهدف المجلس أيضًا إلى إصدار توصيات لتقليل احتمالات حدوث أخطاء في المستقبل ومعاملة المستخدمين بشكل أكثر إنصافًا من الآن فصاعدًا.

عندما يكتشف المجلس حالات تثير مشكلات مشابهة، فقد يتم تعيينها لإحدى اللجان في وقت واحد للتداول بشأنها معًا. ويتم اتخاذ قرار مُلزم بشأن كل عنصر من عناصر المحتوى.

4. مصادر السُلطة

أخذ مجلس الإشراف السلطات والمعايير التالية في الاعتبار:

1. قرارات مجلس الإشراف:

• قرار "تغيير دلالة كلمات عربية ازدرائية إلى كلمات مقبولة" (‎2022-003-IG-UA). أجرى المجلس تحليلاً للتحديات التي تكتنف تطبيق استثناءات السياسة والآثار غير المتناسبة لبعض اختيارات السياسة.
• قرار "حزام وامبوم" ( ‎2021-012-FB-UA). أجرى المجلس تحليلاً للتحديات التي تكتنف تطبيق استثناءات السياسة والآثار غير المتناسبة لبعض اختيارات السياسة.
• "أعراض سرطان الثدي والعُري" ( ‎2020-004-IG-UA). أجرى المجلس تحليلاً لإرشادات مجتمع Instagram وأوصى Meta بتوضيح وجود استثناء للتوعية بسرطان الثدي.

2. سياسات المحتوى لدى Meta:

تتعلق هاتان الحالتان بإرشادات مجتمع Instagram ومعايير مجتمع فيسبوك. ورد في "مركز الشفافية" التابع لشركة Meta أن "سياسات المحتوى مشتركة بين فيسبوك وInstagram. ويعني ذلك أن اعتبار المحتوى مخالفًا على فيسبوك يجعله مخالفًا على Instagram أيضًا".

الإغواء الجنسي

تنص إرشادات مجتمع Instagram على أن "عرض خدمات جنسية" هو أحد الأمور غير المسموح بها. ويتضمن هذا البند بعد ذلك رابطًا إلى معيار مجتمع فيسبوك بشأن الإغواء الجنسي.

في مبادئ سياسة الإغواء الجنسي، تذكر Meta: "ومع ذلك، فإننا نرسم الخط الفاصل الذي يُميّز المحتوى الذي يُسهّل أو يُشجع أو يُنسق اللقاءات الجنسية أو الخدمات الجنسية التجارية بين البالغين. وهدفنا من القيام بذلك هو تجنُّب تسهيل المعاملات التي قد تتضمن الإتجار بالبشر والقمع وممارسة الجنس بالإكراه. كما نفرض قيودًا على استخدام اللغة الجنسية الصريحة التي قد تفضي إلى الإغواء الجنسي لأن بعض الجماهير في مجتمعنا العالمي قد تتأذى مشاعرهم بسبب هذا النوع من المحتوى وقد يتسبب هذا الأمر في الحد من قدرة الأشخاص على التواصل مع أصدقائهم وأفراد المجتمع الأوسع نطاقًا."

ينص معيار مجتمع فيسبوك بشأن الإغواء الجنسي على أن Meta تحظر الإغواء بكافة أشكاله، ضمنيًا أو صريحًا. يجب تحقق معيارين للإغواء الجنسي الضمني كي يعتبر المحتوى مخالفًا لهذه السياسة. المعيار الأول هو "العرض أو الطلب" ويشير إلى "المحتوى الذي يعرض أو يطلب الإغواء الجنسي بشكل ضمني أو غير مباشر (عادةً من خلال تقديم وسيلة تواصل)". والمعيار الثاني هو "العناصر ذات الإيحاءات الجنسية" ويشير إلى "المحتوى الذي يعرض تقديم الأمور سالفة الذكر أو يطلبها باستخدام أي من العناصر التالية ذات الإيحاءات الجنسية". تتضمن العناصر المذكورة "استخدام اللغة العامية الدارجة بشكل يتضمن إيحاءات جنسية" و"الأوضاع أو الوقفات."

العُري والنشاط الجنسي للبالغين

ورد في إرشادات مجتمع Instagram أنه يجب على المستخدمين: "نشر الصور ومقاطع الفيديو التي تناسب الجمهور المتنوع." نعلم أن هناك حالات يريد الأشخاص فيها نشر صور عارية تحمل طابعًا جماليًا أو ذات طبيعة إبداعية، ولكن نتيجة لمجموعة متنوعة من الأسباب لا نسمح بالعريّ على Instagram. ويشتمل ذلك على الصور ومقاطع الفيديو وبعض أشكال المحتوى المصمم رقميًا والتي تصور علاقة جنسية أو الأعضاء التناسلية أو الصور المقربة للأرداف العارية بالكامل. كما يشتمل ذلك على بعض صور حلمات ثدي الإناث، إلا في سياق الرضاعة الطبيعية والولادة ولحظات ما بعد الولادة والحالات الصحية (على سبيل المثال، ما بعد استئصال الثدي أو التوعية بسرطان الثدي أو جراحة تأكيد الجنس)، أو كشكل من أشكال الاحتجاج." يتضمن هذا القسم رابطًا إلى سياسة العُري والنشاط الجنسي للبالغين، والتي توفر مزيدًا من التفاصيل عن هذه القواعد.

كجزء من مبادئ سياسة معيار المجتمع بشأن العُري والنشاط الجنسي للبالغين، توضح Meta ما يلي: "نحظر عرض أيّ مواد مرئية تتضمن مشاهد عُري أو أنشطة جنسية، لأن هذا النوع من المحتوى قد يؤذي مشاعر بعض الأشخاص في مجتمعنا. بالإضافة إلى ذلك، نضع إعدادًا افتراضيًا لإزالة الصور الجنسية لمنع مشاركة محتوى دون الموافقة عليه أو مشاركة محتوى للقاصرين."

تنص سياسة العُري والنشاط الجنسي للبالغين أيضًا على ما يلي: "يجب عدم نشر: حلمات ثدي أنثى مكشوفة، إلا في سياق الرضاعة الطبيعية والولادة ولحظات ما بعد الولادة والصور الطبية أو السياق الطبي أو الصحي (على سبيل المثال، ما بعد استئصال الثدي أو التوعية بسرطان الثدي أو جراحة تأكيد نوع الجنس)، أو كشكل من أشكال الاحتجاج." يمكن للمستخدمين أيضًا نشر صور الأعضاء التناسلية عندما تكون المشاركة في "سياق طبي أو صحي" (وهو ما يتضمن جراحات تأكيد الجنس) ولكن مع تطبيق تسمية تحذر الأشخاص من حساسية المحتوى. هناك أيضًا ما لا يقل عن 18 عاملاً إضافيًا من عوامل الإرشادات الداخلية التي تتناول الحلمات وهذه الاستثناءات.

3. قيم شركة Meta:

تم توضيح قيم شركة Meta في مقدمة معايير مجتمع فيسبوك وقد جرى وصف قيمة "حرية الرأي" بأنها "ذات أهمية قصوى":

يتمثل هدف معايير مجتمعنا دائمًا في توفير مكان لحرية الرأي يستطيع الأشخاص من خلاله إبداء وجهات نظرهم. [...] ونحن نريد أن يتمتع الأشخاص بالقدرة على التحدث بحرية عن القضايا التي تهمهم، حتى في حالة عدم اتفاق البعض أو اعتراضهم.

تُقيد شركة Meta "حرية الرأي" لخدمة أربع قيم، ترتبط اثنتان منها بهذه الحالة:

"السلامة": نحن ملتزمون بجعل فيسبوك مكانًا آمنًا. ولا شك أن أشكال التعبير التي تحمل تهديدًا للأشخاص قد تتسبب في إخافة الآخرين أو إقصائهم أو إسكاتهم ونحن لا نسمح بذلك على فيسبوك.

"الكرامة": نحن نؤمن بأن الأشخاص متساوون في الكرامة والحقوق. ونتوقع من الجميع احترام كرامة الآخرين وعدم الإساءة إليهم أو الحط من قدرهم.

4. المعايير الدولية لحقوق الإنسان:

تُرسي مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان (UNGP)، التي أقرها مجلس حقوق الإنسان التابع للأمم المتحدة عام 2011، إطار عمل تطوعي لمسؤوليات الأنشطة التجارية الخاصة فيما يتعلق بحقوق الإنسان. في عام 2021، أعلنت شركة Meta عن سياسة حقوق الإنسان الخاصة بالشركة، والتي أعادت التأكيد من خلالها على الالتزام باحترام حقوق الإنسان على نحو يتفق مع مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان. وقد استند تحليل المجلس لمسؤوليات شركة Meta تجاه حقوق الإنسان في هاتين الحالتين إلى معايير حقوق الإنسان التالية:

• الحقوق في حرية الرأي والتعبير: المادة 19 من العهد الدولي الخاص بالحقوق المدنية والسياسية (ICCPR)، التعليق العام رقم 34، اللجنة المعنية بحقوق الإنسان، 2011؛ وثيقة رقم 488/1992؛ القرار 32/2 مجلس حقوق الإنسان بالأمم المتحدة، 2016؛ تقارير مقرر الأمم المتحدة الخاص المعني بحرية الرأي والتعبير: A/HRC/38/35 ‏(2018) وA/74/486 ‏(2019).
• حقوق المرأة: المادة 2 والمادة 5، اتفاقية القضاء على جميع أشكال التمييز ضد المرأة (CEDAW).
• الحق في عدم التمييز: المادة 2، الفقرة 1 والمادة 26، العهد الدولي الخاص بالحقوق المدنية والسياسية. نيبومنياشّي ضد روسيا، لجنة حقوق الإنسان، 2018 ( CCPR/C/123/D/2318/2013).

5. المعلومات المقدَّمة من المستخدمين

في التعليقات المقدمة بشأن هاتين الحالتين، أشار المستخدمون إلى اعتقادهم بأن هذا المحتوى أزيل بسبب رهاب التحوّل جنسيا. وأشار المستخدمون إلى أنه إذا أكد المجلس أن هذا المحتوى يجب أن يظل على المنصة، فسيسهم هذا القرار في جعل Instagram مساحة أكثر ملاءمة لتعبير الأشخاص المنتمين إلى مجتمع الميم (LGBTQI+‎).

6. المعلومات المقدَّمة من Meta

أوضحت Meta في حيثيات قرارها أن إزالة عنصري المحتوى نتجت عن أخطاء في الإنفاذ وأن كلا المنشورين لما ينتهكا سياسات الإغواء الجنسي. تذكر Meta: "أن العرض أو الطلب الوحيد الذي ورد في المنشورين كان للمشاركة في حملة جمع تبرعات أو زيارة موقع ويب لشراء قمصان، ولم يكن أي منهما يتعلق بالإغواء الجنسي."

وتشير Meta أيضًا إلى عدم انتهاك المنشورين لمعيار مجتمعها بشأن العُري والنشاط الجنسي للبالغين. وتنص الحيثيات على أن "الإرشادات الداخلية للمراجعين تتناول تحديدًا كيفية اتخاذ إجراء بشأن عُري الأشخاص غير مصنفي الجنس أو المحايدين أو المتحولين جنسيًا." وقد جرت مشاركة المحتوى في هاتين الحالتين في "سياق غير مصنفي الجنس أو المتحولين جنسيًا بشكل صريح كما تبين من موضوع المحتوى ككل (إجراء جراحة بالجزء العلوي من الجسم) وعلامات الهاشتاج المستخدمة." خلُصت Meta إلى أنه "حتى لو كانت الحلمات في هاتين الحالتين مرئية ومكشوفة، فإنها لن تشكّل انتهاكًا لسياسة العُري والنشاط الجنسي للبالغين." وقد أقرت Meta أيضًا أن الحلمات في الصورتين كانت "مخفية تمامًا".

نظرًا لطول المدة منذ إزالة المحتوى، لم تتمكن Meta من إخبار المجلس بالسياسة أو السياسات التي بُرمجت كل الأنظمة التلقائية المختلفة لإنفاذها، ونعني بذلك الأنظمة التي حددت أن المحتوى يشكل مخالفة محتملة. في إحدى الحالتين، استطاعت Meta توضيح أن المحتوى أدرج في قائمة انتظار المراجعة مرتين بواسطة أدوات تصنيف سياسة العُري والنشاط الجنسي للبالغين. لم تستطع Meta أيضًا تقديم أي تفسير لسبب اعتقاد المراجعين بأن المحتوى انتهك سياسة الإغواء الجنسي. وتقر الحيثيات أن Meta "على علم بأن بعض مراجعي المحتوى قد يزيلون المحتوى بالخطأ باعتبار أنه إغواء جنسي ضمني (حتى وإن لم يكن كذلك) استنادًا إلى تطبيق تقني للغاية لإرشاداتنا الداخلية المخصصة للمراجعين."

تلقت Meta من المجلس 18 سؤالاً وأجابت عنهم جميعًا.

7. التعليقات العامة

درس مجلس الإشراف 130 تعليقًا عامًا ذا صلة بهاتين الحالتين. تم تقديم سبعة وتسعين تعليقًا من الولايات المتحدة وكندا، بينما تم تقديم 19 تعليقًا من أوروبا، و10 تعليقات من آسيا والمحيط الهادئ والأوقيانوس، وتعليق واحد من أمريكا اللاتينية والكاريبي، وتعليق واحد من الشرق الأوسط وشمال أفريقيا، وتعليق واحد من دول أفريقيا الواقعة جنوب الصحراء الكبرى، وتعليق واحد من وسط وجنوب آسيا.

تناولت التعليقات المقدمة الموضوعات التالية: إزالة محتوى المستخدمين من المتحولين جنسيًا وغير مصنفي الجنس والنساء عن طريق الخطأ؛ والافتقار إلى الإنصاف والمساواة في التمييز القائم على أساس الجنس عند تحديد أشكال العُري المسموح بها على المنصة؛ والحيرة التي تكتنف تحديد المحتوى المسموح به بموجب معايير المجتمع بشأن العُري والنشاط الجنسي للبالغين والإغواء الجنسي؛ وأهمية وسائل التواصل الاجتماعي للتعبير في المجتمعات التي تتعرض فيها حقوق أعضاء مجتمع الميم (LGBTQI+‎) للتهديد.

لقراءة التعليقات العامة المقدمة بشأن هاتين الحالتين، يرجى النقر هنا. لم يتم تضمين العديد من التعليقات المقدمة لاحتوائها على معلومات تكشف هوية أشخاص آخرين غير القائم بالتعليق.

8. تحليل مجلس الإشراف

نظر المجلس في مسألة ما إذا كان ينبغي استعادة هذين المنشورين من خلال ثلاث رؤى: سياسات المحتوى لدى شركة Meta، وقيَمها، ومسؤولياتها تجاه حقوق الإنسان.

حدد المجلس هاتين الحالتين لأن إزالة محتوى غير مخالف جرى نشره بواسطة أشخاص ينتمون إلى فئات مهمشة يؤثر في حرية التعبير لديهم. ويحظى ذلك بأهمية خاصة لأن Instagram قد يشكل منتدىً تستطيع من خلاله هذه الفئات بناء مجتمعات لها. تلقي هاتان الحالتان الضوء على ما يمكن أن تتركه أخطاء الإنفاذ من تأثير غير متناسب على فئات معينة وقد تشير إلى مشكلات أوسع يمكن إصلاحها في السياسة والإنفاذ.

8.1 الامتثال لسياسات المحتوى لدى شركة Meta

يرى المجلس أن هذين المنشورين لا ينتهكا أي من سياسة المحتوى التي تقرها Meta. وبينما يتم تطبيق إرشادات المجتمع على Instagram، تشير Meta أيضًا إلى أن "سياسات المحتوى مشتركة بين فيسبوك وInstagram. واعتبار المحتوى مخالفًا على فيسبوك يجعله مخالفًا على Instagram أيضًا." توفر معايير مجتمع فيسبوك المزيد من التفاصيل ولها روابط في الإرشادات.

أ. الإغواء الجنسي

ينص معيار المجتمع بشأن الإغواء الجنسي على أن الإغواء الجنسي الضمني يتطلب وجود عنصرين معًا:

• محتوى يتضمن عرضًا أو طلبًا ضمنيًا و
• عناصر تنطوي على إيحاءات جنسية.

العرض أو الطلب الضمني.

ينص تعريف العرض أو الطلب الضمني في معيار المجتمع بشأن الإغواء الجنسي على أنه "المحتوى الذي يعرض أو يطلب الإغواء الجنسي بشكل ضمني أو غير مباشر (عادةً من خلال تقديم وسيلة تواصل)". في "الأسئلة المعروفة" لشركة Meta، والتي توفر إرشادات داخلية إضافية للمراجعين، تضم قائمة معلومات الاتصال التي تؤدي إلى الإزالة باعتبارها عرضًا ضمنيًا روابط الملفات الشخصية على وسائل التواصل الاجتماعي و"الروابط لمواقع بنظام الاشتراك (على سبيل المثال، OnlyFans.com أو Patreon.com)." في هاتين الحالتين، تضمن المحتوى رابطًا إلى منصة أنشأ فيها المستخدم حملة جمع تبرعات لسداد تكلفة العملية الجراحية. لأن معايير Meta الداخلية لتحديد "العرض أو الطلب الضمني" فضفاضة للغاية، سيتأهل هذا الرابط من الناحية التقنية باعتباره نوعًا من "العرض أو الطلب" بموجب إرشادات Meta للمراجعين على الرغم من عدم انتهاكه للمعيار المعلن لعامة الجمهور، وهو ما يشترط ضرورة أن يتعلق العرض أو الطلب بشيء جنسي.

العنصر الذي ينطوي على إيحاءات جنسية.

يوفر معيار المجتمع قائمة بالعناصر التي تنطوي على إيحاءات جنسية ومن بينها الوقفات والأوضاع. توفر الأسئلة المعروفة قائمة، وصفتها Meta بأنها شاملة، للأوضاع والوقفات التي توصف بأنها تنطوي على إيحاءات جنسية، بما في ذلك "ثدي الإناث المغطى إما رقميًا أو بأشياء أو بأعضاء أخرى من جسم الإنسان." في الصورتين، يلاحظ المجلس وجود ثدي مغطى بأعضاء من جسم الإنسان (اليدين) أو أشياء (شريط). في هاتين الحالتين، يوضح محتوى المنشورات أن الأشخاص موضوع الصور من المتحولين جنسيًا وغير مصنفي الجنس، مما يعني أن الثدي الظاهر في الصورة يعود لأشخاص ليسوا من النساء. يرى المجلس أيضًا أن المحتوى لا ينطوي على إيحاءات جنسية. من هذا المنطلق، فإن العنصر الثاني المطلوب لانتهاك سياسة الإغواء الجنسي - أي العنصر الذي ينطوي على إيحاءات جنسية مثل الوقفات والأوضاع الجنسية (والذي يتضمن ثدي الإناث) - لم يتحقق.

لأن العنصر الثاني لم يتحقق، لم تشكل المنشورات انتهاكًا لهذا المعيار. ويشير تطبيق الإصدار المعلن من العنصر الأول (الذي ينص على ضرورة أن يكون العرض/الطلب لشيء جنسي) إلى أن هذه الصور لن تشكل إغواءً جنسيًا.

ب. العُري والنشاط الجنسي للبالغين

ينص معيار المجتمع بشأن العُري والنشاط الجنسي للبالغين على وجوب عدم نشر المستخدمين صور "حلمات ثدي أنثوي مكشوفة، إلا في سياق الرضاعة الطبيعية والولادة ولحظات ما بعد الولادة والصور الطبية أو السياق الطبي أو الصحي (على سبيل المثال، ما بعد استئصال الثدي أو التوعية بسرطان الثدي أو جراحة تأكيد نوع الجنس)، أو كشكل من أشكال الاحتجاج." وتنص الأسئلة المعروفة من Meta أيضًا على وجوب سماح المراجعين "بصور الحلمات عند مشاركتها في سياق تحويل الجنس من أنثى إلى ذكر، أو عدم تصنيف الجنس، أو حيادية الجنس (على سبيل المثال، عندما يشير المستخدم إلى هذه الهوية الجنسية)، بغض النظر عن حجم أو شكل الثدي." لا تشكل أي من الصور في هاتين الحالتين مخالفة لمعيار المجتمع هذا.

أولاً، لا تعرض أي من الصور حلمات مكشوفة. وقد قام الأشخاص في الصورتين بتغطية حلماتهم إما بالأيدي أو بواسطة شريط. ثانيًا، حتى لو كانت الحلمات مرئية، يرى المجلس أن مشاركة الصور كانت مصحوبة بنص يوضح أن الأشخاص من غير مصنفي الجنس. وبالتالي لم يتم انتهاك هذه السياسة.

8.2 الامتثال لقيم شركة Meta

وجد المجلس أن القرارات الأصلية بإزالة المنشورات لم تكن تتسق مع قيم شركة Meta المتمثلة في "حرية الرأي" و"الكرامة" ولم تخدم قيمة "السلامة".

تمثل أخطاء الإنفاذ التي تؤثر بشكل غير متناسب في المجموعات التي تعاني من التمييز تهديدًا خطيرًا لقيم "حرية الرأي" و"الكرامة". على الرغم من تناول قيمة السلامة في مناقشات حقوق الإنسان لدى Meta، لا سيّما فيما يتعلق بمشاركة الصور دون موافقة أصحابها، والاتجار بالجنس، وإساءة معاملة الأطفال، يرى المجلس أن عمليات الإزالة هذه لم تعزز "السلامة."

8.3 الامتثال لمسؤوليات شركة Meta تجاه حقوق الإنسان

حرية التعبير (المادة 19 من العهد الدولي الخاص بالحقوق المدنية والسياسية)

تنص المادة 19 من العهد الدولي الخاص بالحقوق المدنية والسياسية على توفير حماية واسعة لحرية التعبير، بما في ذلك مناقشة حقوق الإنسان وأوجه التعبير التي قد يعتبرها الأشخاص مسيئة (التعليق العام رقم 34، الفقرة 11). الحق في حرية التعبير مكفول لجميع الأشخاص دون تمييز على أساس "الجنس" أو أي "حالة أخرى" ( العهد الدولي الخاص بالحقوق المدنية والسياسية، المادة 2، الفقرة 1). أكدت لجنة حقوق الإنسان في حالات مثل نيبومنياشّي ضد روسيا ( CCPR/C/123/D/2318/2013) أن حظر التمييز يتضمن التمييز على أساس الهوية الجنسية.

يتعلق المحتوى بقضايا اجتماعية مهمة. وبالنسبة إلى هؤلاء المستخدمين، يوفر Instagram منتدى لمناقشة وعرض آرائهم بشأن الجنس، مما يوفر منتدى للتواصل والحصول على الدعم. قد يؤثر المحتوى أيضًا بشكل مباشر في قدرة المستخدمين على متابعة جراحة تأكيد الجنس، لأن المنشوران يوضحان أن أحد الشخصين سيجري عملية جراحية بالجزء العلوي من الجسم ويشاركان حملة جمع تبرعات لجمع تكاليف العملية الجراحية.

تنص المادة 19 على أنه عند فرض الدولة لقيود على حرية التعبير، يجب أن تفي تلك القيود بمتطلبات الشرعية والهدف المشروع والضرورة والتناسب (العهد الدولي الخاص بالحقوق المدنية والسياسية، المادة 19، الفقرة 3). استنادًا إلى إطار عمل مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان، دعا مقرر الأمم المتحدة الخاص المعنى بحرية الرأي والتعبير شركات وسائل التواصل الاجتماعي إلى ضمان استرشاد قواعد المحتوى التي تتبعها بمتطلبات الفقرة 3 من المادة 19 من العهد الدولي الخاص بالحقوق المدنية والسياسية (A/HRC/38/35، الفقرتان 45 و70). وقد اعتمد المجلس هذا الإطار لتحليل السياسات وإجراءات الإنفاذ التي تتبعها Meta.

في هذه الحالة، يرى المجلس أن Meta لم تفي بمسؤولياتها تجاه وضع وإنفاذ سياسات تتفق مع هذه المعايير. وتعتبر المعايير الداخلية المطبقة لإزالة المحتوى بموجب سياسة الإغواء الجنسي أكثر شمولاً من المبادئ المعلنة للسياسة، مع عواقب لفرط الإنفاذ اعترفت بها Meta ذاتها. يؤثر معيار المجتمع بشأن العُري والنشاط الجنسي للبالغين بشكل غير متناسب على المستخدمين من النساء وأعضاء مجتمع الميم (LGBTQI+‎) ويعتمد على تصورات ذاتية وتخمينية عن الجنس والنوع لا يمكن تطبيقها عمليًا عند الإشراف على المحتوى على نطاق واسع. يحلل المجلس مواطن الخلل هذه ويوصي Meta ببدء عملية شاملة لمعالجة هذه المشكلات.

1. الشرعية (وضوح القواعد وسهولة الوصول إليها)

يجب أن تكون القواعد التي تقيد حرية التعبير واضحة ويسهل الوصول إليها حتى يعلم المسؤولون عن تنفيذها والمستخدمون الأمور المسموح بها. لا يفي معيارا المجتمع اللذان تم النظر فيهما في هاتين الحالتين بمتطلبات هذا المعيار.

أ. الإغواء الجنسي

يرى المجلس أن معيار المجتمع بشأن الإغواء الجنسي يتضمن معايير واسعة للغاية في الإرشادات الداخلية الموجهة إلى المراجعين. تسهم هذه الإرشادات التي لم تتم صياغتها بشكل محكم في حدوث حالة من فرط الإنفاذ لدى المراجعين وحالة من الإرباك لدى المستخدمين. وقد أقرت Meta بذلك، حيث أوضحت للمجلس أن تطبيق هذه الإرشادات الداخلية قد "يؤدي إلى فرط الإنفاذ في الحالات التي تستوفي معايير الإغواء الجنسي الضمني، والتي يتضح فيها "عدم وجود نية لطلب أو عرض الجنس."

وينعكس الإرباك في عنصري هذه السياسة. فيما يتعلق بعنصر "العرض أو الطلب" من معيار المجتمع بشأن الإغواء الجنسي، تشير القواعد المعلنة للجمهور إلى "طريقة التواصل" الخاصة بالطرف الذي يطلب أو يعرض. مع هذا، تنص إرشادات المشرفين، أو الأسئلة المعروفة، على أن "طريقة التواصل" الخاصة "بالعرض أو الطلب" الضمني تتضمن روابط الملفات الشخصية على شبكات التواصل الاجتماعي أو روابط لمواقع ويب خارجية بنظام الاشتراك مثل Patreon. ولم يوضَّح للمستخدمين أن أي رابط إلى ملف شخصي على شبكة تواصل اجتماعي أخرى أو أي رابط لمنصة دفع خارجية أو منصة جمع تبرعات (مثل Patreon أو GoFundMe) قد تؤدي إلى التعامل مع المنشور على اعتبار أنها إغواء. ينعكس هذا الإرباك في التعليقات العامة الكثيرة التي تلقاها المجلس من أشخاص لم يفهموا سبب إزالة المحتوى الذي يتضمن هذا النوع من الروابط الخارجية أو ما يترتب على نشرها من حظر حساباتهم.

يتسم المعيار الثاني، الذي يتطلب وجود عنصر ينطوي على إيحاءات جنسية، بالاتساع والإبهام، فضلاً عن عدم اتساقه مع سياسة Meta بشأن العُري والنشاط الجنسي للبالغين. في معيار المجتمع المعلن للجمهور، يتم اعتبار "الأوضاع التي تنطوي على إيحاءات جنسية" أحد العناصر التي تنطوي على إيحاءات جنسية. وتوفر الأسئلة المعروفة قائمة تفصيلية تتضمن "الأوضاع التي تنطوي على إيحاءات جنسية" والتي تتضمن الظهور بصدر مكشوف وتغطية الثديين باليد أو بأي شيء. ومن غير المرجح أن يتمكن المستخدم من التنبؤ بما إذا كانت أي صورة تحتوي على ثدي مغطى تعتبر وضعًا ينطوي على إيحاءات جنسية أم لا. ويتفاقم هذا الإرباك نتيجة لحقيقة أن سياسة عُري البالغين تسمح بالصور مكشوفة الصدر عند تغطية الحلمات. وعلى هذا النحو، فإن المحتوى الذي يعتبر جنسيًا بموجب إحدى السياسات لا يعتبر جنسيًا بموجب سياسة أخرى.

بالإضافة إلى عدم تيقن المستخدم، فإن حقيقة وصول المراجعين مرارًا وتكرارًا إلى نتائج مختلفة بشأن هذا المحتوى توحي بافتقار المشرفين إلى الوضوح بشأن المحتوى الذي يجب اعتباره إغواءً جنسيًا.

كما تقر Meta، فإن تطبيق إرشاداتها الداخلية على عنصري الإغواء الجنسي يؤدي إلى إزالة عناصر محتوى لا تلتمس أي أفعال جنسية. وعلى المدى البعيد، فإن أفضل طريقة للتعامل مع عمليات الإزالة غير الصحيحة تتمثل في تعديل نطاق هذه السياسة. ومع ذلك، وعلى المدى القريب، يوصي المجلس Meta بمراجعة إرشاداتها الداخلية للتأكد من أن المعايير تعكس القواعد المعلنة وتشترط وجود رابط أوضح بين "العرض أو الطلب" و"العنصر الذي ينطوي على إيحاءات جنسية." يجب على Meta أيضًا تزويد المستخدمين بشرح إضافي للأمور التي تشكّل "عرضًا أو طلبًا" للجنس وتلك التي تشكّل أوضاعًا تنطوي على إيحاءات جنسية في معايير المجتمع المعلنة للجمهور.

ب. العُري والنشاط الجنسي للبالغين

يستند معيار المجتمع بشأن العُري والنشاط الجنسي للبالغين إلى فروق تتعلق بالجنس والنوع يصعب تنفيذها ويتضمن استثناءات غير محددة بشكل جيد. وتتضمن السياسة قواعد من شأنها إرباك المستخدمين الذين لا يعرفون الأمور المسموح بها. وتتسبب أيضًا في إرباك المشرفين، الذين يجب عليهم إجراء تقييمات ذاتية استنادًا إلى معلومات غير كاملة بشكل لا يمكن تلافيه مع سرعة تطبيق القواعد في ظل العديد من العوامل والاستثناءات والافتراضات.

على الرغم من استخدام لغة تركز على أجزاء معينة من الجسم بدلاً من النوع (والسماح للمستخدمين بالاختيار من مجموعة واسعة من الهويات الجنسية في ملفاتهم الشخصية)، لا تفسر معظم قواعد Meta كيفية تعامل الشركة مع المحتوى الذي يتناول الأشخاص ثنائيي الجنس أو المتحولين جنسيًا أو غير مصنفي الجنس. على سبيل المثال، تشير السياسة إلى "الأعضاء التناسلية للذكور والإناث"، و"ثدي الإناث" و"حلمات الإناث"، ولكن من غير الواضح كيفية تطبيق هذه الأوصاف على أشخاص أجسامهم وهوياتهم قد لا تتفق مع هذه التعريفات. أرسل الكثير من الأشخاص المتحولين جنسيًا وغير مصنفي الجنس تعليقات إلى المجلس تشير إلى أن المستخدمين لا يعلمون ما إذا كان المحتوى قد تم تقييمه وتصنيفه وفقًا لهويتهم الجنسية، أو النوع المحدد لهم عند الولادة، أو جوانب هيئتهم الجسمانية.

تتطلب القواعد الحالية من المراجعين البشريين إجراء تقييم سريع لكل من جنس المستخدم، حيث تسري هذه السياسة على "حلمات الإناث"، وهويتهم الجنسية، نظرًا لوجود استثناءات تستند إلى مدى كون الشخص الظاهر في الصور غير مصنف الجنس أو محايد الجنس أو متحول الجنس أو ينشر في سياق جراحة تأكيد الجنس. تتطلب تصورات الجنس والنوع تفسير القرائن السياقية والمظهر، وهي قرارات ذاتية تؤدي إلى وقوع أخطاء.

يزداد هذا النهج تعقيدًا بسبب "مبدأ إرجاع الأصل إلى الإناث" الذي تتبعه Meta حيث تُطبَق، في حالات الشك، السياسات الأكثر تقييدًا التي تسري على عُري الإناث (مقارنة بالذكور). تنص الأسئلة المعروفة على أنه عند عدم وجود سياق واضح وكان الشخص الظاهر في الصورة "يمثل أنثى أو عند وجود سياق تحوّل جنسي من ذكر إلى أنثى، يتم اعتبار الأمر نوعًا من عُري الإناث وتطبيق السياسة ذات الصلة."

يتسم عدد القيود والحالات المستثناة من القواعد المتعلقة بالحلمات التي يتم التعامل معها على أنها حلمات أنثوية باتساع النطاق والإرباك. تتراوح الاستثناءات بين الاحتجاج ومشاهد الولادة والرضاعة الطبيعية والسياقات الطبية والصحية، بما في ذلك صور جراحات ما بعد استئصال الثدي والتوعية بسرطان الثدي. وعادة لا يتم تعريف الاستثناءات أو تعريفها بشكل سيء. وتزيد العناصر المدرجة في قائمة الاستثناءات زيادة كبيرة بمرور الوقت ومن المتوقع أن تواصل الزيادة مع تطور أوجه التعبير. وعندما يتعلق الأمر بثدي المرأة، فإن الافتراض الأساسي لسياسة Meta بشأن العُري والنشاط الجنسي للبالغين يتمثل في أن هذه الصور تعتبر صورًا جنسية. ومع ذلك، فإن قائمة الاستثناءات الموسعة تعكس أنه في ظل العديد من الظروف المعترف بها في السياسة، فإن صور ثدي المرأة لا تنطوي على إيحاءات جنسية.

حتى داخل كل استثناء، تثار العديد من الأسئلة. على سبيل المثال، يحظى استثناء جراحات تأكيد الجنس بأهمية خاصة للمستخدمين من المتحولين جنسيًا وغير مصنفي الجنس، لكن Meta لا توفر تفسيرًا لنطاق استثناء جراحات تأكيد الجنس في قواعدها المعلنة للجمهور. وهو ما أسفر عن العديد من التعليقات العامة التي أعربت عن حيرتها بشأن ما إذا كان المحتوى المسموح به بموجب الاستثناء يمكن أن يتضمن صور ما قبل الجراحة (لإنشاء صور قبل وبعد) وصور متحولات جنسيًا خضعن لجراحات تكبير الثدي. توضح الإرشادات الداخلية والأسئلة المعروفة أن هذا الاستثناء أضيق مما قد توحي به الإرشادات المعلنة.

تستند سياسات Meta إلى الفروق الثنائية بين الذكور والإناث، مما يخلق تحديات عندما تحاول Meta توضيح استثناء جراحة تأكيد الجنس. في ردود Meta على المجلس، أوضحت Meta أن استثناء جراحة تأكيد الجنس يعني أنها تسمح "بظهور حلمات الإناث قبل إجراء الشخص جراحة بالجزء العلوي من الجسم لاستئصال الثدي عند مشاركة المحتوى في سياق صريح ينطوي على التحول من أنثى إلى ذكر أو عدم تصنيف الجنس أو حيادية الجنس." تنص القواعد أيضًا على "حظر ظهور حلمات النساء اللاتي تحولن من ذكور إلى إناث وخضعن لعمليات تكبير الثدي (جراحة بالجزء العلوي من الجسم)، إلا في حالة وجوب ندبات مكان الحلمة."

وتتسم الإرشادات الداخلية التي تتناول الندبات الجراحية والحلمات بمزيد من التعقيد. وتسمح القواعد المتعلقة باستئصال الثدي، على سبيل المثال، "بحالات إعادة بناء الحلمة من أنسجة أخرى أو رسمها بالاستينسل أو الوشم" و"الحالات التي تم فيها استئصال ثدي واحد على الأقل جراحيًا، حتى إن كانت الحلمة الأنثوية الأخرى مرئية." ويتمثل الأمر الأكثر إرباكًا في أن القواعد تنص على أنه "بالنسبة إلى عمليات استئصال الثدي، تتضمن الندبات تصوير المنطقة التي كانت تتواجد بها أنسجة الثدي الذي تم استئصاله. ولا يلزم أن تكون الندبات الجراحية مرئية."

سيواجه المراجعون على الأرجح صعوبة كبيرة في تطبيق القواعد التي تتطلب إجراء تقييم سريع للسمات المتعلقة بجنس الشخص الظاهر في الصورة للنظر في إمكانية تطبيق القواعد المتعلقة بحلمات الإناث، ثم نوع الشخص لتحديد مدى انطباق أي من الاستثناءات، ثم النظر فيما إذا كان المحتوى يصوّر ما قبل أو بعد الإجراء الجراحي، ونوع الإجراء الجراحي، ومدى وطبيعة الندبات المرئية، لتحديد مدى انطباق أي استثناءات أخرى. ويتم حظر الصور التي تظهر بها حلمات أنثوية في حالة نشرها بواسطة نساء متوافقات الجنس بينما يتم السماح بنفس الصور إذا كان الناشر يعرّف نفسه بأنه غير مصنف الجنس. ويلاحظ المجلس أيضًا استثناءات أخرى بشأن الحلمات استنادًا إلى سياقات الاحتجاج، والولادة، وما بعد الولادة، والرضاعة الطبيعية والتي لم يتم تناولها هنا، ولكن يجب تقييمها أيضًا والتي من المفترض أن تتضمن معايير داخلية إضافية.

نظرًا لأهمية حقوق الأشخاص في التعبير بشأن قضايا الجنس والصحة البدنية والولادة والأبوة والأمومة، فإن توليفة الاستثناءات الحالية المعقدة تخلق نوعًا لا داعي له من عدم اليقين بالنسبة إلى المستخدمين ويحتمل أن يسفر عن عدم تطبيق القواعد بشكل صحيح، كما اتضح من هذه الحالة. إن الافتقار إلى الوضوح المتأصل في هذه السياسة بالنسبة إلى المستخدمين والمشرفين يجعل المعيار غير قابل للتطبيق. ووفقًا لمناقشة الأمر أكثر أدناه، يرى المجلس أن على Meta اتباع نهج للتعامل مع العُري يضمن معاملة كل الأشخاص دون تمييز على أساس الجنس أو الهوية الجنسية.

2. الهدف المشروع

تنص المادة 19 من العهد الدولي الخاص بالحقوق المدنية والسياسية على أنه لا يجوز للدول تقييد حرية التعبير إلا لتحقيق أهداف مشروعة، والتي تم تحديدها على النحو التالي: "احترام حقوق الآخرين أو سمعتهم . . . [و] حماية الأمن القومي أو النظام العام أو الصحة العامة أو الآداب العامة." يدرس هذا القرار حيثيات Meta لتقييد الخطاب في سياساتها في ضوء هذه المعايير.

أ. الإغواء الجنسي

أوضحت Meta في سياسة الإغواء الجنسي أنها "تهدف إلى منع المستخدمين من استخدام فيسبوك أو Instagram في تسهيل "معاملات قد تنطوي على الاتجار والإكراه والأفعال الجنسية القسرية" التي قد تحدث خارج المنصة. يعتبر ذلك من أمثلة حماية حقوق الآخرين، وهو هدف مشروع.

ب. العُري والنشاط الجنسي للبالغين

قدمت Meta حيثيات متعددة لجوانب معينة من سياستها بشأن العُري والنشاط الجنسي للبالغين، بما في ذلك منع انتشار المحتوى غير التوافقي، وحماية القاصرين عندما لا يكون عمر الشخص واضحًا وحقيقة أن "هذا النوع من المحتوى قد يؤذي مشاعر بعض الأشخاص في مجتمعنا." قدمت Meta أيضًا تفسيرًا لمبادئها العامة بشأن العُري إلى المجلس. وهي تنص على أنه "عند صياغة سياستنا، راعت Meta ما يلي (1) الطبيعة الخاصة أو الحساسة للصور؛ (2) مدى موافقة الطرف الظاهر في الصور العارية على التقاطها ومشاركتها؛ (3) خطر الاستغلال الجنسي؛ و(4) ما إذا كان الكشف عن مثل هذه الصور يمكن أن يؤدي إلى مضايقات خارج المنصة، لا سيّما في البلدان التي قد تكون فيها هذه الصور مسيئة ثقافيًا."

تتوافق معظم هذه الأهداف مع حماية حقوق الآخرين. مع هذا، فإن حيثيات Meta لحماية "حساسية المجتمع" بحاجة إلى مزيد من الفحص. ويحتمل أن تتوافق هذه الحيثيات مع الهدف المشروع المتمثل في "الآداب العامة". ومع هذا، يلاحظ المجلس أنه يتم أحيانًا التذرع بحماية "الآداب العامة" بشكل غير صحيح بواسطة منظمي الخطاب التابعين للحكومة لانتهاك حقوق الإنسان، لا سيّما حقوق الأقليات والفئات المعرضة للخطر. حذرت لجنة حقوق الإنسان من أن "مفهوم الأخلاق مستمد من تقاليد اجتماعية وفلسفية ودينية عديدة؛ وعليه، يجب أن تستند القيود المفروضة ... بغرض حماية الأخلاق إلى مبادئ غير مستمدة حصرًا من تقليد واحد" (لجنة حقوق الإنسان، التعليق العام 34).

في حين يعترف قانون حقوق الإنسان بأن الأخلاق العامة يمكن أن تشكّل هدفًا مشروعًا يدفع الدول لفرض قيود على حرية التعبير، ومع وجود قيود على العُري العلني في جميع أنحاء العالم، تؤكد Meta على أهداف أخرى غير "الحساسيات المجتمعية" في السياق المحدد لهذه الحالة. صرحت Meta بأنه "على الرغم من أن سياستها بشأن العُري تتفق مع حماية الأخلاق العامة [...فإنها] لا تستند في نهاية المطاف إلى هذا الهدف لأن المعايير الأخلاقية بشأن العُري تختلف اختلافًا واسعًا على مستوى الثقافات وسيتعذر تطبيقها على نطاق واسع." على سبيل المثال، في مجتمعات وأنحاء عديدة على مستوى العالم، قد يُنظر إلى الصور التي يظهر بها ثدي الأشخاص المتحولين جنسيًا وغير مصنفي الجنس على أنها تتجاوز الحساسيات المجتمعية. ومع ذلك لا تقيد Meta هذا النوع من التعبير. وعلاوة على ذلك، يشعر المجلس بالقلق تجاه العبء المعروف والمتكرر الذي يؤثر بشكل غير متناسب على حرية التعبير لدى المرأة والأشخاص المتحولين جنسيًا وغير مصنفي الجنس بسبب سياسات Meta (راجع أدناه). لهذه الأسباب، يركز المجلس على الأهداف الأخرى التي ساقتها Meta بخلاف "الحساسيات المجتمعية" عند فحص مسؤولياتها تجاه حقوق الإنسان.

تجدر الإشارة إلى أن بعض الأسباب التي تقدمها Meta بشأن سياسة العُري التي تفرضها تعكس فرضية أساسية للطبيعة التي تنطوي على إيحاءات جنسية لثدي المرأة كأساس لتلك السياسة. تلقى المجلس تعليقات عامة من مستخدمين كُثر أعربوا فيها عن قلقهم بشأن إضفاء الطابع الجنسي بشكل افتراضي على أجسام النساء والأشخاص المتحولين جنسيًا وغير مصنفي الجنس، في حين لا يتم إضفاء نفس القدر من الطابع الجنسي بشكل افتراضي على صور الرجال المتوافقين جنسيًا. (راجع على سبيل المثال، التعليق العام 10624 المقدم من InternetLab).

تلقى المجلس تعليقات عديدة في هذه الحالة من خلال عملياته العادية للتوعية بالحالات. وكهيئة ملتزمة بتوفير وسيلة مساءلة لقاعدة مستخدمي Meta وأصحاب المصلحة الرئيسيين، يدرس المجلس التعليقات بجدية كجزء من مداولاته. وكما هو الحال مع كل الحالات، ندرك أن هذه التعليقات قد لا تمثل الرأي العام العالمي. يقدّر المجلس التجارب والخبرات التي تتم مشاركتها من خلال التعليقات ويواصل اتخاذ خطوات لزيادة نطاق وصوله إلى المجتمعات التي قد لا تشارك حاليًا في هذه العملية.

أخيرًا، يدرك المجلس أنه يجوز لشركة Meta أن تأخذ في الاعتبار بشكل مشروع أهمية منع بعض الأضرار التي قد يكون لها آثار ذات طابع جنساني. وكما أشارت مقررة الأمم المتحدة الخاصة المعنية بالعنف ضد المرأة، "من المهم الإقرار بأن الإنترنت باتت تُستخدم في بيئة أكبر من التمييز الهيكلي المنهجي والواسع النطاق ومن العنف الجنساني ضد النساء والفتيات" (A/HRC/38/47). وعلاوة على ذلك، تفيد الدراسات الاستقصائية إلى أن "90 في المائة من ضحايا النشر الرقمي لصورهم الحميمية دون موافقتهم من النساء." (A/HRC/38/47). يجب أن تسعى Meta إلى الحد من الأضرار الجنسانية، سواء ما يتعلق منها بفرط أو نقص إنفاذ سياسات حظر العُري.

3. الضرورة والتناسب

يرى المجلس أن سياسات Meta، وفق صياغتها وإنفاذها، تؤثر في عناصر محتوى أكثر من اللازم. ولا تتناسب أي من السياستين مع المشكلات التي تسعى إلى معالجتها.

أ. الإغواء الجنسي

تتسم التعريفات الواردة في سياسة الإغواء الجنسي بشأن "العرض أو الطلب" الضمني والأوضاع التي تنطوي على إيحاءات جنسية بأنها فضفاضة وتحدد عددًا كبيرًا من عناصر المحتوى غير المتعلقة بالإغواء الجنسي. وتقر Meta نفسها بمخاطر الإنفاذ غير الصحيح، حيث صرحت أنها "على علم بأن بعض مراجعي المحتوى قد يزيلون المحتوى بالخطأ باعتبار أنه إغواء جنسي ضمني (حتى وإن لم يكن كذلك) استنادًا إلى تطبيق تقني للغاية لإرشادات[ها] الداخلية المخصصة للمراجعين." وأضافت Meta:

حاليًا، استنادًا إلى الأسئلة المعروفة، نعتبر مشاركة معلومات الاتصال الخاصة بالهويات الاجتماعية أو الرقمية أو ذِكرها أو تقديمها بمثابة عرض أو طلب ضمني للإغواء الجنسي. [...] ومع هذا، فإن تطبيق هذه الإرشادات قد يؤدي إلى فرط الإنفاذ في حالات مثل اعتبار المراجع أن الوضعية التي يتخذها عارض/عارضة تنطوي على إيحاءات جنسية (يفي ذلك بمعيار "العنصر الذي ينطوي على إيحاءات جنسية") مع وجود إشارة إلى المصوّر تقديرًا له على التقاط الصورة (يفي ذلك بمعيار "العرض أو الطلب"). هذا النوع من المحتوى غير مخالف لعدم وجود نية لطلب أو عرض الجنس، لكن لا يزال بالإمكان إزالته (على عكس السياسة) لأنه يفي بالمعيارين المحددين أعلاه.

وصفت منظمة اليونسكو، في تقرير يناقش التعليم في الفضاء الرقمي، مخاطر فرط الإنفاذ عن طريق الخطأ. وقالت "إن اللوائح الصارمة المتعلقة بمشاركة الصور الصريحة تعني، في بعض الحالات، أن المواد التعليمية المنشورة عبر الإنترنت لدعم التعلم عن الجسد، أو العلاقات الجنسية، قد يخطئ المشرفون ويتعاملون معها على أنها محتوى غير لائق وفاضح، وبالتالي تتم إزالتها من منصات الويب العامة." يلاحظ المجلس أيضًا كثرة التعليقات العامة التي تلقاها والتي تناقش عمليات الإزالة الخاطئة بموجب هذا المعيار. على سبيل المثال، كتبت منظمة ACON (وهي منظمة غير حكومية تثقيفية حول فيروس نقص المناعة البشرية في أستراليا) أن المحتوى الذي يروّج رسائل للوقاية من فيروس نقص المناعة البشرية بطريقة إيجابية فيما يتعلق بالجنس والمحتوى الذي يروّج الورش التثقيفية قد أزيل باعتبار أنه يمثل إغواءً جنسيًا. وهو ما دفع المنظمة غير الحكومية إلى اختيار الصيغة التي تستخدمها لتجنب إزالة Meta للمحتوى، بدلاً من اختيار أفضل صيغة تساعدها على الوصول إلى المجتمعات التي تستهدفها (التعليق العام رقم 10550). وهذا ما كررته جوانا ويليامز، وهي باحثة توصلت إلى أن تسعة من أصل اثني عشر منظمة متخصصة في الصحة الجنسية قابلتها أشارت إلى أنها تأثرت سلبًا بإشراف Meta في هذا المجال (التعليق العام رقم 10613).

ب. العُري والنشاط الجنسي للبالغين

بالإضافة إلى التحديات التي تكتنف وضع قواعد قابلة للإنفاذ والتطبيق على نطاق واسع استنادًا إلى تصور Meta للجنس والهوية الجنسية، على النحو الموصوف أعلاه، يرى المجلس أيضًا أن سياسات Meta بشأن عُري البالغين تضع قيودًا غير متناسبة على بعض أنواع المحتوى والتعبير. وتفرض السياسات إزالة المحتوى، في حين يمكن لبعض الإجراءات الأقل تقييدًا أن تحقق الأهداف المعلنة للسياسة.

تستخدم Meta بالفعل مجموعة واسعة من إجراءات الإنفاذ بخلاف الإزالة، بما في ذلك تطبيق شاشات تحذيرية وتقييد الوصول إلى المحتوى حسب الفئة العمرية للسماح فقط للمستخدمين الذين تزيد أعمارهم عن 18 عامًا بمشاهدته. وعلاوة على ذلك، فهي تستخدم بالفعل هذه التدابير ضمن سياسة العُري والنشاط الجنسي للبالغين، بما في ذلك لعمليات التصوير الفني للنشاط الجنسي. قد ترغب Meta أيضًا في الاستعانة بالإشراف التلقائي والبشري لاتخاذ قرارات أكثر تنقيحًا وارتباطًا بالسياق تحدد متى يكون سياق العُري جنسيًا فعليًا، بغض النظر عن جنس الجسم الذي يظهر في الصورة. ويمكن أن تستخدم Meta أيضًا مجموعة واسعة من تدخلات السياسة لتقييد ظهور محتوى العُري للمستخدمين الذين لا يرغبون في مشاهدته من خلال تزويد المستخدم بقدرة أكبر على التحكم. ولدى Meta أيضًا مجموعة من السياسات المخصصة بشأن القضايا التي تعالجها من خلال سياسة العُري (مثل سياسات الاستغلال الجنسي للبالغين وعُري الأطفال وإساءة معاملتهم واستغلالهم جنسيًا) والتي يمكن تعزيزها.

يلاحظ المجلس أن ممارسات الإنفاذ لدى Meta تؤدي إلى عدد كبير من النتائج الإيجابية الخاطئة أو إزالة المحتوى غير المخالف عن طريق الخطأ. وقد كشف تقرير Meta الأخير بشأن إنفاذ معايير المجتمع على Instagram ( أبريل - يونيو 2022) أن 21‏% من الطعون المقدمة بشأن عمليات الإزالة التي تمت بموجب سياسة العُري والنشاط الجنسي للبالغين قد أسفرت عن استعادة المحتوى. تلقى المجلس أيضًا عددًا كبيرًا من التعليقات العامة بشأن الإزالة الخاطئة للمحتوى بموجب سياسة عُري البالغين.

عدم التمييز

هناك دليل على أن سياسات Meta وممارسات الإنفاذ التي تتبعها فيما يتعلق بسياسة العُري والنشاط الجنسي للبالغين يمكن أن تسفر عن تأثيرات غير متناسبة وخاصة للنساء وأعضاء مجتمع الميم (LGBTQI+‎). وتنعكس هذه التأثيرات في كل من السياسة والإنفاذ وتحد من الطرق التي يمكن للمجموعات أن تعبّر من خلالها عن أنفسها وأن تقاوم التحيز وتزيد من ظهورها في المجتمع.

في حين تتعلق هذه الحالة بالمستخدمين من المتحولين جنسيًا وغير مصنفي الجنس، تنبع أخطاء الإنفاذ في هذه الحالة من سياسة أساسية تؤثر أيضًا في النساء، لا سيّما مع اتباع Meta لنهج "إرجاع الأصل إلى الإناث" عند التعامل مع محتوى العُري. لذلك يأخذ هذا القسم في الاعتبار كيفية تأثير سياسات Meta في كل من أعضاء مجتمع الميم (LGBTQI+‎) والنساء. ويتضح من كثرة عدد التعليقات العامة المقدمة في هذه الحالة مدى التأثير الذي يمكن أن يترتب على هذه السياسات.

الحق في حرية التعبير مكفول لجميع الأشخاص دون تمييز على أساس "الجنس" أو أي "حالة أخرى" (المادة 2، الفقرة 1، العهد الدولي الخاص بالحقوق المدنية والسياسية). وهو ما يتضمن التوجه الجنسي والهوية الجنسية (تونين ضد أستراليا (1994)؛ A/HRC/19/41، الفقرة 7). يقضي اجتهادها لجنة حقوق الإنسان "بعدم اعتبار كل تفريق قائم على الأسس المشار إليها في المادة 26 من العهد بمثابة تمييز، ما دام يقوم على معايير معقولة وموضوعية وما دام يتوخى هدفاً مشروعاً بموجب العهد." نيبومنياشّي ضد روسيا، لجنة حقوق الإنسان، 2018 الفقرة 7.5 (CCPR/C/123/D/2318/2013).

تحظر اتفاقية القضاء على جميع أشكال التمييز ضد المرأة (CEDAW) "أي تفرقة أو استبعاد أو تقييد يتم على أساس الجنس ويكون من آثاره أو أغراضه، توهين أو إحباط الاعتراف للمرأة بحقوق الإنسان والحريات الأساسية في الميادين السياسية والاقتصادية والاجتماعية والثقافية والمدنية أو في أي ميدان آخر، أو توهين أو إحباط تمتعها بهذه الحقوق أو ممارستها لها [...] على أساس المساواة بينها وبين الرجل." اتفاقية القضاء على جميع أشكال التمييز ضد المرأة، المادة 1). ويلاحظ المجلس عدم تناول الهيئات الدولية المعنية بحقوق الإنسان للآثار المترتبة على حقوق الإنسان من جراء السماح بعُري البالغين غير التوافقي أو حظره والآثار التمييزية المحتملة لذلك.

تنص مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان على أنه "ينبغي لمؤسسات الأعمال التجارية أن تولي اهتمامًا خاصًا لأي آثار معينة لحقوق الإنسان على الأفراد من الجماعات أو السكان الأكثر عرضة لخطر متزايد من الضعف أو التهميش" (مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان، المبادئ 18 و20). وقد حث مقرر الأمم المتحدة الخاص المعني بحرية التعبير شركات التكنولوجيا بأن "تسعى على نحو دؤوب إلى تحديد ومراعاة شواغل المجتمعات المحلية المعرّضة على مر التاريخ لممارسات الرقابة والتمييز" ( A/HRC/38/35، الفقرة 48). وأوصى فريق الأمم المتحدة العامل المعني بالأعمال التجارية وحقوق الإنسان شركات التكنولوجيا أن تحرص على "ألا تكون للتكنولوجيات الجديدة مثل الذكاء الاصطناعي والتشغيل الآلي آثار سلبية غير متناسبة في حقوق الإنسان للمرأة" ( كتيب الأبعاد الجنسانية).

نظرًا لأهمية منصات التواصل الاجتماعي كساحة تعبير للأفراد الذين يتعرضون للتمييز، فقد دأب المجلس على توضيح توقعاته من Meta بالتحلي بقدر خاص من الحساسية تجاه احتمال الإزالة عن طريق الخطأ للمحتوى المنشور بواسطة أعضاء هذه الفئات أو الذي يتناولهم أو يصورهم. كما لاحظ المجلس في قرار حالة "حزام وامبوم" ( ‎2021-012-FB-UA) بشأن التعبير الفني من السكان الأصليين، لا يكفي تقييم أداء إنفاذ Meta لسياسة فيسبوك بشأن الخطاب الذي يحض على الكراهية على المستخدمين ككل، بل يجب مراعاة التأثيرات الواقعة على فئات معينة. وبالمثل، في حالة "تغيير دلالة كلمات عربية ازدرائية إلى كلمات مقبولة"، أكد المجلس أن "الإشراف الزائد عن الحد على خطاب المستخدمين المنتمين إلى مجموعات الأقليات المضطهدة يشكّل تهديدًا خطيرًا لحريتهم في التعبير" وأعرب عن قلقه بشأن كيفية تطبيق استثناءات سياسات Meta (في تلك الحالة، سياسة الخطاب الذي يحض على الكراهية) على تعبير المجموعات المهمشة ( ‎2022-003-IG-UA).

تؤدي تبعات اختيارات Meta إلى إتاحة فرص تعبير متفاوتة للنساء، والأشخاص المتحولين جنسيًا وغير مصنفي الجنس على منصاتها. تعامل سياسة Meta الحالية بشأن العُري والنشاط الجنسي للبالغين الثدي والحلمات الأنثوية على أنها جنسية بطبيعتها، وبالتالي فهي عرضة للحظر، إلا في حالة إجراء أو العزم على إجراء عملية جراحية أو أثناء الإرضاع. بدلاً من اتخاذ خطوات لضمان عدم تأثير الرقابة بشكل غير متناسب على بعض المجموعات، فإن سياسات Meta ترسخ وتديم مثل هذه التأثيرات على تلك المجموعات.

تسلط هذه الحالات الضوء على التأثير غير المتناسب لاختيارات سياسة Meta للأشخاص الذين يعرفون بانتمائهم إلى مجتمع الميم (‎LGBTQI+)، لأن المحتوى قد تم تحديده عدة مرات من خلال أدوات تصنيف العُري والنشاط الجنسي للبالغين على الرغم من أنه لا يدخل ضمن نطاق هذه السياسة. ويعتقد المجلس أن هذه الحالات هي مؤشر لوجود مشكلات أوسع نطاقًا. على سبيل المثال، وجدت دراسة هيمسون وآخرون أن المتحولين جنسيًا يبلغون عن مستويات عالية من إزالة المحتوى وحذف الحسابات، وعادة ما يكون ذلك بسبب محتوى يتعلق بالعُري والنشاط الجنسي.

تؤثر اختيارات إنفاذ سياسة Meta أيضًا بشكل غير متناسب على النساء. وجدت دراسة أجراها ويت وسوزر وهاجينز أن ما يصل إلى 22‏% من صور أجساد النساء التي تمت إزالتها من Instagram كانت تشكّل حالات واضحة من النتائج الإيجابية الخاطئة. وقد لوحظ التأثير التفاضلي أيضًا على أجساد النساء في التعليقات العامة (راجع على سبيل المثال التعليق العام رقم 10616 بواسطة دكتور زهرة ستاردست).

هذا الموقف الافتراضي من العُري له تأثير خطير أيضًا في السياقات التي قد تخرج فيها النساء تقليديًا بصدور مكشوفة. وقد حث المقرر الخاص المعني بتعزيز وحماية الحق في حرية الرأي والتعبير الشركات على التفاعل مع مجموعات السكان الأصليين حول العالم من أجل "وضع مؤشرات أفضل لمراعاة السياق الثقافي والفني في تقييم المحتوى الذي يشمل صور التعري" (الفقرة 54، A/HRC/38/35).

علاوة على المخاوف ذات الصلة بعدم التمييز المتعلق بالسياسات، فقد أثارت هذه الحالات أيضًا مخاوف على صلة بعدم التمييز المتعلق بالإنفاذ. يجب أن تضع Meta في الحسبان أن المحتوى المنشور بواسطة المستخدمين المنتمين إلى المجموعات المهمشة يكون أكثر عرضة للبلاغات المتكررة أو الخبيثة، حيث يبلغ المستخدمون عن عناصر محتوى غير مخالفة للإضرار بالمستخدمين أو مضايقتهم. وقد أثيرت هذه المشكلات أيضًا في عدد من التعليقات العامة (راجع، على سبيل المثال التعليق العام رقم 10596 بواسطة GLAAD والتعليق العام رقم 10628 بواسطة مؤسسة حملة حقوق الإنسان).

سلطت هذه الحالات الضوء على أن تقديم العديد من البلاغات التي تسفر عند إجراء عدة مراجعات يمكن أن تزيد احتمال الإزالة عن طريق الخطأ. في الواقع، في هذه الحالة، أسفرت معظم بلاغات المستخدمين عن إخضاع المحتوى لمراجعة بشرية أكدت أن المحتوى غير مخالف، ومع ذلك فقد استمر الإبلاغ عن المحتوى إلى أن قرر المراجعون عن طريق الخطأ أنه مخالف وقاموا بإزالته.

يجب أن تسعى Meta إلى تطوير وتنفيذ سياسات تساعد في التخفيف من كل هذه المخاوف. قد يتضمن ذلك وضع سياسات موحدة بشكل أكبر فيما يتعلق بالعُري بحيث يتم تطبيقها دون تمييز على أساس الجنس أو الهوية الجنسية. وقد يتضمن أيضًا قرارات بشأن المحتوى الذي يتسم بالطابع الجنسي بحيث تكون أكثر استنادًا إلى السياق، طالما كانت تلك القرارات لا تعتمد على معايير تمييزية عند إصدارها.

يلاحظ المجلس أن لدى Meta سياسة مخصصة للتعامل مع نشر الصور الحميمية دون موافقة أصحابها في سياسة الاستغلال الجنسي للبالغين. وهو مجال أعطته الشركة الأولوية في الإنفاذ (راجع، على سبيل المثال، طرح تقنية اكتشاف الانتهاكات الجديدة للحد من تكرار نشر الصور الحميمية دون موافقة أصحابها). عندما تفكر Meta في تغيير نهجها في التعامل مع العُري على المنصة، يجب أن تدرس عن كثب درجة الحماية التي توفرها سياسة العُري والنشاط الجنسي للبالغين ضد مشاركة الصور الحميمية دون موافقة أصحابها وأن تفهم ما إذا كانت التغييرات التي يتم إدخالها على سياسة الاستغلال الجنسي للبالغين أو ممارسات إنفاذها قد تكون ضرورية لتعزيز فعاليتها.

يدرك المجلس أيضًا أنه قد تكون لدى Meta مصالح مشروعة في الحد من انتشار المحتوى الجنسي والإباحي على منصتها. لكن المجلس يعتقد أنه يمكن بل وينبغي تحقيق الغايات التجارية ذات الصلة من خلال منهجيات تعامل كل المستخدمين دون تمييز.

يعتقد بعض أعضاء المجلس أن على Meta السعي لتقليل التأثير التمييزي لسياساتها الحالية من خلال إقرار سياسة بشأن عُري البالغين لا تقوم على الفروق في الجنس أو النوع. وأشار هؤلاء الأعضاء إلى أحكام اتفاقية القضاء على جميع أشكال التمييز ضد المرأة (CEDAW) بشأن القضاء على القوالب النمطية الجنسانية (راجع، على سبيل المثال المادتين 5 و10) والتزام Meta الصريح باتفاقية القضاء على جميع أشكال التمييز ضد المرأة في سياسة حقوق الإنسان الخاصة بالشركة. وقد خلُص هؤلاء الأعضاء إلى أنه في سياق سياسة العُري، فإن هذه المعايير الدولية لحقوق الإنسان والتزام Meta بعدم التمييز، يدعمان القضاء على الفروق النمطية. وقد خلُصت هذه المجموعة من الأعضاء إلى أن التحوّل نحو سياسة لا تستند إلى الفروق على أساس الجنس أو النوع هو أفضل طريقة تلتزم من خلالها Meta بمسؤولياتها كشركة تجاه حقوق الإنسان، وذلك بالنظر إلى قيمها والتزاماتها المؤسسية. يلاحظ هؤلاء الأعضاء أن القيم والسياسات يجب أن تتطور لمعالجة الأعراف التي تنطوي على آثار تمييزية، حيث كانت أو لا تزال الكثير من أشكال التمييز منتشرة على نطاق واسع كأعراف اجتماعية.

كان هناك بعض الخلاف بين أعضاء المجلس حول هذه القضايا. فقد وافق بعض الأعضاء من حيث المبدأ على ضرورة ألا تعتمد Meta على الجنس أو النوع لتقييد حرية التعبير لكنهم كانوا متشككين بشدة في قدرة Meta على التعامل بشكل فعّال مع الصور الحميمية التي تتم مشاركتها دون موافقة أصحابها والأضرار الأخرى دون اتباع سياسة بشأن العُري تراعي مسألة الجنس والنوع. تعتقد مجموعة أخرى من أعضاء المجلس أنه نظرًا لأن مبادئ حقوق الإنسان المعمول بها بشأن عدم التمييز تسمح بالفروق على أساس السمات التي تتمتع بحقوق حماية ما دامت "تقوم على معايير معقولة وموضوعية وما دامت تتوخى هدفًا مشروعًا بموجب العهد"، ( نيبومنياشّي ضد روسيا، لجنة حقوق الإنسان، 2018، الفقرة 7.5 (CCPR/C/123/D/2318/2013)، فليست هناك حاجة لسياسية عُري محايدة بشأن الجنس والنوع بل إنها قد تتسبب في أضرار أخرى أو تؤدي إلى تفاقمها.

يدرك أعضاء المجلس الذين يدعمون وضع سياسة لعُري البالغين تتسم بالحيادية تجاه الجنس والنوع أنه بموجب المعايير الدولية لحقوق الإنسان المطبقة على الدول، فإن الفروق على أساس السمات التي تتمتع بحقوق حماية قد تتم استنادًا إلى معايير معقولة وموضوعية وعندما تخدم غرضًا مشروعًا. ولا يعتقد هؤلاء الأعضاء أن الفروق الموجودة في سياسة Meta بشأن العُري لا تفي بهذا المعيار. وقد أشاروا أيضًا إلى أن Meta، كشركة، قد قدمت التزامات بشأن حقوق الإنسان لا تتماشى مع نهج يقيد حرية التعبير على الإنترنت استنادًا إلى تصوّر الشركة للجنس والنوع.

يؤثر معيار المجتمع بشأن العُري والنشاط الجنسي للبالغين بشكل غير متناسب على المستخدمين من النساء وأعضاء مجتمع الميم (LGBTQI+‎) ويعتمد على تصورات ذاتية وتخمينية عن الجنس والنوع لا يمكن تطبيقها عمليًا عند الإشراف على المحتوى على نطاق واسع. عند إلقاء نظرة شاملة على سياسة Meta الحالية بشأن العُري والنشاط الجنسي للبالغين، وفي ضوء اللبس المتعلق بالقواعد وإنفاذها، والتأثير غير المتناسب والتمييزي لتلك السياسة، يوصي المجلس Meta بوضع معايير واضحة وموضوعية تحترم الحقوق لحوكمة كافة جوانب سياستها بشأن عُري البالغين، على نحو يضمن معاملة جميع الأشخاص بشكل يتفق مع المعايير الدولية لحقوق الإنسان، بما في ذلك عدم التمييز على أساس الجنس أو الهوية الجنسية. يجب أولاً أن تُجري Meta تقييمًا شاملاً للتأثير الواقع على حقوق الإنسان عند اتباع هذه المعايير، ويتضمن هذا التقييم مشاركة شاملة لأصحاب المصلحة عبر سياقات أيديولوجية وجغرافية وثقافية متنوعة. وإذا توصل هذا التقييم إلى أي أضرار محتملة، يجب أن يتضمن تنفيذ أي سياسة جديدة خطة تخفيف لمعالجة تلك الأضرار المحتملة. يطلب المجلس تقريرًا عن التقييم وخطة لستة أشهر من تاريخ صدور هذا القرار.

9. قرار مجلس الإشراف

ألغى مجلس الإشراف قرارات شركة Meta الأصلية بإزالة المنشورين، وطالبها باستعادتهما.

10. البيان الاستشاري بشأن السياسة

سياسة المحتوى

1. لمعاملة جميع المستخدمين بإنصاف وتزويد المشرفين والجمهور بمعيار قابل للتطبيق بشأن العُري، يجب على Meta وضع معايير واضحة وموضوعية تحترم الحقوق لحوكمة كافة جوانب سياساتها بشأن العُري والنشاط الجنسي للبالغين، مما يضمن معاملة كل الأشخاص على نحو يتفق مع المعايير الدولية لحقوق الإنسان، بما في ذلك عدم التمييز على أساس الجنس أو الهوية الجنسية. يجب أولاً أن تُجري Meta تقييمًا شاملاً للتأثير الواقع على حقوق الإنسان عند اتباع هذه المعايير، ويتضمن هذا التقييم مشاركة شاملة لأصحاب المصلحة عبر سياقات أيديولوجية وجغرافية وثقافية متنوعة. وإذا توصل هذا التقييم إلى أي أضرار محتملة، يجب أن يتضمن تنفيذ أي سياسة جديدة خطة تخفيف لمعالجة تلك الأضرار المحتملة.

2. لتوفير قدر أكبر من الوضوح للمستخدمين، يجب على Meta تزويد المستخدمين بشرح إضافي للأمور التي تشكّل "عرضًا أو طلبًا" للجنس (بما في ذلك الروابط إلى مواقع ويب تابعة لجهات خارجية) وتلك التي تشكّل أوضاعًا تنطوي على إيحاءات جنسية في معايير المجتمع المعلنة للجمهور. سيعتبر المجلس أن هذه التوصية قد دخلت حيز التنفيذ عند إضافة أي شرح لهذه المصطلحات مع أمثلة إلى معيار المجتمع بشأن الإغواء الجنسي.

الإنفاذ

3. حرصًا على ألا تؤدي معايير Meta الداخلية بشأن سياسة الإغواء الجنسي إلى إزالة عناصر محتوى أكثر مقارنة بما تشير إليه السياسة المعلنة للجمهور وبالتالي إزالة المحتوى غير الجنسي عن طريق الخطأ، يجب على Meta مراجعة إرشاداتها الداخلية للمراجعين لتضمن أن المعايير تعكس القواعد المعلنة للجمهور وتتطلب ارتباطًا أوضح بين "العرض أو الطلب" و"العنصر الذي ينطوي على إيحاءات جنسية". سيعتبر المجلس أن هذه التوصية قد دخلت حيز التنفيذ عندما توفر Meta للمجلس إرشاداتها الداخلية المحدثة التي تعكس هذه المعايير المنقحة.

*ملاحظة إجرائية:

يتم إعداد قرارات مجلس الإشراف من قِبل لجان مكونة من خمسة أعضاء ويتم اعتمادها من أغلبية أعضاء المجلس. ولا يلزم بالضرورة أن تُعبّر قرارات المجلس عن وجهات النظر الشخصية لجميع الأعضاء.

بالنسبة إلى القرار المتخذ بشأن هذه الحالة، تم إجراء بحث مستقل نيابة عن المجلس. وقد توافرت الخبرة اللازمة في السياق الاجتماعي والسياسي والثقافي عن طريق معهد أبحاث مستقل يقع مقره في جامعة جوتنبرج ويعتمد على فريق مكون من أكثر من 50 عالم اجتماع من ست قارات، فضلاً عن أكثر من 3200 خبير محلي من جميع أنحاء العالم. وقد تلقى المجلس أيضًا مساعدة من شركة Duco Advisors، وهي شركة تركز على نقطة التقاء الجغرافيا السياسية والثقة والأمان والتكنولوجيا.