هویت جنسی و برهنگی

خلاصه پرونده

هیئت نظارت تصمیمات اولیه Meta برای حذف دو پست Instagram که افراد تراجنسیتی و غیردوگانه (باینری) را با سینه برهنه به تصویر می‌کشد، لغو کرده است. همچنین توصیه می‌کند که Meta «استاندارد برهنگی و فعالیت جنسی بزرگسالان انجمن» خود را تغییر دهد، به‌گونه‌ای که معیارهای روشنی مطابق با استانداردهای بین‌المللی حقوق بشری بر آن حاکم شود.

درباره این پرونده

در این تصمیم هیات نظارت برای اولین بار دو پرونده را با هم بررسی می‌کند. دو محتوای جداگانه توسط یک حساب Instagram ارسال شده است، یکی در سال ۲۰۲۱ و دیگری در سال ۲۰۲۲. یک زوج ساکن ایالات متحده این حساب را مدیریت می‌کنند که خود را تراجنسیتی و غیردوگانه می‌دانند.

هر دو پست تصاویری از این زوج را با سینه‌های برهنه و نوک سینه پوشانده‌شده نشان می‌دهند. شرح‌های تصویر درباره مراقبت‌های بهداشتی تراجنسیتی‌ها صحبت می‌کنند و می‌گویند که یکی از این دو نفر به زودی تحت عمل جراحی بافت سینه قرار می‌گیرد (جراحی تطبیق جنسیت برای ایجاد قفسه سینه‌ای صاف‌تر)، که این زوج مشغول جمع‌آوری کمک مالی برای پرداخت هزینه این عمل هستند.

پس از یک سری هشدار توسط سیستم‌های خودکار Meta و گزارش‌های کاربران، پست‌ها چندین بار به‌دلیل نقض احتمالی «استانداردهای مختلف انجمن» بررسی شدند. Meta درنهایت هر دو پست را به دلیل نقض «استاندارد درخواست رابطه جنسی انجمن» برداشت، ظاهراً به این دلیل که حاوی پستان و پیوندی به یک صفحه جمع‌آوری کمک مالی هستند.

کاربران برای Meta و سپس هئیت نظارت درخواست تجدیدنظر ارسال کردند. پس از پذیرش پرونده‌ها توسط هیئت نظارت، Meta متوجه شد که پست‌ها را به‌اشتباه برداشته و آن‌ها را بازیابی کرد.

یافته‌های کلیدی

هیئت نظارت دریافته است که برداشتن این پست‌ها برخلاف «استانداردهای انجمن»، ارزش‌ها یا مسئولیت‌های حقوق بشری Meta است. این پرونده‌ها همچنین مشکلات اساسی درخصوص خط‌مشی‌های Meta را به‌صورت برجسته نشان می‌دهند.

رهنمودهای داخلی Meta به نظارت‌کنندگان درباره زمان برداشتن محتوا تحت خط‌مشی «درخواست رابطه جنسی» بسیار گسترده‌تر از توجیه اعلام‌شده برای این خط‌مشی یا رهنمودهای قرارگرفته دردسترس عموم است. این امر باعث سردرگمی کاربران و نظارت‌کنندگان می‌شود و همانند تشخیص Meta در این پرونده، منجر به برداشتن اشتباه محتوا می‌شود.

حداقل در یکی از پرونده‌ها، پست برای بازبینی انسانی توسط سیستم خودکار آموزش‌دیده برای اجرای «استاندارد برهنگی و فعالیت جنسی بزرگسالان انجمن» ارسال شد. طبق این «استاندارد»، تصاویر حاوی نوک پستان زنان ممنوع است، مگر در شرایط مشخص‌شده همچون شیردهی و جراحی تطبیق جنسیت.

این خط‌مشی مبتنی بر دیدگاهی دوگانه نسبت به جنسیت و تمایز بین بدن مرد و زن است. چنین رویکردی باعث ایجاد ابهام در اعمال قوانین درمورد افراد بیناجنسی، غیردوگانه و تراجنسیتی می‌شود و بازبینان را ملزم می‌کند تا ارزیابی‌های سریع و ذهنی از جنسیت و هویت جنسی انجام دهند، که هنگام نظارت بر محتوا در مقیاس کلان عملی نیست.

محدودیت‌ها و استثنائات قوانین مربوط به نوک پستان‌های زنانه کلی و گیج‌کننده هستند، به‌ویژه مواقعی که باید در مورد افراد تراجنسیتی و غیردوگانه اعمال شوند. استثنائات این خط‌مشی از اعتراضات گرفته، تا صحنه‌های زایمان، و بافتارهای پزشکی و بهداشتی، ازجمله آگاهی از سرطان سینه و جراحی سینه را شامل می‌شود. این استثناها اغلب پیچیده هستند و بد تعریف شده‌اند. برای مثال، در برخی بافتارها، نظارت‌کنندگان باید میزان و ماهیت زخم‌های قابل مشاهده را ارزیابی کنند تا مشخص شود که آیا استثنائات خاصی باید اعمال شود یا خیر. ابهام درونی این خط‌مشی باعث ایجاد عدم اطمینان برای کاربران و بازبینان می‌شود و آن را در عمل غیرقابل اجرا می‌کند.

هیئت نظارت دائماً گفته است که Meta باید نسبت به تأثیر خط‌مشی‌هایش بر افراد تحت تبعیض حساس باشد (برای مثال، به تصمیمات اتخاذشده در پرونده‌های «کمربند وامپوم» و «اصلاح واژه‌های عربی» مراجعه کنید). در اینجا، هیئت نظارت متوجه شده است که خط‌مشی‌های Meta در مورد برهنگی بزرگسالان منجر به موانع بیشتری برسر راه بیان جنسیت زنان، تراجنسیتی‌ها و افراد غیردوگانه در پلتفورم‌های خود می‌شود. برای مثال، این خط‌مشی‌ها در بافتارهایی که زنان ممکن است به‌طور سنتی با سینه برهنه ظاهر شوند می‌توانند تأثیر شدیدی داشته باشند، و همان‌طور که در این پرونده‌ها دیده می‌شود افرادی که ال‌جی‌بی‌تی‌کیو‌آی+ شناخته می‌شوند، ممکن تحت تأثیر نامتناسب این خط‌مشی‌ها قرار گیرند. سیستم‌های خودکار Meta چندین بار این محتوا را شناسایی کردند، علی‌رغم اینکه این محتوا خط‌مشی‌های Meta را نقض نمی‌کرد.

Meta باید به دنبال توسعه و اجرای خط‌مشی‌هایی باشد که پاسخ‌گوی تمام این نگرانی‌ها باشد. Meta باید رویکردش را در مدیریت برهنگی در پلتفورم‌هایش تغییر دهد، این کار را باید با تعریف معیارهای روشن که حاکم بر خط‌مشی «برهنگی و فعالیت جنسی بزرگسالان» است انجام دهد، معیارهایی که تضمین می‌کنند با همه کاربران مطابق با استانداردهای حقوق بشر رفتار می‌شود. همچنین باید بررسی کند که آیا خط‌مشی «برهنگی و فعالیت جنسی بزرگسالان» از اشتراک‌گذاری بدون رضایت تصاویر محافظت می‌کند یا خیر، و اینکه آیا خط‌مشی‌های دیگر باید در این خصوص تقویت شوند.

تصمیم هیئت نظارت

هئیت نظارت تصمیم اولیه Meta را مبنی بر برداشتن پست‌ها رد کرد.

هیئت همچنین توصیه می‌کند که Meta:

• معیارهایی واضح و عینی با رعایت حقوق برای کنترل «استاندارد برهنگی و فعالیت جنسی بزرگسالان انجمن» تعریف کند، تا با همه افراد به شیوه‌ای منطبق با استانداردهای بین‌المللی حقوق بشر بدون تبعیض براساس جنسیت یا هویت جنسی رفتار شود. Meta ابتدا باید یک ارزیابی جامع درخصوص تأثیر این تغییر بر حقوق بشر انجام دهد و با ذینفعان مختلف ارتباط برقرار کند و برنامه‌ای برای رسیدگی به آسیب‌های شناسایی‌شده تدوین کند.
• جزئیات بیشتری را درمورد معیارهایی که منجر به برداشتن محتوا می‌شوند، در بخش «استاندارد درخواست رابطه جنسی انجمن» که دردسترس عموم است ارائه کند.
• دستورالعمل‌هایش را برای نظارت‌کنندگان درمورد «استاندارد درخواست رابطه جنسی انجمن» اصلاح کند، به‌گونه‌ای که قوانین عمومی درمورد این خط‌مشی به‌طور دقیق‌تری منعکس کند. این کار به کاهش خطاهای اجرایی از جانب Meta کمک می‌کند.

*خلاصه‌های پرونده یک مرور کلی درباره پرونده ارائه می‌کنند و هیچ ارزش رسمی ندارند.

تصمیم کامل درباره پرونده

۱. خلاصه تصمیم

هیئت نظارت تصمیمات اولیه Meta را در دو پرونده درخصوص پست‌های حذف‌شده Instagram توسط Meta لغو می‌کند. Meta اذعان کرده است که تصمیمات اولیه‌اش در هر دو مورد اشتباه بوده است. این پرونده‌ها نگرانی‌های مهمی را درباره نحوه تأثیرگذاری نامتناسب خط‌مشی‌های Meta بر حقوق بیان زنان و کاربران ال‌جی‌بی‌تی‌کیو‌آی+ پلتفورم‌هایش مطرح می‌کند. این هیئت توصیه می‌کند که Meta باید معیارهایی واضح و عینی با رعایت حقوق برای کنترل تمامیت خط‌مشی «برهنگی و فعالیت جنسی بزرگسالان» تعریف کند، و بدین ترتیب اطمینان حاصل کند که با همه مردم مطابق با استانداردهای بین‌المللی حقوق بشر رفتار می‌شود و از تبعیض براساس جنسیت یا هویت جنسی بپرهیزد. Meta ابتدا باید یک ارزیابی جامع از تأثیر حقوق بشر برای بررسی پیامدهای پذیرش چنین معیارهایی انجام دهد، که شامل مشارکت گسترده ذی‌نفعان در بافتارهای مختلف ایدئولوژیکی جغرافیایی و فرهنگی می‌شود. تاجایی‌که این ارزیابی باید هرگونه آسیب‌ احتمالی را شناسایی کند، پیاده‌سازی خط‌مشی جدید باید شامل طرحی کاهشی برای برطرف کردن این آسیب‌ها شود.

هیئت نظارت همچنین توصیه می‌کند که Meta خط‌مشی «درخواست‌های رابطه جنسی» قابل دسترس برای عموم خود را شفاف‌سازی کند و دستورالعمل‌های اجرایی داخلی‌اش را دقیق‌تر کند تا چنین تخلفاتی را بهتر هدف قرار دهد.

۲. توضیح و پس‌زمینه پرونده

این پرونده‌ها مربوط به دو مورد از تصمیم‌گیری Meta درباره محتوا است که هیئت نظارت قصد دارد در این تصمیم‌گیری به آن‌ها نیز بپردازد. دو عکس جداگانه شرح‌دار توسط یک حساب در Instagram پست شد، که مدیریت آن به‌صورت مشترک دست زوجی در ایالات متحده است. هردو تصویر نشانگر زوجی است که هم در پست‌ها، و هم در نظرات ارسالی‌شان به هیئت، خود را تراجنسیتی و غیردوگانه معرفی کرده‌اند.

Meta هردو پست را طبق «استاندارد درخواست رابطه جنسی انجمن» برداشت. در هردو مورد، سیستم‌های ماشینی Meta محتوا را به‌عنوان محتوایی با احتمال نقض قوانین شناسایی کردند.

در اولین تصویر که در سال ۲۰۲۱ پست شد، سینه هر دو نفر برهنه بود و نوک پستانشان با چسبی به‌رنگ پوست پوشانده شده بود. در تصویر دوم، که سال ۲۰۲۲ پست شد، یکی از آن‌ها لباس دارد ولی دیگری در ناحیه سینه برهنه است و نوک پستان‌هایش را با دست‌هایش پوشانده است. شرح‌های همراه این تصاویر به این موضوع می‌پردازند که چگونه فردی که در هر دو عکس با سینه برهنه است، به زودی برای تطبیق جنسیت و صاف‌تر کردن سینه، تحت عمل جراحی سینه قرار می‌گیرد. آن‌ها برنامه‌شان را برای مستندسازی روند عمل جراحی توضیح می‌دهند و به بحث درمورد مسائل بهداشتی‌درمانی برای افراد تراجنسیتی می‌پردازند. آن‌ها اعلام می‌کنند که برای تأمین هزینه‌های جراحی، کمک مالی جمع‌آوری می‌کنند، زیرا بیمه هزینه‌های این عمل را پوشش نمی‌دهد.

در پرونده اول، ابتدا تصویر به‌طور خودکار به‌عنوان ناقض غیرمحتمل طبقه‌بندی شد. گزارش بدون بررسی بسته شد و محتوا در ابتدا روی پلتفورم باقی ماند. سپس سه کاربر محتوا را به‌خاطر هرزه‌نگاری و خود‌آزاری گزارش کردند. این گزارش‌ها توسط نظارت‌کنندگان انسانی بررسی شد و آن‌ها پست را غیرناقض شناختند. هنگامی‌که این محتوا برای بار چهارم توسط یک کاربر گزارش شد، بازبین انسانی دیگری متوجه شد که این پست «استاندارد درخواست رابطه جنسی انجمن» را نقض کرده و آن را برداشت.

در پرونده دوم، پست دو بار توسط سیستم‌های خودکار Meta شناسایی شد و سپس برای بازبینی انسانی فرستاده شد که در هر دو بار مشخص شد که پست خط‌مشی‌ای را نقض نمی‌کند. سپس دو کاربر محتوا را گزارش کردند، اما هر گزارش به‌طور خودکار بدون بازبینی انسانی بسته شد و محتوا در Instagram باقی ماند. درنهایت، سیستم‌های خودکار Meta، محتوا را برای بار سوم شناسایی کردند و آن را برای بازبینی انسانی ارسال کردند. دو بار گذشته، طبقه‌بندی خودکار «برهنگی و فعالیت جنسی بزرگسالان» Meta، محتوا را پرچم‌گذاری کرد، اما دلیل این بررسی‌های مکرر مشخص نیست. این بازبین انسانی نهایی دریافت که پست «استاندارد درخواست رابطه جنسی انجمن» را نقض کرده و آن را برداشت.

مالکان حساب برای هر دو تصمیم برداشتن محتوا به Meta درخواست تجدیدنظر دادند و محتوا در هر دو پرونده توسط بازبین‌های انسانی بازبینی شد. بااین‌حال، این بررسی‌ها منجر به بازیابی پست‌ها توسط Meta نشد. سپس مالکان حساب به هردو تصمیم برداشتن محتوا نزد هیئت درخواست تجدیدنظر کردند. هیئت درحال بررسی این دو پرونده باهم است (اولین بار برای هیئت نظارت). مزایای انجام این کار شناسایی مشکلات مشابه در خط‌مشی‌ها و فرآیندهای محتوای Meta و ارائه راه‌حل‌هایی برای رفع این مشکلات است.

پس از اینکه هیئت نظارت این پست‌ها را انتخاب کرد و از Meta خواسته شد که برای تصمیم خود مبنی بر حذف محتوا توجیهی ارائه کند، Meta حذف‌ این محتواها را به‌عنوان «خطاهای اجرایی» شناسایی کرد و پست‌ها را بازیابی کرد.

هنگام بررسی اینکه چرا این پرونده‌ها نشانگر مشکلات مهمی هستند، هیئت به‌عنوان بافتاری مرتبط به حجم بالای نظرات عمومی دریافت‌شده در این پرونده‌ها اشاره می‌کند، که بسیاری از آن‌ها ازسوی افرادی بودند که به‌عنوان زنان تراجنسیتی، غیردوگانه، یا زنان هم‌سوجنسی شناسایی شدند. این افراد توضیح دادند شخصاً تحت تأثیر اشتباهات اجرایی و مشکلاتی مشابه مشکلات موردبحث در این پرونده‌ها قرار گرفتند.

هیئت همچنین به‌عنوان بافتاری مرتبط به تحقیقات دانشگاهی اشاره کرده است که در نظرات عمومی نیز از آن‌ها نام برده شده بود، تحقیقات Haimson et al،‏ Witt, Suzor and Huggins، و دو گزارش از Salty درخصوص سوگیری الگوریتمی و سانسور جوامع به حاشیه رانده‌شده. این مطالعات نشان داد که خطاهای اجرایی در دو «استاندارد انجمن» مورد بحث در این پرونده‌ها به‌طورنامتناسبی بر زنان و جامعه ال‌جی‌بی‌تی‌کیو‌آی+ تأثیر می‌گذارد. یکی از نویسندگان در یکی از این تحقیقات، عضو هیئت نظارت است.

۳. اختیارات هیئت نظارت و حدود آن

هیئت این اختیار را دارد که تصمیم Meta را پس از طرح درخواست تجدیدنظر از طرف کاربری که محتوای او برداشته شده است بازبینی کند (منشور، ماده ۲، بخش ۱؛ آیین‌نامه، ماده ۳، بخش ۱).

هیئت اجازه دارد از تصمیم Meta حمایت یا آن را رد کند (منشور هیئت نظارت، ماده ۳، بخش ۵) و این تصمیم برای شرکت الزام‌آور است (منشور هیئت نظارت، ماده ۴). Meta موظف است امکان اعمال تصمیم خود را بر محتوایی یکسان با بافتار مشابه نیز ارزیابی کند (منشور هیئت نظارت، ماده ۴). تصمیمات هیئت نظارت ممکن است شامل اظهارنامه‌های مشورتی خط‌مشی به‌همراه توصیه‌هایی باشد که Meta موظف است به آن‌ها پاسخ دهد (منشور هیئت نظارت، ماده ۳؛ بخش ۴؛ ماده ۴).

هنگامی‌که هیئت، پرونده‌ای مانند این مورد را انتخاب می‌کند، اگر پس از شناسایی پرونده توسط هیئت، Meta اذعان کند اشتباه کرده است، هئیت تصمیم اولیه را بررسی می‌کند. این کار برای افزایش درک پارامترهای خط‌مشی و فرآیندهای نظارت بر محتوا که در ایجاد خطا نقش داشته‌اند و همچنین برای رسیدگی به مشکلاتی است که هیئت نظارت درخصوص خط‌مشی‌های زیربنایی مشخص می‌کند انجام می‌شود. هدف هیئت همچنین ارائه توصیه‌هایی برای کاهش احتمال خطاها و رفتار منصفانه‌تر با کاربران در آینده است.

وقتی هیئت پرونده‌هایی را شناسایی کند که با موضوعاتی مشابه سروکار داشته باشد، این پرونده‌ها ممکن است هم‌زمان به یک پانل تخصیص داده شود. تصمیمی‌الزام‌آور دررابطه با هر پاره از محتوا اتخاذ خواهد شد.

۴. منابع اعتبار

هیئت نظارت مراجع و استانداردهای زیر را در تصمیم خود در نظر گرفت:

I. تصمیمات هیئت نظارت:

• تصمیم اتخاذشده در پرونده «اصلاح واژه‌های عربی» ( 2022-003-IG-UA). هیئت نظارت مشکلات عمال استثناهای خط‌مشی و تأثیرات نامتناسب برخی از گزینه‌های خط‌مشی را تجزیه‌وتحلیل کرد.
• تصمیم اتخاذشده در پرونده «کمربند وامپوم» ( 2021-012-FB-UA). هیئت نظارت مشکلات عمال استثناهای خط‌مشی و تأثیرات نامتناسب برخی از گزینه‌های خط‌مشی را تجزیه‌وتحلیل کرد.
• «علائم سرطان سینه و برهنگی» ( 2020-004-IG-UA). هیئت نظارت «دستورالعمل‌های انجمن» Instagram را تجزیه‌وتحلیل کرد و به Meta توصیه کرد که توضیح دهد یک استثنا درمورد آگاهی از سرطان سینه وجود دارد.

II. خط‌مشی‌های محتوای Meta:

این پرونده‌ها شامل «دستورالعمل‌های انجمن Instagram» و «استانداردهای انجمن فیس‌بوک» می‌شود. «مرکز شفافیت Meta» بیان می‌کند: «فیس‌بوک و Instagram خط‌مشی‌های محتوایی مشترکی دارند. بنابراین، اگر محتوایی ناقض قوانین فیس‌بوک دانسته شود، در Instagram هم همین‌طور تلقی خواهد شد.»

درخواست رابطه جنسی

«دستورالعمل‌های انجمن» Instagram بیان می‌کند که «ارائه خدمات جنسی» مجاز نیست. این ماده سپس به «استاندارد انجمن فیس‌بوک» درمورد «درخواست رابطه جنسی» پیوند داده می‌شود.

در توجیه خط‌مشی در مورد درخواست رابطه جنسی، Meta بیان می‌کند: «بااین‌حال، وقتی محتوا باعث تسهیل، ترغیب یا ایجاد هماهنگی در برخوردهای جنسی یا خدمات جنسی تجاری بین بزرگسالان شود، تمایزی قائل می‌شویم. ما این کار را برای جلوگیری از تسهیل معاملاتی که ممکن است متضمن قاچاق، اجبار و اقدامات جنسی غیرتوافقی باشد انجام می‌دهیم. همچنین عبارات آشکار جنسی که ممکن است منجر به درخواست‌ رابطه جنسی شود را محدود می‌کنیم زیرا بعضی از مخاطبین در چارچوب جامعه جهانی ما ممکن است نسبت به این نوع محتوا حساس باشند، و احتمال دارد محتوای مذکور در توانایی افراد برای برقراری ارتباط با دوستانشان و جامعه در مقیاس وسیع‌تر مانع ایجاد کند.»

«استاندارد انجمن فیس‌بوک» درمورد درخواست رابطه جنسی بیان می‌کند که Meta هردو درخواست صریح و ضمنی را ممنوع می‌کند. درخواست رابطه ضمنی دارای دو معیار است که درصورت وجود هردو آن‌ها، می‌توان گفت که محتوا خط‌مشی را نقض می‌کند. اولین معیار «پیشنهاد یا تقاضا» است، «محتوایی که به‌صورت ضمنی یا غیرمستقیم (معمولاً با ارائه روشی برای برقراری تماس) درخواست رابطه جنسی را پیشنهاد داده یا آن را تقاضا کند. معیار دوم «عناصر وسوسه‌انگیز» است، «محتوای که با استفاده از یکی از عناصر وسوسه‌انگیز زیر اقدام به پیشنهاد یا تقاضای مسئله فوق کند». عناصر فهرست شده عبارتند از «ژست‌ها» یا «اصطلاحات عامیانه جنسی‌سازی‌شده منطقه‌ای».

برهنگی و فعالیت جنسی بزرگسالان

طبق دستورالعمل‌های انجمن Instagram، کاربران باید: «عکس‌ها و ویدیوهایی را پست کنند که برای انواع مخاطب مناسب باشد. می‌دانیم که مواقعی وجود دارند که ممکن است افراد بخواهند تصاویر برهنه‌ای را به اشتراک بگذارند که دارای ماهیت هنری یا خلاقانه هستند، اما بنا به دلایل مختلفی، اجازه نمی‌دهیم که برهنگی در Instagram به اشتراک گذاشته شود. این موارد شامل عکس‌ها، ویدیوها و محتوای ایجاد شده دیجیتالی هستند که دخول جنسی، اندام‌های تناسلی و نماهای نزدیکی از باسن کاملاً برهنه را به نمایش می‌گذارند. این موارد همچنین شامل عکس‌هایی از نوک پستان زنان است، اما عکسی‌هایی که در زمینه شیردهی، زایمان و لحظات بعد از زایمان، موقعیت‌های مرتبط با سلامت (مثلاً بعد از عمل برداشتن پستان، آگاهی‌بخشی درباره سرطان پستان یا جراحی تطبیق جنسیت) یا عملی اعتراضی باشد، مجاز هستند. این بخش به خط‌مشی «برهنگی و فعالیت جنسی بزرگسالان» فیس‌بوک پیوند دارد که جزئیات بیشتری درمورد این قوانین ارائه می‌دهد.

به‌عنوان بخشی از توجیه خط‌مشی استاندارد «برهنگی و فعالیت جنسی بزرگسالان» انجمن، Meta توضیح می‌دهد که: «ما نمایش فعالیت جنسی و برهنگی را محدود می‌کنیم چون ممکن است برخی از اعضای انجمن ما نسبت به این نوع محتواها حساس باشند. به‌علاوه، ما به‌طور پیش‌فرض تصاویر جنسی را برمی‌داریم تا از اشتراک‌گذاری محتوای بدون کسب رضایت یا زیر سن قانونی جلوگیری کنیم.»

خط‌مشی برهنگی و فعالیت جنسی بزرگسالان فیس‌بوک همچنین بیان می‌کند: «موارد زیر را پست نکنید: تصویر نوک سینه زنان بدون داشتن پوشش به‌جز در زمینه شیردهی، لحظات زایمان و بعد از زایمان، موقعیت‌های پزشکی یا مرتبط با سلامت (مثلاً بعد از عمل برداشتن سینه، آگاه‌سازی درباره سرطان سینه یا جراحی تأیید جنسیت) یا عملی اعتراضی.» کاربران همچنین می‌توانند تصاویری از دستگاه تناسلی را درصورت اشتراک‌گذاری در «زمینه پزشکی یا بهداشتی» (که شامل جراحی تطبیق جنسیت می‌شود) پست کنند، اما برچسبی اعمال خواهد شد که به افراد هشدار می‌دهد محتوا حساس است. همچنین حداقل ۱۸عامل راهنمای داخلی اضافی در مورد نوک پستان و این استثناها وجود دارد.

III. ارزش‌های Meta:

ارزش‌های Meta در بخش مقدمۀ استانداردهای انجمن فیس‌بوک ذکر شده‌اند، و در آنجا ارزش «حق اظهارنظر» به‌عنوان «سرآمد» توصیف شده است:

هدف «استانداردهای انجمن» ما همیشه ایجاد فضایی برای آزادی بیان و فراهم کردن امکان اظهارنظر برای افراد است. […] ما می‌خواهیم به مردم این امکان را بدهیم که بتوانند با صراحت درباره مسائلی که برایشان اهمیت دارد صحبت کنند، حتی اگر عده‌ای با آن مخالف باشند یا آن را ناخوشایند بدانند.

Meta برای حراست از چهار ارزش، «اظهارنظر» را محدود می‌کند، که دو مورد از آنها در اینجا مرتبط هستند:

«امنیت»: ما متعهد هستیم فیس‌بوک را به مکانی ایمن تبدیل کنیم. بیانی که افراد را تهدید می‌کند، ممکن است منجر به ارعاب، طرد شدن یا ساکت کردن دیگران شود، و در فیس‌بوک مجاز نیست.

«شأن»: ما معتقدیم همه مردم از لحاظ شأن و حقوق یکسان هستند. انتظار داریم افراد به شأن دیگران احترام بگذارند و باعث تحقیر و آزار آنها نشوند.

IV. استانداردهای بین‌المللی حقوق بشر:

«اصول راهنمای سازمان ملل در زمینه کسب‌وکار و حقوق بشر» (UNGPs)، که در سال ۲۰۱۱ به تأیید شورای حقوق بشر سازمان ملل رسید، یک چارچوب داوطلبانه برای مسئولیت‌های حقوق بشری برای کسب‌وکارهای خصوصی تعریف می‌کند. در سال ۲۰۲۱، Meta اعلام کرد که خط‌مشی سازمانی حقوق بشری خود را منتشر نموده است، و طی آن بر تعهد خود در احترام به حقوق بشر مطابق با UNGPs مجدداً تأکید داشته است. تحلیل هیئت از مسئولیت‌های Meta نسبت به حقوق بشر در این پرونده‌ها طبق استانداردهای حقوق بشری زیر گزارش شده است:

• حق بیان و عقیده: ماده ۱۹، پیمان بین‌المللی حقوق مدنی و سیاسی (ICCPR)، نظر عمومی شماره ۳۴، کمیته حقوق بشر، سال ۲۰۱۱؛ ارتباطات ۴۸۸/۱۹۹۲؛ قطعنامه ۳۲/۲، شورای حقوق بشر، ۲۰۱۶؛ گزارشگر ویژه سازمان ملل در رابطه با آزادی عقیده و بیان، گزارش‌های: A/HRC/38/35 (۲۰۱۸) و A/74/486 (۲۰۱۹).
• حقوق زنان: ماده ۲ و ماده ۵، کنوانسیون رفع انواع تبعیض علیه زنان (CEDAW).
• حق عدم تبعیض: ماده ۲، پاراگراف ۱ و ماده ۲۶ (ICCPR)؛ نپومنیاشی درمقابل روسیه، کمیته حقوق بشر، ۲۰۱۸( CCPR/C/۱۲۳/D/۲۳۱۸/۲۰۱۳).

۵. اظهارات ارسالی کاربران

در مطالب ارسالی‌شان برای این پرونده‌ها، کاربران اظهار می‌کنند که معتقدند این محتوا به دلیل تراجنسیت‌هراسی برداشته شده است. کاربران می‌گویند اگر هیئت نظارت تأیید کند که این محتوا باید در پلتفورم باقی بماند، این تصمیم کمک می‌کند Instagram به فضایی پذیراتر برای آزادی بیان ال‌جی‌بی‌تی‌کیو‌آی+ تبدیل شود.

۶. اظهارات ارسالی Meta

Meta در توجیه تصمیم خود توضیح داد که هر دو مورد برداشتن محتوا خطاهای اجرایی هستند و هیچ یک از پست‌ها خط‌مشی‌های «درخواست رابطه جنسی» آن را نقض نمی‌کنند. Meta می‌گوید: «تنها پیشنهاد یا تقاضا برای کمک‌ مالی به یک جمع‌آوری کمک مالی یا بازدید از وب‌سایت خاصی برای خرید تی‌شرت است که هیچ‌کدام به درخواست رابطه جنسی مربوط نمی‌شود».

Meta همچنین بیان می‌کند که هیچ‌یک از پست‌ها «استاندارد برهنگی و فعالیت جنسی بزرگسالان» را نقض نمی‌کند. در این توجیه آمده است که «راهنمای ویژه بازبین به‌طور خاص به نحوه عمل درمورد برهنگی غیردوگانه، بی‌طرفی جنسیتی یا تراجنسیتی می‌پردازد». محتوا در این پرونده‌ها «همان‌طور که موضوع کلی محتوا (جراحی سینه درحال انجام) و هشتگ‌های استفاده‌شده نشان می‌دهد در یک «زمینه به‌طور واضح غیردوگانه یا تراجنسیتی به اشتراک گذاشته شده است.» Meta به این نتیجه رسید که «حتی اگر نوک پستان در این موارد قابل مشاهده و بدون پوشش باشند، خط‌مشی «برهنگی و فعالیت جنسی بزرگسالان» ما را نقض نمی‌کنند.» Meta همچنین اذعان کرد که در هر دو تصویر، نوک پستان‌ها «کاملاً تار» هستند.

با توجه به زمان سپری‌شده از حذف محتوا، Meta نمی‌تواند به هیئت نظارت بگوید که همه سیستم‌های خودکار مختلف که محتوا را به‌طور بالقوه ناقض شناسایی کردند، برای اجرای چه خط‌مشی یا خط‌مشی‌هایی برنامه‌ریزی شده‌ بودند. در یک پرونده، Meta توانست توضیح دهد که محتوا دو بار توسط طبقه‌بندی‌کننده‌های «برهنگی و فعالیت جنسی بزرگسالان» در نوبت بررسی قرار گرفته است. Meta همچنین نتوانست هیچ توضیحی درمورد اینکه چرا بازبینان فکر می‌کردند محتوا خط‌مشی «درخواست رابطه جنسی» را نقض می‌کند، ارائه دهد. توجیه خط‌مشی نشان می‌دهد که Meta «آگاه است که برخی از بازبینان محتوا ممکن است به‌دلیل استفاده بیش از حد تکنیکی از رهنمودهای ویژه بازبین داخلی ما، به‌اشتباه محتوا را به‌عنوان درخواست رابطه جنسی ضمنی بردارند (حتی اگر اینطور نباشد).

هیئت نظارت از Meta ‏۱۸ سؤال پرسید و Meta به همه آن‌ها پاسخ داد.

۷. نظرات عمومی

هیئت نظارت در رابطه با این پرونده‌ها ۱۳۰ نظر عمومی را بررسی کرد. نود و هفت نظر از ایالات متحده و کانادا، ۱۹ نظر از اروپا، ۱۰ نظر از آسیا و اقیانوسیه، یک مورد از آمریکای لاتین و دریای کارائیب، یک نظر از خاورمیانه و شمال آفریقا، یک نظر از کشورهای جنوب صحرای آفریقا و یکی از نظرات از آسیای مرکزی و جنوبی ارسال شده است.

مطالب ارسالی موضوعات زیر را شامل می‌شود: حذف اشتباه محتوا از کاربران تراجنسیتی، غیردوگانه و زن؛ ناعادلانه بودن و نابرابر بودن تمایزات مبتنی بر جنسیت برای تعیین اینکه چه اشکالی از برهنگی در پلتفورم مجاز است؛ سردرگمی درمورد اینکه چه محتوایی براساس استانداردهای «برهنگی و فعالیت جنسی بزرگسالان» و «درخواست رابطه جنسی» انجمن مجاز است؛ و اهمیت رسانه‌های اجتماعی برای آزادی بیان در جوامعی که حقوق ال‌جی‌بی‌تی‌کیو‌آی+ در آن‌ها تهدید می‌شود.

برای خواندن نظرات عمومی ارسال‌شده مربوط به این پرونده‌ها، لطفاً اینجا را کلیک کنید. چندین مورد از نظرات ارسال‌شده مطرح نشدند، زیرا شامل اطلاعات شخصی تشخیص‌دهنده هویت در مورد افرادی غیر از فرد نظردهنده بودند.

۸. تحلیل هیئت نظارت

هیئت به این پرسش پرداخت که آیا این پست‌ها باید به‌واسطه سه دیدگاه بازگردانده شود یا خیر: خط‌مشی‌های محتوایی Meta، ارزش‌های شرکت، و مسئولیت‌های آن نسبت به حقوق بشر.

هئیت این پرونده‌ها را انتخاب کرد، زیرا برداشتن محتوای غیرناقض که توسط افرادی پست شده بود که جزو گروه‌های به‌حاشیه‌رانده‌شده محسوب می‌شوند بر آزادی بیان آن‌ها تأثیر می‌گذارد. این امر از اهمیت ویژه‌ای برخوردار است زیرا Instagram می‌تواند تالار گفتمانی مهم برای این گروه‌ها برای ایجاد انجمن باشد. این پرونده‌ها نشان می‌دهد که چگونه خطاهای اجرایی ممکن است تأثیر نامتناسبی بر گروه‌های خاص داشته باشد و ممکن است به معنای مشکلات گسترده‌تری در خط‌مشی و اجرا باشد که باید برطرف شوند.

۸.۱ تبعیت از خط‌مشی‌های Meta درمورد محتوا

هئیت متوجه شده است که این پست‌ها هیچ‌یک از خط‌مشی محتوای Meta را نقض نمی‌کنند. در حالی که دستورالعمل‌های انجمن برای Instagram اعمال می‌شود، Meta همچنین بیان می‌کند که «خط‌مشی‌های محتوای فیسبوک و Instagram به اشتراک گذاشته می‌شوند. محتوایی که در فیس‌بوک ناقض تلقی می‌شود در Instagram نیز نقض‌کننده محسوب می‌شود. «استانداردهای انجمن فیس‌بوک» جزئیات بیشتری را ارائه می‌دهد و پیوند این استانداردها در دستورالعمل‌ها آورده شده است.

الف. درخواست رابطه جنسی

استاندارد «درخواست رابطه جنسی» انجمن بیان می‌کند که درخواست رابطه جنسی ضمنی مستلزم دو عنصر است:

• محتوایی که حاوی پیشنهاد یا تقاضای ضمنی و
• عناصری باشد که از نظر جنسی وسوسه‌انگیز هستند.

پیشنهاد یا تقاضای ضمنی.

پیشنهاد یا تقاضای ضمنی در استاندارد «درخواست رابطه جنسی» انجمن به این صورت تعریف شده است: «محتوای که به‌طور ضمنی یا غیرمستقیم (معمولاً ازطریق ارائه روشی برای تماس) پیشنهاد یا تقاضای رابطه جنسی دارد.» در «پرسش‌های شناخته‌شده» Meta، که رهنمود‌های داخلی بیشتری را برای بازبینان ارائه می‌کند، فهرست اطلاعات تماسی که به‌دلیل پیشنهاد ضمنی باعث برداشتن محتوا می‌شوند، شامل پیوندهای نمایه رسانه‌های اجتماعی و «پیوندهای وب‌سایت‌های مبتنی بر اشتراک (به‌عنوان مثال OnlyFans.com یا Patreon.com) می‌شود. در این پرونده‌ها، محتوا پیوندی به پلتفورمی ارائه می‌کرد که کاربران میزبان یک درخواست جمع‌آوری کمک مالی برای پرداخت هزینه جراحی بودند. از آنجایی که معیارهای داخلی Meta که «پیشنهاد یا تقاضای ضمنی» را تعریف می‌کنند بسیار گسترده هستند، این پیوند ازنظر فنی تحت رهنمودهای بازبین Meta، «پیشنهاد یا تقاضا» محسوب می‌شود، گرچه که هیچ یک از استانداردهای قابل دسترس عموم را نقض نمی‌کند، این نشان می‌دهد که پیشنهاد یا تقاضا باید برای چیزی جنسی باشد.

عنصر وسوسه‌انگیز جنسی.

«استاندارد انجمن» فهرستی از عناصر وسوسه‌انگیز جنسی را ارائه می‌کند که شامل ژست‌‌ها نیز می‌شود. «سؤالات شناخته‌شده» فهرستی را ارائه می‌دهد که Meta آن را جامع توصیف می‌کند، فهرستی از مواردی که به‌عنوان ژست‌های وسوسه‌انگیز جنسی شناخته می‌شوند، ازجمله «سینه‌های زن برهنه که به‌صورت دیجیتالی یا بااستفاده از سایر اجزای بدن انسان یا اشیاء پوشانده شده باشند.» هئیت اشاره می‌کند که درهر دو تصویر سینه‌هایی وجود دارد که با سایر اجزای بدن انسان (دست) یا اشیاء (نوار چسب) پوشانده شده‌اند. در این پرونده‌ها، محتوای پست‌ها مشخص می‌کند که سوژه‌های عکس به‌عنوان تراجسیتی و غیردوگانه شناخته می‌شوند، به این معنی که سینه‌های به تصویر کشیده شده متعلق به افرادی است که خود را زن نمی‌دانند. هیئت همچنین دریافته است که محتوا ازنظر جنسی وسوسه‌انگیز نیست. براین‌اساس، عنصر دوم مورد نیاز برای نقض خط‌مشی «درخواست رابطه جنسی» - عنصر وسوسه‌انگیز جنسی، مثلاً ژست جنسی (که شامل یک سینه زنانه پوشانده‌شده می‌شود) - وجود ندارد.

چون عنصر دوم وجود نداشت، پست‌ها این استاندارد را نقض نمی‌کردند. درخواست برای دریافت نسخه عمومی عنصر اول (که نشان می‌دهد پیشنهاد/تقاضا باید برای چیزی جنسی باشد) همچنین نشان می‌دهد که این تصاویر درخواست رابطه جنسی محسوب نمی‌شوند.

ب. برهنگی و فعالیت جنسی بزرگسالان

طبق «استاندارد برهنگی و فعالیت جنسی بزرگسالان»، کاربران نباید تصاویر نوک سینه زنان را بدون داشتن پوشش به‌جز در زمینه شیردهی، لحظات زایمان و بعد از زایمان، موقعیت‌های پزشکی یا مرتبط با سلامت (مثلاً بعد از عمل برداشتن سینه، آگاه‌سازی درباره سرطان سینه یا جراحی تطبیق جنسیت) یا عملی اعتراضی پست کنند.» در بخش «پرسش‌های شناخته‌شده» Meta همچنین آمده است که بازبین‌ها باید به «تصویر نوک سینه‌ها درصورت اشتراک‌گذاری در یک بافتار زن به مرد تراجنسیتی، غیردوگانه یا بی‌طرف جنسیتی (به‌عنوان مثال، کاربر چنین هویت جنسیتی را مشخص می‌کند)، صرف‌نظر از اندازه یا شکل سینه، اجازه انتشار دهند. هیچ یک از تصاویر در این پرونده‌ها این «استاندارد انجمن» را نقض نمی‌کند.

اول، هیچ یک از تصاویر نوک پستان را بدون پوشش نشان نمی‌دهد. در هر دو تصویر، افراد نوک پستان‌های خود را با دست یا نوار چسب پوشانده‌اند. دوم اینکه حتی اگر نوک پستان‌ها بدون پوشش بود، هیئت نظارت یادآوری می‌کند که تصاویر با متنی به اشتراک گذاشته شده است که مشخص می‌کند افراد حاضر در تصویر غیردوگانه هستند. بنابراین این خط‌مشی نقض نمی‌شود.

۸.۲ تبعیت از ارزش‌های Meta

طبق یافته هیئت، تصمیم اولیه مبنی بر برداشتن این پست‌ها مغایر با ارزش‌های «حق اظهارنظر» و «شأن» Meta بوده و به ارزش «امنیت» توجهی نداشته است.

خطاهای اجرایی که به‌طور نامتناسبی بر گروه‌هایی که با تبعیض مواجه هستند تأثیر می‌گذارد، تهدیدی جدی برای ارزش «حق اظهارنظر» و «شأن» به شمار می‌رود. درحالی‌که استدلال‌های حقوق بشر Meta به «امنیت»، به‌ویژه درارتباط با اشتراک‌گذاری تصاویر بدون رضایت، قاچاق جنسی، و سوءاستفاده از کودکان می‌پرداخت، هیئت نظارت دریافت که برداشتن این محتواها باعث افزایش «امنیت» نمی‌شود.

۸.۳ پیروی از مسئولیت‌های Meta نسبت به حقوق بشر

آزادی بیان (ماده ۱۹ ICCPR)

ماده ۱۹ از ICCPR لزوم حفاظت وسیع از حق بیان را مطرح می‌کند، ازجمله بحث و گفتگو درمورد حقوق بشر و بیانی که ممکن است ازنظر مردم توهین‌آمیز باشد ( نظر عمومی شماره ۳۴، پاراگراف ۱۱). حق آزادی بیان برای همه مردم بدون هیچ تبعیضی ازلحاظ «جنسیت» یا «ویژگی‌های دیگر» تضمین شده است (ICCPR، ماده ۲، پاراگراف ۱). «کمیته حقوق بشر» در پرونده‌هایی مانند نپومنیاشی علیه روسیه ( CCPR/C/۱۲۳/D/۲۳۱۸/۲۰۱۳ ) تأیید کرده است که ممنوعیت تبعیض شامل تبعیض براساس هویت جنسی می‌شود.

محتوا به مسائل مهم اجتماعی مربوط می‌شود. برای این کاربران، Instagram تالار گفتمانی برای بحث و بیان جنسیتشان و تالار گفتمانی برای برقراری ارتباط و دریافت پشتیبانی ارائه می‌دهد. محتوا همچنین ممکن است مستقیماً بر توانایی کاربران برای پیگیری جراحی تطبیق جنسیت تأثیر بگذارد، زیرا هر دو پست توضیح می‌دهند که یک نفر تحت عمل جراحی سینه قرار خواهد گرفت و برای تأمین هزینه‌های جراحی، جمع‌آوری کمک مالی به اشتراک می‌گذارد.

به‌موجب ماده ۱۹، در مواردی که محدودیت‌ها درمورد آزادی بیان توسط یک ایالت اعمال می‌شود، باید با الزامات قانونی و اهداف مشروع همخوانی داشته و از ضرورت و تناسب لازم برخوردار باشد ( ICCPR، ماده ۱۹، پاراگراف ۳ گزارشگر ویژه سازمان ملل در موضوع آزادی عقیده و بیان با تکیه بر چارچوب UNGPs از شرکت‌های رسانه اجتماعی خواسته است از همسو بودن قوانین محتواهایشان با الزامات ماده ۱۹، پاراگراف ۳ از ICCPR اطمینان یابند (A/HRC/38/35، پاراگراف‌های ۴۵ و ۷۰). هیئت این چارچوب را برای تحلیل خطمشی‌های Meta و رویه‌های اجرایی آن اتخاذ کرده است.

در این پرونده، هیئت نظارت متوجه می‌شود که Meta به مسئولیت‌های خود برای ایجاد و اجرای خط‌مشی‌هایی که مطابق با این استانداردها باشند، عمل نکرده است. معیارهای داخلی اعمال‌شده برای برداشتن محتوا تحت خط‌مشی «درخواست رابطه جنسی»، گسترده‌تر از توجیه اعلام‌شده برای این خط‌مشی است، و افراط در اجرای این معیارها پیامدهایی دارد که خود Meta هم متوجه آن‌ها شده است. استاندارد «برهنگی و فعالیت جنسی بزرگسالان» انجمن به‌طور نامتناسبی بر زنان و کاربران ال‌جی‌بی‌تی‌کیو‌آی+ تأثیر می‌گذارد و بر برداشت‌های ذهنی و فرضی از جنسیت و هویت جنسی تکیه می‌کند که هنگام مشارکت در نظارت بر محتوا درمقیاس کلان عملی نیست. هیئت نظارت این کاستی‌ها را تجزیه‌وتحلیل می‌کند و به Meta توصیه می‌کند که فرآیندی جامع را برای رسیدگی به این مشکلات آغاز کند.

I. مطابقت با قانون (شفافیت و قابل دسترس بودن قوانین)

قوانینی که بیان را محدود می‌کنند باید واضح و قابل دسترس باشند تا هم مسئولین اجرای آن‌ها و هم کاربران بدانند چه چیزی مجاز است. هر دو «استاندارد انجمن» درنظر گرفته‌شده در این پرونده‌ها فاقد این استاندارد است.

الف. درخواست رابطه جنسی

هیئت دریافته است که استاندارد «درخواست رابطه جنسی» انجمن حاوی معیارهای گسترده‌ای در دستورالعمل‌های داخلی ارائه‌شده به بازبینان است. این راهنمایی‌های مبهم باعث افراط در اجرای قانون توسط بازبین‌ها و سردرگمی کاربران می‌شود. Meta این را تصدیق کرد، زیرا به هیئت توضیح داد که اعمال رهنمودهای داخلی آن می‌تواند در پرونده‌هایی که معیارهای درخواست رابطه جنسی ضمنی وجود داشته باشد، به «افراط در اجرا منجر شود» اما واضح است که «هیچ قصدی برای درخواست رابطه جنسی وجود نداشته است».

سردرگمی در هر دو عنصر این خط‌مشی منعکس شده است. دررابطه با مؤلفه «پیشنهاد یا تقاضا» استاندارد «درخواست رابطه جنسی» انجمن، قوانین دردسترس عموم به «روش تماس» برای طرف درخواست‌کننده اشاره دارد. بااین‌حال، در بخش «پرسش‌های شناخته‌شده» که راهنمایی برای نظارت‌کنندگان است گفته شده است که پیوند نمایه رسانه‌های اجتماعی یا پیوند به وب‌سایت‌های مبتنی بر اشتراک شخص ثالث مانند Patreon یک «روش تماس» برای «پیشنهاد یا تقاضای» ضمنی است. برای کاربران مشخص نیست که آیا هر پیوندی به نمایه رسانه‌های اجتماعی دیگر، پلتفورم پرداخت شخص ثالث یا پیوند جمع‌آوری کمک مالی (مانند Patreon یا GoFundMe) می‌تواند به این معنی باشد که پست آن‌ها به عنوان یک درخواست رابطه جنسی تلقی می‌شود. این سردرگمی در بسیاری از نظرات عمومی که هیئت نظارت از افرادی دریافت کرد که نمی‌دانستند چرا محتوایی ازجمله پیوندهای شخص ثالث حذف شده یا منجر به مسدود شدن حساب‌هایشان شده است، قابل مشاهده است.

معیار دوم، که مستلزم وجود یک عنصر وسوسه‌انگیز جنسی است، گسترده و مبهم است و همچنین با خط‌مشی «برهنگی و فعالیت جنسی بزرگسالان» Meta همخوانی ندارد. «استاندارد انجمن» دردسترس عموم شامل«ژست‌های وسوسه‌انگیز جنسی» به‌عنوان یک عنصر جنسی وسوسه‌انگیز می‌شود. «پرسش‌های شناخته‌شده» فهرست مفصلی از «ژست‌های وسوسه‌انگیز جنسی» را ارائه می‌دهد که شامل برهنگی بالاتنه و پوشاندن سینه‌ها با دست یا اشیاء است. کاربران احتمالاً نمی‌توانند پیش‌بینی کنند که هر تصویری با سینه‌های پوشانده یک ژست وسوسه‌آنگیز جنسی در نظر گرفته می‌شود یا خیر. این سردرگمی با این واقعیت تشدید می‌شود که طبق خط‌مشی «برهنگی بزرگسالان» عکس‌های بالاتنه برهنه به‌شرط پوشاندن نوک پستان مجاز هستند. از این نظر، محتوایی که طبق یک خط‌مشی جنسی تلقی می‌شود، طبق خط‌مشی دیگر جنسی محسوب نمی‌شود.

علاوه‌بر عدم قطعیت کاربر، این واقعیت که بازبین‌ها مکرراً به نتایج متفاوتی در مورد این محتوا می‌رسند، نشان‌دهنده عدم شفافیت نظارت‌کنندگان در مورد محتوایی است که باید به‌عنوان درخواست رابطه جنسی درنظر گرفته شود.

همانطور که Meta اذعان می‌کند، استفاده از راهنمای داخلی این شرکت در مورد دو عنصر درخواست رابطه جنسی ضمنی باعث برداشتن محتوایی می‌شود که به‌دنبال اعمال جنسی نیست. در بلندمدت، حذف‌های اشتباه احتمالاً با اصلاح حدود اعمال این خط‌مشی به بهترین وجه برطرف می‌شوند. بااین‌حال، در کوتاه مدت، هیئت نظارت به Meta توصیه می‌کند که دستورالعمل‌های داخلی خود را اصلاح کند تا اطمینان حاصل شود که معیارها منعکس‌کننده قوانین دردسترس عموم هستند و نیاز به ارتباط واضح‌تری بین «پیشنهاد یا تقاضا» و «عنصر وسوسه‌انگیز جنسی» دارند. Meta همچنین باید درمورد مصادیق «پیشنهاد یا تقاضا» برای رابطه جنسی و ژست‌های وسوسه‌انگیز جنسی در «استانداردهای انجمن» عمومی به کاربران توضیحات بیشتری ارائه دهد.

ب. برهنگی و فعالیت جنسی بزرگسالان

«استاندارد برهنگی و فعالیت جنسی بزرگسالان» بر اساس تمایزات جنسیتی و جنسیتی است که پیاده‌سازی آن‌ها دشوار است و شامل استثنائاتی است که به‌خوبی تعریف نشده‌اند. برخی از قوانین در این خط‌مشی برای کاربرانی که نمی‌دانند چه چیزی مجاز است، گیج‌کننده خواهد بود. این امر همچنین باعث سردرگمی نظارت‌کنندگان می‌شود که باید ارزیابی‌های ذهنی را براساس اطلاعات ناقص و اجتناب‌ناپذیر انجام دهند و به‌سرعت یک قانون را با عوامل متعدد، استثناها و پیش‌فرض‌ها اعمال کنند.

علی‌رغم، استفاده از زبانی که به جای جنسیت بر روی بخش‌های خاص بدن تمرکز می‌کند (و اجازه به کاربران برای انتخاب از بین طیف گسترده‌ای از هویت‌های جنسیتی در نمایه خود)، اکثر قوانین Meta توضیح نمی‌دهند که شرکت چگونه محتوایی را که افراد بیناجنسی، تراجنسی یا غیردوگانه را به تصویر می‌کشد، مدیریت کند. به‌عنوان مثال، این خط‌مشی به «آلت تناسلی مردانه و زنانه»، «سینه‌های زنانه» و «نوک پستان زنانه» اشاره می‌کند، اما مشخص نیست که چگونه این توصیف‌ها برای افرادی با بدن و هویتی که ممکن است با این تعاریف مطابقت نداشته باشد، اعمال شود. بسیاری از افراد تراجنسی و غیردوگانه نظرات عمومی را به هیئت ارسال کردند مبنی بر اینکه کاربران نمی‌دانند که آیا محتوای‌شان براساس هویت جنسیتی‌شان، جنسیتی که در بدو تولد به آن‌ها اختصاص داده شده است یا جنبه‌هایی از ظاهر فیزیکی آنها ارزیابی و طبقه‌بندی می‌شود.

قوانین فعلی از بازبین‌های انسانی می‌خواهد که به‌سرعت جنسیت کاربر را ارزیابی کنند، زیرا این خط‌مشی در مورد «نوک پستان‌های زن» و هویت جنسیتی‌اش اعمال می‌شود، زیرا استثناهایی براساس این موضوع وجود دارد که آیا فرد به تصویر کشید‌شده غیردوگانه یا تراجنسی است، یا جنسیتی خنثی دارد یا در بافتار جراحی تطبیق جنسیت پست می‌کند. برداشت‌های جنسی و جنسیتی مستلزم تفسیر سرنخ‌های بافتاری و شکل ظاهری است، که هر دو شاخص‌های تعیین‌کننده ذهنی هستند که منجر به خطا می‌شوند.

این رویکرد با «اصل پیش‌فرض به زن» Meta پیچیده‌تر می‌شود که به موجب آن خط‌مشی‌های محدودکننده‌تری که در مورد برهنگی زنان (در مقابل مردان) اعمال می‌شود، در موقعیت‌های غیرقطعی اجرا می‌شود. در «پرسش‌های شناخته‌شده» بیان شده است که وقتی بافتاری واضح وجود ندارد و شخص موجود در تصویر «به‌عنوان زن یا زن-به-مرد در بافتاری تراجنسیتی بازنمایی می‌شود»، آن‌گاه پیش فرض برهنگی زن را انتخاب و خط‌مشی مربوطه را اعمال کنید».

تعداد محدودیت‌ها و استثنائات قوانین درمورد نوک سینه‌های افراد تلقی‌شده به‌عنوان زن، گسترده و گیج‌کننده است. استثناها از اقدامات اعتراضی تا صحنه‌های زایمان و شیردهی، تا بافتارهای پزشکی و بهداشتی، ازجمله تصاویر پس از ماستکتومی و آگاهی از سرطان سینه را شامل می‌شود. موارد استثنا‌ اغلب تعریف نشده‌اند یا تعریف خوبی برای آن‌ها ارائه نشده است. فهرست استثناها نیز درطول زمان به‌طور قابل توجهی افزایش یافته است و می‌توان انتظار داشت که با تکامل بیان جنسیتی این فهرست نیز طولانی‌تر شود. وقتی صحبت از سینه‌های زنان می‌شود، خط‌مشی «برهنگی و فعالیت جنسی بزرگسالان» Meta، این فرض را که چنین تصاویری جنسی هستند به‌عنوان پیش‌فرض مطرح می‌کند. بااین‌حال، این فهرست درحال گسترش استثناها نشان می‌دهد که، تحت بسیاری از شرایطی که در این خط‌مشی تشخیص داده شده است، تصاویر سینه‌های زن ازنظر جنسی وسوسه‌انگیز نیستند.

حتی در هر استثناء، پرسش‌های متعددی مطرح می‌شود. به‌عنوان مثال، استثنای جراحی تطبیق جنسیت برای کاربران تراجنسی و کوئیر از اهمیت ویژه‌ای برخوردار است، اما Meta توضیحی درمورد دامنه اعمال استثنای جراحی تطبیق جنسیت خود در قوانین دردسترس عموم خود ارائه نمی‌دهد. این باعث شده است که بسیاری از نظرات عمومی درمورد اینکه آیا محتوای مجاز تحت این استثناء می‌تواند شامل عکس‌های قبل از جراحی (برای ایجاد تصویر قبل و بعد از آن) و تصاویر زنان تراجنسی که تحت عمل بزرگ کردن سینه قرار گرفته‌اند باشد یا خیر، ابراز سردرگمی کنند. دستورالعمل‌های داخلی و «پرسش‌های شناخته شده» نشان می‌دهند که این استثنا محدودتر از آن چیزی است که تصور شد در راهنمایی عمومی به آن اشاره شده است.

خط‌مشی‌های Meta مبتنی بر تمایزات دوگانه بین زن و مرد است، و زمانی که Meta سعی می‌کند استثناء جراحی تطبیق جنسیت خود را بیان کند، چالش‌هایی را ایجاد می‌کند. در پاسخ‌های Meta به هیئت نظارت، Meta توضیح داد که طبق استثنای جراحی تطبیق جنسیت، «نوک سینه‌های زنانه بدون پوشش قبل از اینکه فرد برای برداشتن سینه تحت عمل جراحی قرار گیرد و درصورتی که محتوا در بافتار صراحتاً تراجنسیتی زن-به-مرد، غیردوگانه، یا بی‌طرف جنسی به اشتراک گذاشته شود» مجاز است. این قوانین همچنین می‌گوید: «نوک سینه‌های زنان تراجنسی مرد به زن که تحت عمل جراحی بزرگ کردن سینه قرار گرفته‌اند، ممنوع است، مگر اینکه جای زخم روی نوک پستان وجود داشته باشد.

دستورالعمل‌های داخلی درمورد جای زخم جراحی و نوک سینه‌ها به‌مراتب پیچیده‌تر است. قوانین ماستکتومی، برای مثال، به «مواردی که نوک پستان از بافت دیگری بازسازی، استنسیل یا تتو می‌شود» و «مواردی که حداقل یکی از سینه‌ها با جراحی برداشته شده باشند، حتی اگر نوک سینه زن برهنه دیگر قابل مشاهده باشد» اجازه انتشار می‌دهد. موضوع زمانی گیج‌کننده‌تر می‌شود که قوانین بیان می‌کنند «برای ماستکتومی، جای زخم شامل تصویری از ناحیه‌ای است که قبلاً بافت سینه برداشته‌شده وجود داشته است. جای زخم جراحی واقعی لازم نیست قابل مشاهده باشد.»

بازبین‌ها احتمالاً در اعمال قوانینی که مستلزم آن است که به‌سرعت ویژگی‌های جنسیتی فرد نشان‌داده‌شده را ارزیابی کنند تا تصمیم بگیرند که آیا قوانین نوک پستان زن را اعمال کنند یا نه، و سپس ارزیابی جنسیت فرد برای تعیین اینکه آیا برخی استثناها اعمال می‌شود یا خیر، و سپس بررسی اینکه آیا محتوا قبل یا بعد از عمل جراحی را به تصویر می‌کشد، نوع عمل جراحی، و وسعت و ماهیت زخم قابل مشاهده برای تعیین اینکه آیا مورد استثنای دیگری قابل اعمال است یا خیر با چالش روبرو خواهند شد. اگر زنی با هویت جنسی هم‌سوجنسی تصویری از زنی که نوک سینه‌اش را نشان می‌دهد پست کند، این تصویر ممنوع است اما اگر همین تصویر توسط فردی پست شود که خود را غیردوگانه می‌داند، آن‌گاه تصویر مجاز است. هیئت همچنین به سایر استثنائات مربوط به نوک پستان براساس بافتارهای اعتراضی، زایمان، پس از تولد و شیردهی اشاره می‌کند که در اینجا بررسی نکرده است، اما همچنین باید ارزیابی شوند و احتمالاً معیارهای داخلی بیشتری را شامل می‌شوند.

با توجه به اهمیت حقوق بیانی در رابطه با موضوعات جنسیت، سلامت جسمانی، زایمان و فرزندپروری، مجموعه پیچیده فعلی استثنائات، عدم اطمینان مفرطی را برای کاربران ایجاد می‌کند و احتمال دارد باعث اعمال نادرست قوانین شود، همان‌طور که در این پرونده ملاحظه می‌کنید. عدم وضوح برای کاربران و نظارت‌کنندگان که ماهیت ذاتی این خط‌مشی است، استاندارد را غیرقابل اجرا می‌کند. همان‌طور که در ادامه توضیح داده شد، هیئت معتقد است که Meta باید رویکردی را برای برهنگی بزرگسالان اتخاذ کند که اطمینان حاص کند با همه افراد بدون تبعیض براساس جنسیت یا هویت جنسی رفتار می‌شود.

II. هدف مشروع

ماده ۱۹ ICCPR مقرر می‌دارد که دولت‌ها تنها زمانی می‌توانند محدودیت‌های بیانی ایجاد کنند که برای پیشبرد اهداف مشروع باشد، اهدافی همچون: «احترام به حقوق یا اعتبار دیگران». . . [و] حفاظت از امنیت ملی یا نظم عمومی یا سلامت و اخلاق عمومی.» این تصمیم به بررسی توجیه Meta برای محدود کردن گفتار در خط‌مشی‌هایش با توجه به این استانداردها می‌پردازد.

الف. درخواست رابطه جنسی

Meta در خط‌مشی «درخواست رابطه جنسی» خود توضیح می‌دهد که درنظر دارد اجازه ندهد کاربران از فیس‌بوک یا Instagram برای تسهیل «معاملاتی که ممکن است شامل قاچاق، اجبار و اعمال جنسی بدون رضایت باشد» و ممکن است خارج از پلتفورم رخ دهد، استفاده کنند. این نمونه‌ای از حفاظت از حقوق دیگران است که هدفی مشروع است.

ب. برهنگی و فعالیت جنسی بزرگسالان

Meta توجیهات متعددی را برای جنبه‌های خاص خط‌مشی «برهنگی و فعالیت جنسی بزرگسالان» خود ارائه کرد، ازجمله جلوگیری از انتشار محتوای بدون رضایت، محافظت از خردسالان در مواردی که سن افراد مشخص نیست و این واقعیت که «برخی افراد در انجمن ما ممکن است به این نوع محتوا حساس باشند.» Meta همچنین توضیحاتی درمورد اصول کلی خود در مورد برهنگی به هیئت ارائه کرد. این شرکت عنوان کرد که «در پیش‌نویس خط‌مشی ما، Meta (۱‏) ماهیت خصوصی یا حساس تصاویر را در نظر گرفته است؛ (۲) اینکه آیا هنگام گرفتن و اشتراک‌گذاری تصاویر برهنه رضایت گرفته شده است؛ (۳) خطر بهره‌کشی جنسی؛ و (۴) آیا افشای چنین تصاویری می‌تواند منجر به آزارواذیت در خارج از پلتفورم شود، به‌ویژه در کشورهایی که چنین تصاویری ممکن است ازنظر فرهنگی توهین‌آمیز باشد.»

بیشتر این اهداف درراستای حفاظت از حقوق دیگران است. بااین‌حال، توجیه Meta برای محافظت از «حساسیت انجمن» سزاوار بررسی بیشتر است. این توجیه پتانسیل همسویی با هدف مشروع «اخلاق عمومی» را دارد. با این اوصاف، هیئت خاطرنشان می‌کند که هدف حفاظت از «اخلاق عمومی» گاهی اوقات به‌طور نادرست ازسوی نهادهای دولتی ناظر بر گفتار برای نقض حقوق بشر، به‌ویژه حقوق اعضای اقلیت‌ها و گروه‌های آسیب‌پذیر مورد استناد قرار گرفته است. «کمیته حقوق بشر» هشدار داده است که «مفهوم اخلاق از بسیاری از سنت‌های اجتماعی، فلسفی و مذهبی ناشی می‌شود. درنتیجه، محدودیت‌ها... برای محافظت از اخلاق باید بر اصولی مبتنی باشد که منحصراً از یک سنت نشأت نمی‌گیرد» («کمیته حقوق بشر»، نظر عمومی ۳۴).

درحالی‌که قوانین حقوق بشر می‌پذیرند که اخلاق عمومی می‌تواند هدف مشروعی برای محدودیت‌های آزادی بیان توسط دولت‌ها درنظرگرفته شوند، و محدودیت‌هایی برای برهنگی عمومی درسراسر جهان وجود دارد، Meta بر اهدافی غیر از «حساسیت‌های انجمن» در بافتار خاص این پرونده تأکید می‌کند. Meta اظهار داشت که «اگرچه خط‌مشی برهنگی [این شرکت] در راستای حفاظت از اخلاق عمومی است [...] اما درنهایت بر این هدف استوار نیست، زیرا معیارهای اخلاقی پیرامون برهنگی در فرهنگ‌ها بسیار متفاوت است و در مقیاس کلان قابل اجرا نخواهد بود.» برای مثال، در بسیاری از جوامع و بخش‌های جهان، ممکن است انتشار تصاویری از سینه‌های بدون پوشش افراد تراجنسیتی و غیردوگانه برای عبور از حساسیت‌های جامعه بلامانع درنظرگرفته می‌شود. بااین‌حال Meta چنین بیانی را محدود نمی‌کند. علاوه‌براین، هیئت نظارت نگران بار نامتناسب شناخته‌شده و مکرر بیان است که زنان، تراجنسیتی‌ها و افراد غیردوگانه به دلیل خط‌مشی‌های Meta متحمل شده‌اند (به زیر مراجعه کنید). به این دلایل، هیئت بر اهداف دیگری فراتر از «حساسیت‌های جامعه» که Meta در بررسی مسئولیت‌های حقوق بشری خود درپیش گرفته است، تمرکز می‌کند.

لازم به ذکر است که برخی از دلایلی که Meta برای خط‌مشی برهنگی خود ارائه می‌کند، منعکس کننده فرضیه پیش‌فرض از ماهیت وسوسه‌انگیزی جنسی سینه‌های زنان است. هیئت نظرات عمومی از کاربران بسیار زیادی دریافت کرد که درمورد جنسی‌سازی فرضی بدن‌های زنان، افراد تراجنسیتی و غیردوگانه ابراز نگرانی کردند، درحالی‌که هیچ فرضیه مشابهی درخصوص جنسی‌سازی تصاویر مردان هم‌سوجنسی اعمال نمی‌شود. (به‌عنوان مثال، نظر عمومی ۱۰۶۲۴ ارسال شده توسط InternetLab را ببینید).

هیئت ازطریق فرآیندهای عادی اطلاع‌رسانی پرونده خود، نظرات عمومی بسیاری را در این پرونده دریافت کرد. هیئت نظارت به‌عنوان یک نهاد متعهد به ارائه معیاری برای سنجش پاسخگویی به سهامداران کلیدی و پایگاه کاربران Meta، نظرات را به‌عنوان بخشی از رای‌زنی‌های خود به‌طور جدی درنظر می‌گیرد. مانند همه پرونده‌ها، ما درک می‌کنیم که این نظرات ممکن است نماینده افکار جهانی نباشد. هیئت نظارت از تجربیات و کارشناسی به اشتراک گذاشته‌شده ازطریق نظرات قدردانی می‌کند و به برداشتن گام‌هایی برای افزایش وسعت ارتباط خود با جوامعی که ممکن است درحال‌حاضر در این فرآیند مشارکت نداشته باشند، ادامه می‌دهد.

درنهایت، هیئت تشخیص داده است که Meta می‌تواند به‌طور قانونی اهمیت پیشگیری از آسیب‌های خاصی را که می‌تواند اثرات جنسیتی داشته باشد، درنظر بگیرد. همان‌طور که «گزارشگر ویژه سازمان ملل» درمورد خشونت علیه زنان اشاره کرده است، «باید بپذیریم که از اینترنت در محیطی وسیع‌تر از تبعیض ساختاری گسترده و سیستمی و خشونت مبتنی بر جنسیت علیه زنان و دختران استفاده می‌شود» (A/HRC/ 38/47). علاوه‌براین، نظرسنجی‌ها نشان می‌دهد که «۹۰ درصد از قربانیان توزیع دیجیتالی بدون رضایت تصاویر خصوصی، زنان هستند.» (A/HRC/38/47). Meta باید به دنبال محدود کردن آسیب‌های جنسیتی باشد، هم در افراط در اجرای ممنوعیت‌های برهنگی و هم در اجرای ناقص این قوانین.

III. ضرورت و تناسب

هیئت نظارت متوجه شده است که خط‌مشی‌های Meta، همان‌طور که چارچوب‌بندی شده و اجرا می‌شود، محتوای بیشتری را نسبت به آنچه که لازم است به تصویر می‌کشد. هیچ یک از این دو خط‌مشی متناسب با مسائلی که سعی در حل آن‌ها دارند نیستند.

الف. درخواست رابطه جنسی

تعاریف خط‌مشی «درخواست رابطه جنسی» از «پیشنهاد یا تقاضای» ضمنی و ژست‌های وسوسه‌انگیز جنسی بسیار گسترده است و به‌طور قطع حجم قابل توجهی از محتوای غیرمرتبط با «درخواست رابطه جنسی» را به تصویر می‌کشد. Meta خود از خطر اجرای اشتباه این خط‌مشی مطلع است، چنان‌که می‌گوید خود «آگاه است که برخی از بازبینان محتوا ممکن است به‌دلیل استفاده بیش از حد تکنیکی از رهنمودهای ویژه بازبین داخلی [این شرکت]، به‌اشتباه محتوا را به‌عنوان درخواست رابطه جنسی ضمنی بردارند (حتی اگر اینطور نباشد). Meta ادامه داد:

درحال‌حاضر، براساس «پرسش‌های شناخته‌شده» ما، اشتراک‌گذاری، ذکر نام، یا ارائه اطلاعات تماس هویت‌های اجتماعی یا دیجیتالی را به‌عنوان پیشنهاد یا تقاضای ضمنی برای «درخواست رابطه جنسی» درنظر می‌گیریم. […] بااین‌حال، به‌کارگیری این راهنما می‌تواند منجر به افراط در اجرای قوانین در پرونده‌ها شود، مثلاً یک مدل ازنظر بازبین اینگونه‌ به‌نظر می‌رسد که ژستی وسوسه‌انگیز ازنظر جنسی دارد (یعنی وجود معیار «عنصر وسوسه‌انگیز جنسی») و عکاس را نشان‌گذاری می‌کند تا امتیاز عکس به او تعلق گیرد (یعنی وجود معیار «پیشنهاد یا تقاضا»). این نوع محتوا ناقض نیست زیرا قصدی برای درخواست رابطه جنسی وجود ندارد، اما همچنان ممکن است به‌دلیل وجود دو معیار فوق‌الذکر حذف شود (برخلاف خط‌مشی).

یونسکو در گزارشی که در مورد آموزش در فضای دیجیتال بحث می‌کند، خطر اشتباه به‌دلیل افراط در اجرای قانون را تشریح کرده است. با اشاره به اینکه «مقررات سختگیرانه درمورد اشتراک‌گذاری تصاویر بی‌پرده به این معنی است که در برخی موارد، مطالب آموزشی منتشرشده به‌صورت آنلاین برای کمک به یادگیری درمورد بدن، یا روابط جنسی، ممکن است ازسوی نظارت‌کنندگان به‌عنوان محتوای نامناسب و بی‌پرده اشتباه گرفته شود و بنابراین از پلتفورم‌های وب عمومی حذف شود.» هیئت همچنین به نظرات عمومی زیادی که درمورد حذف‌های اشتباه تحت این «استاندارد» دریافت کرده است، توجه می کند. به‌عنوان مثال، ACON (یک سازمان مردم‌نهاد آموزشی HIV در استرالیا) می‌نویسد که محتوایی که پیام‌های پیشگیری از HIV را به روشی مثبت‌نگر جنسی ترویج می‌کند و محتوایی که کارگاه‌های آموزشی را تبلیغ می‌کند به‌دلیل درخواست رابطه جنسی حذف شده‌اند. این امر باعث شده است که این سازمان مردم‌نهاد به جای انتخاب بهترین کلام برای دسترسی به جوامع موردنظر خود، کلامی را در محتوای خود به‌کار برد که باعث حذف محتوا ازسوی Meta نشود (نظر عمومی ۱۰۵۵۰). جوانا ویلیامز نیز به این مشکل اشاره کرد، محققی که متوجه شد از دوازده سازمان بهداشت جنسی که با او مصاحبه کرده‌اند ۹ مورد تحت تأثیر منفی نظارت Meta در این حوزه قرار گرفته است (نظر عمومی ۱۰۶۱۳).

ب. برهنگی و فعالیت جنسی بزرگسالان

علاوه‌بر چالش‌هایی که در ایجاد قوانین قابل اجرا و مقیاس‌پذیر براساس برداشت Meta از جنسیت و هویت جنسی وجود دارد، همان‌طور که در بالا توضیح داده شد، هیئت همچنین دریافت که خط‌مشی‌های Meta در مورد برهنگی بزرگسالان محدودیت‌های نامتناسبی را برای برخی از انواع محتوا و بیان ایجاد می‌کند. خط‌مشی‌ها باعث برداشتن اجباری محتوا می‌شوند، درصورتی که با اقدامات کمتر محدودکننده هم می‌توان به اهداف خط‌مشی عنوان‌شده دست پیدا کرد.

Meta درحال‌حاضر از طیف متنوعی از اقدامات اجرایی به غیر از حذف استفاده می‌کند، ازجمله اعمال صفحه‌های هشدار سن‌آزمایی (تا فقط کاربران بالای ۱۸ سال بتوانند آن را مشاهده کنند) استفاده می‌کند. علاوه‌براین، این شرکت درحال‌حاضر از چنین اقداماتی در خط‌مشی «برهنگی و فعالیت جنسی بزرگسالان» خود، ازجمله برای نمایش هنری فعالیت جنسی استفاده می‌کند. Meta همچنین شاید بهتر باشد از ترکیب نظارت‌کنندگان خودکار و انسانی استفاده کند تا بتواند در مواقعی که صرف‌نظر از جنسیت بدن نمایش‌داده‌شده در تصویر، بافتار برهنگی واقعاً جنبه جنسی دارد، تصمیم‌گیری‌های دقیق‌تر و متکی‌تر به بافتار داشته باشد. Meta همچنین می‌تواند با فعال کردن کنترل بیشتر ازسوی کاربر، طیف گسترده‌ای از خط‌مشی‌های متفاوت را جهت محدود کردن قابلیت مشاهده محتوای برهنه برای کاربرانی که مایل به دیدن آن نیستند به کار گیرد. Meta همچنین چندین خط‌مشی اختصاصی در مورد مسائلی دارد که ازطریق خط‌مشی برهنگی (مثلاً خط‌مشی بهره‌کشی از بزرگسالان و خط‌مشی‌های برهنگی، بهره‌کشی و سوءاستفاده جنسی از کودکان) به آن‌ها می‌پردازد، و می‌تواند این خط‌مشی‌های اختصاصی را تقویت کند.

هیئت اشاره می‌کند که طبق گزارش‌ها، شیوه‌های اجرایی Meta منجر به تعداد بالایی از موارد مثبت کاذب یا حذف اشتباه محتوای غیرقابل نقض می‌شود. طبق آخرین گزارش «اجرای استانداردهای انجمن» Meta برای Instagram (آوریل تا ژوئن ۲۰۲۲) ۲۱ درصد از موارد حذف به‌دلیل نقض خط‌مشی «برهنگی و فعالیت جنسی بزرگسالان» که درخواست تجدیدنظر شده بود منجر به بازیابی محتوا شده است. هیئت همچنین تعداد زیادی نظرات عمومی در مورد حذف اشتباه محتوا تحت «خط‌مشی برهنگی بزرگسالان» دریافت کرد.

عدم تبعیض

شواهدی وجود دارد که نشان می‌دهد خط‌مشی‌ها و رویه‌های اجرایی Meta در رابطه با خط‌مشی «برهنگی و فعالیت جنسی بزرگسالان» می‌تواند منجر به تأثیرات نامتناسب به‌ویژه برای زنان و افراد ال‌جی‌بی‌تی‌کیو‌آی+ شود. این تأثیرات هم در خط‌مشی و هم در رویه‌های اجرایی منعکس می‌شود و راه‌هایی که بااستفاده از آن‌ها گروه‌ها می‌توانند خود را بیان کنند، درمقابل تعصب مقاومت کنند و امکان دیده شدن خود را در جامعه بیشتر کنند، محدود می‌کند.

درحالی‌که این پرونده مربوط به کاربران تراجنسیتی و غیردوگانه می‌شود، اشتباهات اجرایی در این پرونده ناشی از یک خط‌مشی زیربنایی است که زنان را نیز تحت‌تأثیر قرار می‌دهد، به‌خصوص که Meta رویکرد «پیش‌فرض به زنان» را برای محتوای برهنه اتخاذ می‌کند. بنابراین، این بخش به چگونگی تأثیر خط‌مشی‌های Meta بر افراد و زنان ال‌جی‌بی‌تی‌کیو‌آی+ می‌پردازد. حجم زیاد نظرات عمومی ارسال‌شده در این پرونده، تصاویر بسیاری از تأثیر این خط‌مشی‌ها را ارائه داده است.

حق آزادی بیان برای همه افراد بدون تبعیض از نظر «جنس» یا «دیگر وضعیت‌ها» تضمین شده است (ماده ۲، پاراگراف ۱، ICCPR). بعضی از آن ویژگی‌های دیگر شامل گرایش جنسی و هویت جنسی می‌شود (Toonen v. استرالیا (۱۹۹۴)؛ (A/HRC/19/41، پاراگراف ۷). رویه قضایی «کمیته حقوق بشر» خاطرنشان می‌کند که «هر تمایز براساس دلایل مندرج در ماده ۲۶ میثاق، به‌شرطی که مبتنی بر معیارهای معقول و عینی و به‌دنبال هدفی باشد که طبق میثاق مشروع است، تبعیض قلمداد نمی‌شود.» نپومنیاشی درمقابل روسیه، کمیته حقوق بشر، ۲۰۱۸، پاراگراف ۷.۵ (CCPR/C/۱۲۳/D/۲۳۱۸/۲۰۱۳).

«کنوانسیون رفع انواع اشکال تبعیض علیه زنان» (CEDAW) «هرگونه تمایز، محرومیت یا محدودیتی را که براساس جنسیت ایجاد شده باشد، که اثر یا هدف آن مخدوش یا زائل کردن به رسمیت شناختن، برخورداری یا اعمال حقوق توسط زنان […] براساس برابری زن و مرد، حقوق بشر و آزادی‌های اساسی در زمینه‌های سیاسی، اقتصادی، اجتماعی، فرهنگی، مدنی و یا هر زمینه دیگری باشد ممنوع می‌کند» (CEDAW، ماده. 1). هیئت خاطرنشان می‌کند که نهادهای بین‌المللی حقوق بشر به پیامدهای حقوق بشر ناشی از مجاز یا ممنوع کردن برهنگی با رضایت بزرگسالان و تأثیرات تبعیض‌آمیز بالقوه آن توجه نکرده‌اند.

طبق «اصول راهنمای سازمان ملل»، «شرکت‌های تجاری باید به اثرات خاصی توجه کنند که ازلحاظ حقوق بشر روی افراد گروه‌ها یا قشرهایی که درمعرض خطر بالاتری از آسیب‌پذیری یا به‌حاشیه‌کشیده‌شدن قرار دارند برجای می‌ماند» (UNGPs، اصول ۱۸ و ۲۰). «گزارشگر ویژه» درمورد آزادی بیان از شرکت‌های فناوری خواسته است که «به‌طور فعال دغدغه‌های جوامعی را که درطول تاریخ درمعرض خطر سانسور و تبعیض قرار گرفته‌اند مدنظر قرار دهند» ( A/HRC/38/35 ، پاراگراف ۴۸). «کارگروه سازمان ملل متحد در زمینه تجارت و حقوق بشر» همچنین توصیه کرده است که شرکت‌های فناوری اطمینان حاصل کنند که «هوش مصنوعی و خودکارسازی اثرات نامطلوب نامتناسبی بر حقوق بشر زنان نداشته باشند» ( کتابچه راهنمای ابعاد جنسیتی).

با توجه به اهمیت پلتفورم‌های رسانه‌های اجتماعی به‌عنوان عرصه‌ای برای بیان اظهارات افراد درمعرض تبعیض، هیئت نظارت همواره انتظار دارد که Meta به‌ویژه نسبت به احتمال حذف نادرست محتوایی که توسط اعضای این گروه‌ها پست شده، درباره آن‌ها باشد یا آن‌ها را به تصویر می‌کشد، حساس باشد. همان‌طور که هیئت در تصمیم درباره «کمربند وامپوم» ( 2021-012-FB-UA) راجع به اظهارات هنری افراد بومی عنوان کرد، ارزیابی عملکرد اقدامات اجرایی Meta نسبت به خط‌مشی نفرت‌پراکنی فیس‌بوک در کل جمعیت کاربر کافی نیست – بلکه اثرات آن روی برخی گروه‌های خاص باید مدنظر قرار گیرد. همچنین در پرونده «اصلاح واژه‌های عربی»، هیئت تأیید کرد که «افراط در نظارت بر گفتار کاربران گروه‌های اقلیت تحت تعقیب، تهدیدی جدی برای آزادی بیان آن‌هاست» و درمورد نحوه اعمال معافیت‌ها در خط‌مشی‌های Meta (در این پرونده، خط‌مشی نفرت‌پراکنی) بر اظهارات گروه‌های به حاشیه رانده شده ابراز نگرانی کرد ( 2022-003-IG-UA ).

پیامدهای انتخاب‌های Meta منجر به این می‌شود که فرصت‌های متفاوتی برای بیان دراختیار زنان، افراد تراجنسیتی و غیردوگانه در پلتفورم‌هایش قرار گیرد. خط‌مشی فعلی «برهنگی و فعالیت جنسی بزرگسالان» Meta، سینه‌ها و نوک سینه‌های زن را به‌عنوان ذاتاً جنسی تلقی می‌کند و بنابراین مشمول ممنوعیت می‌شود، مگر اینکه تحت عمل جراحی قرار گرفته باشند یا در آینده قرار گیرند و یا درحال شیردهی باشند. خط‌مشی Meta به جای برداشتن گام‌هایی درجهت اطمینان از اینکه سانسور به‌طور نامتناسبی بر برخی گروه ها تأثیر نمی‌گذارد، چنین تأثیراتی را بر این گروه‌ها تثبیت و تداوم می‌بخشد.

این پرونده‌ها تأثیر نامتناسب انتخاب‌های خط‌مشی Meta را برای افرادی که خود را ال‌جی‌بی‌تی‌کیو‌آی+ می‌شناسند نشان می‌دهد، زیرا محتوا چندین بار توسط طبقه‌بندی‌کننده‌های «برهنگی و فعالیت جنسی بزرگسالان» شناسایی شد، علی‌رغم اینکه خارج از محدوده خط‌مشی قرار داشت. هیأت نظارت معتقد است که این پرونده‌ها نماد مشکلات گسترده‌تری هستند. برای مثال، تحقیقات هایمسون و همکارانش نشان داد که افراد تراجنسیتی سطوح بالایی از برداشتن محتوا و حذف حساب را معمولاً به دلیل برهنگی و محتوای جنسی گزارش می‌کنند.

اجرای خط‌مشی‌های انتخابی Meta همچنین تأثیر نامتناسبی بر زنان دارد. طبق مطالعه‌ای که توسط Witt،‏ Suzor،‏ وHiggins انجام شد، تا ۲۲ درصد از تصاویر بدن زنان که از Instagram برداشته شده است جزو موارد مثبت کاذب بوده است. تأثیر متفاوت بر بدن زنان همچنین در نظرات عمومی مشاهده شد (به‌عنوان مثال به نظر عمومی ۱۰۶۱۶ از دکتر زهرا استارداست مراجعه کنید).

این موضع پیش‌فرض در مورد برهنگی همچنین تأثیر شدیدی در بافتار‌هایی دارد که زنان ممکن است به‌طور سنتی با سینه برهنه ظاهر شوند. «گزارشگر ویژه» درمورد ترویج و حمایت از حق آزادی عقیده و بیان از شرکت‌ها خواسته است که با گروه‌های بومی درسراسر جهان تعامل کنند تا «به شاخص‌های بهتری برای درنظر گرفتن بافتار فرهنگی و هنری هنگام ارزیابی محتوای حاوی برهنگی دست‌یابند» (پاراگراف ۵۴)، A/HRC/38/35).

علاوه‌بر این نگرانی‌های عدم تبعیض مرتبط با خط‌مشی، این پرونده‌ها همچنین نگرانی‌هایی غیر از تبعیض را درارتباط با اجرای خط‌مشی نیز مطرح کردند. Meta باید توجه داشته باشد که محتوای کاربرانی که با گروه‌های به‌حاشیه‌رانده‌شده شناسایی می‌شوند، بیشتر درمعرض خطر گزارش‌های مکرر یا مخرب هستند، مثلا سایر کاربران محتوای غیرناقض را گزارش می‌دهند تا کاربران این گروه‌ها را تحت فشار یا آزار و اذیت دهند. این مسائل همچنین در چندین نظر عمومی مطرح شد (به‌عنوان مثال، نظر عمومی ۱۰۵۹۶ توسط GLAAD و نظر عمومی ۱۰۶۲۸ توسط «بنیاد کمپین حقوق بشر»).

این پروند‌ه‌ها نشان می‌دهد که گزارش‌های متعددی که باعث بازبینی‌های متعدد می‌شوند، می‌توانند احتمال حذف اشتباه را افزایش دهند. درواقع، در این پرونده، بیشتر گزارش‌های کاربران منجر به بررسی‌های انسانی می‌شد که این بررسی‌ها نشان می داد محتوا غیرناقض است، اما گزارش محتوا ادامه یافت تازمانی‌که بازبین‌ها به اشتباه آن را ناقض تشخیص دادند و آن را حذف کردند.

Meta باید به دنبال توسعه و اجرای خط‌مشی‌هایی باشد که به بهبود همه این نگرانی‌ها کمک می‌کند. این می تواند شامل خط‌مشی‌ها متحدالشکل‌تری دررابطه با برهنگی باشد که بدون تبعیض براساس جنسیت یا هویت جنسی اعمال شود. این خط‌مشی‌ها همچنین می‌تواند شامل شاخص‌های تعیین‌کننده محتوای جنسی باشد که بیشتر به بافتار تکیه دارد، البته به‌شرطی که این شاخص‌های تعیین‌کننده در تعیین محتوای جنسی بر معیارهای تبعیض‌آمیز تکیه نداشته باشند.

این هیئت خاطرنشان می‌کند که Meta یک خط‌مشی اختصاصی برای رسیدگی به تصاویر خصوصی بدون اجازه در خط‌مشی «بهره‌کشی جنسی بزرگسالان» خود دارد. این عرصه‌ای برای اجرای خط‌مشی‌های اولویت‌بندی‌شده توسط شرکت بوده است (به‌عنوان مثال، به معرفی فناوری تشخیص خودکار برای جلوگیری از ارسال مکرر تصاویر بدون رضایت مراجعه کنید). وقتی Meta درنظر دارد رویکردش را برای مدیریت برهنگی در پلتفورم تغییر دهد، Meta باید به‌دقت بررسی کند که خط‌مشی «برهنگی و فعالیت جنسی بزرگسالان» تا چه حد از تصاویر دربرابر اشتراک‌گذاری بدون رضایت محافظت می‌کند و بداند که آیا تغییراتی در خط‌مشی «بهره‌کشی جنسی بزرگسالان» یا اجرای آن برای تقویت اثربخشی این خط‌مشی مورد نیاز است یا خیر.

هیئت همچنین تشخیص داده است که Meta ممکن است منافع قانونی در محدود کردن محتوای جنسی یا پورنوگرافی در پلتفورم خود داشته باشد. اما هیئت نظارت معتقد است که با استفاده زا رویکردهایی که با همه کاربران بدون تبعیض رفتار می‌کند، می‌توان و باید به اهداف تجاری مرتبط دست یافت.

برخی از اعضای هیئت نظارت معتقدند که Meta باید با اتخاذ خط‌مشی برهنگی بزرگسالان که براساس تفاوت‌های جنسیتی یا جنسیتی نیست، به دنبال کاهش تأثیر تبعیض‌آمیز خط‌مشی‌های فعلی خود باشد. آن‌ها به مقررات «کنوانسیون رفع انواع تبعیض علیه زنان» (CEDAW) درمورد حذف کلیشه‌های جنسیتی (به‌عنوان مثال به ماده ۵ و ۱۰ مراجعه کنید) و تعهد صریح Meta به CEDAW در خط‌مشی حقوق بشر سازمانی‌اش اشاره کردند. آن‌ها به این نتیجه رسیدند که در چارچوب خط‌مشی برهنگی، این استانداردهای بین‌المللی حقوق بشر و تعهد خود Meta به عدم تبعیض، به حذف تمایزات کلیشه‌ای کمک می‌کند. این گروه از اعضا به این نتیجه رسیده‌اند که تغییر به سمت خط‌مشی‌ای که براساس تفاوت‌های جنسیتی یا جنسی نباشد، بهترین راه برای Meta برای حفظ مسئولیت‌های حقوق بشری خود به‌عنوان یک کسب‌وکار، و با توجه به ارزش‌ها و تعهدات سازمانی‌اش است. این اعضا خاطرنشان می‌کنند که باید هنجارها و خط‌مشی‌هایی برای رسیدگی به کنوانسیون‌هایی که تأثیرات تبعیض‌آمیز دارند، توسعه یابند، زیرا بسیاری از اشکال تبعیض، کنوانسیون‌های اجتماعی گسترده بوده یا هستند.

در مورد این مسائل بین اعضای هیئت نظارت اختلاف‌نظر وجود داشت. برخی از اعضا در اصل موافق بودند که Meta نباید به جنسیت یا هویت جنسی برای محدود کردن بیان تکیه کند، اما عمیقاً نسبت به ظرفیت Meta برای رسیدگی مؤثر به تصاویر خصوصی بدون اجازه و سایر آسیب‌های احتمالی بدون یک خط‌مشی برهنگی آگاه به جنسیت و هویت جنسی تردید داشتند. سایر اعضای هیئت بر این باورند که چون اصول حقوق بشر قابل اجرا درمورد عدم تبعیض، تمایز برپایه ویژگی‌های محافظت‌شده را تا‌زمانی‌که «براساس معیارهای معقول و عینی و به‌دنبال هدفی باشد که طبق میثاق مشروع است» مجاز می‌داند ( نپومنیاشی درمقابل روسیه، «کمیته حقوق بشر»، ۲۰۱۸، پاراگراف ۷.۵ (CCPR/C/۱۲۳/D/۲۳۱۸/۲۰۱۳)، خط‌مشی برهنگی با بی‌طرفی جنسی و جنسیتی الزامی نیست و می‌تواند باعث ایجاد آسیب یا تشدید آسیب‌های دیگر شود.

اعضای هیئت نظارت که از خط‌مشی برهنگی بزرگسالان بی‌طرف جنسی و جنسیتی حمایت می‌کنند، اذعان دارند که تحت استانداردهای بین‌المللی حقوق بشر که در مورد ایالت‌ها اعمال می‌شود، ممکن است تمایزاتی برپایه ویژگی‌های محافظت‌شده براساس معیارهای معقول و عینی و زمانی که هدفی مشروع را دنبال کنند، ایجاد شود. آن‌ها معتقدند که تمایزات درون خط‌مشی برهنگی Meta با آن استاندارد مطابقت ندارد. آن‌ها همچنین خاطرنشان می‌کنند که Meta به‌عنوان یک کسب‌وکار، تعهداتی در زمینه حقوق بشر دارد که با رویکردی که بیان آنلاین را براساس درک شرکت از جنسیت هویت جنسی محدود می‌کند، سازگار نیست.

استاندارد «برهنگی و فعالیت جنسی بزرگسالان» انجمن به‌طور نامتناسبی بر زنان و کاربران ال‌جی‌بی‌تی‌کیو‌آی+ تأثیر می‌گذارد و بر برداشت‌های ذهنی و فرضی از جنسیت و هویت جنسی تکیه می‌کند که هنگام مشارکت در نظارت بر محتوا درمقیاس کلان عملی نیست. با نگاهی جامع، باتوجه به سردرگمی درمورد قوانین و اجرای آن‌ها، و تأثیر نامتناسب و تبعیض‌آمیز خط‌مشی فعلی «برهنگی و فعالیت جنسی بزرگسالان» Meta، هیئت توصیه می‌کند که Meta معیارهایی واضح و عینی با رعایت حقوق برای کنترل تمامیت خط‌مشی «برهنگی و فعالیت جنسی بزرگسالان» خود تعریف کند، و بدین ترتیب اطمینان حاصل کند که با همه مردم مطابق با استانداردهای بین‌المللی حقوق بشر رفتار می‌شود، ازجمله بدون تبعیض براساس جنسیت یا هویت جنسی. Meta ابتدا باید یک ارزیابی جامع از تأثیر حقوق بشر برای بررسی پیامدهای پذیرش چنین معیارهایی انجام دهد، که شامل مشارکت گسترده ذی‌نفعان در بافتارهای مختلف ایدئولوژیکی جغرافیایی و فرهنگی می‌شود. تاجایی‌که این ارزیابی باید هرگونه آسیب‌ احتمالی را شناسایی کند، پیاده‌سازی خط‌مشی جدید باید شامل طرحی کاهشی برای برطرف کردن این آسیب‌ها شود. هیئت گزارشی درباره ارزیابی و برنامه شش ماهه از تاریخ صدور این تصمیم را درخواست کرده است.

۹. تصمیم هیئت نظارت

هیئت نظارت تصمیمات اولیه Meta برای حذف هر دو پست را لغو می‌کند و شرکت باید آن‌ها را بازگرداند.

۱۰. بیانیه مشورتی درباره خط‌مشی

خط‌مشی محتوا

1. Meta برای اینکه با همه کاربران منصفانه رفتار کند و استانداردی قابل اجرا در مورد برهنگی به نظارت‌کنندگان و عموم ارائه دهد، باید معیارهایی واضح و عینی با رعایت حقوق برای کنترل تمامیت خط‌مشی «برهنگی و فعالیت جنسی بزرگسالان» تعریف کند، و بدین ترتیب اطمینان حاصل کند که با همه مردم مطابق با استانداردهای بین‌المللی حقوق بشر رفتار می‌شود، از جمله بدون تبعیض بر اساس جنسیت یا هویت جنسی. Meta ابتدا باید یک ارزیابی جامع از تأثیر حقوق بشر برای بررسی پیامدهای پذیرش چنین معیارهایی انجام دهد، که شامل مشارکت گسترده ذی‌نفعان در بافتارهای مختلف ایدئولوژیکی جغرافیایی و فرهنگی می‌شود. تاجایی‌که این ارزیابی باید هرگونه آسیب‌ احتمالی را شناسایی کند، پیاده‌سازی خط‌مشی جدید باید شامل طرحی کاهشی برای برطرف کردن این آسیب‌ها شود.

۲. به‌منظور ارائه وضوح بیشتر به کاربران، Meta باید درمورد اینکه چه چیزی «پیشنهاد یا تقاضا» برای رابطه جنسی (ازجمله پیوندهایی به وب‌سایت‌های شخص ثالث) تلقی می‌شود و اینکه چه چیزی در «استانداردهای انجمن» عمومی ژست‌های وسوسه‌انگیز جنسی درنظر گرفته می‌شود، توضیحات بیشتری ارائه کند. هیئت زمانی این توصیه را اجراشده در نظر خواهد گرفت که توضیحی درباره این اصطلاحات همراه با مثال‌هایی به «استاندارد درخواست رابطه جنسی انجمن» اضافه شود.

اقدامات اجرایی

3. برای اطمینان از اینکه معیارهای داخلی Meta برای خط‌مشی «درخواست رابطه جنسی» منجر به حذف محتوایی بیشتر از آنچه که در خط‌مشی دردسترس عموم مشخص شده است نمی‌شود و بنابراین محتوای غیرجنسی به‌اشتباه حذف نمی‌شود، Meta باید دستورالعمل‌های بازبین داخلی خود را اصلاح کند تا اطمینان حاصل شود این معیارها منعکس‌کننده قوانین دردسترس عموم هستند و مستلزم ارتباط واضح‌تری بین «پیشنهاد یا تقاضا» و «عنصر وسوسه‌انگیز جنسی» هستند. زمانی که Meta دستورالعمل‌های داخلی به‌روزشده خود را که منعکس‌کننده این معیارهای اصلاح‌شده است، به هیئت نظارت ارائه دهد، آن‌گاه هیئت این توصیه را اجراشده درنظر خواهد گرفت.

*نکته‌ای درباره روند تصمیم‌گیری:

تصمیمات هیئت نظارت توسط هیئت داوران متشکل از پنج عضو تهیه می‌شود و به تأیید اکثریت اعضای هیئت می‌رسد. تصمیمات هیئت لزوماً منعکس‌کننده نظرات شخصی تمام اعضا نیست.

برای این تصمیم پرونده، تحقیق مستقلی از طرف هیئت درخواست شد. یک مؤسسه تحقیقاتی مستقل که مرکز آن در دانشگاه گوتنبرگ واقع شده است، با تیمی متشکل از بیش از ۵۰ متخصص مسائل اجتماعی از شش قاره و همچنین بیش از ۳۲۰۰ متخصص امور کشورها در سراسر جهان، نظرات کارشناسی خود را در رابطه با بافتار اجتماعی-سیاسی و فرهنگی ارائه نمود. هیئت از Duco Advisers نیز کمک گرفت که یک شرکت خدمات مشاوره‌ای با تمرکز بر تلاقی ژئوپلتیک، اعتماد و امنیت، و فناوری است.