اصلاح واژه‌های عربی

پیرو تصمیم اولیه Meta مبنی بر برداشتن پستی در اینستاگرام که، به گفته کاربر، تصاویری از واژه‌های عربی نشان می‌داد که از این واژه‌ها ممکن است به‌شکلی توهین‌آمیز نسبت به مردانی با «رفتارهای زن‌نما» استفاده شود، هیئت نظارت این تصمیم را رد کرده است. این محتوا مشمول یکی از استثنائات خط‌مشی «نفرت‌پراکنی» Meta قرار می‌گرفت و نباید برداشته می‌شد.

درباره این پرونده

در نوامبر ۲۰۲۱، یک حساب عمومی Instagram که خود را فضایی برای بحث درمورد داستان جنسیت‌های نامتعارف در فرهنگ عرب توصیف می‌کند یک سری عکس را در یک گردونه (نوعی پست در Instagram که می‌تواند با داشتن یک شرح واحد، تا ۱۰ عکس را دربر گیرد) منتشر کرد. در شرح آن، که هم به عربی و هم انگلیسی نوشته شده بود، توضیح داده شد که هریک از عکس‌ها واژه‌ای را نشان می‌دهد که در دنیای عرب‌زبان، به‌شکلی توهین‌آمیز نسبت به مردانی با «رفتارهای زن‌نما» بکار می‌رود، ازجمله واژه‌های «زامل»، «فوفو»، و «تانته/تانتا.» کاربر بیان کرد که هدف از این پست «قدرت چنین واژه‌های آسیب‌زایی را اصلاح کند.»

Meta در ابتدا محتوا را به‌خاطر نقض خط‌مشی نفرت‌پراکنی خود برداشت اما پس از درخواست تجدیدنظر کاربر، آن را بازگرداند. بعد از اینکه کاربر دیگری آن را گزارش کرد، Meta دوباره آن را به‌خاطر نقض خط‌مشی نفرت‌پراکنی از پلتفورم برداشت. به گفته Meta، قبل از اینکه هیئت پروندۀ نامبرده را انتخاب کند، محتوا جهت بازبینی داخلی مجدد به مراتب بالاتر ارجاع داده شد، و طی آن مشخص گردید که در واقع باعث نقض خط‌مشی نفرت‌پراکنی این شرکت نشده است. سپس Meta محتوا را به Instagram بازگرداند. Meta توضیح داد که تصمیمات اولیه‌اش در برداشتن محتوا بر مبنای بازبینی‌های صورت‌گرفته روی تصاویر حاوی واژه‌های «|***z» و «t***e/t***a» بوده است.

یافته‌های کلیدی

هیئت برداشته شدن این محتوا را خطایی واضح می‌داند که همسو با خط‌مشی نفرت‌پراکنی Meta نبوده است. درست است که این پست حاوی واژه‌های تهمت‌آمیز است، اما محتوا مشمول استثنای تعیین‌شده برای سخنانی می‌شود که «با ارجاع به خود مطلب یا به شیوه‌ای مثبت بکار می‌رود، و همچنین استثنایی که اجازه نقل سخنان نفرت‌پراکنی را به‌هدف «محکوم کردن یا افزایش آگاهی» می‌دهد. با توجه به اظهارات کاربر مبنی بر اینکه او استفاده از واژه‌های تهمت‌آمیز مورد بحث را «جایز ندانسته یا ترغیب نکرده است،» و هدف او این بوده که «قدرت چنین واژه‌های آسیب‌زایی را اصلاح کند،» نظارت‌کننده باید متوجه می‌شده است که این محتوا احتمال دارد مشمول استثنا قرار گیرد.

برای افراد +LGBTQIA در کشورهایی که ابراز شدن این‌گونه افراد مجازات دارد، رسانه اجتماعی غالباً تنها روش برای بیان آزادانه آنهاست. افراط در نظارت بر بیان کاربرانی که از گروه‌های اقلیتیِ آزاردیده هستند تهدیدی جدی برای آزادی بیان آنها به‌حساب می‌آید. بر این اساس، هیئت از این بابت نگران است Meta موارد استثنای خط‌مشی نفرت‌پراکنی را به‌گونه‌ای هماهنگ در بیانات گروه‌های حاشیه‌ای اعمال نکند.

خطاهای این پرونده، که شامل ناقض دانستن این محتوا برمبنای خط‌مشی نفرت‌پراکنی از دیدگاه سه نظارت‌کنندۀ جداگانه می‌شد، حاکی از آن است که رهنمود Meta برای نظارت‌کنندگان مسئول ارزیابی ارجاعات به واژه‌های توهین‌آمیز ممکن است کافی نباشد. هیئت ابراز نگرانی می‌کند که بازبینان ممکن است منابع کافی از لحاظ ظرفیت یا آموزش لازم جهت جلوگیری از وقوع اشتباهاتی مثل این پرونده دراختیار نداشته باشند.

ارائه رهنمود به نظارت‌کنندگان بر محتوا به انگلیسی درخصوص نحوه بازبینی محتواهای منتشرشده به زبان غیرانگلیسی، آن‌طور که Meta درحال حاضر انجام می‌دهد، ذاتاً چالش‌برانگیز است. برای کمک به نظارت‌کنندگان در تصمیم‌گیری بهتر برای مواقعی که باید محتواهای تهمت‌آمیز مشمول استثنا قرار گیرد، هیئت توصیه می‌کند که Meta رهنمود داخلی خود را به گویش‌های عربی مورداستفادۀ نظارت‌کنندگان خود ترجمه کند.

هیئت همچنین معتقد است برای شکل دادن فهرستی دقیق از واژگان تهمت‌آمیز و ارائه راهنمایی مناسب به نظارت‌کنندگان درخصوص اعمال استثناهای تعیین‌شده در خط‌مشی مربوط به محتواهای تهمت‌آمیز، Meta باید به‌طور مرتب از اقلیت‌های هدفِ تهمت‌ها در سطح مشخصی از کشور و فرهنگ بازخورد بگیرد. Meta باید شفافیت بیشتری نیز درمورد نحوه ایجاد، اعمال، و حسابرسی به فهرست لغات تهمت‌آمیز خاص هر بازار داشته باشد.

تصمیم هیئت نظارت

هئیت نظارت تصمیم اولیه Meta را مبنی بر برداشتن محتوا رد کرد.

هئیت در قالب یک بیانیه مشورتی برای خط‌مشی توصیه می‌کند که Meta:

• «استانداردهای داخلی اجرای قوانین» و «پرسش‌های معلوم» را به گویش‌های عربی مورداستفادۀ نظارت‌کنندگان بر محتوا ترجمه کند. انجام این کار می‌تواند به کاهش افراط در اقدامات اجرایی در مناطق عرب‌زبان کمک کند، چون بدین ترتیب نظارت‌کنندگان بهتر می‌توانند نسبت به مواقعی که لازم است استثنایی برای محتواهای تهمت‌آمیز اعمال شود تصمیم‌گیری نمایند.
• توضیح شفافی درمورد چگونگی ایجاد فهرست تهمت‌های خاص هر بازار منتشر کند. در این توضیح باید روندها و معیارهای مشخص کردن تهمت‌ها و کشورها در وارد کردن به فهرست‌های خاص هر بازار آورده شود.
• توضیح شفافی درمورد چگونگی اعمال فهرست تهمت‌های خاص هر بازار منتشر کند. این توضیح باید شامل روندها و معیارهای تعیین دقیق زمان و مکان اجرای قوانین حاکم بر ممنوعیت محتواهای تهمت‌آمیز شود، چه مربوط به پست‌هایی که مبدأ آن ازلحاظ جغرافیایی همان منطقه مورد بحث باشد، یا از خارج آن اما در ارتباط با منطقه مورد بحث، و/یا در ارتباط با کلیه کاربران واقع در منطقه مورد بحث، فارغ از اینکه مبدأ آن پست کدام منطقه جغرافیایی است.
• توضیح شفافی درمورد چگونگی حسابرسی به فهرست تهمت‌های خاص هر بازار منتشر کند. این توضیح باید شامل روندها و معیارهایی برای برداشتن تهمت‌ها از فهرست هریک از بازارهای Meta یا حفظ آنها در آن فهرست‌ها شود.

*خلاصه‌های پرونده یک مرور کلی درباره پرونده ارائه می‌کنند و هیچ ارزش رسمی ندارند.

تصمیم کامل درباره پرونده

۱.خلاصه تصمیم

هیئت نظارت تصمیم اصلی Meta مبنی بر برداشتن پستی در Instagram را از حسابی که به «داستان جنسیت‌های نامتعارف در تاریخ عرب و فرهنگ عامه» می‌پردازد رد می‌کند. این محتوا مشمول استثنای خط‌مشی نفرت‌پراکنی Meta قرار می‌گیرد زیرا به گزارش دادن، محکوم کردن، و بحث کردن درمورد استفاده منفی از تهمت‌های همجنس‌گراهراسی توسط دیگران می‌پردازد و از آنها در بافتاری صریحاً مثبت استفاده می‌کند.

۲. توضیح و پس‌زمینه پرونده

در نوامبر ۲۰۲۱، یک حساب عمومی Instagram که خود را فضایی برای بحث درمورد داستان جنسیت‌های نامتعارف در فرهنگ عرب می‌داند یک سری عکس را در یک گردونه (نوعی پست در Instagram که می‌تواند با داشتن یک شرح واحد، تا ۱۰ عکس را دربر گیرد) منتشر کرد. در شرح آن، که کاربر به هردو زبان عربی و انگلیسی نوشته شده بود، توضیح می‌دهد که هریک از عکس‌ها واژه‌ای را نشان می‌دهد که در دنیای عرب‌زبان، به‌شکلی توهین‌آمیز نسبت به مردانی با «رفتارهای زن‌نما» بکار می‌رود، ازجمله واژه‌های «زامل»، «فوفو»، و «تانته/تانتا.» کاربر در قسمت شرح بیان کرد که «استفاده از این واژه‌ها را جایز ندانسته یا ترغیب نکرده است،» و توضیح داد که قبلاً با یکی از این تهمت‌ها مورد سوء‌استفاده قرار گرفته بود و هدف از پست این بوده که «قدرت چنین واژه‌های آسیب‌زایی را اصلاح کند.» کارشناسان برون‌سازمانی هیئت تأیید کردند که از واژه‌های داخل این محتوا اکثراً در قالب تهمت استفاده می‌شود.

این محتوا حدود ۹,۰۰۰ بار دیده شد و تقریباً ۳۰ نظر و حدود ۲,۰۰۰ واکنش دریافت کرد. ظرف سه ساعت از پست شدن این محتوا، یک کاربر آن را به‌خاطر «برهنگی بزرگسالان یا فعالیت جنسی» گزارش کرد و یکی دیگر به‌عنوان «درخواست رابطه جنسی.» به هریک از این گزارشات توسط نظارت‌کنندگان غیرماشینی جداگانه‌ای رسیدگی شد. هیچ اقدامی از سوی نظارت‌کننده‌ای که گزارش اول را بررسی کرد صورت نگرفت، اما نظارت‌کننده‌ای که گزارش دوم را بررسی کرد محتوا را به‌خاطر نقض خط‌مشی نفرت‌پراکنی Meta از پلتفورم برداشت. کاربر به برداشته شدن محتوا درخواست تجدیدنظر کرد و نظارت‌کنندۀ سوم محتوا را به پلتفورم بازگرداند. پس از اینکه محتوا بازگردانده شد، یک کاربر دیگر آن را به‌عنوان «نفرت‌پراکنی» گزارش کرد و یک نظارت‌کننده دیگر برای بار چهارم اقدام به بازبینی نمود، که مجدداً منجر به برداشته شدن محتوا شد. کاربر برای دومین بار درخواست تجدیدنظر داد، و نظارت‌کننده‌ای دیگر پس از بازبینی پنجم تصمیم به برداشتن محتوا را تأیید کرد. پس از اینکه Meta تصمیم مذکور را به کاربر اطلاع داد، کاربر به هیئت نظارت درخواست تجدیدنظر ارسال کرد. Meta چندی بعد اطمینان داد که کلیه نظارت‌کنندگانی که محتوا را بازبینی کردند به زبان عربی مسلط بودند.

Meta توضیح داد که تصمیمات اولیه در برداشتن محتوا بر مبنای بازبینی‌های صورت‌گرفته روی تصاویر حاوی واژه‌های «|***z» و «t***e/t***a» بوده است. Meta همچنین در پاسخ به یکی از سؤالات هیئت عنوان کرد که شرکت واژۀ دیگری از این محتوا، یعنی «moukhanath»، را نیز تهمت می‌داند.

به گفته Meta، بعد از درخواست تجدیدنظر کاربر نزد هیئت اما قبل از اینکه هیئت پروندۀ نامبرده را انتخاب کند، محتوا جهت بازبینی داخلی مجدد به مراتب بالاتر به‌صورت مستقل ارجاع داده شد، و طی آن مشخص گردید که باعث نقض خط‌مشی نفرت‌پراکنی نشده است. محتوا متعاقباً به پلتفورم بازگردانده شد.

۳. اختیارات هیئت نظارت و حدود آن

هیئت این اختیار را دارد که تصمیم Meta را پس از طرح درخواست تجدیدنظر از طرف کاربری که محتوای او برداشته شده است بازبینی کند (منشور، ماده ۲، بخش ۱؛ آیین‌نامه، ماده ۳، بخش ۱).

هیئت اجازه دارد از تصمیم Meta حمایت یا آن را رد کند (منشور هیئت نظارت، ماده ۳، بخش ۵) و این تصمیم برای شرکت الزام‌آور است (منشور هیئت نظارت، ماده ۴). Meta موظف است امکان اعمال تصمیم خود را از لحاظ یک محتوای یکسان با بافتار مشابه نیز ارزیابی کند (منشور هیئت نظارت، ماده ۴). این تصمیمات ممکن است شامل اظهارنامه‌های مشورتی خط‌مشی با توصیه‌های غیرالزامی باشد که Meta موظف است پاسخگوی آنها باشد (منشور هیئت نظارت، ماده ۳؛ بخش ۴؛ ماده ۴).

وقتی هیئت پرونده‌هایی مانند این پرونده را انتخاب می‌کند، در مواردی که Meta وقوع خطای خود را پذیرفته باشد، هیئت تصمیم اولیه را بازبینی می‌کند تا کمک شود که درک بهتری از دلیل وقوع خطاها بدست آید و همچنین مشاهدات و توصیه‌هایی را که می‌تواند در کاهش وقوع خطاها و بهبود روند مقتضی نقش داشته باشد مطرح نماید.

۴.منابع اعتبار

هیئت نظارت موارد زیر را به‌عنوان منابع اعتبار در تصمیم خود در نظر گرفته است:

I.تصمیمات هیئت نظارت:

مرتبط‌ترین تصمیمات هیئت به این پرونده عبارتند از:

• «تصمیم درباره کمربند وامپوم» (‎2021-012-FB-UA): در این تصمیم، هیئت بر اهمیت حفاظت از حق بیان گروه‌های حاشیه‌ای تأکید کرد و عنوان نمود که Meta حتماً باید اطمینان یابد اقدام به برداشتن محتواهایی که مشمول استثنای خط‌مشی نفرت‌پراکنی قرار می‌گیرند نکند.
• «تصمیم درباره تهمت‌های آفریقای جنوبی» (‎2021-011-FB-UA): در این تصمیم، هیئت دریافت که Meta باید شفافیت بیشتری در رویه‌ها و معیارهای مورداستفاده‌اش در تدوین فهرست‌های حاوی تهمت‌ها داشته باشد. هیئت همچنین توصیه کرد که Meta عدالت در رویه را در اقدامات اجرایی مربوط به خط‌مشی نفرت‌پراکنی بهبود بخشد تا کاربران بهتر بتوانند دلیل برداشته شدن محتوا را درک کنند.
• «تصمیم درباره ربات میانمار» (‎2021-007-FB-UA): در این تصمیم، هیئت در رابطه با ارزیابی اینکه محتوا شامل استثنائات خط‌مشی نفرت‌پراکنی می‌شود یا نه، بر اهمیت بافتار تأکید کرد.

هیئت همچنین به توصیه‌های ارائه‌شده در پرونده‌های ذیل اشاره می‌کند: «تصمیم درباره حبس اوجالان» (‎2021-006-IG-UA)، «تصمیم درباره میم دو دکمه‌ای» (‎2021-005-FB-UA)، و «تصمیم درباره علائم سرطان سینه و برهنگی» ‎.(2020-004-IG-UA)

II. خط‌مشی‌های محتوای Meta:

این پرونده شامل «دستورالعمل‌های انجمن Instagram و استانداردهای انجمن فیس‌بوک می‌شود. مرکز شفافیت Meta بیان می‌کند: «فیس‌بوک و Instagram خط‌مشی‌های محتوایی مشترکی دارند. بنابراین، اگر محتوایی ناقض قوانین فیس‌بوک دانسته شود، در Instagram هم همین‌طور تلقی خواهد شد.»

دستورالعمل‌های انجمن Instagram بیان می‌کند:

می‌خواهیم یک جامعه مثبت و متنوع را پرورش دهیم. ما محتوایی که شامل تهدیدهای واقعی یا سخنان نفرت‌پراکنی باشد را برمی‌داریم... هرگز تشویق به خشونت یا حمله به شخصی بر اساس نژاد، قومیت، منشاء ملی، جنسیت، هویت جنسیتی، گرایش جنسی، وابستگی مذهبی، معلولیت یا بیماری مجاز نمی‌باشد. زمانی گفتار نفرت‌انگیز را مجاز می‌دانیم که با هدف به چالش کشیدن آن یا برای ایجاد آگاهی به اشتراک گذاشته می‌شود. در این موارد، درخواست می‌کنیم که هدف خود را به‌طور شفاف بیان کنید.

استانداردهای انجمن فیس‌بوک نفرت‌پراکنی را اینطور تعریف می‌کند: «حمله مستقیم به افراد بر اساس آنچه ما تحت عنوان ویژگی‌های محافظت‌شده به آن اشاره می‌کنیم - یعنی نژاد، قومیت، ملیت اصلی، مذهب، گرایش جنسی، طبقه خانوادگی، جنسیت، باور جنسی، هویت جنسی و بیماری جدی یا معلولیت». Meta حملات را به سه گروه مختلف تقسیم‌بندی می‌کند. محتواهایی که بخش تهمت‌ها در خط‌مشی مربوط به نفرت‌پراکنی ممنوع می‌داند عبارتند از «محتواهایی که با تهمت افراد را توصیف کند یا از جنبۀ منفی هدف قرار دهد؛ در اینجا تعریف تهمت عبارت است از واژگانی که فی‌نفسه توهین‌آمیز بوده و به‌عنوان برچسب زدن توهین‌آمیز استفاده شود.» مابقی گروه سه محتواهایی را ممنوع می‌کند که افراد را با منزوی کردن یا طرد کردن هدف قرار دهد.

Meta طی بخشی از توجیه خط‌مشی توضیح می‌دهد که:

ما واقف هستیم که افراد برخی اوقات محتوای حاوی سخنان نفرت‌پراکنی دیگران را با هدف محکوم‌سازی آن یا افزایش آگاهی به‌اشتراک می‌گذارند. در موارد دیگر، از گفتاری که ممکن است ناقض استانداردهای ما باشد می‌توان با ارجاع به خود مطلب یا به شیوه‌ای مثبت استفاده کرد. خط‌مشی ما به گونه‌ای طراحی شده است که به این نوع گفتار مجال بیان بدهد، اما افراد را ملزم می‌دانیم که به‌وضوح قصد خود را مشخص کنند. اگر قصد آنها واضح نباشد، ممکن است محتوا را از پلتفورم برداریم.

III. ارزش‌های Meta:

ارزش‌های Meta در بخش مقدمۀ استانداردهای انجمن فیس‌بوک ذکر شده‌اند، و در آنجا ارزش «حق اظهارنظر» به‌عنوان «سرآمد» توصیف شده است:

هدف «استانداردهای انجمن» ما همیشه ایجاد فضایی برای آزادی بیان و فراهم کردن امکان اظهارنظر برای افراد است. […] ما می‌خواهیم به مردم این امکان را بدهیم که بتوانند با صراحت درباره مسائلی که برایشان اهمیت دارد صحبت کنند، حتی اگر عده‌ای با آن مخالف باشند یا آن را ناخوشایند بدانند.

Meta برای حراست از چهار ارزش، «اظهارنظر» را محدود می‌کند، که دو مورد از آنها در اینجا مرتبط هستند:

«امنیت»: ما متعهد هستیم فیس‌بوک را به مکانی ایمن تبدیل کنیم. صحبت‌هایی که افراد را تهدید می‌کند، ممکن است منجر به ارعاب، طرد کردن یا ساکت کردن دیگران شود، و در فیس‌بوک مجاز نیست.

«شأن»: ما معتقدیم همه مردم از لحاظ شأن و حقوق یکسان هستند. انتظار داریم افراد به شأن دیگران احترام بگذارند و باعث تحقیر و آزار آنها نشوند.

IV. استانداردهای بین‌المللی حقوق بشر:

«اصول راهنمای سازمان ملل در زمینه کسب‌وکار و حقوق بشر» (UNGPs)، که در سال ۲۰۱۱ به تأیید شورای حقوق بشر سازمان ملل رسید، یک چارچوب داوطلبانه برای مسئولیت‌های حقوق بشری برای کسب‌وکارهای خصوصی تعریف می‌کند. در سال ۲۰۲۱، Meta اعلام کرد که خط‌مشی سازمانی حقوق بشری خود را منتشر نموده است، و طی آن بر تعهد خود در احترام به حقوق بشر مطابق با UNGPs مجدداً تأکید داشته است. تحلیل هیئت از مسئولیت‌های Meta نسبت به حقوق بشر در این پرونده طبق استانداردهای حقوق بشری زیر گزارش شده است؛ این استانداردها در بخش ۸ از تصمیم جاری اعمال شده‌اند:

• حق آزادی بیان و نظر: ماده ۱۹ پیمان بین‌المللی حقوق مدنی و سیاسی (ICCPR)، نظر عمومی شماره ۳۴، کمیته حقوق بشر، سال ۲۰۱۱؛ Communication 488/1992, Toonen v. استرالیا، کمیته حقوق بشر، ۱۹۹۲؛ قطعنامه ۳۲/۲، شورای حقوق بشر، ۲۰۱۶؛ گزارشگر ویژه سازمان ملل در رابطه با آزادی عقیده و آزادی بیان، گزارش‌های: A/HRC/38/35 (۲۰۱۸) و A/74/486 (۲۰۱۹)؛ کمیساریای عالی حقوق بشر سازمان ملل، گزارش: A/HRC/19/41 (۲۰۱۱).
• حق عدم تبعیض: ماده ۲، پاراگراف ۱ و ماده ۲۶ (ICCPR)؛

۵. اظهارات ارسالی کاربران

کاربر در اظهارات ارسالی خود به هیئت حسابش را مکانی «برای گرامی داشتن فرهنگ کوییر عرب» توصیف کرد. او توضیح می‌دهد که گرچه «فضای امنی» است، با اضافه شدن تعداد دنبال‌شده‌ها به‌طور فزاینده‌ای هدف ترول‌های همجنس‌گراهراسی قرار گرفته که نظرات توهین‌آمیزی می‌نویسند و محتوا را به‌صورت گروهی گزارش می‌کنند.

کاربر توضیح داد که هدفش در پست کردن این محتوا طرفداری از مردان و پسران زن‌نما در جامعه عرب است که آنها را غالباً با زبان توهین‌آمیزی که در آن پست پررنگ شده است تحقیر می‌کنند. او در ادامه توضیح داد که تلاش داشته است مفهوم این واژه‌های توهین‌آمیز را که علیه او استفاده شده است در قالب مقاومت و توانمندسازی اصلاح کند، با این استدلال که در محتوای پست مشخص کرده است که استفاده از واژه‌های موجود در تصاویر را به‌عنوان تهمت جایز نمی‌داند یا ترغیب نمی‌کند. کاربر همچنین بیان کرد که به عقیده او محتوایش همسو با خطمشی‌های محتوایی Meta بوده است چرا که خطمشی‌های محتوای Meta اجازه استفاده از واژه‌های ممنوع را درصورتی که در اشاره به خود یا به‌شکلی توانمندساز بکار رود می‌دهد.

۶. اظهارات ارسالی Meta

Meta در توجیه خط‌مشی خود توضیح داد که محتوا در وهله اول طبق خط‌مشی نفرت‌پراکنی این شرکت برداشته شد زیرا محتوا حاوی یکی از واژه‌های ممنوعه از فهرست تهمت‌های Meta بود، و آن واژه «یک واژه توهین‌آمیز برای افراد همجنس‌گرا» است. Meta نهایتاً تصمیم اولیه‌اش را منتفی کرد و محتوا را بازگرداند زیرا استفاده از این واژه در چارچوب استثناهایی قرار می‌گیرد که Meta برای محتواهای ذیل درنظر گرفته است: «محتواهایی که هدفشان محکوم کردن تهمت یا سخنان نفرت‌پراکنی است؛ آنهایی که به بحث درمورد استفاده از تهمت‌ها می‌پردازند، ازجمله گزارش‌های حاوی نمونه‌هایی از کاربرد آنها؛ یا آنهایی که مسئلۀ قابل قبول بودن استفاده از آنها را مورد بحث و گفتگو قرار می‌دهند.» Meta پذیرفت که بافتار حاکی از آن بوده است که کاربر می‌خواسته توجه را به ماهیت آسیب‌زای آن واژه جلب کند و بنابراین نقضی صورت نگرفته است.

در پاسخ به سؤالات هیئت درباره اینکه بافتار چه نقشی در اعمال استثنائات خط‌مشی نفرت‌پراکنی Meta دارد، Meta بیان کرد «سخنان نفرت‌پراکنی و تهمت‌ها مجاز است» به‌شرطی که به‌هدف تمسخر، محکوم‌سازی، بحث، گزارش یا ارجاع به خود مطلب بکار رود، و ضمناً مسئولیت شفاف کردن قصد کاربر موقع بیان یکی از واژه‌های تهمت‌آمیز برعهده خود کاربر است.

Meta در پاسخ به سؤال دیگری از هیئت بیان کرد که شرکت در رابطه با دلیل برداشته شدن اشتباه محتوا «حدس و گمانی نمی‌زند» زیرا بازبینان محتوا دلایل اتخاذ تصمیماتشان را ثبت نمی‌کنند.

هیئت جمعاً ۱۷ سؤال از Meta پرسید، که به ۱۶ سؤال پاسخ کامل و ۱ سؤال پاسخ ناقص داده شد.

۷. نظرات عمومی

هیئت در رابطه با این پرونده، سه نظر عمومی دریافت کرد. یکی از این نظرات از ایالات متحده و کانادا بود، یکی دیگر از خاورمیانه و آفریقای شمالی، و دیگری از آمریکای لاتین و جزایر کارائیب.

نظرات ارسالی مضامین زیر را دربر می‌گرفت: امنیت افراد LGBT در پلتفورم‌های بزرگ رسانه اجتماعی، لحاظ بافتار محلی در اجرای خط نفرت‌پراکنی، و معانی متغیر واژگان عربی.

برای خواندن نظرات عمومی ارسال‌شده در ارتباط با این پرونده، لطفاً روی اینجا کلیک کنید.

علاوه بر این، طی بخشی از تلاش‌های مستمر تعاملات ذینفعان، اعضای هیئت جلسات بحث و گفتگوی آموزنده و پرباری را با سازمان‌هایی که روی آزادی بیان و حقوق افراد +LGBTQIAT، ازجمله عرب‌زبانان، کار می‌کنند برگزار کردند. این مباحث نگرانی‌هایی را پررنگ کرد، که عبارت بودند از: معضلات اعلام تغییر دستۀ یک واژه تهمت‌آمیز و خنثی کردن اثر توهین‌آمیز آن در سطح جهانی درحالی که آن واژه ممکن است همچنان به گوش بعضی از مخاطبین تهمت به‌نظر برسد، فارغ از اینکه قصد گوینده چه بوده است، مشکلات ناشی از نبود بازخورد گروه‌های حامیان +LGBTQIA و جوامع غیرانگلیسی‌زبان درخصوص خط‌مشی محتوا، و خطرات نظارت بر محتوا وقتی روند نظارت نسبت به بافتار حساسیت کافی نداشته باشد.

۸.تحلیل هیئت نظارت

هیئت به این پرسش پرداخت که آیا این محتوا باید از طریق سه دیدگاه بازگردانده شود یا خیر: خط‌مشی‌های محتوایی Meta، ارزش‌های شرکت، و مسئولیت‌های آن نسبت به حقوق بشر.

هیئت این پرونده را بدین خاطر انتخاب کرد که افراط در نظارت بر بیان کاربرانی که از گروه‌های اقلیتیِ آزاردیده هستند تهدیدی جدی برای آزادی بیان آنها به‌حساب می‌آید. فضاهای بیان آنلاین برای گروه‌هایی که با آزار و اذیت مواجه هستند از اهمیت ویژه‌ای برخوردار بوده و حفاظت از حقوق آنها نیازمند توجه بیشتر از سوی شرکت‌های رسانه اجتماعی است. این پرونده همچنین گویای تنشی است که Meta در تلاش برای حفاظت از اقلیت‌ها درمقابل نفرت‌پراکنی با آن مواجه هست، و از طرفی برای ایجاد فضایی تلاش می‌کند که اقلیت‌ها بتوانند حرفشان را کامل بزنند، ازجمله با اصلاح کردن تهمت‌های آسیب‌زا.

۸.۱ تبعیت از خط‌مشی‌های Meta درمورد محتوا

I.قوانین محتوا

هیئت دریافته است که گرچه از واژه‌های تهمت‌آمیز استفاده شده است، محتوا جزء سخنان نفرت‌پراکنی محسوب نمی‌شود چون در زمره استثنای خط‌مشی نفرت‌پراکنی برای واژگان تهمت‌آمیز قرار می‌گیرد که «در ارجاع به خود مطلب یا به‌نحوی توانمندساز بکار رفته باشد،» و همچنین استثنای نقل سخنان نفرت‌پراکنی به‌هدف «محکوم‌سازی یا افزایش آگاهی» نیز مشمول آن می‌شود.

در تصمیماتی که برای پرونده‌های مربوط به «کمربند وامپوم» و «میم دو دکمه‌ای» گرفته شد، هیئت عنوان کرد که ضرورتی ندارد کاربر قصد خود را در انتشار پست به‌طور صریح بیان کند تا شرط اعمال استثنای خط‌مشی نفرت‌پراکنی را پیدا کند. همین که کاربر در بافتار پست این شفافیت را داشته باشد که از واژگان نفرت‌پراکنی طبق موارد مجاز این خط‌مشی استفاده کرده است کفایت می‌کند.

با این حال، محتوای این پرونده حاوی اظهارات کاربر می‌شد که گفته بود استفاده توهین‌آمیز از واژه‌های تهمت‌آمیز مورد بحث را «جایز نمی‌داند یا تشویق نمی‌کند،» بلکه این پست «تلاش داشته است با جریان حاکم مقابله و به آن اعتراض کند» و «قدرت چنین واژه‌های آسیب‌زایی را اصلاح کند.» با اینکه اظهارات شفاف درخصوص قصد کاربر برای توجیه استفاده از سخنان نفرت‌پراکنی یا نقل آنها همیشه شرط لازم یا کافی نیست، حداقل می‌تواند نظارت‌کننده را مطلع کند که ممکن است مشمول موارد استثنا قرار گیرد. در این پرونده، هیئت متوجه شد که عبارت حاکی از قصد کاربر، وقتی با بافتار تلفیق شود، مشخص می‌کند که محتوا بی‌شک در زمره استثنا قرار می‌گیرد.

با همه اینها، Meta در ابتدا محتوا را برداشت، چون سه نظارت‌کننده به‌صورت جداگانه تشخیص داده بودند که محتوا ناقض خط‌مشی نفرت‌پراکنی است. گرچه دلایل احتمالی مختلفی می‌تواند وجود داشته باشد که چگونه چندین نظارت‌کننده در طبقه‌بندی صحیح این محتوا ناموفق عمل کرده‌اند، Meta نتوانست توضیحات مشخصی برای وقوع این خطا ارائه دهد زیرا شرکت نظارت‌کنندگان را ملزم به ثبت دلیل تصمیمات اتخاذشده‌شان نمی‌کند. همان‌طور که در تصمیم درباره «کمربند وامپوم» عنوان شد، نوع خطاها و افراد یا جوامعی که متحمل عواقب آن می‌شوند بازتابی از گزینه‌های طراحی‌شده برای سیستم‌های اقدامات اجرایی در پلتفورم است که خطر خدشه‌دار کردن حقوق آزادی بیان اعضای گروه‌های آزاردیده را به جان می‌خرند. وقتی Meta شاهد الگویی مکرر از افراط در اقدامات اجرایی روی محتواهای مرتبط با گروه‌های آزاردیده یا حاشیه‌ای باشد، ازجمله مورد داخل این پرونده، جا دارد دلایل پشت تصمیمات اجرایی مورد بررسی قرار گیرد و ببینند به چه اصلاحاتی در قوانین نظارت بر محتوا، یا آموزش یا نظارت بیشتر نسبت به قوانین موجود، نیاز است تا از اقدامات اجرایی افراطی مضر برای اعضای گروه‌هایی که حقوق آزادی بیانشان در خطر بالایی است جلوگیری به‌عمل آید.

II.اقدامات اجرایی

Meta در پاسخ به سؤالات هیئت بیان کرد محتوا فقط به این خاطر به پلتفورم بازگردانده شد که یکی از کارمندان Meta آن را برای بررسی در سطح بالاتر پرچم‌گذاری کرد. «ارجاع به مراتب بالا برای بررسی» یعنی به‌جای آنکه تصمیم توسط بررسی گسترده مجدداً ملاحظه شود، که غالباً برون‌سپاری می‌گردد، به یکی از تیم‌های داخلی Meta واگذار می‌شود. این کار ظاهراً مستلزم آن بوده که کارمند Meta متوجه برداشته شدن محتوا شود، سپس فرم اینترنتی داخلی را با مشخص کردن مسئلۀ مربوطه تکمیل و ارسال کند. علاوه بر عنصر شانس و احتمال، سیستم‌های این چنینی فقط خطاهای محتواهایی را می‌توانند شناسایی کنند که پرنل Meta شخصاً با آن مواجه شده باشند. در نتیجه، محتوایی که به انگلیسی نباشد، محتوایی که ازطرف حساب‌هایی با تعداد دنبال‌کننده کم در ایالات متحده منتشر شده باشد، یا محتوایی که برای یا توسط گروه‌هایی که در داخل Meta نماینده کافی ندارند ساخته شده باشد احتمالش به‌مراتب کمتر است که مشاهده شود، پرچم‌گذاری شود و توجه بیشتری به آن معطوف گردد.

هیئت طی رسیدگی خود از نگرانی‌های ذینفعان مطلع شد که بیان کردند اجرای صحیح استثنائات خط‌مشی نفرت‌پراکنی مستلزم سطحی از تخصص در موضوع مربوطه و دانش محلی است که Meta یا از آن محروم بوده یا همیشه نمی‌تواند آن را بکار ببندد. هیئت نگرانی‌هایی مطرح می‌کند مبنی بر اینکه Meta قادر به شکل دادن فهرست‌هایی ظریف و دقیق از تعیین واژگان تهمت‌آمیز و ارائه رهنمودهای مقتضی به نظارت‌کنندگان خود درخصوص چگونگی اعمال استثنائات در خط‌مشی ممنوعیت تهمت‌ها نخواهد بود، مگر آنکه به‌طور مرتب از گروه‌های اقلیتیِ هدف تهمت‌ها در سطحی مشخص از یک کشور بازخورد بگیرد.

۸.۲ تبعیت از ارزش‌های Meta

طبق یافته هیئت، تصمیم اولیه مبنی بر برداشتن این محتوا مغایر با ارزش‌های «حق اظهارنظر» و «شأن» Meta بوده و به ارزش «امنیت» توجهی نداشته است. گرچه جلوگیری از بکار رفتن تهمت‌ها در سوء رفتار با افراد حاضر در پلتفورم‌های Meta همسو با ارزش‌های این شرکت است، هیئت اظهار نگرانی می‌کند که Meta در اجرای استثنائات این خط‌مشی برای بیانات گروه‌های حاشیه‌ای ثابت‌قدم نیست.

در بافتار این پرونده، «حق اظهارنظر» که خواستار ارتقای آزادی بیان برای اعضای گروه‌های حاشیه‌ای است بالاترین اهمیت را دارد. اقدام Meta در محدود کردن استفاده از تهمت‌ها به‌هدف تحقیر و ارعاب افراد هدف درست و به‌جا است؛ اقدام در مجاز دانستن تلاش‌هایی از روی حسن نیت برای خنثی کردن اثر منفی آن واژه‌ها به‌واسطه اصلاح نیز همین‌طور.

هیئت بر این امر واقف است که گردش تهمت‌ها بر ارزش «شأن» اثرگذار است. مواجه با واژگان تهمت‌آمیز، بخصوص زمانی که با قصد توهین یا در نبود سرنخ‌های بافتاری که بر عدم قصد توهین دلالت کند بکار رود، می‌تواند منجر به ترس، دلخوری یا رنجش کاربران شود به‌طوری که آزادی بیان در فضای آنلاین را خفه کند. هرجا سرنخ‌های بافتاری شفافی وجود داشته باشد مبنی بر اینکه تهمت ذکرشده به‌هدف محکوم کردن آن، افزایش آگاهی درمورد آن، یا در ارجاع به خود آن یا به‌نحوی توانمندساز بکار رفته است، ارزش «شأن» قاعده‌ای مبنی بر لزوم برداشته شدن آن واژه از پلتفورم مطرح نمی‌کند. برخلاف آن، افراط در اقدامات اجرایی به‌طوری که استثنائات را نادیده بگیرد اثر منفی بسزایی بر گروه‌های اقلیتی و حاشیه‌ای برجای می‌گذارد. همان‌طور که ازطرف هیئت در تصمیم درباره «میم دو دکمه‌ای» توصیه شد، Meta حتماً باید وجود منابع و پشتیبانی کافی برای نظارت‌کنندگان خود را تضمین نماید تا امکان ارزیابی صحیح بافتار مربوطه فراهم شود. مهم است که نظارت‌کنندگان قادر باشند ارجاعات مجاز به واژه‌های تهمت‌آمیز را از استفادۀ غیرمجاز از آنها تشخیص دهند تا بتوانند از ارزش‌های «حق اظهارنظر» و «شأن» برای کاربران، بالاخص کاربران جوامع حاشیه‌ای، صیانت کنند.

با توجه به اینکه «شأن» و «امنیت» جوامع حاشیه‌ای در پلتفورم‌های رسانه اجتماعی در سطح بالاتری از خطر قرار دارد، آن پلتفورم‌ها مسئولیت سنگین‌تری نیز نسبت به صیانت از آنها دارند. هیئت قبلاً در تصمیم درباره «کمربند وامپوم» توصیه کرده است که Meta باید ارزیابی‌هایی روی دقت نظارت‌کنندگان در اعمال تبصره‌های موارد استثنا در خط‌مشی نفرت‌پراکنی صورت دهند. دقت نظارت‌کنندگان را می‌توان با آموزش دادن ارتقا داد تا آنها بتوانند محتواهای مرتبط با جوامع مورد تبعیض را شناسایی کنند و از دستورالعمل‌هایی برای ارزیابی دقیق مواردی که مشمول استثنائات خط‌مشی نفرت‌پراکنی می‌شود بهره‌مند گردند. ارزیابی محتوا، به‌همراه سرنخ‌های بافتاری راهنما، باید عامل تعیین‌کننده در اعمال این استثنائات باشد.

هیئت در رابطه با «امنیت» نیز به اهمیت خاص فضاهای امن آنلاین و نظارت دقیق برای جوامع حاشیه‌ای و مورد تهدید اشاره می‌کند. عرب‌زبانان +LGBTQIA، بخصوص در منطقه MENA، وقتی با صراحت خود را در فضای آنلاین ابراز کنند، با سطحی از خطر مواجه می‌شوند. Meta حتماً باید بین نیاز به تأمین عرصه‌ای حمایت‌گر برای این نوع ابرازها و اطمینان از عدم افراط در نظارت و محو نکردن افرادی که همین الان هم با سانسور و ظلم مواجه هستند تعادل برقرار کند. هیئت پیچیدگی روند نظارت در این حیطه را، بخصوص در مقیاس کلان، قبول دارد، اما سرمایه‌گذاری روی منابعی که برای انجام صحیح این روند ضروری است برای پلتفورم‌ها حیاتی می‌باشد.

۸.۳ پیروی از مسئولیت‌های Meta نسبت به حقوق بشر

هیئت نتیجه می‌گیرد که تصمیم اولیه Meta مبنی بر برداشتن محتوا با مسئولیت‌های او به‌عنوان یک نهاد تجاری نسبت به حقوق بشر مغایرت داشته است. Meta خود را متعهد دانسته است که طبق اصول سازمان ملل در هدایت کسب‌وکارها و حقوق بشر (UNGPs)، به حقوق بشر احترام بگذارد. خط‌مشی سازمانی حقوق بشری فیس‌بوک عنوان می‌کند که این موضوع شامل پیمان بین‌المللی حقوق مدنی و سیاسی (ICCPR) می‌شود.

۱. آزادی بیان (ماده ۱۹ از ICCPR)

ماده ۱۹ از ICCPR لزوم حفاظت وسیع از حق بیان را مطرح می‌کند، ازجمله بحث و گفتگو درمورد حقوق بشر و بیاناتی که می‌تواند به‌عنوان «عمیقاً توهین‌آمیز» تلقی شود (نظر عمومی شماره ۳۴، پاراگراف ۱۱). حق آزادی بیان برای همه مردم بدون هیچ تبعیضی ازلحاظ «جنسیت» یا «ویژگی‌های دیگر» تضمین شده است (ماده ۲، پاراگراف ۱، ICCPR). بعضی از آن ویژگی‌های دیگر شامل گرایش جنسی و هویت جنسی می‌شود (Toonen v. استرالیا (۱۹۹۲)؛ (A/HRC/19/41، پاراگراف ۷).

این پست به مسائل اجتماعی مهمی در رابطه با تبعیض علیه افراد +LGBTQIA مربوط می‌شود. کمیساریای عالی حقوق بشر سازمان ملل به نگرانی‌هایی درخصوص محدودیت‌های موجود در آزادی بیان اشاره کرده است که ناشی از محدودیت‌های تبعیض‌آمیز در حمایت از حقوق افراد +LGBTQIA می‌شود (A/HRC/19/41، پاراگراف ۶۵).

به‌موجب ماده ۱۹، در مواردی که محدودیت‌ها در آزادی بیان توسط یک کشور اعمال می‌شود، باید با الزامات قانونی و اهداف مشروع همخوانی داشته و از ضرورت و تناسب لازم برخوردار باشد (ماده ۱۹، پاراگراف ۳، ICCPR). گزارشگر ویژه سازمان ملل در موضوع آزادی نظر و بیان با تکیه بر چارچوب UNGPs از شرکت‌های رسانه اجتماعی خواسته است از همسو بودن قوانین محتواهایشان با الزامات ماده ۱۹، پاراگراف ۳ از ICCPR اطمینان یابند (A/HRC/38/35، پاراگراف‌های ۴۵ و ۷۰).

I. مطابقت با قانون (شفافیت و قابل دسترس بودن قوانین)

شرط مطابقت با قانون بیان می‌کند که هرگونه محدودیت در آزادی بیان باید به‌اندازه‌ای قابل دسترس و واضح باشد که افراد را درخصوص موارد مجاز و غیرمجاز راهنمایی کند.

هیئت در پرونده «علائم سرطان سینه و برهنگی» ‎(2020-004-IG-UA، توصیه شماره ۹)، پرونده «حبس اوجالان» ‎(2021-006-IG-UA، توصیه شماره ۱۰) و نظر مشورتی درخصوص خط‌مشی پیرامون اشتراک‌گذاری اطلاعات محل سکونت شخصی (توصیه شماره ۹) توصیه کرده بود که Meta باید برای کاربران Instagram شفاف‌سازی کند که استانداردهای انجمن فیس‌بوک به‌همان شکلی که برای فیس‌بوک اعمال می‌شود، برای Instagram هم درکنار چند استثنا قابل اعمال است. هیئت در «نظر مشورتی درخصوص خط‌مشی» توصیه کرد که Meta این اقدام را ظرف ۹۰ روز به‌انجام برساند. هیئت به پاسخ Meta درمقابل این نظر مشورتی درخصوص خط‌مشی اشاره می‌کند که گفته بود گرچه این توصیه را به‌صورت تمام و کمال اجرا خواهد کرد، همچنان مشغول ایجاد نسخه جامع‌تری از دستورالعمل‌های انجمن Instagram است تا رابطه آن را با استانداردهای انجمن فیس‌بوک شفاف‌سازی کند، و برای همین نمی‌تواند به مهلت ۹۰ روزه متعهد باشد. هیئت، با توجه به تکرار این توصیه در موقعیت‌های مختلف، معتقد است Meta فرصت کافی برای آماده شدن جهت این تغییرات را داشته است. رابطه نامشخص بین دستورالعمل‌های انجمن Instagram و استانداردهای انجمن فیس‌بوک یک منبع سردرگمی مداوم برای کاربران پلتفورم‌های Meta است. درحال حاضر، گرچه دستورالعمل‌های انجمن Instagram حاوی پیوندی برای ورود به استاندارد انجمن فیس‌بوک درخصوص نفرت‌پراکنی است، برای کاربر واضح نیست که کل استاندارد انجمن فیس‌بوک درخصوص نفرت‌پراکنی، ازجمله ممنوعیت در استفاده از تهمت‌ها و موارد استثنا، برای Instagram اعمال می‌شود. ارائه به‌روزرسانی‌های به‌موقع و جامعه برای دستورالعمل‌های انجمن Instagram همواره از اولویت‌های اول هیئت بوده است.

در ارتباط با توسعه فهرست تهمت‌ها، هیئت به نکته‌ای که در پرونده «تهمت‌های آفریقای جنوبی» (‎2021-011-FB-UA) مطرح شد مجدداً اشاره می‌کند: اینکه Meta باید در رویه‌ها و معیارهای تدوین این فهرست شفاف‌تر عمل کند. در این پرونده، Meta توضیح داد که فهرست‌های تهمت‌ها را برای هریک از بازارهای موجود و براساس «تحلیل و بررسی شرکای داخلی ذیربط، ازجمله روندها، بازارها، و تیم‌های تدوین خط‌مشی محتوا» تعریف می‌کند. Meta همچنین بیان کرد که کارشناسان بازارش حسابرسی فهرست تهمت‌ها را به‌صورت سالانه انجام می‌دهند، به‌طوری که هر واژه از لحاظ کمّی و کیفی ارزیابی می‌شود، و «واژه‌هایی که ذاتاً توهین‌آمیز هستند، حتی اگر تنها نوشته شوند، و واژه‌هایی که ذاتاً توهین‌آمیز نیستند» تفاوت گذاشته می‌شود. برای هیئت واضح نیست که این بازبینی سالانه چه زمانی رخ می‌دهد، اما بعد از اینکه هیئت این پرونده را انتخاب کرد، Meta اقدام به حسابرسی کاربرد واژۀ «z***l» نمود. در پی این حسابرسی، واژۀ مذکور از فهرست تهمت‌های «عربی» برداشته شد اما در فهرست تهمت‌های «بازار مراکش» باقی ماند. هیئت نمی‌داند که آیا این حسابرسی بخشی از رویه‌های معمول بوده است یا نوعی بازبینی موردی در واکنش به انتخاب شدن این پرونده توسط هیئت. از نگاه کلی‌تر، برای هیئت مشخص نیست که ارزیابی‌های کمّی و کیفی در بازبینی‌های سالانه مستلزم چه چیزهایی است.

اطلاعاتی درمورد روندها و معیارهای تدوین فهرست تهمت‌ها و مشخص کردن بازارها، بالاخص در رابطه با چگونگی تمییز بازارهای زبانی از بازارهای جغرافیایی، در دسترس کاربران قرار ندارد. بدون این اطلاعات، کاربران اگر بخواهند صرفاً برپایه تعریف تهمت‌ها در خط‌مشی مربوط به نفرت‌پراکنی که بر مفاهیم ذهنی مثل «ذاتاً توهین‌آمیز بودن» و ماهیت توهین‌آمیز تکیه دارد عمل کنند، ممکن است در ارزیابی واژه‌هایی که می‌تواند تهمت به‌حساب آید با مشکل مواجه شوند (A/74/486،پاراگراف ۴۶؛ همچنین مراجعه شود به A/HRC/38/35، پاراگراف ۲۶).

در ارتباط با اینکه فهرست تهمت‌ها چگونه اجرایی شد، Meta در پرونده «تهمت‌های آفریقای جنوبی» (‎2021-011-FB-UA) بیان کرد که «ممنوعیت در استفاده از تهمت‌ها جهانی است، اما تعیین تهمت‌ها براساس هر بازار جداگانه صورت می‌گیرد.» این شرکت توضیح داد که «اگر واژه‌ای در فهرست واژگان تهمت‌آمیز بازار قرار گیرد، خط‌مشی مربوط به نفرت‌پراکنی استفاده آن در بازار مربوطه را ممنوع می‌داند.» توضیح Meta گیج‌کننده است از این بابت که مشخص نیست آیا اقدامات اجرایی، که می‌تواند در سطح جهانی باشد، بدین معناست که تهمت‌های مختص هر بازار نیز در سطح جهانی ممنوع است یا نه. Meta توضیح داد که تعریفش از بازار عبارت است از «ترکیب کشور(ها) و زبان(ها)/گویش(ها)» و اینکه «تقسیمات بین... بازار(ها) اساساً برپایه ترکیبی از زبان/گویش و کشور محتوای موردنظر است.» بازبینان محتوایی Meta «براساس مهارت‌های زبانی و دانش‌شان از فرهنگ و بازار مربوطه به آن بازار تخصیص داده می‌شوند.» به‌گفته Meta، این محتوا با بازارهای عرب و مراکش در فهرست تهمت‌ها سروکار داشته است. ربط دادن محتوا به این بازارها «برپایه ترکیبی از سیگنال‌های مختلف، همچون مکان، زبان، و گویش شناسایی‌شده در محتوا، نوع محتوا نوع گزارش» صورت گرفته است. برای هیئت به‌اندازه کافی شفاف نیست که این سیگنال‌های متعدد چطور در کنار هم مشخص می‌کنند که یک محتوا به کدام بازارها تعلق دارد، و اینکه اگر فرضاً یک محتوا حاوی واژه‌ای باشد که در یک بازار مشخص جزء تهمت‌ها است، فقط درصورتی برداشته می‌شود که محتوا مرتبط با آن بازار باشد، یا اینکه در سطح جهانی برداشته می‌شود. خود استاندارد انجمن هم توضیحی درباره این روند ارائه نمی‌دهد.

Meta باید توضیح جامعی از نحوه اجرا شدن قوانین تهمت‌ها در پلتفورم منتشر کند. خط‌مشی جاری حیطه‌های مبهم متعددی دارد، ازجمله اینکه آیا تهمت‌های مشخص‌شده برای مناطق جغرافیایی خاص فقط درصورتی از پلتفورم برداشته می‌شود که در آن مناطق جغرافیایی منتشر شود، یا اینکه وقتی در آن مناطق جغرافیایی دیده شود، یا فارغ از اینکه کجا منتشر یا دیده شده است. Meta همچنین باید توضیح دهد که با واژه‌هایی که در بعضی موقعیت‌ها تهمت محسوب می‌شود اما در جاهای دیگر معنای کاملاً متفاوتی دارد، یعنی طوری که هیچ‌یک از خط‌مشی‌های Meta را نقض نمی‌کند، چگونه برخورد خواهد کرد.

ساختار استاندارد انجمن درخصوص نفرت‌پراکنی نیز ممکن است موجب سردرگمی شود. گرچه ممنوعیت استفاده از تهمت‌ها ذیل سرفصل گروه سه نفرت‌پراکنی آمده است، برای هیئت مبهم است که آیا این ممنوعیت واقعاً به گروه سه تعلق دارد، زیرا تهمت‌ها لزوماً افراد را با طرد کردن یا منزوی کردن، که نقطه تمرکز مابقی موارد این گروه است، هدف قرار نمی‌دهد.

II.هدف مشروع

هرگونه محدودیت در حیطه آزادی بیان باید یکی از اهداف مشروع مندرج در ICCPR را دنبال کند، که شامل «حقوق دیگران» می‌شود. خط‌مشی مورد بحث در این پرونده هدف مشروعی را دنبال کرده است، یعنی حفاظت از حقوق دیگران (نظر عمومی شماره ۳۴، پاراگراف ۲۸) نسبت به برابری، حفاظت دربرابر خشونت، و تبعیض برمبنای گرایش جنسی و هویت جنسی (ماده ۲، پاراگراف ۱، ماده ۲۶ از ICCPR؛ کمیته حقوق بشر سازمان ملل، Toonen v. استرالیا (۱۹۹۲)؛ قطعنامه ۳۲/۲ شورای حقوق بشر سازمان ملل در موضوع جلوگیری از خشونت و تبعیض بر مبنای گرایش جنسی و هویت جنسی).

III. ضرورت و تناسب

اصل ضرورت و تناسب ایجاب می‌کند که هرگونه محدودیت در آزادی بیان «باید برای دستیابی به عملکرد محافظتی موردنظر متناسب باشد؛ این کار باید از طریق ابزاری انجام شود که می‌تواند با حداقل دخالت ممکن، عملکردهای محافظتی موردنظر را داشته باشد؛ [و] این محدودیت‌ها باید با منافعی که از آنها حفاظت می‌شود، تناسب داشته باشند» (نظر عمومی شماره ۳۴، پاراگراف ۳۴).

برداشتن محتوای این پرونده ضرورتی نداشته زیرا اقدام به برداشتن محتوا خطایی آشکار بوده که با استثنای مشخص‌شده در خط‌مشی‌های مربوط به نفرت‌پراکنی Meta مغایرت داشته است. همچنین، برداشتن محتوا روشی برای دستیابی به هدف مشروع نبوده است که کمترین مداخله را داشته باشد زیرا، با هر بازبینی که منجر به برداشتن شد، کل گردونه حاوی ۱۰ عکس به‌خاطر ادعای نقض خط‌مشی در تنها یکی از عکس‌ها از پلتفورم برداشته شد. حتی اگر گردونه حاوی یک عکس با تهمت‌های غیرمجاز بود که مشمول استثنا قرار نمی‌گرفت، برداشتن کل گردونه نمی‌توانست واکنشی مناسب باشد.

Meta برای هیئت توضیح داد که «این پست وقتی ناقض خط‌مشی تلقی می‌شود که یکی از عکس‌ها دارای نقض استانداردهای انجمن باشد» و «برخلاف فیس‌بوک، برای Meta ممکن نیست که یک عکس تنها را از پست‌های چندعکسی Instagram بردارد. Meta عنوان کرد که یک به‌روزرسانی‌ در ابزار بررسی محتوا پیشنهاد شده بود به این هدف که بازبینان بتوانند فقط آن عکس ناقض قوانین را از گردونه بردارند، اما آن به‌روزرسانی‌ در اولویت قرار نگرفت. هیئت این توضیح را شفاف نمی‌بیند، و معتقد است عدم اولویت دادن به آن به‌روزرسانی‌ می‌تواند منجر به افراط در اقدامات اجرایی سیستمی شود که طی آن کل گردونه‌ها از پلتفورم برداشته می‌شوند، حتی اگر بخشی از آنها ناقض قوانین دانسته شده باشند. هیئت همچنین عنوان می‌کند، در مواردی که کاربر یک سری عکس یکسان را در فیس‌بوک و Instagram منتشر کند، برخورد متفاوت با این نوع محتوا در دو پلتفورم مذکور منجر به نتایج ناهماهنگی می‌شود که طبق هیچ تفاوت منطقی در خط‌مشی‌ها قابل توجیه نیست: اگر یکی از عکس‌ها ناقض قوانین باشد، منجر به برداشته شدن کل گردونه در Instagram می‌شود، اما در فیس‌بوک این‌طور نیست.

۲.عدم تبعیض

با توجه به اهمیت اصلاح واژگان توهین‌آمیز برای افراد +LGBTQIA در مقابله با تبعیض، هیئت از Meta انتظار دارد نسبت به احتمال برداشته شدن اشتباه محتوا در این پرونده و محتواهای مشابه در فیس‌بوک و Instagram حساسیت خاصی به‌خرج دهد. همان‌طور که هیئت در تصمیم درباره «کمربند وامپوم» (‎2021-012-FB-UA) راجع به اظهارات هنری افراد بومی عنوان کرد، ارزیابی عملکرد اقدامات اجرایی Meta نسبت به خط‌مشی نفرت‌پراکنی فیس‌بوک در قالب کلی کافی نیست – بلکه اثرات آن روی برخی گروه‌های حاشیه‌ای باید مدنظر قرار گیرد. طبق مفاد UNGPs، «شرکت‌های تجاری باید به اثرات خاصی توجه کنند که ازلحاظ حقوق بشر روی افراد گروه‌ها یا قشرهایی که در معرض خطر بالاتری از آسیب‌پذیری یا حاشیه‌ای شدن قرار دارند برجای می‌ماند» (UNGPs، اصل ۱۸ و ۲۰). برای افراد +LGBTQIA در کشورهایی که ابراز شدن این‌گونه افراد مجازات دارد، رسانه اجتماعی غالباً تنها روشی است که به‌واسطه آن همچنان می‌توانند آزادانه خودشان را ابراز کنند. این موضوع به‌ویژه درمورد Instagram صدق می‌کند، که در آنجا عدم استفاده از نام حقیقی افراد طبق دستورالعمل‌های انجمن Instagram مجاز دانسته شده است. هیئت اشاره می‌کند که آزادی‌های یکسانی برای کاربران فیس‌بوک در استانداردهای انجمن فیس‌بوک فراهم نشده است. برای Meta حائز اهمیت است که ثابت کند اقدام به راستی‌آزمایی‌های حقوق بشری کرده است تا از عملکرد عادلانه سیستم‌هایش و عدم دامن زدن آنها به تبعیض اطمینان یابد (UNGPs، اصل ۱۷). Meta عنوان می‌کند که این شرکت دقت سیستم‌های اقدامات اجرایی خود را در برخورد با سخنان نفرت‌پراکنی به‌طور مستمر ارزیابی می‌کند (تصمیم درباره «کمربند وامپوم»). بااین‌حال، ارزیابی‌های مذکور به ارزیابی‌هایی روی دقت و صحت برای سنجش تخصصی توانایی Meta در متمایز کردن سخنان نفرت‌پراکنی غیرمجاز از محتواهای مُجازی که برای اصلاح واژگان تهمت‌آمیز تلاش می‌کند شکسته نشده است.

خطاهای رخ‌داده در این پرونده حاکی از آن است که رهنمودهای Meta برای نظارت‌کنندگانی که به ارزیابی ارجاعات به واژگان توهین‌آمیز می‌پردازند احتمالاً ناکافی می‌باشد. هیئت ابراز نگرانی می‌کند که بازبینان شاید از منابع کافی از لحاظ ظرفیت یا آموزش لازم برای پیشگیری از وقوع اشتباهی که در این پرونده مشاهده شد برخوردار نباشند، بخصوص در ارتباط با محتواهایی که طبق استثنائات خط‌مشی، مجاز شمرده شده است. در این پرونده، Meta به هیئت اطلاع داد که «پرسش‌های معلوم» و «استانداردهای داخلی اجرای قوانین» فقط به زبان انگلیسی موجود است تا «از استاندارد شدن اقدامات اجرایی جهانی» روی خط‌مشی‌هایش اطمینان یابد، و اینکه «کلیه نظارت‌کنندگان بر محتوا به زبان انگلیسی مسلط هستند.» هیئت در تصمیم درباره «ربات میانمار» (‎2021-007-FB-UA) توصیه کرد Meta باید اطمینان یابد که «استانداردهای اجرایی داخلی» به زبانی که نظارت‌کنندگان بر محتوا اقدام به بازبینی محتوا می‌کنند ترجمه شده باشد. Meta هیچ اقدام دیگری در رابطه با این توصیه انجام نداد، و پاسخ مشابهی ارائه کرد مبنی بر اینکه نظارت‌کنندگان بر محتوا به زبان انگلیسی مسلط هستند. هئیت خاطرنشان می‌کند که ارائه رهنمودهای انگلیسی به بازبینان درخصوص نحوه نظارت بر محتواهای منتشرشده به زبان غیرانگلیسی، ذاتاً چالش‌برانگیز است. «استانداردهای داخلی اجرای قوانین» و «پرسش‌های معلوم» غالباً بر پایه ساختارهای زبان انگلیسی آمریکایی است که ممکن است به سایر زبان‌ها، اعم از عربی، اعمال نشود.

در تصمیم درباره «کمربند وامپوم» (‎2021-012-FB-UA، توصیه شماره ۳)، هیئت توصیه کرد که Meta ارزیابی‌هایی ازلحاظ دقت و صحت با تمرکز بر استثنائات خط‌مشی نفرت‌پراکنی انجام دهد که اظهارات مربوط به موارد نقض حقوق بشر را دربر گیرد (برای مثال، محکوم‌سازی، افزایش آگاهی، استفاده در ارجاع به خود مطلب، استفاده به‌شکلی توانمندساز)، و اینکه Meta باید نتایج ارزیابی را به‌اشتراک بگذارد، ازجمله چگونگی کمک کردن این نتایج به اقدامات اجرایی و تدوین خط‌مشی‌ها. هیئت توصیه مذکور را برمبنای این برداشت منتشر کرد که بهای افراط در برداشتن اظهارات مربوط به موارد نقض حقوق بشر بسیار گزاف است. هیئت به نگرانی‌های Meta در رابطه با توصیه‌ای که برای ارزیابی امکان‌پذیری مطرح شد اشاره می‌کند، ازجمله (الف) نبود مقوله‌های مشخص در خط‌مشی‌های خود پیرامون موارد استثنا در حیطه‌هایی مثل نقض حقوق بشر، و (ب) نبود نمونه محتوایی با قابلیت تشخیص آسان که مشمول استثنائات نفرت‌پراکنی قرار گیرد. به اعتقاد هیئت، غلبه بر این چالش‌ها شدنی است، زیرا Meta می‌تواند تحلیلش را بر استثنائات موجود در حیطه نفرت‌پراکنی متمرکز کند و به شناسایی نمونه محتواها اولویت دهد. هیئت Meta را تشویق می‌کند که خود را متعهد به اجرای توصیه مربوط به پرونده «کمربند وامپوم» (‎2021-012-FB-UA) بداند و ضمناً از دریافت به‌روزرسانی‌‌هایی از Meta در گزارش سه‌ماهه بعدی آن استقبال می‌کند.

۹. تصمیم هیئت نظارت

هئیت نظارت تصمیم اولیه Meta مبنی بر برداشتن محتوا را رد کرد.

۱۰. بیانیه مشورتی درباره خط‌مشی

اقدامات اجرایی

۱. Meta باید «استانداردهای داخلی اجرای قوانین» و «پرسش‌های معلوم» را به زبان عربی استاندارد مدرن ترجمه کند. انجام این کار می‌تواند به کاهش افراط در اقدامات اجرایی در مناطق عرب‌زبان کمک کند، چون بدین ترتیب نظارت‌کنندگان بهتر می‌توانند نسبت به مواقعی که لازم است استثنایی برای محتواهای تهمت‌آمیز اعمال شود تصمیم‌گیری نمایند. هیئت عنوان می‌کند که Meta هیچ اقدام دیگری در واکنش به توصیه مندرج در تصمیم درباره پرونده «ربات میانمار» (2021-007-FB-UA) صورت نداده است؛ در آن پرونده، توصیه شد که Meta باید اطمینان یابد «استانداردهای داخلی اجرای قوانین» به زبانی که نظارت‌کنندگان بر محتوا اقدام به بازبینی محتوا می‌کنند ترجمه شده باشد. هیئت زمانی این توصیه را اجرایی تلقی خواهد کرد که Meta به هیئت اطلاع دهد که ترجمه به زبان عربی استاندارد مدرن انجام گرفته است.

شفافیت

۲. Meta باید توضیح شفافی درمورد چگونگی ایجاد فهرست تهمت‌های خاص هر بازار منتشر کند. در این توضیح باید روندها و معیارهای مشخص کردن تهمت‌ها و کشورها در وارد کردن به فهرست‌های خاص هر بازار آورده شود. هیئت زمانی این توصیه را اجرایی خواهد دانست که اطلاعات مربوطه در مرکز شفافیت منتشر گردد.

۳. Meta باید توضیح شفافی درمورد چگونگی اعمال فهرست تهمت‌های خاص هر بازار منتشر کند. این توضیح باید شامل روندها و معیارهای تعیین دقیق زمان و مکان اجرای قوانین حاکم بر ممنوعیت محتواهای تهمت‌آمیز شود، چه مربوط به پست‌هایی که مبدأ آن ازلحاظ جغرافیایی همان منطقه مورد بحث باشد، یا از خارج آن اما در ارتباط با منطقه مورد بحث، و/یا در ارتباط با کلیه کاربران واقع در منطقه مورد بحث، فارغ از اینکه مبدأ آن پست کدام منطقه جغرافیایی است. هیئت زمانی این توصیه را اجرایی خواهد دانست که اطلاعات مربوطه در مرکز شفافیت Meta منتشر گردد.

۴. Meta باید توضیح شفافی درمورد چگونگی حسابرسی به فهرست تهمت‌های خاص هر بازار منتشر کند. این توضیح باید شامل روندها و معیارهایی برای برداشتن تهمت‌ها از فهرست هریک از بازارهای Meta یا حفظ آنها در آن فهرست‌ها شود. هیئت زمانی این توصیه را اجرایی خواهد دانست که اطلاعات مربوطه در مرکز شفافیت Meta منتشر گردد.

*نکته‌ای درباره روند تصمیم‌گیری:

تصمیمات هیئت نظارت توسط هیئت داوران متشکل از پنج عضو تهیه می‌شود و به تأیید اکثریت اعضای هیئت می‌رسد. تصمیمات هیئت لزوماً منعکس‌کننده نظرات شخصی تمام اعضا نیست.

برای تصمیم درباره این پرونده، تحقیق مستقلی از طرف هیئت درخواست شد. یک مؤسسه تحقیقاتی مستقل که مرکز آن در دانشگاه گوتنبرگ واقع شده است و با تیمی متشکل از بیش از ۵۰ متخصص مسائل اجتماعی از شش قاره و همچنین بیش از ۳۲۰۰ متخصص کشوری از سراسر جهان شکل گرفته است. هیئت از Duco Advisers نیز کمک گرفت که یک شرکت خدمات مشاوره‌ای با تمرکز بر تلاقی ژئوپلتیک، اعتماد و امنیت، و فناوری است. شرکت Lionbridge Technologies LLC که متخصصان آن به بیش از ۳۵۰ زبان تسلط دارند و در ۵۰۰۰ شهر در سراسر جهان مشغول فعالیت هستند، تخصص خود در زمینه زبان‌شناسی را در اختیار ما قرار دادند.