کمربند وامپوم

خلاصه پرونده

توجه: در تاریخ ۲۸ اکتبر ۲۰۲۱، فیس‌بوک اعلام کرد که اسم شرکتش را به Meta تغییر داده است. در متن جاری، Meta به شرکت مذکور اشاره دارد و واژه فیس‌بوک همچنان به محصول و خط‌مشی‌های مرتبط با آن برنامه اشاره می‌کند.

هیئت نظارت تصمیم اصلی Meta مبنی بر برداشتن پستی از یک هنرمند بومی آمریکای شمالی در فیس‌بوک را که طبق استاندارد انجمن فیس‌بوک درخصوص نفرت‌پراکنی برداشته شده بود، رد کرده است. هیئت دریافت که محتوا جزء موارد مجاز خط‌مشی نفرت‌پراکنی قرار می‌گیرد زیرا قصد آن افزایش آگاهی درمورد جرایم تاریخ علیه افراد بومی واقع در آمریکای شمالی بوده است.

درباره این پرونده

در اوت ۲۰۲۱، یکی از کاربران فیس‌بوک عکسی از یک کمربند وامپوم را به همراه توضیحات نوشتاری به زبان انگلیسی پست کرد. کمربند وامپوم نوعی هنر بومی آمریکای شمالی است که در آن با گره زدن مهره‌ها به همدیگر، تصاویری شکل می‌دهند تا داستان‌ها و قراردادها را در تاریخ ثبت کنند. روی کمربند مجموعه‌ای از تصاویر نقش بسته است که به گفته کاربر از «داستان کاملوپس» الهام گرفته شده است که به کشف گورهای بدون نشان در مدرسه شبانه‌روزی سابق بومیان بریتیش کلمبیای کانادا در ماه مه ۲۰۲۱ اشاره دارد.

متن عنوان روبرو را برای این اثر هنری ارائه می‌دهد: «هندوها را بکُشید/ بشریت را نجات دهید،» و کاربر را به‌عنوان سازنده آن معرفی می‌کند. کاربر به توصیف مجموعه تصاویر روی کمربند می‌پردازد: «دزد انسان معصوم، شروری که خود را ناجی جا می‌زند، مدرسه مسکونی / اردوگاه کار اجباری، در انتظار اکتشاف، آوردن فرزندانمان به خانه.» در این پست، کاربر به توصیف معنای اثر هنری خود و همچنین تاریخچه کمربندهای وامپوم و کاربرد آنها به‌عنوان روشی در آموزش می‌پردازد. کاربر بیان می‌کند که ساخت این کمربند کار آسانی نبوده و گفتن داستان وقایع کاملوپس بار عاطفی سنگینی برای او داشته است. او از هرگونه رنجی که این اثر هنری به بازماندگان کاملوپس وارد می‌کند عذرخواهی کرده و می‌گوید: «هدف صرفاً این است که نسبت به این واقعه وحشتناک آگاهی ایجاد شود.»

سیستم‌های ماشینی Meta این محتوا را یک‌روز بعد از انتشارش، به‌عنوان محتوایی با احتمال نقض کردن استاندارد انجمن فیس‌بوک درخصوص نفرت‌پراکنی شناسایی کرد. یکی از بازبینان محتوا را ناقض استاندارد دانست و همان روز آن را برداشت. کاربر روی تصمیم مذکور نزد Meta درخواست تجدیدنظر مطرح کرد، که منجر به بررسی مجدد توسط یک بازبین دیگر شد، و او نیز محتوا را ناقض استاندارد دانست. این محتوا در زمان حذف بیش از ۴۰۰۰ بار بازدید شده بود و بیش از ۵۰ بار به اشتراک گذاشته شده بود. هیچ کاربری این محتوا را گزارش نکرد.

در نتیجۀ انتخاب این پرونده توسط هیئت، Meta تشخیص داد که برداشتن این پست «یک اقدام اجرایی اشتباه» بوده است و محتوا را در تاریخ ۲۷ آگوست برگرداند. با این حال، Meta موضوع بازگردانی محتوا را تا ۳۰ سپتامبر، یعنی دو روز بعد از اینکه هیئت محتواهای پیام‌های ارسالی به کاربر را از Meta درخواست کرد، به کاربر اطلاع نداده بود. Meta توضیح داد که تأخیر در پیام‌رسانی در پی خطای انسانی رخ داده است.

یافته‌های کلیدی

Meta موافق است که تصمیم اصلی او مبنی بر برداشتن این محتوا برخلاف استانداردهای انجمن فیس‌بوک و نوعی «خطا در اقدامات اجرایی» بوده است. یافته هیئت این است که محتوای مذکور یک نمونه بارز از «پاسخ متقابل» می‌باشد که در آن برای ایستادگی دربرابر ظلم و تبعیض، اشاراتی به سخنان نفرت‌پراکنی صورت گرفته است.

در مقدمۀ خط‌مشی فیس‌بوک درخصوص نفرت‌پراکنی، بیان شده است که پاک کردن موقعی که قصد کاربر به‌وضوح مشخص شده باشد مجاز است. از محتوای این پست آشکار است که جزء سخنان نفرت‌پراکنی نمی‌باشد. این اثر هنری داستان وقایع کاملوپس را بیان می‌کند، و روایت همراه آن به شرح اهمیت این وقایع می‌پردازد. با اینکه کلمات «هندوها را بکُشید» به‌تنهایی می‌تواند سخنان نفرت‌پراکنی باشد، در بافتار موجود این عبارت توجه افراد را به اقداماتی برپایه نفرت و تبعیض جلب می‌کند و آن را محکوم می‌نماید.

هیئت تصمیم خود در پرونده ‎2020-005-FB-UA را که مربوط به نقل قولی از یکی از مقامات رسمی نازی‌ها بود یادآور می‌شود. آن پرونده درس‌های مشابهی درمورد امکان ارزیابی قصد مدنظر ازطریق شاخص‌هایی غیر از عبارات مستقیم به ما می‌دهد، مثل محتوا و معنای یک نقل قول، عناصر زمانی و کشور محل پست، و ماهیت واکنش‌ها و نظرات گذاشته‌شده روی پست.

در این مورد، هیئت دریافت که لزومی نداشته است کاربر صریحاً بیان کند که هدفش افزایش آگاهی بوده است تا پست به‌عنوان پاسخ متقابل شناخته شود. هیئت به مطلب درون‎‌سازمانی تحت عنوان «سؤالات آشنا» برای نظارت‌کنندگان اشاره کرد مبنی بر اینکه بیان واضح قصد و نیت همیشه برای تغییر دادن معنای پستی که حاوی سخنان نفرت‌پراکنی است کافی نخواهد بود. از نظارت‌کنندگان انتظار می‌رود در ارزیابی نیت کاربر، استنتاج‌هایی از محتوا داشته باشند و صرفاً به وجود عبارات صریح تکیه نکنند.

دو نظارت‌کننده جداگانه نتیجه گرفته بود که این پست حاوی سخنان نفرت‌پراکنی است. Meta نتوانست دلایل مشخصی ارائه دهد که چرا این خطا دوبار رخ داده است.

تصمیم هیئت نظارت

هئیت نظارت تصمیم اولیه Meta مبنی بر برداشتن محتوا را رد کرد.

هئیت در یک بیانیه مشورتی برای خط‌مشی توصیه می‌کند که Meta:

• اطلاعیه به‌موقع و دقیقی از اقدامات شرکت که روی محتوای مربوط به درخواست تجدیدنظر کاربر انجام می‌گیرد به او ارائه دهد. در موارد ذیربط، ازجمله خطا در اقدامات اجرایی مثل پرونده جاری، در اطلاعیه ارسالی به کاربر باید اذعان شود که اقدام انجام‌گرفته نتیجۀ روند بررسی هیئت نظارت بوده است.
• وقتی به نظارت‌کنندگان محتوا اطلاع داده می‌شود که در حال انجام بررسی ثانویه هستند، میزان دقت بازبین مورد بررسی و مطالعه قرار گیرد، تا بدانند که تصمیم اولیه اعتراض شده است.
• یک ارزیابی روی دقت کار بازبینان انجام دهد و بر آن دسته از موارد مجاز در خط‌مشی نفرت‌پراکنی که شامل عبارات هنری و عباراتی درمورد نقض حقوق بشر می‌شود (مثل محکوم‌سازی، افزایش آگاهی، استفاده در ارجاع به خود، کاربرد در توانمندسازی). در این ارزیابی، باید نحوه اثرگذاری موقعیت مکانی بازبین روی توانایی نظارت‌کنندگان در ارزیابی دقیق و صحیح سخنان نفرت‌پراکنی و پاسخ متقابل با منشاء جغرافیایی یکسان یا متفاوت نیز به‌طور خاص بررسی شود. Meta باید نتایج این ارزیابی را در اختیار هیئت بگذارد، ازجمله اینکه نتایج چگونه باعث ایجاد بهبودهای آگاهانه در عملیات اجرایی و تدوین خط‌مشی می‌شود، و اینکه آیا قصد دارد ارزیابی‌های مستمری روی میزان دقت بازبین در رابطه با این موارد مجاز صورت دهد. هیئت همچنین Meta را به اشتراک‌گذاری خلاصه نتایج این ارزیابی‌ها در گزارش‌های فصلی شفافیت برای هیئت فرا می‌خواند به این هدف که پیروی از توصیه جاری را ثابت کند.

*خلاصه‌های پرونده یک مرور کلی درباره پرونده ارائه می‌کنند و هیچ ارزش رسمی ندارند.

تصمیم کامل درباره پرونده

۱. خلاصه تصمیم

هیئت نظارت تصمیم اولیه Meta مبنی بر برداشتن پست هنرمند بومی آمریکای شمالی را که حاوی عکسی از هنر او بود و در عنوانش نقل قولی از سخنان نفرت‌پراکنی در تاریخ آورده شده بود رد می‌کند. Meta پذیرفت که این پست در زمره موارد مجاز استاندارد انجمن فیس‌بوک درخصوص نفرت‌پراکنی قرار می‌گیرد چون قصد محتوا به‌وضوح افزایش آگاهی درمورد جنایات تاریخی علیه افراد بومی آمریکای شمالی بوده است.

۲. شرح تصمیم

در اوایل اوت ۲۰۲۱، یکی از کاربران فیس‌بوک عکسی از یک کمربند وامپوم را به همراه توضیحات نوشتاری به زبان انگلیسی پست کرد. کمربند وامپوم نوعی هنر بومی آمریکای شمالی است که در آن با گره زدن مهره‌ها به همدیگر، تصاویری شکل می‌دهند تا داستان‌ها و قراردادها را در تاریخ ثبت کنند. روی کمربند مجموعه‌ای از تصاویر نقش بسته است که به گفته کاربر از «داستان کاملوپس» الهام گرفته شده است که به کشف گورهای بدون نشان در مدرسه شبانه‌روزی سابق بومیان بریتیش کلمبیای کانادا در ماه مه ۲۰۲۱ اشاره دارد.

متن عنوان روبرو را برای این اثر هنری ارائه می‌دهد: «هندوها را بکُشید/ بشریت را نجات دهید،» و کاربر را به‌عنوان سازنده آن معرفی می‌کند. این کاربر سپس فهرستی از عباراتی را که با مجموعه تصاویر روی کمربند ارتباط دارد ارائه می‌دهد. «دزد انسان معصوم، شروری که خود را ناجی جا می‌زند، مدرسه مسکونی / اردوگاه کار اجباری، در انتظار اکتشاف، آوردن فرزندانمان به خانه.» در این پست، کاربر به توصیف معنای اثر هنری خود و همچنین تاریخچه کمربندهای وامپوم و کاربرد آنها به‌عنوان روشی در آموزش می‌پردازد. کاربر بیان می‌کند که ساخت این کمربند کار آسانی نبوده و گفتن داستان وقایع کاملوپس بار عاطفی بسیار سنگینی برای او داشته است. او در ادامه بیان می‌کند که این قضیه را نمی‌توان دوباره از عموم پنهان کرد و امید دارد آن کمربند به جلوگیری از وقوع چنین چیزی کمک خواهد کرد. کاربر پست خود را با عذرخواهی از هرگونه رنجی که این اثر هنری ممکن است برای بازماندگان نظام مدارس مسکونی ایجاد کند خاتمه می‌دهد و می‌گوید: «هدف صرفاً این است که نسبت به این واقعه وحشتناک آگاهی ایجاد شود.»

سیستم‌های ماشینی Meta این محتوا را یک‌روز بعد از انتشارش، به‌عنوان محتوایی با احتمال نقض کردن استاندارد انجمن فیس‌بوک درخصوص نفرت‌پراکنی شناسایی کرد. یکی از بازبینان محتوا را ناقض استاندارد دانست و همان روز آن را برداشت. کاربر روی تصمیم مذکور نزد Meta درخواست تجدیدنظر مطرح کرد، که منجر به بررسی مجدد توسط یک بازبین دیگر شد، و او نیز محتوا را ناقض استاندارد دانست. این محتوا در زمان حذف بیش از ۴۰۰۰ بار بازدید شده بود و بیش از ۵۰ بار به اشتراک گذاشته شده بود. هیچ کاربری این محتوا را گزارش نکرد. در نتیجۀ انتخاب این پرونده توسط هیئت، Meta تشخیص داد که برداشتن این پست «یک اقدام اجرایی اشتباه» بوده است و محتوا را در تاریخ ۲۷ آگوست برگرداند. با این حال، Meta موضوع بازگردانی محتوا را تا ۳۰ سپتامبر، یعنی دو روز بعد از اینکه هیئت محتواهای پیام‌های ارسالی به کاربر را از Meta درخواست کرد، به کاربر اطلاع نداده بود. Meta توضیح داد که تأخیر در پیام‌رسانی در پی خطای انسانی رخ داده است. در خود پیام‌های ارسالی به کاربر، اطلاع‌رسانی نشد که محتوا در پی درخواست تجدیدنظر وی نزد هیئت و انتخاب شدن این پرونده توسط هیئت به پلتفورم بازگردانده شده است.

یکی از نظرات عمومی از سوی «انجمن امور هندو آمریکایی‌ها» (نظر عمومی-۱۰۲۰۸) اشاره می‌کند که نقل قول مندرج در عنوان این اثر هنری از یک افسر ارتش به‌نام ریچارد هِنری پرات است که اولین مدرسه شبانه‌روزی فدرال مخصوص هندوها را در ایالات متحده تأسیس کرد. این عبارت خلاصه‌ای از خط‌مشی‌های پشت ساخت مدارس شبانه‌روزی ارائه می‌دهد و می‌گوید قصد آنها «متمدن کردن» اجباری افراد بومی و «ریشه‌کن کردن تمام رد و نشان‌های فرهنگ هندوها» بوده است. خطمشی‌های مشابهی در کانادا اتخاذ شده بود و کمیسیون حقیقت‌یاب و سازش کانادا آن خطمشی‌ها را برابر با نسل‌کشی فرهنگی دانسته است.

اشاره کاربر به وقایع «کاملوپس» اشاره‌ای به مدارس مسکونی هندوها در کاملوپس است، که سابقاً یک مدرسه شبانه‌روزی برای کودکان بومی در بیریتیش کلمبیای کانادا بود. در ماه مه ۲۰۲۱، سران جامعه بومیان Tk’emlúps te Secwépemc اعلام کرد که قبرهایی فاقد حکاکی را در کاملوپس کشف کرده‌اند. مقامات رسمی ۲۰۰ محل دفن احتمالی را در آن منطقه تأیید کرده‌اند.

طبق برآورد دولت کانادا، حداقل ۱۵۰,۰۰۰ کودک بومی تا قبل از سال ۱۹۹۷ که آخرین مدرسه مسکونی برچیده شد سیستم مدارس مسکونی را پشت سر گذاشتند. کودکان بومی غالباً با اجبار از خانواده‌هایشان جدا می‌شدند و از ابراز کلیه جنبه‌های فرهنگ بومی منع می‌گردیدند. در این مدارس از تنبیهات شدید و توأم با بدرفتاری استفاده می‌شد، و کارمندان این مدارس به سوء‌استفاده جنسی و خشونت جدی علیه بسیاری از دانش‌آموزان دست زدند یا چنین اقداماتی را روا دانستند. دانش‌آموزان متحمل سوء تغذیه شدند، سطح گرمایش و نظافت مدارس ضعیف بود، و بسیاری از کودکان به‌خاطر رسیدگی پزشکی بسیار پایین، در پی ابتلا به مرض سل یا سایر بیماری‌ها جان باختند. کمیسیون حقیقت‌یاب و سازش چنین نتیجه‌گیری کرد که حداقل ۴,۱۰۰ دانش‌آموز طی حضور در این مدارس جان باختند، که بسیاری از آنها به‌خاطر بدرفتاری یا بی‌توجهی بود و مابقی هم به‌خاطر بیماری یا تصادف.

۳. اختیار و حدود آن

هیئت این اختیار را دارد که تصمیم Meta را پس از طرح درخواست تجدیدنظر از طرف کاربری که محتوای او برداشته شده است بازبینی کند (منشور، ماده ۲، بخش ۱؛ آیین‌نامه، ماده ۳، بخش ۱). هیئت اجازه دارد از تصمیم Meta حمایت کند یا آن را نقض نماید و این تصمیم برای شرکت الزام‌آور است (منشور، ماده ۴؛ ماده ۳، بخش ۵). این تصمیمات ممکن است شامل اظهارنامه‌های مشورتی خط‌مشی با توصیه‌های غیرالزامی باشد که Meta موظف است پاسخگوی آنها باشد (منشور هیئت نظارت، ماده ۴؛ ماده ۳، بخش ۴).

وقتی هیئت پرونده‌هایی مانند این پرونده را انتخاب می‌کند، در مواردی که Meta متعاقباً وقوع خطای خود را بپذیرد، هیئت تصمیم اولیه را بازبینی می‌کند تا کمک شود که درک بهتری از دلیل وقوع خطاها بدست آید و همچنین مشاهدات و توصیه‌هایی را که می‌تواند در کاهش وقوع خطاها و بهبود روند مقتضی نقش داشته باشد مطرح نماید. پس از اتخاذ تصمیم هیئت در پرونده علائم سرطان سینه و برهنگی (‎2020-004-IG-UA، بخش ۳)، هیئت روندی را بکار گرفت که امکان شناسایی هرگونه خطا در اقدامات اجرایی را قبل از واگذاری پرونده به یک پنل فراهم می‌کند (رجوع شود به: گزارش‌های شفافیت، صفحه ۳۰). در چنین پرونده‌هایی، سودی ندارد که Meta با توضیحاتی درمورد آنچه باید برای محتوای کاربر صورت می‌گرفته است کل توجیه خود را روی اصلاحات تصمیمش متمرکز کند، و از آن طرف از هیئت دعوت کند که آن تصمیم را به‌عنوان تصمیم «نهایی» شرکت تأیید کند. هیئت پیشنهاد می‌کند که Meta در کنار ارائه توضیحی درمورد دلیل نادرست بودن تصمیمی که کاربر برای آن درخواست تجدیدنظر داده است، چگونگی وقوع آن خطا را همراه با دلیل عدم شناسایی و تصحیح آن طی روند بازبینی داخلی شرکت توضیح دهد. هیئت همچنان مبنای بازبینی‌هایش را تصمیمی که کاربر برای آن درخواست تجدیدنظر کرده است قرار خواهد داد.

۴. استانداردهای مرتبط

هیئت نظارت استانداردهای زیر را در تصمیم خود در نظر گرفته است:

I.استانداردهای انجمن فیس‌بوک:

استانداردهای انجمن فیس‌بوک نفرت‌پراکنی را اینطور تعریف می‌کند: «حمله مستقیم به افراد بر اساس آنچه ما تحت عنوان ویژگی‌های محافظت‌شده به آن اشاره می‌کنیم - یعنی نژاد، قومیت، ملیت اصلی، مذهب، گرایش جنسی، طبقه خانوادگی، جنسیت، باور جنسی، هویت جنسی و بیماری جدی یا معلولیت». ذیل «دسته ۱»، محتواهای ممنوع شامل «گفتار یا حمایت خشونت‌آمیز به‌صورت کتبی یا در قالب تصویر.» استاندارد انجمن همچنین شامل موارد مجازی برای متمایز کردن محتواهای غیرناقض می‌شود:

ما واقف هستیم که افراد برخی اوقات محتوای حاوی سخنان نفرت‌پراکنی دیگران را با هدف محکوم‌سازی آن یا افزایش آگاهی به‌اشتراک می‌گذارند. در موارد دیگر، از گفتاری که ممکن است ناقض استانداردهای ما باشد می‌توان با ارجاع به خود مطلب یا به شیوه‌ای مثبت استفاده کرد. خط‌مشی ما به گونه‌ای طراحی شده است که به این نوع گفتار مجال بیان بدهد، اما افراد را ملزم می‌دانیم که به‌وضوح قصد خود را مشخص کنند. اگر قصد آنها واضح نباشد، ممکن است محتوا را از پلتفورم برداریم.

II. ارزش‌های Meta:

ارزش‌های Meta در بخش مقدمۀ استانداردهای انجمن فیس‌بوک ذکر شده‌اند. ارزش «حق اظهارنظر» به‌عنوان «سرآمد» توصیف شده است:

هدف استانداردهای انجمن ما همیشه ایجاد فضایی برای آزادی بیان و فراهم کردن امکان اظهارنظر برای افراد است. […] ما می‌خواهیم به مردم این امکان را بدهیم که بتوانند با صراحت درباره مسائلی که برایشان اهمیت دارد صحبت کنند، حتی اگر عده‌ای با آن مخالف باشند یا آن را ناخوشایند بدانند.

Meta برای حراست از چهار ارزش، «اظهارنظر» را محدود می‌کند، و دو مورد در اینجا مرتبط هستند:

«امنیت»: ما متعهد هستیم فیس‌بوک را به مکانی ایمن تبدیل کنیم. صحبت‌هایی که افراد را تهدید می‌کند، ممکن است منجر به ارعاب، طرد کردن یا ساکت کردن دیگران شود، و در فیس‌بوک مجاز نیست.

«شأن»: ما معتقدیم همه مردم از لحاظ شأن و حقوق یکسان هستند. انتظار داریم افراد به شأن دیگران احترام بگذارند و باعث تحقیر و آزار آنها نشوند.

III. استانداردهای حقوق بشری:

اصول سازمان ملل در هدایت کسب‌وکارها و حقوق بشر (UNGPs)، که در سال ۲۰۱۱ به تأیید شورای حقوق بشر سازمان ملل رسید، یک چارچوب داوطلبانه برای مسئولیت‌های حقوق بشری برای کسب‌وکارهای خصوصی تعریف می‌کند. در سال ۲۰۲۱، Meta اعلام کرد که خط‌مشی سازمانی حقوق بشری خود را منتشر نموده است، و طی آن بر تعهد خود در احترام به حقوق بشر مطابق با UNGPs مجدداً تأکید داشته است. تحلیل هیئت از مسئولیت‌های Meta نسبت به حقوق بشر در این پرونده طبق استانداردهای حقوق بشری زیر گزارش شده است:

• آزادی بیان: ماده ۱۹، میثاق بین‌المللی حقوق مدنی و سیاسی (ICCPR)؛ نظر عمومی شماره ۳۴، کمیته حقوق بشر، ۲۰۱۱؛ ماده ۵، کنوانسیون بین‌المللی درمورد رفع هرگونه تبعیض نژادی (ICERD)؛ گزارش گزارشگر ویژه سازمان ملل در رابطه با سخنان نفرت‌پراکنی، A/74/486، ۲۰۱۹؛ گزارش گزارشگر ویژه سازمان ملل درخصوص نظارت بر محتوای آنلاین، A/HRC/38/35، ۲۰۱۸.
• برابری و عدم تبعیض: ماده ۲، پاراگراف ۱ و ماده ۲۶ (ICCPR)؛ ماده ۲، ICERD؛ توصیه عمومی شماره ۳۵، کمیته رفع تبعیض نژادی، ۲۰۱۳.
• حقوق فرهنگی: ماده ۲۷، ICCPR؛ ماده ۱۵ از پیمان بین‌المللی حقوق اقتصادی، اجتماعی و فرهنگی (ICESCR)؛ گزارشگر ویژه سازمان ملل در زمینه حقوق فرهنگی، گزارش با موضوع آزادی و خلاقیت هنری، A/HRC/23/34، ۲۰۱۳.
• حقوق افراد بومی: اعلامیه سازمان ملل درخصوص حقوق افراد بومی، ماده ۷، پاراگراف ۲؛ ماده ۸، پاراگراف ۱ و ماده ۱۹.

۵. اظهارات کاربر

کاربر در درخواست تجدیدنظرش به هیئت بیان کرد پست او یک اثر هنری سنتی را که مستندی از تاریخ است به نمایش گذاشته بوده، و هیچ ارتباطی با سخنان نفرت‌پراکنی نداشته است. کاربر اضافه کرد که این تاریخ را «باید ببینند» و در رابطه با برداشته شدن پست توسط Meta گفت: «این سانسور است.»

۶. توضیح درمورد تصمیم Meta

Meta به هیئت گفت که عبارت «هندوها را بکُشید» در زمره حملات دسته ۱ طبق استاندارد انجمن فیس‌بوک درخصوص نفرت‌پراکنی قرار می‌گیرد؛ در این دسته، «گفتار خشونت‌آمیز» علیه افراد برمبنای یکی از ویژگی‌های محافظت‌شده که شامل نژاد یا قومیت می‌شود ممنوع می‌باشد. با این حال، Meta اشتباه در برداشتن محتوا را تأیید کرد چون این خط‌مشی اجازه به‌اشتراک گذاشتن سخنان نفرت‌پراکنی دیگران را با هدف «محکوم‌سازی یا افزایش آگاهی» می‌دهد. Meta عنوان کرد کاربر در پست خود بیان داشته است که هدف او آگاه‌سازی درمورد وقایع وحشتناکی است که در کاملوپس رخ داده بود.

Meta عنوان کرد عبارت «هندوها را بکُشید/بشریت را نجات دهید» ریشه در همگون‌سازی اجباری کودکان بومی دارد. کاربر با افزایش آگاهی درمورد قضیه کاملوپس، آگاهی عموم را نسبت به موضوع همگون‌سازی اجباری به‌واسطه مدارس مسکونی نیز افزایش داده است. در پاسخ به یکی از سؤالات هیئت، Meta چنین شفاف‌سازی کرد که بازبین محتوا باید از این موضوع در تاریخ آگاه باشد تا بتواند خط‌مشی مربوطه را به‌درستی اجرا کند. در پست کاربر عنوان شده است که او قصد افزایش آگاهی درمورد یک قضیه وحشتناک را دارد و بنابراین بازبین محتوا می‌توانسته با رویکردی منطقی نتیجه‌گیری کند که محتوا دارد آگاهی عموم نسبت به سخنان نفرت‌پراکنی نقل‌کرده را بالا می‌برد.

Meta به هیئت اطلاع داد که هیچ کاربری محتوای موجود در این پرونده را گزارش نکرده است. Meta از طبقه‌بندی‌کننده‌های یادگیری ماشینی بهره می‌گیرد که برای شناسایی خودکار تخلفات احتمالی مغایر با استانداردهای انجمن فیس‌بوک آموزش می‌بینند. در این پرونده، دو طبقه‌بندی‌کننده به‌صورت خودکار این پست را به‌عنوان محتوایی با ماهیت احتمالی سخنان نفرت‌پراکنی شناسایی کرد. طبقه‌بندی‌کننده اول، که به تحلیل محتوا پرداخت، چندان اطمینان نداشت که محتوا ناقض استاندارد انجمن بوده است. با این حال، طبقه‌بندی‌کننده دیگری با تکیه بر طیفی از علائم بافتاری تشخیص داد که پست ممکن است در سطح گسترده به‌اشتراک گذاشته شود و افراد بسیاری آن را ببینند. با توجه به آسیب احتمالی ناشی از انتشار گسترده سخنان نفرت‌پراکنی، سیستم Meta به‌صورت خودکار آن پست را برای بررسی غیر‌ماشینی ارسال کرد.

Meta در پاسخ به سؤالات هیئت شفاف‌سازی کرد که یک بازبین غیرماشینی در منطقه آسیا-اقیانوسیه این پست را جزء سخنان نفرت‌پراکنی دانست و از پلتفورم برداشت. کاربر درخواست تجدیدنظر داد و یک بازبین غیرماشینی دیگر در منطقه آسیا-اقیانوسیه محتوا را بررسی کرد و او نیز آن را سخنان نفرت‌پراکنی دانست. Meta به هیئت اظهار داشت که نظارت‌کنندگان برای تصمیم‌گیری روی هر محتوا به‌صورت جداگانه استدلالی ثبت نمی‌کنند.

۷.نظرات ارسالی اشخاص ثالث

هیئت نظارت هشت نظر عمومی مرتبط با این پرونده را مد نظر قرار داد: چهار نظر از ایالات متحده و کانادا، دوتا از اروپا، یکی از آفریقای جنوب صحرا، و یکی دیگر از آسیا-اقیانوسیه. نظرات ارسالی مضامین روبرو را دربر می‌گرفت: اهمیت نقل قولی که کاربر مبنای عنوان اثر هنری خود قرار داده بود، بافتار مربوط به کاربرد مدارس مسکونی در آمریکای شمالی، و چگونگی اثرگذاری نظارت Meta بر محتوا روی آزادی‌های هنری و حقوق افراد دارای هویت و اصالت بومی در آزادی بیان.

برای خواندن نظرات عمومی ارسال‌شده در ارتباط با این پرونده، لطفاً روی اینجا کلیک کنید.

۸.تحلیل هیئت نظارت

هیئت لزوم بازگردانده شدن این محتوا را بنا به سه دیدگاه مورد بررسی قرار داد، که عبارتند از: استانداردهای انجمن فیس‌بوک، ارزش‌های Meta و مسئولیت‌های این شرکت در قبال حقوق بشر.

۸.۱ تبعیت از استانداردهای انجمن

Meta پذیرفت که تصمیم اصلی او مبنی بر برداشتن این محتوا برخلاف استانداردهای انجمن فیس‌بوک و نوعی «خطا در اقدامات اجرایی» بوده است. یافتۀ هیئت این است که محتوای این پرونده بدون هیچ ابهامی خارج از سخنان نفرت‌پراکنی قرار می‌گیرد. محتوای مذکور یک نمونه بارز از «پاسخ متقابل» می‌باشد که در آن برای مقابله با ظلم و تبعیض، اشاراتی به سخنان نفرت‌پراکنی صورت گرفته است یا مجدداً متناسب‌سازی شده است.

استاندارد انجمن درخصوص نفرت‌پراکنی به‌طور آشکار «محتوای حاوی نفرت‌پراکنی دیگران به‌هدف محکوم‌سازی آن یا افزایش آگاهی» را مجاز می‌داند. با وجود این، دو نظارت‌کننده جداگانه نتیجه گرفته بودند که این پست حاوی سخنان نفرت‌پراکنی است. Meta نتوانست دلایل مشخصی ارائه دهد که چرا این خطای خاص دوبار رخ داده است.

در پرونده نقل قول نازی‌ها (‎2020-005-FB-UA)، هیئت عنوان کرده بود بافتاری که یک نقل قول در آن بکار می‌رود در درک معنای آن حائز اهمیت است. در آن پرونده، محتوا و معنای نقل قول، زمان پست شدن آن و کشور محل پست شدن، و همچنین ماهیت واکنش‌ها و نظرات منتشرشده روی آن پست، نشانه‌های واضحی بود که کاربر قصد تحسین یک چهره نفرت‌انگیز مشخص‌شده را نداشته است.

بنا به یافتۀ هیئت، لزومی نداشته است کاربر صریحاً بیان کند که هدفش افزایش آگاهی بوده است تا قصد و معنای این پست شفاف‌سازی شود. تصویر موجود در این اثر هنری داستان وقایع کاملوپس را بیان می‌کند، و روایت همراه آن به شرح اهمیت این وقایع می‌پردازد. گرچه کلمات «هندوها را بکُشید» به‌تنها می‌توانست سخنان نفرت‌پراکنی باشد، با ارزیابی کلی محتوا مشخص می‌شود که از این عبارت برای افزایش آگاهی نسبت به نفرت و تبعیض و محکوم کردن آن استفاده شده است. محتوا با استفاده از گیومه، عبارت نفرت‌انگیز داخل عنوانش را متمایز کرد؛ عبارتی که کل آن چنین بود: «هندوها را بکُشید / بشریت را نجات دهید.» این موضوع اصولاً باید لحظه‌ای تأمل برای بازبین محتوا ایجاد می‌کرد که عمیق‌تر نگاه کند. از نحوه بیان قضیه کاملوپس توسط کاربر و توضیح دادن اهمیت فرهنگی کمربند وامپوم واضح بود که او با قربانیان تبعیض و خشونت، و نه عاملان آن، هم‌ذات‌پنداری کرده است. روایت کاربر به‌وضوح رویدادهایی را که در کاملوپس از آنها پرده برداشته شده بود محکوم کرد. از نظرات و واکنش‌هایی که افراد در مقابل این پست داشتند مشخص بود که مخاطبین کاربر قصد او را در محکوم‌سازی و افزایش آگاهی فهمیده‌اند.

هیئت به مطلب درون‎‌سازمانی فیس‌بوک تحت عنوان «سؤالات آشنا» اشاره می‌کند، که بخشی از رهنمودهای ارائه‌شده به نظارت‌کنندگان را شکل می‌هد؛ این مطلب به نظارت‌کنندگان آموزش می‌دهد که اگر قصد کاربر در انتشار محتواهای حاوی سخنان نفرت‌پراکنی شفاف نیست، اقدام پیش‌فرض را برداشتن آن محتوا قرار دهند. در «سؤالات آشنا» نیز بیان شده است که بیان واضح قصد و نیت همیشه برای تغییر دادن معنای پستی که حاوی سخنان نفرت‌پراکنی است کافی نخواهد بود. این رهنمود داخلی دستورالعمل ناقصی به نظارت‌کنندگان ارائه می‌دهد که چطور باید بین سخنان نفرت‌پراکنی ممنوع و پاسخ متقابل که اقدام به نقل سخنان نفرت‌پراکنی برای محکوم‌سازی آن یا افزایش آگاهی می‌کند، تمایزی مناسب قائل شوند. تا جایی که هیئت اطلاع دارد، برای آن دسته از محتواهای هنری که به نقل یا استفاده از واژه‌های بیانگر سخنان نفرت‌پراکنی می‌پردازد، یا محتواهایی که پیرامون موارد نقض حقوق بشر صحبت می‌کند و در آنها محتواهای مذکور مشمول موارد مجاز خط‌مشی ذیربط می‌شوند، هیچ رهنمودی درخصوص نحوه ارزیابی شواهد قصد مدنظر کاربر وجود ندارد.

۸.۲ تبعیت از ارزش‌های Meta

طبق یافته هیئت، تصمیم اولیه مبنی بر برداشتن این محتوا مغایر با ارزش‌های «حق اظهارنظر» و «شأن» Meta بوده و به ارزش «امنیت» توجهی نداشته است. گرچه این اقدام همراستا با ارزش‌های Meta در محدود کردن انتشار سخنان نفرت‌پراکنی در پلتفورم‌های خود بوده است، هیئت اظهار نگرانی می‌کند که رویه‌های نظارت Meta بر محتوا قادر به شناسایی صحیح و حفاظت از انسان‌هایی نیستند که به حاشیه رانده می‌شوند یا مورد تبعیض قرار می‌گیرند و نمی‌توانند از راه پاسخ متقابل، اظهاراتشان را بیان کنند.

Meta نسبت به حمایت از پاسخ متقابل اظهار تعهد کرده است:

فیس‌بوک به‌عنوان یک جامعه، یک پلتفورم اجتماعی، و مجمعی از تجارب مشترک انسانی، از طرح‌های مبتکرانه انتقادی در قالب کلام متقابل حمایت می‌کند و در این راستا خط‌مشی‌های قدرتمندی روی محتوا اجرا می‌نماید و با جوامع محلی، سیاست‌گذاران، کارشناسان و تحول‌سازان همکاری می‌کند تا از طرح‌های مبتکرانه سراسر جهان در قالب کلام متقابل پرده بردارد.

Meta ادعا می‌کند «حق اظهارنظر» مهم‌ترین ارزش برای این شرکت است. هنری که بخواهد تلخی جنایات گذشته را روشن‌سازی کند و به مردم یاد دهد که چطور با اثرات ماندگار آنها بسازند یکی از مهم‌ترین و قدرتمندترین نمودهای ارزش «حق اظهارنظر» است، به‌خصوص برای گروه‌های به‌حاشیه‌رفته که به بیان فرهنگ خاص‌شان می‌پردازند و تلاش می‌کنند که تاریخ آنها حتماً شنیده شود. پاسخ متقابل صرفاً نوعی نمود «حق اظهارنظر» نیست، بلکه ابزاری کلیدی برای افرادی است که هدف سخنان نفرت‌پراکنی قرار گرفته‌اند، بدین منظور که از شأن خود صیانت کنند و مقابل رفتار ظالمانه، تبعیض‌آمیز و تحقیرکننده بایستند. Meta باید اطمینان یابد که خطمشی‌های محتوایی و اقدامات نظارتی خود نوع مذکور اظهارنظر را به‌حساب آورد و از آن صیانت کند.

برای کاربری که اقدام به افزایش آگاهی درمورد جنایات دسته‌جمعی می‌کند، توهین به شأن او است که به او گفته شود گفتارش نوعی سخن نفرت‌پراکنی بوده و به‌همین خاطر سرکوب شده است. این اتهام، بخصوص وقتی که Meta آن را در درخواست تجدیدنظر هم تأیید کند، می‌تواند خودسانسوری را در پی داشته باشد.

۸.۳ پیروی از مسئولیت‌های Meta نسبت به حقوق بشر

طبق نتیجه‌گیری هیئت، برداشته شدن این پست با مسئولیت‌های Meta در قبال حقوق بشر در جایگاه یک شرکت تجاری منافات داشته است. Meta خود را متعهد دانسته است که طبق اصول سازمان ملل در هدایت کسب‌وکارها و حقوق بشر (UNGPs)، به حقوق بشر احترام بگذارد. خط‌مشی سازمانی حقوق بشری فیس‌بوک عنوان می‌کند که این موضوع شامل پیمان بین‌المللی حقوق مدنی و سیاسی (ICCPR) می‌شود.

این اولین پرونده هیئت است که به بیانات هنری مربوط می‌شود، و همچنین اولین پرونده‌ای که در بیانات آن، کاربر خودش را به‌عنوان یک فرد بومی معرفی می‌کند. این پرونده یکی از چندین پرونده انتخابی هیئت است که کاربر به‌دنبال جلب توجه عموم به موارد جدی نقض حقوق بشر بوده است.

آزادی بیان (ماده ۱۹ ICCPR)

در استانداردهای بین‌المللی حقوق بر ارزش اظهارات سیاسی تأکید شده است (کمیته حقوق بشر نظر عمومی شماره ۳۴، پاراگراف ۳۸). حدود صیانت از این حق در پاراگراف ۲ از ماده ۱۹ ICCPR مشخص شده است، که به بیانات «در قالب هنر» اشاره ویژه‌ای می‌کند. پیمان بین‌المللی در خصوص حذف تمام انواع تبعیض نژادی (ICERD) همچنین از قائل شدن تبعیض در اجرای حق آزادی بیان حفاظت می‌کند (ماده ۵)، و وظیفه این کمیته نظارت بر پیروی دولت‌ها است و بر اهمیت حق کمک به «گروه‌های آسیب‌پذیر در تعدیل توازن قدرت میان اجزای جامعه» و ارائه «دیدگاه‌های جایگزین و متقابل» در مباحث تأکید دارد (کمیته CERD، توصیه عمومی ۳۵، پاراگراف ۲۹).

هنر غالباً رنگ و بوی سیاسی دارد، و در استانداردهای بین‌المللی به نقش منحصربه‌فرد و قدرتمند این نوع ارتباطات در اعتراض به وضع موجود اذعان شده است (گزارشگر ویژه سازمان ملل در زمینه حقوق فرهنگی، A/HRC/23/34، پاراگراف‌های ۳ تا ۴). اینترنت، و پلتفورم‌های رسانه اجتماعی مثل فیس‌بوک و بالاخص اینستاگرام، ارزش ویژه‌ای برای هنرمندان در دستیابی به مخاطبان جدید و وسیع‌تر دارد. پایندگی آنها می‌تواند به آن دسته از پلتفورم‌های اجتماعی که اینترنت را قبضه کرده‌اند وابسته باشد.

حق آزادی بیان برای همه مردم بدون هیچ تبعیضی تضمین شده است (ماده ۱۹، پاراگراف ۲، ICCPR). از نظرات دریافتی هیئت این بود که حق افراد بومی در برخورداری از رضایت آزادانه، آگاهانه و قبلی در مواردی که دولت‌ها اقداماتی در حیطه قانون‌گذاری و امور اجرایی اتخاذ می‌کنند که روی آن جوامع اثرگذار است به‌طور ضمنی دلالت مسئولیتی برای Meta درقبال رای‌زنی با این جوامع در تدوین خط‌مشی‌های محتوایی خود دارد (نظر عمومی-۱۰۲۴۰، گروه حقوق اقلیت‌ها؛ همچنین رجوع شود به اعلامیه سازمان ملل درخصوص حقوق افراد بومی، ماده ۱۹). گزارشگر ویژه سازمان ملل درخصوص آزادی نظر و بیان نگرانی مشابهی در بافتار مسئولیت‌های پلتفورم‌های رسانه اجتماعی مطرح کرده است (A/HRC/38/35، پاراگراف ۵۴).

محتوای این پرونده با تعدادی از حقوق دیگر نیز سر‌وکار دارد، ازجمله حقوق اشخاص وابسته به اقلیت‌های ملی، قومی یا زبانی در برخورداری از فرهنگ خاص خودشان همراه با سایر اعضای گروه خود (ماده ۲۷، ICCPR)، و حق مشارکت در زندگی فرهنگی و بهره‌مندی از هنرها (ماده ۱۵، ICESCR). هنر ساخت کمربند وامپوم که در صدد ثبت و افزایش گاهی نسبت به جنایات انجام‌گرفته علیه حقوق بشر و میراث مستدام آنها بوده است مطابق با ماده ۶(c) ازاعلامیه سازمان ملل درخصوص مدافعان حقوق بشر و همچنین حق آگاهی از حقیقت جنایات (مجموعه اصول سازمان ملل در مقابله با معافیت از مجازات) تحت حفاظت قرار می‌گیرد. در اعلامیه سازمان ملل درخصوص حقوق افراد بومی صراحتاً اذعان شده است که محو کردن اجباری کودکان می‌تواند اقدام به خشونت و نسل‌کشی محسوب شود (ماده ۷، پاراگراف ۲) و حفاظت ویژه‌ای در مقابل همگون‌سازی اجباری و تخریب فرهنگ فراهم می‌سازد (ماده ۸، پاراگراف ۱).

به‌موجب ماده ۱۹ از ICCPR، در مواردی که محدودیت‌ها در آزادی بیان توسط یک کشور اعمال می‌شود، باید با الزامات قانونی و اهداف مشروع همخوانی داشته و از ضرورت و تناسب لازم برخوردار باشد (ماده ۱۹، پاراگراف ۳، ICCPR). گزارشگر ویژه سازمان ملل در موضوع آزادی بیان شرکت‌های رسانه اجتماعی را تشویق کرده است که اصول مذکور را در زمان نظارت بر اظهار نظرات آنلاین سرلوحه خود قرار دهند، و ضمناً برحذر باشند که کنترل اظهار نظرات در چنین مقیاسی توسط شرکت‌های خصوصی می‌تواند به نگرانی‌های خاص آن بافتار دامن بزند (A/HRC/38/35، پاراگراف‌های ۴۵ و ۷۰). هیئت آزمون سه‌بخشی را بر اساس ماده ۱۹ از ICCPR در کلیه تصمیماتش تا به امروز بکار گرفته است.

I. مطابقت با قانون (شفافیت و قابل دسترس بودن قوانین)

استاندارد انجمن درخصوص نفرت‌پراکنی اجازۀ محتواهایی را که به محکوم‌سازی سخنان نفرت‌پراکنی یا افزایش آگاهی می‌پردازد به‌وضوح مجاز می‌شمارد. این مؤلفه از خط‌مشی به‌اندازه کافی برای کاربر شفاف و قابل دسترسی هست که بتواند قوانین را متوجه شود و مطابق آن عمل کند (نظر عمومی شماره ۳۴، پاراگراف ۲۵). استاندارد مطابقت با قانون نیز ایجاب می‌کند که قوانین محدودکننده آزادی بیان «رهنمود کافی در اختیار کسانی که متخلف شناخته شده‌اند قرار دهد تا بتوانند مطلع شوند که چه‌نوع اظهاراتی محدودیت دارد و چه نوع اظهاراتی ندارد» (همان) ناتوانی دو نظارت‌کننده در ارزیابی مناسب کاربرد موارد مجاز در این خط‌مشی برای محتوای مذکور حاکی از آن است که احتمالاً فراهم کردن رهنمودهای داخلی بیشتری برای نظارت‌کنندگان ضرورت دارد.

II. هدف مشروع

هرگونه محدودیت کشوری در حیطه آزادی بیان باید یکی از اهداف مشروع مندرج در پاراگراف ۳ از ماده ۱۹ ICCPR را دنبال کند. Meta در مطالب ارسالی خود به هیئت موقع توجیه اقدامی که در سرکوب کردن یک گفتار صورت داده است، مرتباً به اهداف مندرج در این لیست استناد کرده است. هیئت پیش‌تر اذعان کرده بود که استاندارد انجمن فیس‌بوک درخصوص نفرت‌پراکنی هدف مشروعی را دنبال می‌کند و آن حفاظت از حقوق دیگران است. آن حقوق شامل حق برابری و عدم تبعیض، آزادی بیان، و حق تمامیت جسمانی می‌شود.

III. ضرورت و تناسب

خطای روشنی که در این پرونده رخ داد بیانگر آن بود که برداشته شدن محتوا مسلماً ضرورتی نداشت، و این موضوع را Meta پذیرفته است. هیئت از این بابت نگران است که چنین خطای نامبهمی می‌تواند نشانگر مشکلات عمیق‌تری از اصل تناسب در فرآیندهای بررسی ماشینی و غیرماشینی Meta باشد. اعمال هرگونه محدودیت درمورد آزادی بیان باید برای دستیابی به عملکرد محافظتی موردنظر متناسب باشد، و باید از طریق ابزاری انجام شود که می‌تواند با حداقل دخالت ممکن، عملکردهای محافظتی مورد نظر را داشته باشد (نظر عمومی شماره ۳۴، پاراگراف ۳۴). انطباق سیستم نظارت بر محتوای Meta با الزامات ضرورت و تناسب شدیداً وابسته به این است که در برداشتن سخنان نفرت‌پراکنی واقعی و از آن طرف کاهش هرچه بیشتر تعداد خطاها در شناسایی و برداشتن محتوا چقدر کارآمد عمل می‌کند.

هر پستی که به اشتباه برداشته شود به آزادی بیان لطمه می‌زند. هیئت درک می‌کند که خطا، هم برای انسان و هم ماشین، امری اجتناب‌ناپذیر است. سخنان نفرت‌پراکنی و واکنش به آنها همیشه وابسته به بافتار است، و حد و حدود آن همیشه روشن نیست. با این حال، نوع اشتباهات و افراد یا جوامع مسئول وقوع آن اشتباهات نشانگر انتخاب‌های صورت‌گرفته در طراحی است که باید به‌طور مداوم ارزیابی و بازبینی شود. این کار مستلزم تحقیق و بررسی بیشتر روی عوامل ریشه‌ای اشتباه صورت‌رفته در این پرونده است، و همچنین ارزیابی گسترده‌تری از میزان کارآمدی نظارت بر پاسخ متقابل.

با توجه به اهمیت هنر انتقادیِ هنرمندان بومی در کمک به مقابله با ظلم و نفرت، هیئت از Meta انتظار دارد نسبت به احتمال برداشته شدن اشتباه محتوا در این پرونده و محتواهای مشابه در فیس‌بوک و Instagram حساسیت خاصی به‌خرج دهد. ارزیابی عملکرد اقدامات اجرایی Meta طبق خط‌مشی فیس‌بوک درخصوص نفرت‌پراکنی با نگاهی کلی کافی نیست. سیستمی که در کل عملکردش خوب است احتمال دارد در زیردسته‌های محتواها عملکردی کاملاً ضعیف نشان دهد، و در پی آن، تصمیمات نادرست اتخاذشده اثرگذاری کاملاً بارزی روی حقوق بشر داشته باشد. این احتمال هست که نوع خطاهای رخ‌داده در این پرونده نادر باشد؛ با این حال، هیئت عنوان می‌کند اعضای گروه‌های حاشیه‌ای چندین سال است که نگرانی‌هایشان را از تعداد و میزان اثرگذاری موارد مثبت کاذب در برداشتن محتوا ابراز کرده‌اند. خطاهای رخ‌داده در این پرونده نشان می‌دهد که Meta موظف است ثابت کند که در راستای تضمین عملکرد منصفانه سیستم‌هایش و عدم دامن زدن به ظلم‌های تاریخی و کنونی، اقدامات لازم را در زمینه حقوق بشر انجام داده است.

Meta دقت سیستم‌های اقدامات اجرایی خود را در برخورد با سخنان نفرت‌پراکنی به‌طور مستمر ارزیابی می‌کند. این ارزیابی به مؤلفه‌هایی از ارزیابی دقت تقسیم نشده است که به‌واسطه آنها، توانایی Meta در تمییز سخنان نفرت‌پراکنی از محتواهای مجاز که هدفشان محکوم کردن سخنان نفرت‌پراکنی یا افزایش آگاهی است سنجیده شود.

فرآیندهای جاری Meta شامل مکانیزم‌هایی با کاربرد خاص می‌شود که به شناسایی روال خطاها و بررسی علل ریشه‌ای آنها می‌پردازد، اما این مستلزم نمونه‌های وسیعی از محتوا است تا عملکرد سیستم نسبت به آن ارزیابی شود. هیئت این سؤال را مطرح کرد که آیا Meta عملکرد سیستم‌های بازبینی خود را از لحاظ ارزیابی دقیق پاسخ متقابل که شامل اظهارات هنری و پاسخ متقابل با هدف افزایش آگاهی نسبت به موارد نقض حقوق بشر می‌شود مورد ارزیابی قرار داده است. Meta به هیئت گفت که پژوهش تخصصی درمورد اثر موارد مثبت کاذب در برداشته شدن محتوا برای اظهارات هنری یا اظهاراتی از افراد دارای هویت یا اصالت بومی صورت نداده است.

Meta به هیئت اطلاع داد که موانعی در اجرای چنین ارزیابی‌هایی وجود دارد، ازجمله نبود سیستمی برای گردآوری خودکار نمونه‌ای از محتواهایی که مشمول موارد مجاز خط‌مشی می‌شوند. این بدان خاطر است که بازبینان محتوا را یا به‌عنوان محتوای متخلف مشخص می‌کنند یا غیرمتخلف، و ملزم نیستند که مشخص کنند محتواهای غیرمتخلف مشمول موارد مجاز خط‌مشی می‌شود یا نه. نمونۀ پاسخ متقابلی که در این موارد مجاز جای گیرد باید به‌صورت دستی جمع‌آوری شود.

گرچه جزئیات ارائه‌شده درمورد چگونگی ارزیابی عملکرد توسط Meta در جلسه پرسش و پاسخی که به درخواست هیئت برگزار شد برای هیئت تحسین‌برانگیز بود، مسلماً سرمایه‌گذاری بیشتری باید روی ارزیابی دقت اقدامات اجرایی در موارد مجاز خط‌مشی سخنان نفرت‌پراکنی و درس آموختن از گرایش‌های وقوع خطا صورت گیرد. بدون اطلاعات تکمیلی درمورد تصمیمات Meta در طراحی و عملکرد سیستم‌های ماشینی و غیرماشینی خود، ارزیابی رویکرد فعلی Meta نسبت به سخنان نفرت‌پراکنی از معیار تناسب برای هیئت یا Meta دشوار خواهد بود.

موقع ارزیابی میزان ضرورت و تناسب در استفاده از ابزارهای یادگیری ماشینی خاص که در این پرونده برای شناسایی ماشینی سخنان نفرت‌پراکنی احتمالی بکار رفته است، آگاهی از دقت ابزارهای مذکور یک موضوع کلیدی است. طبقه‌بندی‌کننده‌های یادگیری ماشینی همواره با سبک و سنگین کردن میزان موارد مثبت کاذب و منفی کاذب همراه است. هرچه میزان حساسیت یک طبقه‌بندی‌کننده بالاتر باشد، احتمالش بیشتر است که نمونه‌های سخنان نفرت‌پراکنی را به‌درستی شناسایی کند، اما از طرفی هم احتمالش بیشتر است که مطالبی غیر از سخنان نفرت‌پراکنی را به‌اشتباه پرچم‌گذاری کند. مدل‌های مختلف و طبقه‌بندی‌کننده‌هایی که متفاوت آموزش دیده‌اند از لحاظ کاربرد و کارآمدی‌شان در امور مختلف با هم فرق دارند. برای هر مدل فرضی، از آستانه‌های مختلفی می‌توان استفاده کرد که قضاوتی را درمورد اهمیت نسبی اجتناب از وقوع انواع مختلف اشتباهات نشان دهد. احتمال وقوع اشتباهات و شدت آنها نیز باید در اتخاذ تصمیماتی برای چگونگی بکارگیری یک طبقه‌بندی‌کننده مد نظر قرار گیرد، ازجمله اینکه می‌تواند اقدامی فوری صورت دهد یا باید به تأیید غیرماشینی برسد، و اینکه چه اقدامات احتیاطی در کار است.

Meta توضیح داد که پست موردنظر در این پرونده توسط سیستم‌های ماشینی‌اش برای بازبینی ارسال شده بود زیرا این احتمال را داشت که مخاطبین بالایی پیدا کند. این رویکرد می‌تواند انتشار محتواهای آسیب‌زا را محدود کند، اما از طرفی این احتمال هم هست که خطرِ به‌اشتباه برداشته شدن هنرهای قدرتمندی که به مقابله با نفرت می‌پردازند نیز افزایش یابد. Meta به هیئت گفت که میزان موارد مثبت کاذب را در مقاطع زمانی مختلف به‌طور منظم ارزیابی می‌کند، و در این ارزیابی، مجموعه‌ای از تصمیمات اتخاذشدۀ بازبینان متخصص را معیار قرار می‌دهد. Meta همچنین متذکر شد که امکان ارزیابی دقت آن دسته از مدل‌های یادگیری ماشینی که به این پرونده مربوط می‌شدند وجود داشته است و ضمناً اطلاعات مربوط به پیش‌بینی‌های طبقه‌بندی‌کننده‌هایش را حداقل ۹۰ روز نگهداری می‌کند. هیئت تقاضای اطلاعاتی را کرد که با آنها می‌توانستیم عملکرد طبقه‌بندی‌کننده و میزان تناسب آستانه‌های مورد استفادۀ Meta در این پرونده را ارزیابی کنیم. Meta به هیئت اطلاع داد که نمی‌تواند اطلاعات مورد تقاضای هیئت را ارائه دهد چون زمان کافی جهت آماده کردن آنها برای ما نداشته است. با این حال، Meta گفت که امکان ارائه این اطلاعات را در پرونده‌های آتی مد نظر قرار داده است.

بررسی غیر‌ماشینی می‌تواند دو لایۀ حفاظتی مهم در عملکرد طبقه‌بندی‌کننده‌های Meta فراهم آورد: یکی قبل از برداشته شدن پست، و یکی مجدداً موقع درخواست تجدیدنظر. خطاهای رخ‌داده در این پرونده حاکی از آن است که رهنمودهای Meta برای نظارت‌کنندگانی که به ارزیابی پاسخ متقابل می‌پردازند احتمالاً ناکافی می‌باشد. دلایلی با تعداد نامشخص وجود دارد که می‌تواند در دوبار تصمیم‌گیری نادرست نظارت‌کنندگان غیرماشینی در پرونده جاری نقش داشته باشد. هیئت ابراز نگرانی می‌کند که بازبینان شاید از منابع کافی از لحاظ زمان یا آموزش لازم برای پیشگیری از وقوع اشتباهی که در این پرونده مشاهده شد برخوردار نباشند، بخصوص در ارتباط با محتواهایی که طبق موارد مجازِ خط‌مشی، مجاز شمرده شده است (ازجمله «محکوم کردن» سخنان نفرت‌پراکنی و «آگاه‌سازی»).

در این پرونده، هردو بازبین از منطقه آسیا-اقیانوسیه بودند. Meta نتوانست به هیئت اطلاع دهد که آیا میزان دقت بازبینان برای نظارت‌کنندگانی که به ارزیابی سخنان نفرت‌پراکنی احتمالی می‌پردازند ولی در منطقۀ منشأ انتشار محتوای مربوطه قرار ندارند فرق می‌کند یا خیر. هیئت به پیچیدگی‌های موجود در ارزیابی سخنان نفرت‌پراکنی و دشواری در درک بافتار و تاریخچۀ محلی اشاره می‌کند، بخصوص وقتی حجم محتوایی که نظارت‌کنندگان هرروز بررسی می‌کنند لحاظ شود. قابل تصور است که ناظرانی که محتوای این پرونده را ارزیابی کردند، تجربه کمتری در مورد ظلم به مردمان بومی آمریکای شمالی داشته‌اند. رهنمودها باید شامل دستورالعمل‌هایی واضح درمورد ارزیابی محتواها به‌صورت کلی باشد و از نظارت‌کنندگان در ارزیابی دقیق‌تر بافتار پشتیبانی کند تا شواهدی دال بر قصد و معنای مدنظر کاربر مشخص گردد.

هیئت در تصمیم اتخاذشده برای پرونده میم دو دکمه‌ای (2021-005-FB-UA) به Meta توصیه کرد که Meta به کاربرانش اجازه دهد در درخواست تجدیدنظرشان عنوان کنند که محتوای آنها در زمره یکی از موارد مُجازی که برای استاندارد انجمن فیس‌بوک درخصوص نفرت‌پراکنی مشخص شده است قرار می‌گیرد. درحال حاضر، وقتی کاربر برای یکی از تصمیمات Meta که وارد بررسی غیر‌ماشینی می‌شود درخواست تجدیدنظر دهد، آن بازبین مطلع نیست که کاربر به تصمیم قبلی اعتراض کرده است و از نتیجۀ بازبینی قبلی خبر ندارد. نظر به اینکه Meta به هیئت اطلاع داده است که به عقیده خود، چنین اطلاعاتی موجب سوگیری در بازبینی خواهد شد، هیئت علاقه‌مند است بداند که آیا چنین اطلاعاتی می‌تواند احتمال تصمیم‌گیری ژرف‌نگرانه‌تر را افزایش دهد. این سؤالی است که می‌توانست به‌صورت تجربی توسط Meta آزموده شود؛ نتایج چنین آزمایش‌هایی در ارزیابی میزان تناسب اقدامات خاصی که Meta تصمیم به اتخاذ آنها گرفته است می‌توانست مفید واقع شود.

طبق UNGPs، شرکت Meta نسبت به انجام اقدامات مقتضی در حیطه حقوق بشر مسئول است (اصل ۱۷). این اقدامات باید شناسایی هرگونه اثر نامطلوب در پی نظارت بر محتوا روی اظهارات هنری و سیاسی مردمان بومی که به مقابله با تبعیض می‌پردازند را شامل شود. Meta همچنین باید بررسی کند که چگونه می‌تواند از آن اثرات نامطلوب پیشگیری کند، آنها را تقلیل دهد و تلاش‌هایی که در توجه به آنها صورت داده است را توجیه کند. هیئت متعهد است عملکرد Meta را زیر نظر داشته باشد و انتظار دارد شاهد آن باشد که شرکت به خطرات متوجه گروه‌های حاشیه‌ای اولویت دهد، و ضمناً شواهدی از ایجاد بهبودهای مستمر به نمایش گذارد.

۹.تصمیم هیئت نظارت

هئیت نظارت تصمیم اولیه Meta مبنی بر برداشتن محتوا را رد کرد.

۱۰. بیانیه مشورتی درباره خط‌مشی

اقدامات اجرایی

۱. اطلاعیه به‌موقع و دقیقی از اقدامات شرکت که روی محتوای مربوط به درخواست تجدیدنظر کاربر انجام می‌گیرد به او ارائه دهد. در موارد ذیربط، ازجمله خطا در اقدامات اجرایی مثل پرونده جاری، در اطلاعیه ارسالی به کاربر باید اذعان شود که اقدام انجام‌گرفته نتیجۀ روند بررسی هیئت نظارت بوده است. Meta باید در مواقعی که کاربران درخواست تجدیدنظر روی تصمیمات اتخاذشده برای محتوایشان داده‌اند و اقدامات هیئت تغییری در آن تصمیمات ایجاد می‌کند، با اشتراک‌گذاری پیام‌های ارسال‌شده به کاربران ثابت کند که از توصیه جاری پیروی کرده است. این اقدامات باید با توجه به کلیه پرونده‌هایی که طی روند هیئت، در مرحله صلاحیت اصلاح قرار می‌گیرند صورت پذیرد.

۲. مطالعه‌ای روی اثرات رویکردهای اصلاح‌شده نسبت به بازبینی ثانویه از لحاظ دقت و بازدهی فرد بازبین صورت دهد. هیئت به‌ویژه تقاضا دارد وقتی به نظارت‌کنندگان محتوا اطلاع داده می‌شود که در حال انجام بررسی ثانویه هستند، میزان دقت بازبین مورد ارزیابی قرار گیرد تا بدانند که به تصمیم اولیه اعتراض شده است. این آزمایش درحالت ایده‌آل باید شامل فرصتی برای کاربران شود که با ارائه بافتار ذیربط، به بازبینان در ارزیابی محتوایشان به‌نحوی همسو با توصیه‌های پیشین هیئت کمک کنند. Meta باید خلاصه نتایج ارزیابی‌های انجام‌گرفته روی دقت بازبینان را با هیئت به‌اشتراک گذارد و نتایج را در گزارش‌های فصلی شفافیت خلاصه کند تا ثابت نماید که از توصیه جاری پیروی کرده است.

۳. ارزیابی‌هایی روی دقت کار انجام دهد و در این ارزیابی‌ها، بر آن دسته از موارد مجاز در خط‌مشی نفرت‌پراکنی که شامل عبارات هنری و عباراتی درمورد نقض حقوق بشر می‌شود (مثل محکوم‌سازی، افزایش آگاهی، استفاده در ارجاع به خود، کاربرد به‌شکلی مثبت) تمرکز کند. در این ارزیابی، باید نحوه اثرگذاری موقعیت مکانی بازبین روی توانایی نظارت‌کنندگان در ارزیابی دقیق و صحیح سخنان نفرت‌پراکنی و پاسخ متقابل با منشاء جغرافیایی یکسان یا متفاوت نیز به‌طور خاص بررسی شود. هیئت درک می‌کند که چنین تحلیلی احتمالاً مستلزم توسعه نمونه‌هایی مناسب از محتواهای ذیربط است به‌طوری که برچسب‌گذاری دقیقی برای آن محتواها صورت گرفته باشد. Meta باید نتایج این ارزیابی را در اختیار هیئت بگذارد، ازجمله اینکه این نتایج چگونه باعث ایجاد بهبودهای آگاهانه در عملیات اجرایی و تدوین خط‌مشی می‌شود، و اینکه آیا قصد دارد ارزیابی‌های مستمری روی میزان دقت بازبین در رابطه با این موارد مجاز صورت دهد؛ همچنین باید نتایج را در گزارش‌های فصلی شفافیت خلاصه کند تا ثابت نماید که از توصیه جاری پیروی کرده است.

*نکته‌ای درباره روند تصمیم‌گیری:

تصمیمات هیئت نظارت توسط هیئت داوران متشکل از پنج عضو تهیه می‌شود و به تأیید اکثریت اعضای هیئت می‌رسد. تصمیمات هیئت لزوماً منعکس‌کننده نظرات شخصی تمام اعضا نیست.

برای تصمیم درباره این پرونده، تحقیق مستقلی از طرف هیئت درخواست شد. یک مؤسسه تحقیقاتی مستقل که مرکز آن در دانشگاه گوتنبرگ واقع شده است، با تیمی متشکل از بیش از ۵۰ متخصص مسائل اجتماعی از شش قاره و همچنین بیش از ۳۲۰۰ متخصص امور کشورها در سراسر جهان به‌علاوه یک شرکت خدمات مشاوره‌ای به‌نام Duco Advisers که بر تلاقی ژئوپلتیک، اعتماد و امنیت، و فناوری تمرکز دارد، نظرات کارشناسی خود را در رابطه با بافتار اجتماعی-سیاسی و فرهنگی ارائه نمودند.

Volver a Decisiones de casos y opiniones consultivas sobre políticas