برخورد با زن ایرانی در خیابان

خلاصه

هیئت نظارت تصمیم اصلی Meta به برداشتن ویدیویی را رد کرده است که برخورد مردی را با یک زن در خیابان‌های ایران به‌دلیل نداشتن حجاب نشان می‌داد. این پست ناقض قوانین «خشونت و تحریک» نبود چون حاوی یک عبارت مجازی و خارج از معنای تحت‌اللفظی آن است، و تهدید واقعی به خشونت محسوب نمی‌شود. این محتوا طی دوره‌ای از آشوب، افزایش سرکوب و خشونت علیه معترضان به‌اشتراک گذاشته شد، و چون اینترنت میدان نبرد جدیدی را در تکاپو برای احقاق حقوق زنان عرضه می‌کند، دسترسی به رسانه اجتماعی در ایران موضوعی اساسی است. باتوجه به اینکه Instagram یکی از معدود پلتفورم‌های باقی‌مانده است که نباید در این کشور ممنوع شود، نقش آن در جنبش ضدحکومتی «زن، زندگی، آزادی» بی‌نهایت پررنگ بوده است، علی‌رغم اینکه حکومت تلاش‌هایی برای تزریق رعب و وحشت و ساکت کردن زنان در فضای آنلاین انجام داده است. هیئت نتیجه می‌گیرد تلاش‌های Meta درجهت اطمینان از احترام به آزادی بیان و تجمع در بافتار سرکوب نظام‌مند دولت کافی نبوده است و توصیه می‌کند تغییری در «پروتکل خط‌مشی بحران» این شرکت صورت گیرد.

درباره این پرونده

ماه ژوئیه ۲۰۲۳، یکی از کاربران ویدیویی در Instagram پست کرد که برخورد مردی را با یک زن در ملاء عام به‌دلیل نداشتن حجاب نشان می‌دهد. در این ویدیو، که به زبان فارسی و با زیرنویس انگلیسی است، زن در واکنش به آن می‌گوید از حقوقش دفاع می‌کند. شرح همراه این پست برای این زن و سایر زنان ایرانی که درمقابل حکومت می‌ایستند ابراز حمایت می‌کند. بخشی از این شرح، که آن نیز به نقد از حکومت می‌پردازد، عبارت «به تکه‌تکه کردنتان چیزی نمانده است» را شامل می‌شود که ترجمه آن به‌گفته Meta بدین شرح است: It is not far to make you into pieces.

طبق قانون مجازات ایران، زنانی که در محیط‌های عمومی بدون «حجاب مناسب» ظاهر می‌شدند مشمول زندان، جریمه نقدی یا شلاق می‌بودند. در ماه سپتامبر ۲۰۲۳، حکومت ایران یک «لایحه حجاب و عفاف» جدید را تصویب کرد که طبق آن زنان درصورت تداوم به سرپیچی از قوانین حجاب اجباری ممکن بود به مجازاتی تا ۱۰ سال زندان محکوم شوند. شرح این پست مشخص می‌کند زنی که در این ویدیو دیده می‌شود هم‌اکنون تحت بازداشت است.

این پست ابتدا توسط سیستم‌های ماشینی Meta به‌دلیل نقض احتمالی «دستورالعمل‌های انجمن Instagram» پرچم‌گذاری شد، و سپس جهت بازبینی انسانی ارسال گردید. گرچه بازبینان متعددی این محتوا را طبق خط‌مشی خشونت و تحریک Meta ارزیابی کردند، به یک نتیجه یکسان نرسیدند، که به‌همین دلیل و همچنین به‌دلیل یک خطای فنی، پست در پلتفورم باقی ماند. سپس یکی از کاربران این پست را گزارش داد، که منجر به دور دیگری از بازبینی شد، و این‌بار تیم منطقه‌ای Meta با تخصص زبانی وارد عمل شد. در این مرحله، تشخیص داده شد که پست ناقض خط‌مشی «خشونت و تحریک» است، و از Instagram برداشته شد. کاربری که محتوا را پست کرده بود نزد هیئت درخواست تجدیدنظر کرد. Meta اظهار داشت که تصمیمش به برداشتن محتوا درست بوده است تااینکه هیئت این پرونده را انتخاب کرد. در آن مقطع، شرکت تصمیمش را لغو نمود و پست را برگرداند.

یافته‌های کلیدی

هیئت دریافت که این پست ناقض «استاندارد انجمن درخصوص خشونت و تحریک» نبوده است چون حاوی گفتار مجازی و خارج از معنای تحت‌اللفظی آن است، و تهدیدی واقعی به خشونت که قادر به تحریک آسیب آفلاین باشد محسوب نمی‌شود. گرچه Meta درابتدا پست را برداشت، و یکی از دلایلش این بود که عبارت «به تکه‌تکه کردنتان چیزی نمانده است» را عبارتی با قصد ارتکاب خشونت شدید – با هدف قرار دادن مرد داخل ویدیو – ارزیابی کرد، نباید آن را به‌صورت تحت‌اللفظی تفسیر نمود. باتوجه به بافتار اعتراضات گسترده در ایران، و شرح و خود ویدیو به‌صورت کلی، عبارت مذکور یک عبارت مجازی و بیانگر خشم و نارضایتی نسبت به حکومت است. کارشناسان زبانی که مشاور هیئت بودند به ترجمه‌ای از این عبارت با یک تفاوت جزئی اشاره کردند («we will tear you to pieces sometime soon»)، و توضیح دادند که ابرازکننده خشم، یأس و نفرت نسبت به حکومت است. این پست نه‌تنها محرک آسیب علیه حکومت نیست، بلکه محتمل‌ترین آسیبی که می‌تواند از آن ناشی شود خشونت انتقام‌جویانه ازسوی حکومت است.

بااینکه منطق خط‌مشی Meta بیان می‌کند «زبان» و «بافتار» را می‌توان موقع ارزیابی «تهدید واقعی» مدنظر قرار داد، رهنمود داخلی Meta برای نظارت‌کنندگان چنین کاری را در عمل امکان‌پذیر نمی‌سازد. به نظارت‌کنندگان آموزش داده شده است که برای برداشتن محتوا، معیارهای مشخصی (تهدید و هدف) را موقع برآورده شدنشان شناسایی کنند. هیئت قبلاً به نگرانی خود نسبت به این عدم تطابق در پرونده شعار اعتراضی ایران اشاره کرد؛ در آن پرونده، هیئت توصیه کرد Meta رهنمود دقیقی را درخصوص نحوه لحاظ کردن بافتار ارائه دهد و به نظارت‌کنندگان بگوید از برداشتن محتواهای حاوی «لحن بلاغی» در بیان نارضایتی برپایه روال پیش‌فرض دست بکشد. این نگرانی باقی است که همچنان فضایی برای انجام ناهماهنگ اقدامات اجرایی روی گفتارهای مجازی، در بافتارهایی مثل ایران، وجود دارد. علاوه‌براین، چون دقت سیستم‌های ماشینی متأثر از کیفیت داده‌های آموزشی است که انسان‌ها ارائه می‌کنند، تشدید اشتباه در برداشتن گفتارهای مجازی امری محتمل است.

این پست طبق «استاندارد انجمن درخصوص سازماندهی آسیب و ترویج جرم» نیز بررسی شد چون قانونی در منع «محتوایی که زنان بی‌حجاب را با افشای عکس‌های بدون حجاب برخلاف میل یا اجازۀ آن‌ها درخطر قرار می‌دهد» وجود دارد. آن سطر از خط‌مشی از آن زمان در منع مورد زیر اصلاح شده است: «نمایان کردن [زنان بی‌حجاب]: افشای هویت یک شخص و قرار دادن او در خطر آسیب.» درمورد این موضوع، هیئت با Meta موافق است که محتوا زن داخل ویدیو را «نمایان» نمی‌کند و خطر آسیب ازبین رفته بود چون هویت او شهرت گسترده‌ای داشت و قبلاً بازداشت شده بود. درواقع، این پست برای جلب توجه به موضوع بازداشت او اشتراک‌گذاری شد و می‌توانست به اعمال فشار بر مقامات برای آزاد کردن او کمک کند.

باتوجه به اینکه ایران طبق خط‌مشی‌های بحران Meta ازجمله «پروتکل خط‌مشی بحران» جزء کشورهای درخطر مشخص شده است، شرکت قادر است تغییراتی موقع («اهرم‌ها») را به‌منظور رسیدگی به این وضعیت خاص در خط‌مشی اعمال کند. گرچه هیئت بر تلاش‌های Meta در رابطه با ایران واقف است، این تلاش‌ها برای اطمینان از احترام به آزادی بیان و تجمع افراد در محیط‌هایی که مشمول سرکوب نظام‌مند قرار می‌گیرد کافی نیست.

تصمیم هیئت نظارت

هیئت نظارت تصمیم اولیه Meta مبنی بر برداشتن پست را رد کرده است.

هیئت توصیه می‌کند که Meta:

• با افزودن اهرمی به «پروتکل خط‌مشی بحران» شفاف‌سازی نماید که عبارات مجازی (یعنی آن‌هایی که معنای تحت‌اللفظی‌شان مدنظر نیست) وقتی مقصودشان تحریک خشونت نیست یا محتمل به آن نیست موجب نقض آن سطری از خط‌مشی «خشونت و تحریک» که تهدید به خشونت را در بافتارهای ذیربط منع می‌کند نمی‌شود. این موضوع باید شامل تدوین معیارهایی برای نظارت‌کنندگان کلان‌سطح درمورد نحوه شناسایی عبارات مذکور در بافتار ذیربط باشد.

* خلاصه‌های پرونده یک مرور کلی درباره پرونده‌ها ارائه می‌کنند و هیچ ارزش رسمی ندارند.

متن کامل تصمیم درباره پرونده

۱. خلاصه تصمیم

هیئت نظارت تصمیم اصلی Meta به برداشتن ویدیویی را رد کرده است که نشان می‌دهد مردی در خیابان‌های ایران با یک زن به‌دلیل نداشتن حجاب برخورد می‌کند. Meta این پست را به‌دلیل وجود سطر ذیل در شرح آن از Instagram برداشته شد: «به تکه‌تکه کردنتان چیزی نمانده است.» این عبارت را شرکت به‌عنوان تهدید می‌خواند، چون مرد داخل ویدیو را که به‌خاطر نداشتن حجاب با آن زن وارد بحث شده بود هدف قرار می‌دهد. هیئت دریافت که این پست ناقض خط‌مشی «خشونت و تحریک» نیست چون معنای مجازی آن و نه تحت‌اللفظی آن مدنظر است، و باتوجه به بافتار، فاقد تهدیدی واقعی به انجام خشونت است. پس از اینکه هیئت پرونده را انتخاب کرد، Meta ابتدا بر تصمیمش به برداشتن پست پابرجا ماند، اما قبل از ارسال توجیه خود به هیئت، Meta تشخیص داد که تصمیم اولیه‌اش به برداشتن محتوا نادرست بوده و پست را به پلتفورم برگرداند. هیئت نتیجه می‌گیرد تلاش‌های Meta درجهت اطمینان از احترام به آزادی بیان و تجمع در بافتار سرکوب نظام‌مند آزادی بیان توسط دولت کافی نبوده است و توصیه می‌کند تغییری در «پروتکل خط‌مشی بحران» این شرکت صورت گیرد.

۲. توضیح و پس‌زمینه پرونده

ماه ژوئیه ۲۰۲۳، یکی از کاربران Instagram ویدیویی به زبان فارسی با زیرنویس انگلیسی پست کرد که برخورد مردی را در ملاء عام با یک زن به‌خاطر نداشتن حجاب نشان می‌دهد، و آن زن در پاسخ می‌گوید از حقوقش دفاع می‌کند. هویت مرد در این ویدیو مشخص نیست درحالی که آن زن کامل دیده می‌شود. این ویدیو ظاهراً پست مجدد فیلم ضبط‌شده‌ای بود که ابتدا یکی از افراد وابسته به حکومت ایران یا حامی آن به‌اشتراک گذاشته بود. این ویدیو شرحی به زبان فارسی نیز داشت که برای آن زن و سایر زنان ایرانی که درمقابل حکومت می‌ایستند ابراز حمایت می‌کرد و حکومت و حامیان آن را مورد انتقاد قرار می‌داد. شرح این پست حاوی عبارتی است که Meta آن را چنین ترجمه می‌کند: «it is not far to make you into pieces» و بیان می‌کند آن زن درپی رخداد مذکور بازداشت شد. این پست حدود ۴۷,۰۰۰ بازدید، ۲,۰۰۰ لایک و ۱۰۰ نظر داشت و ۵۰ بار اشتراک‌گذاری شد.

این محتوا ابتدا توسط یکی از طبقه‌بندی‌کننده‌های ماشینی (نوعی الگوریتم که Meta از آن برای شناسایی موارد نقض احتمالی خط‌مشی‌هایش استفاده می‌کند) به‌عنوان نقض احتمالی «دستورالعمل‌های انجمن Instagram» شناسایی شد و برای بازبینی انسانی ارسال گردید. بازبینان متعددی این محتوا را ارزیابی کردند، اما به‌دلیل یک خطای فنی و چون بازبینان به یک نتیجه‌گیری واحد نرسیدند که آیا این پست ناقض خط‌مشی «خشونت و تحریک» است یا نه، درابتدا برداشته نشد. سپس یکی از کاربران محتوا را گزارش کرد؛ در واکنش به آن، یکی از طبقه‌بندی‌کننده‌های ماشینی مجدداً تشخیص داد محتوا می‌تواند ناقض خط‌مشی‌های Meta باشد، و آن را برای بازبینی بیشتر ارسال نمود. این محتوا توسط یک کاربر و فقط یک‌بار گزارش شد. پس از این مرحله از بازبینی بیشتر توسط تیمی از Meta با تخصص منطقه‌ای و زبانی، Meta پست را طبق خط‌مشی خود درخصوص «خشونت و تحریک» از Instagram برداشت. تصمیم Meta به برداشتن این پست برمبنای وجود سطر ذیل در آن شرح بود: «به تکه‌تکه کردنتان چیزی نمانده است» (it is not far make you into pieces). شرکت این سطر را نوعی تهدید علیه مردِ داخلِ ویدیو دانست که به‌خاطر نداشتن حجاب با آن زن وارد بحث شده بود. کاربری که پست را ساخته بود نسبت به تصمیم به برداشتن پست نزد Meta درخواست تجدیدنظر کرد. یکی از بازبینان بر تصمیم به برداشتن محتوا پابرجا ماند.

کاربری که محتوا را پست کرده بود نسبت به برداشتن آن نزد هیئت درخواست تجدیدنظر کرد. وقتی هیئت پرونده را جهت بررسی حقوقی انتخاب نمود، Meta همچنان بر تصمیم به برداشتن محتوا پابرجا بود. در این مرحله از بررسی، Meta «استاندارد انجمن درخصوص سازماندهی آسیب و ترویج جرم» را نیز مدنظر قرار داد، که طبق آن «نمایان کردن» زنان بی‌حجاب وقتی موجب خطر آسیب برای آنان درپی دارد ممنوع است. در مقطعی که محتوا پست شد، آن زن از قبل تحت بازداشت حکومت بود. پس از اینکه هیئت این پرونده را انتخاب کرد، شرکت متعاقباً تصمیمش را عوض کرد و محتوا را برمبنای نظرات تکمیلی تیم منطقه‌ای خود و باتوجه به تصمیم هیئت در پرونده فراخوانی برای تظاهرات زنان در کوبا به پلتفورم بازگرداند.

همان‌طور که هیئت در تصمیم درباره پرونده شعار اعتراضی ایران عنوان کرد، مردم ایران حداقل از زمان انقلاب ۱۳۵۷ علیه دولت و برای مطالبۀ حقوق مدنی و سیاسی و برابری جنسیتی در اعتراضات شرکت می‌کرده‌اند. در سال ۲۰۲۳، «جایزه صلح نوبل» به یک زندانی مدافع حقوق بشر به‌نام نرگس محمدی به‌خاطر «بیش از ۲۰ سال جنگیدن برای حقوق زنان [که] او را به سمبل آزادی و در مبارزه با حکومت دین‌سالار ایران تبدیل کرد» اعطا شد. طبق قانون مجازات ایران، زنانی که در محیط‌های عمومی بدون «حجاب مناسب» ظاهر شوند مشمول زندان، جریمه نقدی یا شلاق می‌شوند. زنان داخل ایران از برخی رشته‌های تحصیلی و بسیاری از مکان‌های عمومی نیز منع شده‌اند، و رقص با جنس مخالف و مواردی دیگر برای مردم ممنوع است. مردها سرپرست خانوار محسوب می‌شوند و زنان برای کار، ازدواج یا سفر باید اجازه پدرشان را کسب کنند. ارزش شهادت زن در دادگاه معادل نیمی از شهادت مرد محسوب می‌شود، و این موضوع دسترسی به عدالت را برای زنان محدود می‌کند.

پس از اینکه مقامات ایران تدابیر اجرای حجاب اجباری را در سال ۲۰۲۲ تشدید کردند و گسترش دادند، زنان بیشتر زیر ذره‌بین قرار گرفته‌اند، و همین غالباً منجر به آزارواذیت کلامی و فیزیکی و بازداشت آنان شده است. ماه سپتامبر ۲۰۲۲، دختری ۲۲ ساله به‌نام ژینا مهسا امینی سه روز پس از بازداشتش به‌خاطر اینکه ادعا شده بود از قوانین کشور درخصوص پوشیدن «حجاب مناسب» سرپیچی کرده است در بازداشتگاه فوت کرد. مرگ او جرقۀ شورش ملی و موج‌هایی از اعتراضات را در سراسر کشور به‌همراه یک جنبش ضدحکومتی شعله‌ور کرد که با نام زیر شناخته شده است: «زن، زندگی، آزادی» (Woman, Life, Freedom). این موضوع منتج به سرکوب خشونت‌آمیز ازسوی مقامات شد، به‌طوری که مرگ تأییدشدۀ بیش از ۵۰۰ نفر را تا پایان سال ۲۰۲۲ و دستگیری ۱۴,۰۰۰ نفر طبق برآورد صورت‌گرفته شد، که شامل معترضان و روزنامه‌نگاران، وکلا، فعالان، هنرمندان، و ورزشکارانی بود که حمایتشان را برای این جنبش ابراز کردند.

در ماه سپتامبر ۲۰۲۳، مجلس ایران یک «لایحه حجاب و عفاف» جدید را تصویب کرد که طبق آن زنان درصورت تداوم به سرپیچی از قوانین حجاب اجباری کشور ممکن بود به مجازاتی تا ۱۰ سال زندان محکوم شوند. کسب‌وکارهایی که به زنان بی‌حجاب خدمات‌رسانی کنند نیز با محرومیت‌های مختلف و خطر پلمب مواجه می‌شدند.

رسانه اجتماعی در قلب جنبش اعتراضی زنان در ایران بوده است، چراکه نقشی اساسی در بسیج کردن این اعتراضات و پخش اطلاعات حیاتی (به نظرات عمومی PC 21007 و PC-21011 مراجعه کنید)، و در مستندسازی و حفظ شواهد مربوط به موارد سوء‌استفاده و نقض حقوق بشر برای عموم (PC-21008، پیوست) ایفا کرده است.

بااین‌حال، کمپین‌های آنلاین نیز زنان را درخطر سرکوب شدیدتر حکومت، ازجمله تهدیدات، کمپین‌های افترا، بازداشت و حبس قرار می‌دهد. کارشناسان مشاور هیئت به شبکه گسترده‌ای از نهادهای وابسته به سپاه پاسداران انقلاب اسلامی و دولت ایران اشاره کردند که در Instagram و Telegram فعالیت دارند، و از دومی به‌طور مکرر برای هدف قرار دادن مستقیم و متهم کردن معترضان و مخالفان استفاده می‌شود.

چندین نظر عمومی ارسالی به هیئت نیز بر تاکتیک‌های حکومت در گزارش‌دهی انبوه محتواهای اعتراضی در Instagram با استفاده از سیستم گزارش‌دهی کاربران تأکید داشت که هدف این تاکتیک‌ها «اعمال فشار بر شرکت‌های رسانه اجتماعی برای وادار کردن آن‌ها به حذف محتواهای مرتبط با نارضایتی‌ها یا قرار دادن آن‌ها در وضعیت منع نامحسوس (shadow ban)» بوده است (به نظرات عمومی PC-21011 و PC-21009 مراجعه کنید). همچنین گزارش‌هایی مبنی بر پیشنهاد پول به نظارت‌کنندگان بر محتوا ازسوی مقامات رسمی اطلاعات ایران برای برداشتن محتواهای منتقدان حکومت وجود داشته است.

ماه فوریه ۲۰۲۳، گزارشگر ویژه سازمان ملل در موضوع ایران نگرانی‌هایی نسبت به تداوم سرکوب و هدف قرار دادن فعالان جامعه مدنی، مدافعان حقوق بشر، فعالان حقوق زنان، وکلا و روزنامه‌نگاران گزارش داد؛ این درحالی است که مقامات اقداماتی در مسدود کردن مسیرهای ابراز نارضایتی انجام می‌دهند، ازجمله اختلال سنگین در اینترنت و فیلتر کردن پلتفورم‌های رسانه اجتماعی.

۳. اختیارات هیئت نظارت و حدود آن

هیئت این اختیار را دارد که تصمیم Meta را پس از طرح درخواست تجدیدنظر ازطرف کسی که محتوای او برداشته شده است بازبینی کند (منشور، ماده ۲، بخش ۱؛ آیین‌نامه، ماده ۳، بخش ۱).

هیئت اجازه دارد از تصمیم Meta حمایت یا آن را رد کند (منشور هیئت نظارت، ماده ۳، بخش ۵) و این تصمیم برای شرکت الزام‌آور است (منشور هیئت نظارت، ماده ۴). Meta موظف است امکان اعمال تصمیم خود را بر محتوایی یکسان با بافتار مشابه نیز ارزیابی کند (منشور هیئت نظارت، ماده ۴). تصمیمات هیئت ممکن است شامل توصیه‌های غیرالزامی باشد که Meta موظف است پاسخگوی آن‌ها باشد (منشور هیئت نظارت، ماده ۳؛ بخش ۴؛ ماده ۴). موقعی که Meta متعهد به عمل طبق توصیه‌ها شود، هیئت بر اجرای آن‌ها نظارت می‌کند.

وقتی هیئت پرونده‌ای همچون پرونده جاری انتخاب می‌کند که Meta متعاقباً به وقوع اشتباه در آن اذعان می‌دارد، هیئت به‌منظور افزایش آگاهی از روند نظارت بر محتوا و جهت مطرح کردن توصیه‌هایی در کاهش خطاها و افزایش عدالت برای کاربران فیس‌بوک و Instagram، اقدام به بازبینی تصمیم اصلی می‌کند.

۴. منابع اعتبار و راهنمایی

در تحلیل هیئت روی این پرونده، استانداردها و سوابق زیر به هیئت کمک کرد:

۱. تصمیمات هیئت نظارت

مرتبط‌ترین تصمیمات پیشین هیئت نظارت شامل موارد زیر می‌شود:

• فراخوانی برای تظاهرات زنان در کوبا
• عبارت استعاری علیه رئیس‌جمهور پرو
• شعار اعتراضی ایران
• انزوای اوجالان
• علائم سرطان سینه و برهنگی

۲. خط‌مشی‌های محتوایی Meta

تعهد Meta نسبت به «حق اظهارنظر،» موضوعی که شرکت آن را «سرآمد» توصیف می‌کند، به‌همراه ارزش‌های امنیت، حریم‌خصوصی و شأن، مسائلی بودند که در تحلیل هیئت مورد توجه قرار گرفتند.

دستورالعمل‌های انجمن Instagram

در «دستورالعمل‌های انجمن Instagram» بیان شده است که شرکت «محتواهایی را که حاوی تهدیدات واقعی باشد برمی‌دارد» و پیوندهایی برای دسترسی به استاندارد انجمن درخصوص خشونت و تحریک ارائه شده است. «دستورالعمل‌های انجمن» پیوند مستقیمی برای دسترسی به استاندارد انجمن درخصوص سازماندهی آسیب و ترویج جرم دربر ندارد. در گزارش اجرای استانداردهای انجمن Meta برای سه‌ماهه اول سال ۲۰۲۳ بیان شده است که «فیس‌بوک و Instagram خط‌مشی‌های محتوایی مشترکی دارند. بنابراین، اگر محتوایی ناقض قوانین فیس‌بوک دانسته شود، در Instagram هم همین‌طور تلقی خواهد شد.»

محتوا طبق خط‌مشی «خشونت و تحریک» برداشته شد. پس از انتخاب شدن این پرونده توسط هیئت، Meta نیز محتوا را طبق خط‌مشی خود درخصوص «سازماندهی آسیب و ترویج جرم» تحلیل کرد.

استاندارد انجمن درخصوص خشونت و تحریک

مطابق با منطق خط‌مشی، هدف استاندارد انجمن درخصوص خشونت و تحریک عبارت است از «پیشگیری از خشونت بالقوه آفلاین که می‌تواند مرتبط با محتواهای» موجود در پلتفورم‌های Meta باشد. البته Meta بر این امر واقف است که «افراد به‌طور متداول اهانت و مخالفتشان را با تهدید و دعوت به خشونت به‌شکل‌هایی غیرجدی و غیررسمی ابراز می‌کنند.» بنابراین، وقتی Meta معتقد باشد محتوا حاوی «تهدید به خشونت است که می‌تواند منجر به مرگ شود»، آن را از پلتفورم برمی‌دارد، ازجمله محتوایی که کسی را با «اظهاراتی در بیان قصد» ارتکاب «خشونت شدید» هدف قرار دهد. شرکت بیان می‌کند که موقع تصمیم‌گیری درخصوص واقعی بودن یا نبودن یک تهدید، بافتار آن را مدنظر قرار می‌دهد، و این می‌تواند هرگونه شامل هرگونه اطلاعاتِ بیشتر باشد، ازجمله «میزان دیده‌شدن هدف در عموم و آسیب‌پذیری آن.»

در بخش «آنچه نباید پست شود» از این خط‌مشی، «تهدیداتی که بتواند منجر به مرگ (و سایر انواع خشونت شدید) شود» ممنوع دانسته شده است. واژه «تهدید» شامل «عبارات بیانگر قصد» ارتکاب خشونت شدید هم می‌شود.

استاندارد انجمن درخصوص سازماندهی آسیب و ترویج جرم

براساس منطق خط‌مشی، هدف «استاندارد انجمن درخصوص سازماندهی آسیب و ترویج جرم» عبارت است از «ممانعت از آسیب آفلاین و رفتارهای طوطی‌وار» با منع کردن افراد از «تسهیل نمودن، سازمان‌دهی، ترویج یا اذعان به بعضی فعالیت‌های مجرمانه یا آسیب‌زا که افراد، کسب‌وکارها، اموال یا حیوانات را هدف قرار دهد.» این موضوع شامل «نمایان کردن» نیز می‌شود، که Meta چنین تعریف می‌کند: محتوایی که هویت یا موقعیت مکانی فردی را که ادعا می‌شود «عضوی از گروه‌های درخطر نمایان شدن» است آشکار سازد. این سطر از خط‌مشی را نظارت‌کنندگان کلان‌سطح در ارتباط با برخی از گروه‌های مشخص اجرا می‌کنند. خط‌مشی Meta در مقطع پست شدن محتوا بیان کرد که ممکن است به برداشتن محتوایی با ویژگی‌های ذیل نیز درصورت ارجاع به مراتب بالا و با داشتن بافتارِ بیشتر اقدام کند: «محتوایی که زنان بی‌حجاب را با افشای عکس‌های بدون حجاب برخلاف میل یا اجازۀ آن‌ها درخطر قرار می‌دهد.» مفاد مذکور اکنون ویرایش شده و ممنوعیتی بدین شرح مقرر می‌کند: «نمایان کردن [زنان بی‌حجاب]: افشای هویت یک شخص و قرار دادن او در خطر آسیب.»

۳. مسئولیت‌های Meta نسبت به حقوق بشر

«اصول راهنمای سازمان ملل در زمینه حقوق بشر و کسب‌وکارها» (UNGPs)، که در سال ۲۰۱۱ به تأیید شورای حقوق بشر سازمان ملل رسید، یک چارچوب داوطلبانه برای مسئولیت‌های حقوق بشری برای کسب‌وکارهای خصوصی تعریف می‌کند. خط‌مشی حقوق بشر سازمانی Meta، که در تاریخ ۱۶ مارس ۲۰۲۱ ابلاغ شد، مهر تأییدی بر تعهد شرکت در احترام گذاشتن به حقوقی بود که در UNGPs عنوان شده است.

استانداردهای بین‌المللی زیر می‌تواند به تحلیلی که هیئت روی مسئولیت‌های حقوق بشری Meta در این پرونده انجام می‌دهد مرتبط باشد:

• حق آزادی بیان: ماده ۱۹ پیمان بین‌المللی حقوق مدنی و سیاسی ( ICCPR)، تفسیر کلی شماره ۳۴، کمیته حقوق بشر، سال ۲۰۱۱؛ گزارشگر ویژه سازمان ملل در رابطه با آزادی عقیده و بیان، گزارش‌های: A/HRC/38/35 (۲۰۱۸) و A/74/486 (۲۰۱۹)؛ و طرح اقدام رباط، گزارش «کمیساریای عالی حقوق بشر سازمان ملل»: A/HRC/22/17/الحاقیه ۴ (۲۰۱۳).
• حق آزادی در تشکیل تجمع مسالمت‌آمیز: ماده ۲۱ از ICCPR؛ نظر عمومی شماره ۳۷، کمیته حقوق بشر، ۲۰۲۰.
• حق حیات: ماده ۶ از ICCPR.
• حق آزادی و امنیت شخص: ماده ۹ از ICCPR.
• حق عدم تبعیض: ماده ۲(۱)، ۳ و ۲۶ از ICCPR؛ ماده ۱ و ماده ۷ (عدم تبعیض در مشارکت در زندگی سیاسی و عمومی کشور)، کنوانسیون رفع انواع تبعیض علیه زنان (CEDAW). همچنین به اعلامیه مدافعان حقوق بشر، ماده ۸، حق دسترسی مؤثر و به‌دور از تبعیض به مشارکت در انجام امور عمومی، مراجعه کنید.
• حق داشتن حریم‌خصوصی: ماده ۱۷، ICCPR.

۵. اظهارات ارسالی کاربر

کاربری که محتوا را پست کرده بود نسبت به برداشتن آن نزد هیئت درخواست تجدیدنظر کرد. کاربر در اظهاراتش توضیح داد که پست یکی از نمایندگان دولت ایران را در برخورد با زنی که حجاب نداشت نشان می‌داد. کاربر بیان کرد این ویدیو نشان‌دهنده شجاعت آن زن ایرانی در دفاع از حقوقش است. کاربر بیان کرد دیگران هم ویدیوهای مشابهی در رسانه‌های اجتماعی منتشر کرده‌اند و محتوا آسیب‌زا یا خطرناک نبوده است و هیچ‌یک از خط‌مشی‌های Instagram را نقض نمی‌کند.

۶. اظهارات ارسالی Meta

استاندارد انجمن درخصوص خشونت و تحریک

Meta به هیئت گفت که تصمیم اولیه‌اش به برداشتن محتوای این پرونده برپایه خط‌مشی خشونت و تحریک اتخاذ شده بود. Meta توضیح داد که تصمیمش برپایه بخشی از شرح آن پست بوده است، که شرکت آن را چنین ترجمه کرد: «it is not far to make you into pieces.» شرکت آن سطر را هدف قرار دادن مردِ داخلِ ویدیو دانست که به‌خاطر نداشتن حجاب با آن زن وارد بحث شده بود. تیم منطقه‌ای این شرکت تشخیص داد عبارت «تکه‌تکه کردن» در بافتار ایران به‌منزله تهدید به آسیب فیزیکی است. باتوجه به تفسیر مذکور، Meta درابتدا بر تصمیمش به برداشتن محتوا طبق خط‌مشی «خشونت و تحریک» پابرجا ماند.

گرچه Meta بر تصمیمش به برداشتن محتوا موقعی که هیئت درابتدا این پرونده را برای بررسی حقوقی شناسایی کرد پابرجا ماند، متعاقباً تصمیم خود را پس از انتخاب شدن پرونده جاری توسط هیئت عوض کرد و محتوا را براساس نظرات تکمیلی تیم منطقه‌ای به پلتفورم بازگرداند. براساس آن نظرات، Meta نتیجه گرفت محتمل‌ترین تفسیر جملۀ موجود در شرح عبارت است از اشاره‌ای به سرنگون کردن حکومت ایران یا حامیان حجاب اجباری، و نه معنی تحت‌اللفظی این تهدید علیه مردی که در ویدیو است.

Meta در این بررسی نهایی نتیجه گرفت محتوا درصدد آگاه‌سازی و جلب توجه به موارد سوءرفتار علیه زنان بوده است، ازجمله زنی که مرد داخل این ویدیو به‌دلیل نداشتن حجاب با او برخورد می‌کند. کاربر به قدرت زنان ایران اشاره و از «حرام‌زادگی» انتقاد می‌کند، که یا اشاره به مردی دارد که این ویدیو را ضبط کرده است یا به‌طور کلی حکومت، و درخصوص بازداشت شدن زن داخل ویدیو آگاه‌سازی می‌کند. Meta توضیح داد لحن مذکور که به‌طور بالقوه تهدیدآمیز است باید با عنایت به کلیت این بافتار خوانده و برداشت شود. این نوع آگاه‌سازی، که Meta با ارجاع به تصمیم هیئت در پرونده «شعار اعتراضی ایران» در توجیه خود عنوان کرد، در فضای ایران به‌شدت اهمیت دارد چراکه مجراهای آزادی بیان در آنجا محدود است.

Meta همچنین به هیئت اطلاع داد پس از پژوهش‌های بیشتر، تیم‌های منطقه‌ای بیان کردند منطقی‌ترین تفسیر از عبارت «به تکه‌تکه کردنتان چیزی نمانده است» نمی‌تواند تهدیدی واقعی باشد، بلکه یک نقد سیاسی علیه کل حکومت یا به‌طور کلی حامیان حجاب اجباری است. گرچه «تکه‌تکه کردن» درکل به کشتن یک نفر با بریدن بدنش به قطعات مختلف اشاره دارد، در اینجا می‌توان آن را براندازی حکومت تفسیر کرد (مشابه با زبان استعاری مورد استفاده در خلاصۀ تصمیم عبارت استعاری علیه رئیس‌جمهور پرو).

Meta به هیئت گفت عامل دیگری که شرکت درنهایت به بازگرداندن محتوا اقدام کرد تصمیم اخیر هیئت در پرونده فراخوانی برای تظاهرات زنان در کوبا بود، که در آن هیئت تأکید داشت خواندن پست با تکیه بر بافتار باید ضمن درنظرگیری موج سرکوب دولت و منفعت عمومی قابل‌توجه در اعتراضات تاریخی که موضوع پست بودند انجام گیرد. به‌علاوه، شرکت پرونده شعار اعتراضی ایران را نیز مدنظر قرار داد، که در آن هیئت به تحلیل جنبش سیاسی مربوط به حقوق زنان در ایران پرداخته بود. در آن پرونده، هیئت بر اهمیت حفاظت از حق اظهارنظر در بافتار جنبش اعتراضی، بالاخص جایی که سرکوب نظام‌مند آزادی بیان توسط دولت ایران و اهمیت فضاهای دیجیتال به‌عنوان تالار گفتمانی برای ابراز نارضایتی مطرح است، تأکید کرد. شرکت همچنین عنوان کرد خلاصه تصمیم اخیر هیئت در پرونده «عبارت استعاری علیه رئیس‌جمهور پرو» را مدنظر قرار داده است، که بر «اهمیت طراحی سیستم‌های نظارت بر محتوا با قابلیت حساسیت به بافتار و آگاهی از کنایه، طنز یا گفتمان بلاغی، بالاخص جهت حفاظت از سخنان سیاسی» مجدداً تأکید داشت.

استاندارد انجمن درخصوص سازماندهی آسیب و ترویج جرم

Meta به هیئت گفت برداشتن محتوا را طبق استاندارد انجمن درخصوص سازماندهی آسیب و ترویج جرم نیز به‌دلیل نمایان کردن غیرعمدی هویت زن داخل ویدیو در وضعیت بی‌حجاب بررسی کرده بود. Meta این سطر از خط‌مشی را فقط درصورت ارجاع محتوا به مراتب بالا و درصورت ارائه بافتار اضافه‌تر اجرا می‌کند. اجرای آن مستلزم دریافت نظرات ذینفعان مربوطه است و بر تعیین این موضوع تمرکز دارد که آیا محتوا با نشان دادن یک زن بی‌حجاب موجب افشای هویتش بدون اجازه او می‌شود یا نه، و احتمال دارد او را درخطر قرار دهد یا نه. به‌عبارتی، تمرکز آن بر استفاده شدن از عبارات خاص یا لحن محتوا یا شرح پست نیست. Meta عنوان می‌کند کسی نمی‌تواند خودش را «نمایان» کند – نمایان کردن درصورتی ناقض این خط‌مشی است که غیرعمدی بوده باشد.

در این پرونده، Meta تشخیص داد محتوا نباید برمبنای نمایان کردنِ غیرعمدی برداشته شود چون هویت آن زن شهرت گسترده‌ای داشت و در فضای آنلاین وجود داشت؛ ضمناً، او در مقطعی که محتوای این پرونده پست شد از قبل تحت بازداشت بود. این بافتار میزان خطر آسیب درپی نگه داشتن محتوای مذکور روی پلتفورم را به‌طور چشمگیری کاهش می‌داد.

هیئت به‌صورت کتبی ۱۱ سؤال و دو سؤال پیگیری از Meta پرسید. سؤالات مربوط به مسائل ذیل می‌شد: رویه‌ها و منابع اقدامات اجرایی برای ایران؛ ارزیابی خطر توسط Meta برای ایران از نگاه کلی و برای زن داخل ویدیو به‌صورت خاص؛ فرآیندهای بازبینی ماشینی و انسانی؛ اقدامات اجرایی روی محتوایی که زنان بی‌حجاب را به تصویر می‌کشد و یکی از گروه‌های درخطر را نمایان می‌کند، چه در سطح کلان و چه با ارجاع محتوا به مراتب بالا. Meta به تمام سؤالات پاسخ داد.

۷. نظرات عمومی

هیئت نظارت در رابطه با این پرونده ۱۲ نظر عمومی دریافت کرد. هفت نظر از ایالات متحده و کاناد، دو نظر از آسیای مرکزی و جنوبی، دو مورد از اروپا، و یکی از خاورمیانه و شمال آفریقا ارسال شده بود.

نظرات ارسالی مضامین ذیل را دربر می‌گرفت: نقش رسانه‌های اجتماعی در اعتراضات ایران، ازجمله جنبش «زن، زندگی، آزادی»، و نقشی که تصاویری از زنان بی‌حجاب در کمپین‌های دیجیتال ایفا می‌کند؛ خطرات دست‌به‌دست شدن تصاویری از زنان بی‌حجاب در ایران در رسانه‌های اجتماعی؛ استفاده از رسانه‌های اجتماعی توسط مقامات ایران؛ اجرای خط‌مشی‌های نظارت بر محتوا توسط Meta برای بیانات فارسی در ارتباط با وضعیت سیاسی حاکم بر ایران؛ آزادی بیان، حقوق بشر، حقوق زنان، سرکوب دولت و محدودیت‌های اعمال‌شده روی رسانه‌های اجتماعی در ایران.

برای خواندن نظرات عمومی ارسال‌شده در ارتباط با این پرونده، لطفاً روی اینجا کلیک کنید.

۸. تحلیل هیئت نظارت

هیئت تصمیم اولیه Meta به برداشتن محتوا را طبق خط‌مشی‌های محتوایی این شرکت، مسئولیت‌های حقوق بشری و ارزش‌های آن مورد بررسی قرار داد.

هیئت این پرونده را بدین خاطر انتخاب کرد که فرصتی برای بررسی خط‌مشی‌های Meta درخصوص «خشونت و تحریک» و «سازماندهی آسیب و ترویج جرم»، و همچنین بررسی فرآیندهای اجرایی مربوطه در بافتار اعتراضات گسترده برای حقوق زنان و مشارکت زنان ایران در زندگی عمومی از ماه سپتامبر ۲۰۲۲ ارائه می‌داد. به‌ویژه، به اهمیت پلتفورم‌های رسانه اجتماعی برای افراد معترض به قوانین حجاب اجباری می‌پرداخت.

علاوه‌براین، این پرونده فرصتی به هیئت می‌داد تا به بحث درمورد آن دسته از رویه‌های داخلی Meta بپردازد که مشخص می‌کند چه زمانی و چرا سخنان مجازی در مفهوم تحت‌اللفظی آن می‌تواند تهدیدآمیز تفسیر شود، اما باتوجه به بافتار نباید به‌عنوان تهدیدی واقعی تفسیر شود. این پرونده اساساً در زمره اولویت هیئت در موضوع «انتخابات و فضای مدنی» قرار می‌گیرد، اما گریزی به اولویت‌های هیئت در موضوع جنسیت، استفادۀ دولت‌ها از پلتفورم‌های Meta، و موقعیت‌های بحران و درگیری نیز می‌زند.

۸‏.۱ تبعیت از خط‌مشی‌های Meta درمورد محتوا

استاندارد انجمن درخصوص خشونت و تحریک

هیئت دریافته است که محتوای این پرونده موجب نقض «استاندارد انجمن درخصوص خشونت و تحریک» نمی‌شود چراکه حاوی گفتار مجازی در بیان خشم نسبت به سرکوب دولت است، نه گفتاری با معنای تحت‌اللفظی، و بنابراین تهدید واقعی به خشونت محسوب نمی‌شود.

Meta توضیح داد که ابتدا محتوای این پرونده را برداشت چون حاوی «اظهار قصد به ارتکاب خشونت شدید» بوده است. این شرکت «خشونت شدید» را چنین تعریف می‌کند: هرگونه تهدیدی که بتواند منجر به مرگ شود یا احتمال چنین چیزی را داشته باشد.

Meta با تکیه بر ارزیابی تیم منطقه‌ای خود عبارت «به تکه‌تکه کردنتان چیزی نمانده است» از شرح پست را تهدیدی به آسیب فیزیکی در بافتار ایران تعبیر کرد، که ناقض خط‌مشی «خشونت و تحریک» است.

کارشناسان زبانی مشاور هیئت توضیح دادند آن بخش از شرح پست را می‌توان به انگلیسی چنین ترجمه کرد: «we will tear you to pieces sometime soon!» یا «it is not far away, we will rip you into shreds.» کارشناسان عنوان کردند عبارت مذکور در بافتار ایران منتقل‌کنندۀ خشم، یأس و نفرت نسبت به ظالمان است، و این ایده را مطرح می‌کند که اوضاع شاید سرانجام عوض شود چون سلطه ظالمان بر قدرت قطعاً ابدی نخواهد بود. این عبارت را نباید براساس معنای تحت‌اللفظی آن به‌عنوان قصد به ایجاد آسیب فیزیکی تفسیر کرد؛ بلکه به‌عنوان یک «عبارت بلاغی» عمل می‌کند که هدفش جلب توجه است و لحنی با چاشنی عاطفی به‌واسطه افعال قدرتمندی مثل «پاره کردن» یا «تکه‌تکه کردن» آن را پررنگ‌تر می‌کند. این کارشناسان تأکید داشتند که گفتار مجازی این‌چنینی بازتابی است از خشم عمیقی که هم کاربر پست‌کننده محتوا و هم مخاطبانش در آن سهیم هستند. بنابراین، تهدیدی واقعی به خشونت فیزیکی از آن برداشت نمی‌شود.

گرچه Meta به هیئت گفت موقع ارزیابی واقعی بودن یا نبودن یک تهدید اقدام به درنظر گرفتن بافتار عبارت نیز می‌کند، رهنمود ارائه‌شده این شرکت به نظارت‌کنندگان اشاره‌ای نمی‌کند که می‌توانند موقع ارزیابی وجود «اظهار قصد [به ارتکاب] خشونت شدید» بافتار را درنظر بگیرند. مادامی که عناصر این قانون برآورده شده باشد، بالاخص وقتی محتوا حاوی تهدید و هدف است، پست ناقض دیده می‌شود، درست مثل پرونده جاری. در این پرونده، Meta آن عبارت را این‌گونه تفسیر کرد که دارد مردی را که به‌دنبال آن زن می‌رود هدف قرار می‌دهد. الزامی به دیده شدن یا مشخص بودن هویت هدف در آن قانون وجود ندارد. قوانین فقط یک مثال از گفتار تهدیدآمیزی را که مستثنی بوده یا تهدیدی واقعی به‌حساب نیامده است به‌عنوان یک قاعده ارائه می‌دهد: «تهدیداتی که علیه بعضی از عاملان خشونت، مثل گروه‌های تروریستی، وارد شده باشد.»

عبارت «تکه‌تکه کردن» در اینجا به‌منزله تهدیدی واقعی محسوب نمی‌شود. باتوجه به بافتار دوره‌ای از آشوب، افزایش سرکوب و خشونت علیه افراد معترض به حکومت ایران و با درنظرگیری شرح و ویدیو به‌صورت یکجا، هیئت دریافته است که عبارت از نوع مجازی و نه تحت‌اللفظی است که خشم و ناخشنودی را نسبت به حکومت ابراز می‌کند؛ بنابراین، حاوی «اظهار قصد [به ارتکاب] خشونت شدید» دانسته نمی‌شود. این تفسیر با تعهد Meta نسبت به حق اظهارنظر، و اهمیت حفاظت از ابراز نارضایتی سیاسی، همخوانی دارد.

استاندارد انجمن درخصوص سازماندهی آسیب و ترویج جرم

هیئت دریافته است که محتوای مربوط به این پرونده ناقض «استاندارد انجمن درخصوص سازماندهی آسیب و ترویج جرم» نیست.

Meta برداشتن این پست را طبق قانونی بررسی کرد که ممنوعیتی به‌شرح ذیل مقرر کرده است: «محتوایی که زنان بی‌حجاب را با افشای عکس‌های بدون حجاب برخلاف میل یا اجازۀ آن‌ها درخطر قرار می‌دهد» وجود دارد. این سطر از خط‌مشی از آن زمان ویرایش شده و ممنوعیتی بدین شرح مقرر می‌کند: «نمایان کردن [زنان بی‌حجاب]: افشای هویت یک شخص و قرار دادن او در خطر آسیب.» شرکت مفهوم «نمایان کردن» را شامل محتواهایی می‌داند که تصویری از یک زن بی‌حجاب را به‌اشتراک می‌گذارد، هویت او را بدون اجازه‌اش آشکار می‌کند و او را درخطر آسیب قرار می‌دهد. این سطر از خط‌مشی فقط درصورت ارجاع محتوا به مراتب بالا اعمال‌پذیر است و مستلزم دریافت نظرات از ذینفعان مختلف برای انجام اقدامات اجرایی است (به بخش ۴ فوق رجوع کنید).

در این پرونده، هیئت با Meta هم‌نظر است که محتوا آن زن را «نمایان» نمی‌کند، چون هویت او شهرت گسترده‌ای داشت و خطر آسیب ناشی از محتوا فروکش کرده بود زیرا قبل از مقطع پست شدن محتوا تحت بازداشت بوده است. بنابراین، ماندن این ویدیو روی پلتفورم نمی‌توانست خطر ورود آسیب به آن زن را به‌طور چشمگیری افزایش دهد و درواقع می‌توانست ازحیث آگاه‌سازی مردم نسبت به پرونده‌اش حفاظت‌کننده باشد. تشخیص اینکه یک پست موجب «نمایان کردن» یک زن می‌شود و او را درخطر قرار می‌دهد یا نه موضوعی به‌شدت متکی به بافتار است؛ اجرای این خط‌مشی منوط به ارجاع محتوا به مراتب بالاست، و این محدودیت می‌تواند تضمین کند که تیم اجراکننده آن از زمان و منابع کافی برای شناسایی مؤثر بافتار ذیربط و لحاظ کردن آن برخوردار باشد.

۸‏.۲ پیروی از مسئولیت‌های Meta نسبت به حقوق بشر

هیئت دریافته است که برداشتن محتوا از پلتفورم با مسئولیت‌های Meta نسبت به حقوق بشر همخوانی نداشته است.

آزادی بیان (ماده ۱۹ از ICCPR)

ماده ۱۹ از ICCPR حفاظت گسترده‌ای از آزادی بیان فراهم می‌کند، ازجمله «آزادی جستجو، دریافت و بازگو کردن همه نوع اطلاعات و ایده‌ها، فارغ از حد و مرزها، به‌صورت شفاهی، مکتوب یا چاپی، در غالب هنر، یا ازطریق هر رسانه‌ انتخابی فرد باشد.» وقتی یک دولت برای حق بیان محدودیت اعمال می‌کند، باید با الزامات مربوط به مشروعیت، داشتن هدف مشروع، و ضرورت و تناسب مطابقت داشته باشد (ماده ۱۹، پاراگراف ۳، ICCPR). هیئت از این چارچوب استفاده می‌کند تا تعهدات داوطلبانه Meta نسبت به حقوق بشر را، هم در رابطه با تصمیم محتوایی مورد بحث و هم برای آنچه این موضوع درمورد رویکرد وسیع‌تر Meta نسبت به مدیریت محتوا مشخص می‌کند، تفسیر نماید. همان‌طور که «گزارشگر ویژه سازمان ملل در زمینه آزادی بیان» عنوان کرده است، اگرچه «شرکت‌ها مانند دولت‌ها متعهد نیستند، اما تأثیرشان به گونه‌ای است که برای ارزیابی بعضی سؤالات درباره حفاظت از حقوق کاربران در زمینه آزادی بیان، باید به سؤالاتی یکسان پاسخ بدهند» (A/74/486، پاراگراف ۴۱).

دسترسی به رسانه‌های اجتماعی در جامعه‌ای بسته مثل ایران حیاتی است. پلتفورم‌های رسانه اجتماعی به‌عنوان «دربانان دیجیتال» دارای «اثری عمیق» روی دسترسی عموم مردم به اطلاعات هستند (A/HRC/50/29، پاراگراف ۹۰). پست مربوط به این پرونده بخشی از یک جنبش اعتراضی گسترده‌تر است که برای بقای خود بر فضاهای مدنی دیجیتال تکیه می‌کند. قوانینی که نحوه پوشش اجباری زنان را تعیین می‌کند بر آزادی و شأن آن‌ها اثر می‌گذارد (A/68/290، پاراگراف ۳۸)، فرقی ندارد که آن قانون درصدد اعمال ممنوعیت روی پوشیدن حجاب باشد یا منع حضور در فضاهای عمومی بدون داشتن حجاب (برای مثال رجوع شود به Yaker علیه فرانسه، CCPR/C/123/D/2747/2016). در این رابطه، «اینترنت به میدان نبرد تازه‌ای در مبارزه برای حقوق زنان تبدیل شده است، به‌طوری که فرصت‌هایی را برای زنان جهت ابراز خود پررنگ‌تر می‌کند» (A/76/258، پاراگراف ۴). میدان دادن به آزادی بیان زنان امکان مشارکت سیاسی آنان و تحقق حقوق انسانی‌شان را فراهم می‌سازد (A/HRC/Res/23/2، پاراگراف‌های ۱-‏۲؛ A/76/258، پاراگراف ۵).

۱. مطابقت با قانون (شفافیت و قابل دسترس بودن قوانین)

به‌موجب اصل مطابقت با قانون، هرگونه محدودیت در آزادی بیان مطابق با یک قانون بااساس باشد، به‌طوری که برای کاربران قابل دسترسی و شفاف باشد. این قانون باید «با دقت کافی تدوین شده باشد تا فرد بتواند رفتارش را مطابق آن اصلاح کند و باید برای عموم دسترسی‌پذیر باشد،» (نظر عمومی شماره ۳۴، پاراگراف ۲۵). به‌علاوه، قوانین محدودکننده آزادی بیان «نباید قدرت صلاحدید بی‌حدوحصری را برای اعمال محدودیت در آزادی بیان به مسئولان اجرای آن اعطا کند» و همچنین «باید رهنمود کافی در اختیار کسانی که متخلف شناخته شده‌اند قرار دهد تا بتوانند مطلع شوند که چه‌نوع اظهاراتی محدودیت دارد و چه نوع اظهاراتی ندارد» (نظر عمومی شماره ۳۴، پاراگراف ۲۵؛ A/HRC/38/35 (‏undocs.org)، در پاراگراف ۴۶). عدم شفافیت یا دقت می‌تواند منجر به ناهماهنگی در اجرای قوانین یا اجرای خودسرانه آنها شود. دررابطه با Meta، کاربران باید بتوانند پیامدهای پست کردن محتوا روی فیس‌بوک و Instagram را پیش‌بینی کنند، و بازبینان محتوا باید رهنمود شفافی درخصوص اقدامات اجرایی خود داشته باشند.

استاندارد انجمن درخصوص خشونت و تحریک

بنابه یافتۀ هیئت، بااینکه منطق خط‌مشی – که بیانگر هدف «استاندارد انجمن» است اما بخشی از خود قانون نیست – در «استاندارد انجمن درخصوص خشونت و تحریک» بیان می‌کند «بافتار مهم است» و در ارزیابی «واقعی بودن تهدید» می‌توان آن را مدنظر قرار داد، اما رهنمودهای داخلی Meta و رویکرد این شرکت نسبت به نظارت بر محتوا چنین کاری را در عمل امکان‌پذیر نمی‌سازد. همان‌طور که هیئت در پرونده «شعار اعتراضی ایران» عنوان کرد، نظارت‌کنندگان کلان‌سطح طوری آموزش دیده‌اند که به‌دنبال معیارهایی خاص یا عناصری در پست باشند، و وقتی آن عناصر دیده شود، به نظارت‌کنندگان گفته شده است که پست را بردارند. به‌عبارت دیگر، اگر پست حاوی تهدید (مثلاً «کشتن» یا «تکه‌تکه‌ات می‌کنم») و یک هدف باشد، برداشته شدن آن را درپی دارد. امکان ارزیابی تهدید ازلحاظ واقعی بودن یا نبودن آن برای نظارت‌کنندگان بر محتوا فراهم نشده است. همان‌طور که Meta در آن پرونده نیز توضیح داد، روال کار یا رویکرد فرمول‌وار بدین خاطر است که «ارزیابی اینکه [یک عبارت] به‌منزله گفتار استعاری است و نه تهدیدی واقعی، یک کار چالش‌برانگیز است، بالاخص در سطح کلان.» بررسی واقعی بودن تهدید مسئله‌ای است که در تدوین این قانون مدنظر قرار می‌گیرد و نه در اجرای آن. همان‌طور که هیئت در پرونده «شعار اعتراضی ایران» خاطرنشان کرد، بااینکه «به‌نظر می‌رسد در منطق خط‌مشی، گفتار استعاری از نوعی که می‌توان در بافتار اعتراضات انتظار داشت به‌حساب آورده شده است، قوانین کتبی و رهنمودهای مرتبط با آنان برای بازبینان محتوا چنین نیست. درواقع، اقدام اجرایی در عمل، بالاخص در سطح کلان، بیش از آنچه از قوانین برمی‌آید فرمول‌وار هستند، و همین ممکن است برداشت‌هایی اشتباه از نحوه اجرای احتمالی قوانین برای کاربران ایجاد کند. رهنمود مختص بازبینان، طبق نسخه پیش‌نویس جاری، امکان تحلیل بافتاری را منتفی می‌کند، حتی زمانی که سرنخ‌هایی شفاف درداخل خود محتوا مبنی بر استعاری بودن لحنِ تهدیدآمیز وجود داشته باشد.» این ناهماهنگی بین منطق خط‌مشی بیان‌شدۀ شرکت و اقدامات اجرایی آن در عمل همچنان ادامه دارد و اصل مطابقت با قانون را به‌طور مقتضی برآورده نمی‌کند.

هیئت به یافته‌هایش از پرونده «شعار اعتراضی ایران» مجدداً اشاره می‌کند که گفته شد Meta باید رهنمود دقیقی را درخصوص نحوه لحاظ کردن بافتار فراهم کند و به نظارت‌کنندگان دستور دهد که از برداشتن محتواهای بیانگر نارضایتی با لحن «بلاغی» یا خارج از مفهوم تحت‌اللفظی آن، به‌ویژه در محیط‌های سیاسی حساسی همچون ایران، برپایه روال پیش‌فرض امتناع کنند.

استاندارد انجمن درخصوص سازماندهی آسیب و ترویج جرم

هیئت دریافته است که ممنوعیت مقررشده توسط Meta برای «محتوایی که زنان بی‌حجاب را با افشای عکس‌های بدون حجاب برخلاف میل یا اجازۀ آن‌ها درخطر قرار می‌دهد» به‌اندازه کافی شفاف است، همان‌طور که در پرونده جاری اعمال می‌شود. این قانون به‌وضوح مشخص می‌کند محتوایی که زنان بی‌حجاب را «نمایان» می‌کند و می‌تواند منجر به آسیب شود در پلتفورم‌های Meta ممنوع دانسته می‌شود. بااین‌حال، هیئت ضمن ابراز نگرانی عنوان می‌کند «دستورالعمل‌های انجمن Instagram» پیوند مستقیمی برای دسترسی به استاندارد انجمن درخصوص سازماندهی آسیب و ترویج جرم دربر ندارد. این موضوع دسترسی‌پذیری به قوانین را برای کاربران Instagram زیر سؤال می‌برد. در پرونده‌های قبلی (علائم سرطان سینه و برهنگی، انزوای اوجالان)، هیئت توصیه کرده است که Meta نحوه اعمال «استانداردهای انجمن فیس‌بوک» در Instagram را برای کاربران شفاف‌سازی کند. Meta، در پاسخ به این موضوع، روندی را برای یکپارچه‌سازی «استانداردهای انجمن» با «دستورالعمل‌های انجمن Instagram» و مشخص کردن تفاوت‌های جزئی خط‌مشی‌های این دو پلتفورم درپیش گرفته است. در پیگیری گزارشات سه‌ماهه شفافیت، Meta به هیئت اطمینان داده است که این اقدام جزء اولویت‌ها خواهد ماند و اشاره کرد ملاحظات حقوقی و نظارتی بر برنامه کاری‌شان اثرگذار بوده است. هیئت بر اهمیت حرکت سریع به‌سوی تکمیل این فرآیند و تضمین شفافیت قوانین ذیربط مجدداً تأکید می‌کند.

۲. هدف مشروع

طبق پاراگراف ۳ از ماده ۱۹ در ICCPR، محدودیت روی آزادی بیان می‌تواند طبق مجموعه‌ای از دلایل مشخص و محدود صورت گیرد، ازجمله به‌هدف حفاظت از حقوق دیگران. بنابه یافتۀ هیئت، در این پرونده، هدف «استاندارد انجمن درخصوص خشونت و تحریک» این است که با برداشتن محتواهایی که «خطری واقعی از وقوع آسیب فیزیکی یا تهدیدات مستقیم برای امنیت عمومی» ایجاد می‌کند، از «وقوع آسیب آفلاین احتمالی جلوگیری شود.» بنابراین، این خط‌مشی درخدمت هدف مشروع حفاظت از حق حیات (ماده ۶ از ICCPR) و حق برخورداری از امنیت شخصی (ماده ۹ از ICCPR؛ نظر عمومی شماره ۳۵، پاراگراف ۹) عمل می‌کند.

خط‌مشی «سازماندهی آسیب و ترویج جرم» درخدمت هدف مشروع حفاظت از حقوق زنان داخل ایران درمقابل عدم تبعیض عمل می‌کند (ماده ۲، ۳ و ۲۶ از ICCPR؛ ماده ۱ و ۷ از CEDAW)، ازجمله برخورداری از حقوقشان نسبت به آزادی بیان و تجمع (ماده ۱۹ و ۲۱ از ICCPR)، حق مشارکت در زندگی عمومی (ماده ۱ و ۷ از CEDAW)، حق حریم‌خصوصی (ماده ۱۷ از ICCPR) و حقوقشان نسبت به حیات (ماده ۶ از ICCPR) و آزادی و امنیت شخصی (ماده ۹ از ICCPR).

۳. ضرورت و تناسب

اعمال هرگونه محدودیت درمورد آزادی بیان «باید برای دستیابی به عملکرد محافظتی موردنظر متناسب باشد؛ این کار باید ازطریق ابزاری انجام شود که بتواند با حداقل دخالت ممکن، عملکردهای محافظتی مورد نظر را داشته باشد؛ این محدودیت‌ها باید با منافعی که از آنها حفاظت می‌شود، تناسب داشته باشند» (نظر عمومی شماره ۳۴، پاراگراف ۳۴). شرکت‌های رسانه اجتماعی باید طیفی از واکنش‌های ممکن به‌جز حذف را درمقابل محتواهای مشکل‌ساز مدنظر قرار دهند تا اطمینان حاصل کنند که محدودیت‌ها به حداقل ممکن کاهش یابد (A/74/486، پاراگراف ۵۱).

استاندارد انجمن درخصوص خشونت و تحریک

هیئت دریافت که تصمیم اولیه Meta به برداشتن محتوای دخیل در این پرونده ضروری نبوده است. لزومی به حفاظت از امنیت کسی که ویدیو را می‌گیرد یا دیگران نبود، چون تهدید مطرح‌شده در شرح پست در مفهوم تحت‌اللفظی آن مطرح نیست. هیئت ابراز نگرانی می‌کند که حتی پس از رهنمودهایش در پرونده «شعار اعتراضی ایران»، «استانداردهای انجمن» این شرکت و رهنمود ارائه‌شده به نظارت‌کنندگان علی‌رغم وضعیت حاکم بر ایران و اعتراضاتی که هم‌اکنون برای بیش از یک سال درجریان بوده است همچنان فضایی برای ناهماهنگی در اقدامات اجرایی روی تهدیدات مجازی (خارج از مفهوم تحت‌اللفظی) باقی می‌گذارد. آن پرونده نیز همچون پرونده جاری با عبارتی سروکار داشت که Meta نتوانست آن را به‌عنوان عبارتی تهدیدآمیز خارج از مفهوم تحت‌اللفظی آن شناسایی کند. این موضوع که محتوای پرونده جاری را چندین نظارت‌کنندۀ کلان‌سطح و تیم‌های داخلی Meta بررسی کردند و آن را مکرراً ناقض دیدند استمرار در نبود رهنمود کافی را بیشتر برجسته می‌کند.

هیئت در بخشی از تحلیل‌های خود، از شش عامل از طرح اقدام رباط به‌منظور ارزیابی ظرفیت محتوای دخیل در این پرونده برای ایجاد خطر جدی تحریک تبعیض، خشونت، و سایر اعمال خلاف قانون استفاده کرد. هیئت عنوان می‌کند گرچه عوامل «طرح رباط» برای طرفداری از نفرت ملی، نژادی یا دینی که شامل تحریک می‌شود شکل گرفت و نه کلاً برای تحریک، آزمون شش‌عاملی برای ارزیابی تحریک در مفهوم عمومی مفید واقع می‌شود، و هیئت قبلاً از آن بدین شکل استفاده کرده است (برای مثال، رجوع شود به پرونده «شعار اعتراضی ایران» و «فراخوانی برای تظاهرات زنان در کوبا»):

• بافتار: محتوا در ماه ژوئیه ۲۰۲۳ پست شد، که دوره‌ای از آشوب، افزایش سرکوب‌ها و خشونت علیه افراد معترض به حکومت بود. باتوجه به اختلالات شدید در اینترنت و فیلترینگ پلتفورم‌های بزرگ رسانه اجتماعی مثل فیس‌بوک، Telegram و X، مکان‌های محدودی برای اعتراضات در این کشور وجود دارد. ازآنجا که Instagram یکی از معدود پلتفورم‌های باقی‌مانده است، نقش آن در جنبش «زن، زندگی، آزادی» بی‌نهایت پررنگ بوده است. کارشناسان مشاور هیئت خاطرنشان کردند این جنبش درصدد عادی‌سازی اعتراض و سرپیچی از چهار دهه قوانین تبعیض‌آمیز علیه زنان است. کارشناسان شاهد آن بودند که از ابتدای این جنبش، القای ترس و منع زنان از ابراز خود در فضای آنلاین جزء گرایش‌های عمده بوده است. اعمال قوانین جدید و دستگیری افراد مشهور با هدف محصور کردن این بیانات اعتراضی و جلوگیری از روند عادی‌سازی سرپیچی از قوانین حجاب صورت گرفته است.
• هویت گوینده: Meta به هیئت گفت که شرکت کاربرِ پست‌کننده محتوا را جزء چهره‌های معروف ندانسته است. براساس شرح آن ویدیو، کاربر ظاهراً حامی یا عضوی از جنبش «زن، زندگی، آزادی» است. بنابراین، گوینده در اینجا در جایگاهی از اختیار نیست و احتمالاً امنیت خودش را هم به‌واسطه ابراز حمایت و پست کردن این محتوا درخطر قرار می‌دهد.
• قصد: گرچه ارزیابی قصد و نیت موقع نظارت بر محتوا در سطح کلان چالشی عظیم ایجاد می‌کند، خوانش عینی و عادی کلیت این پست نشان از حمایت برای زن داخل تصویر و آگاه‌سازی از بازداشت او دارد. به‌گفته کارشناسان مشاور هیئت، در ایران دست‌به‌دست کردن تصویر یک زن بی‌حجاب و نام او درپی بازداشتش امری عادی است تا مقامات را تحت فشار قرار دهند که به او آسیبی نزنند. معترضان متوجه شده‌اند که با معرفی این افراد به عموم مردم، می‌توانند از اعمال آزارواذیت بیشتر بر قربانیان جلوگیری کنند.
• محتوا و قالب بیان: به‌گفته کارشناسان زبانی که طرف مشورت هیئت بودند، یک فارسی‌زبان عبارت «تکه‌تکه کردن» را در این بافتار درقالب حس عمیقی مثل خشم و یأس برداشت می‌کند، و نه تهدید به خشونت در مفهوم تحت‌اللفظی آن. از لحن قوی و ظاهراً تهدیدآمیز به‌طور مستمر ازسوی این جنبش برای مقابله با حکومت استفاده شده است. در پرونده شعار اعتراضی ایران، هیئت دریافت که شعار «مرگ بر خامنه‌ای» به‌منزله نوعی «تهدید بلاغی» است و عنوان کرد Meta تبصره «مفهوم باطنی خط‌مشی» را برای عبارت «هرکس خواهر/برادرم را بکشد او را خواهم کشت» به دلایل مشابه اعمال کرده است. عبارت دخیل در این پرونده در وسط شرحی ظاهر شده است که به تمجید از زنی که برای دفاع از حقوقش می‌جنگد می‌پردازد. این شرح، از نگاه کلی، بیانگر حمایت برای زنان ایرانی است که معترض قوانین تبعیض‌آمیز و اقدامات سوءاستفاده‌گرانه حکومت هستند.
• گستره و میزان بازدید: این پست حدود ۴۷,۰۰۰ بازدید، ۲,۰۰۰ لایک و ۱۰۰ نظر داشت و ۵۰ بار اشتراک‌گذاری شد. باتوجه به اینکه گفتار مذکور با درنظرگیری سایر عوامل دخیل در تحلیل «رباط» به‌نظر نمی‌رسد به‌عنوان تحریک عمل کند، میزان بالای بازدید این محتوا به‌خودی خود عاملی نیست که به ضرورت برداشتن محتوا اشاره کند.
• احتمال و میزان قریب‌الوقوع بودن آسیب: این عامل به ارزیابی احتمال برانگیختن آسیب قریب‌الوقوع و محتمل توسط گفتار مربوطه علیه هدف بالقوۀ آن گفتار (که در اینجا حکومت ایران بوده است) می‌پردازد. جنبش اعتراضی، و حامیان آن، درمقابل حکومتی می‌ایستند که مدام دست به سرکوب خشونت‌آمیز و انتقام‌جویی علیه معترضان زده است. محتمل‌ترین نوع آسیبی که می‌تواند از گفتار مورد بحث در این پرونده نشئت بگیرد خشونت تلافی‌جویانه ازسوی حکومت علیه کاربر پست‌کننده محتوا یا زنی است که در ویدیو دیده می‌شود، و نه خشونتی علیه حکومت یا حامیان آن. کارشناسان بر خطرات متوجه افرادی که در این اعتراضات شرکت می‌کنند، و همچنین پایستگی این جنبش علی‌رغم تهدید به خشونت نزدیک تأکید داشتند. همچنین بیان کردند هدف از دست‌به‌دست کردن تصاویر زنان بی‌حجابی که بازداشت شده‌اند عبارت است از جلب توجه به بازداشت آنان و اعمال فشار بر مقامات برای اینکه به آن‌ها آسیب نزنند.

برمبنای تحلیل عوامل نامبرده، هیئت این محتوا را فاقد تهدید واقعی و توانایی در تحریک آسیب آفلاین می‌بیند. وقتی از گفتار مجازی در بافتار اعتراضات گسترده‌ای که با سرکوب خشونت‌آمیز روبرو است استفاده می‌شود، Meta باید بازبینانش را قادر سازد تا به ارزیابی زبان و بافتار محلی بپردازند، و بدین‌ترتیب رهنمود مختص نظارت‌کنندگان را با منطق خط‌مشی ذیربط همسو سازد. اطمینان از ارزیابی دقیق در تعیین اینکه یک پست حاوی «گفتار مجازی» است یا محتمل به تحریک خشونت است مسئله‌ای حیاتی برای بهبود نظارت بر محتوا در مقاطع بحران در سطوح وسیع‌تر به‌حساب می‌آید. دقت سیستم ماشینی از کیفیت داده‌های آموزشی ارائه‌شده توسط نظارت‌کنندگان غیرماشینی اثر می‌پذیرد. هرجا نظارت‌کنندگان انسانی اقدام به برداشتن عبارات «مجازی» به‌دلیل سخت‌گیری در اجرای یک قانون خاص کنند، آن اشتباه احتمال دارد ازطریق سیستم‌های ماشینی تکرار و تشدید شود.

هیئت عنوان می‌کند Meta سازوکارهایی دراختیار دارد تا خط‌مشی‌ها و اقدامات اجرایی خود را طی موقعیت‌های بحران تعدیل نماید، ازجمله سیستم طبقه‌بندی کشورهای «درخطر» و «پروتکل خط‌مشی بحران» این شرکت. از سیستم طبقه‌بندی کشورهای «درخطر» برای شناسایی کشورهایی که درخطر «آسیب و خشونت آفلاین» هستند استفاده می‌شود تا نحوه اولویت‌بندی توسعه محصولات یا سرمایه‌گذاری روی منابع برای این شرکت مشخص شود. این ارزیابی می‌تواند برای سایر فرآیندها نیز درنظر گرفته شود (مثلاً تصمیم‌گیری نسبت به روی‌کار آوردن یک تیم عملیات ویژه یا فعال کردن استفاده از «پروتکل خط‌مشی بحران»). Meta به هیئت اطلاع داد که در نیمه دوم سال ۲۰۲۳، ایران جزء «کشورهای درخطر» مشخص شده است. ایران از روز ۲۱ سپتامبر ۲۰۲۲ (۳۰ شهریور ۱۴۰۱) نیز وارد «پروتکل خط‌مشی بحران» شده، و از آن زمان در آن مانده است. با «پروتکل خط‌مشی بحران» Meta می‌تواند تغییراتی موقت در خط‌مشی تحت عنوان «اهرم‌های خط‌مشی» ایجاد کند تا به وضعیتی خاص رسیدگی نماید. Meta مثال‌هایی از اهرم‌های خط‌مشی که قبلاً در ایران به‌کار برده است ارائه کرد، ازجمله «تبصرۀ مجاز کردن محتواهایی که دربردارندۀ شعار «هرکس خواهر/برادرم را بکشد او را خواهم کشت» یا مشتقات آن است، به‌شرطی که سایر خط‌مشی‌های ما را نقض نکند.» (برای مشاهده مثال‌های دیگر از اهرم‌های خط‌مشی، به صورت‌جلسه تالار گفتمان خط‌مشی مورخ ۲۵ ژانویه ۲۰۲۲، پروتکل خط‌مشی بحران، رجوع کنید.)

گرچه هیئت بر تعهد شرکت به امنیت و تلاش‌هایش برای تقلیل خطرات احتمالی نظارت بر محتوا به‌کمک فعال کردن «پروتکل خط‌مشی بحران» برای ایران واقف است، این تلاش‌ها برای تضمین احترام به آزادی بیان افراد و تجمعات در فضایی که سرکوب نظام‌مند نارضایتی و تنش‌های اجتماعی وجود دارد کافی نبوده است. طبق پژوهش‌هایی که هیئت به‌جریان انداخته است، اکثریت قریب‌به‌اتفاق محتواهایی که زنان بی‌حجاب را در بافتار بحث درمورد پوشیدن حجاب در ایران روی پلتفورم‌های Meta نشان می‌دهد ازسوی جنبش اعتراضی یا در حمایت از آن اشتراک‌گذاری می‌شود. در اینجا، فرآیند اقدامات اجرایی Meta مکرراً نتوانست عبارات مجازی و نه تحت‌اللفظی در بافتار ذیربط را از تهدیدات واقعی و تحریک خشونت، که پتانسیل تشدید آسیب آفلاین را دارند، متمایز سازد.

هیئت توصیه می‌کند Meta یک اهرم خط‌مشی به «پروتکل خط‌مشی بحران» اضافه کند، و مطابق آن معیارهای داخلی را به نظارت‌کنندگان کلان‌سطح درخصوص نحوه شناسایی عباراتِ بکاربرندۀ لحن تهدیدآمیز در مفهوم مجازی و نه تحت‌اللفظی در بافتار ذیربط ارائه کند تا عدم مغایرت آن‌ها با آن سطری از خط‌مشی «خشونت و تحریک» که تهدید به خشونت را منع می‌کند مشخص گردد. در تدوین معیارهای مختص شرایط بحران برای تشخیص اینکه یک تهدید مجازی است و مفهوم تحت‌اللفظی آن مدنظر نیست، Meta می‌تواند نگاهی بر عوامل «طرح رباط» داشته باشد (مثلاً بافتار اعتراضات گسترده علیه سرکوب دولت، توانایی گوینده در تحریک افراد به دست زدن به آسیب یا ایجاد خطر تحریک افراد در این راستا، بافتار زبانی و اجتماعی ذیربط که استفاده متداول از لحن تند/عاطفی را برای اثر بلاغی نشان دهد، احتمال وقوع آسیب باتوجه به دانش محلی، و غیره). شرکت همچنین می‌تواند در کسب کمک برای ایجاد یا ارزیابی معیارهای نظارت بر محتوا، بر شرکای مورداعتماد خود اتکا کند. خود Meta ضمن حمایت از سازمان ملل در ترجمه «طرح اقدام رباط» به ۳۲ زبان مختلف، بر اهمیت این طرح برای نظارت بر محتوا از نگاه عملی تأکید داشته است. این اهرم خط‌مشی باید «گفتار مجازی» را در بافتار اعتراضات علیه حکومت مجاز بشمارد، مشروط بر آنکه به قصد تحریک خشونت و محتمل به آن نباشد.

استاندارد انجمن درخصوص سازماندهی آسیب و ترویج جرم

در این پرونده، هیئت دریافت که برداشتن محتوا مطابق با «استاندارد انجمن درخصوص سازماندهی آسیب و ترویج جرم» ضروری نبوده است، چون هویت زن داخل ویدیو شهرت گسترده‌ای داشت و محتوا قطعاً برای جلب توجه به بازداشت او پست شده بود، به این امید که جلب توجه بتواند منجر به آزادی آن زن شود. به‌علاوه، تعدادی مفسّر عمومی بیان کردند زنانی که حجابشان را در محیط‌های عمومی برمی‌دارند این کار را از عمد و به‌عنوان اعتراض انجام می‌دهند، و از پیامدهای احتمالی آن آگاه هستند، پس انتخابشان «سرپیچی به‌عنوان راهبردی در مقابله با استبداد» بوده است (به نظر عمومی مؤسسه جهانی فناوری، PC-21009، رجوع کنید). هویت زن داخل ویدیو قبلاً شناسایی شده و توسط حکومت بازداشت شده بود. این پست به‌هدف جلب توجه به آن بازداشت اشتراک‌گذاری شد. معترضان و مخالفانی که در بازداشت حکومت بوده‌اند شکنجه شده، مورد خشونت جنسیتی قرار گرفته، یا ناپدید شده‌اند. کارشناسان مشاور هیئت و چند مفسّر عمومی به‌طور ویژه عنوان کردند که از این عمل، یعنی جلب توجه به بازداشت‌ها و سر دادنِ خواستۀ آزادی یک فرد تحتِ بازداشت، به‌طور مرتب توسط این جنبش و مدافعان حقوق بشر استفاده می‌شود و می‌تواند به حفاظت از افرادِ تحت بازداشتِ حکومت کمک کند.

ایجاد تعادل میان لزوم حفاظت از هویت کاربران آسیب‌پذیر و ازطرفی اجتناب از سانسور برای آن‌هایی که مایل به قرارگیری در معرض دید هستند یک مسئله حساس است و مستلزم تحلیل بافتاری، بررسی به‌موقع و اقدام سریع می‌باشد.

۹. تصمیم هیئت نظارت

هیئت نظارت تصمیم اولیه Meta مبنی بر برداشتن محتوا را رد کرد.

۱۰. توصیه‌ها

1. اقدامات اجرایی

برای تضمین احترام به آزادی بیان کاربران و تجمعات در فضایی از سرکوب دولتی نظام‌مند، Meta باید با افزودن یک اهرم خط‌مشی به «پروتکل خط‌مشی بحران» مشخص نماید عبارات مجازی (که معنای تحت‌اللفظی‌شان مدنظر نیست) موجب نقض آن سطری از خط‌مشی «خشونت و تحریک» که منعی در تهدید به خشونت در بافتارهای ذیربط مقرر می‌کند نمی‌شود، به‌شرطی که آن عبارات قصدشان تحریک خشونت یا محتمل به چنین چیزی نباشند. این موضوع باید شامل تدوین معیارهایی برای نظارت‌کنندگان کلان‌سطح درمورد نحوه شناسایی عبارات مذکور در بافتار ذیربط باشد.

هیئت زمانی این توصیه را اجراشده تلقی خواهد کرد که Meta هم روش‌های اجرای آن اهرم خط‌مشی و هم معیارهای حاصل را برای نظارت بر محتوا در ایران دراختیار هیئت بگذارد.

*نکته‌ای درباره روند تصمیم‌گیری:

تصمیمات هیئت نظارت توسط هیئت داوران متشکل از پنج عضو تهیه می‌شود و به تأیید اکثریت اعضای هیئت می‌رسد. تصمیمات هیئت لزوماً منعکس‌کننده نظرات شخصی تمام اعضا نیست.

برای تصمیم درباره این پرونده، تحقیق مستقلی ازطرف هیئت به جریان افتاد. هیئت از یک مؤسسه تحقیقاتی مستقل کمک گرفت که مرکز آن در دانشگاه گوتنبرگ واقع شده است و با تیمی متشکل از بیش از ۵۰ متخصص مسائل اجتماعی از شش قاره و همچنین بیش از ۳۲۰۰ متخصص کشوری از سراسر جهان شکل گرفته است. هیئت از Duco Advisers نیز کمک گرفت که یک شرکت خدمات مشاوره‌ای با تمرکز بر تلاقی ژئوپلتیک، اعتماد و امنیت، و فناوری است. Memetica، سازمانی که در پژوهش‌های منبع باز درخصوص گرایش‌های رسانه‌های اجتماعی فعالیت دارد، نیز تحلیلی ارائه کرد. خدمات تخصصی زبانی ازطرف شرکت Lionbridge Technologies, LLC ارائه شد؛ شرکتی که متخصصان آن به بیش از ۳۵۰ زبان تسلط دارند و در ۵۰۰۰ شهر در سراسر جهان مشغول فعالیت هستند.

मामले के निर्णयों और नीति सलाहकार राय पर लौटें