Wanita Iran Dikonfrontasi di Jalan.

Ringkasan

Dewan Pengawas telah membatalkan keputusan awal Meta untuk menghapus video yang memperlihatkan seorang pria sedang mengonfrontasi seorang wanita di jalanan Iran karena tidak mengenakan hijab. Postingan tersebut tidak melanggar aturan Kekerasan dan Hasutan karena berisi pernyataan figuratif, bukan secara harfiah, dan bukan merupakan ancaman kekerasan yang nyata. Di tengah masa kekacauan, meningkatnya represi dan kekerasan terhadap orang-orang yang berunjuk rasa, akses ke media sosial di Iran menjadi sangat penting, dan internet menjadi medan pertempuran baru dalam memperjuangkan hak-hak wanita. Karena Instagram adalah salah satu dari sedikit platform yang tidak dilarang di negara ini, perannya dalam gerakan antirezim “Wanita, Kehidupan, Kebebasan” tidak dapat diukur, terlepas dari upaya rezim untuk menanamkan ketakutan dan membungkam wanita secara online. Dewan menyimpulkan bahwa upaya Meta untuk memastikan dihormatinya kebebasan berekspresi dan berkumpul dalam konteks represi sistematis oleh negara tidaklah memadai dan Dewan merekomendasikan perubahan pada Protokol Kebijakan Krisis perusahaan.

Tentang Kasus

Pada Juli 2023, seorang pengguna memposting video di Instagram yang memperlihatkan seorang pria sedang mengonfrontasi seorang wanita di depan umum karena tidak mengenakan hijab. Dalam video tersebut, yang menggunakan bahasa Persia dengan teks bahasa Inggris, wanita tersebut menanggapi dengan mengatakan bahwa dia membela hak-haknya. Sebuah keterangan yang menyertai foto tersebut mengungkapkan dukungan kepada wanita tersebut dan para wanita Iran yang menentang rezim. Bagian dari keterangan tersebut, yang juga mengkritik rezim, termasuk frasa yang diterjemahkan sebagai, “tidak sulit untuk membuatmu hancur berkeping-keping,” menurut Meta.

Hukum pidana Iran mengancam wanita yang tampil di depan umum tanpa “hijab yang layak” dengan hukuman penjara, denda, atau cambukan. Pada September 2023, rezim Iran menyetujui Rancangan Undang-Undang Hijab dan Kesucian yang baru, di mana wanita dapat dihukum hingga 10 tahun penjara jika mereka terus menentang aturan wajib berhijab. Keterangan dalam postingan tersebut menjelaskan bahwa wanita dalam video tersebut telah ditangkap.

Postingan tersebut pertama kali ditandai oleh sistem otomatis Meta karena berpotensi melanggar Panduan Komunitas Instagram, dan kemudian dikirim untuk dilakukan peninjauan oleh manusia. Meskipun beberapa peninjau menilai konten berdasarkan kebijakan Kekerasan dan Hasutan Meta, mereka tidak sampai pada kesimpulan yang sama, yang, dikombinasikan dengan kesalahan teknis, menyebabkan postingan tersebut tetap tayang. Seorang pengguna kemudian melaporkan postingan tersebut, yang mengarah pada peninjauan tambahan, kali ini oleh tim regional Meta yang memiliki keahlian bahasa. Pada tahap ini, diputuskan bahwa postingan tersebut melanggar kebijakan Kekerasan dan Hasutan, dan postingan tersebut telah dihapus dari Instagram. Pengguna yang memposting konten tersebut mengajukan banding kepada Dewan. Meta mempertahankan bahwa keputusannya untuk menghapus konten tersebut sudah benar sampai Dewan memilih kasus ini, di mana pada tahap ini perusahaan membatalkan keputusannya dan memulihkan postingan tersebut.

Temuan Penting

Dewan menemukan bahwa postingan tersebut tidak melanggar Standar Komunitas Kekerasan dan Hasutan karena berisi ujaran figuratif, bukan secara harfiah, dan bukan ancaman kekerasan nyata yang dapat menimbulkan bahaya secara offline. Meskipun Meta awalnya menghapus postingan tersebut sebagian karena menilai frasa, “tidak sulit untuk membuatmu hancur berkeping-keping,” sebagai pernyataan niat untuk melakukan kekerasan tingkat tinggi—yang menargetkan pria dalam video tersebut—namun hal tersebut tidak boleh ditafsirkan secara harfiah. Mengingat konteks protes yang meluas di Iran, dan keterangan serta video secara keseluruhan, frasa tersebut bersifat figuratif yang mengekspresikan kemarahan dan kekecewaan terhadap rezim. Para ahli bahasa yang dimintai pendapatnya oleh Dewan mencatat terjemahan yang sedikit berbeda dari frasa tersebut (“kami akan mencabik-cabik kalian secepatnya”), yang menjelaskan bahwa frasa tersebut menunjukkan kemarahan, kekecewaan, dan kebencian terhadap rezim. Alih-alih memicu bahaya terhadap rezim, bahaya yang paling mungkin terjadi dari postingan ini adalah kekerasan balasan dari rezim.

Meskipun dasar kebijakan Meta menyarankan “bahasa” dan “konteks” dapat dipertimbangkan ketika mengevaluasi “ancaman yang nyata”, panduan internal Meta untuk moderator dalam praktiknya tidak memungkinkan hal ini. Moderator diinstruksikan untuk mengidentifikasi kriteria tertentu (ancaman dan target) dan ketika kriteria tersebut terpenuhi, untuk menghapus konten. Dewan sebelumnya telah mencatat kekhawatirannya tentang ketidakselarasan ini dalam kasus Slogan Protes Iran, di mana Dewan merekomendasikan agar Meta memberikan panduan yang mendalam tentang cara mempertimbangkan konteks, mengarahkan moderator untuk menghentikan penghapusan “bahasa retoris” yang mengekspresikan ketidaksetujuan. Tetap ada kekhawatiran bahwa masih ada ruang untuk penegakan yang tidak konsisten terhadap ujaran figuratif, dalam konteks seperti Iran. Lebih jauh lagi, karena akurasi otomatisasi dipengaruhi oleh kualitas data pelatihan yang dipasok oleh manusia, maka kemungkinan besar kesalahan dalam menghilangkan ujaran figuratif akan makin besar.

Postingan ini juga dipertimbangkan berdasarkan Standar Komunitas tentang Mengoordinasikan Tindakan Berbahaya dan Mendukung Aksi Kriminal karena ada aturan yang melarang “konten yang membahayakan wanita yang tidak berhijab dengan memperlihatkan gambar mereka tanpa hijab yang bertentangan dengan kehendak mereka atau tanpa izin”. Garis kebijakan tersebut telah diedit untuk melarang: “Pengumbaran aurat [wanita tidak berhijab]:: mengekspos identitas seseorang dan menempatkan mereka dalam risiko bahaya: Dalam hal ini, Dewan setuju dengan Meta bahwa konten tersebut tidak “mengumbar aurat” wanita dalam video dan risiko bahaya telah berkurang karena identitasnya telah diketahui secara luas dan dia telah ditangkap. Faktanya, postingan tersebut dibagikan untuk menarik perhatian atas penangkapannya dan dapat membantu menekan otoritas untuk membebaskannya.

Karena Iran ditetapkan sebagai negara berisiko berdasarkan kebijakan krisis Meta, termasuk Protokol Kebijakan Krisis, perusahaan dapat menerapkan perubahan kebijakan sementara (“pengungkit”) untuk mengatasi situasi tertentu. Meskipun Dewan mengakui upaya-upaya Meta terhadap Iran, upaya-upaya tersebut belum cukup untuk menjamin dihormatinya kebebasan berekspresi dan berkumpul di lingkungan yang penuh dengan represi sistematis.

Keputusan Dewan Pengawas

Dewan Pengawas membatalkan keputusan awal Meta untuk menghapus konten tersebut.

Dewan merekomendasikan Meta untuk:

• Menambahkan pengungkit pada Protokol Kebijakan Krisis untuk memperjelas bahwa pernyataan figuratif (yaitu, pernyataan yang tidak harfiah) yang tidak dimaksudkan untuk, dan tidak mungkin, menghasut kekerasan, tidak melanggar garis kebijakan Kekerasan dan Hasutan yang melarang ancaman kekerasan dalam konteks yang relevan. Hal ini harus mencakup pengembangan kriteria untuk moderator skala besar tentang cara mengidentifikasi pernyataan semacam itu dalam konteks yang relevan.

*Ringkasan kasus memberikan gambaran kasus dan tidak memiliki nilai preseden.

Keputusan Kasus Lengkap

1. Ringkasan Keputusan

Dewan Pengawas telah membatalkan keputusan awal Meta untuk menghapus video yang memperlihatkan seorang pria sedang mengonfrontasi seorang wanita di jalanan Iran karena tidak mengenakan hijab. Meta menghapus postingan tersebut dari Instagram karena kalimat berikut dalam keterangannya—“tidak sulit untuk membuatmu hancur berkeping-keping”—yang oleh perusahaan dibaca sebagai ancaman terhadap pria dalam video yang sedang menghampiri wanita tersebut karena tidak mengenakan hijab. Dewan menemukan bahwa postingan tersebut tidak melanggar kebijakan Kekerasan dan Hasutan karena pernyataan yang bersangkutan bersifat figuratif, bukan harfiah, dan mengingat konteksnya, bukan merupakan ancaman kekerasan yang nyata. Setelah Dewan menyeleksi kasus ini, Meta awalnya mempertahankan keputusannya untuk menghapus postingan tersebut—namun, sebelum mengajukan alasannya kepada Dewan, Meta memutuskan bahwa keputusan awalnya untuk menghapus konten tersebut adalah keliru dan memulihkan postingan tersebut ke platform. Dewan menyimpulkan bahwa upaya Meta untuk memastikan dihormatinya kebebasan berekspresi dan berkumpul dalam konteks represi sistematis oleh negara terhadap kebebasan berekspresi tidaklah memadai dan Dewan merekomendasikan perubahan pada Protokol Kebijakan Krisis perusahaan.

2. Deskripsi dan Latar Belakang Kasus

Pada Juli 2023, seorang pengguna Instagram memposting video dalam bahasa Persia dengan teks bahasa Inggris yang memperlihatkan seorang pria sedang mengonfrontasi seorang wanita di depan umum karena tidak mengenakan hijab, dan wanita tersebut menjawab bahwa ia membela hak-haknya. Pria tersebut tidak dapat diidentifikasi dalam video, sementara wajah wanita dalam video tersebut terlihat jelas. Video tersebut tampaknya merupakan postingan ulang dari rekaman yang awalnya dibagikan oleh seseorang yang berafiliasi atau mendukung rezim Iran. Video tersebut disertai dengan keterangan, juga dalam bahasa Persia, yang mengungkapkan dukungan untuk wanita tersebut dan untuk wanita Iran yang menentang rezim, serta mengkritik rezim dan para pendukungnya. Keterangan tersebut memuat kalimat yang diterjemahkan oleh Meta sebagai, “tidak sulit untuk membuatmu hancur berkeping-keping” dan menyatakan bahwa wanita tersebut ditangkap setelah insiden itu. Postingan tersebut memiliki sekitar 47.000 tayangan, 2.000 suka, 100 komentar dan 50 kali dibagikan.

Konten ini pertama kali ditandai oleh pengklasifikasi otomatis, sebuah algoritma yang digunakan Meta untuk mengidentifikasi potensi pelanggaran kebijakannya, karena berpotensi melanggar Panduan Komunitas Instagram dan dikirim untuk ditinjau oleh manusia. Beberapa peninjau menilai konten tersebut, tetapi karena kesalahan teknis dan karena para peninjau tidak mencapai kesimpulan yang sama tentang apakah postingan tersebut melanggar kebijakan Kekerasan dan Hasutan, postingan tersebut pada awalnya tidak dihapus. Seorang pengguna kemudian melaporkan konten tersebut, yang kemudian ditanggapi oleh pengklasifikasi otomatis yang menetapkan bahwa konten tersebut berpotensi melanggar kebijakan Meta dan mengirimkannya untuk ditinjau lebih lanjut. Konten tersebut dilaporkan oleh satu pengguna dan hanya dilaporkan satu kali. Setelah postingan itu menjalani tinjauan lebih lanjut oleh tim Meta yang memiliki keahlian regional dan bahasa, Meta menghapus postingan tersebut dari Instagram berdasarkan kebijakan Kekerasan dan Hasutan. Keputusan Meta untuk menghapus postingan tersebut didasarkan pada kalimat dalam keterangan foto berikut ini: “tidak sulit untuk membuatmu hancur berkeping-keping”. Perusahaan membaca kalimat ini sebagai ancaman terhadap pria dalam video yang mendekati wanita tersebut karena tidak mengenakan hijab. Pengguna yang membuat postingan tersebut mengajukan banding kepada Meta atas keputusan penghapusan postingan tersebut. Seorang peninjau menguatkan keputusan penghapusan tersebut.

Pengguna yang memposting konten tersebut mengajukan banding atas penghapusan tersebut kepada Dewan. Ketika Dewan mengidentifikasi kasus ini dalam tinjauan hukum, Meta mempertahankan keputusannya untuk menghapus konten tersebut. Pada tahap peninjauan ini, Meta juga mempertimbangkan Standar Komunitas tentang Mengoordinasikan Tindakan Berbahaya dan Mendukung Aksi Kriminal, yang melarang wanita tidak berhijab untuk “diumbar auratnya” ketika hal ini membuat wanita tersebut berada dalam risiko bahaya. Pada saat konten tersebut diposting, wanita tersebut telah ditangkap oleh rezim. Setelah Dewan memilih kasus tersebut, perusahaan kemudian mengubah keputusannya dan memulihkan konten berdasarkan masukan tambahan dari tim regionalnya dan keputusan Dewan dalam kasus Ajakan kepada Wanita untuk Melakukan Protes di Kuba.

Sebagaimana yang dicatat oleh Dewan dalam keputusan Slogan Protes Iran, orang-orang di Iran telah melakukan protes terhadap pemerintah serta atas hak-hak sipil dan politik serta kesetaraan gender, setidaknya sejak revolusi 1979. Pada tahun 2023, Hadiah Nobel Perdamaian dianugerahkan kepada Narges Mohammadi, seorang pembela hak asasi manusia yang dipenjara, karena “lebih dari 20 tahun memperjuangkan hak-hak wanita [yang telah] membuatnya menjadi simbol kebebasan dan pengusung standar dalam perjuangan melawan teokrasi Iran”. Hukum pidana Iran mengancam wanita yang tampil di depan umum tanpa “hijab yang layak” dengan hukuman penjara, denda, atau cambukan. Wanita di Iran juga dilarang mengikuti beberapa bidang studi tertentu dan dilarang berada di berbagai tempat umum, dan mereka juga dilarang berdansa dengan lawan jenis, dan banyak lagi lainnya. Pria dianggap sebagai kepala rumah tangga dan wanita memerlukan izin ayah atau suaminya untuk bekerja, menikah, atau bepergian. Kesaksian pengadilan dari seorang wanita dianggap hanya berbobot setengah dari kesaksian laki-laki, yang membatasi akses wanita terhadap keadilan.

Setelah otoritas Iran mengintensifkan dan memperluas langkah-langkah penegakan kewajiban berhijab pada tahun 2022, wanita mengalami peningkatan pengawasan, yang sering kali mengarah pada pelecehan verbal dan fisik serta penangkapan. Pada September 2022, Jina Mahsa Amini, 22 tahun, meninggal dunia dalam tahanan polisi tiga hari setelah penangkapannya karena diduga tidak mematuhi aturan negara tentang penggunaan “hijab yang pantas”. Kematiannya memicu kemarahan nasional dan gelombang protes di seluruh negeri, dan gerakan antirezim yang kemudian dikenal sebagai: “Zan, Zendegi, Azadi” (“Wanita, Kehidupan, Kebebasan”). Hal ini menyebabkan tindakan keras oleh otoritas, dengan lebih dari 500 kematian yang dikonfirmasi pada akhir tahun 2022, dan sekitar 14.000 orang ditangkap, termasuk para pengunjuk rasa serta jurnalis, pengacara, aktivis, seniman, dan atlet yang menyuarakan dukungan untuk gerakan tersebut.

Pada September 2023, parlemen Iran menyetujui rancangan undang-undang “Hijab dan Kesucian” yang baru, di mana wanita dapat dihukum hingga 10 tahun penjara jika mereka terus menentang aturan wajib berhijab di negara itu. Bisnis yang melayani wanita yang tidak berhijab juga akan menghadapi sanksi dan risiko penutupan.

Media sosial telah menjadi pusat dari gerakan protes kaum wanita di Iran, yang memainkan peran penting dalam mobilisasi protes dan penyiaran informasi penting (lihat komentar publik PC-21007, PC-21011), serta dalam mendokumentasikan dan menyimpan bukti-bukti tentang penyiksaan dan pelanggaran hak asasi manusia secara terbuka (PC-21008, lampiran).

Namun, kampanye online juga membuat kaum wanita terekspos pada risiko represi lebih lanjut oleh rezim, termasuk ancaman, kampanye pencemaran nama baik, penangkapan, dan pemenjaraan. Para pakar yang dimintai pendapat oleh Dewan mencatat adanya jaringan luas entitas yang terkait dengan Korps Garda Revolusi Islam dan pemerintah Iran yang beroperasi di Instagram dan Telegram, di mana Telegram sering kali digunakan untuk secara langsung menargetkan dan menuduh para pengunjuk rasa serta pembangkang.

Beberapa komentar publik yang disampaikan kepada Dewan juga menyoroti taktik rezim dalam melaporkan konten protes secara massal di Instagram menggunakan sistem pelaporan pengguna untuk “menekan perusahaan media sosial agar menghapus konten yang terkait dengan pembangkang atau menempatkannya dalam daftar hitam,” (lihat komentar publik PC-21011, PC-21009). Selain itu, ada juga laporan yang menyebutkan bahwa pejabat intelijen Iran menawarkan uang kepada para moderator konten untuk menghapus konten yang dibagikan oleh para pengkritik rezim.

Pada bulan Februari 2023, Pelapor Khusus PBB untuk Iran melaporkan kekhawatiran atas represi dan penargetan yang terus berlanjut terhadap aktivis masyarakat sipil, pembela hak asasi manusia, aktivis hak-hak wanita, pengacara, dan wartawan, karena otoritas membatasi ruang gerak untuk mengekspresikan perbedaan pendapat, termasuk disrupsi besar-besaran terhadap internet dan penyensoran platform media sosial.

3. Otoritas dan Lingkup Dewan Pengawas

Dewan berwenang untuk meninjau keputusan Meta menyusul banding dari orang yang kontennya telah dihapus (Piagam Pasal 2, Bagian 1; Anggaran Rumah Tangga Pasal 3, Bagian 1).

Dewan dapat menegakkan atau membatalkan keputusan Meta (Piagam Pasal 3, Bagian 5), dan keputusan ini mengikat perusahaan (Piagam Pasal 4). Meta juga harus menilai kelayakan penerapan keputusannya sehubungan dengan konten identik dengan konteks paralel (Piagam Pasal 4). Keputusan Dewan dapat mencakup rekomendasi tidak mengikat yang harus ditanggapi oleh Meta (Piagam Pasal 3, Bagian 4; Pasal 4). Jika Meta berkomitmen untuk menindaklanjuti rekomendasi, maka Dewan memantau penerapannya.

Ketika Dewan memilih kasus seperti ini, yang mana Meta kemudian mengakui bahwa pihaknya melakukan kekeliruan, Dewan akan meninjau keputusan awal Meta guna meningkatkan pemahaman mengenai proses moderasi konten dan membuat rekomendasi untuk mengurangi kekeliruan serta meningkatkan keadilan bagi pengguna Facebook dan Instagram.

4. Sumber Otoritas dan Panduan

Standar dan preseden berikut menyampaikan analisis Dewan dalam kasus ini:

I. Keputusan Dewan Pengawas

Keputusan Dewan Pengawas sebelumnya yang paling relevan meliputi:

• Ajakan kepada Wanita untuk Melakukan Protes di Kuba
• Pernyataan Metaforis yang Menentang Presiden Peru
• Slogan Protes Iran
• Isolasi Öcalan
• Gejala Kanker Payudara dan Ketelanjangan

II. Kebijakan Konten Meta

Analisis Dewan ini didasari oleh komitmen Meta terhadap “Suara” yang dideskripsikan perusahaan sebagai “yang terpenting”, dan nilai-nilainya, yaitu keamanan, privasi, dan martabat.

Pedoman Komunitas Instagram

Panduan Komunitas Instagram menyatakan bahwa perusahaan akan “menghapus konten yang mengandung ancaman yang nyata” dan tautan ke Standar Komunitas Kekerasan dan Hasutan. Panduan Komunitas tidak secara langsung terkait dengan Standar Komunitas Mengoordinasikan Tindakan Berbahaya dan Mendukung Aksi Kriminal. Laporan Penegakan Standar Komunitas untuk Q1 2023 Meta menyatakan bahwa “Facebook dan Instagram memiliki Kebijakan Konten yang sama. Artinya, jika konten dianggap melanggar di Facebook, konten tersebut juga dianggap melanggar di Instagram”.

Konten tersebut telah dihapus berdasarkan kebijakan Kekerasan dan Hasutan. Setelah Dewan memilih kasus tersebut, Meta juga menganalisis konten berdasarkan kebijakan mengenai Mengoordinasikan Tindakan Berbahaya dan Mendukung Aksi Kriminal.

Standar Komunitas tentang Kekerasan dan Hasutan

Menurut dasar kebijakan, Standar Komunitas Kekerasan dan Hasutan bertujuan untuk “mencegah potensi kekerasan offline yang mungkin terkait dengan konten” yang muncul di platform Meta. Pada saat yang sama, Meta menyadari bahwa “orang-orang biasa mengungkapkan hinaan atau ketidaksetujuan dengan mengancam atau menganjurkan kekerasan dengan cara yang biasa dan tidak serius”. Oleh karena itu, Meta menghapus konten jika perusahaan meyakini bahwa konten tersebut mengandung “ancaman kekerasan yang dapat menyebabkan kematian,” termasuk konten yang menargetkan siapa pun yang memiliki “pernyataan niat” untuk melakukan “kekerasan tingkat tinggi”. Mereka menyatakan bahwa mereka mempertimbangkan konteks pernyataan ketika menilai apakah sebuah ancaman dapat dianggap nyata, yang dapat berupa informasi tambahan seperti “visibilitas publik dan kerentanan target”.

Bagian “jangan memposting” dalam kebijakan tersebut secara khusus melarang “ancaman kekerasan yang dapat menyebabkan kematian (dan bentuk-bentuk kekerasan tingkat tinggi lainnya)”. Kata “ancaman” mencakup “pernyataan niat” untuk melakukan kekerasan tingkat tinggi.

Standar Komunitas mengenai Mengoordinasikan Tindakan Berbahaya dan Mendukung Aksi Kriminal

Menurut dasar kebijakan, Standar Komunitas Mengkoordinasikan Bahaya dan Mendukung Tindakan Kriminal bertujuan untuk “ menghentikan bahaya offline dan perilaku meniru” dengan melarang orang untuk “memfasilitasi, mengorganisir, mendukung, atau menerima aktivitas kriminal atau berbahaya tertentu yang ditargetkan kepada orang, bisnis, properti, atau hewan”. Hal ini termasuk “mengumbar aurat”, yang didefinisikan Meta sebagai konten yang mengekspos identitas atau lokasi yang berafiliasi dengan siapa pun yang diduga, antara lain, “menjadi anggota kelompok berisiko mengumbar aurat”. Garis kebijakan ini ditegakkan oleh moderator dalam skala besar dalam kaitannya dengan kelompok tertentu. Dalam eskalasi, dengan konteks tambahan, kebijakan Meta pada saat konten tersebut diposting menyatakan bahwa mereka juga dapat menghapus: “konten yang membahayakan wanita yang tidak berhijab dengan memperlihatkan gambar mereka tanpa hijab yang bertentangan dengan kehendak mereka atau tanpa izin”. Bahasa ini telah diedit untuk melarang: “mengumbar aurat [wanita yang tidak berhijab]: mengekspos identitas seseorang dan menempatkan mereka pada risiko bahaya”.

III. Tanggung Jawab Hak Asasi Manusia Meta

Prinsip Panduan PBB tentang Bisnis dan Hak Asasi Manusia (UNGP), yang didukung oleh Dewan Hak Asasi Manusia PBB pada tahun 2011, menetapkan kerangka kerja sukarela untuk tanggung jawab hak asasi manusia untuk bisnis swasta. Kebijakan Hak Asasi Manusia Perusahaan Meta, diumumkan pada 16 Maret 2021, menegaskan kembali komitmen perusahaan untuk menghormati hak sebagaimana tercermin dalam UNGP.

Standar internasional berikut mungkin relevan dengan analisis Dewan terhadap tanggung jawab hak asasi manusia Meta dalam kasus ini:

• Hak kebebasan berekspresi: Pasal 19, Kovenan Internasional mengenai Hak Sipil dan Hak Politik ( ICCPR), Komentar Umum No. 34, Komite Hak Asasi Manusia, 2011; Pelapor Khusus PBB tentang kebebasan berpendapat dan berekspresi, laporan: A/HRC/38/35 (2018) dan A/74/486 (2019); dan Rabat Plan of Action, laporan Komisaris Tinggi PBB untuk Hak Asasi Manusia: A/HRC/22/17/Add.4 (2013).
• Hak atas kebebasan berkumpul secara damai: Pasal 21, ICCPR; Komentar Umum No. 37, Komite Hak Asasi Manusia, 2020.
• Hak untuk hidup: Pasal 6, ICCPR.
• Hak atas kebebasan dan keamanan seseorang: Pasal 9, ICCPR.
• Hak antidiskriminasi: Pasal 2(1), 3 dan 26, ICCPR; Pasal 1 dan Pasal 7 (nondiskriminasi dalam partisipasi dalam kehidupan politik dan publik negara), Konvensi Penghapusan Segala Bentuk Diskriminasi terhadap Wanita (CEDAW) (CEDAW). Lihat juga Deklarasi Pembela Hak Asasi Manusia, Pasal 8, hak atas akses yang efektif, atas dasar nondiskriminatif, untuk berpartisipasi dalam pelaksanaan urusan-urusan publik.
• Hak privasi: Pasal 17, ICCPR.

5. Pengajuan Pengguna

Pengguna yang memposting konten tersebut kemudian mengajukan banding atas penghapusan tersebut kepada Dewan. Dalam pernyataannya, pengguna tersebut menjelaskan bahwa postingan itu menunjukkan seorang perwakilan pemerintah Iran yang mengonfrontasi seorang wanita karena tidak mengenakan hijab. Pengguna tersebut menyatakan bahwa video itu memperlihatkan keberanian wanita Iran untuk membela hak-haknya. Pengguna tersebut menyatakan bahwa orang lain telah membagikan video serupa di media sosial dan bahwa konten tersebut tidak berbahaya atau merugikan dan tidak melanggar kebijakan Instagram.

6. Pengajuan Meta

Standar Komunitas tentang Kekerasan dan Hasutan

Meta mengatakan kepada Dewan bahwa keputusan awal untuk menghapus konten dalam kasus ini didasarkan pada kebijakan Kekerasan dan Hasutan. Mereka menjelaskan bahwa keputusannya didasarkan pada bagian dari keterangan postingan tersebut, yang diterjemahkan oleh perusahaan sebagai: “tidak sulit untuk membuatmu hancur berkeping-keping”. Perusahaan membaca kalimat itu sebagai ancaman terhadap pria dalam video yang mendekati wanita tersebut karena tidak mengenakan hijab. Tim regional mereka memutuskan bahwa frasa “membuatmu hancur berkeping-keping” merupakan ancaman bahaya fisik dalam konteks Iran. Dengan interpretasi tersebut, Meta pada awalnya mendukung keputusan untuk menghapus konten tersebut berdasarkan kebijakan Kekerasan dan Hasutan.

Meskipun Meta mempertahankan keputusannya untuk menghapus konten ketika Dewan pertama kali mengidentifikasi kasus ini untuk tinjauan hukum, Meta kemudian mengubah keputusannya setelah Dewan memilih kasus ini dan memulihkan konten berdasarkan masukan tambahan dari tim regional. Berdasarkan masukan tersebut, Meta menyimpulkan bahwa interpretasi yang paling mungkin dari bahasa dalam keterangan video tersebut adalah referensi untuk menjatuhkan rezim Iran atau mereka yang mendukung kewajiban berhijab, bukan ancaman harfiah yang menargetkan pria dalam video tersebut.

Dalam tinjauan akhir ini, Meta menyimpulkan bahwa konten tersebut bertujuan untuk meningkatkan awareness dan menarik perhatian pada pelecehan yang dilakukan terhadap wanita, seperti wanita yang dikonfrontasi oleh pria dalam video tersebut karena tidak mengenakan hijab. Pengguna merujuk pada kekuatan wanita Iran serta mengkritik “kebejatan,” dengan mengacu pada pria yang merekam video tersebut atau rezim secara keseluruhan, dan meningkatkan awareness akan penangkapan wanita dalam video tersebut. Meta menjelaskan bahwa bahasa yang berpotensi mengancam harus dibaca dan dipahami dalam konteks menyeluruh. Jenis peningkatan awareness seperti ini, Meta mencatat dalam dasar pemikirannya, mengutip keputusan Dewan dalam kasus Slogan Protes Iran, sangat penting di Iran di mana terdapat saluran-saluran yang terbatas untuk berekspresi secara bebas.

Meta juga menginformasikan kepada Dewan bahwa setelah penelitian lebih lanjut, tim regional menyarankan bahwa interpretasi yang paling masuk akal dari bahasa “tidak sulit untuk membuatmu hancur berkeping-keping” bukanlah ancaman yang nyata, tetapi lebih merupakan kritik politik yang ditujukan kepada rezim secara keseluruhan atau orang-orang yang mendukung kewajiban berhijab secara umum. Meskipun “membuatmu hancur berkeping-keping” secara umum mengacu pada tindakan membunuh seseorang dengan memotong-motong tubuh mereka, di sini hal tersebut dapat dipahami sebagai meruntuhkan rezim (mirip dengan bahasa metaforis yang digunakan dalam keputusan ringkasan Pernyataan Metaforis Melawan Presiden Peru).

Meta mengatakan kepada Dewan bahwa faktor lain yang membuat perusahaan pada akhirnya memulihkan konten tersebut adalah keputusan Dewan baru-baru ini dalam kasus Ajakan kepada Wanita untuk Melakukan Protes di Kuba, di mana Dewan menekankan bahwa pembacaan kontekstual atas postingan tersebut harus memperhitungkan gelombang represi negara dan kepentingan publik yang signifikan terhadap protes bersejarah yang menjadi subjek postingan tersebut. Selain itu, perusahaan juga mempertimbangkan kasus Slogan Protes Iran, di mana Dewan menganalisa gerakan politik seputar hak-hak wanita di Iran. Di sana, Dewan menekankan pentingnya perlindungan terhadap suara dalam konteks gerakan protes, terutama mengingat represi sistematis pemerintah Iran terhadap kebebasan berekspresi dan pentingnya ruang digital sebagai forum untuk mengekspresikan perbedaan pendapat. Perusahaan juga mencatat bahwa mereka telah mempertimbangkan keputusan ringkasan Dewan baru-baru ini dalam Pernyataan Metaforis Melawan Presiden Peru, yang menekankan kembali “pentingnya merancang sistem moderasi yang sensitif terhadap konteks dengan awareness akan ironi, satir, atau wacana retoris, terutama untuk melindungi ujaran bernuansa politik”.

Standar Komunitas mengenai Mengoordinasikan Tindakan Berbahaya dan Mendukung Aksi Kriminal

Meta mengatakan kepada Dewan bahwa mereka juga mempertimbangkan untuk menghapus konten tersebut berdasarkan Standar Komunitas Mengoordinasikan Tindakan Berbahaya dan Mendukung Aksi Kriminal karena secara tidak langsung mengumbar aurat wanita yang ditampilkan dalam video tanpa hijab. Meta memberlakukan garis kebijakan ini hanya pada eskalasi dan jika konteks tambahan diberikan. Penegakan memerlukan masukan dari para pemangku kepentingan yang relevan dan difokuskan untuk menentukan apakah konten tersebut menggambarkan seorang wanita tanpa hijab, yang mengekspos identitasnya tanpa izin, dan kemungkinan besar akan membahayakan dirinya, bukan pada istilah tertentu yang digunakan atau nada konten atau keterangannya. Meta mencatat bahwa seseorang tidak dapat “diumbar auratnya” sendiri—pengumbaran aurat harus dilakukan secara paksa agar dianggap melanggar kebijakan.

Dalam kasus ini, Meta memutuskan bahwa konten tersebut tidak seharusnya dihapus atas “pengumbaran aurat” karena identitas wanita tersebut telah diketahui secara luas dan tersedia secara online, dan dia telah ditangkap pada saat konten kasus tersebut diposting. Konteks ini secara signifikan mengurangi risiko bahaya yang terkait dengan membiarkan konten tetap berada di platform.

Dewan mengajukan 11 pertanyaan kepada Meta dan dua pertanyaan lanjutan secara tertulis. Pertanyaan-pertanyaan yang terkait dengan prosedur penegakan dan sumber daya untuk Iran, penilaian risiko Meta untuk Iran secara umum dan untuk wanita dalam video tersebut secara khusus, proses tinjauan otomatis dan tinjauan manusia, penegakan konten yang menggambarkan wanita tanpa hijab, serta pengumbaran aurat kelompok yang berisiko, dalam skala besar, dan eskalasi. Meta menjawab semua pertanyaan.

7. Komentar Publik

Dewan Pengawas menerima 12 komentar publik yang relevan dengan kasus ini. Tujuh dari komentar-komentar tersebut berasal dari Amerika Serikat dan Kanada, dua dari Asia Tengah dan Selatan, dua dari Eropa, serta satu dari Timur Tengah dan Afrika Utara.

Pengajuan-pengajuan tersebut mencakup tema-tema berikut: peran media sosial dalam protes di Iran, termasuk gerakan “ Wanita, Kehidupan, Kebebasan”, dan peran yang dimainkan oleh gambar-gambar wanita tidak berhijab dalam kampanye digital; risiko dari beredarnya gambar-gambar yang menunjukkan wanita tidak berhijab di Iran di media sosial; penggunaan media sosial oleh otoritas Iran; Penegakan kebijakan moderasi konten Meta untuk ekspresi berbahasa Persia terkait situasi politik di Iran; kebebasan berekspresi, hak asasi manusia, hak-hak wanita, represi pemerintah, dan larangan media sosial di Iran.

Untuk membaca komentar publik yang dikirimkan untuk kasus ini, silakan klik di sini.

8. Analisis Dewan Pengawas

Dewan memeriksa keputusan awal Meta untuk menghapus konten tersebut berdasarkan kebijakan konten, tanggung jawab hak asasi manusia, dan nilai-nilai perusahaan.

Dewan memilih kasus ini karena menawarkan kesempatan untuk mengeksplorasi kebijakan Kekerasan dan Hasutan serta kebijakan mengenai Mengoordinasikan Tindakan Berbahaya dan Mendukung Aksi Kriminal, serta proses penegakan terkait dalam konteks protes besar-besaran atas hak-hak wanita dan partisipasi wanita dalam kehidupan publik di Iran sejak September 2022. Secara khusus, kebijakan ini membahas pentingnya platform media sosial bagi orang-orang yang memprotes aturan wajib berhijab.

Selain itu, kasus ini juga memberikan kesempatan kepada Dewan untuk mendiskusikan prosedur internal Meta yang menentukan kapan dan mengapa ujaran figuratif, yang jika dipahami secara harfiah, dapat ditafsirkan sebagai ancaman, tetapi jika dilihat dari konteksnya tidak dapat ditafsirkan sebagai ancaman yang nyata. Kasus ini utamanya berada dalam prioritas Pemilihan Umum dan Ruang Sipil Dewan, tetapi juga menyentuh prioritas Dewan untuk Gender, Penggunaan Platform Meta oleh Pemerintah, serta Situasi Krisis dan Konflik.

8.1 Kepatuhan terhadap Kebijakan Konten Meta

Standar Komunitas tentang Kekerasan dan Hasutan

Dewan menemukan bahwa konten dalam kasus ini tidak melanggar Standar Komunitas Kekerasan dan Hasutan karena berisi ujaran figuratif yang mengekspresikan kemarahan terhadap represi pemerintah, alih-alih ancaman kekerasan harfiah yang tampak sebagai ancaman nyata.

Meta menjelaskan bahwa mereka awalnya menghapus konten dalam kasus ini karena mengandung “pernyataan niat untuk melakukan kekerasan tingkat tinggi”. Mereka mendefinisikan kekerasan fisik sangat membahayakan sebagai ancaman yang dapat menyebabkan kematian atau cenderung mematikan.

Berdasarkan penilaian tim regionalnya, Meta menafsirkan frasa “tidak sulit untuk membuatmu hancur berkeping-keping” dari keterangan postingan tersebut sebagai ancaman bahaya fisik dalam konteks Iran, yang melanggar kebijakan Kekerasan dan Hasutan.

Pakar linguistik yang dimintai pendapatnya oleh Dewan menjelaskan bahwa bagian yang relevan dari judul tersebut dapat diterjemahkan sebagai “kami akan mencabik-cabik kalian secepatnya!” atau “tidak lama lagi, kami akan merobek-robek kalian”. Para pakar mencatat bahwa frasa tersebut dalam konteks Iran menyampaikan kemarahan, kekecewaan, dan kebencian terhadap para opresor, dan menunjukkan gagasan bahwa situasi pada akhirnya dapat berubah karena cengkeraman kekuasaan para opresor tidak akan berlangsung selamanya. Frasa ini tidak boleh ditafsirkan secara harfiah sebagai niat untuk menyakiti secara fisik; alih-alih, frasa ini berfungsi sebagai “pernyataan retoris” yang bertujuan untuk menarik perhatian, yang ditekankan dengan bahasa yang penuh emosi yang menampilkan kata kerja yang kuat seperti “merobek-robek” atau “mencabik-cabik”. Para pakar ini menyoroti bahwa kata-kata figuratif seperti itu mencerminkan kemarahan mendalam yang dimiliki oleh pengguna yang memposting konten dan audiens mereka. Oleh karenanya, hal ini tidak menyiratkan ancaman kekerasan fisik yang nyata.

Meskipun Meta mengatakan kepada Dewan bahwa mereka juga mempertimbangkan konteks pernyataan ketika menilai apakah sebuah ancaman bersifat nyata, panduannya untuk moderator tidak mengindikasikan bahwa mereka dapat mempertimbangkan konteks ketika menilai apakah ada “pernyataan niat [untuk melakukan] kekerasan tingkat tinggi”. Sepanjang elemen-elemen aturan terpenuhi, khususnya ketika konten mengandung ancaman dan target, postingan tersebut dianggap melanggar, sebagaimana yang terjadi di sini. Dalam kasus ini, Meta menafsirkan pernyataan tersebut untuk menargetkan pria yang mengejar wanita tersebut. Aturan ini tidak mengharuskan target terlihat atau dapat diidentifikasi. Aturan tersebut hanya memberikan satu contoh ujaran ancaman yang dikecualikan atau tidak dianggap sebagai ancaman yang nyata sebagai suatu aturan: “ancaman yang ditujukan kepada pelaku kekerasan tertentu, seperti kelompok teroris”.

Frasa “membuatmu hancur berkeping-keping” di sini bukan merupakan ancaman yang nyata. Mengingat konteks periode kekacauan, meningkatnya represi dan kekerasan terhadap orang-orang yang memprotes rezim di Iran dan mempertimbangkan keterangan dan video secara keseluruhan, Dewan menemukan bahwa frasa tersebut bersifat figuratif, bukan harfiah, yang mengekspresikan kemarahan dan kekecewaan terhadap rezim tersebut, dan bukan merupakan “pernyataan niat [untuk melakukan] kekerasan tingkat tinggi”. Penafsiran ini konsisten dengan komitmen Meta terhadap suara dan pentingnya melindungi ekspresi ketidakpuasan politik.

Standar Komunitas mengenai Mengoordinasikan Tindakan Berbahaya dan Mendukung Aksi Kriminal

Dewan menemukan bahwa konten dalam kasus ini tidak melanggar Standar Komunitas mengenai Mengoordinasikan Tindakan Berbahaya dan Mendukung Aksi Kriminal.

Meta mempertimbangkan untuk menghapus postingan tersebut berdasarkan aturan yang melarang “konten yang membahayakan wanita tanpa hijab dengan memperlihatkan gambar mereka tanpa hijab yang bertentangan dengan kehendak mereka atau tanpa izin”. Baris kebijakan tersebut telah diedit untuk melarang “mengumbar aurat [wanita yang tidak berhijab]: mengekspos identitas seseorang dan menempatkan mereka pada risiko bahaya”. Perusahaan memahami “pengumbaran aurat” sebagai konten yang menampilkan gambar seorang wanita tidak berhijab, yang mengekspos identitasnya tanpa seizinnya, dan menempatkannya pada risiko bahaya. Garis kebijakan ini berlaku hanya jika terjadi eskalasi dan membutuhkan masukan dari berbagai pemangku kepentingan untuk penegakannya (lihat Bagian 4 di atas).

Dalam kasus ini, Dewan setuju dengan Meta bahwa konten tersebut tidak “mengumbar aurat” wanita tersebut, karena identitasnya telah diketahui secara luas dan risiko bahaya dari konten tersebut telah berkurang karena dia telah ditangkap pada saat konten tersebut diposting. Oleh karenanya, video yang tersisa di platform tidak akan secara signifikan meningkatkan tingkat risiko bagi wanita tersebut dan justru dapat menjadi pelindung dalam meningkatkan awareness terhadap kasusnya. Menentukan apakah sebuah postingan “mengumbar aurat” seorang wanita dan menempatkannya dalam risiko sangat bergantung pada konteks; hanya menegakkan kebijakan tentang eskalasi dapat memastikan tim yang menegakkan kebijakan tersebut memiliki waktu dan sumber daya untuk secara efektif mengidentifikasi dan mempertimbangkan konteks yang relevan.

8.2 Kepatuhan terhadap Tanggung Jawab Hak Asasi Manusia Meta

Dewan menemukan bahwa menghapus konten dari platform tidak konsisten dengan tanggung jawab hak asasi manusia Meta.

Kebebasan Berekspresi (Pasal 19, ICCPR)

Pasal 19 ICCPR memberikan perlindungan yang luas terhadap kebebasan berekspresi, termasuk “kebebasan untuk mencari, menerima, dan memberikan informasi dan ide-ide dalam jenis apa pun, tanpa memandang batas, baik secara lisan, tertulis, maupun tercetak, dalam bentuk karya seni, atau melalui media lain yang dipilihnya”. Ketika pembatasan ekspresi diterapkan oleh suatu negara, maka pembatasan ini harus memenuhi persyaratan legalitas, tujuan sah, serta kebutuhan dan proporsionalitas (Pasal 19, paragraf 3, ICCPR). Dewan menggunakan kerangka kerja ini untuk menginterpretasikan komitmen hak asasi manusia sukarela Meta, baik dalam kaitannya dengan keputusan setiap konten yang sedang ditinjau dan apa yang dikatakan tentang pendekatan Meta yang lebih luas untuk tata kelola konten. Sebagaimana dinyatakan oleh Pelapor Khusus PBB tentang kebebasan berekspresi, meskipun “perusahaan tidak memiliki kewajiban terhadap Pemerintah, dampaknya mengharuskan mereka untuk mempertimbangkan pertanyaan serupa mengenai perlindungan hak kebebasan berekspresi penggunanya” (A/74/486, paragraf 41).

Akses ke media sosial sangatlah penting dalam masyarakat yang tertutup seperti Iran. Sebagai “penjaga gerbang digital”, platform media sosial memiliki “dampak yang besar” terhadap akses publik terhadap informasi (A/HRC/50/29, paragraf 90). Postingan dalam kasus ini adalah bagian dari gerakan protes lebih luas yang mengandalkan ruang sipil digital untuk tetap bertahan. Undang-undang yang menentukan bagaimana wanita harus berpakaian berdampak pada kebebasan dan martabat mereka (A/68/290, paragraf 38), apakah undang-undang tersebut berusaha melarang penggunaan hijab atau melarang tampil di depan umum tanpa hijab (lihat misalnya, Yaker v France, CCPR/C/123/D/2747/2016). Dalam kaitan ini, “Internet telah menjadi medan perang baru dalam perjuangan hak-hak wanita, yang memperkuat peluang bagi wanita untuk mengekspresikan diri mereka”,(A/76/258, paragraf 4). Memberdayakan wanita untuk berekspresi secara bebas memungkinkan partisipasi politik mereka dan realisasi hak asasi mereka ( A/HRC/Res/23/2, paragraf. 1-2; A/76/258, paragraf 5).

I. Legalitas (Kejelasan dan Aksesibilitas Aturan)

Prinsip legalitas mewajibkan setiap pembatasan terhadap kebebasan berekspresi harus sesuai dengan aturan yang telah ditetapkan, yang dapat diakses dan jelas bagi pengguna. Aturan tersebut harus “dirumuskan dengan presisi yang cukup untuk memungkinkan seseorang mengendalikan perilakunya dan aturan tersebut harus dapat diakses oleh publik,” (Komentar Umum No. 34, pada paragraf 25). Selain itu, aturan ini lebih lanjut mensyaratkan agar aturan yang membatasi ekspresi “tidak boleh memberikan keleluasaan tanpa batas terhadap pembatasan kebebasan berekspresi pada mereka yang bertanggung jawab atas penggunaan[nya]” dan harus “memberikan panduan yang memadai kepada mereka yang bertanggung jawab atas penggunaannya guna memungkinkan mereka untuk memastikan mana jenis ekspresi yang dibatasi dengan benar dan mana jenis yang tidak”, (Komentar Umum No. 34, pada paragraf 25). A/HRC/38/35 (undocs.org), pada paragraf 46). Kurangnya kejelasan atau ketepatan dapat menyebabkan penegakan aturan yang tidak konsisten dan sewenang-wenang. Berlaku untuk Meta, pengguna harus dapat memprediksi konsekuensi dari memposting konten di Facebook dan Instagram, dan peninjau konten harus memiliki panduan yang jelas tentang penegakannya.

Standar Komunitas tentang Kekerasan dan Hasutan

Dewan menemukan bahwa meskipun dasar kebijakan - yang mengekspresikan tujuan Standar Komunitas tetapi bukan merupakan bagian dari aturan itu sendiri - dari Standar Komunitas Kekerasan dan Hasutan menunjukkan bahwa “konteks itu penting,” dan dapat dipertimbangkan ketika mengevaluasi “ancaman yang nyata,” pedoman internal dan pendekatan Meta terhadap moderasi tidak memungkinkan dilakukannya praktik ini. Sebagaimana yang dicatat oleh Dewan dalam kasus Slogan Protes Iran, moderator konten berskala besar diinstruksikan untuk mencari kriteria, atau elemen tertentu, dalam postingan, dan setelah elemen-elemen tersebut terpenuhi, moderator diinstruksikan untuk menghapus postingan tersebut. Dengan kata lain, jika postingan berisi ancaman (misalnya, “bunuh” atau “aku akan mencabik-cabik kalian”) dan sebuah target, maka konsekuensinya adalah penghapusan. Moderator konten tidak diberdayakan untuk membuat penilaian apakah ancaman tersebut nyata atau tidak. Sebagaimana yang juga dijelaskan oleh Meta dalam kasus tersebut, pendekatan hafalan atau rumusan merupakan hal yang sulit untuk dilakukan karena “menilai apakah [sebuah frasa] merupakan ujaran retoris dan bukan ancaman nyata adalah hal yang rumit, terutama dalam skala besar”. Pertimbangan mengenai tingkat kebenaran ancaman dipertimbangkan dalam membuat aturan, bukan dalam menegakkannya. Sebagaimana yang dicatat oleh Dewan dalam kasus Slogan Protes Iran, meskipun “dasar kebijakan tampaknya mengakomodasi pidato retorik dari jenis yang mungkin diharapkan dalam konteks protes, aturan tertulis dan pedoman yang sesuai untuk peninjau tidak. Memang, dalam praktik penegakannya, khususnya pada skala besar, lebih bersifat rumusan daripada yang tersirat dalam aturan, dan hal ini dapat menimbulkan kesalahan persepsi bagi pengguna tentang bagaimana aturan akan ditegakkan. Panduan untuk peninjau, sebagaimana yang saat ini disusun, mengesampingkan kemungkinan analisis kontekstual, bahkan ketika ada isyarat yang jelas di dalam konten itu sendiri bahwa bahasa yang mengancam itu hanya bersifat retorik”. Ketidakselarasan antara dasar kebijakan yang dinyatakan perusahaan dengan praktik penegakan aktualnya terus berlanjut dan tidak cukup memenuhi prinsip legalitas.

Dewan menegaskan kembali temuannya dari kasus Slogan Protes Iran bahwa Meta harus memberikan panduan mendalam tentang cara mempertimbangkan konteks, mengarahkan moderator untuk menghindari penghapusan bahasa “retoris” atau nonharfiah yang mengekspresikan perbedaan pendapat, terutama di lingkungan politik yang sensitif, seperti Iran.

Standar Komunitas mengenai Mengoordinasikan Tindakan Berbahaya dan Mendukung Aksi Kriminal

Dewan menemukan bahwa larangan Meta terhadap “konten yang menempatkan wanita tidak berhijab dalam risiko dengan memperlihatkan gambar mereka tanpa hijab yang tidak sesuai dengan kehendak mereka atau tanpa izin” cukup jelas, sebagaimana diterapkan dalam kasus ini. Hal ini memperjelas bahwa konten yang “mengumbar aurat” wanita dan dapat menyebabkan bahaya merupakan hal yang dilarang di platform Meta. Namun, Dewan mencatat dengan kekhawatiran bahwa Pedoman Komunitas Instagram tidak secara langsung terkait dengan Standar Komunitas mengenai Mengoordinasikan Tindakan Berbahaya dan Mendukung Aksi Kriminal. Hal ini merusak aksesibilitas aturan bagi pengguna Instagram. Dalam kasus-kasus sebelumnya (Gejala Kanker Payudara dan Ketelanjangan, Isolasi Ocalan), Dewan telah merekomendasikan agar Meta mengklarifikasi secara terbuka kepada para pengguna tentang bagaimana Standar Komunitas Facebook diberlakukan di Instagram. Menanggapi hal tersebut, Meta telah melakukan proses untuk menyatukan Standar Komunitas dengan Panduan Komunitas Instagram dan menentukan kebijakan yang sedikit berbeda antarplatform. Dalam laporan transparansi kuartalan berikutnya, Meta telah meyakinkan Dewan bahwa upaya ini tetap menjadi prioritas, dengan mencatat bahwa pertimbangan hukum dan peraturan telah berdampak pada linimasa mereka. Dewan menegaskan kembali pentingnya untuk bergerak cepat guna menyelesaikan proses ini dan memastikan kejelasan aturan yang berlaku.

II. Tujuan yang Sah

Berdasarkan Pasal 19 ayat 3 ICCPR, ekspresi dapat dibatasi untuk beberapa alasan tertentu dan terbatas, termasuk untuk tujuan melindungi hak-hak orang lain. Dalam kasus ini, Dewan menemukan bahwa Standar Komunitas Kekerasan dan Hasutan bertujuan untuk “mencegah potensi bahaya offline” dengan menghapus konten yang menimbulkan “risiko nyata bahaya fisik atau ancaman langsung terhadap keselamatan publik”. Oleh karena itu, kebijakan ini memiliki tujuan yang sah guna melindungi hak untuk hidup (Pasal 6, ICCPR) dan hak atas keamanan fisik pribadi (Pasal 9, ICCPR; Komentar Umum No. 35, paragraf 9).

Kebijakan mengenai Mengoordinasikan Tindakan Berbahaya dan Mendukung Aksi Kriminal memiliki tujuan yang sah untuk melindungi hak-hak wanita di Iran atas nondiskriminasi (Pasal 2, 3 dan 26, ICCPR; Pasal 1 dan 7, CEDAW), termasuk dalam pemenuhan hak-hak mereka atas kebebasan berekspresi dan berkumpul (Pasal 19 dan 21, ICCPR), hak untuk mengambil bagian dalam kehidupan publik (Pasal 1 dan 7, CEDAW), hak atas privasi (Pasal 17, ICCPR), dan hak untuk hidup (Pasal 6, ICCPR) serta hak atas kebebasan dan keselamatan pribadi (Pasal 9, ICCPR).

III. Kebutuhan dan Proporsionalitas

Batasan kebebasan berekspresi “harus sesuai untuk memenuhi fungsi perlindungannya; pembatasan tersebut harus menjadi instrumen yang tidak mengganggu dari semua pembatasan yang mungkin mendapatkan fungsi perlindungannya; pembatasan harus proporsional terhadap kepentingan yang akan dilindungi” (Komentar Umum34, paragraf 34). Perusahaan media sosial harus mempertimbangkan berbagai kemungkinan tanggapan terhadap konten bermasalah selain penghapusan untuk memastikan pembatasan disesuaikan secara sempit (A/74/486, paragraf 51).

Standar Komunitas tentang Kekerasan dan Hasutan

Dewan menemukan bahwa keputusan awal Meta untuk menghapus konten dalam kasus ini tidak diperlukan. Tindakan ini tidak diperlukan untuk melindungi keselamatan orang yang mengambil video atau orang lain, karena ancaman yang disebutkan dalam keterangan postingan tersebut tidak bersifat harfiah. Dewan mengkhawatirkan bahwa meskipun telah memberikan panduan dalam kasus Slogan Protes Iran, Standar Komunitas perusahaan dan panduan yang diberikan kepada para moderator masih meninggalkan ruang untuk penegakan ancaman figuratif (nonharfiah) yang tidak konsisten, terlepas dari situasi di Iran, dengan aksi protes yang telah berlangsung selama lebih dari satu tahun. Kasus tersebut, sebagaimana kasus ini, melibatkan frasa yang gagal diidentifikasi oleh Meta sebagai pernyataan ancaman nonharfiah. Kurangnya panduan yang memadai lebih lanjut disorot oleh fakta bahwa konten dalam kasus ini ditinjau oleh beberapa moderator berskala besar dan tim dalam Meta, dan berulang kali ditemukan melanggar.

Sebagai bagian dari analisisnya, Dewan menggunakan enam faktor dari Rabat Plan of Action untuk mengevaluasi kapasitas konten dalam kasus ini dalam menciptakan risiko serius untuk menghasut diskriminasi, kekerasan, atau tindakan melanggar hukum lainnya. Dewan mencatat bahwa meskipun faktor-faktor Rabat dikembangkan untuk advokasi kebencian nasional, rasial, atau agama yang merupakan hasutan, dan bukan untuk hasutan secara umum, uji enam faktor ini berguna untuk menilai hasutan secara umum, dan Dewan telah menggunakannya dengan cara ini sebelumnya (lihat, misalnya, Slogan Protes Iran dan Ajakan kepada wanita untuk melakukan protes di Kuba):

• Konteks: Konten tersebut diposting pada Juli 2023, selama periode kekacauan, yang menyebabkan meningkatnya represi dan kekerasan terhadap orang-orang yang memprotes rezim. Terdapat keterbatasan wadah untuk melakukan protes di dalam negeri, karena terganggunya jaringan internet secara masif dan pelarangan platform media sosial terkemuka seperti Facebook, Telegram, dan X. Karena Instagram merupakan salah satu dari sedikit platform yang tersisa, perannya dalam gerakan “Wanita, Kehidupan, Kebebasan” menjadi tak terukur. Para pakar yang dimintai pendapatnya oleh Dewan mencatat bahwa gerakan ini bertujuan untuk menormalisasi protes dan pembangkangan terhadap empat dekade hukum yang diskriminatif terhadap wanita. Para pakar mengamati bahwa sejak awal gerakan, menanamkan rasa takut dan membungkam wanita agar tidak berekspresi secara online telah menjadi tren utama. Undang-undang baru dan penahanan besar-besaran bertujuan untuk mengekang ekspresi protes ini dan menghentikan tren normalisasi pembangkangan terhadap hukum hijab.
• Identitas penutur: Meta mengatakan kepada Dewan bahwa perusahaan tidak menganggap pengguna yang memposting konten tersebut sebagai figur publik. Berdasarkan keterangan pada video, pengguna tampaknya merupakan pendukung atau bagian dari gerakan “ Wanita, Kehidupan, Kebebasan”. Oleh karena itu, penutur di sini tidak berada dalam posisi otoritas dan mereka juga berpotensi mempertaruhkan keselamatan mereka sendiri dalam menyuarakan dukungan mereka dan memposting konten ini.
• Niat: Meskipun menilai niat ketika memoderasi konten dalam skala besar menghadirkan tantangan signifikan, pembacaan yang objektif dan wajar terhadap keseluruhan postingan mengindikasikan dukungan terhadap wanita yang digambarkan dan meningkatkan awareness tentang penangkapannya. Menurut para pakar yang dimintai pendapatnya oleh Dewan, sudah menjadi hal yang umum di Iran bagi para pengunjuk rasa untuk mengedarkan gambar seorang wanita tidak berhijab disertai namanya setelah penangkapannya, untuk memberikan tekanan kepada otoritas agar tetap aman. Para pengunjuk rasa telah belajar bahwa dengan memublikasikan individu-individu ini, mereka dapat mencegah pelecehan lebih lanjut terhadap para korban.
• Konten dan bentuk ekspresi: Menurut para pakar linguistik yang dimintai pendapatnya oleh Dewan, frasa “membuatmu hancur berkeping-keping” dalam konteks ini akan dipahami oleh penutur bahasa Persia sebagai ungkapan emosi yang mendalam, seperti kemarahan dan kekecewaan, tetapi bukan ancaman kekerasan secara harfiah. Bahasa yang kasar dan terkesan mengancam sering digunakan oleh gerakan ini untuk menentang rezim. Dalam kasus Slogan Protes Iran, Dewan menemukan bahwa slogan “Matilah Khamenei” merupakan “ancaman retorik” dan mencatat bahwa Meta telah mengeluarkan “semangat kebijakan” yang mengizinkan frasa “ Aku akan membunuh siapa pun yang membunuh saudaraku” karena alasan yang sama. Frasa dalam kasus ini muncul di tengah-tengah keterangan yang memuji seorang wanita yang membela hak-haknya. Apabila dilihat secara keseluruhan, keterangan tersebut mengekspresikan dukungan bagi para wanita Iran yang memprotes undang-undang diskriminatif dan praktik-praktik kejam rezim.
• Tingkat dan jangkauan: Postingan tersebut memiliki sekitar 47.000 tayangan, 2.000 suka, 100 komentar dan 50 kali dibagikan. Mengingat bahwa ujaran ini tampaknya bukan merupakan hasutan dengan mempertimbangkan faktor-faktor lain dalam analisis Rabat, jangkauan konten yang tinggi dengan sendirinya bukanlah faktor yang mengindikasikan bahwa penghapusan perlu dilakukan.
• Kemungkinan dan kedekatan: Faktor ini menilai apakah ujaran tersebut dapat memicu bahaya yang dapat terjadi segera dan kemungkinan besar membahayakan target potensial dari ujaran tersebut, yang dalam hal ini adalah rezim. Gerakan protes, dan para pendukungnya, menentang rezim yang terus-menerus menggunakan represi dan pembalasan dengan kekerasan terhadap para pengunjuk rasa. Bentuk bahaya yang paling mungkin muncul dari ujaran tersebut dalam kasus ini adalah kekerasan balasan dari rezim terhadap pengguna yang memposting atau wanita yang ditampilkan dalam video tersebut, bukan kekerasan terhadap rezim atau para pendukungnya. Para pakar menekankan bahaya yang mungkin dihadapi oleh individu-individu yang berpartisipasi dalam aksi protes ini, dan bagaimana gerakan ini tetap bertahan meskipun ada ancaman kekerasan. Mereka juga menyatakan bahwa tujuan mengedarkan foto-foto wanita yang telah ditangkap adalah untuk menarik perhatian atas penangkapan mereka dan memberikan tekanan kepada otoritas untuk menjaga mereka tetap aman.

Berdasarkan analisis terhadap faktor-faktor di atas, Dewan mempertimbangkan bahwa konten tersebut bukan merupakan ancaman yang nyata dan tidak berpotensi menimbulkan bahaya secara offline. Ketika bahasa figuratif digunakan dalam konteks protes yang meluas dan disertai dengan represi dengan kekerasan, Meta harus memungkinkan para peninjau untuk menilai bahasa dan konteks lokal, dengan menyelaraskan panduan untuk moderator dengan dasar kebijakan yang mendasarinya. Memastikan penilaian yang akurat mengenai apakah sebuah postingan merupakan “figuratif” atau cenderung menghasut kekerasan sangatlah penting untuk meningkatkan moderasi dalam krisis secara lebih luas. Akurasi otomatisasi akan dipengaruhi oleh kualitas data pelatihan yang disediakan oleh moderator manusia. Apabila moderator manusia menghapus pernyataan “figuratif” karena penegakan aturan yang kaku, kesalahan tersebut kemungkinan besar akan direproduksi dan diperkuat dengan adanya otomatisasi.

Dewan mencatat bahwa Meta memiliki sejumlah mekanisme yang tersedia untuk menyesuaikan kebijakan dan penegakannya selama situasi krisis, termasuk sistem tingkatan negara “berisiko”, dan Protokol Kebijakan Krisis. Sistem tingkatan negara “berisiko” digunakan untuk mengidentifikasi negara-negara yang berisiko terjadi “bahaya dan kekerasan secara offline” untuk menentukan bagaimana perusahaan harus memprioritaskan pengembangan produknya atau bagaimana menginvestasikan sumber dayanya. Penilaian ini juga dapat menjadi bahan pertimbangan untuk proses-proses lainnya (misalnya, apakah diperlukan pembentukan tim operasi khusus atau penggunaan Protokol Kebijakan Krisis). Meta menginformasikan kepada Dewan bahwa untuk paruh kedua tahun 2023, Iran telah ditetapkan sebagai “negara berisiko”. Iran juga telah ditetapkan di bawah Protokol Kebijakan Krisis sejak 21 September 2022, dan masih ditetapkan sejak saat itu. Protokol Kebijakan Krisis memungkinkan Meta untuk membuat perubahan kebijakan sementara tertentu, yang dikenal sebagai “pengungkit kebijakan,” untuk mengatasi situasi tertentu. Meta memberikan beberapa contoh pengungkit kebijakan yang telah digunakan di Iran, termasuk “kelonggaran untuk mengizinkan konten yang menyertakan slogan 'Aku akan membunuh siapa pun yang membunuh saudaraku' atau keturunannya, jika tidak ada pelanggaran lain terhadap kebijakan kami”. (Untuk contoh-contoh pengungkit kebijakan lainnya, lihat Laporan Forum Kebijakan, 25 Januari 2022, Protokol Kebijakan Krisis).

Meskipun Dewan mengakui komitmen perusahaan terhadap keselamatan dan upayanya untuk mengurangi potensi risiko moderasi konten dengan mengaktifkan Protokol Kebijakan Krisis untuk Iran, upaya-upaya ini tidak cukup untuk memastikan penghormatan terhadap kebebasan berekspresi dan berkumpul di tengah represi sistematis terhadap perbedaan pendapat dan ketegangan sosial. Penelitian yang ditugaskan oleh Dewan mengindikasikan bahwa sebagian besar konten yang menggambarkan wanita tidak berhijab dalam konteks membahas pemakaian hijab di Iran, di platform Meta, dibagikan oleh atau mendukung gerakan protes. Di sini, proses penegakan Meta berulang kali gagal membedakan pernyataan figuratif, atau non-harfiah, dalam konteks yang relevan dengan ancaman nyata dan hasutan untuk melakukan kekerasan, yang berpotensi menimbulkan bahaya offline.

Dewan merekomendasikan agar Meta menambahkan pengungkit kebijakan pada Protokol Kebijakan Krisis, dan dengan demikian memberikan kriteria internal kepada moderator berskala besar tentang cara mengidentifikasi pernyataan yang menggunakan bahasa ancaman secara figuratif, atau tidak secara harfiah, dalam konteks yang relevan untuk dianggap tidak melanggar garis kebijakan Kekerasan dan Hasutan yang melarang ancaman kekerasan. Dalam mengembangkan kriteria spesifik krisis tentang cara menentukan apakah sebuah ancaman bersifat figuratif dan bukan harfiah, Meta dapat melihat faktor-faktor Rabat Plan (misalnya, konteks protes yang meluas terhadap represi negara, apakah penutur memiliki kemampuan untuk menghasut atau menghadirkan risiko menghasut orang untuk terlibat dalam bahaya, konteks bahasa dan sosial yang relevan yang mengindikasikan penggunaan bahasa yang kuat/emosional yang umum digunakan sebagai kekuatan retorika, kemungkinan bahaya yang ditimbulkan berdasarkan pengetahuan lokal, dll.). Perusahaan juga dapat mengandalkan mitra tepercaya untuk membantu merancang atau menilai kriteria moderasi. Meta sendiri telah menekankan pentingnya Rabat Plan of Action untuk moderasi konten, setelah mendukung PBB dalam menerjemahkan Rabat Plan of Action ke dalam 32 bahasa. Pengungkit kebijakan ini seharusnya mengizinkan “ujaran figuratif” dalam konteks protes terhadap rezim, dengan ketentuan bahwa hal tersebut tidak dimaksudkan untuk, dan tidak mungkin, menghasut kekerasan.

Standar Komunitas mengenai Mengoordinasikan Tindakan Berbahaya dan Mendukung Aksi Kriminal

Dalam kasus ini, Dewan menemukan bahwa penghapusan berdasarkan Standar Komunitas mengenai Mengoordinasikan Tindakan Berbahaya dan Mendukung Aksi Kriminal tidak diperlukan, karena identitas wanita yang digambarkan telah diketahui secara luas, dan konten tersebut dengan jelas diposting untuk menarik perhatian pada penangkapannya, dengan harapan bahwa perhatian tersebut akan berujung pada pembebasannya. Selain itu, beberapa komentator publik menyoroti bahwa wanita yang melepas hijab di depan umum melakukannya dengan sengaja, sebagai bentuk protes, dan sadar akan potensi konsekuensinya, memilih “pembangkangan sebagai perlawanan strategis terhadap otoritas,” (lihat komentar publik Tech Global Institute, PC-21009). Wanita dalam video tersebut telah diidentifikasi dan ditangkap oleh rezim. Postingan ini dibagikan untuk menarik perhatian terhadap penangkapan tersebut. Para pengunjuk rasa dan pembangkang yang ditahan oleh rezim telah disiksa, menjadi sasaran kekerasan berbasis gender, atau dilenyapkan. Para pakar yang dimintai pendapat oleh Dewan dan beberapa komentator publik secara khusus mencatat bahwa praktik ini, yang meminta perhatian pada penangkapan dan menyerukan pembebasan seseorang yang ditahan, secara teratur digunakan oleh gerakan dan oleh para pembela hak asasi manusia di Iran, dan dapat membantu melindungi individu yang ditahan oleh rezim.

Menyeimbangkan kebutuhan untuk melindungi identitas pengguna yang rentan sembari menghindari penyensoran bagi mereka yang menginginkan eksposur adalah pertanyaan yang sulit dan membutuhkan analisis kontekstual, tinjauan presisi, dan tindakan cepat.

9. Keputusan Dewan Pengawas

Dewan Pengawas membatalkan keputusan awal Meta untuk menghapus konten tersebut.

10. Rekomendasi

1. Penegakan

Untuk memastikan dihormatinya kebebasan berekspresi dan berkumpul pengguna dalam lingkungan represi negara yang sistematis, Meta harus menambahkan pengungkit kebijakan pada Protokol Kebijakan Krisis yang menyatakan bahwa pernyataan figuratif (atau tidak harfiah), yang tidak dimaksudkan untuk, dan kemungkinan besar tidak akan menghasut kekerasan, tidak melanggar garis kebijakan Kekerasan dan Hasutan yang melarang ancaman kekerasan dalam konteks yang relevan. Hal ini harus mencakup pengembangan kriteria untuk moderator skala besar tentang cara mengidentifikasi pernyataan semacam itu dalam konteks yang relevan.

Dewan akan mempertimbangkan rekomendasi ini untuk diimplementasikan ketika Meta berbagi dengan Dewan mengenai metode untuk mengimplementasikan pengungkit kebijakan dan kriteria yang dihasilkan untuk moderasi di Iran.

*Catatan Prosedural:

Keputusan Dewan Pengawas disiapkan oleh panel yang terdiri dari lima Anggota dan disetujui oleh mayoritas anggota Dewan. Keputusan Dewan tidak selalu mewakili pandangan pribadi semua Anggota.

Untuk keputusan kasus ini, penelitian independen ditugaskan atas nama Dewan. Dewan tersebut dibantu oleh lembaga penelitian independen yang berkantor pusat di University of Gothenburg, yang terdiri dari tim dengan lebih dari 50 ilmuwan sosial di enam benua, serta lebih dari 3.200 pakar negara dari seluruh dunia. Dewan juga dibantu oleh Duco Advisors, sebuah firma penasihat yang berfokus pada persimpangan geopolitik, kepercayaan dan keselamatan, serta teknologi. Memetica, sebuah organisasi yang bergerak dalam penelitian sumber terbuka tentang tren media sosial, juga menyediakan analisis. Keahlian linguistik diberikan oleh Lionbridge Technologies, LLC, yang ahlinya fasih dalam lebih dari 350 bahasa dan bekerja dari 5.000 kota di seluruh dunia.

العودة إلى قرارات الحالة والآراء الاستشارية المتعلقة بالسياسة