Bot Myanmar

Ringkasan kasus

Dewan Pengawas telah membatalkan keputusan Facebook untuk menghapus postingan dalam bahasa Myanmar berdasarkan Standar Komunitas Ujaran Kebencian. Dewan menemukan bahwa postingan tersebut tidak menarget orang Tionghoa, tetapi negara Tiongkok. Secara khusus, menggunakan kata-kata tidak senonoh untuk merujuk kebijakan pemerintah Tiongkok di Hong Kong sebagai bagian dari diskusi politik tentang peran pemerintah Tiongkok di Myanmar.

Tentang kasus

Pada bulan April 2021, seorang pengguna Facebook yang tampaknya berada di Myanmar memposting dalam bahasa Myanmar di linimasanya. Postingan tersebut membahas cara membatasi pembiayaan kepada militer Myanmar setelah kudeta di Myanmar pada 1 Februari 2021. Postingan tersebut mengusulkan agar pendapatan pajak diberikan kepada Committee Representing Pyidaungsu Hlutaw (CRPH), sekelompok legislator yang menentang kudeta. Postingan ini menerima sekitar setengah juta tayangan dan tidak ada pengguna Facebook yang melaporkannya.

Facebook menerjemahkan bagian postingan pengguna tersebut yang dianggap melanggar sebagai “Hong Kong people, because the fucking Chinese tortured them, changed their banking to UK, and now (the Chinese) they cannot touch them.” (Orang Hong Kong, karena orang Tionghoa sialan itu menyiksanya, mengubah perbankan mereka ke Inggris, dan sekarang (orang Tionghoa) mereka tidak dapat menyentuhnya). Facebook menghapus postingan ini berdasarkan Standar Komunitas Ujaran Kebencian. Standar ini melarang konten yang menarget seseorang atau sekelompok orang berdasarkan ras, etnis, atau asal negara dengan “istilah atau frasa yang tidak senonoh dengan maksud untuk menghina”.

Empat peninjau konten yang memeriksa postingan tersebut semuanya setuju bahwa postingan tersebut melanggar aturan Facebook. Dalam pengajuan banding kepada Dewan, pengguna tersebut menyatakan bahwa dia memposting konten untuk “menghentikan rezim militer yang brutal”.

Temuan utama

Kasus ini menyoroti pentingnya mempertimbangkan konteks ketika menegakkan kebijakan ujaran kebencian, serta pentingnya melindungi pidato politik. Ini sangat relevan di Myanmar mengingat kudeta Februari 2021 dan peran utama Facebook sebagai media komunikasi di negara tersebut.

Postingan ini menggunakan frasa dalam bahasa Myanmar “$တရုတ်”, yang diterjemahkan Facebook sebagai “fucking Chinese” (atau “sout ta-yote”) (orang Tionghoa sialan). Menurut Facebook, kata “ta-yote” “dianggap secara budaya dan bahasa sebagai tumpang tindih identitas/makna antara negara Tiongkok dan orang Tionghoa”. Facebook menyatakan bahwa mengingat sifat dari kata ini dan fakta bahwa pengguna tidak “dengan jelas menunjukkan bahwa istilah tersebut merujuk pada negara/pemerintah Tiongkok”, perusahaan memutuskan bahwa “pengguna, setidaknya, merujuk pada orang Tionghoa”. Dengan demikian, Facebook menghapus postingan ini berdasarkan Standar Komunitas Ujaran Kebencian.

Karena kata yang sama digunakan dalam bahasa Myanmar untuk merujuk pada suatu negara dan orang dari negara tersebut, konteks adalah kunci untuk memahami makna yang dimaksud. Sejumlah faktor meyakinkan Dewan bahwa pengguna tidak menarget orang Tionghoa, tetapi negara Tiongkok.

Bagian dari postingan ini yang diduga melanggar aturan Facebook mengacu pada kebijakan keuangan Tiongkok di Hong Kong sebagai “torture” (penyiksaan) atau “persecution” (penganiayaan), dan bukan tindakan individu atau orang Tionghoa di Myanmar. Kedua penerjemah Dewan menunjukkan bahwa, dalam kasus ini, kata “ta-yote” merujuk pada negara. Ketika ditanya apakah ada kemungkinan ambiguitas dalam referensi ini, para penerjemah tidak menunjukkan keraguan. Penerjemah Dewan juga menyatakan bahwa postingan tersebut berisi istilah yang biasa digunakan oleh pemerintah Myanmar dan kedutaan Tiongkok untuk saling menyapa. Selain itu, meskipun setengah juta orang melihat postingan tersebut dan lebih dari 6.000 orang membagikannya, tidak ada pengguna yang melaporkannya. Komentar publik juga menggambarkan nada keseluruhan postingan tersebut sebagai diskusi politik.

Mengingat bahwa postingan tersebut tidak menarget orang berdasarkan ras, etnis, atau asal negara, tetapi ditujukan untuk negara, Dewan menemukan bahwa postingan tersebut tidak melanggar Standar Komunitas Ujaran Kebencian Facebook.

Keputusan Dewan Pengawas

Dewan Pengawas membatalkan keputusan Facebook untuk menghapus konten tersebut, mengharuskan postingan agar dipulihkan.

Dalam pernyataan anjuran kebijakan, Dewan merekomendasikan Facebook untuk:

• Memastikan bahwa Standar Penerapan Internalnya tersedia dalam bahasa yang digunakan moderator konten untuk meninjau konten. Jika perlu memprioritaskan, Facebook harus fokus terlebih dahulu pada konteks di mana risiko terhadap hak asasi manusia lebih parah.

*Ringkasan kasus memberikan gambaran umum tentang kasus dan tidak memiliki nilai presedensial.

Keputusan kasus lengkap

1. Ringkasan keputusan

Dewan Pengawas telah membatalkan keputusan Facebook untuk menghapus konten berdasarkan Standar Komunitas Ujaran Kebencian. Dewan menemukan bahwa postingan tersebut bukanlah ujaran kebencian.

2. Deskripsi kasus

Pada bulan April 2021, seorang pengguna Facebook yang tampaknya berada di Myanmar memposting dalam bahasa Myanmar di linimasanya. Postingan tersebut membahas cara membatasi pembiayaan kepada militer Myanmar setelah kudeta di Myanmar pada 1 Februari 2021. Postingan tersebut mengusulkan agar pendapatan pajak diberikan kepada Committee Representing Pyidaungsu Hlutaw (CRPH), sekelompok legislator yang menentang kudeta. Postingan tersebut mendapatkan sekitar 500.000 tayangan, sekitar 6.000 tanggapan, dan sudah dibagikan sekitar 6.000 kali. Tidak ada pengguna Facebook yang melaporkan postingan ini.

Facebook menerjemahkan bagian postingan pengguna tersebut yang dianggap melanggar sebagai “Hong Kong people, because the fucking Chinese tortured them, changed their banking to UK, and now (the Chinese) they cannot touch them.” (Orang Hong Kong, karena orang Tionghoa sialan itu menyiksanya, mengubah perbankan mereka ke Inggris, dan sekarang (orang Tionghoa) mereka tidak dapat menyentuhnya). Facebook menghapus postingan ini sebagai Ujaran Kebencian “Tingkat 2” berdasarkan Standar Komunitas Ujaran Kebencian sehari setelah diposting. Standar ini melarang konten yang menarget seseorang atau sekelompok orang berdasarkan ras, etnis, atau asal negara dengan “istilah atau frasa yang tidak senonoh dengan maksud untuk menghina”.

Pembagian ulang postingan tersebut, menurut Facebook, “secara otomatis dipilih sebagai bagian dari sampel dan dikirim ke tinjauan oleh manusia untuk digunakan dalam pelatihan pengklasifikasi”. Ini melibatkan Facebook untuk membuat set data contoh konten yang melanggar dan tidak melanggar untuk melatih proses deteksi dan penegakan otomatisnya guna memprediksi apakah konten melanggar kebijakan Facebook. Peninjau memutuskan bahwa postingan yang dibagikan tersebut melanggar Standar Komunitas Ujaran kebencian. Sementara tujuan dari proses ini adalah untuk membuat kumpulan konten untuk melatih pengklasifikasi, setelah postingan yang dibagikan ditemukan melanggar, postingan tersebut dihapus.

Karena postingan yang dibagikan ditemukan telah melanggar aturan Facebook, “Bot Tindakan Administratif” secara otomatis mengidentifikasi postingan asli untuk ditinjau. Facebook menjelaskan bahwa Bot Tindakan Administratif adalah akun Facebook internal yang tidak membuat penilaian konten apa pun tetapi melakukan “berbagai tindakan di seluruh sistem penegakan berdasarkan keputusan yang dibuat oleh manusia atau proses otomatisasi”. Dua peninjau manusia kemudian menganalisis postingan asli, dan keduanya memutuskan bahwa postingan tersebut adalah Ujaran Kebencian “Tingkat 2”. Konten tersebut dihapus. Pengguna mengajukan banding atas penghapusan tersebut ke Facebook, di mana peninjau manusia keempat mendukung penghapusan tersebut. Menurut Facebook, “peninjau konten dalam kasus ini adalah semua anggota tim peninjauan konten bahasa Myanmar di Facebook”. Pengguna kemudian mengajukan banding kepada Dewan Pengawas.

3. Otoritas dan lingkup

Dewan memiliki kewenangan untuk meninjau keputusan Facebook setelah banding dari pengguna yang postingannya telah dihapus (Piagam Pasal 2, Bagian 1; Anggaran Rumah Tangga Pasal 2, Bagian 2.1). Dewan dapat mendukung atau membatalkan keputusan tersebut (Piagam Pasal 3, Bagian 5). Keputusan Dewan bersifat mengikat dan dapat mencakup pernyataan anjuran kebijakan dengan rekomendasi. Rekomendasi ini tidak mengikat, tetapi Facebook harus menanggapinya (Piagam Pasal 3, Bagian 4). Dewan adalah mekanisme pengaduan independen untuk menangani sengketa secara transparan dan berprinsip.

4. Standar yang relevan

Dewan Pengawas mempertimbangkan standar berikut dalam keputusannya:

I. Standar Komunitas Facebook

Standar Komunitas Facebook mendefinisikan ujaran kebencian sebagai “serangan langsung terhadap orang berdasarkan hal yang kami sebut sebagai karakteristik yang dilindungi – ras, etnis, asal kebangsaan, afiliasi agama, orientasi seksual, kasta, jenis kelamin, gender, identitas gender, serta penyakit serius atau disabilitas”. Di bagian “Tingkat 2”, konten yang dilarang mencakup makian, yang didefinisikan sebagai “istilah atau ungkapan yang tidak senonoh dengan maksud untuk menghina, termasuk, tetapi tidak terbatas pada: brengsek, sialan, jancuk”.

II. Nilai-nilai Facebook

Nilai-nilai Facebook diuraikan dalam pendahuluan Standar Komunitas. Nilai “Suara” dideskripsikan sebagai “yang terpenting”:

Standar Komunitas kami senantiasa bertujuan menciptakan tempat untuk berekspresi dan memberikan kesempatan bagi orang untuk bersuara. [...] Kami ingin orang-orang mampu berbicara secara terbuka tentang isu yang penting bagi mereka, sekalipun beberapa orang mungkin tidak setuju atau menganggapnya tidak menyenangkan.

Facebook membatasi “Suara” untuk menegakkan empat nilai, dan dua di antaranya yang relevan dalam hal ini:

“Keamanan”: Kami berkomitmen untuk menjadikan Facebook sebagai tempat yang aman. Ekspresi yang mengancam orang-orang berpotensi mengintimidasi, mengucilkan, atau membungkam orang lain dan hal ini tidak diizinkan di Facebook.

“Martabat” : Kami yakin bahwa semua orang memiliki martabat dan hak yang setara. Kami berharap orang-orang akan menghargai martabat orang lain dan tidak melecehkan atau merendahkan orang lain.

III. Standar hak asasi manusia

Prinsip Pedoman PBB tentang Bisnis dan Hak Asasi Manusia (UNGP), yang didukung oleh Dewan Hak Asasi Manusia PBB pada tahun 2011, menetapkan kerangka kerja sukarela untuk tanggung jawab hak asasi manusia bisnis swasta. Pada tahun 2021, Facebook mengumumkanKebijakan Hak Asasi Manusia Perusahaan, di mana Facebook berkomitmen untuk menghormati hak asasi manusia sesuai dengan UNGP. Analisis Dewan dalam kasus ini didasarkan pada standar hak asasi manusia berikut ini:

1. Kebebasan berekspresi: Pasal 19, Kovenan Internasional mengenai Hak Sipil dan Hak Politik ( ICCPR), Komentar Umum No. 34, Komite Hak Asasi Manusia, 2011
2. Tanggung jawab bisnis: Bisnis, hak asasi manusia, dan wilayah yang terdampak konflik: menuju laporan tindakan yang meningkat ( A/75/212), Kelompok Kerja PBB tentang masalah hak asasi manusia dan perusahaan transnasional serta perusahaan bisnis lainnya

5. Pernyataan pengguna

Pengguna menyatakan dalam bandingnya kepada Dewan bahwa dia memposting konten ini untuk “menghentikan rezim militer yang brutal” dan memberikan anjuran kepada para pemimpin demokrasi di Myanmar. Pengguna tersebut juga menegaskan kembali perlunya membatasi pendanaan rezim militer Myanmar. Pengguna tersebut mengidentifikasi dirinya sebagai “aktivis” dan berspekulasi bahwa informan rezim militer Myanmar melaporkan postingannya. Pengguna tersebut juga menyatakan bahwa “seseorang yang mengerti bahasa Myanmar” harus meninjau postingannya.

6. Penjelasan keputusan Facebook

Facebook menghapus konten tersebut sebagai serangan “Tingkat 2” berdasarkan Standar Komunitas Ujaran Kebencian, khususnya karena melanggar kebijakannya yang melarang kata-kata makian tidak senonoh yang ditargetkan kepada orang berdasarkan ras, etnis, dan/atau asal negara. Menurut Facebook, konten yang diduga melanggar itu dianggap sebagai serangan terhadap orang Tionghoa.

Konten tersebut mencakup frasa dalam bahasa Myanmar “$တရုတ်”, yang diterjemahkan oleh tim regional Facebook sebagai “fucking Chinese” (atau “sout ta-yote") (orang Tionghoa sialan). Tim regional Facebook lebih lanjut menetapkan bahwa “$” bisa digunakan sebagai singkatan untuk “စောက်” atau “sout”, yang diterjemahkan menjadi “fucking” (sialan). Menurut tim Facebook, kata “ta-yote” “dianggap secara budaya dan bahasa sebagai tumpang tindih identitas/makna antara negara Tiongkok dan orang Tionghoa”. Facebook memberi Dewan panduan internal rahasia yang relevan yang diberikannya kepada moderatornya, atau Standar Penerapan Internal, tentang membedakan bahasa yang menarget orang berdasarkan karakteristik yang dilindungi dan konsep yang terkait dengan karakteristik yang dilindungi.

Facebook juga mencatat dalam dasar keputusannya bahwa setelah kudeta Februari 2021 “ada laporan meningkatnya sentimen anti-Tiongkok” di Myanmar dan bahwa “beberapa orang Tionghoa terluka, terjebak, atau terbunuh dalam dugaan serangan pembakaran pabrik pakaian yang didanai Tiongkok di Yangon, Myanmar”. Menanggapi pertanyaan dari Dewan, Facebook menyatakan bahwa perusahaan tidak memiliki kontak dengan rezim militer Myanmar tentang postingan ini.

Facebook menyatakan bahwa mengingat sifat dari kata “ta-yote” dan fakta bahwa pengguna tidak “dengan jelas menunjukkan bahwa istilah tersebut merujuk pada negara/pemerintah Tiongkok”, Facebook memutuskan bahwa “pengguna, setidaknya, merujuk pada orang Tionghoa”. Dengan demikian, Facebook menyatakan bahwa penghapusan postingan tersebut sesuai dengan Standar Komunitasnya tentang Ujaran Kebencian.

Facebook juga menyatakan bahwa penghapusannya sejalan dengan nilai “Martabat” dan “Keamanan”, jika diimbangi dengan nilai “Suara”. Menurut Facebook, makian tidak senonoh yang ditujukan pada orang Tionghoa “dapat mengakibatkan bahaya bagi orang-orang tersebut” dan “merendahkan, tidak manusiawi, dan meremehkan martabat individu”.

Facebook menyatakan bahwa keputusannya sejalan dengan standar hak asasi manusia internasional. Facebook menyatakan bahwa keputusannya memenuhi persyaratan hukum hak asasi manusia internasional tentang legalitas, tujuan yang sah, serta kebutuhan dan proporsionalitas. Menurut Facebook, kebijakannya “mudah diakses” di Standar Komunitas dan “pilihan kata-kata pengguna termasuk dalam larangan istilah yang tidak senonoh”. Selain itu, keputusan untuk menghapus konten tersebut sah untuk melindungi “hak orang lain dari bahaya dan diskriminasi”. Akhirnya, keputusannya untuk menghapus konten tersebut “perlu dan proporsional” karena “akumulasi konten yang mengandung kata-kata tidak senonoh yang ditujukan kepada orang Tionghoa ‘menciptakan lingkungan di mana tindakan kekerasan kemungkinan besar akan ditoleransi dan menyebarnya diskriminasi dalam masyarakat’”, mengutip keputusan Dewan 2021-002-FB-UA terkait dengan Zwarte Piet. Facebook menyatakan bahwa hal tersebut serupa karena “kedua kasus melibatkan ujaran kebencian yang ditujukan pada orang-orang berdasarkan ras atau etnis”.

7. Pengajuan pihak ketiga

Dewan Pengawas menerima 10 komentar publik terkait kasus ini. Lima komentar berasal dari Asia Pasifik dan Oseania, khususnya Myanmar, dan lima dari Amerika Serikat dan Kanada. Dewan menerima komentar dari para pemangku kepentingan termasuk pembela hak asasi manusia dan organisasi masyarakat sipil yang berfokus pada kebebasan berekspresi dan ujaran kebencian di Myanmar.

Kiriman tersebut mencakup tema termasuk terjemahan dan analisis kata “sout ta-yote”; apakah konten tersebut merupakan serangan terhadap Tiongkok atau orang Tionghoa; apakah postingan tersebut merupakan pidato politik yang harus dilindungi dalam konteks konflik di Myanmar; apakah ada peningkatan sentimen anti-Tiongkok di Myanmar setelah kudeta Februari 2021; hubungan antara Tiongkok dan rezim militer Myanmar; dan praktik moderasi konten Facebook, khususnya penggunaan, pelatihan, dan audit fitur otomatisasi Facebook untuk konten bahasa Myanmar.

Untuk membaca komentar publik yang dikirimkan untuk kasus ini, klik di sini.

8. Analisis Dewan Pengawas

Kasus ini menyoroti pentingnya konteks saat menegakkan kebijakan konten yang dirancang untuk melindungi pengguna dari ujaran kebencian, sekaligus menghormati pidato politik. Ini sangat relevan di Myanmar karena kudeta Februari 2021 dan pentingnya Facebook sebagai media komunikasi. Dewan mengevaluasi pertanyaan apakah konten ini harus dipulihkan melalui tiga pedoman: Standar Komunitas Facebook; nilai-nilai Facebook, dan tanggung jawab hak asasi manusia Facebook.

8.1 Kepatuhan terhadap Standar Komunitas

Dewan menemukan bahwa memulihkan konten ini sejalan dengan Standar Komunitas Facebook tentang Ujaran Kebencian. Kebijakan Facebook melarang “istilah yang tidak senonoh dengan maksud untuk menghina” yang menarget seseorang atau sekelompok orang berdasarkan ras, etnis, atau asal negara. Dewan menyimpulkan bahwa postingan tersebut tidak menarget orang, melainkan ditujukan pada kebijakan pemerintah Tiongkok di Hong Kong, yang dibuat dalam konteks membahas peran pemerintah Tiongkok di Myanmar.

Selain komentar publik, Dewan juga meminta dua terjemahan teks. Ini termasuk terjemahan dari penutur bahasa Myanmar yang berlokasi di Myanmar dan penutur bahasa Myanmar lainnya yang berlokasi di luar Myanmar. Komentar publik dan penerjemah Dewan mencatat bahwa dalam bahasa Myanmar, kata yang sama digunakan untuk merujuk pada negara dan orang dari negara itu. Oleh karena itu, konteks adalah kunci untuk memahami makna yang dimaksud. Ini sangat relevan untuk menerapkan kebijakan Ujaran Kebencian Facebook. Pada saat konten dihapus, Standar Komunitas Ujaran Kebencian menyatakan bahwa standar ini melarang serangan terhadap orang berdasarkan asal negara tetapi tidak melarang serangan terhadap negara.

Dewan mempertimbangkan berbagai faktor dalam memutuskan bahwa postingan ini tidak menarget orang Tionghoa berdasarkan etnis, ras, atau asal negara. Pertama, postingan yang lebih luas menyarankan cara untuk membatasi keterlibatan keuangan dengan rezim militer dan memberikan dukungan keuangan untuk CRPH. Kedua, bagian postingan yang diduga melanggar mengacu pada kebijakan keuangan Tiongkok di Hong Kong sebagai “torture” (penyiksaan) atau “persecution” (penganiayaan), dan bukan tindakan individu atau orang Tionghoa di Myanmar. Ketiga, sementara tidak adanya laporan postingan yang dibagikan secara luas tidak selalu menunjukkan bahwa postingan tersebut tidak melanggar, lebih dari 500.000 orang melihat, dan lebih dari 6.000 orang membagikan postingan tersebut serta tidak ada pengguna yang melaporkannya. Keempat, kedua penerjemah yang dikonsultasikan oleh Dewan menunjukkan bahwa, meskipun istilah yang sama digunakan untuk negara dan rakyatnya, di sini istilah tersebut merujuk pada negara. Ketika ditanya tentang kemungkinan ambiguitas dalam referensi ini, para penerjemah tidak menunjukkan keraguan. Kelima, kedua penerjemah juga menyatakan bahwa postingan tersebut berisi istilah yang biasa digunakan oleh pemerintah Myanmar dan kedutaan Tiongkok untuk saling menyapa. Terakhir, komentar publik umumnya mencatat tenor keseluruhan postingan sebagai diskusi politik.

Oleh karena itu, mengingat bahwa kata-kata tidak senonoh tersebut tidak menarget orang berdasarkan ras, etnis, atau asal negara, tetapi menarget negara, Dewan menyimpulkan bahwa postingan tersebut tidak melanggar Standar Komunitas Ujaran Kebencian Facebook. Sangat penting untuk memastikan bahwa larangan menarget orang berdasarkan karakteristik yang dilindungi tidak ditafsirkan dengan cara yang melindungi pemerintah atau lembaga dari kritik. Dewan mengakui bahwa ujaran kebencian anti-Tiongkok adalah masalah serius, tetapi postingan ini merujuk pada negara Tiongkok.

Dewan tidak setuju dengan argumen Facebook bahwa keputusannya untuk menghapus konten ini mengikuti dasar Dewan dalam kasus keputusan 2021-002-FB-UA (di mana Dewan mendukung penghapusan penggambaran orang dalam wajah hitam). Dalam hal ini, Facebook memiliki aturan yang melarang penggambaran orang dengan wajah hitam, dan Dewan mengizinkan Facebook untuk menerapkan aturan tersebut pada konten yang menyertakan penggambaran wajah hitam Zwarte Piet. Di sini, sebaliknya, konteks postingan menunjukkan bahwa bahasa yang digunakan tidak melanggar aturan Facebook sama sekali.

Selama pembahasan Dewan terkait kasus ini, Facebook memperbarui Standar Komunitas Ujaran Kebencian untuk memberikan informasi lebih lanjut tentang bagaimana Facebook melarang “konsep” terkait dengan karakteristik yang dilindungi dalam keadaan tertentu. Aturan baru ini menyatakan Facebook “memerlukan informasi dan/atau konteks tambahan” untuk penegakan dan bahwa pengguna tidak boleh memposting “Konten yang menyerang konsep, institusi, ide, praktik, atau keyakinan yang terkait dengan karakteristik dilindungi, yang kemungkinan akan berkontribusi pada bahaya fisik, intimidasi, atau diskriminasi terhadap orang-orang yang terkait dengan karakteristik yang dilindungi tersebut”.

Karena itu bukan bagian dari Standar Komunitas saat Facebook menghapus konten ini, dan Facebook tidak membantah bahwa perusahaan menghapus konten berdasarkan Standar yang diperbarui ini kepada Dewan, Dewan tidak menganalisis penerapan kebijakan ini untuk kasus ini. Namun, Dewan mencatat bahwa “konsep, institusi, ide, praktik, atau keyakinan” dapat mencakup ekspresi yang sangat luas, termasuk pidato politik.

8.2 Kepatuhan terhadap nilai-nilai Facebook

Dewan menyimpulkan bahwa memulihkan konten ini sesuai dengan nilai-nilai Facebook. Meskipun nilai-nilai “Martabat” dan “Keamanan” Facebook itu penting, khususnya dalam konteks kudeta Februari 2021 di Myanmar, konten ini tidak menimbulkan risiko terhadap nilai-nilai ini sehingga akan membenarkan penggantian “Suara”. Dewan juga menemukan bahwa postingan tersebut berisi pidato politik yang merupakan inti dari nilai “Suara”.

8.3 Kepatuhan terhadap tanggung jawab hak asasi manusia Facebook

Dewan menyimpulkan bahwa memulihkan konten ini sejalan dengan tanggung jawab hak asasi manusia Facebook sebagai bisnis. Facebook telah berkomitmen untuk menghormati hak asasi manusia berdasarkan Prinsip Panduan PBB tentang Bisnis dan Hak Asasi Manusia (UNGP). Kebijakan Hak Asasi Manusia Perusahaan menyatakan bahwa ini termasuk Kovenan Internasional tentang Hak Sipil dan Politik (ICCPR).

Pasal 19 ICCPR memberikan perlindungan yang luas untuk ekspresi. Perlindungan ini “sangat tinggi” untuk ekspresi dan debat politik, termasuk tentang lembaga publik ( Komentar Umum 34, para. 38). Pasal 19 mengharuskan batasan negara pada kebebasan berekspresi untuk memenuhi tiga bagian pengujian yaitu legalitas, legitimasi, serta kebutuhan dan proporsionalitas. Dewan menyimpulkan bahwa tindakan Facebook tidak memenuhi tanggung jawabnya sebagai bisnis dalam pengujian ini.

I. Legalitas (kejelasan dan aksesibilitas aturan)

Prinsip legalitas berdasarkan hukum hak asasi manusia internasional mewajibkan aturan yang digunakan oleh negara untuk membatasi ekspresi agar jelas dan dapat diakses ( Komentar Umum No. 34, para. 25). Aturan yang membatasi ekspresi juga harus “memberikan panduan yang memadai bagi pihak yang bertanggung jawab atas eksekusinya agar mereka bisa memastikan jenis ekspresi apa yang benar-benar dibatasi dan apa yang tidak” (Komentar Umum 34, para. 25).

Standar Komunitas Ujaran Kebencian melarang kata-kata yang tidak senonoh yang menarget orang berdasarkan ras, etnis, atau asal negara. Facebook mengatakan kepada Dewan bahwa karena kesulitan dalam “menentukan niat dalam skala besar, Facebook menganggap frasa ‘fucking Chinese’ (orang Tionghoa sialan) mengacu pada orang Tionghoa dan negara atau pemerintah Tiongkok, kecuali jika pengguna memberikan konteks tambahan yang merujuk hanya pada negara atau pemerintah tersebut”. Kebijakan yang menerapkan penghapusan secara default tidak dinyatakan dalam Standar Komunitas.

Dewan menyimpulkan bahwa pengguna memberikan konteks tambahan bahwa postingan tersebut merujuk ke negara bagian atau negara, sebagaimana tercantum dalam analisis Dewan tentang Standar Komunitas Ujaran Kebencian (Bagian 8.1 di atas). Beberapa peninjau Facebook mencapai kesimpulan yang berbeda dari penerjemah Dewan, orang yang mengirimkan komentar publik, dan mungkin lebih dari 500.000 pengguna yang melihat postingan tersebut tetapi tidak melaporkannya. Mengingat perbedaan ini, Dewan mempertanyakan kecukupan panduan internal Facebook, sumber informasi, dan pelatihan yang diberikan kepada moderator konten.

Mengingat temuan Dewan bahwa pengguna tidak melanggar kebijakan Ujaran Kebencian Facebook, Dewan tidak memutuskan apakah kebijakan non-publik penghapusan secara default melanggar prinsip legalitas. Namun, Dewan khawatir bahwa kebijakan penghapusan secara default ketika kata-kata tidak senonoh dapat ditafsirkan sebagai ditujukan baik kepada orang atau negara tidak jelas dari Standar Komunitas. Secara umum, Facebook harus membuat panduan internal publik yang mengubah interpretasi Standar Komunitas yang dilihat publik.

II. Tujuan yang sah

Setiap pembatasan negara atas ekspresi harus mengupayakan salah satu tujuan sah yang tercantum dalam ICCPR. Ini mencakup “hak orang lain”. Menurut Facebook, kebijakan Ujaran Kebencian bertujuan untuk melindungi pengguna dari diskriminasi. Dewan setuju bahwa ini adalah tujuan yang sah.

III. Kebutuhan dan proporsionalitas

Prinsip kebutuhan dan proporsionalitas berdasarkan hukum hak asasi manusia internasional mewajibkan batasan ekspresi "harus tepat untuk memenuhi fungsi perlindungannya; batasan setidaknya harus berupa instrumen yang paling bijaksana yang mungkin memenuhi fungsi perlindungannya; batasan harus proporsional terhadap kepentingan yang akan dilindungi" (Komentar Umum 34, para. 34). Dalam kasus ini, berdasarkan interpretasinya tentang konten tersebut, Dewan memutuskan bahwa membatasi postingan ini tidak akan mencapai fungsi perlindungan.

UNGP menyatakan bahwa bisnis harus melakukan uji tuntas hak asasi manusia yang berkelanjutan untuk menilai dampak dari aktivitasnya (UNGP 17) dan mengakui bahwa risiko pelanggaran hak asasi manusia meningkat dalam konteks yang terdampak konflik (UNGP 7). Kelompok Kerja PBB tentang masalah hak asasi manusia dan perusahaan transnasional serta perusahaan bisnis lainnya mencatat bahwa tanggung jawab uji tuntas bisnis harus mencerminkan kompleksitas dan risiko bahaya yang lebih besar dalam beberapa skenario ( A/75/212, para. 41-49). Demikian pula, dalam keputusan kasus 2021-001-FB-FBR Dewan merekomendasikan agar Facebook “memastikan sumber informasi dan keahlian yang memadai untuk menilai risiko bahaya dari akun berpengaruh secara global”, mengakui bahwa Facebook harus memusatkan perhatian ke daerah dengan risiko yang lebih besar.

Dalam kasus ini, Dewan menemukan bahwa tanggung jawab yang meningkat ini tidak boleh menyebabkan penghapusan secara default, karena risikonya tinggi dalam membiarkan konten berbahaya dan menghapus konten yang menimbulkan sedikit atau tidak ada risiko bahaya. Sementara kekhawatiran Facebook tentang ujaran kebencian di Myanmar cukup beralasan, Facebook juga harus berhati-hati untuk tidak menghapus kritik dan ekspresi politik, dalam kasus ini mendukung pemerintahan yang demokratis.

Dewan mencatat bahwa kebijakan Facebook yang menganggap kata-kata tidak senonoh yang menyebutkan asal negara (dalam kasus ini “$တရုတ်”) merujuk pada negara dan orang dapat menyebabkan penegakan yang tidak proporsional dalam beberapa konteks linguistik, seperti kasus ini, di mana kata yang sama digunakan untuk keduanya. Dewan juga mencatat bahwa dampak penghapusan ini melampaui kasus, karena Facebook mengindikasikan bahwa itu digunakan dalam pelatihan pengklasifikasi sebagai contoh konten yang melanggar Standar Komunitas Ujaran Kebencian.

Mengingat hal di atas, standar hak asasi manusia internasional mendukung pemulihan konten ke Facebook.

9. Keputusan Dewan Pengawas

Dewan Pengawas membatalkan keputusan Facebook untuk menghapus konten tersebut dan mengharuskan agar konten dipulihkan. Facebook berkewajiban berdasarkan Piagam Dewan untuk menerapkan keputusan ini pada konteks paralel, dan harus menandai konten ini sebagai tidak melanggar jika digunakan dalam pelatihan pengklasifikasi.

10. Rekomendasi kebijakan

Facebook harus memastikan bahwa Standar Penerapan Internalnya tersedia dalam bahasa yang digunakan moderator konten untuk meninjau konten. Jika perlu memprioritaskan, Facebook harus fokus terlebih dahulu pada konteks di mana risiko terhadap hak asasi manusia lebih parah.

*Catatan prosedural:

Keputusan Dewan Pengawas disiapkan oleh panel yang terdiri dari lima Anggota dan disetujui oleh mayoritas anggota Dewan. Keputusan Dewan tidak selalu mewakili pandangan pribadi semua Anggota.

Untuk keputusan kasus ini, penelitian independen ditugaskan atas nama Dewan. Sebuah lembaga penelitian independen yang berkantor pusat di University of Gothenburg dan terdiri dari tim yang beranggotakan lebih dari 50 ilmuwan sosial di enam benua, serta lebih dari 3.200 pakar negara dari seluruh dunia, memberikan keahlian dalam konteks sosial politik dan budaya. Perusahaan Lionbridge Technologies, LLC, yang spesialisnya fasih dalam lebih dari 350 bahasa dan bekerja dari 5.000 kota di seluruh dunia, menyediakan keahlian linguistik.

Voltar para Decisões de Casos e Pareceres Consultivos sobre Políticas