Menyebut Individu Berbahaya yang Ditetapkan sebagai “Shaheed”

Ringkasan Eksekutif

Dewan menemukan bahwa pendekatan Meta dalam memoderasi konten yang menggunakan istilah “shaheed” untuk menyebut individu yang ditetapkan berbahaya secara substansial dan tidak proporsional membatasi kebebasan berekspresi. Meta menafsirkan semua penggunaan istilah “shaheed” untuk menyebut individu yang telah ditetapkan sebagai “berbahaya” sebagai pelanggaran dan menghapus konten tersebut. Menurut Meta, kemungkinan besar istilah “shaheed” menyumbang lebih banyak penghapusan konten berdasarkan Standar Komunitas daripada kata atau frasa tunggal lain di platformnya. Tindakan kekerasan teroris memiliki konsekuensi yang parah, menghancurkan kehidupan orang-orang yang tidak bersalah, menghambat hak asasi manusia, dan merusak tatanan masyarakat kita. Namun demikian, setiap pembatasan terhadap kebebasan berekspresi untuk mencegah kekerasan semacam itu harus dilakukan secara tepat dan proporsional, mengingat penghapusan konten yang tidak semestinya bisa jadi tidak efektif dan bahkan kontraproduktif.

Rekomendasi Dewan dimulai dari perspektif bahwa sangat penting bagi Meta untuk mengambil tindakan yang efektif guna memastikan platformnya tidak digunakan untuk menghasut tindakan kekerasan, atau merekrut orang untuk terlibat di dalamnya. Kata “shaheed” terkadang digunakan oleh para ekstremis untuk memuji atau mengglorifikasi orang-orang yang telah meninggal saat melakukan aksi terorisme. Namun, tanggapan Meta terhadap ancaman ini juga harus dipandu oleh rasa hormat terhadap semua hak asasi manusia, termasuk kebebasan berekspresi.

Pada tanggal 7 Oktober 2023, ketika Dewan sedang menyelesaikan pendapat penasihat kebijakan ini, Hamas (organisasi Tingkat 1 yang ditetapkan berdasarkan kebijakan Organisasi dan Individu Berbahaya Meta) memimpin serangan yang belum pernah terjadi sebelumnya di Israel yang menewaskan sekitar 1.200 orang dan menyebabkan sekitar 240 orang disandera (Kementerian Luar Negeri, Pemerintah Israel). Menurut laporan berita, pada 6 Februari 2024, setidaknya 30 dari sekitar 136 sandera yang masih berada di tawanan Hamas pada awal Januari diyakini telah meninggal. Meta segera menetapkan peristiwa itu sebagai serangan teroris di bawah kebijakan Organisasi dan Individu Berbahaya yang dimilikinya. Israel dengan cepat memulai kampanye militer untuk menanggapi serangan tersebut. Kampanye militer tersebut telah menewaskan lebih dari 30.000 orang di Gaza pada 4 Maret (Kantor Koordinasi Urusan Kemanusiaan PBB, berdasarkan data dari Kementerian Kesehatan Gaza). Laporan dari bulan Januari mengindikasikan bahwa 70% dari korban jiwa diperkirakan adalah wanita dan anak-anak.

Menyusul peristiwa ini, Dewan menghentikan sementara publikasi pendapat penasihat kebijakan ini untuk memastikan rekomendasinya responsif terhadap penggunaan platform Meta dan kata “shaheed” dalam konteks ini. Penelitian tambahan ini mengonfirmasi rekomendasi Dewan kepada Meta untuk memoderasi kata “shaheed” yang digunakan, bahkan di bawah tekanan ekstrem dari peristiwa semacam itu, dan akan memastikan penghormatan yang lebih besar terhadap semua hak asasi manusia dalam respons Meta terhadap krisis. Pada saat yang sama, Dewan menggarisbawahi bahwa kebijakan Meta di bidang ini bersifat global dan dampaknya jauh melampaui konflik ini. Meskipun mengakui pentingnya berbagai peristiwa baru-baru ini di Israel dan Palestina, rekomendasi Dewan juga bersifat global dan tidak terbatas pada konteks tertentu.

Dalam pandangan Dewan, pendekatan Meta untuk memoderasi kata “shaheed” terlalu luas, dan secara tidak proporsional membatasi kebebasan berekspresi dan diskursus sipil. Misalnya, postingan yang melaporkan kekerasan dan entitas yang ditetapkan dapat dihapus secara tidak benar. Pendekatan Meta juga gagal untuk mempertimbangkan berbagai makna istilah “shaheed”, yang banyak di antaranya tidak dimaksudkan untuk mengglorifikasi atau menyampaikan persetujuan, dan terlalu sering menyebabkan penutur bahasa Arab dan penutur bahasa lain (banyak di antaranya adalah Muslim) yang postingannya dihapus, tanpa penghapusan tersebut sesuai dengan tujuan kebijakan Organisasi dan Individu Berbahaya. Selain itu, kebijakan Meta melarang, misalnya, glorifikasi, dukungan, dan representasi individu, organisasi, dan peristiwa yang ditetapkan, serta hasutan untuk melakukan kekerasan. Kebijakan-kebijakan ini, yang ditegakkan secara akurat, memitigasi bahaya yang diakibatkan oleh penggunaan platform Meta oleh teroris. Oleh karena itu, Dewan merekomendasikan agar Meta mengakhiri larangan menyeluruh terhadap penggunaan istilah “shaheed” untuk merujuk pada individu yang ditetapkan berbahaya, dan memodifikasi kebijakannya untuk analisis yang lebih kontekstual terhadap konten yang mengandung kata tersebut.

Latar Belakang

Pada bulan Februari 2023, Meta bertanya kepada Dewan apakah mereka harus terus menghapus konten yang menggunakan istilah Arab “shaheed”, atau شهيد yang ditulis dalam huruf Arab, untuk merujuk pada individu yang ditetapkan berdasarkan kebijakan Organisasi dan Individu Berbahaya. “Shaheed” juga merupakan kata serapan (yang berarti banyak bahasa non-Arab yang “menyerap” istilah yang berasal dari bahasa Arab ini, termasuk dengan mengadaptasi ejaannya).

Perusahaan menggambarkan kata “shaheed” sebagai istilah “kehormatan”, yang digunakan oleh banyak komunitas lintas budaya, agama, dan bahasa, untuk merujuk pada seseorang yang meninggal secara tidak terduga, seperti dalam kecelakaan, atau secara terhormat, seperti dalam perang. Perusahaan mengakui bahwa istilah ini memiliki “banyak makna” dan meskipun “tidak ada padanan langsung dalam bahasa Inggris”, terjemahan bahasa Inggris yang umum adalah “martyr”. Dengan memperhatikan bahwa “dalam bahasa Inggris, kata ‘martyr’ berarti orang yang telah menderita atau mati untuk tujuan yang dibenarkan dan biasanya memiliki konotasi positif”, Meta menyatakan bahwa “karena penggunaan ini, kami mengategorikan istilah [“shaheed”] sebagai pujian di bawah kebijakan [Organisasi dan Individu Berbahaya] kami”.

Anggapan Meta bahwa menyebut individu yang ditetapkan sebagai “shaheed” selalu merupakan “pujian” berdasarkan kebijakan Organisasi dan Individu Berbahaya mengakibatkan pelarangan menyeluruh. Meta telah mengakui bahwa karena memiliki banyak makna, istilah ini “dapat digunakan secara berlebihan pada sejumlah besar ucapan yang tidak dimaksudkan untuk memuji individu yang ditetapkan, terutama di kalangan penutur bahasa Arab”. Selain itu, Meta tidak menerapkan pengecualian kebijakan Organisasi dan Individu Berbahaya yang mengizinkan penggunaan istilah “shaheed” untuk “melaporkan, mengecam, atau mendiskusikan secara netral entitas yang ditetapkan”. Hal ini terus berlanjut di bawah pembaruan terbaru pada kebijakan tersebut—yang dibuat pada bulan Desember 2023—yang sekarang melarang “glorifikasi” dan “referensi yang tidak jelas” alih-alih “pujian”, yang telah dihapus sepenuhnya.

Meta memulai proses pengembangan kebijakan pada tahun 2020 untuk menilai kembali pendekatannya terhadap istilah “shaheed” karena kekhawatiran ini. Namun, tidak ada konsensus yang tercapai di dalam perusahaan dan tidak ada pendekatan baru yang disepakati.

Ketika meminta pendapat penasihat kebijakan ini, Meta mempresentasikan tiga opsi kebijakan yang memungkinkan kepada Dewan:

1. Mempertahankan status quo.
2. Mengizinkan penggunaan kata “shaheed” untuk menyebut individu yang ditetapkan dalam postingan yang memenuhi pengecualian terhadap larangan “pujian” (misalnya, melaporkan, mendiskusikan, atau mengecam secara netral), selama tidak ada pujian lain atau “sinyal kekerasan”. Beberapa contoh dari sinyal-sinyal yang diusulkan oleh Meta termasuk penggambaran visual senjata, atau referensi ke bahasa militer atau kekerasan di dunia nyata.
3. Mengizinkan penggunaan kata “shaheed” untuk menyebut individu yang ditetapkan selama tidak ada pujian lain atau sinyal kekerasan. Hal ini terlepas dari apakah konten termasuk dalam salah satu pengecualian yang tercantum di atas, berbeda dengan opsi kedua.

Dewan telah mempertimbangkan pilihan kebijakan lain yang memungkinkan. Untuk alasan yang diberikan dalam pendapat penasihat kebijakan ini, rekomendasi Dewan selaras dengan opsi ketiga, meskipun lebih sedikit sinyal kekerasan yang diadopsi daripada yang diusulkan Meta dalam permohonannya, dan ada persyaratan untuk penerapan pengecualian kebijakan yang lebih luas untuk melaporkan, mendiskusikan secara netral, dan mengecam entitas yang ditetapkan serta tindakan mereka.

Temuan Utama dan Rekomendasi

Dewan menemukan bahwa pendekatan Meta saat ini terhadap istilah “shaheed” sehubungan dengan individu yang ditetapkan berbahaya terlalu luas, dan secara substansial dan tidak proporsional membatasi kebebasan berekspresi.

“Shaheed” adalah istilah yang signifikan secara budaya dan agama. Terkadang digunakan untuk menunjukkan pujian bagi mereka yang mati karena melakukan tindakan kekerasan dan bahkan mungkin “mengglorifikasi” mereka. Namun, istilah ini sering digunakan, bahkan dengan menyebut individu yang berbahaya, dalam pelaporan dan komentar netral, diskusi akademis, debat hak asasi manusia, dan bahkan dengan cara yang lebih pasif. Di antara makna lainnya, istilah “shaheed” secara luas digunakan untuk menyebut individu yang meninggal saat melayani negara, mengabdi pada perjuangan mereka, atau sebagai korban tak terduga dari kekerasan sosial-politik atau tragedi alam. Di beberapa komunitas Muslim, nama ini bahkan digunakan sebagai nama depan dan nama keluarga. Ada alasan kuat untuk meyakini bahwa berbagai makna istilah “shaheed” mengakibatkan penghapusan sejumlah besar materi yang tidak dimaksudkan sebagai pujian terhadap teroris atau tindakan kekerasan mereka.

Pendekatan Meta dalam menghapus konten semata-mata karena menggunakan kata “shaheed” ketika menyebut individu yang ditetapkan dengan sengaja mengabaikan kompleksitas linguistik kata tersebut dan berbagai penggunaannya, dengan memperlakukannya selalu dan hanya sebagai padanan dari kata bahasa Inggris “martyr”. Hal ini secara substansial memengaruhi kebebasan berekspresi dan kebebasan media, membatasi diskursus kewarganegaraan secara berlebihan, dan memiliki implikasi negatif yang serius terhadap kesetaraan dan non-diskriminasi. Penegakan yang berlebihan ini secara tidak proporsional memengaruhi penutur bahasa Arab dan penutur bahasa lain yang memiliki kata serapan “shaheed”. Pada saat yang sama, cara-cara lain dalam menerapkan kebijakanOrganisasi dan Individu Berbahaya akan tetap memungkinkan Meta untuk memajukan nilai keselamatan dan tujuannya untuk menjauhkan materi yang mengglorifikasi teroris dari platformnya. Oleh karenanya, kebijakan yang ada saat ini tidak proporsional dan tidak perlu.

Untuk menyelaraskan kebijakan dan praktik penegakan seputar istilah “shaheed” lebih dekat dengan standar hak asasi manusia, Dewan merekomendasikan beberapa rekomendasi berikut ini (lihat bagian 6 untuk rekomendasi selengkapnya):

1. Meta harus berhenti menganggap bahwa kata “shaheed”, ketika digunakan untuk menyebut individu yang ditetapkan atau anggota organisasi yang tidak disebutkan namanya, selalu melanggar dan tidak memenuhi syarat untuk pengecualian kebijakan. Konten yang menyebut individu yang ditetapkan sebagai “shaheed” harus dihapus sebagai “referensi yang tidak jelas” hanya dalam dua situasi. Pertama, ketika ada satu atau lebih dari tiga sinyal kekerasan: penggambaran visual dari persenjataan/senjata, pernyataan maksud atau anjuran untuk menggunakan maupun membawa persenjataan/senjata, atau referensi ke peristiwa yang ditetapkan. Kedua, ketika konten tersebut melanggar kebijakan Meta (misalnya, untuk mengglorifikasi atau karena referensi ke individu yang ditetapkan belum jelas karena alasan selain penggunaan kata “shaheed”). Dalam skenario mana pun, konten harus tetap memenuhi syarat untuk pengecualian “melaporkan, mendiskusikan, dan mengecam”.

2. Untuk memperjelas larangan “referensi yang tidak jelas”, Meta harus menyertakan beberapa contoh konten yang melanggar, termasuk postingan yang menyebut individu yang ditetapkan sebagai “shaheed” yang dikombinasikan dengan satu atau lebih dari tiga sinyal kekerasan yang ditentukan dalam rekomendasi no. 1

3. Panduan kebijakan internal Meta juga harus diperbarui untuk memperjelas bahwa menyebut individu yang ditetapkan sebagai “shaheed” tidak melanggar kecuali jika disertai dengan sinyal kekerasan, dan bahwa ketika sinyal tersebut ada, konten tersebut masih bisa mendapatkan kelonggaran dari pengecualian “melaporkan, mendiskusikan atau mengecam secara netral”.

Jika Meta menerima dan menerapkan rekomendasi ini, di bawah peraturan yang ada, perusahaan akan terus menghapus konten yang “mengglorifikasi” individu yang ditetapkan, yang mencirikan kekerasan atau kebencian mereka sebagai sebuah prestasi, atau melegitimasi maupun membela tindakan kekerasan atau kebencian mereka, serta dukungan atau representasi apa pun dari entitas berbahaya yang ditetapkan. Usulan pendekatan dari Dewan yang dihasilkan dari rekomendasi ini adalah agar Meta berhenti untuk selalu menafsirkan istilah “shaheed” yang menyebut individu yang ditetapkan sebagai tindakan melanggar, dan hanya menghapus konten jika digabungkan dengan pelanggaran kebijakan tambahan (misalnya, glorifikasi) atau sebagai “referensi yang tidak jelas” karena adanya sinyal-sinyal kekerasan. Konten semacam itu masih harus memenuhi syarat untuk pengecualian kebijakan “melaporkan, mendiskusikan secara netral, dan mengecam individu yang ditetapkan”.

Dewan juga merekomendasikan agar Meta:

4. Menjelaskan secara lebih terperinci prosedur penetapan entitas dan peristiwa berdasarkan kebijakan Organisasi dan Individu Berbahaya guna meningkatkan transparansi seputar daftar ini. Meta juga harus memublikasikan informasi agregat tentang jumlah total entitas dalam setiap tingkat daftar penunjukannya, serta berapa banyak entitas yang ditambahkan dan dihapus pada tahun lalu.

5. Memperkenalkan proses yang jelas dan efektif untuk secara rutin mengaudit penetapan dan menghapus konten yang tidak lagi memenuhi kriteria yang dipublikasikan guna memastikan daftar entitas Organisasi dan Individu Berbahaya adalah yang terkini, dan tidak menyertakan organisasi, individu, dan peristiwa yang tidak lagi memenuhi definisi penetapan Meta.

6. Menjelaskan metode yang digunakan untuk menilai keakuratan tinjauan manusia dan kinerja sistem otomatis dalam penegakan kebijakan Organisasi dan Individu Berbahaya. Meta juga harus secara berkala membagikan hasil penilaian kinerja pengklasifikasi yang digunakan dalam penegakan kebijakan ini, dengan memberikan hasil yang dapat dibandingkan di seluruh bahasa dan/atau wilayah.

7. Menjelaskan dengan jernih bagaimana pengklasifikasi digunakan untuk menghasilkan prediksi pelanggaran kebijakan dan bagaimana Meta menetapkan ambang batas untuk tidak mengambil tindakan, mendaftarkan konten untuk ditinjau oleh manusia, atau menghapus konten. Informasi ini harus disediakan di Pusat Transparansi perusahaan untuk menginformasikan kepada para pemangku kepentingan.

Pendapat Lengkap Penasihat Kebijakan

1. Permintaan Meta

I. Permintaan Pendapat Penasihat Kebijakan

1. Dalam permintaannya (tersedia dalam bahasa Inggris dan Arab), Meta bertanya kepada Dewan apakah mereka harus terus menghapus konten yang menggunakan kata “shaheed” (شهيد) (dan bentuk tunggal/jamak, termasuk varian kata serapan dalam bahasa Arab dan bahasa lainnya) untuk menyebut individu yang dianggap berbahaya berdasarkan kebijakan Organisasi dan Individu Berbahaya mereka, atau apakah pendekatan yang berbeda akan lebih selaras dengan nilai-nilai perusahaan dan tanggung jawab hak asasi manusia. Meta juga meminta panduan untuk masalah konten yang serupa yang mungkin akan terjadi lagi di waktu mendatang.

II. Pendekatan Meta

2. Kebijakan Organisasi dan Individu Berbahaya Meta sebelumnya melarang “pujian, dukungan substantif, atau representasi dari entitas dan individu yang ditetapkan” dan “peristiwa kekerasan yang melanggar”. Pada tanggal 29 Desember 2023, Meta memperbarui kebijakan ini, dengan menghapus larangan pujian dan menambahkan larangan “glorifikasi” dan “referensi yang tidak jelas”. Dewan memperluas pertimbangannya untuk menilai dampak dari perubahan kebijakan ini terhadap temuan dan rekomendasinya.

3. Permintaan pendapat penasihat kebijakan ini berkaitan dengan larangan memuji individu yang ditetapkan, dan bukan larangan paralel atas dukungan substantif atau representasi. Dibandingkan dengan representasi dan dukungan substantif, Meta menganggap “pujian” sebagai pelanggaran yang paling ringan. Meta menyematkan “Tingkat 1” untuk entitas yang paling berbahaya, termasuk organisasi teroris, kelompok pembenci, dan kriminal. Ketika Meta menetapkan “peristiwa kekerasan yang melanggar”, para pelaku peristiwa tersebut juga ditetapkan sebagai individu berbahaya Tingkat 1, dan oleh karenanya glorifikasi (sebelumnya “pujian”) terhadap mereka dilarang. Peristiwa yang dimaksud meliputi “serangan teroris, peristiwa kebencian, kekerasan yang menimbulkan banyak korban atau percobaan kekerasan yang menimbulkan banyak korban, pembunuhan berantai, atau kejahatan kebencian”. Meskipun Meta mengontrol daftar entitas yang ditetapkannya sendiri, yang tidak bersifat publik, penetapan ini sebagian didasarkan pada daftar penetapan pemerintah Amerika Serikat (yaitu, daftar penetapan Meta setidaknya akan sama luasnya dengan daftar pemerintah Amerika Serikat yang menjadi sumbernya). Standar Komunitas menjelaskan bahwa entitas Tingkat 1 mencakup “gembong perdagangan narkotika yang ditetapkan secara spesifik (SDNTK)”, “organisasi teroris asing (FTO)” dan “teroris global yang ditetapkan secara spesifik”. Daftar milik pemerintah AS ini tersedia untuk umum masing-masing di sini, di sini , dan di sini.

4. Sebelum pembaruan kebijakan tanggal 29 Desember 2023, definisi “pujian” menurut Meta termasuk berbicara “secara positif tentang entitas atau peristiwa yang ditetapkan”, memberikan entitas yang ditetapkan “kesan pencapaian”, melegitimasi “tujuan entitas yang ditetapkan dengan membuat klaim bahwa tindakan kebencian, kekerasan, atau kriminal yang mereka lakukan secara hukum, moral, atau lainnya dapat dibenarkan atau dapat diterima” dan menyelaraskan “diri sendiri secara ideologis dengan entitas atau peristiwa yang ditetapkan”. Definisi ini, atau serangkaian contoh, ditambahkan ke dalam kebijakan untuk meningkatkan kejelasan setelah adanya rekomendasi Dewan Pengawas dalam salah satu kasus pertama kami (keputusan Kutipan Nazi, rekomendasi no. 2). Setelah pembaruan kebijakan pada Desember 2023, “glorifikasi” didefinisikan sebagai “melegitimasi atau membela tindakan kekerasan atau kebencian dari entitas yang ditetapkan dengan mengeklaim bahwa tindakan tersebut memiliki justifikasi moral, politis, logis, atau pembenaran lain yang membuat tindakan tersebut dapat diterima atau masuk akal”, atau “mengkarakterisasi atau merayakan kekerasan atau kebencian dari entitas yang ditetapkan sebagai sebuah pencapaian atau prestasi”. Lebih luas lagi, Meta mengatakan dalam pembaruan kebijakannya bahwa mereka akan “menghapus referensi yang tidak jelas atau tanpa konteks jika maksud pengguna tidak ditetapkan secara jelas”. Kebijakan ini akan menentukan bahwa hal ini termasuk “humor yang tidak jelas” dan “referensi tanpa keterangan atau referensi positif yang tidak memuji kekerasan atau kebencian entitas yang ditetapkan”. Namun, kebijakan tersebut tidak memberikan contoh jenis postingan yang dinilai melanggar aturan ini. Meta telah menginformasikan kepada Dewan bahwa mereka terus menghapus semua konten yang menyebut individu-individu yang ditetapkan sebagai “shaheed”. Untuk referensi semacam itu, perusahaan menganggap istilah “shaheed” sebagai pelanggaran dalam semua konteks, yang pada dasarnya mengakibatkan larangan menyeluruh terhadap istilah tersebut ketika digunakan untuk menyebut individu yang ditetapkan. Cakupan larangan ini dapat diilustrasikan sebagian dengan melihat daftar penetapan dari Amerika Serikat yang disebutkan di atas, karena berdasarkan kebijakan Meta, semua orang (dan anggota organisasi) yang ada dalam daftar turunannya dilarang untuk disebut sebagai “shaheed” (atau terjemahan lain dari istilah “martyr”). Ini mencakup entitas lintas benua, dan tidak terbatas pada organisasi teroris atau organisasi dengan ideologi tertentu.

5. Perusahaan menggambarkan kata “shaheed” sebagai istilah “kehormatan”, yang digunakan oleh banyak komunitas lintas budaya, agama, dan bahasa. Perusahaan mengakui bahwa istilah tersebut memiliki “banyak makna” dan “digunakan untuk menggambarkan seseorang yang meninggal secara tidak terduga atau sebelum waktunya, terkadang merujuk pada kematian yang terhormat, seperti ketika seseorang meninggal dalam kecelakaan atau dalam konflik maupun perang”. Meta menyatakan bahwa meskipun “tidak ada padanan langsung untuk istilah tersebut dalam bahasa Inggris”, terjemahan bahasa Inggris yang umum adalah “martyr”. Dalam mengirimkan permintaannya kepada Dewan, sebelum perubahan kebijakan pada Desember 2023, Meta menyatakan bahwa “kami menganggap bahwa kata tersebut berarti ‘martyr’” dan “karena penggunaan inilah kami mengategorikan istilah tersebut sebagai pujian berdasarkan kebijakan [Organisasi dan Individu Berbahaya] kami”. Satu-satunya referensi untuk aturan ini dalam Standar Komunitas yang terbuka untuk publik adalah sebagai contoh frasa yang akan melanggar larangan pujian. Di antara contoh-contoh lainnya, Meta memasukkan frasa yang menyebut seorang teroris Amerika Serikat yang dihukum sebagai “martyr”. Dalam versi bahasa Arab dari kebijakan tersebut, Meta menggunakan contoh yang sama, dengan menerjemahkan kata “martyr” sebagai “shaheed”. Contoh “martyr”/“shaheed” telah dihapus dalam pembaruan Desember 2023 dari Standar Komunitas yang terbuka untuk publik, meskipun Meta telah memberi tahu Dewan bahwa itu terus melanggar dan moderator diinstruksikan untuk menghapusnya.

6. Meta tidak memberlakukan pengecualian kebijakan Organisasi dan Individu Berbahaya terhadap penggunaan istilah “shaheed” yang mengacu pada orang yang ditetapkan. Pengecualian ini memungkinkan untuk secara netral “melaporkan, mendiskusikan, atau mengecam” individu-individu yang ditetapkan. Penghapusan konten yang menyertakan istilah “shaheed” sebagai “pujian” terhadap individu yang ditetapkan akan mengakibatkan “teguran” berat bagi pengguna, dengan akumulasi teguran berat yang mengakibatkan sanksi seperti penangguhan atau penonaktifan akun atau halaman. Tidak dapat diterapkannya pengecualian terhadap aturan tentang istilah “shaheed” tidak dijelaskan dalam Standar Komunitas yang berlaku yang terbuka untuk publik.

7. Meta telah menjelaskan bahwa perlakuannya terhadap kata “shaheed” memajukan nilainya dalam mempromosikan keamanan karena konten ini dapat, dalam pandangannya, “berkontribusi pada risiko bahaya offline”. Pada saat yang sama, Meta mengakui bahwa kata “martyr” dalam bahasa Inggris bukanlah terjemahan yang tepat untuk kata “shaheed”. Mengingat beragamnya makna istilah “shaheed” dan kesulitan dalam memperhitungkan konteks dan maksud penggunanya dalam skala besar, Meta menerima bahwa mereka telah menghapus ujaran yang “tidak berkontribusi pada risiko bahaya” dan “tidak dimaksudkan untuk memuji individu yang ditetapkan, terutama di kalangan penutur bahasa Arab”. Misalnya, penghapusan konten ketika kata “shaheed” digunakan dalam pelaporan berita atau untuk mendiskusikan secara netral kematian dini seseorang yang ditetapkan, dan bukan untuk memuji (atau mengglorifikasi) mereka atau perilaku mereka.

8. Pada tanggal 29 Agustus 2023, Meta memperbarui kelonggaran kebijakan Organisasi dan Individu Berbahaya dengan memasukkan definisi “pelaporan berita”, “diskusi netral”, dan “kecaman”, serta contoh ilustratif dari setiap pengecualian. Pada saat yang sama, Meta memperluas deskripsi tentang kelonggaran ini untuk mengakui bahwa pengguna dapat merujuk ke entitas yang ditetapkan “dalam konteks diskursus sosial dan politik”. Contoh ilustrasi dari konten yang diizinkan semuanya dihapus sebagai bagian dari pembaruan kebijakan Desember 2023, meskipun kelonggaran itu sendiri tetap ada. Contoh-contoh tersebut dimasukkan kembali dalam pembaruan kebijakan pada tanggal 8 Februari 2024. Namun, baik pembaruan pada Desember 2023 maupun Februari 2024 tidak menjelaskan secara eksplisit bahwa referensi yang tidak jelas atau tanpa konteks kepada individu atau organisasi yang ditetapkan tidak akan diuntungkan oleh pengecualian ini, karena mereka didefinisikan oleh kurang jelasnya maksud yang ditetapkan dalam postingan itu sendiri.

9. Meta menginisiasi proses pengembangan kebijakan pada tahun 2020 untuk menilai kembali pendekatannya terhadap istilah “shaheed”. Proses ini mencakup peninjauan riset dan konsultasi pemangku kepentingan. Meta menyebutkan bahwa temuan utama dari keterlibatan pemangku kepentingan adalah makna istilah “shaheed” bergantung pada konteks, dan dalam beberapa kasus, istilah ini digunakan tanpa melibatkan emosi dan bukan pujian. Pada saat yang sama, tidak diragukan lagi, ada beberapa contoh ketika istilah “shaheed” digunakan dan dipahami sebagai pujian terhadap individu yang ditetapkan. Menentukan perbedaan maksud dalam satu postingan pada dasarnya merupakan tantangan tersendiri, terutama pada skala besar. Selama proses ini, sebagaimana diuraikan dalam permintaannya, Meta mengidentifikasi dua opsi kebijakan sebagai alternatif yang memungkinkan untuk penggunaan perlakuannya saat ini terhadap kata “shaheed”. Namun, tidak ada konsensus di antara para pemangku kepentingan mengenai opsi mana yang lebih baik dan Meta tidak menetapkan pendekatan baru. Perusahaan menekankan bahwa karena banyaknya konten di platformnya, perhatian praktis utama adalah apakah penegakan kebijakan yang telah dimodifikasi dapat diterapkan dalam skala besar.

III. Perubahan Kebijakan yang Diminta Meta untuk Dipertimbangkan oleh Dewan

10. Meta mempresentasikan opsi-opsi kebijakan berikut ini untuk dipertimbangkan oleh Dewan, sebelum penggantian larangan “pujian” dengan larangan “glorifikasi” dan “referensi yang tidak jelas”:

1) Terus menghapus semua konten yang menggunakan kata “shaheed” untuk menyebut individu yang ditetapkan sebagai berbahaya berdasarkan kebijakan Organisasi dan Individu Berbahaya.

2) Mengizinkan konten yang menyebut individu yang ditetapkan sebagai “shaheed” jika kondisi berikut ini terpenuhi: (i) digunakan dalam konteks yang diizinkan berdasarkan kebijakan Organisasi dan Individu Berbahaya (misalnya, kecaman, pelaporan berita, debat akademis, diskursus sosial dan politik); (ii) tidak ada pujian, representasi, atau dukungan substantif tambahan terhadap individu yang ditetapkan (misalnya, postingan tidak secara eksplisit memuji pelaku serangan teroris atau melegitimasi kekerasan yang dilakukannya); dan (iii) tidak ada sinyal kekerasan di dalam konten tersebut. Sinyal-sinyal tersebut, seperti yang diusulkan oleh Meta, adalah: penggambaran visual dari persenjataan; pernyataan maksud atau dukungan untuk menggunakan atau membawa persenjataan/senjata; referensi ke bahasa militer; referensi ke pembakaran, penjarahan, atau penghancuran harta benda lainnya; referensi ke insiden kekerasan yang diketahui di dunia nyata; dan pernyataan maksud, ajakan untuk bertindak, merepresentasikan, mendukung, atau menganjurkan kekerasan terhadap orang lain.

3) Menghapus konten yang menggunakan kata “shaheed” untuk menyebut individu yang ditetapkan sebagai berbahaya menurut kebijakan Organisasi dan Individu Berbahaya Meta hanya jika ada pujian, representasi, atau dukungan substantif, maupun sinyal-sinyal kekerasan. Sinyal-sinyal ini sama sebagaimana yang dijelaskan pada opsi kedua.

11. Pilihan kedua dan ketiga berusaha untuk sampai pada pemahaman yang lebih kontekstual tentang penggunaan istilah “shaheed”, dan tampaknya tidak terlalu berbeda dalam hasil yang diinginkan. Kedua opsi tersebut tampak lebih dekat sejauh Meta telah memperluas cakupan pengecualian kontekstual yang dibuatnya terhadap larangannya terhadap pujian (sekarang disebut, glorifikasi) secara umum (lihat paragraf 8 di atas). Sebagaimana yang dipahami oleh Dewan, setelah menanyakan kepada Meta tentang perbedaan penerapan dan hasil dari kedua opsi ini, perbedaan utamanya adalah opsi kedua mengharuskan Meta untuk mencari dan mengonfirmasi bahwa salah satu pengecualian (melaporkan, diskusi netral, kecaman) berlaku untuk konten tersebut, sementara opsi ketiga akan mengabaikan langkah tersebut dan hanya mempertimbangkan apakah postingan tersebut juga mengandung pujian tambahan (sekarang menjadi “pemuliaan” atau “referensi yang tidak jelas”) atau salah satu dari enam sinyal kekerasan yang tercantum. Mengenai semua opsi yang diusulkan Meta, kebijakan tersebut akan diterapkan sedemikian rupa sehingga setiap konten yang menyebutkan atau menggambarkan individu berbahaya yang ambigu atau tidak jelas maksudnya secara default akan dianggap melanggar, sehingga meletakkan beban kejelasan maksud pada pengguna. Perubahan pada Desember 2023 menggabungkan aplikasi ini ke dalam Standar Komunitas Organisasi dan Individu Berbahaya, yang menjelaskan bahwa untuk entitas Tingkat 1 dan peristiwa yang ditetapkan, kebijakan tersebut melarang “referensi yang tidak jelas atau tanpa konteks”, yang mencakup “humor yang tidak jelas, referensi tanpa keterangan atau positif yang tidak mengglorifikasi kekerasan atau kebencian dari entitas yang ditetapkan”. Misalnya, foto seseorang yang ditetapkan, tanpa kata-kata atau komentar lebih lanjut, akan dihapus di bawah kebijakan yang melarang referensi yang tidak jelas karena maksud pengguna tidak cukup eksplisit.

12. Sementara Dewan mempertimbangkan opsi-opsi yang diajukan oleh Meta, Dewan juga mempertimbangkan opsi-opsi lain dan mempertimbangkan perubahan kebijakan pada bulan Desember 2023. Selain itu, mengingat permintaan Meta secara langsung meminta Dewan untuk memberikan rekomendasi kebijakan untuk mengatasi tantangan serupa di masa mendatang, Dewan menilai isu-isu terkait yang berkaitan dengan penegakan dan praktik transparansi Meta di bidang-bidang yang dijelaskan dalam pendapat penasihat kebijakan ini, tetapi juga memiliki implikasi bagi kebebasan berekspresi dan hak asasi manusia secara lebih luas.

IV. Pertanyaan-pertanyaan yang Diajukan Dewan kepada Meta

13. Dewan mengajukan 41 pertanyaan kepada Meta secara tertulis. Pertanyaan-pertanyaan yang berkaitan dengan alasan kebijakan di balik Standar Komunitas Organisasi dan Individu Berbahaya, bukti-bukti bahaya yang dapat ditimbulkan dari mengizinkan “pujian” di platform Meta, proses penegakan yang dilakukan oleh manusia dan otomatis dari Meta, proses penunjukan dan daftar entitas yang ditetapkan oleh Meta, sistem teguran yang dilakukan oleh Meta, dan implikasinya dalam praktiknya jika mengadopsi opsi kebijakan dua atau tiga. Pada bulan Oktober 2023, Dewan mengajukan pertanyaan lanjutan mengenai tren konten untuk kata “shaheed” terkait dengan serangan 7 Oktober di Israel dan respons militer yang sedang berlangsung oleh Israel, dan apakah analisis Meta mengenai opsi-opsi kebijakan yang disampaikan kepada Dewan dalam permohonannya telah berubah sehubungan dengan krisis yang sedang terjadi. Dewan mengajukan tiga pertanyaan tambahan mengenai pembaruan kebijakan Meta pada tanggal 29 Desember 2023. Sebanyak 40 pertanyaan dijawab dan satu pertanyaan dijawab sebagian. Meta hanya memberikan daftar entitas yang ditetapkan sebagai Tingkat 1 kepada Dewan dan tidak membagikan daftar untuk entitas Tingkat 2 dan 3, dengan menjelaskan bahwa “pujian” hanya dilarang jika mengacu pada Tingkat 1.

2. Keterlibatan Pemangku Kepentingan

14. Dewan Pengawas menerima 101 komentar publik yang memenuhi persyaratan untuk diajukan. Sebanyak 72 komentar diajukan dari Amerika Serikat dan Kanada; 15 dari Timur Tengah dan Afrika Utara; delapan dari Eropa; tiga dari Asia Pasifik dan Oseania; dua dari Amerika Latin dan Karibia; dan satu dari Asia Tengah dan Selatan. Semua telah diterima sebelum tanggal 10 April 2023. Untuk membaca komentar publik yang diajukan dengan persetujuan untuk dipublikasikan, klik di sini.

15. Pengajuan tersebut mencakup banyak isu. Banyak yang menjelaskan berbagai makna dari kata “shaheed” dan, akibatnya, dampak negatif dari perlakuan standar Meta terhadap istilah ini sebagai “pujian” terhadap kebebasan berekspresi, khususnya pidato politik dan dokumentasi hak asasi manusia. Pengajuan juga menyinggung masalah penggunaan otomatisasi dalam penegakan, serta daftar penetapan Meta, masalah transparansi, dan potensi bias dalam proses penetapan. Pengajuan lainnya menyatakan kekhawatiran bahwa perubahan kebijakan dapat mengarah pada normalisasi kelompok-kelompok teroris dan meningkatkan kekerasan, terutama di Israel dan Wilayah Pendudukan Palestina.

16. Dewan mengadakan pertemuan pemangku kepentingan regional sebanyak tiga kali untuk Asia Barat Daya dan Afrika Utara, Afrika Sub-Sahara, dan Asia Tenggara. Selain itu, ada dua pertemuan dengan topik bahasan, satu tentang otomatisasi dalam moderasi konten dan satu lagi tentang kontraterorisme dan hak asasi manusia. Para peserta menegaskan bahwa kata “shaheed” memiliki banyak makna. Mati syahid adalah salah satu makna yang mungkin, termasuk untuk kematian individu dalam tindakan terorisme, tetapi istilah “shaheed” juga sering digunakan dalam konteks lain, seperti untuk menggambarkan korban kekerasan dalam serangan-serangan tersebut. Banyak peserta, termasuk anggota masyarakat yang terkena dampak, pakar kontraterorisme, dan pakar moderasi konten, menyatakan kekhawatiran mereka mengenai bias dalam kebijakan tersebut dan mendiskusikan bagaimana kebijakan tersebut berdampak negatif terhadap kebebasan berekspresi, terutama bagi penutur bahasa Arab dan komunitas lain yang menggunakan kata “shaheed”. Tema-tema lain termasuk kurangnya bukti yang menunjukkan hubungan sebab-akibat antara penggunaan kata “shaheed” yang menyebut individu-individu yang ditetapkan dan bahaya di dunia nyata, yang juga ditekankan oleh para pakar keamanan nasional dan kontraterorisme. Selain itu, ada kekhawatiran bahwa tidak memoderasi istilah tersebut sama sekali akan memungkinkan normalisasi individu-individu yang ditetapkan dan organisasi mereka, yang dapat menggunakan media sosial untuk perekrutan dan bentuk-bentuk dukungan substantif lainnya. Topik lebih lanjut termasuk kekhawatiran tentang kualitas otomatisasi yang digunakan Meta dalam moderasi konten istilah tersebut dan seruan dari para peserta untuk lebih transparan dalam penggunaannya, serta daftar entitas yang ditetapkan Meta dan proses penunjukannya.

17. Untuk laporan mengenai Pertemuan Keterlibatan Pemangku Kepentingan kami, silakan klik di sini (untuk versi bahasa Arab, silakan klik di sini).

3. Otoritas dan Lingkup Dewan Pengawas

18. Meta dapat meminta pendapat penasihat kebijakan dari Dewan (Piagam Pasal 3, Bagian 7.3) dan Dewan memiliki keleluasaan untuk menerima atau menolak permintaan Meta (Anggaran Rumah Tangga Pasal 2, Bagian 2.1.3). Pendapat-pendapat ini bersifat nasihat (Piagam; Pasal 3, Bagian 7.3). Meta diwajibkan untuk menanggapi pendapat ini dalam waktu 60 hari setelah publikasi (Anggaran Rumah Tangga Pasal 2, Bagian 2.3.2). Dewan memantau penerapan rekomendasi yang telah Meta sepakati untuk ditindaklanjuti, dan dapat menindaklanjuti rekomendasi sebelumnya dalam keputusan kasusnya.

4. Sumber Otoritas dan Panduan

I. Rekomendasi Dewan Pengawas Sebelumnya

19. Dalam kasus-kasus sebelumnya, Dewan telah merekomendasikan agar Meta mengklarifikasi dan mempersempit cakupan kebijakan Organisasi dan Individu Berbahaya, serta meningkatkan proses hukum dan transparansi seputar penegakan.

20. Sehubungan dengan peningkatan kejelasan kebijakan dan mempersempit cakupannya, Dewan telah merekomendasikan agar Meta:

• Mempersempit definisi “pujian” dalam panduan Pertanyaan yang Diketahui untuk para pengulas (Penyebutan Taliban dalam Laporan Berita, rekomendasi no. 3).
• Merevisi panduan internalnya untuk memperjelas bahwa kelonggaran “pelaporan” dalam kebijakan Organisasi dan Individu Berbahaya mengizinkan pernyataan positif tentang entitas yang ditetapkan sebagai bagian dari pelaporan, dan bagaimana membedakan hal ini dari “pujian” yang dilarang (Penyebutan Taliban dalam Laporan Berita, rekomendasi no. 4).
• Menambahkan kriteria dan contoh ilustrasi pada kebijakannya untuk meningkatkan pemahaman mengenai pengecualian diskusi, kecaman, dan pelaporan berita yang netral (Membagikan Postingan Al Jazeera, rekomendasi no. 1).
• Memperbarui dasar pemikiran kebijakan untuk merefleksikan bahwa penghormatan terhadap kebebasan berekspresi dan hak asasi manusia lainnya dapat memajukan nilai keselamatan Meta dan untuk memerinci secara lebih terperinci “kerugian dunia nyata” yang ingin dicegah dan diganggu oleh kebijakan tersebut saat nilai suara ditekan (Isolasi Öcalan, rekomendasi no. 4).
• Menjelaskan bagaimana pengguna dapat memperjelas maksud di balik postingan mereka sehingga postingan mereka dapat memperoleh manfaat dari pengecualian kebijakan (Isolasi Öcalan, rekomendasi no. 6).
• Menjelaskan dan memberikan contoh penerapan istilah-istilah kunci dalam kebijakan Organisasi dan Individu Berbahaya, termasuk makna “pujian” dan memberikan panduan yang lebih jelas kepada pengguna mengenai cara untuk memperjelas maksudnya (Kutipan Nazi, rekomendasi no. 2).

21. Sehubungan dengan sistem teguran Meta, Dewan telah merekomendasikan agar Meta:

• Menjelaskan proses teguran dan hukuman untuk membatasi profil, halaman, grup, dan akun di Facebook dan Instagram dengan cara yang jelas, komprehensif, dan mudah diakses (Penangguhan Presiden Trump, rekomendasi no. 15).
• Membuat penjelasan publik mengenai sistem teguran dua jalur yang lebih komprehensif dan mudah diakses, dengan memberikan lebih banyak latar belakang mengenai “serangan berat” (Menyebutkan Taliban dalam Laporan Berita, rekomendasi no. 2).
• Menyediakan informasi yang dapat diakses oleh penggunatentang berapa banyak pelanggaran, teguran, dan hukuman yang telah dinilai terhadap mereka, serta konsekuensi yang akan mengikuti pelanggaran di masa depan (penangguhan mantan Presiden Trump, rekomendasi no. 16).

22. Sehubungan dengan transparansi, Dewan telah merekomendasikan agar Meta:

• Membagikan daftar entitas yang ditetapkan kepada publik, atau setidaknya memberikan contoh ilustrasi dari entitas yang ditetapkan (Kutipan Nazi, rekomendasi no. 3).
• Meningkatkan pelaporan penegakan mereka dengan menyertakan jumlah pembatasan profil, halaman, dan akun (selain keputusan penghapusan konten), dengan informasi yang diperinci berdasarkan wilayah dan negara (Penangguhan Mantan Presiden Trump, rekomendasi no. 17).
• Menyertakan informasi yang lebih komprehensif tentang tingkat kesalahan untuk menegakkan aturan tentang “pujian” dan “dukungan” pada individu dan organisasi berbahaya, yang diperinci berdasarkan wilayah dan bahasa (Isolasi Öcalan, rekomendasi no. 12).
• Meningkatkan informasi publik mengenai tingkat kesalahan dan menjadikannya dapat dilihat berdasarkan negara dan bahasa untuk setiap Standar Komunitas ( Masalah Punjabi atas RSS di India, rekomendasi no. 3).

23. Sehubungan dengan otomatisasi, Dewan telah merekomendasikan agar Meta:

• Menginformasikan kepada pengguna ketika otomatisasi digunakan untuk mengambil tindakan penegakan terhadap konten mereka, termasuk deskripsi yang dapat diakses tentang apa yang dimaksud dengan hal tersebut (Gejala Kanker Payudara dan Ketelanjangan, rekomendasi no. 3).
• Memperluas pelaporan transparansi untuk mengungkapkan data tentang jumlah keputusan penghapusan otomatis per Standar Komunitas, dan proporsi keputusan tersebut yang kemudian dibatalkan setelah dilakukan tinjauan oleh manusia (Gejala Kanker Payudara dan Ketelanjangan, rekomendasi no. 6).
• Menerbitkan tingkat kesalahan untuk konten yang secara keliru disertakan dalam bank Layanan Pencocokan Media yang berisi konten yang melanggar, yang dikelompokkan berdasarkan setiap kebijakan konten, dalam pelaporan transparansinya. Pelaporan ini harus mencakup informasi tentang bagaimana konten dimasukkan ke bank dan upaya perusahaan untuk mengurangi kesalahan dalam prosesnya (Kartun Polisi Kolombia, rekomendasi no. 3).
• Memberikan penjelasan kepada publik mengenai penentuan prioritas dan penutupan banding secara otomatis (Slogan Protes Iran, rekomendasi no. 7).

24. Untuk melihat status penerapan rekomendasi-rekomendasi sebelumnya pada saat pendapat ini diselesaikan, silakan klik di sini (untuk versi bahasa Arab, silakan klik di sini).

II. Nilai dan Tanggung Jawab Hak Asasi Manusia Meta

25. Analisis dan rekomendasi Dewan dalam pendapat penasihat kebijakan ini didasari oleh nilai-nilai dan tanggung jawab hak asasi manusia Meta.

26. Meta menggambarkan suara sebagai nilai “yang paling penting”, dengan mencatat bahwa suara dapat dibatasi dalam melayani empat nilai lainnya, yang paling relevan adalah keamanan untuk pendapat penasihat kebijakan ini. Untuk melindungi nilai keselamatan, Meta “menghapus konten yang dapat menyebabkan risiko bahaya terhadap keselamatan fisik seseorang”. Kebijakan ini juga tidak mengizinkan “konten yang mengancam orang lain” karena “berpotensi mengintimidasi, mengucilkan, atau membungkam orang lain”.

27. Pada tanggal 16 Maret 2021, Meta mengumumkan Kebijakan Hak Asasi Perusahaan miliknya, yang menjelaskan komitmennya untuk menghormati hak sesuai dengan Prinsip Pedoman PBB tentang Bisnis dan Hak Asasi Manusia (UNGP). UNGP, yang disahkan oleh Dewan Hak Asasi Manusia PBB pada tahun 2011, menetapkan kerangka kerja sukarela untuk tanggung jawab hak asasi manusia bisnis swasta. Tanggung jawab ini berarti, di antara yang lainnya, bahwa perusahaan “harus menghindari pelanggaran hak asasi manusia lainnya dan harus mengatasi dampak kerugian hak asasi manusia yang melibatkan mereka”, (Prinsip 11, UNGP). Perusahaan diharapkan untuk: “(a) Menghindari tindakan yang menyebabkan atau mengakibatkan dampak kerugian hak asasi manusia melalui kegiatan mereka sendiri, dan mengatasi dampak tersebut jika terjadi; (b) Mencari cara untuk mencegah atau mengurangi dampak kerugian hak asasi manusia yang langsung dihubungkan dengan operasi, produk, atau layanan mereka oleh hubungan bisnis mereka, meskipun belum menyebabkan dampak tersebut” (Prinsip 13, UNGP).

28. Sebagaimana permintaan Meta kepada Dewan, praktik moderasi kontennya dapat berdampak buruk pada hak atas kebebasan berekspresi. Pasal 19, paragraf 2 dari Kovenan Internasional tentang Hak-Hak Sipil dan Politik (ICCPR) memberikan perlindungan yang luas terhadap hak ini, mengingat pentingnya hak ini dalam diskursus politik, dan Komite Hak Asasi Manusia telah mencatat bahwa hak ini juga melindungi ekspresi yang dapat menyinggung perasaan (Komentar Umum No. 34, paragraf. 11, 13, dan 38). Ketika pembatasan ekspresi diterapkan oleh suatu negara, maka pembatasan ini harus memenuhi persyaratan legalitas, tujuan sah, serta kebutuhan dan proporsionalitas (Pasal 19, paragraf 3, ICCPR). Persyaratan ini sering disebut sebagai “pengujian tiga bagian”. Dewan menggunakan kerangka kerja ini untuk menginterpretasikan komitmen hak asasi manusia sukarela Meta, dalam kaitannya dengan keputusan setiap konten yang sedang ditinjau dan pendekatan Meta yang lebih luas untuk tata kelola konten. Sebagaimana yang dinyatakan oleh Pelapor Khusus PBB untuk kebebasan berpendapat dan berekspresi, meskipun “perusahaan tidak memiliki kewajiban kepada Pemerintah, dampaknya adalah suatu hal yang mewajibkan mereka untuk menilai pertanyaan yang sama tentang perlindungan hak penggunanya atas kebebasan berekspresi” (laporan A/74/486, paragraf 41).

29. Hak atas kebebasan berekspresi dijamin untuk semua orang secara setara. Pembatasan apa pun terhadap hak ini harus bersifat non-diskriminatif, termasuk atas dasar agama atau kepercayaan, bahasa yang digunakan, atau asal kebangsaan (Pasal 2 dan 26, ICCPR).

Legalitas (Kejelasan dan Aksesibilitas Aturan)

30. Pembatasan apa pun terhadap kebebasan berekspresi harus dapat diakses dan cukup jelas dalam hal cakupan, makna, dan dampaknya untuk memandu pengguna dan peninjau konten mengenai konten apa saja yang diizinkan atau dilarang. Kurangnya kejelasan atau ketepatan dapat menyebabkan penegakan peraturan yang tidak konsisten dan sewenang-wenang (laporan Pelapor Khusus PBB A/HRC/38/35, paragraf 46). Dewan sebelumnya telah mengkritik kurangnya kejelasan kebijakan Organisasi dan Individu Berbahaya dan membuat rekomendasi bagi Meta untuk memperbaiki kebijakannya (Isolasi Öcalan, rekomendasi no. 4 dan no. 6); Membagikan Postingan Al Jazeera, rekomendasi no. 1; Penyebutan Taliban dalam Laporan Berita, rekomendasi no. 3 dan no. 4). Meta kemudian menerapkan rekomendasi Dewan untuk memperjelas definisi pujian.

31. Namun, pembaruan Meta pada bulan Desember 2023 untuk kebijakan Organisasi dan Individu Berbahaya, memperkenalkan masalah legalitas baru. Meskipun Meta memberikan contoh postingan yang melanggar larangan “representasi”, “dukungan”, dan “glorifikasi”, Meta tidak memberikan contoh pelanggaran “referensi yang tidak jelas”. Rekomendasi Dewan dalam pendapat penasihat kebijakan ini bertujuan untuk lebih meningkatkan kejelasan dan aksesibilitas peraturan Meta.

Tujuan yang Sah

32. Pasal 19, paragraf. 3, ICCPR menyatakan bahwa setiap pembatasan terhadap ekspresi harus memiliki tujuan yang sah, yang mencakup perlindungan terhadap hak-hak orang lain dan juga kepentingan masyarakat yang lebih luas, seperti keamanan nasional (lihat juga Komentar Umum 34, paragraf. 21 dan 30). Dasar pemikiran kebijakan Meta untuk Standar Komunitas Organisasi dan Individu Berbahaya menjelaskan bahwa standar ini bertujuan untuk “mencegah dan mengganggu bahaya di dunia nyata”, yang telah ditemukan oleh Dewan dalam berbagai kasus sejalan dengan tujuan yang sah untuk melindungi hak-hak orang lain, termasuk hak untuk hidup (Pasal 6, ICCPR). Dewan juga sebelumnya telah mengakui bahwa pujian terhadap entitas yang ditetapkan dapat menimbulkan risiko bahaya terhadap hak-hak orang lain dan bahwa upaya untuk mengurangi bahaya tersebut melalui larangan pujian dalam Standar Komunitas Organisasi dan Individu Berbahaya memiliki tujuan yang sah (Penyebutan Taliban dalam Laporan Berita).

Kebutuhan dan Proporsionalitas

33. Batasan kebebasan berekspresi “harus sesuai untuk memenuhi fungsi perlindungannya; pembatasan tersebut harus menjadi instrumen yang tidak mengganggu dari semua pembatasan yang mungkin mendapatkan fungsi perlindungannya; pembatasan harus proporsional terhadap kepentingan yang akan dilindungi” (Komentar Umum34, paragraf 34).

34. Resolusi Dewan Keamanan PBB 1624 (2005) menyerukan kepada negara-negara, sebagaimana yang mungkin diperlukan dan sesuai, dan sesuai dengan kewajiban mereka di bawah hukum internasional, untuk “melarang hasutan berdasarkan hukum untuk melakukan tindakan atau tindakan teroris”, (paragraf 1a), dan resolusi berikutnya telah menyatakan kekhawatirannya mengenai penggunaan internet oleh organisasi teroris (DK PBB Resolusi 2178 (2014) dan Resolusi DK PBB 2396 (2017)). Meskipun resolusi-resolusi ini menegaskan kembali bahwa negara harus menangani dan mencegah terorisme sesuai dengan kewajiban mereka berdasarkan hukum hak asasi manusia internasional, Pelapor Khusus PBB untuk memajukan dan melindungi hak asasi manusia dan kebebasan fundamental dalam memerangi terorisme telah menyuarakan kekhawatiran tentang ketidakjelasan undang-undang yang mencoba menerapkan kewajiban mereka, termasuk yang berkaitan dengan ekspresi online, dan juga fokus mereka pada konten pidato daripada pada maksud pembicara atau dampak dari pidato tersebut terhadap orang lain (Laporan A/HRC/40/52, paragraf 37). Pelapor Khusus menyimpulkan bahwa mengkriminalisasi propaganda teroris “membutuhkan probabilitas yang masuk akal bahwa ekspresi yang dimaksud akan berhasil menghasut tindakan teroris, sehingga menetapkan tingkat hubungan sebab akibat atau risiko nyata dari hasil yang dilarang terjadi”, ( ibid.). Deklarasi Bersama tentang Internet dan Tindakan Antiterorisme dari Pelapor Khusus PBB untuk kebebasan berekspresi, Perwakilan OSCE untuk kebebasan media dan Pelapor Khusus OAS untuk kebebasan berekspresi, tertanggal 21 Desember 2005, menyatakan bahwa tanpa adanya bukti yang jelas bahwa ujaran yang dimaksud merupakan ajakan langsung dan disengaja kepada orang lain untuk melakukan tindakan terorisme, dan secara langsung meningkatkan kemungkinan terjadinya tindakan terorisme, maka negara tidak boleh membatasi dan memberikan sanksi atas ujaran tersebut melalui tindakan penghukuman (p. 39). Ambang batas yang tinggi juga ditetapkan oleh Pelapor Khusus untuk kebebasan berekspresi dalam laporan A/HRC/17/27 (16 Mei 2011, paragraf 36), yang menyatakan bahwa ekspresi hanya boleh dibatasi untuk tujuan keamanan nasional atau kontraterorisme jika “(a) ekspresi dimaksudkan untuk menghasut kekerasan yang bisa terjadi; (b) kemungkinan besar dapat menghasut kekerasan semacam itu; dan (c) terdapat hubungan yang langsung dan segera antara ekspresi dengan kemungkinan atau terjadinya kekerasan semacam itu”. Menurut Komite Hak Asasi Manusia, ketika tindakan kontraterorisme melarang ujaran tertentu, istilah-istilah seperti “dorongan”, “glorifikasi”, dan “pujian” harus “didefinisikan secara sempit” dan tidak boleh “terlalu membatasi peran penting media dalam menginformasikan kepada publik mengenai tindakan terorisme”, (Komentar Umum 34, paragraf. 30 dan 46).

35. Meskipun prinsip-prinsip dan standar-standar ini merupakan titik awal yang penting bagi analisis Dewan, kewajiban dan batasan yang dikenakan oleh hukum hak asasi manusia internasional terhadap negara tidak identik dengan tanggung jawab dan diskresi yang mungkin dimiliki oleh perusahaan privat dalam bidang ini. Penerapan sanksi pidana oleh negara tidak sama dengan memoderasi konten di platform media sosial, dan Dewan mengakui bahwa Meta, sebagai perusahaan privat dan bukan sebuah negara, dapat dan terkadang memang mengambil pendekatan terhadap ekspresi yang lebih ketat daripada apa yang dapat dibenarkan oleh negara, dengan mempertimbangkan nilai-nilai perusahaannya (lihat paragraf. 27 - 28 di atas) dan tantangan tersendiri dalam memoderasi konten berskala besar. Menurut Pelapor Khusus PBB tentang kebebasan berekspresi: “Ketika peraturan perusahaan berbeda dengan standar internasional, perusahaan harus memberikan penjelasan yang beralasan mengenai perbedaan kebijakan tersebut terlebih dahulu, dengan cara mengartikulasikan perbedaan tersebut”, (laporan mengenai ujaran kebencian online dari Pelapor Khusus untuk kebebasan berekspresi, A/74/486, 9 Oktober 2019, paragraf. 48). Dalam banyak keputusan sebelumnya, Dewan telah mengeksplorasi cara untuk menerjemahkan standar internasional yang dirancang untuk negara ke dalam tanggung jawab hak asasi manusia perusahaan secara tepat, ketika menilai persyaratan proporsionalitas, seperti yang juga ingin dicapai dengan pendapat penasihat kebijakan ini.

36. Keputusan Dewan sebelumnya yang berkaitan dengan Standar Komunitas Organisasi dan Individu Berbahaya juga telah memeriksa tanggung jawab hak asasi manusia Meta terkait dengan “pujian” terhadap entitas yang ditetapkan. Meskipun mencegah penyalahgunaan platform Meta oleh entitas yang ditetapkan yang berusaha menghasut kekerasan, dan untuk merekrut atau terlibat dalam bentuk dukungan material lainnya, adalah tujuan yang sah, Dewan telah menemukan berbagai contoh di mana luas atau ketidaktepatan larangan “pujian” telah secara tidak perlu dan tidak proporsional membatasi ekspresi pengguna. Misalnya, Dewan membatalkan penghapusan sebuah artikel surat kabar berbahasa Urdu tentang pengumuman Taliban tentang rencana untuk membangun kembali pendidikan perempuan dan anak perempuan, karena menganggap itu bukanlah “pujian” (Penyebutan Taliban dalam Pemberitaan). Hal yang sama juga terjadi pada penghapusan postingan pengguna yang salah mengaitkan kutipan dari Joseph Goebbels (Kutipan Nazi) oleh Meta, karena ada konteks yang cukup untuk memperjelas bahwa postingan tersebut bukan ditujukan untuk memuji ideologi Nazi, melainkan untuk diskusi politik di Amerika Serikat. Dewan juga membatalkan keputusan Meta untuk menghapus postingan yang membagikan artikel berita Al Jazeera yang melaporkan ancaman kekerasan oleh kelompok teroris, yang seharusnya tetap berada di platform, sehingga menimbulkan kekhawatiran tentang dampak yang berpotensi diskriminatif dari kebijakan Meta (Membagikan Postingan Al Jazeera). Dalam keputusan yang ringkas dan cepat, Dewan juga telah membatalkan atau mendorong pembatalan beberapa keputusan Meta untuk menghapus postingan Facebook dan Instagram yang awalnya dihapus sebagai pujian terhadap individu-individu yang ditetapkan (Pemimpin Antipenjajahan Amílcar Cabral); Aktivis Lebanon; Menanggapi Antisemitisme; Konstituensi Federal di Nigeria; Pendidikan Anak Perempuan di Afghanistan; Penyebutan Al-Shabaab; Segala Puji bagi Tuhan; dan Sandera Diculik dari Israel). Banyak dari keputusan ini masih relevan, terlepas dari perubahan yang baru-baru ini dilakukan Meta terhadap kebijakan Organisasi dan Individu Berbahaya. Dewan akan melanjutkan pemeriksaan terhadap kebijakan ini dalam kasus-kasus mendatang, termasuk dalam kaitannya dengan ketentuan baru tentang glorifikasi dan “referensi yang tidak jelas”.

6. Rekomendasi dan Analisis

37. Dewan Pengawas menerbitkan tujuh rekomendasi untuk Meta terkait kebijakan konten, penegakan, dan transparansi. Dewan percaya bahwa rekomendasi-rekomendasi ini dapat diterapkan dalam skala besar dan akan memperkuat kepatuhan Meta terhadap nilai-nilai suara dan keselamatan, sekaligus meningkatkan penghormatan terhadap kebebasan berekspresi dan hak asasi manusia lainnya, serta transparansi.

6.1 Kebijakan “Shaheed” Meta

Rekomendasi 1 – Kebijakan Konten: Meta harus berhenti menganggap bahwa kata “shaheed”, ketika digunakan untuk menyebut individu yang ditetapkan atau anggota organisasi yang tidak disebutkan namanya, selalu melanggar dan tidak memenuhi syarat untuk pengecualian kebijakan. Konten yang menyebut individu yang ditetapkan sebagai “shaheed” harus dihapus sebagai “referensi yang tidak jelas” hanya dalam dua situasi. Pertama, ketika ada satu atau lebih dari tiga sinyal kekerasan: penggambaran visual dari persenjataan/senjata, pernyataan maksud atau anjuran untuk menggunakan maupun membawa persenjataan/senjata, atau referensi ke peristiwa yang ditetapkan. Kedua, ketika konten tersebut melanggar kebijakan Meta (misalnya, untuk mengglorifikasi atau karena referensi ke individu yang ditetapkan belum jelas karena alasan selain penggunaan kata “shaheed”). Dalam skenario mana pun, konten harus tetap memenuhi syarat untuk pengecualian “melaporkan, mendiskusikan, dan mengecam”.

Dewan akan mempertimbangkan rekomendasi ini untuk diterapkan ketika Meta secara terbuka memperbarui Standar Komunitas mereka untuk menentukan bahwa referensi kepada individu yang ditetapkan sebagai “shaheed” tidak diperbolehkan ketika satu atau lebih dari tiga sinyal kekerasan yang tercantum ada.

Rekomendasi 2 – Kebijakan Konten: Untuk memperjelas larangan “referensi yang tidak jelas”, Meta harus menyertakan beberapa contoh konten yang melanggar, termasuk postingan yang menyebut individu yang ditetapkan sebagai “shaheed” yang dikombinasikan dengan satu atau lebih dari tiga sinyal kekerasan yang ditentukan dalam rekomendasi no. 1

Dewan akan mempertimbangkan penerapan rekomendasi ini ketika Meta memperbarui Standar Komunitas secara terbuka dengan contoh-contoh “referensi yang tidak jelas”.

Rekomendasi 3 – Penegakan: Panduan kebijakan internal Meta juga harus diperbarui untuk memperjelas bahwa menyebut individu yang ditetapkan sebagai “shaheed” tidak melanggar kecuali jika disertai dengan sinyal kekerasan, dan bahwa ketika sinyal tersebut ada, konten tersebut masih bisa mendapatkan kelonggaran dari pengecualian “melaporkan, mendiskusikan atau mengecam secara netral”.

Dewan akan mempertimbangkan rekomendasi ini untuk diterapkan ketika Meta memperbarui panduannya bagi para peninjau yang mengizinkan kata “shaheed” untuk diuntungkan dari pelaporan, secara netral mendiskusikan atau mengecam pengecualian, dan membagikan panduan yang telah direvisi ini kepada Dewan.

38. Meskipun sangat penting bagi Meta untuk mencegah platformnya digunakan guna menghasut tindakan kekerasan terorisme—tujuan yang sah dari kebijakan moderasi konten—tanggung jawab hak asasi manusia Meta mewajibkan pembatasan ekspresi yang diperlukan dan proporsional, tidak terkecuali untuk menghormati suara orang-orang di komunitas yang terdampak kekerasan. Meskipun salah satu makna “shaheed” memang sesuai dengan kata bahasa Inggris “martyr” dan digunakan dengan cara seperti itu, Dewan berpendapat bahwa tidak perlu atau tidak proporsional bagi Meta untuk menghapus semua konten semata-mata karena penggunaan kata “shaheed” saat menyebut individu yang ditetapkan. Hal ini karena pelarangan kategoris gagal memperhitungkan kompleksitas linguistik dari istilah tersebut, sehingga mengarah pada penghapusan yang berlebihan terhadap ujaran, terlalu membatasi kebebasan media dan ruang sipil, dan memiliki implikasi negatif yang serius terhadap kesetaraan dan non-diskriminasi. Selain itu, jika rekomendasi ini diterima dan diterapkan, perincian kebijakan Meta yang melarang “glorifikasi” dan “referensi yang tidak jelas” secara umum akan terus berlaku. Oleh karena itu, Meta harus berhenti menghapus konten hanya berdasarkan adanya kata “shaheed”. Sebaliknya, Meta harus mengadopsi pendekatan yang lebih kontekstual, dan mendefinisikan sinyal kekerasan secara jelas dan sempit yang akan menyebabkan istilah “shaheed” ditafsirkan sebagai sesuatu yang berbahaya. Sebagaimana dijelaskan di bawah ini, Dewan hanya mendukung penuh dua dari enam sinyal yang diajukan Meta dalam permohonannya, dan merekomendasikan penyempitan sinyal ketiga. Tiga hal lain yang diusulkan Meta—dan yang disediakan sebagai panduan bagi peninjau yang menegakkan kebijakan Kekerasan dan Hasutan yang terpisah—terlalu luas untuk tujuan kebijakan Organisasi dan Individu Berbahaya. Pada saat yang sama, Dewan merekomendasikan agar Meta menerapkan pengecualian untuk konten yang melaporkan, mengecam, atau secara netral mendiskusikan entitas yang ditetapkan ketika ada sinyal kekerasan. Rekomendasi di atas berlaku untuk kata “shaheed” dalam bentuk tunggal dan jamak, dan untuk varian kata “shaheed” dalam banyak bahasa yang telah mengadopsi istilah tersebut.

39. Dewan berkonsultasi dengan para pakar dan pemangku kepentingan untuk menilai potensi bahaya dari mengizinkan konten yang menggunakan istilah “shaheed” untuk menyebut entitas yang ditetapkan pada platform Meta. Beberapa pemangku kepentingan mengkhawatirkan platform Meta yang memfasilitasi propaganda dan upaya perekrutan teroris serta mendorong diskriminasi atau kekerasan, termasuk terhadap orang-orang Yahudi (lihat komentar publik, misalnya, PC-11123 – CyberWell Ltd; PC-11153 – Stop Antisemitism Now; PC-11194 – Committee for Accuracy in the Middle East; PC-11068 – Canadian Antisemitism Education Foundation). Meskipun tidak ada penelitian yang menunjukkan hubungan sebab-akibat yang konkret antara istilah “shaheed” dan peningkatan kekerasan atau diskriminasi seperti itu (sebagaimana disebutkan sebelumnya dalam rujukan Meta di halaman 10, dan yang merupakan hasil dari pelibatan para pakar dan pemangku kepentingan yang dilakukan oleh Meta sendiri sebelum meminta pendapat penasihat kebijakan), ada beberapa kasus yang mengaitkan keinginan untuk menjadi martir dengan tindakan kekerasan. Secara lebih umum, kekhawatiran bahwa media sosial dapat digunakan oleh organisasi-organisasi kekerasan untuk merekrut dan mempromosikan aksi-aksi terorisme, menormalkan terorisme, dan memfasilitasi ekstremisme telah menyebar luas. Keterlibatan pemangku kepentingan yang luas dan konsultasi dengan pakar yang dilakukan oleh Dewan, yang mencakup pertemuan dengan para pakar kontraterorisme (lihat Pertemuan Keterlibatan Pemangku Kepentingan), mengonfirmasi asumsi dan kekhawatiran ini.

40. Sejumlah pengajuan dari para pakar dan pemangku kepentingan kepada Dewan juga menggambarkan dampak negatif terhadap kebebasan berekspresi yang diakibatkan oleh penghapusan konten yang menggunakan istilah “shaheed” (lihat komentar publik, misalnya, PC-11196 – Integrity Institute; PC-11164 – SMEX, PC-11183 ECNL EFF, PC-11190 – Brennan Centre; PC-11188 – Digital Rights Foundation). Hal ini termasuk penghapusan ujaran yang menggunakan istilah “shaheed” bukan untuk memuji atau mengglorifikasi entitas yang ditetapkan, tetapi untuk melaporkan kekerasan oleh teroris atau organisasi yang ditetapkan, atau untuk terlibat dalam diskusi politik atau akademis yang netral tentang individu yang ditetapkan.

41. Contoh-contoh berikut ini dapat mengilustrasikan pendekatan Meta ketika konten yang menyebut individu yang ditetapkan sebagai “shaheed” dihapus:

• Suatu pemerintah membagikan siaran pers di platform Meta yang mengonfirmasi kematian seseorang yang ditetapkan, menggunakan istilah kehormatan “shaheed” di samping nama mereka. Postingan ini akan dihapus karena Meta menganggap istilah “shaheed” sebagai pelanggaran, terlepas dari konteks yang menunjukkan bahwa ini adalah diskusi yang netral.
• Seorang pengguna membagikan foto protes yang mereka hadiri, tanpa keterangan yang jelas yang menjelaskan tujuan protes tersebut. Beberapa plakat menyematkan nama seseorang yang telah meninggal dengan frasa “shaheed”. Postingan ini akan dihapus karena Meta menganggap gambar yang menampilkan plakat yang menampilkan individu yang ditetapkan, dikombinasikan dengan istilah “shaheed”, adalah pelanggaran.
• Seorang pembela hak asasi manusia membagikan sebuah postingan yang berisi deskripsi eksekusi tanpa pengadilan terhadap seseorang yang ditetapkan oleh negara, dengan menyebut mereka sebagai “shaheed” dan mengutuk kebijakan kontraterorisme pemerintah. Postingan ini akan dihapus karena Meta menganggap istilah “shaheed” sebagai pelanggaran, terlepas dari konteks pelaporan.
• Seorang anggota komunitas yang memiliki kekhawatiran memposting keluhan tentang kondisi jalan setempat, yang dinamai sesuai dengan nama individu yang ditetapkan dan menyertakan istilah kehormatan “shaheed”. Postingan ini akan dihapus karena Meta menganggap istilah “shaheed” sebagai pelanggaran, terlepas dari apakah penyebutan individu yang ditetapkan itu bersifat insidental dalam sebuah diskusi tentang masalah setempat.
• Seorang anggota keluarga menyebut orang yang dicintainya yang terbunuh dalam serangan teroris sebagai “shaheed” dan mengecam para penyerang, yang merupakan individu yang ditetapkan. Meskipun postingan ini tidak melanggar, kombinasi penggunaan istilah “shaheed” dalam konteks di mana para pelaku juga disebutkan namanya merupakan ilustrasi dari konten yang menimbulkan penghapusan yang keliru, mengingat pendekatan kategorikal Meta.

42. Beberapa pemangku kepentingan menyatakan kekhawatirannya bahwa pendekatan yang tidak terlalu ketat terhadap penggunaan istilah “shaheed” dapat memiliki efek kumulatif, dalam skala besar, untuk menormalisasi terorisme. Meskipun tidak dapat dipungkiri bahwa dalam beberapa kasus, istilah “shaheed” dimaksudkan dan memang merupakan bentuk persetujuan atau dukungan terhadap seseorang dan tindakan kekerasan mereka, Dewan tidak menganggap larangan menyeluruh kebijakan terhadap kata tersebut dapat dibenarkan dengan alasan tersebut. Mengingat informasi yang diterima oleh Dewan dari para pemangku kepentingan, termasuk para pakar kontraterorisme dan dari penelitian Meta sebelumnya serta konsultasi dengan para pemangku kepentingan, Dewan menyimpulkan bahwa kekhawatiran tentang kemungkinan bahwa kasus-kasus seperti itu dapat menimbulkan efek berbahaya kumulatif yang substansial lebih besar daripada dampak negatif yang sangat nyata dari kebijakan yang ada terhadap kebebasan berekspresi. Hal ini terjadi terutama karena, meskipun rekomendasi Dewan diterapkan, pagar pembatas yang signifikan tetap ada untuk memajukan tujuan mencegah kekerasan dan bahaya lain yang diakibatkan oleh membiarkan teroris dan pendukungnya menggunakan platform Meta secara bebas.

43. Dewan juga mempertimbangkan bahwa kata “shaheed” memiliki berbagai makna dan sering digunakan dengan cara yang tidak menghasut kekerasan atau kebencian, melainkan untuk melaporkan hal-hal yang menyangkut kepentingan umum. Memberlakukan larangan menyeluruh berarti menghapus banyak konten yang tidak menimbulkan bahaya yang ingin dimitigasi oleh kebijakan Meta. Meskipun memoderasi konten dalam skala besar terkadang mengharuskan menerima persentase kesalahan penegakan, Meta memiliki tanggung jawab untuk menimbang kompromi berdasarkan semua tanggung jawab hak asasi manusianya. Berdasarkan semua pertimbangan ini, Dewan mencapai kesimpulan bahwa pendekatan yang diusulkan adalah yang terbaik untuk menyelaraskan tanggung jawab hak asasi manusia Meta secara keseluruhan.

Signifikansi budaya dan agama dari istilah “shaheed “ dan keragaman makna

44. “Shaheed” adalah istilah budaya dan agama yang penting yang digunakan dalam berbagai konteks dan memiliki berbagai makna. Komentar publik yang disampaikan kepada Dewan dan penelitian yang ditugaskan oleh Dewan memberikan insight lebih lanjut tentang istilah tersebut. “Shaheed” dapat berarti “menjadi saksi” dan “bersaksi”. Nama ini juga digunakan sebagai nama depan Islam dan di beberapa wilayah, termasuk Asia Barat dan Afrika Utara, sebagai nama belakang (lihat komentar publik, misalnya, PC-11196 – Integrity Institute; PC-11164 – SMEX). “Shaheed” juga digunakan untuk menyebut orang yang meninggal dunia ketika sedang menjalankan tugas keagamaan. Dalam konflik bersenjata atau serangan kekerasan, termasuk insiden-insiden yang melibatkan organisasi-organisasi yang ditetapkan, orang-orang terkadang memperingati para korban kekerasan dan terorisme dengan menyebut mereka sebagai “shaheed” (lihat komentar publik, misalnya, PC-11164 – SMEX; PC-11197 oleh pemerintah Selandia Baru mengakui para korban penembakan di Christchurch sebagai “shuhada”, yang merupakan bentuk jamak dari kata “shaheed”; PC-11196 dari Integrity Institute menyoroti bahwa komunitas Muslim yang terpinggirkan, termasuk Rohingya, di beberapa negara menyebut para pengungsi yang dipaksa keluar dari Myanmar karena penganiayaan berdasarkan agama atau kepercayaan sebagai “shaheed”). Penelitian kuantitatif terhadap konten yang telah diposting dan masih ada di platform Meta, yang ditugaskan oleh Dewan dari Memetica, mengindikasikan bahwa “shaheed” secara luas digunakan untuk menyebut individu yang meninggal ketika mengabdi kepada negara, mengabdi kepada perjuangan atau sebagai korban tak terduga dari kekerasan sosial politik atau tragedi alam. Meskipun postingan-postingan tersebut tidak selalu mengaitkan “shaheed” dengan individu yang ditetapkan, contoh-contoh yang dikutip sebelumnya (lihat paragraf 41) mengilustrasikan bagaimana banyak makna dan penggunaan “shaheed” juga relevan dalam konteks tersebut.

45. Setelah serangan Hamas terhadap Israel pada Oktober 2023 dan aksi militer Israel di Gaza, Dewan menugaskan penelitian tambahan terhadap tren konten seputar penggunaan kata “shaheed”. Dari lebih dari 12.000 postingan publik yang ditinjau dalam analisis ini, hanya dua yang mendukung Hamas. Hampir semua penggunaan terkait dengan deskripsi korban Palestina di jalur Gaza, tanpa menyebutkan organisasi atau individu yang ditetapkan. Postingan-postingan tersebut mencakup warga Palestina yang berduka karena kehilangan orang yang mereka cintai, sementara yang lain menunjukkan anak-anak Palestina yang terluka dan/atau akibat dari serangan udara di Gaza. Pertanyaan tambahan diajukan kepada Meta, karena akses peneliti terhadap tren konten terbatas pada konten publik yang masih ada di platform, dan tidak termasuk konten yang dihapus oleh Meta karena melanggar kebijakan Organisasi dan Individu Berbahaya. Tanggapan Meta memperkuat temuan penelitian ini. Menurut pandangan perusahaan, tren konten selama krisis tidak menunjukkan adanya perubahan dalam penggunaan atau pemahaman kata “shaheed” dibandingkan dengan sebelum peristiwa-peristiwa tersebut.

46. Berbagai makna ini menunjukkan bahwa anggapan standar Meta bahwa penggunaan kata “shaheed” adalah melanggar dan mengarah pada bahaya di dunia nyata, dan oleh karena itu harus selalu dihilangkan, membebankan biaya global pada kebebasan berekspresi yang harus diatasi. Meta menjelaskan bahwa kata “shaheed” kemungkinan merupakan kata yang paling banyak dimoderasi di platformnya dan berbagai pemangku kepentingan mengamati bahwa konten yang melaporkan entitas yang ditetapkan dan kekerasan sering kali dihapus oleh Meta (permintaan pendapat penasihat kebijakan, di halaman 3). Pendekatan untuk kata “shaheed” ini merupakan contoh perusahaan yang memprioritaskan perbedaan yang jelas (nyata) untuk penegakan dalam skala besar. Meskipun pada prinsipnya pembedaan semacam itu terkadang tepat karena moderasi konten dalam skala besar sering kali memerlukan kompromi yang sulit, Dewan menyimpulkan dalam kasus ini bahwa anggapan baku bahwa kata “shaheed” harus selalu dihapus sehubungan dengan individu yang ditetapkan tidak dapat dibenarkan dan harus dibatalkan. Sebagaimana yang diakui Meta, pendekatannya gagal memperhitungkan konteks linguistik dan budaya secara desain dan menghasilkan penegakan yang berlebihan, dalam dua hal. Pertama, hal ini mengakibatkan penghapusan konten yang tidak dimaksudkan sebagai pujian atau glorifikasi, namun tetap saja melanggar kebijakan karena Meta telah memilih untuk menganggap kata “shaheed” selalu merupakan pelanggaran. Kedua, hal ini mendorong tingkat kekeliruan yang lebih tinggi dalam menghapus konten yang menggunakan kata “shaheed” sehubungan dengan orang-orang yang bukan merupakan individu yang ditetapkan karena pendekatan ini mengukuhkan pendekatan kategorikal dan mencegah evaluasi yang lebih kontekstual.

47. Terlepas dari berbagai makna “shaheed”, Dewan mencatat bahwa contoh-contoh yang sebelumnya disertakan di bawah larangan “pujian” Organisasi dan Individu Berbahaya Meta tidak dikontekstualisasikan untuk pasar yang berbeda, dengan terjemahan langsung yang terlalu menyederhanakan contoh-contoh tersebut. Satu-satunya indikasi dalam Standar Komunitas pendekatan Meta terhadap konten yang mengandung kata “shaheed” adalah contoh frasa yang menyebut seorang teroris yang dihukum sebagai “martyr”, yang tercantum di bawah larangan yang dinyatakan secara lebih luas tentang pujian. Contoh yang sama digunakan di berbagai bahasa dan untuk bahasa Arab diterjemahkan menjadi “shaheed”, meskipun istilah tersebut tidak selalu sama. Dewan mencatat bahwa contoh ini telah dihapus dalam pembaruan kebijakan bulan Desember 2023. Meskipun terjemahan dalam contoh ini belum tentu tidak akurat, namun menggunakan satu contoh tersebut untuk menyatakan bahwa “shaheed” selalu sama dengan “martyr” tidaklah akurat.

48. Untuk alasan yang sama secara terbalik, kesimpulan Dewan tentang kata “shaheed” dalam pendapat penasihat kebijakan ini tidak boleh secara otomatis ditransfer ke istilah “martyr” dan semua terjemahan dari istilah tersebut ke dalam bahasa lain. “Martyr” dan “shaheed” tidak secara langsung setara, karena istilah “martir” kurang bervariasi secara semantik dalam bahasa Inggris, baik di dalam maupun di berbagai wilayah yang menggunakan bahasa Inggris. Di seluruh bahasa, Meta harus menilai istilah mana yang memenuhi ambang batas Meta untuk “glorifikasi”, dengan mengingat panduan yang ditetapkan dalam pendapat penasihat kebijakan ini. Dalam kasus apa pun, Dewan tidak mendukung larangan menyeluruh yang mengisolasi dan melarang penggunaan kata “shaheed” dari konteks yang lebih luas dari postingan di mana istilah tersebut digunakan. Konsisten dengan preseden Dewan Pengawas, postingan-postingan ini harus dinilai secara menyeluruh. Selain itu, konsisten dengan kebijakannya yang terbuka untuk publik, Meta harus memastikan pengecualian kebijakan yang memungkinkan orang untuk “melaporkan, mengecam, atau mendiskusikan secara netral” individu-individu yang ditetapkan ketika istilah “martyr” digunakan (dan istilah yang benar-benar sesuai dengan istilah yang mengglorifikasi atau referensi positif dalam bahasa lain). Hal ini menggarisbawahi pentingnya panduan internal bagi peninjau yang disesuaikan dengan konteks lokal dan spesifisitas linguistik bahasa yang ditinjau (lihat kekhawatiran serupa yang diungkapkan dalam keputusan Dewan Myanmar Bot, yang menjadi dasar rekomendasi no. 1 dalam kasus tersebut).

49. Dalam beberapa kasus, Dewan telah mendorong Meta untuk melakukan kalibrasi ulang antara memiliki aturan garis tegas yang dapat ditegakkan dalam skala besar dan kebijakan yang memberikan perhatian lebih besar pada konteks penegakan, yang sering kali lebih mengutamakan kebebasan berekspresi dan suara pengguna (misalnya, untuk menghormati pelaporan pada entitas yang ditetapkan, lihat Penyebutan Taliban dalam Pelaporan Berita dan Membagikan Postingan Al Jazeera). Meskipun kasus-kasus sebelumnya tidak berurusan langsung dengan penggunaan kata “shaheed”, Dewan telah memperingatkan terhadap praduga maksud buruk ketika orang menyebut entitas yang ditetapkan (lihat Kutipan Nazi). Berbagai komentar publik menyoroti bagaimana anggapan Meta bahwa kata “shaheed” selalu sama dengan “pujian” dapat, sebagai akibat dari kesalahan yang dibuat oleh moderator atau otomatisasi dalam skala besar, menyebabkan penegakan yang berlebihan terhadap orang-orang yang mengenang para korban serangan teroris (lihat komentar publik, misalnya, PC-11164 – SMEX, p. 1; komentar PC-11197 oleh pemerintah Selandia Baru). Menghapus konten semacam itu bahkan dapat bertentangan dengan tujuan kebijakan Organisasi dan Individu Berbahaya karena hal tersebut dapat mencegah diskusi mengenai kekerasan teroris dan upaya untuk melawan ideologi di balik kekerasan tersebut (lihat, misalnya, PC-11164 – SMEX).

Menghormati kebebasan media dan ruang sipil

50. Dewan sangat mengkhawatirkan bahwa pendekatan Meta berdampak pada jurnalisme dan diskursus sipil. Efek-efek tersebut menjadi akut di lokasi tempat kekerasan oleh teroris atau organisasi yang ditetapkan lebih sering terjadi, dan di lokasi-lokasi tempat entitas yang ditetapkan memiliki kendali teritorial atau memegang kekuasaan politik. Berbagai komentar publik mengangkat kekhawatiran ini (lihat komentar publik, misalnya, PC-11196 – Integrity Institute; PC-11157 – Palestine Institute for Public Diplomacy). Organisasi media dan komentator lain mungkin perlu berhati-hati dalam melaporkan entitas yang ditetapkan karena mereka tentunya ingin menghindari penghapusan konten yang dapat mengakibatkan sanksi berat, termasuk penghapusan halaman atau grup, atau penonaktifan akun. Dalam beberapa kasus, hal ini mungkin tidak dapat diprediksi—misalnya, melaporkan protes terhadap aktor pemerintah di mana orang-orang menunjukkan tanda-tanda dukungan kepada orang-orang yang ditetapkan yang telah dibunuh oleh aktor yang sama. Konvensi bahasa, budaya, atau agama dapat menentukan bahwa kata “shaheed” digunakan untuk menyebut orang yang terbunuh dalam situasi ini, termasuk orang yang meninggal saat melakukan tindakan kekerasan.

51. Penting untuk memperhatikan kompleksitas situasi di mana entitas yang ditetapkan mungkin terlibat dalam kekerasan, termasuk dalam situasi yang dapat dikualifikasikan sebagai konflik bersenjata, perlawanan terhadap pendudukan asing, dan kerusuhan sipil. Media dapat menghadapi sejumlah kesulitan dalam melaporkan situasi tersebut, karena media harus peka terhadap konvensi bahasa, budaya, dan agama setempat, serta mematuhi kebijakan konten Meta. Kekhawatiran ini diperparah dengan kurangnya transparansi seputar daftar entitas yang ditetapkan Meta dan fakta bahwa pengguna tidak benar-benar tahu siapa yang ada di daftar tersebut. Pelaporan tentang situasi-situasi tersebut juga sering kali menyertakan sinyal-sinyal kekerasan, seperti penggambaran persenjataan, yang berada di luar konteks pelaporan, diskusi yang netral, atau pengecualian kecaman, dapat menjadi indikator pelanggaran kebijakan. Oleh karena itu, penting bagi Meta untuk menerapkan pengecualian kebijakan dalam kasus-kasus yang menyangkut konten yang melaporkan, mendiskusikan secara netral, atau mengecam entitas yang ditetapkan.

52. Larangan ini juga dapat mempersulit pengguna untuk mengekspresikan pandangan dan kritik mereka ketika hidup dalam konteks di mana entitas yang ditetapkan tengah mengoperasikan atau memegang kekuasaan politik. Untuk menghindari konfrontasi langsung dan risiko keselamatan, pengguna dalam konteks ini dapat merumuskan komentar dengan cara yang wajar dan tidak harus ditafsirkan sebagai pujian. Pemberian sanksi terhadap ujaran semacam itu sangat mengkhawatirkan, karena media sosial menyediakan forum yang penting untuk perdebatan, terutama di wilayah konflik dan negara-negara di mana kebebasan pers dibatasi.

Kesetaraan dan antidiskriminasi

53. Karena penggunaan kata “shaheed” yang luas dan sangat bervariasi, terutama di kalangan penutur bahasa Arab dan penutur (banyak di antaranya adalah Muslim) bahasa-bahasa lain yang memiliki kata serapan “shaheed”, kebijakan Meta memiliki dampak yang tidak proporsional terhadap komunitas-komunitas ini. Hal ini menimbulkan kekhawatiran yang signifikan sehubungan dengan tanggung jawab perusahaan untuk menghormati hak-hak semua pengguna atas kesetaraan dan non-diskriminasi dalam pelaksanaan hak-hak mereka atas kebebasan berekspresi. Hal ini menjadi fokus dari banyak komentar publik (lihat misalnya, PC-11183 ECNL EFF, PC-11190 – Brennan Centre; PC-11188 – Digital Rights Foundation; PC-11196 – Integrity Institute; lihat juga laporan BSR tentang Dampak Meta di Israel dan Palestina). Program Pembangunan PBB (UNDP), dalam laporannya tentang “menghentikan perjalanan menuju ekstremisme”, menyoroti bahwa pendorong utama kekerasan ekstremis, di antara penyebab utama lainnya, adalah “ketidaksetaraan, eksklusi, kurangnya kesempatan dan persepsi ketidakadilan”. Dewan mengkhawatirkan bahwa pendekatan kebijakan Meta dapat memperparah pengalaman marjinalisasi dan eksklusi bagi komunitas tertentu, dan bahkan menjadi kontraproduktif dengan tujuan yang dinyatakan untuk mengurangi kekerasan. UNDP menyoroti bahwa dalam kaitannya dengan moderasi konten di platform online, perusahaan harus memastikan bahwa upaya pencegahan ekstremisme kekerasan “tidak secara tidak sengaja mengarah pada stigmatisasi dan penargetan individu”.

Cara yang tidak terlalu intrusif untuk mencegah bahaya

54. Penilaian terhadap kebutuhan dan proporsionalitas kebijakan juga memerlukan analisis apakah ada cara yang tidak terlalu membatasi untuk mencapai tujuan yang sah yang dimaksud. Rekomendasi Dewan dalam pendapat ini akan, jika diterapkan, mewajibkan Meta untuk berhenti menghapus secara tegas semua penggunaan kata “shaheed” untuk menyebut individu yang ditetapkan. Meskipun demikian, konten yang menggunakan istilah ini masih dapat dihapus dalam situasi yang lebih sempit di mana hubungannya dengan bahaya tidak terlalu ambigu dan lebih jelas. Rekomendasi tersebut akan memungkinkan Meta untuk terus menghapus konten yang menyebut individu-individu yang ditetapkan sebagai “shaheed” jika disertai dengan pelanggaran kebijakan lainnya (misalnya, glorifikasi atau referensi yang tidak jelas), atau konten tersebut mengandung sinyal kekerasan. Hal ini akan terus memberikan batasan yang penting, sekaligus mengurangi dampak buruk dari kebijakan tersebut, termasuk penegakan yang berlebihan terhadap kelompok bahasa dan agama tertentu.

55. Adanya sinyal kekerasan di samping referensi kepada individu yang ditetapkan sebagai “shaheed”, memberikan indikasi yang lebih jelas bahwa postingan tersebut dimaksudkan untuk menyebut secara positif kepada individu tersebut karena hubungannya dengan kekerasan (asalkan pengecualian untuk melaporkan, secara netral mendiskusikan, atau mengecam tidak berlaku). Dalam permintaannya, Meta mengusulkan sinyal-sinyal kekerasan berikut ini, yang diambil dari panduan internal untuk kebijakan Kekerasan dan Hasutan: (1) penggambaran visual persenjataan; (2) pernyataan maksud atau anjuran untuk menggunakan atau membawa persenjataan/senjata; (3) referensi ke bahasa militer; (4) referensi ke pembakaran, penjarahan, atau perusakan properti lainnya; (5) referensi ke insiden kekerasan di dunia nyata yang diketahui; dan (6) pernyataan maksud, seruan untuk bertindak, merepresentasikan, mendukung, atau mengadvokasi kekerasan terhadap seseorang. Dewan menemukan bahwa beberapa sinyal ini memberikan indikator yang berguna untuk konten yang dapat menyebabkan bahaya, yang tidak dapat diduga dari hanya penggunaan kata “shaheed”. Namun, sinyal lain tidak terlalu membantu di sini. Kebijakan Kekerasan dan Hasutan yang terbuka untuk publik tiga kali menyebut “sinyal sementara dari meningkatnya risiko kekerasan”, masing-masing terkait dengan aturan yang dirancang untuk mengatasi risiko kekerasan di lokasi yang ditetapkan dan pada peristiwa-peristiwa tertentu, seperti di tempat pemungutan suara dan pada saat unjuk rasa. Penerapan semua sinyal ini secara menyeluruh untuk memandu referensi penegakan terhadap kata “shaheed” dalam semua konteks, di mana kemungkinan bahaya tidak sebanding dengan kemungkinan atau dalam waktu dekat, berisiko pada penegakan yang tidak proporsional.

56. Dewan menemukan bahwa dalam konteks yang lebih luas dari kebijakan Organisasi dan Individu Berbahaya, seperangkat sinyal yang lebih sempit merupakan hal yang tepat. Sinyal penggambaran visual dari sebuah persenjataan, dan sinyal pernyataan maksud atau anjuran untuk menggunakan atau membawa persenjataan atau senjata, keduanya harus dianggap sebagai indikator konten yang lebih mungkin berkontribusi terhadap timbulnya bahaya. Dewan menemukan bahwa sinyal “referensi terhadap insiden kekerasan di dunia nyata yang diketahui” terlalu luas, namun, mencakup terlalu banyak skenario yang tidak termasuk dalam kekerasan yang dilakukan oleh organisasi atau individu yang ditetapkan. Oleh karenanya, hal ini harus didefinisikan secara lebih sempit dan dibatasi pada peristiwa yang ditetapkan dalam Kebijakan Organisasi dan Individu Berbahaya Meta, yang mencakup serangan teroris, peristiwa kebencian, kekerasan dengan banyak korban, atau percobaan kekerasan dengan banyak korban, pembunuhan berantai, dan kejahatan berbasis kebencian. Tiga sinyal yang direkomendasikan oleh Dewan memungkinkan adanya muatan kontekstual yang lebih besar untuk membantu memastikan penggunaan kata “shaheed” yang tidak terlalu ambigu, yang secara lebih tegas merujuk pada tindakan kekerasan teroris, tetap dihapus.

57. Sinyal-sinyal lain yang diusulkan oleh Meta mengenai “referensi ke bahasa militer” dan “pembakaran, penjarahan, atau penghancuran properti lainnya” terlalu luas dan akan mengarah pada penegakan yang tidak tepat. Usulan terakhir berupa “pernyataan maksud, ajakan untuk bertindak, merepresentasikan, mendukung, atau mengadvokasi kekerasan terhadap orang lain” secara independen akan mengarah pada konten yang melanggar Standar Komunitas Kekerasan dan Hasutan—dan oleh karena itu akan bersifat duplikatif dan tidak perlu jika dimasukkan sebagai sinyal kekerasan.

58. Berbeda dengan opsi kebijakan ketiga Meta, Dewan mencatat bahwa meskipun referensi terhadap individu yang ditetapkan dibuat bersamaan dengan sinyal-sinyal kekerasan ini, mereka mungkin tidak bermaksud untuk mengglorifikasi individu tersebut ataupun tindakan mereka. Dalam permintaannya (di halaman 9–10), Meta menjelaskan potensi penegakan yang berlebihan, dengan merujuk pada praktik-praktik pemberitaan media di Pakistan. Dalam pandangan Dewan, merupakan hal yang umum jika merujuk pada kematian seseorang yang ditetapkan bagi media untuk menyertakan gambar yang memperlihatkan mereka dengan persenjataan, dan/atau menampilkan gambar kehancuran yang mereka sebabkan, tanpa mengglorifikasi tindakan tersebut. Untuk alasan ini, para peninjau skala besar perlu dilatih untuk membiarkan konten tetap ada jika ada maksud yang jelas untuk melaporkan, mengecam, atau mendiskusikan entitas tersebut secara netral.

59. Selain itu, perubahan kebijakan yang direkomendasikan oleh Dewan akan tetap mempertahankan berbagai kebijakan konten lainnya untuk melindungi dari teroris dan pendukungnya yang menggunakan platform Meta guna menyebabkan bahaya di dunia nyata. Postingan yang menyertakan kata “shaheed” untuk menyebut individu yang ditetapkan sebagai Tingkat 1 akan dihapus dalam kondisi berikut ini:

• Jika disertai dengan satu atau lebih dari tiga sinyal kekerasan yang disebutkan di atas.
• Ketika postingan mengandung pelanggaran kebijakan Organisasi dan Individu Berbahaya lainnya (misalnya, untuk representasi, dukungan, atau glorifikasi individu yang ditetapkan). Glorifikasi, misalnya, termasuk melegitimasi atau membela tindakan kekerasan atau kebencian dari individu yang ditetapkan, atau merayakan kekerasan atau kebencian tersebut sebagai sebuah pencapaian.
• Ketika postingan tersebut mengandung pelanggaran kebijakan lainnya, termasuk ujaran kebencian atau kekerasan dan hasutan.
• Ketika postingan tersebut memiliki referensi yang “tidak jelas atau tanpa konteks”. Ini termasuk humor yang tidak jelas, referensi tanpa keterangan, atau referensi positif yang tidak memuji kekerasan maupun kebencian terhadap entitas yang ditetapkan.

60. Oleh karenanya, rekomendasi Dewan tidak akan menghalangi Meta untuk mewajibkan pengguna memastikan bahwa maksud postingan mereka jelas ketika menyebut individu Tingkat 1 yang ditetapkan sebagai “shaheed”. Ini hanya mencegah Meta semata-mata mengandalkan istilah “shaheed” untuk menyatakan bahwa sebuah postingan melanggar. Keterlibatan aktif Meta dalam Forum Internet Global untuk Melawan Terorisme dan penggunaan basis data pencocokan hash juga memastikan penghapusan konten yang dapat mengakibatkan bahaya di dunia nyata. Rekomendasi Dewan akan memungkinkan penegakan yang lebih jelas, lebih kontekstual, dan proporsional terhadap konten yang dapat meningkatkan risiko kekerasan, sembari meningkatkan penghormatan terhadap kebebasan berekspresi dan non-diskriminasi.

Evaluasi opsi-opsi kebijakan alternatif

61. Karena alasan-alasan ini, Dewan menyimpulkan bahwa melanjutkan kebijakan status quo, yang disajikan Meta sebagai salah satu opsi bagi Dewan untuk dipertimbangkan, akan memperkuat pembatasan yang tidak dapat dibenarkan terhadap kebebasan berekspresi yang secara tidak proporsional berdampak pada penutur bahasa Arab, komunitas bahasa yang relevan, dan kaum Muslim. Opsi kebijakan kedua yang diusulkan Meta serupa dengan opsi ketiga, yang direkomendasikan oleh Dewan, sejauh opsi tersebut berusaha untuk mengkontekstualisasikan penggunaan kata “shaheed “ dan mengizinkan kata tersebut untuk digunakan sehubungan dengan individu yang berbahaya dalam beberapa cara. Faktanya, menurut Meta, perubahan kebijakan yang dibuat pada 29 Agustus 2023 memungkinkan lebih banyak diskursus sosial dan politik dalam kasus-kasus tertentu, termasuk dalam kaitannya dengan perjanjian perdamaian, pemilihan umum, isu-isu terkait hak asasi manusia, pemberitaan dan diskusi akademis, netral, serta kecaman. Hal ini membuat hasil kebijakan yang dicari dari opsi kedua dan ketiga menjadi lebih dekat. Perbedaan yang paling signifikan di antara keduanya adalah mengenai kelayakan teknis dan penerapan praktis pada skala besar. Opsi kedua mengharuskan Meta untuk terlebih dahulu menetapkan dengan tegas bahwa salah satu pengecualian yang diizinkan berlaku, dan kemudian memeriksa apakah ada pelanggaran kebijakan atau sinyal kekerasan; opsi ketiga langsung mengarah pada pemeriksaan apakah ada pelanggaran kebijakan atau sinyal kekerasan. Menurut Meta, opsi kedua akan jauh lebih rumit untuk dirancang dan diterapkan secara teknis karena memerlukan pertimbangan berbagai kemungkinan pengecualian (bahkan lebih luas lagi setelah adanya perubahan kebijakan baru-baru ini), yang masing-masing sangat bergantung pada evaluasi konteks. Sulitnya membuat penilaian tersebut secara akurat dan konsisten pada gilirannya berarti bahwa hal ini kemungkinan akan membutuhkan lebih banyak tinjauan dari manusia dan menghasilkan jumlah kesalahan penegakan yang jauh lebih tinggi.

62. Dewan menganggap lebih baik bagi Meta untuk bergantung pada pendekatan yang memeriksa secara lebih seragam semua penggunaan kata “shaheed” dalam hubungannya dengan individu yang ditetapkan, di luar pengecualian yang ada, dan menghapus penggunaan tersebut jika disertai dengan pelanggaran kebijakan lain atau salah satu dari tiga sinyal kekerasan yang tercantum dalam rekomendasi no. 1. Mengubah kebijakan untuk mengadopsi posisi yang lebih dekat dengan opsi ketiga yang diusulkan Meta untuk memperlakukan kata “shaheed” sebagai referensi yang dilarang hanya ketika ada pelanggaran kebijakan lain atau sinyal kekerasan tertentu, sebagaimana yang direkomendasikan oleh Dewan, akan membantu mengurangi positif palsu (penghapusan konten yang tidak melanggar secara keliru), melindungi ujaran yang lebih baik untuk kepentingan umum, kebebasan media dan diskursus sipil, dan mengurangi dampak negatif terhadap hak atas kesetaraan dan non-diskriminasi di antara kelompok-kelompok yang terdampak. Menanggapi pertanyaan Dewan setelah serangan yang dipimpin Hamas terhadap Israel pada Oktober 2023 dan konflik yang terjadi setelahnya, Meta mengonfirmasi bahwa peristiwa tersebut tidak mengubah analisisnya mengenai skalabilitas opsi yang pada awalnya disajikan dalam permintaannya. Dalam pandangan Dewan, rekomendasi yang diusulkan, berdasarkan opsi ketiga Meta, akan menjadi yang paling resilien terhadap potensi kesalahan saat krisis sebesar ini terjadi, dengan catatan pengecualian kebijakan untuk “pelaporan, diskusi netral, dan kecaman” tetap tersedia. Dewan menyatakan bahwa menyediakan pengecualian kebijakan ini memang memberikan kompleksitas yang lebih besar pada skalabilitas kebijakan yang diusulkan oleh opsi ketiga Meta, tetapi menyimpulkan bahwa pengecualian ini sangat penting bagi perlindungan yang memadai atas kebebasan berekspresi sehubungan dengan moderasi konten yang menggunakan kata “shaheed”.

63. Sebagian kecil Anggota Dewan tidak setuju dengan kesimpulan ini dan lebih memilih untuk merekomendasikan agar status quo dipertahankan atau Meta mengadopsi opsi kedua yang diusulkan. Beberapa pihak menekankan bahwa kata “shaheed” pada kenyataannya digunakan oleh organisasi teroris untuk menandakan pujian dan glorifikasi terhadap orang-orang yang melakukan tindakan kekerasan, dan hal ini dapat menjadi insentif untuk radikalisasi dan rekrutmen. Bagi para Anggota Dewan tersebut, fakta-fakta ini saja sudah merepresentasikan bahaya serius yang cukup nyata untuk menjamin dipertahankannya larangan kategoris saat ini, bahkan dengan mengorbankan kebebasan berekspresi. Sebagian lainnya menganggap tidak adanya data yang memadai mengenai tingkat bahaya di dunia nyata yang dapat dikaitkan dengan penggunaan kata “shaheed” di platform Meta, dan prevalensi penegakan yang berlebihan yang terjadi di bawah kebijakan tersebut, sebagai alasan untuk mengadopsi pendekatan yang lebih berhati-hati, dengan mengutamakan keamanan yang lebih besar. Beberapa Anggota Dewan juga percaya bahwa opsi kedua—di mana Meta hanya akan mempertimbangkan makna dan penggunaan kata “shaheed” ketika pengecualian khusus yang diizinkan pertama kali ditemukan untuk diterapkan—merupakan posisi kompromi yang lebih sempit, terlepas dari implikasinya terhadap kesulitan teknis dan kelayakan pada skala besar. Dewan mempertimbangkan dan mendiskusikan alternatif-alternatif ini secara ekstensif. Untuk alasan yang diuraikan di bagian sebelumnya, mayoritas mencapai kesimpulan bahwa rekomendasi berdasarkan opsi ketiga Meta menghadirkan keseimbangan yang lebih baik.

Teguran dan penalti

64. Meskipun mempertahankan pembatasan lain berdasarkan kebijakan Organisasi dan Individu Berbahaya dapat dibenarkan, Meta harus memastikan bahwa pembatasan ini dan sanksi apa pun yang dijatuhkan atas pelanggaran bersifat proporsional. Meta sebelumnya telah menginformasikan kepada Dewan bahwa mereka selalu menerapkan teguran keras untuk semua pelanggaran kebijakan Organisasi dan Individu Berbahaya, termasuk untuk larangan “pujian” mereka sebelumnya. Teguran keras dapat lebih cepat menyebabkan hukuman tingkat akun, seperti batas fitur terikat waktu, penangguhan akun, dan penonaktifan profil atau halaman secara permanen. Langkah-langkah ini dapat sangat membatasi hak-hak pengguna atas kebebasan berekspresi (juga ditekankan dalam komentar publik, lihat misalnya, PC-11190 – Brennan Centre). Dewan sebelumnya merekomendasikan agar Meta meningkatkan kejelasan dan transparansi sistem tegurannya (Penyebutan Taliban dalam Laporan Berita, rekomendasi no. 2); Penangguhan Mantan Presiden Trump, rekomendasi no. 15). Sebagai tanggapan, Meta menyediakan informasi tentang sistem teguran di Pusat Transparansi dan memungkinkan pengguna untuk meninjau hukuman apa yang telah diterapkan Meta pada akun mereka. Meta belum lama ini memperbarui sistemnya untuk teguran standar agar lebih proporsional, tetapi hal ini tidak menjelaskan kepada publik apakah pendekatan Meta terhadap “teguran keras” juga telah diadaptasi.

65. Meta menyampaikan bahwa mereka sedang mengupayakan perubahan pada sistem penegakan terkait kebijakan Organisasi dan Individu Berbahaya, meskipun penjelasan pembaruan kebijakan yang dibuat pada bulan Desember 2023 tidak menjelaskan apakah atau bagaimana sistem penegakannya telah atau akan berubah (misalnya, terkait teguran keras). Dewan menyambut baik perubahan pada sistem penegakan jika perubahan tersebut menghasilkan hukuman yang lebih proporsional untuk konten yang diidentifikasi secara akurat sebagai konten yang melanggar, sejalan dengan rekomendasi Dewan sebelumnya. Teguran keras adalah hukuman yang tidak proporsional untuk pelanggaran ringan dan lebih ambigu secara semantik terhadap kebijakan Organisasi dan Individu Berbahaya, yang mengakibatkan kebijakan tersebut terus memiliki tingkat penegakan berlebihan yang tinggi dan perlakuan yang tidak adil terhadap pengguna.

6.2 Meningkatkan Transparansi dan Pengauditan Daftar

Rekomendasi 4 – Transparansi: Untuk meningkatkan transparansi daftar entitas dan peristiwa yang ditetapkan, Meta harus menjelaskan secara lebih terperinci prosedur penetapan entitas dan peristiwa mereka. Perusahaan juga harus memublikasikan informasi agregat tentang daftar penetapannya secara rutin, termasuk jumlah total entitas dalam setiap tingkatan dalam daftar, serta berapa banyak yang ditambahkan dan dihapus dari setiap tingkatan pada tahun lalu.

Dewan akan mempertimbangkan penerapan ini ketika Meta memublikasikan informasi yang diminta di Pusat Transparansi.

Rekomendasi 5 – Penegakan: Untuk memastikan daftar entitas Organisasi dan Individu Berbahaya tetap terkini dan tidak menyertakan organisasi, individu, dan peristiwa yang tidak lagi memenuhi definisi Meta untuk penetapan, perusahaan harus memperkenalkan proses yang jelas dan efektif dalam mengaudit penetapan secara rutin dan menghapus yang tidak lagi memenuhi kriteria yang dipublikasikan.

Dewan akan mempertimbangkan untuk menerapkan kebijakan ini jika Meta telah membuat proses audit dan menjelaskan proses tersebut di Pusat Transparansi.

66. Menurut kebijakan Organisasi dan Individu Berbahaya Meta sebelumnya, “pujian” dan penggunaan kata “shaheed” hanya dilarang jika merujuk pada entitas yang ditetapkan oleh Meta sebagai individu berbahaya Tingkat 1 (termasuk pelaku “peristiwa kekerasan yang melanggar”). Menyusul pembaruan pada Desember 2023, kebijakan tersebut kini melarang “referensi yang tidak jelas” dan glorifikasi terhadap semua entitas yang ditetapkan sebagai Tingkat 1. “Referensi yang tidak jelas” dapat mencakup “humor yang tidak jelas, referensi tanpa konteks, dan referensi positif yang tidak mengglorifikasi kekerasan atau kebencian dari entitas yang ditetapkan”. Potensi dampak buruk dari larangan-larangan semacam itu terhadap kebebasan berekspresi sangat bergantung pada entitas mana yang ditetapkan Meta sebagai organisasi Tingkat 1 dan “peristiwa kekerasan yang melanggar” yang ditetapkannya. Dalam pertemuan dan komentar publik, banyak pemangku kepentingan mengkritik kurangnya transparansi dan proses yang semestinya di sekitar daftar tersebut, dengan alasan bahwa Meta seharusnya memublikasikannya (lihat komentar publik, misalnya, PC-11164 – SMEX, p. 3; PC-11157 – Palestine Institute for Public Diplomacy). Salah satu pemangku kepentingan merasa khawatir untuk membagikan daftar tersebut secara luas, dengan alasan bahwa hal ini dapat menimbulkan masalah keamanan. Karena daftar tersebut sangat relevan untuk memahami cakupan kebijakan Meta, perusahaan memberikan daftar organisasi dan individu yang ditetapkan sebagai Tingkat 1 kepada Dewan dan penjelasan tentang proses penetapannya, yang kemudian dipelajari secara mendalam oleh Dewan, sebagaimana dibahas di bawah ini.

67. Sebagaimana disebutkan di atas, banyak daftar yang digunakan Meta untuk menetapkan Tingkat 1 dibuat oleh pemerintah Amerika Serikat. Daftar ini mencakup “gembong perdagangan narkotika yang ditetapkan secara spesifik (SDNTK)”, “organisasi teroris asing (FTO)” dan “teroris global yang ditetapkan secara spesifik”. Daftar ini sangat luas, mencakup entitas (dan anggotanya) dalam konteks yang sangat terpolitisasi di beberapa benua dan tidak terbatas pada entitas teroris. Luas dan keragaman ini menunjukkan sejauh mana larangan kebijakan Organisasi dan Individu Berbahaya Meta dapat menjangkau, termasuk larangan yang lebih kategoris terhadap kata “shaheed” yang mengacu pada individu yang ditetapkan—dan dampaknya.

68. Meta menjelaskan bahwa prosesnya dalam meninjau dan menyetujui entitas untuk ditambahkan ke dalam daftar Organisasi dan Individu Berbahaya “bergantung pada proses konsultasi dengan sejumlah pakar internal, penilaian data internal, dan penelitian eksternal”. Meta juga memiliki proses untuk mendokumentasikan “anggota tambahan, alias, simbol, slogan, sub-kelompok, atau sayap media yang terkait dengan organisasi dan individu yang sudah ditetapkan”. Pada tahun 2022, berdasarkan penilaian Meta terhadap ancaman Organisasi dan Individu Berbahaya terhadap platformnya, perusahaan menetapkan kurang dari 1.000 entitas. Entitas kriminal merupakan entitas yang paling banyak disebut, diikuti oleh entitas terorisme kemudian entitas penghasut kebencian. Meta memiliki proses kebijakan delisting yang biasanya memeriksa apakah suatu entitas terus memenuhi ambang batas kebijakan untuk ditetapkan sebagai organisasi atau individu yang berbahaya, dan mempertimbangkan “langkah-langkah aktif yang telah diambil entitas untuk menghentikan tindakan kekerasan dan mengupayakan perdamaian”. Proses ini sedang menjalani pengembangan ulang, tetapi diterapkan kurang dari 10 kali pada tahun 2022. Meta menjelaskan bahwa mereka mengaudit penetapan sebelumnya sebagai bagian dari upaya berkelanjutan untuk menjaganya agar tetap terkini dan secara akurat mencerminkan ancaman dari organisasi dan individu yang berbahaya.

69. Meta menjelaskan bahwa membagikan daftar entitas atau peristiwa yang ditetapkan kepada publik, atau memberi tahu entitas ketika mereka ditambahkan ke dalam daftar, dapat menimbulkan beberapa risiko terhadap efektivitas penegakan dan keselamatan banyak karyawan Meta. Ketika sejumlah entitas telah ditetapkan dan mengetahuinya, beberapa pihak telah melakukan tindakan hukum terhadap Meta (lihat kasus Facebook v. CasaPound, 29 April 2020, Pengadilan Roma, Italia, dan analisis di sini). Dewan mencatat, bahwa dalam beberapa kasus, Meta telah mengungkapkan penetapan beberapa kelompok dalam menanggapi pertanyaan media, dan penetapan tersebut telah dibagikan melalui keputusan Dewan Pengawas.

70. Dewan sebelumnya merekomendasikan agar Meta membagikan daftar entitas yang ditetapkan kepada publik, atau setidaknya memberikan contoh ilustratif (Kutipan Nazi, rekomendasi no. 3). Meta belum menerbitkan daftar tersebut dan belum memberikan informasi terkini terkait rekomendasi ini setelah penilaian kelayakan. Jika Meta terus menolak untuk menerapkan rekomendasi ini, setidaknya mereka harus mengambil langkah-langkah lain untuk meningkatkan transparansi seputar daftar tersebut. Dengan memublikasikan data agregat, meningkatkan transparansi pada proses penunjukan, dan membuat proses penghapusan penunjukan menjadi lebih efektif dapat meningkatkan kesadaran pengguna akan aturan dan proses Meta. Hal ini juga akan berkontribusi pada pengawasan dan akuntabilitas yang lebih besar atas penetapan Meta dan konsekuensinya terhadap kebebasan berekspresi dan hak asasi manusia lainnya. Meta juga dapat mempertimbangkan untuk memfasilitasi akses peneliti ke data untuk meningkatkan transparansi sembari tetap menjaga kerahasiaan daftar tersebut.

6.3 Data untuk Menilai Akurasi Penegakan dan Pengujian Pengklasifikasi

Rekomendasi 6 – Transparansi: Untuk meningkatkan transparansi penegakan Meta, termasuk perbedaan regional di antara pasar dan bahasa, Meta harus menjelaskan metode yang digunakannya untuk menilai keakuratan tinjauan manusia dan kinerja sistem otomatis dalam penegakan kebijakan Organisasi dan Individu Berbahaya. Meta juga harus secara berkala membagikan hasil penilaian kinerja pengklasifikasi yang digunakan dalam penegakan kebijakan yang sama, dengan memberikan hasil yang memungkinkan penilaian ini untuk dibandingkan di seluruh bahasa dan/atau wilayah.

Dewan akan menganggap rekomendasi ini diterapkan ketika Meta memasukkan informasi ini dalam Pusat Transparansi dan Laporan Penegakan Standar Komunitasnya.

Rekomendasi 7 – Transparansi: Untuk menginformasikan para pemangku kepentingan, Meta harus memberikan penjelasan dalam bahasa yang jernih tentang bagaimana pengklasifikasi digunakan untuk menghasilkan prediksi pelanggaran kebijakan. Meta juga harus menjelaskan bagaimana mereka menetapkan ambang batas untuk tidak mengambil tindakan, mengantrekan konten untuk tinjauan manusia, atau menghapus konten dengan menjelaskan proses di mana ambang batas ini ditetapkan. Informasi ini harus disediakan di Pusat Transparansi perusahaan.

Dewan akan mempertimbangkan penerapan ini ketika Meta memublikasikan informasi yang diminta di Pusat Transparansi.

71. Banyak pemangku kepentingan, di pertemuan dan dalam komentar publik, menegaskan bahwa penegakan kebijakan Organisasi dan Individu Berbahaya oleh Meta, dan perlakuan terhadap kata “shaheed” dalam tinjauan manusia dan otomatis, sering kali mengakibatkan kesalahan penegakan yang secara tidak proporsional memengaruhi Muslim dan komunitas linguistik yang relevan (lihat komentar publik, misalnya, PC-11183 ECNL EFF, PC-11190 – Brennan Centre; PC-11188 – Digital Rights Foundation; PC-11196 – Integrity Institute; lihat juga laporan BSR tentang Dampak Meta di Israel dan Palestina). Meta juga menyatakan dalam permintaannya bahwa hal ini merupakan konsekuensi dari kebijakannya terhadap kata “shaheed”. Untuk meningkatkan transparansi, akurasi, dan keadilan proses penegakan Meta, baik yang dilakukan oleh manusia dan proses penegakan otomatis, Dewan membuat dua rekomendasi di atas.

72. Meta menjelaskan bahwa mereka mengukur akurasi penegakan oleh manusia dan otomatis secara rutin. Para peninjau manusia tunduk pada audit berkala oleh mitra alih daya Meta, dan audit tersebut tunduk pada evaluasi tambahan oleh tim Operasi Global Meta.

73. Dewan sebelumnya merekomendasikan agar Meta meningkatkan pelaporan transparansi guna meningkatkan informasi publik mengenai tingkat kesalahan dengan menjadikan informasi ini dapat dilihat berdasarkan negara dan bahasa untuk “pujian” dan “dukungan” terhadap organisasi dan individu yang berbahaya (Isolasi Öcalan, rekomendasi no. 12) dan untuk setiap Standar Komunitas (Masalah Punjabi atas RSS di India, rekomendasi no. 3). Meta menjelaskan bahwa, setelah melakukan penilaian kelayakan, mereka memutuskan untuk tidak menerapkan rekomendasi ini (Isolasi Öcalan, rekomendasi no. 12); Pembaruan Kuartalan Meta Q4 2021 tentang Dewan Pengawas, di halaman 21), dan telah mengalihkan fokus ke arah upaya jangka panjang untuk mendefinisikan metrik keakuratan berdasarkan pembatasan profil, halaman, dan akun, serta lokasi, dan bukan bahasa (Masalah Punjabi atas RSS di India, rekomendasi no. 3); Pembaruan Kuartalan Meta Q2 2023 tentang Dewan Pengawas, di halaman 59). Menyadari kekhawatiran yang meluas atas penegakan kebijakan Organisasi dan Individu Berbahaya yang tidak proporsional, yang diilustrasikan oleh posisi Meta tentang istilah “shaheed “, dan kurangnya pengungkapan data penegakan yang berguna oleh Meta, Dewan menegaskan kembali rekomendasi ini dan pentingnya perusahaan meningkatkan transparansi penegakan berdasarkan lokasi.

74. Data yang saat ini dibagikan Meta di Pusat Transparansi tidak memberikan insight yang memadai mengenai keakuratan tinjauan manusia dan kinerja sistem otomatis. Untuk memungkinkan pengawasan terhadap metodenya, Meta harus menjelaskan cara mereka menilai keakuratan tinjauan manusia dan kinerja sistem otomatis dalam penegakan kebijakan Organisasi dan Individu Berbahaya. Untuk meningkatkan transparansi pada kinerja pengklasifikasi, Meta harus membagikan metrik yang mencakup presisi (menunjukkan proporsi konten yang diidentifikasi secara benar sebagai konten melanggar dari semua konten yang ditandai sebagai konten melanggar) dan recall (menunjukkan persentase konten melanggar yang diidentifikasi oleh pengklasifikasi sebagai konten melanggar dari semua konten melanggar yang ada). Memublikasikan informasi tentang akurasi tinjauan manusia di berbagai wilayah, dan kinerja pengklasifikasi dalam berbagai bahasa, dapat berkontribusi pada akuntabilitas kewajiban hak asasi manusia Meta. Oleh karena itu, Dewan menegaskan kembali rekomendasi sebelumnya dan mendesak Meta untuk menerapkan perubahan yang diusulkan.

75. Meta mengandalkan sistem otomatis, termasuk pengklasifikasi, untuk menegakkan Standar Komunitas. Model pengklasifikasi secara otomatis mengategorikan data ke dalam satu atau beberapa “kelas” (misalnya, melanggar atau tidak melanggar) berdasarkan satu set data pelatihan. Memahami cara kerja sistem ini dan seberapa akurat sistem ini sangatlah penting untuk mengevaluasi bagaimana Meta memoderasi konten dalam skala besar. Meta menyediakan beberapa informasi dasar tentang cara mereka menggunakan sistem otomatis untuk mendeteksi konten yang melanggar dalam bagian penegakan Pusat Transparansi, sementara dalam bagian fitur Meta menjelaskan cara mereka memberi peringkat dan mengkurasi konten. Meta sudah memublikasikan informasi dalam Laporan Penegakan Standar Komunitas tentang persentase konten yang dihapus sebelum dilaporkan (yaitu, berdasarkan deteksi otomatis). Data ini menunjukkan pentingnya deteksi otomatis, tetapi tidak memberikan metrik terperinci tentang penggunaan dan akurasi sistem otomatis Meta, terutama pada penghapusan otomatis. Rangkaian rekomendasi ini bertujuan untuk memperkuat transparansi seputar penggunaan algoritma Meta.

76. Menanggapi pertanyaan yang diajukan oleh Dewan, Meta menjelaskan bahwa pengklasifikasi Organisasi dan Individu Berbahaya untuk “Bahasa Umum – Bahasa Arab” melakukan tinjauan awal untuk penegakan berdasarkan kebijakan Meta. Pengklasifikasi bertujuan untuk mendeteksi konten yang mungkin melanggar kebijakan tersebut. Dewan menemukan bahwa Meta harus menjelaskan ketergantungan pada pengklasifikasi ini secara terperinci di bagian penegakan Pusat Transparansi kepada para penggunanya, konsisten dengan keputusan sebelumnya (lihat Gejala Kanker Payudara dan Ketelanjangan, rekomendasi no. 3; Kartun Polisi Kolombia, rekomendasi no. 3). Secara khusus, penting adanya transparansi mengenai perkiraan ambang batas kepercayaan untuk menindaklanjuti atau tidak menindaklanjuti konten, dan untuk mengantrekan (menambahkan ke antrean) agar dapat ditinjau oleh manusia, serta pertimbangan atau faktor yang menentukan skor tersebut.

77. Meta menjelaskan bahwa pengujian akurasinya tidak berfokus pada jenis pelanggaran individu dalam kebijakan, tetapi berfokus pada tingkat akurasi keseluruhan di seluruh area kebijakan. Meta mengatakan bahwa mereka “melakukan pemantauan metrik secara rutin dan tingkat akurasi audit dalam skala besar”. Dewan sebelumnya telah menjelaskan bahwa mengevaluasi kinerja penegakan Standar Komunitas Meta secara keseluruhan tidaklah cukup (lihat Keputusan Sabuk Wampum). Sistem yang berkinerja baik secara rata-rata berpotensi berkinerja buruk pada subkategori konten, seperti konten yang menggunakan istilah “shaheed”, di mana keputusan yang keliru memiliki dampak terhadap hak asasi manusia yang sangat nyata. Oleh karenanya, penting bagi Meta untuk menunjukkan bahwa mereka melakukan uji tuntas untuk mengidentifikasi dan meminimalkan potensi dampak negatif dari sistemnya terhadap hak asasi manusia, dan bahwa mereka membagikan informasi yang memungkinkan pengawasan terhadap dampak-dampak ini.

78. Banyak pemangku kepentingan berpendapat bahwa sistem penegakan algoritmik Meta gagal memperhitungkan konteks, lebih tidak akurat dalam bahasa non-Inggris, dan hal ini telah menghasilkan dampak yang tidak adil terhadap komunitas Muslim (lihat komentar publik, misalnya, PC-11190 – Brennan Centre).

79. Beberapa pemangku kepentingan merekomendasikan agar Meta berhenti menggunakan otomatisasi untuk memoderasi istilah “shaheed” secara keseluruhan, karena otomatisasi secara umum telah gagal menjelaskan konteksnya hingga saat ini (lihat komentar publik, misalnya, PC-11164 – SMEX, p. 4; PC-11157 – Palestine Institute for Public Diplomacy). Sebagian lainnya berpendapat bahwa, dengan mempertimbangkan penalti berat untuk konten yang melanggar kebijakan Organisasi dan Individu Berbahaya, otomatisasi seharusnya hanya digunakan untuk mengantrekan konten untuk ditinjau, bukan untuk menghapus konten secara otomatis (lihat, misalnya, PC-11183 ECNL EFF, p. 4f). Para pemangku kepentingan menyarankan bahwa setiap postingan yang menggunakan kata “shaheed” untuk menyebut seseorang yang ditetapkan harus “idealnya ditinjau oleh moderator manusia yang memahami konteks setempat di mana postingan tersebut berasal”, (lihat PC-11188 – Digital Rights Foundation, p. 2). Beberapa orang menyarankan agar konten diberi tag geografis, sehingga tinjauan manusia dan otomatis dapat memperhitungkan konteks dengan lebih baik (lihat misalnya, PC-11165 – Taraaz, p. 1). Para pemangku kepentingan juga meminta Meta untuk memberikan lebih banyak informasi mengenai keakuratan penegakan otomatis mereka dan menginvestasikan lebih banyak uang untuk meningkatkan sistem otomatis mereka dalam bahasa non-Inggris (lihat misal, PC-11164 – SMEX, p. 5; PC-11190 – Brennan Centre). Mereka juga mendorong Meta untuk melaporkan aktivitas moderasi kontennya “secara konsisten di seluruh bahasa, termasuk data komprehensif mengenai laporan pengguna, tingkat tindakan, jenis tindakan, keampuhan teknik mitigasi, informasi pelatihan, dan angka banding”, (lihat, misalnya, PC-11196 – Integrity Institute).

80. Beberapa pakar tidak setuju dengan penggunaan kata “shaheed” dalam kaitannya dengan entitas yang ditetapkan sebagai titik acuan tunggal untuk sistem otomatis untuk menghapus konten dari platform, tetapi mereka akan mendorong penggunaan istilah tersebut sebagai bagian dari pendekatan yang lebih berlapis untuk moderasi (misalnya, sebagai sinyal untuk konten yang akan ditinjau berdasarkan kebijakan Meta, tetapi tidak dihapus hanya karena menyertakan referensi ini).

81. Dewan mengakui bahwa mengandalkan sistem algoritmik diperlukan ketika memoderasi konten dalam skala besar, dan banyak dari pendekatan yang diusulkan ini tidak dapat dilakukan dalam skala besar dan menggunakan otomatisasi. Namun, Dewan juga menyimpulkan bahwa Meta perlu mengambil langkah lebih lanjut, termasuk yang direkomendasikan di atas, untuk memastikan transparansi dan keadilan sistem tersebut.

*Catatan Prosedural:

Pendapat penasihat kebijakan Dewan Pengawas disiapkan oleh panel yang terdiri dari lima Anggota dan disetujui oleh mayoritas anggota Dewan. Keputusan Dewan tidak selalu merepresentasikan pandangan pribadi semua Anggota.

Untuk pendapat penasihat kebijakan ini, penelitian independen ditugaskan atas nama Dewan. Dewan dibantu oleh lembaga penelitian independen yang berkantor pusat di University of Gothenburg, yang terdiri lebih dari 50 ilmuwan sosial di enam benua, serta lebih dari 3.200 pakar negara dari seluruh dunia. Dewan juga dibantu oleh Duco Advisors, sebuah firma penasihat yang berfokus pada persimpangan geopolitik, kepercayaan dan keselamatan, serta teknologi. Memetica, sebuah organisasi yang terlibat dalam penelitian sumber terbuka mengenai tren media sosial, juga memberikan analisis. Keahlian linguistik diberikan oleh Lionbridge Technologies, LLC, yang ahlinya fasih dalam lebih dari 350 bahasa dan bekerja dari 5.000 kota di seluruh dunia.

Return to Case Decisions and Policy Advisory Opinions