أسقط

Pidato jenderal Brasil

تم النشر بتاريخ 22 حَزِيران 2023

Dewan Pengawas membatalkan keputusan awal Meta untuk membiarkan video Facebook yang menampilkan seorang jenderal Brasil yang menyerukan untuk “mendatangi Kongres Nasional dan Mahkamah Agung” kepada publik.

نوع القرار

معيار

السياسات والمواضيع

عنوان
انتخابات، حكومات، احتجاجات
معيار المجتمع
تنسيق أنشطة ضارة وترويج ارتكاب جرائم، العنف والتحريض، محتوى عنيف وصادم

المناطق/البلدان

موقع
البرازيل

منصة

منصة
Facebook

Ringkasan Kasus

Dewan Pengawas telah membatalkan keputusan awal Meta untuk membiarkan video Facebook yang menampilkan seorang jenderal Brasil yang menyerukan untuk “turun ke jalan” dan “mendatangi Kongres Nasional dan Mahkamah Agung” kepada publik. Meskipun Dewan mengakui bahwa Meta telah melakukan beberapa langkah evaluasi dan mitigasi risiko selama dan setelah pemilihan umum, mengingat potensi risiko platformnya yang digunakan untuk menghasut untuk melakukan kekerasan dalam konteks pemilihan umum, Meta harus terus meningkatkan upayanya dalam mencegah, memitigasi, dan mengatasi hasil yang buruk. Dewan merekomendasikan agar Meta mengembangkan kerangka kerja untuk mengevaluasi upaya integritas pemilihan umumnya guna mencegah platformnya digunakan untuk mempromosikan kekerasan politik.

Tentang kasus

Pemilihan presiden Brasil pada Oktober 2022 sangat terpolarisasi, dengan klaim online dan offline yang tersebar luas dan terkoordinasi yang mempersoalkan legitimasi pemilihan umum. Klaim ini termasuk seruan untuk intervensi militer, dan penyerbuan gedung-gedung pemerintah guna menghentikan transisi menuju pemerintahan baru. Risiko kekerasan politik yang makin panas belum juga mereda seiring dengan pengambilalihan jabatan oleh Presiden Luiz Inácio Lula da Silva yang baru saja terpilih pada tanggal 1 Januari 2023, karena kerusuhan sipil, unjuk rasa, dan demonstrasi di depan pangkalan militer masih terus berlangsung.

Dua hari kemudian, pada tanggal 3 Januari 2023, seorang pengguna Facebook mengunggah sebuah video yang berkaitan dengan pemilihan umum Brasil tahun 2022. Keterangan dalam bahasa Portugis berisi seruan untuk “mengepung” Kongres Brasil sebagai “alternatif terakhir”. Video tersebut juga menampilkan bagian dari pidato yang diberikan oleh seorang jenderal terkemuka Brasil yang mendukung terpilihnya kembali mantan Presiden Jair Bolsonaro. Dalam video tersebut, seorang jenderal berseragam menyerukan agar orang-orang “turun ke jalan” dan “mendatangi Kongres Nasional... [dan] Mahkamah Agung”. Serangkaian gambar ditampilkan selanjutnya, termasuk gambar kebakaran yang sedang berkobar di Three Powers Plaza di Brasília, tempat kantor kepresidenan, Kongres, dan Mahkamah Agung Brasil berada. Teks yang melapisi gambar berbunyi, dalam bahasa Portugis “Datangkah ke Brasília! Ayo Serang! Ayo kepung Three Powers.” Teks yang melapisi gambar lain berbunyi “kami menuntut kode sumber”, slogan yang digunakan pengunjuk rasa untuk mempertanyakan keandalan mesin pemungutan suara Brasil.

Pada hari konten tersebut diposting, seorang pengguna melaporkannya karena konten tersebut melanggar Standar Komunitas Meta tentang Kekerasan dan Hasutan, yang melarang ajakan untuk memasuki lokasi berisiko tinggi secara paksa. Totalnya, empat pengguna melaporkan konten tersebut sebanyak tujuh kali antara 3 dan 4 Januari. Setelah laporan pertama, konten ditinjau oleh peninjau konten dan mendapati bahwa konten itu tidak melanggar kebijakan Meta. Pengguna mengajukan banding atas keputusan tersebut, tetapi keputusan itu didukung oleh peninjau konten kedua. Keesokan harinya, enam laporan lainnya ditinjau oleh lima moderator berbeda, semuanya mendapati bahwa konten tersebut tidak melanggar kebijakan Meta.

Pada tanggal 8 Januari, para pendukung mantan presiden Bolsonaro menerobos masuk ke Kongres Nasional, Mahkamah Agung, dan kantor kepresidenan yang berada di “Three Powers Plaza” di Brasília, serta mengintimidasi polisi dan merusak properti. Pada tanggal 9 Januari, Meta menyatakan kerusuhan 8 Januari sebagai “peristiwa yang melanggar” berdasarkan kebijakan Individu dan Organisasi Berbahaya dan menyatakan akan menghapus “konten yang mendukung atau memuji tindakan ini”. Perusahaan juga mengumumkan bahwa mereka telah “menetapkan Brasil sebagai Lokasi Berisiko Tinggi Sementara” dan telah “menghapus konten yang mengajak orang-orang untuk mengangkat senjata atau menyerbu secara paksa ke Kongres, istana Presiden, dan gedung-gedung federal lainnya”.

Sebagai akibat dari dipilihnya kasus ini oleh Dewan, Meta memutuskan bahwa keputusannya untuk berulang kali membiarkan konten tersebut di Facebook merupakan kekeliruan. Pada tanggal 20 Januari 2023, setelah Dewan menyeleksi kasus ini, Meta menghapus konten tersebut.

Temuan utama

Kasus ini menimbulkan kekhawatiran seputar efektivitas upaya integritas pemilihan umum Meta dalam konteks Pemilihan Umum 2022 di Brasil, dan di negara lain. Meskipun tindakan yang menentang integritas pemilihan umum secara umum dianggap sebagai ujaran yang dilindungi, dalam beberapa situasi, klaim meluas yang berusaha merusak pemilihan umum dapat berujung pada kekerasan. Dalam kasus ini, intensi pembicara, isi pidato, dan jangkauannya, serta kemungkinan bahaya yang akan segera terjadi dalam konteks politik Brasil pada saat itu, semuanya menjustifikasi penghapusan postingan tersebut.

Agar sebuah postingan dapat dianggap melanggar aturan Meta tentang ajakan masuk secara paksa ke lokasi berisiko tinggi, lokasi tersebut harus dianggap “berisiko tinggi”, dan harus berada di area atau lingkungan yang secara terpisah ditetapkan sebagai “lokasi berisiko tinggi sementara”. Karena postingan tersebut merupakan seruan yang gamblang agar memasuki gedung-gedung pemerintah yang terletak di Three Powers Plaza di Brasília (“lokasi berisiko tinggi” yang terletak di “lokasi berisiko tinggi sementara”, Brasil), keputusan awal Meta untuk membiarkan konten ini selama kerasan politik meningkat merupakan penyimpangan yang nyata dari peraturannya sendiri.

Dewan sangat menyayangkan bahwa meskipun terjadi kerusuhan sipil di Brasil pada saat konten tersebut diposting, dan meluasnya penyebaran konten serupa dalam beberapa minggu dan bulan sebelum kerusuhan 8 Januari, moderator konten Meta berulang kali menilai konten tersebut sebagai tidak melanggar dan gagal mengeskalasikannya untuk ditinjau lebih lanjut. Selain itu, ketika Dewan meminta informasi kepada Meta mengenai klaim-klaim spesifik terkait pemilihan umum di platformnya sebelum, selama, dan setelah pemilihan umum Brasil, perusahaan menjelaskan bahwa mereka tidak memiliki data mengenai prevalensi klaim-klaim tersebut. Pada akhirnya, konten dalam kasus ini dihapus lebih dari dua minggu kemudian, di mana pada saat itu peristiwa pelanggaran yang dimaksud telah terjadi, dan sesudah Dewan mengangkat kasus ini agar diperhatikan Meta.

Menanggapi pertanyaan dari Dewan, Meta mengatakan bahwa mereka tidak menggunakan metrik tertentu untuk mengukur keberhasilan upaya integritas pemilihan umum secara umum. Oleh karena itu, Dewan berpendapat bahwa Meta harus mengembangkan kerangka kerja untuk mengevaluasi upaya perusahaan tentang integritas pemilihan umum, dan untuk pelaporan publik tentang masalah ini. Hal ini bertujuan untuk menyediakan data yang relevan bagi perusahaan guna meningkatkan sistem moderasi kontennya secara keseluruhan dan memutuskan cara terbaik untuk menggunakan sumber dayanya dalam konteks pemilihan umum. Tanpa informasi semacam ini, baik Dewan maupun publik tidak dapat mengevaluasi efektivitas upaya integritas pemilihan umum Meta secara lebih luas.

Keputusan Dewan Pengawas

Dewan Pengawas membatalkan keputusan awal Meta untuk membiarkan postingan tersebut.

Dewan juga merekomendasikan agar Meta:

  • Mengembangkan kerangka kerja untuk mengevaluasi upaya integritas pemilihan umum. Hal ini termasuk membuat dan membagikan metrik untuk upaya integritas pemilihan umum yang sukses, termasuk yang terkait dengan penegakan kebijakan konten Meta dan pendekatannya terhadap iklan.
  • Memberikan klarifikasi dalam Pusat Transparansi bahwa, selain Protokol Kebijakan Krisis, perusahaan juga menjalankan protokol lain dalam upayanya untuk mencegah dan mengatasi potensi risiko bahaya yang timbul dalam konteks pemilihan umum atau peristiwa berisiko tinggi lainnya.

* Ringkasan kasus memberikan gambaran umum tentang kasus dan tidak memiliki nilai prioritas.

Keputusan kasus penuh

1. Ringkasan keputusan

Dewan Pengawas membatalkan keputusan awal Meta untuk membiarkan video Facebook yang menampilkan seorang jenderal Brasil yang menyerukan “turun ke jalan” dan “mendatangi Kongres Nasional dan Mahkamah Agung” kepada publik. Seruan ini diikuti dengan gambar Three Powers Plaza di Brasília, tempat gedung-gedung pemerintahan berada, yang terbakar, dengan teks di atasnya yang berbunyi “Datanglah ke Brasília! Ayo serang! Ayo kepung Three Powers.” Dewan menemukan bahwa pernyataan-pernyataan tersebut merupakan seruan yang jelas dan tegas untuk menyerbu dan mengambil alih gedung-gedung tersebut dalam konteks para pendukung Bolsonaro yang menggugat hasil pemilihan umum dan menyerukan intervensi militer untuk menghentikan jalannya transisi pemerintahan. Setelah Dewan menyeleksi postingan ini untuk ditinjau, Meta membatalkan keputusan awalnya dan menghapusnya dari Facebook.

Kasus ini menimbulkan kekhawatiran yang lebih luas seputar efektivitas upaya integritas pemilihan umum Meta dalam konteks Pemilihan Umum 2022 di Brasil, dan di negara lain. Menantang integritas pemilihan umum pada umumnya dianggap sebagai ujaran yang dilindungi, tetapi dalam beberapa situasi, klaim online dan offline secara luas yang berusaha merusak pemilihan umum, seperti yang terjadi dalam kasus ini, dapat menyebabkan kekerasan offline. Di Brasil, setiap sinyal peringatan menunjukkan bahwa kekerasan semacam itu akan terjadi. Meskipun Dewan mengakui bahwa Meta telah melakukan beberapa langkah evaluasi dan mitigasi risiko selama dan setelah pemilihan umum, mengingat potensi risiko platformnya yang digunakan untuk menghasut untuk melakukan kekerasan dalam konteks pemilihan umum, Meta harus terus meningkatkan upayanya dalam mencegah, memitigasi, dan mengatasi hasil yang buruk. Fase pascapemilihan umum harus dicakup oleh upaya integritas pemilihan umum Meta untuk mengatasi risiko kekerasan dalam konteks transisi kekuasaan.

Oleh karena itu, Dewan merekomendasikan agar Meta mengembangkan kerangka kerja untuk mengevaluasi upaya perusahaan tentang integritas pemilihan umum, dan untuk pelaporan publik tentang masalah ini. Kerangka kerja seperti itu harus mencakup metrik keberhasilan pada aspek-aspek yang paling relevan dari upaya Meta terkait integritas pemilihan umum, yang memungkinkan perusahaan tidak hanya mengidentifikasi dan membatalkan kesalahan, tetapi juga untuk melacak seberapa efektif tindakannya dalam situasi kritis. Dewan juga merekomendasikan agar Meta memberikan kejelasan mengenai berbagai protokol dan langkah-langkah yang dimilikinya dalam mencegah dan menangani potensi risiko bahaya yang timbul dalam konteks pemilihan umum dan peristiwa berisiko tinggi lainnya. Hal ini termasuk menyebutkan dan menjelaskan protokol tersebut, tujuan mereka, titik-titik kontak di antara setiap protokol, dan bagaimana protokol-protokol tersebut berbeda satu sama lain. Protokol tersebut harus lebih efektif, memiliki rantai komando yang jelas, dan didukung oleh staf yang memadai, terutama ketika beroperasi dalam konteks pemilihan umum dengan risiko kekerasan politik yang tinggi. Rekomendasi ini akan membantu meningkatkan sistem moderasi konten perusahaan secara keseluruhan dengan menempatkan Meta pada posisi yang lebih baik dalam mencegah platformnya digunakan untuk mempromosikan kekerasan politik dan untuk meningkatkan tanggapannya terhadap kekerasan terkait pemilihan umum secara lebih umum.

2. Deskripsi dan latar belakang kasus

Pada tanggal 3 Januari 2023, seorang pengguna Facebook mengunggah sebuah video yang berkaitan dengan pemilihan umum Brasil tahun 2022. Keterangan dalam bahasa Portugis berisi seruan untuk “mengepung” Kongres Brasil sebagai “alternatif terakhir”. Video berdurasi satu menit 32 detik ini menampilkan bagian dari pidato yang disampaikan oleh seorang jenderal terkemuka Brasil dan pendukung mantan Presiden Jair Bolsonaro. Dalam video tersebut, seorang jenderal berseragam menyerukan agar orang-orang “turun ke jalan” dan “mendatangi Kongres Nasional... [dan] Mahkamah Agung”. Serangkaian gambar ditampilkan selanjutnya, termasuk gambar kebakaran yang sedang berkobar di Three Powers Plaza di Brasília, tempat kantor kepresidenan, Kongres, dan Mahkamah Agung Brasil berada. Teks yang melapisi gambar berbunyi, dalam bahasa Portugis “Datangkah ke Brasília! Ayo Serang! Ayo kepung Three Powers.” Teks yang melapisi gambar lain berbunyi “kami menuntut kode sumber”, slogan yang digunakan pengunjuk rasa untuk mempertanyakan keandalan mesin pemungutan suara Brasil. Video ini diputar lebih dari 18.000 kali dan tidak dibagikan.

Dua hari sebelum konten tersebut diposting, lawan politik Bolsonaro, Luiz Inácio Lula da Silva, telah dilantik sebagai presiden Brasil setelah memenangkan pemilihan sela pada 30 Oktober 2022 dengan 50,9 persen suara. Periode sebelum, di antara, dan setelah dua putaran pemungutan suara ditandai dengan meningkatnya risiko kekerasan politik, yang dipicu oleh klaim tentang kecurangan pemilihan umum yang akan muncul. Klaim ini didasarkan pada dugaan kerentanan mesin pemungutan suara elektronik Brasil terhadap peretasan. Menjelang pemilihan, Presiden Bolsonaro menyulut ketidakpercayaan terhadap sistem pemilihan, menuduh adanya kecurangan tanpa bukti yang mendukung, dan mengklaim bahwa mesin pemungutan suara elektronik tidak dapat diandalkan. Beberapa pejabat militer menggemakan klaim serupa mengenai kecurangan pemilihan umum dan mendukung penggunaan militer sebagai penengah dalam sengketa pemilihan umum. Beberapa kasus iklan politik yang menyerang legitimasi pemilihan umum di platform Meta telah dilaporkan. Iklan ini termasuk postingan dan video yang menyerang otoritas peradilan dan mempromosikan kudeta militer. Lebih lanjut, Global Witness memublikasikan laporan tentang Brasil yang menggambarkan bagaimana iklan politik yang melanggar Standar Komunitas disetujui oleh perusahaan dan disebarkan di platform Meta. Temuan ini melacak laporan serupa dari organisasi tersebut mengenai negara-negara lain seperti Myanmar dan Kenya

Periode pascapemilihan umum disertai dengan kerusuhan sipil, termasuk unjuk rasa, pemblokiran jalan, dan demonstrasi di depan pangkalan militer untuk meminta angkatan bersenjata membatalkan hasil pemilihan umum. Menurut para pakar yang dimintai pendapatnya oleh Dewan, video dalam kasus ini pertama kali muncul di dunia maya pada bulan Oktober 2022, tidak lama setelah hasil pemilihan umum diketahui; konten serupa masih ada di berbagai platform media sosial menjelang kerusuhan 8 Januari. Pada tanggal 12 Desember 2022, pada hari yang sama ketika kemenangan Lula dikonfirmasi oleh Pengadilan Tinggi Pemilihan Umum, sekelompok pengunjuk rasa pro-Bolsonaro mencoba menerobos ke dalam markas besar Kepolisian Federal di Brasília. Beberapa aksi vandalisme terjadi. Pada tanggal 24 Desember 2022, terjadi percobaan pengeboman di dekat bandara internasional di Brasília. Pelaku yang bertanggung jawab atas serangan tersebut telah ditangkap dan mengaku bahwa tujuannya adalah untuk menarik perhatian pada tujuan pro-kudeta mereka.

Meningkatnya risiko kekerasan politik di Brasil tidak kunjung mereda seiring pelantikan presiden yang baru terpilih pada tanggal 1 Januari 2023. Berdasarkan penelitian yang diperintahkan oleh Dewan, klaim palsu tentang mesin pemungutan suara memuncak di platform Meta setelah putaran pertama dan kedua pemungutan suara, dan kembali terjadi pada minggu-minggu setelah kemenangan Lula. Selain itu, pada hari-hari menjelang tanggal 8 Januari, para pendukung Bolsonaro menggunakan beberapa slogan berkode untuk mempromosikan unjuk rasa di Brasília yang secara khusus difokuskan pada gedung-gedung pemerintah. Sebagian besar koordinasi logistik tampaknya dilakukan melalui saluran komunikasi selain Facebook.

Misi-misi pemantauan pemilihan umum internasional seperti Organisasi Negara-Negara Amerika (Organization of American States) dan Carter Center melaporkan bahwa tidak ada bukti substansial mengenai kecurangan dan bahwa pemilihan umum tersebut dilaksanakan dengan cara yang bebas dan adil meskipun ada tekanan dari para elektoral yang sangat terpolarisasi. Kementerian Pertahanan Brasil juga secara resmi mengamati pemilihan umum dan melaporkan tidak ada bukti penyimpangan atau kecurangan, meskipun kemudian mengeluarkan pernyataan yang bertentangan bahwa angkatan bersenjata “tidak mengesampingkan adanya kemungkinan kecurangan”. Di Brasil, Kementerian Pertahanan mengawasi tugas angkatan bersenjata.

Ketegangan memuncak pada tanggal 8 Januari, para pendukung mantan presiden Bolsonaro menerobos masuk ke Kongres Nasional, Mahkamah Agung, dan kantor kepresidenan yang berada di “Three Powers Plaza” di Brasília yang disebutkan dalam konten kasus, mengintimidasi polisi dan merusak properti. Sekitar 1.400 orang ditangkap karena terlibat dalam kerusuhan 8 Januari, dengan sekitar 600 orang masih berada dalam tahanan.

Setelah peristiwa 8 Januari, Perserikatan Bangsa-Bangsa (PBB) mengutuk penggunaan kekerasan, dengan mengatakan bahwa hal tersebut merupakan “puncak dari pemutarbalikan fakta yang berkepanjangan serta hasutan untuk melakukan kekerasan dan kebencian oleh para pelaku politik, sosial, dan ekonomi yang telah memicu suasana ketidakpercayaan, perpecahan, dan kehancuran dengan menolak hasil pemilihan umum yang demokratis”. Mereka menegaskan kembali komitmen dan keyakinannya terhadap lembaga-lembaga demokrasi Brasil. Komentar publik dan para pakar yang dimintai pendapatnya oleh Dewan mengindikasikan dampak berbahaya dari klaim-klaim yang menimbulkan keraguan terhadap integritas sistem pemilihan umum Brasil dalam mendorong polarisasi politik dan memungkinkan terjadinya kekerasan politik secara offline (Lihat komentar publik dari Dangerous Speech Project [PC-11010], LARDEM - Clínica de Direitos Humanos da Pontifícia Universidade Católica do Paraná [PC-11011], Instituto Vero [PC-11015], ModeraLab [PC-11016], Campaign Legal Center [PC-11017], Center for Democracy & Technology [PC-11018], InternetLab [PC-11019], dan Coalizão Direitos na Rede [PC-11020]).

Pada tanggal 9 Januari 2023, Meta menyatakan kerusuhan 8 Januari sebagai “peristiwa yang melanggar” berdasarkan kebijakan Individu dan Organisasi Berbahaya dan menyatakan akan menghapus “konten yang mendukung atau memuji tindakan ini”. Perusahaan juga mengumumkan bahwa “menjelang pemilihan umum”, mereka telah “menetapkan Brasil sebagai Lokasi Berisiko Tinggi Sementara” dan telah “menghapus konten yang mengajak orang-orang untuk mengangkat senjata atau menyerbu secara paksa ke Kongres, istana Presiden, dan gedung-gedung federal lainnya”.

Pada tanggal 3 Januari, di hari yang sama saat konten itu diposting, seorang pengguna melaporkannya karena melanggar Standar Komunitas Meta tentang Kekerasan dan Hasutan, yang melarang seruan untuk “memasuki paksa lokasi-lokasi . . . di mana ada sinyal sementara peningkatan risiko kekerasan atau bahaya offline”. Totalnya, empat pengguna melaporkan konten tersebut sebanyak tujuh kali antara 3 dan 4 Januari. Setelah laporan pertama, konten ditinjau oleh moderator manusia dan mendapati bahwa konten itu tidak melanggar kebijakan Meta. Pengguna mengajukan banding atas keputusan tersebut, tetapi keputusan itu didukung oleh moderator manusia kedua. Keesokan harinya, enam laporan lainnya ditinjau oleh lima moderator berbeda, semuanya mendapati bahwa konten tersebut tidak melanggar kebijakan Meta. Konten tidak dilaporkan ke pakar kebijakan dan pokok masalah untuk ditinjau lebih lanjut. Menanggapi pertanyaan dari Dewan, Meta mengklarifikasi bahwa tujuh orang yang meninjau konten tersebut berbasis di Eropa. Menurut Meta, mereka semua fasih berbahasa Portugis dan memiliki keahlian bahasa dan budaya untuk meninjau konten berbahasa Brasil.

Sebagai akibat dari dipilihnya kasus ini oleh Dewan, Meta memutuskan bahwa keputusannya untuk berulang kali membiarkan konten tersebut di Facebook merupakan kekeliruan. Pada tanggal 20 Januari 2023, setelah Dewan menyeleksi kasus tersebut, Meta menghapus konten, mengeluarkan teguran terhadap akun kreator konten, dan menerapkan batasan selama 24 jam, sehingga mereka tidak dapat membuat konten baru dalam periode tersebut. Terlepas dari tindakan Meta, pengajuan komentar publik dari kelompok masyarakat sipil Ekō terhadap Dewan dan beberapa laporan lainnya menekankan bahwa konten serupa tetap ada di Facebook meskipun kasus ini telah diangkat oleh Dewan untuk menjadi perhatian Meta (PC-11000).

3. Otoritas dan lingkup Dewan Pengawas

Dewan memiliki otoritas untuk meninjau kembali keputusan Meta setelah adanya banding dari pihak yang sebelumnya melaporkan konten yang dibiarkan (Piagam Pasal 2, Bagian 1.); Anggaran Rumah Tangga Pasal 3, Bagian 1). Dewan dapat menegakkan atau membatalkan keputusan Meta (Piagam Pasal 3, Bagian 5), dan keputusan ini mengikat perusahaan (Piagam Pasal 4). Meta juga harus menilai kelayakan penerapan keputusannya sehubungan dengan konten identik dengan konteks paralel (Piagam Pasal 4). Keputusan Dewan dapat mencakup rekomendasi tidak mengikat yang harus ditanggapi oleh Meta (Piagam Pasal 3, Bagian 4; Pasal 4). Jika Meta berkomitmen untuk menindaklanjuti rekomendasi, Dewan memantau implementasinya.

Ketika Dewan memilih kasus seperti ini, di mana Meta kemudian mengakui bahwa mereka melakukan kesalahan, Dewan akan meninjau kembali keputusan awal, guna membantu meningkatkan pemahaman mengenai parameter kebijakan dan proses moderasi konten yang menyebabkan terjadinya kesalahan tersebut. Dewan kemudian berupaya mengatasi masalah yang teridentifikasi dengan kebijakan atau proses Meta yang mendasari. Dewan juga akan mengeluarkan rekomendasi bagi Meta untuk meningkatkan akurasi penegakan dan memperlakukan pengguna secara adil di waktu mendatang.

4. Sumber otoritas dan panduan

Standar dan preseden berikut membantu analisis Dewan dalam kasus ini:

I. Keputusan Dewan Pengawas:

Keputusan Dewan Pengawas sebelumnya yang paling relevan meliputi:

II.Kebijakan konten Meta:

Standar Komunitas tentang Kekerasan dan Hasutan

Berdasarkan Standar Komunitas tentang Kekerasan dan Hasutan, Meta tidak mengizinkan “pernyataan yang menyatakan niat atau dukungan, ajakan bertindak, maupun pernyataan aspirasional atau bersyarat untuk memaksa masuk ke lokasi (termasuk tetapi tidak terbatas pada tempat ibadah, fasilitas pendidikan, tempat pemungutan suara, atau lokasi yang digunakan untuk menghitung suara atau menyelenggarakan pemilihan umum) yang terdapat sinyal sementara peningkatan risiko kekerasan atau bahaya secara offline”. Dasar kebijakan untuk Standar Komunitas ini adalah untuk “mencegah potensi bahaya offline yang mungkin terkait dengan konten” yang muncul di platform Meta. Pada saat yang sama, Meta menyadari bahwa “orang-orang biasa mengungkapkan hinaan atau ketidaksetujuan dengan mengancam atau menganjurkan kekerasan dengan cara yang tidak serius”. Oleh karena itu, Meta menghapus konten jika perusahaan meyakini bahwa “terdapat risiko bahaya fisik yang nyata atau ancaman langsung terhadap keselamatan publik”. Dalam menentukan apakah sebuah ancaman dapat dipercaya, Meta juga mempertimbangkan “bahasa dan konteks”.

Analisis Dewan juga didasarkan pada komitmen Meta terhadap “Suara”, yang digambarkan perusahaan sebagai nilai “terpenting”, serta nilai “Keselamatan”.

III. Tanggung jawab hak asasi manusia Meta

Prinsip Pedoman PBB tentang Bisnis dan Hak Asasi Manusia (UNGP), yang didukung oleh Dewan Hak Asasi Manusia PBB pada tahun 2011, menetapkan kerangka kerja sukarela untuk tanggung jawab hak asasi manusia perusahaan. Pada 2021, Meta mengumumkanKebijakan Hak Asasi Manusia Perusahaan yang menegaskan kembali komitmennya untuk menghormati hak asasi manusia sesuai dengan UNGP.

Analisis Dewan terhadap tanggung jawab hak asasi manusia Meta dalam kasus ini diilhami oleh standar internasional berikut:

5. Pengajuan pengguna

Dalam pengajuan banding ke Dewan, pengguna yang melaporkan konten tersebut menyatakan bahwa mereka “telah melaporkan video ini dan video-video lain dengan jumlah yang tak terhitung ke Facebook dan jawabannya selalu sama, yaitu bahwa video tersebut tidak melanggar Standar Komunitas”. Pengguna tersebut lebih lanjut mengaitkan potensi konten yang menghasut terjadinya kekerasan dengan tindakan yang dilakukan oleh orang-orang di Brasil “yang tidak puas dengan hasil pemilihan umum”.

6. Pengajuan Meta

Ketika Dewan mengangkat kasus ini ke perhatian Meta, perusahaan memutuskan bahwa keputusan awal untuk membiarkan konten tersebut merupakan kekeliruan. Meta memberikan analisis yang luas kepada Dewan mengenai konteks sosial dan politik Brasil sebelum, selama, dan setelah pemilihan presiden untuk menjustifikasi penghapusan konten dalam kasus ini— meskipun terlambat. Kemudian, laporan tersebut memberi Dewan sejumlah faktor yang “mungkin berkontribusi” terhadap kesalahan penegakan yang terus-menerus terjadi.

Meta menyatakan pandangannya bahwa “beberapa referensi untuk ‘mengepung’ lokasi berisiko tinggi dalam keterangan dan video tidak secara independen meningkat ke taraf ‘masuk secara paksa’ berdasarkan kebijakan [Kekerasan dan Hasutan]”. Namun, “kombinasi dari ajakan kepada orang-orang untuk ‘Datanglah ke Brasília! Ayo serang! Ayo kepung Three Powers’ dengan gambar latar belakang Three Powers Plaza yang terbakar, membuat maksud untuk menerobos masuk ke lokasi-lokasi penting ini menjadi jelas”.

Menurut Meta, konten tersebut tidak memenuhi syarat untuk mendapatkan kelonggaran kelayakan berita meskipun mereka mengakui bahwa platform mereka adalah “tempat yang penting untuk diskursus politik, terutama seputar pemilihan umum”. Dalam kasus ini, nilai kepentingan publik dari konten tersebut tidak lebih besar daripada risiko bahaya yang ditimbulkan akibat “seruan eksplisit untuk melakukan kekerasan” dan “risiko bahaya offline yang lebih besar setelah pemilihan Presiden Brasil dan pelantikan Lula”. Meta tidak menemukan indikasi bahwa konten tersebut disebarkan untuk mengecam atau meningkatkan kesadaran akan ajakan untuk melakukan kekerasan. Perusahaan menyatakan bahwa keputusan akhirnya untuk menghapus konten tersebut konsisten dengan nilai perusahaan dan standar hak asasi manusia internasional.

Untuk menghadapi pemilihan umum dan situasi krisis lainnya, Meta telah menyiapkan beberapa langkah evaluasi serta mitigasi risiko yang dijalankan oleh tim yang berbeda dan dapat diterapkan secara bersamaan atau secara independen. Masing-masing memiliki “tingkatan” atau “level” intensitas yang berbeda, tergantung pada evaluasi risiko masing-masing:

  • Kebijakan Prioritas Negara Integritas (alias, sistem penjenjangan berisiko), yang dijalankan oleh tim produk di Meta, menyediakan kerangka kerja untuk prioritas jangka panjang investasi sumber daya produk. Meskipun Meta menggambarkan proses ini sebagai proses yang tidak responsif terhadap krisis jangka pendek, Meta mengevaluasi semua negara dua kali per tahun atas risiko/ancaman yang muncul.
  • Pusat Operasi Produk Integritas (Integrity Product Operations Center/IPOC), menyatukan tim lintas fungsi yang melibatkan para pakar pokok masalah dari seluruh perusahaan untuk “menanggapi potensi masalah dan tren secara realtime”. IPOC dibentuk untuk secara cepat menilai sejumlah besar masalah, mengidentifikasi risiko, dan menentukan cara mengatasinya dalam konteks krisis atau situasi berisiko tinggi. IPOC disebut Pusat Operasi Pemilihan Umum ketika mereka secara khusus berfokus pada pemilihan umum.
  • Pusat Operasi Pemilihan Umum menawarkan “pemantauan realtime terhadap isu-isu utama pemilihan umum, seperti upaya untuk menghalangi seseorang untuk memberikan suara, peningkatan spam, potensi campur tangan asing, atau laporan konten yang melanggar kebijakan [Meta]”, dan “memantau liputan berita dan aktivitas terkait pemilihan umum di seluruh jejaring sosial dan media tradisional lainnya”. Pusat-pusat ini memberi Meta “pandangan kolektif dan membantu melacak jenis konten apa yang mungkin viral” untuk “mempercepat” waktu tanggap perusahaan terhadap ancaman-ancaman ini. Bagian dari persiapan Pusat Operasi Pemilihan Umum adalah “perencanaan skenario yang ekstensif untuk mengatasi potensi ancaman—mulai dari pelecehan hingga penindasan terhadap pemilih—dan mengembangkan sistem serta prosedur di awal untuk menanggapi secara efektif”.
  • Terakhir, Protokol Kebijakan Krisis adalah kerangka kerja yang diadopsi Meta untuk mengembangkan tanggapan khusus kebijakan yang terikat waktu terhadap krisis yang muncul. Meta mengembangkan protokol ini sebagai tanggapan atas rekomendasi Dewan Pengawas dalam kasus penangguhan Mantan Presiden Trump. Di bawah protokol ini, Meta menetapkan tiga kategori krisis, yang menjadi dasar bagi perusahaan untuk mengadopsi serangkaian tindakan guna memitigasi risiko. Krisis Kategori 1, misalnya, dipicu oleh “peningkatan penegakan hukum atau aktivitas militer” atau “pemilihan umum yang berisiko tinggi atau peristiwa penting”.

Pusat Operasi Pemilihan Umum yang meliput pemilihan umum Brasil 2022 beroperasi di berbagai titik waktu dari September hingga November 2022, termasuk selama putaran pertama dan kedua pemilihan umum. Namun, tidak ada Pusat Operasi Pemilihan Umum (atau IPOC) yang tersedia pada saat konten tersebut diposting pada tanggal 3 Januari 2023. Meta menetapkan “kerusuhan pascapemilihan umum” sebagai krisis berdasarkan Protokol Kebijakan Krisis untuk membantu perusahaan menilai cara terbaik guna memitigasi risiko konten.

Menanggapi pertanyaan dari Dewan mengenai tren digital di platform Meta sebelum, selama, dan setelah pemilihan umum di Brasil, perusahaan menyatakan bahwa sebagai bagian dari “persiapan pemilihan umum dan tanggapannya, sejumlah tim mengidentifikasi tren konten yang berkaitan dengan pemilihan umum dan memasukkannya ke dalam strategi mitigasi risiko”. Hal ini meliputi: “(i) risiko yang terkait dengan hasutan atau penyebaran ancaman kekerasan; (ii) misinformasi; dan (iii) integritas bisnis, yang mencakup risiko yang terkait dengan potensi penyalahgunaan iklan dengan konten yang berbahaya... atau upaya untuk melakukan kampanye dengan cara memanipulasi atau merusak perdebatan publik”. Meta menyatakan bahwa “hasilnya, di antara faktor-faktor lain, telah membantu menginformasikan sejumlah mitigasi produk dan kebijakan”. Namun, Meta tidak memiliki “data prevalensi” mengenai klaim-klaim tertentu (misalnya kecurangan pemilihan umum, seruan untuk mendatangi Brasília atau menyerbu secara paksa gedung-gedung pemerintah federal, seruan untuk melakukan intervensi militer), karena secara umum, sistem penegakan perusahaan “dibuat untuk memantau dan melacak berdasarkan kebijakan yang mereka langgar”.

Dewan mengajukan 15 pertanyaan kepada Meta secara tertulis, termasuk 5 pertanyaan sebagai tindak lanjut dari pengarahan lisan tentang cara kerja Pusat Operasi Pemilihan Umum. Pertanyaan-pertanyaan yang berkaitan dengan: pengungkit kebijakan yang tersedia untuk mengatasi perilaku terkoordinasi di platform Meta; risiko yang teridentifikasi menjelang pemilihan umum Brasil 2022; hubungan antara Pusat Operasi Pemilihan Umum untuk pemilihan umum Brasil dan Protokol Kebijakan Krisis; bagaimana Meta menentukan batas saat membedakan antara pengorganisasian politik yang sah dan tindakan terkoordinasi yang berbahaya; tren digital di platform Meta di Brasil sebelum, selama, dan setelah pemilihan umum; dan kemampuan bahasa dari para moderator konten yang meninjau konten kasus.

Meta menjawab 13 pertanyaan tersebut. Meta tidak menjawab dua pertanyaan, satu tentang hubungan antara iklan politik dan misinformasi, dan satu lagi tentang jumlah penghapusan halaman dan akun selama Pusat Operasi Pemilihan Umum untuk pemilihan umum Brasil 2022 berlangsung. Meta juga menginformasikan kepada Dewan bahwa perusahaan tidak memiliki data yang lebih umum mengenai moderasi konten dalam konteks pemilihan umum 2022 di Brasil yang tersedia untuk dibagikan kepada Dewan, selain jumlah penghapusan konten yang telah dibagikan kepada publik. Meta lebih lanjut menjelaskan bahwa perusahaan tidak menilai kinerjanya dalam konteks pemilihan umum berdasarkan serangkaian metrik keberhasilan dan tolok ukur tertentu. Meta menyampaikan perlunya memprioritaskan sumber daya ketika menjawab pertanyaan-pertanyaan Dewan, dan mengatakan bahwa menyediakan data yang diminta dalam jangka waktu yang tepat untuk memutuskan kasus tersebut tidak mungkin dilakukan.

7. Komentar publik

Dewan Pengawas menerima 18 komentar publik relevan dengan kasus ini. Sebelas komentar berasal dari Amerika Latin dan Karibia, tiga dari Amerika Serikat dan Kanada, dua dari Timur Tengah dan Afrika Utara, satu dari Asia Pasifik dan Oseania, serta satu lagi dari Asia Tengah dan Asia Selatan. Selain itu, pada bulan Februari 2023, Dewan menyelenggarakan pertemuan meja bundar dengan para pemangku kepentingan dari Brasil dan Amerika Latin dengan topik “Moderasi Konten dan Transisi Politik”.

Pengajuan tersebut mencakup tema berikut: akumulasi klaim berbahaya tentang kecurangan pemilihan umum dan seruan kudeta militer di platform media sosial sebelum, selama, dan setelah pemilihan umum Brasil 2022; disinformasi terkait pemilihan umum; Upaya integritas pemilihan umum Meta; Tanggung jawab Meta untuk melindungi hak-hak pengguna dalam konteks transisi kekuasaan yang demokratis; hubungan antara penolakan pemilihan umum dan kekerasan politik; dan pentingnya pemahaman peninjau konten terhadap konteks politik setempat.

Untuk membaca komentar publik yang dikirimkan untuk kasus ini, silakan klik di sini.

8. Analisis Dewan Pengawas

Dewan memeriksa apakah konten ini harus dihapus dengan menganalisis kebijakan konten, tanggung jawab hak asasi manusia, dan nilai-nilai Meta. Kasus ini dipilih karena memungkinkan Dewan untuk menilai cara Meta membedakan pengorganisasian damai di platformnya dengan hasutan atau koordinasi aksi kekerasan, terutama dalam konteks transisi kekuasaan. Selain itu, kasus ini juga memungkinkan Dewan untuk memeriksa upaya integritas pemilihan umum Meta secara lebih umum, dan di Brasil secara lebih spesifik, mengingat periode pascapemilihan umum merupakan momen krusial untuk menguji integritas pemilihan umum dan menjamin bahwa hasil pemilihan umum yang sah dihormati. Oleh karena itu, Dewan menemukan bahwa upaya integritas pemilihan umum Meta harus mencakup proses pemilihan umum itu sendiri dan periode pascapemilihan umum, karena periode pascapemilihan umum juga rentan terhadap manipulasi, informasi yang tidak benar terkait pemilihan umum, dan ancaman kekerasan. Kasus ini termasuk dalam prioritas strategis “pemilihan umum dan ruang sipil” Dewan.

8.1 Kepatuhan terhadap kebijakan konten Meta

I. Aturan konten

Kekerasan dan Hasutan

Dewan menemukan bahwa konten dalam kasus ini melanggar larangan Standar Komunitas tentang Kekerasan dan Hasutan yang melarang konten berisi seruan untuk memasuki lokasi-lokasi tertentu yang berisiko tinggi secara paksa. Dewan menemukan bahwa meskipun nilai “Suara” Meta sangat relevan dalam proses pemilihan umum, termasuk periode pascapemilihan umum, menghapus konten dalam hal ini diperlukan untuk mengedepankan nilai “Keselamatan” Meta.

Agar dapat dikatakan melanggar garis kebijakan yang melarang masuk secara paksa ke lokasi berisiko tinggi, diperlukan dua penetapan “berisiko tinggi”. Pertama, lokasi tersebut harus dianggap “berisiko tinggi”, dan kedua, lokasi tersebut harus berada di area atau lingkungan yang secara terpisah ditetapkan sebagai Lokasi Berisiko Tinggi Sementara. Instruksi spesifik Meta kepada peninjau konten adalah “menghapus ajakan untuk bertindak, pernyataan niat, pernyataan yang mendorong, dan pernyataan aspiratif untuk memasuki secara paksa lokasi berisiko tinggi di dalam Lokasi Berisiko Tinggi Sementara”.

Meta mendefinisikan “lokasi berisiko tinggi” sebagai “lokasi, baik permanen maupun sementara, yang dianggap berisiko tinggi karena kemungkinan menjadi target kekerasan”. Lokasi berisiko tinggi permanen meliputi “tempat kerja atau tempat tinggal orang berisiko tinggi atau keluarganya (misalnya, kantor pusat organisasi berita, pusat kesehatan, laboratorium, kantor polisi, kantor pemerintah, dll.); fasilitas yang digunakan selama pemilihan umum setempat, regional, dan nasional sebagai pusat pendaftaran pemilih, lokasi pemungutan suara, lokasi penghitungan suara (misalnya, perpustakaan setempat, gedung pemerintah, pusat komunitas atau kemasyarakatan, dll.), atau tempat yang digunakan untuk penyelenggaraan pemilihan umum”. Menurut Meta, Kongres Brasil, Mahkamah Agung dan kantor-kantor Kepresidenan merupakan “lokasi berisiko tinggi” permanen karena merupakan tempat kerja atau tempat tinggal orang-orang berisiko tinggi atau keluarganya”.

Penetapan “Lokasi Berisiko Tinggi Sementara” tambahan untuk area yang lebih luas atau sekitarnya mencakup “lokasi yang ditetapkan sementara oleh [Meta] selama jangka waktu tertentu”. Sebuah tempat ditetapkan sebagai Lokasi Berisiko Tinggi Sementara berdasarkan banyak faktor, termasuk “apakah kekerasan fisik sangat membahayakan terjadi pada aksi unjuk rasa di lokasi tersebut dalam 7 hari terakhir”; “bukti adanya peningkatan risiko kekerasan yang terkait dengan kerusuhan sipil atau keputusan pengadilan yang diperdebatkan di lokasi tersebut”; “penilaian dari penegak hukum, laporan keamanan internal, atau mitra tepercaya bahwa kekerasan dalam waktu dekat akan segera terjadi di lokasi tersebut”; “bukti adanya aksi unjuk rasa terencana atau aktif di lokasi maupun aksi unjuk rasa terencana atau aktif di lokasi di mana penyelenggara menyerukan agar senjata digunakan atau dibawa ke lokasi unjuk rasa”; dan “penilaian dari tim internal bahwa masalah keselamatan lebih besar daripada potensi dampaknya terhadap ekspresi pembelaan diri dan penentuan sikap sendiri”. Setelah Lokasi Berisiko Tinggi Sementara ditetapkan, penetapan tersebut dibagikan kepada tim internal Meta. Meskipun penetapan tersebut memiliki batas waktu, perusahaan terkadang memberikan perpanjangan waktu. Menurut Meta, penetapan Lokasi Berisiko Tinggi Sementara mengarah pada peninjauan konten secara proaktif “sebelum pengguna melaporkannya”.

Untuk pemilihan umum 2022, Meta menetapkan seluruh negara Brasil sebagai Lokasi Berisiko Tinggi Sementara. Penetapan ini awalnya dibuat pada tanggal 1 September 2022 berdasarkan penilaian Meta terhadap peningkatan risiko kekerasan yang terkait dengan kerusuhan sipil dan pemilihan umum yang sedang berlangsung. Penetapan tersebut kemudian diperpanjang untuk menjangkau pemilihan umum pada bulan Oktober 2022 dan setelahnya, hingga 22 Februari 2023. Penetapan tersebut sudah ada pada saat konten kasus diposting.

Menurut Meta, kedua hal tersebut harus ada agar sebuah konten dapat dikatakan melanggar kebijakan, dan itulah yang terjadi pada postingan yang sedang dianalisis. Menurut Meta, persyaratan dua kali lipat tersebut membantu memastikan bahwa seruan untuk aksi unjuk rasa tidak ditekan secara luas dan hanya konten yang berpotensi menimbulkan kekerasan yang akan dihapus.

Dengan mempertimbangkan hal di atas, Dewan menganggap keputusan awal Meta bahwa konten harus tetap ada di platform selama masa peningkatan risiko kekerasan politik sebagai penyimpangan yang nyata dari standarnya sendiri, karena hal tersebut merupakan seruan yang tidak ambigu untuk secara paksa memasuki gedung-gedung pemerintah yang terletak di Three Powers Plaza di Brasília, yang merupakan “lokasi berisiko tinggi” yang terletak di “lokasi berisiko tinggi sementara”, Brasil.

II. Tindakan Penegakan

Menurut Meta, tujuh orang moderator yang memiliki keahlian bahasa dan budaya yang diperlukan telah meninjau konten tersebut. Meta tidak menginstruksikan para peninjau skala besar untuk mencatat alasan mereka dalam mengambil keputusan. Ketika Dewan memilih kasus ini, tim internal Meta melakukan analisis yang menyimpulkan bahwa ada tiga faktor yang “mungkin berkontribusi” terhadap kesalahan penegakan yang terjadi secara terus-menerus: (1) peninjau mungkin telah salah memahami maksud pengguna (ajakan untuk bertindak) yang mungkin disebabkan oleh kurangnya tanda baca sehingga menyebabkan salah tafsir terhadap konten tersebut sebagai komentar netral tentang peristiwa tersebut; atau (2) peninjau membuat keputusan yang salah meskipun pedoman yang benar sudah tersedia karena adanya beberapa pembaruan seputar penanganan konten yang berkaitan dengan peristiwa berisiko tinggi dari berbagai sumber; atau (3) peninjau mungkin tidak melihat adanya pelanggaran di dalam video tersebut.

Faktor 1 dan 3 menunjukkan bahwa moderator tidak meninjau konten ini dengan cermat dan tidak menonton video tersebut secara penuh, karena potensi pelanggaran kebijakan Meta yang terkandung di dalamnya sudah jelas. Namun, Meta tidak memberikan penjelasan mengapa konten tersebut tidak diteruskan ke pakar pokok masalah dan pakar kebijakan untuk dianalisis lebih lanjut. Konten tersebut tidak dieskalasi meskipun faktanya konten tersebut berasal dari negara yang, pada saat konten tersebut diposting dan dilaporkan, ditetapkan sebagai “Lokasi Berisiko Tinggi Sementara” yang berkaitan dengan batas kebijakan yang hanya diaktifkan jika penetapan ini berlaku. Konten tersebut juga tidak dieskalasi meskipun ada konteks online dan offline secara keseluruhan di Brasil (Lihat Bagian 2).

Meta sudah menginformasikan kepada Dewan bahwa peninjau konten tidak selalu bisa menonton video secara keseluruhan. Meskipun demikian, dalam situasi dengan risiko kekerasan yang tinggi, di mana pengungkit kebijakan tertentu telah dipicu, Dewan mengharapkan peninjau konten berorientasi untuk menonton video secara penuh, serta mengeskalasi konten yang berpotensi melanggar.

Sehubungan dengan faktor 2, meskipun Meta menyatakan bahwa mereka telah menginformasikan kepada para peninjau mengenai penetapan Lokasi Berisiko Tinggi Sementara, perusahaan mengakui adanya kemungkinan kekurangan dalam sosialisasi mengenai hal ini dan langkah-langkah mitigasi risiko spesifik pemilihan umum lainnya. Sosialisasi informasi semacam ini memungkinkan peninjau konten untuk mendeteksi, menghapus, atau mengeskalasi konten yang bermasalah seperti video dalam kasus ini. Fakta bahwa berbagai langkah evaluasi dan mitigasi yang berbeda telah diterapkan di Brasil pada saat itu mengindikasikan bahwa langkah-langkah tersebut mungkin perlu diartikulasikan secara lebih baik dan memiliki rantai komando yang lebih jelas agar upaya integritas pemilihan umum perusahaan menjadi lebih efektif.

Terlepas dari keputusan akhir Meta untuk menghapus konten tersebut, Dewan sangat menyayangkan bahwa meskipun dengan adanya kerusuhan sipil di Brasil pada saat konten tersebut diposting, dan meluasnya penyebaran konten online yang serupa beberapa bulan dan minggu sebelum kerusuhan 8 Januari, para moderator konten Meta berulang kali menilai bahwa konten tersebut tidak melanggar dan gagal mengeskalasikannya untuk ditinjau lebih lanjut meskipun terdapat petunjuk kontekstual yang terkandung di dalamnya. Kekhawatiran ini diperparah dengan fakta bahwa ketika Dewan meminta informasi kepada Meta mengenai klaim-klaim yang terkait dengan pemilihan umum pada platformnya sebelum, selama, dan setelah pemilihan umum di Brasil, perusahaan menjelaskan bahwa mereka tidak memiliki data prevalensi semacam itu (lihat Bagian 6). Pada akhirnya, konten dalam kasus ini dihapus lebih dari dua minggu kemudian, setelah peristiwa pelanggaran yang dimaksud terjadi, dan sesudah Dewan mengangkat kasus ini agar diperhatikan Meta.

Meta mengakui adanya risiko kekerasan yang tinggi di Brasil, pertama-tama dengan mengadopsi berbagai langkah evaluasi risiko sebelum, selama, dan setelah konten diposting, dan juga secara langsung kepada Dewan saat perusahaan memutuskan untuk menghapus konten tersebut. Namun, para peninjau dari perusahaan terus menerus gagal menegakkan Standar Komunitas secara memadai, khususnya terkait batas kebijakan Standar Komunitas tentang Kekerasan dan Hasutan yang dipicu oleh penetapan Lokasi Berisiko Tinggi Sementara. Fakta bahwa konten tersebut tidak dieskalasi sebelum pemilihan Dewan, terlepas dari kejelasan potensi pelanggarannya, dan bahwa ada konten serupa yang beredar di Facebook pada saat itu (Lihat Bagian 2 dan 8.2), mengindikasikan bahwa jalur eskalasi kemungkinan tidak cukup jelas dan efektif (Lihat Kasus kartun Knin). Hal ini juga menunjukkan perlunya Meta untuk meningkatkan perlindungannya seputar pemilihan umum. Sebagaimana yang telah dicatat oleh Dewan dalam keputusan sebelumnya, sangat penting bagi peninjau berskala besar untuk memiliki pengetahuan bahasa dan kontekstual yang memadai dan dibekali dengan alat dan saluran yang diperlukan untuk mengeskalasi konten yang berpotensi melanggar.

III. Transparansi

Dewan mengakui bahwa Meta telah melakukan upaya-upaya penting dalam menjaga integritas pemilihan umum Brasil tahun 2022. Pada bulan Agustus 2022, ketika periode kampanye secara resmi dimulai, Meta mengumumkan secara terbuka inisiatif terkait pemilihan umum di negara tersebut. Perusahaan bekerja sama dengan Pengadilan Tinggi Pemilihan Umum Brasil untuk menambahkan label pada unggahan tentang pemilihan umum di Facebook dan Instagram, “yang mengarahkan orang-orang ke informasi yang dapat dipercaya di situs web Keadilan Pemilihan Umum”. Menurut Meta, hal ini menghasilkan “peningkatan 10 kali lipat” dalam kunjungan ke situs web tersebut. Kemitraan ini juga memungkinkan Pengadilan Tinggi Pemilihan Umum untuk melaporkan konten yang berpotensi melanggar secara langsung ke Meta. Meta menyelenggarakan sesi pelatihan bagi para petugas pemilihan umum di seluruh Brasil untuk menjelaskan Standar Komunitas perusahaan dan bagaimana mengatasi misinformasi di Facebook dan Instagram. Meta juga melarang iklan berbayar yang “meragukan legitimasi pemilihan umum yang akan datang”. Selain itu, perusahaan mengimplementasikan batas penerusan WhatsApp sehingga sebuah pesan hanya bisa diteruskan ke satu grup WhatsApp dalam satu waktu. Terakhir, Meta melaporkan jumlah konten yang dihapus berdasarkan berbagai Standar Komunitas, seperti kebijakan Kekerasan dan Hasutan, Ujaran Kebencian, dan Penindasan dan Pelecehan, serta jumlah klik-tayang pada label pemilihan umum yang mengarahkan pengguna ke informasi otoritatif mengenai pemilihan umum di Brasil.

Meskipun demikian, ketika ditanya oleh Dewan tentang upaya integritas pemilihannya dalam konteks pemilihan umum Brasil 2022, Meta menyatakan bahwa perusahaan tidak mengadopsi metrik tertentu untuk mengukur keberhasilan upaya integritas pemilihannya secara umum, di luar melaporkan data tentang penghapusan konten, penayangan, dan klik-tayang pada label pemilihan. Dewan juga mencatat bahwa, dari pengungkapan Meta di Pusat Transparansi dan pertukarannya dengan Dewan, tidak sepenuhnya jelas bagaimana berbagai langkah dan protokol evaluasi risiko perusahaan berjalan (Lihat Bagian 6 di atas), baik secara independen maupun paralel. Meta harus mengklarifikasi titik-titik kontak antara berbagai protokol yang berbeda ini, menjelaskan dengan lebih baik bagaimana mereka berbeda satu sama lain, dan menjelaskan bagaimana tepatnya penegakan kebijakan konten dipengaruhi oleh mereka.

Sejumlah komentar publik (Ekō [PC-11000], Dangerous Speech Project [PC-11010], ModeraLab [PC-11016], Campaign Legal Center [PC-11017], InternetLab [PC-11019], dan Coalizão Direitos na Rede [PC-11020]) yang diterima oleh Dewan menyatakan bahwa upaya-upaya yang dilakukan oleh perusahaan dalam menjaga pemilihan umum di Brasil tidaklah memadai. Meskipun Dewan mengakui adanya tantangan dalam memoderasi konten dalam skala besar, tanggung jawab Meta untuk mencegah, memitigasi, dan mengatasi dampak buruk terhadap hak asasi manusia meningkat dalam konteks pemilihan umum dan konteks berisiko tinggi lainnya, dan mengharuskan perusahaan untuk membangun pagar pembatas yang efektif guna mencegah hal tersebut. Kesalahan penegakan dalam kasus ini tampaknya bukanlah insiden yang terisolasi. Menurut Ekō (PC-11000), konten serupa tetap ada di Facebook, bahkan setelah kerusuhan 8 Januari.

Diperlukan transparansi yang lebih besar untuk menilai apakah langkah-langkah Meta sudah memadai dan cukup di seluruh konteks pemilihan umum. Kurangnya ketersediaan data yang dapat ditinjau mengurangi kemampuan Dewan untuk menilai secara memadai apakah kesalahan penegakan dalam kasus ini, dan kekhawatiran yang disampaikan oleh berbagai pemangku kepentingan, merupakan gejala dari masalah sistemik dalam kebijakan dan praktik penegakan perusahaan. Hal ini juga menghambat kemampuan Dewan untuk mengeluarkan rekomendasi yang lebih spesifik bagi Meta tentang cara meningkatkan upaya integritas pemilihan umum secara global.

Pengungkapan data Meta saat ini, terutama tentang penghapusan konten, tidak memberikan gambaran lengkap tentang hasil dari langkah-langkah integritas pemilihan yang diterapkannya di pasar tertentu. Misalnya, langkah-langkah itu tidak menyertakan akurasi penegakan terkait kebijakan penting dalam konteks pemilihan umum, seperti Standar Komunitas tentang Kekerasan dan Hasutan, atau persentase iklan politik yang pada awalnya disetujui oleh Meta namun kemudian ditemukan melanggar kebijakannya. Melakukan audit statistik dengan metrik seperti ini akan memungkinkan Meta tidak hanya untuk mengoreksi kesalahan, tetapi juga untuk melacak bahwa melakukan langkah-langkah secara efektif merupakan hal yang paling penting.

Tanpa informasi semacam ini, baik Dewan maupun publik tidak dapat mengevaluasi efektivitas upaya integritas pemilihan umum Meta secara lebih luas. Hal ini penting mengingat banyak insiden kekerasan politik sering kali diakibatkan oleh atau diintensifkan oleh sengketa terkait pemilihan umum, di mana konten berbahaya tetap ada di dunia maya untuk memulai atau mengiringi kekerasan offline (Lihat “Bot Myanmar” (2021-007-FB-UA) , “Biro Komunikasi Tigray” (2022-006-FB-MR ), dan “Penangguhan mantan Presiden Trump” (2021-001-FB-FBR )).

Oleh karena itu, Dewan berpendapat bahwa Meta harus mengembangkan kerangka kerja untuk mengevaluasi upaya perusahaan tentang integritas pemilihan umum, dan untuk pelaporan publik tentang masalah ini. Hal ini bertujuan untuk menyediakan data yang relevan bagi perusahaan guna meningkatkan sistem moderasi kontennya secara keseluruhan dan memutuskan cara terbaik dalam menggunakan sumber dayanya dalam konteks pemilihan umum. Hal ini juga akan membantu Meta untuk secara efektif memanfaatkan pengetahuan lokal dan mengidentifikasi serta mengevaluasi kampanye online dan offline terkoordinasi yang bertujuan untuk mengganggu proses demokrasi. Selain itu, kerangka kerja ini juga akan berguna bagi Meta untuk membuat saluran masukan yang permanen, dan untuk menentukan langkah-langkah yang akan diadopsi ketika kekerasan politik terus berlanjut setelah proses pemilihan umum berakhir. Terakhir, Dewan mencatat bahwa, seperti yang telah dijelaskan di atas, artikulasi antara langkah-langkah evaluasi risiko dan protokol Meta yang berbeda, seperti IPOC, kebijakan Prioritas Negara Berintegritas, dan Protokol Kebijakan Krisis (Lihat Bagian 6 di atas) dalam konteks yang berkaitan dengan pemilihan umum perlu ditinjau ulang dan dijelaskan dengan lebih baik kepada publik.

8.2 Kepatuhan terhadap tanggung jawab hak asasi manusia Meta

Kebebasan berekspresi (Pasal 19 ICCPR)

Hak atas kebebasan berpendapat dan berekspresi adalah “pilar utama masyarakat demokratis, dan penjamin proses pemilihan umum yang bebas dan adil, serta diskursus publik dan politik yang bermakna dan representatif” (Pelapor Khusus PBB untuk kebebasan berekspresi, Dokumen Penelitian 1/2019, hlm. 2). Pasal 19 ICCPR memberikan perlindungan yang luas untuk ekspresi, khususnya untuk pidato politik. Ketika pembatasan ekspresi diterapkan oleh suatu negara bagian, pembatasan ini harus memenuhi persyaratan legalitas, legitimasi, serta kebutuhan dan proporsionalitas (Pasal 19, paragraf 3, ICCPR). Persyaratan ini sering disebut sebagai “pengujian tiga bagian”. Dewan menggunakan kerangka kerja ini untuk menafsirkan komitmen hak asasi manusia Meta yang bersifat sukarela.

I. Legalitas (kejelasan dan aksesibilitas aturan)

Prinsip legalitas berdasarkan hukum hak asasi manusia internasional mensyaratkan agar aturan yang membatasi ekspresi itu dibuat jelas dan dapat diakses publik (Komentar Umum No.34, para. 25). Diterapkan pada aturan perusahaan media sosial, Pelapor Khusus PBB untuk kebebasan berekspresi mengatakan bahwa aturan tersebut harus jelas dan spesifik (A/HRC/38/35, paragraf 46). Orang yang menggunakan platform Meta harus dapat mengakses dan memahami aturan tersebut, dan peninjau konten harus memiliki panduan yang jelas tentang penerapannya.

Dewan menemukan bahwa, sebagaimana diterapkan pada fakta-fakta kasus ini, larangan Meta terhadap konten yang menyerukan untuk secara paksa memasuki lokasi-lokasi berisiko tinggi telah dinyatakan dengan jelas, dan kondisi-kondisi yang menyebabkan pelarangan tersebut juga jelas. Konten kasus ini dapat dengan mudah dipahami sebagai pelanggaran baik oleh pengguna maupun peninjau konten, terutama dalam konteks kerusuhan sipil di Brasil. Oleh karena itu, Dewan mempertimbangkan persyaratan legalitas agar dipenuhi.

II. Tujuan yang sah

Pembatasan atas kebebasan berekspresi (Pasal 19, ICCPR) harus mengarah pada tujuan yang sah. Kebijakan tentang Kekerasan dan Hasutan bertujuan untuk “mencegah potensi bahaya offline” dengan menghapus konten yang menimbulkan “risiko nyata bahaya fisik atau ancaman langsung terhadap keselamatan publik”. Kebijakan ini memiliki tujuan yang sah untuk melindungi hak-hak orang lain, seperti hak untuk hidup (Pasal 6, ICCPR), serta ketertiban umum dan keamanan nasional (Pasal 19, paragraf 3, ICCPR). Dalam konteks pemilihan umum, kebijakan ini juga dapat bertujuan untuk melindungi hak orang lain guna memilih dan berpartisipasi dalam persoalan publik (Pasal 25, ICCPR).

III. Kebutuhan dan proporsionalitas

Prinsip kebutuhan dan proporsionalitas menyatakan bahwa pembatasan kebebasan berekspresi apa pun "harus sesuai untuk mencapai fungsi perlindungannya; pembatasan tersebut harus menjadi instrumen yang lebih bijaksana di antara pembatasan yang dapat mencapai fungsi perlindungannya; [dan] pembatasan tersebut harus proporsional dengan kepentingan yang akan dilindungi" (Komentar Umum 34, paragraf 33 dan 34). Seperti pada kasus-kasus sebelumnya yang melibatkan hasutan untuk melakukan kekerasan, Dewan menemukan enam faktor Rencana Aksi Rabat PBB yang relevan untuk menentukan kebutuhan dan proporsionalitas pembatasan (lihat, misalnya: Kasus penangguhan mantan Presiden Trump).

Dewan mengakui bahwa di banyak lingkungan politik, menentang integritas pemilihan umum atau sistem pemilihan umum merupakan penggunaan hak-hak masyarakat yang sah untuk berekspresi dan berunjuk rasa, meskipun ada insiden kekerasan yang terisolasi. Karena pesan politik mereka, mereka memperoleh tingkat perlindungan yang lebih tinggi (Komentar Umum No. 37, paragraf. 19 dan 32). Namun, Dewan mencatat bahwa hal ini tidak terjadi dalam kasus ini. Ada batas penting yang membedakan antara pidato politik yang dilindungi dan hasutan untuk melakukan kekerasan guna membatalkan hasil pemilihan umum yang sah. Berdasarkan faktor-faktor yang diuraikan dalam Rencana Aksi Rabat, ambang batas untuk pembatasan berbicara jelas terpenuhi dalam kasus ini. Dewan menemukan bahwa beberapa elemen dalam konten kasus ini relevan dengan analisisnya: seruan untuk “mengepung” Kongres Brasil sebagai “alternatif terakhir” dan “menyerang” “three powers”; video berisi seruan dari seorang jenderal terkemuka Brasil untuk “turun ke jalan” dan “mendatangi Kongres Nasional... (dan) Mahkamah Agung; gambar gedung-gedung pemerintah federal yang terbakar sebagai latar belakangnya; dan permintaan untuk “kode sumber”. Dalam konteks Brasil yang lebih luas, para pendukung Bolsonaro yang menggugat hasil pemilihan umum dan menyerukan kudeta militer, semua itu adalah seruan yang jelas untuk menyerang dan mengambil alih gedung-gedung pemerintah. Intensi pembicara, isi pidato, dan jangkauannya, serta kemungkinan bahaya yang akan segera terjadi dalam konteks politik Brasil pada saat itu, semuanya menjustifikasi penghapusan postingan tersebut.

Konten tersebut diposting dalam konteks risiko kekerasan politik yang meningkat, dengan seruan terus-menerus yang meluas pada angkatan bersenjata untuk membatalkan hasil pemilihan umum. Pada saat yang sama, slogan-slogan sandi digunakan untuk mempromosikan unjuk rasa yang secara khusus difokuskan pada gedung-gedung pemerintah di Brasília (Lihat Bagian 2). Dalam hal ini, informasi yang diterima Dewan melalui beberapa komentar publik, termasuk dari ITS Rio - Modera Lab (PC-11016), Coalizão Direitos na Rede (PC-11020), InternetLab (PC-11019), dan Ekō (PC-11000), yang mendukung penelitian yang diperintahkan oleh Dewan, semuanya menunjukkan bahwa konten serupa beredar secara luas di media sosial menjelang kejadian pada tanggal 8 Januari. Mereka juga menggarisbawahi kemungkinan para pendukung Bolsonaro menyerang gedung-gedung di Three Powers Plaza, dan mendorong militer untuk turun tangan, termasuk melalui kudeta militer.

Dengan mempertimbangkan hal-hal di atas, Dewan menemukan bahwa penghapusan konten tersebut konsisten dengan tanggung jawab hak asasi manusia yang diembannya. Menghapus konten tersebut merupakan tanggapan yang diperlukan dan proporsional untuk melindungi hak hidup masyarakat, termasuk pejabat publik, dan ketertiban umum di Brasil. Penghapusan konten ini dan konten serupa juga diperlukan dan proporsional untuk melindungi hak warga Brasil untuk memilih dan berpartisipasi dalam urusan publik, dalam konteks di mana upaya-upaya untuk merusak transisi kekuasaan yang demokratis sedang berlangsung.

Kegagalan sistem peninjauan Meta yang persisten dalam mengidentifikasi pelanggaran dalam video secara tepat atau mengeskalasikannya untuk ditinjau lebih lanjut dan menghapus konten dalam kasus tersebut adalah masalah serius, yang Dewan percaya bahwa Meta akan berada dalam posisi yang lebih baik untuk mengatasinya jika perusahaan menerapkan rekomendasi di bawah ini. Meskipun Meta mengambil langkah positif untuk meningkatkan upaya integritas pemilihannya di Brasil, Meta belum melakukan cukup banyak hal untuk mengatasi potensi penyalahgunaan platformnya melalui kampanye terkoordinasi seperti yang terjadi di Brasil. Dalam kasus ini, konten yang dibiarkan dan dibagikan secara luas tampaknya merupakan tipikal dari jenis informasi yang salah dan hasutan yang dilaporkan beredar dalam platform Meta di Brasil pada saat itu. Hal ini makin menguatkan klaim bahwa akun-akun berpengaruh dengan kekuatan mobilisasi yang signifikan di platform Meta telah berperan dalam mempromosikan kekerasan. Sebagaimana ditegaskan dalam komentar publik yang diterima Dewan (Lihat, Instituto Vero [PC-11015], ModeraLab [PC-11016], InternetLab [PC-11019], Instituto de Referência em Internet e Sociedade [PC-11021]), tinjauan dan kemungkinan penghapusan konten individual dari platform Meta tidak memadai dan relatif tidak efektif jika konten tersebut merupakan bagian dari tindakan terorganisir dan terkoordinasi yang bertujuan untuk mengganggu proses demokrasi. Upaya integritas pemilihan umum dan protokol krisis perlu memperhatikan tren digital yang lebih luas ini.

8.3 Konten yang identik dengan konteks paralel

Dewan menyatakan kekhawatirannya terhadap proliferasi konten yang mirip dengan konten yang sedang dianalisis pada bulan-bulan sebelum kerusuhan 8 Januari di Brasil. Mengingat kegagalan Meta yang berulang kali dalam mengidentifikasi konten ini sebagai konten yang melanggar, Dewan akan memberikan perhatian khusus terhadap penerapan keputusan Meta untuk menyamakan konten dengan konteks paralel yang tetap ada di platform perusahaan, kecuali jika dibagikan untuk mengutuk atau meningkatkan kesadaran seputar pidato jenderal dan seruan untuk menyerang gedung Three Powers Plaza di Brasília.

9. Keputusan Dewan Pengawas

Dewan Pengawas membatalkan keputusan awal Meta untuk membiarkan konten tersebut.

10. Rekomendasi

A. Penegakan

  1. Meta harus mengembangkan kerangka kerja untuk mengevaluasi upaya integritas pemilihan umum perusahaan. Hal ini termasuk membuat dan membagikan metrik untuk upaya integritas pemilihan umum yang sukses, termasuk yang terkait dengan penegakan kebijakan konten Meta dan pendekatan perusahaan terhadap iklan. Dewan akan menganggap rekomendasi ini telah diterapkan ketika Meta mengembangkan kerangka kerja ini (termasuk deskripsi metrik dan tujuan untuk metrik tersebut), mengungkapkannya di Pusat Transparansi perusahaan, mulai memublikasikan laporan khusus negara, dan mengungkapkan secara terbuka setiap perubahan pada upaya integritas pemilihan umum sebagai hasil dari evaluasi ini.

B. Transparansi

  1. Meta harus memberikan klarifikasi dalam Pusat Transparansi bahwa, selain Protokol Kebijakan Krisis, perusahaan juga menjalankan protokol lain dalam upayanya untuk mencegah dan mengatasi potensi risiko bahaya yang timbul dalam konteks pemilihan umum atau peristiwa berisiko tinggi lainnya. Selain menyebutkan dan menjelaskan protokol-protokol tersebut, perusahaan juga harus menguraikan tujuan mereka, apa saja titik-titik kontak di antara protokol-protokol tersebut, dan apa perbedaannya satu sama lain. Dewan akan menganggap rekomendasi ini telah diterapkan ketika Meta memublikasikan informasi ini di Pusat Transparansinya.

* Catatan prosedural:

Keputusan Dewan Pengawas disiapkan oleh panel yang terdiri dari lima Anggota dan disetujui oleh mayoritas anggota Dewan. Keputusan Dewan tidak selalu mewakili pandangan pribadi semua Anggota.

Untuk keputusan kasus ini, penelitian independen ditugaskan atas nama Dewan. Dewan tersebut dibantu oleh lembaga penelitian independen yang berkantor pusat di University of Gothenburg yang terdiri dari tim berisi lebih dari 50 ilmuwan sosial di enam benua, serta lebih dari 3.200 pakar negara dari seluruh dunia. Dewan juga dibantu oleh Duco Advisors, sebuah firma penasihat yang berfokus pada persimpangan geopolitik, kepercayaan dan keselamatan, serta teknologi. Memetica, sebuah organisasi yang bergerak dalam penelitian sumber terbuka tentang tren media sosial, juga menyediakan analisis. Keahlian linguistik diberikan oleh Lionbridge Technologies, LLC, yang ahlinya fasih dalam lebih dari 350 bahasa dan bekerja dari 5.000 kota di seluruh dunia.

العودة إلى قرارات الحالة والآراء الاستشارية المتعلقة بالسياسة