Tigray İletişim İşleri Dairesi

Bu karar Habeşçe, Oromca ve Tigrinya dillerinde de mevcuttur.

ሙሉ ውሳኔውን በአማርኛ ለማንበብ፣ እዚህ ይጫኑ።

Murtii guutuu kan Afaan Oromoo dubbisuuf as tuqi

ብትግርኛ እተገብረ ውሳነ ምሉእ ከተንብቦ እንተ ደሊኻ ኣብዚ ጠውቕ።

Vaka özeti

Gözetim Kurulu, Meta'nın Etiyopya'daki çatışmada şiddet tehdidinde bulunan bir gönderiyi kaldırma kararını onaylamıştır. Meta'nın Şiddet ve Suça Teşvik Topluluk Standardını ihlal eden bu içeriğin kaldırılması, şirketin insan hakları sorumluluklarıyla paraleldir. Genel olarak bakıldığında Kurul, Meta'nın çatışma durumlarında insan hakları sorumluluklarını yerine getirmek üzere daha fazlasını yapması gerektiği sonucuna varmıştır ve bu sorunu gidermek üzere ilke tavsiyelerinde bulunmaktadır.

Vaka hakkında

4 Şubat 2022 tarihinde Meta; Tigray ve devlet kuvvetlerinin Kasım 2020'den beri çatışma halinde bulunduğu Etiyopya'da şiddetin artmakta olduğu bir dönemde Facebook'ta paylaşılan bir içeriğe dair bir vakayı Kurula yönlendirmiştir.

Tigray Bölgesel Devlet İletişim İşleri Dairesinin resmi sayfasında görünen içerik, 300.000'den fazla görüntüleme almıştır. Federal kuvvetlerin yaşadığı kayıplardan bahsedilen içerikte milli ordu, "turn its gun" (silahı) Abiy Ahmed group (Abiy Ahmed grubuna doğrultmaya) teşvik edilmektedir. Abiy Ahmed, Etiyopya'nın Başbakanı olarak görev yapmaktadır. Gönderide ayrıca devlet kuvvetleri teslim olmaya sevk edilmekte ve reddederlerse ölecekleri söylenmektedir.

Kullanıcılar tarafından şikayet edildikten ve Meta'nın otomatik sistemlerince tespit edildikten sonra bu içerik, Habeşçe bilen iki değerlendirme görevlisi tarafından değerlendirilmiştir. Bu kişiler gönderinin Meta ilkelerini ihlal etmediğini belirlemiş ve içeriği platformda bırakmıştır.

O dönemde Meta, Etiyopya için bir Bütünlük Ürün Operasyonları Merkezi (IPOC) işletmekteydi. Meta, yüksek riskli durumlarda moderasyonu iyileştirmek için Bütünlük Ürün Operasyonları Merkezleri kullanmaktadır. Kısa bir süre (birkaç gün veya hafta) boyunca faaliyet gösteren bu merkezler, Meta'nın platformlarını izlemek ve istismar olaylarını ele almak için uzmanları bir araya getirmektedir. Bütünlük Ürün Operasyonları Merkezi aracılığıyla uzman değerlendirmesine gönderilen ve Meta'nın Şiddet ve Suça Teşvik ilkesini ihlal ettiği tespit edilen gönderi, iki gün sonra kaldırılmıştır.

Önemli bulgular

Kurul, Meta'nın gönderiyi Facebook'tan kaldırma kararıyla hemfikirdir.

Etiyopya'daki çatışmaya mezhebe dayalı şiddet eylemleri ve uluslararası hukuk ihlalleri damgasını vurmuştur. Bu bağlamda, sayfanın profili ve erişimi göz önünde bulundurulduğunda, gönderinin daha fazla şiddet eylemine yol açma riski yüksektir.

Sonuç olarak Kurul, "yüksek derecede şiddet uygulama niyeti belirten" ifadeleri yasaklayan Meta Şiddet ve Suça Teşvik Topluluk Standardı uyarınca gönderinin kaldırılması gerektiği konusunda hemfikirdir. Şartlar göz önüne alındığında "Emniyet" ve "Onur" değerleri "Söz Hakkı" değerinden ağır basmakta, dolayısıyla kaldırma işlemi Meta'nın değerleriyle uyuşmaktadır. Kurul ayrıca, gönderinin kaldırılmasının Meta'nın insan hakları sorumluluklarıyla örtüşeceği ve ifade özgürlüğüne getirilebilecek haklı bir kısıtlama olacağı sonucuna varmıştır.

Meta, platformlarının nefret söylemini yaymak ve çatışmalarda şiddeti körüklemek üzere kullanılabildiğinin uzun süredir bilincindedir. Şirket, bazı çatışma bölgelerinde içerik moderasyonunu iyileştirmek üzere olumlu adımlar atmıştır. Ancak genel olarak bakıldığında Kurul, platformlarının şiddet eylemlerini veya uluslararası hukuk ihlallerini teşvik etmek üzere kullanılma riskini azaltmak amacıyla, Meta'nın çatışma bölgelerinde içerik moderasyonu için prensiplere dayalı ve şeffaf bir sistem tesis etme yönünde bir insan hakları sorumluluğu bulunduğunu belirlemiştir. Şirket, bu sorumluluğu yerine getirmek için daha fazlasını yapmalıdır.

Meta örneğin, Şiddet ve Suça Teşvik ilkesini silahlı çatışma bölgelerinde nasıl uyguladığı, ne tür ilke istisnalarının geçerli olduğu ve bunların nasıl kullanıldığı konusunda yetersiz bilgi sağlamaktadır. Şirketin çatışma bölgelerinde içerik moderasyonuna yaklaşımı, tutarsızlıklara işaret etmektedir. Gözlemciler şirketi Rusya-Ukrayna çatışmasına diğerlerinden farklı şekilde muamele etmekle itham etmiştir.

Kaynak tahsisine yön veren bir "riskli" ülkeler kaydı derlediğini söylemesine rağmen Meta, Kurulun bu sürecin ne kadar adil veya etkili olduğunu değerlendirebilmesi için yeterli bilgi sağlamamaktadır. Bu vakadaki Bütünlük Ürün Operasyonları Merkezi, içeriğin kaldırılmasını sağlamıştır. Öte yandan, içerik iki gün boyunca platformda kalmıştır. Bu da "riskli" sisteminin ve Bütünlük Ürün Operasyonları Merkezlerinin çatışma durumlarının üstesinden gelmekte yetersiz kaldığına işaret etmektedir. Meta'ya göre Bütünlük Ürün Operasyonları Merkezleri, "yıllar süren bir çatışmanın üstesinden gelecek, sürdürülebilir ve uzun vadeli bir çözüm olarak tasarlanmamıştır." Kurul, Meta'nın daha sürekli bir mekanizmaya yatırım yapması gerekebileceği görüşündedir.

Gözetim Kurulunun kararı

Gözetim Kurulu, Meta'nın gönderiyi kaldırma kararını onaylamaktadır.

Kurul ayrıca aşağıdaki tavsiyelerde bulunmaktadır:

• Meta, Şeffaflık Merkezi'nde Kriz İlkesi Protokolü hakkında bilgi yayınlamalıdır.
• Meta, bir çatışmanın süresi boyunca içerikleri etkili bir şekilde değerlendirmek ve gerektiğinde hızla yanıt verebilmek için ihtiyaç duyulan uzmanlığı, kapasiteyi ve koordinasyonu sağlayabilecek sürekli bir dahili mekanizma tesis etmenin uygulanabilirliğini değerlendirmelidir.

*Vaka özetleri sadece vakaya genel bakış niteliğinde olup emsal teşkil etmez.

Vaka kararı tam metni

1. Karar özeti

Gözetim Kurulu, Şiddet ve Suça Teşvik Topluluk Standardı'nı ihlal ettiği gerekçesiyle Meta'nın içeriği Facebook'tan kaldırma kararını onaylamaktadır. Kurul, bu vakada içeriğin kaldırılmasının Meta'nın bir silahlı çatışma sırasındaki insan hakları sorumluluklarıyla örtüşeceğini tespit etmiştir. Ayrıca Kurul, platformlarının şiddet eylemleri gerçekleştirmek ya da uluslararası insan hakları ya da insani hukuk ihlallerini teşvik etmek üzere kullanılma risklerini azaltmak amacıyla, Meta'nın çatışma bölgelerinde içerik moderasyonu için prensiplere dayalı ve şeffaf bir sistem tesis etme yönünde bir sorumluluğu bulunduğunu belirlemiştir. Kurul, Meta'nın bu bağlamda insan haklarına gerekli özeni fazlasıyla gösterme sorumluluğunu yerine getirmesini hedefleyen tüm önlemleri benimsemesi gerektiğini tekrar dile getirmektedir.

2. Vaka açıklaması ve arkaplanı

4 Şubat 2022 tarihinde Meta; 5 Kasım 2021'de Facebook'ta paylaşılan bir içeriğe dair bir vakayı Kurula yönlendirmiştir. İçerik, kendisini Tigray Bölgesel Devlet İletişim İşleri Dairesi resmi sayfası olarak tanımlayan Tigray İletişim İşleri Dairesi (TCAB) sayfası tarafından paylaşılmıştır. İçerik, Federal Devletin resmi dili olan Habeşçe dilinde paylaşılmıştır. Tigray İletişim İşleri Dairesi, Tigray bölgesel hükümeti bünyesindeki bir bakanlıktır. Kasım 2020'den beri Tigray Halk Kurtuluş Cephesi (TPLF) ile Federal Demokratik Etiyopya Cumhuriyeti ("Federal Devlet") arasında silahlı çatışmalar sürmektedir. TPLF, Tigray'daki iktidar partisidir. Tigray Savunma Kuvvetleri ise TPLF'nin silahlı kanadıdır.

Gönderide, TPLF ile devam eden silahlı çatışmalarda Başbakan Abiy Ahmed liderliğindeki Federal Milli Savunma Kuvvetleri'nin yaşadığı kayıplardan bahsedilmektedir. Gönderide milli ordu, zarar verdiği kişilere kendini affettirmek için "turn its gun towards the fascist Abiy Ahmed group" (silahını faşist Abiy Ahmed grubuna doğrultmaya) teşvik edilmektedir. Canlarını kurtarmak için silahlı kuvvetlerin TPLF'ye teslim olması gerektiği bildirilen içerikte şu ifadeye yer verilmektedir: "If it refuses, everyone should know that, eventually, the fate of the armed forces will be death." (Şunu herkes bilmelidir ki bunu reddettiği takdirde silahlı kuvvetlerin sonu nihayetinde ölüm olacaktır.)

Federal Devlet koronavirüs pandemisini gerekçe göstererek 2020'deki seçimleri ertelediğinde, Federal Devlet ile TPLF arasındaki gerginlik doruk noktasına ulaşmıştır. Muhalefet liderleri, Başbakanı görev süresini uzatmak için pandemiyi bahane olarak kullanmakla itham etmiştir. Federal devletin duyurusuna rağmen Tigray bölgesel hükümeti bölgede kendi seçimlerini yürütmüştür ve TPLF seçimleri açık ara kazanmıştır.

Başbakan Abiy Ahmed, Tigray'daki bir federal askeri üsse yapılan saldırıya yanıt olarak, Kasım 2020'de Tigraylı kuvvetlere karşı bir askeri hareket düzenleneceğini duyurmuştur. Federal kuvvetler, Tigray'ın başkenti olan Mekelle'yi ele geçirmiştir. Sekiz ay savaştıktan sonra federal kuvvetler ve müttefikleri Mekelle'den çekilmiş; TPLF kontrolü tekrar ele almıştır. Mayıs 2021'de Federal Devlet, TPLF'yi terör örgütü ilan etmiştir.

TPLF'nin Tigray ötesine geçerek Amhara ve Afar bölgelerinin belirli yerlerini ele geçirmesi üzerine 2 Kasım 2021 tarihinde, yani içerik paylaşılmadan birkaç gün önce, Başbakan ülke genelinde olağanüstü hal ilan etmiştir. Federal Devlet ayrıca TPLF başkent Addis Ababa'ya doğru ilerlerken vatandaşlarına silahlanma çağrısında bulunmuştur. İçeriğin paylaşıldığı gün olan 5 Kasım tarihinde, TPLF'nin de aralarında bulunduğu dokuz muhalefet lideri, Başbakanı görevden alması için Federal Devlete baskı kurmak üzere ittifak kurmuştur.

Yaklaşık 260.000 takipçisi bulunan Tigray İletişim İşleri Dairesi (TCAB) sayfası herkese açık olarak ayarlandığından tüm Facebook kullanıcıları tarafından görüntülenebilmektedir. Sayfanın veya profilin bir kişiyi veya kurumu temsil eden gerçek varlık olduğunu onaylayan mavi onay rozetiyle doğrulanmıştır. İçerik 300.000'den fazla görüntüleme ve 1000'den az paylaşım almıştır.

İçerik; 5 Kasım tarihinden beri Şiddet ve Suça Teşvik, Tehlikeli Kişi ve Örgütler ve Nefret Söylemi ilkelerini ihlal ettiği gerekçesiyle 10 kullanıcı tarafından şikayet edilmiştir. Dahası, Meta'nın otomatik sistemleri içeriği potansiyel ihlal olarak tespit etmiş ve değerlendirmeye göndermiştir. İkisi de Habeşçe bilen iki değerlendirme görevlisinin gerçekleştirdiği değerlendirmelerin ardından, Meta içeriğin ilkelerini ihlal etmediğini belirlemiş ve içeriği platformdan kaldırmamıştır.

Meta, içeriğin paylaşıldığı tarihten bir gün öncesine tekabül eden 4 Kasım tarihinde, Etiyopya'da hızla yaşanan gelişmeleri izlemek ve bunlara hızla yanıt vermek amacıyla bir Bütünlük Ürün Operasyonları Merkezi (IPOC) toplamıştır. Meta'ya göre IPOC, Meta'nın platformlarındaki potansiyel istismarları gerçek zamanlı olarak izlemek ve ele almak üzere kısa bir süre için şirket içinden toplanan konu uzmanlarının oluşturduğu bir gruptur. İçerik, IPOC aracılığıyla ek değerlendirme için ilke ve konu uzmanlarına iletilmiştir. Meta bu değerlendirmenin ardından içeriğin "yüksek derecede şiddet uygulama niyeti belirten" ifadeleri yasaklayan Şiddet ve Suça Teşvik ilkesini ihlal ettiğini belirlemiştir. İçerik yaklaşık iki gün süreyle platformda kalmış, sonrasında ise kaldırılmıştır.

Çatışmaların başladığı Kasım 2020'den beri, çatışmanın tüm taraflarının uluslararası insan haklarını ve insani hukuku ihlal ettiğine dair inandırıcı bildirimlerde bulunulmuştur. Etiyopya İnsan Hakları Komisyonu ve Birleşmiş Milletler İnsan Hakları Yüksek Komiserliği ortak soruşturma Raporu, işkencenin yanı sıra diğer acımasız, insanlık dışı veya alçaltıcı muameleler, sivillerin ve yakalanan muhariplerin yargısız infaz edilmesi, adam kaçırma, cebri kaybolma, cinsel ve cinsiyete dayalı şiddet ve diğer uluslararası suçların örneklerini belgelemiştir (ayrıca bkz. Ethiopia Peace Observatory). Ortak soruşturma ekibi, çatışmanın her iki tarafının, çatışmalarda doğrudan yer almayan kişileri öldürdüğünü tespit etmiştir. Bunlardan bazıları etnik kökene dayalı ve misilleme amaçlı öldürme eylemleridir. Hem federal kuvvetler hem de Tigraylı kuvvetler "askeri kamplar, gözaltı merkezleri ve kurbanların evlerinin yanı sıra gizli ve tespit edilmemiş konumlar dahil olmak üzere Tigray'ın çeşitli yerlerinde sivillere ve yakalanan muhariplere karşı işkence ve kötü muamele eylemlerinde bulunmuştur." TPLF ile ilişkili olduğu düşünülen bireyler cebren kaybolmuş veya keyfi olarak gözaltına alınmış; kaybolan veya gözaltına alınan erkeklerin eşleri federal silahlı kuvvetlerce cinsel şiddete maruz kalmıştır. Benzer şekilde, federal silahlı kuvvetler üyelerinin eşleri de Tigraylı muhariplerce cinsel saldırıya veya tecavüze uğramıştır. Birçok kişi toplu tecavüze maruz kalmıştır. Federal silahlı kuvvetler, çatışmalardan etkilenen bölgelerde insani yardıma erişimi mümkün kılmayı da reddetmiştir. Diğer silahlı gruplar ve milisler de dahil olmuş; Eritre bu çatışmada Etiyopya milli ordusunu desteklemiştir. Ortak soruşturma 3 Kasım 2020 ile 28 Haziran 2021 arasında yaşananları kapsamakla birlikte, bulgular hem bu vaka için hem de TPLF'nin Tigray dışındaki bölgeleri ele geçirdiği Kasım 2021'de çatışmaların şiddetlenmesi hakkında önemli bir bağlam sağlamaktadır.

3. Gözetim Kurulunun yetkisi ve kapsamı

Kurul, Meta'nın değerlendirme için yönlendirdiği kararları değerlendirme yetkisine sahiptir (Tüzük Madde 2, Kısım 1; İç Yönetmelikler Madde 2, Kısım 2.1.1). Kurul, Meta'nın kararını onaylayabilir veya bozabilir (Tüzük Madde 3, Kısım 5) ve verilen karar şirket açısından bağlayıcıdır (Tüzük Madde 4). Meta ayrıca kararın paralel bağlama sahip benzer içeriklere uygulanmasının ne kadar makul olduğunu da değerlendirmelidir (Tüzük Madde 4). Kurulun kararları, bağlayıcı olmayan ancak Meta'nın yanıtlaması gereken tavsiyelerin yer aldığı ilke tavsiyesi beyanları içerebilir (Tüzük Madde 3, Kısım 4; Madde 4).

4. Yetki kaynakları

Gözetim Kurulu, aşağıdaki yetki kaynaklarını göz önünde bulundurmuştur:

I.Gözetim Kurulu kararları:

Önceki Gözetim Kurulu kararları arasında en alakalı olanlardan bazıları şunlardır:

• "Raya Kobo'da işlendiği iddia edilen suçlar" [Vaka kararı 2021-014-FB-UA]: Kurul, Facebook Topluluk Standartları'nın, savaş ve şiddetli çatışma bağlamlarında doğrulanmamış söylentilerin kişilerin yaşama ve fiziksel güvenlik haklarına karşı daha yüksek risk teşkil ettiğini yansıtmasını tavsiye etmiştir. Kurul ayrıca Meta'ya, platformlarının kullanımının Etiyopya'da şiddet riskini nasıl yükselttiğini tespit etmek üzere bağımsız bir insan hakları değerlendirmesi yaptırmasını tavsiye etmiştir.
• "ABD Eski Başkanı Trump'ın Hesabının Askıya Alınması" [Vaka kararı 2021-001-FB-FBR]: Kurul, Meta'ya kriz durumları için bir ilke geliştirmesini ve yayınlamasını tavsiye etmiştir. Kurul ayrıca uluslararası ceza hukuku, insan hakları hukuku ve insani hukuk kapsamındaki ciddi ihlallerin yetkili makamlar ve hesap verebilirlik mekanizmaları tarafından soruşturulmasına ve potansiyel olarak kovuşturulmasına yardımcı olmak için bilgileri toplama, muhafaza etme ve gerektiğinde paylaşma ihtiyacı hakkında bir tavsiyede bulunmuştur.
• "Sudan'daki sansürlenmemiş video vakası" [Vaka kararı 2022-002-FB-MR]: Kurul, "ABD Eski Başkanı Trump'ın Hesabının Askıya Alınması" vakasında Meta'ya vermiş olduğu "olağan süreçlerinin olası zararı önleyemeyeceği veya savuşturamayacağı" kriz anlarında müdahale biçimini belirleyen bir ilke geliştirme ve yayınlama tavsiyesini tekrar hatırlatmıştır.

II.Meta'nın içerik ilkeleri:

Facebook'un Topluluk Standartları:

Meta, Şiddet ve Suça Teşvik ilkesi kapsamında, "ciddi şiddet eylemlerini teşvik eden veya mümkün kılan" her türlü içeriği kaldıracağını ifade etmektedir. Bu ilke, "kişileri veya yerleri hedef alarak ölümle (veya diğer şekillerde yüksek derecede şiddete maruz kalınmasıyla) sonuçlanabilecek tehditleri" yasaklamaktadır. "Yüksek derecede şiddet uygulama niyeti belirten ifadeler" de yasaklanmaktadır.

III.Meta'nın değerleri:

Meta'nın değerleri, Facebook'un Topluluk Standartlarının girişinde vurgulanmıştır. "Söz Hakkı" değeri "çok önemli" olarak tanımlanmaktadır:

Topluluk Standartlarımızın amacı her zaman insanların kendilerini ifade edebileceği bir yer sunmak ve onlara söz hakkı tanımak olmuştur. Bazıları katılmasa veya uygunsuz bulsa bile, insanların kendileri için önemli olan sorunları açıkça konuşabilmesini istiyoruz.

Meta, "Söz Hakkı" değerini belirttiği diğer dört değer uğruna sınırlayabilmektedir. Bunların ikisi konuyla ilgilidir:

"Emniyet": Kişilerin fiziksel güvenliğine zarar verme riskine katkıda bulunabilecek içerikleri kaldırırız.

"Onur": İnsanlardan başkalarının onuruna saygı duymalarını, başkalarını taciz etmemelerini ve aşağılamamalarını bekliyoruz.

IV.Uluslararası insan hakları standartları

2011 yılında BM İnsan Hakları Konseyi tarafından desteklenen BM İş Dünyası ve İnsan Haklarına Dair Rehber İlkeler (BM Rehber İlkeleri), özel işletmelerin insan haklarına yönelik sorumlulukları için gönüllülük esasına dayalı bir çerçeve tesis etmektedir. 2021 yılında Meta, BM Rehber İlkelerine uygun olarak insan haklarına riayet etme taahhüdünü tekrar tasdik ettiği Kurumsal İnsan Hakları İlkesi'ni duyurmuştur. BM Rehber İlkelerinin çatışma ortamlarında faaliyet gösteren işletmelere daha fazla sorumluluk yüklediğine özellikle dikkat edilmelidir ("Eylem ihtiyacının arttığı günümüzde işletmeler, insan hakları ve çatışmalardan etkilenen bölgeler," A/75/212). Bu vakada Kurulun Meta'nın insan hakları sorumlulukları üzerinde gerçekleştirdiği analizler, aşağıdaki insan hakları standartları ışığında gerçekleştirilmiştir:

• İfade özgürlüğü hakkı: Madde 19, Kişisel ve Siyasal Haklar Uluslararası Sözleşmesi (ICCPR), Genel Yorum No. 34, İnsan Hakları Komitesi, 2011; Fikir ve ifade özgürlüğü hakkında BM Özel Raportörü, raporlar: A/HRC/38/35 (2018) ve A/73/348 (2018).
• Yaşama hakkı: Madde 6, ICCPR, Genel Yorum No. 36, İnsan Hakları Komitesi (2018).
• İşkenceye ya da acımasız, insanlık dışı veya alçaltıcı muameleye maruz kalmama hakkı: Madde 7, ICCPR.
• Kişinin güvenlik hakkı: Madde 9, paragraf 1, ICCPR.

5. Kullanıcı bildirimleri

Meta'nın yönlendirmesini ve Kurulun vakayı kabul etme kararını takiben, kullanıcıya Kurulun değerlendirme yapacağını bildiren bir mesaj gönderilmiş ve kendisine Kurula beyanda bulunma fırsatı sunulmuştur. Kullanıcı herhangi bir beyanda bulunmamıştır.

6. Meta'nın bildirimleri

Kurula yaptığı yönlendirmede Meta, "haber değeri taşıdığı düşünülebilecek resmi devlet konuşmalarını" kaldırmayı gerektirebileceği için içerikle ilgili kararın zorlu olduğunu ancak içeriğin devam eden bir çatışma sırasında şiddeti teşvik etme riski taşıyabileceğini dile getirmiştir. Haber değeri taşıma istisnası fiziksel zarara katkıda bulunma riski teşkil eden içerikler için geçerli olmadığından, Meta bu istisnayı uygulamayı düşünmediğini ifade etmiştir.

Meta, 2020'nin sonlarından beri Etiyopya'yı en yüksek risk seviyesi olan 1. Kategori riskli ülke olarak gördüğüne dikkat çekmiştir. Meta'ya göre belirli ülkeleri riskli ülke olarak sınıflandırmak, uzun vadede ürün kaynaklarına yapacağı yatırımlara öncelik verme sürecinin bir parçasıdır. Örneğin, Etiyopya'daki yüksek riske yanıt olarak Meta, Etiyopya'da en yaygın kullanılan dillerden ikisi olan Habeşçe ve Oromca dillerinde Topluluk Standartları'nı ihlal edebilecek içerikleri otomatik olarak saptamak üzere eğitilmiş dil sınıflandırıcıları (potansiyel Topluluk Standartları ihlallerini otomatik olarak saptamak üzere eğitilen makine öğrenimi araçları) geliştirmiştir. Şirkete göre ilk Habeşçe ve Oromca sınıflandırıcıların kullanımı Ekim 2020'de başlamıştır. Haziran 2021'de Meta, Habeşçe ve Oromca dillerinde "Düşmancıl Söylem" adını verdiği kategorideki sınıflandırıcılarını (Nefret Söylemi, Şiddet ve Suça Teşvik, Zorbalık ve Taciz ilkelerine tabi içerikleri tespit etmek üzere eğitilen makine öğrenimi araçları) kullanıma almıştır. Şirket ayrıca çatışmaların şiddetlenmesine yanıt olarak 4 Kasım 2021 tarihinde Etiyopya için bir Bütünlük Ürün Operasyonları Merkezi (IPOC) oluşturmuştur. IPOC'lar birkaç gün veya hafta süreyle faaliyet gösterir. Bir IPOC ya planlı olaylar (ör. belirli seçimler) ya da plansız ve riskli olaylar için toplanır. Her Meta çalışanı bir IPOC talebinde bulunabilir. Bu talep, şirketin Operasyonlar, İlke ve Ürün ekiplerinden temsilcilerin yer aldığı, çok seviyeli ve çok paydaşlı dahili bir grup tarafından gözden geçirilir. Farklı IPOC seviyeleri vardır ve platformdaki içeriklerin izlenmesi bakımından gerektiğinde koordinasyon ve iletişim üst birimlere iletilir. Etiyopya için Kasım 2021'de toplanan IPOC, "Meta içerisinde en yüksek koordinasyon ve iletişim seviyesini gerektiren" 3. Seviyedir. Meta'nın açıkladığı üzere, IPOC'lar "çok sayıda meseleyi anlama ve bir kriz durumunda ya da yüksek riskli bir durumda bunların nasıl ele alınacağını belirleme amacı taşıyan kısa vadeli birer çözümdür. Yıllar süren bir çatışmanın üstesinden gelecek, sürdürülebilir ve uzun vadeli bir çözüm olarak tasarlanmamıştır."

Meta, ifade özgürlüğünü koruma ile mezhebe dayalı çatışma tehditlerini azaltma arasındaki gerilimi çözümlemek için çatışmanın spesifik unsurlarının dikkatle gözden geçirilmesi gerektiğine dair teklifini desteklemek üzere, Kurulun "Raya Kobo'da işlendiği iddia edilen suçlar" vakasındaki analizine atıfta bulunmuştur. Meta, çatışmanın tüm taraflarının işlediği belgelenmiş vahşet suçlarına da dikkat çekmiştir. Kurula bildirdiği görüşte Meta; tehdidin mahiyeti, konuşmacının nüfuz sahibi olması ve içerik paylaşıldığı sırada Etiyopya'da hızla şiddetlenmekte olan durum göz önüne alındığında, "Emniyet" değerinin diğer hususlardan daha ağır bastığını ve bu değere riayet etmek için en doğrusunun, Etiyopya'daki insanları gelecekte yaşanması olası şiddet eylemlerine karşı uyarma yönündeki potansiyel değerine rağmen, gönderiyi platformda tutmak yerine kaldırmak olacağını söylemiştir.

Kurul Meta'ya 20 soru sormuştur. Meta 14 soruyu tamamen, altı soruyu ise kısmen cevaplamıştır. Kısmi yanıtlar şirketin silahlı çatışma durumlarındaki içerik moderasyonu yaklaşımıyla, içerik ilkeleri ihlal edildiğinde uyguladığı hesap kısıtlamalarıyla ve çapraz kontrol sistemiyle ilgilidir.

7. Herkese açık yorumlar

Gözetim Kurulu, bu vakayla ilgili yedi adet herkese açık yorum almış ve göz önünde bulundurmuştur. Yorumlardan biri Asya Pasifik ve Okyanusya, üçü Avrupa, biri Sahra Altı Afrika ve ikisi Amerika Birleşik Devletleri ve Kanada'dan gönderilmiştir.

Bildirimler şu temaları kapsamaktadır: Meta'nın farklı silahlı çatışmalar bağlamındaki yaklaşımlarının tutarsızlığı; bir silahlı çatışma sırasında taraflar arasındaki inandırıcı şiddet tehditlerinin riski de artırıyor olması; Meta'nın Etiyopya'daki içerik moderasyonu faaliyetlerinde görülen sorunlar ve bilgiye erişimin kısıtlandığı ortamlarda sosyal medyanın rolü; Tigray halkının gördüğü zararlar ve Facebook'ta Tigraylılara yöneltilen nefret söyleminin şiddeti yaymaktaki rolü dahil olmak üzere Etiyopya'daki çatışmanın gerçek arkaplanı; bir silahlı çatışma sırasında konuşmaları modere ederken kullanılacak ilkeler tasarlanırken silahlı çatışma yasalarını göz önünde bulundurmanın gerekliliği.

Bu vaka için gönderilen herkese açık yorumları okumak isterseniz lütfen buraya tıklayın.

Devam etmekte olan paydaş etkileşimi kapsamında Kurul, Nisan 2022'de savunuculuk kuruluşlarının temsilcilerine, akademisyenlere, devletler arası kuruluşlara ve silahlı çatışma bağlamında içerik moderasyonu konusunun diğer uzmanlarına danışmıştır. Bir çatışmanın taraflarına ait konuşmalara nasıl muamele edilmesi gerektiği ve Şiddet ve Suça Teşvik ilkesinin çatışma durumlarında nasıl uygulanması gerektiği gibi konular tartışılmıştır.

8. Gözetim Kurulu analizi

Kurul, bu içeriğin geri yüklenmesi gerekip gerekmediğini ve Meta'nın içerik yönetimi yaklaşımının yol açabileceği sonuçları üç ayrı mercekten incelemiştir: Meta'nın içerik ilkeleri, şirketin değerleri ve şirketin insan hakları sorumlulukları.

8.1 Meta'nın içerik ilkeleriyle uyumluluk

Kurul, içeriği kaldırmanın Şiddet ve Suça Teşvik Topluluk Standardı ile örtüşeceğini tespit etmiştir. Bu ilke, "yüksek derecede şiddet uygulama niyeti belirten ifadeler" dahil olmak üzere, "kişileri veya yerleri hedef alarak ölümle (veya diğer şekillerde yüksek derecede şiddete maruz kalınmasıyla) sonuçlanabilecek tehditleri" yasaklamaktadır. Kurula göre içerik, şiddetin mevcut olduğu silahlı çatışma bağlamında, makul bir çerçeveden bakıldığında başkalarını gerçek şiddet eylemleri gerçekleştirmeleri için kışkırtacak veya teşvik edecek bir çağrı olarak yorumlanabilir. Dolayısıyla içerik, Meta'nın "yüksek derecede şiddet uygulama niyeti belirten ifadeler" yasağını ihlal etmektedir.

8.2 Meta'nın değerleriyle uyumluluk

Kurul, bu içeriğin platformdan kaldırılmasının Meta'nın "Emniyet" ve "Onur" değerleriyle örtüşeceği sonucuna varmıştır.

Kurul, özellikle de basın özgürlüğü ve vatandaşlık hakları konusunda geçmişi parlak olmayan ve sosyal medya platformlarının devam eden silahlı çatışma hakkında bilgi almanın temel yollarından biri olduğu bir ülkede, "Söz Hakkı" değerinin öneminin bilincindedir. Bununla birlikte, mezhebe dayalı şiddetin ve uluslararası hukuk ihlallerinin damga vurduğu silahlı çatışma bağlamında, kullanıcıları daha yüksek şiddet riski teşkil eden içeriklerden korumak adına, "Emniyet" ve "Onur" değerleri bu vakada daha ağır basmaktadır. Bu vakadaki içerik, "Abiy Ahmed's group" (Abiy Ahmed'in grubunu) öldürme çağrısı olarak yorumlanabilir. TPLF'ye teslim olmayı reddedenlere yapılan bir ceza uyarısı olarak da yorumlanabilecek olan bu içerik, Etiyopya federal kuvvetlerinin ve siyasi liderlerinin canına ve fiziksel bütünlüğüne tehdit teşkil etmektedir. İçerik bir bölgesel hükümet organı tarafından paylaşılmış olsa da, gönderinin kendisi zarar riskinden daha ağır basmasına yetecek kamu yararı değeri barındıran bilgiler içermemektedir.

8.3 Meta'nın insan hakları sorumluluklarıyla uyumluluk

Kurul, bu vakada içeriğin kaldırılmasının Meta'nın insan hakları sorumluluklarıyla örtüşeceğini tespit etmiştir. Şirketin bir silahlı çatışma sırasında, makul bir çerçeveden bakıldığında şiddeti teşvik etme olasılığı bulunan içeriklerin moderasyonu için prensiplere dayalı ve şeffaf bir sistem tesis etme yönünde bir sorumluluğu da vardır. Kurul, içeriğin bir silahlı çatışma sırasında zarara doğrudan katkıda bulunma riskinin daha yüksek olduğuna dikkat çekmektedir. Kurul, Meta'nın şu anda çatışma bölgelerinde içerik moderasyonu için prensiplere dayalı ve şeffaf bir çerçeveye sahip olmadığına işaret etmektedir.

İfade özgürlüğü (Madde 19 ICCPR)

Kişisel ve Siyasal Haklar Uluslararası Sözleşmesi (ICCPR) Madde 19, olası şiddet hakkında bilgi arama ve bulma hakkı dahil olmak üzere ifade özgürlüğü için geniş çapta koruma sağlamaktadır. Ancak yasalara uygun olma (netlik), meşru olma ve gerekli ve orantılı olma testlerinden oluşan üçlü testten geçtiği takdirde bu hak belirli koşullarda kısıtlanabilmektedir. Meta, BM Rehber İlkeleri kapsamında insan haklarına riayet etme ve silahlı çatışma durumları dahil olmak üzere içerik kararlarını verirken Kişisel ve Siyasal Haklar Uluslararası Sözleşmesi (ICCPR) gibi yetkililere başvurma taahhüdünde bulunmuştur. Rabat Eylem Planı da bu konuda faydalı rehberlik sağlamaktadır. İfade özgürlüğü hakkında BM Özel Raportörü'nün dile getirdiği gibi, "şirketler devletlerle aynı yükümlülükleri taşımasa da etkileri gereği kullanıcıların ifade özgürlüğünü koruma noktasında aynı soruları değerlendirmeleri gerekir" (A/74/486, paragraf 41) ifadesiyle hemfikirdir.

I. Yasalara uygun olma (kuralların netliği ve erişilebilirliği)

İfade özgürlüğüne yönelik her türlü kısıtlama, platformda hangi içeriklere izin verilip hangilerine verilmediğine dair kullanıcılara ve içerik değerlendirme görevlilerine rehberlik sağlamak için yeterince erişilebilir ve net olmalıdır. Netliğin veya kesinliğin yeterli olmaması, kuralların tutarsız ve keyfi şekilde uygulanmasına yol açabilir.

Şiddet ve Suça Teşvik ilkesi, "yüksek derecede şiddet uygulama niyeti belirten ifadeler" başta olmak üzere, "ölümle sonuçlanabilecek tehditleri" yasaklamaktadır. Kurul, bu vakada geçerli olan ilkenin net olduğu görüşündedir. Ancak bu vaka için karar alma sürecinde Kurul, Meta'nın Şiddet ve Suça Teşvik ilkesini silahlı çatışma bölgelerinde nasıl uyguladığı, ne tür ilke istisnalarının geçerli olduğu, bu istisnaların nasıl kullanıldığı veya şirketin bu tür durumlarda hangi özel yaptırım süreçlerini kullandığı konusunda yetersiz bilgi sağladığını tespit etmiştir.

II.Meşru amaç

İfade özgürlüğüne getirilen her türlü kısıtlama bir meşru amaç taşımalıdır. Başkalarının haklarına riayet etmek, ulusal güvenliği korumak ve kamu düzenini korumak bu amaçlardan bazılarıdır. Facebook Şiddet ve Suça Teşvik Topluluk Standardı'nın var olma sebebi, Facebook'taki içeriklerle bağlantılı olabilecek ve internet dışında gerçekleşme potansiyeli bulunan zararları önlemektir. "Raya Kobo'da işlendiği iddia edilen suçlar" vaka kararında Kurulun görüş bildirdiği üzere, bu ilkeye dayalı kısıtlamalar can güvenliği ve bedensel bütünlük haklarını koruma yönündeki meşru amaca hizmet etmektedir.

III.Gerekli ve orantılı olma

Gerekli ve orantılı olma ilkesi uyarınca Meta, ifadeye getirdiği kısıtlamanın ilgili tehdidi (bu vaka özelinde başkalarının haklarına yönelik tehdit) ele almak için gerekli olduğunu ve aşırı kapsamlı olmadığını göstermek zorundadır (Genel Yorum 34, paragraf 34). Kurul bu değerlendirmeyi yaparken, hangi unsurların şiddete teşvik teşkil ettiği üzerine Rabat Eylem Planı'ndaki (Rabat Eylem Planı, OHCHR, A/HRC/22/17/Ek.4,2013) etkenleri göz önünde bulundurmuş ve bunu yaparken devletlerin uluslararası hukuka dayalı yükümlülükleri ile işletmelerin insan hakları sorumlulukları arasındaki farkları hesaba katmıştır.

Bu vakada Kurul, bu içeriği platformdan kaldırmanın, uluslararası insan hakları hukuku uyarınca ifade özgürlüğüne getirilen gerekli ve orantılı bir kısıtlama olduğu sonucuna ulaşmıştır. Analizine kaynak olması için Rabat Eylem Planı'nın altılı testini kullanan Kurul, bu gönderinin kaldırılması için gerekli dayanağı bulabilmiştir.

Etiyopya bağlamı; konuşmacının statüsü ve niyeti; konuşmanın içeriği ve erişimi; internet dışındaki zarar olasılığı unsurlarının her biri internet dışındaki şiddet riskinin artmasına katkıda bulunmaktadır. (1) Bağlam: İçerik, devam eden ve gittikçe şiddetlenen bir iç savaş bağlamında paylaşılmıştır. Çatışmalara en başından beri, çatışmanın tüm taraflarının uluslararası insan hakları ve insani hukuk ihlalleri damga vurmuştur. (2) Konuşmacı: Çatışma taraflarından biriyle ilişkili bir bölgesel hükümet bakanlığı olan konuşmacı, Tigray silahlı kuvvetlerine yön verme yetkisi dahil olmak üzere önemli erişime ve nüfuza sahiptir. (3) Niyet: Dil ve bağlam göz önüne alındığında, en azından teslim olmayan askerlerin öldürülmesi için açık bir çağrı vardır ve makul bir çerçeveden bakıldığında bunun ötesinde zarar verme niyetinin olduğu çıkarımı yapılabilir. (4) İçerik: Gönderi, çatışmalarda bulunmamış olsa bile muharipleri ve siyasi liderleri hedeflemeyi savunan bir beyan olarak yorumlanabilir. (5) Yayılım kapsamı: Çatışmanın taraflarından birine bağlı bir kurumun yaklaşık 260.000 takipçiye sahip herkese açık sayfasında paylaşılan bu içerik, iki gün platformda kaldıktan sonra kaldırılmıştır. (6) Olasılık: İçerik, Tigray'ı kontrol altına alan TPLF kuvvetlerinin Etiyopya'nın diğer bölgelerine doğru ilerlemekte olduğu ve Başbakanın ülke genelinde olağanüstü hal ilan ederek sivillere silahlanıp savaşma çağrısında bulunduğu dönemde paylaşılmıştır.

Kurul bu vakadaki içeriğin kaldırılmasını gerekli ve orantılı bulmakla birlikte, bu vakayı değerlendirirken, Meta'nın önlemlerinin bir çatışma boyunca ve tüm silahlı çatışma bağlamlarında tutarlı bir şekilde orantılı olup olmadığının muhakeme edilebilmesi için daha fazla şeffaflığa ihtiyaç duyulduğu sonucuna varmıştır. Şirket, platformlarının nefret söylemini yaymak ve etnik şiddeti körüklemek üzere kullanılabildiğinin uzun süredir bilincindedir. Meta, bazı çatışmalarda moderasyon sistemini iyileştirmek için olumlu adımlar atmış olmakla birlikte (ör. Kurulun tavsiyesine yanıt olarak, İsrail-Filistin çatışmasıyla ilgili içerik moderasyonu faaliyetlerinde taraflılık tespiti için bağımsız bir araştırma yaptırması), mevcut ilke ve süreçlerini değerlendirmek ve çatışma bölgelerinde içerik moderasyonu için prensiplere dayalı ve şeffaf bir çerçeve geliştirmek için yeterli çalışma yürütmemiştir. Bazı Kurul Üyeleri, Meta'nın çatışma bölgelerindeki içerik moderasyonu faaliyetlerinin uluslararası insani hukuka da dayalı olması gerektiğini dile getirmiştir.

Etiyopya'da Meta, başkalarını şiddete teşvik eden içerikleri kaldırmak üzere attığı adımları genel hatlarıyla belirtmiştir. Şirket, riskli ülkeler veya şiddetli çatışma yaşayan ülkeler için geliştirdiği ve Etiyopya'da da kullandığı iki genel sürece atıfta bulunmaktadır. Bunlardan biri "riskli ülkeler" kategori sistemi, diğeri ise Bütünlük Ürün Operasyonları Merkezleridir (IPOC). Etiyopya 2020'nin sonlarından beri 1. kategori riskli ülke (en yüksek risk) olarak nitelendirilmektedir ve içerik paylaşıldığı sırada ülke için 3. seviye IPOC (en yüksek seviye) bulunmaktadır. Buna rağmen, bir ilke maddesini açıkça ihlal etmiş olmasına karşın, içerik ancak iki gün sonra kaldırılmıştır. Kurul, yukarıda ana hatlarıyla verilen Rabat değerlendirmesi göz önüne alındığında, iki günlük sürenin silahlı çatışma bağlamında uzun bir zaman dilimi olduğuna dikkat çekmektedir. Bu durum riskli kategori sisteminin ve Bütünlük Ürün Operasyonları Merkezlerinin (IPOC) yüksek insan hakları riskleri teşkil eden olayları ele almaktaki yetersizliğine de işaret etmektedir.

Meta, Etiyopya'da ve diğer çatışma durumlarında, "riskli ülkeler" değerlendirmesi için kullanılan genel yöntem veya kriterler hakkında ve şirketin bunun sonucunda yaptığı ürün yatırımları hakkında yeterli herkese açık bilgi sağlamamaktadır. Bu bilgiler olmadan Kurul ya da kamu bu süreçlerin etkin ve adil olup olmadığını, şirketin ürün yatırımlarının eşitlikçi olup olmadığını veya farklı bölgelerde ve çatışma durumlarında benzer hızla ve özenle uygulanıp uygulanmadığını muhakeme edemeyecektir.

Meta'nın ifadesiyle "kısa vadeli çözümler" olan Bütünlük Ürün Operasyonları Merkezleri (IPOC), bir defaya mahsus toplanır. Bu da Kurulda, şirketin bir çatışmanın tamamı boyunca içerikleri etkili bir şekilde değerlendirmek ve gerektiğinde hızla yanıt verebilmek için ihtiyaç duyulan uzmanlığı, kapasiteyi ve koordinasyonu sağlayabilecek sürekli bir dahili mekanizmaya daha fazla kaynak tahsis etmesi gerekebileceği izlenimini uyandırmıştır. Bu tür bir değerlendirme, ilke ve ülke uzmanlığından destek almalıdır.

Meta'nın çatışma bölgelerinde içerik moderasyonuna yaklaşımı, tutarsızlık algısına yol açabilmektedir. Dış İlişkiler Konseyine göre, şu anda dünyada 27 silahlı çatışma bulunmaktadır. Bazı gözlemcilere göre Meta, en az bir çatışmada (Rusya-Ukrayna) hızla harekete geçmiş ve normalde Şiddet ve Suça Teşvik ilkesi kapsamında yasaklanabilecek belirli içeriklere izin vermek üzere ilke istisnaları oluşturmuş ancak diğer çatışma durumlarına yanıt vermekte yavaş kalmıştır. Gönderdiği herkese açık yorumda (PC-10433) BI Norwegian Business School'da görev yapan Dr. Samson Esayas, Meta'nın Rusya-Ukrayna çatışması bağlamında içerik moderasyonu açısından "swift measures" (süratli önlemlerine) dikkat çekmiş ve "differential treatment between this conflict and conflicts in other regions, particularly Ethiopia and Myanmar" (bu çatışmaya müdahalesiyle Etiyopya ve Myanmar başta olmak üzere diğer bölgelerdeki çatışmalara müdahalesi arasındaki farkı) vurgulamıştır. Tutarsız yaklaşıma işaret eden bu durum, Meta'nın erişimine ve kaynaklarına sahip bir şirket için özellikle de silahlı çatışma bağlamında sorun teşkil etmektedir.

9. Gözetim Kurulu kararı

Gözetim Kurulu, Şiddet ve Suça Teşvik Topluluk Standardı'nı ihlal ettiği gerekçesiyle Meta'nın içeriği kaldırma kararını onaylamaktadır.

10. İlke tavsiyesi beyanı

Şeffaflık

1. Kurulun "ABD Eski Başkanı Trump'ın Hesabının Askıya Alınması" vakasında verdiği ve "Sudan'daki Sansürlenmemiş Video" vakasında yeniden dile getirdiği tavsiyeye paralel olarak, Meta kendi Kriz İlkesi Protokolü hakkında bilgi yayınlamalıdır. Kurul için bu tavsiyenin yerine getirilme kriteri, bu kararın yayınlanmasını izleyen altı ay içerisinde Kriz İlkesi Protokolü hakkındaki bilgilerin Herkese Açık İlke Forumu sunum destesine ek olarak Şeffaflık Merkezi'nde ayrı bir ilke şeklinde erişime açılması olacaktır.

Yaptırım

2. Silahlı çatışma dönemlerinde içerik ilkelerinin yaptırımını iyileştirmek amacıyla Meta, bir çatışmanın süresi boyunca içerikleri etkili bir şekilde değerlendirmek ve gerektiğinde hızla yanıt verebilmek için ihtiyaç duyulan uzmanlığı, kapasiteyi ve koordinasyonu sağlayabilecek sürekli bir dahili mekanizma tesis etmenin uygulanabilirliğini değerlendirmelidir. Kurul için bu tavsiyenin yerine getirilme kriteri, Meta'nın sürdürülebilir bir dahili mekanizmanın uygulanabilirliğine dair genel bilgileri Kurul ile paylaşması olacaktır.

* Prosedür notu:

Gözetim Kurulunun kararları beş Üyeden oluşan alt kurullar tarafından hazırlanmaktadır ve Kurulun çoğunluğu tarafından onaylanma şartı aranmaktadır. Kurul kararları, tüm Üyelerin kişisel görüşlerini yansıtmayabilir.

Bu vaka kararında, Kurul adına bağımsız araştırmalar yürütülmüştür. Hem merkezi Gothenburg Üniversitesi'nde bulunan ve altı kıtadan 50'yi aşkın sosyal bilimciden oluşan ekibiyle faaliyet gösteren bağımsız bir araştırma enstitüsü hem de dünyanın dört bir yanından 3200'ü aşkın ülke uzmanı. Jeopolitik, güven, emniyet ve teknolojinin kesişimine odaklanan Duco Advisors danışmanlık firması da Kurula yardımlarını sunmuştur.