Arapça sözcüklerin dile geri kazandırılması

Gözetim Kurulu, Meta'nın başta vermiş olduğu, kullanıcıya göre "effeminate mannerisms" (efemine tavırlar) sergileyen erkeklere karşı aşağılayıcı bir niyetle kullanılabilecek Arapça sözcüklerin resimlerinin gösterildiği bir Instagram gönderisini kaldırma kararını bozmuştur. İçeriğin Meta'nın Nefret Söylemi ilkesindeki bir istisna kapsamında olduğu ve kaldırılmaması gerektiği görülmüştür.

Vaka hakkında

Kasım 2021'de kendisini Arap kültüründeki kuir anlatılarının tartışıldığı bir alan olarak betimleyen herkese açık bir Instagram hesabı, bir döngü (tek bir açıklama ile 10 adede kadar görsel içerebilen tek bir Instagram gönderisi) içerisinde bir dizi resim paylaşmıştır. Hem Arapça hem de İngilizce yazılan açıklamaya göre her resimde Arapça konuşulan bölgelerde "effeminate mannerisms" (efemine tavırlar) sergileyen erkeklere karşı aşağılayıcı bir niyetle kullanılabilecek farklı bir sözcük yer almakta olup bunlardan bazıları "zamel," "foufou" ve "tante/tanta" sözcükleridir. Kullanıcı, gönderinin "to reclaim [the] power of such hurtful terms" (bu kırıcı terimlerin gücünü geri kazandırma) amacı taşıdığını dile getirmiştir.

Meta başta içeriği Nefret Söylemi ilkesini ihlal ettiği gerekçesiyle kaldırmış ancak kullanıcı itirazda bulunduktan sonra geri yüklemiştir. Başka bir kullanıcı tarafından şikayet edildikten sonra ise Meta, içeriği Nefret Söylemi ilkesini ihlal ettiği gerekçesiyle tekrar kaldırmıştır. Meta'ya göre Kurul bu vakayı seçmeden önce içerik üst birime iletilerek ek dahili değerlendirme yürütülmüş ve içeriğin şirketin Nefret Söylemi ilkesini ihlal etmediği belirlenmiştir. Meta bunun ardından içeriği Instagram'a geri yüklemiştir. Yaptığı açıklamada Meta, başta vermiş olduğu içeriği kaldırma kararlarının; "z***l" ve "t***e/t***a" terimlerini içeren resimlerin değerlendirilmesine dayalı olduğunu ifade etmiştir.

Önemli bulgular

Kurul, bu içeriği kaldırma kararının Meta'nın Nefret Söylemi ilkesiyle paralel olmadığını ve açık bir hata olduğunu görmüştür. Gönderi karalama terimleri içermesine rağmen, gönderi içeriği hem "kendine atıfta bulunur şekilde veya destekleyici biçimde" kullanılan ifadelere yönelik bir istisnanın hem de "kınamak veya farkındalık yaratmak" amacıyla nefret söyleminden alıntı yapılmasına izin veren bir istisnanın kapsamındadır. Kullanıcının "condone or encourage the use of these words" (bu sözcüklerin kullanımını tasvip veya teşvik) etmediği ve "to reclaim [the] power of such hurtful terms" (bu kırıcı terimlerin gücünü geri kazandırma) amacı taşıdığı yönündeki ifadeleri, bir istisnanın geçerli olabileceğine dair moderatörde şüphe uyandırmalıydı.

İlgili ifadelerin cezalandırıldığı ülkelerde, LGBTQIA+ bireylerin çoğu zaman kendilerini özgürce ifade edebilecekleri tek mecra sosyal medya olmaktadır. Zulüm gören azınlık gruplardaki kullanıcılara ait ifadelerin gereğinden fazla modere edilmesi, bu kişilerin ifade özgürlüğünün önünde ciddi bir tehdittir. Bu doğrultuda Kurul, Meta'nın Nefret Söylemi ilkesindeki muafiyetleri ötekileştirilmiş grupların ifadelerine tutarlı bir şekilde uygulamamasından endişe duymaktadır.

Üç ayrı moderatörün içeriğin Nefret Söylemi ilkesini ihlal ettiği yönünde karara vardığı bu vakadaki hatalar, Meta'nın aşağılayıcı terimlere yapılan atıfları değerlendirme konusunda moderatörlere sunduğu rehberliğin yetersiz olabileceğine işaret etmektedir. Kurul, değerlendirme görevlilerinin bu vakada görülen türdeki hataları önlemek için kapasite veya eğitim bakımından yeterli kaynağa sahip olmayabileceğinden endişelenmektedir.

Meta'nın şu anda yapmakta olduğu gibi; moderatörlere İngilizceden başka dillerdeki içerikleri nasıl değerlendirecekleri konusunda İngilizce rehberlik sağlamak, çeşitli zorlukları da beraberinde getirmektedir. Kurul, moderatörlerin karalama ifadeleri barındıran içeriklere ne zaman istisna uygulayacaklarını daha iyi muhakeme etmesine yardımcı olmak amacıyla, Meta'ya dahili yönergelerini moderatörleri tarafından kullanılan Arapça lehçelerine çevirmesini tavsiye etmektedir.

Kurul ayrıca, karalama terimlerinin nüanslı listelerini derlemek ve moderatörlere karalamalar ilkesindeki istisnaları uygulayabilmeleri için düzgün rehberlik sağlamak amacıyla, Meta'nın hem ülke hem de kültür düzeyinde, karalama ifadeleriyle hedeflenen azınlıklardan düzenli olarak görüş alması gerektiğine inanmaktadır. Meta pazara özgü karalama terimleri listelerini nasıl oluşturduğu, uyguladığı ve denetlediği konusunda da daha şeffaf olmalıdır.

Gözetim Kurulunun kararı

Gözetim Kurulu, Meta'nın başta vermiş olduğu içeriği kaldırma kararını bozmaktadır.

Kurulun Meta'ya ilke tavsiyesi beyanı şu yöndedir:

• Dahili Uygulama Standartlarını ve Bilinen Soruları içerik moderatörlerinin kullandığı Arapça lehçelerine çevirme. Bu adım, moderatörlerin karalama ifadeleri barındıran içeriklere ne zaman istisna uygulanması gerektiğini daha iyi muhakeme etmesine yardımcı olarak Arapça konuşulan bölgelerde gereğinden fazla yaptırımı azaltabilir.
• Pazara özgü karalama listelerini nasıl oluşturduğu hakkında net bir açıklama yayınlama. Bu açıklama, her bir pazara özgü listeye hangi karalama ifadelerinin ve hangi ülkelerin dahil edileceğini belirleyen süreç ve kriterleri de içermelidir.
• Pazara özgü karalama listelerini nasıl uyguladığı hakkında net bir açıklama yayınlama. Bu açıklama, karalama ifadesi yasaklarının tam olarak ne zaman ve nerede (söz konusu coğrafi bölgeden paylaşılan gönderiler, söz konusu bölge dışından paylaşılan ancak söz konusu bölgeyle ilgili olan gönderiler ve/veya gönderi hangi coğrafi bölgeden paylaşılmış olursa olsun söz konusu bölgedeki tüm kullanıcılarla ilgili olan gönderiler gibi) uygulanacağını belirleyen süreç ve kriterleri de içermelidir.
• Pazara özgü karalama listelerini nasıl denetlediği hakkında net bir açıklama yayınlama. Bu açıklama, Meta'nın pazara özgü listelerinden hangi karalama ifadelerinin kaldırılacağını ve hangilerinin listede tutulacağını belirleyen süreç ve kriterleri de içermelidir.

*Vaka özetleri sadece vakaya genel bakış niteliğinde olup emsal teşkil etmez.

Vaka kararı tam metni

1.Karar özeti

Gözetim Kurulu, Meta'nın başta vermiş olduğu, "queer narratives in Arabic history and popular culture" (Arap tarihinde ve popüler kültürde kuir anlatılarını) irdeleyen bir hesaba ait Instagram gönderisini kaldırma kararını bozmaktadır. Hem başkalarının homofobik karalama ifadelerini olumsuz şekilde kullanmasını haber yapması, kınaması ve tartışması hem de bunları açıkça olumlu bir bağlamda kullanması nedeniyle, söz konusu içerik Meta'nın Nefret Söylemi ilkesindeki istisna kapsamına girmektedir.

2. Vaka açıklaması ve arkaplanı

Kasım 2021'de kendisini Arap kültüründeki kuir anlatılarının tartışıldığı bir alan olarak tanımlayan herkese açık bir Instagram hesabı, bir döngü (tek bir açıklama ile 10 adede kadar görsel içerebilen tek bir Instagram gönderisi) içerisinde bir dizi resim paylaşmıştır. Kullanıcının hem Arapça hem de İngilizce yazdığı açıklamaya göre her resimde Arapça konuşulan bölgelerde "effeminate mannerisms" (efemine tavırlar) sergileyen erkeklere karşı aşağılayıcı bir niyetle kullanılabilecek farklı bir sözcük yer almakta olup bunlardan bazıları "zamel," "foufou" ve "tante"/"tanta" sözcükleridir. Kullanıcı açıklamada "condone or encourage the use of these words" (bu sözcüklerin kullanımını tasvip veya teşvik) etmediğini dile getirmiş, kendisinin daha önce bu karalama ifadelerinden biriyle istismara uğradığını ve gönderinin "to reclaim [the] power of such hurtful terms" (bu kırıcı terimlerin gücünü geri kazandırma) amacı taşıdığını dile getirmiştir. Kurulun harici uzmanları, içerikte alıntılanan bu terimlerin sıklıkla karalama ifadesi olarak kullanıldığını teyit etmiştir.

İçerik yaklaşık 9000 kez görüntülenmiş, yaklaşık 30 yorum ve yaklaşık 2000 ifade almıştır. İçeriğin paylaşılmasını izleyen üç saat içerisinde bir kullanıcı içeriği "yetişkin çıplaklığı veya cinselliği" içerdiği, başka bir kullanıcı ise "cinsel ilişki talebi" içerdiği gerekçesiyle şikayet etmiştir. Her bir şikayet, farklı insan moderatörler tarafından ayrı ayrı ele alınmıştır. İlk şikayeti değerlendiren moderatör herhangi bir işlem gerçekleştirmemiş; ikinci şikayeti değerlendiren moderatör ise Meta'nın Nefret Söylemi ilkesini ihlal ettiği gerekçesiyle içeriği kaldırmıştır. Kullanıcı bu kaldırma kararına itirazda bulunmuş ve üçüncü bir moderatör içeriği platforma geri yüklemiştir. İçerik geri yüklendikten sonra başka bir kullanıcı "nefret söylemi" içerdiği gerekçesiyle içeriği şikayet etmiş, başka bir moderatör de dördüncü bir değerlendirme yürütmüş ve içeriği tekrar kaldırmıştır. Kullanıcı ikinci defa itirazda bulunmuş ve başka bir moderatör de beşinci bir değerlendirmeden sonra içeriği kaldırma kararını onaylamıştır. Meta kullanıcıya bu kararı bildirdikten sonra, kullanıcı Gözetim Kuruluna itirazda bulunmuştur. Sonrasında Meta, içeriği değerlendiren tüm moderatörlerin akıcı Arapça konuşan kişiler olduğunu teyit etmiştir.

Yaptığı açıklamada Meta, başta verilen içeriği kaldırma kararlarının; "z***l" ve "t***e/t***a" terimlerini içeren resimlerin değerlendirilmesine dayalı olduğunu ifade etmiştir. Kurulun bir sorusunu yanıtlarken Meta, şirketin içerikte kullanılan "moukhanath" terimini de karalama ifadesi olarak değerlendirdiğini belirtmiştir.

Meta'ya göre kullanıcı Kurula itirazda bulunduktan sonra ancak Kurul bu vakayı seçmeden önce içerik bağımsız bir şekilde üst birime iletilerek ek dahili değerlendirme yürütülmüş ve içeriğin Nefret Söylemi İlkesini ihlal etmediği belirlenmiştir. İçerik sonrasında platforma geri yüklenmiştir.

3. Gözetim Kurulunun yetkisi ve kapsamı

Kurul, içeriği kaldırılan kullanıcıdan gelen itiraz üzerine Meta'nın kararını değerlendirme yetkisine sahiptir (Tüzük Madde 2, Kısım 1; İç Yönetmelikler Madde 3, Kısım 1).

Kurul, Meta'nın kararını onaylayabilir veya bozabilir (Tüzük Madde 3, Kısım 5) ve verilen karar şirket açısından bağlayıcıdır (Tüzük Madde 4). Meta ayrıca kararın paralel bağlama sahip benzer içeriklere uygulanmasının ne kadar makul olduğunu da değerlendirmelidir (Tüzük Madde 4). Kurulun kararları, bağlayıcı olmayan ancak Meta'nın yanıtlaması gereken tavsiyelerin yer aldığı ilke tavsiyesi beyanları içerebilir (Tüzük Madde 3, Kısım 4; Madde 4).

Meta'nın hatasını kabul ettiği böyle vakaları seçtiği zaman Kurul, hataların neden meydana geldiğini daha iyi anlamak için asıl kararı değerlendirmekte; hataları azaltmaya ve süreci iyileştirmeye katkıda bulunabilecek gözlemlerde veya tavsiyelerde bulunmaktadır.

4.Yetki kaynakları

Gözetim Kurulu, yetki kaynağı olarak aşağıdakileri göz önünde bulundurmuştur:

I.Gözetim Kurulu kararları:

Kurulun bu vakayla en alakalı kararlarından bazıları:

• "Wampum Kuşağı kararı" (2021-012-FB-UA): Bu kararda ötekileştirilmiş grupların ifade özgürlüğünü korumanın önemini vurgulayan Kurul, Meta'nın bir Nefret Söylemi ilke istisnası kapsamına giren içerikleri kaldırmamaya özen göstermesi gerektiğini dile getirmiştir.
• "Güney Afrika karalama ifadeleri kararı" (2021-011-FB-UA): Bu kararda Kurul, Meta'nın karalama listelerini geliştirirken kullandığı prosedür ve kriterler hakkında daha şeffaf olması gerektiğini tespit etmiştir. Buna ek olarak Kurul, kullanıcıların içeriklerin neden kaldırıldığını anlayabilmesi açısından, Meta'ya Nefret Söylemi ilkesinin yaptırımı hakkındaki prosedürlerde adaleti artırmaya öncelik vermesini tavsiye etmiştir.
• "Myanmar idari işlem botu kararı" (2021-007-FB-UA): Bu kararda Kurul, bir içeriğin Nefret Söylemi ilkesinin istisnaları kapsamına girip girmediğini değerlendirirken bağlamın önemini vurgulamıştır.

Kurul, şunlarda yapılan tavsiyelere de atıfta bulunmaktadır: "Öcalan'ın hücre hapsi kararı" (2021-006-IG-UA), "İki düğme viral görüntüsü kararı" (2021-005-FB-UA) ve "Meme kanseri semptomları ve çıplaklık kararı" (2020-004-IG-UA).

II. Meta'nın içerik ilkeleri:

Bu vakanın Instagram'ın Topluluk Kuralları ve Facebook'un Topluluk Standartları ile ilgisi bulunmaktadır. Meta'nın Şeffaflık Merkezi'nde şu ifade bulunmaktadır: "Facebook ve Instagram ortak İçerik İlkeleri kullanır. Yani Facebook'ta ihlal teşkil eden içerikler Instagram'da da ihlal teşkil eder."

Instagram'ın Topluluk Kuralları şu ifadeyi içermektedir:

Topluluğumuzun olumlu ve çeşitlilik açısından zengin olmasını istiyoruz. İnandırıcı tehditler veya nefret söylemi barındıran içerikleri […] kaldırıyoruz. Irklarından, etnik kökenlerinden, milli kökenlerinden, cinsiyetlerinden, cinsel kimliklerinden, cinsel yönelimlerinden, dinlerinden, engellilik hallerinden veya hastalıklarından dolayı insanlara şiddet veya saldırının teşvik edilmesine asla müsamaha göstermeyiz. Nefret söylemlerinin, karşı çıkmak veya farkındalık yaratmak üzere paylaşılmasına izin verebiliriz. Bu durumlarda niyetinizi açıkça ifade etmenizi rica ediyoruz.

Facebook'un Topluluk Standartları, nefret söylemini "insanlara korunan özellikler olarak adlandırdığımız ırk, etnik köken, milli köken, dini inanç, cinsel yönelim, sosyal sınıf, cinsiyet, cinsel kimlik, ciddi bir hastalık veya engellilik gibi özelliklerinden dolayı doğrudan saldırıda bulunulması" şeklinde tanımlamaktadır. Meta, saldırıları üç kategoriye ayırmaktadır. Nefret söylemi ilkesinin karalama ifadeleri kısmı, "insanları karalama yoluyla tarif eden veya olumsuz anlamda hedef alan" içerikleri yasaklamaktadır. Burada karalama, "yukarıda listelenen özellikler için özü itibarıyla kırıcı olan aşağılayıcı damgalar olarak kullanılan sözcükler" şeklinde tanımlanmaktadır. Üçüncü kategorinin geri kalanı, insanları ayrımcılık veya dışlama ile hedef alan içerikleri yasaklamaktadır.

İlke gerekçesi kapsamında Meta şu açıklamada bulunmaktadır:

İnsanların bazen kınamak veya farkındalık yaratmak amacıyla başkalarının nefret söyleminin yer aldığı içerikler paylaştığını biliyoruz. Diğer durumlarda, aslında standartlarımızı ihlal edebilecek söylemler kendine atıfta bulunur şekilde veya destekleyici biçimde kullanılabilir. İlkelerimiz bu tür söylemlere alan bırakacak şekilde tasarlanmıştır ancak kişilerin niyetlerini açıkça belirtmesini şart koşarız. Niyet açık değilse içeriği kaldırabiliriz.

III. Meta'nın değerleri:

Meta'nın değerleri, Facebook Topluluk Standartlarının girişinde vurgulanmaktadır. Burada "Söz Hakkı" değeri "çok önemli" olarak betimlenmektedir:

Topluluk Standartlarımızın amacı her zaman insanların kendilerini ifade edebileceği bir yer sunmak ve onlara söz hakkı tanımak olmuştur. […] Bazıları katılmasa veya uygunsuz bulsa bile, insanların kendileri için önemli olan sorunları açıkça konuşabilmesini istiyoruz.

Meta, "Söz Hakkı" ilkesini belirttiği dört değer uğruna sınırlayabilmektedir. Bunların ikisi konuyla ilgilidir:

"Emniyet": Facebook'u emniyetli bir yer haline getirmeye çok önem veriyoruz. İnsanları tehdit eden ifadeler, başkalarını korkutma, dışlama veya susturma potansiyeli taşır ve Facebook'ta bunlara izin verilmez.

"Onur": Tüm insanların eşit onura ve haklara sahip olduğuna inanıyoruz. İnsanlardan başkalarının onuruna saygı duymalarını, onları taciz etmemelerini ve aşağılamamalarını bekliyoruz.

IV. Uluslararası insan hakları standartları:

2011 yılında BM İnsan Hakları Konseyi tarafından desteklenen BM İş Dünyası ve İnsan Haklarına Dair Rehber İlkeler (BM Rehber İlkeleri), özel işletmelerin insan haklarına yönelik sorumlulukları için gönüllülük esasına dayalı bir çerçeve tesis etmektedir. 2021 yılında Meta, BM Rehber İlkelerine uygun olarak insan haklarına riayet etme taahhüdünü tekrar tasdik ettiği Kurumsal İnsan Hakları İlkesi'ni duyurmuştur. Bu vakada Kurulun Meta'nın insan hakları sorumlulukları üzerinde gerçekleştirdiği analizler, bu karar metnindeki Kısım 8'de uygulanmış olan aşağıdaki insan hakları standartları ışığında gerçekleştirilmiştir:

• Fikir ve ifade özgürlüğü hakları: Madde 19, Kişisel ve Siyasal Haklar Uluslararası Sözleşmesi (ICCPR), Genel Yorum No. 34, İnsan Hakları Komitesi, 2011; Bildiri 488/1992, Toonen - Avustralya, İnsan Hakları Komitesi, 1992; Karar 32/2, İnsan Hakları Konseyi, 2016; Fikir ve ifade özgürlüğü hakkında BM Özel Raportörü, raporlar: A/HRC/38/35 (2018) ve A/74/486 (2019); BM İnsan Hakları Yüksek Komiserliği, rapor: A/HRC/19/41 (2011).
• Ayrımcılığa maruz kalmama hakkı: Madde 2, paragraf 1 ve Madde 26, ICCPR.

5. Kullanıcı bildirimleri

Kurula yaptığı açıklamada kullanıcı, hesabını "to celebrate queer Arab culture" (kuir Arap kültürünün yaşatıldığı) bir yer olarak betimlemiştir. Kendisi burayı "safe space" (emniyetli alan) olarak tanımlamakta ancak takipçi kitlesi büyüdükçe, kötü amaçlı yorumlar yazan ve içerikleri toplu olarak şikayet eden homofobik trollere daha fazla hedef olduğunu dile getirmektedir.

Kullanıcı, içeriği paylaşmaktaki niyetinin, Arap toplumunda çoğu zaman gönderide vurgulanan aşağılayıcı dille küçük görülen "effeminate men and boys" (yetişkin ve çocuk yaştaki efemine erkeklere) verdiği değeri göstermek olduğunu ifade etmektedir. Kendisi ayrıca onlara karşı kullanılan bu aşağılayıcı sözcükleri direniş ve destekleme yoluyla dile geri kazandırmaya çalıştığını açıklamış ve resimlerdeki sözcüklerin karalama ifadesi olarak kullanımını tasvip veya teşvik etmediğini gönderi içeriğinde açıkça belirttiğini savunmuştur. Kullanıcı kendi içeriğinin, Meta'nın aslında yasaklı olan terimlerin kendine atıfta bulunur şekilde veya destekleyici biçimde kullanılmasına izin veren içerik ilkeleriyle uyumlu olduğuna inandığını dile getirmiştir.

6. Meta'nın bildirimleri

Verdiği gerekçede Meta, içeriğin önce "gey bireyler için aşağılayıcı bir terim" olması nedeniyle Meta'nın karalama listesinde bulunan yasaklı bir sözcüğü içerdiği için Nefret Söylemi İlkesi kapsamında kaldırıldığını ifade etmiştir. Meta, ilgili sözcüğün kullanımı Meta'nın "bir karalama ifadesini veya nefret söylemini kınayan, ne zaman kullanıldıklarına dair bilgiler dahil olmak üzere karalama ifadelerinin kullanımından bahseden veya kullanımlarının kabul edilir olup olmadığı hakkında tartışan içeriklere" sağladığı istisna kapsamında olduğu için başta vermiş olduğu kararı nihai olarak geri çevirmiş ve içeriği geri yüklemiştir. Meta, kullanıcının sözcüğün zararlı niteliğine dikkat çekmekte olduğunun ve dolayısıyla ihlal teşkil etmediğinin bağlamdan anlaşılabildiğini kabul etmiştir.

Meta'nın Nefret Söylemi ilke istisnalarını uygularken bağlamın ne kadar alakalı olduğu hakkında Kurulun sormuş olduğu sorulara yanıt olarak Meta; bir karalama ifadesinden bahsederken niyetini açıkça beyan etme sorumluluğu kullanıcıda olmak kaydıyla; alay edildiği, kınandığı, tartışıldığı, haber yapıldığı veya kendine atıfta bulunur şekilde kullanıldıkları sürece "nefret söylemine ve karalama ifadelerine izin verilir" açıklamasını yapmıştır.

Kurulun başka bir sorusuna yanıt olarak ise Meta, içerik değerlendirme görevlileri kararlarının sebeplerini belgelemediğinden, içeriğin neden yanlışlıkla kaldırıldığı konusunda "tahminde bulunmayacağını" dile getirmiştir.

Kurul Meta'ya toplam 17 soru sormuş; bu soruların 16 tanesi tamamen, 1 tanesi ise kısmen cevaplanmıştır.

7. Herkese açık yorumlar

Kurul, bu vakayla ilgili üç adet herkese açık yorum almıştır. Yorumlardan biri Amerika Birleşik Devletleri ve Kanada, biri Orta Doğu ve Kuzey Afrika, biri ise Latin Amerika ve Karayipler'den gelmiştir.

Bildirimler şu temaları kapsamaktadır: Büyük sosyal medya platformlarında LGBT emniyeti, nefret söylemi ilkesi uygulanırken yerel bağlamın göz önünde bulundurulması, Arapça sözcüklerin değişen anlamları.

Bu vaka için gönderilen herkese açık yorumları okumak isterseniz lütfen buraya tıklayın.

Buna ek olarak Kurul üyeleri, devam etmekte olan paydaş etkileşimi çalışmaları kapsamında, LGBTQIA+ bireylerin ifade özgürlüğü ve hakları üzerine çalışan ve aralarında Arapça bilen kişilerin de yer aldığı kuruluşlarla bilgilendirici ve zihin açıcı tartışmalar yürütmüştür. Tartışmada altı çizilen endişelerden bazıları şunlardır: konuşmacının niyeti ne olursa olsun bir karalama ifadesi bazı hedef kitlelerce karalama ifadesi olarak algılanmaya devam ederken o terimi evrensel olarak kırıcı çağrışımları olmayacak şekilde tamamen dile geri kazandırmanın zorluğu, LGBTQIA+ savunuculuk gruplarının ve İngilizce dışındaki dilleri konuşan toplulukların içerik ilkesi hakkında yeterli görüş bildirmemesinden kaynaklanan sorunlar, bağlam hassasiyeti yeterince yüksek olmayan içeriklerde moderasyonun riskleri.

8.Gözetim Kurulu analizi

Kurul, bu içeriğin geri yüklenmesi gerekip gerekmediğine üç ayrı mercekten bakmıştır: Meta'nın içerik ilkeleri, şirketin değerleri ve şirketin insan hakları sorumlulukları.

Kurulun bu vakayı seçmesinin nedeni, zulüm gören azınlık gruplardaki kullanıcılara ait ifadelerin gereğinden fazla modere edilmesinin bu kişilerin ifade özgürlüğünün önünde ciddi ve yaygın bir tehdit olmasıdır. Eziyet gören gruplar için çevrimiçi ifade alanları bilhassa önemlidir ve sosyal medya şirketleri bu kişilerin haklarının korunmasına normalde olduğundan daha fazla dikkat etmelidir. Bu vaka ayrıca bir yandan azınlıkları nefret söyleminden korumak, bir yandan da azınlıkların kendilerini tam anlamıyla ifade edebilecekleri (nefret dolu karalama ifadelerini dile geri kazandırmak dahil) bir alan yaratmak isteyen Meta'nın karşılaştığı zorluğu gözler önüne sermektedir.

8.1 Meta'nın içerik ilkeleriyle uyumluluk

I.İçerik kuralları

Kurul, karalama terimleri kullanılmış olsa bile, Nefret Söylemi ilkesindeki "kendine atıfta bulunur şekilde veya destekleyici biçimde" kullanılan karalama sözcüklerine yönelik istisnanın ve "kınamak veya farkındalık yaratmak" amacıyla nefret söyleminden alıntı yapılmasına yönelik istisnanın kapsamında olması sebebiyle, içeriğin nefret söylemi olmadığını tespit etmiştir.

Kurul, "Wampum Kuşağı" ve"İki düğme viral görüntüsü" kararlarında, bir gönderinin Nefret Söylemi ilkesindeki bir istisna gerekliliklerini karşılaması için gönderide niyetini açıkça beyan etmesinin zorunlu olmadığına dikkat çekmiştir. Kullanıcının, gönderi bağlamında, nefret söylemi terminolojisini ilkenin izin verdiği bir şekilde kullandığını açıkça belirtmesi yeterlidir.

Bu vakadaki içerikte kullanıcının söz konusu karalama terimlerinin kırıcı kullanımlarını "condone or encourage" (tasvip veya teşvik) etmediği; aksine gönderinin "an attempt to resist and challenge the dominant narrative" (baskın anlatıya direnme veya meydan okuma girişimi) olduğu ve "to reclaim the power of such hurtful terms" (bu kırıcı terimlerin gücünü geri kazandırma) amacı taşıdığı beyan edilmiştir. Net bir niyet beyanı, nefret söylemi kullanımını veya alıntılarını meşrulaştırmak için her zaman gerekli veya yeterli olmayacaktır ancak bir istisnanın geçerli olabileceğine dair moderatörde şüphe uyandırmalıdır. Bu vakada Kurul, niyet beyanı ve bağlam ikilisinin, içeriğin herhangi bir muğlaklığa yer bırakmayacak şekilde istisna dahilinde olduğunu gösterdiğini tespit etmiştir.

Buna rağmen, Meta başta içeriği kaldırmıştır ve üç ayrı moderatör içeriğin Nefret Söylemi ilkesini ihlal ettiği yönünde karara varmıştır. Birden fazla moderatörün içeriği düzgün şekilde sınıflandıramamasının birçok sebebi olabilir fakat şirketin moderatörlere kararlarının gerekçesini kayıt altına alma şartı koşmaması nedeniyle, Meta bu hataya dair spesifik bir açıklamada bulunamamıştır. "Wampum Kuşağı" kararında da belirtildiği üzere, bu hataların türleri ve bu hatalardan hangi kişilerin veya toplulukların olumsuz etkilendiği, platformdaki yaptırım sistemlerinde yapılan tasarım tercihlerinin bir sonucudur ve zulüm gören grup üyelerinin konuşma özgürlüğü haklarına zarar verme riskini beraberinde getirebilmektedir. Meta bu vakada olduğu gibi zulüm gören veya ötekileştirilen bir grupla ilgili olarak sürekli bir şekilde gereğinden fazla içerik yaptırımı örüntüsü gözlemlediğinde, hem yaptırım kararlarının ardındaki gerekçelendirmenin araştırılması hem de ifade hakları bilhassa risk altında olan grup üyelerine yük bindiren abartılı yaptırımlardan kaçınmak için moderasyon kurallarında tadilat yapma ya da mevcut kurallar ışığında eğitimi veya gözetimi artırma ihtiyaçlarının göz önünde bulundurulması uygun olacaktır.

II.Yaptırım işlemi

Kurulun sorularına verdiği yanıtlarda Meta, içeriğin platforma geri yüklenmesinin sebebinin, içeriği tesadüfen gören bir Meta çalışanının içeriği değerlendirme için üst birimlere iletilmek üzere işaretlemesi olduğunu açıklamıştır. İçeriğin "değerlendirme için üst birimlere iletilmesi," kararın genellikle dış kaynakların kullanıldığı geniş ölçekli değerlendirme sistemleri kapsamında yeniden incelenmesi yerine, Meta'daki dahili bir ekibe gönderilmesi anlamına gelmektedir. Anlaşıldığı kadarıyla bu süreçte bir Meta çalışanı içeriğin kaldırıldığını fark etmiş ve meseleyi vurgulayan dahili bir web formu doldurup göndermek durumunda kalmıştır. Şans faktörüne ek olarak, bunun gibi sistemler ancak Meta personelinin bizzat maruz kaldığı içeriklerdeki hataları tespit edebilir. Bu doğrultuda; İngilizce olmayan içeriklerin, ABD'de çok sayıda takipçisi olmayan hesaplarca paylaşılan içeriklerin veya Meta içerisinde büyük kitlelerce temsil edilmeyen gruplara yönelik olarak veya bu gruplar tarafından oluşturulan içeriklerin fark edilme, işaretlenme ve ek olarak ilgilenilme olasılığı çok daha düşüktür.

Gerçekleştirdiği temaslar kapsamında Kurula paydaşlar tarafından iletilen bir endişe, Nefret Söylemi ilkesindeki istisnaların doğru şekilde uygulanabilmesi için bir miktar konu uzmanlığına ve yerel bilgiye sahip olunması gerektiği ve Meta'nın bunlara sahip olamayabileceği veya her zaman uygulayamayabileceği yönünde olmuştur. Kurul, Meta ülke düzeyinde karalama ifadeleriyle hedeflenen azınlık gruplardan düzenli olarak görüş almadığı sürece, şirketin belirlenen karalama terimlerinin nüanslı listelerini derlemesinin ve moderatörlerine karalamalar ilkesindeki istisnaların nasıl uygulanacağına dair düzgün rehberlik sağlamasının mümkün olmayacağı yönündeki endişeleri de paylaşmaktadır.

8.2 Meta'nın değerleriyle uyumluluk

Kurul başta verilen içeriği kaldırma kararının Meta'nın "Söz Hakkı" ve "Onur" değerleriyle tutarsız olduğunu ve "Emniyet" değerine hizmet etmediğini tespit etmiştir. Platformlarında insanların istismar edilmesini önlemek amacıyla karalama ifadelerinin kullanımını önlemek Meta'nın değerleriyle tutarlıdır fakat Kurul, Meta'nın ilke istisnalarını ötekileştirilmiş grupların ifadelerine tutarlı bir şekilde uygulamamasından endişe duymaktadır.

Bu vaka bağlamında ötekileştirilmiş bir grubun üyelerinin ifade özgürlüğünü artırmayı amaçlayan "Söz Hakkı" kullanımları en üst seviye öneme sahiptir. Meta, hem hedeflerini kötülemeyi ve korkutmayı amaçlayan karalama ifadelerini sınırlama girişiminde hem de dile geri kazandırma yoluyla sözcükleri olumsuz etkilerinden arındırma amaçlı iyi niyetli girişimlere izin verme kararında haklıdır.

Kurul, karalama ifadelerinin dolaşımının "Onur" değerini olumsuz etkilediğinin bilincindedir. Kırıcı olma niyetiyle kullanılmaları ya da kırıcı olma niyeti taşımadığını gösteren bağlamsal ipuçları olmadan kullanılmaları başta olmak üzere, karalama ifadeleriyle karşılaşmak kullanıcıları korkutabilmekte, üzebilmekte veya kırabilmekte; sonuç olarak da çevrimiçi ifade özgürlüğünü olumsuz etkileyebilmektedir. Karalama ifadesinin kınamak, farkındalık yaratmak ya da kendine atıfta bulunur şekilde veya destekleyici biçimde kullanıldığına dair açık bağlamsal ipuçları olduğunda, "Onur" değeri sözcüğün platformdan kaldırılmasını şart koşmamaktadır. Aksine, istisnaları yok sayan gereğinden fazla yaptırım, azınlık gruplarını ve ötekileştirilmiş grupları bilhassa etkilemektedir. Meta, "İki düğme viral görüntüsü" kararında Kurulun tavsiye etmiş olduğu gibi, gerektiğinde alakalı bağlamın değerlendirilebilmesi amacıyla moderatörlerine gerekli kaynakları ve desteği sunmalıdır. Ötekileştirilmiş topluluklardaki kullanıcılar başta olmak üzere kullanıcıların "Söz Hakkı" ve "Onur" değerlerinin korunması bakımından; moderatörlerin karalama ifadelerine yapılan izin kapsamındaki atıflarla karalama ifadelerinin izin verilmeyen kullanımları arasında ayrım yapabilmesi büyük önem taşır.

Ötekileştirilmiş toplulukların "Onur" ve "Emniyet" değerleri sosyal medya platformlarında daha yüksek risk altında olduğundan, platformların da bunları koruma sorumluluğu daha yüksektir. Kurul "Wampum Kemeri" kararında, Meta'nın Nefret Söylemi ilke istisnalarının uygulanması üzerine doğruluk değerlendirmeleri yürütmesini tavsiye etmiştir. Ayrımcılığa uğrayan topluluklarla ilgili içerikleri tespit edebilmeleri ve Nefret Söylemi ilke istisnalarının hangi durumlarda geçerli olacağını dikkatle değerlendirmelerine yardımcı olacak talimatlar alabilmeleri amacıyla moderatörlerin eğitilmesi, doğruluk oranının artmasına katkıda bulunabilir. Hem içeriğin hem de destekleyici bağlamsal ipuçlarının değerlendirilmesi, bu istisnaların uygulanmasında tetikleyici etken olmalıdır.

"Emniyet" konusunda ise Kurul, hem emniyetli çevrimiçi alanların hem de ötekileştirilmiş ve tehdit altındaki topluluklara yönelik dikkatli moderasyonun önemine dikkat çekmektedir. Orta Doğu ve Kuzey Afrika bölgesindekiler başta olmak üzere Arapça konuşan LGBTQIA+ bireyler, kendilerini internette açıkça ifade ederken kayda değer seviyede tehlikeyle karşı karşıya kalmaktadır. Meta, bu ifadeler için destekleyici arenalar sağlama ihtiyacını, zaten sansürle ve baskıyla karşı karşıya olan kişilere gereğinden fazla moderasyon uygulamama ve bu kişileri susturmama ihtiyacıyla dengelemelidir. Bu alanda moderasyon yapmanın, özellikle de bunu geniş ölçekte yapmanın ne kadar karmaşık olduğunun bilincinde olan Kurul, yine de platformların bu işi düzgün şekilde yapmak için gereken kaynaklara yatırım yapmasının ne kadar hayati olduğuna dikkat çekmektedir.

8.3 Meta'nın insan hakları sorumluluklarıyla uyumluluk

Kurul, Meta'nın başta vermiş olduğu içeriği kaldırma kararının, şirketin bir işletme olarak insan hakları sorumluluklarıyla örtüşmediği sonucuna varmıştır. Meta, BM İş Dünyası ve İnsan Haklarına Dair Rehber İlkeleri (BM Rehber İlkeleri) kapsamında insan haklarına riayet etme taahhüdünde bulunmuştur. Facebook'un Kurumsal İnsan Hakları İlkesi, buna Kişisel ve Siyasal Haklar Uluslararası Sözleşmesinin (ICCPR) de dahil olduğunu belirtmektedir.

1. İfade özgürlüğü (Madde 19 ICCPR)

Kişisel ve Siyasal Haklar Uluslararası Sözleşmesi (ICCPR) Madde 19, ifade özgürlüğü için geniş çapta koruma sağlamaktadır. Bu koruma, insan haklarının ve "son derece rahatsız edici" bulunabilecek ifadelerin tartışılması için de geçerlidir (Genel Yorum 34, paragraf 11). İfade özgürlüğü hakkı, "cinsiyet" veya "diğer durumlar" dahil ayrımcılık yapılmaksızın tüm insanlara garanti edilmektedir (Madde 2, paragraf 1, ICCPR). Bu husus, cinsel yönelimi ve cinsel kimliği de içermektedir (Toonen - Avustralya (1992); A/HRC/19/41, paragraf 7).

Bu gönderi, LGBTQIA+ bireylere karşı ayrımcılık hakkındaki önemli sosyal meselelerle ilgilidir. BM İnsan Hakları Yüksek Komiseri, LGBTQIA+ haklarının savunuculuğuna uygulanan ayrımcı sınırlamaların yol açtığı ifade özgürlüğü kısıtlamaları hakkındaki endişelerini dile getirmiştir (A/HRC/19/41, paragraf 65).

Madde 19, bir devlet tarafından ifade özgürlüğüne getirilecek her türlü kısıtlamanın yasalara uygun olma, meşru amaç ve gerekli ve orantılı olma koşullarını karşılamasını şart koşmaktadır (Madde 19, paragraf 3, ICCPR). Fikir ve ifade özgürlüğü hakkında BM Özel Raportörü, BM Rehber İlkelerini dayanak almak suretiyle, sosyal medya şirketlerine içerik kurallarının ICCPR Madde 19, paragraf 3 rehberliğinde olması için çağrıda bulunmuştur A/HRC/38/35, paragraf 45 ve 70).

I. Yasalara uygun olma (kuralların netliği ve erişilebilirliği)

Yasalara uygun olma gerekliliği, ifade özgürlüğüne yönelik her türlü kısıtlamanın, nelere izin verilip nelere verilmediğine dair rehberlik sağlamak için yeterince erişilebilir ve net olmasını şart koşmaktadır.

Kurul; "Meme kanseri semptomları ve çıplaklık" vakasında (2020-004-IG-UA, Tavsiye no. 9), "Öcalan'ın hücre hapsi" vakasında (2021-006-IG-UA, Tavsiye no. 10) ve özel ikamet bilgilerinin paylaşılması hakkında İlke Tavsiyesi Niteliğindeki Görüşünde (Tavsiye no. 9) Meta'ya; birkaç istisna haricinde Facebook'un Topluluk Standartlarının tıpkı Facebook'ta olduğu gibi Instagram'da da geçerli olduğunu Instagram kullanıcılarına açıklaması tavsiyesinde bulunmuştur. İlke Tavsiyesi Niteliğindeki Görüşünde Kurul, Meta'ya bunu 90 gün içerisinde tamamlamasını tavsiye etmiştir. Kurul, Meta'nın bu İlke Tavsiyesi Niteliğindeki Görüşe yanıt olarak, bu tavsiyenin tamamen uygulanacağını ancak Meta'nın Facebook Topluluk Standartlarıyla ilişkisine açıklık getirilmiş daha kapsamlı Instagram Topluluk Kuralları geliştirme çalışmalarını sürdürdüğünü ve 90 günlük süre taahhüdünde bulunamayacağını belirttiğine dikkat çekmektedir. Bu tavsiyesini defalarca dile getirmiş olan Kurul, Meta'nın bu değişiklikleri hazırlamak için yeterli zamana sahip olduğuna inanmaktadır. Instagram Topluluk Kuralları ile Facebook Topluluk Standartları arasındaki ilişkinin net olmaması, Meta'nın platformlarındaki kullanıcılar için sürekli olarak karışıklık yaratmaya devam etmektedir. Şu anda Instagram Topluluk Kuralları'nda Facebook'un Nefret Söylemi Topluluk Standardının bir bağlantısı bulunmakla birlikte, Facebook'un Nefret Söylemi Topluluk Standardının tamamının (karalama ifadelerine getirilen yasak ve bunun istisnaları dahil) Instagram'da da geçerli olup olmadığı kullanıcılara açıkça ifade edilmemektedir. Instagram Topluluk Kuralları'nda zamanında ve kapsamlı güncellemeler yapılması, Kurulun başlıca önceliklerinden biri olmaya devam etmektedir.

Karalama listesinin geliştirilmesi konusunda ise Kurul, "Güney Afrika Karalama İfadeleri" vakasında (2021-011-FB-UA) vermiş olduğu, Meta'nın listeyi geliştirirken kullandığı prosedür ve kriterler hakkında daha şeffaf olması gerektiği tavsiyesini bir kez daha dile getirmektedir. Bu vakada Meta, belirlenen her bir pazara yönelik karalama listesini "süreç, pazarlar ve içerik ilkesi ekipleri gibi ilgili dahili ortakların analizlerine ve incelemelerine" dayalı olarak tanımladığını açıklamıştır. Meta ayrıca pazar uzmanlarının karalama listesini her yıl denetlediğini; her terimin nicel ve nitel olarak değerlendirildiğini, "kendi başına yazıldığında dahi özü itibarıyla kırıcı olan sözcüklerle özü itibarıyla kırıcı olmayan sözcükler" arasında ayrım yapıldığını beyan etmiştir. Yıllık değerlendirmenin ne zaman yapıldığı Kurulun bilgisi dışındadır ancak Kurul bu vakayı seçtikten sonra Meta, "z***l" sözcüğünün kullanımını denetlemiştir. Bu denetimin ardından ilgili sözcük "Arapça" karalama listesinden kaldırılmış ancak "Mağrip pazarı" karalama listesinde kalmaya devam etmiştir. Bu denetimin düzenli prosedürler kapsamında mı olduğu yoksa Kurulun bu vakayı seçmesine yanıt olarak bir defaya mahsus bir değerlendirme mi olduğu Kurulun bilgisi dahilinde değildir. Daha genel olarak Kurul, yıllık değerlendirmelerin hangi nicel ve nitel incelemeleri beraberinde getirdiğini bilememektedir.

Karalama listesinin geliştirilme süreç ve kriterlerine dair bilgiler ile dile ve coğrafyaya dayalı pazarların birbirinden neye göre ayırt edildiği başta olmak üzere pazarların nasıl belirlendiği kullanıcılara açıklanmamaktadır. Bu bilgiler olmadığında kullanıcılar, sadece Nefret Söylemi ilkesinin öznel konseptleri (özü itibarıyla kırıcı olmak, hakaret mahiyeti taşımak gibi) dayanak alan karalama ifadesi tanımı doğrultusunda, hangi sözcüklerin karalama ifadesi olarak görülebileceğini muhakeme etmekte zorluk yaşayabilir (A/74/486, paragraf 46; ayrıca bkz. A/HRC/38/35, paragraf 26).

Karalama listesinin nasıl uygulandığı konusunda ise Meta, "Güney Afrika Karalama İfadeleri" vakasında (2021-011-FB-UA) "karalama ifadeleri yasağı küreseldir ancak karalama ifadeleri pazarlara göre belirlenmektedir" şeklinde beyanda bulunmuştur. Şirket şunu açıklamıştır: "Bir terim bir pazarın karalama listesinde yer alıyorsa nefret söylemi ilkesi bu terimin ilgili pazarda kullanımını yasaklar." Meta'nın açıklaması, kapsam açısından küresel olma olasılığı bulunan yaptırım uygulamaları gereği, pazara özel olarak belirlenen karalama ifadelerinin de küresel olarak yasaklanıp yasaklanmadığı noktasında kafa karışıklığına neden olmaktadır. Meta, pazar terimini "bir veya birden fazla ülke ve dil/lehçe kombinasyonu" olarak tanımladığını açıklamış ve "pazarlar arasındaki ayrım, öncelikli olarak içeriğin dil/lehçe ve ülke kombinasyonuna dayalıdır" şeklinde açıklamada bulunmuştur. Meta'nın içerik değerlendirme görevlileri, "hem dilbilimsel yetkinliklerine hem de kültür ve pazar bilgilerine dayalı olarak kendi pazarlarına özel" belirlenmektedir. Meta'ya göre bu içerik, karalama listesindeki Arapça ve Mağrip pazarlarını ilgilendirmektedir. İçerik, "içerikte saptanan konum, dil ve lehçe gibi çeşitli sinyallerin, içerik türünün ve şikayet türünün kombinasyonuna dayalı olarak" bu pazarlara yönlendirilmiştir. Bir içeriğin hangi pazarlarla ilgili olduğunu belirlemek için birden fazla sinyalin nasıl birlikte çalıştığı ve belirli bir pazarda bir karalama ifadesi barındıran bir içeriğin sadece içerik o pazarla ilgili olduğunda mı kaldırılacağı yoksa küresel olarak mı kaldırılacağı Kurula yeterli netlikte ifade edilmemiştir. Topluluk Standardının kendisi de bu süreci açıklamamaktadır.

Meta, karalama ifadeleri yasağının platformda nasıl uygulandığına dair kapsamlı bir açıklama yayınlamalıdır. Güncel ilkede; belirli coğrafyalar için belirlenen karalama ifadelerinin sadece o coğrafyalarda paylaşıldığında veya o coğrafyalarda görüntülendiğinde mi yoksa paylaşıldıkları veya görüntülendikleri yerden bağımsız olarak mı platformdan kaldırıldığı dahil olmak üzere, yeterli şeffaflık sağlanmayan birçok alan mevcuttur. Meta, bazı ortamlarda karalama ifadesi olarak görülen ancak başka yerlerde tamamen farklı bir anlama sahip olan ve Meta'nın ilkelerini ihlal etmeyen sözcükleri nasıl ele aldığını da açıklamalıdır.

Nefret Söylemi Topluluk Standardının yapısı da kafa karışıklığına yol açabilmektedir. Karalama ifadeleri yasağı üçüncü kategori nefret söylemi başlığının altında görünmesine rağmen, söz konusu kategorinin odak noktası insanları ayrımcılık veya dışlama ile hedef alan ifadeler iken karalama ifadelerinde bu zorunluluğun olmadığı göz önüne alındığında, Kurul yasağın üçüncü kategoriye ait olup olmadığının net olmadığı görüşündedir.

II.Meşru amaç

İfade özgürlüğüne yönelik her türlü kısıtlama, Kişisel ve Siyasal Haklar Uluslararası Sözleşmesi'nde (ICCPR) belirtilen meşru bir amaç uğruna olmalıdır ve "başkalarının hakları" buna dahildir. Bu vakada söz konusu ilke, başkalarının eşitlik hakkını (Genel Yorum No. 34, paragraf 28) ve cinsel yönelime ve cinsel kimliğe dayalı olarak şiddetten ve ayrımcılıktan korunma hakkını koruma yönündeki meşru amaca hizmet etmektedir (Madde 2, paragraf 1, Madde 26 ICCPR; BM İnsan Hakları Komitesi, Toonen - Avustralya (1992); Cinsel yönelime ve cinsel kimliğe dayalı olarak şiddetten ve ayrımcılıktan korunma hakkında BM İnsan Hakları Konseyi Karar 32/2).

III. Gerekli ve orantılı olma

Gerekli ve orantılı olma prensibi uyarınca, ifade özgürlüğüne getirilen her türlü kısıtlama "koruyucu işlevini yerine getirmeye uygun olmalıdır; koruyucu işlevini yerine getirebilecek araçlar arasında en az müdahaleci olanı olmalıdır ve korunanların çıkarı açısından orantılı olmalıdır" (Genel Yorum 34, paragraf 34).

Kaldırma kararı Meta'nın Nefret Söylemi ilkelerindeki istisnayla paralel olmadığından ve açık bir hata olduğundan, bu vakada içeriğin kaldırılması gerekli değildir. Ayrıca kaldırma kararıyla sonuçlanan her değerlendirmede fotoğraflardan sadece birindeki ilke ihlali iddiası nedeniyle 10 fotoğraf içeren döngünün tamamı kaldırıldığından, kaldırma kararı en az müdahaleci araç değildir. Döngünün bir istisna kapsamında olmayan ve dolayısıyla izin verilmeyen karalama ifadelerinin yer aldığı tek bir görüntü içerdiği bir senaryoda bile, tüm döngünün kaldırılması orantılı bir yanıt olmayacaktı.

Kurula yaptığı açıklamada Meta, "fotoğraflardan herhangi biri Topluluk Standartları ihlali barındırdığı zaman içeriğin ihlalde bulunduğu kabul edilir" ve "Facebook'un aksine, Meta'nın Instagram'daki çok fotoğraflı bir gönderiden tek bir görüntüyü kaldırması mümkün değildir" ifadelerine yer vermiştir. Meta, içerik değerlendirme aracında değerlendirme görevlilerinin sadece döngüdeki ihlalde bulunan fotoğrafı kaldırabileceği bir güncellemenin teklif edildiğini ancak bu güncellemeye öncelik verilmediğini dile getirmiştir. Kurul bu açıklamayı net bulmamaktadır ve bu güncellemeye verilen önceliği düşürmenin, sadece belirli bölümleri ihlal teşkil etmesine rağmen döngülerin tamamen kaldırıldığı sistemik ölçüsüz yaptırıma yol açabileceği görüşündedir. Kurul, bir kullanıcı aynı fotoğraf dizisini hem Facebook hem de Instagram'da paylaştığında, bu tür içeriklerin iki platformda ayrı muamele görmesinin, herhangi bir anlamlı ilke farklılığıyla desteklenmeyen tutarsız sonuçlara yol açacağına dikkat çekmektedir: Fotoğraflardan birinin ihlalde bulunması Instagram'da döngünün tamamının kaldırılmasına yol açarken Facebook'ta bu durum söz konusu değildir.

2.Ayrımcılık yapmama

LGBTQIA+ bireylere karşı kullanılan aşağılayıcı terimleri dile geri kazandırmanın ayrımcılıkla mücadeledeki önemini göz önünde bulunduran Kurul, Meta'dan bu vakadaki içeriğin ve Facebook ve Instagram'daki benzer içeriklerinin yanlışlıkla kaldırılma olasılıklarına karşı özellikle hassas olmasını beklemektedir. Kurulun "Wampum Kuşağı" kararında (2021-012-FB-UA) Yerli bireylerin sanatsal ifade özgürlüğü açısından dikkat çektiği üzere, Meta'nın Facebook Nefret Söylemi ilkesini genel olarak uygulama performansını değerlendirmek yeterli değildir ve belirli ötekileştirilmiş grupların nasıl etkilendiği de hesaba katılmalıdır. BM Rehber İlkeleri uyarınca, "kurumsal işletmeler saldırıya uğrama veya ötekileştirilme riski yüksek olabilecek gruplar veya topluluklardaki bireylere yönelik insan hakları etkilerine özel olarak dikkat etmelidir" (BM Rehber İlkeleri, İlke 18 ve 20). İlgili ifadelerin cezalandırıldığı ülkelerde, LGBTQIA+ bireylerin çoğu zaman kendilerini özgürce ifade etmeye devam edebildikleri tek mecra sosyal medya olmaktadır. Bu özellikle de Topluluk Kurallarının kullanıcılara gerçek adlarını kullanmama izni verdiği Instagram için geçerlidir. Kurul, aynı özgürlüklerin Topluluk Standartları'nda Facebook kullanıcılarına sağlanmadığına dikkat çekmektedir. Sistemlerinin adil bir şekilde çalışmasını ve ayrımcılığa katkıda bulunmamasını garanti altına almak üzere, Meta'nın insan haklarına gerekli özeni gösterdiğini ispat etme sorumluluğunu üstlendiğini gösterebilmesi önemli olacaktır (BM Rehber İlkeleri, İlke 17). Kurul, Meta'nın nefret söylemini ele alan sistemlerinin yaptırım doğruluğunu rutin bir şekilde değerlendirdiğine ("Wampum Kuşağı" kararı) de işaret etmektedir. Ancak bu değerlendirmeler, Meta'nın aşağılayıcı terimleri dile geri kazandırmaya çalışan içerikleri izin verilmeyen nefret söyleminden ayırt etme kabiliyetini hususi olarak ölçen doğruluk değerlendirmeleri içermemektedir.

Bu vakadaki hatalar, Meta'nın aşağılayıcı terimlere yapılan atıfları değerlendirme konusunda moderatörlere sunduğu rehberliğin yetersiz olabileceğine işaret etmektedir. Kurul, ilke istisnaları kapsamında izin verilen içerikler başta olmak üzere, değerlendirme görevlilerinin bu vakada görülen türdeki hataları önlemek için kapasite veya eğitim bakımından yeterli kaynağa sahip olmayabileceğinden endişelenmektedir. Bu vakada Meta, Bilinen Sorular ve Dahili Uygulama Standartları kaynaklarının, ilkelerinin "küresel çapta standartlaştırılmış biçimde uygulanmasını sağlamak" için sadece İngilizce dilinde olduğu ve "tüm içerik moderatörlerinin akıcı İngilizce konuşabildiği" konusunda Kurulu bilgilendirmiştir. Kurul, "Myanmar idari işlem botu" kararında (2021-007-FB-UA) Meta'ya, Dahili Uygulama Standartlarının, içerik moderatörlerinin içerikleri değerlendirdiği dilde erişilebilir olduğundan emin olmasını tavsiye etmiştir. Meta bu tavsiye üzerine herhangi bir işlem gerçekleştirmemiş, tüm içerik moderatörlerinin akıcı İngilizce konuşabildiğini ifade ederek benzer bir yanıt vermiştir. Kurul, değerlendirme görevlilerine İngilizceden başka dillerdeki içerikleri nasıl modere edecekleri konusunda İngilizce rehberlik sağlamanın çeşitli zorlukları da beraberinde getirdiğini gözlemlemektedir. Dahili Uygulama Standartları ve Bilinen Sorular genellikle ABD İngilizcesinin dil yapılarına dayalıdır ve bunlar Arapça gibi diğer dillere uygulanamayabilmektedir.

Kurul, "Wampum Kuşağı" kararında (2021-012-FB-UA, Tavsiye no. 3) Meta'ya insan hakları ihlallerine dair ifade özgürlüğünü kapsayan Nefret Söylemi ilke istisnalarına (ör. kınama, farkındalık yaratma, kendine atıfta bulunarak kullanma, destekleyici biçimde kullanma) odaklanan doğruluk değerlendirmeleri yürütmesini tavsiye etmiş ve Meta'nın bu değerlendirmenin sonuçlarını Kurul ile paylaşması, sonuçların yaptırım işlemlerine ve ilke geliştirme süreçlerine yapılacak iyileştirmelere nasıl kaynak olacağını açıklaması gerektiğini bildirmiştir. Kurul, insan hakları ihlalleri hakkındaki ifadelerin gereğinden fazla kaldırılmasının bilhassa büyük bedelleri olduğunu anlayarak bu tavsiyede bulunmuştur. Kurul, Meta'nın uygulanabilirliği değerlendirme açısından bu tavsiyeyle ilgili olarak, (a) insan hakları ihlalleri gibi alanlar için yapılan istisnalar konusunda ilkelerinde belirli kategorilerin olmaması ve (b) Nefret Söylemi istisnalarının kapsamındaki içeriklerin kolayca tespit edilebilen numunelerinin olmaması dahil olmak üzere çeşitli endişelerinin bilincindedir. Kurul, Meta'nın analizlerini mevcut Nefret Söylemi istisnalarına odaklaması ve içerik numunelerini tespit etmeye öncelik vermesi sayesinde bu engellerin üstesinden gelinebileceğine inanmaktadır. Kurul, Meta'yı "Wampum Kuşağı" vakasındaki (2021-012-FB-UA) tavsiyeyi uygulama taahhüdünde bulunmaya teşvik etmekte ve bir sonraki üç aylık raporunda Meta'dan gelebilecek güncellemeleri dört gözle beklemektedir.

9. Gözetim Kurulu kararı

Gözetim Kurulu, Meta'nın başta vermiş olduğu içeriği kaldırma kararını bozmaktadır.

10. İlke tavsiyesi beyanı

Yaptırım

1. Meta, Dahili Uygulama Standartlarını ve Bilinen Soruları Modern Standart Arapçaya çevirmelidir. Bu adım, moderatörlerin karalama ifadeleri barındıran içeriklere ne zaman istisna uygulanması gerektiğini daha iyi muhakeme etmesine yardımcı olarak Arapça konuşulan bölgelerde gereğinden fazla yaptırımı azaltabilir. Kurul, "Myanmar İdari İşlem Botu" vakasında (2021-007-FB-UA) Meta'ya Dahili Uygulama Standartlarının, içerik moderatörlerinin içerikleri değerlendirdiği dilde erişilebilir olduğundan emin olması yönündeki tavsiyesine yanıt olarak Meta'nın hiçbir işlem gerçekleştirmediğine dikkat çekmektedir. Kurul için bu tavsiyenin yerine getirilme kriteri, Meta'nın Modern Standart Arapçaya çevirinin tamamlandığı yönünde Kurulu bilgilendirmesi olacaktır.

Şeffaflık

2. Meta, pazara özgü karalama listelerini nasıl oluşturduğu hakkında net bir açıklama yayınlamalıdır. Bu açıklama, her bir pazara özgü listeye hangi karalama ifadelerinin ve hangi ülkelerin dahil edileceğini belirleyen süreç ve kriterleri de içermelidir. Kurul için bunun yerine getirilme kriteri, bilgilerin Şeffaflık Merkezi'nde yayınlanması olacaktır.

3. Meta, pazara özgü karalama listelerini nasıl uyguladığı hakkında net bir açıklama yayınlamalıdır. Bu açıklama, karalama ifadesi yasaklarının tam olarak ne zaman ve nerede (söz konusu coğrafi bölgeden paylaşılan gönderiler, söz konusu bölge dışından paylaşılan ancak söz konusu bölgeyle ilgili olan gönderiler ve/veya gönderi hangi coğrafi bölgeden paylaşılmış olursa olsun söz konusu bölgedeki tüm kullanıcılarla ilgili olan gönderiler gibi) uygulanacağını belirleyen süreç ve kriterleri de içermelidir. Kurul için bu tavsiyenin yerine getirilme kriteri, bilgilerin Meta Şeffaflık Merkezi'nde yayınlanması olacaktır.

4. Meta, pazara özgü karalama listelerini nasıl denetlediği hakkında net bir açıklama yayınlamalıdır. Bu açıklama, Meta'nın pazara özgü listelerinden hangi karalama ifadelerinin kaldırılacağını ve hangilerinin listede tutulacağını belirleyen süreç ve kriterleri de içermelidir. Kurul için bu tavsiyenin yerine getirilme kriteri, bilgilerin Meta Şeffaflık Merkezi'nde yayınlanması olacaktır.

*Prosedür notu:

Gözetim Kurulunun kararları beş Üyeden oluşan alt kurullar tarafından hazırlanmaktadır ve Kurulun çoğunluğu tarafından onaylanma şartı aranmaktadır. Kurul kararları, tüm Üyelerin kişisel görüşlerini yansıtmayabilir.

Bu vaka kararında, Kurul adına bağımsız araştırmalar yürütülmüştür. Hem merkezi Gothenburg Üniversitesi'nde bulunan ve altı kıtadan 50'yi aşkın sosyal bilimciden oluşan ekibiyle faaliyet gösteren bağımsız bir araştırma enstitüsü hem de dünyanın dört bir yanından 3200'ü aşkın ülke uzmanı. Jeopolitik, güven, emniyet ve teknolojinin kesişimine odaklanan Duco Advisors danışmanlık firması da Kurula yardımlarını sunmuştur. Bünyesinde 350'den fazla dili akıcı konuşabilen ve dünyanın dört bir yanındaki 5000 farklı şehirden çalışan uzmanlar barındıran Lionbridge Technologies, LLC şirketi dil uzmanlığı sağlamıştır.