Wampum kuşağı

Vaka özeti

Not: Facebook 28 Ekim 2021 tarihinde adını Meta olarak değiştirdiğini duyurmuştur. Bu metinde Meta şirketin kendisini, Facebook ise söz konusu uygulamayla ilişkili ürünü ve ilkeleri ifade etmektedir.

Gözetim Kurulu, Meta'nın Kuzey Amerika Yerlisi olan bir sanatçının paylaştığı bir Facebook gönderisini Facebook'un Nefret Söylemi Topluluk Standardı uyarınca kaldırma yönünde başta vermiş olduğu kararı bozmuştur. Kurul, Kuzey Amerika'nın Yerli halklarına karşı geçmişte işlenen suçlar hakkında farkındalık yaratma niyeti taşıyan içeriğin Nefret Söylemi ilkesindeki istisnaların kapsamında olduğunu tespit etmiştir.

Vaka hakkında

Ağustos 2021'de bir Facebook kullanıcısı, yanında İngilizce metin açıklamasıyla birlikte bir wampum kuşağının resmini paylaşmıştır. Wampum kuşağı, hikayeleri ve sözleşmeleri ölümsüzleştiren görseller oluşturmak için deniz kabuklarının örülerek bir araya getirildiği, Kuzey Amerika Yerlilerine özgü bir sanat biçimidir. Bu kuşakta, kullanıcının "Kamloops hikayesinden" ilham aldığını söylediği bir dizi tasvir bulunmaktadır. Söz konusu hikaye, Kanada'nın British Columbia ilinde eskiden Kanada Yerlisi çocukların eğitim gördüğü bir yatılı okulda bulunan isimsiz mezarların Mayıs 2021'deki keşfine atıfta bulunmaktadır.

Metin, sanat eserine "Kill the Indian/Save the Man" (Kızılderiliyi Öldür/İnsanı Kurtar) başlığını atfetmektedir ve sanat eserini kullanıcının yaptığını belirtmektedir. Kullanıcı, kuşakta tasvir edilen görsel dizisini açıklamaktadır: "Theft of the Innocent, Evil Posing as Saviours, Residential School / Concentration Camp, Waiting for Discovery, Bring Our Children Home" (Masumların Soygunu, Kurtarıcı Kılığına Girmiş Şeytanlar, Yatılı Okul/Toplama Kampı, Keşfedilmeyi Bekliyorlar, Çocuklarımızı Geri Getirin). Kullanıcı gönderide sanat eserinin anlamını, wampum kuşaklarının geçmişini ve bir eğitim aracı olarak nasıl kullanıldıklarını dile getirmektedir. Kullanıcı kuşağı yapmanın hiç kolay olmadığını ve Kamloops'ta olup bitenlerin hikayesini anlatırken duygusal anlar yaşadığını ifade etmiştir. Kullanıcı sanat eserinin Kamloops mağdurlarına verdiği acılar için özür dilemekte ve kuşaklar için "sole purpose is to bring awareness to this horrific story" (tek amacı bu korkunç hikaye hakkında farkındalık yaratmaktır) ifadesini kullanmaktadır.

Meta'nın otomatik sistemleri, paylaşıldıktan bir gün sonra içeriğin Facebook Nefret Söylemi Topluluk Standardını ihlal ediyor olabileceğini belirlemiştir. Bir değerlendirme görevlisi aynı gün içerisinde içeriği değerlendirmiş ve ihlalde bulunduğu gerekçesiyle kaldırmıştır. Kullanıcı bu karar için Meta'ya itirazda bulunmuştur ve ikinci bir değerlendirme görevlisi de içeriğin ihlalde bulunduğuna karar vermiştir. Kaldırıldığı noktada içerik 4000'den fazla kez görüntülenmiş ve 50'den fazla kez paylaşılmıştır. Hiçbir kullanıcı içeriği şikayet etmemiştir.

Kurulun bu vakayı seçmesinin ardından, Meta kaldırma işlemini "yaptırım hatası" olarak tespit etmiş ve 27 Ağustos'ta içeriği geri yüklemiştir. Ancak Meta, kullanıcıyı içeriğin geri yüklendiği hakkında ancak 30 Eylül'de, Kurul Meta'ya kullanıcıyla aralarındaki yazışmaları sorduktan iki gün sonra bilgilendirmiştir. Meta, geç gönderilen bildirimin insan hatası kaynaklı olduğunu dile getirmiştir.

Önemli bulgular

Meta, başta vermiş olduğu içeriği kaldırma kararının Facebook Topluluk Standartlarına aykırı olduğu konusunda hemfikirdir ve kararı bir "yaptırım hatası" olarak tanımlamaktadır. Kurul bu içeriği kişilerin baskıya ve ayrımcılığa direnmek için nefret söylemine atıfta bulunduğu "karşı söylem" teriminin net bir örneği olarak görmektedir.

Facebook'un Nefret Söylemi ilkesinin girişinde, kullanıcının niyetinin açıkça belirtilmesi şartıyla karşı söyleme izin verildiği belirtilmektedir. İçeriğine bakıldığında, gönderinin nefret söylemi olmadığı barizdir. Sanat eseri Kamloops'ta olup bitenlerin hikayesini anlatmakta, yanındaki metin ise bu hikayenin öneminden bahsetmektedir. "Kill the Indian" (Kızılderiliyi Öldür) sözcükleri tek başına bakıldığında nefret söylemi teşkil edebilir ancak bağlama bakıldığında, bu sözcük öbeği belirli nefret ve ayrımcılık eylemlerini kınamakta ve bunlara dikkat çekmektedir.

Kurul, bir Nazi yetkilisinden alıntı yapan bir içeriğin incelendiği 2020-005-FB-UA numaralı vakadaki kararına yeniden dikkat çekmektedir. Söz konusu vaka, niyetin sadece doğrudan beyanlar yerine bir alıntının içeriği ve anlamı, gönderinin zamanlaması, gönderinin hangi ülkeden paylaşıldığı ve gönderinin aldığı ifade ve yorumların içeriği gibi göstergelerle nasıl değerlendirilebileceği hakkında benzer dersler içermektedir.

Bu vakada Kurul, gönderinin karşı söylem olarak tanınması için kullanıcının gönderide farkındalık yaratmaya çalıştığını açıkça belirtmesine gerek olmadığını tespit etmiştir. Kurul, moderatörlere verilen dahili "Bilinen Sorular" içerisinde, net bir niyet beyanının nefret söylemi teşkil eden bir gönderinin anlamını değiştirmeye her zaman yetmeyeceğini belirten kurala dikkat çekmektedir. Moderatörlerden, niyeti anlamak için sadece açık beyanlara dayanmak yerine içeriklerden çıkarım yapmaları beklenmektedir.

İki ayrı moderatör, bu gönderinin nefret söylemi teşkil ettiği sonucuna varmıştır. Meta, bu hatanın neden iki defa gerçekleştiğine dair kesin sebepler verememiştir.

Gözetim Kurulu kararı

Gözetim Kurulu, Meta'nın başta vermiş olduğu içeriği kaldırma kararını bozmaktadır.

Kurulun Meta'ya ilke tavsiyesi beyanı şu yöndedir:

• Kullanıcılara, itirazlarının konusu olan içerikler üzerinde şirketin uyguladığı tüm işlemler hakkında zamanında ve doğru bildirimler sağlama. Gözetim Kurulunun değerlendirme süreci sonucunda işlem yapıldığı durumlarda, yaptırım hatalarının söz konusu olduğu bunun gibi vakalar dahil olmak üzere, kullanıcı bu konuda bilgilendirilmelidir.
• İçerik moderatörlerine ikinci bir değerlendirme gerçekleştiriyor oldukları ve dolayısıyla ilk karara karşı çıkıldığı bildirildiğinde, değerlendirme görevlilerinin bundan nasıl etkilendiği hakkında bir çalışma yürütme.
• Değerlendirme görevlileri üzerinde, sanatsal ifade özgürlüğünü ve insan hakları ihlallerine dair ifade özgürlüğünü kapsayan Nefret Söylemi ilke istisnalarına (ör. kınama, farkındalık yaratma, kendine atıfta bulunarak kullanma, destekleyici biçimde kullanma) odaklanan bir doğruluk değerlendirmesi yürütme. Bu değerlendirmede, bir değerlendirme görevlisinin konumunun, moderatörlerin aynı veya farklı bölgelerden nefret söylemini ve karşı söylemi doğru şekilde değerlendirme kabiliyetini nasıl etkilediği de incelenmelidir. Meta bu değerlendirmenin sonuçlarını Kurul ile paylaşmalı, sonuçların yaptırım işlemlerine ve ilke geliştirme süreçlerine yapılacak iyileştirmelere nasıl kaynak olacağını açıklamalı ve değerlendirme görevlileri üzerinde bu istisnalar üzerine düzenli doğruluk değerlendirmeleri yürütmeyi planlayıp planlamadığını bildirmelidir. Kurul ayrıca, bu tavsiyeye uyduğunu göstermesi amacıyla, bu değerlendirme sonuçlarının özetini üç aylık Kurul şeffaflık güncellemelerinde herkese açık bir şekilde paylaşması yönünde Meta'ya çağrıda bulunmaktadır.

*Vaka özetleri sadece vakaya genel bakış niteliğinde olup emsal teşkil etmez.

Vaka kararı tam metni

1. Karar özeti

Gözetim Kurulu, Meta'nın Kuzey Amerika Yerlisi olan bir sanatçının paylaşmış olduğu, sanatçının eserinin fotoğrafından ve geçmişte yaşanan bir nefret söylemi olayını alıntılayan başlıktan oluşan bir gönderiyi kaldırma yönünde başta vermiş olduğu kararı bozmaktadır. Meta, Kuzey Amerika'nın Yerli halklarına karşı geçmişte işlenen suçlar hakkında farkındalık yaratma niyeti taşıdığı açık olan içeriğin, Facebook Nefret Söylemi Topluluk Standartlarındaki istisnalardan birinin kapsamında olduğu konusunda hemfikir olmuştur.

2. Vaka açıklaması

Ağustos 2021'in başlarında bir Facebook kullanıcısı, yanında İngilizce metin açıklamasıyla birlikte bir wampum kuşağının resmini paylaşmıştır. Wampum kuşağı, hikayeleri ve sözleşmeleri ölümsüzleştiren görseller oluşturmak için deniz kabuklarının örülerek bir araya getirildiği, Kuzey Amerika Yerlilerine özgü bir sanat biçimidir. Bu kuşakta, kullanıcının "Kamloops hikayesinden" ilham aldığını söylediği bir dizi tasvir bulunmaktadır. Söz konusu hikaye, Kanada'nın British Columbia ilinde eskiden Kanada Yerlisi çocukların eğitim gördüğü bir yatılı okulda bulunan isimsiz mezarların Mayıs 2021'deki keşfine atıfta bulunmaktadır.

Metin, sanat eserine "Kill the Indian/Save the Man" (Kızılderiliyi Öldür/İnsanı Kurtar) başlığını atfetmektedir ve sanat eserini kullanıcının yaptığını belirtmektedir. Kullanıcı daha sonra kuşakta tasvir edilen görsel dizisine tekabül eden ifadelerin listesini açıklamaktadır: "Theft of the Innocent, Evil Posing as Saviours, Residential School / Concentration Camp, Waiting for Discovery, Bring Our Children Home" (Masumların Soygunu, Kurtarıcı Kılığına Girmiş Şeytanlar, Yatılı Okul/Toplama Kampı, Keşfedilmeyi Bekliyorlar, Çocuklarımızı Geri Getirin). Kullanıcı gönderide sanat eserinin anlamını, wampum kuşaklarının geçmişini ve bir eğitim aracı olarak nasıl kullanıldıklarını dile getirmektedir. Kullanıcı kuşağı yapmanın hiç kolay olmadığını ve Kamloops'ta olup bitenlerin hikayesini anlatırken çok duygusal anlar yaşadığını ifade etmiştir. Bunun devamında kullanıcı, hikayenin artık halktan saklanamayacağını ve kuşağın bunu önlemeye yardımcı olacağını umduğunu belirtmiştir. Kullanıcı gönderinin sonunda sanat eserinin yatılı okul sistemi mağdurlarına verdiği acılar için özür dilemekte ve kuşaklar için "sole purpose is to bring awareness to this horrific story" (tek amacı bu korkunç hikaye hakkında farkındalık yaratmaktır) ifadesini kullanmaktadır.

Meta'nın otomatik sistemleri, paylaşıldıktan bir gün sonra içeriğin Facebook Nefret Söylemi Topluluk Standardını ihlal ediyor olabileceğini belirlemiştir. Bir değerlendirme görevlisi aynı gün içerisinde içeriği değerlendirmiş ve ihlalde bulunduğu gerekçesiyle kaldırmıştır. Kullanıcı bu karar için Meta'ya itirazda bulunmuştur ve ikinci bir değerlendirme görevlisi de içeriğin ihlalde bulunduğuna karar vermiştir. Kaldırıldığı noktada içerik 4000'den fazla kez görüntülenmiş ve 50'den fazla kez paylaşılmıştır. Hiçbir kullanıcı içeriği şikayet etmemiştir. Kurulun bu vakayı seçmesinin ardından, Meta kaldırma işlemini "yaptırım hatası" olarak tespit etmiş ve 27 Ağustos'ta içeriği geri yüklemiştir. Ancak Meta, kullanıcıyı içeriğin geri yüklendiği hakkında ancak 30 Eylül'de, Kurul Meta'ya kullanıcıyla aralarındaki yazışmaları sorduktan iki gün sonra bilgilendirmiştir. Meta, geç gönderilen bildirimin insan hatası kaynaklı olduğunu dile getirmiştir. İletilen mesajda, kullanıcıya içeriğinin geri yüklenmesinin sebebinin Kurula itirazda bulunması ve Kurulun bu vakayı seçmesi olduğu bildirilmemiştir.

Amerikan Yerlisi Meseleleri Derneği tarafından yapılan bir herkese açık yorum (Herkese Açık Yorum-10208), sanat eserinin başlığı olarak kullanılan alıntının, Amerika Birleşik Devletleri'nde Kızılderililer için ilk federal yatılı okulun kurucusu olan ordu subayı Richard Henry Pratt'e ait olduğuna dikkat çekmektedir. Bu ifade, Yerli halkları zorla "civilize" (medenileştirme) ve "eradicate all vestiges of Indian culture" (Kızılderili kültürünün tüm izlerini ortadan kaldırma) amacı güden yatılı okulların kurulmasının ardındaki politikaları özetlemektedir. Benzer politikalar Kanada'da da uygulanmış ve Kanada Hakikat ve Uzlaşma Komisyonu tarafından kültürel soykırıma eşdeğer olduğu tespit edilmiştir.

Kullanıcının "Kamloops" ile kastettiği olay, Kanada'nın British Columbia ilinde eskiden Kanada Kızılderili çocuklarının eğitim gördüğü Kamloops Kızılderili Yatılı Okulu'na atıfta bulunmaktadır. Mayıs 2021'de Tk'emlúps te Secwépemc Kızılderililerinin liderleri, Kamloops'ta isimsiz mezarların keşfedildiğini duyurmuştur. Yetkililer, bölgede 200 olası mezarlığın olduğunu doğrulamıştır.

Kanada hükümeti, son okulun kapatıldığı 1997 yılına kadar en az 150.000 Yerli çocuğun yatılı okul sisteminden geçtiğini tahmin etmektedir. Yerli çocuklar sıklıkla ailelerinden zorla ayrılmıştır ve Yerli kültürünün herhangi bir yönünü sergilemeleri yasaklanmıştır. Okullarda katı ve istismarcı fiziksel ceza yöntemleri uygulanmış, okul personeli birçok çocuğa karşı cinsel taciz ve ciddi şiddet uygulamış veya bu vakalara göz yummuştur. Öğrencilerin kötü beslendiği, okulların yetersiz ısıtıldığı ve temizlendiği bu ortamlarda çok sayıda çocuk tüberküloz ve diğer hastalıklardan ölmüş ve düzgün tıbbi yardım alamamıştır. Hakikat ve Uzlaşma Komisyonu, bu okullarda eğitim gördükleri sırada birçoğu kötü muamele veya ihmalkarlık, diğerleri ise hastalık veya kaza sebebiyle olmak üzere en az 4100 öğrencinin hayatını kaybettiği sonucuna varmıştır.

3. Yetki ve kapsam

Kurul, içeriği kaldırılan kullanıcıdan gelen itiraz üzerine Meta'nın kararını değerlendirme yetkisine sahiptir (Tüzük Madde 2, Kısım 1; İç Yönetmelikler Madde 3, Kısım 1). Kurul, Meta'nın kararını onaylayabilir veya geri çevirebilir ve verilen karar şirket açısından bağlayıcıdır (Tüzük Madde 4; Madde 3, Kısım 5). Kurulun kararları, bağlayıcı olmayan ancak Meta'nın yanıtlaması gereken tavsiyelerin yer aldığı ilke tavsiyesi beyanları içerebilir (Tüzük Madde 4; Madde 3, Kısım 4).

Meta'nın hatasını sonradan kabul ettiği böyle vakaları seçtiği zaman Kurul, hataların neden meydana geldiğini daha iyi anlamak için asıl kararı değerlendirmekte; hataları azaltmaya ve süreci iyileştirmeye katkıda bulunabilecek gözlemlerde veya tavsiyelerde bulunmaktadır. Meme Kanseri Semptomları ve Çıplaklık vakasındaki (2020-004-IG-UA, Kısım 3) kararın ardından Kurul, Meta'ya vaka bir alt kurula atanmadan önce yaptırım hatalarını tespit etme imkanı tanıyan yeni bir süreç benimsemiştir (bkz. şeffaflık raporları, sayfa 30). Bu vakalarda Meta'nın gerekçesini tamamen revize edilmiş kararına odaklaması, kullanıcının içeriğine aslında ne olması gerektiğini açıklaması ve Kurulu bu kararı şirketin "nihai" kararı olarak onaylamaya davet etmesi faydasız olmaktadır. Kurul Meta'ya, kullanıcının itiraz ettiği kararın neden yanlış olduğunu açıklamaya ek olarak, hatanın neden meydana geldiğini ve şirketin dahili değerlendirme sürecinin bunu neden tespit edemediğini ya da düzeltemediğini açıklamasını önermektedir. Kurul, değerlendirmelerini kullanıcının itiraz ettiği karara göre gerçekleştirmeye devam edecektir.

4. İlgili standartlar

Gözetim Kurulu, aldığı karar için aşağıdaki standartları göz önünde bulundurmuştur:

I.Facebook Topluluk Standartları:

Facebook Topluluk Standartları, nefret söylemini "insanlara korunan özellikler olarak adlandırdığımız ırk, etnik köken, milli köken, dini inanç, cinsel yönelim, sosyal sınıf, cinsiyet, cinsel kimlik, ciddi bir hastalık veya engellilik gibi özelliklerinden dolayı doğrudan saldırıda bulunulması" şeklinde tanımlamaktadır. "1. Kategori" altında "yazılı veya görsel formda her tür şiddet söylemi veya desteği" yasaklanmaktadır. Topluluk Standardı, şiddet teşkil etmeyen içerikleri ayırt etmek için istisnalar da içermektedir:

İnsanların bazen kınamak veya farkındalık yaratmak amacıyla başkalarının nefret söyleminin yer aldığı içerikler paylaştığını biliyoruz. Diğer durumlarda, aslında standartlarımızı ihlal edebilecek söylemler kendine atıfta bulunur şekilde veya destekleyici biçimde kullanılabilir. İlkelerimiz bu tür söylemlere alan bırakacak şekilde tasarlanmıştır ancak kişilerin niyetlerini açıkça belirtmesini şart koşarız. Niyet açık değilse içeriği kaldırabiliriz.

II. Meta'nın değerleri:

Meta'nın değerleri, Facebook Topluluk Standartlarının girişinde vurgulanmıştır. "Söz Hakkı" değeri "çok önemli" olarak tanımlanmaktadır:

Topluluk Standartlarımızın amacı her zaman insanların kendilerini ifade edebileceği bir yer sunmak ve onlara söz hakkı tanımak olmuştur. […] Bazıları katılmasa veya uygunsuz bulsa bile, insanların kendileri için önemli olan sorunları açıkça konuşabilmesini istiyoruz.

Meta, "Söz Hakkı" ilkesini belirttiği dört değer uğruna sınırlayabilmektedir. Bunların ikisi konuyla ilgilidir:

"Emniyet": Facebook'u emniyetli bir yer haline getirmeye çok önem veriyoruz. İnsanları tehdit eden ifadeler, başkalarını korkutma, dışlama veya susturma potansiyeli taşır ve Facebook'ta bunlara izin verilmez.

"Onur": Tüm insanların eşit onura ve haklara sahip olduğuna inanıyoruz. İnsanlardan başkalarının onuruna saygı duymalarını, onları taciz etmemelerini ve aşağılamamalarını bekliyoruz.

III. İnsan hakları standartları:

2011 yılında BM İnsan Hakları Konseyi tarafından desteklenen BM İş Dünyası ve İnsan Haklarına Dair Rehber İlkeler (BM Rehber İlkeleri), özel işletmelerin insan haklarına yönelik sorumlulukları için gönüllülük esasına dayalı bir çerçeve tesis etmektedir. 2021 yılında Meta, BM Rehber İlkelerine uygun olarak insan haklarına riayet etme taahhüdünü tekrar tasdik ettiği Kurumsal İnsan Hakları İlkesi'ni duyurmuştur. Bu vakada Kurulun Meta'nın insan hakları sorumlulukları üzerinde gerçekleştirdiği analizler, aşağıdaki insan hakları standartları ışığında gerçekleştirilmiştir:

• İfade özgürlüğü: Madde 19, Kişisel ve Siyasal Haklar Uluslararası Sözleşmesi (ICCPR); Genel Yorum No. 34, İnsan Hakları Komitesi, 2011; Madde 5, Her Türlü Irk Ayrımcılığının Ortadan Kaldırılmasına İlişkin Uluslararası Sözleşme (ICERD); Nefret Söylemi hakkında BM Özel Raportörü Raporu, A/74/486, 2019; İnternetteki İçeriklerin Moderasyonu hakkında BM Özel Raportörü Raporu, A/HRC/38/35, 2018.
• Eşitlik ve ayrımcılığa maruz kalmama: Madde 2, paragraf 1 ve Madde 26 (ICCPR); Madde 2, ICERD; Genel Tavsiye 35, Irk Ayrımcılığının Ortadan Kaldırılması Komitesi, 2013.
• Kültürel haklar: Madde 27, ICCPR; Madde 15, Ekonomik, Sosyal ve Kültürel Haklar Uluslararası Sözleşmesi (ICESCR); Kültürel haklar alanındaki BM Özel Raportörü, sanatsal özgürlük ve yaratıcılık hakkında rapor, A/HRC/23/34, 2013.
• Yerli halkların hakları: BM Yerli Halkların Hakları Bildirgesi, Madde 7, paragraf 2; Madde 8, paragraf 1 ve Madde 19.

5. Kullanıcı beyanı

Kullanıcı, Kurula gönderdiği itirazda gönderisinin geçmişi belgeleyen geleneksel bir sanat eserini sergilediğini ve nefret söylemiyle hiçbir ilgisi olmadığını belirtmiştir. Kullanıcı buna ek olarak, bu geçmişin "needed to be seen" (görülmesi gerektiğini) ifade etmiş ve Meta'nın gönderiyi kaldırmasını "this is censorship" (bu sansürlemedir) şeklinde nitelemiştir.

6. Meta'nın kararının açıklaması

Kurula yaptığı açıklamada Meta, "Kill the Indian" (Kızılderiliyi Öldür) ifadesinin Facebook'un Nefret Söylemi Topluluk Standardı kapsamında 1. Kategori saldırı teşkil ettiğini belirtmiştir. Söz konusu standart, ırk ve etnik köken dahil olmak üzere korunan özelliklere dayalı olarak insanları hedefleyen "şiddet söylemlerini" yasaklamaktadır. Öte yandan Meta, "kınamak veya farkındalık yaratmak" amacıyla başka bir kişinin nefret söylemini paylaşan içeriklere izin verilmesi sebebiyle, içeriğin kaldırılmasının yanlış olduğunu kabul etmiştir. Meta, kullanıcının gönderisinde Kamloops'ta olup bitenlerin dehşet verici hikayesi hakkında farkındalık yaratmayı amaçladığını belirttiğine işaret etmiştir.

Meta, "Kill the Indian/Save the Man" (Kızılderiliyi Öldür/İnsanı Kurtar) ifadesinin Yerli çocukların zorla asimile edildiği dönemde ortaya çıktığına dikkat çekmiştir. Kullanıcı, Kamloops hikayesi hakkında farkındalık yaratırken bir yandan da yatılı okullar aracılığıyla çocukların zorla asimile edilmesi hakkında farkındalık yaratmaktaydı. Kurulun bir sorusunu yanıtlarken Meta, bir içerik değerlendirme görevlisinin ilkeyi doğru şekilde uygulamak için bu geçmişi bilmesinin gerekli olmadığına açıklık getirmiştir. Gönderide kullanıcı korkunç bir hikaye hakkında farkındalık yaratmaya çalıştığını belirtmiş olduğundan, bir değerlendirme görevlisinin de gönderinin alıntılanan nefret söylemi hakkında farkındalık yarattığı sonucuna varması makul bir beklentidir.

Meta, Kurula verdiği bilgide hiçbir kullanıcının içeriği şikayet etmediğini bildirmiştir. Meta, Facebook Topluluk Standartlarını ihlal edebilecek içerikleri otomatik olarak saptamak üzere eğitilmiş makine öğrenimi sınıflandırıcıları işletmektedir. Bu vakada, iki sınıflandırıcı gönderiyi otomatik bir şekilde nefret söylemi olarak tespit etmiştir. İçeriği analiz eden ilk sınıflandırıcının, gönderinin Topluluk Standardını ihlal ettiğine dair güven düzeyi yüksek olmamıştır. Ancak başka bir sınıflandırıcı, çeşitli bağlamsal sinyallere dayalı olarak gönderinin geniş kitlelerce paylaşılabileceğini ve çok sayıda insan tarafından görülebileceğini belirlemiştir. Nefret söyleminin geniş kitlelere dağılımından kaynaklanabilecek potansiyel zarar göz önüne alındığında, Meta'nın sistemi gönderiyi otomatik olarak insan değerlendirmesine göndermiştir.

Kurulun sorularına verdiği yanıtlarda Meta, Asya Pasifik bölgesindeki bir değerlendirme görevlisinin gönderinin nefret söylemi olduğunu belirlediğine ve gönderiyi platformdan kaldırdığına açıklık getirmiştir. Kullanıcı itirazda bulunmuştur ve Asya Pasifik bölgesindeki ikinci bir değerlendirme görevlisi de içeriğin nefret söylemi olduğuna karar vermiştir. Kurula verdiği bilgide Meta, moderatörlerin her bir içerik kararı için gerekçelerini kayıt altına almadığını dile getirmiştir.

7.Üçüncü taraf bildirimleri

Kurul bu vakayla ilgili olarak dördü Amerika Birleşik Devletleri ve Kanada'dan, ikisi Avrupa'dan, biri Sahra Altı Afrika'dan ve biri Asya Pasifik ve Okyanusya'dan olmak üzere sekiz adet herkese açık yorumu göz önünde bulundurmuştur. Bildirimler şunları da içeren temaları ele almaktadır: kullanıcının başlığı yazarken atıfta bulunduğu alıntının önemi, Kuzey Amerika'da yatılı okulların kullanımı hakkında bağlamsal bilgiler, Meta'nın içerik moderasyonu faaliyetlerinin Yerli kimliğe veya kökene sahip kişilerin sanatsal özgürlüklerine ve ifade haklarına etkileri.

Bu vaka için gönderilen herkese açık yorumları okumak isterseniz lütfen buraya tıklayın.

8.Gözetim Kurulu analizi

Kurul, bu içeriğin geri yüklenmesi gerekip gerekmediğine üç ayrı mercekten bakmıştır: Facebook Topluluk Standartları, Meta'nın değerleri ve şirketin insan hakları sorumlulukları.

8.1 Topluluk Standartlarıyla Uyumluluk

Meta, başta vermiş olduğu içeriği kaldırma kararının Facebook Topluluk Standartlarına aykırı olduğu konusunda hemfikir olmuş ve kararı bir "yaptırım hatası" olarak tanımlamıştır. Kurul, bu vakadaki içeriğin herhangi bir muğlaklığa yer bırakmayacak şekilde nefret söylemi olmadığını tespit etmiştir. Bu içerik kişilerin baskıya ve ayrımcılığa direnmek için nefret söylemine atıfta bulunduğu veya nefret söylemini kendi amaçları için benimsediği "karşı söylem" teriminin net bir örneğidir.

Nefret Söylemi Topluluk Standardı "kınamak veya farkındalık yaratmak amacıyla başka bir kişinin nefret söyleminin dahil edildiği içeriklere" açıkça izin vermektedir. Ancak iki ayrı moderatör, bu gönderinin nefret söylemi teşkil ettiği sonucuna varmıştır. Meta, bu hatanın neden iki defa gerçekleştiğine dair kesin sebepler verememiştir.

Kurul, Nazi Alıntısı vakasında (2020-005-FB-UA) bir alıntının kullanıldığı bağlamın, alıntının anlamını çözümlerken önem arz ettiğine dikkat çekmiştir. Söz konusu vakada; alıntının içeriği ve anlamı, gönderinin zamanlaması, gönderinin paylaşıldığı ülke ve gönderinin aldığı ifade ve yorumların içeriği gibi göstergeler, kullanıcının nefret edilen belirlenmiş kişiyi övme niyeti taşımadığını açıkça göstermektedir.

Kurul, bu gönderinin niyetinin ve anlamının belirgin olması için kullanıcının gönderide farkındalık yaratmaya çalıştığını açıkça belirtmesine gerek olmadığını tespit etmiştir. Resimdeki sanat eseri Kamloops'ta olup bitenlerin hikayesini anlatmakta, yanındaki metin ise bu hikayenin öneminden bahsetmektedir. "Kill the Indian" (Kızılderiliyi Öldür) sözcükleri tek başına bakıldığında nefret söylemi teşkil edebilir ancak içerik bir bütün olarak değerlendirildiğinde bu ifadenin nefret ve ayrımcılık eylemleri hakkında farkındalık yaratmak ve bunları kınamak için kullanıldığı açıktır. Başlıktaki nefret ifadesini ayırt etmek üzere tırnak işareti içerisinde kullanılan içeriğin tamamı "Kill the Indian/Save the Man" (Kızılderiliyi Öldür/İnsanı Kurtar) şeklindedir. Sadece bu bile değerlendirme görevlisini biraz daha derin düşünmeye sevk etmeliydi. Kullanıcının Kamloops hikayesini anlatma ve wampum kuşağının kültürel önemini açıklama biçimi, kendini ayrımcılık ve şiddet eylemlerinin failleriyle değil mağdurlarıyla özdeşleştirdiğini açıkça göstermektedir. Anlatım biçimi, Kamloops'ta gerçekleştiği keşfedilen olayları açıkça kınamaktadır. Gönderinin aldığı yorum ve ifadeler, bu kınama ve farkındalık yaratma niyetini kullanıcının hedef kitlesinin de anladığını net bir şekilde gözler önüne sermektedir.

Kurul, moderatörlere verilen rehberlerden biri olan Facebook'un dahili "Bilinen Sorular" belgesinde, nefret söylemi içeren ve kullanıcının niyetinin net olmadığı içerikleri kaldırma tercihinin ağır basması gerektiği yönündeki talimata dikkat çekmektedir. Bilinen Sorular ayrıca net bir niyet beyanının nefret söylemi teşkil eden bir gönderinin anlamını değiştirmeye her zaman yetmeyeceğini belirtmektedir. Bu dahili rehberin kınamak veya farkındalık yaratmak için nefret söyleminden alıntı yapan karşı söylemi, yasaklanan nefret söyleminden düzgün şekilde ayırt edebilmeleri için moderatörlere sağladığı talimatlar oldukça sınırlıdır. Kurulun bilgisi dahilinde, nefret söylemi terimlerini kullanan veya bunlardan alıntı yapan sanatsal içeriklerde ya da insan hakları ihlallerinden bahseden ve ilke istisnaları kapsamında olan içeriklerde niyet göstergelerinin nasıl değerlendirileceğine dair herhangi bir rehberlik yoktur.

8.2 Meta'nın değerleriyle uyumluluk

Kurul başta verilen içeriği kaldırma kararının Meta'nın "Söz Hakkı" ve "Onur" değerleriyle tutarsız olduğunu ve "Emniyet" değerine hizmet etmediğini tespit etmiştir. Platformlarında nefret söyleminin yayılmasını sınırlandırmak Meta'nın değerleriyle tutarlıdır ancak Kurul, Meta'nın moderasyon süreçlerinin ötekileştirmeyle veya ayrımcılıkla karşılaşan kişilerin kendilerini karşı söylem aracılığıyla ifade etme çabalarını düzgün şekilde saptayamamasından ve bu imkanı koruyamamasından endişelenmektedir.

Meta, karşı söylemi destekleme taahhüdünü dile getirmiştir:

Bir topluluk, bir sosyal platform ve ortak insan deneyiminin birleşimi olarak Facebook; dünyanın dört bir yanında Karşı Söylem girişimleri başlatmak üzere güçlü içerik ilkeleri uygulayarak ve yerel topluluklarla, politika üreticilerle, uzmanlarla ve fark yaratanlarla birlikte çalışarak kritik Karşı Söylem girişimlerini desteklemektedir.

Meta, "Söz Hakkı" ilkesinin şirketin en önemli değeri olduğunu iddia etmektedir. Geçmişteki zulümlerin getirdiği korkulara ışık tutmaya ve insanları bunların kalıcı etkileri hakkında eğitmeye çalışan sanat eserleri, özellikle de kendi kültürlerini ifade eden ve kendi tarihlerini duyurmaya çalışan ötekileştirilmiş gruplar için "Söz Hakkı" değerinin en önemli ve güçlü ifade tarzlarından biridir. Karşı söylem sadece bir "Söz Hakkı" ifadesi değil aynı zamanda nefret söylemine maruz kalanların kendi onurlarını korumak ve baskıcı, ayrımcı ve aşağılayıcı davranışlara karşı çıkmak için kullandığı önemli bir araçtır. Meta, içerik ilkelerinin ve moderasyon uygulamalarının bu ifade tarzını göz önünde bulundurmasını ve korumasını sağlamalıdır.

Toplu zulümler hakkında farkındalık yaratan bir kullanıcıya kendi söyleminin nefret söylemi olduğu gerekçesiyle kaldırıldığını söylemek, bu kişinin onurunu zedeleyecektir. Böyle bir suçlamada bulunulması ve itiraz sonrası bunun Meta tarafından teyit edilmesi, otosansüre yol açabilir.

8.3 Meta'nın insan hakları sorumluluklarıyla uyumluluk

Kurul, bu gönderinin kaldırılmasının Meta'nın bir işletme olarak insan hakları sorumluluklarıyla ters düştüğü sonucuna varmıştır. Meta, BM İş Dünyası ve İnsan Haklarına Dair Rehber İlkeleri (BM Rehber İlkeleri) kapsamında insan haklarına riayet etme taahhüdünde bulunmuştur. Şirketin Kurumsal İnsan Hakları İlkesi, buna Kişisel ve Siyasal Haklar Uluslararası Sözleşmesinin (ICCPR) de dahil olduğunu belirtmektedir.

Bu vaka Kurulun sanatsal ifade özgürlüğü hakkında değerlendirmede bulunduğu ilk vaka olmanın yanında, kendini Yerli birey olarak tanımlayan bir kullanıcının ifadesini değerlendirdiği ilk vakadır. Öte yandan, Kurulun seçtiği vakalar arasında kullanıcının ciddi insan hakları ihlallerine dikkat çekmeye çalıştığı birkaç vakadan biridir.

İfade özgürlüğü (Madde 19 ICCPR)

Uluslararası insan hakları standartları, siyasi ifade özgürlüğünün değerini vurgulamaktadır (İnsan Hakları Komitesi Genel Yorum 34, paragraf 38). Bu hakkın koruma kapsamı, "sanat formundaki" ifade biçimlerinden özellikle bahseden Kişisel ve Siyasal Haklar Uluslararası Sözleşmesi (ICCPR) Madde 19, paragraf 2'de belirtilmiştir. Her Türlü Irk Ayrımcılığının Ortadan Kaldırılmasına İlişkin Uluslararası Sözleşme (ICERD) de ifade özgürlüğü hakkını kullanırken ayrımcılıktan koruma sağlamaktadır (Madde 5) ve devletlerin uyumluluğunu izleme görevini üstlenen Komite, "toplumun bileşenleri arasındaki güç dengesini onarma çabaları kapsamında savunmasız gruplara" yardımcı olma ve tartışmalarda "alternatif görüşler ve karşı görüşler" sunma hakkının önemini vurgulamıştır (CERD Komitesi, Genel Tavsiye 35, paragraf 29).

Sanat sıklıkla siyasi amaçlara hizmet etmektedir ve uluslararası standartlar, bu iletişim formunun statükoya meydan okurken üstlendiği benzersiz ve güçlü role işaret etmektedir (Kültürel haklar alanındaki BM Özel Raportörü, A/HRC/23/34, paragraf 3 - 4). Facebook ve Instagram gibi sosyal medya platformları başta olmak üzere internet, sanatçıların yeni ve daha büyük hedef kitlelere erişmesinde özel bir değere sahiptir. Bu kişilerin geçimleri, internette oldukça büyük bir alana hükmeden sosyal platformlara erişime bağlı olabilmektedir.

İfade özgürlüğü hakkı, ayrımcılık yapılmaksızın tüm insanlara garanti edilmektedir (Madde 19, paragraf 2, ICCPR). Kurulun aldığı bazı bildirimler, devletlerin Yerli halkları etkileyen yasal veya idari önlemler benimsemeden önce bu toplulukların özgür, önceden ve bilgilendirilmiş onayını almak zorunda olmasının, Meta'nın içerik ilkelerini geliştirirken bu topluluklara danışma sorumluluğu taşıdığını ima ettiği görüşündedir (Herkese Açık Yorum-10240, Azınlık Hakları Grubu; ayrıca bkz. BM Yerli Halkların Hakları Bildirgesi, Madde 19). Fikir ve ifade özgürlüğü hakkında BM Özel Raportörü de sosyal medya platformlarının sorumlulukları bağlamında benzer bir endişeyi dile getirmiştir (A/HRC/38/35, paragraf 54).

Bu vakadaki içerik; ulusal, etnik veya dilsel azınlıklara ait kişilerin, gruplarının diğer üyeleriyle birlikte bir topluluk olarak kendi kültürlerini yaşama (Madde 27, ICCPR) ve kültürel yaşama katılımda bulunma ve sanat eserlerini takdir etme (Madde 15, ICESCR) hakları dahil olmak üzere birçok diğer hak ile de bağlantılıdır. İnsan hakları zulümlerini kayıt altına almayı, bunlar hakkında farkındalık yaratmayı ve bunların unutulmamasını sağlamayı amaçlayan bir wampum kuşağı oluşturma sanatı, BM İnsan Hakları Savunucuları Bildirgesi Madde 6(c) tarafından ve zulümler hakkında gerçekleri bilme hakkı (BM Cezasızlıkla Mücadele İlkeleri) tarafından korunmaktadır. BM Yerli Halkların Hakları Bildirgesi, çocukların zorla ailelerinin elinden alınmasının bir şiddet ve soykırım eylemi olabileceğini açık bir şekilde tanımakta (Madde 7, paragraf 2) ve zorla asimile etme ve kültürü yok etme eylemlerine karşı özel koruma sağlamaktadır (Madde 8, paragraf 1).

Kişisel ve Siyasal Haklar Uluslararası Sözleşmesi (ICCPR) Madde 19, bir devlet tarafından ifade özgürlüğüne getirilecek her türlü kısıtlamanın yasalara uygun olma, meşru amaç ve gerekli ve orantılı olma koşullarını karşılamasını şart koşmaktadır (Madde 19, paragraf 3, ICCPR). İfade özgürlüğü hakkında BM Özel Raportörü, sosyal medya şirketlerini internetteki ifadeleri modere ederken bu ilkelerden rehberlik almaya ve özel şirketlerin ifade özgürlüğünü geniş ölçekte düzenlemeye tabi tutmasının bu bağlama özgü endişelere yol açabileceğinin bilincinde olmaya teşvik etmiştir (A/HRC/38/35, paragraf 45 ve 70). Kurul şimdiye kadar verdiği tüm kararlarda Kişisel ve Siyasal Haklar Uluslararası Sözleşmesi (ICCPR) Madde 19'a dayalı, üç bölümden oluşan testten faydalanmıştır.

I. Yasalara uygun olma (kuralların netliği ve erişilebilirliği)

Nefret Söylemi Topluluk Standardı, nefret söylemini kınayan veya nefret söylemi hakkında farkındalık yaratan içeriklere açıkça izin vermektedir. İlkenin bu bileşeni, kullanıcının kuralları anlaması ve buna göre hareket edebilmesi bakımından yeterince net ve erişilebilir niteliğe sahiptir (Genel Yorum 34, paragraf 25). Yasalara uygun olma standardı gereği ayrıca ifade özgürlüğünü kısıtlayan kurallar, "kurallar uyarınca hangi tür ifadelerin kısıtlandığını ve hangilerinin kısıtlanmadığını açıkça anlayabilmeleri için ifade özgürlüğü kısıtlanan kişilere yeterli rehberlik sağlamalıdır" (aynı belge). İki ayrı moderatörün bu içeriğe gerekli ilke istisnasını düzgün şekilde uygulayamamış olması, moderatörlere sunulan dahili rehberliğin artırılması gerekebileceğine işaret etmektedir.

II. Meşru amaç

İfade özgürlüğüne yönelik her türlü devlet kısıtlaması, Kişisel ve Siyasal Haklar Uluslararası Sözleşmesi (ICCPR) Madde 19, paragraf 3'te belirtilen meşru bir amaç uğruna olmalıdır. Kurula gönderdiği yazılarda Meta, ifade özgürlüğünü baskılayan işlemlerini haklı çıkarmak için rutin bir şekilde bu listedeki amaçları gerekçe göstermiştir. Kurul, Facebook'un Nefret Söylemi Topluluk Standardının başkalarının haklarını koruma noktasında meşru bir amaca hizmet ettiğinin bilincindedir. Bu haklara eşitlik hakkı, ayrımcılığa maruz kalmama hakkı, ifade özgürlüğü hakkı ve bedensel bütünlük hakkı dahildir.

III. Gerekli ve orantılı olma

Bu vakadaki net hata, Meta'nın da kabul ettiği üzere, kaldırma işleminin bariz bir şekilde gereksiz olduğu anlamına gelmektedir. Kurul, muğlaklık barındırmayan böyle bir hatanın, Meta'nın otomatik değerlendirme ve insan değerlendirmesi süreçlerinde daha derin orantılılık sorunlarına işaret ediyor olabileceğinden endişelenmektedir. İfade özgürlüğüne getirilen her türlü kısıtlama koruyucu işlevini yerine getirmeye uygun olmalıdır ve koruyucu işlevini yerine getirebilecek araçlar arasında en az müdahaleci olanı olmalıdır (Genel Yorum 34, paragraf 34). Meta'nın içerik moderasyonu sisteminin gerekli olma ve orantılı olma gerekliliklerini karşılıyor olup olmadığı büyük oranda, hatalı saptama ve kaldırma işlemlerinin sayısını en azda tutarken gerçek nefret söylemlerini ne kadar etkili bir şekilde kaldırdığına bağlıdır.

Yanlış bir biçimde kaldırılan her gönderi ifade özgürlüğünü zedelemektedir. Kurul, hem insanlar hem de makineler için hata yapmanın kaçınılmaz olduğunun farkındadır. Nefret söylemi ve bunlara verilen yanıtlar her zaman bağlama özgü olmayacaktır ve sınırları her zaman net değildir. Ancak bu hataların türleri ve bu hatalardan hangi kişilerin veya toplulukların olumsuz etkilendiği, sürekli olarak değerlendirilmesi ve incelenmesi gereken tasarım tercihlerinin bir sonucudur. Bu da hem bu vakadaki hatanın kök sebeplerinin daha iyi araştırılmasını hem de karşı söylemin ne kadar etkili bir şekilde modere edildiğinin daha geniş çapta değerlendirilmesini gerekli kılmaktadır.

Yerli sanatçıların eleştirel sanat eserlerinin nefret ve baskıcılıkla mücadeledeki önemini göz önünde bulunduran Kurul, Meta'dan bu vakadaki içeriğin ve Facebook ve Instagram'daki benzer içeriklerinin yanlışlıkla kaldırılma olasılıklarına karşı özellikle hassas olmasını beklemektedir. Meta'nın Facebook Nefret Söylemi ilkesini genel olarak uygulama performansını değerlendirmek yeterli değildir. Ortalamaya bakıldığında yüksek performans gösteren bir sistem, yanlış kararların insan haklarına ciddi olumsuz etkilerde bulunabileceği bazı içerik alt kategorilerinde çok kötü performans gösteriyor olabilir. Bu vakada gerçekleşen türde hataların oldukça nadir olması da mümkündür ancak Kurul, hatalı tespit sonucu kaldırılan içeriklerin oranının ve etkisinin, ötekileştirilmiş grupların üyelerini yıllardır çok daha fazla endişelendirdiğine dikkat çekmektedir. Bu vakadaki hatalar, sistemlerinin adil bir şekilde çalışmasını ve gerek geçmişteki, gerekse günümüzdeki baskıları daha da artırmamasını garanti altına almak üzere insan haklarına gerekli özeni gösterdiğini ispat etme sorumluluğunun Meta'da olduğunu göstermektedir (BM Rehber İlkeleri, İlke 17).

Meta, nefret söylemini ele alan sistemlerinin yaptırım doğruluğunu rutin bir şekilde değerlendirmektedir. Bu değerlendirme, Meta'nın nefret söylemini kınayan veya nefret söylemi hakkında farkındalık yaratan içerikleri nefret söyleminden ayırt etme kabiliyetini hususi olarak ölçen doğruluk değerlendirmeleri içermemektedir.

Meta'nın mevcut süreçleri, hata trendlerini saptamak ve bunların kök sebeplerini araştırmak için bir defaya mahsus mekanizmalar da içermektedir ancak bunlar için sistem performansının karşılaştırılacağı büyük içerik örnekleri gereklidir. Kurul Meta'ya, değerlendirme sistemlerinin sanatsal ifade teşkil eden karşı söylemleri ve insan hakları ihlalleri hakkında farkındalık yaratan karşı söylemleri doğru şekilde değerlendirme performansını hususi olarak inceleyip incelemediğini sormuştur. Kurula verdiği yanıtta Meta, sanatsal ifadelerin veya Yerli kimliğe ya da kökene sahip kişilerin ifadelerinin hatalı tespit sonucu kaldırılmasının etkisi üzerine hususi olarak herhangi bir araştırma yürütmediğini dile getirmiştir.

Meta, bu tür değerlendirmeler başlatmanın önündeki engeller hakkında Kurulu bilgilendirmiştir. İlke istisnalarından yararlanabilecek içerik örneklerinin derlenmesini otomatikleştirecek bir sistemin var olmaması da bunlardan biridir. Bunun sebebi, değerlendirme görevlilerinin içerikleri sadece ihlalde bulunan veya bulunmayan içerikler olarak işaretlemesi ve bir ilke istisnası uygulandığı için ihlalde bulunmadığı tespit edilen içerikleri belirtmelerinin istenmemesidir. Bu istisna kapsamına giren karşı söylem örneklerinin manuel olarak derlenmesi gerekmektedir.

Kurulun isteği üzerine yapılan bir Soru - Cevap oturumunda Meta'nın performansı nasıl değerlendirdiği hakkında sağlanan detay düzeyi Kurulu memnun etmiştir ancak Nefret Söylemi ilke istisnalarının uygulanma doğruluğunu saptamak ve hata trendlerinden dersler çıkarmak için daha fazla yatırıma ihtiyaç duyulduğu kesindir. Meta'nın tasarım kararları ve gerek değerlendirme görevlilerinin, gerekse otomatik sistemlerinin performansı hakkında ek bilgiler olmadan Meta'nın şu anki nefret söylemi yaklaşımının orantılı olma seviyesini saptamak hem Kurul hem de Meta için oldukça zor olacaktır.

Bu vakada kullanılan makine öğrenimi araçlarını potansiyel nefret söylemini otomatik olarak tespit etmek üzere kullanmanın gerekli ve orantılı olup olmadığını değerlendirirken, söz konusu araçların doğruluk oranını anlamak kilit öneme sahiptir. Makine öğrenimi sınıflandırıcıları daima hatalı tespit ve hatalı negatif oranları arasında denge kurmayı gerektirir. Bir sınıflandırıcı ne kadar hassas olursa nefret söylemi örneklerini bir o kadar doğru şekilde tespit edebilir ancak nefret söylemi olmayan içerikleri yanlış şekilde işaretleme olasılığı da daha yüksek olur. Farklı şekilde eğitilen sınıflandırıcıların ve farklı modellerin farklı görevlerdeki kullanışlılığı ve etkililiği aynı olmayacaktır. Her bir modelde, farklı türde hatalardan kaçınmanın görece önemi hakkında bir yargıyı yansıtmak üzere farklı eşikler kullanılabilir. Bir sınıflandırıcının nasıl kurulacağı hakkındaki kararlar da hataların meydana gelme olasılığına ve önem derecesine dayalı olmalıdır. Derhal işlem mi yapacağı yoksa insan onayına mı ihtiyaç duyacağı ve hangi tedbirlerin alınacağı buna dahildir.

Meta, bu vakadaki gönderinin büyük bir hedef kitleye ulaşma olasılığı yüksek olduğu için değerlendirilmek üzere otomatik sistemler tarafından işaretlendiğini dile getirmiştir. Bu yaklaşım zararlı materyallerin yayılmasını sınırlandırabilir ancak nefret karşıtı güçlü sanat eserlerinin yanlışlıkla kaldırılması riskini de beraberinde getirmektedir. Kurula verdiği bilgide Meta, uzman değerlendirme görevlilerinin kararlarıyla karşılaştırmak suretiyle, hatalı tespit oranlarının zaman içindeki seyrini düzenli olarak izlediğini ifade etmiştir. Meta, bu vakadaki ilgili makine öğrenimi modellerinin doğruluğunu değerlendirmenin mümkün olduğunu ve sınıflandırıcılarının tahminleri hakkındaki bilgileri en az 90 gün boyunca sakladığını da belirtmiştir. Kurul, sınıflandırıcının performansını ve Meta'nın bu vakada kullandığı eşiklerin uygunluğunu değerlendirme olanağı tanıyacak bilgiler talep etmiştir. Meta, hazırlamak için yeterli zamanı olmadığı için Kurulun istediği bilgileri sağlayamayacağını dile getirmiştir. Ancak Meta, gelecekteki vakalarda bu bilgileri sağlamanın mümkün olup olmayacağını gözden geçirmekte olduğunu ifade etmiştir.

İnsan değerlendirmesi, Meta'nın sınıflandırıcılarının çalışma kapsamına iki önemli tedbir getirebilmektedir. Bunlardan birincisi gönderi kaldırılmadan önce, ikincisi ise itiraz sonrasında uygulanmaktadır. Bu vakadaki hatalar, Meta'nın karşı söylemi değerlendirme konusunda moderatörlere sunduğu rehberliğin yetersiz olabileceğine işaret etmektedir. Bu vakada iki ayrı insan moderatörün yanlış karara varmasına katkıda bulunabilecek birçok farklı sebep olabilir. Kurul, ilke istisnaları kapsamında izin verilen içerikler (ör. nefret söylemini "kınama" ve "farkındalık yaratma" dahil) başta olmak üzere, değerlendirme görevlilerinin bu vakada görülen türdeki hataları önlemek için zaman veya eğitim bakımından yeterli kaynağa sahip olmayabileceğinden endişelenmektedir.

Bu vakada iki değerlendirme görevlisi de Asya Pasifik bölgesindendir. Meta, içeriğin paylaşıldığı bölgede ikamet etmeyen moderatörlerin potansiyel nefret söylemini değerlendirme doğruluğu oranlarının farklı olup olmadığı konusunda Kurula bilgi verememiştir. Kurul, moderatörlerin her gün değerlendirdiği içerik hacmi de göz önünde bulundurulduğunda, nefret söylemini değerlendirmenin karmaşık bir görev olduğunun ve yerel bağlamı ve geçmişi anlamanın zorluklarının bilincindedir. Bu vakadaki içeriği değerlendiren moderatörlerin, Kuzey Amerika'nın Yerli haklarının uğradığı baskılar hakkında daha az deneyime sahip olması anlaşılır bir durumdur. Sunulan rehberlik, içeriğin bütünüyle değerlendirilmesi yönünde açık talimatlar içermeli ve moderatörlere niyet ve anlam belirtilerini saptamak üzere bağlamı doğru şekilde değerlendirme noktasında destek olmalıdır.

İki Düğme Viral Görüntüsü kararında (2021-005-FB-UA) Kurulun Meta'ya tavsiyelerinden biri, kullanıcılara itirazlarında içeriklerinin Facebook Nefret Söylemi Topluluk Standardı istisnalarından birinin kapsamına girdiğini belirtme olanağı vermesi yönünde olmuştur. Şu anda bir kullanıcı Meta'nın insan değerlendirmesinden geçen bir kararına itirazda bulunduğunda, değerlendirme görevlisi kullanıcının önceki bir karara karşı çıktığı konusunda bilgilendirilmemekte ve önceki değerlendirmenin sonucundan haberdar olmamaktadır. Kurula ilettiği görüşte Meta, bu bilginin değerlendirmede taraflılığa yol açacağına inandığını dile getirmiştir ancak Kurul, bu bilginin daha nüanslı kararların alınma olasılığını artırıp artırmayacağıyla ilgilenmektedir. Bu sorunun Meta tarafından deneylerle test edilmesi mümkündür ve bu testlerin sonuçları Meta'nın benimsemeyi seçtiği önlemlerin orantılılığını değerlendirirken faydalı olacaktır.

BM Rehber İlkeleri uyarınca Meta'nın insan haklarına gerekli özeni gösterme sorumluluğu bulunmaktadır (İlke 17). İçerik moderasyonunun sanatsal ifade özgürlüğüne ve Yerli halkların ayrımcılık karşıtı siyasi ifade özgürlüğüne olumsuz etkilerini tespit etmek de buna dahil olmalıdır. Meta bu olumsuz etkileri önlemek, hafifletmek ve ele almak için ne tür çalışmalar yapacağını daha kapsamlı bir şekilde incelemelidir. Meta'nın performansını izleme taahhüdünü yineleyen Kurul, şirketten ötekileştirilmiş grupların maruz kaldığı risklere öncelik vermesini ve sürekli olarak iyileşme kaydettiğine dair kanıtlar sunmasını beklemektedir.

9.Gözetim Kurulu kararı

Gözetim Kurulu, Meta'nın başta vermiş olduğu içeriği kaldırma kararını bozmaktadır.

10. İlke tavsiyesi beyanı

Yaptırım

1. Kullanıcılara, itirazlarının konusu olan içerikler üzerinde şirketin uyguladığı tüm işlemler hakkında zamanında ve doğru bildirimler sağlama. Gözetim Kurulunun değerlendirme süreci sonucunda işlem yapıldığı durumlarda, yaptırım hatalarının söz konusu olduğu bunun gibi vakalar dahil olmak üzere, kullanıcı bu konuda bilgilendirilmelidir. Meta, bu tavsiyeye uyduğunu göstermesi amacıyla, kullanıcıların itirazda bulunduğu içerik kararları Kurulun işlemleri sonucunda değiştirildiği zaman kullanıcılara gönderilen mesajları paylaşmalıdır. Bu işlemler, Kurul sürecinin uygunluk aşamasında düzeltilen tüm vakalarda gerçekleştirilmelidir.

2. Tadil edilmiş ikincil değerlendirme yaklaşımlarının değerlendirme görevlisi doğruluğuna ve verimine etkileri üzerinde çalışma. Kurul özel olarak, içerik moderatörlerine ikinci bir değerlendirme gerçekleştiriyor oldukları ve dolayısıyla ilk karara karşı çıkıldığı bildirildiğinde doğruluk oranlarının bundan nasıl etkilendiğinin değerlendirilmesini istemektedir. İdeal olarak bu deneyde, Kurulun önceki tavsiyelerine paralel olarak, kullanıcılara değerlendirme görevlilerinin içeriklerini değerlendirmesine yardımcı olabilecek ilgili bağlamı sağlama fırsatı sunulmalıdır. Meta, bu tavsiyeye uyduğunu göstermesi amacıyla, bu doğruluk değerlendirmelerinin sonuçlarını Kurulla paylaşmalı ve sonuçların özetini üç aylık Kurul şeffaflık raporunda paylaşmalıdır.

3. Sanatsal ifade özgürlüğünü ve insan hakları ihlallerine dair ifade özgürlüğünü kapsayan Nefret Söylemi ilke istisnalarına (ör. kınama, farkındalık yaratma, kendine atıfta bulunarak kullanma, destekleyici biçimde kullanma) odaklanan doğruluk değerlendirmeleri yürütme. Bu değerlendirmede, bir değerlendirme görevlisinin konumunun, moderatörlerin aynı veya farklı bölgelerden nefret söylemini ve karşı söylemi doğru şekilde değerlendirme kabiliyetini nasıl etkilediği de incelenmelidir. Kurul, bu analiz için uygun ve doğru şekilde etiketlenmiş ilgili içerik örneklerinin geliştirilmesi gerekebileceğinin bilincindedir. Meta bu değerlendirmenin sonuçlarını Kurul ile paylaşmalı, bu sonuçların yaptırım işlemlerine ve ilke geliştirme süreçlerine yapılacak iyileştirmelere nasıl kaynak olacağını açıklamalı, değerlendirme görevlileri üzerinde bu istisnalar üzerine düzenli doğruluk değerlendirmeleri yürütmeyi planlayıp planlamadığını bildirmeli ve bu tavsiyeye uyduğunu göstermesi amacıyla sonuçların özetini üç aylık Kurul şeffaflık raporunda paylaşmalıdır.

*Prosedür notu:

Gözetim Kurulunun kararları beş Üyeden oluşan alt kurullar tarafından hazırlanmaktadır ve Kurulun çoğunluğu tarafından onaylanma şartı aranmaktadır. Kurul kararları, tüm Üyelerin kişisel görüşlerini yansıtmayabilir.

Bu vaka kararında, Kurul adına bağımsız araştırmalar yürütülmüştür. Merkezi Gothenburg Üniversitesi'nde bulunan ve altı kıtadan 50'yi aşkın sosyal bilimciden oluşan ekibiyle faaliyet gösteren bağımsız bir araştırma enstitüsü; jeopolitik, güven, emniyet ve teknolojinin kesişimine odaklanan Duco Advisers danışmanlık firması ve dünyanın dört bir yanından 3200'ü aşkın ülke uzmanı, sosyopolitik ve kültürel bağlam konusundaki uzmanlıklarını aktarmıştır.

मामले के निर्णयों और नीति सलाहकार राय पर लौटें