El Şifa Hastanesi

Bu kararın yayınlanmasını izleyen haftalarda, İbranice bir çeviriyi buraya yükleyeceğiz ve Arapça çeviriye bu ekranın üst kısmındaki menüden erişilen "dil" sekmesinden erişebileceksiniz.

לקריאת החלטה זו בעברית יש ללחוץ כאן.

1. Özet

Bu vaka, İsrail'in kara operasyonu sırasında Gazze'deki El Şifa hastanesi veya yakınları vurulduktan sonra yaşananları gösteren, duygusal açıdan etkileyici bir videoyla ve saldırıyı kınayan açıklamayla ilgilidir. Meta'nın otomatik sistemleri, Şiddet İçeren ve Sansürlenmemiş İçerik Topluluk Standardını ihlal ettiği gerekçesiyle gönderiyi kaldırmıştır. Meta'ya bulunduğu itirazdan sonuç alamayan kullanıcı, Gözetim Kuruluna itirazda bulunmuştur. Kurul bu vakayı değerlendirmek üzere belirledikten sonra Meta kararını geri çevirmiş ve içeriği uyarı ekranıyla birlikte geri yüklemiştir. Kurul, başta verilen içeriği kaldırma kararının, Meta'nın içerik ilkeleriyle veya şirketin bir işletme olarak insan hakları sorumluluklarıyla örtüşmediği görüşünü savunmaya devam etmektedir. Kurul, içeriği uyarı ekranıyla geri yükleme kararını onaylamakta ancak sıralamada aşağı taşıma (ve dolayısıyla içeriğin tavsiye edilmesini engelleme) kararını onaylamamaktadır. Bu vaka, İsrail'den Kaçırılan Rehineler (2023-050-FB-UA) vakasıyla birlikte Kurulun hızlandırılmış değerlendirme prosedürleri altında karara bağlanan ilk vakalardır.

2. Bağlam ve Meta'nın Yanıtı

7 Ekim 2023 tarihinde, Meta'nın Tehlikeli Örgütler ve Kişiler Topluluk Standardı kapsamında 1. Kategori örgüt olarak belirlenen Hamas, Gazze'den İsrail'e yapılan ve tahminen 1200 kişinin ölümü ve yaklaşık 240 kişinin rehin alınmasıyla sonuçlanan, eşi benzeri görülmemiş terörist saldırılara öncülük etmiştir (İsrail Dışişleri Bakanlığı). İsrail bu saldırılara yanıt olarak Gazze'de derhal bir askeri harekat başlatmıştır. Her iki tarafın da uluslararası hukuku ihlal etmekle suçlandığı çatışmada, Aralık 2023 itibarıyla İsrail'in Gazze'deki askeri harekatı 18.000'den fazla kişinin ölümüne yol açmıştır (Gazze'deki Sağlık Bakanlığı verilerine dayanarak BM İnsani Yardım Koordinasyon Ofisi). Hem terörist saldırılar hem de İsrail'in bunu izleyen askeri harekatları, dünya genelinde yoğun ilgi, tartışma, irdeleme ve anlaşmazlık konusu olmuştur ve bunların çoğu, Instagram ve Facebook dahil olmak üzere sosyal medya platformlarında yer almaktadır.

Meta, 7 Ekim olaylarını hiç zaman kaybetmeden Tehlikeli Örgütler ve Kişiler ilkesi kapsamında terör saldırısı olarak belirlemiştir. Topluluk Standartları uyarınca bu durum, Meta'nın 7 Ekim saldırılarını veya faillerini "öven, önemli ölçüde destekleyen veya temsil eden" tüm içerikleri platformlarından kaldıracağı anlamına gelmektedir.

Terör saldırılarının ve askeri yanıtın ardından platformlarında şiddet içeren ve sansürlenmemiş içerik paylaşımında olağanüstü bir artışla karşılaşan Meta, buna yanıt olarak içerikleri tespit etmek ve kaldırmak üzere Sansürlenmemiş ve Şiddet İçeren İçerik otomatik sınıflandırma sisteminin (sınıflandırıcı) güven eşiklerini azaltmak da dahil olmak üzere birkaç geçici önlem almıştır. Meta, bu önlemlerin kaynağı İsrail ve Gazze olan, tüm dillerdeki içeriklere uygulandığını Kurula bildirmiştir. Bu sınıflandırıcılarda yapılan değişiklikler, Meta'nın ilkelerini ihlal ettiğine yönelik güven skoru daha düşük olan içeriklere uygulanan otomatik kaldırma işlemlerinin sayısını artırmıştır. Diğer bir deyişle; Meta, ilkelerini ihlal ediyor olabilecek içerikleri kaldırmak için otomatik araçlarını daha agresif bir şekilde kullanmıştır. Bunu emniyet değerine öncelik vermek için yapan Meta, 7 Ekim öncesindeki daha yüksek güven eşiğiyle gerçekleşecek olandan daha fazla içerik kaldırma işlemi gerçekleştirmiştir. Bu karar, Meta'nın ihlalde bulunuyor olmasına rağmen saptanamayan veya insan incelemesi kapasitesinin sınırlı olması nedeniyle değerlendirmeye alınamayan içerikleri kaldıramama olasılığını azaltmış fakat bir yandan da Meta'nın çatışmayla ilgili ihlalde bulunmayan içerikleri yanlışlıkla kaldırma olasılığını artırmıştır.

Üst birim ekipleri videoların Şiddet İçeren ve Sansürlenmemiş İçerik, Şiddet ve Suça Teşvik ve Tehlikeli Örgütler ve Kişiler ilkelerini ihlal ettiği yönünde değerlendirme yaptığında; Meta, eşleşen videoları otomatik olarak kaldırması için Medya Eşleştirme Hizmeti bankalarını kullanmıştır. Bu yaklaşım, insanların Meta'nın içerik ilkelerini birden fazla kez ihlal ettikten sonra hesaplarının kısıtlanması veya askıya alınması (bazen "Facebook hapishanesi" olarak anılır) dahil olmak üzere, gereğinden fazla yaptırım uygulanması endişelerini gündeme getirmiştir. Meta, bu endişeyi azaltmak amacıyla, Medya Eşleştirme Hizmeti bankalarına dayalı otomatik içerik ve gönderi kaldırma işlemlerine eşlik eden "ihtar" cezalarını uygulamamaya karar vermiştir (ve Meta bunu basın odası gönderisinde duyurmuştur).

Meta'nın sınıflandırıcı güven eşiğindeki ve ihtar ilkesindeki değişiklikler, İsrail-Gazze çatışmasıyla sınırlı olup geçici olması amaçlanmaktadır. 11 Aralık 2023 itibarıyla, Meta söz konusu güven eşiklerini 7 Ekim öncesi seviyelere geri çekmemiştir.

3. Vaka Açıklaması

Bu vakadaki içerik, Kasım ayının ikinci haftasında Instagram'da paylaşılan ve Gazze Şeridi'nin kuzeyinde İsrail'in gerçekleştirdiği kara operasyonu sırasında Gazze şehrindeki El Şifa Hastanesi veya yakınları vurulduktan sonra yaşananları gösterdiği anlaşılan bir videoyla ilgilidir. Bu vakadaki Instagram gönderisinde, çocuklar dahil birçok kişi yerde cansız yatmaktadır ya da yaralı ve ağlamaktadır. Başından ağır yaralanmış gibi görünen bir çocuğun hayatını kaybettiği anlaşılmaktadır. Videonun altındaki Arapça ve İngilizce açıklamada, İsrail ordusuna atıf yapılarak hastanenin "usurping occupation" (gasp eden işgal) tarafından hedef alındığı belirtilmekte ve insan hakları ve haber kuruluşları etiketlenmektedir.

Meta'nın Facebook ve Instagram'daki içerikler için geçerli olan Şiddet İçeren ve Sansürlenmemiş İçerik Topluluk Standardı, "görünür durumdaki iç organları tasvir etmesi durumunda insanların veya ölü bedenlerin tıbbi olmayan ortamlardaki videolarını" yasaklamaktadır. İçerik paylaşıldığı sırada, içeriğin "rahatsız edici" uyarı ekranı arkasına yerleştirilmesi ve sadece 18 yaş ve üstü kişilere görünür olması şartıyla, ilkenin "bir kişinin veya kişilerin kaza veya cinayet sonucu korkunç şekilde can verişini gösteren" görsellere izin verdiği bilinmektedir. Bu kural, bu vakadaki içerik geri yüklendikten sonra 29 Kasım tarihinde, "ölüm anı veya sonrası" ve "yaşamı tehdit eden bir olayı yaşayan bir kişi" için geçerli olduğunu açıklığa kavuşturacak şekilde güncellenmiştir.

Meta'nın otomatik sistemleri, Şiddet İçeren ve Sansürlenmemiş İçerik Topluluk Standardını ihlal ettiği gerekçesiyle bu vakadaki içeriği kaldırmıştır. Kullanıcının bu karara yaptığı itiraz, Meta'nın sınıflandırıcıları içeriğin ihlalde bulunduğuna ilişkin "yüksek güven düzeyi" belirttiği için otomatik olarak reddedilmiştir. Sonrasında kullanıcı, Meta'nın kararı için Gözetim Kuruluna itirazda bulunmuştur.

Meta, Kurulun bu vakayı seçmesinin ardından, videonun görünür durumdaki iç organları gösterip göstermediğini kesin olarak belirleyemediğini söylemiştir. Bu nedenle Meta, içeriği kaldırmamış olması gerektiği ancak içeriğin ihlalde bulunma "sınırında" olduğu sonucuna varmıştır. Meta ayrıca, iç organların görünür olduğu bir senaryoda bile, farkındalık yaratma amacıyla paylaşılmış olması nedeniyle içeriğin "rahatsız edici" uyarı ekranıyla yayında bırakılması gerektiğini açıklamıştır. Şirket, Sansürlenmemiş ve Şiddet İçeren İçerik ilke gerekçesine paralel olarak, "insan hakları istismarları, silahlı çatışmalar veya terör eylemleri gibi önemli meseleler" hakkında farkındalık yaratmak üzere paylaşıldıklarında, bu tür içeriklere izin verildiğini bir kez daha dile getirmiştir.

Bu doğrultuda Meta, başta verdiği kararı geri çevirmiş ve içeriği uyarı ekranıyla birlikte geri yüklemiştir. Uyarı ekranı, kullanıcılara içeriğin rahatsız edici olabileceğini söylemektedir. Yetişkin kullanıcılar gönderiyi görmek için tıklayabilmektedir ancak Meta bu gönderileri 18 yaşından küçük Instagram kullanıcılarının akışlarından ve ayrıca yetişkin Instagram kullanıcılarına tavsiye edilen gönderiler arasından kaldırmaktadır. Meta ayrıca, bununla bire bir aynı olan diğer videoların otomatik olarak uyarı ekranıyla birlikte yayında kalması ve sadece 18 yaşın üzerindeki kişiler tarafından görülebilmesi amacıyla, bir Medya Eşleştirme Hizmeti bankasına aynı videonun ayrı bir kopyasını eklemiştir.

4. Hızlandırılmış Değerlendirme Gerekçesi

Gözetim Kurulunun İç Yönetmelikleri, "içeriğin gerçek dünyada kısa sürede ciddi sonuçlara yol açabileceği durumlar dahil olmak üzere bazı olağanüstü durumlarda" hızlandırılmış değerlendirmeyi öngörür ve kararlar Meta açısından bağlayıcıdır (Tüzük, Madde 3. kısım 7.2; Tüzük, Madde 2, kısım 2.1.2). Hızlandırılmış süreçte, normal zaman çizelgelerinde değerlendirilen vakalarda üstlenilecek kapsamlı araştırmalar, harici danışma görüşmeleri ve herkese açık yorumlar mümkün olmamaktadır. Vaka kararı, Kurulun görüşme sırasında sahip olduğu bilgilere göre ve Kurulun tam oyu olmadan, beş üyeden oluşan bir alt kurul tarafından verilmektedir.

Gözetim Kurulu bu vakayı ve İsrail'den Kaçırılan Rehineler (2023-050-FB-UA) vakasını, çatışma durumlarında ifade özgürlüğünün önemi ve İsrail-Hamas çatışması bağlamında ifade özgürlüğünün tehdit altında olması nedeniyle seçmiştir. Her iki vaka, 7 Ekim saldırılarından ve İsrail'in devamındaki askeri harekatından beri bölge kullanıcılarının Kurula en çok gönderdiği itirazları temsil etmektedir. Her iki vaka, Gözetim Kurulunun kriz ve çatışma durumları önceliği kapsamındadır. Meta'nın her iki vakadaki kararları hızlandırılmış değerlendirmeyi haklı kılacak şekilde "gerçek dünyada kısa sürede ciddi sonuçlar" standardını karşılamaktadır ve bu doğrultuda Kurul ile Meta, Kurulun hızlandırılmış prosedürler kapsamında hareket etmesi konusunda uzlaşmıştır.

Kurula sunduğu bildirimlerde Meta, "bu içeriğin nasıl ele alınacağına dair karar son derece zor ve hem birbiriyle çakışan değerlerin hem de birçok avantaj ve dezavantajın göz önünde bulundurulmasını gerektiriyor" demiş ve Kurulun bu mesele hakkında görüşlerini almak istemiştir.

5. Kullanıcı Bildirimleri

Gönderinin sahibi, Kurula yaptığı itirazda herhangi bir şiddeti teşvik etmediğini, çocuklar dahil olmak üzere Filistinlilerin çektiği acıları gösteren bir içerik paylaştığını dile getirmiştir. Kullanıcı, kaldırma işleminin Filistinlilerin çektiği acılara karşı önyargılı olduğunu eklemiştir. Kullanıcı, itirazının Kurul tarafından değerlendirildiği konusunda bilgilendirilmiştir.

6. Karar

Kurul üyeleri İsrail'in askeri müdahalesi ve gerekçesi hakkında fikir ayrılığına düşmüş olmakla birlikte, Meta'nın bu olaylardan etkilenen herkesin ifade özgürlüğü hakkına, diğer insan haklarına ve bu krizde iletişim kurma olanaklarına saygı duymasının önemi konusunda oybirliğiyle hemfikirdir.

Kurul, Meta'nın içeriği Instagram'dan kaldırma yönünde başta vermiş olduğu kararı bozmaktadır. Kurul, içeriğin "rahatsız edici" uyarı ekranıyla birlikte geri yüklenmesinin, Meta'nın içerik ilkeleriyle, değerleriyle ve insan hakları sorumluluklarıyla örtüşeceği görüşündedir. Ancak Kurul aynı zamanda, Meta'nın geri yüklenen içeriği sıralamada aşağı taşıyarak tavsiye edilmesini engellemesinin, şirketin ifade özgürlüğüne saygı duyma sorumluluklarıyla örtüşmediği sonucuna varmıştır.

6.1 Meta'nın İçerik İlkeleriyle Uyumluluk

Kurul, bu vakadaki videonun "görünür durumdaki iç organları" gösterip göstermediğini belirlemenin zor olduğu konusunda Meta ile hemfikirdir. Bilgiye erişimin korunmasında ve çatışmanın etkileri hakkında farkındalık yaratma amaçlı yollar sağlanmasında kamu yararı değerinin fazlasıyla yüksek olduğu bu vaka bağlamında, Şiddet İçeren ve Sansürlenmemiş İçerik ilkesini ihlal etmenin "sınırında" bulunan içerikler kaldırılmamalıdır. İçerik bir kişinin şiddet içerikli ölümünü gösteren ve kafasının yaralanmasını tasvir eden görüntüler içerdiğinden, Meta'nın ilkeleri doğrultusunda bir uyarı ekranı uygulaması ve bu içeriği sadece 18 yaşın üstündeki kişilerin erişimine açması gerekirdi.

Kurul, Meta'nın devamında yaptığı şu tespite katılmaktadır: Bu videonun görünür iç organları barındırdığı bir senaryoda bile gönderinin şiddeti kınaması veya bu konuda farkındalık yaratması, içeriğin 18 yaşından küçük kullanıcıların erişimine açılmadan, "rahatsız edici" uyarı ekranıyla birlikte yayında bırakılması gerektiği anlamına gelmektedir. Topluluk Standardının ilgili ilke maddesi ("görünür durumdaki iç organları tasvir etmesi durumunda insanların veya ölü bedenlerin tıbbi olmayan ortamlardaki videoları") uyarı ekranlarını öngörmemektedir. Kurul, Sudan'daki Sansürlenmemiş Video vakasında, Meta'nın değerlendirme görevlilerine "paylaşılmaması gerekenler" ilkelerini harfiyen yerine getirmesi yönünde talimat verdiğini açıklamıştır. Gerekçede "insan hakları istismarları, silahlı çatışmalar veya terör eylemleri gibi önemli meseleler hakkındaki tartışmalar bağlamında, insanların bu durumları kınamasına veya bu durumlar hakkında farkındalık yaratmasına yardımcı olmak için sansürlenmemiş şiddet içeriklerine belirli sınırlamalar dahilinde izin veririz" ifadesi bulunmaktadır. Ancak Topluluk Standardı kuralı, "görünür durumdaki iç organları" tıbbi olmayan bağlamlarda tasvir eden tüm videoları yasaklamakta ve değerlendirme görevlilerine ilke gerekçesi istisnasının uygulandığı durumlarda uyarı ekranı ekleme seçeneği vermemektedir. Göründüğü kadarıyla Meta'nın otomatik sistemleri, şiddeti kınayan veya bu konuda farkındalık yaratan bir bağlam söz konusu olduğunda, sansürlenmemiş şiddet içeriklerini tasvir eden videolara uyarı ekranları uygulayacak şekilde yapılandırılmamıştır. Bu bağlamın var olduğu durumlarda, geçerli sınıflandırıcıların içeriği ek değerlendirme için değerlendirme görevlilerine gönderip gönderemeyeceği de net değildir.

6.2 Meta'nın İnsan Hakları Sorumluluklarıyla Uyumluluk

Meta'nın şiddet içeren ve sansürlenmemiş içerik moderasyonu, şirketin insan hakları sorumluluklarına paralel olarak, bilgileri arama, alma ve verme hakkını da kapsayan ifade özgürlüğü hakkına saygı duymalıdır (Madde 19, paragraf 2, Kişisel ve Siyasal Haklar Uluslararası Sözleşmesi (ICCPR)). Kurulun Ermeni Savaş Esirleri Videosu vakasında belirttiği üzere, Kişisel ve Siyasal Haklar Uluslararası Sözleşmesi (ICCPR) Madde 19 kapsamında ifade özgürlüğü için uygulanan korumalar "silahlı çatışmalar sırasında geçerliliğini sürdürmekte olup; birbirini pekiştiren ve tamamlayan uluslararası insani hukuk kurallarıyla birlikte Meta'nın insan hakları sorumlulukları açısından bilgi kaynağı olmaya devam etmelidir." BM İş Dünyası ve İnsan Haklarına Dair Rehber İlkeleri, çatışma ortamlarında faaliyet gösteren işletmelere daha fazla sorumluluk yüklemektedir ("Eylem ihtiyacının arttığı günümüzde işletmeler, insan hakları ve çatışmalardan etkilenen bölgeler," A/75/212).

Kurul, önceki vakalarda, Facebook ve Instagram gibi sosyal medya platformlarının, haberler dahil olmak üzere şiddet olayları hakkında gerçek zamanlı bilgilerin iletilmesi açısından önemli bir araç olduğunu vurgulamıştır (ör. bkz. Haberlerde Taliban'dan Bahsedilmesi). Bunlar, gazetecilerin erişiminin sınırlı olduğu durumlar başta olmak üzere, silahlı çatışma bağlamlarında bilhassa önemli bir rol oynamaktadır. Dahası, şiddet içerikli saldırıları ve insan hakları istismarlarını tasvir eden içerikler kamuyu büyük ölçüde ilgilendirmektedir (bkz. Sudan'daki Sansürlenmemiş Video).

Bir devlet tarafından ifade özgürlüğüne getirilecek her türlü kısıtlama, uluslararası insan hakları hukuku uyarınca yasalara uygun olma, meşru amaç ve gerekli ve orantılı olma koşullarını karşılamalıdır (Madde 19, paragraf 3, ICCPR). Bu gereklilikler sıklıkla "üç bölümden oluşan test" olarak anılmaktadır. Kurul, hem değerlendirilmekte olan içerik kararının kendisiyle ilgili olarak hem de bunun Meta'nın genel içerik yönetişimi yaklaşımı hakkında gösterdiklerini ele alarak, Meta'nın gönüllü olarak verdiği insan hakları taahhütlerini yorumlamak üzere bu çerçeveyi kullanmaktadır. Kurul bunu yaparken, bu hakların bir devlete uygulanması ile özel bir sosyal medya şirketine uygulanması arasındaki farklar konusunda hassasiyet göstermeye çalışmaktadır. Yine de ifade özgürlüğü hakkında BM Özel Raportörü'nün dile getirdiği gibi, şirketler devletlerle aynı yükümlülükleri taşımasa da "etkileri gereği insanların ifade özgürlüğünü koruma noktasında aynı soruları değerlendirmeleri gerekir" (rapor A/74/486, paragraf 41).

Yasalara uygun olma prensibi uyarınca; ifade özgürlüğüne yönelik her türlü kısıtlama, nelere izin verilip nelere verilmediğine dair rehberlik sağlamak için yeterince erişilebilir ve net olmalıdır. Kurul, Şiddet İçeren ve Sansürlenmemiş İçerik Topluluk Standardı kurallarının, ilkenin amaçlarını belirten ilke gerekçesiyle tamamen örtüşmediği yönündeki endişesini daha önce de dile getirmiştir (bkz. Sudan'daki Sansürlenmemiş Video ve Nijerya'da Kiliseye Yapılan Saldırı Sonrası Çekilen Video). Kurul, Sudan'daki Sansürlenmemiş Video vakasının 1 ve 2 numaralı tavsiyelerinde Meta'ya verdiği "Şiddet İçeren ve Sansürlenmemiş İçerik Topluluk Standardını, insan hakları istismarları hakkında farkındalık yaratmak veya insan hakları istismarlarını belgelemek üzere paylaşıldığında insanların veya ölü bedenlerin videolarına izin verecek şekilde tadil etme" tavsiyelerinin önemini bir kez daha dile getirmektedir (ilgili vakada bedenin görünür şekilde parçalara ayrılması söz konusudur). Meta bu tavsiyelere yanıt olarak bir ilke geliştirme süreci yürütmüştür ve kaydettiği ilerlemeyi bir sonraki üç aylık güncellemesinde Kurula bildirmeyi amaçlamaktadır. Kurulun görüşüne göre bu tavsiye iç organları görünür şekilde gösteren videolara yönelik kurallar için geçerli olmalı; farkındalık yaratma (gerçeklere dayalı habercilik dahil) ve kınama istisnasının uygulandığı durumlarda bir yaptırım önlemi olarak uyarı ekranlarını özellikle öngörmelidir.

Kişisel ve Siyasal Haklar Uluslararası Sözleşmesi (ICCPR) Madde 19, paragraf 3 uyarınca, ifade özgürlüğü tanımlanmış ve sınırlı bir sebep listesiyle kısıtlanabilir. Kurul, Şiddet İçeren ve Sansürlenmemiş İçerik ilkesinin, tasvir edilen şahsın gizliliği dahil olmak üzere başkalarının haklarını korumayı meşru bir şekilde amaçladığını daha önce de tespit etmiştir (bkz. Sudan'daki Sansürlenmemiş Video ve Nijerya'da Kiliseye Yapılan Saldırı Sonrası Çekilen Video). Mevcut vaka, 18 yaşından küçüklerin içeriğe erişimini kısıtlamanın, reşit olmayanların sağlık hakkını koruma yönündeki meşru amaca da hizmet ettiğini göstermektedir (Çocuk Hakları Sözleşmesi, Madde 24).

Gerekli ve orantılı olma prensibi uyarınca, ifade özgürlüğüne getirilen her türlü kısıtlama "koruyucu işlevini yerine getirmeye uygun olmalıdır; koruyucu işlevini yerine getirebilecek araçlar arasında en az müdahaleci olanı olmalıdır ve korunanların çıkarı açısından orantılı olmalıdır" (Genel Yorum No. 34, paragraf 34).

Kurulun daha önce şiddet içeren ve sansürlenmemiş içeriklerle ilgili olarak tespit ettiği üzere, uyarı ekranı "içeriği görmek isteyenlere lüzumsuz yere engel olmamakta, diğerlerine ise içeriğin mahiyetini bildirmekte ve görme ya da görmeme kararını onlara bırakmaktadır" (bkz. Sudan'daki Sansürlenmemiş Video). Uyarı ekranları, kullanıcıların rahatsız edici olabilecek içerikleri istemeden görmesini önlemektedir. Kurbanların hakları, Meta'nın bir kişinin aile üyesinin kaldırmasını talep ettiği şiddet içerikli ölüm görüntülerini (veya hemen sonrasının görüntülerini) gösteren video ve fotoğrafları kaldırma ilkesiyle bir kat daha korunmaktadır. Bu vakadaki içerik, Rusça Şiir vakasında yerde yatan bir bedenin uzak mesafeden çekilmiş durağan bir görüntüsünü gösteren, kurbanın yüzünün görülemediği ve herhangi bir açık görsel şiddet göstergesinin yer almadığı içerikten ayırt edilebilir. O vakada uyarı ekranının uygulanması, Meta'nın değerlendirme görevlilerine verdiği rehberlikle örtüşmemekteydi ve ifade özgürlüğüne getirilen gerekli veya orantılı bir kısıtlama değildi. Bu vakadaki içerik, ölü ve yaralı insanları yakın mesafeden çok net görsel şiddet göstergeleriyle birlikte göstermesi nedeniyle, Nijerya'da Kiliseye Yapılan Saldırı Sonrası Çekilen Video kararındaki içeriğe daha çok benzemektedir.

Bu vakada yaralı ve cansız çocukların tasvir edilmesi, videoyu bilhassa üzüntü verici hale getirmektedir. Böyle koşullar altında, kullanıcılara rahatsız edici içerikleri görüp görmeyeceklerini seçme imkanı sağlamak gerekli ve orantılı bir önlemdir (ayrıca bkz. Ermeni Savaş Esirleri Videosu).

Kurul, potansiyel insan hakları istismarları ve savaş, çatışma veya terör yasalarının ihlalleri hakkında farkındalık yaratan içeriklerin kamuyu son derece fazla ilgilendirdiği hesaba katıldığında, bu tür içeriklerin yetişkinlere tavsiye edilmesini engellemenin ifade özgürlüğüne getirilen gerekli veya orantılı bir kısıtlama olmadığı görüşündedir. Uyarı ekranları ve tavsiyelerden kaldırma önlemleri ayrı işlevler görmektedir ve kriz durumları başta olmak üzere belirli durumlarda birbirinden ayrılmalıdır. Instagram'daki tavsiyeler, kullanıcıların tahmini ilgi alanlarına dayalı olarak kullanıcılara içerikler öneren otomatik sistemler tarafından oluşturulmaktadır. İçeriğin tavsiye sistemlerinden kaldırılması, bu içeriğin normalde elde edeceği erişimin azaltılması anlamına gelmektedir. Kurul, kamuyu ilgilendiren meselelerde (şiddetli bir çatışmanın gidişatı gibi) farkındalık yaratmak, kınamak veya haber yapmak üzere paylaşılan ve zaten yetişkin kullanıcılarla sınırlı olan içerikler için geçerli olduğu kadarıyla, bu uygulamanın ifade özgürlüğüne orantısız şekilde müdahale ettiği görüşündedir.

Kurulun da bilincinde olduğu üzere, bir krize derhal verilecek yanıtlar istisnai geçici önlemleri gerekli kılabilir ve bazı bağlamlarda emniyet endişelerine öncelik vermek ve ifade özgürlüğüne geçici ve orantılı olmak kaydıyla daha fazla kısıtlama getirmek meşru görülebilir. Bunlardan bazıları, örneğin Christchurch Çağrısı kapsamındaki "terör ve şiddet içerikli aşırı uç görüşlü içeriklerle" mücadele taahhütlerinde ana hatlarıyla verilmiştir. Ancak Kurul, Christchurch Çağrısı'nın bu tür içeriklere insan haklarıyla ve temel özgürlüklerle tutarlı bir şekilde yanıt verme ihtiyacını vurguladığına dikkat çekmektedir. Kurul, emniyet endişelerinin; potansiyel savaş suçları, insanlık suçları veya ağır insan hakları ihlalleri hakkında farkındalık yaratma veya bunları kınama amacı taşıyan sansürlenmemiş içerikleri kaldırma tercihini haklı çıkarmadığına inanmaktadır. Bu tür kısıtlamalar, söz konusu çatışmaların yaşandığı yerlerdeki kişilerin emniyeti için gerekli olan bilgileri bile engelleyebilmektedir.

İhtar vermemek gibi önlemler, çatışma durumlarında içeriklerin kaldırılmasına yönelik güven eşiklerinin düşürülmesi gibi acil durum önlemleri nedeniyle yapılan yaptırım hatalarının neden olduğu orantısız olumsuz etkileri azaltmaya yardımcı olmaktadır. Ancak bunlar, kullanıcıların potansiyel insan hakları istismarları ve insani hukuk ihlalleri hakkında farkındalık yaratan içerikleri ve çatışma durumlarında diğer kritik bilgileri paylaşma kabiliyetini koruma noktasında yeterli değildir.

Kurul, krizler sırasında ve çatışma bölgelerinde prensiplere dayalı ve şeffaf bir içerik moderasyonu çerçevesine duyulan ihtiyacı defalarca vurgulamıştır (bkz Haiti Polis Merkezi Videosu ve Tigray İletişim İşleri Dairesi). Büyük sosyal medya şirketleri, tam da çok hızlı değişikliklerin yaşanabildiği çatışma zamanlarında, ifade özgürlüğünün lüzumsuz yere kısıtlanmaması için gerekli kaynakları tahsis etmek zorundadır. Böyle zamanlarda gazeteciler genellikle fiziksel ve diğer saldırılara maruz kalmakta; bu nedenle sıradan vatandaşların sosyal medyada habercilik rolünü üstlenmesi büyük değer kazanmaktadır.

Kurul, savaş ve siyasi çalkantı bağlamlarında, istismarlar hakkında farkındalık yaratmak veya istismarları belgelemek üzere kullanıcılar tarafından çekilen ve platformda paylaşılan daha fazla sansürlenmemiş ve şiddet barındıran içerik olacağını da daha önce gözlemlemiştir (bkz. Sudan'daki Sansürlenmemiş Video). Gittikçe kötüleşen insani krizin ortasında büyük bölümü çocuklardan oluşan çok sayıda sivilin öldürüldüğü veya yaralandığı İsrail-Gazze çatışması gibi bağlamlarda, bu tür istisnalar bilhassa önem taşımaktadır. Meta'nın Şiddet İçeren ve Sansürlenmemiş İçerik ilkesiyle ilgili devam eden ilke geliştirme sürecinin bilincinde olmakla birlikte Kurul, Meta'nın bu tür içeriklere uyarı ekranlarıyla birlikte izin vermek için geçici önlemleri hızla uygulamaya ve tavsiyelerden engellememeye hazır olmasını beklemektedir.

Kurul, bu içeriğin paylaşıldığı dönemde Gazze'deki vaziyetin, Meta'yı 7 Ekim saldırılarıyla aynı seviyedeki zorluklarla karşı karşıya bırakmadığına dikkat çekmektedir. Gazze'de, çatışmaların yaşandığı yerlerdeki kişilerden bilgi almakta zorluklar yaşanmaktadır, gazetecilerin bölgeye erişimi sınırlıdır ve internet bağlantısında kesintiler yaşanmaktadır. Dahası, 7 Ekim saldırılarının hemen sonrasının aksine, bu vakada incelenen Gazze'deki vaziyette, teröristler zulüm eylemlerini yayınlamak için sosyal medyayı kullanmamıştır. Buna karşın Meta, silahlı çatışma bağlamında, insanların sivillere yönelik zararlar hakkında farkındalık yaratan bilgiler sağlayan ve uluslararası insani hukuk ve uluslararası insan hakları hukuku ihlallerinin olup olmadığının belirlenmesiyle alakalı olabilecek içerikleri paylaşmasını daha da zorlaştırmayacak eylemlerde bulunmalıdır. Bu tür içerikleri değerlendiren tüm değerlendirme görevlileri için başlangıç noktası, içeriğin çatışmaların yaşandığı yerlerdeki olay hakkında farkındalık yaratmak veya bunları kınamak üzere paylaşılıp paylaşılmadığı olmalıdır. Meta'nın otomatik sistemleri de geçerli istisnalardan faydalanması gereken içeriklerin yanlışlıkla kaldırılmasını önleyecek şekilde tasarlanmalıdır.

Bu vaka, kriz yanıtı bağlamında otomatik moderasyona yeterli insan gözetimi uygulamamanın, kamuyu ilgilendirebilecek konuşmaların yanlışlıkla kaldırılmasına yol açabileceğini de göstermektedir. Hem içeriği kaldırma yönünde başta verilen karar hem de kullanıcının itirazının reddedilmesi, bir sınıflandırıcı skoruna dayanarak, herhangi bir insan incelemesi yapılmadan otomatik olarak alınmıştır. 7 Ekim saldırılarının ardından Meta'nın krize yanıt olarak Şiddet İçeren ve Sansürlenmemiş İçerik ilkesi kapsamında kaldırma eşiğini düşürmesi bunu daha da kötüleştirmiş olabilir. Bu durumda, sınıflandırıcı ihlal olasılığına normalde kaldırma kararı için gerekenden daha düşük bir puan verse bile Meta bu içeriği kaldırmaktadır.

Kurul, Meta'nın otomatik sistemlerini şirketin insan hakları taahhütleriyle uyumlu bir şekilde kullanabilmesi için, Meta'ya Kolombiyalı Polis Karikatürü vakasındaki 1 numaralı tavsiyesini hatırlatmaktadır. Söz konusu vakada Kurul, yüksek itiraz oranlarına ve yüksek başarılı itiraz oranlarına sahip içeriklerin, Medya Eşleştirme Hizmeti bankalarından çıkarılma olasılığı için yeniden değerlendirilmesini sağlaması yönünde Meta'ya çağrıda bulunmuştur. Meta, bu tavsiyeye yanıt olarak, tüm Medya Eşleştirme Hizmeti bankalarında yönetişim iyileştirmeleri taahhüdünde bulunan özel bir çalışma grubu oluşturmuştur (Meta'nın bu konudaki en son güncellemelerini burada bulabilirsiniz). Kurul, bu grubun Medya Eşleştirme Hizmetlerinin silahlı çatışmalar bağlamında kullanımına özellikle dikkat etmesinin önemli olduğuna dikkat çekmektedir. Kurul, Meme Kanseri Semptomları ve Çıplaklık vakasında (tavsiye no. 3 ve 6), içerikleri üzerinde yaptırım işlemi uygulamak için otomasyonun kullanıldığı durumlarda kullanıcıları bilgilendirmesi ve her bir Topluluk Standardı kapsamında alınan otomatik kaldırma kararlarının sayısı ve sonrasında gerçekleştirilen insan incelemesi sonucunda bu kararlardan geri çevrilenlerin oranı hakkında verileri açıklaması yönünde Meta'ya tavsiyede bulunmuştur. Bu özellikle de ihlalde bulunuyor olabilecek içerikler için güven eşiklerinin önemli ölçüde düşürülmüş olduğu durumlarda önemlidir. Kurul, Meta'yı 3 numaralı tavsiyenin uygulanması konusunda daha fazla ilerleme kaydetmeye ve 6 numaralı tavsiyenin uygulandığına ilişkin kanıtları Kurulla paylaşmaya sevk etmektedir.

İfade özgürlüğüne getirilen kısıtlamalar; milliyet, etnik köken, din ya da inanç, siyasi görüş veya diğer görüşler doğrultusunda olanlar dahil olmak kaydıyla herhangi bir ayrımcılık gütmemelidir (Madde 2, paragraf 1 ve Madde 26, ICCPR). Topluluk Standartlarının ayrımcılık güdülerek uygulanması, ifade özgürlüğünün temelini sarsmaktadır. Kurul, Paylaşılan Al Jazeera Gönderisi vakasında, Meta'nın İsrail'deki ve İşgal Altındaki Filistin Topraklarındaki içerik moderasyonu hatalarının birbirine denk olmayabileceği yönünde ciddi endişelerini dile getirmiş ve bağımsız araştırma yürütülmesi çağrısında bulunmuştur (Paylaşılan Al Jazeera Gönderisi kararı, tavsiye no. 3). Meta'nın bu tavsiyeye yanıt olarak görevlendirdiği Business for Social Responsibility (BSR) kurumunun İnsan Hakları Etki Değerlendirmesi, "daha geniş çaplı harici dinamiklerle birleşen Meta ilke ve uygulamalarının, Filistinli ve Arapça konuşan kullanıcılar üzerinde farklı insan hakları etkilerine yol açtığı çeşitli kasıtsız önyargı örnekleri" tespit etmiştir. Kurul, Meta'yı BSR raporuna yanıt olarak verdiği taahhütleri yerine getirmeye teşvik etmektedir.

Meta son olarak, yine BSR raporunda (tavsiye 21) tavsiye edildiği ve sivil toplum grupları tarafından savunulduğu üzere, potansiyel insan hakları ihlallerine ve uluslararası insani hukuk ihlallerine ilişkin kanıtları muhafaza etme sorumluluğu taşımaktadır. Bir içerik Meta'nın platformlarından kaldırıldığında bile, gelecekte hesap verebilirlik açısından bu tür kanıtların muhafaza edilmesi hayati önem taşımaktadır (bkz. Sudan'daki Sansürlenmemiş Video ve Ermeni Savaş Esirleri Videosu). Meta'nın Topluluk Standartları'nı ihlal eden tüm içerikleri bir yıl boyunca tuttuğu yönündeki açıklamasına rağmen Kurul, özellikle potansiyel savaş suçlarıyla, insanlık suçlarıyla ve ağır insan hakları ihlalleriyle ilgili içeriklerin uzun vadeli hesap verebilirlik amaçları için daha kalıcı ve erişilebilir bir yoldan tespit edilip korunmasını tavsiye etmektedir. Kurul, Meta'nın Ermeni Savaş Esirleri Videosu vakasındaki 1 numaralı tavsiyeyi uygulamayı kabul ettiğinin bilincindedir. Bu tavsiye, Meta'ya vahşet suçlarının veya ağır insan hakları ihlallerinin çözümlenmesine veya dava edilmesine yönelik soruşturmalara ve hukuki süreçlere yardımcı olacak bilgileri muhafaza edeceği ve gerekli durumlarda yetkili makamlarla paylaşacağı bir protokol geliştirmesi yönünde çağrıda bulunmuştur. Meta, "vahşet suçlarının ve ciddi uluslararası insan hakları hukuku ihlallerinin potansiyel kanıtlarını tutmak için tutarlı bir yaklaşım" geliştirmenin son aşamalarında olduğunu ve bu yaklaşım hakkında Kurula kısa sürede bilgi sağlamayı umduğunu Kurula bildirmiştir. Kurul, Meta'nın yukarıdaki tavsiyeyi tamamen uygulamasını beklemektedir.

*Prosedür Notu:

Gözetim Kurulunun hızlandırılmış kararları beş üyeden oluşan alt kurullar tarafından hazırlanmaktadır ve bütün Kurulun çoğunluk onayına tabi değildir. Kurul kararları, tüm üyelerin kişisel görüşlerini yansıtmayabilir.

Return to Case Decisions and Policy Advisory Opinions