Memet ”Two buttons”

Observera att det här beslutet finns både på turkiska (via språkfliken i menyn längst upp på den här skärmen) och armeniska (via den här länken).

Որոշման ամբողջական տարբերակը հայերենով կարդալու համար սեղմեք այստեղ.

Sammanfattning av ärendet

Tillsynsrådet har upphävt Facebooks beslut att ta bort en kommentar för brott mot communityregeln om hatretorik. En majoritet av rådet finner att den täcks av Facebooks undantag för innehåll som tar avstånd från eller ökar medvetenheten om hatpropaganda.

Om ärendet

Den 24 december 2020 publicerar en Facebook-användare i USA en kommentar som innehåller en variant av memet ”daily struggle” eller ”two buttons”. Memet består av samma seriestripp med två serierutor som det ursprungliga memet, men här har seriefigurens ansikte ersatts av den turkiska flaggan. Figuren håller sin högra hand på huvudet och verkar svettas. Ovanför seriefiguren, i den övre serierutan, syns två röda knappar med varsitt påstående på engelska: ”Det armeniska folkmordet är en lögn” (”The Armenian Genocide is a lie”) och ”Armenierna var terrorister och förtjänade det” (”The Armenians were terrorists who deserved it”).

En innehållsmoderator finner att memet bryter mot communityregeln om hatretorik och en annan finner att det bryter mot communityregeln om grymt och okänsligt innehåll. Facebook tar bort kommentaren i enlighet med communityreglerna om grymt och okänsligt innehåll och informerar användaren om detta.

När användaren överklagar finner Facebook dock att innehållet borde ha tagits bort i enlighet med communityregeln om hatretorik. Företaget informerar inte användaren om att man fastställer beslutet i enlighet med en annan uppsättning communityregler.

Viktiga noteringar

Facebook uppger att man har tagit bort kommentaren därför att frasen ”Armenierna var terrorister och förtjänade det” (”The Armenians were terrorists who deserved it”) utgör ett påstående om att armenier är brottslingar beroende på sin nationalitet och etnicitet. Enligt Facebook är det här ett brott mot communityregeln om hatretorik.

Facebook fortsätter med att säga memet inte täcks av det undantag som tillåter användare att dela hatpropaganda i syfte att fördöma den eller väcka medvetenhet om den. Företaget hävdar att båda tolkningarna är rimliga: såväl att seriefiguren fördömer de två uttalandena i memet som att den håller med om dem.

Majoriteten av rådet anser däremot att innehållet omfattas av undantaget. Memet ”two buttons” ställer två alternativ mot varandra inte i syfte att visa sitt stöd för dem utan för att lyfta fram potentiella motsägelser. De finner därför att användaren har delat innehållet i syfte att fördöma och väcka medvetenhet om den turkiska regeringens ansträngningar att förneka det armeniska folkmordet och samtidigt rättfärdiga dessa historiska illdåd. Majoriteten noterar en offentlig kommentar som framför åsikten att memet inte hånar offren för folkmordet. Istället hånas det förnekande förhållningssätt som är vanligt i dagens Turkiet, som både hävdar att folkmordet inte har inträffat och att offren förtjänade det som hände. Majoriteten anser att innehållet bör täckas av Facebooks undantag för satir, vilket inte omfattas av communityreglerna.

En minoritet av rådet finner dock att det inte är tillräckligt tydligt att användaren har delat innehållet i syfte att kritisera den turkiska regeringen. Eftersom innehållet omfattar en skadlig generalisering om armenier finner denna minoritet att det bryter mot communityregeln om hatretorik.

I det här fallet noterar rådet att Facebook har informerat användaren om att hen har brutit mot communityregeln om grymt och okänsligt innehåll trots att Facebook har baserat verkställandet på communityregeln om hatretorik. Rådet ifrågasätter också huruvida Facebooks moderatorer har tillräcklig tid och tillräckliga resurser för att granska innehåll som omfattar satir.

Tillsynsrådets beslut

Tillsynsrådet upphäver Facebooks beslut att ta bort innehållet och kräver att kommentaren ska återställas.

I ett uttalande rekommenderar rådet att Facebook:

• informerar användarna om de communityregler som genomdrivs av företaget Om Facebook kommer till slutsatsen att en användares innehåll bryter mot andra communityregler än de användaren ursprungligen informerades om bör användaren få en ny möjlighet att överklaga.
• inkluderar undantaget för satir, vilket för tillfället inte är tillgängligt för användarna, i den information om communityregeln om hatretorik som vänder sig till allmänheten
• antar procedurer som gör det möjligt att moderera satir och väga in relevant sammanhang Det här omfattar att ge innehållsmoderatorer tillgång till Facebooks lokala verksamhetsteam och tillräcklig tid att konsultera teamen för att kunna genomföra en utvärdering.
• gör det möjligt för användare att i sitt överklagande påpeka när innehåll täcks av något av undantagen från communityregeln om hatretorik Detta omfattar undantag för innehåll där användare delar hatpropaganda i syfte att fördöma den eller väcka medvetenhet om den.
• ser till att överklaganden som bygger på undantag från reglerna prioriteras för mänsklig granskning.

* En ärendesammanfattning ger en översikt över ärendet och har inget prejudikatvärde.

Fullständigt beslut i ärende

1. Sammanfattning av beslutet

Tillsynsrådet har upphävt Facebooks beslut att ta bort innehåll för brott mot communityregeln om hatretorik. En majoritet av rådet finner att seriefiguren, i form av ett satiriskt mem, täcks av det undantag som finns i communityregeln om hatretorik för innehåll som fördömer hatretorik eller väcker medvetenhet om den.

2. Beskrivning av ärendet

Den 24 december 2020 publicerar en Facebook-användare i USA en kommentar som innehåller en variant av memet ”daily struggle” eller ”two buttons”. Ett mem är ett medieobjekt som ofta är humoristiskt och som snabbt sprids över internet. Här visas samma seriestripp med två serierutor som i det ursprungliga memet, men seriefigurens ansikte har ersatts av den turkiska flaggan. Figuren håller sin högra hand på huvudet och verkar svettas. Ovanför seriefiguren, i den övre serierutan, syns två röda knappar med varsitt påstående på engelska: ”Det armeniska folkmordet är en lögn” (”The Armenian Genocide is a lie”) och ”Armenierna var terrorister och förtjänade det” (”The Armenians were terrorists who deserved it”). Innan och efter memet syns en ”tänkande” emoji.

Kommentaren delas på en offentlig Facebook-sida som beskrivs vara ett forum för att diskutera religiösa frågor ur ett sekulärt perspektiv. Den är ett svar på ett inlägg som innehåller en bild på en person i nikab med textöverlagringen: ”Alla fångar sitter inte i fängelse” (”Not all prisoners are behind bars”). När kommentaren tas bort har det originalinlägg den besvarar 260 visningar, 423 reaktioner och 149 kommentarer. En Facebook-användare i Sri Lanka rapporterar kommentaren för brott mot communityregeln om hatretorik.

Facebook tar bort memet den 24 december 2020. Inom en kort tidsperiod har två innehållsmoderatorer granskat kommentaren, jämfört den mot företagets policyer och kommit till olika slutsatser. Den första kommer till slutsatsen att memet bryter mot Facebooks communityregel om hatretorik och den andra att memet bryter mot regeln om grymt och okänsligt innehåll. Innehållet tas bort och loggas i Facebooks system baserat på den andra granskningen. Facebook meddelar användaren att kommentaren bryter mot företagets communityregler mot grymt och okänsligt innehåll.

Efter användarens överklagande fastställer Facebook dock att innehållet bör tas bort i enlighet med communityregeln om hatretorik. För Facebook bryter påståendet ”Armenierna var terrorister och förtjänade det” (”The Armenians were terrorists who deserved it”) specifikt mot förbjudet mot innehåll som hävdar att alla som besitter en viss skyddad egenskap är brottslingar, exempelvis terrorister. Inga andra delar av innehållet bedöms bryta mot reglerna, exempelvis påståendet att det armeniska folkmordet är en lögn. Facebook informerar inte användaren om att företaget har fastställt beslutet att ta bort innehållet grundat på en annan uppsättning communityregler.

Användaren skickar in sitt överklagande till Tillsynsrådet den 24 december 2020.

Sist men inte minst refererar rådet i detta beslut till de illdåd som begicks mot det armeniska folket från 1915 och framåt som folkmord. Det här är den term som vanligtvis används för att beskriva de massakrer och massdeporteringar som det armeniska folket utsattes för och som användaren dessutom refererar till i det granskade innehållet. Rådet har inte auktoritet att rättsligt kvalificera den här typen av illdåd, och en sådan kvalificering är inte avsikten med detta beslut.

3. Behörighet och omfång

Rådet har auktoritet att granska Facebooks beslut om den användare vars inlägg har tagits bort överklagar beslutet (artikel 2, avsnitt 1 i stadgan; regelverkets artikel 2, avsnitt 2.1). Rådet kan fastställa eller upphäva det beslutet (artikel 3, avsnitt 5 i stadgan). Rådets beslut är bindande och kan innefatta uttalanden med råd om riktlinjer och rekommendationer. Dessa rekommendationer är inte bindande men Facebook måste svara på dem (artikel 3, avsnitt 4 i stadgan). Rådet är en oberoende klagomålsinstans som inrättats för att hantera bestridanden på ett transparent och principbaserat sätt.

4. Relevanta regler

Tillsynsrådet utgick ifrån följande regler i sitt beslut:

I. Facebooks communityregler

I Facebooks communityregler definieras hatretorik som innehåll som direkt angriper någon på grund av så kallade skyddade egenskaper – etnicitet, nationellt ursprung, religiös tillhörighet, sexuell läggning, kast, kön, könsidentitet och allvarlig sjukdom eller funktionsnedsättning. Enligt Nivå 1 omfattar förbjudet sådant innehåll som riktar in sig på en person eller en grupp människor med grund i en skyddad egenskap (avsnittet Publicera inte):

• avhumaniserande yttranden eller bilder i form av jämförelser, generaliseringar eller okvalificerade beteendeliknelser (i text eller bild) till eller om […] brottslingar (inklusive men inte begränsat till tjuvar, bankrånare eller att säga att alla som besitter en viss skyddad eller delvis skyddad egenskap är brottslingar)
• uttalanden som går ut på att håna konceptet, händelser eller offer för hatbrott även om ingen verklig person finns med på en bild
• uttalanden som går ut på att förneka förintelsen eller tillhandahålla vilseledande information om den.

Facebook tillåter dock innehåll som omfattar andras hatretorik i syfte att fördöma den eller väcka medvetenhet om den. Enligt motiveringen för communityregeln om hatretorik kan uttalanden som i andra sammanhang kan bryta mot våra regler [användas] för att referera till sig själv eller ta tillbaka ordet. Riktlinjerna är utformade för att ge utrymme för denna typ av uttalanden, men vi kräver att de som gör dem tydligt uppger sin avsikt. Om avsikten är otydlig kan innehållet tas bort.

Rådet pekar vidare på Facebooks communityregler om grymt och okänsligt innehåll, vilka förbjuder innehåll som riktar sig till offer för allvarlig fysisk eller emotionell skada, inklusive uttryckliga försök att håna offer. I communityreglerna noteras att detta innehåll i många fall tar formen av mem och GIF-bilder. Reglerna (avsnittet Publicera inte) förbjuder innehåll som innehåller sadistiska kommentarer och alla typer av visuell eller skriftlig skildring av verkliga människor som upplever en förtida död.

II. Facebooks värderingar

Facebooks värderingar återfinns i introduktionen till communityreglerna. Värderingen Röst, det vill säga yttrandefriheten, beskrivs vara av yttersta vikt:

Målet med våra communityregler har alltid varit att skapa en plats för uttryck och göra det möjligt för människor att göra sina röster hörda. […] Vi vill att människor ska kunna tala öppet om de frågor som är viktiga för dem, även om vissa inte håller med eller finner åsikterna förkastliga.

Facebook begränsar yttrandefriheten baserat på fyra värderingar och två är relevanta här.

Säkerhet: Vi har åtagit oss att göra Facebook till en säker plats. Uttryck som hotar människor kan skrämma, utesluta eller tysta andra och det är inte tillåtet på Facebook.

Värdighet: Vi anser att alla människor har samma värdighet och rättigheter. Vi förväntar oss att människor respekterar andras värdighet och inte trakasserar eller förnedrar andra.

II. Normer för mänskliga rättigheter

FN:s vägledande principer för företag och mänskliga rättigheter (UNGP), som bifölls av FN:s råd för mänskliga rättigheter år 2011, utgör ett frivilligt ramverk för privata företags ansvar gällande mänskliga rättigheter. Under 2021 presenterade Facebook sin företagspolicy avseende mänskliga rättigheter som klargör företagets strävan att respektera rättigheter i enlighet med UNGP-principerna. Rådets analys i det här fallet bygger på följande normer för mänskliga rättigheter:

1. Yttrandefrihet: artikel 19, FN:s konvention om medborgerliga och politiska rättigheter (ICCPR), allmän kommentar nr 34, FN:s kommitté för mänskliga rättigheter, 2011. Följande rapporterar FN:s specialrapportör för åsikts- och yttrandefrihet: A/HRC/35/22/Add.3 (2017), A/HRC/41/35/Add.2 (2019), A/HRC/38/35 (2018), A/74/486 (2019) och A/HRC/44/49/Add.2 (2020); Rabat Plan of Action, OHCHR, (2013).
2. Rätten till likabehandling: artikel 2, paragraf 1, ICCPR, artikel 1 och 2, konventionen om avskaffande av alla former av rasdiskriminering (CERD).
3. Rätten till information i sammanhang som rör tillgången till rättslig prövning: artikel 14, paragraf 3(a), ICCPR, allmän kommentar nr 32, FN:s kommitté för mänskliga rättigheter, (2007).

5. Användarens uttalande

Användaren skriver i sitt överklagande till rådet att historiska händelser inte bör censureras. Hen noterar att kommentaren inte är avsedd att kränka utan att peka på ironin i ett visst historiskt skeende. Användaren fortsätter genom att undra om Facebook ”kanske misstog detta för en attack”. Användaren påstår vidare att även om innehållet hänvisar till ”religion och krig” (”religion and war”) är det inte ett ”kontroversiellt ämne” (”hot button issue”). Användaren finner att Facebook och företagets regler är för begränsande och argumenterar för att humor, precis som mycket annat, är subjektivt, och att något som är kränkande för en person kan vara roligt för en annan (”[h]umor like many things is subjective and something offensive to one person may be funny to another”).

6. Förklaring av Facebooks beslut

Facebook förklarar att man har tagit bort kommentaren som en Nivå 1-attack i enlighet med communityregeln om hatretorik, specifikt för brott mot den punkt som förbjuder innehåll som antyder att alla medlemmar av en grupp med en viss skyddad egenskap är brottslingar, exempelvis terrorister. Facebook menar att det första uttalandet i memet, ”Det armeniska folkmordet är en lögn” (”The Armenian Genocide is a lie”), visserligen är en negativ generalisering men att det inte direkt attackerar armenierna och att det därmed inte bryter mot Facebooks communityregler. Facebook finner att det andra uttalandet, ”Armenierna var terrorister och förtjänade det” (”The Armenians were terrorists who deserved it”), direkt attackerar armenierna genom att påstå att de är brottslingar på grund av sin etnicitet och nationalitet. Detta bryter mot företagets regel om hatretorik.

I förklaringen av sitt beslut tar Facebook upp huruvida undantaget för innehåll som delar hatretorik i syfte att fördöma den eller väcka medvetenhet om den bör gälla i det här fallet. Facebook hävdar att memet inte täcks av det här undantaget eftersom användaren inte tydligt klargör att avsikten är att fördöma hatretorik. Facebook förklarar specifikt för rådet att den svettande seriefiguren i memet rimligen kan tolkas både som att den fördömer och att den håller med om uttalandena. Facebook förklarar vidare att dess regel om hatretorik tidigare innehöll ett undantag för humor. Företaget klargör att undantaget togs bort efter en granskning av mänskliga rättigheter (juli 2020) och när företaget vidareutvecklade sitt regelverk. I sitt svar till rådet hävdar Facebook att det inte är hållbart för företaget att skapa en definition för vad som kan anses roligt, med tanke på Facebooks storskaliga verkställighet. I rapporten kring granskningen av mänskliga rättigheter avslöjar företaget dock att man har behållit ett smalare undantag för satir. Facebook definierar detta som innehåll som omfattar användningen av ironi, överdrift, spefullhet och absurditet i syfte att exponera eller kritisera människor, beteenden eller åsikter, i synnerhet i sammanhang som rör politiska, religiösa och sociala frågor. Syftet är att dra uppmärksamhet till och uttrycka kritik inom bredare samhälleliga frågor. Det här undantaget finns inte med i Facebooks communityregler. Det verkar vara skilt från undantaget för innehåll som omfattar hatretorik i syfte att fördöma den eller väcka medvetenhet om den.

Facebook klargör vidare att innehållet inte bryter mot reglerna mot grymt och okänsligt innehåll, vilka förbjuder uttryckliga försök att håna offer, även genom mem. Innehållet avbildar eller namnger nämligen inte något verkligt offer.

Facebook påpekar dessutom att borttagandet av innehållet efterlever värderingarna Värdighet och Säkerhet, som vägs mot värderingen Röst, eller yttrandefrihet. Enligt Facebook är innehåll som kallar det armeniska folket terrorister ett hån mot deras värdighet, kan upplevas som nedvärderande eller avhumaniserande och kan till och med ge upphov till risk för förföljelse och våld.

Facebook hävdar att företagets beslut efterlever de internationella normerna för mänskliga rättigheter. Facebook påpekar (a) att företagets policy är tillgänglig på ett enkelt sätt i communityreglerna, (b) att beslutet att ta bort innehållet är legitimt för att skydda andras rättigheter från skador och diskriminering och (c) att beslutet är nödvändigt och proportionerligt för att förhindra att armenier tar skada. Företaget argumenterar vidare att dess regel om hatretorik tillämpas på ett smalt urval av generaliseringar i syfte att garantera en proportionerlig begränsning av yttrandefriheten.

7. Framställningar från tredje part

Tillsynsrådet har mottagit 23 kommentarer från allmänheten med koppling till det här ärendet. Fyra av kommentarerna kommer från Europa, en från Mellanöstern och Nordafrika och 18 från USA och Kanada.

Rådet har tagit emot kommentarer från parter med direkt intresse av de frågor som det här ärendet rör. Dessa omfattar bland annat efterlevande efter offer för det armeniska folkmordet, organisationer som studerar folkmord och dess natur, orsaker och konsekvenser samt en tidigare innehållsmoderator.

Det inskickade materialet tar bland annat upp ämnen som betydelsen av och användningen av memet ”daily struggle” eller ”two buttons” i den anpassade form som har tillämpats av användaren i det här fallet, huruvida innehållet är avsett som politisk kritik av den turkiska regeringen och dess förnekande av det armeniska folkmordet, huruvida innehållet hånar offren för det armeniska folkmordet och hur Facebook communityregler om grymt och okänsligt innehåll relaterar till fallet.

Om du vill läsa de kommentarer som har skickats in från allmänheten gällande ärendet klickar du här.

8. Tillsynsrådets analys

Rådet har tittat på huruvida innehållet bör återställas ur tre synvinklar: Facebooks communityregler, företagets värderingar och företagets ansvar för mänskliga rättigheter.

8.1 Efterlevnad av communityreglerna

Rådet har analyserat vart och ett av de två uttalandena utifrån Facebooks communityregler och därefter utvärderat effekten av att placera dem sida vid sida i den här versionen av memet ”daily struggle” eller ”two buttons”.

8.1.1. Analys av uttalandet ”Det armeniska folkmordet är en lögn” (”The Armenian Genocide is a lie”)

Rådet noterar att Facebook inte finner att uttalandet bryter mot communityregeln om hatretorik. Facebook genomdriver sin communityregel om hatretorik genom att identifiera (i) ett ”direkt angrepp” och (ii) en ”skyddad egenskap” som det direkta angreppet har sin grund i. I motiveringen för reglerna tas avhumaniserande uttalanden upp som ett exempel på en attack. Etnicitet och nationellt ursprung finns med på listan över skyddade egenskaper.

I avsnittet Publicera inte i Facebooks communityregel om hatretorik förbjuder Facebook uttalanden som hånar begreppet hatbrott, hatbrott som begåtts eller offer för hatbrott, även om ingen verklig person finns med på bild. En majoritet av rådet noterar dock att användaren inte har avsett att håna offren för de händelser som tas upp i uttalandet utan att memet är satir och kritiserar själva uttalandet. En minoritet anser att användarens avsikt inte har uttalats tillräckligt tydligt. Användaren skulle kunna dela innehållet därför att hen håller med om det, snarare än att hen försöker vederlägga det.

Facebook har i det här fallet meddelat användaren om att innehållet bryter mot företagets communityregler om grymt och okänsligt innehåll. Enligt den här policyn förbjuder Facebook försök att håna offer för allvarlig fysisk eller emotionell skada, bland annat med innehåll som innehåller sadistiska kommentarer och alla typer av visuell eller skriftlig skildring av verkliga människor som upplever en förtida död. Rådet noterar men väger inte in Facebooks förklaring att policyn inte gäller i det här fallet eftersom memet inte avbildar eller namnger offren för de händelser som uttalandet gäller.

I avsnittet Publicera inte i Facebooks communityregel om hatretorik förbjuder företaget dessutom uttalanden som förnekar förintelsen eller tillhandahåller vilseledande information om den. Rådet noterar företagets förklaring att den här policyn inte gäller det armeniska folkmordet eller andra folkmord och att policyn bygger på företagets konsultation av externa experter, den väldokumenterade ökningen av antisemitismen globalt och den oroande nivån av okunskap kring förintelsen.

8.1.2. Analys av uttalandet ”Armenierna var terrorister och förtjänade det” (”The Armenians were terrorists who deserved it”).

Rådet noterar att Facebook finner att uttalandet bryter mot communityregeln om hatretorik. I avsnittet Publicera inte i communityregeln om hatretorik förbjuder Facebook avhumaniserande innehåll eller bilder i form av jämförelser, generaliseringar eller okvalificerade beteendeliknelser (i text eller bild). Den här policyn omfattar uttalanden som utmålar den aktuella gruppen som brottslingar. Rådet anser att termen terrorist täcks av den här kategorin.

8.1.3 Analys av kombinationen av uttalanden i memet

Rådet anser att innehållet bör utvärderas i sin helhet, inklusive effekten av att ställa dessa uttalanden sida vid sida i ett välkänt mem. Ett vanligt syfte med memet ”daily struggle” eller ”two buttons” är att ställa två alternativ sida vid sida i syfte att lyfta fram potentiella motsägelser eller andra konnotationer. Syftet är inte att visa stöd för de givna alternativen.

För majoriteten är undantaget från regeln om hatretorik centralt. Det här undantaget innebär att användare får dela innehåll som innehåller andras hatretorik i syfte att fördöma eller väcka medvetenhet om den. De hävdar vidare att riktlinjerna är utformade att ge utrymme för denna typ av uttalanden, men vi kräver att de som gör dem tydligt uppger sin avsikt. Om avsikten är otydlig kan innehållet tas bort. Majoriteten noterar att innehållet också kan falla under företagets undantag för satir, vilket inte är tillgängligt för allmänheten.

Majoriteten anser att användarens avsikt är tydlig när innehållet granskas i sin helhet. Hen har delat memet som satir, i syfte att fördöma och väcka medvetenhet om den turkiska regeringens ansträngningar för att förneka det armeniska folkmordet och samtidigt rättfärdiga dessa historiska illdåd. Användarens avsikt är inte att håna offren för de här händelserna och inte heller att utmåla dessa offer som brottslingar eller antyda att dessa hatbrott var berättigade. Majoriteten väger in den turkiska regeringens ståndpunkt rörande det folkmord på armenierna som inleddes 1915 (Republiken Turkiet, Utrikesdepartementet) och historien mellan Turkiet och Armenien. I det här sammanhanget finner de att seriefigurens svettiga ansikte som ersatts med den turkiska flaggan och innehållets direkta koppling till det armeniska folkmordet visar att användaren har delat memet i syfte att kritisera den turkiska regeringens ståndpunkt i frågan. Användningen av den ”tänkande” emojin, som ofta används sarkastiskt, tillsammans med memet stöder den här slutsatsen. Majoriteten noterar den offentliga kommentaren PC-10007 (tillgänglig under avsnitt 7) som framför åsikten att memet inte hånar offren för folkmordet. Istället hånar det förnekandet som är vanligt i dagens Turkiet, som samtidigt hävdar att folkmordet inte har inträffat och att offren förtjänar det inträffade. Det skulle därför vara fel att ta bort den här kommentaren i syfte att skydda armenierna, eftersom inlägget utgör kritik mot den turkiska regeringen, till stöd för armenierna.

Majoriteten finner därmed att innehållet på det hela taget täcks av undantaget i Facebooks communityregel om hatretorik. Minoriteten anser att användarens avsikt inte är tillräckligt tydlig eftersom det inte finns något specifikt sammanhang. De anser att det därför inte går att dra slutsatsen att innehållet har delats som satir i syfte att kritisera den turkiska regeringen. Minoriteten finner vidare att användaren inte tydligt kan artikulera vad den påstådda humorn avser uttrycka. Eftersom innehållet omfattar en skadlig generalisering om armenier finner minoriteten av rådet att det bryter mot communityregeln om hatretorik.

8.2 Efterlevnad av Facebooks värderingar

En majoritet av rådet anser att det följer Facebooks värderingar att återställa innehållet. Rådet noterar att armenierna är känsliga för uttalanden som rör de storskaliga illdåd folket har utsatts för från 1915 och framåt och folkets strävan efter att få folkmordet erkänt och upprättelse för illdåden. Majoriteten finner dock inte att memet i det här fallet utgör någon risk för det armeniska folkets Värdighet och Säkerhet på ett sätt som rättfärdigar en inskränkning av värderingen Röst (yttrandefriheten). Majoriteten noterar Facebooks breda referens till Säkerhet, utan att företaget kan förklara hur värderingen har tillämpats i det här fallet.

Minoriteten finner att satir visserligen bör skyddas, precis som majoriteten påpekar, men att uttalandena i kommentaren negativt påverkar självrespekten hos personer vars släktingar har utsatts för folkmordet. Minoriteten finner att uttalandena är respektlösa mot de som har massakrerats och att de är skadliga eftersom de kan öka risken för diskriminering och våld mot armenierna. Det här rättfärdigar inskränkningen av värderingen Röst för att skydda Säkerhet och Värdighet.

8.3 Facebooks ansvar gällande mänskliga rättigheter

Yttrandefrihet (artikel 19 ICCPR)

Artikel 19, paragraf 2 i ICCPR ger brett skydd för yttranden av ”alla typer”, bland annat såväl skriftlig som verbal politisk debatt och kulturella och konstnärliga uttryck. FN:s kommitté för mänskliga rättigheter har tydliggjort att skyddet i artikel 19 även omfattar uttryck som kan anses vara mycket stötande (allmän kommentar nr 34, par. 11, 12).

I det här fallet finner rådet att seriefiguren, i det här fallet i form av ett satiriskt mem, tar ställning i en politisk fråga: den turkiska regeringens ståndpunkt angående det armeniska folkmordet. Rådet noterar att seriefigurer som klargör politiska ståndpunkter och mem som hånar offentliga personer kan anses vara former av artistiskt uttryck som skyddas av internationell människorättslagstiftning (FN:s specialrapportör för åsikts- och yttrandefrihet, rapport A/HRC/44/49/Add.2, paragraf 5). Rådet betonar vidare att ICCPR lägger särskilt stor vikt vid obegränsad yttrandefrihet när det gäller offentliga personer i den politiska sfären och offentliga institutioner (allmän kommentar nr 34, paragraf 38).

Rådet noterar dessutom att de lagar som etablerar en allmän begränsning av yttranden rörande felaktiga åsikter eller feltolkningar av historiska fakta ofta rättfärdigas genom hänvisningar till hatretorik, och att de inte går att kombinera med artikel 19 i ICCPR, såvida de inte utgör uppvigling till fientlighet, diskriminering eller våld enligt artikel 20 i ICCPR (allmän kommentar 34, paragraf 29, FN:s specialrapportör för åsikts- och yttrandefrihet, rapport A/74/486, paragraf 22).

Rätten till yttrandefrihet är grundläggande, men den är inte absolut. Den får begränsas under förutsättning att begränsningarna uppfyller kraven på laglighet, berättigat ändamål, nödvändighet och proportionalitet (artikel 19, paragraf 3, ICCPR). Facebook bör försöka anpassa sina policyer kring moderering av hatretorik efter de här principerna (FN:s specialrapportör för åsikts- och yttrandefrihet, rapport A/74/486, paragraf 58(b)).

I. Laglighet

Regler som begränsar yttrandefriheten måste vara tydliga, precisa och allmänt tillgängliga (allmän kommentar 34, paragraf 25). Individer måste få tillräcklig information för att kunna avgöra om och hur mycket deras yttrandefrihet kan begränsas så att de kan anpassa sitt beteende därefter. Facebooks communityregler tillåter innehåll som omfattar någon annans hatretorik i syfte att fördöma den eller väcka medvetenhet, men användarna ombeds att tydligt uppge sin avsikt. Rådet noterar vidare att Facebook tog bort undantaget för humor från regeln om hatretorik efter en granskning av medborgarrättigheter som slutfördes i juli 2020. Undantaget har tagits bort men företaget har behållit ett smalare undantag för satir som för närvarande inte kommuniceras till användarna genom företagets communityregel om hatretorik.

Rådet noterar vidare att Facebook felaktigt har informerat användaren om att hen har brutit mot communityregeln om grymt och okänsligt innehåll trots att Facebook har baserat genomdrivandet på communityregeln om hatretorik. Rådet finner att det inte är tillräckligt tydligt för användarna att communityreglerna om grymt och okänsligt innehåll endast gäller innehåll som avbildar eller namnger offren.

Rådet finner vidare att det skulle vara enklare för användarna att följa Facebooks regler om användarnas informerades om anledningarna till åtgärderna mot dem. Detta är kopplat till frågan om laglighet. Bristen på relevant information till användare vars innehåll tas bort skapar en miljö med hemlighetsfulla normer som inte efterlever kraven på tydlighet, exakthet och förutsägbarhet. Detta kan påverka individens möjlighet att ifrågasätta de åtgärder som genomförs på innehåll och uppföljningen av innehållsrelaterade klagomål. (FN:s specialrapportör för åsikts- och yttrandefrihet, rapport A/HCR/38/35, paragraf 58). Facebooks metod för att informera användaren i det här ärendet uppfyller därmed inte laglighetsvillkoret.

II. Berättigat ändamål

Alla begränsningar av yttrandefriheten bör också eftersträva ett ”berättigat ändamål”. Rådet håller med om att begränsningen hade ett berättigat ändamål i försöket att skydda andras rättigheter (allmän kommentar nr 34, paragraf 28). Dessa omfattar rätten till jämlikhet och likabehandling, oberoende av bland annat etnicitet och nationellt ursprung (artikel 2, paragraf 1, ICCPR, artikel 1 och 2, ICERD).

Rådet bekräftar vidare sin ståndpunkt från ärendebeslut 2021-002-FB-UA, att det inte finns något berättigat ändamål när yttrandefriheten begränsas enbart i syfte att skydda individer från anstöt (FN:s specialrapportör för åsikts- och yttrandefrihet, rapport A/74/486, paragraf 24) eftersom internationell människorättslagstiftning lägger stor vikt vid rätten att uttrycka sig obehindrat (allmän kommentar nr 34, paragraf 38).

III. Nödvändighet och proportionalitet

Eventuella begränsningar av yttrandefriheten ”måste vara lämpliga för att uppnå sin skyddande funktion. De måste vara det minst ingripande alternativet av de som skulle kunna användas för att uppnå den skyddande funktionen och de måste vara proportionerliga i förhållande till det intresse som ska skyddas” (allmän kommentar 34, paragraf 34)

Rådet har utvärderat huruvida det var nödvändigt att ta bort innehållet i syfte att skydda armeniernas rätt till jämlikhet och likabehandling. Rådet noterar att yttrandefriheten just nu är betydligt begränsad i Turkiet, och att effekten är oproportionerligt stor på de etniska minoriteter som finns i landet, inklusive armenierna. I en rapport om sitt uppdrag till Turkiet 2016 finner FN:s specialrapportör för åsikts- och yttrandefrihet att censur äger rum inom alla områden som är fundamentala för det demokratiska livet: media, utbildningsinstitutionerna, rättsväsendet och advokatsamfundet, myndigheterna, de politiska arenorna och det vidsträckta liv som äger rum online under den digitala tidsåldern (FN:s specialrapportör för åsikts- och yttrandefrihet, rapport A/HRC/35/22/Add.3, paragraf 7). I den uppföljande rapporten från 2019 nämner FN:s specialrapportör att situationen inte har förbättrats (FN:s specialrapportör för åsikts- och yttrandefrihet, rapport A/HRC/41/35/Add.2, paragraf 26).

De turkiska myndigheterna har specifikt riktat in sig på uttalanden som fördömer de illdåd som har begåtts av det turkiska Ottomanska riket mot armenierna med början 1915. I en gemensam skrivelse påpekar ett antal av FN :s särskilda sändebud att artikel 301 i den turkiska brottsbalken verkar utgöra en överlagd ansträngning för att hindra tillgången till sanningen kring vad som verkar utgöra en våldspolicy riktad mot den turkisk-armeniska gemenskapen. Rådet noterar vidare mordet 2007 på Hrant Dink, en journalist av armeniskt ursprung som publicerade en rad artiklar om de turkiska medborgarna av armeniskt ursprung. I en av dessa artiklar diskuterade Dink bristen på erkännande av folkmordet och hur detta påverkar armeniernas identitet. Dink hade tidigare i turkisk domstol funnits skyldig till skändning av den turkiska identiteten genom sina texter. År 2010 kom Europeiska domstolen för mänskliga rättigheter fram till att domen mot Dink och den turkiska regeringens underlåtenhet att vidta tillräckliga åtgärder för att skydda hans liv utgjorde ett brott mot hans rätt till yttrandefrihet (se Europeiska domstolen för mänskliga rättigheter, rättsfallet Dink v. Turkiet, paragraf 139).

En majoritet av rådet har kommit till slutsatsen att Facebooks har gjort fel som har inskränkt användarens yttrandefrihet. Det armeniska folkets rätt till jämlikhet och likabehandling skyddas inte av att innehållet tas bort. Användaren håller inte med om de uttalanden som ställs sida vid sida i memet utan tillskriver dem snarare den turkiska regeringen. Användarens avsikt är att fördöma och väcka medvetenhet om regeringens motsägelsefulla och egennyttiga ståndpunkt. Majoriteten av rådet finner att satir, exempelvis det här memet, blir mindre effektiv om den som publicerar det är tvungen att uttryckligen förklara sin avsikt. Det faktum att memet ”daily struggle” eller ”two buttons” är avsett att vara roligt, även om ämnet i det här fallet är allvarligt, bidrar också till majoritetens beslut.

Majoriteten noterar att innehållet har delats på engelska på en Facebook-sida med följare i flera olika länder. Majoriteten anser att memet visserligen skulle kunna missförstås av vissa Facebook-användare men att det inte ökar risken för att armenierna utsätts för diskriminering och våld, i synnerhet när innehållet är avsett för en internationell målgrupp. De finner att det ligger i allmänhetens intresse att lyfta denna viktiga fråga för en internationell publik.

Rådet finner vidare att det inte kan anses som proportionerligt att ta bort information utan orsak. Det krävs synnerligen tunga argument om det ska vara proportionerligt att ta bort innehåll som ligger i allmänhetens intresse. Här är rådet bekymrade över Facebooks innehållsmoderators förmåga att granska det här memet och liknande innehåll som omfattar satir. Leverantörerna bör följa adekvata procedurer och få den tid, de resurser och det stöd som krävs för att de på ett rättvisande sätt ska kunna utvärdera satiriskt innehåll och dess relevanta kontext.

Minoriteten håller visserligen med majoriteten om att det är viktigt att skydda satir på plattformen men anser inte att innehållet i detta fall är satir. Minoriteten finner att det är möjligt att användaren håller med om de uttalanden som läggs fram i memet och därmed diskriminerar armenierna. Minoriteten anser därför att kraven på nödvändighet och proportionalitet uppfylls. I ärendebeslut 2021-002-FB-UA noterar rådet Facebooks ståndpunkt att innehållet som avbildar ”blackface” ska tas bort såvida inte användaren tydligt indikerar att avsikten är att fördöma bruket eller väcka medvetenhet om det. Minoriteten finner att användarens avsikt på samma sätt måste tydliggöras i de fall där det inte är uppenbart att innehållet är satir, som i det här fallet. Minoriteten kommer till slutsatsen att satir visserligen handlar om dubbeltydighet, men att det inte får vara oklart vem attacken är riktad mot, det vill säga den turkiska regeringen eller det armeniska folket.

Rätten till information (artikel 14, paragraf 3(a), ICCPR

Rådet finner att det faktum att användaren har fått felaktig information rörande vilken innehållsregel ärendet gäller bryter mot rätten till information i sammanhang som rör tillgången till rättslig prövning (artikel 14, paragraf 3(a) ICCPR). När Facebook begränsar en användares rätt till yttrandefrihet måste företaget respektera korrekt rättsförfarande och informera användaren om grunden till beslutet. Detta omfattar att revidera informationen till användaren om grunden ändras (allmän kommentar nr 32, paragraf 31). Facebook har i det här fallet inte uppfyllt sitt ansvar.

9. Tillsynsrådets beslut

Tillsynsrådet upphäver Facebooks beslut om att ta bort innehållet och kräver att innehållet ska återställas.

10. Uttalande med råd om riktlinjer

Följande rekommendationer är numrerade och rådet önskar att Facebook tillhandahåller enskilda svar på var och en.

Tillhandahålla användarna tydliga och rättvisande aviseringar

I syfte att göra sina regelverk och verkställigheten av dem tydligare bör Facebook:

1. Ta i bruk tekniska arrangemang för att säkerställa att de aviseringar som utgår till användarna refererar till den communityregel som verkställs av företaget. Om Facebook kommer till slutsatsen att (i) innehållet inte bryter mot den communityregel som användaren har aviserats om och att (ii) innehållet bryter mot en annan communityregel så måste användaren meddelas om detta och få en ny möjlighet att överklaga. De bör alltid få tillgång till korrekt information innan de kommer till Tillsynsrådet.

2. Inkludera undantaget för satir, vilket för tillfället inte kommuniceras till användarna i den version av communityregeln om hatretorik som vänder sig till allmänheten.

Se till att det finns adekvata verktyg på plats för att hantera frågor rörande satir

För att förbättra korrektheten i verkställigheten för innehållspolicyerna till användarnas fördel bör Facebook:

3. Se till att företaget har adekvata procedurer på plats för att kunna utvärdera satiriskt innehåll och den relevanta kontexten. Det här omfattar att ge innehållsmoderator: (i) tillgång till Facebooks lokala verksamhetsteam för att kunna inhämta relevant kulturell information och bakgrundsinformation och (ii) tillräcklig tid för att konsultera Facebooks lokala verksamhetsteam och genomföra utvärderingen. Facebook bör se till att företagets policyer för innehållsmoderatorer uppmuntrar till ytterligare efterforskningar, och till eskalering i de situationer där innehållsmoderatorn är osäker på huruvida memet är satir.

Göra det möjligt för användare att kommunicera att det aktuella innehållet faller inom undantag till regelverket

För att förbättra riktigheten i Facebooks granskning under överklagandefasen vill rådet att företaget:

4. gör det möjligt för användare att i sitt överklagande påpeka när innehåll täcks av något av undantagen från communityregeln om hatretorik Detta omfattar undantag för innehåll där användare delar hatpropaganda i syfte att fördöma den eller väcka medvetenhet om den.

5. ser till att överklaganden som bygger på undantag från reglerna prioriteras för mänsklig granskning.

* Procedurmässig notering:

Tillsynsrådets beslut utarbetas av en panel bestående av fem medlemmar och godkänns av en majoritet av rådet. Rådets beslut återspeglar inte nödvändigtvis alla medlemmars personliga åsikter.

Inför beslutet i det här ärendet genomfördes oberoende efterforskningar på uppdrag av rådet. Ett oberoende forskningsinstitut som utgår från Göteborgs universitet, med ett team bestående av över 50 samhällsvetare på sex kontinenter och över 3 200 nationella experter från hela världen, har gett expertis om sociopolitisk och kulturell kontext. Företaget Lionbridge Technologies LLC, vars specialister talar fler än 350 språk flytande och jobbar från 5 000 städer världen över, tillhandahöll lingvistisk expertis.

Retour aux décisions de cas et aux avis consultatifs politiques