Rysk dikt

Det här beslutet finns även på ryska (via fliken för språk som du hittar på menyn högst upp på den här skärmen), på lettiska (här) och på ukrainska (här).

Lai iepazītos ar lēmumu latviski, spied šeit.

Щоб прочитати це рішення українською мовою, натисніть тут.

Sammanfattning av ärendet

Tillsynsrådet har upphävt Metas ursprungliga beslut om att ta bort ett Facebook-inlägg i vilket den ryska armén i Ukraina jämfördes med nazisterna och en dikt med uppmaningar om att döda fascister citerades. Rådet upphävde även Metas bedömning att en bild av vad som ser ut att vara en död kropp i samma inlägg bröt mot regeln om våldsamt och grovt innehåll. Meta hade lagt till en varningsskärm på bilden med motiveringen att bröt mot regeln. Det här ärendet väcker viktiga frågor om innehållsmoderering i konfliktsituationer.

Om ärendet

I april 2022 publicerade en Facebook-användare i Lettland en bild av vad som ser ut att vara en död kropp som ligger med ansiktet nedåt på en gata. Inga skador syns på bilden. Meta bekräftar för rådet att personen på bilden sköts i Butja i Ukraina.

I bildtexten på ryska står det att de grymheter sovjetiska soldater hävdades ha begått i Tyskland under andra världskriget ursäktades eftersom de hämnades brotten de nazistiska styrkorna begick i Sovjetunionen. I inlägget görs en koppling mellan de nazistiska styrkorna och den ryska armén i Ukraina, och den ryska armén sägs ha ”blivit fascistisk”.

I inlägget tar användaren upp grymheter som den ryska armén hävdas ha begått i Ukraina och skriver ”after Bucha, Ukrainians will also want to repeat... and will be able to repeat” (efter Butja kommer ukrainare också att vilja upprepa ... och kommer att kunna upprepa). Inlägget avslutas med ett citat ur dikten ”Döda honom!” av den sovjetiska poeten Konstantin Simonov, bland annat med raderna: ”kill the fascist ... Kill him! Kill him! Kill!” (döda fascisten ... Döda honom! Döda honom! Döda!).

Inlägget anmäldes av en annan Facebook-användare och togs bort av Meta för brott mot communityregeln om hatretorik. När rådet hade valt ut ärendet kom Meta fram till att de hade tagit bort inlägget på felaktig grund och återställde det. Tre veckor senare införde företaget en varningsskärm för bilden enligt regeln om våldsamt och grovt innehåll.

Viktiga noteringar

Rådet anser att borttagandet av inlägget och det senare införandet av en varningsskärm inte är förenligt med Facebooks communityregler, Metas värderingar eller företagets åtaganden gällande de mänskliga rättigheterna.

Rådet finner att användaren i sitt inlägg inte gör allmänna anklagelser som ”ryska soldater är nazister” utan hävdar att de har agerat som nazisterna gjorde vid en viss tid och på en viss plats, och drar historiska paralleller. I inlägget angrips de ryska soldaterna dessutom på grund av deras roll som stridande, och inte på grund av deras nationalitet. I den kontexten finns det ingenting, varken utifrån Metas ansvar gällande mänskliga rättigheter eller dess communityregel om hatretorik, som skyddar soldater från påståenden om grymma gärningar eller förhindrar provokativa jämförelser mellan deras handlingar och tidigare händelser.

Rådet betonar vikten av att ta hänsyn till sammanhanget i bedömningen av om innehåll uppmanar till våld. I det här ärendet anser rådet att citatet ur dikten ”Döda honom!” är en konstnärlig och kulturell referens som används retoriskt. När citaten läses som en del av hela inlägget anser rådet att de används till att beskriva snarare än att uppmuntra till ett sinnestillstånd. De varnar för cykler av våld och risken för att historien ska upprepa sig i Ukraina.

I Metas interna vägledning för moderatorer tydliggörs det att företaget tolkar communityregeln om våld och uppvigling som att den tillåter sådana ”neutrala referenser till ett möjligt resultat” och ”välmenade varningar”. Det här förklaras emellertid inte i de offentliga communityreglerna. På samma sätt förbjuder innehållspolicyn om våldsamt och grovt innehåll bilder som avbildar våldsamma dödsfall. I den interna vägledningen för moderatorer förklaras hur Meta bedömer huruvida ett dödsfall framstår som våldsamt, men den förklaringen återfinns inte i den offentliga communityregeln.

I det här ärendet anser en majoritet av rådet att bilden i inlägget inte innehåller tydliga indikationer på våld, vilket, enligt Metas interna vägledning för moderatorer, skulle rättfärdiga användningen av en varningsskärm.

Övergripande finner rådet det osannolikt att inlägget skulle bidra till att förvärra våldsamheterna. Rådet medger dock att det finns ytterligare komplikationer i att bedöma våldspropaganda i internationella konfliktsituationer där internationell rätt tillåter angrepp mot stridande. Den ryska invasionen av Ukraina har internationellt befunnits vara olaglig. Rådet uppmanar Meta att justera sina policyer så att de även beaktar omständigheterna kring ett olagligt militärt ingripande.

Tillsynsrådets beslut

Tillsynsrådet upphäver Metas ursprungliga beslut att ta bort inlägget och företagets påföljande bedömning att bilden i inlägget bröt mot communityregeln om våldsamt och grovt innehåll, vilket ledde till att Meta lade till en varningsskärm.

Rådet rekommenderar att Meta:

• justerar den offentliga communityregeln om våld och uppvigling så att det klargörs, baserat på Metas tolkning av regeln, att den tillåter innehåll med ”neutrala referenser till ett möjligt resultat”,
• inför en förklaring av hur företaget avgör om en bild avbildar ”en persons våldsamma dödsfall” i den offentliga communityregeln om våldsamt och grovt innehåll,
• utvärderar möjligheten att införa verktyg som gör att vuxna användare kan bestämma om de ska se grovt innehåll överhuvudtaget, och i så fall om det ska visas med eller utan en varningsskärm.

* En ärendesammanfattning ger en översikt över ärendet och har inget prejudikatvärde.

Fullständigt beslut i ärende

1. Sammanfattning av beslutet

Tillsynsrådet upphäver Metas ursprungliga beslut om att ta bort ett Facebook-inlägg om konflikten i Ukraina. Innehållet, som är på ryska och publicerades i Lettland, består av ett fotografi av en gata med en person som ligger på marken – troligen avliden. Till bilden följer text. I texten ingår citat ur en välkänd dikt av den sovjetiska poeten Konstantin Simonov med en uppmaning till motstånd mot den tyska invasionen under andra världskriget. Texten antyder att de ryska angriparna spelar en liknande roll i Ukraina som den som de tyska soldaterna spelade i sovjetunionen. När rådet hade valt ut inlägget för granskning ändrade Meta sin ståndpunkt och återställde innehållet på plattformen. Innehållet väcker viktiga definitionsmässiga frågor gällande Metas policyer om hatretorik och våld och uppvigling. Några veckor efter det att Meta beslutat sig för att återställa inlägget lade företaget till en varningsskärm för fotot. En majoritet av rådet anser att fotografiet inte bryter mot innehållspolicyn om våldsamt och grovt innehåll i och med att bilden inte innehåller tydliga visuella indikatorer på våld enligt beskrivningen i Metas interna vägledning för innehållsmoderatorer, vilket skulle rättfärdiga användning av en varningsskärm.

2. Beskrivning av och bakgrund till ärendet

I april 2022 publicerade en Facebook-användare i Lettland ett foto och en text på ryska i sitt nyhetsflöde. Inlägget visades cirka 20 000 gånger, delades cirka 100 gånger och fick närmare 600 reaktioner och fler än 100 kommentarer.

På fotot visas en gata med en sannolikt avliden person som ligger stilla på marken bredvid en omkullfallen cykel. Inga skador syns på bilden. Texten inleds med orden ”they wanted to repeat and repeated” (de ville upprepa, och upprepade). I inlägget kommenterar användaren påstådda brott som begicks av sovjetiska soldater under andra världskriget. Användaren menar att brotten ursäktades på grund av att soldaterna hämnades de fasansfulla handlingar som nazisterna hade begått i Sovjetunionen. Sedan görs en koppling mellan andra världskriget och invasionen av Ukraina och det hävdas att den ryska armén har ”blivit fascistisk”. I inlägget står det att den ryska armén i Ukraina ”rape[s] girls, wound[s] their fathers, torture[s] and kill[s] peaceful people” (våldtar flickor, skadar deras fäder, torterar och dödar fredliga människor). Det avslutas med ”after Bucha, Ukrainians will also want to repeat ... and will be able to repeat” (efter Butja kommer ukrainare också att vilja upprepa ... och kommer att kunna upprepa) sådana handlingar. I slutet av inlägget delar användaren utdrag ur dikten ”Döda honom!” av den sovjetiske poeten Konstantin Simonov, inklusive raderna: ”kill the fascist so he will lie on the ground’s backbone, not you”; “kill at least one of them as soon as you can”; “Kill him! Kill him! Kill!” (döda fascisten så att han och inte du ligger fallen till marken. Döda minst en av dem så snart du kan. Döda honom! Döda honom! Döda!).

Samma dag som innehållet publicerades anmälde en annan användare det som våldsamt och grovt innehåll. Baserat på ett beslut efter manuell granskning tog Meta bort innehållet för brott mot communityregeln om hatretorik. Några timmar senare överklagade användaren som hade publicerat innehållet och vid en andra granskning gjordes bedömningen att innehållet bröt mot samma communityregel.

Användaren överklagade beslutet till Tillsynsrådet. Till följd av att rådet valde ut överklagandet för granskning den 31 maj 2022 beslutade Meta att det föregående beslutet om att ta bort innehållet var felaktigt och innehållet återställdes. Den 23 juni 2022, 23 dagar efter det att innehållet hade återställts, införde Meta en varningsskärm för fotot i inlägget enligt communityregeln om våldsamt och grovt innehåll, baserat på att fotot visar en persons våldsamma dödsfall. Varningsskärmen har texten ”känsligt innehåll – det här fotot kan ha våldsamt eller grovt innehåll”, och användaren får två alternativ: ”ta reda på mer” och ”visa fotot”.

Följande faktabakgrund är relevant för rådets beslut och baseras på undersökningar som utförts för rådets räkning:

• Den ryska invasionen av Ukraina befanns vara olaglig av FN:s generalförsamling den 2 mars 2022 (A/RES/ES-11/1).
• Michelle Bachelet, FN:s högkommissarie för mänskliga rättigheter, uttryckte oro över ”allvarliga och oroande frågor gällande möjliga krigsbrott och allvarliga brott mot internationell humanitär rätt och internationell människorättslagstiftning” i Ukraina.
• I postsovjetisk kultur avser termen ”fascist” ofta de tyska nazisterna, särskilt i samband med andra världskriget. Definitionen av termen ”fascist” är emellertid inte längre direkt kopplad till de tyska nazisterna. I Ryssland och Ukraina har termens innebörd blivit mindre tydlig på grund av politiska diskussioner i vilka termen ”fascist” har använts för att stigmatisera politiska motparter oavsett ideologi.
• Den första meningen i användarens inlägg: ”They wanted to repeat and repeated” (de ville upprepa, och upprepade), är en referens till ”[w]e can repeat” (vi kan upprepa) en populär slogan på ryska som ibland används till att hänvisa till den sovjetiska segern över nazisterna under andra världskriget. Användaren anspelar vidare på denna slogan med frasen ”after Bucha, Ukrainians will also want to repeat... and will be able to repeat” (efter Butja kommer ukrainare också att vilja upprepa ... och kommer att kunna upprepa) den ryska arméns handlingar.

3. Tillsynsrådet: behörighet och omfång

Rådet har behörighet att granska Metas beslut efter ett överklagande från den användare vars innehåll har tagits bort (artikel 2, avsnitt 1 i stadgan, artikel 3, avsnitt 1 i regelverket) Rådet kan fastställa eller upphäva Metas beslut (stadgans artikel 3, avsnitt 5) och deras beslut är bindande för företaget (stadgans artikel 4). Meta måste dessutom utvärdera om det går att tillämpa beslutet på identiskt innehåll med liknande sammanhang (stadgans artikel 4). Rådets beslut kan innefatta uttalanden med råd om riktlinjer med icke-bindande rekommendationer som Meta måste svara på (stadgans artikel 3, avsnitt 4, artikel 4).

När rådet väljer ut ärenden som det här, där Meta håller med om att företaget gjort ett misstag, granskar rådet det ursprungliga beslutet för att hjälpa till att öka kunskapen om varför fel inträffar, samt för att tillhandahålla observationer eller rekommendationer som kan bidra till att minska antalet fel och ge mer rättvisa och transparenta förfaranden.

4. Källor som ligger till grund för beslutsfattandet

Tillsynsrådet utgick ifrån följande auktoriteter och regler i sitt beslut:

I. Tillsynsrådets beslut:

Några av de mest relevanta besluten som Tillsynsrådet har fattat tidigare är:

• Ärendet ”Tigray Communication Affairs Bureau” (2022-006-FB-MR). I det ärendet biföll rådet Metas beslut om att ta bort innehållet efter att, med beaktan tagen till användarens profil (ett regionalt regeringsdepartement), inläggets retorik (en uttrycklig uppmaning om att döda soldater som inte ger upp) och sidans räckvidd (cirka 260 000 följare), ha kommit till slutsatsen att det förelåg stor risk för att inlägget kunde ge upphov till ytterligare våldsamheter.
• Ärende gällande video med grovt innehåll från Sudan (2022-002-FB-MR). I det ärendet rekommenderade rådet att Meta: (i) justerar communityregeln om våldsamt och grovt innehåll så att den tillåter videor av människor eller döda kroppar när de delas i syfte att väcka medvetenhet om eller dokumentera brott mot mänskliga rättigheter, och (ii) inleder en policyutvecklingsprocess för att ta fram kriterier för identifiering av videor av människor eller döda kroppar när de delas i syfte att väcka medvetenhet om eller dokumentera brott mot mänskliga rättigheter.

II. Metas innehållspolicyer:

Enligt communityregeln om hatretorik tillåter Meta inte ”våldspropaganda” eller ”avhumaniserande” uttalanden som är riktade mot människor eller grupper baserat på deras skyddade egenskaper. I communityregeln står det att ”avhumaniserande uttalanden” inkluderar ”jämförelser, generaliseringar eller okvalificerade påståenden om beteenden, med eller om ... vålds- och sexualbrottslingar”. Regeln gäller uttryckligen inte för kvalificerade påståenden om beteenden. Grupper som beskrivs som ”har begått våldsbrott eller sexualbrott” skyddas inte från angrepp enligt regeln om hatretorik.

Enligt communityregeln om våld och uppvigling tillåter Meta inte ”hot som kan leda till dödsfall (och andra former av allvarligt våld)” där ”hot” bland annat definieras som ”uppmaningar till allvarliga våldshandlingar” och ”uttalanden som förespråkar allvarliga våldshandlingar”. I Metas interna vägledning för innehållsgranskare förtydligas det att företaget tolkar regeln som att den tillåter innehåll som innehåller uttalanden med ”neutrala referenser till ett möjligt resultat av en handling eller en välmenad varning”.

Enligt communityregeln om våldsamt och grovt innehåll ska ”bilder som visar en eller flera personer som omkommer på ett våldsamt sätt genom olycka eller mord” täckas med en varningsskärm.

III. Metas värderingar:

I introduktionen till communityreglerna beskriver Meta Facebooks värderingar Röst, Värdighet och Säkerhet, bland andra. Det här beslutet hänvisar till de värderingarna om och i den utsträckning de är relevanta för beslutet.

IV. De internationella normerna för mänskliga rättigheter:

FN:s vägledande principer för företag och mänskliga rättigheter (UNGP), som bifölls av FN:s råd för mänskliga rättigheter år 2011, utgör ett frivilligt ramverk för privata företags ansvar gällande mänskliga rättigheter. År 2021 presenterade Meta sin företagspolicy avseende mänskliga rättigheter som bekräftar företagets strävan att respektera de mänskliga rättigheterna i enlighet med UNGP-principerna. Rådets analys av Metas ansvar i fråga om mänskliga rättigheter i det här ärendet utgår ifrån följande normer för mänskliga rättigheter:

• Rätten till åsikts- och yttrandefrihet: artikel 19, FN:s konvention om medborgerliga och politiska rättigheter (ICCPR), allmän kommentar nr 34, FN:s kommitté för mänskliga rättigheter, 2011, följande rapporter från FN:s specialrapportör för åsikts- och yttrandefrihet: A/HRC/38/35 (2018), A/74/486 (2019) och A/HRC/44/49/Add.2 (2020), följande rapport från FN:s högkommissarie för mänskliga rättigheter: A/HRC/22/17/Add.4 (2013).
• Jämlikhet och likabehandling: artikel 2, paragraf 1 (ICCPR).
• Rätten till fysisk säkerhet: artikel 9 (ICCPR).
• Rätten till liv: artikel 6 (ICCPR).

5. Framställningar från användaren

I sitt överklagande till rådet hävdar användaren att bilden som delades är den ”most innocuous” (mest ofarliga) av de bilder som dokumenterar ”crimes of the Russian army in the city of Bucha” (den ryska arméns brott i staden Butja), ”where dozens of dead civilians lie on the streets” (där dussintals civila ligger på gatorna). Användaren säger att inlägget inte uppmanar till våld och att det handlar om ”past history and the present” (historien och nutiden). Användaren säger att dikten ursprungligen dedikerades till ”the struggle of Soviet soldiers against the Nazis” (de sovjetiska soldaternas kamp mot nazisterna) och att hen publicerade inlägget för att visa hur ”the Russian army became an analogue of the fascist army” (den ryska armen blev en motsvarighet till fascistarmén). Som en del av överklagandet uppger sig användaren vara journalist och anser att det är viktigt för människor att förstå vad som händer, framför allt i krigstid.

6. Metas framställningar

I den motivering Meta tillhandahöll rådet analyserade företaget innehållet i ärendet utifrån tre olika regler och började med den om hatretorik. Meta fokuserade på varför företaget återställt sitt ursprungliga beslut snarare än på att förklara vad det ursprungliga beslutet baserades på. Enligt Meta är det inte ett angrepp enligt regeln om hatretorik att hävda att ryska soldater begått brott i samband med konflikten mellan Ryssland och Ukraina, eftersom ”kvalificerade påståenden om beteenden” är tillåtna på plattformen. Meta förklarade också att fascism är en politisk ideologi, och att bara koppla den ryska armén till en viss politisk ideologi inte utgör ett angrepp eftersom ”den ryska armén är en institution och därför inte en grupp eller undergrupp skyddade egenskaper som omfattas av policyn om hatretorik (i jämförelse med ryska soldater, som är människor)”. Slutligen angav Meta att de olika utdragen ur dikten ”Döda honom!” som citeras i inläggets text (”kill a fascist”, ”kill at least one of them” och ”kill him!” (döda en fascist, döda åtminstone en av dem och döda honom)) avser nazister i samband med andra världskriget, och att nazister inte är en skyddad grupp.

Meta analyserade också inlägget utifrån regeln om våld och uppvigling. I det hänseendet förklarade Meta att uttalandet ”Ukrainians will also want to repeat… and will be able to repeat” (ukrainarna kommer också att vilja upprepa ... och kommer att kunna upprepa) inte är ett förespråkande av våld. Meta hävdade att det är en ”neutral referens till ett möjligt resultat”, vilket företaget tolkar som tillåtet enligt communityregeln om våld och uppvigling. Meta menade också att citaten ur Simonovs dikt var ett sätt att väcka medvetenhet om risken för att historien ska upprepa sig i Ukraina. Slutligen förklarade företaget att det är tillåtet att förespråka våld mot personer som omfattas av policyn om farliga individer och organisationer, till exempel nazister (vilka betecknas ”fascister” i Simonovs dikt), enligt communityregeln om våld och uppvigling.

Meta förklarade sedan att en varningsskärm och lämpliga åldersbegränsningar införts för inlägget enligt policyn om våldsamt och grovt innehåll eftersom bilden i innehållet visade en persons våldsamma dödsfall. Meta bekräftade att bilden avbildar en person som sköts i Butja i Ukraina.

Till svar på rådets frågor gav Meta mer information om initiativ företaget tagit fram i samband med konflikten i Ukraina. Meta bekräftade emellertid att inga av dessa initiativ hade relevans för det inledande borttagandet av innehållet i ärendet eller beslutet att återställa det med en varningsskärm. Företaget tillade att det hade vidtagit flera åtgärder i enlighet med FN:s vägledande principer om företag och mänskliga rättigheter för att säkerställa tillbörlig aktsamhet i konflikttider. Bland dessa åtgärder ingick samspel med det ukrainska och ryska civilsamhället och med rysk oberoende press i hopp om att få feedback om effekterna av de åtgärder som Meta införde i början av konflikten.

Rådet ställde elva frågor till Meta och Meta besvarade dem alla fullständigt.

7. Kommentarer från allmänheten

Tillsynsrådet har mottagit åtta kommentarer från allmänheten med koppling till det här ärendet. Tre av kommentarerna kom från Europa, fyra från USA och Kanada och en från Latinamerika och Karibien. Kommentarerna berörde följande ämnen: internationell väpnad konflikt, sammanhangets betydelse i innehållsmodereringen, journalisternas roll i konfliktsituationer, dokumentation av krigsbrott och konstnärligt uttryck.

Om du vill läsa de kommentarer som har skickats in från allmänheten gällande ärendet klickar du här.

8. Tillsynsrådets analys

Rådet undersökte först om innehållet var godtagbart enligt Metas innehållspolicyer, vid behov tolkade utifrån plattformens värderingar, och bedömde sedan huruvida behandlingen av innehållet var förenligt med företagets ansvar gällande mänskliga rättigheter.

Ärendet valdes ut av rådet eftersom borttagandet av inlägget väckte viktiga frågor om hur användning av konstnärliga uttryck och kulturella referenser på nya sätt i nya sammanhang kan riskera att hetsa till våld i konfliktsituationer. Onlineutrymmen där människor kan uttrycka sig och kommunicera är särskilt viktiga för människor som berörs av krig, och företag inom sociala medier måste vara särskilt noga med att skydda deras rättigheter. Det här ärendet visar på hur underlåtenheten att beakta sammanhanget i analysen, vilket är vanligt förekommande i storskalig innehållsmoderering, kan hindra användare från att uttrycka åsikter om konflikter och dra provokativa historiska paralleller.

8.1 Efterlevnad av Metas policyer för innehåll

Rådet finner att innehållet i ärendet inte bryter mot communityreglerna om hatretorik och om våld och uppvigling. En majoritet av rådet anser att innehållet inte bryter mot communityregeln om våldsamt och grovt innehåll.

I. Hatretorik

Metas policy om hatretorik förbjuder angrepp mot människor baserade på skyddade egenskaper, däribland nationalitet. Yrken omfattas av ”visst skydd” när de refereras ihop med en skyddad egenskap. Företagets interna vägledning för moderatorer förtydligar ytterligare att ”delvis skyddade undergrupper”, inklusive grupper som definieras av en skyddad egenskap i kombination med ett yrke (till exempel ryska soldater), i allmänhet har rätt till skydd mot hatretorikangrepp på nivå 1. Sådana angrepp inkluderar bland annat ”våldspropaganda” och “avhumaniserande uttalanden ... i form av jämförelser, generaliseringar eller okvalificerade påståenden om beteenden, med eller om ... vålds- och sexualbrottslingar”. Metas policy om hatretorik ger inte skydd för ”grupper som beskrivs som att de har begått våldsbrott eller sexualbrott”.

Allmänna påståenden om att ryska soldater har en benägenhet att begå brott skulle, beroende på innehållet och sammanhanget, kunna bryta mot Metas policy om hatretorik. Sådana uttalanden skulle kunna omfattas av policyns förbud mot ”avhumaniserande uttalanden” i form av ”okvalificerade påståenden om beteenden”. Metas policy skiljer mellan: (i) att tillskriva en grupp dåliga egenskaper eller oönskade personlighetsdrag baserat på dess etniska tillhörighet, nationella härkomst eller andra skyddade egenskaper (det är det här Meta avser med ”generaliseringar”), (ii) kritik mot medlemmar i en grupp utan sammanhang (det Meta avser med ”okvalificerade påståenden om beteenden”), och (iii) kritik mot medlemmar i en grupp för deras tidigare beteende (det Meta avser med ”kvalificerade påståenden om beteenden”). I det här ärendet görs uttalandena om de invaderande ryska soldaterna utifrån deras handlingar under konflikten i Ukraina, och inte i allmänhet.

Frågan här gäller huruvida användarens jämförelse mellan de ryska soldaterna och andra världskrigets tyska nazister och påståendet om att de våldtog kvinnor, dödade deras fäder och dödade och torterade oskyldiga, bröt mot Metas policy om hatretorik. Både Meta och rådet har slagit fast att inlägget inte utgör våldspropaganda eller avhumaniserade uttalanden enligt policyn om hatretorik, men av olika orsaker. Det är den enda del av policyn om hatretorik som har identifierats som relevant för inlägget.

Meta hävdar att inlägget inte bryter mot regeln eftersom de anklagande uttalandena är riktade mot den ryska armén, vilket är en institution, och inte mot de ryska soldaterna, som är människor. Rådet anser att den distinktionen inte håller eftersom användaren hänvisar till ”armé” och ”soldater” utan att göra skillnad på dem.

Rådet anser ändå att användarens anklagelse om att ryska soldater begått brott som kan jämföras med nazisternas i samband med Rysslands invasion av Ukraina är tillåten. Så är fallet i och med att tillskrivandet av specifika handlingar, till exempel ”they began to really take revenge – rape girls, cut their fathers, torture and kill peaceful people of peaceful outskirts Kyiv” (de började verkligen hämnas – våldta kvinnor, knivhugga deras fäder, tortera och döda fredliga människor i de rofyllda utkanterna av Kiev) och att jämföra ryska soldaters handlingar i Ukraina med andra arméer som har begått krigsbrott, till exempel med ”the Russian army, after 70 år, completely repeated itself in Germany and the German [army] in Ukraine” (den ryska armén, upprepade efter 70 år helt det den gjort i Tyskland och det den tyska [armén] gjort i Ukraina) är ”kvalificerade” uttalanden gällande handlingar som observerats under en specifik konflikt.

Därför anser rådet att det enligt communityreglerna är tillåtet att jämföra ryska soldaters handlingar inom en bestämd kontext med nazisternas brott, oavsett om det är tillåtet eller inte att göra allmänna jämförelser med nazisterna. Enligt Metas interna vägledning bryter inte material som annars kan utgöra hatretorik mot policyn, om det är riktat mot grupper som ”beskrivs som att de har begått våldsbrott eller sexualbrott”. På ett bredare plan bryter det inte mot policyn om hatretorik att rapportera förekomster av brott mot mänskliga rättigheter i ett bestämt sammanhang, även om personer identifieras med hänvisningar till deras nationella härkomst.

Rådet finner vidare att de olika utdragen ur dikten ”Döda honom!” som citeras i innehållet (till exempel ””kill a fascist”, ”kill at least one of them” och ”kill him!” (döda en fascist, döda åtminstone en av dem och döda honom)) inte ska anses vara våldspropaganda i och med att de när de läses ihop med resten av inlägget, enligt rådet riktar uppmärksamhet mot en våldscykel, snarare än uppmanar till våld.

Slutligen bedömer rådet att ryska soldater angrips i inlägget på grund av deras roll som stridande och inte för deras nationalitet. Påståendena är inte angrepp mot en grupp baserat på gruppens skyddade egenskaper. Innehållet är således inte hatretorik eftersom inga skyddade egenskaper omfattas.

II. Våld och uppvigling

Enligt policyn om våld och uppvigling tar Meta bort ”uppmaningar till allvarliga våldshandlingar”, ”uttalanden som förespråkar allvarliga våldshandlingar” och ”långtgående eller hotfulla uttalanden om att utföra våldshandlingar” bland andra typer av uttalanden. I företagets interna vägledning för moderatorer förtydligas ytterligare att Meta tolkar communityregeln som att den tillåter uttalanden med ”neutrala referenser till ett möjligt resultat av en handling eller en välmenad varning”. I den interna vägledningen förklaras det dessutom att ”innehåll som fördömer eller väcker medvetenhet om våldsamma hot” också är tillåtet enligt policyn om våld och uppvigling. Det gäller för innehåll som ”tydligt syftar till att informera andra om ett visst ämne eller problem, eller innehåll som handlar om en persons egna erfarenhet av att vara utsatt för hot eller våld”, inklusive akademiska rapporter och medierapporter.

Meta förklarade för rådet att de bestämde sig för att återställa innehållet eftersom inlägget inte förespråkade våld. Meta betecknar användarens uttalande ”Ukrainians will also want to repeat … and will be able to repeat” (ukrainare kommer också att vilja upprepa ... och kommer att kunna upprepa) efter händelserna i Butja som en ”neutral referens till ett möjligt resultat”, vilket företaget tolkar som tillåtet enligt regeln om våld och uppvigling. Meta menar också att citaten ur Simonovs dikt var ett sätt att väcka medvetenhet om risken för att historien ska upprepa sig i Ukraina. Slutligen förklarar företaget, med hänvisning till att Simonovs dikt är riktad mot tyska fascister, att det är tillåtet att förespråka våld mot personer som omfattas av policyn om farliga individer och organisationer, till exempel nazister, enligt communityregeln om våld och uppvigling.

Rådet håller delvis med om det resonemanget. Rådet håller med om att meningen ”Ukrainians will also want to repeat... and will be able to repeat” (ukrainare kommer också att vilja upprepa ... och kommer att kunna upprepa) varken uppmanar till eller förespråkar våld. Läst ordagrant konstateras det bara i den här delen av inlägget att ukrainarna mycket väl kan reagera lika våldsamt på den ryska arméns handlingar som sovjeterna gjorde på nazisternas. Det är med andra ord en ”neutral referens till ett möjligt resultat” som tillåts enligt Metas tolkning av regeln om våld och uppvigling, vilket förtydligas i den interna vägledning för innehållsmoderatorer.

Rådet anser också att de utdrag med våldsinnehåll ur dikten ”Döda honom!” som citeras i avsnittet ovan, kan läsas som en beskrivning av, och inte en uppmuntran till, ett sinnestillstånd. När de läses ihop med resten av inlägget, inklusive fotografiet, är utdragen en del av ett bredare meddelande som varnar för risken för att historien ska upprepa sig i Ukraina. De är en konstnärlig och kulturell referens som används retoriskt för att föra fram ett meddelande. Därför kommer rådet till slutsatsen att den här delen av innehållet också är tillåten enligt Metas interna vägledning.

Rådet anser emellertid att Metas analys av inlägget som att det enbart är en uppmaning till våld mot nazister är orealistisk. Användaren är tydlig med att denna anser att de ryska soldaterna i Ukraina idag visar släktskap med tyskarna i Ryssland under andra världskriget. I den utsträckning inlägget, med dess citat ur Simonovs dikt, kan anses handla om soldater som idag begår grymheter mot civila, finns det risk för att läsarna ska tolka det som en uppmaning till våld mot ryska soldater idag. Rådet håller ändå med om Metas slutsats att inlägget inte bryter mot communityregeln om våld och uppvigling eftersom dess primära innebörd, i sitt sammanhang, är en varning för en våldscykel.

III. Våldsamt och grovt innehåll

Enligt innehållspolicyn om våldsamt och grovt innehåll lägger Meta till varningsskärmar för innehåll ”så att människor är medvetna om det grova eller våldsamma innehållet innan de klickar för att se det”. Det gäller för ”bilder som visar en eller flera personer som omkommer på ett våldsamt sätt genom olycka eller mord”. I sin interna vägledning för innehållsmoderatorer beskriver Meta ”indikatorer på ett våldsamt dödsfall” som grova bilder av ”efterverkningarna av ett våldsamt dödsfall där offret förefaller vara död eller är synligt neutraliserad och det finns ytterligare visuella indikatorer på våld” som ”blod eller skador på kroppen, blod som omger offret, en uppsvälld eller missfärgad kropp, eller kroppar som avtäcks bland rasmassor”. I den interna vägledningen anges vidare att kroppar utan ”några synliga indikatorer på våldsamt dödsfall” eller utan ”åtminstone en indikator på våld” inte ska anses återge ett ”våldsamt dödsfall”.

På bilden i innehållet visas en gata med en person som ligger stilla på marken. Inga skador syns på bilden. Meta kunde bekräfta att personen sköts i Butja i Ukraina. Rådet noterar att innehållsmoderatorer som arbetar med storskalig moderering inte nödvändigtvis har tillgång till den typen av information. En majoritet av rådet anser att innehållet inte bryter mot communityregeln om våldsamt och grovt innehåll eftersom fotografiet inte innehåller tydliga synliga indikatorer på våld enligt beskrivningen i Metas interna vägledning för innehållsmoderatorer. Därför anser majoriteten att ingen varningsskärm skulle ha införts.

Med tanke på kontexten med väpnad konflikt i Ukraina och det skräp som avbildas i bilden, anser en minoritet av rådet att innehållet bryter mot communityregeln om våldsamt och grovt innehåll.

IV. Verkställighetsåtgärder

Innehållet anmäldes av en användare för brott mot regeln om våldsamt och grovt innehåll, men togs bort för brott mot regeln om hatretorik. Det återställdes först efter det att rådet uppmärksammat Meta om ärendet. Till svar på rådets frågor förklarade Meta att ärendets innehåll inte hade eskalerats för ytterligare granskning av policy- eller ämnesexperter. När innehåll ”eskaleras för granskning" innebär det att istället för att beslutet granskas på nytt av innehållsmoderatorer som genomför storskalig granskning, så skickas det till ett internt team hos Meta som ansvarar för relevant policy eller ämnesområde.

8.2 Efterlevnad av Metas värderingar

Rådet finner att borttagandet av innehållet och placeringen av en varningsskärm över bilden i inlägget inte är förenligt med Metas värderingar.

Rådet ser allvarligt på situationen för ryska civilpersoner och de möjliga effekterna av våldspropaganda på ryssar i allmänhet. I det här ärendet finner rådet emellertid att innehållet inte medför en reell risk för de personernas värdighet och säkerhet, vilket skulle motivera ett åsidosättande av värderingen Röst. Detta särskilt i en kontext där Meta bör säkerställa att användare som påverkas av krig ska kunna diskutera vad det medför.

8.3 Efterlevnad av Metas ansvar för mänskliga rättigheter

Rådet finner att både Metas inledande beslut att ta bort innehållet och Metas påföljande beslut om att lägga till en varningsskärm för innehållet var oförenliga med Metas ansvar som företag gällande mänskliga rättigheter. Meta har förbundit sig att respektera mänskliga rättigheter enligt FN:s vägledande principer om företag och mänskliga rättigheter (UNGPs). I Facebooks företagspolicy avseende mänskliga rättigheter uppges att policyn innefattar konventionen om medborgerliga och politiska rättigheter (ICCPR).

Yttrandefrihet (artikel 19 ICCPR)

Omfattningen av rätten till yttrandefrihet är bred. Artikel 19, paragraf 2 i ICCPR ger utökat skydd för uttryck, inklusive konstnärliga uttryck, och kommentarer om politiska frågor och offentliga angelägenheter, samt för diskussioner om mänskliga rättigheter och historiska anspråk (allmän kommentar nr 34, paragraf 11 och 49). Till och med uttryck som kan anses vara ”djupt kränkande” har rätt till skydd (allmän kommentar nr 34, paragraf 11). I innehållet som analyserats av rådet i det här ärendet förekommer hårda uttalanden. De är emellertid en del av en politisk diskurs och riktar uppmärksamheten mot brott mot mänskliga rättigheter i en krigskontext.

Innehållet i ärendet innehåller citat ur en välkänd krigsdikt som användes som en provokativ kulturell referens för att informera och varna åhörarna för de möjliga konsekvenserna av ryska soldaters handlingar i Ukraina. FN:s specialrapportör om FN:s specialrapportör för åsikts- och yttrandefrihet har betonat att konstnärligt uttryck omfattar ”fiktiva och faktabaserade berättelser som utbildar, förnöjer eller provocerar” (A/HRC/44/49/Add.2, paragraf 5).

Enligt artikel 19 i ICCPR krävs att åtgärden uppfyller kraven på laglighet, berättigat ändamål, nödvändighet och proportionalitet när en stat begränsar yttrandefriheten (artikel 19, paragraf 3, ICCPR). FN:s specialrapportör för åsikts- och yttrandefrihet har uppmanat företag verksamma inom sociala medier att låta sig vägledas av dessa principer när de modererar uttryck online (A/HRC/38/35, paragraf 45 och 70).

I. Laglighet (reglernas tydlighet och tillgänglighet)

Laglighetsprincipen kräver att regler som stater använder till att begränsa yttrandefriheten ska vara tydliga och tillgängliga (allmän kommentar nr 34, paragraf 25). FN:s kommitté för mänskliga rättigheter har vidare noterat att regler ”inte får ge dem som ska genomföra [reglerna] obegränsade möjligheter att begränsa rätten att uttrycka sig” (allmän kommentar 34, paragraf 25). Individer måste få tillräcklig information för att kunna avgöra om och hur mycket deras yttranden kan komma att begränsas, så att de kan anpassa sitt beteende därefter. Om detta tillämpas på Metas innehållsregler för Facebook ska användarna kunna förstå vad som är tillåtet och vad som är förbjudet.

Två avsnitt i Metas interna vägledning om hur communityregeln om våld och uppvigling ska verkställas har särskild relevans för den slutsats både Meta och rådet dragit om att innehållet bör tillåtas på Facebook. Det första anger att meddelanden som varnar för möjligheten för våld från tredje part tillåts enligt Metas tolkning av regeln om de är uttalanden med ”neutral referens till ett möjligt resultat av en handling eller en välmenad varning”. Enligt det andra tillåts innehåll som annars hade brutit mot reglerna om det ”fördömer eller väcker medvetenhet om våldsamma hot”. Rådet noterar emellertid att denna interna vägledning inte finns med i den offentligt publicerade communityregeln om våld och uppvigling. Det kan få användarna att tro att innehåll som det i inlägget i ärendet skulle bryta mot reglerna när så inte är fallet. Meta bör införa dessa avsnitt i den offentligt publicerade communityregeln om våld och uppvigling så att det blir tillräckligt tydligt för användarna. Rådet är medvetna om att man genom att publicera mer information i Metas innehållspolicyer kan göra det möjligt för användare med illasinnade avsikter att enklare kringgå communityreglerna. Rådet anser emellertid att behovet av tydlighet och specifik information väger tyngre än risken för att vissa användare kan försöka ”äventyra systemet”. Om användarna inte är medvetna om att det är tillåtet att använda ”neutrala referenser till ett möjligt resultat”, ”välmenade varningar” och att ”fördöma” eller ”väcka medvetenhet” om våldsamma hot, kan det göra att de undviker att inleda eller delta i diskussioner om offentliga angelägenheter på Metas plattformar.

Rådet bekymras också av att Metas beslut att införa en varningsskärm i ärendet är oförenligt med företagets interna vägledning för innehållsmoderatorer. Dessutom är Metas tolkning av communityregeln om våldsamt och grovt innehåll kanske inte helt tydlig för användarna. Meta bör, i den offentligt publicerade regeltexten, förtydliga hur företaget tolkar regeln och hur företaget fastställer huruvida en bild ”visar en eller flera personer som omkommer på ett våldsamt sätt genom olycka eller mord” i samband med en konflikt. Detta i enlighet med Metas interna vägledning för innehållsmoderatorer.

Vidare informerade Meta rådet om att inget meddelande skickades till den användare som ursprungligen anmälde innehållet för att informera denna om att inlägget senare återställdes av företaget. Det väcker frågor kring laglighet i och med att bristen på relevant information för användare kan störa ”den enskilda individens förmåga att ifrågasätta innehållsåtgärder eller följa upp innehållsrelaterade klagomål” (A/HCR/38/35, paragraf 58). Rådet noterar att om anmälare meddelades om de verkställighetsåtgärder som vidtagits mot det innehåll de anmält och om den relevanta communityregel som verkställts, skulle det hjälpa användarna att förstå och kunna följa Metas regler bättre.

II. Berättigat ändamål

Alla begränsningar av yttrandefriheten bör också eftersträva ett ”berättigat ändamål”. Rådet har tidigare bekräftat att communityregeln om hatretorik har det berättigade ändamålet att skydda andras rättigheter (allmän kommentar nr 34, paragraf 28), inklusive rätten till jämlikhet och likabehandling baserat på etnisk tillhörighet och nationellt ursprung (artikel 2, paragraf 1, ICCPR). Det är därför ett berättigat ändamål att skydda ryssar som utsätts för hat. Rådet anser dock inte att det är ett berättigat ändamål att skydda ”soldater” från anklagelser om överträdelser när de angrips på grund av sin roll som stridande i ett krig och inte på grund av nationalitet eller någon annan skyddad egenskap. Kritik mot institutioner som armén ska inte förbjudas (allmän kommentar nr 34, paragraf 38).

När communityregeln om våld och uppvigling tillämpas på rätt sätt och i rätt sammanhang har den det berättigade ändamålet att skydda andras rättigheter. I kontexten för det här ärendet syftar regeln till att förhindra att våldsamheterna eskaleras, vilket hade kunnat leda till risker för den fysiska säkerheten (artikel 9, ICCPR) och livet (artikel 6, ICCPR) för människorna i de områden som berörs av konflikten mellan Ryssland och Ukraina.

Rådet noterar att det finns ytterligare komplikationer i att bedöma våldspropaganda i samband med väpnat motstånd mot en invasion. Den ryska invasionen av Ukraina har internationellt befunnits vara olaglig (A/RES/ES-11/1) och det är tillåtet att använda våld i försvar mot sådana aggressionshandlingar (artikel 51, FN:s stadga). I samband med en internationell väpnad konflikt tillåts det enligt internationell människorättslagstiftning lagliga angrepp på aktivt stridande gällande de stridande parternas handlingar. Det här gäller inte för personer som inte längre har en aktiv roll i fientligheterna, inklusive krigsfångar (artikel 3, Genèvekonventionen gällande behandlingen av krigsfångar). När våld i sig är tillåtet enligt internationell lagstiftning, omfattas uttalanden som förespråkar sådant våld av andra överväganden som måste undersökas separat. Även om rådet har funnit att innehållet i ärendet inte bryter mot policyerna uppmanar rådet Meta att justera dem så att de även beaktar omständigheterna kring ett olagligt militärt ingripande.

När det gäller företagets beslut att fästa en varningsskärm vid fotografiet menar Meta att communityregeln om våldsamt och grovt innehåll syftar till att främja en miljö som uppmuntrar till mångfald och deltagande genom att begränsa ”innehåll som glorifierar våld eller hyllar andras lidande eller förnedring”. Rådet håller med om att denna målsättning är berättigad i förhållande till Metas målsättning att främja en inkluderande plattform.

III. Nödvändighet och proportionalitet

Enligt principen om nödvändighet och proportionalitet gäller att begränsningar av yttrandefriheten måste vara lämpliga för att uppnå sin skyddande funktion. De måste vara det minst inskränkande alternativet av de som skulle kunna användas för att uppnå den skyddande funktionen och de måste vara proportionerliga i förhållande till det intresse som ska skyddas (allmän kommentar 34, paragraf 34).

I utvärderingen av de risker som våldsamt och hatiskt innehåll ger upphov till, förlitar sig rådet vanligen på de sex faktorer som beskrivs i Rabat Plan of Action för hantering av förespråkande av nationellt, rasistiskt och religiöst hat som utgör uppvigling till fientligheter, diskriminering eller våld. I det här ärendet anser rådet att det är osannolikt att inlägget – en varning mot en våldscykel – skulle leda till skada trots kontexten med en pågående väpnad konflikt och de laddade kulturella referenser användaren använder sig av. Rådet slår fast att det inledande borttagandet av innehållet inte var nödvändigt. Vidare anser en majoritet av rådet att varningsskärmen inte heller var nödvändig, medan en minoritet av rådet anser att den både var nödvändig och proportionerlig.

Med beaktan av de relevanta faktorerna i ärendet slår rådet fast att trots kontexten med Rysslands olagliga invasion av Ukraina i vilken hätska uttalanden skulle kunna ge upphov till ökad spänning, gör användarens uppenbara avsikt (väcka medvetenhet kring kriget och dess konsekvenser), den reflekterande ton som används i och med citaten ur en krigsdikt och förekomsten av annan kommunikation gällande de förskräckliga händelserna i Ukraina, att innehållet inte med sannolikhet skulle kunna bidra nämnvärt till att förvärra våldsamheterna.

En majoritet av rådet finner att användningen av en varningsskärm inskränker yttrandefriheten och inte är en nödvändig åtgärd i det här fallet eftersom fotografiet inte innehåller tydliga visuella indikatorer på våld enligt beskrivningen i Metas interna vägledning för innehållsmoderatorer, vilket skulle rättfärdiga användningen av en varningsskärm. Företag verksamma inom sociala medier bör överväga ett flertal möjliga sätt att agera på problematiskt innehåll för att se till att begränsningar är snävt utformade (A/74/486, paragraf 51). I det avseendet anser rådet att Meta bör vidareutveckla verktyg för anpassning så att användarna kan bestämma om de vill se känsligt våldsamt innehåll med eller utan varningar på Facebook och Instagram.

En minoritet av rådet anser att varningsskärmen var en nödvändig och proportionerlig åtgärd som var lämpligt utformad för att uppmuntra till deltagande och yttrandefrihet. Med hänsyn till värdigheten för avlidna personer anser denna minoritet att Meta kan välja att vara extra försiktiga och lägga varningsskärmar över innehåll som det som analyseras. Detta särskilt i samband med en väpnad konflikt och med tanke på de möjliga effekter bilder som avbildar dödsfall och våldsamheter kan ha på ett stort antal användare.

9. Tillsynsrådets beslut

Tillsynsrådet upphäver Metas ursprungliga beslut att ta bort innehållet, och Metas påföljande bedömning att bilden i inlägget bröt mot communityregeln om våldsamt och grovt innehåll, vilket ledde till att företaget placerade en varningsskärm över fotografiet i inlägget.

10. Uttalande med råd om riktlinjer

Innehållspolicy

1. Meta bör lägga till information i den offentligt publicerade communityregeln om våld och uppvigling om att regeln enligt företagets tolkning tillåter innehåll som innehåller uttalanden med en ”neutral referens till ett möjligt resultat av en handling eller en välmenad varning” och innehåll som ”fördömer eller väcker medvetenhet om våldsamma hot”. Rådet förväntar sig att Meta, om företaget följer rekommendationen, måste uppdatera den offentligt publicerade communityregeln om våld och uppvigling så att den återspeglar dessa tillägg.

2. Meta bör lägga till information i den offentligt publicerade communityregeln om våldsamt och grovt innehåll från sin interna vägledning om hur företaget avgör om en bild ”visar en eller flera personer som omkommer på ett våldsamt sätt genom olycka eller mord”. Rådet förväntar sig att Meta, om företaget följer rekommendationen, måste uppdatera den offentligt publicerade communityregeln om våldsamt och grovt innehåll så att den återspeglar detta tillägg.

Verkställighet

3. Meta bör utvärdera möjligheten att införa verktyg för anpassning med vilka användare som är äldre än 18 år kan avgöra huruvida de vill se känsligt grovt innehåll med eller utan varningsskärmar på Facebook and Instagram. Rådet förväntar sig att Meta, om företaget följer rekommendationen, måste publicera resultaten av en utvärdering av genomförbarhet.

* Procedurmässig notering:

Tillsynsrådets beslut utarbetas av en panel bestående av fem medlemmar och godkänns av en majoritet av rådet. Rådets beslut återspeglar inte nödvändigtvis alla medlemmars personliga åsikter.

Inför beslutet i det här ärendet genomfördes oberoende efterforskningar på uppdrag av rådet. Rådet bistods av ett oberoende forskningsinstitut som utgår från Göteborgs universitet, med ett team bestående av över 50 samhällsvetare på sex kontinenter och över 3 200 nationella experter från hela världen. Rådet bistods också av Duco Advisors, en konsultfirma med inriktning på skärningspunkten mellan geopolitik, förtroende och säkerhet och teknik. Företaget Lionbridge Technologies LLC, vars specialister talar fler än 350 språk flytande och jobbar från 5 000 städer världen över, tillhandahöll lingvistisk expertis.