Russisk dikt

Denne avgjørelsen er også tilgjengelig på russisk (via «språk»-fanen, som du får tilgang til via menyen øverst på denne skjermen), på latvisk (her), og på ukrainsk (her).

Lai iepazītos ar lēmumu latviski, spied šeit.

Щоб прочитати це рішення українською мовою, натисніть тут.

Sakssammendrag

Tilsynsrådet har omgjort Metas opprinnelige beslutning om å fjerne et Facebook-innlegg som sammenligner den russiske hæren i Ukraina med nazistene og siterer et dikt som oppfordrer til å drepe fascister. Det har også opphevet Metas beslutning om at et bilde av det som ser ut til å være en død person i det samme innlegget bryter med retningslinjene om voldelig og inntrykkssterkt innhold. Meta hadde merket bildet med en advarsel, med den begrunnelse at det brøt med retningslinjene. Denne saken peker på viktige spørsmål om innholdsmoderering i konfliktsituasjoner.

Om saken

I april 2022 la en Facebook-bruker i Latvia ut et bilde av det som så ut til å være en død person som lå med ansiktet ned i en gate. Ingen sår eller skader er synlige. Meta bekreftet overfor rådet at personen ble skutt i Bucha (Ukraina).

Den russiske teksten som fulgte med bildet argumenterer for at de påståtte grusomhetene som sovjetiske soldater begikk i Tyskland under andre verdenskrig kunne unnskyldes på grunnlag av at de hevnet forbrytelsene som nazistiske soldater hadde begått i Sovjetunionen. Den trekker en forbindelse mellom den nazistiske hæren og den russiske hæren i Ukraina, og sier at den russiske hæren «ble fascistisk.»

Innlegget nevner påståtte grusomheter begått av den russiske hæren i Ukraina og sier at «etter Bucha vil ukrainere også ønske å gjengjelde ... og vil kunne gjengjelde.» Avslutningsvis siteres diktet «Drep ham!» av den sovjetiske poeten Konstantin Simonov, som blant annet inneholder ordene: «Drep fascisten ... Drep ham! Drep ham! Drep!»

Innlegget ble rapportert av en annen Facebook-bruker og fjernet av Meta for brudd på standarden om hatefulle ytringer. Etter at rådet valgte å se på saken, besluttet Meta at de feilaktig hadde fjernet innlegget og gjenopprettet det. Tre uker senere la de ut en advarsel på bildet, i henhold til retningslinjene om voldelig og inntrykkssterkt innhold.

Viktige funn

Rådet mener at fjerningen av innlegget, og senere bruken av advarsel, ikke stemmer overens med Facebooks standarder, Metas verdier eller selskapets menneskerettighetsansvar.

Rådet har funnet at innlegget ikke kommer med generelle beskyldninger om at «russiske soldater er nazister», men argumenterer for at de opptrådte som nazister på en bestemt tid og sted, og trekker historiske paralleller. Innlegget retter seg også mot russiske soldater på grunn av rollen deres som stridende, ikke på grunn av nasjonaliteten deres. I denne sammenhengen beskytter hverken Metas menneskerettighetsansvar eller standarden om hatefulle ytringer soldater mot påstander om grove forseelser og forhindrer ikke provoserende sammenligninger mellom handlingene deres og tidligere hendelser.

Rådet understreker betydningen av kontekst for å vurdere om innhold oppfordrer til vold. I dette tilfellet mener rådet at sitatene fra diktet «Drep ham!» er en kunstnerisk og kulturell referanse som brukes som et retorisk virkemiddel. Lest i konteksten man ser hvis man vurderer hele innlegget, mener rådet at sitatene brukes til å beskrive, snarere enn å oppmuntre til, en sinnstilstand. Det advares om voldssykluser og potensialet for at historien kan gjenta seg i Ukraina.

Metas interne veiledning for moderatorer klargjør at selskapet tolker standarden om vold og oppfordring til vold tillater slike «nøytrale referanser til et potensielt resultat» og «rådgivende advarsler». Dette er imidlertid ikke forklart i de offentlige standardene. Retningslinjene om voldelig og inntrykkssterkt innhold forbyr likeledes bilder som framstiller voldelig død. Den interne veiledningen for moderatorer beskriver hvordan Meta avgjør om et dødsfall framstår som voldelig, men dette er ikke tatt med i de offentlige retningslinjene.

I dette tilfellet finner et flertall i rådet at bildet i innlegget ikke inneholder klare indikatorer på en type vold som i henhold til Metas interne veiledning for moderatorer vil rettferdiggjøre bruk av en advarselsskjerm.

Samlet sett mener rådet at dette innlegget neppe vil forverre voldsbruken. De bemerker imidlertid at det er flere utfordringer ved å skulle evaluere voldelige ytringer i internasjonale konfliktsituasjoner der folkeretten tillater at stridende kan være målet for ytringene. Den russiske invasjonen av Ukraina er internasjonalt anerkjent som ulovlig. Rådet oppfordrer Meta til å revidere sine retningslinjer for å ta hensyn til omstendighetene rundt ulovlige militære intervensjoner.

Tilsynsrådets avgjørelse

Tilsynsrådet omgjør Metas opprinnelige beslutning om å fjerne innlegget og den påfølgende avgjørelsen om at bildet i innlegget bryter med retningslinjene om voldelig og inntrykkssterkt innhold, der resultatet var at Meta brukte en advarselsskjerm.

Rådet anbefaler at Meta gjør følgende:

• Endrer den offentlige standarden om vold og oppfordring til vold for å klargjøre, basert på Metas tolkning av retningslinjene, at de tillater innhold med en «nøytral henvisning til et potensielt resultat».
• Tar med en forklaring på hvordan de avgjør om et bilde viser «et voldelige dødsfall» i den offentlige standarden om voldelig og inntrykkssterkt innhold.
• Vurderer muligheten for å introdusere verktøy som lar voksne brukere bestemme om de i det hele tatt ønsker å se inntrykkssterkt innhold, og i så fall om de vil se dette innholdet med eller uten en advarselsskjerm.

* Sakssammendrag gir en oversikt over saken og medfører ingen presedens.

Fullstendig saksavgjørelse

1. Sammendrag av avgjørelsen

Tilsynsrådet omstøter Metas opprinnelige beslutning om å fjerne et Facebook-innlegg som tar for seg konflikten i Ukraina. Innholdet, som er på russisk og ble lagt ut i Latvia, består av et fotografi av en gate der en person ligger – sannsynligvis død – på bakken, ledsaget av en tekst. Teksten inneholder sitater fra et kjent dikt av den sovjetiske poeten Konstantin Simonov som oppfordrer til motstand mot de tyske inntrengerne under andre verdenskrig, og den antyder at russiske inntrengere har en lignende rolle i Ukraina som den tyske soldater hadde i Sovjetunionen. Etter at rådet valgte ut dette innlegget for gjennomgang, endret Meta mening og gjenopprettet innholdet til plattformen. Innholdet gjør at det stilles viktige definisjonsspørsmål rundt Metas retningslinjer om hatefulle ytringer og vold og oppfordring til vold. Noen uker etter at Meta besluttet å gjenopprette innlegget, merket de bildet med en advarselsskjerm. Et flertall i rådet mener at fotografiet ikke bryter med retningslinjene om voldelig og inntrykkssterkt innhold, ettersom bildet mangler klare visuelle indikatorer på voldsbruk, som beskrevet i Metas interne retningslinjer til innholdsmoderatorer, som ville rettferdiggjort bruk av advarselsskjermen.

2. Saksbeskrivelse og bakgrunn

I april 2022 la en Facebook-bruker i Latvia ut et bilde og en tekst på russisk i nyhetsoppdateringen sin. Innlegget ble sett ca. 20 000 ganger og delt ca. 100 ganger, og det fikk nesten 600 reaksjoner og over 100 kommentarer.

Bildet viser en gate der en person ligger, sannsynligvis omkommet, på bakken ved siden av en veltet sykkel. Ingen sår eller skader er synlige. Teksten begynner med: «de ville gjengjelde og gjengjeldte». Innlegget kommenterer påståtte forbrytelser begått av sovjetiske soldater i Tyskland under andre verdenskrig. Det står at slike forbrytelser ble unnskyldt på grunnlag av at soldatene hevnet grusomhetene som nazistene hadde påført Sovjetunionen. Det trekkes paralleller mellom andre verdenskrig og invasjonen av Ukraina og hevdes at den russiske hæren «ble fascistisk». I innlegget står det at den russiske hæren i Ukraina «voldtar jenter, sårer fedrene deres, torturerer og dreper fredelige mennesker». Innlegget konkluderer med at «etter Bucha vil ukrainerne også gjengjelde … og få mulighet til å gjengjelde)» slike handlinger. På slutten av innlegget deler brukeren utdrag fra diktet «Drep ham!» av den sovjetiske poeten Konstantin Simonov, inkludert linjene: «drep fascisten, slik at det er han og ikke du som ligger på bakken»; «drep minst én av dem så snart du kan»; «Drep ham! Drep ham! Drep!»

Samme dag som innholdet ble lagt ut, rapporterte en annen bruker innholdet som «voldelig og inntrykkssterkt innhold». På grunnlag av en avgjørelse etter gjennomgang av mennesker fjernet Meta innholdet som følge av brudd på standarden om hatefulle ytringer. Timer senere anket brukeren som la ut innholdet, og en annen moderator vurderte innholdet som et brudd på de samme retningslinjene.

Brukeren anket saken til tilsynsrådet. Som et resultat av at rådet valgte klagen for videre vurdering 31. mai 2022, fastslo Meta at den tidligere avgjørelsen om å fjerne innholdet var feil, og de gjenopprettet det. 23. juni 2022, 23 dager etter at innholdet ble gjenopprettet, la Meta ut en advarselsskjerm på fotografiet i innlegget i henhold til standarden om voldelig og innholdssterkt innhold, på grunnlag av at det viser en persons død som følge av vold. Advarselsskjermen sier: «Sensitivt innhold – dette bildet kan vise voldelig eller inntrykkssterkt innhold», og brukerne får to alternativer: «Les mer» eller «Se bildet».

Følgende faktabakgrunn er relevant for rådets vedtak og er basert på analyser rådet har bestilt:

• Den russiske invasjonen av Ukraina ble anerkjent som ulovlig av FNs generalforsamling 2. mars 2022 (A/RES/ES-11/1).
• Michelle Bachelet, FNs høykommissær for menneskerettigheter, uttrykte bekymring over «muligheten for alvorlige krigsforbrytelser, alvorlige brudd på folkeretten og alvorlige brudd på de internasjonale menneskerettighetene» i Ukraina.
• I kulturer etter Sovjetunionens fall, refererer begrepet «fascist» ofte til tyske nazister, spesielt i sammenheng med andre verdenskrig. Definisjonen av begrepet «fascist» blir imidlertid ikke lenger direkte assosiert med de tyske nazistene. I Russland og Ukraina ble begrepet uklart på grunn av politiske diskusjoner, der begrepet «fascist» har blitt brukt for å stigmatisere motparter fra ulike deler av det politiske spekteret.
• «De ønsket å gjengjelde og gjengjeldte», den første setningen i brukerens innlegg, er en referanse til: «Vi kan gjengjelde», et populært slagord på russisk, som brukes av enkelte for å referere til den sovjetiske seieren mot nazistene under andre verdenskrig. Brukeren henviser videre til dette slagordet ved å si: «Etter Bucha vil ukrainerne også ønske å gjengjelde ... og vil få mulighet til å gjengjelde» den russiske hærens handlinger.

3. Tilsynsrådets myndighet og virkeområde

Rådet er bemyndiget til å vurdere Metas avgjørelse etter en klage fra brukeren som har fått innhold fjernet (vedtektenes artikkel 2, del 1; artikkel 3, del 1 i vedtektene). Rådet kan opprettholde eller omgjøre Metas avgjørelse (artikkel 3, del 5 i vedtektene), og rådets avgjørelse er bindende for selskapet (artikkel 4 i vedtektene). Meta må også vurdere gjennomførbarheten av å iverksette avgjørelsen sin når det gjelder identisk innhold i tilsvarende sammenhenger (artikkel 4 i vedtektene). Rådets beslutninger kan omfatte rådgivende uttalelser om retningslinjer og ikke-bindende anbefalinger som Meta må svare på (forskriftenes artikkel 3, del 4; artikkel 4).

Når rådet velger ut saker som denne, der Meta har godtatt at det har blitt gjort en feil, går rådet gjennom den opprinnelige beslutningen for å bidra til å øke forståelsen av hvorfor feilen har oppstått, og de kan komme med observasjoner eller anbefalinger for å bidra til å redusere antall feil i framtiden og sørge for rettferdige og åpne prosedyrer.

4. Ekspertkilder

Tilsynsrådet baserte seg på følgende autoriteter og standarder:

I. Tilsynsrådets beslutninger:

De mest relevante tidligere beslutningene fra tilsynsrådet inkluderer følgende:

• Saken «Tigray Communication Affairs Bureau» (2022-006-FB-MR). I denne saken opprettholdt rådet Metas beslutning om å fjerne innholdet etter å ha konkludert med at, gitt brukerens profil (et regionalt departement), språkbruken (en eksplisitt oppfordring om å drepe soldater som ikke overgir seg) og rekkevidden til siden (rundt 260 000 følgere), var det høy risiko for at innlegget kunne ha ført til mer vold.
• Saken «Inntrykkssterk video fra Sudan» (2022-002-FB-MR) I denne saken anbefalte rådet at Meta gjør følgende: (i) endrer standarden om voldelig og inntrykkssterkt innhold så det tillates videoer av mennesker eller døde personer når de deles med formål om å bevisstgjøre eller dokumentere menneskerettighetsbrudd; og (ii) gjennomfører en utviklingsprosess av retningslinjene der det utvikles kriterier for å identifisere videoer av mennesker eller døde personer når delingen skjer med formål om å øke bevisstheten om eller dokumentere menneskerettighetsbrudd.

II. Metas retningslinjer for innhold:

I henhold til standarden om hatefulle ytringer tillater ikke Meta «voldelige» eller «dehumaniserende» ytringer som er rettet mot mennesker eller grupper på grunnlag av beskyttede egenskaper. Retningslinjene sier at «dehumaniserende tale» inkluderer «sammenligninger, generaliseringer og tilfeldige atferdsuttalelser rettet mot eller som handler om ... volds- og seksualforbrytere.» Retningslinjene gjelder eksplisitt ikke for dokumenterte atferdsuttalelser. Grupper som beskrives som å ha «utført volds- eller seksualforbrytelser» er ikke beskyttet mot angrep i henhold til retningslinjene om hatefulle ytringer.

I henhold til standarden om vold og oppfordring til vold tillater ikke Meta «trusler som kan føre til døden (og andre former for alvorlig vold)», der «trussel» defineres som blant annet å «oppfordre til alvorlige voldshandlinger» og «ytringer som tar til orde for alvorlige voldshandlinger.» Metas interne retningslinjer for innholdsmoderatorer klargjør at selskapet tolker disse retningslinjene til å tillate innhold som inneholder ytringer med «nøytral referanse til et potensielt utfall av en handling eller en rådgivende advarsel».

I henhold til standarden om voldelig og inntrykkssterkt innhold blir «bilder som viser personer som dør på brutale måter ved ulykke eller drap» dekket av en advarsel.

III. Metas verdier:

Meta har beskrevet blant annet Facebooks verdier «stemme», «verdighet» og «trygghet» i introduksjonen til standardene. Denne avgjørelsen vil referere til disse verdiene hvis det er relevant for beslutningen.

IV. Internasjonale standarder for menneskerettigheter:

FNs veiledende prinsipper for næringsliv og menneskerettigheter ( UNGP-er) ble godkjent av FNs menneskerettighetsråd i 2011, og etablerer et frivillig rammeverk for menneskerettighetsansvaret til private bedrifter. I 2021 publiserte Meta sine bedriftsretningslinjer for menneskerettigheter, der selskapet på nytt forpliktet seg til å respektere menneskerettighetene i henhold til UNGP-ene. Rådets analyse av Metas menneskerettighetsansvar i denne saken baserte seg på følgende menneskerettighetsstandarder:

• Retten til menings- og ytringsfrihet: Artikkel 19, Den internasjonale konvensjonen om sivile og politiske rettigheter ( ICCPR), generell kommentar nr. 34, menneskerettighetskomiteen, 2011; FNs spesialrapportør for menings- og ytringsfrihet, rapporter: A/HRC/38/35 (2018), A/74/486 (2019) and A/HRC/44/49/Add.2 (2020); FNs høykommissær for menneskerettigheter, rapport: A/HRC/22/17/Add.4 (2013).
• Likestilling og ikke-diskriminering: Artikkel 2, § 1 (ICCPR).
• Rett til fysisk sikkerhet: Artikkel 9 (ICCPR).
• Retten til liv: Artikkel 6 (ICCPR).

5. Brukeruttalelser

I anken sin til rådet uttaler brukeren at bildet som ble delt er det «mest uskyldige» av bildene som dokumenterer «den russiske hærens forbrytelser i byen Bucha», «hvor mengder av døde sivile ligger i gatene». Brukeren hevder at innlegget ikke er en oppfordring til vold, men handler om «historie og nåtid». Diktet var etter sigende opprinnelig tilegnet «de sovjetiske soldatenes kamp mot nazistene» og ble publisert for å vise hvordan «den russiske hæren har blitt en analogi til den fascistiske hæren». Som en del av anken uttaler brukeren at hen er journalist og mener det er viktig at folk forstår hva som foregår, spesielt i krigstid.

6. Metas uttalelser

I begrunnelsen Meta oppga til rådet, analyserte selskapet innholdet i denne saken i lys av tre ulike retningslinjer, først med hatefulle ytringer. Meta fokuserte på hvorfor selskapet omgjorde sin opprinnelige beslutning i stedet for å forklare hvordan de hadde kommet fram til sin opprinnelige beslutning. Ifølge Meta regnes ikke det å hevde at russiske soldater begikk forbrytelser i konteksten Russland-Ukraina-konflikten som et angrep i henhold til retningslinjene om hatefulle ytringer, ettersom «dokumenterte atferdsytringer» er tillatt på plattformen. Meta forklarte også at fascisme er en politisk ideologi, og bare det å knytte den russiske hæren til en konkret politisk ideologi utgjør ikke et angrep, siden «den russiske hæren er en institusjon og derfor ikke en gruppe eller undergruppe som i retningslinjene beskyttes mot hatefulle ytringer rettet mot beskyttede egenskaper (i motsetning til russiske soldater, som er mennesker).» Til slutt indikerte Meta at de forskjellige utdragene fra diktet «Drep ham!» som er sitert i teksten til innlegget (f.eks. «drep en fascist», «drep minst én av dem», «drep ham!») refererer til «nazister» i sammenheng med andre verdenskrig, og nazister er ikke en beskyttet gruppe.

Meta analyserte også innlegget i lys av retningslinjene om vold og oppfordring til vold. I denne forbindelse forklarte Meta at det å uttale at «ukrainere vil også ønske å gjengjelde ... og vil kunne gjengjelde» etter hendelsene i Bucha ikke tar til orde for vold. Meta hevdet at dette er en «nøytral referanse til et potensielt utfall», noe selskapet tolker som tillatt i henhold til retningslinjene om vold og oppfordring til vold. Meta uttalte også at å sitere Simonovs dikt var en måte å øke bevisstheten på rundt potensialet for at historien kan gjenta seg i Ukraina. Til slutt forklarte selskapet at å ta til orde for vold mot individer som er omfattet av retningslinjene om farlige individer og organisasjoner, slik som nazistene (referert til som «fascister» i Simonovs dikt), er tillatt i henhold til standarden om vold og oppfordring til vold.

Meta forklarte deretter at en advarselsskjerm og hensiktsmessige aldersbegrensninger ble brukt på innlegget i henhold til retningslinjene om voldelig og inntrykkssterkt innhold, ettersom bildet som er inkludert i innholdet viser en persons voldsomme død. Meta fikk bekreftet at bildet viser en person som ble skutt i Bucha (Ukraina).

Som svar på rådets spørsmål kom Meta med ytterligere forklaringer om initiativer de har utviklet i sammenheng med konflikten i Ukraina. Meta kunne imidlertid bekrefte at ingen av disse initiativene var relevante for den første fjerningen av innholdet i denne saken eller beslutningen om å gjenopprette det med en advarselsskjerm. Selskapet la til at de har tatt flere skritt i samsvar med FNs veiledende prinsipper for næringsliv og menneskerettigheter for å sikre due diligence i tider med konflikt. Disse skrittene omfattet samhandling med det ukrainske og russiske sivilsamfunnet samt russiske uavhengige medier, for å få tilbakemeldinger om virkningen av tiltakene Meta vedtok ved begynnelsen av konflikten.

Rådet stilte Meta 11 spørsmål, og Meta svarte fullt ut på alle.

7. Offentlige kommentarer

Tilsynsrådet mottok åtte offentlige kommentarer knyttet til denne saken. Tre av kommentarene ble sendt inn fra Europa, fire fra USA og Canada, og én fra Latin-Amerika med Karibia. Kommentarene dekket følgende temaer: internasjonal væpnet konflikt, betydningen av kontekst i innholdsmoderering, journalisters rolle i konfliktsituasjoner, dokumentasjon av krigsforbrytelser og kunstnerisk uttrykk.

Du kan lese de offentlige kommentarene som er sendt inn angående denne saken ved å klikke her.

8. Tilsynsrådets analyse

Rådet undersøkte først om innholdet var tillatt i henhold til Metas retningslinjer for innhold, tolket der det var nødvendig i lys av plattformens verdier og vurderte deretter om behandlingen av innholdet var i samsvar med selskapets menneskerettighetsansvar.

Denne saken ble valgt av rådet fordi fjerningen av innlegget reiste viktige bekymringer om kunstneriske uttrykk og kulturelle referanser som blir gjenbrukt i nye kontekster som potensielt risikerer å oppfordre til vold i konfliktsituasjoner. Muligheten til å uttrykke seg på Internett er spesielt viktig for mennesker som er berørt av krig, og sosiale medieselskaper må være spesielt oppmerksomme på å beskytte rettighetene deres. Denne saken demonstrerer hvordan mangel på kontekstuell analyse, som er vanlig i innholdsmoderering i stor skala, kan hindre brukere fra å uttrykke meningene sine rundt konflikter og trekke potensielt provoserende historiske paralleller.

8.1 Overholdelse av Metas retningslinjer for innhold

Rådet finner at innholdet i denne saken hverken bryter med standarden om hatefulle ytringer eller standarden om vold og oppfordring til vold. Et flertall i rådet mente at innholdet ikke bryter med standarden om voldelig og inntrykkssterkt innhold.

I. Hatefulle ytringer

Metas retningslinjer om hatefulle ytringer forbyr angrep mot mennesker basert på beskyttede egenskaper, inkludert nasjonalitet. Yrker har «en viss beskyttelse» når de refereres til sammen med en beskyttet egenskap. Selskapets interne retningslinjer for moderatorer klargjør videre at «kvasi-beskyttede undergrupper», inkludert grupper som er definert ved en beskyttet egenskap pluss et yrke (f.eks. «russiske soldater»), generelt har rett til beskyttelse mot hatefulle ytringer på nivå 1. Slike angrep inkluderer blant annet «voldelig tale» og «dehumaniserende tale (...) i form av sammenligninger, generaliseringer eller tilfeldige atferdsytringer (...) rettet mot eller som handler om (...) volds- og seksualforbrytere.» Metas retningslinjer om hatefulle ytringer gir ikke beskyttelse til «grupper som beskrives som å ha utført volds- eller seksualforbrytelser.»

Generelle påstander om at russiske soldater har en tilbøyelighet til å begå forbrytelser kan, avhengig av innhold og kontekst, bryte med Metas retningslinjer om hatefulle ytringer. Slike påstander kan falle innenfor forbudet mot «dehumaniserende tale» i retningslinjene, i form av «tilfeldige atferdsytringer». Metas retningslinjer skiller mellom: (i) tilskrivelse av dårlig moral eller uønskede egenskaper hos en gruppe på grunnlag av etnisitet, nasjonal opprinnelse eller andre beskyttede egenskaper (det er dette Meta mener med «generaliseringer»); (ii) kritikk av gruppemedlemmer uten kontekst (det er dette Meta mener med «tilfeldige atferdsytringer»); og (iii) kritikk av gruppemedlemmer for tidligere atferd (det er dette Meta mener med «dokumenterte atferdsytringer»). I denne saken er påstandene om invaderende russiske soldater framsatt i sammenheng med handlingene deres i Ukraina-konflikten, ikke på generelt grunnlag.

Spørsmålet her er hvorvidt brukerens sammenligning av russiske soldater med tyske fascister fra andre verdenskrig og påstanden om at de voldtok kvinner, drepte fedrene deres og drepte og torturerte uskyldige personer bryter med Metas retningslinjer om hatefulle ytringer. Både Meta og rådet konkluderte med at innlegget ikke utgjør voldelige eller dehumaniserende ytringer under retningslinjene for hatefulle ytringer, men av forskjellige grunner. Dette var den eneste delen av retningslinjene om hatefulle ytringer som er identifisert som relevant for dette innlegget.

Meta argumenterer for at innlegget ikke er krenkende, ettersom anklagene er rettet mot den russiske hæren, som er en institusjon, og ikke mot russiske soldater, som er enkeltmennesker. Rådet mener at dette skillet ikke holder i denne saken, siden brukeren refererer til «hær» og «soldater» om hverandre.

Likevel mener rådet at brukerens anklage om at russiske soldater har begått forbrytelser som kan sammenlignes med nazistene i forbindelse med Russlands invasjon av Ukraina er tillatt. Dette fordi brukeren tilskriver spesifikke handlinger (f.eks.: «de begynte å ta virkelig hevn – voldta jenter, kutte fedre, torturere og drepe fredelige mennesker i fredelige Kiev») og sammenligner russiske soldaters handlinger i Ukraina med andre hærer som er kjent for å ha begått krigsforbrytelser (f.eks.: «den russiske hæren gjentok seg 70 år senere i Tyskland og den tyske [hæren] i Ukraina») er «dokumenterte» utsagn, relatert til atferd som er observert under en spesifikk konflikt.

Rådet finner derfor at å sammenligne russiske soldaters handlinger i en spesifikk kontekst med nazistenes forbrytelser er tillatt i henhold til standardene, uavhengig av om en generell sammenligning med nazistene er tillatt eller ikke. Ifølge Metas interne retningslinjer bryter ikke materiale som ellers kan utgjøre hatefulle ytringer med retningslinjene hvis det er rettet mot grupper som «beskrives som å ha utført volds- eller seksualforbrytelser». Mer generelt bryter det ikke med retningslinjene om hatefulle ytringer å rapportere tilfeller av brudd på menneskerettighetene i en bestemt kontekst, selv om disse personene identifiseres med henvisning til nasjonal opprinnelse.

Rådet finner videre at de forskjellige utdragene av diktet «Drep ham!» som er sitert i innholdet (f.eks.: «drep en fascist», «drep minst én av dem», «drep ham!») ikke kan betraktes som «voldelig tale», fordi rådet forstår det slik, når dette leses sammen med resten av innlegget, at brukeren gjør folk oppmerksomme på voldssyklusen framfor å oppfordre til vold.

Til slutt konkluderer rådet med at russiske soldater er nevnte i innlegget på grunn av deres rolle som stridende, ikke på grunn av nasjonalitet. Påstandene angriper ikke en gruppe «på grunnlag av» beskyttede egenskaper. Dermed utgjør ikke innholdet hatefulle ytringer, fordi ingen beskyttet egenskap gjelder.

II. Vold og oppfordring til vold

I henhold til retningslinjene om vold og oppfordring til vold fjerner Meta «oppfordringer til alvorlig vold», «ytringer som tar til orde for alvorlig vold» og «ambisjonelle eller betingede ytringer om å begå alvorlig vold», blant andre typer uttrykk. Selskapets interne retningslinjer for moderatorer tydeliggjør videre at Meta tolker denne standarden til å tillate ytringer med «nøytral referanse til et potensielt utfall av en handling eller en rådgivende advarsel.» I tillegg forklarer de interne retningslinjene at «innhold som fordømmer eller øker bevisstheten rundt voldelige trusler» også er tillatt i henhold til retningslinjene om vold og oppfordring til vold. Dette gjelder innhold som «tydelig ønsker å informere og lære opp andre om et spesifikt emne eller problem; eller innhold som taler til en persons opplevelse av å være målet for trusler eller vold», inkludert akademiske innlegg og medieoppslag.

Meta forklarte rådet at de bestemte seg for å gjenopprette dette innholdet fordi innlegget ikke tok til orde for vold. Meta karakteriserer brukerens uttalelse om at «ukrainere også vil ønske å gjengjelde ... og vil kunne gjengjelde» etter hendelsene i Bucha som en «nøytral referanse til et potensielt utfall», som selskapet tolker som tillatt i henhold til retningslinjene om vold og oppfordring til vold. Meta uttaler også at å sitere Simonovs dikt er en måte å øke bevisstheten på rundt potensialet for at historien kan gjenta seg i Ukraina. Til slutt peker de på at Simonovs dikt er rettet mot tyske fascister og bemerker at å ta til orde for vold mot individer som er omfattet av retningslinjene om farlige individer og organisasjoner, som f.eks. nazistene, er tillatt i henhold til standarden om vold og oppfordring til vold.

Rådet lar seg delvis overbevise av denne begrunnelsen. De er enige i at setningen «ukrainere også vil ønske å gjengjelde ... og vil kunne gjengjelde» hverken oppfordrer til eller hyller voldshandlinger. Lest bokstavelig sier denne delen av innlegget simpelthen at ukrainerne godt kan komme til å reagere like voldelig mot den russiske hærens handlinger som sovjeterne gjorde mot nazistene. Det er med andre ord en «nøytral referanse til et potensielt resultat», noe som er tillatt i henhold til Metas tolkning av retningslinjene om vold og oppfordring til vold, avklart i de interne retningslinjene til innholdsmoderatorer.

Rådet finner også at utdragene med voldelig språk fra diktet «Drep ham!», er sitert i avsnittet ovenfor, kan leses som å beskrive, ikke oppmuntre til, en sinnstilstand. Lest sammen med hele innlegget, inkludert fotografiet, er utdragene en del av et bredere budskap som advarer om et potensial for at historien kan gjenta seg i Ukraina. Det er en kunstnerisk og kulturell referanse som ble brukt som et retorisk verktøy av brukeren for å formidle budskapet. Rådet konkluderer derfor med at denne delen av innholdet også er tillatt i henhold til Metas interne retningslinjer.

Rådet konkluderer imidlertid med at Meta er urealistiske når de analyserer innlegget som om det bare var en oppfordring til vold mot nazister. Brukeren gjør det klart at russiske soldater i Ukraina i dag er sammenlignbare med tyskerne i Russland under andre verdenskrig. I den grad innlegget, med sine sitater fra Simonovs dikt, kan anses som å referere til soldater som nå begår grusomheter mot sivile, finnes det en risiko for at leserne vil tolke dette som en oppfordring til vold mot russiske soldater i dag. Rådet er likevel enig i Metas konklusjon om at innlegget ikke bryter med standarden om vold og oppfordring til vold, ettersom den primære betydningen, sett i kontekst, er en advarsel mot en voldssyklus.

III. Voldelig og inntrykkssterkt innhold

I henhold til retningslinjene om voldelig og inntrykkssterkt innhold, merker Meta innhold med advarsler, «slik at folk er klar over det inntrykkssterke eller voldelige innholdet før de klikker for å se det.» Det er tilfellet for «[b]ilder som viser personer som dør på en brutal måte ved ulykke eller drap». I sine interne retningslinjer for innholdsmoderatorer beskriver Meta som «indikatorer på en voldelig død» alle inntrykkssterke bilder av «ettervirkningene av voldshandlinger der offeret ser ut til å være død eller synlig livløs, og der det er ytterligere visuelle indikatorer på vold», som f.eks. «blod, skader og sår på kroppen, blod rundt offeret, en oppblåst eller misfarget kropp og menneskekropper gravd ut fra ruiner.» De interne retningslinjene forklarer videre at kropper uten «noen synlig indikator på voldelig død» eller uten «minst én indikator på vold» ikke skal betraktes som en skildring av en «voldelig død».

Bildet som følger med innholdet viser en gate, der en person ligger livløs på bakken. Ingen sår eller skader er synlige. Meta kunne bekrefte at denne personen ble skutt i Bucha (Ukraina). Rådet merker seg at innholdsmoderatorer som jobber i stor skala ikke nødvendigvis vil ha tilgang til denne typen informasjon. Et flertall i rådet mener at retningslinjene om voldelig og inntrykkssterkt innhold ikke ble brutt, fordi fotografiet mangler klare visuelle indikatorer på vold, slik det er beskrevet i Metas interne retningslinjer for innholdsmoderatorer. Derfor konkluderer flertallet med at en advarselsskjerm ikke burde vært brukt her.

Tatt i betraktning konteksten den væpnede konflikten i Ukraina og skadeverket som er avbildet, mener et mindretall av rådet at innholdet bryter med retningslinjene om voldelig og inntrykkssterkt innhold.

IV. Sanksjoner

Innholdet ble rapportert av en bruker for voldelig og inntrykkssterkt innhold, men ble fjernet i henhold til retningslinjene om hatefulle ytringer. Det ble gjenopprettet først etter at rådet gjorde Meta oppmerksom på saken. Som svar på spørsmål fra rådet forklarte Meta at saksinnholdet ikke ble eskalert til eksperter på retningslinjer eller den konkrete saken for ytterligere gjennomgang. «Eskalert til vurdering» betyr at i stedet for at avgjørelsen blir revurdert av innholdsmoderatorene som gjennomfører vurdering i stor skala, sendes det til et internt team hos Meta som er ansvarlig for de aktuelle retningslinjene eller det konkrete fagområdet.

8.2 Samsvar med Metas verdier

Rådet konkluderer med at fjerning av innholdet, og å plassere en advarselsskjerm over det medfølgende bildet, ikke er i samsvar med Metas verdier.

Rådet er bekymret over situasjonen til russiske sivile og de mulige effektene av voldelige ytringer rettet mot russere generelt. I denne saken mener rådet imidlertid at innholdet ikke utgjør en reell risiko for «verdigheten» og «sikkerheten» til disse menneskene på en måte som vil rettferdiggjøre å fortrenge verdien «stemme», spesielt i en kontekst der Meta bør sørge for at brukere som er berørt av krig kan diskutere implikasjonene av konflikten.

8.3 Samsvar med Metas menneskerettighetsansvar

Rådet konkluderer med at både Metas første beslutning om å fjerne innholdet og beslutningen om å bruke en advarselsskjerm på innholdet var i strid med Metas menneskerettighetsansvar som virksomhet. Meta har forpliktet seg til å respektere menneskerettighetene i henhold til FNs veiledende prinsipper for næringsliv og menneskerettigheter (UNGP-ene). Facebooks retningslinjer for menneskerettigheter sier at dette inkluderer Den internasjonale konvensjonen om sivile og politiske rettigheter (ICCPR).

Ytringsfrihet (artikkel 19 i ICCPR)

Ytringsfriheten skal ha bredt omfang. Artikkel 19, § 2 i ICCPR gir økt beskyttelse til ytringer, inkludert kunstneriske ytringer, om politiske spørsmål og kommentarer til offentlige anliggender, samt til diskusjoner om menneskerettigheter og historiske påstander (Generell kommentar nr. 34, §§ 11 og 49). Selv ytringer som kan anses som «dypt krenkende» har krav på beskyttelse (generell kommentar nr. 34, § 11). Innholdet som er analysert av rådet i denne saken inneholder sterkt språk. Det utgjør imidlertid en politisk diskurs og trekker oppmerksomheten mot menneskerettighetsbrudd i krigssammenheng.

Innholdet i denne saken inkluderte sitater fra et velkjent krigsdikt, som brukeren brukte som en provoserende kulturell referanse for å informere og advare publikum om de potensielle konsekvensene av de russiske soldatenes handlinger i Ukraina. FNs spesialrapportør for ytringsfrihet har framhevet at kunstneriske uttrykk omfatter «fiktive og ikke-fiktive historier som informerer, avleder eller provoserer» (A/HRC/44/49/Add.2, § 5).

ICCPR-artikkel 19 krever at der restriksjoner av ytringer pålegges av en stat, må de oppfylle kravene til lovlighet, legitimt formål, nødvendighet og proporsjonalitet (artikkel 19, § 3 i ICCPR). FNs spesialrapportør for ytringsfrihet har oppfordret sosiale medieselskaper til å la seg styre av disse prinsippene når de modererer uttrykk på nett (A/HRC/38/35, §§ 45 og 70).

I. Lovlighet (tydelige og tilgjengelige regler)

Lovlighetsprinsippet krever at regler som brukes av land til å begrense ytringsfriheten skal være tydelige og lett tilgjengelige (generell kommentar 34, §25). Menneskerettskomiteen har videre bemerket at reglene «ikke kan gi de som er ansvarlige for håndhevelsen mulighet til en ubegrenset skjønnsmessig vurdering vedrørende begrensninger av ytringsfriheten» (generell kommentar 34, § 25). Enkeltpersoner må ha nok informasjon til å kunne avgjøre om og hvordan ytringene deres kan begrenses, slik at de kan innrette seg etter dette. Anvendt på Metas innholdsregler for Facebook, skal brukerne kunne forstå hva som er tillatt og hva som er forbudt.

To avsnitt fra Metas interne retningslinjer om hvordan man håndhever standarden om vold og oppfordring til vold er spesielt relevante for konklusjonen som både Meta og rådet har kommet til om at innholdet bør forbli på Facebook. For det første tolker Meta disse retningslinjene dithen at det tillates meldinger som advarer om muligheten for vold fra tredjeparter hvis de er ytringer med «nøytral referanse til et potensielt utfall av en handling eller en rådgivende advarsel.» For det andre er ellers krenkende innhold tillatt hvis det «fordømmer eller øker bevisstheten om voldelige trusler.» Rådet bemerker imidlertid at disse interne retningslinjene ikke er inkludert i den offentlige teksten i standarden om vold og oppfordring til vold. Dette kan føre til at brukerne tror at innhold som det man finner i innlegget i denne saken er krenkende, når det ikke er det. Meta bør integrere disse avsnittene i den offentlige teksten i retningslinjene om vold og oppfordring til vold, slik at det blir tilstrekkelig tydelig for brukerne. Rådet er klar over at offentliggjøring av flere detaljer om Metas retningslinjer for innhold kan gjøre det enklere for brukere med onde hensikter å omgå standardene. Rådet mener imidlertid at behovet for klarhet og spesifisitet går foran bekymringen for at noen brukere kan forsøke å «utnytte systemet.» Det å ikke vite at «nøytrale henvisninger til et potensielt utfall», «rådgivende advarsler», «fordømmelse» og «bevisstgjøring» om voldelige trusler er tillatt, kan føre til at brukerne unngår å starte eller delta i diskusjoner av offentlig interesse på Metas plattformer.

Rådet er også bekymret for at Metas beslutning om å bruke en advarselsskjerm i denne saken er i strid med deres interne retningslinjer for innholdsmoderatorer. I tillegg kan det hende at Metas tolkning av retningslinjene om voldelig og inntrykkssterkt innhold ikke er tydelig nok for brukerne. Meta bør forsøke å avklare, i den offentlig tilgjengelige teksten i retningslinjene, hvordan selskapet tolker retningslinjene og hvordan de avgjør om et bilde «viser voldelig død ved ulykke eller drap» i sammenheng med konflikter, som i Metas interne retningslinjer for innholdsmoderatorer.

I tillegg informerte Meta rådet om at det ikke ble sendt noen melding til brukeren som opprinnelig rapporterte innholdet for å varsle om at innlegget senere ble gjenopprettet av selskapet. Dette skaper lovlighetsbekymringer, ettersom mangelen på relevant informasjon for brukere kan hindre «enkeltpersoner fra å utfordre tiltak mot innhold eller følge opp innholdsrelaterte klager» (A/HCR/38/35, § 58). Rådet bemerker at å sende en melding til varslerne om håndhevelsestiltak mot innholdet de rapporterte og den relevante standarden som håndheves, vil hjelpe brukerne med å forstå og følge Metas regler på en bedre måte.

II. Legitime mål

Enhver begrensning av ytringsfriheten skal ha et «legitimt formål». Rådet har tidligere anerkjent at standarden om hatefulle ytringer har som legitimt mål å beskytte andres rettigheter (generell kommentar nr. 34, § 28), inkludert rettighetene til likhet og ikke-diskriminering basert på etnisitet og nasjonal opprinnelse (artikkel 2, § 1, ICCPR). Det å beskytte russere mot hat er derfor et legitimt mål. Rådet konkluderer imidlertid med at det ikke er et legitimt mål å beskytte «soldater» mot påstander om urett når de blir målrettet på grunn av sin rolle som stridende i en krig, og ikke på grunn av nasjonalitet eller andre beskyttede egenskaper – kritikk av institusjoner, som hæren, bør ikke forbys (generell kommentar nr. 34, § 38).

Standarden om vold og oppfordring til vold har som legitimt mål å beskytte andres rettigheter når den er riktig utformet og anvendt. I konteksten rundt denne saken ønsker disse retningslinjene å forhindre eskalering av vold som kan føre til en fare for den fysiske sikkerheten (artikkel 9, ICCPR) og livet (artikkel 6, ICCPR) til mennesker i områdene som er berørt av Russland-Ukraina-konflikten.

Rådet merker seg at det er utfordrende å evaluere voldelige ytringer i sammenheng med væpnet motstand mot en invasjon. Den russiske invasjonen av Ukraina er internasjonalt anerkjent som ulovlig (A/RES/ES-11/1), og bruk av makt som selvforsvar mot slike aggresjonshandlinger er tillatt (artikkel 51, FN-pakten). I konteksten internasjonal væpnet konflikt tillater internasjonal humanitær lov om partenes opptreden i fiendtligheter at aktivt stridende lovlig målrettes så lenge den væpnede konflikten varer. Dette er ikke tilfelle for personer som ikke lenger deltar aktivt i fiendtlighetene, inkludert krigsfanger (artikkel 3, Genève-konvensjonen om behandling av krigsfanger). Når vold i seg selv er lovlig i henhold til folkeretten, medfører ytringer som oppfordrer til slik vold at ulike hensyn må undersøkes separat. Selv om rådet har konkludert med at innholdet i denne saken ikke er krenkende, oppfordrer de Meta til å revidere retningslinjene sine, slik at det blir tatt hensyn til omstendighetene rundt ulovlige militære intervensjoner.

Med referanse til selskapets beslutning om å merke fotografiet med en advarselsskjerm, bemerker Meta at retningslinjene om voldelig og inntrykkssterkt innhold tar sikte på å fremme et miljø som bidrar til mangfoldig deltakelse ved å begrense «innhold som glorifiserer vold eller feirer andres lidelse eller ydmykelse.» Rådet er enig i at dette målet er legitimt i sammenheng med Metas mål om å fremme en inkluderende plattform.

III. Nødvendighet og proporsjonalitet

Prinsippet om nødvendighet og proporsjonalitet krever at alle begrensninger av ytringsfriheten «må være hensiktsmessige for å oppnå sin beskyttende funksjon. De må være de minst inngripende virkemidlene blant de som kan oppnå den beskyttende funksjon, og de må være proporsjonale med interessen som skal beskyttes» (generell kommentar 34, § 34).

For å vurdere risikoen forbundet med voldelig eller hatefullt innhold veiledes rådet vanligvis av seksfaktor-testen som er beskrevet i Rabat-handlingsplanen, som tar for seg hat rettet mot nasjonalitet, rase eller religion med oppfordringer til fiendtlighet, diskriminering eller vold. I denne saken mener rådet at til tross for at konteksten er den pågående væpnede konflikten og at brukeren benytter belastede kulturelle referanser, er det lite sannsynlig at innlegget – som er en advarsel mot en voldssyklus – vil føre til skade. Rådet konkluderer med at den opprinnelige fjerningen av innholdet ikke var nødvendig. I tillegg mener et flertall i rådet at varslingsskjermen heller ikke var nødvendig, mens et mindretall i rådet konkluderer med at dette både var nødvendig og forholdsmessig.

Tatt i betraktning de relevante faktorene her, konkluderer rådet med at – til tross for at konteksten er Russlands ulovlige invasjon av Ukraina, der potensielt provoserende ytringer kan øke spenningen – brukerens åpenbare intensjon (bevisstgjøring rundt krigen og dens konsekvenser), den reflekterende tonen som ble brukt i siteringen av et krigsdikt og spredningen av annen kommunikasjon angående de grufulle hendelsene i Ukraina betyr at innholdet sannsynligvis ikke vil bidra til forverring av vold i vesentlig grad.

Et flertall i rådet konkluderer med at bruk av en varselskjerm hemmer ytringsfriheten og ikke er en nødvendig reaksjon i denne saken, ettersom fotografiet mangler klare visuelle indikatorer på voldsbruk, som beskrevet i Metas interne retningslinjer til innholdsmoderatorer, noe som vil rettferdiggjort bruk av advarselsskjermen. Sosiale medieselskaper bør vurdere ulike potensielle reaksjoner på problematisk innhold for å sikre at restriksjonene er konkrete og mest mulig skreddersydd (A/74/486, § 51). Rådet vurderer det slik at Meta derfor bør videreutvikle tilpasningsverktøy, slik at brukerne selv kan avgjøre om de vil se sensitivt inntrykkssterkt innhold med eller uten advarsler på Facebook og Instagram.

Et mindretall i rådet konkluderer med at varslingsskjermen var et nødvendig og forholdsmessig tiltak som var hensiktsmessig skreddersydd for å oppmuntre til deltakelse og ytringsfrihet. Dette mindretallet mener at, tatt i betraktning den avdødes verdighet, spesielt i sammenheng med en væpnet konflikt og de potensielle effektene bilder som viser død og vold kan ha på et stort antall brukere, at Meta bør utvise forsiktighet og derfor bruke advarselsskjermer på innhold som det innholdet som nå ble analysert.

9. Tilsynsrådets avgjørelse

Tilsynsrådet omstøter Metas opprinnelige beslutning om å fjerne innholdet, samt Metas påfølgende avgjørelse om at retningslinjene om voldelig og inntrykkssterkt innhold ble brutt, noe som førte til at selskapet la en advarselsskjerm på fotografiet i innlegget.

10. Rådgivende uttalelse om retningslinjene

Retningslinjer for innhold

1. Meta bør i den offentlig tilgjengelige teksten i standarden om vold og oppfordring til vold at selskapet tolker retningslinjene slik at det tillates innhold som inneholder ytringer med «nøytral referanse til et potensielt utfall av en handling eller en rådgivende advarsel», og innhold som «fordømmer eller øker bevisstheten om voldstrusler.» Rådet forventer at denne anbefalingen, hvis den implementeres, vil kreve at Meta oppdaterer den offentlige teksten i retningslinjene om vold og oppfordring til vold, slik at disse tilleggene gjenspeiles.

2. Meta bør legge til detaljer i den offentlige teksten i retningslinjene om vold og oppfordring til vold den samme informasjonen som finnes i deres interne retningslinjer om hvordan selskapet avgjør om et bilde «viser voldelig død ved ulykke eller drap». Rådet forventer at denne anbefalingen, hvis den implementeres, vil kreve at Meta oppdaterer den offentlige teksten i standarden om voldelig og inntrykkssterkt innhold for å gjenspeile dette tillegget.

Håndhevelse

3. Meta bør vurdere muligheten for å implementere tilpasningsverktøy som vil tillate brukere over 18 år å bestemme selv om de vil se sensitivt inntrykkssterkt innhold med eller uten advarselsskjermer, både på Facebook og Instagram. Rådet forventer at denne anbefalingen, dersom den implementeres, vil kreve at Meta offentliggjør resultatene av vurderingen om hvorvidt dette er mulig.

*Prosedyremerknad:

Tilsynsrådets avgjørelser utarbeides av et panel på fem medlemmer og godkjennes av et flertall av rådet. Rådets avgjørelser gjenspeiler ikke nødvendigvis alle medlemmenes personlige meninger.

I denne konkrete saken ble det bestilt uavhengige undersøkelser på vegne av rådet. Et uavhengig analyseinstitutt med hovedkontor ved universitetet i Göteborg, med støtte fra en gruppe på over 50 samfunnsvitere fra seks kontinenter og mer enn 3200 eksperter fra hele verden. Rådet ble også assistert av Duco Advisors, et rådgivningsfirma som fokuserer på skjæringspunktet mellom geopolitikk, tillit, sikkerhet og teknologi. Selskapet Lionbridge Technologies LLC, som har spesialister som behersker mer enn 350 språk og jobber fra 5000 byer over hele verden, leverte språklig ekspertise.