Myanmar-bot

Saksammendrag

Tilsynsrådet har opphevet Facebooks avgjørelse om å fjerne et innlegg på burmesisk i henhold til selskapets standard for hatefulle ytringer. Rådet fant at innlegget ikke var rettet mot kinesere, men den kinesiske staten. Nærmere bestemt brukte det banning til å referere til kinesisk regjeringspolitikk i Hongkong som en del av en politisk diskusjon om den kinesiske regjeringens rolle i Myanmar.

Om saken

I april 2021 publiserte en Facebook-bruker som så ut til å være i Myanmar, på burmesisk på tidslinjen sin. Innlegget diskuterte måter å begrense finansieringen til Myanmar-militæret etter kuppet i Myanmar 1. februar 2021. Den foreslo at skatteinntektene skulle gis til komiteen som representerer Pyidaungsu Hlutaw (CRPH), en gruppe lovgivere som var imot kuppet. Innlegget fikk omtrent en halv million visninger, og ingen Facebook-brukere rapporterte det.

Facebook oversatte den angivelig krenkende delen av brukerens innlegg som «Folk i Hongkong, fordi de jævla kineserne torturerte dem, flyttet bankvirksomheten sin til Storbritannia, og nå kan de (kineserne) ikke røre dem.» Facebook fjernet innlegget i henhold til fellesskapsstandarden for hatefulle ytringer. Dette forbyr innhold rettet mot en person eller gruppe mennesker basert på deres rase, etnisitet eller nasjonale opprinnelse med «banneord eller uttrykk med den hensikt å fornærme.»

De fire innholdskontrollørene som undersøkte innlegget, var enige om at det brøt Facebooks regler. I sin klage til rådet uttalte brukeren at vedkommende la ut innholdet for å «stoppe det brutale militærregimet».

Viktige funn

Denne saken understreker viktigheten av å vurdere kontekst når man håndhever retningslinjene for hatefulle ytringer, samt viktigheten av å beskytte politiske ytringer. Dette er spesielt relevant i Myanmar gitt kuppet i februar 2021 og Facebooks nøkkelrolle som kommunikasjonsmedium i landet.

Innlegget brukte det burmesiske uttrykket «$တရုတ်», som Facebook oversatte som «jævla kinesere» (eller «sout ta-yote»). Ifølge Facebook oppfattes ordet «ta-yote» «kulturelt og språklig som en overlapping av identiteter/betydninger mellom Kina og det kinesiske folket». Facebook uttalte at på grunn av dette ordets karakter og det faktum at brukeren ikke «tydelig indikerer at begrepet refererer til landet / regjeringen i Kina», fastslo de at «brukeren i det minste refererer til kinesiske mennesker». Derfor fjernet Facebook innlegget under sin fellesskapsstandard for hatefulle ytringer.

Siden det samme ordet brukes på burmesisk for å referere til en stat og mennesker fra den staten, er kontekst avgjørende for å forstå den tiltenkte betydningen. En rekke faktorer overbeviste rådet om at brukeren ikke mente kinesere, men den kinesiske staten.

Den delen av innlegget som angivelig brøt Facebooks regler, refererer til Kinas økonomiske politikk i Hongkong som «tortur» eller «forfølgelse», og ikke handlingene til enkeltpersoner eller kinesere i Myanmar. Begge rådets oversettere indikerte at ordet «ta-yote» i dette tilfellet refererte til en stat. På spørsmål om det kunne være noen mulig tvetydighet i denne referansen, indikerte ikke oversetterne noen tvil. Rådets oversettere uttalte også at innlegget inneholder begreper som ofte brukes av Myanmars regjering og den kinesiske ambassaden for å adressere hverandre. Dessuten så en halv million mennesker innlegget, og over 6000 personer delte det, men ingen brukere rapporterte det. Offentlige kommentarer beskrev også den generelle tonen i innlegget som en politisk diskusjon.

Gitt at innlegget ikke var rettet mot mennesker basert på rase, etnisitet eller nasjonal opprinnelse, men var rettet mot en stat, fant rådet at det ikke brøt Facebooks fellesskapsstandard for hatefulle ytringer.

Tilsynsrådets avgjørelse

Tilsynsrådet opphever Facebooks avgjørelse om å fjerne innholdet og krever at innlegget gjenopprettes.

I en rådgivende uttalelse om retningslinjene anbefaler rådet at Facebook gjør følgende:

• Sørg for at de interne implementeringsstandardene er tilgjengelige på språket der innholdsmoderatorer gjennomgår innhold. Hvis det er nødvendig å prioritere, bør Facebook først fokusere på sammenhenger der risikoen for menneskerettighetene er mer alvorlig.

*Sakssammendrag gir en oversikt over saken og medfører ingen presedens.

Fullstendig saksavgjørelse

1. Sammendrag av avgjørelsen

Tilsynsrådet har opphevet Facebooks avgjørelse om å fjerne innhold i henhold til selskapets fellesskapsstandard for hatefulle ytringer. Rådet fant ut at innlegget ikke var en hatefull ytring.

2. Saksbeskrivelse

I april 2021 publiserte en Facebook-bruker som så ut til å være i Myanmar, på burmesisk på tidslinjen sin. Innlegget diskuterte måter å begrense finansieringen til Myanmar-militæret etter kuppet i Myanmar 1. februar 2021. Den foreslo at skatteinntektene skulle gis til komiteen som representerer Pyidaungsu Hlutaw (CRPH), en gruppe lovgivere som var imot kuppet. Innlegget fikk rundt 500 000 visninger, rundt 6000 reaksjoner og ble delt omtrent 6000 ganger. Ingen Facebook-brukere rapporterte innlegget.

Facebook oversatte den angivelig krenkende delen av brukerens innlegg som «Folk i Hongkong, fordi de jævla kineserne torturerte dem, flyttet bankvirksomheten sin til Storbritannia, og nå kan de (kineserne) ikke røre dem.» Facebook fjernet innlegget som «Nivå 2» Hatefull ytring under sin fellesskapsstandard for hatefulle ytringer dagen etter at det ble lagt ut. Dette forbyr innhold rettet mot en person eller gruppe mennesker basert på deres rase, etnisitet eller nasjonale opprinnelse med «banneord eller uttrykk med den hensikt å fornærme.»

En ny deling av innlegget ble ifølge Facebook «automatisk valgt som en del av et utvalg og sendt til en gjennomgang av mennesker som skulle bruke det til opplæring av klassifisereren». Dette innebærer at Facebook oppretter datasett med eksempler på brudd og ikke-krenkende innhold for å lære opp de automatiserte gjenkjennings- og håndhevelsesprosessene sine for å forutsi om innhold bryter Facebooks retningslinjer. Kontrolløren fastslo at det delte innlegget brøt med fellesskapsstandarden for hatefulle ytringer. Selv om formålet med prosessen var å lage innholdsett for å lære opp klassifisereren, ble det delte innlegget slettet når det ble funnet å være et brudd.

Fordi det delte innlegget ble funnet å ha brutt Facebooks regler, ble det opprinnelige innlegget automatisk identifisert for gjennomgang av en robot for administrative handlinger. Facebook forklarte at roboten for administrative handlinger er en intern Facebook-konto som ikke gjør noen vurdering av innhold, men utfører «en rekke handlinger i hele håndhevelsessystemet basert på beslutninger tatt av mennesker eller automatisk.» To mennesker analyserte deretter det opprinnelige innlegget, og begge bestemte at det var «Nivå 2» Hatefull ytring. Innholdet ble fjernet. Brukeren anket fjerningen til Facebook, der en fjerde menneskelig anmelder opprettholdt fjerningen. Ifølge Facebook var «innholdsanmelderne i dette tilfellet alle medlemmer av et burmesisk innholdsgjennomgangsteam hos Facebook.» Brukeren sendte deretter klagen til tilsynsrådet.

3. Myndighet og omfang

Rådet er bemyndiget til å gå gjennom Facebooks avgjørelse etter en klage fra brukeren som fikk sitt innlegg fjernet (vedtektenes artikkel 2, del 1; forskriftenes artikkel 2, del 2.1). Rådet kan opprettholde eller oppheve denne beslutningen (vedtektenes artikkel 3, del 5). Rådets avgjørelser om disse spørsmålene er bindende, og kan inneholde rådgivende uttalelser om retningslinjer med anbefalinger. Disse anbefalingene er ikke bindende, men Facebook må svare på dem (vedtektenes artikkel 3, del 4). Rådet er en uavhengig klagemekanisme som skal håndtere tvister på en gjennomsiktig og prinsipiell måte.

4. Relevante standarder

Tilsynsrådet vurderte følgende standarder i sin avgjørelse:

I. Facebooks standarder

Facebooks standarder definerer hatefulle ytringer som «et direkte angrep på andre mennesker på bakgrunn av hva vi kaller beskyttede karakteristikker – rase, etnisitet, nasjonalitet, religiøs tilhørighet, seksuell legning, kaste, kjønn, kjønnsidentitet og alvorlig sykdom eller funksjonshemning.» I «Nivå 2» omfattes forbudt innhold som banning, definert som «banneord eller setninger med den hensikt å fornærme, inkludert, men ikke begrenset til: faen, hore, jævel.»

II. Facebooks verdier

Facebook-verdiene er angitt i innledningen til standardene. Verdien «Stemme» er beskrevet som «avgjørende»:

Målet for standardene har alltid vært å skape et sted hvor man kan uttrykke seg og å gi folk en stemme. […] Vi vil at folk skal kunne snakke åpent om saker som er viktige for dem, selv om noen kan være uenige eller finner dem støtende.

Facebook begrenser «Stemme» for å oppfylle fire verdier, og to av disse er relevante her:

«Sikkerhet»: Vi jobber med å gjøre Facebook til et sikkert sted. Truende ytringer kan potensielt skremme, ekskludere eller stilne andre og er ikke tillatt på Facebook.

«Verdighet»: Vi mener at alle mennesker er likeverdige og har like rettigheter. Vi forventer at folk respekterer andres verdighet og ikke trakasserer eller nedverdiger andre mennesker.

III. Standarder for menneskerettigheter

FNs veiledende prinsipper for næringsliv og menneskerettigheter (UNGP) ble godkjente av FNs menneskerettighetsråd i 2011 og etablerte et frivillig rammeverk for private bedrifters menneskerettighetsansvar. I 2021 kunngjorde Facebook sin menneskerettighetspolitikk der de minnet om sin forpliktelse til å respektere menneskerettigheter i samsvar med UNGP-er. Rådets analyse i denne saken baserte seg på følgende menneskerettighetsstandarder:

1. Ytringsfrihet: Artikkel 19, Den internasjonale konvensjonen om sivile og politiske rettigheter (ICCPR), Generell kommentar nr. 34, Menneskerettighetskomiteen, 2011
2. Bedrifters ansvar: Næringsliv, menneskerettigheter og konfliktrammede regioner: mot hevet handlingsrapport (A/75/212), FNs arbeidsgruppe om spørsmål om menneskerettigheter og transnasjonale selskaper og andre forretningsforetak

5. Uttalelse fra brukeren

Brukeren uttalte i sin appell til rådet at de la ut dette innholdet for å «stoppe det brutale militærregimet» og gi råd til demokratiske ledere i Myanmar. Brukeren gjentok også behovet for å begrense Myanmars militærregimes finansiering. Brukeren identifiserte seg selv som en «aktivist» og spekulerte i at Myanmars militærregimes informanter rapporterte innlegget. Brukeren uttalte også at «noen som forstår språket i Myanmar» bør gjennomgå innlegget.

6. Forklaring av Facebooks avgjørelse

Facebook fjernet innholdet som et «Nivå 2»-angrep i henhold til Fellesskapstandarden for hatefulle ytringer, spesielt for brudd på retningslinjene som forbyr banneord rettet mot mennesker basert på rase, etnisitet og/eller nasjonal opprinnelse. Ifølge Facebook ble det angivelig krenkende innholdet ansett som et angrep på kinesiske mennesker.

Innholdet inkluderte uttrykket på burmesisk «$တရုတ်», som Facebooks regionale team oversatte som «jævla kineser» (eller «sout ta-yote»). Facebooks regionale team spesifiserte videre at «$» kan brukes som en forkortelse for «စောက်» eller «sout», som oversettes til «jævla». Ifølge Facebooks team oppfattes ordet «ta-yote» «kulturelt og språklig som en overlapping av identiteter/betydninger mellom Kina og det kinesiske folket». Facebook ga rådet den aktuelle konfidensielle interne veiledningen man gir til moderatorene, de såkalte interne implementeringsstandarder, om å skille språk som retter seg mot mennesker basert på beskyttede egenskaper og konsepter relatert til beskyttede egenskaper.

Facebook bemerket også i sin begrunnelse for beslutningen at etter kuppet i februar 2021 «var det rapporter om økende anti-kinesisk stemning» i Myanmar, og at «flere kinesere ble skadet, fanget eller drept i et påstått brannstiftelsesangrep på en kinesisk-finansiert klesfabrikk i Yangon, Myanmar.» Som svar på et spørsmål fra rådet uttalte Facebook at de ikke hadde noen kontakt med Myanmars militærregime om dette innlegget.

Facebook uttalte at gitt ordet «ta-yote» og det faktum at brukeren ikke «tydelig indikerer at begrepet refererer til landet / regjeringen i Kina,» bestemte Facebook at «brukeren i det minste refererer til kinesiske mennesker.» Som sådan uttalte Facebook at fjerningen av innlegget var i samsvar med dets fellesskapstandard for hatefulle ytringer.

Facebook uttalte også at fjerningen var i samsvar med verdiene «Verdighet» og «Sikkerhet», når den ble balansert mot verdien «Stemme». Ifølge Facebook kan banning rettet mot kinesere «føre til skade for disse menneskene» og er «nedverdigende, dehumaniserende og nedverdigende for deres individuelle verdighet».

Facebook hevdet videre at deres beslutning var i samsvar med internasjonale menneskerettighetsstandarder. Facebook uttalte at beslutningen oppfylte de internasjonale menneskerettighetslovens krav til lovlighet, legitimt mål og nødvendighet og proporsjonalitet. Ifølge Facebook var retningslinjene «lett tilgjengelige» i standardene, og «brukerens ordvalg falt godt innenfor forbudet mot banneord». I tillegg var beslutningen om å fjerne innholdet legitimt for å beskytte «andres rettigheter mot skade og diskriminering». Til slutt var beslutningen om å fjerne innholdet «nødvendig og forholdsmessig» som «opphopning av innhold som inneholder banning rettet mot kinesiske mennesker «skaper et miljø der voldshandlinger er mer sannsynlig å bli tolerert og reprodusere diskriminering i et samfunn», med henvisning til rådets beslutning 2021-002-FB-UA relatert til Zwarte Piet. Facebook uttalte at det var likt fordi «begge sakene involverer hatefulle ytringer rettet mot folk på grunnlag av deres rase eller etnisitet».

7. Kommentarer fra tredjeparter

Tilsynsrådet mottok 10 offentlige kommentarer knyttet til denne saken. Fem av kommentarene var fra Asia-Stillehavet og Oseania, spesielt Myanmar, og fem var fra USA og Canada. Rådet mottok kommentarer fra interessenter, inkludert menneskerettighetsforkjempere og sivilsamfunnsorganisasjoner med fokus på ytringsfrihet og hatefulle ytringer i Myanmar.

Innsendingene dekket temaer som oversettelse og analyse av ordet «sout ta-yote», om innholdet var et angrep på Kina eller kinesere, om innlegget var politisk tale som skulle beskyttes i sammenheng med konflikten i Myanmar, om det var en økning i anti-kinesiske følelser i Myanmar etter kuppet i februar 2021, forholdet mellom Kina og Myanmars militærregime og Facebooks praksis for innholdsmoderering, spesielt bruk, opplæring og revisjon av Facebooks automatiseringsverktøy for burmesisk språkinnhold.

Du kan lese de offentlige kommentarene som er sendt inn angående denne saken ved å trykke her.

8. Tilsynsrådets analyse

Denne saken fremhever viktigheten av kontekst når man håndhever innholdsretningslinjer som er utformet for å beskytte brukere mot hatefulle ytringer, samtidig som de respekterer politisk tale. Dette er spesielt relevant i Myanmar på grunn av kuppet i februar 2021 og Facebooks betydning som et kommunikasjonsmedium. Rådet gransket spørsmålet om hvorvidt dette innholdet burde gjenopprettes, fra tre perspektiver: Facebooks standarder, selskapets verdier og selskapets menneskerettighetsansvar.

8.1 Samsvar med Facebooks standarder

Rådet fant ut at gjenoppretting av dette innholdet er i samsvar med Facebooks fellesskapstandard for hatefulle ytringer. Facebooks retningslinjer forbyr «banneord med den hensikt å fornærme» som retter seg mot en person eller personer basert på rase, etnisitet eller nasjonal opprinnelse. Rådet konkluderer med at posten ikke var rettet mot mennesker, men heller var rettet mot kinesisk regjeringspolitikk i Hong Kong, gjort i en kontekst der man diskuterte den kinesiske regjeringens rolle i Myanmar.

I tillegg til offentlige kommentarer søkte rådet også to oversettelser av teksten. Disse inkluderte oversettelser fra en burmesiskspråklig som er lokalisert i Myanmar og en annen burmesiskspråklig som er lokalisert utenfor Myanmar. Offentlige kommentarer og rådets oversettere bemerket at på burmesisk brukes det samme ordet til å referere til stater og personer fra den staten. Derfor er kontekst nøkkelen til å forstå den tiltenkte betydningen. Dette er spesielt relevant for å anvende Facebooks retningslinjer for hatefulle ytringer. Da innholdet ble fjernet, slo fellesskapstandarden for hatefulle ytringer fast at det forbyr angrep mot mennesker basert på nasjonal opprinnelse, men forbyr ikke angrep mot land.

Rådet vurderte ulike faktorer for å bestemme om dette innlegget ikke rettet mot kinesere basert på deres etnisitet, rase eller nasjonale opprinnelse. For det første foreslår det bredere innlegget måter å begrense økonomisk engasjement med militærregimet og gi økonomisk støtte til CRPH. For det andre refererer den angivelig krenkende delen av innlegget til Kinas økonomiske politikk i Hong Kong som «tortur» eller «forfølgelse», og ikke handlingene til enkeltpersoner eller kinesere i Myanmar. For det tredje, mens fraværet av rapportering av et bredt delt innlegg ikke alltid indikerer at det ikke er brudd, mer enn 500 000 mennesker så, og mer enn 6 000 personer delte innlegget og ingen brukere rapporterte det. For det fjerde indikerte begge oversetterne konsultert av rådet at mens det samme begrepet brukes til å referere til både en stat og dets folk, refererte det her til staten. Når oversetterne ble spurt om mulig tvetydighet i denne referansen, indikerte de ingen tvil. For det femte uttalte begge oversetterne at innlegget inneholder termer som vanligvis brukes av myndighetene i Myanmar og den kinesiske ambassaden for å adressere hverandre. Til slutt bemerket offentlige kommentarer generelt at hovedinnholdet i innlegget i stor grad var en politisk diskusjon.

Derfor, gitt at banningen ikke var rettet mot mennesker basert på rase, etnisitet eller nasjonal opprinnelse, men målrettet mot en stat, konkluderer rådet med at den ikke bryter Facebooks fellesskapstandard for hatefulle ytringer. Det er avgjørende å sikre at forbud mot å rette seg mot mennesker basert på beskyttede egenskaper ikke tolkes på en måte som beskytter regjeringer eller institusjoner mot kritikk. Rådet erkjenner at anti-kinesiske hatefulle ytringer er en alvorlig bekymring, men dette innlegget refererer til den kinesiske staten.

Rådet er uenig i Facebooks argument om at beslutningen om å fjerne dette innholdet fulgte rådets begrunnelse i saksbeslutningen 2021-002-FB-UA (der rådet opprettholdt fjerningen av fremstillinger av personer i blackface). I det tilfellet hadde Facebook en regel mot skildringer av personer i blackface, og rådet tillot Facebook å bruke denne regelen på innhold som inkluderte blackface-fremstillinger av Zwarte Piet. Her indikerer derimot konteksten til innlegget at språket som ble brukt ikke brøt Facebooks regler i det hele tatt.

Under rådets behandling av denne saken oppdaterte Facebook sin fellesskapstandard for hatefulle ytringer for å gi mer informasjon om hvordan den forbyr «konsepter» relatert til beskyttede egenskaper under visse omstendigheter. Denne nye regelen sier at Facebook «krever ytterligere informasjon og/eller kontekst» for håndhevelse, og at brukere ikke skal legge ut «Innhold som angriper konsepter, institusjoner, ideer, praksis eller tro knyttet til beskyttede egenskaper, som sannsynligvis vil bidra til overhengende fysisk skade, trusler eller diskriminering mot personene knyttet til den beskyttede egenskapen.»

Siden det ikke var en del av fellesskapstandarden da Facebook fjernet dette innholdet, og Facebook ikke hevdet at det fjernet innholdet under rådets oppdaterte standard, analyserte ikke rådet anvendelsen av disse retningslinjene i denne saken. Rådet bemerker imidlertid at «begreper, institusjoner, ideer, praksis eller tro» kan dekke et svært bredt spekter av ytringer, inkludert politisk tale.

8.2 Samsvar med Facebooks verdier

Rådet konkluderer med at gjenoppretting av dette innholdet er i samsvar med Facebooks verdier. Selv om Facebooks verdier «Verdighet» og «Sikkerhet» er viktige, spesielt i sammenheng med kuppet i Myanmar i februar 2021, utgjorde ikke dette innholdet en risiko for disse verdiene på en måte som ville rettferdiggjøre å fortrenge «Stemme». Rådet fant også at innlegget inneholder politisk tale, som er sentral i verdien «Stemme».

8.3 Samsvar med Facebooks menneskerettighetsansvar

Rådet konkluderer med at gjenoppretting av innholdet er i samsvar med Facebooks menneskerettighetsansvar som bedrift. Facebook har forpliktet seg til å respektere menneskerettighetene i henhold til FNs veiledende prinsipper for næringsliv og menneskerettigheter (UNGPer). Selskapets retningslinjer for menneskerettigheter sier at dette inkluderer Den internasjonale konvensjonen om sivile og politiske rettigheter (ICCPR).

Artikkel 19 i ICCPR gir bred beskyttelse av ytringer. Denne beskyttelsen er «spesielt høy» for politiske ytringer og debatt, blant annet om offentlige institusjoner (Generell kommentar 34, § 38). Artikkel 19 krever statlige restriksjoner på uttrykk for å tilfredsstille den tredelte testen av lovlighet, legitimitet samt nødvendighet og proporsjonalitet. Rådet konkluderer med at Facebooks handlinger ikke tilfredsstilte dets ansvar som virksomhet under denne testen.

I. Lovlighet (tydelige og tilgjengelige regler)

Lovlighetsprinsippet under internasjonal menneskerettighetslov krever at regler som brukes av land til å begrense ytringsfriheten skal være tydelige og lett tilgjengelige (Generell kommentar 34, § 25). Regler som begrenser ytringer, må også «gi tilstrekkelig veiledning til de som er belastet med utøvelsen for å gjøre dem i stand til å fastslå hva slags uttrykk som med rette er ulovlig og hvilke som ikke er» (Generell kommentar 34, § 25).

Fellesskapstandarden for hatefulle ytringer forbyr banning som retter seg mot mennesker basert på rase, etnisitet eller nasjonal opprinnelse. Facebook fortalte rådet at på grunn av vanskelighetene med å «bestemme intensjonen i stor skala, anser Facebook uttrykket «jævla kinesere» som å referere til både kinesere og det kinesiske landet eller regjeringen, med mindre brukeren gir ytterligere kontekst som det utelukkende refererer til landet eller regjeringen.» Retningslinjene for å misligholde fjerning er ikke angitt i fellesskapstandarden.

Rådet konkluderer med at brukeren ga ytterligere kontekst om at innlegget henviste til en stat eller et land, som nevnt i rådets analyse av fellesskapstandarden for hatefulle ytringer (avsnitt 8.1 ovenfor). Flere Facebook-anmeldere kom til en annen konklusjon enn rådets oversettere, folk som sendte inn offentlige kommentarer, og antagelig mange av de mer enn 500 000 brukerne som så innlegget og ikke rapporterte det. Gitt dette avviket stiller rådet spørsmål ved tilstrekkeligheten av Facebooks interne veiledning, ressurser og opplæring gitt til innholdsmoderatorer.

Gitt rådets funn om at brukeren ikke brøt Facebooks retningslinjer for hatefulle ytringer, avgjør ikke rådet hvorvidt de ikke-offentlige retningslinjene for fjerning bryter med lovlighetsprinsippet. Rådet er imidlertid opptatt av at retningslinjene for fjerning når banning kan tolkes som rettet enten mot et folk eller mot en stat, ikke er tydelig i fellesskapstandardene. Generelt bør Facebook gi offentlig intern veiledning som endrer tolkningen av de offentlige standardene.

II. Legitime mål

Enhver statlig begrensning av ytringer bør ffølge ett av de legitime målene som er oppført i ICCPR. Disse inkluderer «andres rettigheter». Ifølge Facebook har retningslinjene for hatefulle ytringer som mål å beskytte brukere mot diskriminering. Rådet er enig i at dette er et legitimt mål.

III. Nødvendighet og proporsjonalitet

Prinsippet om nødvendighet og proporsjonalitet etter internasjonal menneskerettighetslov krever at begrensinger på ytringer «må være hensiktsmessige for å oppnå sin beskyttende funksjon; de må være det minst påtrengende instrumentet blant de som kan oppnå den beskyttende funksjon; de må være proporsjonale med interessen som skal beskyttes» (Generell kommentar 34, § 34). I dette tilfellet, basert på tolkningen av innholdet, bestemte rådet at begrensning av dette innlegget ikke ville oppnå en beskyttende funksjon.

UNGP slår fast at bedrifter bør utføre løpende menneskerettighetsgjennomgang for å vurdere virkningene av sin virksomhet (UNGP 17) og erkjenne at risikoen for brudd på menneskerettighetene øker i konfliktrammede sammenhenger (UNGP 7). FNs arbeidsgruppe for spørsmål om menneskerettigheter og transnasjonale foretak og andre virksomheter bemerket at virksomheters rimelige ansvar bør gjenspeile større kompleksitet og risiko for skade i enkelte scenarier (A/75/212, para. 41-49). På samme måte anbefalte rådet i beslutningen i sak 2021-001-FB-FBR at Facebook «sikrer tilstrekkelig ressurs og kompetanse for å vurdere risiko for skade fra innflytelsesrike kontoer globalt», og erkjenner at Facebook bør vie oppmerksomhet til regioner med større risiko.

I dette tilfellet fant rådet at disse økte ansvarsområdene ikke skulle føre til standard fjerning, da det er mye på spill i både å la skadelig innhold være og i å fjerne innhold som utgjør liten eller ingen risiko for skade. Mens Facebooks bekymring for hatefulle ytringer i Myanmar er velbegrunnet, må det også være spesielt forsiktig med å ikke fjerne politisk kritikk og ytringer, i dette tilfellet til støtte for demokratisk styring.

Rådet bemerket at Facebooks retningslinjer om å anta at banning som nevner nasjonal opprinnelse (i dette tilfellet «$တရုတ်») refererer til stater og mennesker kan føre til uforholdsmessig håndhevelse i noen språklige sammenhenger, for eksempel denne, der det samme ordet brukes til begge deler. Rådet bemerket også at virkningen av denne fjerningen strekker seg ut over saken, da Facebook indikerte at den ble brukt i opplæring av klassifiserer som et eksempel på innhold som brøt med fellesskapstandarden for hatefulle ytringer.

Gitt det ovennevnte støtter internasjonale menneskerettighetsstandarder gjenoppretting av innholdet til Facebook.

9. Tilsynsrådets vedtak

Tilsynsrådet opphever Facebooks avgjørelse om å fjerne innholdet, og krever at innholdet skal gjenopprettes. Facebook er forpliktet under rådets vedtekter til å anvende denne beslutningen på parallelle sammenhenger, og bør merke dette innholdet som ikke-krenkende hvis det brukes i opplæring av klassifiserer.

10. Anbefaling om retningslinjer

Facebook bør sørge for at de interne implementeringsstandardene er tilgjengelige på språket som innholdsmoderatorer gjennomgår innhold på. Hvis det er nødvendig å prioritere, bør Facebook først fokusere på sammenhenger der risikoen for menneskerettighetene er mer alvorlig.

*Prosedyremerknad:

Tilsynsrådets beslutninger utarbeides av et panel på fem medlemmer og skal godkjennes av et flertall i rådet. Rådsbeslutninger gjenspeiler ikke nødvendigvis alle medlemmenes personlige meninger.

I denne konkrete saken ble det bestilt uavhengige undersøkelser på vegne av rådet. Et uavhengig analyseinstitutt med hovedkontor ved universitetet i Göteborg, med støtte fra en gruppe på over 50 samfunnsvitere fra seks kontinenter og mer enn 3200 eksperter fra hele verden, delte av sin ekspertise innen sosiopolitiske og kulturelle kontekster. Selskapet Lionbridge Technologies LLC, som har spesialister som behersker mer enn 350 språk og jobber fra 5000 byer over hele verden, leverte språklig ekspertise.

Volver a Decisiones de casos y opiniones consultivas sobre políticas