Myanmar-boten

Sammanfattning av ärendet

Tillsynsrådet har upphävt Facebooks beslut att ta bort ett inlägg på burmesiska för brott mot communityregeln om hatretorik. Rådet fann att inlägget inte riktade sig mot det kinesiska folket, utan mot den kinesiska staten. I inlägget användes kränkande ord för att beskriva den kinesiska regeringens politik i Hongkong som en del av en politisk diskussion om den kinesiska statens roll i Myanmar.

Om ärendet

I april 2021 gjorde en Facebook-användare som verkade befinna sig i Myanmar ett inlägg på burmesiska på sin tidslinje. I inlägget diskuterades sätt att begränsa finansieringen av Myanmars militär efter kuppen i Myanmar den 1 februari 2021. I inlägget föreslogs att skattepengar skulle tilldelas The Committee Representing Pyidaungsu Hlutaw (CRPH), en grupp lagstiftare som motsatte sig kuppen. Inlägget fick ungefär en halv miljon visningar och inga Facebook-användare anmälde det.

Facebook översatte den del av användarens inlägg som skulle ha brutit mot reglerna till ”Hong Kong people, because the fucking Chinese tortured them, changed their banking to UK, and now (the Chinese) they cannot touch them” (Eftersom de jävla kineserna torterade dem flyttade folket i Hongkong över sina bankaffärer till Storbritannien, och nu kan de (kineserna) inte komma åt dem). Facebook tog bort inlägget för brott mot communityregeln om hatretorik. Regeln förbjuder innehåll riktat mot en person eller grupp personer baserat på etnicitet eller nationellt ursprung med kränkande termer eller fraser med avsikt att förolämpa.

De fyra innehållsgranskarna som undersökte inlägget var överens om att det bröt mot Facebooks regler. I sitt överklagande till rådet uppgav användaren att denna publicerat innehållet för att stoppa den brutala militärregimen.

Viktiga noteringar

Detta ärende visar på hur viktigt det är att ta hänsyn till sammanhanget i verkställandet av regler om hatretorik, samt på vikten av att skydda politiska uttalanden. Det är särskilt relevant i Myanmar med tanke på kuppen i februari 2021 och på Facebooks viktiga roll som plattform för kommunikation i landet.

I inlägget användes den burmesiska frasen ”$တရုတ်”, vilket Facebook översatt till ”fucking Chinese” (jävla kineser) (eller ”sout ta-yote”). Enligt Facebook uppfattas ordet ”ta-yote” kulturellt och lingvistiskt som ett överlappande uttryck för landet Kina och det kinesiska folket. Facebook uppgav att företaget med tanke på ordets beskaffenhet och det faktum att användaren inte tydligt angav att termen gällde Kina som land eller Kinas styre, fastslog att användaren som minst avsåg det kinesiska folket. Därför tog Facebook bort inlägget för brott mot communityregeln om hatretorik.

I och med att samma ord används för att beteckna en stat och människorna från den staten på burmesiska, är sammanhanget avgörande för att förstå den avsedda innebörden. Ett antal faktorer övertygade rådet om att användaren inte syftade på det kinesiska folket, utan på den kinesiska staten.

Den del av inlägget som skulle ha brutit mot Facebooks regler hänvisar till Kinas ekonomiska politik i Hongkong som ”torture” (tortyr) eller ”persecution” (förföljelse) och inte till enskilda personers eller det kinesiska folkets handlingar i Myanmar. Båda rådets översättare menade att ordet ”ta-yote” i detta fall syftade på en stat. På frågan om det skulle kunna finnas någon möjlig osäkerhet kring vad ordet syftade på visade översättarna ingen tvekan. Rådets översättare uppgav också att inlägget innehåller termer som ofta används som tilltal av Myanmars regering och den kinesiska ambassaden när de kommunicerar med varandra. Dessutom anmälde ingen användare inlägget trots att en halv miljon människor visade det och fler än 6 000 personer delade det. Kommentarer från allmänheten beskrev också inläggets övergripande ton som att det var en politisk diskussion.

Med tanke på att inlägget inte angriper personer baserat på etnicitet eller nationellt ursprung utan är riktat mot en stat, fann rådet att det inte bröt mot Facebooks communityregel om hatretorik.

Tillsynsrådets beslut

Tillsynsrådet upphäver Facebooks beslut om att ta bort innehållet och kräver att inlägget ska återställas.

I ett uttalande rekommenderar rådet att Facebook:

• säkerställer att dess interna regler för implementering är tillgängliga på det språk på vilket innehållsmoderatorer granskar innehåll. Om det är nödvändigt att prioritera bör Facebook först fokusera på sammanhang där det föreligger mer allvarliga risker för brott mot mänskliga rättigheter.

* En ärendesammanfattning ger en översikt över ärendet och har inget prejudikatvärde.

Fullständigt beslut i ärende

1. Sammanfattning av beslutet

Tillsynsrådet har upphävt Facebooks beslut att ta bort innehåll för brott mot communityregeln om hatretorik. Rådet fann att inlägget inte innehöll hatretorik.

2. Beskrivning av ärendet

I april 2021 gjorde en Facebook-användare som verkade befinna sig i Myanmar ett inlägg på burmesiska på sin tidslinje. I inlägget diskuterades sätt att begränsa finansieringen av Myanmars militär efter kuppen i Myanmar den 1 februari 2021. I inlägget föreslogs att skattepengar skulle tilldelas The Committee Representing Pyidaungsu Hlutaw (CRPH), en grupp lagstiftare som motsatte sig kuppen. Inlägget fick cirka 500 000 visningar och cirka 6 000 reaktioner och delades cirka 6 000 gånger. Inga Facebook-användare anmälde inlägget.

Facebook översatte den del av användarens inlägg som skulle ha brutit mot reglerna till ”Hong Kong people, because the fucking Chinese tortured them, changed their banking to UK, and now (the Chinese) they cannot touch them” (Eftersom de jävla kineserna torterade dem flyttade folket i Hongkong över sina bankaffärer till Storbritannien, och nu kan de (kineserna) inte komma åt dem). Facebook tog bort inlägget som hatretorik på ”nivå 2” enligt sin communityregel om hatretorik dagen efter det publicerades. Regeln förbjuder innehåll riktat mot en person eller grupp personer baserat på etnicitet eller nationellt ursprung med kränkande termer eller fraser med avsikt att förolämpa.

En delning av inlägget valdes enligt Facebook ut automatiskt som en del av ett urval och skickades till en granskare för att användas i klassificeringsträning. I det ingår att Facebook skapar datauppsättningar med exempel på innehåll som bryter eller inte bryter mot reglerna för att träna upp de automatiska processerna för upptäckt och verkställande till att avgöra om innehåll bryter mot Facebooks riktlinjer. Granskaren fastslog att det delade inlägget bröt mot communityregeln om hatretorik. Trots att syftet med processen var att skapa uppsättningar av innehåll för att träna upp klassificeringen, togs det delade inlägget bort så snart det fastställt bryta mot reglerna.

Eftersom det delade inlägget fastställdes ha brutit mot Facebooks regler identifierade en ”bot för administrativa åtgärder” automatiskt det ursprungliga inlägget för granskning. Facebook förklarade att denna bot för administrativa åtgärder är ett internt Facebook-konto som inte gör några bedömningar av innehåll utan utför ett flertal olika åtgärder inom verkställighetssystemet utifrån beslut som fattats automatiskt eller av människor. Två manuella granskare analyserade sedan det ursprungliga inlägget och båda två fastslog att det var hatretorik på ”nivå 2”. Innehållet togs bort. Användaren överklagade borttagandet till Facebook, där en femte granskare biföll borttagandet. Enligt Facebook ingick innehållsgranskarna i det här fallet alla i ett granskningsteam för burmesiskt innehåll på Facebook. Användaren skickade då in sitt överklagande till Tillsynsrådet.

3. Behörighet och omfång

Rådet har auktoritet att granska Facebooks beslut om den användare vars inlägg har tagits bort överklagar beslutet (artikel 2, avsnitt 1 i stadgan; regelverkets artikel 2, avsnitt 2.1). Rådet kan fastställa eller upphäva det beslutet (artikel 3, avsnitt 5 i stadgan). Rådets beslut är bindande och kan innefatta uttalanden med råd om riktlinjer och rekommendationer. Dessa rekommendationer är inte bindande men Facebook måste svara på dem (artikel 3, avsnitt 4 i stadgan). Rådet är en oberoende klagomålsinstans som inrättats för att hantera bestridanden på ett transparent och principbaserat sätt.

4. Relevanta regler

Tillsynsrådet utgick ifrån följande regler i sitt beslut:

I. Facebooks communityregler

I Facebooks communityregler definieras hatretorik som innehåll som direkt angriper någon på grund av så kallade skyddade egenskaper – etnicitet, nationellt ursprung, religiös tillhörighet, sexuell läggning, kast, kön, könsidentitet och allvarlig sjukdom eller funktionsnedsättning. Enligt ”nivå 2” omfattar förbjudet innehåll svordomar, vilket definieras som kränkande termer eller fraser med avsikt att förolämpa, inklusive men inte begränsat till: jävel, bitch, skitstövel.

II. Facebooks värderingar

Facebooks värderingar återfinns i introduktionen till communityreglerna. Värderingen Röst, det vill säga yttrandefriheten, beskrivs vara av yttersta vikt:

Målet med våra communityregler har alltid varit att skapa en plats för uttryck och göra det möjligt för människor att göra sina röster hörda. […] Vi vill att människor ska kunna tala öppet om de frågor som är viktiga för dem, även om vissa inte håller med eller finner åsikterna förkastliga.

Facebook begränsar yttrandefriheten baserat på fyra värderingar och två är relevanta här.

Säkerhet: Vi har åtagit oss att göra Facebook till en säker plats. Uttryck som hotar människor kan skrämma, utesluta eller tysta andra och det är inte tillåtet på Facebook.

Värdighet: Vi anser att alla människor har samma värdighet och rättigheter. Vi förväntar oss att människor respekterar andras värdighet och inte trakasserar eller förnedrar andra.

III. Normer för mänskliga rättigheter

FN:s vägledande principer för företag och mänskliga rättigheter (UNGP), som bifölls av FN:s råd för mänskliga rättigheter år 2011, utgör ett frivilligt ramverk för privata företags ansvar gällande mänskliga rättigheter. År 2021 presenterade Facebook sin företagspolicy avseende mänskliga rättigheter som klargör företagets strävan att respektera de mänskliga rättigheterna i enlighet med UNGP-principerna. Rådets analys i det här fallet bygger på följande normer för mänskliga rättigheter:

1. Yttrandefrihet: artikel 19, konventionen om medborgerliga och politiska rättigheter (ICCPR), allmän kommentar nr 34, FN:s kommitté för mänskliga rättigheter, 2011
2. Företagens ansvar: Rapporten om företag, mänskliga rättigheter och konfliktpåverkade områden: mot förstärkta åtgärder (A/75/212), FN:s arbetsgrupp för frågan om mänskliga rättigheter och internationella företag och andra företag

5. Användarens uttalande

I sitt överklagande till rådet angav användaren att innehållet publicerades för att stoppa den brutala militärregimen och ge de demokratiska ledarna i Myanmar råd. Användaren lyfte återigen fram behovet av att begränsa finansieringen av Myanmar militärregim. Användaren identifierade sig själv som en aktivist och spekulerade om att Myanmars militärregims informatörer hade anmält inlägget. Användaren hävdade också att någon som förstår språket i Myanmar bör granska inlägget.

6. Förklaring av Facebooks beslut

Facebook tog bort innehållet som ett angrepp på ”nivå 2” enligt communityregeln om hatretorik för brott mot regeln som förbjuder kränkande ord riktade mot människor baserat på deras etnicitet eller nationella ursprung. Enligt Facebook ansågs innehållet som skulle bryta mot reglerna vara ett angrepp på det kinesiska folket.

Innehållet inkluderade frasen ”$တရုတ်” på burmesiska, vilken Facebooks regionala team översatta till ”fucking Chinese” (jävla kineser) (eller ”sout ta-yote”). Facebooks regionala team angav vidare att ”$” kan användas som en förkortning av ”စောက်” eller ”sout”, vilket översätts till ”fucking” (jävla). Enligt Facebooks team uppfattas ordet ”ta-yote” kulturellt och lingvistiskt som ett överlappande uttryck för landet Kina och det kinesiska folket. Facebook tillhandahöll rådet den relevanta och konfidentiella interna vägledning företaget tillhandahåller sina moderatorer, eller dess interna regler för implementering, när det gäller att urskilja uttalanden som riktar sig mot människor baserat på skyddade egenskaper och koncept relaterade till skyddade egenskaper.

Facebook noterade också i förklaringen av sitt beslut att det efter kuppen i februari 2021 rapporterats om ett ökat antikinesiskt klimat i Myanmar och att flera kinesiska medborgare skadats, suttit fast eller dödats i en misstänkt mordbrand mot en kinesiskt finansierad klädfabrik i Yangon i Myanmar.” Som svar på en fråga från rådet uppgav Facebook att företaget inte hade haft någon kontakt med Myanmars militärregim angående inlägget.

Facebook uppgav att företaget, med tanke på ordet ”ta-yotes” beskaffenhet och det faktum att användaren inte tydligt angav att termen gällde Kina som land eller Kinas styre, fastslog att användaren som minst avsåg det kinesiska folket. Därför uppgav Facebook att borttagandet av inlägget var i enlighet med communityregeln om hatretorik.

Facebook påpekar dessutom att borttagandet efterlever värderingarna Värdighet och Säkerhet, som vägs mot värderingen Röst, eller yttrandefrihet. Facebook angav att kränkande uttryck riktade mot kinesiska människor kan leda till skada mot de människorna och att de är förnedrande och avhumaniserande och förminskar personernas individuella värdighet.

Facebook hävdar att företagets beslut efterlever de internationella normerna för mänskliga rättigheter. Facebook uppgav att dess beslut efterlevde kraven på laglighet, berättigat ändamål och nödvändighet och proportionalitet i internationell människorättslagstiftning. Facebook angav att regeln var lättillgänglig i communityreglerna och att användarens ordval tydligt föll inom förbudet mot kränkande termer. Vidare var beslutet att ta bort innehållet berättigat när det gällde att skydda mot skada och diskriminering. Slutligen var beslutet att ta bort innehållet nödvändigt och proportionerligt i och med att ackumuleringen av innehåll med kränkande uttryck riktade mot kinesiska människor ”skapar en miljö där det är troligare att våldshandlingar tolereras och återskapar diskriminering i samhället i övrigt” med ett citat från rådets beslut 2021-002-FB-UA gällande Zwarte Piet. Facebook uppgav att det fallet var liknande eftersom båda ärendena involverade hatretorik riktat mot människor baserat på deras etnicitet.

7. Framställningar från tredje part

Tillsynsrådet har mottagit 10 kommentarer från allmänheten med koppling till det här ärendet. Fem av kommentarerna kom från Asien-Stillahavsområdet, och speciellt från Myanmar, och fem kom från USA och Kanada. Rådet mottog kommentarer från berörda parter som människorättsförsvarare och civila samhällsorganisationer inriktade på yttrandefrihet och hatretorik i Myanmar.

Kommentarerna behandlade ämnen som översättning och tolkning av ordet ”sout ta-yote”, huruvida innehållet var ett angrepp på Kina eller det kinesiska folket, huruvida inlägget var ett politiskt uttalande som borde skyddas utifrån sammanhanget med konflikten i Myanmar, huruvida det förelåg ett ökat antikinesiskt klimat i Myanmar efter kuppen i februari 2021, relationen mellan Kina och Myanmars militärregim, samt Facebooks rutiner för innehållsmoderering, framförallt användningen, träningen och granskningen av Facebooks automatiska verktyg för innehåll på burmesiska.

Om du vill läsa de kommentarer som har skickats in från allmänheten gällande ärendet klickar du här.

8. Tillsynsrådets analys

Detta ärende visar på hur viktigt sammanhanget är i verkställandet av innehållsregler som syftar till att skydda användare mot hatretorik samtidigt som politiska uttalanden respekteras. Det är särskilt relevant i Myanmar med tanke på kuppen i februari 2021 och på Facebooks viktiga roll som en plattform för kommunikation. Rådet har tittat på huruvida innehållet bör återställas ur tre synvinklar: Facebooks communityregler, företagets värderingar och företagets ansvar för mänskliga rättigheter.

8.1 Efterlevnad av communityreglerna

Rådet fann att ett återställande av innehållet var förenligt med Facebooks communityregel om hatretorik. Facebooks regel förbjuder kränkande termer med avsikt att förolämpa som riktas mot en person eller ett folk baserat på etnisk grupp eller nationellt ursprung. Rådet kommer till slutsatsen att inlägget inte var riktat mot människor, utan snarare mot den kinesiska regeringens politik i Hongkong, och det genom att diskutera den kinesiska statens roll i Myanmar.

Utöver kommentarer från allmänheten efterfrågade rådet också två översättningar av texten. Översättningarna kom från två burmesisktalande personer, varav den ena befann sig i Myanmar och den andra utanför Myanmar. Kommentarer från allmänheten och rådets översättare noterade att samma ord används på burmesiska för att beteckna stater och personer från de staterna. Därför är sammanhanget avgörande när det gäller att förstå den avsedda innebörden. Det är särskilt relevant när det gäller tillämpandet av Facebooks regel om hatretorik. Vid tidpunkten för när innehållet togs bort uppgavs det i communityregeln om hatretorik att det är förbjudet att angripa personer baserat på nationellt ursprung, men enligt regeln förbjuds inte angrepp riktade mot länder.

Rådet övervägde ett flertal faktorer i fastställandet av att inlägget inte var riktat mot kinesiska personer baserat på deras etnicitet eller nationella ursprung. För det första ges det i det bredare inlägget förslag på sätt att begränsa det ekonomiska samröret med militärregimen och att ge ekonomiskt stöd åt CRPH. För det andra hänvisar den del av inlägget som skulle ha brutit mot reglerna till Kinas ekonomiska politik i Hongkong som ”torture” (tortyr) eller ”persecution” (förföljelse) och inte till enskilda personers eller det kinesiska folkets handlingar i Myanmar. För det tredje, även om frånvaron av anmälningar mot ett inlägg som delats brett inte alltid innebär att det inte bryter mot regler, visade fler än 500 000 personer inlägget och fler än 6 000 personer delade det utan att någon användare anmälde det. För det fjärde angav båda de översättare som rådfrågades av rådet att även om samma term används till att beteckna både en stat och dess folk, så refererade det i det här fallet till staten. På frågan om det skulle kunna finnas någon möjlig osäkerhet kring vad ordet syftade på visade översättarna ingen tvekan. För det femte uppgav båda översättarna att inlägget innehåller termer som ofta används som tilltal av Myanmars regering och den kinesiska ambassaden när de kommunicerar med varandra. Slutligen noterades det generellt i kommentarer från allmänheten att inläggets övergripande ton var den av en politisk diskussion.

Med tanke på att det kränkande uttrycket inte var riktat mot ett folk baserat på etnicitet eller nationellt ursprung, utan mot en stat, fastslår rådet att det inte bryter mot Facebooks communityregel om hatretorik. Det är av yttersta vikt att man säkerställer att förbud mot att angripa människor baserat på skyddade egenskaper inte kan tolkas på ett sätt som skyddar regeringar eller institutioner från kritik. Rådet är medvetna om att hatretorik riktat mot kineser är ett allvarligt problem, men det här inlägget handlar om den kinesiska staten.

Rådet håller inte med om Facebooks argument om att beslutet att ta bort innehållet följde rådets förklaring i ärendebeslut 2021-002-FB-UA (i vilket rådet biföll borttagningen av avbildningar av människor med ”blackface”). I det fallet hade Facebook en regel mot avbildningar av människor med ”blackface”, och rådet tillät Facebook tillämpa den regeln på innehåll som omfattade avbildningar av Zwarte Piet i ”blackface”. I det här fallet visade inläggets sammanhang istället att det språk som användes inte alls bröt mot Facebooks regler.

Under rådets överläggningar gällande ärendet uppdaterade Facebook sin communityregel om hatretorik och gav mer information om hur företaget under speciella omständigheter förbjuder ”koncept” relaterade till skyddade egenskaper. I denna nya regel anges det att Facebook behöver ytterligare information och/eller sammanhang för verkställandet och att användare inte ska publicera innehåll som angriper koncept, institutioner, idéer, sedvänjor eller åsikter associerade med skyddade egenskaper, vilket med sannolikhet kan bidra till omedelbar risk för skada, hot eller diskriminering av de personer som är förknippade med den skyddade egenskapen.

Eftersom det inte ingick i communityregeln när Facebook tog bort detta innehåll och Facebook inte hävdade att de tagit bort innehållet enligt denna uppdaterade regel analyserade inte rådet tillämpningen av den på ärendet. Rådet noterar emellertid att ”koncept, institutioner, idéer, sedvänjor eller åsikter” kan omfatta ett mycket brett spektrum av uttalanden, inklusive politiska uttalanden.

8.2 Efterlevnad av Facebooks värderingar

Rådet fastslår att det följer Facebooks värderingar att återställa innehållet. Även om Facebooks värderingar Värdighet och Säkerhet är viktiga, särskilt gällande kuppen i Myanmar i februari 2021, medförde detta innehåll inte en sådan risk mot de värderingarna att det kunde rättfärdiga ett åsidosättande av värderingen Röst. Rådet fann också att inlägget innehåller politiska uttalanden vilket är centralt för värderingen Röst.

8.3 Facebooks ansvar gällande mänskliga rättigheter

Rådet fastslår att det är förenligt med Facebooks ansvar för mänskliga rättigheter att återställa innehållet. Facebook har förbundit sig att respektera mänskliga rättigheter enligt FN:s vägledande principer om företag och mänskliga rättigheter (UNGP). I Facebooks företagspolicy avseende mänskliga rättigheter uppges det att den inkluderar konventionen om medborgerliga och politiska rättigheter (ICCPR).

Artikel 19 i ICCPR ger ett brett skydd av yttrandefriheten. Skyddet är särskilt högt för politiska uttalanden och debatter, inklusive om offentliga institutioner (allmän kommentar 34, paragraf 38). Artikel 19 kräver att statliga begränsningar av yttrandefriheten måste uppfylla de tre villkoren laglighet, berättigat ändamål samt nödvändighet och proportionalitet. Rådet fastslår att Facebooks åtgärder inte uppfyllde Facebooks ansvar som företag enligt detta test.

I. Laglighet (reglernas tydlighet och tillgänglighet)

Laglighetsprincipen i internationell människorättslagstiftning kräver att regler som stater använder till att begränsa yttrandefriheten ska vara tydliga och tillgängliga (allmän kommentar nr 34, paragraf 25). Regler som begränsar yttrandefriheten måste också ge tillräcklig vägledning åt de som har i uppgift att verkställa dem, så att de kan säkerställa vilken typ av uttryck som bör begränsas och vilken typ som inte bör det (allmän kommentar 34, paragraf 25).

Communityregeln om hatretorik förbjuder kränkande uttryck som riktar sig mot människor baserat på etnicitet eller nationellt ursprung. Facebook förklarade för rådet att de, på grund av svårigheterna med att fastställa avsikt i stor skala, ser frasen ”fucking Chinese” (jävla kineser) som att den hänvisar både till det kinesiska folket och till landet Kina och dess regering, såvida användaren inte tillhandahåller ytterligare sammanhang som visar att den endast hänvisar till landet eller regeringen. Policyn om att som standard hänfalla till borttagande har inte angetts i communityreglerna.

Rådet fastslår att användaren tillhandahöll ytterligare sammanhang om att inlägget handlade om en stat eller ett land, enligt vad som noterats i rådets analys av communityregeln om hatretorik (avsnitt 8.1 ovan). Flera Facebook-granskare kom till en annan slutsats än rådets översättare, människor som skickade in kommentarer och troligen även många av de fler än 500 000 användare som visade inlägget och inte anmälde det. Med tanke på denna diskrepans ifrågasätter rådet adekvansen hos den interna vägledning, de resurser och den utbildning Facebook ger innehållsmoderatorerna.

Med tanke på att rådets finner att användaren inte bröt mot Facebooks regel om hatretorik fattar rådet inget beslut om huruvida den icke offentliga policyn om att som standard hänfalla till borttagande bryter mot laglighetsprincipen. Rådet är emellertid oroade över att policyn om att som standard hänfalla till borttagande när ett kränkande uttryck antingen kan tolkas som riktat mot ett folk eller en stat inte anges tydligt i communityreglerna. I allmänhet bör Facebook offentliggöra intern vägledning som påverkar tolkningen av dess offentliga communityregler.

II. Berättigat ändamål

Alla statliga begränsningar av yttrandefriheten ska göras i enlighet med ett av de berättigade ändamål som anges i ICCPR. Ett av dessa är andras rättigheter. Enligt Facebook syftar regeln om hatretorik till att skydda användare från diskriminering. Rådet håller med om att det är ett berättigat ändamål.

III. Nödvändighet och proportionalitet

Enligt principen om nödvändighet och proportionalitet i internationell människorättslagstiftning krävs det att begränsningar av yttrandefriheten måste vara lämpliga för att uppnå sin skyddande funktion. De måste vara det minst ingripande alternativet av de som skulle kunna användas för att uppnå den skyddande funktionen och de måste vara proportionerliga i förhållande till det intresse som ska skyddas (allmän kommentar 34, paragraf 34). I detta ärendet finner rådet utifrån sin tolkning av innehållet att en begränsning av inlägget inte skulle ha en skyddande funktion.

I UNGPs anges det att företag löpande bör utföra konsekvensanalys och offentliggöranden avseende mänskliga rättigheter för att utvärdera effekten av sina aktiviteter (UNGP 17) och vidkänna att risken för kränkning av mänskliga rättigheter är förhöjd i konfliktpåverkade sammanhang (UNGP 7). FN:s arbetsgrupp i frågan om mänskliga rättigheter och internationella företag och andra företag noterade att företagens ansvar gällande konsekvensanalys och offentliggörande bör återspegla den ökade komplexiteten och risken för skada i vissa scenarier (A/75/212, par. 41-49). I ärendebeslut 2021-001-FB-FBR rekommenderade rådet också att Facebook skulle avsätta tillräckliga resurser och lämplig expertis för att bedöma risken för skada från inflytelserika konton globalt, och menade att Facebook bör ge uppmärksamhet åt områden där riskerna är större.

I detta fall fann rådet att detta ökade ansvar inte ska leda till standardborttagande eftersom det finns stor risk både för att skadligt innehåll lämnas uppe och för att innehåll som medför liten eller ingen risk för skada tas bort. Även om Facebooks farhågor kring hatretorik i Myanmar är välgrundade måste företaget också vara särskilt försiktiga så att det inte tar bort politisk kritik och politiska uttalanden, i detta fall till stöd för ett demokratiskt styre.

Rådet noterade att Facebooks regel om att förutsätta att kränkande uttryck som nämner nationellt ursprung (i detta fall ”$တရုတ်”) gäller både stater och människor kan leda till oproportionerligt verkställande i vissa lingvistiska sammanhang, som i det här, när samma ord används för båda företeelserna. Rådet noterade också att effekten av det här borttagandet sträcker sig långt vidare än till bara detta enskilda ärende i och med att Facebook angett att det användes i klassificeringsträning som ett exempel på innehåll som bryter mot communityregeln om hatretorik.

Utifrån det ovanstående ger de internationella normerna för mänskliga rättigheter stöd för att innehållet återställs på Facebook.

9. Tillsynsrådets beslut

Tillsynsrådet upphäver Facebooks beslut om att ta bort innehållet och kräver att innehållet ska återställas. Enligt rådets stadga är Facebook skyldiga att tillämpa detta beslut på parallella sammanhang, och bör märka innehållet som att det inte bryter mot reglerna i klassificeringsträning.

10. Policyrekommendation

Facebook bör säkerställa att dess interna regler för implementering är tillgängliga på det språk på vilket innehållsmoderatorer granskar innehåll. Om det är nödvändigt att prioritera bör Facebook först fokusera på sammanhang där det föreligger mer allvarliga risker för brott mot mänskliga rättigheter.

* Procedurmässig notering:

Tillsynsrådets beslut utarbetas av en panel bestående av fem medlemmar och godkänns av en majoritet av rådet. Rådets beslut återspeglar inte nödvändigtvis alla medlemmars personliga åsikter.

Inför beslutet i det här ärendet genomfördes oberoende efterforskningar på uppdrag av rådet. Ett oberoende forskningsinstitut som utgår från Göteborgs universitet, med ett team bestående av över 50 samhällsvetare på sex kontinenter och över 3 200 nationella experter från hela världen, har gett expertis om sociopolitisk och kulturell kontext. Företaget Lionbridge Technologies LLC, vars specialister talar fler än 350 språk flytande och jobbar från 5 000 städer världen över, tillhandahöll lingvistisk expertis.

Voltar para Decisões de Casos e Pareceres Consultivos sobre Políticas