Återtagande av arabiska ord

Tillsynsrådet har upphävt Metas ursprungliga beslut att ta bort ett Instagram-inlägg som, enligt användaren, innehöll bilder av arabiska ord som kan användas på ett nedsättande sätt mot män med ”feminina manér”. Innehållet omfattades av ett undantag till Metas policy om hatretorik och borde aldrig ha tagits bort.

Om ärendet

I november 2021 publicerade ett Instagram-konto, som beskriver sig som en plats för diskussion av queer-narrativ i arabisk kultur, en rad bilder i en carousel (ett Instagram-inlägg som kan innehålla upp till 10 bilder med en och samma bildtext). I bildtexten, som är på både arabiska och engelska, förklarar användaren att varje bild innehåller ett nytt ord som kan användas på ett nedsättande sätt mot män med ”feminina manér” i den arabisktalande världen, inklusive termerna ”zamel”, ”foufou”, och ”tante”/”tanta”. Användaren angav att avsikten med inlägget var ”att återta de här sårande orden”.

Meta tog initialt bort innehållet för att det bröt mot policyn om hatretorik men återställde det sedan efter att användaren överklagade. Efter att en annan användare anmälde innehållet tog Meta sedan bort det igen för att det bröt mot policyn om hatretorik. Enligt Meta hade innehållet, innan rådet valde det här ärendet, eskalerats för ytterligare intern granskning, genom vilken det fastställdes att innehållet inte bröt mot företagets policy om hatretorik. Meta återställde därför innehållet på Instagram. Meta förklarade att de fattade sina initiala beslut att ta bort innehållet efter granskningar av de bilder som innehåller orden ”z***l” och ”t***e/t***a”.

Viktiga noteringar

Rådet finner att borttagningen av det här innehållet var en uppenbart felaktig bedömning som inte stämmer överens med Metas policy om hatretorik. Inlägget innehåller inte nedsättande uttryck, men det omfattas av ett undantag för uttalanden som ”används för att referera till den egna personen eller som används på ett stärkande sätt”. Det omfattas även av ett undantag enligt vilket det är tillåtet att citera hatretorik om syftet är att fördöma innehållet eller väcka medvetenhet om det”. Användarens uttalanden om att hen varken ”förespråkade eller uppmuntrade användning” av de nedsättande uttrycken i fråga, och att syftet var att ”återta de här sårande orden”, borde ha uppmärksammat moderatorn på möjligheten att ett undantag skulle kunna gälla.

Sociala medier är ofta ett av få sätt att uttrycka sig fritt för personer som identifierar sig som HBTQIA+ i länder där sådana uttryck är straffbara. Överdriven moderering av yttranden som görs av personer från förföljda minoritetsgrupper är ett allvarligt hot mot deras rätt att uttrycka sig fritt. Rådet är därför bekymrade över att Meta inte konsekvent tillämpar undantagen till policyn om hatretorik när det gäller uttryck från marginaliserade grupper.

Felen i det här ärendet, vilka bland annat handlade om att tre separata moderatorer bedömde att innehållet bröt mot policyn om hatretorik, antyder att Metas vägledning till moderatorer som utvärderar referenser till nedsättande ord kan vara otillräcklig. Rådet är bekymrade över att granskarna kanske saknar tillräckliga resurser vad gäller kapacitet eller utbildning för att förhindra misstag av den typ som förekommer i det här ärendet.

Det är redan svårt i sig att på engelska vägleda moderatorer i hur de ska granska innehåll som är på andra språk än engelska, vilket är vad Meta gör för närvarande. Rådet rekommenderar att Meta översätter sin interna vägledning till arabiska dialekter som företagets moderatorer använder, eftersom det skulle hjälpa dem att bättre bedöma när de ska tillämpa undantag för innehåll med nedsättande uttryck.

Rådet anser också att Meta regelbundet måste inhämta synpunkter från minoriteter som utsätts för nedsättande uttryck på lands- och kulturspecifik nivå för att de som företag ska kunna skapa en nyanserad lista över nedsättande ord och ge sina moderatorer lämplig vägledning om att tillämpa undantag till policyn om nedsättande uttryck. Meta bör också vara mer transparenta kring hur de skapar, verkställer och granskar sina marknadsspecifika listor över nedsättande ord.

Tillsynsrådets beslut

Tillsynsrådet upphäver Metas ursprungliga beslut att ta bort innehållet.

Följande rekommenderas i rådets uttalande till Meta:

• Översätta de interna reglerna för implementering och kända frågor till dialekter av arabiska som används av företagets innehållsmoderatorer. Det skulle kunna minska överdriven verkställighet i arabisktalande regioner genom att moderatorer bättre skulle kunna bedöma när det är motiverat att tillämpa undantag på innehåll som innehåller nedsättande uttryck.
• Publicera en tydlig förklaring av hur de som företag skapar marknadsspecifika listor över nedsättande uttryck. Förklaringen bör beskriva processerna och kriterierna för att fastställa vilka nedsättande uttryck och länder som omfattas för varje marknadsspecifik lista.
• Publicera en tydlig förklaring av hur de som företag verkställer sina marknadsspecifika listor över nedsättande uttryck. Den här förklaringen bör beskriva processerna och kriterierna för att fastställa exakt när och var förbudet mot nedsättande uttryck ska verkställas. Det handlar alltså om huruvida förbudet ska gälla för inlägg som geografiskt sett kommer från regionen i fråga, för inlägg som inte kommer från regionen i fråga men som berör regionen och/eller för alla användare i regionen i fråga, oavsett inläggets geografiska ursprung.
• Publicera en tydlig förklaring av hur de som företag granskar sina marknadsspecifika listor över nedsättande uttryck. Den här förklaringen bör beskriva processerna och kriterierna för att ta bort nedsättande uttryck från Metas marknadsspecifika listor eller behålla dem.

* En ärendesammanfattning ger en översikt över ärendet och har inget prejudikatvärde.

Fullständigt beslut i ärende

1.Sammanfattning av beslutet

Tillsynsrådet upphäver Metas ursprungliga beslut att ta bort ett Instagram-inlägg av ett konto som utforskar ”queer-narrativ i arabisk historia och populärkultur”. Innehållet omfattas av ett undantag till Metas hatretorik eftersom det rapporterar om, fördömer och diskuterar andra personers negativa användning av homofoba nedsättande uttryck och använder dem i en uttryckligen positiv kontext.

2. Beskrivning av och bakgrund till ärendet

I november 2021 publicerade ett Instagram-konto, som identifierar sig som en plats för diskussion av queer-narrativ i arabisk kultur, en rad bilder i en carousel (ett Instagram-inlägg som kan innehålla upp till 10 bilder med en bildtext). I bildtexten förklarar användaren på både arabiska och engelska att varje bild innehåller ett nytt ord som kan användas på ett nedsättande sätt mot män med ”feminina manér” i den arabisktalande världen, inklusive orden ”zamel”, ”foufou”, och ”tante”/”tanta”. Användaren angav i bildtexten att hen varken ”förespråkade eller uppmuntrade användning av de här orden”, utan förklarade att hen tidigare har förorättats med ett av dessa nedsättande uttryck och att syftet med inlägget var att ”återta de här sårande orden”. Rådets externa experter bekräftade att orden som citeras i innehållet ofta används som nedsättande uttryck.

Innehållet visades cirka 9 000 gånger och fick cirka 30 kommentarer och ungefär 2 000 reaktioner. Under de tre timmar då innehållet var publicerat anmälde en användare det som ”nakenhet eller sexuell aktivitet hos vuxna” och en annan användare anmälde det som ”kontaktsökning i sexuellt syfte”. Varje anmälan hanterades separat av olika mänskliga moderatorer. Den moderator som granskade den första anmälan vidtog inga åtgärder medan den moderator som granskade den andra anmälan tog bort innehållet på grund av att det bröt mot Metas policy om hatretorik. Användaren överklagade borttagningen och en tredje moderator återställde innehållet på plattformen. När innehållet hade återställts anmälde en annan användare det som hatretorik och ytterligare en moderator gjorde en fjärde granskning och tog bort innehållet igen. Användaren överklagade en andra gång och efter en femte granskning fastställde en annan moderator beslutet att ta bort innehållet. Efter att Meta meddelat användaren om beslutet skickade hen ett överklagande till Tillsynsrådet. Meta bekräftade senare att alla moderatorer som hade granskat innehållet talade arabiska flytande.

Meta förklarade att de fattade sina initiala beslut att ta bort innehållet baserat på granskningar av de bilder som innehåller orden ”z***l” och ”t***e/t***a”. Som svar på en fråga från rådet noterade Meta också att företaget anser att ett annat ord som används i innehållet, ”moukhanath”, är ett nedsättande uttryck.

Enligt Meta hade innehållet, efter att användaren överklagade till rådet men innan rådet valde ärendet, eskalerats för en ytterligare intern granskning, genom vilken det fastställdes att det inte bröt mot policyn om hatretorik. Innehållet återställdes därefter på plattformen.

3. Tillsynsrådet: behörighet och omfång

Rådet har behörighet att granska Metas beslut efter ett överklagande från den användare vars innehåll har tagits bort (artikel 2, avsnitt 1 i stadgan, artikel 3, avsnitt 1 i regelverket)

Rådet kan fastställa eller upphäva Metas beslut (stadgans artikel 3, avsnitt 5) och deras beslut är bindande för företaget (stadgans artikel 4). Meta måste dessutom utvärdera om det går att tillämpa beslutet på identiskt innehåll med liknande sammanhang (stadgans artikel 4). Rådets beslut kan innefatta uttalanden med råd om riktlinjer med icke-bindande rekommendationer som Meta måste svara på (stadgans artikel 3, avsnitt 4, artikel 4).

När rådet väljer ut ärenden som det här, där Meta håller med om att företaget gjort ett misstag, granskar rådet det ursprungliga beslutet för att hjälpa till att öka kunskapen om varför fel inträffar, samt för att tillhandahålla observationer eller rekommendationer som kan bidra till att minska antalet fel och förbättra processerna.

4.Behöriga källor

Tillsynsrådet utgår från följande som behöriga källor:

I.Tillsynsrådets beslut:

Rådets mest relevanta beslut för det här ärendet innefattar:

• ”Beslutet om wampumbältet” (2021-012-FB-UA): I det här beslutet betonade rådet vikten av att skydda marginaliserade gruppers möjligheter att uttrycka sig och noterade att Meta måste säkerställa att företaget inte tar bort innehåll som omfattas av ett undantag till policyn om hatretorik.
• ”Beslutet om nedsättande uttryck i Sydafrika” (2021-011-FB-UA): I det här beslutet fann rådet att Meta måste vara mer transparenta kring de rutiner och kriterier de använder när de tar fram sina listor över nedsättande uttryck. Rådet rekommenderade även att Meta skulle prioritera att förbättra den processuella rättvisan i hur de verkställer policyn om hatretorik så att användarna kan förstå bättre varför innehåll tas bort.
• ”Beslutet om Myanmar-boten” (2021-007-FB-UA): I det här beslutet framhöll rådet vikten av sammanhang för bedömningar av huruvida innehåll omfattas av undantagen till policyn om hatretorik.

Rådet refererar även till rekommendationer de gjort i: ”Beslutet om Öcalans isolering” (2021-006-IG-UA), ”Beslutet om mem med två knappar” (2021-005-FB-UA) och ”Beslutet om bröstcancersymtom och nakenhet” (2020-004-IG-UA).

II. Metas innehållspolicyer:

För det här ärendet är Instagrams communityregler och Facebooks communityregler relevanta. I Metas Transparenscenter står det att ”Facebook och Instagram delar policyer för innehåll. Det innebär att om innehåll anses bryta mot reglerna på Facebook så anses det även bryta mot reglerna på Instagram”.

I Instagrams communityregler står följande:

Vi vill verka för en positiv community som präglas av mångfald. Vi tar bort innehåll som innehåller trovärdiga hot eller hatretorik … Det är aldrig OK att uppmuntra till våld eller attackera någon baserat på deras etniska tillhörighet, etnicitet, nationella ursprung, kön, könsidentitet, sexuella läggning, tro, funktionsnedsättning eller sjukdom. Vi kan tillåta hatretorik om den delas i syfte att ifrågasätta innehållet eller väcka medvetenhet om det. I dessa fall ber vi dig att uttrycka din avsikt tydligt.

I Facebooks communityregler definieras hatretorik som innehåll som ”direkt angriper någon baserat på så kallade skyddade egenskaper – etnisk tillhörighet, etnicitet, nationellt ursprung, religiös tillhörighet, sexuell läggning, kast, kön, könsidentitet och allvarlig sjukdom eller funktionsnedsättning. Meta delar in angrepp i tre olika nivåer. Enligt avsnittet om nedsättande uttryck i policyn om hatretorik är det förbjudet med ”[i]nnehåll som beskriver personer med nedsättande uttryck, där nedsättande uttryck definieras som ord som är stötande i sin natur och används som förolämpningar för de egenskaper som anges ovan.” Enligt resten av bestämmelserna på nivå tre är det förbjudet med innehåll som är riktat mot människor med segregering eller exkludering.

Som en del av motiveringen för policyn förklarar Meta följande:

Vi är medvetna om att människor ibland delar innehåll som inkluderar andras hatretorik för att fördöma eller väcka medvetenhet om den. Ibland kan någon göra uttalanden som i andra sammanhang kan bryta mot våra regler för att referera till sig själv eller ta tillbaka ordet. Riktlinjerna är utformade för att ge utrymme för denna typ av uttalanden, men vi kräver att de som gör dem tydligt uppger sin avsikt. Om avsikten är otydlig kan vi ta bort innehållet.

III. Metas värderingar:

Metas värderingar återfinns i introduktionen till Facebooks communityregler, där värderingen Röst beskrivs vara av yttersta vikt.

Målet med våra communityregler har alltid varit att skapa en plats för uttryck och göra det möjligt för människor att göra sina röster hörda. […] Vi vill att människor ska kunna tala öppet om de frågor som är viktiga för dem, även om vissa inte håller med eller finner åsikterna förkastliga.

Meta begränsar ”röst” baserat på fyra värderingar, varav två är relevanta här:

”Säkerhet”: Vi har åtagit oss att göra Facebook till en säker plats. Uttryck som hotar människor kan skrämma, utesluta eller tysta andra och det är inte tillåtet på Facebook.

”Värdighet”: Vi anser att alla människor har samma värdighet och rättigheter. Vi förväntar oss att människor respekterar andras värdighet och inte trakasserar eller förnedrar andra.

IV. De internationella normerna för mänskliga rättigheter:

FN:s vägledande principer för företag och mänskliga rättigheter (UNGP), som bifölls av FN:s råd för mänskliga rättigheter år 2011, utgör ett frivilligt ramverk för privata företags ansvar gällande mänskliga rättigheter. År 2021 presenterade Meta sin företagspolicy avseende mänskliga rättigheter som bekräftar företagets strävan att respektera de mänskliga rättigheterna i enlighet med UNGP-principerna. Rådets analys av Metas ansvar i fråga om mänskliga rättigheter i det här ärendet utgår ifrån nedanstående normer för mänskliga rättigheter, vilka tillämpas i avsnitt 8 i det här beslutet:

• Rätten till åsikts- och yttrandefrihet: Artikel 19, FN:s konvention om medborgerliga och politiska rättigheter (ICCPR), allmän kommentar nr 34, FN:s kommitté för mänskliga rättigheter, 2011; Communication 488/1992, Toonen v. Australia, FN:s kommitté för mänskliga rättigheter, 1992; Resolution 32/2, FN:s råd för mänskliga rättigheter, 2016; Följande rapporter från FN:s specialrapportör för åsikts- och yttrandefrihet: A/HRC/38/35 (2018) och A/74/486 (2019); följande rapport från FN:s högkommissarie för mänskliga rättigheter: A/HRC/19/41 (2011).
• Rätten till likabehandling: Artikel 2, paragraf 1 och artikel 26 ICCPR.

5. Framställningar från användaren

I sitt uttalande till rådet beskrev användaren kontot som en plats ”för att hylla queer-kulturen i en arabisk kontext”. Hen förklarade att även om kontot är en ”säker plats” har det, i takt med att antalet följare har ökat, alltmer blivit ett mål för homofoba troll som skriver nedsättande kommentarer och massanmäler innehåll.

Användaren förklarade att avsikten med att publicera innehållet var att hylla ”feminina män och pojkar” i det arabiska samhället, vilka ofta förminskas genom det nedsättande språk som lyfts fram i inlägget. Hen förklarade vidare att inlägget gjordes som en form av motstånd och handlingskraft i ett försök att återta de här nedsättande orden som används mot dessa personer, och menade att det tydliggjordes i inläggets innehåll att hen inte förespråkar eller uppmuntrar användning av orden på bilden som nedsättande uttryck. Användaren angav också att hen ansåg att innehållet efterlevde Metas innehållspolicyer som specifikt tillåter användning av termer som annars är förbjudna, så länge de används för att referera till den egna personen eller på ett stärkande sätt.

6. Metas framställningar

Meta förklarade i sin motivering att innehållet ursprungligen togs bort i enlighet med policyn om hatretorik eftersom det innehåller ett förbjudet ord som finns med på Metas lista över nedsättande uttryck och är en ”nedsättande term för homosexuella personer”. Meta ändrade sedermera sitt ursprungliga beslut och återställde innehållet eftersom användningen av ordet låg inom ramen för Metas undantag för ”innehåll som fördömer nedsättande uttryck eller hatretorik, diskuterar användningen av nedsättande uttryck inklusive anmälningar av förekomster där de har använts eller debatterar kring huruvida de är acceptabla att använda”. Meta godtog att det framgick av sammanhanget att användaren riktade uppmärksamhet mot ordets stötande karaktär och därmed inte bröt mot reglerna.

Som svar på rådets frågor om hur sammanhang är relevant när det gäller Metas tillämpning av undantag till policyn om hatretorik angav Meta att ”hatretorik och nedsättande uttryck är tillåtna” när de förlöjligas, fördöms, diskuteras, anmäls eller används för att referera till den egna personen, och att det är användarnas ansvar att göra avsikten tydlig när de nämner ett nedsättande uttryck.

Som svar på en annan fråga från rådet angav Meta att de ”inte spekulerar” i varför innehållet felaktigt togs bort eftersom deras innehållsgranskare inte dokumenterar skälen till sina beslut.

Rådet ställde totalt 17 frågor till Meta, varav 16 besvarades helt och 1 besvarades delvis.

7. Kommentarer från allmänheten

Rådet fick in tre kommentarer från allmänheten med koppling till det här ärendet. En kom från USA och Kanada, en från Mellanöstern och Nordafrika och en från Latinamerika och Karibien.

Kommentarerna berörde följande ämnen: hur säkerheten ser ut för HBTQ-personer på de större sociala medierna, hur lokalt sammanhang övervägs när policyn om hatretorik verkställs och hur betydelsen av arabiska ord förändras.

Om du vill läsa de kommentarer som har skickats in från allmänheten gällande ärendet klickar du här.

Som en del av pågående insatser för interaktion med berörda parter höll medlemmar av rådet informativa och berikande diskussioner med organisationer som arbetar med yttrandefrihet och rättigheter för HBTQIA+-personer, inklusive arabisktalande. Diskussionen handlade bland annat om svårigheten i att hävda att ett nedsättande uttryck kategoriskt har återtagits och är oförargligt universellt sett när termen i fråga fortfarande kan uppfattas som ett nedsättande uttryck av vissa grupper, oavsett talarens avsikt. Dessutom diskuterades problemen som beror på att det saknas input från grupper av HBTQIA+-personer och icke-engelsktalande grupper vad gäller innehållspolicyer samt riskerna med innehållsmoderering som inte tar tillräcklig hänsyn till sammanhang.

8.Tillsynsrådets analys

Rådet har tittat på huruvida innehållet bör återställas ur tre synvinklar: Metas innehållspolicyer, företagets värderingar och företagets ansvar för mänskliga rättigheter.

Rådet valde det här ärendet eftersom överdriven moderering av yttranden som görs av personer från förföljda minoritetsgrupper är ett allvarligt hot mot deras rätt att uttrycka sig. Onlineutrymmen som innebär uttrycksmöjligheter är särskilt viktiga för grupper som drabbas av förföljelse och deras rättigheter kräver ökat skydd från de sociala medier-företagen. Ärendet visar även motsättningen i Metas arbete när de försöker skydda minoriteter från hatretorik samtidigt som de försöker skapa ett utrymme där minoriteter kan uttrycka sig fullt ut, bland annat genom att återta nedsättande uttryck.

8.1 Efterlevnad av Metas policyer för innehåll

I.Regler för innehåll

Rådet finner att innehållet inte är hatretorik, även om nedsättande uttryck används, eftersom det omfattas av ett undantag till policyn om hatretorik för nedsättande uttryck som ”används för att referera till den egna personen eller på ett stärkande sätt”. Det omfattas även av undantaget om att citera hatretorik för att ”fördöma innehållet eller väcka medvetenhet om det”.

I sina beslut om wampumbältet och om memet med två knappar noterade rådet att användare inte uttryckligen måste ange sin avsikt i ett inlägg för att det ska uppfylla kraven för ett undantag till policyn om hatretorik. Det räcker med att användarna tydliggör i sammanhanget kring inlägget att de använder termer som utgör hatretorik på ett sätt som är tillåtet enligt policyn.

I det här fallet inbegrep innehållet dock användarens uttalanden om att hen inte ”förespråkar eller uppmuntrar” stötande användning av de nedsättande uttrycken i fråga, utan att inlägget var avsett som ”ett försök att motverka och utmana det dominerande narrativet” och ”ta tillbaka makten över de här sårande orden”. Även om tydliga uttalanden om avsikten inte alltid är nödvändiga eller tillräckliga för att rättfärdiga att hatretorik används eller citeras bör de göra moderatorerna uppmärksamma på möjligheten att ett undantag kan gälla. I det här ärendet finner rådet att uttalandet om avsikten, i kombination med sammanhanget, gör det tydligt att innehållet otvetydigt omfattas av undantaget.

Trots detta tog Meta först bort innehållet och tre olika moderatorer bedömde att innehållet bröt mot policyn om hatretorik. Även om det kan finnas en rad möjliga skäl till att flera moderatorer inte lyckades klassificera innehållet korrekt kunde Meta inte tillhandahålla specifika förklaringar till felet eftersom företaget inte kräver att moderatorer dokumenterar skälen till besluten de fattar. Som noterades i beslutet om wampumbältet speglar de typer av misstag och de personer eller grupper som bär ansvaret för dem val som görs när plattformens verkställighetssystem utformas och som riskerar att försvaga rätten att uttrycka sig för personer i förföljda grupper. När Meta observerar ett mönster av ihållande överdriven verkställighet för innehåll som rör en förföljd eller marginaliserad grupp, som i det här ärendet, vore det lämpligt att utreda orsakerna bakom verkställighetsbesluten och överväga vilka ändringar av modereringsreglerna som är nödvändiga, eller om det krävs mer utbildning eller kontroll i fråga om befintliga regler, för att undvika övernitisk verkställighet som drabbar medlemmar av grupper vars rätt att uttrycka sig är särskilt riskutsatt.

II.Verkställighetsåtgärder

Som svar på rådets frågor förklarade Meta att innehållet återställdes på plattformen enbart för att det händelsevis flaggades för en eskalerad granskningsnivå av en Meta-medarbetare. ”Eskalerad för granskning” betyder att ett internt team hos Meta ser över beslutet igen, istället för att det görs en ny storskalig granskning, ett arbete som ofta outsourcas. Det tycks ha krävt att en Meta-medarbetare noterade att innehållet hade tagits bort, och därefter fyllde i och skickade in ett internt webbformulär för att lyfta problemet. Förutom att det handlar om tillfälligheter kan man med ett sådant system bara identifiera fel i innehåll som Meta-medarbetare personligen exponeras för. Det betyder att det är betydligt mindre sannolikt att innehåll som inte är på engelska, innehåll som inte publiceras av konton med många följare i USA eller innehåll som skapas av och för grupper som inte är väl representerade inom Meta noteras, flaggas och får den extra uppmärksamheten.

Under arbetets gång uppmärksammades rådet av berörda parter på att korrekt verkställighet av undantag till policyn om hatretorik kräver ett visst mått av ämneskunskap och lokal kännedom som Meta antingen saknar eller inte alltid kan använda sig av. Rådet är bekymrade över det faktum att om inte Meta regelbundet inhämtar synpunkter från minoritetsgrupper som utsätts för nedsättande uttryck på en landsspecifik nivå, kommer de inte kunna ta fram nyanserade listor över nedsättande uttryck och ord. De kommer inte heller att kunna ge sina moderatorer lämplig vägledning om hur undantag till policyn om nedsättande uttryck ska tillämpas.

8.2 Efterlevnad av Metas värderingar

Rådet finner att det ursprungliga beslutet att ta bort innehållet var oförenligt med Metas värderingar ”röst” och ”värdighet” och att det inte bidrog till att skydda värderingen ”säkerhet”. Även om det är förenligt med Metas värderingar att förhindra användning av nedsättande uttryck för att förnedra människor på företagets plattformar, är rådet bekymrade över att Meta konsekvent tillämpar undantag till policyn för att ge marginaliserade grupper möjlighet att uttrycka sig.

I det här ärendet är ”röst” av yttersta vikt eftersom den värderingen handlar om att ge medlemmar av marginaliserade grupper möjlighet att uttrycka sig fritt. Meta gör rätt i att försöka begränsa användningen av nedsättande uttryck för att smutskasta och skrämma de personer de riktas mot. De gör också rätt i att tillåta ärliga försök att ta ifrån sådana ord deras negativa inverkan genom att återta dem.

Rådet bekräftar att spridningen av nedsättande uttryck påverkar värderingen ”värdighet”. I synnerhet när nedsättande ord används med avsikt att förolämpa, eller när det saknas sammanhang som visar att de inte används för att förolämpa, kan de skrämma, uppröra eller förolämpa användare på sätt som hämmar onlineuttryck. När sammanhanget innehåller tydliga signaler på att det nedsättande uttrycket nämns för att fördöma det eller väcka medvetenhet om det, eller om det används för att referera till den egna personen eller på ett stärkande sätt, innebär inte värderingen ”värdighet” att ordet måste tas bort från plattformen. Tvärtom är det minoritetsgrupper och marginaliserade grupper i synnerhet som drabbas av överdriven verkställighet som ignorerar undantagen. I beslutet om memet med två knappar rekommenderade rådet att Meta måste säkerställa att företagets moderatorer har de resurser och det stöd som krävs för att göra en korrekt bedömning av relevant sammanhang. Det är viktigt att moderatorer kan skilja mellan tillåtna referenser till nedsättande uttryck och otillåtna användningar av nedsättande uttryck för att skydda användarnas ”röst” och ”värdighet”, särskilt när det gäller marginaliserade grupper.

Eftersom marginaliserade gruppers ”röst” och ”värdighet” är utsatta i högre grad på sociala plattformar har också dessa plattformar ett större ansvar att skydda dem. Rådet har även rekommenderat i beslutet om wampumbältet att Meta bör göra bedömningar av huruvida undantagen till policyn om hatretorik tillämpas riktigt. Graden av riktighet kan förbättras genom att utbilda moderatorerna så att de kan identifiera innehåll som rör diskriminerade grupper och få anvisningar så att de noggrant kan bedöma om innehåll omfattas av undantag till policyn om hatretorik. En bedömning av innehållet i kombination med sammanhangsbaserade signaler bör vara en utlösande faktor för att undantagen ska tillämpas.

När det gäller ”säkerhet” noterar rådet också hur viktigt det är för marginaliserade och hotade grupper med både säkra onlineutrymmen och noggrann moderering. Arabisktalande HBTQIA+-personer, särskilt i MENA-regionen, tar stora risker när de uttrycker sig online. Meta måste balansera behovet av att erbjuda tillåtande platser för sådana uttryck samtidigt som de säkerställer att de inte modererar överdrivet mycket och tystar människor som redan är drabbade av censur och förtryck. Även om rådet inser att det är komplicerat att moderera i det här området, särskilt när det gäller i större skala, är det avgörande att plattformarna investerar de resurser som krävs för att göra det rätt.

8.3 Efterlevnad av Metas ansvar för mänskliga rättigheter

Rådet fastslår att Metas ursprungliga beslut att ta bort innehållet inte var förenligt med deras ansvar för mänskliga rättigheter i egenskap av företag. Meta har förbundit sig att respektera mänskliga rättigheter enligt FN:s vägledande principer om företag och mänskliga rättigheter (UNGP). I Facebooks företagspolicy avseende mänskliga rättigheter uppges att policyn innefattar konventionen om medborgerliga och politiska rättigheter (ICCPR).

1. Yttrandefrihet (Artikel 19 ICCPR)

Artikel 19 i ICCPR innebär ett brett skydd av yttrandefriheten och diskuterar bland annat mänskliga rättigheter och rätten att uttrycka åsikter som kan uppfattas som ”djupt stötande” (allmän kommentar 34, paragraf 11). Rätten till yttrandefriheten garanteras alla människor utan diskriminering på grund av kön eller annan ställning i övrigt (artikel 2, par. 1, ICCPR). Det innefattar sexuell läggning och könsidentitet (Toonen v. Australia (1992); A/HRC/19/41, paragraf 7).

Det här inlägget rör viktiga sociala frågor om diskriminering mot HBTQIA+-personer. FN:s högkommissarie för mänskliga rättigheter har noterat problem gällande begränsad yttrandefrihet som uppstår på grund av diskriminerande begränsningar av HBTQIA+-personers rättigheter (A/HRC/19/41, paragraf 65).

Enligt artikel 19 måste alla begränsningar av yttrandefriheten som införs av en stat uppfylla kraven på laglighet, berättigat ändamål samt nödvändighet och proportionalitet (artikel 19, paragraf 3, ICCPR). Mot bakgrund av UNGP-ramverket har FN:s specialrapportör för åsikts- och yttrandefrihet uppmanat sociala medier-företagen att säkerställa att deras innehållsregler utgår ifrån kraven i artikel 19, paragraf 3, ICCPR (A/HRC/38/35, paragraf 45 och 70).

I. Laglighet (reglernas tydlighet och tillgänglighet)

Enligt kraven om laglighet ska eventuella begränsningar av yttrandefriheten vara tillräckligt lättillgängliga och tydliga för att ge vägledning om vad som är tillåtet och vad som inte är det.

Rådet rekommenderade i ärendet om bröstcancersymptom och nakenhet (2020-004-IG-UA, rekommendation nr 9), i ärendet om Öcalans isolering (2021-006-IG-UA, rekommendation nr 10) och i sitt uttalande med råd om riktlinjer om att dela information om privata bostäder (rekommendation nr 9) att Meta bör förtydliga för Instagram-användarna att Facebooks communityregler gäller för Instagram på samma sätt som de gäller för Facebook, med några undantag. I uttalandet rekommenderade rådet att Meta skulle göra det här inom 90 dagar. Rådet noterar Metas svar på uttalandet om att rekommendationen kommer att implementeras fullt ut, men att företaget fortfarande arbetar på att skapa mer omfattande communityregler för Instagram som förtydligar deras koppling till Facebooks communityregler, och att de inte kan förbinda sig till tidsfristen på 90 dagar. Rådet har upprepat den här rekommendationen vid flera tillfällen och anser därför att Meta har haft tillräckligt med tid att förbereda för de här ändringarna. Den otydliga kopplingen mellan Instagrams communityregler och Facebooks communityregler är en källa till ständig förvirring för användarna av Metas plattformar. Även om Instagrams communityregler innehåller en länk till Facebooks communityregel om hatretorik är det för närvarande inte tydligt för användarna att hela Facebook-communityregeln om hatretorik gäller för Instagram, inklusive förbudet mot nedsättande uttryck och undantagen till det. Omfattande uppdateringar av Instagrams communityregler inom skälig tid är fortfarande av högsta prioritet för rådet.

När det gäller att ta fram listan över nedsättande uttryck upprepar rådet det konstaterande de gjorde i ärendet om nedsättande uttryck i Sydafrika (2021-011-FB-UA) om att Meta bör vara mer transparenta med sina procedurer och kriterier för att ta fram listan. I det här ärendet förklarade Meta att de definierar listor över nedsättande uttryck för varje etablerad marknad baserat på ”analys och granskning från relevanta interna partner, till exempel team som arbetar med process, marknad och innehållspolicy. Meta angav även att deras marknadsexperter reviderar listan över nedsättande uttryck varje år och då utvärderar varje term både kvalitativt och kvantitativt. Genom dessa revideringar skiljer de mellan ”ord som är stötande i sig, även om de är inte är skrivna helt fristående, och ord som inte är stötande i sig själva”. Det är inte tydligt för rådet när den årliga revideringen äger rum, men efter att rådet valde det här ärendet reviderade Meta användningen av ordet ”z***l”. Efter den revideringen togs ordet bort från listan över nedsättande uttryck på ”arabiska” men lämnades kvar på listan över nedsättande uttryck för ”Maghreb-marknaden”. Rådet vet inte om revideringen var en del av den vanliga proceduren eller om den gjordes ad hoc som svar på att rådet valde det här ärendet. Mer generellt är det inte tydligt för rådet vad de kvalitativa och kvantitativa utvärderingarna i de årliga revideringarna innefattar.

Information om processer och kriterier för att ta fram listan över nedsättande uttryck och klassificera olika marknader, i synnerhet om hur språkliga och geografiska marknader identifieras, finns inte tillgänglig för användarna. Utan den informationen kan det vara svårt för användarna att bedöma vilka ord som skulle kunna klassas som nedsättande uttryck enbart utifrån definitionen av nedsättande uttryck i policyn om hatretorik, vilken utgår ifrån subjektiva koncept såsom inneboende stötande karaktär och förolämpande i sig (A/74/486, paragraf 46, se även A/HRC/38/35, paragraf 26).

När det gäller hur listan över nedsättande uttryck tillämpas angav Meta i ärendet om nedsättande uttryck i Sydafrika (2021-011-FB-UA) att deras ”förbud mot nedsättande uttryck är globalt, men de uttryck som identifieras som nedsättande är marknadsspecifika”. De förklarade att ”[o]m ett ord finns med på listan över nedsättande uttryck för någon marknad är det enligt policyn om hatretorik förbjudet att använda ordet på den marknaden”. Metas förklaring är förvirrande vad gäller verkställigheten eftersom den kan vara av global omfattning, vilket innebär att marknadsspecifika nedsättande uttryck även är förbjudna globalt. Meta förklarade att de definierar en marknad som ”en kombination av länder och språk/dialekter” och att ”skillnaden mellan …marknad[er] primärt är baserad på en kombination av språk/dialekt i innehållet och landet som innehållet kommer ifrån”. Metas innehållsgranskare ”väljs ut för sina marknader baserat på språklig lämplighet och kunskap om kulturen och marknaden i fråga”. Enligt Meta omfattade det här innehållet den arabiska marknaden och Maghreb-marknaden på listan över nedsättande uttryck. Det dirigerades till dessa marknader ”baserat på en kombination av flera signaler såsom plats, språk och dialekt som identifierats i innehållet, typen av innehåll och typen av anmälan”. Det är inte tillräckligt tydligt för rådet hur de här signalerna tillsammans bidrar till att man kan fastställa till vilka marknader ett visst innehåll är vara kopplat. Det är inte heller tydligt om innehåll med ett ord som är nedsättande på en viss marknad bara ska tas bort om innehållet är kopplat till just den marknaden eller om det ska tas bort globalt. Den här processen förklaras inte i communityregeln.

Meta bör utfärda en omfattande förklaring av hur nedsättande uttryck hanteras på plattformen. Det finns flera oklara delar i den nuvarande policyn, bland annat om huruvida uttryck som bedöms vara nedsättande i specifika områden tas bort från plattformen bara när de publiceras eller visas inom dessa områden, eller om de tas bort oavsett var de publiceras eller visas. Meta bör också förklara hur de hanterar ord som bedöms vara nedsättande i vissa sammanhang, men som har en helt annan betydelse, en som inte utgör ett brott mot Metas policyer, i andra sammanhang.

Strukturen för communityregeln om hatretorik kan också skapa förvirring. Trots att förbudet mot nedsättande uttryck är placerat under rubriken för hatretorik på nivå tre är det otydligt för rådet om förbudet verkligen tillhör nivå tre eftersom nedsättande uttryck inte nödvändigtvis är riktade mot människor i segregerande eller exkluderande syfte, vilket är fokus för den nivån.

II.Berättigat ändamål

Alla begränsningar av yttrandefriheten ska införas i enlighet med något av de berättigade ändamål som anges i ICCPR, vilka innefattar ”andras rättigheter”. Det berättigade ändamålet för policyn som är aktuell i det här ärendet är att skydda andra människors rättigheter (allmän kommentar nr 34, paragraf 28) i fråga jämlikhet, skydd mot våld samt diskriminering på grund av sexuell läggning och könsidentitet (artikel 2, paragraf 1, artikel 26 ICCPR, FN:s kommitté för mänskliga rättigheter, Toonen v. Australia (1992); Resolution 32/2 från FN:s råd för mänskliga rättigheter om skydd mot våld och diskriminering på grund av sexuell läggning och könsidentitet).

III. Nödvändighet och proportionalitet

Enligt principen om nödvändighet och proportionalitet gäller att begränsningar av yttrandefriheten måste vara lämpliga för att uppnå sin skyddande funktion. De måste vara det minst inskränkande alternativet av de som skulle kunna användas för att uppnå den skyddande funktionen och de måste vara proportionerliga i förhållande till det intresse som ska skyddas (allmän kommentar 34, paragraf 34).

Det var inte nödvändigt att ta bort innehållet i det här fallet eftersom borttagningen var ett tydligt fel som inte låg i linje med undantaget i Metas policyer om hatretorik. Borttagningen var inte heller det minst inskränkande alternativet för att uppnå det berättigade ändamålet eftersom det för varje granskning som ledde till borttagning innebar att hela det här carousel-inlägget med 10 foton togs bort för påstådda policyöverträdelser i endast ett av dessa foton. Även om det skulle ha handlat om en carousel som innehöll en bild med otillåtna nedsättande uttryck som inte omfattas av ett undantag hade det inte varit proportionerligt att ta bort hela.

Meta förklarade för rådet att ”inlägget bedöms utgöra en överträdelse om något foto innehåller en överträdelse av communityreglerna” och ”till skillnad från när det gäller Facebook är det inte möjligt för Meta att ta bort en enskild bild från ett Instagram-inlägg med flera foton”. Meta angav att en uppdatering av verktyget för innehållsgranskning hade föreslagits så att granskare ska kunna ta bort bara det foto som utgör en överträdelse från en carousel, men att uppdateringen inte hade prioriterats. Rådet anser inte att förklaringen är tydlig. Rådet anser dessutom att nedprioriteringen av uppdateringen skulle kunna leda till att överdriven verkställighet sätts i system genom att hela carousel-inlägg tas bort även om det bara är delar av dem som bedömts utgöra överträdelser. Rådet noterar också att om användare publicerar samma fotoserie på Facebook och Instagram leder de olika behandlingarna av den här typen av innehåll på de två plattformarna till inkonsekventa resultat som inte bara kan motiveras med meningsfulla policyskillnader. Om ett foto utgör en överträdelse leder det till att hela carousel-inlägget tas bort på Instagram, men inte på Facebook.

2.Likabehandling

Med tanke på hur viktigt det är för HBTQIA+-personer som kämpar mot diskriminering att återta nedsättande ord förväntar sig rådet att Meta ska vara särskilt uppmärksamma på möjligheten för felaktig borttagning av innehållet i det här ärendet och liknande innehåll på Facebook och Instagram. Som rådet noterade i beslutet om wampumbältet (2021-012-FB-UA) gällande urfolks konstnärliga uttryck är det inte tillräckligt att utvärdera hur Meta verkställer Facebooks policy om hatretorik som helhet – man måste titta på hur specifika marginaliserade grupper påverkas. Enligt UNGP-principerna ska företag lägga särskild vikt vid hur specifika mänskliga rättigheter påverkar individer från grupper eller befolkningsgrupper som kan vara extra sårbara eller löpa högre risk för marginalisering” (UNGP,-princip 18 och 20). Sociala medier är ofta ett av få sätt där personer som identifierar sig som HBTQIA+ kan uttrycka sig fritt i länder där dessa uttryck är straffbara. Det gäller i synnerhet för Instagram eftersom det enligt communityreglerna är tillåtet för användare att inte använda sina riktiga namn. Rådet noterar att Facebook-användare inte ges samma frihet i communityreglerna. En viktig uppgift för Meta är att visa att de har gjort risk- och konsekvensanalyser (Human Rights Due Diligence) för att säkerställa att deras system används rättvist och inte bidrar till diskriminering (UNGP, princip 17). Rådet noterar att Meta regelbundet utvärderar att deras verkställighetssystem hanterar hatretorik korrekt (beslutet om wampumbältet). I de här bedömningarna tittar man dock inte specifikt på Metas förmåga att skilja otillåten hatretorik från tillåtet innehåll som syftar till att återta nedsättande ord.

Misstagen i det här ärendet indikerar att Metas vägledning för moderatorer som bedömer referenser till nedsättande ord kanske är otillräcklig. Rådet bekymras av att granskarna kanske inte har tillräckliga resurser när det gäller kapacitet eller utbildning för att förhindra den typ av misstag som gjorts i det här ärendet, särskilt när det gäller innehåll som tillåts enligt regelundantag. I det här fallet informerade Meta rådet om att de kända frågorna och interna reglerna för implementering finns tillgängliga på engelska endast för att ”säkerställa standardiserad global verkställighet” av företagets policyer och att ”alla innehållsmoderatorer talar flytande engelska”. I beslutet om Myanmar-boten (2021-007-FB-UA) rekommenderade rådet att Facebook säkerställer att deras interna regler för implementering finns tillgängliga på det språk på vilket innehållsmoderatorer granskar innehåll. Meta vidtog inga fler åtgärder efter den här rekommendationen, utan gav ett liknande svar om att innehållsmoderatorerna talar flytande engelska. Rådet observerar att det är svårt i sig att ge granskare vägledning på engelska om hur de ska moderera innehåll som är på andra språk än engelska. De interna reglerna för implementering och de kända frågorna är ofta grundade på språkstrukturerna för amerikansk engelska som kanske inte gäller för andra språk, till exempel arabiska.

I beslutet om wampumbältet (2021-012-FB-UA, rekommendation nr 3) rekommenderade rådet att Meta gör riktighetsbedömningar med fokus på undantagen till policyn om hatretorik, vilka omfattar uttryck om brott mot mänskliga rättigheter (till exempel för att fördöma, väcka medvetenhet, referera till den egna personen, använda i stärkande syfte). Rådet rekommenderade också att Meta informerar om resultaten av bedömningen, bland annat hur de kommer att ligga till grund för att förbättra verkställighetsarbetet och ta fram policyer. Rådet utfärdade den här rekommendationen på grundval av att kostnaderna för överdriven borttagning av innehåll som gäller brott mot mänskliga rättigheter är särskilt höga. Rådet noterar Metas problem med rekommendationen när det gäller att utvärdera genomförbarheten, inklusive (a) avsaknad av specifika kategorier i sina policyer om undantag för områden som brott mot mänskliga rättigheter och (b) avsaknad av ett enkelt identifierbart innehållsprov som omfattas av undantag till policyn om hatretorik. Rådet anser att det går att överkomma dessa svårigheter eftersom Meta skulle kunna fokusera analyserna på undantag till policyn om hatretorik och prioritera att identifiera innehållsprov. Rådet uppmuntrar Meta att åta sig att implementera rekommendationen i ärendet med wampumbältet (2021-012-FB-UA) och välkomnar uppdateringar från Meta i företagets nästa kvartalsrapport.

9. Tillsynsrådets beslut

Tillsynsrådet upphäver Metas ursprungliga beslut att ta bort innehållet.

10. Uttalande med råd om riktlinjer

Verkställighet

1. Meta bör översätta sina interna regler för implementering och de kända frågorna till modern standardarabiska. Det skulle kunna minska överdriven verkställighet i arabisktalande regioner genom att moderatorer bättre skulle kunna bedöma när det är motiverat att tillämpa undantag på innehåll som innehåller nedsättande uttryck. Rådet noterar att Meta inte har vidtagit några fler åtgärder som svar på rekommendationen i ärendet om Myanmar-boten (2021-007-FB-UA) om att Meta bör säkerställa att deras interna regler för implementering finns tillgängliga på det språk på vilket innehållsmoderatorer granskar innehåll. Rådet kommer att betrakta rekommendationen som implementerad när Meta informerar rådet om att översättningen till modern standardarabiska har slutförts.

Transparens

2. Meta ska publicera en tydlig förklaring av hur de som företag skapar marknadsspecifika listor över nedsättande uttryck. Förklaringen bör beskriva processerna och kriterierna för att fastställa vilka nedsättande uttryck och länder som omfattas för varje marknadsspecifik lista. Rådet kommer att betrakta detta som implementerat när informationen har publicerats i Transparenscenter.

3. Meta ska publicera en tydlig förklaring av hur de som företag verkställer sina marknadsspecifika listor över nedsättande uttryck. Den här förklaringen bör beskriva processerna och kriterierna för att fastställa exakt när och var förbudet mot nedsättande uttryck ska verkställas. Det handlar alltså om huruvida förbudet ska gälla för inlägg som geografiskt sett kommer från regionen i fråga, för inlägg som inte kommer från regionen i fråga men som berör regionen och/eller för alla användare i regionen i fråga, oavsett inläggets geografiska ursprung. Rådet kommer att betrakta rekommendationen som implementerad när informationen har publicerats i Metas Transparenscenter.

4. Meta ska publicera en tydlig förklaring av hur de reviderar sina marknadsspecifika listor över nedsättande uttryck. Den här förklaringen bör beskriva processerna och kriterierna för att ta bort nedsättande uttryck från Metas marknadsspecifika listor eller behålla dem. Rådet kommer att betrakta rekommendationen som implementerad när informationen har publicerats i Metas Transparenscenter.

* Procedurmässig notering:

Tillsynsrådets beslut utarbetas av en panel bestående av fem medlemmar och godkänns av en majoritet av rådet. Rådets beslut återspeglar inte nödvändigtvis alla medlemmars personliga åsikter.

Inför beslutet i det här ärendet genomfördes oberoende efterforskningar på uppdrag av rådet. Rådet bistods av ett oberoende forskningsinstitut som utgår från Göteborgs universitet, med ett team bestående av över 50 samhällsvetare på sex kontinenter och över 3 200 nationella experter från hela världen. Rådet bistods också av Duco Advisors, en konsultfirma med inriktning på skärningspunkten mellan geopolitik, förtroende och säkerhet och teknik. Företaget Lionbridge Technologies LLC, vars specialister talar fler än 350 språk flytande och jobbar från 5 000 städer världen över, tillhandahöll lingvistisk expertis.