Wampum-bältet

Sammanfattning av ärendet

Obs! Den 28 oktober 2021 meddelade Facebook att företaget ändrade sitt företagsnamn till Meta. I denna text avser Meta företaget, och Facebook avser fortfarande produkten och riktlinjerna för den specifika appen.

Tillsynsrådet har upphävt Metas ursprungliga beslut att ta bort ett Facebook-inlägg gjort av en nordamerikansk urfolkskonstnär som togs bort enligt Facebooks communityregel om hatretorik. Rådet fann att innehållet omfattas av undantag till regeln om hatretorik eftersom det var avsett att väcka medvetenhet kring historiska brott mot urfolk i Nordamerika.

Om ärendet

I augusti 2021 publicerade en Facebook-användare en bild på ett wampumbälte, med tillhörande textbeskrivning på engelska. Ett wampumbälte är en nordamerikansk urfolkskonstform i vilken pärlor vävs samman till bilder som dokumenterar händelser och överenskommelser. Bältet innehåller flera avbildningar som enligt användaren har inspirerats av ”the Kamloops story” (Kamloops-berättelsen), vilket hänvisar till upptäckten i maj 2021 av omärkta gravar vid en tidigare internatskola för barn från urfolket i British Columbia i Kanada.

I texten anges konstverkets titel, ”Kill the Indian/Save the Man” (döda indianen, rädda människan), och användaren identifierades som verkets upphovsman. Användaren beskriver bilderna på bältet: ”Theft of the Innocent, Evil Posing as Saviours, Residential School/Concentration Camp, Waiting for Discovery, Bring Our Children Home” (Stölden av de oskyldiga, Ondskan i räddarens skepnad, Internatskola/koncentrationsläger, I väntan på upptäckt, Låt våra barn komma hem). I inlägget beskriver användaren konstverkets innebörd samt wampumbältenas historia och deras funktion som ett sätt att sprida kunskap. Användaren berättar att det var svårt och att det väckte många känslor att skapa bältet och berätta om det som hände i Kamloops. Användaren ber om ursäkt för eventuell smärta konstverket kan åsamka överlevare från Kamloops och säger att dennas ”sole purpose is to bring awareness to this horrific story” (enda avsikt är att väcka medvetenhet om denna hemska berättelse).

Dagen efter det att innehållet publicerades identifierades det av Metas automatiska system som att det möjligen bröt mot Facebooks communityregel om hatretorik. En granskare bedömde att innehållet bröt mot reglerna och tog bort det samma dag. Användaren överklagade beslutet till Meta och begärde en andra manuell granskning vilken också ledde till bedömningen att innehållet bröt mot reglerna. När innehållet togs bort hade det visats drygt 4 000 gånger och delats fler än 50 gånger. Inga användare har anmält innehållet.

När rådet valt ut ärendet identifierade Meta borttagandet som ett ”verkställighetsfel” och återställde det den 27 augusti. Meta meddelade emellertid inte användaren om återställanden förrän den 30 september, två dagar efter det att rådet bad Meta tillhandahålla innehållet i företagets meddelanden till användaren. Meta förklarade att meddelandets försening berodde på den mänskliga faktorn.

Viktiga noteringar

Meta håller med om att dess ursprungliga beslut att ta bort innehållet stred mot Facebooks communityregler och att det var ett ”verkställighetsfel”. Rådet anser att detta innehåll är ett tydligt exempel på en ”invändning” i vilket hatretorik refereras för att motverka förtryck och diskriminering.

I introduktionen till Facebooks regel om hatretorik förklaras det att invändningar är tillåtna när användarens avsikt är tydligt angiven. Det står tydligt från inläggets innehåll att inlägget inte utgör hatretorik. Konstverket berättar om det som hände på Kamloops, och den tillhörande texten förklarar dess betydelse. Även om orden ”Kill the Indian” (döda indianen) tagna ur sitt sammanhang skulle kunna utgöra hatretorik, drar frasen i det här sammanhanget uppmärksamhet till och fördömer specifika handlingar baserade på hat och diskriminering.

Rådet erinrar om sitt beslut 2020-005-FB-UA i ett ärende som innefattade ett citat från en nazistisk tjänsteman. Det ärendet gav liknande lärdomar om hur avsikten kan bedömas utifrån andra delar än bara direkta uttalanden, som citatets innehåll och innebörd, tidpunkten för när inlägget delades och landet inlägget delades från, samt innehållet i reaktioner och kommentarer på inlägget.

I detta ärende anser rådet att det inte var nödvändigt för användaren att uttryckligen ange att denna ville väcka medvetande för att inlägget skulle identifieras som en invändning. Rådet noterade interna ”Kända frågor” till moderatorer om att ett tydligt avsiktsuttalande inte alltid räcker för att ändra innebörden i ett inlägg som utgör hatretorik. Moderatorerna förväntas dra slutsatser utifrån innehåll för att bedöma avsikten, och att inte enbart förlita sig på uttryckliga uttalanden.

Två olika moderatorer kom fram till att inlägget utgjorde hatretorik. Meta kunde inte tillhandahålla några specifika skäl till varför detta fel inträffade två gånger.

Tillsynsrådets beslut

Tillsynsrådet upphäver Metas ursprungliga beslut att ta bort innehållet.

I ett uttalande rekommenderar rådet att Meta ska:

• Ge användarna korrekta meddelanden i god tid om eventuella åtgärder företaget vidtar på det innehåll deras överklagande gäller. När det är tillämpligt, inklusive i ärenden gällande verkställighetsfel som detta, bör meddelandet till användaren även informera om att åtgärden sker till följd av tillsynsrådets granskningsprocess.
• Undersök påverkan på granskarnas exakthet när innehållsmoderatorer informeras om att de utför en andra granskning och vet att det första beslutet överklagats.
• Genomför en bedömning av hur korrekt granskarna kan bedöma undantag till regeln om hatretorik som omfattar konstnärligt uttryck och uttalanden om brott mot mänskliga rättigheter (t.ex. fördömande, innehåll med syfte att väcka medvetenhet, användning med hänvisning till den egna personen, användning för att ta tillbaka ordet). I denna bedömning ska man också särskilt undersöka hur en granskares placering påverkar dennas förmåga att göra en korrekt bedömning av hatretorik och invändningar mot sådan från samma eller andra regioner. Meta bör dela resultaten av denna bedömning med rådet, inklusive hur resultaten används som utgångspunkt för förbättringar av verkställighetsarbetet och utvecklingen av regler samt huruvida företaget planerar att genomföra regelbundna bedömningar av granskarnas förmåga att korrekt bedöma dessa undantag. Rådet uppmanar också Meta att offentligt dela sammanfattningar av resultaten av dessa bedömningar i sina kvartalsvis återkommande transparensuppdateringar till rådet för att visa att företaget har följt denna rekommendation.

* En ärendesammanfattning ger en översikt över ärendet och har inget prejudikatvärde.

Fullständigt beslut i ärende

1. Sammanfattning av beslutet

Tillsynsrådet upphäver Metas ursprungliga beslut att ta bort ett inlägg av en nordamerikansk urfolkskonstnär som omfattade en bild av dennas konstverk åtföljd av dess titel som hänvisar till ett historiskt exempel på hatretorik. Meta höll med om att inlägget omfattas av ett undantag inom Facebooks communityregel om hatretorik eftersom det tydligt är avsett att väcka medvetenhet om historiska brott mot urfolk i Nordamerika.

2. Beskrivning av ärendet

I början av augusti 2021 publicerade en Facebook-användare en bild på ett wampumbälte, med tillhörande textbeskrivning på engelska. Ett wampumbälte är en nordamerikansk urfolkskonstform i vilken pärlor vävs samman till bilder som dokumenterar händelser och överenskommelser. Bältet innehåller flera avbildningar som enligt användaren har inspirerats av ”the Kamloops story” (Kamloops-berättelsen), vilket hänvisar till upptäckten i maj 2021 av omärkta gravar vid en tidigare internatskola för barn från urfolket i British Columbia i Kanada.

I texten anges konstverkets titel, ”Kill the Indian/Save the Man” (döda indianen, rädda människan), och användaren identifierades som verkets upphovsman. Därefter tillhandahöll användaren en lista med fraser som motsvarade bilderna på bältet: ”Theft of the Innocent, Evil Posing as Saviours, Residential School/Concentration Camp, Waiting for Discovery, Bring Our Children Home” (Stölden av de oskyldiga, Ondskan i räddarens skepnad, Internatskola/koncentrationsläger, I väntan på upptäckt, Låt våra barn komma hem). I inlägget beskriver användaren konstverkets innebörd samt wampumbältenas historia och deras funktion som ett sätt att sprida kunskap. Användaren berättar att det var svårt och att det väckte många känslor att skapa bältet och berätta om det som hände i Kamloops. Användaren fortsätter med att säga att den här händelsen inte får gömmas undan från allmänheten igen och att denna hoppas att bältet ska förhindra att det händer. Användaren avslutar sitt inlägg med att be om ursäkt för eventuell smärta konstverket kan åsamka överlevare av systemet med internatskolor och säger att dess ”sole purpose is to bring awareness to this horrific story” (enda avsikt är att väcka medvetenhet om denna hemska berättelse/händelse).

Dagen efter det att innehållet publicerades identifierades det av Metas automatiska system som att det möjligen bröt mot Facebooks communityregel om hatretorik. En granskare bedömde att innehållet bröt mot reglerna och tog bort det samma dag. Användaren överklagade beslutet till Meta och begärde en andra manuell granskning vilken också ledde till bedömningen att innehållet bröt mot reglerna. När innehållet togs bort hade det visats drygt 4 000 gånger och delats fler än 50 gånger. Inga användare har anmält innehållet. När rådet valt ut ärendet identifierade Meta borttagandet som ett ”verkställighetsfel” och återställde det den 27 augusti. Meta meddelade emellertid inte användaren om återställanden förrän den 30 september, två dagar efter det att rådet bad Meta tillhandahålla innehållet i företagets meddelanden till användaren. Meta förklarade att meddelandets försening berodde på den mänskliga faktorn. I själva meddelandet fick användaren ingen information om att innehållet hade återställts till följd av dennas överklagande till rådet och att rådet valt ut ärendet för granskning.

En kommentar från allmänheten som inkom från Association on American Indian Affairs (allmän kommentar-10208) poängterar att det citat som användes som titel på konstverket är hämtat från Richard Henry Pratt, en officer som grundade den första federala internatskolan för indianer i USA. Frasen sammanfattar de tankar som låg till grund för internatskolorna vars syfte var att med våld ”civilisera” urfolken och ”utrota varje spår av indiansk kultur”. Liknande tankar anammades i Kanada och har enligt Kanadas sannings- och försoningskommission visat sig leda till kulturellt folkmord.

När användaren talar om det som hände i ”Kamloops” avser denna Kamloops Indian Residential School, en före detta internatskola för urfolkets barn i British Columbia i Kanada. I maj 2021 meddelade ledare av Tk’emlúps te Secwépemc First Nation upptäckten av omärkta gravar i Kamloops. Myndigheterna har bekräftat 200 möjliga gravplatser i området.

Den kanadensiska regeringen uppskattar att minst 150 000 barn genomgick systemet med internatskolor innan den sista skolan stängdes 1997. Urfolkets barn togs ofta med våld från sina familjer och förbjöds att uttrycka någon aspekt av urfolkskulturen. Skolorna använde sig av hård och kränkande kroppslig bestraffning, och de anställda begick eller tolererade sexuella övergrepp och allvarligt våld mot många elever. Eleverna var undernärda, skolorna var dåligt uppvärmda och hygienen var låg, och många barn dog av tuberkulos och andra sjukdomar med minimal medicinsk vård. Sannings- och försoningskommissionen har kommit fram till att minst 4 100 elever dog medan de gick på skolorna, många till följd av misskötsel och vanvård, andra till följd av sjukdomar och olyckor.

3. Behörighet och omfång

Rådet har behörighet att granska Metas beslut efter ett överklagande från den användare vars innehåll har tagits bort (artikel 2, avsnitt 1 i stadgan, artikel 3, avsnitt 1 i regelverket) Rådet kan fastställa eller upphäva Metas beslut, och deras beslut är bindande för Meta (stadgans artikel 4 och artikel 3, avsnitt 5). Rådets beslut kan innefatta uttalanden med råd om riktlinjer med icke-bindande rekommendationer som Meta måste svara på (stadgans artikel 4 och artikel 3, avsnitt 4).

När rådet väljer ut ärenden som det här, där Meta sedan håller med om att företaget gjort ett misstag, granskar rådet det ursprungliga beslutet för att hjälpa till att öka kunskapen om varför fel inträffar, samt för att tillhandahålla observationer eller rekommendationer som kan bidra till att minska antalet fel och förbättra processerna. Efter rådets beslut angående nakenhet och symptom på bröstcancer (2020-004-IG-UA, avsnitt 3), antog rådet en process som gör att Meta kan identifiera eventuella verkställighetsfel innan ett ärende tilldelats till en panel (se transparensrapporter, sida 30). Det är inte till hjälp att Meta i dessa ärenden helt fokuserar sina motiveringar på sina ändrade beslut, och förklarar vad som borde ha hänt med användarens innehåll, samt ber rådet att bifalla detta som företagets ”slutgiltiga” beslut. Utöver att förklara varför beslutet användaren överklagar var felaktigt föreslår rådet att Meta förklarar hur felet kunde inträffa och varför företagets interna granskningsprocess inte kunde identifiera eller korrigera det. Rådet kommer även fortsättningsvis att basera sina granskningar på det beslut en användare har överklagat.

4. Relevanta regler

Tillsynsrådet utgick ifrån följande regler i sitt beslut:

I.Facebooks communityregler:

I Facebooks communityregler definieras hatretorik som innehåll som direkt angriper någon på grund av så kallade skyddade egenskaper – etnicitet, nationellt ursprung, religiös tillhörighet, sexuell läggning, kast, kön, könsidentitet och allvarlig sjukdom eller funktionsnedsättning. Enligt ”nivå1” innefattar förbjudet innehåll ”våldspropaganda eller stöd för detta i text eller bild”. Communityregeln innehåller även undantag som anger vilket innehåll som inte bryter mot reglerna:

Vi är medvetna om att människor ibland delar innehåll som inkluderar andras hatretorik för att fördöma eller väcka medvetenhet om den. Ibland kan någon göra uttalanden som i andra sammanhang kan bryta mot våra regler för att referera till sig själv eller ta tillbaka ordet. Riktlinjerna är utformade för att ge utrymme för denna typ av uttalanden, men vi kräver att de som gör dem tydligt uppger sin avsikt. Om avsikten är otydlig kan vi ta bort innehållet.

II. Metas värderingar:

Metas värderingar återfinns i introduktionen till Facebooks communityregler. Värderingen Röst, det vill säga yttrandefriheten, beskrivs vara av yttersta vikt:

Målet med våra communityregler har alltid varit att skapa en plats för uttryck och göra det möjligt för människor att göra sina röster hörda. […] Vi vill att människor ska kunna tala öppet om de frågor som är viktiga för dem, även om vissa inte håller med eller finner åsikterna förkastliga.

Meta begränsar yttrandefriheten baserat på fyra värderingar och två är relevanta här.

”Säkerhet”: Vi har åtagit oss att göra Facebook till en säker plats. Uttryck som hotar människor kan skrämma, utesluta eller tysta andra och det är inte tillåtet på Facebook.

Värdighet: Vi anser att alla människor har samma värdighet och rättigheter. Vi förväntar oss att människor respekterar andras värdighet och inte trakasserar eller förnedrar andra.

III. Normer för mänskliga rättigheter:

FN:s vägledande principer för företag och mänskliga rättigheter (UNGP), som bifölls av FN:s råd för mänskliga rättigheter år 2011, utgör ett frivilligt ramverk för privata företags ansvar gällande mänskliga rättigheter. År 2021 presenterade Meta sin företagspolicy avseende mänskliga rättigheter som bekräftar företagets strävan att respektera de mänskliga rättigheterna i enlighet med UNGP-principerna. Rådets analys av Metas ansvar i fråga om mänskliga rättigheter i det här ärendet utgår ifrån följande normer för mänskliga rättigheter:

• Yttrandefrihet: Artikel 19, konventionen om medborgerliga och politiska rättigheter (ICCPR), Allmän kommentar nr 34, FN:s kommitté för mänskliga rättigheter, 2011, Artikel 5 i den internationella konventionen om avskaffande av alla former av rasdiskriminering (ICERD), FN:s specialrapportörs rapport om hatretorik, A/74/486, 2019, FN:s specialrapportörs rapport om moderering av innehåll online, A/HRC/38/35, 2018.
• Jämlikhet och likabehandling: Artikel 2, paragraf 1 och artikel 26 (ICCPR), Artikel 2, ICERD, Allmän rekommendation nr 35, kommittén för avskaffande av rasdiskriminering, 2013.
• Kulturella rättigheter: Artikel 27, ICCPR, Artikel 15, Konventionen om ekonomiska, sociala och kulturella rättigheter (ICESCR), FN:s specialrapportör inom kulturella rättigheters rapport om konstnärlig frihet och kreativitet, A/HRC/23/34, 2013.
• Urfolkens rättigheter: FN:s deklaration om ursprungsfolkens rättigheter, artikel 7, par. 2, artikel 8, par. 1 och artikel 19.

5. Användarens uttalande

Användaren uppgav i sitt överklagande till rådet att inlägget visade upp ett traditionellt konstverk som dokumenterade historien, och att det inte hade något med hatretorik att göra. Användaren sade vidare att dessa händelser ”needed to be seen” (behövde bevittnas) och hävdade angående Metas borttagande av inlägget att ”this is censorship” (detta är censur).

6. Förklaring av Metas beslut

Meta förklarade för rådet att frasen ”Kill the Indian” (döda indianen) utgjorde ett angrepp på nivå 1 enligt Facebooks communityregel om hatretorik, vilken förbjuder ”våldspropaganda” riktad mot människor utifrån en skyddad egenskap, exempelvis etnicitet eller etnisk grupp. Meta tillstod emellertid att borttagandet av innehållet var felaktigt eftersom regeln tillåter delning av någon annans hatretorik om syftet är att ”fördöma det eller väcka medvetenhet”. Meta noterade att användaren uppgav i inlägget att syftet var att väcka medvetenhet om de förskräckliga händelserna i Kamloops.

Meta noterade att frasen ”Kill the Indian/Save the Man” (döda indianen/rädda människan) hade sitt ursprung i den påtvingade assimileringen av ursprungsfolkens barn. Genom att väcka medvetenhet om det som hände i Kamloops väckte användaren också medvetenhet om den påtvingade assimileringen på internatskolorna. Som svar på en fråga från rådet förtydligade Meta att en innehållsgranskare inte behövde ha kännedom om dessa händelser för att verkställa regeln på rätt sätt. I användarens inlägg angavs det att användarens syfte var att väcka medvetenhet om förskräckliga händelser och därför kunde en granskare rimligen dra slutsatsen att inlägget väckte medvetenhet om hatretoriken som citerades.

Meta informerade rådet om att inga användare hade rapporterad innehållet i detta fall. Meta använder sig av klassificerare för maskininlärning vilka har tränats i att automatiskt upptäcka möjliga brott mot Facebooks communityregler. I detta ärende identifierade två klassificeringar automatiskt innehållet som möjlig hatretorik. Den första klassificeringen, som användes till analys av innehållet, kunde inte fastställa att inlägget bröt mot communityregeln. En annan klassificering fastställde emellertid, utifrån en serie kontextuella signaler, att inlägget kunde komma att delas brett och ses av många människor. Med tanke på risken för skada som kan uppstå till följd av omfattande spridning av hatretorik skickades inlägget automatiskt från Metas system till manuell granskning.

Till svar på rådets frågor förtydligade Meta att en granskare baserad i Asien-Stillahavsområdet bedömde att inlägget utgjorde hatretorik och tog bort det från plattformen. Användaren överklagade beslutet och en andra granskare i Asien-Stillahavsområdet granskade innehållet och bedömde också att det utgjorde hatretorik. Meta bekräftade för rådet att moderatorer inte registrerar resonemang bakom enskilda innehållsbeslut.

7.Framställningar från tredje part

Tillsynsrådet beaktade åtta kommentarer från allmänheten gällande detta ärende: fyra från USA och Kanada, två från Europa, en från Afrika söder om Sahara och en från Asien-Stillahavsområdet och Oceanien. Kommentarerna behandlade ämnen som innebörden av citatet som användaren baserade konstverkets titel på, hur internatskolorna användes i Nordamerika och hur Metas innehållsmoderering påverkar konstnärliga friheter och yttrandefriheten för människor med urfolksidentitet- eller ursprung.

Om du vill läsa de kommentarer som har skickats in från allmänheten gällande ärendet klickar du här.

8.Tillsynsrådets analys

Rådet har tittat på huruvida innehållet bör återställas utifrån tre faktorer: Facebooks communityregler, Metas värderingar och företagets ansvar för mänskliga rättigheter.

8.1 Efterlevnad av communityreglerna

Meta höll med om att dess ursprungliga beslut att ta bort innehållet stred mot Facebooks communityregler och var ett ”verkställighetsfel”. Rådet finner att det inte råder någon tvekan om att innehållet i detta ärende inte är hatretorik. Innehållet är ett tydligt exempel på en ”invändning” i vilket hatretorik refereras för att motverka förtryck och diskriminering.

Enligt communityregeln om hatretorik är ”innehåll som omfattar andras hatretorik i syfte att fördöma den eller väcka medvetenhet om den” uttryckligen tillåtet. Två olika moderatorer kom trots det fram till att inlägget utgjorde hatretorik. Meta kunde inte tillhandahålla de specifika orsakerna till varför just detta fel inträffade två gånger.

I ärendet om ett nazistiskt citat (2020-005-FB-UA) noterade rådet att sammanhanget i vilket ett citat används är viktigt för att förstå dess innebörd. I det ärendet var innehållet och citatets innebörd, tiden när inlägget gjordes och landet det publicerades från, samt innehållet i reaktioner och kommentarer på inlägget tydliga indikatorer på att användaren inte avsåg att hylla personen som gjort uttalandet.

Rådet finner att det inte var nödvändigt för användaren att uttryckligen uppge att denna ville väcka medvetenhet för att inläggets syfte och ändamål skulle vara tydligt. Konstverket berättar om det som hände på Kamloops, och den tillhörande texten förklarar dess betydelse. Även om ”Kill the Indian” (döda indianen) taget ur sitt sammanhang skulle kunna vara hatretorik, står det tydligt att frasen används för att väcka medvetenhet och fördöma hat och diskriminering när innehållet bedöms i sin helhet. I innehållet användes citattecken till att markera frasen i titeln som i sin helhet löd ”Kill the Indian/Save the Man” (döda indianen/rädda människan). Det borde ha räckt för att granskaren skulle granska inlägget mer ingående. Sättet användaren berättade om Kamloops på och förklarade wampumsbältets betydelse gjorde det tydligt att denna identifierade sig med offren för diskriminering och våld och inte med de som utövade det. I texten fördömdes händelserna som uppdagats i Kamloops tydligt. Det stod tydligt från kommentarer och reaktioner på inlägget att avsikten att fördöma och väcka medvetenhet uppfattades av de som såg inlägget.

Rådet noterar att Facebooks interna ”Kända frågor”, som är en del av vägledningen för moderatorer, anger att moderatorerna vid osäkerhet hellre ska ta bort innehåll som innefattar hatretorik när användarens avsikt inte är tydlig. I de kända frågorna anges också att ett tydligt avsiktsuttalande inte alltid räcker för att ändra innebörden i ett inlägg som utgör hatretorik. Denna interna vägledning innehåller endast begränsade anvisningar åt moderatorerna om hur de på rätt sätt ska kunna skilja mellan hatretorik och invändningar i vilket hatretorik citeras för att fördöma eller väcka medvetenhet. Så vitt rådet vet finns det inga anvisningar för hur man ska bedöma tecken på avsikt i konstnärligt innehåll som citerar hatretorik eller använder hatretoriska termer, eller i innehåll som diskuterar brott mot mänskliga rättigheter, när sådant innehåll omfattas av regelundantag.

8.2 Efterlevnad av Metas värderingar

Rådet finner att det ursprungliga beslutet att ta bort innehållet var oförenligt med Metas värderingar ”röst” och ”värdighet” och att det inte bidrog till att skydda värderingen ”säkerhet”. Även om det är förenligt med Metas värderingar att begränsa spridningen av hatretorik på företagets plattformar bekymras rådet av att Metas modereringsprocesser inte lyckas att rätt identifiera och skydda möjligheten att uttrycka sig i form av invändningar för människor som riskerar att marginaliseras och diskrimineras.

Meta har uttryckt sitt åtagande att ge stöd för invändningar:

Som community, social plattform och en samlingsplats för delade mänskliga erfarenheter stödjer Facebook viktiga initiativ för motargument mot hatretorik genom att verkställa robusta riktlinjer för innehåll och arbeta ihop med lokala samhällen, beslutsfattare och människor som verkar för förändring så att vi kan bidra till att starta initiativ för motargument mot hatretorik runt om i världen.

Meta hävdar att ”röst” är företagets viktigaste värdering. Konst vars syfte är att belysa historiska grymheter och informera människor om deras påverkan på vår tid är ett av de viktigaste och kraftfullaste uttrycken för värderingen ”röst”, särskilt för marginaliserade grupper som uttrycker sin egen kultur och arbetar för att se till att deras egen historia inte faller i glömska. Invändningar mot hatretorik är inte bara ett sätt att uttrycka värderingen ”röst” utan också ett viktigt verktyg för de som utsätts för hatretorik för att skydda sin egen värdighet och kämpa emot förtryck, diskriminering och förnedring. Meta måste säkerställa att dess riktlinjer för innehåll och modereringsrutiner tar hänsyn till och skyddar denna uttrycksform.

När en användare som väcker medvetenhet om storskaliga grymheter informeras om att det denna förmedlat tas bort eftersom det anses vara hatretorik är det en skymf mot dennas värdighet. En sådan anklagelse kan leda till självcensur, särskilt när den bekräftas av Meta vid överklagande.

8.3 Efterlevnad av Metas ansvar för mänskliga rättigheter

Rådet kom till slutsatsen att borttagandet av inlägget var i strid mot Metas ansvar för mänskliga rättigheter som företag. Meta har förbundit sig att respektera mänskliga rättigheter enligt FN:s vägledande principer om företag och mänskliga rättigheter (UNGP). I Metas företagspolicy avseende mänskliga rättigheter uppges att policyn innefattar konventionen om medborgerliga och politiska rättigheter (ICCPR).

Det här är det första ärendet gällande konstnärligt uttryck som rådet hanterar, samt det första ärendet gällande yttrandefrihet i vilket användaren identifierar sig som tillhörande ett urfolk. Det är ett av flera ärenden som rådet har valt ut i vilket användarens avsikt var att väcka uppmärksamhet kring allvarliga brott mot mänskliga rättigheter.

Yttrandefrihet (artikel 19 ICCPR)

I de internationella normerna för mänskliga rättigheter betonas vikten av rätten att uttrycka sig politiskt (kommittén för mänskliga rättigheter allmän kommentar 34, par. 38). Omfattningen av skyddet av denna rättighet anges i artikel 19, par. 2, i ICCPR, där uttryck ”i form av konst” nämns speciellt. Den internationella konventionen om avskaffande av alla former av rasdiskriminering (ICERD) innefattar även skydd från diskriminering i utövande av yttrandefriheten (artikel 5). Dessutom har den kommitté som har i uppgift att övervaka länders efterlevnad betonat vikten av yttrandefrihet när det gäller att hjälpa ”sårbara grupper att rätta till maktbalansen mellan olika delar av samhället” och att erbjuda ”alternativa åsikter och motargument” i diskussioner (CERD-kommittén, allmän rekommendation 35, paragraf 29).

Konst är ofta politisk och internationella normer framhåller kommunikationsformens unika och kraftfulla roll när det gäller att utmana det gällande läget (FN:s specialrapportör inom kulturella rättigheter, A/HRC/23/34, par. 3-4). Internet, och särskilt sociala medier som Facebook och Instagram, är särskilt värdefulla för konstnärer när det gäller att nå ut till en ny och större publik. Deras försörjning kan hänga på att de har åtkomst till sociala plattformar som dominerar på internet.

Rätten till yttrandefriheten garanteras alla människor utan diskriminering (artikel 19, par. 2, ICCPR). Rådet mottog kommentarer om att urfolkens rätt till fritt, föregående och informationsunderbyggt medgivande när stater antar lagstadgade eller administrativa åtgärder som påverkar urfolken innebär en skyldighet för Meta att rådfråga dessa grupper när företaget tar fram sina riktlinjer för innehåll (allmän kommentar-10240, Minority Rights Group. Se även FN:s deklaration om ursprungsfolkens rättigheter, artikel 19). FN:s specialrapportör om åsikts- och yttrandefrihet har lyft fram en liknande fråga när det gäller plattformar för sociala medier och deras skyldigheter (A/HRC/38/35, par. 54).

Innehållet i det här ärendet berör även ett antal andra rättigheter, bland annat rättigheterna för människor som tillhör nationella, etniska eller språkliga minoriteter att tillsammans med andra medlemmar av samma grupp ta del av sin egen kultur (artikel 27, ICCPR), och rätten att delta i och ta del av kulturlivet (artikel 15, ICESCR). Konsten att skapa ett wampumbälte vars syfte var att dokumentera och väcka medvetenhet om brott mot mänskliga rättigheter och arvet efter dem skyddas enligt FN:s deklaration om människorättsförsvarare, artikel 6(c), och enligt rätten till sanning om grymheter (FN:s principer för att bekämpa straffrihet). I FN:s deklaration om ursprungsfolkens rättigheter erkänns det uttryckligen att handlingar som består av att med våld ta barn från sina hem kan vara vålds- och folkmordshandlingar (artikel 7, par. 2) och deklarationen ger särskilt skydd mot påtvingad assimilering och kulturförstörelse (artikel 8, par. 1).

Enligt artikel 19 i ICCPR krävs att när en stat begränsar rätten att uttrycka sig måste det uppfylla kraven på laglighet, berättigat ändamål, nödvändighet och proportionalitet (artikel 19, par. 3, ICCPR). FN:s specialrapportör om yttrandefrihet har uppmanat företag verksamma inom sociala medier att låta sig vägledas av dessa principer när de modererar uttryck online, och att de ska vara medvetna om att omfattande reglering av yttrandefriheten från privata företags sida kan ge upphov till problem som är särskilt knutna till den kontexten (A/HRC/38/35, par. 45 och 70). Rådet har använt sig av ett test i tre delar baserat på artikel 19 i ICCPR i alla sina beslut så här långt.

I. Laglighet (reglernas tydlighet och tillgänglighet)

Communityregeln om hatretorik tillåter tydligt innehåll som fördömer hatretorik eller väcker medvetenhet. Denna del av regeln är tillräckligt tydlig och lättillgänglig för att användarna ska kunna förstå reglerna och agera enligt dem (allmän kommentar 34, par. 25). Enligt regeln om laglighet måste regler som begränsar yttrandefriheten också ge tillräcklig vägledning åt de som har i uppgift att verkställa dem, så att de kan säkerställa vilken typ av uttryck som bör begränsas och vilken typ som inte bör det (Ibid.) Att de två moderatorerna misslyckades med att rätt bedöma hur undantag till regeln skulle tillämpas på detta innehåll visar på att det kan finnas behov av ytterligare intern vägledning för moderatorer.

II. Berättigat ändamål

Alla statliga begränsningar av yttrandefriheten ska göras i enlighet med ett av de berättigade ändamål som anges i artikel 19, par. 3 i ICCPR. I sina framställningar till rådet har Meta rutinmässigt åberopat målsättningar från denna lista för att berättiga åtgärder företaget vidtagit som lett till inskränkningar av yttrandefriheten. Rådet har tidigare uppmärksammat att Facebooks communityregel om hatretorik är avsedd att uppfylla det berättigade ändamålet att skydda andras rättigheter. De rättigheterna omfattar rätten till yttrandefrihet, jämlikhet och likabehandling och rätten till fysisk integritet.

III. Nödvändighet och proportionalitet

Det uppenbara felet i det här ärendet innebär att borttagandet självklart inte var nödvändigt, vilket Meta har godkänt. Rådet är oroliga att ett så uppenbart fel kan vara ett tecken på mer djupgående proportionalitetsproblem i Metas automatiska och manuella granskningsprocesser. Eventuella begränsningar av yttrandefriheten ska vara lämpliga för att uppnå sin skyddande funktion och ska vara det minst ingripande alternativet av de som skulle kunna användas för att uppnå den skyddande funktionen (allmän kommentar 34, par. 34) Huruvida Metas system för innehållsmoderering uppfyller kraven på nödvändighet och proportionalitet beror till stor del på hur effektivt det är på att ta bort faktisk hatretorik samtidigt som antalet felaktiga upptäckter och borttaganden är så litet som möjligt.

Varje inlägg som tas bort felaktigt skadar yttrandefriheten. Rådet förstår att misstag är oundvikliga, för både människor och maskiner. Hatretorik och svar på hatretorik är alltid beroende av sitt sammanhang och gränserna mellan dem är inte alltid så tydliga. De typer av misstag och de människor och grupper som drabbas av de misstagen återspeglar emellertid designval som ständigt måste bedömas och undersökas. Det kräver vidare undersökningar av grundorsakerna till misstaget i det här ärendet och en bredare bedömning av hur effektivt invändningar modereras.

Med tanke på hur stor effekt viktig konst av urfolkskonstnärer har när det gäller att motverka hat och förtryck förväntar sig rådet att Meta ska vara särskilt medvetna om möjligheten för felaktigt borttagande av innehållet i det här ärendet och liknande innehåll på Facebook och Instagram. Det räcker inte att utvärdera resultatet av Metas verkställande av Facebooks regel om hatretorik i sin helhet. Ett system som fungerar väl i vanliga fall skulle kunna fungera rätt dåligt på underkategorier av innehåll där felaktiga beslut har en särskilt stor påverkan på mänskliga rättigheter. Det är möjligt att de typer av fel som inträffade i detta ärende är sällsynta, men rådet noterar att medlemmar av marginaliserade grupper har larmat om antalet och effekten av felaktiga borttaganden i många år. Felen i det här ärendet visar att det är nödvändigt att Meta visar att företaget har genomfört en konsekvensanalys och offentliggöranden avseende mänskliga rättigheter (human rights due diligence) för att säkerställa att dess system fungerar tillfredsställande och att de inte förvärrar historiskt och pågående förtryck (UNGP, princip 17).

Meta utvärderar regelbundet hur väl verkställighetssystemen kan hantera hatretorik. Denna utvärdering är inte uppdelad i utvärderingar av korrekthet som specifikt mäter Metas förmåga att särskilja hatretorik från tillåtet innehåll som fördömer hatretorik eller väcker medvetenhet.

I Metas befintliga processer ingår ad hoc-mekanismer för att identifiera feltrender och undersöka deras grundorsaker, men för detta krävs det stora mängder exempelinnehåll som det går att mäta systemets resultat mot. Rådet frågade om huruvida Meta har gjort särskilda utvärderingar av hur väl dess granskningssystem kan göra korrekta bedömningar av invändningar i form av konstnärligt uttryck och invändningar som väcker medvetenhet om brott mot mänskliga rättigheter. Meta förklarade för rådet att företaget inte hade utfört några specifika undersökningar av effekten av felaktigt borttagande av konstnärligt uttryck eller uttryck från människor med urfolksidentitet- eller ursprung.

Meta har informerat rådet om hindren för att inleda denna typ av bedömningar, bland annat bristen på ett system för att automatisera sammanställningen av ett urval innehåll som skulle tillåtas enligt regelundantag. Det här beror på att granskarna markerar innehåll som att det antingen bryter mot eller följer reglerna, och att de inte behöver ange när innehåll som följer reglerna gör det till följd av ett regelundantag. Ett urval invändningar som omfattas av detta undantag skulle behöva sammanställas manuellt.

Även om rådet ser positivt på den ingående information som gavs om hur Meta utvärderar resultat under en frågesession som hölls på rådets begäran, är det uppenbart att större investeringar behövs för att utvärdera korrektheten i verkställandet av regelundantagen i regeln om hatretorik och för att dra lärdomar från feltrender. Utan ytterligare information om Metas designbeslut och resultaten av företagets manuella och automatiska system är det svårt för rådet att bedöma proportionaliteten för Metas nuvarande metoder för att hantera hatretorik.

I utvärderingen av huruvida det är nödvändigt och proportionerligt att använda de specifika maskininlärningsverktyg som används i detta ärende till att automatiskt identifiera hatretorik är det avgörande att man har kunskap om hur exakta dessa verktyg är. För klassificeringar för maskininlärning ingår det alltid kompromisser mellan antalet falska positiva och falska negativa träffar. Ju känsligare en klassificering är desto större är sannolikheten att den rätt kan identifiera förekomster av hatretorik, men samtidigt är sannolikheten också större för att den felaktigt flaggar material som inte är hatretorik. Olika tränade klassificeringar och olika modeller är olika användbara och effektiva för olika uppgifter. För alla modeller kan olika tröskelvärden användas som återspeglar en bedömning av hur pass viktigt det är att undvika olika typer av misstag. Sannolikheten för misstag och misstagens allvarlighetsgrad bör också ligga till grund för beslut om hur en klassificering ska användas, bland annat om den ska kunna utlösa åtgärder direkt eller om det ska krävas manuellt godkännande, och vilka säkerhetsåtgärder som ska användas.

Meta förklarade att inlägget i detta ärende skickades för granskning av företagets automatiska system eftersom det med sannolikhet skulle ha en stor målgrupp. Det tillvägagångssättet kan begränsa spridningen av skadligt material, men det kan också öka risken för att stark konst som motverkar hat felaktigt tas bort. Meta berättade för rådet att de regelbundet utvärderar antalet falska positiva träffar med tiden och mäter dem mot en uppsättning beslut som fattats av specialiserade granskare. Meta noterade också att det gick att utvärdera korrektheten för de specifika modeller för maskininlärning som var relevanta i det här ärendet och att information om klassificeringarnas bedömningar sparas i minst 90 dagar. Rådet begärde information som skulle ha gjort det möjligt för oss att utvärdera klassificeringens resultat och lämpligheten hos de tröskelvärden Meta använde i det här ärendet. Meta informerade rådet om att de inte kunde tillhandahålla den information som rådet efterfrågade eftersom de inte hade tillräckligt med tid att ta fram den åt oss. Meta meddelade dock att de övervägde möjligheten att kunna tillhandahålla den informationen i framtida ärenden.

Manuell granskning kan bidra med två viktiga kontrolltillfällen som ger extra skydd vid användningen av Metas klassificeringar: först innan inlägget tas bort och sedan igen efter överklagandet. Misstagen i detta ärende pekar mot att Metas vägledning för moderatorer som bedömer invändningar mot hatiskt innehåll kanske är otillräcklig. Det finns ett antal orsaker som kan ha bidragit till att manuella granskare fattade fel beslut två gånger i detta ärende. Rådet bekymras av att granskarna kanske inte har tillräckliga resurser när det gäller tid och utbildning för att förhindra den typ av misstag som gjorts i detta ärende, särskilt när det gäller innehåll som tillåts enligt regelundantag (till exempel för att ”fördöma” hatretorik och ”väcka medvetenhet”).

När det gäller detta ärende var båda granskarna baserade i Asien-Stillahavsområdet. Meta kunde inte informera rådet om huruvida andelen korrekta granskarbeslut skiljde sig för moderatorer som bedömer möjlig hatretorik och inte befinner sig i det område som innehållet kommer ifrån. Rådet noterar komplexiteten i att bedöma hatretorik, och svårigheten att förstå lokal kontext och historia, särskilt med tanke på den stora volym innehåll moderatorerna granskar dagligen. Det är möjligt att de moderatorer som utvärderade innehållet i detta ärende inte hade så stor kunskap om förtrycket av urfolk i Nordamerika. Vägledningen bör innehålla tydliga anvisningar för utvärdering av innehåll i sin helhet och ge moderatorerna stöd så att de kan utvärdera innehåll mer korrekt för att bedöma tecken på avsikt och innebörd.

Rådet rekommenderade i beslutet om memet Two Buttons (två knappar) (2021-005-FB-UA) att Meta ska låta användarna ange i sin överklagan att deras innehåll omfattas av ett undantag i Facebooks communityregel om hatretorik. När en användare i dagsläget överklagar ett av Metas beslut som skickas till manuell granskning informeras granskaren inte om att användaren har överklagat ett tidigare beslut och känner inte till resultatet av den föregående granskningen. Meta har informerat rådet om att de tror att den informationen kan påverka granskningen, men rådet är intresserade av att ta reda på huruvida denna information skulle kunna öka sannolikheten för mer nyanserat beslutsfattande. Det här är något Meta skulle kunna undersöka empiriskt och resultatet av en sådan undersökning skulle vara användbart när det gäller att utvärdera proportionaliteten för de specifika metoder Meta har valt att använda.

Enligt UNGP har Meta ett ansvar att utföra en konsekvensanalys och offentliggöranden avseende mänskliga rättigheter (human rights due diligence) (princip 17). Detta ska omfatta identifiering av negativa effekter från innehållsmoderering på konstnärliga uttryck och politiska uttalanden från urfolk som kämpar mot diskriminering. Vidare bör Meta identifiera hur de ska förhindra, motverka och redovisa sitt arbete med att komma till rätta med sådana negativa effekter. Rådet har åtagit sig att övervaka Metas agerande och förväntar sig att se företaget prioritera risker för marginaliserade grupper och visa bevis på löpande förbättringar.

9.Tillsynsrådets beslut

Tillsynsrådet upphäver Metas ursprungliga beslut att ta bort innehållet.

10. Uttalande med råd om riktlinjer

Verkställighet

1. Ge användarna korrekta meddelanden i god tid om eventuella åtgärder företaget vidtar på det innehåll deras överklagande gäller. När det är tillämpligt, inklusive i ärenden gällande verkställighetsfel som detta, bör meddelandet till användaren även informera om att åtgärden sker till följd av tillsynsrådets granskningsprocess. Meta bör dela meddelandena till användare som skickas när rådets handlingar påverkar innehållsbeslut som överklagats av användare. Detta för att visa att företaget har följt rekommendationen. Dessa åtgärder ska vidtas för alla ärenden som åtgärdas i kvalificeringssteget i rådets process.

2. Undersök hur ändrade tillvägagångssätt i den andra granskningen kan påverka granskarens förmåga att fatta korrekta beslut. Rådet efterfrågar särskilt en bedömning av exaktheten när innehållsmoderatorer informeras om att de utför en andra granskning och vet att det första beslutet överklagats. En sådan undersökning skulle helst innehålla en möjlighet för användarna att tillhandahålla relevant kontext som kan hjälpa granskarna att bedöma deras innehåll i enlighet med rådets tidigare rekommendationer. Meta bör också dela resultaten av dessa bedömningar med rådet och sammanfatta resultaten i sina kvartalsvis återkommande transparensuppdateringar till rådet för att visa att företaget har följt denna rekommendation.

3. Genomför en bedömning av hur korrektheten i bedömning av undantag till regeln om hatretorik som omfattar konstnärligt uttryck och uttalanden om brott mot mänskliga rättigheter (t.ex. fördömande, innehåll med syfte att väcka medvetenhet, användning med hänvisning till den egna personen, användning för att ta tillbaka ordet). I denna bedömning ska man också särskilt undersöka hur en granskares placering påverkar dennas förmåga att göra en korrekt bedömning av hatretorik och invändningar mot sådan från samma eller andra regioner. Rådet inser att det för denna analys troligen krävs framtagande av lämpliga och korrekt benämnda urval av relevant innehåll. Meta bör dela resultaten av denna bedömning med rådet, inklusive hur resultaten används som utgångspunkt för förbättringar av verkställighetsarbetet och utvecklingen av regler samt huruvida företaget planerar att genomföra regelbundna bedömningar av granskarnas förmåga att korrekt bedöma dessa undantag. Meta bör också sammanfatta resultaten i sina kvartalsvis återkommande transparensuppdateringar till rådet för att visa att företaget har följt denna rekommendation.

* Procedurmässig notering:

Tillsynsrådets beslut utarbetas av en panel bestående av fem medlemmar och godkänns av en majoritet av rådet. Rådets beslut återspeglar inte nödvändigtvis alla medlemmars personliga åsikter.

Inför beslutet i det här ärendet genomfördes oberoende efterforskningar på uppdrag av rådet. Ett oberoende forskningsinstitut som utgår från Göteborgs universitet, med ett team bestående av över 50 samhällsvetare på sex kontinenter och över 3 200 nationella experter från hela världen, och Duco Advisers, en konsultfirma med inriktning på skärningspunkten mellan geopolitik, förtroende och säkerhet och teknik, har gett expertis om sociopolitisk och kulturell kontext.

Return to Case Decisions and Policy Advisory Opinions