Wampum-bælte

Sagsresumé

Bemærk: Den 28. oktober 2021 annoncerede Facebook, at virksomheden skiftede navn til Meta. I denne tekst henviser Meta til virksomheden, og Facebook henviser som altid til produktet og politikkerne for den specifikke Facebook-app.

Tilsynsrådet har omstødt Metas originale afgørelse om at fjerne et Facebook-opslag fra en kunstner af oprindelig nordamerikansk afstamning. Opslaget blev fjernet i henhold til Facebooks fællesskabsregel om hadefuld retorik. Rådet vurderede, at indholdet var omfattet af tilladelserne til politikken om hadefuld retorik, da indholdet havde til formål at skabe opmærksomhed omkring historisk kriminalitet mod USA's oprindelige befolkning.

Om sagen

I august 2021 slog en Facebook-bruger et billede op af et wampun-bælte sammen med ledsagende tekst på engelsk. Et wampun-bælte er en oprindelig nordamerikansk kunstform, hvor skalperler væves sammen for at danne billeder, der fortælle om historier og aftaler. Bæltet inkluderer en række skildringer, som brugeren siger er inspireret af "Kamloops story" (Kamloops historie), hvilket er en reference til maj 2021, hvor man opdagede umærkede grave ved en tidligere kostskole for indfødte børn i British Columbia i Canada.

Teksten indeholder kunstværkets titel "Kill the Indian/ Save the Man" (Slå indianeren ihjel/Red mennesket), og brugeren er identificeret som kunstner. Brugeren beskriver billedserien på bæltet: "Theft of the Innocent, Evil Posing as Saviours, Residential School / Concentration Camp, Waiting for Discovery, Bring Our Children Home." (Tyveri af de uskyldige, Det onde poserer som frelsere, Kostskole/Koncentrationslejr, Venter på opdagelse, Bring vores børn hjem). I opslaget beskriver brugeren kunstværkets betydning samt historien om wampum-bælter og deres formål som undervisningsmiddel. Brugeren skriver, at det var svært at fremstille bæltet, og at det var følelsesmæssigt hårdt at fortælle historien om, hvad der skete ved Kamloops. Brugeren undskylder for den smerte, som kunstværket måtte forårsage for overlevende fra Kamloops, og skriver, at "sole purpose is to bring awareness to this horrific story" (det eneste formål er at fortælle folk om denne forfærdelige historie).

Metas automatiske systemer identificerede indholdet som potentielt i strid med Facebooks fællesskabsregel om hadefuld retorik dagen efter, at det blev slået op. En menneskelig evaluator vurderede, at indholdet var i strid med fællesskabsreglen og fjernede det den samme dag. Brugeren appellerede afgørelsen til Meta og bad om endnu en menneskelig gennemgang, men også denne gang blev indholdet vurderet som værende i strid med reglerne. På det tidspunkt, hvor opslaget blev fjernet, var indholdet blevet set mere end 4000 gange og delt over 50 gange. Der var ingen brugere, der anmeldte indholdet.

Som et resultat af, at rådet udvalgte denne sag, har Meta identificeret fjernelsen af opslaget som en "håndhævelsesfejl" og har gendannet indholdet den 27. august. Meta informerede dog ikke brugeren om gendannelsen før den 30. september, to dage efter at rådet bad Meta om indholdet i meddelelsen til brugeren. Meta forklarede, at den forsinkede meddelelse skyldtes en menneskelig fejl.

Konklusioner

Meta er indforstået med, at deres oprindelige afgørelse om at fjerne indholdet var i strid med Facebooks fællesskabsregler og en håndhævelsesfejl. Rådet vurderer, at indholdet er et tydeligt eksempel på "modtale", hvor der refereres til hadefuld retorik for at bekæmpe undertrykkelse og diskrimination.

I introduktionen til Facebooks politik om hadefuld retorik står der, at modtale er tilladt, hvis brugerens hensigt er tydelig. Det fremgår tydeligt af indholdet i opslaget, at der ikke er tale om hadefuld retorik. Kunstværket fortæller historien om, hvad der skete ved Kamloops, og den tilhørende tekst forklarer historiens betydning. Selvom ordene "Kill the Indian" (Slå indianeren ihjel) isoleret set kunne udgøre hadefuld retorik, skaber ordene i konteksten opmærksomhed omkring og fordømmer specifikke hadefulde og diskriminerende handlinger.

Rådet husker sin afgørelse 2020-005-FB-UA i en sag, der involverede et citat fra en nazist. Denne sag medførte også en bevidsthed om, hvordan hensigt kan vurderes via andre indikationer end direkte erklæringer, f.eks. indhold og betydning af et citat, timing og opslagsland samt indholdet af reaktioner og kommentarer til opslaget.

I denne sag vurderede rådet, at det ikke var nødvendigt, at brugeren udtrykkeligt angav, at han/hun ønskede at skabe opmærksomhed om, at opslaget skulle anerkendes som modtale. Rådet bemærkede interne "Kendte spørgsmål" til ordstyrere om, at en tydelig hensigtserklæring ikke altid er tilstrækkelig til at ændre betydningen af et opslag, der udgør hadefuld retorik. Ordstyrere forventes at vurdere hensigt og ikke udelukkende stole på eksplicitte udsagn.

To separate ordstyrere konkluderede, at opslaget var hadefuld retorik. Meta kunne ikke angive specifikke årsager til, at denne fejl opstod to gange.

Tilsynsrådets afgørelse

Tilsynsrådet omstøder Metas oprindelige afgørelse om at fjerne indholdet.

I en rådgivende udtalelse vedrørende politikken anbefaler rådet, at Meta:

• giver brugere rettidig og præcist varsel om enhver handling, der udføres på det indhold, som appellen drejer sig om. Hvis relevant, herunder i forbindelse med håndhævelsesfejl som her, skal der i underretningen til brugeren fremgå, at handlingen var et resultat af Tilsynsrådets gennemgangsproces.
• undersøger resultaterne af evaluatorpræcision, hvis indholdsordstyrere bliver informeret om, at det deltager i en sekundær gennemgang, så de ved, at den oprindelige afgørelse er blevet appelleret.
• udfører en vurdering af evaluatorpræcision med fokus på tilladelser i politikken om hadefuld retorik, der dækker kunstneriske udtryk og udtryk om overtrædelser af menneskerettigheder (f.eks. fordømmelse, skabelse af opmærksomhed, selvrefererende brug og bemyndigende brug). Denne vurdering bør også specifikt vurdere, hvordan en evaluators placering påvirker vedkommendes mulighed for præcist at vurdere hadefuld retorik og modtale fra samme eller forskellige områder. Meta bør dele resultaterne af denne vurdering med rådet, herunder hvordan resultater vil medføre forbedringer i håndhævelse og politikudvikling og om der er planer om at udføre jævnlige vurderinger af evaluatorpræcision på disse tilladelser. Rådet råder også Meta til offentligt at dele resuméer af resultaterne af disse vurderinger i deres kvartalsvise gennemsigtighedsopdateringer til rådet for at vise, at de har fulgt anbefalingerne.

*Sagsresuméer giver en oversigt over sagen og har ingen præjudikatværdi.

Fuld sagsafgørelse

1. Oversigt over afgørelse

Tilsynsrådet omstøder Metas oprindelige afgørelse om at fjerne et opslag fra en indfødt nordamerikansk kunstner med et billede af vedkommendes kunst sammen med kunstværkets titel, der citerer et historisk tilfælde med hadefuld retorik. Meta accepterer, at opslaget falder ind under en af tilladelserne i Facebooks fællesskabsregel om hadefuld retorik, da det tydeligt fremgår, at hensigten er at skabe opmærksomhed omkring historiske, kriminelle handlinger mod indfødte folk i Nordamerika.

2. Beskrivelse af sagen

I starte af august 2021 slog en Facebook-bruger et billede op af et wampun-bælte sammen med ledsagende tekst på engelsk. Et wampun-bælte er en oprindelig nordamerikansk kunstform, hvor skalperler væves sammen for at danne billeder, der fortælle om historier og aftaler. Bæltet inkluderer en række skildringer, som brugeren siger er inspireret af "Kamloops story" (Kamloops historie), hvilket er en reference til maj 2021, hvor man opdagede umærkede grave ved en tidligere kostskole for indfødte børn i British Columbia i Canada.

Teksten indeholder kunstværkets titel "Kill the Indian/ Save the Man" (Slå indianeren ihjel/Red mennesket), og brugeren er identificeret som kunstner. Brugen angiver derefter en liste over udtryk, der svarer til serien af billeder på bæltet: "Theft of the Innocent, Evil Posing as Saviours, Residential School / Concentration Camp, Waiting for Discovery, Bring Our Children Home." (Tyveri af de uskyldige, Det onde poserer som frelsere, Kostskole/Koncentrationslejr, Venter på opdagelse, Bring vores børn hjem). I opslaget beskriver brugeren kunstværkets betydning samt historien om wampum-bælter og deres formål som undervisningsmiddel. Brugeren skriver, at det var svært at fremstille bæltet, og at det var følelsesmæssigt meget hårdt at fortælle historien om, hvad der skete ved Kamloops. Brugeren fortsætter med at sige, at historien ikke kan holdes skjult fra offentligheden igen, og at vedkommende håber, at bæltet vil forhindre, at det sker. Brugeren slutter opslaget af med at undskylde for den smerte, som kunstværket måtte medføre for overlevende fra kostskolesystemet, og brugeren skriver, at “sole purpose is to bring awareness to this horrific story” (det eneste formål er at fortælle folk om denne forfærdelige historie).

Metas automatiske systemer identificerede indholdet som potentielt i strid med Facebooks fællesskabsregel om hadefuld retorik dagen efter, at det blev slået op. En menneskelig evaluator vurderede, at indholdet var i strid med fællesskabsreglen og fjernede det den samme dag. Brugeren appellerede afgørelsen til Meta og bad om endnu en menneskelig gennemgang, men også denne gang blev indholdet vurderet som værende i strid med reglerne. På det tidspunkt, hvor opslaget blev fjernet, var indholdet blevet set mere end 4000 gange og delt over 50 gange. Der var ingen brugere, der anmeldte indholdet. Som et resultat af, at rådet udvalgte denne sag, har Meta identificeret fjernelsen af opslaget som en "håndhævelsesfejl" og har gendannet indholdet den 27. august. Meta informerede dog ikke brugeren om gendannelsen før den 30. september, to dage efter at rådet bad Meta om indholdet i meddelelsen til brugeren. Meta forklarede, at den forsinkede meddelelse skyldtes en menneskelig fejl. Brugeren blev ikke informerede om, at indholdet var blevet gendannet som følge af vedkommendes appel til rådet og rådets behandling af sagen.

En offentlig kommentar fra Association on American Indian Affairs (offentlig kommentar-10208) angiver, at det citat, der bliver brugt i kunstværkets titel, er fra Richard Henry Pratt, en soldat, der grundlagde den første føderale kostskole for indianere i USA. Sætningen opsummerer politikkerne bag oprettelsen af kostskoler, der havde til formål med tvang at civilisere indfødte folk og "eradicate all vestiges of Indian culture" (udrydde alle spor af den indianske kultur). Lignende politikker blev implementeret i Canada og har dannet grundlag for kulturelt folkemord udført af Truth and Reconciliation Commission of Canada.

Brugerens reference til det, der skete ved Kamloops er en reference til Kamloops Indian Residential School, som er en tidligere kostskole til indfødte børn i British Columbia, Canada. I maj 2021 annoncerede ledere af Tk’emlúps te Secwépemc First Nation opdagelsen af umærkede grave i Kamloops. Myndighederne har bekræftet 200 mulige begravelsespladser i området.

Den canadiske regering estimerer, at mindst 150.000 indfødte børn var igennem kostskolesystemet, før den sidste skole blev lukket i 1997. Indfødte børn blev ofte tvangsfjernet fra deres familier og fik forbud mod at udtrykke aspekter fra deres kultur. Skolerne håndhævede grov og voldelig korporlig afstraffelse, og medarbejderne deltog i eller tolererede seksuelt misbrug og alvorlig vold mod mange elever. Eleverne blev fejlernæret, skolerne havde ringe opvarmning og blev dårligt rengjort, og mange børn døde af tuberkulose og andre sygdomme med minimal lægehjælp. The Truth and Reconciliation Commission konkluderede, at mindst 4100 elever døde, mens de gik på kostskole, mange som følge af dårlig behandling eller vanrøgt, andre som følge af sygdom eller ulykker.

3. Bemyndigelse og omfang

Rådet har bemyndigelse til at gennemgå Metas afgørelse efter en appel fra den bruger, som har fået sit indhold fjernet (Charter, Artikel 2, Afsnit 1); Vedtægter, Artikel 3, Afsnit 1). Rådet kan stadfæste eller omstøde Metas afgørelse, og rådets afgørelse er bindende for virksomheden (Charter Artikel 4; Artikel 3, Afsnit 5). Rådets afgørelse kan indeholder rådgivende udtalelser vedrørende politikken med ikke-bindende anbefalinger, som Meta skal reagere på (Charter, Artikel 4; Artikel 3, Afsnit 4).

Når rådet udvælger sager som denne, hvor Meta efterfølgende accepterer, at de har lavet en fejl, gennemgår rådet den oprindelige afgørelse for at øge forståelse af, hvorfor der sker fejl, og for at komme med observationer eller anbefalinger, som kan bidrage til at reducere mængden af fejl og fremme retfærdige procedurer. Efter rådets afgørelse i sagen om symptomer og nøgenhed i forbindelse med brystkræft ( 2020-004-IG-UA, Afsnit 3), indførte rådet en proces, der giver Meta mulighed for at identificere håndhævelsesfejl, før sagen sendes videre til et panel (se: gennemsigtighedsrapporter, side 30). Det bidrager ikke til situationen, at Meta i disse situationer fokuserer sit rationale udelukkende på den ændrede afgørelse, forklarer hvad der burde være foregået i forbindelse med brugerens indhold, samtidig med, at de inviterer rådet til at stadfæste dette som virksomhedens ultimative afgørelse. Udover at forklare, hvorfor den afgørelse, som brugeren har appelleret, er forkert, foreslår rådet, at Meta forklarer, hvordan fejlen er opstået, og hvorfor virksomhedens interne gennemgangsproces ikke har lykkedes med at identificere eller korrigere problemet. Rådet vil fortsætte med at basere sine gennemgange på den afgørelse, som en bruger har appelleret.

4. Relevante regler

Tilsynsrådet tog højde for følgende regler i forbindelse med sin afgørelse:

I.Facebooks fællesskabsregler:

I Facebooks fællesskabsregler defineres hadefuld retorik som "et direkte angreb på folk ud fra det, vi kalder for beskyttede karakteristika – race, etnicitet, national oprindelse, religiøst tilhørsforhold, seksuel orientering, kaste, køn, kønsidentitet og alvorlig sygdom eller handicap." Under "1. grad" inkluderer forbudt indhold "voldelig tale eller støtte i skriftlig eller visuel form". Fællesskabsreglen indeholder også tilladelser, så man kan adskille lovligt indhold:

Vi anerkender, at folk af og til deler indhold, som indeholder en andens hadefulde retorik for på denne måde at tage afstand fra den eller skabe opmærksomhed om en sag. I andre tilfælde kan der blive brugt en retorik, der ellers ville overtræde vores fællesskabsregler, på en selvrefererende eller styrkende måde. Vores politik er udarbejdet for at give plads til disse typer retorik, men vi kræver, at folk tydeligt tilkendegiver deres hensigt. Hvis hensigten ikke fremgår tydeligt, er det muligt, at vi fjerner indholdet.

II. Metas værdier:

Metas værdier er anført i introduktionen til Facebooks fællesskabsregler. Værdien om ytringsfrihed beskrives som en "afgørende" værdi:

Målet med vores fællesskabsregler har altid været at skabe et sted, hvor folk kan udtrykke sig og blive hørt. […] Vi ønsker, at folk skal kunne tale åbent om de problemer, der betyder noget for dem, selvom nogle er uenige eller finder dem ubehagelige.

Meta begrænser "ytringsfriheden" til fordel for fire værdier, hvoraf to er relevante her:

"Sikkerhed": Det er vigtigt for os at gøre Facebook til et sikkert sted. Udtryk, der truer folk, kan intimidere, udelukke eller forhindre andre i at udtale sig og er ikke tilladt på Facebook.

"Værdighed": Vi mener, at alle folk er lige i værdighed og rettigheder. Vi forventer, at folk respekterer andres værdighed og ikke chikanerer eller nedgør andre.

III. Menneskerettighedsstandarder:

De vejledende principper om erhvervslivet og menneskerettigheder (UNGPs), som blev vedtaget af FN's menneskerettighedsråd i 2011, udgør en frivillig ramme for private virksomheders ansvar, hvad angår menneskerettigheder. I marts 2021 annoncerede Meta sin virksomhedspolitik om menneskerettigheder, hvor virksomheden genbekræftede sin forpligtelse til at respektere menneskerettigheder i overensstemmelse med UNGP'erne. Rådets analyse af Metas ansvar i forhold til menneskerettigheder i denne sag blev udført på baggrund af følgende menneskerettighedsstandarder:

• Ytringsfrihed: Artikel 19, International konvention om borgerlige og politiske rettigheder (ICCPR); Generel bemærkning nr. 34, Menneskerettighedskomitéen 2011; Artikel 5, international konvention vedrørende afskaffelse af alle former for diskrimination på grund af race (ICERD); FN's særlige rapportør om hadefuld retorik, A/74/486, 2019; FN's særlige rapportør om moderering af onlineindhold, A/HRC/38/35, 2018.
• Lighed og ikke-diskrimination: Artikel 2, para. 1 og Artikel 26 (ICCPR); Artikel 2, ICERD; General henstilling nr. 35, Racediskriminationskomitéen, 2013.
• Kulturelle rettigheder: Artikel 27, ICCPR; Artikel 15, International konvention om økonomiske, sociale og kulturelle rettigheder (ICESCR); FN's særlige rapportør om kulturelle rettigheder, rapport om kunstnerisk frihed og kreativitet, A/HRC/23/34, 2013.
• Oprindelige folks rettigheder: FN's deklaration om oprindelige folks rettigheder, Artikel 7, para. 2; Artikel 8, para. 1 og Artikel 19.

5. Brugerudtalelse

Brugeren anførte i sin appel til rådet, at vedkommendes opslag viste et traditionelt kunstværk, der dokumenterede historien, og at det intet havde at gøre med hadefuld retorik. Brugeren angav yderligere, at det var nødvendigt, at denne historie blev delt, og at der i forbindelse med Metas fjernelse af opslaget var tale om "censorship" censur.

6. Forklaring på Metas afgørelse

Meta fortalte rådet, at udsagnet "Kill the Indian" (Slå indianeren ihjel) udgjordet et angreb af 1. grad i henhold til Facebooks fællesskabsregel om hadefuld retorik, der forbyder voldelig tale målrettet personer på baggrund af beskyttede karakteristika, herunder race eller etnicitet. Meta anerkendte dog, at det var forkert at fjerne indholdet, fordi politikken tillader, at man deler en andens hadefulde retorik for at fordømme den eller skabe opmærksomhed om den. Meta bemærkede, at brugeren angav i opslaget, at formålet var at skabe opmærksomhed om en forfærdelig historie om, hvad der skete på Kamloops.

Meta bemærkede, at udsagnet "Kill the Indian/ Save the Man" (Slå indianeren ihjel/Red mennesket) stammer fra tvungen assimilation af indfødte børn. Ved at skabe opmærksomhed om Kamloops-historien skabte brugeren også opmærksomhed om tvungen assimilation via kostskoler. Som svar på et spørgsmål fra rådet tydeliggjorde Meta, at en indholdsevaluator ikke havde behøvet være opmærksom på denne historie for at kunne håndhæve politikken. Brugerens opslag viste, at vedkommende skabte opmærksomhed om en forfærdelig historie, og derfor kunne en evaluator med rimelighed konkludere, at opslaget skabte opmærksomhed om den hadefuld retorik, der blev citeret i opslaget.

Meta informerede rådet om, at ingen brugeren anmeldte indholdet i denne sag. Meta anvender maskinlæringsklassificering, der er oplært til automatisk at registrere potentielle overtrædelser af Facebooks fællesskabsregler. I denne sag identificerede to klassifikatorer automatisk opslaget som potentiel hadefuld retorik. Den første klassifikator, der analyserede indholdet, var ikke overbevist om, at indholdet var i strid med fællesskabsreglen. En anden klassifikator vurderede dog, at, på baggrund af en række kontekstbetingede signaler, så kunne opslaget blive delt i vidt omfang og derfor blive set af mange. På grund af en potentielle skade, der kan opstå ved udbredt distribution af hadefuld retorik, sendte Metas system automatisk opslaget til menneskelig gennemgang.

Meta tydeliggjorde i sit svar på rådets spørgsmål, at en menneskelig evaluator med base i Asien og Stillehavsområdet afgjorde, at opslaget var hadefuld retorik og fjernede det fra platformen. Brugeren appellerede og en anden menneskelig evaluator fra Asien og Stillehavsområdet gennemgik indholdet og afgjorde også, at der var tale om hadefuld retorik. Meta bekræftede over for rådet, at ordstyrere ikke registrerer årsagerne til individuelle afgørelser i forbindelse med indhold.

7.Indsendelser fra tredjepart

Tilsynsrådet tog højde for otte offentlige kommentarer i forbindelse med denne sag: fire fra USA og Canada, to fra Europa, én fra Afrika syd for Sahara og én fra Asien og stillehavsområdet. Indsendelserne drejede sig om forskellige temaer, herunder betydningen af det citat, som brugeren baserede titlen på sit kunstværk på, kontekst om brugen af kostskoler i Nordamerika samt den måde, som Metas indholdsstyring påvirker den kunstneriske frihed og ytringsfriheden for indfødte eller oprindelige folk.

Klik her for at læse de indsendte offentlige kommentarer til denne sag.

8.Tilsynsrådets analyse

Rådet belyste spørgsmålet om, hvorvidt dette indhold burde gendannes, fra tre vinkler: Facebooks fællesskabsregler, Metas værdier og virksomhedens ansvar inden for menneskerettighedsområdet.

8.1 Overholdelse af fællesskabsreglerne

Meta er indforstået med, at deres oprindelige afgørelse om at fjerne indholdet var i strid med Facebooks fællesskabsregler og en håndhævelsesfejl. Rådet vurderer, at indholdet i denne sag helt utvetydigt ikke er hadefuld retorik. Indholdet er et tydeligt eksempel på "modtale", hvor der refereres til eller genanvendes hadefuld retorik for at bekæmpe undertrykkelse og diskrimination.

Fællesskabsreglen om hadefuld retorik tillader eksplicit indhold, som indeholder en andens hadefulde retorik for på denne måde at tage afstand fra den eller skabe opmærksomhed om en sag. To separate ordstyrere konkluderede dog alligevel, at opslaget var hadefuld retorik. Meta kunne ikke angive specifikke årsager til, at denne specifikke fejl opstod to gange.

I sagen om nazicitatet (2020-005-FB-UA) bemærkede rådet, at den kontekst, hvori citatet bruges, er vigtig for at forstå betydningen. I den sag var indholdet og citatets betydning, opslagets timing og det land, hvor det blev slået op, samt reaktioner og kommentarer til opslaget, tydelige indikationer på, at brugeren ikke havde til hensigt at lovprise en udpeget hadfigur.

Rådet vurderede, at det ikke var nødvendigt, at brugeren udtrykkeligt angav, at han/hun ønskede at skabe opmærksomhed, for at hensigten og betydningen af dette oplag fremgik tydeligt. Det afbillede kunstværk fortæller historien om, hvad der skete ved Kamloops, og den tilhørende tekst forklarer historiens betydning. Selvom ordene "Kill the Indian" (Slå indianeren ihjel) isoleret set kunne udgøre hadefuld retorik, vil man ved at vurdere indhold i sin helhed tydeligt kunne se, at udtrykket bruges til at skabe opmærksomhed omkring og fordømme had og diskrimination. I indholdet bruges der anførselstegn til at adskille den hadefulde sætning fra titlen, som i sin helhed lød "Kill the Indian/ Save the Man" (Slå indianeren ihjel/Red mennesket). Det burde have fået en evaluator til at stoppe op og undersøge sagen nærmere. Den måde, som brugeren fortalte historien om Kamloops på, og forklarede om wampun-bæltets kulturelle betydning tydeliggjorde, at brugeren identificerede sig med ofrene for diskrimination og vold og ikke med gerningsmændene. Fortællingen er en tydelig fordømmelse af hændelserne ved Kamloops. Det fremgik tydeligt af kommentarerne og reaktionerne på opslaget, at brugerens målgruppe forstod hensigten om at fordømme og skabe opmærksomhed.

Rådet bemærker, at Facebooks interne "Kendte spørgsmål", som udgør en del af vejledningen til ordstyrere, instruerer ordstyrerne i at være på den sikre side i forbindelse med fjernelse af indhold, der indeholder hadefuld retorik, hvis brugerens hensigt ikke fremgår tydeligt. De "Kendte spørgsmål" angiver også, at en tydelig hensigtserklæring ikke altid er tilstrækkelig til at ændre betydningen af et opslag, der udgør hadefuld retorik. Disse interne retningslinjer giver begrænsede instruktioner til ordstyrere om, hvordan de skal skelne mellem forbudt hadefuld retorik og modtale, der citerer hadefuld retorik for at fordømme det eller skabe opmærksomhed omkring det. Så vidt rådet er orienteret findes der ingen retningslinjer for, hvordan man vurderer beviser på hensigt i kunstnerisk indhold, der citerer eller bruger hadefuld retorik, eller i indhold, der diskuterer overtrædelser af menneskerettigheder, hvor denne type indhold er dækket af politiktilladelser.

8.2 Overholdelse af Metas regler

Rådet vurderer, at den oprindelige afgørelse om at fjerne indholdet var i strid med Metas værdier om ytringsfrihed og værdighed og i strid med værdien om sikkerhed. Selvom det er i tråd med Metas værdier om at begrænse spredningen af hadefuld retorik på sine platforme, er rådet bekymrede for, at Metas ordstyringsproces ikke på korrekt vis kan identificere og beskytte folk, der er udsat for marginalisering eller diskrimination, så de kan udtrykke sig via modtale.

Meta har anført sin forpligtelse til at støtte modtale:

Som et fællesskab, en social platform og et samlingspunkt for en fælles menneskelig oplevelse støtter Facebook kritisk modtale ved at håndhæve skrappe indholdspolitikker og ved at samarbejde med lokalsamfund, politiske beslutningstagere, eksperter og "changemakers" for at starte modtale-initiativer over hele verden.

Meta hævder, at ytringsfrihed er virksomhedens vigtigste værdi. Kunst, der forsøger at belyse grusomhederne ved tidligere ugerninger og undervise folk om de vedvarende konsekvenser, er et af de vigtigste og mest effektive udtryk af værdien om ytringsfrihed, særligt i forbindelse med marginaliserede grupper, der udtrykker deres egen kultur og bestræber sig på at sikre, at deres historie bliver hørt. Modtale er ikke blot et udtryk for brug af sin ytringsfrihed. Det er et vigtigt værktøj for dem, der udsættes for hadefuld retorik, som de kan bruge til at beskytte deres værdighed og skubbe tilbage mod undertrykkende, diskriminerende og nedværdigende adfærd. Meta skal sikre, at deres indholdspolitik og praksis for moderering tager højde for og beskytter denne ytringsform.

En bruger, der ønsker at skabe opmærksomhed om grusomheder, men som får at vide, at vedkommendes ord betragtes som hadefuld retorik, opfatter det som et angreb på vedkommendes værdighed. Denne beskyldning, særligt når en bekræftes af Meta ved appel, kan medføre selvcensur.

8.3 Overholdelse af Metas ansvar inden for menneskerettighedsområdet

Rådet konkluderer, at fjernelsen af opslaget var i strid med Metas ansvar som virksomhed inden for menneskerettighedsområdet. Meta har forpligtet sig til at overholde menneskerettighederne under FN’s retningslinjer om menneskerettigheder og erhvervsliv (UNGP'er). Dens virksomhedspolitik om menneskerettigheder angiver, at dette omfatter FN's internationale konvention om borgerlige og politiske rettigheder (ICCPR).

Dette er rådets første sag om kunstnerisk udtryk og den første sag om udtryk, hvor bruger identificerer sig som en indfødt. Det er en af flere sager, som rådet har udvalgt, hvor brugeren forsøger at skabe opmærksomhed omkring alvorlige overtrædelser af menneskerettigheder.

Ytringsfrihed (Artikel 19, ICCPR)

Internationale menneskerettighedsstandarder fremhæver værdien ved at måtte udtrykke sig politisk (Menneskerettighedskomitéen Generel bemærkning 34, para. 38). Omfanget af beskyttelse for denne rettighed er specificeret i Artikel 19, para. 2, i ICCPR, som netop specifikt omtaler udtryk "in the form of art" (i form af kunst). Den internationale konvention om afskaffelse af alle former for racediskrimination (ICERD) angiver desuden beskyttelse mod diskrimination ved håndhævelse af ytringsfriheden (Artikel 5), og komitéen, som har til opgave at overvåge staters overholdelse af reglerne, har understreget vigtigheden af retten til at hjælpe sårbare grupper med at gendanne magtbalancen blandt samfundets komponenter og at tilbyde alternative synspunkter og modsynspunkter i diskussioner (CERD Committee, generel anbefaling 35, para. 29).

Kunst er ofte politisk, og internationale bestemmelser anerkender den unikke og magtfulde rolle, som denne kommunikationstype her i forhold til at udfordre status quo (FN's særlige rapportør inden for kulturelle rettigheder, A/HRC/23/34, paras 3-4). Internettet og sociale medier, navnlig Facebook og Instagram, har en særlig værdi for kunstnere, der ønsker at nå ud til nye og større målgrupper. Deres levebrød kan afhænge af adgangen til sociale platforme, der dominerer internettet.

Retten til ytringsfrihed er en garanti for alle uden diskrimination (Artikel 19, para. 2, ICCPR). Rådet modtog indsendelser om, at indfødte folks rettigheder til fri, tidligere og informeret samtykke, hvor stater implementerer lovgivning eller administrative regler, der påvirker disse fællesskaber, medfører et ansvar for Meta om at rådføre sig hos disse fællesskaber under udvikling af indholdspolitikker (Offentlig bemærkning-10240, Minoritetsrettighedsgruppe; se også FN's deklaration om oprindelige folks rettigheder, Artikel 19). FN's særlige rapportør om menings- og ytringsfrihed har rejst en lignende bekymring i forbindelse med sociale mediers ansvar ( A/HRC/38/35, para. 54).

Indholdet i denne sag vedrører også en række andre rettigheder, herunder at folk, der tilhører nationale, etniske eller sproglige minoriteter, har ret til, sammen med andre medlemmer af deres gruppe, at nyde deres egen kultur (Artikel 27, ICCPR), og har ret til at deltage i kulturliv og nyde kunst (Artikel 15, ICESCR). Det at fremstille et wampun-bælte, der forsøger at optegne og skabe opmærksomhed omkring grusomheder mod menneskerettigheder og eftermælet deraf, er beskyttet af FN's erklæring om menneskerettighedsforkæmpere, Artikel 6(c), samt retten til sandheden om grusomheder ( FN's principper om bekæmpelse af straffrihed). FN's deklaration om oprindelige folks rettigheder anerkender eksplicit, at tvangsfjernelse af børn kan være en voldelig handling og folkemord (Artikel 7, para 2) og yder specifik beskyttelse mod tvungen assimilering og kulturel udslettelse (Artikel 8, para 1).

ICCPR, Artikel 19 kræver, at når en stat indfører restriktioner på ytringsfriheden, skal de opfylde kravene om lovlighed, legitimt formål og nødvendighed og proportionalitet (Artikel 19, para. 3, ICCPR). FN's særlige rapportør om ytringsfrihed har opfordret virksomheder inden for sociale medier til at følge disse principper ved moderering af onlineudtryk og til at være opmærksomme på, at hvis store private virksomheder begynder at regulere udtryk i stort omfang, kan det opstå problemer, særligt i denne kontekst (A/HRC/38/35, paras. 45 og 70). Rådet har implementeret en tredelt test baseret på Artikel 19 i ICCPR i alle sine afgørelser til dato.

I. Lovlighed (reglernes tydelighed og tilgængelighed)

Fællesskabsreglen om hadefuld retorik tillader helt tydeligt indhold, der fordømmer hadefuld retorik, eller som har til formål at skabe opmærksomhed om en sag. Denne komponent i politikken er tilstrækkeligt tydelig og tilgængelig til, at brugeren kan forstå reglerne og handle i henhold til dem ( Generel bemærkning 34, para. 25). Legalitetsreglen kræver også, at regler, der begrænser ytringsfriheden, "yder tilstrækkelig vejledning til de personer, der er beskæftiget med håndhævelsen af dem, for at afklare, hvilke typer udtryk er passende begrænset, og hvilke typer ikke er" ( Ibid.) Det, at to ordstyrere ikke på korrekt vis har kunnet vurdere anvendelsen af politiktilladelser i forbindelse med dette indhold, indikerer, at der kan være behov for yderligere retningslinjer for ordstyrere.

II. Legitimt formål

Enhver statsbegrænsning af ytringsfriheden skal tilstræbe ét af de legitime formål, der er angivet i Artikel 19, para. 3 i ICCPR. I sine indsendelser til rådet har Meta gentagne gange anvendt formål fra denne liste til at retfærdiggøre handlinger, der er udført for at undertrykke ytringsfriheden. Rådet har tidligere anerkendt, at Facebooks fællesskabsregel om hadefuld retorik følger det legitime formål at beskytte andres rettigheder. Disse rettigheder omfatter retten til lighed og ikke-diskrimination, retten til ytringsfrihed og retten til fysisk integritet.

III. Nødvendighed og proportionalitet

Den tydelige fejl i denne sag betyder, at fjernelsen helt tydeligt ikke var nødvendig, hvilket Meta har accepteret. Rådet er bekymret for, om en sådan utvetydig fejl kan indikere dybereliggende problemer med proportionaliteten i Metas automatiske og menneskelig gennemgangsprocesser. Enhver begrænsning af ytringsfriheden bør være passende for at opnå dens beskyttende funktion. Den bør være det mindst indgribende instrument blandt dem, der kan opnå deres beskyttende funktion (Generel bemærkning 34, para. 34). Hvorvidt Metas indholdsstyringssystem opfylder kravene til nødvendighed og proportionalitet afhænger i høj grad af, hvor effektivt det fjerner faktisk hadefuld retorik, samtidig med, at det minimerer antallet af fejlbehæftede registreringer og fjernelser.

Ethvert opslag, der fjernes ved en fejl, er til skade for ytringsfriheden. Rådet er indforstået med, at det er uundgåeligt, at der vil opstå fejl, både for mennesker og maskiner. Hadefuld retorik og svar derpå vil altid være kontekstafhængig, og grænserne er ikke altid tydelige. Dog afspejler typen af fejl og de personer eller fællesskaber, der bærer byrden ved disse fejl, forskellige designvalg, som hele tiden skal vurderes og undersøges. Det kræver yderligere undersøgelse af rodårsagerne til fejlen i denne sag og en mere generel evaluering af, hvor effektivt modtale modereres.

Set i lyset af, hvor vigtig kritisk kunst fra indfødte kunstnere er for bekæmpelse af had og undertrykkelse, forventer rådet, at Meta vil være særligt opmærksomme på risikoen for fejlagtig fjernelse af indholdet i denne sag og lignende indhold på Facebook og Instagram. Det er ikke tilstrækkeligt at evaluere effektiviteten af Metas håndhævelse af Facebooks politik om hadefuld retorik. Et system, der generelt fungerer som det skal, kunne potentielt være dårligt i forbindelse med underkategorier af indhold, hvor forkerte beslutninger har særligt udtalte konsekvenser for menneskerettighederne. Det er muligt, at den type fejl, der opstod i denne sag, er sjældne, men rådet bemærker dog, at medlemmer af marginaliserede grupper har rejst bekymring for omfanget af forkerte fjernelser over flere år. Fejlene i denne sag viser, at det påhviler Meta at vise, at de har udvist rettidig omhu i forbindelse med menneskerettigheder for at sikre, at deres systemer fungerer på en retfærdig måde og ikke forværrer historisk og igangværende undertrykkelse (UNGP'er, Princip 17).

Meta evaluerer regelmæssigt sine håndhævelsessystemer i forhold til hadefuld retorik. Denne evaluering udspecificeres ikke i en vurdering, der specifikt måler Metas evne til at adskille hadefuld retorik og tilladt indhold, der fordømmer hadefuld retorik eller skaber opmærksomhed omkring det.

Metas eksisterende processer omfatter også ad-hoc-mekanismer til identifikation af fejltendenser og undersøgelse af rodårsagerne til disse, men det kræver, at man bruger større indholdsprøver til at måle systemets effektivitet. Rådet spurgte, om Meta specifikt havde vurderer gennemgangssystemernes effektivitet i forhold til præcist at evaluere modtale, der udgør kunstnerisk udtryk, og modtale, der skaber opmærksomhed om overtrædelser af menneskerettigheder. Meta fortalte rådet, at der ikke var udført specifikke undersøgelser om konsekvenserne af forkerte fjernelser med baggrund i kunstnerisk udtryk eller udtryk fra personer af indfødt herkomst.

Meta har informeret rådet om problemer med sådanne vurderinger, herunder manglen på et system til automatisk indsamling af indholdsprøver, der ville være beskyttet af politiktilladelser. Dette skyldtes, at evaluatorer markerer indhold som værende i strid med reglerne eller ikke i strid med reglerne. De behøver ikke angive, om indhold, der ikke er i strid med reglerne, er beskyttet af en politiktilladelse. En prøve på modtale, der passer til denne tilladelse, ville skulle indsamles manuelt.

Selvom rådet blev positivt overraskede over detaljeniveauet i forbindelse med Metas evaluering af effektiviteten i en spørgesession, der blev afholdt efter anmodning fra rådet, er det tydeligt, at der skal investeres mere i vurdering af nøjagtigheden ved håndhævelse af tilladelser til politikken om hadefuld retorik, og at man skal tage ved lære af fejltendenser. Uden yderligere oplysninger om Metas designbeslutninger og effektiviteten af de menneskelige og automatiske systemer er det svært for rådet eller Meta at vurdere proportionaliteten af Metas nuværende tilgang til hadefuld retorik.

I forbindelse med en vurdering af, om det er nødvendigt og proportionelt at bruge de specifikke maskinlæringsværktøjer i denne sag til automatisk at registrere potentiel hadefuld retorik, er det vigtigt at forstå disse værktøjers præcision. Maskinlæringsklassifikatorer omfatter altid en opvejning mellem falske positiver og falske negativer. Jo mere følsom en klassifikator er, jo mere sandsynligt er det, at den identificerer forekomster af hadefuld retorik korrekt, men den er også mere tilbøjelig til at markere materiale, der ikke er hadefuld retorik. Forskellige klassifikatorer og forskelligere modeller varierer i anvendelse og effektivitet i forhold til forskellige opgaver. Til enhver given model kan der anvendes forskellige grænser, der afspejler en bedømmelse af den relative vigtighed ved at undgå forskellige typer fejl. Sandsynligheden for og alvorligheden af fejl bør også danne grundlag for beslutninger om, hvordan man ønsker at anvende en klassifikator, herunder om den kan udføre øjeblikkelige handlinger, eller om den kræver menneskelig godkendelse, samt hvilke sikkerhedsforanstaltninger der findes.

Meta forklarede, at opslaget i denne sag blev sendt til gennemgang af de automatiske systemer, fordi det formentlig havde en stor målgruppe. Denne tilgang kan begrænse spredningen af skadeligt materiale, men det kunne også øge risikoen for, at kunst, der bekæmper had, bliver fjernet ved en fejl. Meta fortalte rådet, at de jævnligt evaluerer graden af falske positiver over tid, målt mod et sæt afgørelser fra ekspertevaluatorer. Meta bemærkede også, at det var muligt at vurdere nøjagtigheden af visse maskinlæringsmodeller, som var relevante i denne sag, og at de gemmer oplysninger om klassifikatorers forudsigelser i mindst 90 dage. Rådet anmodede om oplysninger, man kunne bruge til at evaluere effektiviteten af klassifikatoren, og egnetheden af de grænser, som Meta anvendte i denne sag. Meta informerede rådet om, at det ikke kunne levere disse oplysninger til rådet, fordi de ikke havde tilstrækkelig tid til at forberede dem til os. Meta bemærkede dog, at de overvejer muligheden for at levere disse oplysninger i fremtidige sager.

Menneskelig gennemgang kan give to vigtige sikkerhedsforanstaltninger i forbindelse med Metas klassifikatorer: først blev opslaget fjernet, og derefter blev det fjernet igen efter en appelsag. Fejlene i denne sag indikerer, at Metas retningslinjer for ordstyrere, der vurderer modtale, ikke er tilstrækkelige. Der en forskellige årsager til, at menneskelige ordstyrere to gange i træk når frem til den forkerte afgørelse i denne sag. Rådet er bekymret for, at evaluatorer ikke har tilstrækkelige ressourcer hvad angår tid eller uddannelse til at forhindre den type fejl, vi har set i denne sag, særligt i forbindelse med indhold, der er tilladt i henhold til politiktilladelser (herunder, f.eks. når man fordømmer eller skabe opmærksomhed omkring hadefuld retorik).

I denne sag var begge evaluatorer placeret i Asien og Stillehavsområdet. Meta har ikke kunne informere rådet om, hvorvidt nøjagtighedsraterne var forskellige for ordstyrere, der vurderede potentiel hadefuld retorik, og som ikke befinder sig i det område, hvor indholdet er fra. Rådet bider mærke i kompleksiteten ved at vurdere hadefuld retorik og kompleksiteten ved at forstå lokal og historisk kontekst, særligt i lyset af den mængde indhold, som ordstyrerne skal gennemgå hver dag. Det er tænkeligt, at de evaluatorer, der vurderede indholdet i denne sag, havde mindre erfaring med undertrykkelsen af indfødte folk i Nordamerika. Retningslinjer bør indeholde klare instruktioner om evaluering af indhold i sin helhed, og man bør støtte evaluatorerne til at opnå en mere præcis kontekst i forbindelse med bevisførelse for hensigt og betydning.

Rådet anbefalede, at deres afgørelse i forbindelse med memet med to knapper ( 2021-005-FB-UA), at Meta giver brugere mulighed for ved en appel at angive, at deres indhold falder ind under en af tilladelserne i Facebooks fællesskabsregel om hadefuld retorik. I øjeblikket er det sådan, at når en bruger appellerer en af Metas afgørelser, der går videre til menneskelig gennemgang, så vil evaluatoren ikke blive informeret om, at brugeren har bestridt en tidligere afgørelse, og derfor kender evaluatoren ikke resultatet af den tidligere gennemgang. Selvom Meta har informeret rådet om, at de mener, at disse oplysninger vil skabe en skævhed i forhold til gennemgangen, er rådet interesserede i, hvorvidt disse oplysninger ville øge sandsynligheden for en mere nuanceret beslutningsproces. Dette spørgsmål kunne testes empirisk af Meta. Resultaterne af disse test ville være nyttige ved en vurdering af proportionaliteten af de specifikke formål, som Meta har valgt at implementere.

I henhold til UNGP'er har Meta ansvaret for at udføre rettidig omhu i forhold til menneskerettigheder (Princip 17). Dette bør omfatte identikation af alle bivirkninger ved indholdsmoderering på kunstneriske og politiske udtryk fra indfødte folk til bekæmpelse af diskrimination. Meta bør yderligere identificere, hvordan de vil forhindre, afhjælpe og gøre rede for sit arbejde for at håndtere disse bivirkninger. Rådet er forpligtet til at overvåge Metas arbejde og forventer, at virksomheden prioriterer risici for marginaliserede grupper og kan bevise fortsatte forbedringer.

9.Tilsynsrådets afgørelse

Tilsynsrådet omstøder Metas oprindelige afgørelse om at fjerne indholdet.

10. Rådgivende udtalelse vedrørende politikken

Håndhævelse

1. Give brugere rettidig og præcist varsel om enhver handling, der udføres på det indhold, som appellen drejer sig om. Hvis relevant, herunder i forbindelse med håndhævelsesfejl som her, skal der i underretningen til brugeren fremgå, at handlingen var et resultat af Tilsynsrådets gennemgangsproces. Meta bør dele de brugerbeskeder, der bliver sendt, hvis rådets handlinger påvirker indholdsafgørelser, der appelleres af brugere, for at demonstrere, at de har imødekommet denne anbefaling. Disse handlinger bør udføres i alle sager, som korrigeres på berettigelsesstadiet i rådets proces.

2. Undersøge konsekvenserne ved modificerede tilgange til sekundær gennemgang i forhold til evaluatorpræcision og gennemgang. Særligt anmoder rådet om en vurdering af nøjagtighedsrater, hvis indholdsordstyrere bliver informeret om, at det deltager i en sekundær gennemgang, så de ved, at den oprindelige afgørelse er blevet appelleret. Dette eksperiment bør ideelt set omfatte muligheden for, at brugere kan levere relevant kontekst, der kan hjælpe evaluatorerne i vurderingen af indholdet, i tråd med rådets tidligere anbefalinger. Meta bør dele resultaterne af disse nøjagtighedsvurderinger med rådet og opsummere resultaterne i deres kvartalsvise gennemsigtighedsopdateringer til rådet for at vise, at de har fulgt anbefalingerne.

3. Udføre præcisionsvurderinger med fokus på tilladelser i politikken om hadefuld retorik, der dækker kunstneriske udtryk og udtryk om overtrædelser af menneskerettigheder (f.eks. fordømmelse, skabelse af opmærksomhed, selvrefererende brug og bemyndigende brug). Denne vurdering bør også specifikt vurdere, hvordan en evaluators placering påvirker vedkommendes mulighed for præcist at vurdere hadefuld retorik og modtale fra samme eller forskellige områder. Rådet forstår, at denne analyse kræver udvikling af relevante og præcist mærkede prøver med relevant indhold. Meta bør dele resultaterne af denne vurdering med rådet, herunder hvordan disse resultater vil medføre forbedringer i håndhævelse og politikudvikling, og om der er planer om at udføre jævnlige vurderinger af evaluatorpræcision på disse tilladelser, samt opsummere resultaterne i deres kvartalsvise gennemsigtighedsopdateringer til rådet for at vise, at de har fulgt anbefalingerne.

*Proceduremæssig bemærkning:

Tilsynsrådets afgørelser udarbejdes af paneler bestående af fem medlemmer og skal godkendes af et flertal i rådet. Rådets beslutninger er ikke nødvendigvis udtryk for alle medlemmernes personlige meninger.

I forbindelse med denne sagsafgørelse blev der udført uafhængige undersøgelser på vegne af rådet. Et uafhængigt forskningsinstitut med hovedkontor på Göteborgs Universitet, som har et team med over 50 forskere på seks kontinenter og over 3200 landeeksperter fra hele verden, og Duco Advisers, et rådgivningsfirma inden for geopolitik, tillid og sikkerhed, har ydet ekspertrådgivning om sociopolitisk og kulturel kontekst.

Voltar para Decisões de Casos e Pareceres Consultivos sobre Políticas