Wampum-belte

Sakssammendrag

Merknad: 28. oktober 2021 kunngjorde Facebook at de endrer bedriftsnavnet sitt til Meta. I denne teksten refererer Meta til selskapet, mens Facebook fortsatt refererer til produktet og retningslinjene knyttet til den spesifikke appen.

Tilsynsrådet har omgjort Metas opprinnelige beslutning om å fjerne et Facebook-innlegg fra en urbefolkningskunstner i Nord-Amerika som ble fjernet i henhold til Facebooks standard om hatefulle ytringer. Rådet mente at innholdet dekkes av tillatelser i retningslinjene om hatefulle ytringer, da det var ment å øke bevisstheten rundt historiske forbrytelser mot urfolk i Nord-Amerika.

Om saken

I august 2021 la en Facebook-bruker ut et bilde av et wampumbelte, sammen med en tilhørende tekstbeskrivelse på engelsk. Et wampumbelte er en nordamerikansk urfolkskunstform der skjell veves sammen til bilder for å fortelle en historie eller gjengi en avtale. Dette beltet har en rekke skildringer som brukeren sier var inspirert av «Kamloops-historien», en referanse til oppdagelsen av umerkede graver i mai 2021 ved en tidligere internatskole for urfolksbarn i British Columbia i Canada.

Teksten gjengir kunstverkets tittel – «Kill the Indian/ Save the Man» – og angir brukeren som skaper. Brukeren beskriver bildeserien på beltet slik: «Tyveri av uskyldige, onde som utgir seg for å være frelsere, internatskole/konsentrasjonsleir, venter på oppdagelse, bring hjem barna våre.» I innlegget beskriver brukeren meningen bak kunstverket sitt, historien bak wampumbelter og hvordan disse fungerer som læremiddel. Brukeren opplyser at beltet ikke var enkelt å lage og at det var emosjonelt å fortelle historien om hva som skjedde på Kamloops. Brukeren er lei seg for den eventuelle smerten kunsten kan ha forårsaket for de overlevende fra Kamloops og bemerker at «det eneste formålet var å skape bevissthet rundt denne grufulle historien.»

Metas automatiserte systemer identifiserte innholdet som et potensielt brudd på Facebooks standard om hatefulle ytringer dagen etter at det ble lagt ut. I en menneskelig vurdering ble innholdet ansett som krenkende og derfor fjernet det samme dag. Brukeren anket denne avgjørelsen til Meta og ba om en ny vurdering, men også her ble innholdet vurdert som krenkende. Da innlegget ble fjernet hadde det blitt sett over 4000 ganger og delt over 50 ganger. Ingen brukere rapporterte innholdet.

Som et resultat av at rådet valgte ut denne saken, identifiserte Meta at innlegget hadde blitt fjernet etter en «håndhevelsesfeil», og de gjenopprettet innholdet 27. august. Meta varslet imidlertid ikke brukeren om gjenopprettingen før 30. september, to dager etter at rådet ba Meta om å få se innholdet i meldingene som ble sendt til brukeren. Meta forklarte at de sene meldingene var et resultat av en menneskelig feil.

Viktige funn

Meta er enig i at den opprinnelige beslutningen om å fjerne dette innholdet var i strid med Facebooks standarder og en «håndhevelsesfeil». Rådet anser dette innholdet som et tydelig eksempel på en «motytring», der noen refererer til hatytringer i kamp mot undertrykkelse og diskriminering.

Introduksjonen til Facebooks retningslinjer for hatytringer forklarer at motytringer er tillatt når brukerens hensikt er tydelig indikert. Det fremgår av innholdet i innlegget at det ikke er snakk om hatefulle ytringer. Kunstverket forteller historien om hva som skjedde på Kamloops, og den medfølgende fortellingen forklarer betydningen. Selv om ordene «Kill the Indian» isolert sett kan utgjøre en hatytring, trekker denne frasen oppmerksomheten mot og fordømmer spesifikke uttrykk for hat og diskriminering når man ser den i kontekst.

Rådet minner om sin avgjørelse 2020-005-FB-UA i en sak som involverer et sitat fra en nazistisk tjenestemann. Denne saken gir lignende innsikt i hvordan hensikten bak et innlegg kan vurderes gjennom andre indikatorer enn direkte uttalelser, som f.eks. innholdet i og betydningen av et sitat, tidspunktet for innlegget, landet innlegget stammer fra og eventuelle reaksjoner og kommentarer på innlegget.

Rådet fant at det i denne saken ikke var nødvendig av brukeren å opplyse uttrykkelig om at innlegget var ment bevisstgjørende og var en motytring. Rådet merket seg interne «kjente spørsmål» til moderatorer om at en klar intensjonserklæring ikke alltid vil være tilstrekkelig til å endre betydningen av et innlegg som utgjør en hatytring. Moderatorer forventes å trekke slutninger ut fra innholdet for å vurdere hensikten bak, og ikke bare stole på eksplisitte utsagn.

To separate moderatorer konkluderte med at dette innlegget utgjorde hatytringer. Meta kunne ikke oppgi noen spesifikk årsak til at denne feilen skjedde to ganger.

Tilsynsrådets vedtak

Tilsynsrådet omgjør Metas opprinnelige beslutning om å fjerne innholdet.

I en rådgivende uttalelse om retningslinjer anbefaler rådet at Meta gjør følgende:

• Gir brukerne rettidig og nøyaktig varsel om ethvert vedtak de gjør rundt innholdet anken gjelder. Der det er aktuelt, inkludert ved tilfeller av håndhevingsfeil som dette, bør varselet til brukeren erkjenne at vedtaket var et resultat av tilsynsrådets vurderingsprosess.
• Studerer innvirkningen på nøyaktigheten av en vurdering når innholdsmoderatorer varsles om at de utfører en sekundær vurdering, slik at de vet at den første avgjørelsen ble bestridt.
• Gjennomfører en sjekk av nøyaktigheten til en vurdering, med fokus på retningslinjene for hatytringer, som dekker kunstneriske uttrykk og uttrykk om brudd på menneskerettighetene (f.eks. fordømmelse, bevisstgjøring, selvrefererende bruk, styrkende bruk). Denne kontrollen bør også spesifikt undersøke hvorvidt hjemstedet til moderatoren påvirker evnen til nøyaktig å vurdere hatytringer og motytringer fra samme eller et vidt forskjellig område. Meta bør dele resultatene av slike kontroller med rådet, inkludert hvordan resultatene vil medføre forbedringer av håndheving og videreutviklingen av retningslinjer, samt om de planlegger å gjennomføre regelmessige vurderinger av moderatorene rundt de spesifikke tillatelsene. Rådet oppfordrer også Meta til å dele et sammendrag av resultatene av disse kontrollene offentlig i de kvartalsvise åpenhetsoppdateringene til rådet for å vise at de har fulgt opp denne anbefalingen.

*Sakssammendrag gir en oversikt over saken og medfører ingen presedens.

Fullstendig saksavgjørelse

1. Sammendrag av avgjørelsen

Tilsynsrådet omgjør Metas opprinnelige beslutning om å fjerne et innlegg fra en urbefolkningskunstner i Nord-Amerika som inneholdt et kunstbilde med tilhørende tittel, der det siteres et historisk eksempel på hatytringer. Meta var enig i at innlegget faller inn under en av unntakene i Facebooks standard om hatefulle ytringer, da det åpenbart er ment å skulle øke bevisstheten rundt historiske forbrytelser mot urfolk i Nord-Amerika.

2. Saksbeskrivelse

Tidlig i august 2021 la en Facebook-bruker ut et bilde av et wampumbelte, sammen med en tilhørende tekstbeskrivelse på engelsk. Et wampumbelte er en nordamerikansk urfolkskunstform der skjell veves sammen til bilder for å fortelle en historie eller gjengi en avtale. Dette beltet har en rekke skildringer som brukeren sier var inspirert av «Kamloops-historien», en referanse til oppdagelsen av umerkede graver i mai 2021 ved en tidligere internatskole for urfolksbarn i British Columbia i Canada.

Teksten gjengir kunstverkets tittel – «Kill the Indian/ Save the Man» – og angir brukeren som skaper. Brukeren deler deretter en liste over setninger som tilsvarer bildeserien på beltet: «Tyveri av uskyldige, onde som utgir seg for å være frelsere, internatskole/konsentrasjonsleir, venter på oppdagelse, bring hjem barna våre.» I innlegget beskriver brukeren meningen bak kunstverket sitt, historien bak wampumbelter og hvordan disse fungerer som læremiddel. Brukeren opplyser at beltet ikke var enkelt å lage og at det var svært emosjonelt å fortelle historien om hva som skjedde på Kamloops. Brukeren fortsetter med å si at historien ikke kan skjules for offentligheten igjen og håper at beltet vil bidra til å forhindre at det skjer. Brukeren avslutter innlegget sitt med å be om unnskyldning for den eventuelle smerten kunstverket har forårsaket for de overlevende fra internatskolesystemet og sier at «det eneste formålet var å skape bevissthet rundt denne grufulle historien.»

Metas automatiserte systemer identifiserte innholdet som potensielt i strid med Facebooks standard om hatefulle ytringer dagen etter at det ble lagt ut. I en menneskelig vurdering ble innholdet ansett som krenkende og derfor fjernet det samme dag. Brukeren anket denne avgjørelsen til Meta og ba om en ny vurdering, men også her ble innholdet vurdert som krenkende. Da innlegget ble fjernet hadde det blitt sett over 4000 ganger og delt over 50 ganger. Ingen brukere rapporterte innholdet. Som et resultat av at rådet valgte ut denne saken, identifiserte Meta at innlegget hadde blitt fjernet etter en «håndhevelsesfeil», og de gjenopprettet innholdet 27. august. Meta varslet imidlertid ikke brukeren om gjenopprettingen før 30. september, to dager etter at rådet ba Meta om å få se innholdet i meldingene som ble sendt til brukeren. Meta forklarte at de sene meldingene var et resultat av en menneskelig feil. Meldingen i seg selv varslet ikke brukeren om at innholdet ble gjenopprettet som følge av klagen til rådet og rådets beslutning i denne saken.

En offentlig kommentar fra Association on American Indian Affairs (offentlig kommentar 10208) påpeker at sitatet som ble brukt som tittel på kunstverket stammer fra Richard Henry Pratt, en offiser i hæren som startet den første føderale indiske internatskolen i USA. Utsagnet oppsummerte retningslinjene bak opprettelsen av internatskoler som med tvang forsøkte å «sivilisere» de innfødte og «utrydde alle rester av indiansk kultur». Lignende retningslinjer fantes i Canada og har blitt ansett som et kulturelt folkemord av Truth and Reconciliation Commission of Canada.

Brukerens referanse til det som skjedde ved det såkalte «Kamloops» er en referanse til Kamloops Indian Residential School, en tidligere internatskole for First Nations-barn i British Columbia i Canada. I mai 2021 kunngjorde ledere av Tk'emlúps te Secwépemc First Nation at det var oppdaget umerkede graver i Kamloops. Myndighetene har bekreftet at det trolig er 200 gravplasser i området.

Den canadiske regjeringen anslår at minimum 150 000 urbefolkningsbarn gikk gjennom internatskolesystemet før den siste skolen ble nedlagt i 1997. Urfolksbarn ble ofte fjernet fra familiene sine med tvang og ble forbudt å uttrykke noen som helst aspekter ved urfolkskulturen. Skolene brukte grov fysisk avstraffelse, og de ansatte begikk eller tolererte seksuelle overgrep og alvorlig vold mot mange elever. Elevene var underernærte, skolene var dårlig oppvarmet og rengjort, og mange barn døde av tuberkulose og andre sykdommer med minimal legehjelp. Truth and Reconciliation Commission konkluderte med at minst 4100 elever døde mens de gikk på skolene, mange av feilbehandling eller omsorgssvikt, andre av sykdom og ulykker.

3. Myndighet og omfang

Rådet er bemyndiget til å vurdere Metas avgjørelse etter en klage fra brukeren som har fått innhold fjernet (vedtektenes artikkel 2, del 1; forskriftenes artikkel 3, del 1). Rådet kan opprettholde eller omgjøre Metas vedtak, og beslutningen er bindende for selskapet (artikkel 4 i forskriftene; artikkel 3, del 5). Rådets beslutninger kan omfatte rådgivende uttalelser om retningslinjer og ikke-bindende anbefalinger som Meta må svare på (forskriftenes artikkel 4; artikkel 3, del 4).

Når rådet velger ut saker som denne, der Meta i ettertid godtar at det har blitt gjort en feil, går rådet gjennom den opprinnelige beslutningen for å bidra til å øke forståelsen av hvorfor feilen har oppstått, og de kan komme med observasjoner eller anbefalinger for å bidra til å redusere antall feil i framtiden og sørge for bedre prosesser. Etter rådets avgjørelse i saken om brystkreftsymptomer og nakenhet ( 2020-004-IG-UA, del 3), vedtok rådet en prosess som gjør det mulig for Meta å identifisere eventuelle håndhevingsfeil før en sak sendes til et panel (se: åpenhetsrapporter på side 30). Det er lite fruktbart at Meta i disse tilfellene fokuserer begrunnelsene sine utelukkende på den endrede avgjørelsen og forklarer hva som burde ha skjedd med brukerens innhold, samtidig som de ber rådet om å trekke fram dette som selskapets «endelige beslutning». I tillegg til å forklare hvorfor avgjørelsen som brukeren klaget på var feil, foreslår rådet at Meta forklarer hvordan feilen har oppstått og hvorfor selskapets interne vurderingsprosess ikke har klart å identifisere eller korrigere den. Rådet vil fortsatt basere sine vurderinger på avgjørelsen som en bruker har klaget på.

4. Relevante standarder

Tilsynsrådet vurderte følgende standarder i sin avgjørelse:

I.Facebooks standarder:

Facebooks standarder definerer hatefulle ytringer som «direkte angrep på andre mennesker på bakgrunn av det vi kaller beskyttede karakteristikker – rase, etnisitet, nasjonalitet, religiøs tilhørighet, seksuell legning, kaste, kjønn, kjønnsidentitet, alvorlig sykdom eller funksjonshemning.» I henhold til «nivå 1» dekker forbudt innhold «voldelige ytringer eller støtte til vold i skriftlig eller visuell form». Standarden har også unntak for å skille ut innhold som ikke er krenkende:

Vi er klar over at folk noen ganger deler innhold som inkluderer en annen persons hatefulle ytring for å fordømme den eller øke oppmerksomheten rundt den. I andre tilfeller kan ytringer som ellers strider mot standardene våre brukes som selvreferanse eller styrkende og inspirerende. Retningslinjene våre er utformet for å gi rom for disse ytringstypene, men vi krever at folk klart må uttrykke sin hensikt med ytringen. Hvis hensikten er uklar, kan vi fjerne innhold.

II. Metas verdier:

Metas verdier er angitt i innledningen til Facebooks standarder. Verdien «stemme» er beskrevet som «overordnet»:

Målet for standardene har alltid vært å skape et sted hvor man kan uttrykke seg og å gi folk en stemme. […] Vi vil at folk skal kunne snakke åpent om saker som er viktige for dem, selv om noen kan være uenige eller finner dem støtende.

Meta begrenser «stemme» for å oppfylle fire verdier, og to av disse er relevante her:

«Sikkerhet»: Vi ønsker at Facebook skal være et trygt sted. Truende ytringer kan potensielt skremme, ekskludere eller stilne andre og er ikke tillatt på Facebook.

«Verdighet»: Vi mener at alle mennesker er likeverdige og har like rettigheter. Vi forventer at folk respekterer andres verdighet og ikke trakasserer eller nedverdiger dem.

III. Standarder for menneskerettigheter:

FNs veiledende prinsipper for næringsliv og menneskerettigheter (UNGP-ene), ble godkjent av FNs menneskerettighetsråd i 2011 og fastsatte et frivillig rammeverk for private bedrifters menneskerettighetsansvar. I 2021 publiserte Meta sine bedriftsretningslinjer for menneskerettigheter, der selskapet på nytt forpliktet seg til å respektere menneskerettighetene i henhold til UNGP-ene. Rådets analyse av Metas menneskerettighetsansvar i denne saken baserte seg på følgende menneskerettighetsstandarder:

• Ytringsfrihet: Artikkel 19, FNs konvensjon om sivile og politiske rettigheter ( ICCPR) generell kommentar nr. 34, menneskerettighetskomiteen 2011; artikkel 5, Den internasjonale konvensjonen om eliminering av alle former for rasediskriminering (ICERD); rapport fra FNs spesialrapportør om hatefulle ytringer, A/74/486, 2019; rapport fra FNs spesialrapportør om moderering av innhold på Internett, A/HRC/38/35, 2018.
• Likestilling og ikke-diskriminering: Artikkel 2, § 1 og artikkel 26 (ICCPR); artikkel 2, ICERD; Generell anbefaling 35, Komiteen for eliminering av rasediskriminering, 2013.
• Kulturelle rettigheter: Artikkel 27 i ICCPR; artikkel 15 i den internasjonale konvensjonen om økonomiske, sosiale og kulturelle rettigheter (ICESCR); FNs spesialrapportør for kulturelle rettigheter, rapport om kunstnerisk frihet og kreativitet, A/HRC/23/34, 2013.
• Urfolks rettigheter: FNs erklæring om urfolks rettigheter, artikkel 7, § 2; artikkel 8, § 1, og artikkel 19.

5. Uttalelse fra brukeren

Brukeren uttalte i sin anke til rådet at innlegget viste et tradisjonelt kunstverk som dokumenterte en historie, og at det ikke hadde noe med hatefulle ytringer å gjøre. Brukeren uttalte videre at denne historien «trenger å bli fortalt» og at Metas fjerning av innlegget «er sensur».

6. Forklaring av Metas avgjørelse

Meta fortalte rådet at uttrykket «Kill the Indian» utgjorde et nivå 1-angrep i henhold til Facebooks standard om hatefulle ytringer, som forbyr «voldelige ytringer» rettet mot mennesker på grunnlag av en beskyttet egenskap, inkludert rase eller etnisitet. Meta erkjente imidlertid at fjerningen av innholdet var feil, fordi retningslinjene tillater deling av andres hatytringer for å «fordømme dem eller øke bevisstheten rundt dem». Meta bemerket at brukeren uttalte i innlegget sitt at formålet var å skape bevissthet rundt den forferdelige historien om det som skjedde ved Kamloops.

Meta bemerket at uttrykket «Kill the Indian/Save the Man» oppsto ut fra den tvungne integreringen av barn fra urbefolkningen. Ved å fokusere på Kamloops-historien, skapte brukeren også bevissthet rundt tvungen integrering via internatskoler. Som svar på et spørsmål fra rådet, gjorde Meta det klart at en innholdsmoderator ikke trenger å kjenne til denne historien for å kunne håndheve retningslinjene på riktig måte. I innlegget uttalte brukeren at meningen var å skape bevissthet rundt en forferdelig historie, og derfor kunne en moderator med rimelighet kunne konkludere med at innlegget var ment å skulle øke bevisstheten rundt de siterte hatytringene.

Meta informerte rådet om at ingen brukere hadde rapportert innholdet i denne saken. Meta har maskinlæringsbaserte klassifiseringsverktøy som er opplært til å oppdage potensielle brudd på Facebooks standarder automatisk. I dette tilfellet flagget to klassifiseringsverktøy automatisk innlegget som potensielt hatefulle ytringer. Det første klassifiseringsverktøyet som analyserte innholdet, mente det var usikkert om innlegget brøt med standarden. Et annet klassifiseringsverktøy fastslo imidlertid, på grunnlag av en rekke kontekstuelle signaler, at innlegget kunne bli delt og sett av mange. Gitt den potensielle skaden som kan oppstå fra en utbredt distribusjon av hatytringer, sendte Metas system automatisk innlegget til en menneskelig vurdering.

Meta uttalte som svar på spørsmål fra tilsynsrådet at en moderator basert i Asia-Stillehavsregionen fastslo at innlegget inneholdt hatefulle ytringer og fjernet det fra plattformen. Brukeren anket, og en ny moderator i Asia-Stillehavsregionen vurderte innholdet og fastslo også at det inneholdt hatefulle ytringer. Meta bekreftet overfor rådet at moderatorene ikke protokollfører noen begrunnelse for individuelle innholdsbeslutninger.

7.Kommentarer fra tredjeparter

Tilsynsrådet vurderte åtte offentlige kommentarer knyttet til denne saken: fire fra USA og Canada, to fra Europa, en fra Afrika sør for Sahara og en fra Asia-Stillehavet og Oseania. Innspillene tok for seg temaer som blant annet betydningen av sitatet brukeren baserte tittelen på kunstverket sitt på, kontekst om bruken av internatskoler i Nord-Amerika og hvordan Metas innholdsmoderering påvirker den kunstneriske friheten og ytringsrettighetene til mennesker med urbefolkningsidentitet eller -opprinnelse.

Du kan lese de offentlige kommentarene som er sendt inn angående denne saken ved å trykke her.

8.Tilsynsrådets analyse

Rådet så på spørsmålet om dette innholdet skulle gjenopprettes via tre perspektiver: Facebooks standarder, Metas verdier og selskapets menneskerettighetsansvar.

8.1 Samsvar med Facebooks standarder

Meta sa seg enig i at den opprinnelige beslutningen om å fjerne dette innholdet var i strid med Facebooks standarder og var en «håndhevelsesfeil». Rådet finner at innholdet i denne saken entydig ikke utgjør hatefulle ytringer. Dette innholdet er et tydelig eksempel på en «motytring», der hatytringer refereres til eller brukes annerledes i kampen mot undertrykkelse og diskriminering.

Standarden om hatefulle ytringer tillater eksplisitt «innhold som inkluderer andres hatytringer for å fordømme dem eller øke bevisstheten rundt dem». To separate moderatorer konkluderte likevel med at dette innlegget inneholdt hatytringer. Meta kunne ikke oppgi de spesifikke årsakene til at denne konkrete feilen skjedde to ganger.

I nazisitat-saken ( 2020-005-FB-UA) bemerket rådet at konteksten et sitat brukes i er viktig for å forstå betydningen av det. I den saken var innholdet, betydningen av sitatet, tidspunktet for innlegget, landet hvor det ble lagt ut og reaksjonene og kommentarene til innlegget klare indikasjoner på at brukeren ikke hadde til hensikt å hylle en hatfigur.

Rådet finner at det ikke var nødvendig av brukeren å oppgi uttrykkelig at innlegget var ment bevisstgjørende for at intensjonen og meningen bak innlegget skulle være tydelig. Det avbildede kunstverket forteller historien om hva som skjedde på Kamloops, og den medfølgende fortellingen forklarer betydningen. Selv om ordene «Kill the Indian» isolert sett kan utgjøre en hatytring, viser en vurdering av innholdet som helhet med all mulig tydelighet at uttrykket brukes til å øke bevisstheten om og fordømme hat og diskriminering. Innholdet brukte anførselstegn for å skille mellom den hatefulle setningen i tittelen, som i sin helhet var: «Kill the Indian / Save the Man». Dette burde ha gitt moderatoren et hint om å se dypere. Måten brukeren fortalte Kamloops-historien og forklarte den kulturelle betydningen av wampumbeltet på, gjorde det klart at brukeren identifiserte seg med ofrene for diskriminering og vold, ikke med gjerningspersonene. Fortellingen fordømte utvilsomt hendelsene som ble avdekket på Kamloops. Det var tydelig ut fra kommentarene og reaksjonene på innlegget at denne hensikten om å fordømme og øke bevisstheten ble forstått av publikum.

Rådet bemerker at Facebooks interne «kjente spørsmål», som utgjør en del av veiledningen til moderatorene, instruerer dem til å velge den tryggeste løsningen når det gjelder å fjerne innhold med hatytringer der brukerens hensikt ikke er tydelig. De kjente spørsmålene sier også at en klar intensjonserklæring ikke alltid vil være tilstrekkelig til å endre betydningen av et innlegg med hatytringer. Denne interne veiledningen gir begrensede instruksjoner om hvordan man på riktig måte kan skille forbudte hatytringer fra motytringer som siterer hatytringer for å fordømme dem eller øke bevisstheten rundt dem. Så vidt rådet er kjent med, finnes det ingen veiledning om hvordan man kan vurdere bevis på hensikten bak et sitat i kunstnerisk kontekst eller bruk av hatytringer, eller i innhold som diskuterer brudd på menneskerettigheter, der slikt innhold dekkes av unntak fra retningslinjene.

8.2 Overholdelse av Metas verdier

Rådet finner at den opprinnelige beslutningen om å fjerne dette innholdet var i strid med Meta-verdiene «stemme» og «verdighet» og heller ikke tjente verdien «sikkerhet». Selv om det er i samsvar med Metas verdier å begrense spredningen av hatytringer på selskapets plattformer, er rådet bekymret for at Metas modereringsprosesser ikke er egnet til å identifisere og beskytte personer som opplever marginalisering eller diskriminering, slik at de kan få uttrykt seg gjennom motytringer.

Meta har erklært sin forpliktelse til å støtte motytringer:

Som en sosial plattform og et fellesskap for alle slags mennesker, støtter Facebook kritiske motytringer ved å håndheve solide innholdsretningslinjer og samarbeide med lokalsamfunn, beslutningstakere, eksperter og hjelpeorganisasjoner for å slippe til motytringsinitiativer fra hele verden.

Meta hevder at «stemme» er selskapets viktigste verdi. Kunst som forsøker å belyse tidligere tiders grusomheter og fortelle folk om den varige innvirkningen disse hendelsene har hatt, er et av de viktigste og mest kraftfulle uttrykkene for verdien «stemme». Dette gjelder spesielt for marginaliserte grupper som uttrykker sin egen kultur og streber etter at deres egen historie skal bli hørt. Motytringer er ikke bare et uttrykk for «stemme», men også et sentralt verktøy for at målene for hatytringer kan beskytte sin egen verdighet og slå tilbake mot undertrykkende, diskriminerende og nedverdigende oppførsel. Meta må sørge for at innholdsretningslinjer og modereringsrutiner tar hensyn til og beskytter denne formen for uttrykk.

Når brukere som vil øke bevisstheten rundt massive overgrep blir fortalt at de driver med hatytringer, utgjør det en krenkelse av deres verdighet. Slike anklager, spesielt når de bekreftes av Meta etter en anke, kan føre til selvsensur.

8.3 Overholdelse av Metas menneskerettighetsansvar

Rådet konkluderer med at fjerningen av dette innlegget er i strid med Metas menneskerettighetsansvar som virksomhet. Meta har forpliktet seg til å respektere menneskerettighetene i henhold til FNs veiledende prinsipper for næringsliv og menneskerettigheter (UNGP-ene). Selskapets retningslinjer for menneskerettigheter sier at dette inkluderer Den internasjonale konvensjonen om sivile og politiske rettigheter (ICCPR).

Dette er rådets første sak som gjelder kunstneriske ytringer, og det er også deres første sak om ytringer der brukeren selv identifiserer seg som medlem av en urbefolkning. Det er en av flere saker rådet har valgt ut hvor brukeren ønsket å gjøre andre oppmerksom på alvorlige menneskerettighetsbrudd.

Ytringsfrihet (artikkel 19 i ICCPR)

Internasjonale menneskerettighetsstandarder understreker verdien av politiske uttrykk (Menneskerettighetskomiteen generell kommentar 34, § 38). Beskyttelsesomfanget for denne retten er spesifisert i artikkel 19, § 2 i ICCPR, som spesielt omtaler uttrykk «i form av kunst». Den internasjonale konvensjonen om avskaffelse av alle former for rasediskriminering (ICERD) gir også beskyttelse mot diskriminering ved utøvelse av retten til ytringsfrihet (artikkel 5). Komiteen som har til oppgave å overvåke landenes overholdelse av konvensjonen har understreket viktigheten av retten til å hjelpe «utsatte grupper med å gjenopprette maktbalansen mellom samfunnets komponenter og godta «alternative synspunkter og motargumenter» i diskusjoner (CERD-komiteen, generell anbefaling 35, § 29).

Kunst er ofte politisk, og internasjonale standarder anerkjenner den unike og mektige rollen denne formen for kommunikasjon har når det gjelder å utfordre status quo (FNs spesialrapportør for kulturelle rettigheter, A/HRC/23/34, §§ 3-4). Internett, og spesielt sosiale medieplattformer som Facebook og Instagram, har en spesiell verdi for artister som ønsker å nå et nytt og større publikum. Livsgrunnlaget deres kan være avhengig av tilgang til sosiale plattformer som dominerer Internett.

Retten til ytringsfrihet er garantert for alle mennesker, uten unntak (artikkel 19, § 2, ICCPR). Rådet mottok innspill om at urbefolkningenes rettigheter til fritt, forhåndsgitt og velinformert samtykke når et land vedtar juridiske eller administrative tiltak som påvirker dem, innebærer at Meta har et ansvar for å rådføre seg med disse samfunnene når de utvikler retningslinjer for innhold (offentlig kommentar 10240, Minority Rights Group; se også FNs erklæring om urfolks rettigheter, artikkel 19). FNs spesialrapportør for menings- og ytringsfrihet har meldt en lignende bekymring i sammenheng med sosiale medieplattformers ansvar ( A/HRC/38/35, § 54).

Innholdet i denne saken involverer også en rekke andre rettigheter. Disse omfatter retten personer som tilhører nasjonale, etniske og språklige minoriteter har til å leve ut, i fellesskap med andre medlemmer av gruppen sin, sin egen kultur (artikkel 27, ICCPR) og retten til å delta i kulturlivet og nyte kunst (artikkel 15, ICESCR). Kunsten å lage et wampumbelte som forsøkte å bevisstgjøre overgrep mot menneskerettighetene og fortelle om en arv er beskyttet i henhold til FN-erklæringen om menneskerettighetsforkjempere, artikkel 6(c), samt retten til å fortelle sannheten om grusomheter og overgrep, som er angitt i (FNs prinsipper for å bekjempe straffefrihet). FN-erklæringen om urfolks rettigheter anerkjenner uttrykkelig at tvangsfjerning av barn kan være en voldshandling og folkemord (artikkel 7, § 2) og gir spesifikk beskyttelse mot tvungen integrering og kulturell ødeleggelse (artikkel 8 , § 1).

ICCPR-artikkel 19 krever at der restriksjoner av ytringer pålegges av en stat, må de oppfylle kravene til lovlighet, legitimt formål, nødvendighet og proporsjonalitet (artikkel 19, § 3 i ICCPR). FNs spesialrapportør for ytringsfrihet har oppfordret sosiale medieselskaper til å la seg styre av disse prinsippene når de modererer uttrykk på nett, med tanke på at reguleringer av ytringsfriheten i stor skala fra private selskaper kan gi opphav til bekymringer som er spesifikke for nettopp denne konteksten (A/HRC/38/ 35, §§ 45 og 70). Rådet har brukt den tredelte testen basert på artikkel 19 i ICCPR i alle sine beslutninger til dags dato.

I. Lovlighet (tydelige og tilgjengelige regler)

Standarden om hatefulle ytringer tillater uttrykkelig innhold som fordømmer hatytringer eller øker bevisstheten rundt en sak. Denne komponenten i retningslinjene er tydelig og tilgjengelig nok til at brukeren kan forstå reglene og handle deretter (generell kommentar 34, § 25). Lovlighetsstandarden krever også at regler som begrenser uttrykk må «gi tilstrekkelig veiledning til de som blir gjenstand for dem for å gjøre dem i stand til å fastslå hva slags uttrykk som er ulovlige og hvilke som ikke er det» (samme kilde.) At to moderatorer ikke har klart å vurdere tillatelser som er angitt i retningslinjene angående dette innholdet, indikerer at det kan være nødvendig med mer intern veiledning til moderatorene.

II. Legitime mål

Enhver statlig begrensning av ytringsfriheten må følge et av de legitime målene som er angitt i artikkel 19, § 3 i ICCPR. I framlegg til rådet har Meta rutinemessig påberopt seg mål fra denne listen når de rettferdiggjør tiltak de har tatt for å undertrykke ytringer. Rådet har tidligere anerkjent at Facebooks standard om hatefulle ytringer har som legitimt mål å beskytte andres rettigheter. Disse rettighetene omfatter retten til likhet, frihet fra diskriminering, ytringsfrihet og retten til fysisk integritet.

III. Nødvendighet og proporsjonalitet

Den åpenbare feilen i denne saken gjør at fjerningen åpenbart ikke var nødvendig, noe Meta har akseptert. Rådet er bekymret for at en slik åpenbar feil kan tyde på dypere proporsjonalitetsproblemer i Metas automatiserte og menneskelige vurderingsprosesser. Enhver begrensning av ytringsfriheten skal være hensiktsmessig for å oppnå sin beskyttende funksjon og skal være det minst mulig påtrengende tiltaket for å oppnå den beskyttende funksjonen (generell kommentar 34, § 34). Hvorvidt Metas innholdsmodereringssystem oppfyller kravene til nødvendighet og proporsjonalitet avhenger i stor grad av hvor effektivt systemet er for å fjerne reellehatefulle ytringer, samtidig som antallet feilregistreringer og -fjerninger minimeres.

Hvert innlegg som fjernes feilaktig, skader ytringsfriheten. Rådet forstår at feil er uunngåelige, både for mennesker og maskiner. Hatefulle ytringer og svar på dem vil alltid være noe kontekstspesifikt, og grensene er ikke alltid klare. Imidlertid reflekterer feiltypene, og i siste instans de menneskene eller samfunnene som må bære byrden av disse feilene, systemiske valg som hele tiden må gås etter i sømmene. Det kreves flere undersøkelser for å finne de bakenforliggende årsakene til feilen i dette tilfellet, og en bredere evaluering av hvor effektivt motytringer modereres.

Det er viktig at kritisk kunst fra urfolkskunstnere får sjansen til å bidra til å motvirke hat og undertrykkelse, så tilsynsrådet forventer at Meta er spesielt oppmerksomme på muligheten for urettmessig fjerning av innhold som det i denne saken fra Facebook og Instagram. Det er ikke tilstrekkelig å evaluere hvor god Metas håndhevelse av Facebooks retningslinjer om hatefulle ytringer er på generelt grunnlag. Et system som i gjennomsnitt gir gode resultater, kan potensielt fungere relativt svakt på underkategorier av innhold der uriktige beslutninger har en spesielt stor innvirkning på menneskerettighetene. Det er mulig at feiltypene som oppsto i dette tilfellet er sjeldne. Rådet bemerker imidlertid at medlemmer av marginaliserte grupper i flere år har meldt bekymringer om frekvensen og virkningen av falske positive fjerninger. Feilene i denne saken viser at Meta har et ansvar for å vise at de kjenner og bruker menneskerettighetene godt for å sikre at systemene fungerer rettferdig og ikke forverrer undertrykkelse, både når det gjelder fortiden og nåtiden (UNGP-ene, prinsipp 17).

Meta evaluerer rutinemessig nøyaktigheten til håndhevelsessystemene sine rundt hatefulle ytringer. Disse vurderingene er ikke delt inn i nøyaktighetsmålinger av Metas kapasitet til å skille hatytringer fra tillatt innhold som fordømmer hatytringer eller øker bevissthet.

Metas eksisterende prosesser inkluderer også ad-hoc-mekanismer for å identifisere feiltrender og undersøke de bakenforliggende årsakene til dem, men det kreves et stort utvalg av innhold for å kunne måle systemytelsen. Rådet spurte Meta om de spesifikt har vurdert ytelsen til vurderingssystemene sine når det gjelder nøyaktige evalueringer av motytringer som utgjør kunstneriske uttrykk og motytringer som øker bevisstheten om menneskerettighetsbrudd. Meta fortalte rådet at de ikke hadde foretatt spesifikke analyser på virkningen av falske positive fjerninger av kunstneriske uttrykk eller av uttalelser fra mennesker med urbefolkningsidentitet eller -opprinnelse.

Meta informerte rådet om hindringer som gjør det utfordrende å starte slike analyser, blant annet at det mangler et system for å automatisere innhenting av nok innhold som dekker unntak fra retningslinjene. Dette skyldes at moderatorene merker innhold som krenkende eller ikke uten å være pålagt å angi at innholdet eventuelt gjelder unntak som er angitt i retningslinjene. Et utvalg motytringer som passer innenfor disse tillatelsene, må da settes sammen manuelt.

Rådet ser positivt på detaljnivået som ble framvist rundt hvordan Meta evaluerer ytelsen under en spørrerunde som ble arrangert på rådets anmodning. Likevel er det tydelig at det er behov for større innsats når det gjelder å vurdere hvor nøyaktig håndhevelsen av tillatelser er på området hatefulle ytringer og å lære fra feiltrender. Uten mer informasjon om Metas systembeslutninger og ytelsen til både menneskelige og automatiserte systemer, er det vanskelig for tilsynsrådet og Meta å vurdere proporsjonaliteten til Metas nåværende tilnærming til hatefulle ytringer.

Når man skal vurdere om det er nødvendig og proporsjonalt å bruke spesifikke maskinlæringsverktøy i en konkret sak for å oppdage potensielle hatytringer automatisk, er det viktig å forstå nøyaktigheten til disse verktøyene. Klassifiseringsverktøy som benytter maskinlæring innebærer alltid avveininger, ettersom man kan få falske positive og negative resultater. Jo mer sensitivt et klassifiseringsverktøy er, desto større er sjansen for at det vil identifisere hatytringer, men det er også større sjanse for at det feilaktig flagger innhold uten hatytringer. Klassifiseringsverktøyene og de forskjellige modellene læres opp forskjellig, og nytten og effektiviteten er dermed variabel for de ulike oppgavene de skal utføre. En gitt modell kan bruke forskjellige terskler som reflekterer den relative betydningen av å unngå ulike typer feil. Sannsynligheten for feil og alvorlighetsgraden hvis de skjer, bør også være styrende for beslutningen om hvordan et klassifiseringsverktøy skal distribueres. Dette må omfatte om det skal iverksettes tiltak umiddelbart eller om saken skal sendes til menneskelig godkjenning, samt hvilke sikkerhetstiltak som er iverksatt.

Meta forklarte at det aktuelle innlegget i denne saken ble sendt til vurdering av de automatiserte systemene, fordi det sannsynligvis ville nå ut til et stort publikum. Denne tilnærmingen kan begrense spredningen av skadelig materiale, men det vil sannsynligvis også øke risikoen for at viktige kunstverk som motvirker hat, feilaktig fjernes. Meta fortalte rådet at de regelmessig evaluerer frekvensen av falske positive meldinger, målt opp mot et sett avgjørelser utført av eksperter. Meta bemerket også at det var mulig å vurdere nøyaktigheten til de bestemte maskinlæringsmodellene som var relevante i dette tilfellet, og at de oppbevarer informasjon om klassifiseringsverktøyenes antagelser i minst 90 dager. Rådet ba om informasjon som kunne brukes til å evaluere ytelsen til klassifiseringsverktøyene og hensiktsmessigheten til tersklene som Meta brukte i denne saken. Meta varslet rådet om at de ikke kunne oppgi informasjonen rådet ønsket, fordi de ikke hadde hatt nok tid til å forberede den for oss. Meta bemerket imidlertid at de vil vurdere muligheten for å oppgi denne informasjonen i framtidige saker.

Menneskelige vurderinger kan gi to viktige sikkerhetsgarantier for Metas klassifiseringsverktøy: først før innlegget fjernes, og deretter ved en eventuell anke. Feilene i dette tilfellet indikerer at Metas potensielt gir utilstrekkelig veiledning til moderatorer som vurderer motytringer. En rekke årsaker kan ha bidratt til at moderatorene to ganger fattet feil avgjørelse i denne saken. Rådet er bekymret for at moderatorene kanskje ikke har tilstrekkelig med tid og opplæring for å forhindre den typen feil man så i dette tilfellet, spesielt med hensyn til innhold som er tillatt i henhold til retningslinjene (inkludert å fordømme hatefulle ytringer og gi økt bevissthet).

I dette tilfellet var begge moderatorene basert i Asia-Stillehavsregionen. Meta kunne ikke si hvorvidt nøyaktigheten til moderatorene avviker når de vurderer potensielle hatytringer som stammer fra en annen region enn den de selv befinner seg i. Tilsynsrådet vet at det er komplekst å vurdere hatytringer og at det ofte er vanskelig å forstå lokal kontekst og historie, spesielt med tanke på mengden innhold som moderatorene må vurdere hver dag. Det kan tenkes at moderatorene som vurderte innholdet i denne saken hadde mindre erfaring med undertrykkelse av urfolk i Nord-Amerika. Veiledningene bør derfor inneholde tydelige instruksjoner om å evaluere innhold i sin helhet. Da vil moderatorene mer nøyaktig kunne vurdere innholdet ut fra kontekst for å fastslå meningen og hensikten bak et innlegg.

Tilsynsrådet anbefalte i beslutningen i saken to knapper-meme (2021-005-FB-UA) at Meta tillot at brukerne kunne angi i klagen sin at innholdet deres faller inn under en av tillatelsene i Facebooks standard om hatefulle ytringer. For øyeblikket er det slik at når en bruker anker en av Metas avgjørelser til menneskelig vurdering, blir ikke moderatoren informert om at brukeren har anket en tidligere avgjørelse og kjenner ikke utfallet av den tidligere vurderingen. Meta har varslet tilsynsrådet om at de tror at en slik informasjon vil kunne påvirke vurderingen, men rådet lurer på om denne informasjonen heller ville økt sannsynligheten for en mer nyansert beslutningstaking. Dette er et spørsmål som kan testes empirisk av Meta; resultatene av disse testene vil være nyttige for å evaluere proporsjonaliteten til de spesifikke tiltakene som Meta har valgt.

I henhold til UNGP-ene har Meta et ansvar for å utføre due diligence i saker som gjelder menneskerettighetene (prinsipp 17). Dette bør omfatte at de identifiserer eventuelle negative virkninger en innholdsmoderering har på kunstneriske uttrykk og politiske ytringer fra urfolk som svar på diskriminering. Meta burde også se på hvordan de vil forhindre og redusere disse uheldige konsekvensene og redegjøre for innsatsen for å håndtere dem. Tilsynsrådet jobber med å overvåke hvor godt Meta presterer og forventer at selskapet prioriterer risiko som gjelder marginaliserte grupper og framlegger bevis på løpende forbedringer.

9.Tilsynsrådets vedtak

Tilsynsrådet omgjør Metas opprinnelige beslutning om å fjerne innholdet.

10. Rådgivende uttalelse om retningslinjene

Håndhevelse

1. Gir brukerne rettidig og nøyaktig varsel om ethvert vedtak de gjør rundt innholdet anken gjelder. Der det er aktuelt, inkludert ved tilfeller av håndhevingsfeil som dette, bør varselet til brukeren erkjenne at vedtaket var et resultat av tilsynsrådets vurderingsprosess. Meta bør dele meldingen som sendes til brukeren når tilsynsrådets handlinger påvirker beslutninger som er anket av en bruker, slik at de viser at de har fulgt anbefalingen fra rådet. Dette bør iverksettes med hensyn til alle saker som er endret på kvalifikasjonsnivået av rådets prosess.

2. Studere virkningen av modifiserte tilnærminger til en sekundær gjennomgang av moderatorens nøyaktighet og vurderingsrate. Spesifikt ber rådet om en evaluering av nøyaktighetsgraden når innholdsmoderatorer varsles om at de utfører en sekundær vurdering, slik at de vet at den første avgjørelsen ble bestridt. Dette eksperimentet bør ideelt sett omfatte en mulighet for at brukerne kan oppgi relevant kontekst som kan hjelpe moderatorene med å evaluere innholdet, i tråd med rådets tidligere anbefalinger. Meta bør dele resultatene av disse nøyaktighetsvurderingene med tilsynsrådet og oppsummere resultatene i sin kvartalsvise åpenhetsrapport til rådet for å vise at de har fulgt denne anbefalingen.

3. Gjennomføre kontroller av nøyaktigheten til en vurdering, med fokus på retningslinjene for hatytringer, som dekker kunstneriske uttrykk og uttrykk om brudd på menneskerettighetene (f.eks. fordømmelse, bevisstgjøring, selvrefererende bruk, styrkende bruk). Denne kontrollen bør også spesifikt undersøke hvorvidt hjemstedet til moderatoren påvirker evnen til nøyaktig å vurdere hatytringer og motytringer fra samme eller et vidt forskjellig område. Rådet forstår at denne analysen sannsynligvis krever at det utvikles hensiktsmessige og nøyaktig merkede eksempler på relevant innhold. Meta bør dele resultatene av disse kontrollene med rådet, inkludert hvordan resultatene vil medføre forbedringer av håndhevingen og videreutviklingen av retningslinjer, samt om de planlegger å gjennomføre regelmessige vurderinger av moderatorene rundt de spesifikke tillatelsene. De bør deretter oppsummere resultatene i sin kvartalsvise åpenhetsrapport til rådet for å vise at de har fulgt denne anbefalingen.

*Prosedyremerknad:

Tilsynsrådets avgjørelser utarbeides av et panel på fem medlemmer og godkjennes av et flertall av rådet. Rådets avgjørelser gjenspeiler ikke nødvendigvis alle medlemmenes personlige meninger.

I denne konkrete saken ble det bestilt uavhengige undersøkelser på vegne av rådet. Et uavhengig analyseinstitutt med hovedkontor ved universitetet i Göteborg, med støtte fra en gruppe på over 50 samfunnsvitere fra seks kontinenter, mer enn 3200 eksperter fra hele verden og Duco Advisers – et rådgivningsfirma som fokuserer på skjæringspunktet mellom geopolitikk, tillit, sikkerhet og teknologi – delte av sin ekspertise innenfor sosiopolitiske og kulturelle kontekster.

Retour aux décisions de cas et aux avis consultatifs politiques