Ta tilbake arabiske ord

Tilsynsrådet har opphevet Metas opprinnelige avgjørelse som å fjerne et Instagram-innlegg som, i henhold til brukeren, viste bilder av arabiske ord som kan brukes på en nedsettende måte mot menn med «feminine væremåter» Innholdet ble dekket av et unntak fra Metas retningslinjer for hatefulle ytringer, og burde ikke ha vært fjernet.

Om saken

I november 2021 publiserte en offentlig Instagram-konto som beskriver seg selv som et sted for diskusjon av skeive historier i den arabiske kulturen, en rekke bilder i en karusell (et Instagram-innlegg som kan inneholde opptil 10 bilder med én tekst). Teksten var skrevet både på arabisk og engelsk og forklarte at hvert bilde viser et ord som kan brukes på en nedsettende måte mot menn med «feminine væremåter» i den arabisktalende verden, inkludert ordene «zamel», «foufou» og «tante/tanta». Brukeren erklærte at innlegget var ment å «ta tilbake makten i slike sårende uttrykk».

Meta fjernet opprinnelig innlegget for brudd på Metas retningslinjer for hatefulle ytringer, men gjenopprettet det etter at brukeren anket. Etter at innholdet ble rapportert av en annen bruker, fjernet Meta innholdet igjen for brudd på retningslinjene for hatefulle ytringer. Ifølge Meta ble innholdet, før rådet valgte ut denne saken, sendt til ytterligere intern gjennomgang, som fastslo at det faktisk ikke brøt med selskapets retningslinjer for hatefulle ytringer. Meta gjenopprettet deretter innholdet til Instagram. Meta forklarte at de opprinnelige avgjørelsene om å fjerne innholdet var basert på gjennomganger av bildene som inneholdt ordene «z***l” og “t***e/t***a».

Viktige funn

Rådet mener at fjerning av dette innholdet var en klar feil og ikke i henhold til Metas retningslinjer om hatefulle ytringer. Selv om innlegget inneholder nedsettende bemerkninger, dekkes innholdet av et unntak for ytringer som «brukes som selvreferanse eller på en inspirerende måte», samt et unntak som tillater sitering av hatefulle ytringer for å «fordømme dem eller øke bevisstheten rundt dem». Brukerens erklæring om at vedkommende ikke «anerkjenner eller oppfordrer til bruken» av de aktuelle nedsettende ordene, og at målet var «å ta tilbake makten i slike sårende uttrykk», burde ha gjort moderatoren oppmerksom på muligheten for at et unntak gjelder.

For LHBTQIA+-personer i land som straffer deres ytringsfrihet, er sosiale medier ofte en av få måter å fritt uttrykke seg på. Overmoderering av ytringer fra brukere fra forfulgte minoritetsgrupper er en alvorlig trussel mot deres ytringsfrihet. Rådet er bekymret for at Meta ikke bruker unntakene i retningslinjene for hatefulle ytringer konsekvent når det gjelder ytringer fra marginaliserte grupper.

Feilene i denne saken, som omfattet tre separate moderatorer som avgjorde at innholdet brøt retningslinjene for hatefulle ytringer, viser at Metas veiledning til moderatorer som vurderer henvisninger til nedsettende uttrykk, kan være mangelfull. Rådet er bekymret for at kontrollører kanskje ikke har tilstrekkelige ressurser når det gjelder kapasitet eller opplæring til å forhindre den typen feil vi ser i denne saken.

Det er naturligvis utfordrende å gi veiledning til moderatorer på engelsk om hvordan de skal gå gjennom innhold på andre språk enn engelsk, slik Meta for tiden gjør. For å hjelpe moderatorer med bedre å vurdere når unntak skal brukes for innhold som inneholder nedsettende bemerkninger, anbefaler rådet at Meta oversetter intern veiledning til arabiske dialekter som brukes av moderatorene.

Rådet mener også at for å lage nyanserte lister over nedsettende bemerkninger og gi moderatorer riktig veiledning i å bruke unntakene i retningslinjene for hatefulle ytringer, må Meta med jevne mellomrom be om innspill fra minoriteter som blir utsatt for nedsettende bemerkninger på lands- og kulturspesifikt nivå. Meta bør også være mer åpen rundt hvordan de oppretter, håndhever og gransker sine markedsspesifikke lister over nedsettende ord.

Tilsynsrådets avgjørelse

Tilsynsrådet omgjør Metas opprinnelige avgjørelse om å fjerne innholdet.

Rådet kommer med følgende anbefaling til Meta angående gjeldende retningslinjer:

• Oversette standardene for intern implementering og kjente spørsmål til arabiske dialekter som brukes av innholdsmoderatorene. Dette kan redusere overdreven håndheving i arabisktalende regioner ved å hjelpe moderatorene med bedre å vurdere når det er berettiget med unntak for innhold med nedsettende bemerkninger.
• Publisere en tydelig forklaring av hvordan selskapet lager markedsspesifikke lister over nedsettende ord. Denne forklaringen bør inneholde fremgangsmåtene og kriteriene for å bestemme hvilke nedsettende ord og land som skal tas med på hver enkelt markedsspesifikke liste.
• Publisere en tydelig forklaring av hvordan selskapet håndhever markedsspesifikke lister over nedsettende ord. Denne forklaringen bør inneholde fremgangsmåtene og kriteriene for å fastslå nøyaktig når og hvor forbudet mot nedsettende bemerkninger vil bli håndhevet, enten det gjelder innlegg med geografisk opphav i den aktuelle regionen, med opphav utenfor, men relatert til den aktuelle regionen, og/eller relatert til alle brukere i den aktuelle regionen, uavhengig av innleggets geografiske opphav.
• Publisere en tydelig forklaring av hvordan selskapet gransker markedsspesifikke lister over nedsettende ord. Denne forklaringen bør inneholde fremgangsmåtene og kriteriene for å fjerne nedsettende ord fra eller beholde nedsettende ord på Metas markedsspesifikke lister.

*Sakssammendrag gir en oversikt over saken og medfører ingen presedens.

Fullstendig saksavgjørelse

1.Sammendrag av avgjørelsen

Tilsynsrådet opphever Metas opprinnelige avgjørelse om å fjerne et Instagram-innlegg av en konto som utforsker «skeive fortellinger i arabisk historie og populærkultur». Innholdet faller inn under et unntak i Metas retningslinjer for hatefulle ytringer siden det rapporterer, fordømmer og diskuterer den negative bruken av homofobe nedsettende bemerkninger fra andre og bruker dem i en uttrykkelig positiv sammenheng.

2. Saksbeskrivelse og bakgrunn

I november 2021 publiserte en offentlig Instagram-konto som identifiserer seg som et sted for diskusjon av skeive historier i den arabiske kulturen, en rekke bilder i en karusell (et Instagram-innlegg som kan inneholde opptil 10 bilder med én tekst). Bildeteksten, som brukeren skrev både på arabisk og engelsk, forklarer at hvert bilde viser et ord som kan brukes på en nedsettende måte mot menn med «feminine væremåter» i den arabisktalende verden, inkludert ordene «zamel», «foufou» og «tante/tanta». I bildeteksten sa brukeren at vedkommende ikke «anerkjenner eller oppmuntrer til bruken av disse ordene», men forklarte at vedkommende tidligere hadde blitt fornærmet med et av disse nedsettende ordene, og at innlegget var ment «å ta tilbake makten i slike sårende uttrykk». Rådets eksterne eksperter bekreftet at de siterte ordene i innholdet ofte brukes nedsettende.

Innholdet ble sett omtrent 9000 ganger og fikk rundt 30 kommentarer og omtrent 2000 reaksjoner. Innen tre timer etter at innholdet ble publisert, rapporterte en bruker det for «voksen nakenhet eller seksuell aktivitet», og en annen bruker rapporterte det som «seksuell oppfordring.» Rapportene ble håndtert separat av ulike menneskelige moderatorer. Ingen handlinger ble utført av moderatoren som gikk gjennom den første rapporten, men moderatoren som gikk gjennom den andre rapporten, fjernet innholdet for brudd på Metas retningslinjer for hatefulle ytringer. Brukeren anket denne fjerningen, og en tredje moderator gjenopprettet innholdet på plattformen. Etter at innholdet ble gjenopprettet, rapporterte en annen bruker det som «hatefulle ytringer», og en annen moderator gjennomførte en fjerde gjennomgang og fjernet innholdet på nytt. Brukeren klaget på nytt og etter en femte gjennomgang opprettholdt enda en moderator avgjørelsen om å fjerne innholdet. Etter at Meta varslet brukeren om denne avgjørelsen, sendte brukeren inn en anke til Tilsynsrådet. Meta bekreftet senere at alle moderatorene som gikk gjennom innholdet, snakket flytende arabisk.

Meta forklarte at de opprinnelige avgjørelsene om å fjerne innholdet var basert på gjennomganger av bildene som inneholdt ordene «z***l” og “t***e/t***a». Som svar på spørsmål fra rådet bemerket Meta også at selskapet anser et annet ord som ble brukt i innholdet, «moukhanath», som en nedsettende bemerkning.

Ifølge Meta ble innholdet, etter at brukeren anket til rådet, men før rådet valgte ut saken, sendt til ytterligere intern gjennomgang, som fastslo at det ikke brøt retningslinjene for hatefulle ytringer. Innholdet ble deretter gjenopprettet på plattformen.

3. Tilsynsrådets myndighet og virkeområde

Rådet er bemyndiget til å vurdere Metas avgjørelse etter en klage fra brukeren som har fått innhold fjernet (vedtektenes artikkel 2, del 1; artikkel 3, del 1 i vedtektene).

Rådet kan opprettholde eller omgjøre Metas avgjørelse (artikkel 3, del 5 i vedtektene), og rådets avgjørelse er bindende for selskapet (artikkel 4 i vedtektene). Meta må også vurdere gjennomførbarheten av å iverksette avgjørelsen sin når det gjelder identisk innhold i tilsvarende sammenhenger (artikkel 4 i vedtektene). Rådets beslutninger kan omfatte rådgivende uttalelser om retningslinjer og ikke-bindende anbefalinger som Meta må svare på (forskriftenes artikkel 3, del 4; artikkel 4 i vedtektene).

Når rådet velger ut saker som denne, der Meta har godtatt at det har blitt gjort en feil, går rådet gjennom den opprinnelige beslutningen for å bidra til å øke forståelsen av hvorfor feilen har oppstått, og de kan komme med observasjoner eller anbefalinger for å bidra til å redusere antall feil i framtiden og sørge for bedre prosesser.

4.Ekspertkilder

Tilsynsrådet brukte følgende som ekspertkilder:

I.Tilsynsrådets beslutninger:

Rådets mest relevante avgjørelser for denne saken omfatter:

• «Wampumbelte-avgjørelsen» (2021-012-FB-UA): I denne avgjørelsen fremhevet rådet viktigheten ved å beskytte ytringsfriheten til marginaliserte grupper, og bemerket at Meta må sørge for at selskapet ikke fjerner innhold som er et unntak fra retningslinjene for hatefulle ytringer.
• «Avgjørelsen om nedsettende bemerkninger i Sør-Afrika» (2021-011-FB-UA): I denne avgjørelsen mente rådet at Meta må være mer åpen angående fremgangsmåtene og kriteriene selskapet bruker for å utvikle listene over nedsettende bemerkninger. Rådet anbefalte også at Meta prioriterer å forbedre prosessuell rettferdighet i håndhevelsen av retningslinjene for hatefulle ytringer, slik at brukerne bedre kan forstå hvorfor innhold blir fjernet.
• «Myanmar-bot-avgjørelsen» (2021-007-FB-UA): I denne avgjørelsen understreket rådet viktigheten av kontekst når man vurderer om innhold er et unntak fra retningslinjene for hatefulle ytringer.

Rådet henviser også til anbefalinger som ble gjort i: «Ocalans isolering-avgjørelsen» (2021-006-IG-UA), «Avgjørelsen om to knapper-memet» (2021-005-FB-UA), og «Avgjørelsen om brystkreftsymptomer og nakenhet» (2020-004-IG-UA).

II. Metas retningslinjer for innhold:

Denne saken omfatter Instagrams retningslinjer for fellesskapet og Facebooks standarder. Metas åpenhetssenter sier at «Facebook og Instagram deler retningslinjer for innhold. Dette betyr at hvis et innhold anses som krenkende på Facebook, anses det også som krenkende på Instagram.»

Instagrams retningslinjer sier:

Vi vil fremme et positivt og mangfoldig fellesskap. Vi fjerner innhold som inneholder troverdige trusler eller hatefulle ytringer. Det er aldri OK å oppfordre til vold mot eller angripe noen på bakgrunn av rase, etnisitet, nasjonalitet, kjønn, kjønnsidentitet, seksuell legning, religion, funksjonshemning eller sykdom. Vi kan tillate deling av hatefulle ytringer hvis hensikten er å imøtegå eller skape oppmerksomhet rundt dem. I slike tilfeller ber vi deg gi uttrykk for hensikten din på en klar og tydelig måte.

Facebooks standarder definerer hatefulle ytringer som «et direkte angrep på andre mennesker på bakgrunn av hva vi kaller beskyttede karakteristikker – rase, etnisitet, nasjonalitet, religiøs tilhørighet, seksuell legning, kaste, kjønn, kjønnsidentitet og alvorlig sykdom eller funksjonshemning.» Meta deler angrep inn i tre nivåer: Delen om nedsettende bemerkninger i retningslinjene for hatefulle ytringer forbyr «innhold som med nedsettende bemerkninger beskriver personer, der nedsettende bemerkninger er definert som ord som i seg selv er støtende og brukes som nedsettende merkelapper basert på egenskapene som er nevnt ovenfor.» Resten av nivå tre forbyr innhold som retter seg mot personer med segregering eller ekskludering.

Som en del av bakgrunnen for retningslinjene forklarer Meta at:

Vi er klar over at folk noen ganger deler innhold som inkluderer en annen persons hatefulle ytring for å fordømme den eller øke oppmerksomheten rundt den. I andre tilfeller kan ytringer som ellers strider mot standardene våre brukes som selvreferanse eller styrkende og inspirerende. Retningslinjene våre er utformet for å gi rom for disse ytringstypene, men vi krever at folk klart må uttrykke sin hensikt med ytringen. Hvis hensikten er uklar, kan vi fjerne innhold.

III. Metas verdier:

Metas verdier er angitt i innledningen til Facebooks standarder, der verdien «stemme» er beskrevet som «overordnet».

Målet for standardene har alltid vært å skape et sted hvor man kan uttrykke seg og å gi folk en stemme. […] Vi vil at folk skal kunne snakke åpent om saker som er viktige for dem, selv om noen kan være uenige eller finner dem støtende.

Meta begrenser «stemme» for å oppfylle fire verdier, og to av disse er relevante her:

«Sikkerhet»: Vi jobber med å gjøre Facebook til et sikkert sted. Truende ytringer kan potensielt skremme, ekskludere eller stilne andre og er ikke tillatt på Facebook.

«Verdighet»: Vi mener at alle mennesker er likeverdige og har like rettigheter. Vi forventer at folk respekterer andres verdighet og ikke trakasserer eller nedverdiger dem.

IV. Internasjonale standarder for menneskerettigheter:

FNs veiledende prinsipper for næringsliv og menneskerettigheter (UNGP) ble godkjent av FNs menneskerettighetsråd i 2011 og etablerte et frivillig rammeverk for private bedrifters menneskerettighetsansvar. I 2021 publiserte Meta sine bedriftsretningslinjer for menneskerettigheter, der selskapet på nytt forpliktet seg til å respektere menneskerettighetene i henhold til UNGP-ene. Rådets analyse av Metas menneskerettighetsansvar i denne saken baserte seg på følgende menneskerettighetsstandarder, som er anvendt i del 8 av denne avgjørelsen:

• Retten til menings- og ytringsfrihet: Artikkel 19, Den internasjonale konvensjonen om sivile og politiske rettigheter (ICCPR), generell kommentar nr. 34 fra menneskerettighetskomiteen, 2011; Kommunikasjon 488/1992, Toonen vs. Australia, menneskerettighetskomiteen, 1992; Resolusjon 32/2, menneskerettighetsrådet, 2016; FNs spesialrapportør for menings- og ytringsfrihet, rapporter: A/HRC/38/35 (2018) og A/74/486 (2019); FNs høykommissær for menneskerettigheter, rapport: A/HRC/19/41 (2011).
• Retten til ikke-diskriminering: Artikkel 2, § 1 og artikkel 26 (ICCPR).

5. Brukeruttalelser

I sin uttalelse til rådet beskrev brukeren kontoen sin som et sted for «å hylle skeiv arabisk kultur». Brukeren forklarer at selv om det er et «trygt sted», har antallet følgere økt, og kontoen har blitt et mål for homofobiske nettroll som skriver støtende kommentarer og masserapporterer innhold.

Brukeren forklarte at intensjonen bak å publisere innholdet var å hylle «feminine menn og gutter» i det arabiske samfunnet som ofte fornedres, ved å fremheve det nedsettende språket i innlegget. Brukeren forklarte videre at vedkommende forsøkte å ta tilbake disse nedsettende ordene som var blitt brukt mot brukeren, som en form for motstand og styrke, og hevdet at vedkommende gjorde det klart i innholdet i innlegget at vedkommende ikke anerkjenner eller oppfordrer til å bruke ordene på bildene som nedsettende bemerkninger. Brukeren sa også at vedkommende mente innholdet overholdt Metas retningslinjer for innhold som spesifikt tillater bruken av ellers utestengte ord når de brukes til å referere til seg selv eller på en styrkende måte.

6. Metas uttalelser

Meta forklarte i sin begrunnelse at innholdet opprinnelig ble fjernet i henhold til retningslinjene for hatefulle ytringer, siden innholdet inneholder et forbudt ord som står på Metas lister over nedsettende ord, og er «en nedsettende betegnelse på homofile personer». Meta omgjorde til sist den opprinnelige avgjørelsen og gjenopprettet innholdet, siden «bruken av det aktuelle ordet falt innenfor Metas tillatte ord for innhold som fordømmer fornærmelser eller hatefulle ytringer, diskuterer bruken av nedsettende bemerkninger, inkludert rapporter om tilfeller de har blitt brukt i, eller debatter om de er akseptable å bruke eller ikke.» Meta godtok at konteksten viste at brukeren ville rette oppmerksomhet mot ordets sårende natur, og derfor ikke brøt retningslinjene.

Som svar på spørsmål fra rådet om hvordan kontekst er relevant for Metas anvendelse av unntak fra retningslinjene for hatefulle ytringer, sa Meta at «hatefulle ytringer og nedsettende bemerkninger er tillatt» når de blir gjort narr av, fordømt, diskutert, rapportert eller brukt som selvreferanse, og at det er brukerens ansvar å tydeliggjøre hensikten når brukeren nevner en nedsettende bemerkning.

Som svar på et annet spørsmål fra rådet, sa Meta at de «ikke spekulerte» i hvorfor innholdet ble feilaktig fjernet, fordi innholdskontrollørene ikke dokumenterer årsakene til avgjørelsene sine.

Rådet stilte Meta totalt 17 spørsmål, hvorav 16 ble fullstendig besvart og 1 ble delvis besvart.

7. Offentlige kommentarer

Rådet mottok tre offentlige kommentarer relatert til denne saken. Én av kommentarene ble sendt inn fra USA og Canada, én fra Midtøsten og Nord-Afrika og én fra Latin-Amerika og Karibia.

Innsendingene dekket følgende temaer: LHBT-sikkerhet på store sosiale medier-plattformer, overveielsen av lokal kontekst under håndhevelse av retningslinjene for hatefulle ytringer, og endrede betydninger av arabiske ord.

Du kan lese de offentlige kommentarene som er sendt inn angående denne saken ved å klikke her.

I tillegg, som en del av en kontinuerlig innsats for å involvere interessenter, hadde medlemmer av rådet informative og berikende diskusjoner med organisasjoner som jobber med ytringsfrihet og rettigheter for LHBTQIA+-personer, deriblant arabisktalende. Denne diskusjonen fremhevet bekymringer som blant annet: hvor vanskelig det er å hevde at en nedsettende bemerkning er kategorisk tatt tilbake og universelt harmløs når det aktuelle ordet fortsatt kan bli oppfattet som nedsettende av noen grupper, uavhengig av talerens hensikt, problemene som forårsakes av mangel på innspill om retningslinjer for innhold fra LHBTQIA+-interessegrupper og ikke-engelsktalende fellesskap, og risikoen for innholdsmoderering som ikke tar tilstrekkelig hensyn til kontekst.

8.Tilsynsrådets analyse

Rådet gransket spørsmålet om hvorvidt dette innholdet burde gjenopprettes, fra tre perspektiver: Metas retningslinjer for innhold, selskapets verdier og selskapets menneskerettighetsansvar.

Saken ble valgt av rådet siden overmoderering av ytringer fra brukere fra forfulgte minoritetsgrupper er en alvorlig og utbredt trussel mot deres ytringsfrihet. Steder for selvutfoldelse på nettet er spesielt viktige for grupper som forfølges, og deres rettigheter krever økt oppmerksomhet for beskyttelse fra sosiale medier-selskaper. Denne saken viser også hvor vanskelig det er for Meta å beskytte minoriteter mot hatefulle ytringer samtidig som selskapet prøver å skape et sted der minoriteter kan utfolde seg helt og holdent, også gjennom å ta tilbake nedsettende bemerkninger.

8.1 Overholdelse av Metas retningslinjer for innhold

I.Innholdsregler

Rådet konkluderer med at selv om nedsettende bemerkninger er brukt, er ikke innholdet hatefulle ytringer fordi det kommer inn under et unntak i retningslinjene for hatefulle ytringer angående nedsettende ord som brukes «som selvreferanse eller på en inspirerende måte», samt unntaket angående sitering av hatefulle ytringer for «å fordømme dem eller skape oppmerksomhet».

I avgjørelsene om «wampumbeltet» og «to knapper-memet» bemerket rådet at det ikke er nødvendig at en bruker uttrykkelig meddeler sin hensikt i et innlegg for at innlegget skal oppfylle kravene til unntak fra retningslinjene for hatefulle ytringer. Det er nok at en bruker uttrykker tydelig i innleggets kontekst at de bruker hatefulle ytringer på en måte som er tillatt i retningslinjene.

Innholdet i denne saken inneholdt imidlertid brukerens erklæring om at vedkommende ikke «anerkjenner eller oppfordrer» til støtende bruk av de aktuelle nedsettende ordene, men at innlegget i stedet var «et forsøk på å gjøre motstand mot og utfordre det dominerende narrativet» og «å ta tilbake makten i slike sårende uttrykk». Selv om det ikke alltid er nødvendig eller tilstrekkelig med tydelige erklæringer om hensikt for å legitimere bruk eller sitering av hatefulle ytringer, bør de gjøre en moderator oppmerksom på at det kan dreie seg om et mulig unntak. I denne saken mener rådet at erklæringen om hensikt, sammen med konteksten, gjør det klart at innholdet entydig faller inn under unntaket.

Til tross for dette fjernet Meta opprinnelig innholdet, og tre separate moderatorer fastslo at innholdet brøt retningslinjene for hatefulle ytringer. Selv om det finnes en rekke mulige årsaker til hvorfor flere moderatorer ikke klarte å klassifisere innholdet korrekt, kunne ikke Meta oppgi spesifikke forklaringer på feilen siden selskapet ikke krever at moderatorer registrerer resonnementet for avgjørelsene sine. Som bemerket i «wampumbelte»-avgjørelsen reflekterer feiltypene, og i siste instans de menneskene eller samfunnene som må bære byrden av disse feilene, utformingsvalg for håndhevelsessystemer på plattformen som risikerer å svekke ytringsfriheten til medlemmer av forfulgte grupper. Når Meta har et mønster av vedvarende overhåndhevelse av innhold i forbindelse med en forfulgt eller marginalisert gruppe, slik som i dette tilfellet, vil det være formålstjenlig å undersøke resonnementet bak håndhevelsesavgjørelsene og vurdere hvilke endringer av reglene for moderering eller økt opplæring eller tilsyn i forbindelse med eksisterende regler som er nødvendig for å unngå overivrig håndhevelse som øker byrden for medlemmer av grupper hvis uttrykte rettigheter er spesielt utsatt.

II.Tiltak

Som svar på spørsmål fra rådet forklarte Meta at innholdet bare ble gjenopprettet på plattformen fordi det tilfeldigvis ble flagget av en Meta-ansatt for en eskalert gjennomgang. «Eskalert gjennomgang» betyr at i stedet for at avgjørelsen tas opp igjen på samme nivå, som ofte outsources, sendes den til et internt team hos Meta. Dette ser ut til å bety at en Meta-ansatt må ha lagt merke til at innholdet ble fjernet, og deretter fylt ut og sendt inn et internt nettskjema som informerte om problemet. I tillegg til en slik tilfeldighet, kan systemer som dette bare gjenkjenne feil i innhold som Meta-ansatte ser med egne øyne. Følgelig er det mye mindre sannsynlig at innhold som ikke er på engelsk, innhold som ikke er publisert av kontoer med mange følgere i USA, eller innhold som er opprettet for og av grupper som ikke er godt representert i Meta, blir lagt merke til, flagget og viet ytterligere oppmerksomhet.

Som en del av kontakten ble rådet gjort oppmerksom på at interessenter var bekymret for at nøyaktig håndhevelse av unntakene fra retningslinjene for hatefulle ytringer krever et nivå av ekspertise på det aktuelle området og lokal kunnskap som Meta kanskje mangler eller ikke alltid kan benytte. Rådet er bekymret for at hvis ikke Meta jevnlig søker innspill fra minoritetsgrupper som blir utsatt for nedsettende bemerkninger på landsnivå, kan ikke selskapet utforme nyanserte lister over nedsettende ord og gi moderatorene sine riktig veiledning om hvordan unntak fra retningslinjene for nedsettende bemerkninger skal benyttes.

8.2 Samsvar med Metas verdier

Rådet finner at den opprinnelige beslutningen om å fjerne dette innholdet var i strid med Meta-verdiene «stemme» og «verdighet» og heller ikke tjente verdien «sikkerhet». Selv om det er i tråd med Metas verdier å hindre bruken av nedsettende bemerkninger til å håne personer på plattformene deres, er rådet bekymret for at Meta ikke bruker unntakene i retningslinjene konsekvent når det gjelder ytringer fra marginaliserte grupper.

I denne sakens sammenheng er «stemme» som søker å promotere ytringsfrihet for medlemmer av en marginalisert gruppe svært viktig. Meta gjør rett i å forsøke å begrense bruken av nedsettende bemerkninger for å fornedre og skremme mottakeren, og også tillate forsøk på å fjerne den negative påvirkningen disse ordene har, gjennom å ta dem tilbake.

Rådet anerkjenner at utbredelsen av nedsettende bemerkninger påvirker «verdighet». Spesielt kan møter med nedsettende bemerkninger skremme, opprøre eller fornærme brukere på måter som hemmer utfoldelse på nettet, når slike bemerkninger brukes i den hensikt å fornærme, eller det mangler kontekstuelle pekepinner som viser at de ikke brukes som fornærmelser. Når det finnes tydelige kontekstuelle pekepinner på at den nedsettende bemerkningen er nevnt for å fordømme den. øke oppmerksomheten rundt den eller nevnt som selvreferanse eller på en inspirerende måte, betyr ikke verdien «verdighet» at ordet må fjernes fra plattformen. Tvert imot påvirker overhåndhevelse som overser unntakene, spesielt minoriteter og marginaliserte grupper. Som rådet anbefalte i avgjørelsen om «to knapper-memet» må Meta sørge for at moderatorene sine har tilstrekkelig med ressurser og støtte slik at relevant kontekst kan vurderes korrekt. Det er viktig at moderatorer kan skille mellom tillatte henvisninger til nedsettende bemerkninger og ikke tillatt bruk av nedsettende bemerkninger for å beskytte brukernes «stemme» og «verdighet», spesielt når det gjelder marginaliserte fellesskap.

Siden «verdigheten» og «sikkerheten» til marginaliserte fellesskap har et høyt risikonivå på sosiale medier-plattformer, har disse plattformene et høyere ansvarsnivå for å beskytte dem. Rådet har allerede anbefalt i «wampumbelte» -avgjørelsen at Meta bør kontrollere hvor nøyaktig tillatelser i retningslinjene for hatefulle ytringer anvendes. Nøyaktigheten kan forbedres gjennom opplæring av moderatorer slik at de kan gjenkjenne innhold som omhandler diskriminerte fellesskap, og få instruksjoner for hvordan de skal vurdere om unntak fra retningslinjene for hatefulle ytringer gjelder. En vurdering av innholdet sammen med understøttende kontekstuelle pekepinner, bør være den utløsende faktor for om disse unntakene skal gjelde.

Når det gjelder «sikkerhet», bemerker rådet også at det er særdeles viktig for marginaliserte og truede fellesskap med både trygge områder på nettet og nøye moderering. Arabisktalende LHBTQIA+-personer, spesielt i MENA-regionen, står overfor en viss fare når de uttrykker seg åpent på nettet. Meta må balansere behovet for å gi støttende arenaer for slik ytringsfrihet, med å sørge for at selskapet ikke overmodererer og stilner personer som allerede opplever sensur og undertrykkelse. Selv om rådet anerkjenner at moderering i dette området er en sammensatt sak, spesielt på samme nivå, er det avgjørende at plattformer investerer i ressursene som kreves for å gjøre det riktig.

8.3 Samsvar med Metas menneskerettighetsansvar

Rådet konkluderer med at Metas opprinnelige avgjørelse om å fjerne innholdet ikke overholdt deres menneskerettighetsansvar som selskap. Meta har forpliktet seg til å respektere menneskerettighetene i henhold til FNs veiledende prinsipper for næringsliv og menneskerettigheter (UNGP-ene). Facebooks retningslinjer for menneskerettigheter sier at dette inkluderer Den internasjonale konvensjonen om sivile og politiske rettigheter (ICCPR).

1. Ytringsfrihet (artikkel 19 i ICCPR)

Artikkel 19 i ICCPR sørger for bred beskyttelse av ytringsfriheten, deriblant diskusjoner om menneskerettigheter og ytringsfrihet som kan ansees som «dypt støtende» (generell kommentar 34, § 11). Retten til ytringsfrihet er garantert for alle mennesker, uansett «kjønn» eller «annen status» (artikkel 2, § 1, ICCPR). Dette omfatter seksuell legning og kjønnsidentitet ( Toonen vs. Australia (1992); A/HRC/19/41, § 7).

Dette innlegget er relatert til viktige sosiale spørsmål om diskriminering av LHBTQIA+-personer. FNs høykommissær for menneskerettigheter har merket bekymringer angående restriksjoner av ytringsfriheten som stammer fra diskriminerende begrensninger på støtte til LHBTQIA+-rettigheter (A/HRC/19/41, § 65).

Artikkel 19 krever at der restriksjoner av ytringer pålegges av en stat, må de oppfylle kravene til lovlighet, legitimt formål, nødvendighet og proporsjonalitet (artikkel 19, § 3, ICCPR). På bakgrunn av UNGPs rammeverk har FNs spesialrapportør for menings- og ytringsfrihet oppfordret sosiale medier til å sikre at innholdsreglene deres er underlagt kravene i artikkel 19, § 3, ICCPR ( A/HRC/38/35, § 45 og 70).

I. Lovlighet (tydelige og tilgjengelige regler)

Kravet om lovlighet betyr at enhver begrensning av ytringsfriheten er tydelig angitt og lett tilgjengelig, slik at det er enkelt å se hva som er tillatt og ikke.

Rådet anbefalte i saken om «brystkreftsymptomer og nakenhet» (2020-004-IG-UA, anbefaling nr. 9), saken om Ocalans isolering (2021-006-IG-UA, anbefaling nr. 10) og råd om retningslinjer angående deling av informasjon om privat bolig (anbefaling nr. 9) at Meta burde tydeliggjøre overfor Instagram-brukerne at Facebooks standarder gjelder for Instagram på samme måte som på Facebook, med noen unntak. I råd om retningslinjer anbefalte rådet at Meta gjennomførte dette innen 90 dager. Rådet merker seg Metas svar på råd om retningslinjer at selv om denne anbefalingen vil innføres i sin helhet, arbeider Meta fortsatt med å lage mer utfyllende retningslinjer for fellesskapet for Instagram som tydeliggjør forholdet med Facebooks standarder, og kan ikke overholde tidsfristen på 90 dager. Rådet har gjentatt denne anbefalingen flere ganger, og mener Meta har hatt nok tid til å forberede seg på disse endringene. Det uklare forholdet mellom Instagrams retningslinjer for fellesskapet og Facebooks standarder er en kilde til stadig forvirring for brukere på Metas plattformer. Selv om Instagrams retningslinjer for fellesskapet inneholder en lenke til Facebooks standard om hatefulle ytringer, er det for øyeblikket ikke tydelig for brukeren at hele Facebooks standard om hatefulle ytringer, inklusive forbudet mot nedsettende bemerkninger og unntak, gjelder for Instagram. Jevnlige og omfattende oppdateringer av Instagrams retningslinjer for fellesskapet er fortsatt en viktig prioritet for rådet.

Når det gjelder utviklingen av listen over nedsettende uttrykk, gjentar rådet punktet fra saken om «nedsettende bemerkninger i Sør-Afrika» (2021-011-FB-UA) om at Meta bør være mer åpen om fremgangsmåtene og kriteriene for å utvikle listen. I denne saken forklarte Meta at selskapet definerer lister over nedsettende bemerkninger for hvert etablerte marked basert på «analyser og undersøkelser fra relevante interne partnere som prosessteam, markedsteam og team for retningslinjer for innhold». Meta sa også at markedsekspertene deres kontrollerer listen over nedsettende bemerkninger årlig, der hver oppføring blir vurdert etter kvalitet og kvantitet, noe som skiller mellom «ord som i seg selv er støtende, selv om de er skrevet alene, og ord som ikke er støtende i seg selv». Det står ikke klart for rådet når denne årlige kontrollen finner sted, men etter at rådet valgte denne saken, kontrollerte Meta bruken av ordet «z***l». Etter denne kontrollen ble ordet fjernet fra listen over nedsettende bemerkninger for det arabiske markedet, men finnes fortsatt på listen for Maghreb-markedet. Rådet vet ikke om denne kontrollen var en del av normale prosedyrer eller en særskilt gjennomgang som en reaksjon på at rådet valgte denne saken. Generelt sett er det ikke tydelig for rådet hva de kvalitative og kvantitative vurderingene i årlige kontroller innebærer.

Informasjon om prosessen og kriteriene for utvikling av listen over nedsettende bemerkninger og markedstildeling, spesielt hvordan det skilles mellom lingvistiske og geografiske markeder, er ikke tilgjengelig for brukerne. Uten denne informasjonen kan det være vanskelig for brukerne å vurdere hvilke ord som kan ansees som nedsettende, kun basert på definisjonen av nedsettende bemerkninger i retningslinjene for hatefulle ytringer som benytter subjektive konsepter som f.eks. om noe er støtende i seg selv og av fornærmende natur ( A/74/486,§ 46; se også A/HRC/38/35, § 26).

Når det gjelder hvordan listen over nedsettende bemerkninger håndhever, uttalte Meta i saken om «nedsettende bemerkninger i Sør-Afrika (2021-011-FB-UA) at «forbudet mot nedsettende bemerkninger er globalt, men betegnelsen av nedsettende bemerkninger er markedsspesifikk». Selskapet forklarte at «hvis et begrep står på en liste over nedsettende bemerkninger for et gitt marked, vil retningslinjene om hatefulle ytringer forby bruk av begrepet innenfor dette markedet.» Metas forklaring er ikke tydelig på om praksisen for håndhevelse, som kan være global i omfang, betyr at markedsbestemte nedsettende bemerkninger også er forbudt globalt. Meta forklarte at selskapet definerer et marked som «en kombinasjon av land og språk/dialekt(er)» og at «skillet mellom … marked[er] i hovedsak er basert på en kombinasjon av innholdets språk/dialekt og land». Metas innholdskontrollører er «tildelt markedene sine basert på deres språklige egnethet og deres kunnskap om kultur og marked». Ifølge Meta omfattet dette innholdet det arabiske markedet og Maghreb-markedet på listen over nedsettende bemerkninger. Det ble sendt til disse markedene «basert på en kombinasjon av flere signaler som stedet, språket og dialekten som ble oppdaget i innholdet, innholdstypen og rapporttypen». Det er ikke tilstrekkelig tydelig for rådet hvordan de mange signalene fungerer sammen for å fastslå hvilke markeder en innholdsdel tilhører, og om innhold som inneholder et ord som er nedsettende i et gitt marked, bare fjernes hvis innholdet er relatert til det aktuelle markedet, eller om det blir fjernet globalt. Selve standarden forklarer ikke denne prosessen.

Meta bør gi en omfattende forklaring av hvordan nedsettende bemerkninger håndheves på plattformen. Det finnes flere uklare områder i de nåværende retningslinjene, deriblant om nedsettende bemerkninger som er tildelt spesifikke geografiske områder, bare fjernes fra plattformen når de blir publisert i disse områdene, når de blir sett i disse områdene, eller uavhengig av hvor de blir publisert eller sett. Meta bør også forklare hvordan selskapet håndterer ord som ansees som nedsettende noen steder, men har en helt annen betydning som ikke bryter noen av Metas retningslinjer, andre steder.

Oppbyggingen av standarden om hatefulle ytringer kan også skape forvirring. Selv om forbudet mot nedsettende bemerkninger vises under overskriften for hatefulle ytringer på nivå tre, mener rådet at det ikke er tydelig om forbudet tilhører nivå tre, siden nedsettende bemerkninger ikke nødvendigvis retter seg mot personer med segregering eller ekskludering, som er fokuset for resten av dette nivået.

II.Legitime mål

Enhver begrensning av ytringer bør være for å oppnå et av de legitime målene som er oppført i ICCPR, som inkluderer «andres rettigheter». I dette tilfellet hadde de aktuelle retningslinjene det legitime formålet å beskytte andres rettigheter (generell kommentar nr. 34, § 28) til likeverd, beskyttelse mot vold og diskriminering på grunn av seksuell legning og kjønnsidentitet (artikkel 2, § 1, artikkel 26 ICCPR; FNs menneskerettighetskomite, Toonen vs. Australia (1992); FNs menneskerettighetsråds resolusjon 32/2 om beskyttelse mot vold og diskriminering på grunn av seksuell legning og kjønnsidentitet).

III. Nødvendighet og proporsjonalitet

Prinsippet om nødvendighet og proporsjonalitet krever at alle begrensninger av ytringsfriheten «må være hensiktsmessige for å oppnå sin beskyttende funksjon. De må være det minst inngripende virkemidlene blant de som kan oppnå den beskyttende funksjon, og de må være proporsjonale med interessen som skal beskyttes» (generell kommentar 34, § 34).

Det var ikke nødvendig å fjerne innholdet i dette tilfellet, siden det var en klar feil som ikke overholdt unntakene fra Metas retningslinjer for hatefulle ytringer. Fjerning av innholdet var heller ikke det minst inngripende tiltaket for å oppnå det legitime målet, fordi i hver av gjennomgangene som førte til fjerning, ble hele karusellen med ti bilder fjernet selv om bare ett bilde angivelig brøt retningslinjene. Selv om karusellen hadde inneholdt ett bilde med forbudte nedsettende bemerkninger som ikke faller inn under et unntak, ville det ikke vært en proporsjonal og rimelig reaksjon å fjerne hele karusellen.

Meta forklarte til rådet at «innlegget ansees å bryte retningslinjene når et bilde inneholder et brudd på standardene» og «i motsetning til Facebook er det ikke mulig for Meta å fjerne ett enkelt bilde fra et innlegg med flere bilder på Instagram». Meta sa at en oppdatering av verktøyet for gjennomgang av innhold har blitt foreslått med det mål at kontrollører kan fjerne bare bildet som bryter retningslinjene, men oppdateringen har ikke blitt prioritert. Rådet mener at denne forklaringen ikke er tydelig, og mener at nedprioritering av oppdateringen kan føre til systemisk overhåndhevelse der hele karuseller fjernes selv om bare deler av dem bryter retningslinjene. Rådet bemerker også at når en bruker publiserer den samme serien med bilder på Facebook og Instagram, vil forskjellsbehandlingen av denne innholdstypen på de to plattformene føre til inkonsekvente resultater som ikke begrunnes med en meningsfylt forskjell i retningslinjer. Hvis ett av bildene bryter retningslinjene, fører det til at hele karusellen fjernes på Instagram, men ikke på Facebook.

2.Ikke-diskriminering

Det er viktig at LHBTQIA+-personer kan ta tilbake nedsettende uttrykk for å motvirke diskriminering, så tilsynsrådet forventer at Meta er spesielt oppmerksomme på muligheten for urettmessig fjerning av innhold som det i denne saken fra Facebook og Instagram. Som rådet bemerket i «wampumbelte»-avgjørelsen (2021-012-FB-UA) angående urfolks kunstneriske uttrykk, er det ikke tilstrekkelig å evaluere hvordan Metas håndhevelse ev Facebooks retningslinjer for hatefulle ytringer fungerer i helhet – innvirkningen på bestemte marginaliserte grupper må også tas med i beregningen. I henhold til UNGP skal «selskaper følge ekstra nøye med på bestemte påvirkninger på menneskerettighetene for enkeltpersoner fra grupper eller befolkninger som kan ha økt risiko for sårbarhet eller marginalisering» (UNGP, prinsipp 18 og 20). For LHBTQIA+-personer i land som straffer deres ytringsfrihet, er sosiale medier ofte en av få måter de fortsatt kan uttrykke seg fritt på. Dette gjelder spesielt for Instagram, der retningslinjene for fellesskapet tillater at brukerne ikke bruker sitt ekte navn. Rådet bemerker at Facebooks brukere ikke har den samme friheten i henhold til standardene. Det er viktig at Meta viser at de kjenner og bruker menneskerettighetene godt for å sikre at systemene fungerer rettferdig og ikke bidrar til diskriminering (UNGP, prinsipp 17). Rådet bemerker at Meta rutinemessig evaluerer nøyaktigheten til håndhevelsessystemene sine rundt hatefulle ytringer («wampumbelte»-avgjørelsen). Disse vurderingene er imidlertid ikke delt inn i nøyaktighetsevalueringer av Metas kapasitet til å skille ulovlige hatytringer fra tillatt innhold som forsøker å ta tilbake nedsettende uttrykk.

Feilene i dette tilfellet indikerer at Meta potensielt gir utilstrekkelig veiledning til moderatorer som vurderer henvisninger til nedsettende uttrykk. Rådet er bekymret for at moderatorene kanskje ikke har tilstrekkelig med kapasitet og opplæring til å forhindre den typen feil man så i dette tilfellet, spesielt med hensyn til innhold som er tillatt i henhold til unntak fra retningslinjene. I dette tilfellet informerte Meta rådet om at kjente spørsmål og interne implementeringsstandarder bare er tilgjengelig på engelsk for å «sikre standardisert global håndhevelse» av retningslinjene, og at «alle innholdsmoderatorene snakker flytende engelsk». I «Myanmar-bot»-avgjørelsen (2021-007-FB-UA), anbefalte rådet at Meta bør sørge for at de interne implementeringsstandardene er tilgjengelige på språket som innholdsmoderatorer gjennomgår innhold på. Meta foretok seg ikke noe når det gjaldt denne anbefalingen, og ga et lignende svar om at innholdsmoderatorene snakket flytende engelsk. Rådet anerkjenner at det naturligvis er utfordrende å gi veiledning til moderatorer på engelsk om hvordan de skal gå gjennom innhold på andre språk enn engelsk. De interne implementeringsstandardene og kjente spørsmål er ofte basert på amerikansk-engelsk språkoppbygging som kanskje ikke gjelder for andre språk, f.eks. arabisk.

I «wampumbelte»-avgjørelsen (2021-012-FB-UA, anbefaling nr. 3) anbefalte rådet at Meta utfører nøyaktighetsevalueringer med fokus på unntak fra retningslinjene for hatefulle ytringer som dekker ytringer om brudd på menneskerettighetene (f.eks. fordømmelse, bevisstgjøring, selvrefererende bruk, inspirerende bruk), og at Meta burde dele resultatene av evalueringen, deriblant hvordan disse resultatene vil føre til forbedringer av håndhevelse og utvikling av retningslinjene. Rådet utstedte denne anbefalingen fordi det forstår at prisen for overfjerning av ytringer om brudd på menneskerettighetene er særdeles høy. Rådet konstaterer at Meta har innvendinger til anbefalingen når det gjelder gjennomførbarheten av evaluering, deriblant (a) mangel på bestemte kategorier i retningslinjene angående unntak for områder som brudd på menneskerettighetene, og (b) mangel på et enkelt identifiserbart eksempel på innhold som faller under unntak fra retningslinjene for hatefulle ytringer. Rådet mener at disse utfordringene kan løses, siden Meta kan konsentrere analysen rundt eksisterende unntak fra retningslinjene for hatefulle ytringer og prioritere identifiserbare eksempler på innhold. Rådet oppfordrer Meta til å forplikte seg til å implementere anbefalingen i «wampumbelte»-saken (2021-012-FB-UA) og tar gjerne imot oppdateringer fra Meta i selskapets neste kvartalsvise rapport.

9. Tilsynsrådets avgjørelse

Tilsynsrådet omgjør Metas opprinnelige avgjørelse om å fjerne innholdet.

10. Rådgivende uttalelse om retningslinjene

Håndhevelse

1. Meta bør oversette standardene for intern implementering og kjente spørsmål til moderne standard arabisk. Dette kan redusere overdreven håndheving i arabisktalende regioner ved å hjelpe moderatorene med bedre å vurdere når det er berettiget med unntak for innhold med nedsettende bemerkninger. Rådet konstaterer at Meta ikke har foretatt seg noe som respons på anbefalingen i «Myanmar-bot»-saken (2021-007-FB-UA) om at Meta bør sørge for at de interne implementeringsstandardene er tilgjengelige på språket som innholdsmoderatorer gjennomgår innhold på. Rådet vil anse denne anbefalingen som gjennomført når Meta informerer rådet om at oversettelsen til moderne standard arabisk er fullført.

Gjennomsiktighet

2. Meta bør publisere en tydelig forklaring av hvordan selskapet lager markedsspesifikke lister over nedsettende ord. Denne forklaringen bør inneholde fremgangsmåtene og kriteriene for å bestemme hvilke nedsettende ord og land som skal tas med på hver enkelt markedsspesifikke liste. Rådet vil anse dette som gjennomført når informasjonen er publisert i Åpenhetssenteret.

3. Meta bør publisere en tydelig forklaring av hvordan selskapet håndhever markedsspesifikke lister over nedsettende ord. Denne forklaringen bør inneholde fremgangsmåtene og kriteriene for å fastslå nøyaktig når og hvor forbudet mot nedsettende bemerkninger vil bli håndhevet, enten det gjelder innlegg med geografisk opphav i den aktuelle regionen, med opphav utenfor, men relatert til den aktuelle regionen, og/eller relatert til alle brukere i den aktuelle regionen, uavhengig av innleggets geografiske opphav. Rådet vil anse denne anbefalingen som gjennomført når informasjonen er publisert i Meta Åpenhetssenter.

4. Meta bør publisere en tydelig forklaring av hvordan selskapet kontrollerer markedsspesifikke lister over nedsettende ord. Denne forklaringen bør inneholde fremgangsmåtene og kriteriene for å fjerne nedsettende ord fra eller beholde nedsettende ord på Metas markedsspesifikke lister. Rådet vil anse denne anbefalingen som gjennomført når informasjonen er publisert i Meta Åpenhetssenter.

*Prosedyremerknad:

Tilsynsrådets avgjørelser utarbeides av et panel på fem medlemmer og godkjennes av et flertall av rådet. Rådets avgjørelser gjenspeiler ikke nødvendigvis alle medlemmenes personlige meninger.

I denne konkrete saken ble det bestilt uavhengige undersøkelser på vegne av rådet. Et uavhengig analyseinstitutt med hovedkontor ved universitetet i Göteborg, med støtte fra en gruppe på over 50 samfunnsvitere fra seks kontinenter og mer enn 3200 eksperter fra hele verden. Rådet ble også assistert av Duco Advisors, et rådgivningsfirma som fokuserer på skjæringspunktet mellom geopolitikk, tillit, sikkerhet og teknologi. Selskapet Lionbridge Technologies LLC, som har spesialister som behersker mer enn 350 språk og jobber fra 5000 byer over hele verden, leverte språklig ekspertise.