Referanser til svartelistede personer som «shaheed»

Overordnet sammendrag

Rådet konkluderer med at Metas tilnærming til å moderere innhold som bruker begrepet «shaheed» om personer som er spesifisert som farlige, begrenser ytringsfriheten vesentlig og uforholdsmessig. Meta tolker all bruk av «shaheed» som regelbrudd når begrepet refererer til personer de har spesifisert som «farlige», og de fjerner derfor innholdet. Ifølge Meta er det sannsynlig at «shaheed» står for mer fjerning av innhold i henhold til standardene enn noe annet enkeltord eller -uttrykk på plattformene. Voldelige terrorhandlinger har alvorlige konsekvenser. de ødelegger livet til uskyldige mennesker, hindrer menneskerettigheter og undergraver samfunnsstrukturen. Enhver begrensning av ytringsfriheten for å forhindre slik vold må imidlertid være nødvendig og proporsjonal. Unødig fjerning av innhold kan være ineffektivt og til og med virke motsatt av det som var tiltenkt.

Rådets anbefalinger tar utgangspunkt i et perspektiv om at det er av avgjørende betydning at Meta iverksetter effektive tiltak for å sikre at plattformene deres ikke brukes til å oppfordre andre til voldshandlinger, eller til å rekruttere folk til å delta i slike handlinger. Ordet «shaheed» brukes noen ganger av ekstremister for å hylle eller glorifisere mennesker som har dødd mens de har begått voldelige terrorhandlinger. Metas svar på denne trusselen må imidlertid også være fundamentert i respekt for alle menneskerettigheter, inkludert ytringsfriheten.

Den 7. oktober 2023, da rådet var i ferd med å ferdigstille denne rådgivende uttalelsen om retningslinjer, ledet Hamas, som er spesifisert som en nivå 1-organisasjon i Metas retningslinjer om farlige organisasjoner og personer, terrorangrep av et slag man aldri tidligere har sett mot Israel. Anslagsvis 1200 mennesker ble drept, og omtrent 240 ble tatt som gisler (ifølge det israelske utenriksdepartementet). Ifølge nyhetsrapporter fram til 6. februar 2024 antas det at minst 30 av de anslåtte 136 gislene som fortsatt var i Hamas-fangenskap i begynnelsen av januar er døde. Meta spesifiserte umiddelbart disse hendelsene som et terrorangrep i henhold til retningslinjene om farlige organisasjoner og personer. Israel iverksatte raskt en militæraksjon som et motsvar på angrepene. Militæraksjonen har medført mer enn 30 000 drepte i Gaza per 4. mars (ifølge FNs kontor for koordinering av humanitær innsats, basert på data fra helsedepartementet i Gaza). Rapporter fra januar indikerte at rundt 70 % av de omkomne er kvinner og barn.

Etter disse hendelsene satte rådet publiseringen av denne rådgivende uttalelsen på vent for å sikre at anbefalingene tok hensyn til hvordan Metas plattformer ble brukt og bruken av ordet «shaheed» i denne sammenhengen. Denne tilleggsanalysen styrket rådets anbefaling om at Meta burde moderere ordet «shaheed», selv under det ekstreme trykket som slike hendelser fører med seg, siden dette vil ivareta menneskerettighetene på en bedre måte i en krisesituasjon. Samtidig understreker rådet at Metas retningslinjer på dette området er globale, og at de har en innvirkning som strekker seg langt utover denne konflikten. Selv om rådet forstår viktigheten av de nylige hendelsene i Israel og Palestina, er anbefalingene deres også generelle og ikke begrenset til en spesifikk kontekst.

Etter rådets syn er Metas moderering av ordet «shaheed» for omfattende og begrenser ytringsfriheten og offentlig diskurs i uforholdsmessig stor grad. Innlegg som rapporterer om vold og svartelistede enheter, kan for eksempel feilaktig bli fjernet. Meta klarer heller ikke å vurdere de ulike betydningene av «shaheed». Ordet brukes ikke alltid til å glorifisere eller støtte noen. Dette fører altfor ofte til at arabisktalende og folk som snakker andre språk (mange av dem muslimer) får innlegg fjernet, uten at fjerningen tjener formålene som ligger bak retningslinjene om farlige organisasjoner og personer. Dessuten forbyr Metas retningslinjer for eksempel forherligelse, støtte og representasjon av svartelistede personer, organisasjoner og arrangementer, samt oppfordringer til vold. Når disse retningslinjene håndheves på en nøyaktig måte, reduseres farene som følger av at terrorister bruker Metas plattformer. Følgelig anbefaler rådet at Meta avslutter sitt generelle forbud mot bruken av begrepet «shaheed» som referanse til personer som er spesifisert som farlige. Selskapet bør endre retningslinjene sine, slik at det blir utført mer kontekstuelle analyser av innhold der ordet er brukt.

Bakgrunn

I februar 2023 spurte Meta rådet om de burde fortsette å fjerne innhold som bruker det arabiske uttrykket «shaheed» (شهيد med arabiske bokstaver) som referanse til personer som er spesifisert i retningslinjene deres om farlige organisasjoner og personer. «Shaheed» er også et lånord – noe som betyr at mange ikke-arabiske språk har «lånt» dette begrepet som har arabisk opprinnelse, inkludert ved å tilpasse stavemåten.

Selskapet beskriver ordet «shaheed» som et «hedrende» begrep som brukes av mange samfunn på tvers av kulturer, religioner og språk. Det er ofte en referanse til en person som har dødd uventet, for eksempel i en ulykke, eller ærefullt i for eksempel en krig. Selskapet erkjenner at begrepet har «flere betydninger», og selv om det ikke finnes noen «direkte ekvivalent i det engelske språket», er den vanlige oversettelsen «martyr». Meta understreker at «på engelsk betyr ordet "martyr" en person som har lidd eller død for en berettiget årsak, og ordet har vanligvis positive konnotasjoner». Meta uttaler at «det er på grunn av denne bruken av ordet at vi har kategorisert begrepet «shaheed» som en støtteerklæring i henhold til retningslinjene [om farlige organisasjoner og personer]».

Metas antagelse om at det å kalle en svartelistet person for «shaheed» alltid utgjør en «støtteerklæring» i henhold til retningslinjene om farlige organisasjoner og personer, resulterte i et generelt forbud mot ordet. Meta har erkjent at på grunn av begrepets mange betydninger, «kan de håndheve reglene for aggressivt mot et betydelig antall ytringer som ikke er ment å hylle en svartelistet person, spesielt blant arabisktalende». I tillegg bruker ikke Meta unntakene fra retningslinjene om farlige organisasjoner og personer, som tillater at «shaheed» brukes når noen vil «rapportere om, fordømme eller nøytralt diskutere svartelistede enheter». Dette gjelder fortsatt etter de siste oppdateringene av retningslinjene – fra desember 2023 – som nå forbyr «forherligelse» og «vage referanser» i stedet for ord som «støtteerklæring», «hyllest» eller «ros», som er fullstendig fjernet.

Meta innledet en prosess for å videreutvikle retningslinjene sine i 2020. Der skulle de revurdere sin tilnærming til begrepet «shaheed» på grunn av de nevnte bekymringene. Det ble imidlertid ikke oppnådd enighet i selskapet, og de ble dermed ikke enige om noen ny tilnærming.

Da Meta ba om denne rådgivende uttalelsen om retningslinjene sine, presenterte Meta tre mulige alternativer for rådet:

1. Selskapet kan opprettholde status quo.
2. Selskapet kan tillate bruk av «shaheed» som referanse til svartelistede personer i innlegg som oppfyller kravene til unntak fra forbudet mot «støtteerklæring» (for eksempel rapportering, nøytrale diskusjoner eller fordømmelse), så lenge det ikke finnes andre former for støtteerklæring eller «signaler om vold». Noen eksempler på slike signaler, foreslått av Meta, inkluderer visuelle skildringer av våpen, referanser til militært språk og referanser til vold i den virkelige verden.
3. Selskapet kan tillate bruk av «shaheed» som referanse til svartelistede personer så lenge det ikke finnes andre former for støtteerklæringer eller signaler om vold. Dette gjelder uavhengig av om innholdet faller inn under et av unntakene som er oppført ovenfor, i motsetning til alternativ to.

Rådet vurderte andre mulige valg. Av grunnene som er oppgitt i denne rådgivende uttalelsen, er rådets anbefalinger tett på linje med det tredje alternativet, selv om færre signaler om vold kreves enn hva Meta foreslo. Det er også et krav om en bredere anvendelse av unntak fra retningslinjene for å rapportere om, nøytralt diskutere og fordømme svartelistede enheter og handlingene deres.

Viktige funn og anbefalinger

Rådet konkluderer med at Metas nåværende tiltak mot begrepet «shaheed» i forbindelse med personer som er spesifisert som farlige, er for aggressive. De begrenser ytringsfriheten vesentlig og i uforholdsmessig stor grad.

«Shaheed» er et kulturelt og religiøst betydningsfullt begrep. Noen ganger brukes det til å indikere støtteerklæringer til folk som dør i voldelige aksjoner, og det kan til og med «forherlige» dem. Men ordet brukes ofte, selv med henvisning til farlige personer, ved rapportering og nøytrale kommentarer, akademiske diskusjoner, debatter om menneskerettigheter og på andre passive måter. Blant annet brukes «shaheed» mye som referanse til personer som dør mens de tjener landet sitt, arbeider for en viktig sak eller blir et uventet offer for sosiopolitisk vold eller naturkatastrofer. I noen muslimske samfunn brukes det til og med som for- og etternavn. Det er sterk grunn til å tro at de mange betydningene av «shaheed» resulterer i at det blir fjernet en betydelig mengde materiale som ikke er ment som en støtteerklæring til terrorister eller de voldelige handlingene deres.

Metas tilnærming til å fjerne innhold utelukkende fordi ordet «shaheed» brukes når det refereres til svartelistede personer, ser med overlegg bort fra ordets språklige kompleksitet og ordets mange bruksområder. Det blir konsekvent behandlet som ekvivalent til ordet «martyr». Dette påvirker ytringsfriheten og mediefriheten i betydelig grad. Det begrenser den offentlige diskursen unødig mye og har alvorlige negative konsekvenser for likestilling og ikke-diskriminering. Denne altfor aggressive håndhevelsen påvirker i uforholdsmessig grad folk som snakker arabisk og andre språk med «shaheed»-lånord. Samtidig vil andre måter å benytte retningslinjene om farlige organisasjoner og personer på, fortsatt gjøre det mulig for Meta å fremme verdien «sikkerhet» og jobbe med å oppnå målet om å holde innhold som forherliger terrorister borte fra selskapets plattformer. Dagens retningslinjer er derfor uforholdsmessige og unødvendige.

For at selskapet skal klare å tilpasse retningslinjer og tiltak rundt begrepet «shaheed» til menneskerettighetenes standarder, anbefaler rådet følgende (se punkt 6 for anbefalingene i sin helhet):

1. Meta bør slutte å anta at ordet «shaheed», når det brukes til å referere til en svartelistet person eller ikke-navngitte medlemmer av svartelistede organisasjoner, alltid er i strid med reglene og ikke er kvalifisert for unntak fra retningslinjene. Innhold som refererer til en svartelistet person som «shaheed», bør fjernes som en «uklar referanse» ved bare to tilfeller. For det første bør det fjernes når ett eller flere av tre voldssignaler er til stede: en visuell skildring av bevæpning eller et våpen, en intensjonserklæring eller oppfordring om å bruke eller bære våpen, eller en referanse til en spesifisert hendelse. For det andre bør innholdet fjernes når det på annen måte bryter Metas retningslinjer (for eksempel ved forherligelse, eller fordi referansen til en svartelistet person er uklar av andre grunner enn bruken av «shaheed»). I begge scenariene bør innhold fortsatt være kvalifisert for unntak ved «rapportering, nøytral diskusjon eller fordømmelse».

2. For å tydeliggjøre forbudet mot «vage referanser» bør Meta vise flere eksempler på innhold som bryter reglene, inkludert et innlegg som refererer til en svartelistet person som «shaheed» kombinert med ett eller flere av de tre voldssignalene som er spesifisert i anbefaling 1.

3. Metas interne retningslinjer bør også oppdateres for å gjøre det klart at det å referere til svartelistede personer som «shaheed» ikke er regelbrudd så lenge det ikke er ledsaget av signaler om vold, og at selv når disse signalene er til stede, kan innholdet falle inn under uttaket for «rapportering, nøytral diskusjon eller fordømmelse».

Hvis Meta aksepterer og implementerer disse anbefalingene i sine eksisterende regler, vil selskapet fortsatt fjerne innhold som «forherliger» svartelistede personer, beskriver volden eller hatet deres som en prestasjon eller legitimerer eller forsvarer de voldelige eller hatefulle handlingene deres, samt eventuell støtte til eller representasjon av en spesifisert farlig enhet. Rådets forslag er at Meta slutter å tolke «shaheed» i referanse til en svartelistet person som et regelbrudd i alle tilfeller og bare fjerner innholdet når det kombineres med ytterligere brudd på retningslinjene (for eksempel forherligelse) eller som en «uklar referanse» på grunn av signaler om vold. Slikt innhold må fortsatt være kvalifisert for unntak på grunnlag av «rapportering om, nøytral diskusjon av og fordømmelse av svartelistede personer» i retningslinjene.

Rådet anbefaler også at Meta gjør følgende:

4. Meta bør forklare mer detaljert hvordan prosedyren er når selskapet spesifiserer enheter og hendelser i henhold til retningslinjene om farlige organisasjoner og personer, slik at det blir større åpenhet rundt denne listen. De bør også publisere aggregert informasjon om det totale antallet enheter som er oppført på hvert nivå av listen, samt hvor mange enheter som har blitt lagt til og fjernet det siste året.

5. Selskapet bør innføre en åpen og effektiv prosess for regelmessig revisjon av kriteriene for å havne på listen. De må fjerne alle farlige organisasjoner, personer og hendelser som ikke lenger oppfyller de publiserte kriteriene, slik at listen alltid er oppdatert og ikke omfatter noe eller noen som ikke lenger faller inn under Metas definisjon.

6. Selskapet bør forklare hvilke metoder de bruker for å vurdere nøyaktigheten av manuell vurdering og hvor godt de automatiserte systemene fungerer i håndhevelsen av retningslinjene om farlige organisasjoner og personer. Meta bør også med jevne mellomrom dele resultatet av vurderingen av klassifiseringssystemet som brukes til å håndheve disse retningslinjene, og det må framstilles på en måte som gjør at det kan sammenlignes på tvers av språk og/eller regioner.

7. Selskapet må forklare tydelig hvordan klassifiseringssystemet brukes til å generere antagelser om brudd på retningslinjene og hvordan Meta angir terskler for enten ikke å gjøre noe, plassere innhold i kø for manuell vurdering eller fjerne innhold. Denne informasjonen bør oppgis i selskapets åpenhetssenter, slik at interessenter har tilgang til den.

Komplette råd om retningslinjer

1. Metas forespørsel

I. Forespørsel om en rådgivende uttalelse

1. I forespørselen (tilgjengelig på engelsk og arabisk), spurte Meta rådet om de fortsatt burde fjerne innhold som bruker ordet «shaheed» (شهيد) – inkludert ordets entalls-/flertallsformer og lånordvarianter på arabisk og andre språk – som referanse til personer som er spesifisert som farlige i henhold til retningslinjene om farlige organisasjoner og personer, eller hvorvidt en annen tilnærming kan samsvare bedre med selskapets verdier og menneskerettighetsansvar. Meta ba også om veiledning om lignende utfordringer rundt innhold som kan oppstå i framtiden.

II. Metas tilnærming

2. Metas retningslinjer om farlige organisasjoner og personer forbød tidligere støtteerklæringer, betydelig støtte til eller representasjon av svartelistede enheter, personer og voldelige hendelser. Den 29. desember 2023 oppdaterte Meta disse retningslinjene og fjernet forbudet mot støtteerklæringer, der de i stedet la til et forbud mot «forherligelse» og «vage referanser». Rådet valgte å se på hvilken potensiell innvirkning disse endringene av retningslinjene ville ha på funnene og anbefalingene fra rådet.

3. Metas forespørsel om en rådgivende uttalelse rundt retningslinjene gjaldt forbudet mot støtteerklæringer til svartelistede personer, ikke de parallelle forbudene mot betydelig støtte eller representasjon. Sammenlignet med representasjon og betydelig støtte, anså Meta «støtteerklæring» for å være det minst alvorlige bruddet. Meta reserverer «nivå 1» til å dekke de farligste enhetene, som terror-, hat- og forbryterorganisasjoner. Når Meta spesifiserer en voldelig hendelse, blir gjerningspersonene bak disse hendelsene også spesifisert som farlige personer på nivå 1, og forherligelse (tidligere kalt «støtteerklæring», «hyllest» eller «ros») av dem er derfor forbudt. Spesifiserte hendelser inkluderer «terrorangrep, hatkriminalitet, voldshandlinger med flere ofre (eller forsøk på dette) og serie- og massemord». Meta kontrollerer sin egen liste over svartelistede enheter (som ikke er offentlig), men spesifiseringene er delvis basert på den amerikanske regjeringens lister (dvs. at Metas liste vil være minst like omfattende som regjeringslistene den bygger på). Standardene forklarer at nivå 1-enheter inkluderer personer og organisasjoner som står bak narkotikasmugling («specially designated narcotics trafficking kingpins» – forkortet til «SDNTK»), utenlandske terrororganisasjoner («foreign terrorist organizations» – forkortet til «FTO») og spesifiserte globale terrorister. Disse amerikanske regjeringslistene er offentlig tilgjengelige, henholdsvis her, her og her.

4. Før oppdateringen av retningslinjene den 29. desember 2023, inkluderte Metas definisjon av «støtteerklæring» det å «snakke positivt om en svartelistet enhet eller hendelse»; «gi en svartelistet enhet eller hendelse en følelse av å ha oppnådd noe bra»; «legitimere saken en svartelistet enhet kjemper for ved å framsette påstander om at deres hatefulle, voldelige eller kriminelle atferd er juridisk, moralsk eller på annen måte akseptabel eller kan rettferdiggjøres»; eller «ideologisk støtte en svartelistet enhet eller hendelse». Denne definisjonen og en rekke eksempler ble lagt til i retningslinjene for å gjøre dem tydeligere etter en anbefaling fra tilsynsrådet i en av våre første saker (avgjørelsen i saken «Nazi-sitat», anbefaling 2). Etter oppdateringen av retningslinjene i desember 2023, er «forherligelse» definert som å «legitimere eller forsvare de voldelige eller hatefulle handlingene til en svartelistet enhet ved å hevde at handlingene kan forsvares moralsk, politisk, logisk eller på en annen måte som gjør dem akseptable eller rimelige»; eller «karakterisere eller feire volden eller hatet fra en svartelistet enhet som en måloppnåelse eller bragd». Mer generelt sier Meta i oppdateringen av retningslinjene sine at de vil «fjerne uklare eller kontekstløse referanser hvis brukerens hensikt ikke er tydelig indikert». Retningslinjene spesifiserer at dette vil inkludere «uklar bruk av humor», «bildereferanser uten tilhørende tekst og positive referanser som ikke forherliger den svartelistede enhetens vold eller hat». Retningslinjene gir imidlertid ingen eksempler på hvilke typer innlegg som vil bryte denne regelen. Meta har informert rådet om at de fortsatt fjerner alt innhold som refererer til svartelistede personer som «shaheed». For slike referanser antar selskapet at «shaheed» er et regelbrudd i alle sammenhenger, noe som i hovedsak resulterer i et generelt forbud mot begrepet når det brukes til å referere til en svartelistet person. Omfanget av dette forbudet kan delvis illustreres ved å konsultere de ovennevnte amerikanske svartelistene, ettersom det er forbudt i henhold til Metas retningslinjer å referere til alle personer (og medlemmer av organisasjoner) på selskapets egen avledede liste som «shaheed» (eller en annen oversettelse av begrepet «martyr»). Dette inkluderer enheter på tvers av kontinenter, og det er ikke begrenset til terrororganisasjoner eller organisasjoner med en bestemt ideologi.

5. Selskapet beskriver ordet «shaheed» som et «hedrende» begrep, brukt av mange samfunn på tvers av kulturer, religioner og språk. Selskapet erkjenner at ordet har «flere betydninger» og brukes til å «beskrive noen som dør uventet eller for tidlig, noen ganger i tilknytning til en hederlig død, for eksempel hvis noen dør i en ulykke eller i konflikt eller krig.» Meta uttalte at selv om det ikke finnes noen «direkte ekvivalent til begrepet i det engelske språket», er den vanlige oversettelsen «martyr». Da Meta sendte forespørselen sin til rådet, før endringene av retningslinjene i desember 2023, uttalte de at «vi antar at ordet betyr "martyr», og «det er på grunn av denne bruken at vi har kategorisert begrepet som en støtteerklæring i henhold til retningslinjene [om farlige organisasjoner og personer]». Den eneste referansen til denne regelen i de offentlig tilgjengelige standardene, var som et eksempel på utsagn som vil bryte forbudet mot støtteerklæringer. Blant andre eksempler inkluderte Meta en setning der noen kalte en dømt amerikansk terrorist for «martyr». I sin arabiske utgave av retningslinjene, brukte Meta det samme eksempelet, der de oversatte «martyr» til «shaheed». «Martyr»/«shaheed»-eksemplet ble fjernet ved oppdateringen av den offentlige standarden i desember 2023, selv om Meta har informert rådet om at ordet fortsatt regnes som et regelbrudd og at moderatorene deres blir bedt om å fjerne det.

6. Meta anvender ikke unntak fra retningslinjene om farlige organisasjoner og personer ved bruk av «shaheed» når ordet henviser til en svartelistet person. Disse unntakene åpner ellers for «rapportering om, nøytral diskusjon av eller fordømmelse av» svartelistede personer. Fjerning av innhold der «shaheed» brukes som en «støtteerklæring» til en svartelistet person, vil resultere i alvorlige advarsler for brukeren. Akkumulerte alvorlige advarsler vil raskere fører til sanksjoner, som for eksempel suspensjon eller deaktivering av brukerens konto eller side. Hvorfor unntakene fra regelen ikke gjelder for ordet «shaheed», er ikke forklart i standardene som er tilgjengelige for offentligheten.

7. Meta har forklart at måten de behandler ordet «shaheed» på, fremmer verdien «sikkerhet», fordi dette innholdet etter deres syn kan «bidra til økt risiko for fysisk skade». Samtidig erkjente de at det engelske ordet «martyr» ikke er en god nok oversettelse av «shaheed». Gitt de mange betydningene av «shaheed» og vanskeligheter med å redegjøre for kontekst og brukernes intensjoner på storskalanivå, aksepterte Meta at de har fjernet ytringer som «ikke bidrar til økt risiko for skade» og «ikke er ment å hylle en svartelistet person, spesielt blant arabisktalende». Dette gjelder for eksempel fjerning av innhold der «shaheed» brukes i nyhetsrapporter eller for nøytralt å diskutere en svartelistet person som har omkommet, der personen eller personens oppførsel ikke hylles (eller forherliges).

8. Den 29. august 2023 oppdaterte Meta unntakene sine fra retningslinjene om farlige organisasjoner og personer, slik at de nå inkluderer en definisjon av «nyhetsrapport», «nøytral diskusjon» og «fordømmelse», samt illustrerende eksempler på hvert unntak. Samtidig utvidet Meta beskrivelsen av denne tillatelsen til å anerkjenne at brukerne kan referere til svartelistede enheter «i sammenheng med sosial og politisk diskurs». Alle de illustrerende eksemplene på tillatt innhold ble fjernet som et ledd i oppdateringen av retningslinjene desember 2023, selv om selve unntaket består. Eksemplene ble gjeninnført i en oppdatering av retningslinjene den 8. februar 2024. Hverken oppdateringen fra desember 2023 eller den fra februar 2024 sier imidlertid eksplisitt at disse unntakene ikke gjelder for uklare eller kontekstløse referanser til svartelistede personer eller organisasjoner, siden selve innlegget ikke deler en tydelig intensjon.

9. Meta påbegynte en prosess for å videreutvikle retningslinjene sine i 2020. Der skulle de revurdere sin tilnærming til begrepet «shaheed». Denne inkluderte en analyse og en høring blant interessenter. Meta beskrev som et sentralt funn i dialogen med interessenter at betydningen av «shaheed» avhenger av konteksten, og at i enkelte tilfeller har ordet blitt atskilt fra betydningen som utgjør en hyllest. Samtidig finnes det uten tvil mange tilfeller der «shaheed» blir brukt og forstått som en støtteerklæring til en svartelistet person. Det er utfordrende, spesielt på storskalanivå, å skulle avgjøre hensikt i et enkelt innlegg. I denne prosessen, som angitt i forespørselen, identifiserte Meta to mulige alternativer til hvordan de for øyeblikket behandler ordet «shaheed». Det var imidlertid ingen konsensus blant interessentene om hvilket alternativ som var best, og Meta bestemte seg ikke for en ny tilnærming. Selskapet understreker at på grunn av volumet av innholdet på plattformen, er det av praktiske grunner viktig å vurdere om en håndhevelse av endrede retningslinjer kan gjennomføres på storskalanivå.

III. Endringer i retningslinjene som Meta ba rådet vurdere

10. Meta presenterte følgende alternativer som de ville at rådet skulle vurdere før de erstattet forbudet mot «støtteerklæringer» med et forbud mot «forherligelse» og «vage referanser»:

1) Selskapet kan fortsette med å fjerne alt innhold som bruker «shaheed» som referanse til en person som er svartelistet som farlig i henhold til retningslinjene om farlige organisasjoner og personer.

2) Selskapet kan tillate innhold som omtaler en svartelistet person som «shaheed» hvis følgende kriterier er oppfylt: (i) det brukes i en kontekst som er tillatt i henhold til retningslinjene om farlige personer og organisasjoner (for eksempel fordømmelse, nyhetsrapport, akademisk debatt og sosial/politisk diskurs); (ii) det ikke foreligger ytterligere hyllest av, representasjon av eller støtte til en svartelistet person (for eksempel hyller ikke innlegget spesifikt noen som har begått et terrorangrep, og det legitimerer ikke denne volden); og (iii) det er ingen signaler om vold i innholdet. Signalene, som foreslått av Meta, er som følger: en visuell skildring av våpen; en intensjonserklæring eller oppfordring om å bruke eller bære våpen; en referanse til militært språk; en henvisning til brannstiftelse, plyndring eller annen ødeleggelse av eiendom; henvisning til kjente voldshendelser i den virkelige verden; og intensjonserklæringer om, oppfordringer til, representasjon av eller støtte til vold mot mennesker.

3) Selskapet kan fjerne innhold som bruker «shaheed» som referanse til en person som er spesifisert som farlig i Metas retningslinjer om farlige organisasjoner og personer bare når det finnes en ytterligere støtteerklæring, representasjon av eller betydelig støtte til personen, eller eventuelt signaler om vold. Disse signalene er de samme som er angitt under alternativ to.

11. Både det andre og det tredje alternativet har som mål å oppnå en mer kontekstbasert forståelse av bruken av «shaheed», og de ser ikke ut til å avvike mye fra hverandre når det gjelder tiltenkte resultater. De to alternativene framstår enda tettere fordi Meta har utvidet omfanget av de kontekstbaserte unntakene fra forbudet mot støtteerklæringer (nå «forherligelse») generelt (se punkt 8 ovenfor). Rådet forstår det slik, etter å ha spurt Meta om forskjeller i bruken av og utfallet av disse to alternativene, at den viktigste forskjellen er at alternativ to vil kreve at Meta kan bekrefte at ett av unntakene (rapportering, nøytral diskusjon, fordømmelse) gjelder for innholdet, mens det tredje alternativet vil se bort fra dette trinnet og bare vurdere om innlegget også inneholder en ytterligere støtteerklæring (nå «forherligelse» eller «uklar referanser»), eller eventuelt minst ett av de seks oppførte signalene om vold. Når det gjelder samtlige av Metas foreslåtte alternativer, vil retningslinjene bli brukt på en måte som gjør at alt innhold som navngir eller skildrer svartelistede farlige personer som har en tvetydig eller uklar hensikt vil bli behandlet som et regelbrudd som standard. Dermed legges byrden med tydelig hensikt på brukeren. Endringene i desember 2023 legger dette inn i standarden om farlige organisasjoner og personer. Her forklares det at for nivå 1-enheter og svartelistede hendelser, forbyr retningslinjene «uklare eller kontekstløse referanser», noe som inkluderer «uklar humor, bildereferanser uten tilhørende tekst og positive referanser som ikke forherliger den spesifiserte enhetens vold eller hat». Et fotografi av en svartelistet person vil for eksempel, i mangel på ytterligere kommentarer, bli fjernet i henhold til retningslinjene, som forbyr vage referanser, fordi brukerens hensikt ikke er tilstrekkelig eksplisitt.

12. Rådet vurderte alternativene Meta presenterte, men vurderte også andre muligheter, der de tok retningslinjene fra desember 2023 i betraktning. I tillegg, gitt at Meta direkte ba rådet om anbefalinger rundt å håndtere lignende utfordringer i framtiden, vurderte rådet lignende spørsmål knyttet til Metas håndhevelse og åpenhet på områder som kommer fram i denne rådgivende uttalelsen, og som også har implikasjoner for ytringsfriheten og andre menneskerettigheter på et bredere plan.

IV. Spørsmål rådet stilte Meta

13. Rådet stilte Meta 41 skriftlige spørsmål. Spørsmålene handlet om begrunnelsen bak retningslinjene i standarden om farlige organisasjoner og personer; bevis på skader som kan oppstå ved å tillate «støtteerklæringer» på Metas plattformer; Metas manuelle og automatiserte prosedyrer, Metas prosess for svartelisting og selve svartelisten med enheter; Metas advarselssystem og de praktiske implikasjonene av å vedta alternativ to eller tre. I oktober 2023 stilte rådet oppfølgingsspørsmål om innholdstrender for ordet «shaheed» relatert til terrorangrepene mot Israel 7. oktober og Israels pågående militæroperasjon, og om Metas analyse av alternativene de presenterte for rådet i forespørselen sin hadde endret seg i lys av den nåværende krisen. Rådet stilte tre tilleggsspørsmål om Metas oppdatering av retningslinjene fra 29. desember 2023. Totalt 40 spørsmål ble besvart, mens ett ble delvis besvart. Meta oppga bare listen over svartelistede nivå 1-enheter til rådet, og de delte ikke listene med nivå 2- og 3-enheter. De forklarte at «støtteerklæringer» bare forbys når de refererer til nivå 1-enheter.

2. Involvering av interessenter

14. Tilsynsrådet mottok 101 offentlige kommentarer som oppfylte vilkårene. Det kom 72 kommentarer fra USA og Canada; 15 kom fra Midtøsten og Nord-Afrika; åtte fra Europa; tre fra Asia og stillehavsregionen med Oseania; to fra Latin-Amerika og Karibia; og én fra Sentral- og Sør-Asia. Alle ble mottatt før 10. april 2023. Du kan lese de offentlige kommentarene som ble sendt inn med samtykke til publisering ved å klikke her.

15. Kommentarene dekket en rekke problemstillinger. Mange forklarte de ulike betydningene av ordet «shaheed», og følgelig den negative innvirkningen Metas standardbehandling av dette begrepet som en «støtteerklæring» har på ytringsfriheten – spesielt politiske ytringer og dokumentasjon av brudd på menneskerettighetene. Kommentarene vedrørte også bekymringer rundt bruken av automatisering i håndhevelse av regler, samt Metas svarteliste, åpenhet og potensiell skjevhet i prosessen med svartelisting. Andre kommentarer uttrykte bekymring for at endringer i retningslinjene kan føre til en normalisering av terrorgrupper og øke volden, spesielt i Israel og de okkuperte palestinske områdene.

16. Rådet holdt tre regionale rundebordskonferanser med interessenter fra Sørvest-Asia og Nord-Afrika, Afrika sør for Sahara og Sørøst-Asia. I tillegg var det to tematiske rundebordskonferanser; én om automatisering i innholdsmoderering, og én om terrorbekjempelse og menneskerettigheter. Deltakerne understreket også her at ordet «shaheed» har mange betydninger. Martyrdøden er én mulig tolkning, inkludert der personer har utført en terrorhandling, men «shaheed» brukes også ofte i andre sammenhenger, for eksempel for å beskrive ofre for vold i disse angrepene. Mange deltakere, inkludert berørte samfunnsmedlemmer, antiterroreksperter og eksperter på innholdsmoderering, uttrykte bekymring for skjevhet i retningslinjene og diskuterte hvordan dette påvirker ytringsfriheten negativt, spesielt for arabisktalende og andre samfunn som bruker «shaheed». Andre temaer var mangelen på bevis som viser en årsakssammenheng mellom bruken av «shaheed» i referanse til svartelistede personer og skader i den virkelige verden, noe som også ble understreket av eksperter på nasjonal sikkerhet og terrorbekjempelse. Det ble også uttrykt bekymringer for at en fullstendig manglende moderering av begrepet vil medføre en normalisering av svartelistede personer og organisasjonene deres. Disse kan da bruke sosiale medier til rekruttering og til å oppnå andre former for støtte. Andre temaer var bekymring rundt kvaliteten på automatiseringen som Meta bruker ved innholdsmoderering av begrepet og oppfordringer fra deltakerne om mer åpenhet rundt bruken av dem, og også rundt Metas svarteliste og prosedyrer når det gjelder svartelistede enheter.

17. Du finner en rapport om rundebordskonferansene våre for interessenter ved å klikke her (for arabisk versjon, klikk her).

3. Tilsynsrådets myndighet og virkeområde

18. Meta kan be om rådgivende uttalelser rundt retningslinjer fra rådet (vedtektenes artikkel 3, punkt 7.3), og rådet kan etter eget skjønn akseptere eller avvise Metas forespørsler (forskriftenes artikkel 2, punkt 2.1.3). Disse meningene er rådgivende (jamfør vedtektene; artikkel 3, punkt 7.3). Meta er pålagt å svare på denne uttalelsen innen 60 dager etter publisering (forskriftenes artikkel 2, punkt 2.3.2). Rådet følger med på implementeringen av anbefalinger som Meta har forpliktet seg til å følge, og de kan følge opp tidligere anbefalinger fra saksavgjørelser.

4. Ekspertkilder og -veiledning

I. Tidligere anbefalinger fra tilsynsrådet

19. I tidligere saker har rådet anbefalt at Meta tydeliggjør og begrenser omfanget av retningslinjene om farlige organisasjoner og personer, og at de forbedrer prosessene sine og har mer åpenhet rundt håndhevelsen av regelverket.

20. Når det gjelder å forbedre klarheten i retningslinjene og begrense omfanget av dem, har rådet anbefalt at Meta gjør følgende:

• Selskapet må begrense definisjonen av «støtteerklæring» i veiledningen med kjente spørsmål for moderatorer (se saken «Omtale av Taliban i nyhetsrapport», anbefaling 3).
• Meta bør revidere den interne veiledningen for å gjøre det klart at unntaket for rapportering i retningslinjene om farlige organisasjoner og personer tillater positive uttalelser om svartelistede enheter som en del av rapporteringen, og hvordan man kan skille dette fra forbudte «støtteerklæringer» (se saken «Omtale av Taliban i nyhetsrapport», anbefaling 4).
• De bør legge til kriterier og illustrerende eksempler i retningslinjene for å øke folks forståelse av unntakene for nøytral diskusjon, fordømmelse og nyhetsrapportering (se saken «Delt Al Jazeera-innlegg», anbefaling 1).
• Begrunnelsen bak retningslinjene bør oppdateres for å gjenspeile at respekt for ytringsfriheten og andre menneskerettigheter kan fremme Meta-verdien «sikkerhet», og også for å spesifisere mer detaljert hvilke «fysiske skader» retningslinjene ønsker å forhindre når verdien «stemme» undertrykkes (se saken «Öcalans isolasjon», anbefaling 4).
• Meta må forklare hvordan brukerne kan tydeliggjøre intensjonen bak innleggene sine, slik at innleggene kan dra nytte av unntak fra retningslinjene (se saken «Öcalans isolasjon», anbefaling 6).
• De må forklare og gi eksempler på bruken av nøkkelbegreper i retningslinjene om farlige organisasjoner og personer, inkludert betydningen av «støtteerklæring», og de må gi tydeligere veiledning til brukerne om hvordan man kan synliggjøre intensjonen bak innlegget sitt (se saken «Nazi-sitat, anbefaling 2).

21. Når det gjelder Metas advarselssystem, har rådet anbefalt følgende:

• Meta bør forklare rutinene sine for advarsler og straff når det gjelder å begrense profiler, sider, grupper og kontoer på Facebook og Instagram på en klar, omfattende og lett tilgjengelig måte (se saken «Tidligere president Trumps suspensjon», anbefaling 15).
• Den offentlige forklaringen av selskapets advarselssystem med to spor må gjøres mer omfattende og tilgjengelig, og det må oppgis mer bakgrunnsinformasjon om «kraftige sanksjoner» (se saken «Omtale av Taliban i nyhetsrapport», anbefaling 2).
• Facebook bør også gi brukere tilgjengelig informasjonom hvor mange brudd, advarsler og straffer som er registrert for dem, samt om hvilke konsekvenser fremtidige brudd vil få (se saken «Tidligere president Trumps suspensjon», anbefaling 16).

22. Når det gjelder åpenhet, har rådet anbefalt at Meta gjør følgende:

• De må dele listen de har over svartelistede enheter offentlig, eller i det minste gi illustrerende eksempler på svartelistede enheter (se saken «Nazi-sitat», anbefaling 3).
• Selskapet må forbedre rapporteringen sin ved å ta med antall profil-, side- og kontorestriksjoner (i tillegg til beslutninger om fjerning av innhold), der informasjonen er delt opp etter region og land (se saken «Tidligere president Trumps suspensjon», anbefaling 17).
• Meta bør inkludere mer omfattende informasjon om feilrater rundt håndhevelsen av regler om «støtteerklæringer» og andre former for støtte til farlige personer og organisasjoner, fordelt på region og språk (se saken «Öcalans isolasjon», anbefaling 12 ).
• De bør oppgi mer offentlig informasjon om feilrater og gjøre den synlig etter land og språk for hver standard (se saken «Punjabi-bekymring rundt RSS i India», anbefaling 3).

23. Når det gjelder automatisering, har rådet anbefalt at Meta gjør følgende:

• De bør informere brukerne når automatisering brukes til å iverksette tiltak mot innholdet deres, inkludert tilgjengelige beskrivelser av hva dette betyr (se saken «Brystkreftsymptomer og nakenhet», anbefaling 3).
• Meta bør også utvide åpenhetsrapporteringen sin til å omfatte data om antall automatiske beslutninger om fjerning i henhold til standarden, og hvor stor andel av disse beslutningene som senere ble reversert etter manuell vurdering» («Brystkreftsymptomer og nakenhet», anbefaling 6).
• Selskapet bør i åpenhetsrapporteringen sin publisere feilrater for innhold som feilaktig har havnet på lister for mediematching på grunn av krenkende innhold, oppdelt etter retningslinjer. Slike rapporter bør inneholde informasjon om hvordan innhold havner på listene og hva selskapet gjør for å redusere feil i prosessen (se saken «Polititegning i Colombia», anbefaling 3).
• Meta bør gi en offentlig forklaring på automatisk prioritering og lukking av anker (se saken «Protestslagord i Iran», anbefaling 7).

24. Du kan se hvor langt implementeringen hadde kommet for disse tidligere anbefalingene da denne uttalelsen ble avsluttet ved å klikke her (for arabisk versjon, klikk «her»).

II. Metas verdier og menneskerettighetsansvar

25. Rådets analyser og anbefalinger i denne rådgivende uttalelsen har Metas verdier og menneskerettighetsansvar som grunnlag.

26. Meta beskriver «stemme» som en overordnet verdi, og de bemerker at den kan begrenses til fordel for fire andre verdier, der «sikkerhet» er mest relevant for denne rådgivende uttalelsen. For å beskytte verdien «sikkerhet» fjerner Meta innhold «som kan bidra til risiko for fysisk skade på personer». De tillater heller ikke «innhold som truer andre», siden det «potensielt kan skremme, ekskludere eller stilne andre personer».

27. Den 16. mars 2021 kunngjorde Meta sine bedriftsretningslinjer for menneskerettigheter. Her beskriver de sin forpliktelse til å respektere rettigheter i henhold til FNs veiledende prinsipper for næringsliv og menneskerettigheter (UNGP). UNGP-ene ble godkjent av FNs menneskerettighetsråd i 2011 og etablerer et frivillig rammeverk for private bedrifters menneskerettighetsansvar. Disse forplikter blant annet selskaper til å «unngå å krenke andres menneskerettigheter og håndtere sin negative effekt på menneskerettighetene» (prinsipp 11 i UNGP). Selskaper forventes å: «(a) unngå å forårsake eller bidra til ugunstig effekt på menneskerettighetene gjennom sine egne aktiviteter, og håndtere slike effekter når de oppstår; (b) forsøke å forhindre eller dempe alle negative effekter på menneskerettighetene som er direkte knyttet til virksomhet, produkter eller tjenester gjennom selskapets forretningsforhold, også om de ikke selv har bidratt til disse effektene» (prinsipp 13 i UNGP).

28. Som Metas forespørsel til rådet erkjenner, kan selskapets rutiner for innholdsmoderering ha negative konsekvenser for retten til ytringsfrihet. Artikkel 19, § 2 i «Konvensjon om sivile og politiske rettigheter» (ICCPR) gir bred beskyttelse for denne retten, gitt at den har stor betydning for politisk diskurs, og menneskerettighetskomiteen har bemerket at den også skal beskytte ytringer som kan være dypt støtende (generell kommentar 34, §§ 11, 13 og 38). Når restriksjoner av ytringer pålegges av en stat, skal de oppfylle kravene til legalitet, legitimt formål, nødvendighet og proporsjonalitet (artikkel 19, § 3 i ICCPR). Disse kravene blir ofte referert til som en «tredelt test.» Rådet bruker dette rammeverket til å tolke Metas frivillige menneskerettighetsforpliktelser, både når det gjelder den enkelte innholdsbeslutningen som vurderes og Metas bredere tilnærming til innholdskontroll. Som FNs spesialrapportør for menings- og ytringsfrihet: «Selv om selskaper ikke har samme forpliktelser som offentlige myndigheter, har de en påvirkningskraft som krever at de foretar vurderinger for å beskytte brukernes ytringsfrihet» (rapport A/74/486, § 41).

29. Retten til ytringsfrihet er garantert for alle mennesker, uten unntak. Alle restriksjoner av denne retten må være ikke-diskriminerende, inkludert på grunnlag av religion eller tro, språk og nasjonal opprinnelse (artikkel 2 og 26, ICCPR).

Legalitet (tydelige og tilgjengelige regler)

30. Enhver begrensning av ytringsfriheten skal være lett tilgjengelig og tydelig nok i omfang, mening og effekt til å fungere som en veiledning for brukere og innholdsmoderatorer om hvilket innhold som er tillatt og hva som er forbudt. Mangel på klarhet eller presisjon kan føre til inkonsekvent og vilkårlig håndhevelse av reglene (jamfør FNs spesialrapportør, rapport «A/HRC/38/35», § 46). Rådet har tidligere kritisert mangelen på klarhet i retningslinjene om farlige organisasjoner og personer og kommet med anbefalinger til Meta om å forbedre retningslinjene (se sakene «Öcalans isolasjon», anbefaling 4 og 6; «Delt Al Jazeera-innlegg», anbefaling 1; «Omtale av Taliban i nyhetsrapport», anbefaling 3 og 4). Meta har i ettertid implementert rådets anbefalte tiltak for å tydeliggjøre definisjonen av «støtteerklæring».

31. Metas oppdatering av retningslinjene om farlige organisasjoner og personer i desember 2023 fører imidlertid til nye bekymringer rundt legalitet. Selv om Meta kommer med eksempler på innlegg som bryter forbudet mot «representasjon», «støtte» og «forherligelse», gir de ingen eksempler på brudd på grunn av «vage referanser». Rådets anbefalinger i denne rådgivende uttalelsen om retningslinjer tar sikte på å forbedre klarheten og tilgjengeligheten til Metas regler ytterligere.

Legitime mål

32. Artikkel 19, § 3 i ICCPR sier at enhver restriksjon av ytringsfriheten skal ha et legitimt mål, noe som inkluderer å beskytte andres rettigheter eller bredere samfunnsinteresser, som for eksempel nasjonal sikkerhet (se også generell kommentar 34, §§ 21 og 30). Metas begrunnelse bak retningslinjene i standarden om farlige organisasjoner og personer forklarer at de har som mål å «forhindre og forebygge skader i den virkelige verden», noe rådet i ulike saker har konkludert med at er i tråd med det legitime målet om å beskytte andres rettigheter, inkludert retten til liv (artikkel 6 i ICCPR). Rådet har også tidligere erkjent at støtteerklæringer til svartelistede enheter kan utgjøre en risiko mot andres rettigheter, og at det å forsøke å redusere disse skadene gjennom et forbud mot støtteerklæring i standarden om farlige organisasjoner og personer, har et legitimt mål (jamfør saken «Omtale av Taliban i nyhetsrapport»).

Nødvendighet og proporsjonalitet

33. Enhver begrensning av ytringsfriheten «må være hensiktsmessig for å oppnå sin beskyttende funksjon; den må være minst det mulig påtrengende tiltaket for å oppnå den beskyttende funksjonen og være proporsjonal med interessen som skal beskyttes» (generell kommentar 34, § 34).

34. «FNs sikkerhetsråds resolusjon 1624» (2005) oppfordrer stater, i den grad det er nødvendig og hensiktsmessig – og i samsvar med deres forpliktelser i henhold til folkeretten – om å «forby ved lov alle oppfordringer til å begå terrorhandlinger» (§ 1a). Påfølgende resolusjoner har også uttrykt bekymring for terrororganisasjoners bruk av Internett (UNSC-resolusjon 2178 (2014) og UNSC-resolusjon 2396 (2017)). Disse resolusjonene understreker at stater skal adressere og forhindre terrorisme i tråd med forpliktelser de har i henhold til internasjonal menneskerettighetslov. FNs spesialrapportør har imidlertid uttalt at til tross for at beskyttelsen av menneskerettighetene og grunnleggende friheter har som mål å bekjempe terrorisme, finnes det vagheter i de lovene som skal sørge for at disse forpliktelsene blir oppfylt. Det gjelder også lover knyttet til ytringer på Internett, inkludert at de fokuserer på selve innholdet i ytringen i stedet for på hensikten bak eller påvirkningen som ytringen har på andre (rapport «A/HRC/40/52 », punkt 37). Spesialrapportøren konkluderte med at kriminalisering av terrorpropaganda «krever en rimelig sannsynlighet for at den aktuelle ytringen vil lykkes med å oppfordre til en terrorhandling, og dermed etablere en grad av kausalitet eller reell risiko for at det nevnte resultatet inntreffer» (samme kilde). «Felleserklæringen om Internett og tiltak mot terrorisme» fra FNs spesialrapportør for ytringsfrihet, OSSEs representant for mediefrihet og OAS’ spesialrapportør for ytringsfrihet, fra 21. desember 2005, sier at uten tydelig å vise at den aktuelle ytringen utgjør en direkte og forsettlig oppfordring til andre om å delta i terrorhandlinger, og direkte øker sannsynligheten for at en terrorhandling vil inntreffe, kan ikke en stat begrense og sanksjonere ytringer med straffereaksjoner (s. 39). Spesialrapportøren for ytringsfrihet har også fastsatt en høy terskel i rapport «A/HRC/17/27» (16. mai 2011, § 36). Her bemerkes det at ytringen bare bør begrenses for å ivareta nasjonal sikkerhet eller bekjempe terror når: «(a) ytringen er ment å oppfordre til vold; (b) det er sannsynlig at ytringen oppfordrer til vold; og (c) det er en direkte og umiddelbar sammenheng mellom ytringen og sannsynligheten eller forekomsten av vold». Menneskerettighetskomiteen sier at når tiltak mot terrorisme forbyr visse ytringer, må begreper som «oppmuntring», «forherligelse» og «støtteerklæring» være «snevert definert», og tiltakene må ikke «unødig begrense medienes avgjørende rolle i å informere offentligheten om terrorhandlinger» («generell kommentar 34», §§ 30 og 46).

35. Selv om disse prinsippene og standardene er et viktig utgangspunkt for rådets analyse, er ikke forpliktelsene og begrensningene som internasjonal menneskerettighetslov pålegger stater identiske med ansvaret og skjønnet som et privat selskap kan ha på dette området. Straffesanksjoner fra en stat er ikke det samme som å moderere innhold på en sosial medieplattform. Rådet erkjenner at Meta som et privat selskap kan komme til å velge en tilnærming til ytringer som er mer restriktiv enn det som ville vært forsvarlig for en stat, tatt i betraktning både med hensyn til selskapets verdier (se §§ 27–28 ovenfor) og de særegne utfordringene med å moderere innhold på storskalanivå. FNs spesialrapportør for ytringsfrihet har uttalt følgende: «Når et selskaps regler avviker fra internasjonale standarder, bør selskapet gi en begrunnet forklaring på forskjellen i retningslinjene på forhånd, på en måte som uttrykker variasjonen» (rapport om hatefulle ytringer på Internett fra spesialrapportøren for ytringsfrihet «A/74/486», 9. oktober 2019, § 48). I mange av sine tidligere beslutninger har rådet undersøkt hvordan man på en hensiktsmessig måte kan oversette internasjonale standarder som er utformet for stater til et selskaps menneskerettighetsansvar, når de vurderer kravet om proporsjonalitet, slik det også har som mål å oppnå med denne rådgivende uttalelsen.

36. Tidligere vedtak fra rådet knyttet til standarden om farlige organisasjoner og personer har også undersøkt Metas menneskerettighetsansvar når det gjelder «støtteerklæringer» til svartelistede enheter. Det er et legitimt mål å forhindre at Metas plattformer misbrukes av svartelistede enheter som har som mål å oppfordre til vold eller prøve å rekruttere eller oppnå annen støtte. Rådet har imidlertid funnet ulike tilfeller der bredden eller unøyaktigheten av forbudet mot «støtteerklæringer» i unødvendig og uforholdsmessig grad har begrenset brukernes ytringer. Rådet omgjorde for eksempel fjerningen av et innlegg på urdu fra en avis om en Taliban-kunngjøring vedrørende planer om å gjeninnføre kvinners og jenters rett til utdanning, der de besluttet at det ikke var snakk om noen «støtteerklæring» (se saken «Omtale av Taliban i nyhetsrapport»). De omgjorde på samme måte Metas fjerning av en brukers innlegg som feilaktig tilskrev et sitat til Joseph Goebbels (se saken «Nazi-sitat») fordi det var tilstrekkelig kontekst til å gjøre det klart at innlegget ikke hyllet nazistenes ideologi, men var en del av en politisk diskusjon i USA. Rådet omgjorde også Metas beslutning om å fjerne et innlegg som delte en nyhetsartikkel fra Al Jazeera som rapporterte en svartelistet terrorgruppes trussel om vold, som skulle ha vært tillatt på plattformen. Dette skapte en bekymring rundt de potensielt diskriminerende virkningene av Metas retningslinjer (se saken «Delt Al Jazeera-innlegg»). I oppsummerte og framskyndede avgjørelser har rådet også omgjort, eller bedt om omgjøring av, flere Meta-beslutninger om å fjerne Facebook- og Instagram-innlegg som opprinnelig ble fjernet som støtteerklæringer for svartelistede personer (se sakene «Antikoloniallederen Amílcar Cabral» ; «Libanesisk aktivist»; «Reaksjon på antisemittisme»; «Føderal valgkrets i Nigeria»; «Skolegang for jenter i Afghanistan»; Omtale av Al-Shabaab; «Priset være Gud»; og «Gisler kidnappet fra Israel»). Mange av disse avgjørelsene er fortsatt relevante, til tross for Metas nylige endringer i retningslinjene om farlige organisasjoner og personer. Rådet vil fortsatt undersøke disse retningslinjene i framtidige saker, inkludert når det gjelder de nye bestemmelsene om forherligelse og «vage referanser».

6. Anbefalinger og analyser

37. Tilsynsrådet kommer med sju anbefalinger til Meta rundt ulike retningslinjer for innhold, håndhevelse og åpenhet. Rådet mener at disse anbefalingene kan brukes på storskalanivå og vil støtte opp under Metas etterlevelse av selskapets verdier «stemme» og «sikkerhet». Samtidig vil de øke respekten for ytringsfriheten og andre menneskerettigheter og bidra til mer åpenhet.

6.1 Metas «Shaheed»-retningslinjer

Anbefaling 1 – Retningslinjer for innhold: Meta bør slutte å anta at ordet «shaheed», når det brukes til å referere til en svartelistet person eller ikke-navngitte medlemmer av svartelistede organisasjoner, alltid er i strid med reglene og ikke er kvalifisert for unntak fra retningslinjene. Innhold som refererer til en svartelistet person som «shaheed», bør fjernes som en «uklar referanse» ved bare to tilfeller. For det første bør det fjernes når ett eller flere av tre voldssignaler er til stede: en visuell skildring av bevæpning eller et våpen, en intensjonserklæring eller oppfordring om å bruke eller bære våpen, eller en referanse til en spesifisert hendelse. For det andre bør innholdet fjernes når det på annen måte bryter Metas retningslinjer (for eksempel ved forherligelse, eller fordi referansen til en svartelistet person er uklar av andre grunner enn bruken av «shaheed»). I begge scenariene bør innhold fortsatt være kvalifisert for unntak ved «rapportering, nøytral diskusjon eller fordømmelse».

Rådet vil anse denne anbefalingen som implementert når Meta offentlig oppdaterer standardene sine slik at de spesifiserer at referanser til svartelistede personer som «shaheed» ikke er tillatt når ett eller flere av de tre angitte signalene om vold er til stede.

Anbefaling 2 – Retningslinjer for innhold: For å tydeliggjøre forbudet mot «vage referanser» bør Meta vise flere eksempler på innhold som bryter reglene, inkludert et innlegg som refererer til en svartelistet person som «shaheed» kombinert med ett eller flere av de tre voldssignalene som er spesifisert i anbefaling 1.

Rådet vil anse denne anbefalingen som implementert når Meta offentlig oppdaterer standardene sine med eksempler på «vage referanser».

Anbefaling 3 – Håndhevelse: Metas interne retningslinjer bør også oppdateres for å gjøre det klart at det å referere til svartelistede personer som «shaheed» ikke er regelbrudd så lenge det ikke er ledsaget av signaler om vold, og at selv når disse signalene er til stede, kan innholdet falle inn under uttaket for «rapportering, nøytral diskusjon eller fordømmelse».

Rådet vil anse denne anbefalingen som implementert når Meta har oppdatert veiledningen til moderatorer, slik at «shaheed» kan dra nytte av unntaket for rapportering, nøytral diskusjon eller fordømmelse, og Meta deler denne oppdaterte veiledningen med rådet.

38. Selv om det er av avgjørende betydning at Meta forsøker å forhindre at plattformene deres blir brukt til å oppfordre til terror – et legitimt mål med retningslinjene om innholdsmoderering – krever Metas menneskerettighetsansvar at eventuelle begrensninger på ytringer er nødvendige og proporsjonale, ikke minst for å respektere stemmen til mennesker i lokalsamfunn som er berørt av vold. Selv om én betydning av «shaheed» tilsvarer det engelske ordet «martyr» og brukes på den måten, mener rådet at det ikke er nødvendig eller proporsjonalt for Meta å fjerne alt innhold utelukkende fordi ordet «shaheed» brukes som referanse til svartelistede personer. Det kategoriske forbudet tar ikke hensyn til begrepets språklige kompleksitet. Dermed fører forbudet til en altfor omfattende fjerning av ytringer. Dette begrenser mediefriheten og det offentlige rommet i unødig grad, og det gir alvorlige negative konsekvenser for likebehandling og ikke-diskriminering. Dersom anbefalingen fra rådet blir akseptert og implementert, vil detaljene i Metas retningslinjer som forbyr «forherligelse» og «vage referanser» på mer generelt nivå fortsatt være gjeldende. Meta bør derfor slutte å fjerne innhold utelukkende basert på tilstedeværelsen av ordet «shaheed». I stedet bør Meta velge en mer kontekstuell tilnærming og definere klart og mer snevert hvilke signaler om vold som vil føre til at «shaheed» blir tolket som skadelig. Som forklart nedenfor, støtter rådet kun to av de seks signalene Meta foreslo i forespørselen sin, og de anbefaler innsnevring av et tredje. De tre andre som Meta foreslo – og som gis som veiledning til moderatorene som skal håndheve de separate retningslinjene om vold og oppfordring til vold – er for brede for det som er formålet med retningslinjene om farlige organisasjoner og personer. Rådet anbefaler samtidig at Meta anvender unntak for innhold som rapporterer om, fordømmer eller nøytralt diskuterer en svartelistet enhet når det er signaler om vold. Anbefalingene ovenfor gjelder for «shaheed» i entalls- og flertallsformer, og også for varianter av «shaheed» på de mange språkene som har tatt i bruk begrepet.

39. Rådet konsulterte ulike eksperter og interessenter for å vurdere de potensielle skadevirkningene ved å tillate innhold som bruker begrepet «shaheed» som referanse til svartelistede enheter på Metas plattformer. Noen interessenter var bekymret for at Metas plattformer kan brukes til å spre propaganda og til rekruttering av terrorister, og også til å fremme diskriminering eller vold, inkludert mot jøder (se offentlige kommentarer som for eksempel PC-11123 – CyberWell Ltd; PC-11153 – Stopp antisemittismen nå; PC-11194 – Committee for Accuracy in the Middle East; PC-11068 – Canadian Antisemitism Education Foundation). Selv om det ikke finnes noen forskning som viser en konkret årsakssammenheng mellom «shaheed» og økningen i vold eller diskriminering (som nevnt tidligere i Metas henvisning på side 10, og som fulgte av innspill fra eksperter og interessenter som Meta selv initierte før de ba om råd rundt retningslinjene), er det enkeltsaker der et ønske om martyrdød kan knyttes til voldelige handlinger. Mer generelt er det en utbredt bekymring om at sosiale medier kan brukes av voldelige organisasjoner til rekruttering og til å fremme terrorhandlinger. Dette kan bidra til å normalisere terrorisme og legge til rette for ekstremisme. Rådet har utført et omfattende arbeid med ulike interessenter og eksperter, inkludert en rundebordskonferanse med antiterroreksperter (se Rundebordskonferanse for interessenter). Dette arbeidet har validert antagelsene og bekymringene.

40. Tallrike kommentarer fra eksperter og interessenter til rådet har også beskrevet negative konsekvenser for ytringsfriheten som følge av fjerning av innhold som bruker begrepet «shaheed» (se offentlige kommentarer som for eksempel PC-11196 – Integrity Institute; PC-11164 – SMEX, PC-11183 ECNL EFF, PC-11190 – Brennan Centre; PC-11188 – Digital Rights Foundation). Dette inkluderer fjerning av ytringer der begrepet «shaheed» ikke brukes for å hylle eller forherlige svartelistede enheter, men for å rapportere om vold fra terrorister eller andre svartelistede organisasjoner, eller for å delta i nøytrale politiske eller akademiske diskusjoner om svartelistede personer.

41. Følgende eksempler kan illustrere Metas tilnærming når de fjerner innhold som refererer til en svartelistet person som «shaheed»:

• En regjering deler en pressemelding på Metas plattformer om at en svartelistet person er omkommet. Her brukes det ærefulle begrepet «shaheed» sammen med navnet på personen. Dette innlegget vil bli fjernet, ettersom Meta antar at denne bruken av begrepet «shaheed» er et regelbrudd, uavhengig av konteksten som indikerer at dette er en nøytral diskusjon.
• En bruker deler et bilde av en demonstrasjon vedkommende deltar i, men uten en tydelig bildetekst som forklarer formålet med demonstrasjonen. Flere plakater navngir en avdød svartelistet person sammen med ordet «shaheed». Dette innlegget vil bli fjernet, ettersom Meta antar at bildet med plakater som navngir den svartelistede personen, kombinert med begrepet «shaheed», er et regelbrudd.
• En menneskerettighetsforkjemper deler et innlegg som beskriver med ord at en svartelistet person er henrettet av staten. Personen omtales som «shaheed», og innlegget fordømmer regjeringens tiltak mot terror. Dette innlegget vil bli fjernet, ettersom Meta antar at begrepet «shaheed» her er et regelbrudd, uavhengig av at konteksten er en rapport.
• Et bekymret samfunnsmedlem legger ut en klage på tilstanden til en lokal vei som er oppkalt etter en svartelistet person, der også det ærefulle begrepet «shaheed» er brukt i innlegget. Dette vil bli fjernet, ettersom Meta antar at begrepet «shaheed» er et regelbrudd, uavhengig av at omtalen av den svartelistede personen er der tilfeldig i en diskusjon om en lokal sak.
• Et familiemedlem omtaler en slektning som ble drept i et terrorangrep som «shaheed» og fordømmer angriperne, som er svartelistede personer. Selv om dette innlegget ikke skal utgjøre et regelbrudd, inneholder det en kombinasjon av «shaheed» og navngitte gjerningspersoner. Dette er illustrerende for innhold som vil føre til feilaktig fjerning, gitt Metas kategoriske tilnærming.

42. Noen interessenter uttrykte bekymring for at en mindre restriktiv tilnærming til bruken av «shaheed» kan ha den kumulative effekten, på storskalanivå, at terrorisme normaliseres. Selv om det ikke kan benektes at «shaheed» i noen tilfeller er ment å støtte en person og denne personens voldelige handlinger, anser ikke rådet at retningslinjenes generelle forbud mot ordet er rettferdiggjort utelukkende på grunnlag av dette. I lys av informasjonen som rådet har mottatt fra interessenter – inkludert antiterroreksperter og Metas tidligere analyser og interessentkonsultasjoner – konkluderer rådet med at bekymringene for at slike tilfeller potensielt kan ha betydelige kumulative skadevirkninger, oppveies av den utvilsomt negative effekten de eksisterende retningslinjene har på ytringsfriheten. Dette gjelder spesielt fordi at selv om rådets anbefalinger implementeres, finnes det fortsatt et betydelig rammeverk for å forhindre vold og andre skader som følge av at terrorister og støttespillerne deres fritt får bruke Metas plattformer.

43. Rådet så også at «shaheed» har ulike betydninger og ofte brukes på måter som ikke oppfordrer til vold eller hat, men snarere for å rapportere om saker av offentlig interesse. Håndhevelse av et generelt forbud betyr at man vil fjerne mye innhold som ikke skaper de skadevirkningene som Metas retningslinjer har som mål å redusere. Moderering av innhold på storskalanivå krever noen ganger at man godtar en viss prosentandel av håndhevelsesfeil, men Meta har et ansvar for å foreta avveininger basert på selskapets ulike former for menneskerettighetsansvar. Basert på alle disse hensynene, konkluderer rådet med at tilnærmingen de foreslår er den som best forener Metas ulike menneskerettighetsansvar.

«Shaheed» i kulturelt og religiøst perspektiv, og et mangfold av betydninger

44. «Shaheed» er et kulturelt og religiøst viktig begrep som brukes i mange ulike sammenhenger og har ulike betydninger. Offentlige kommentarer som ble sendt til rådet og analyser på oppdrag fra rådet, ga ytterligere innsikt om begrepet. «Shaheed» kan bety «bevitne» eller «vitne». Det brukes også som et islamsk fornavn, og i noen regioner, blant annet i Vest-Asia og Nord-Afrika, som etternavn (se offentlige kommentarer som for eksempel PC-11196 – Integrity Institute; PC-11164 – SMEX). «Shaheed» brukes også til å referere til mennesker som dør mens de utfører en religiøs plikt. I væpnede konflikter eller voldelige angrep, inkludert hendelser der svartelistede organisasjoner er involvert, minnes folk noen ganger ofrene for vold og terrorisme ved å referere til dem som «shaheed» (se offentlige kommentarer som for eksempel PC-11164 – SMEX; PC-11197, der den newzealandske regjeringen beskrev ofrene for skytingen i Christchurch som «shuhada», som er flertall av «shaheed"; PC-11196 fra Integrity Institute, som framhever at marginaliserte muslimske samfunn, inkludert rohingyaene, i noen land omtaler flyktninger som har blitt tvunget ut av Myanmar på grunn av forfølgelse basert på religion eller tro som «shaheed»). Kvantitative analyser på innhold som har blitt lagt ut og fortsatt ligger på Metas plattformer, som rådet bestilte fra Memetica, indikerer at «shaheed» er mye brukt som referanse til personer som dør mens de tjener landet sitt, arbeider for en viktig sak eller blir et uventet offer for sosiopolitisk vold eller naturkatastrofer. Selv om disse innleggene ikke nødvendigvis assosierte «shaheed» med en svartelistet person, illustrerer eksemplene som er nevnt tidligere (se punkt 41) hvordan de mange betydningene og bruken av «shaheed» også er relevante i den sammenhengen.

45. Etter de Hamas-ledede terrorangrepene mot Israel og den påfølgende israelske militæraksjonen i Gaza i oktober 2023, bestilte rådet ytterligere analyser av innholdstrender rundt bruk av ordet «shaheed». Av de mer enn 12 000 offentlige innleggene som ble gjennomgått i denne analysen, var det bare to som støttet Hamas. Nesten all bruk er knyttet til beskrivelser av palestinske ofre på Gazastripen, uten omtale av noen svartelistet organisasjon eller enkeltperson. Innleggene omhandlet ofte palestinere som sørget over tapet av sine kjære, mens andre viste sårede palestinske barn og/eller kjølvannet av luftangrep i Gaza. Det ble stilt flere spørsmål til Meta, siden analytikernes tilgang til innholdstrender er begrenset til offentlig innhold som får bli liggende på plattformene, og ikke inkluderer innhold som blir fjernet av Meta for brudd på retningslinjene om farlige organisasjoner og personer. Metas svar forsterket funnene fra analysene. Etter selskapets syn viste innholdstrendene under krisen ingen endring i bruken eller forståelsen av ordet «shaheed» sammenlignet med før disse hendelsene.

46. Disse ulike betydningene indikerer at Metas standardantagelse om at bruken av «shaheed» utgjør et regelbrudd og fører til skade i den virkelige verden, og derfor alltid bør fjernes, påfører ytringsfriheten globale skader som må håndteres. Meta forklarte at «shaheed» sannsynligvis er det mest modererte ordet på plattformene deres, og ulike interessenter har observert at rapporter om svartelistede enheter og voldshandlinger ofte fjernes av Meta (se «Forespørsel om en rådgivende uttalelse» på side 3). Denne tilnærmingen til «shaheed» er et eksempel på at selskapet prioriterer klare (åpenbare) distinksjoner ved håndhevelse på storskalanivå. Selv om slike distinksjoner i prinsippet noen ganger kan være hensiktsmessige fordi innholdsmoderering på storskalanivå ofte innebærer vanskelige avveininger, konkluderer rådet i denne saken med at standardvalget om at «shaheed» alltid skal fjernes i forbindelse med en svartelistet person, ikke er berettiget og må endres. Som Meta selv innrømmer, klarer de ikke med dagens tilnærming å ta hensyn til språklig og kulturell kontekst, noe som resulterer i betydelig overhåndhevelse på to måter. For det første resulterer det i fjerning av innhold som ikke er ment som en støtteerklæring eller forherligelse, men som likevel bryter retningslinjene fordi Meta har valgt å anta at bruken av ordet «shaheed» alltid bryter reglene deres. For det andre øker det antallet feilaktige fjerninger av innhold som bruker «shaheed» i forbindelse med personer som ikke er svartelistet, fordi tilnærmingen er kategorisk og ikke legger opp til mer kontekstuelle evalueringer.

47. Til tross for de ulike betydningene av «shaheed», bemerker rådet at eksemplene som tidligere var angitt som «støtteerklæringer» i Metas forbud mot farlige organisasjoner og personers ikke var tilpasset forskjellige markeder, med altfor forenklede direkte oversettelser av eksemplene. Den eneste indikasjonen i standardene når det gjelder Metas tilnærming til innhold som inneholder «shaheed», var et eksempel på en setning der noen kaller en dømt terrorist for en «martyr», oppført under selskapets bredere forbud mot støtteerklæringer. Det samme eksempelet ble brukt på alle språk, og for arabisk ble det oversatt til «shaheed», til tross for at begrepene ikke nødvendigvis betyr helt det samme. Rådet bemerker at dette eksempelet ble fjernet i desember 2023 ved oppdateringen av retningslinjene. Selv om oversettelsen i dette eksempelet ikke nødvendigvis var feil, kan man ikke bruke dette enkelteksempelet for å fastslå at «shaheed» alltid tilsvarer «martyr".

48. Av samme grunn skal ikke rådets konklusjoner om «shaheed» i denne rådgivende uttalelsen automatisk bety «martyr» og oversettelser av dette begrepet til andre språk. «Martyr» og «shaheed» er ikke direkte ekvivalente, ettersom førstnevnte er et mindre semantisk variabelt ord i de delene av verden som snakker engelsk, og også i det norske språket. Meta må vurdere hvilke begreper som oppfyller terskelen for «forherligelse» innenfor ulike språk, med tanke på veiledningen i denne rådgivende uttalelsen. Rådet støtter ikke i noen tilfeller bruken av generelle forbud som isolerer og forbyr «shaheed» fra den bredere konteksten av innlegg ordet brukes i. I samsvar med tilsynsrådets presedens, burde alle slike innlegg vurderes helhetlig. I samsvar med retningslinjene som er tilgjengelige for offentligheten, bør Meta dessuten sikre at det finnes unntak fra retningslinjene som lar folk «rapportere om, fordømme eller nøytralt diskutere» svartelistede personer når begrepet «martyr» brukes (og tilsvarende ord for forherligelse eller positive referanser på andre språk ). Dette understreker viktigheten av at den interne veiledningen til moderatorer tilpasses lokal kontekst og de språklige spesifikasjonene til språket som vurderes (se lignende bekymringer i rådets «Myanmar-bot»-vedtak, som dannet grunnlag for anbefaling 1 i den saken).

49. I flere saker har rådet presset Meta til å rekalibrere avveiningen mellom klare linjer som kan håndheves på storskalanivå og retningslinjer som yter større oppmerksomhet til konteksten. Rådet har ofte favorisert ytringsfriheten og brukernes stemme (for eksempel for å respektere rapportering om svartelistede enheter – se sakene «Omtale av Taliban i nyhetsrapport» og «Delt Al Jazeera-innlegg»). Selv om tidligere saker ikke har handlet direkte om bruken av «shaheed», har rådet advart mot antagelser om ond hensikt når folk refererer til svartelistede enheter (se saken «Nazi-sitat»). Ulike offentlige kommentarer trekker fram hvordan Metas antagelse om at «shaheed» alltid er en «støtteerklæring» kan – som et resultat av feil gjort av moderatorer eller automatisering på storskalanivå – føre til tiltak mot folk som minnes ofrene for terrorangrep (se offentlige kommentarer som for eksempel PC-11164 – SMEX, s. 1; kommentar PC-11197 fra regjeringen i New Zealand). Fjerning av slikt innhold kan til og med virke mot formålet med retningslinjene om farlige organisasjoner og personer, fordi det kan forhindre diskusjoner om voldelig terror og forsøk på å motvirke ideologiene bak slik vold (se for eksempel PC-11164 – SMEX).

Respekt for mediefrihet og samfunnsrom

50. Rådet er spesielt opptatt av at Metas tilnærming påvirker journalistikk og offentlig diskurs. Disse effektene er akutte på steder der vold fra terrorister eller andre svartelistede organisasjoner er mer utbredt, og også på steder der svartelistede enheter har territoriell kontroll eller på annen måte har politisk makt. Ulike offentlige kommentarer nevnte disse bekymringene (se offentlige kommentarer som for eksempel PC-11196 – Integrity Institute; PC-11157 – Palestina Institute for Public Diplomacy). Medieorganisasjoner og andre kommentatorer kan være forsiktige med å rapportere om svartelistede enheter fordi de vil unngå fjerning av innhold og potensielt alvorlige sanksjoner, inkludert fjerning av sider eller grupper, eller deaktivering av kontoer. I noen tilfeller kan dette være uforutsigbart – for eksempel rapporter om en demonstrasjon mot en statlig aktør der folk viser tegn på støtte til svartelistede personer som er blitt drept av denne aktøren. Språklige, kulturelle eller religiøse konvensjoner kan tilsi at «shaheed» brukes som referanse til personer som er drept i disse situasjonene, inkludert personer som døde mens de begikk voldshandlinger.

51. Det er viktig å merke seg kompleksiteten i situasjoner der svartelistede enheter kan være involvert i voldshandlinger, inkludert i situasjoner som kan kvalifisere som væpnede konflikter, motstand mot utenlandsk okkupasjon og sivil uro. Media kan støte på betydelige utfordringer med å rapportere om disse situasjonene, siden nyhetsmedier må ta hensyn til lokale språklige, kulturelle eller religiøse konvensjoner og samtidig overholde Metas retningslinjer for innhold. Disse bekymringene forsterkes av mangelen på åpenhet rundt Metas liste over svartelistede enheter og det at brukerne ikke vet hvem som står på denne listen. Rapporter om slike situasjoner kan også ofte inneholde signaler om vold, for eksempel skildringen av en bevæpning, som uten en kontekst som tilsier rapportering, nøytral diskusjon eller fordømmelse, kan indikere et brudd på retningslinjene. Det er derfor viktig at Meta bruker et unntak fra retningslinjene i tilfeller der innhold rapporterer om, diskuterer nøytralt eller fordømmer en svartelistet enhet.

52. Forbudet kan også gjøre det vanskeligere for brukere å uttrykke synspunkter og kritikk når de lever på steder der svartelistede enheter opererer eller har politisk makt. For å unngå direkte konfrontasjon og sikkerhetsrisiko kan brukere i slike områder formulere kommentarene sine på en respektfull måte som ikke nødvendigvis skal tolkes som støtteerklæringer. Sanksjonering av slike ytringer er spesielt bekymringsfullt, ettersom sosiale medier er et viktig forum for debatt, spesielt i konfliktsoner og land der pressefriheten er begrenset.

Likestilling og ikke-diskriminering

53. På grunn av den utbredte og svært varierende bruken av «shaheed», spesielt blant arabisktalende og (mange av dem muslimske) talere av andre språk som har «shaheed»-lånord, har Metas retningslinjer en uforholdsmessig stor innvirkning på disse samfunnene. Dette skaper betydelige bekymringer med hensyn til selskapets ansvar for å respektere alle brukeres rett til lik behandling og ikke-diskriminering ved utøvelse av retten til ytringsfrihet. Dette var fokuset for mange offentlige kommentarer (se for eksempel PC-11183 ECNL EFF, PC-11190 – Brennan Centre; PC-11188 – Digital Rights Foundation; PC-11196 – Integrity Institute; se også BSR-rapporten om Metas innflytelse i Israel og Palestina). FNs utviklingsprogram (UNDP) framhever i sin rapport om å hindre ekstremisme at sentrale drivere for ekstremistisk vold, blant andre grunnleggende årsaker, er «ulikhet, ekskludering, mangel på muligheter og oppfattet urettferdighet». Rådet er bekymret for at Metas tilnærming kan forsterke opplevelsen av marginalisering og ekskludering for visse lokalsamfunn, og til og med virke mot sin hensikt når det gjelder det uttalte målet om å redusere vold. UNDP framhever at når det gjelder moderering av innhold på nettplattformer, burde alle selskaper sørge for at forebygging av voldelig ekstremisme «ikke utilsiktet fører til stigmatisering og målretting av enkeltpersoner».

Mindre påtrengende midler for å forhindre skade

54. En vurdering av retningslinjenes nødvendighet og proporsjonalitet krever også en analyse av om det finnes mindre restriktive midler for å nå det aktuelle legitime målet. Rådets anbefalinger i denne uttalelsen vil, hvis de implementeres, kreve at Meta slutter å kategorisk fjerne all bruk av «shaheed» som referanse til svartelistede personer. Likevel kan innhold som bruker dette begrepet fortsatt fjernes under snevrere omstendigheter, der ordet henger tettere sammen med skadevirkninger og er mindre tvetydig. Anbefalingene vil gjøre at Meta fortsatt kan fjerne innhold som refererer til svartelistede personer som «shaheed» når innholdet enten bryter retningslinjene på andre måter (for eksempel forherligelse eller vage referanser) eller inneholder signaler om vold. Dette vil skape en viktig begrensning av skadelig innhold, men samtidig redusere de negative virkningene av retningslinjene, inkludert en for streng håndhevelse som går ut over spesifikke språklige og religiøse grupper.

55. Når det finnes signaler om vold samtidig som en svartelistet person kalles «shaheed», gir det en klarere indikasjon på at innlegget er ment å referere positivt til denne personen på grunn av assosiasjonen til vold (med forbehold om at det kan handle om rapportering, nøytral diskusjon eller fordømmelse). I forespørselen sin foreslo Meta følgende signaler om vold, som de lånte fra de interne veiledningene til retningslinjene om vold og oppfordring til vold: (1) en visuell skildring av en bevæpning; (2) en intensjonserklæring eller en oppfordring om å bruke eller bære våpen; (3) henvisning til militært språk; (4) henvisning til brannstiftelse, plyndring eller annen ødeleggelse av eiendom; (5) referanse til kjente voldshendelser i den virkelige verden; og (6) intensjonserklæringer om, oppfordringer til, representasjon av eller støtte til vold mot mennesker. Rådet mener at noen av disse signalene gir nyttige indikatorer på innhold som kan forårsake skade, noe som ikke kan utledes fra bruken av «shaheed» alene. Andre signaler anses imidlertid ikke som så nyttige her. De offentlige retningslinjene om vold og oppfordring til vold refererer til «midlertidige signaler om økt risiko for vold» tre ganger. Alle gjelder regler som er utformet for å håndtere risikoen for vold på bestemte steder og ved tidsbestemte hendelser, for eksempel ved valglokaler og ved demonstrasjoner. Den vide bruken av alle disse signalene for å tolke referanser til «shaheed» i alle sammenhenger, også der sannsynligheten for skade ikke er spesielt sannsynlig eller overhengende, kan potensielt medføre uforholdsmessige tiltak.

56. Rådet konkluderer med at i den bredere konteksten av retningslinjene om farlige organisasjoner og personer, er det bedre med et smalere sett med signaler. Både signalet om en visuell skildring av våpen og signalet om en intensjonserklæring eller en oppfordring om å bruke eller bære våpen bør forstås som en indikator på at innholdet har større sannsynlighet for å bidra til skade. Rådet konkluderer med at signalet om «referanse til kjente voldshendelser i den virkelige verden» er for bredt. Det dekker for mange scenarier som ikke handler om selve volden som er utført av svartelistede organisasjoner eller personer. Derfor bør signalet defineres snevrere og begrenses til hendelser som er svartelistet under Metas retningslinjer om farlige organisasjoner og personer. Disse inkluderer terrorangrep, hatkriminalitet, voldshandlinger med flere ofre (eller forsøk på dette) og serie- og massemord. De tre signalene som anbefales av rådet, åpner for større kontekstuell nyansering for å sikre at mindre tvetydig bruk av «shaheed» – der noen mer uttrykkelig refererer til voldelige terrorhandlinger – fortsatt fører til fjerning.

57. De gjenværende signalene som er foreslått av Meta – om «henvisninger til militært språk» og «brannstiftelse, plyndring eller annen ødeleggelse av eiendom» – er for brede og vil føre til upresis håndhevelse. Det siste foreslåtte signalet om «intensjonserklæringer om, oppfordringer til, representasjon av eller støtte til vold mot mennesker» vil uansett føre til at innholdet bryter standarden om vold og oppfordring til vold. Dermed vil den bare være et unødvendig duplikat som et signal om vold.

58. Til forskjell fra Metas tredje alternativ, bemerker rådet at selv når referanser til svartelistede personer gjøres sammen med disse signalene om vold, kan det hende at de ikke har til hensikt å forherlige disse personene eller handlingene deres. I forespørselen sin (på side 9–10) forklarer Meta potensialet for overhåndhevelse, og de viser til rutinene for medierapportering i Pakistan. Etter rådets syn vil det være vanlig at media, når de refererer til svartelistede personers død, viser bilder av dem med våpen, og/eller at de viser bilder av ødeleggelsen personene har forårsaket, uten at dette forherliger disse handlingene. Av denne grunn er det nødvendig at moderatorer på storskalanivå blir opplært til å tillate innhold hvis intensjonen helt tydelig er å rapportere om, fordømme eller nøytralt diskutere den aktuelle enheten.

59. Rådets anbefalte endringer av retningslinjene vil medføre at en lang rekke andre retningslinjer for innhold fortsatt blir stående som de er, slik at Meta fortsatt kan beskytte mot terrorister og støttespillerne deres som ønsker å bruke Metas plattformer for å forårsake skade i den virkelige verden. Innlegg som bruker ordet «shaheed» med henvisning til en svartelistet nivå 1-person vil bli fjernet under følgende omstendigheter:

• Hvis innlegget er ledsaget av ett eller flere av de tre ovennevnte signalene om vold, blir det fjernet.
• Innlegget blir fjernet hvis det inneholder andre brudd på retningslinjene om farlige organisasjoner og personer (for eksempel representasjon av, støtte til eller forherligelse av en svartelistet person). Forherligelse vil for eksempel bety å legitimere eller forsvare de voldelige eller hatefulle handlingene til en svartelistet person, eller å feire vold eller hat fra denne personen som en prestasjon.
• Et innlegg som inneholder andre brudd på retningslinjene – inkludert retningslinjene om hatefulle ytringer eller vold og oppfordring til vold – blir fjernet.
• «Uklare eller kontekstløse» referanser gjør også at innlegget vil bli fjernet. Dette fanger opp utydelig bruk av humor, bildereferanser uten tilhørende tekst og positive referanser som ikke forherliger den spesifiserte enhetens vold eller hat.

60. Rådets anbefalinger vil derfor ikke hindre Meta fra å kreve at brukerne sørger for at intensjonen med innleggene deres er klare når de refererer til en svartelistet nivå 1-person som «shaheed». Det forhindrer bare Meta fra å anta at bruken av begrepet «shaheed» alene fører til et regelbrudd. Metas aktive engasjement i Global Internet Forum to Counter Terrorism og bruk av en «hash-matching»-database sikrer også fjerning av innhold som kan føre til reell skade. Rådets anbefalinger vil åpne for klarere, mer kontekstavhengig og proporsjonal håndhevelse mot innhold som kan øke risikoen for vold, samtidig som respekten for ytringsfrihet og ikke-diskriminering styrkes.

Evaluering av alternative retningslinjer

61. Av de nevnte grunnene konkluderer rådet med at det å fortsette med status quo – som Meta presenterte som ett av alternativene de ville at rådet skulle vurdere – vil forankre de uberettigede begrensningene på ytringsfriheten og i uforholdsmessig grad påvirke arabisktalende, enkelte språkmiljøer og muslimer. Metas foreslåtte alternativ to ligner på alternativ tre, som rådet anbefaler, siden det har som mål å kontekstualisere bruken av ordet «shaheed» og tillate at det blir brukt i forbindelse med farlige personer på flere måter. Ifølge Meta tillater endringene i retningslinjene fra den 29. august 2023 mer sosial og politisk diskurs i visse tilfeller, inkludert når det gjelder fredsavtaler, valg, spørsmål relatert til menneskerettighetene, nyhetsrapporter og diskusjoner av akademisk, nøytral eller fordømmende art. Dette fører resultatene man ønsker å oppnå via alternativ to og tre enda nærmere hverandre. Den viktigste forskjellen mellom dem gjelder teknisk gjennomførbarhet og praktisk implementering på storskalanivå. Alternativ to krever at Meta først kan bekrefte at ett av de tillatte unntakene gjelder, og at de deretter undersøker om det finnes et brudd på retningslinjene eller signaler om vold; alternativ tre går direkte til å undersøke om det finnes et brudd på retningslinjene eller signaler om vold. Ifølge Meta vil alternativ to være betydelig mer tungvint å utforme og implementere rent teknisk, fordi det krever en vurdering av et bredt sett av mulige unntak (enda bredere etter de nylige endringene i retningslinjene), der alle er svært avhengige av at det utføres en evaluering av konteksten. Vanskeligheten ved å gjøre disse vurderingene på en nøyaktig og konsekvent måte betyr i sin tur at det sannsynligvis vil kreves mye mer manuell gjennomgang og resultere i et betydelig høyere antall feil i håndhevelsen.

62. Rådet mener at Meta bør velge en tilnærming der de undersøker mer enhetlig all bruk av «shaheed» når det gjelder svartelistede personer, utover eksisterende unntak, og fjerner disse innleggene når de ledsages av andre brudd på retningslinjene eller ett av de tre signalene om vold som er angitt i anbefaling 1. Rådet anbefaler at Meta endrer retningslinjene sine så de er mer i nærheten av det tredje foreslåtte alternativet om å behandle «shaheed» som en forbudt referanse bare når det foreligger andre brudd på retningslinjene eller spesifikke signaler om vold. Dette vil bidra til å redusere falske treff (feilaktig fjerning av innhold som ikke bryter reglene), beskytte ytringer av allmenn interesse, sikre større mediefrihet, ivareta offentlig diskurs på en bedre måte og redusere den negative innvirkningen på retten til likestilling og ikke-diskriminering blant berørte grupper. Som svar på rådets spørsmål etter de Hamas-ledede angrepene på Israel i oktober 2023 og den påfølgende konflikten, bekreftet Meta at disse hendelsene ikke endret analysen de hadde foretatt av skalerbarheten til alternativene de opprinnelig la fram i forespørselen. Etter rådets syn vil de foreslåtte anbefalingene, basert på Metas alternativ tre, være mest motstandsdyktige mot potensielle feil når en krise av denne størrelsesorden utspiller seg, forutsatt at unntakene for «rapportering, nøytral diskusjon og fordømmelse» fortsatt vil gjelde. Rådet erkjenner at disse unntakene gjør det noe mer komplekst å skalere retningslinjene som foreslås i Metas alternativ tre. Rådet konkluderer imidlertid med at unntakene er av avgjørende betydning for å sikre en tilstrekkelig beskyttelse av ytringsfriheten i forbindelse med moderering av innhold som bruker ordet «shaheed».

63. Et mindretall av rådets medlemmer er uenige i denne konklusjonen og ville foretrukket en anbefaling enten om å opprettholde status quo eller at Meta vedtar alternativ to. Noen understreker at ordet «shaheed» faktisk brukes av terrororganisasjoner som en støtteerklæring og forherligelse av mennesker som begår voldelige handlinger, og at det kan fungere et insentiv til radikalisering og rekruttering. Disse rådsmedlemmene mener at dette i seg selv utgjør en alvorlig nok fare for skade i den virkelige verden til å rettferdiggjøre det nåværende kategoriske forbudet, selv om det går på bekostning av ytringsfriheten. Noen medlemmer har påpekt at det ikke finnes tilstrekkelig med data om skadeomfang i den virkelige verden som kan knyttes til bruken av «shaheed» på Metas plattformer. Det mangler også informasjon om hvor utbredt det er med overhåndhevelse av retningslinjene. Dette tilsier at det fortsatt er grunn til å ha en mer forsiktig tilnærming, der man prioriterer sikkerhet framfor alt annet. Noen rådsmedlemmer mener også at alternativ to – der Meta bare vil vurdere betydningen og bruken av «shaheed» når spesifikke unntak først blir funnet å gjelde – er et mer snevert og skreddersydd kompromiss, til tross for at selskapet signaliserer at det vil medføre tekniske vanskeligheter og gjennomførbarhet på storskalanivå. Rådet vurderte og diskuterte disse alternativene grundig. Av grunnene som er skissert i de foregående punktene, konkluderer flertallet med at anbefalingene som er basert på Metas alternativ tre gir den mest foretrukne balansen.

Advarsler og sanksjoner

64. Selv om det kan være berettiget å beholde andre restriksjoner i retningslinjene om farlige organisasjoner og personer, må Meta sørge for at disse restriksjonene og eventuelle sanksjoner mot brudd er proporsjonale. Meta har tidligere informert rådet om at de alltid bruker alvorlige advarsler ved brudd på retningslinjene om farlige organisasjoner og personer, inkludert selskapets tidligere forbud mot «støtteerklæringer». Alvorlige advarsler kan raskere føre til sanksjoner på kontonivå, for eksempel tidsbestemte funksjonsgrenser, suspensjon av kontoer og permanent deaktivering av profiler eller sider. Disse tiltakene kan sterkt begrense brukernes rett til ytringsfrihet (også understreket i offentlige kommentarer som for eksempel PC-11190 – Brennan Centre). Rådet har tidligere anbefalt at Meta forbedrer klarheten og åpenheten i advarselssystemet sitt (se sakene «Omtale av Taliban i nyhetsrapport», anbefaling 2; «Tidligere president Trumps suspensjon», anbefaling 15). Som svar ga Meta informasjon om varslingssystemet de bruker i åpenhetssenteret, og de lar brukerne se hvilke former for sanksjoner Meta har ilagt kontoene deres. Meta oppdaterte nylig systemet sitt for standardadvarsler for å gjøre det mer proporsjonalt, men dette avklarer ikke for offentligheten hvorvidt tilnærmingen til «alvorlige advarsler» også har blitt tilpasset.

65. Meta forteller at de jobber med endringer i systemet knyttet til retningslinjene om farlige organisasjoner og personer, selv om forklaringen deres av retningslinjene fra desember 2023 ikke sier hvorvidt systemet er endret, eller eventuelt vil endres (for eksempel når det gjelder alvorlige advarsler). Rådet støtter endringer i systemet dersom dette resulterer i mer proporsjonale sanksjonerer mot innhold som på riktig måte blir identifisert som regelbrudd, i tråd med tidligere anbefalinger fra rådet. Alvorlige advarsler er ofte uforholdsmessig store sanksjoner mot små og mer semantisk tvetydige brudd på retningslinjene om farlige organisasjoner og personer. Dette resulterer i at retningslinjene fortsatt har en høy grad av overhåndhevelse og urettferdig behandling av brukerne.

6.2 Forbedret åpenhet og revisjon av listen

Anbefaling 4 – Åpenhet: Meta bør forbedre åpenheten rundt svartelistede enheter og hendelser, og de bør forklare mer detaljert hvilke prosedyrer de har for å sette enheter og hendelser på denne listen. De bør også publisere aggregert informasjon om svartelisten med jevne mellomrom, inkludert det totale antallet enheter som er oppført på hvert nivå på listen, samt hvor mange som ble lagt til og fjernet fra hvert nivå det siste året.

Rådet vil anse dette som implementert når Meta publiserer den forespurte informasjonen i åpenhetssenteret sitt.

Anbefaling 5 – Håndhevelse: Meta må sikre at listen over farlige organisasjoner og personer er oppdatert og ikke inkluderer organisasjoner, personer og hendelser som ikke lenger oppfyller de definerte kriteriene deres. Selskapet må derfor ha en tydelig og effektiv prosess for regelmessig revisjon av listen og fjerne alle som ikke lenger tilfredsstiller de publiserte kriteriene.

Rådet vil anse dette som implementert når Meta har innført en slik revisjonsprosess og forklarer prosessen i åpenhetssenteret sitt.

66. I henhold til Metas tidligere retningslinjer om farlige organisasjoner og personer, var «støtteerklæringer» og bruk av begrepet «shaheed» bare forbudt hvis ordet refererte til en farlig person som var svartelistet av Meta på nivå 1 (inkludert gjerningspersoner bak svartelistede «voldelige hendelser»). . Etter oppdateringen fra desember 2023, forbyr retningslinjene nå «vage referanser» til og forherligelse av alle svartelistede enheter på nivå 1. «Vage referanser» kan inkludere «utydelig bruk av humor, kontekstløse referanser og positive referanser som ikke forherliger den svartelistede enhetens vold eller hat». De negative virkningene slike forbud potensielt kan ha på ytringsfriheten, avhenger i stor grad av hvilke enheter Meta spesifiserer som nivå 1-organisasjoner, og hvilke «voldelige hendelser» de har på listen. Ved rundebordskonferansene og i offentlige kommentarer kritiserte mange interessenter en mangel på åpenhet og rettferdig prosess rundt listen. De argumenterte for at Meta burde publisere denne listen (se offentlige kommentarer som for eksempel PC-11164 – SMEX, s.3; PC-11157 – Palestina Institute for Public Diplomacy). En interessent var bekymret for å dele listen bredt, siden dette kunne skape sikkerhetsproblemer. Siden listen er så relevant for å forstå omfanget av Metas retningslinjer, ga selskapet tilsynrådet listen over svartelistede organisasjoner og personer på nivå 1, sammen med en forklaring av selskapets prosesser. Rådet studerte dette i dybden, som diskutert nedenfor.

67. Mange av listene som Meta henter nivå 1-betegnelsene fra, er offentliggjort av USAs regjering, som tidligere nevnt. Disse inkluderer personer og organisasjoner som står bak narkotikasmugling («specially designated narcotics trafficking kingpins» – forkortet til «SDNTK»), utenlandske terrororganisasjoner («foreign terrorist organizations» – forkortet til «FTO») og svartelistede globale terrorister». Disse listene er omfattende. De inkluderer enheter (og medlemmene deres) i sterkt politisert kontekst på tvers av flere kontinenter, og de er ikke begrenset til terrorenheter. Bredden og mangfoldet er en indikasjon på rekkevidden og innvirkningen til Metas retningslinjer om farlige organisasjoner og personer, inkludert når det gjelder det mer kategoriske forbudet mot «shaheed» som referanse til svartelistede personer.

68. Meta forklarte at prosessen med gjennomgang og godkjenning av enheter som skal legges til listen over farlige organisasjoner og personer «avhenger av konsultasjoner med en rekke interne eksperter, en vurdering av interne data og eksterne analyser». Meta har også en prosess for å dokumentere «andre medlemmer, aliaser, symboler, slagord, undergrupper og medieenheter som kan knyttes til allerede svartelistede organisasjoner og personer». Basert på Metas vurdering av truslene som farlige organisasjoner og personer kan utgjøre mot plattformene deres, svartelistet selskapet i 2022 færre enn 1000 enheter. Kriminelle enheter utgjorde det største antallet, tett fulgt av terrorenheter og deretter hatgrupper. I prosessen med å fjerne enheter fra listen, undersøker Meta vanligvis om en spesifikk enhet fortsatt oppfyller terskelen for å stå svartelistet som en farlig organisasjon eller person. De vurderer også om enheten har «tatt aktive skritt for å slutte å utføre voldelige handlinger og jobbe for fred». Prosessen er for øyeblikket i endring, men den ble brukt færre enn ti ganger i 2022. Meta har forklart at de reviderer tidligere svartelisting som et ledd i en kontinuerlig innsats for å holde listene så oppdaterte som mulig og på en mest mulig nøyaktig måte reflektere truslene som utgjøres av farlige organisasjoner og personer.

69. Meta uttrykker at det å dele svartelistene offentlig, eller å varsle enheter når de legges til på listen, kan gjøre håndhevelsen av reglene mindre effektiv og sette sikkerheten til mange Meta-ansatte i fare. Noen enheter som har blitt svartelistet og har oppdaget dette, har gått til rettslige skritt mot Meta (se Facebook mot CasaPound , 29. april 2020, domstolen i Roma (Italia) med analyse «her»). Rådet bemerker at Meta i noen tilfeller har avslørt svartelisting av noen grupper som svar på forespørsler fra media, og navnet på enkelte enheter har blitt delt via tilsynsrådets vedtak.

70. Rådet har tidligere anbefalt at Meta deler svartelisten offentlig, eller i det minste gir illustrerende eksempler på svartelistede enheter (se saken «Nazi-sitat», anbefaling 3). Meta har ikke publisert listen og har ikke kommet med flere oppdateringer om denne anbefalingen etter en evaluering av gjennomførbarheten. Hvis Meta fortsatt avstår fra å implementere denne anbefalingen, bør de i det minste iverksette andre tiltak for å forbedre åpenheten rundt listen. Publikasjon av aggregerte data, forbedret åpenhet om prosessen med svartelisting og en mer effektiv revideringsprosess kan gi brukerne mer bevissthet rundt Metas regler og prosedyrer. Dette vil føre til at flere får innsyn, slik at Meta i større grad ansvarliggjøres når de plasserer enheter på svartelisten, noe som kan bidra til å ivareta ytringsfriheten og andre menneskerettigheter. Meta kan også vurdere å legge til rette for at analytikere får tilgang til data for å forbedre åpenheten og samtidig sikre at listen holdes konfidensiell.

6.3 Data for å vurdere nøyaktigheten ved håndhevelse av reglene og testing av klassifiseringsverktøy

Anbefaling 6 – Åpenhet: For å forbedre åpenheten av Metas håndhevelse av reglene, inkludert regionale forskjeller mellom markeder og språk, bør Meta forklare hvilke metoder de bruker for å vurdere nøyaktigheten av manuell vurdering og hvor godt de automatiserte systemene fungerer i håndhevelsen av retningslinjene om farlige organisasjoner og personer. De bør også med jevne mellomrom dele resultatet av vurderingen av klassifiseringssystemet som brukes til å håndheve disse retningslinjene, og det må framstilles på en måte som gjør at disse vurderingene kan sammenlignes på tvers av språk og/eller regioner.

Rådet vil anse dette som implementert når Meta inkluderer denne informasjonen i åpenhetssenteret sitt og i rapporter om håndhevelse av standarder.

Anbefaling 7 – Åpenhet: Meta bør holde interessentene oppdatert ved å forklare enkelt og tydelig hvordan selskapet bruker klassifiseringsverktøy til å generere antagelser om brudd på retningslinjene. Meta bør også forklare hvordan de setter terskler for enten ikke å gjøre noe, plassere innholdet i kø for manuell vurdering eller fjerne innholdet ved at de beskriver prosessene de bruker for å sette terskelverdiene. Denne informasjonen bør oppgis i selskapets åpenhetssenter.

Rådet vil anse dette som implementert når Meta publiserer den forespurte informasjonen i åpenhetssenteret sitt.

71. Mange interessenter har via rundebordskonferansene og offentlige kommentarer hevdet at Metas håndhevelse av retningslinjene om farlige organisasjoner og personer, og spesifikt behandlingen av ordet «shaheed» i både manuell og automatisert gjennomgang, ofte har resultert i håndhevelsesfeil som i uforholdsmessig grad har påvirket muslimer og relevante språksamfunn (se offentlige kommentarer som for eksempel PC-11183 ECNL EFF, PC-11190 – Brennan Centre; PC-11188 – Digital Rights Foundation; PC-11196 – Integrity Institute; se også BSR-rapporten om Metas innflytelse i Israel og Palestina). Meta erkjente også i forespørselen sin at dette er en konsekvens av hvordan retningslinjene behandler ordet «shaheed». Rådet mener at Meta kan forbedre åpenheten, nøyaktigheten og rettferdigheten i manuelle og automatiserte prosesser ved å følge de to anbefalingene ovenfor.

72. Meta forklarte at de jevnlig måler nøyaktigheten til både den manuelle og den automatiserte håndhevelsen av reglene. Moderatorenes innsats evalueres periodisk av Metas eksterne partnere, og disse revisjonene blir ytterligere evaluert av Metas Global Operations-team.

73. Rådet har tidligere anbefalt at Meta forbedrer åpenhetsrapporteringen sin ved offentlig å dele informasjon om feilrater. De bør dele inn informasjonen om «støtteerklæringer» og annen støtte til farlige organisasjoner og personer etter land og språk (se saken «Öcalans isolasjon», anbefaling 12) samt etter standard (se saken «Punjabi-bekymring rundt RSS i India», anbefaling 3). Meta forklarte at de, etter å ha vurdert gjennomførbarheten, har avslått å implementere denne anbefalingen (se saken «Öcalans isolasjon», anbefaling 12; «Metas kvartalsvise oppdatering om tilsynsrådet for 4. kvartal 2021», side 21), og at de har skiftet fokus i retning en mer langsiktig innsats for å definere nøyaktighet basert på restriksjoner mot profiler, sider og kontoer, og de har fokusert på sted i stedet for språk (se saken «Punjabi-bekymring rundt RSS i India», anbefaling 3; «Metas kvartalsvise oppdatering om tilsynsrådet for 2. kvartal 2023», side 59). Med tanke på de utbredte bekymringene over den uforholdsmessige håndhevelsen av retningslinjene om farlige organisasjoner og personer, noe Metas holdning til ordet «shaheed» illustrerer, og at Meta ikke deler nyttige data om tiltak, gjentar rådet disse anbefalingene og viktigheten av at selskapet har mer åpenhet om tiltak, delt inn etter sted.

74. Dataene som Meta for øyeblikket deler i åpenhetssenteret, gir ikke tilstrekkelig innsikt om nøyaktigheten ved manuell gjennomgang og hvor godt de automatiserte systemene fungerer. Meta må gi større innsikt i hvor effektivt metodene deres fungerer. Derfor må de forklare hvordan de vurderer nøyaktigheten ved manuell vurdering og hvor godt de automatiserte systemene fungerer i håndhevelsen av retningslinjene om farlige organisasjoner og personer. Meta kan forbedre åpenheten av hvor godt klassifiseringsverktøyene fungerer ved å dele måletall for presisjon (andelen innhold som korrekt blir identifisert som regelbrudd av alt innholdet som flagges som regelbrudd) og hvor stor prosentandel av alt eksisterende innhold som klassifiseringsverktøyene identifiserer som regelbrudd. Hvis Meta publiserer informasjon om nøyaktigheten til den manuelle vurderingen på tvers av ulike regioner, og også hvor godt klassifiseringsverktøyene fungerer for forskjellige språk, kan det bidra til mer ansvarlighet rundt selskapets menneskerettighetsforpliktelser. Rådet gjentar derfor tidligere anbefalinger og oppfordrer Meta til å implementere de foreslåtte endringene.

75. Meta er avhengig av automatiserte systemer, inkludert klassifiseringsverktøy, for å klare å håndheve standardene. Klassifiseringsmodellene deler automatisk inn data i én eller flere «kategorier» (for eksempel «regelbrudd» og «ikke regelbrudd») basert på et sett med treningsdata. Det er viktig å forstå hvordan disse systemene fungerer og hvor nøyaktige de er for å kunne evaluere hvordan Meta modererer innhold på storskalanivå. Meta oppgir noe grunnleggende informasjon om hvordan de bruker automatiserte systemer for å avdekke regelbrudd innhold i punktet om håndhevelse i åpenhetssenteret, mens de i punktet om funksjoner forklarer hvordan de rangerer og kuraterer innhold. Meta publiserer allerede informasjon i rapporter om håndhevelse av standarder, der de oppgir hvor stor prosentandel av innhold de fjerner før noen har rapportert det (dvs. på grunnlag av automatisk deteksjon). Disse dataene indikerer hvor viktig det er med automatisert deteksjon, men de deler ingen detaljerte måletall om bruken av og nøyaktigheten til Metas automatiserte systemer, heller ikke automatiserte fjerninger. Disse ulike anbefalingene har som mål å styrke åpenheten rundt Metas bruk av algoritmer.

76. Som svar på spørsmål fra rådet, forklarte Meta at klassifiseringsverktøyet for farlige organisasjoner og personer på området «Generelt språk – arabisk» utfører en innledende gjennomgang basert på Metas retningslinjer. Klassifiseringsverktøyene har som mål å avdekke innhold som kan bryte disse retningslinjene. Rådet mener at Meta bør forklare brukerne i detalj under «Håndhevelse» i åpenhetssenteret at de er avhengige av å bruke klassifiseringssystemer, i samsvar med tidligere vedtak (se sakene «Brystkreftsymptomer og nakenhet», anbefaling 3; «Polititegning i Colombia», anbefaling 3). Det er spesielt viktig med åpenhet rundt omtrentlige grenser for når det sanksjoneres mot innhold og ikke, og hva som er grensen for å plassere innholdet i kø for manuell vurdering. Det er også viktig å dele hvilke hensyn eller faktorer som bestemmer poengsummene.

77. Meta har forklart at testingen av nøyaktighet ikke fokuserer på individuelle typer regelbrudd, men heller på generell nøyaktighet på tvers av et helt område av retningslinjene. Meta sier at de «regelmessig gjennomfører metriske kontroller og reviderer nøyaktighetsgrad på storskalanivå». Rådet har tidligere forklart at dette ikke er tilstrekkelig til å evaluere hvor god Metas håndhevelse av standardene er som helhet (se avgjørelsen i saken «Wampum-belte»). Systemer som i gjennomsnitt gir gode resultater, kan potensielt gi relativt svake resultater på underkategorier av innhold, som for eksempel innhold som bruker begrepet «shaheed», der uriktige avgjørelser har en spesielt stor innvirkning på menneskerettighetene. Det er derfor viktig at Meta kan bevise at de utviser aktsomhet når de skal identifisere og minimere de potensielle negative effektene systemene deres har på menneskerettighetene, og at de deler informasjon som gjør det mulig å analysere disse effektene.

78. Mange interessenter hevdet at Metas algoritmiske håndhevelsessystemer ikke tar hensyn til kontekst, er mer unøyaktige for ikke-engelske språk og at dette har ført til en uforholdsmessig stor innvirkning på muslimske samfunn (se offentlige kommentarer som for eksempel PC-11190 – Brennan Center).

79. Noen interessenter anbefalte at Meta slutter helt å bruke automatisering for å moderere begrepet «shaheed», ettersom automatisering vanligvis ikke har tatt hensyn til kontekst (se offentlige kommentarer som for eksempel PC-11164 – SMEX, s.4; PC-11157 – Palestina Institute for Public Diplomacy). Andre mente at med tanke på de strenge sanksjonene mot innhold som bryter retningslinjene om farlige organisasjoner og personer, bør automatisering bare brukes til å plassere innhold i kø for gjennomgang, men ikke til automatisk fjerning av innhold (se for eksempel PC-11183 ECNL EFF, s. 4f). Interessentene foreslo at ethvert innlegg som bruker «shaheed» som referanse til en svartelistet person «ideelt sett (burde) gjennomgås av manuelle moderatorer som er kjent med den lokale konteksten som innlegget kommer fra» (se PC-11188 – Digital Rights Foundation, s. 2). Noen foreslo at innhold burde merkes geografisk, slik at manuell og automatisert gjennomgang bedre kan ta hensyn til kontekst (se for eksempel PC-11165 – Taraaz, s. 1). Interessentene ba også Meta om å oppgi mer informasjon om nøyaktigheten av de automatiserte systemene og investere mer penger i å forbedre disse systemer på ikke-engelske språk (se for eksempel PC-11164 – SMEX, s.5; PC-11190 – Brennan Centre). De presset også på for at Meta skulle rapportere innholdsmoderering «konsekvent på tvers av språk, inkludert omfattende data om brukerrapporter, tiltaksfrekvens, tiltakstyper, effektiviteten til avbøtende løsninger, opplæringsinformasjon og ankefrekvens» (se for eksempel PC-11196 – Integrity Institute).

80. Noen eksperter var uenige i at bruk av «shaheed» om en svartelistet enhet skal være eneste referansepunkt når de automatiserte systemene fjerner innhold fra plattformen. De ønsker å moderere begrepet i en mer nivådelt tilnærming (for eksempel som et signal om at innholdet skal plasseres i kø for vurdering i henhold til Metas retningslinjer, men ikke fjernes bare fordi ordet er brukt).

81. Rådet erkjenner at det er nødvendig å bruke algoritmiske systemer ved moderering av innhold i stor skala, og mange av disse foreslåtte tilnærmingene ville ikke vært gjennomførbare på storskalanivå og ved bruk av automatisering. Rådet konkluderer imidlertid også med at Meta må ta ytterligere skritt, inkludert de som er anbefalt ovenfor, for å sikre åpenhet og rettferdighet i disse systemene.

*Prosedyremerknad:

Tilsynsrådets rådgivende uttalelser om retningslinjer utarbeides av et panel på fem medlemmer og godkjennes av et flertall av rådet. Rådets avgjørelser gjenspeiler ikke nødvendigvis alle medlemmenes personlige meninger.

I denne rådgivende uttalelsen om retningslinjer ble det bestilt uavhengige analyser på vegne av rådet. Rådet ble assistert av et uavhengig analyseinstitutt med hovedkontor ved universitetet i Göteborg, med støtte fra en gruppe på mer enn 50 samfunnsvitere fra seks kontinenter og mer enn 3200 eksperter fra hele verden. Rådet ble også assistert av Duco Advisors, et rådgivningsfirma som fokuserer på skjæringspunktet mellom geopolitikk, tillit, sikkerhet og teknologi. Memetica, en organisasjon som driver med åpen kildekodeforskning på trender på sosiale medier, leverte også analyser. Lingvistisk ekspertise ble levert av Lionbridge Technologies, LLC, som har spesialister som behersker mer enn 350 språk flytende og jobber fra 5000 byer over hele verden.

Return to Case Decisions and Policy Advisory Opinions