Henvisning til udpegede farlige enkeltpersoner som "shaheed"

Kort sammendrag

Rådet finder, at Metas tilgang til moderering af indhold, der bruger ordet "shaheed" til at henvise til enkeltpersoner, der er udpeget som farlige, begrænser ytringsfriheden væsentligt og uforholdsmæssigt. Meta tolker al brug af "shaheed", der henviser til enkeltpersoner, som virksomheden har udpeget som "farlige", som krænkende og fjerner indholdet. Ifølge Meta er det sandsynligt, at "shaheed" ligger til grund for flere fjernelser af indhold i henhold til fællesskabsreglerne end noget andet ord eller nogen anden sætning på virksomhedens platforme. Terroristiske voldshandlinger har alvorlige konsekvenser – de ødelægger uskyldige menneskers liv, hæmmer menneskerettighederne og underminerer vores samfundsstruktur. Enhver begrænsning af ytringsfriheden for at forhindre sådan vold skal dog være nødvendig og forholdsmæssig, eftersom unødig fjernelse af indhold kan være ineffektiv og endda kontraproduktiv.

Rådets anbefalinger tager udgangspunkt i det perspektiv, at det er bydende nødvendigt, at Meta træffer effektive foranstaltninger for at sikre, at virksomhedens platforme ikke bruges til at tilskynde til voldshandlinger eller til at rekruttere folk til at deltage i dem. Ordet "shaheed" bruges nogle gange af ekstremister til at hylde eller forherlige mennesker, der døde, mens de begik voldelige terrorhandlinger. Men Metas reaktion på denne trussel skal også være styret af respekt for alle menneskerettigheder, herunder ytringsfrihed.

Den 7. oktober 2023, da rådet var ved at færdiggøre dette råd om politikker, førte Hamas (en udpeget organisation i 1. grad i Metas politik om farlige organisator og individer) an i hidtil usete terrorangreb på Israel, der anslås til at have dræbt 1200 mennesker og resulterede i, at omkring 240 mennesker blev taget som gidsler (Israels udenrigsministerium). Ifølgenyhedsrapporter fra den 6. februar 2024 menes mindst 30 af de anslåede 136 gidsler, der var tilbage i Hamas-fangenskab i begyndelsen af januar, at være døde. Meta betegnede straks disse begivenheder som et terrorangreb i henhold til politikken om farlige organisationer og individer. Israel indledte hurtigt en militær kampagne som reaktion på angrebene. Den militære kampagne havde dræbt mere end 30.000 mennesker i Gaza den 4. marts (FN's Humanitære Koordinationskontor, på baggrund af data fra sundhedsministeriet i Gaza). Rapporter fra januar viste, at 70 % af dødsfaldene blev anslået til at være kvinder og børn.

Efter disse begivenheder satte rådet offentliggørelsen af dette råd om politikker på pause for at sikre, at dets anbefalinger tjente brugen af Metas platforme og ordet "shaheed" i denne kontekst. Denne yderligere undersøgelse bekræftede, at rådets anbefalinger til Meta om at moderere ordet "shaheed" stod fast, selv under sådanne begivenheders ekstreme belastning, og ville sikre større respekt for alle menneskerettigheder i Metas reaktion på kriser. Samtidig understreger rådet, at Metas politikker på dette område er globale, og at deres virkning rækker langt ud over denne konflikt. Selvom rådet anerkender vigtigheden af de seneste begivenheder i Israel og Palæstina, er rådets anbefalinger også globale og ikke begrænset til nogen bestemt kontekst.

Efter rådets opfattelse er Metas tilgang til at moderere ordet "shaheed" for bred, og den begrænser ytringsfriheden og den borgerlige diskurs uforholdsmæssigt meget. For eksempel kan opslag, der rapporterer om vold og udpegede enheder, blive fjernet fejlagtigt. Metas tilgang tager heller ikke højde for de forskellige betydninger af "shaheed", hvoraf mange ikke har til formål at forherlige eller formidle godkendelse og alt for ofte fører til, at personer, der taler arabisk, og personer (mange af dem muslimer), der taler andre sprog, får fjernet opslag, uden at denne fjernelse tjener formålene med politikken om farlige organisationer og individer. Desuden forbyder Metas politikker for eksempel forherligelse af, støtte til og repræsentation af udpegede enkeltpersoner, organisationer og begivenheder samt opfordring til vold. Hvis disse politikker håndhæves korrekt, afbødes de farer, der måtte opstå som følge af terroristers brug af Metas platforme. I overensstemmelse hermed anbefaler rådet, at Meta afslutter sit generelle forbud mod brug af ordet "shaheed" til at henvise til enkeltpersoner, der er udpeget som farlige, og ændrer sin politik, således at der gives plads til en mere kontekstbaseret analyse af indhold med dette ord.

Baggrund

I februar 2023 spurgte Meta rådet, om virksomheden skulle fortsætte med at fjerne indhold med det arabiske ord "shaheed", eller شهيد skrevet med arabiske bogstaver, som henvisning til enkeltpersoner, der er udpeget i henhold til dens politik om farlige organisationer og individer. "Shaheed" er også et låneord (hvilket betyder, at mange ikke-arabiske sprog har "lånt" dette udtryk med arabisk oprindelse, herunder ved at tilpasse dets stavemåde).

Virksomheden beskriver ordet "shaheed" som et "æresbegreb", der bruges af mange samfund på tværs af kulturer, religioner og sprog, til at henvise til en person, der uventet er afgået ved døden såsom i en ulykke, eller ærefuldt, såsom i en krig. Virksomheden anerkender, at ordet har "flere betydninger", og selvom der ikke er "nogen direkte ækvivalent på engelsk", er den almindelige engelske oversættelse "martyr". Meta bemærker, at "ordet 'martyr' på engelsk betyder en person, der har lidt eller er død for en berettiget sag, og typisk har positive konnotationer", og siger, at "det er på grund af denne brug, at vi har kategoriseret ordet ["shaheed"] som hyldest i henhold til vores politik [om farlige organisationer og individer]".

Metas antagelse om, at det at henvise til en udpeget enkeltperson som "shaheed" altid har været en "hyldest" i henhold til politikken om farlige organisationer og individer, har resulteret i et generelt forbud. Meta har erkendt, at på grund af ordets mange betydninger "kan det være en overhåndhævelse i forhold til betydelige mængder retorik, der ikke har til formål at hylde en udpeget enkeltperson, især blandt arabisktalende personer." Derudover anvender Meta ikke undtagelserne i politikken om farlige organisationer og individer, der tillader brugen af "shaheed" til at "rapportere om, fordømme eller neutralt debattere udpegede enheder." Dette er fortsat under de seneste opdateringer af politikken – i december 2023 – der nu forbyder "forherligelse" og "uklare referencer" i stedet for "hyldest", som er blevet fjernet fuldstændigt.

Meta påbegyndte en proces til udvikling af politikken i 2020 for at tage sin tilgang til ordet "shaheed" op til fornyet overvejelse på grund af disse bekymringer. Der opstod dog ikke konsensus i virksomheden, og man blev ikke enige om en ny tilgang.

Da Meta anmodede om dette råd om politikker, præsenterede virksomheden tre politikmæssige muligheder for rådet:

1. Opretholde status quo.
2. Tillade brugen af "shaheed" i henvisninger til udpegede enkeltpersoner i opslag, der opfylder kravene til undtagelse i forhold til forbuddet mod "hyldest" (f.eks. rapportering, neutral debat eller fordømmelse), så længe der ikke er anden hyldest eller "signaler om vold. ” Nogle eksempler på disse signaler, som Meta foreslog, inkluderede en visuel skildring af våben eller referencer til militært sprog eller vold i den virkelige verden.
3. Tillade brugen af "shaheed" i forbindelse med udpegede enkeltpersoner, så længe der ikke foreligger anden hyldest eller signaler om vold. Dette er, uanset om indholdet falder ind under en af de ovennævnte undtagelser i modsætning til mulighed nr. to.

Rådet overvejede andre politikmæssige valgmuligheder. Af de årsager, der er anført i hele dette råd om politikker, er rådets anbefalinger i tæt overenstemmelse med den tredje mulighed, selvom der er medtaget færre signaler om vold, end Meta foreslog i sin anmodning, og der er et krav om en bredere anvendelse af undtagelser i politikken i forhold til rapportering om, neutral debat om og fordømmelse af udpegede enheder og deres handlinger.

Centrale konklusioner og anbefalinger

Rådet finder, at Metas nuværende tilgang til ordet "shaheed" i forbindelse med enkeltpersoner, der er udpeget som farlige, er for bred og begrænser ytringsfriheden væsentligt og uforholdsmæssigt meget.

"Shaheed" er et kulturelt og religiøst betydningsfuldt ord. Nogle gange bruges det til at indikere hyldest til dem, der dør ved at begå voldelige handlinger, og kan endda "forherlige" dem. Men det bruges ofte, selv med henvisning til farlige enkeltpersoner, i rapportering, neutrale debatter, akademiske debatter, menneskerettighedsdebatter og på endnu mere passive måder. "Shaheed" bruges blandt andet meget til at henvise til enkeltpersoner, der dør, mens de tjener deres land, tjener en sag eller som et uventet offer for sociopolitisk vold eller i naturtragedier. I nogle muslimske samfund bruges det endda som fornavn og efternavn. Der er stærk grund til at tro, at de mange betydninger af "shaheed" resulterer i fjernelse af en betydelig mængde materiale, der ikke er tænkt som hyldest til terrorister eller deres voldelige handlinger.

I Metas tilgang med at fjerne indhold udelukkende for at have brugt "shaheed" som henvisning til udpegede enkeltpersoner ses der bevidst bort fra ordets sproglige kompleksitet og dets mange anvendelser, og ordet behandles altid og kun som en ækvivalent til det engelske ord "martyr." Dette påvirker ytringsfriheden og mediefriheden væsentligt, det begrænser den borgerlige diskurs unødigt, og det har alvorlige negative konsekvenser for ligestilling og ikke-diskrimination. Denne overhåndhævelse påvirker uforholdsmæssigt meget arabisktalende personer og personer, der taler andre sprog, som har "shaheed" som låneord. Samtidig vil andre måder at implementere politikken om farlige organisationer og individer på stadig gøre det muligt for Meta at fremme sin værdi om sikkerhed og sit mål om at holde forherligende terrorister væk fra sine platforme. Den nuværende politik er derfor uforholdsmæssig og unødvendig.

For at skabe større overenstemmelse mellem politikkerne og håndhævelsespraksissen omkring ordet "shaheed" og menneskerettighedsstandarderne kommer rådet med følgende anbefalinger (se de fulde anbefalinger i afsnit 6):

1. Meta bør stoppe med at antage, at ordet "shaheed", når det bruges til at henvise til en udpeget enkeltperson eller unavngivne medlemmer af udpegede organisationer, altid er i strid med virksomhedens politik og ikke er berettiget til undtagelser i politikken. Indhold, der henviser til en udpeget enkeltperson som "shaheed", bør kun fjernes som en "uklar reference" i to situationer. For det første, når et eller flere af tre signaler om vold er til stede: en visuel skildring af bevæbning/våben, en hensigtserklæring om eller advokering for at bruge eller bære et våben eller en henvisning til en udpeget begivenhed. For det andet, når indholdet på anden måde overtræder Metas politikker (f.eks. med henblik på forherligelse, eller fordi referencen til en udpeget enkeltperson forbliver uklar af andre årsager end brugen af "shaheed"). I begge scenarier bør indhold stadig være berettiget til undtagelserne i forhold til "rapportering, neutral debat og fordømmelse".

2. For at tydeliggøre forbuddet mod "uklare referencer" bør Meta inkludere flere eksempler på krænkende indhold, herunder et opslag, der henviser til en udpeget enkeltperson som "shaheed", kombineret med et eller flere af de tre voldssignaler, der er specificeret i anbefaling nr. 1.

3. Metas interne vejledning om politikker bør også opdateres for at gøre det klart, at det at henvise til udpegede enkeltpersoner som "shaheed" ikke er krænkende, undtagen når det ledsages af signaler om vold, og at selv når disse signaler er til stede, kan indholdet stadig drage fordel af undtagelserne i forhold til "rapportering, neutral debat eller fordømmelse".

Hvis Meta accepterer og implementerer disse anbefalinger, vil virksomheden i henhold til sine eksisterende regler fortsætte med at fjerne indhold, der "forherliger" udpegede enkeltpersoner, karakteriserer deres vold eller had som en præstation eller legitimerer eller forsvarer deres voldelige eller hadefulde handlinger, samt eventuel støtte til eller repræsentation af en udpeget farlig enhed. Rådets foreslåede tilgang, der er resultatet af disse anbefalinger, ville være, at Meta stopper med altid at tolke "shaheed" i forbindelse med en udpeget enkeltperson som krænkende og kun fjerner indholdet, når det kombineres med yderligere overtrædelser af politikken (f.eks. forherligelse), eller når der er en "uklar reference" på grund af signaler om vold. Sådant indhold ville fortsat skulle være berettiget til politikkens undtagelser i forhold til "rapportering om, neutral debat om og fordømmelse af udpegede individer".

Rådet anbefaler desuden, at Meta gør følgende:

4. I mere detaljeret grad forklare den procedure, hvorved enheder og begivenheder udpeges i henhold til virksomhedens politik om farlige organisationer og individer, for at øge gennemsigtigheden omkring denne liste. Meta bør også offentliggøre aggregerede oplysninger om det samlede antal enheder for hver grad på udpegningslisten og om, hvor mange enheder der er blevet tilføjet og fjernet i det forgangne år.

5. Indføre en klar og effektiv proces til regelmæssig revision af udpegninger og fjernelse af dem, der ikke længere opfylder de offentliggjorte kriterier, for at sikre, at listen over farlige organisationer og individer er opdateret og ikke inkluderer organisationer, individer og begivenheder, der ikke længere opfylder Metas definition i forhold til udpegning.

6. Forklare de metoder, virksomheden bruger til at vurdere nøjagtigheden af menneskelig gennemgang og effektiviteten af automatiserede systemer i håndhævelsen af politikken om farlige organisationer og individer. Meta bør også periodisk dele resultaterne af effektivitetsvurderingerne af de klassificeringer, der anvendes til håndhævelse af denne politik, og fremlægge resultaterne på en måde, der kan sammenlignes på tværs af sprog og/eller regioner.

7. Tydeligt forklare, hvordan klassificeringer bruges til at generere forudsigelser om overtrædelser af politikker, og hvordan Meta sætter tærskler for enten ikke at foretage sig noget, indstille indhold til menneskelig gennemgang eller fjerne indhold. Disse oplysninger bør gives i Gennemsigtighedscenter for at informere interessenter.

Råd om politikker – fuld version

1. Metas anmodning

I. Anmodningen om et råd om politikker

1. I sin anmodning (findes på engelsk og arabisk) spurgte Meta rådet, om virksomheden skulle fortsætte med at fjerne indhold, hvori ordet "shaheed" bruges (شهيد) (i både ental og flertal, herunder låneordsvarianter på arabisk og andre sprog) til at henvise til enkeltpersoner, der er udpeget som farlige i henhold til politikken om farlige organisationer og individer, eller om en anden tilgang i højere grad ville være i overensstemmelse med virksomhedens værdier og menneskerettighedsansvar. Meta anmodede også om vejledning om et lignende indholdsproblem, der muligvis kan opstå i fremtiden.

II. Metas tilgang

2. Metas politik om farlige organisationer og individer forbød tidligere hyldest, væsentlig støtte til eller repræsentation af udpegede enheder og enkeltpersoner og af udpegede krænkende voldelige begivenheder. Den 29. december 2023 opdaterede Meta denne politik, fjernede forbuddet mod hyldest og tilføjede forbud mod "forherligelse" og "uklare referencer." Rådet vurderede i øvrigt den eventuelle indvirkning, som disse ændringer af politikken ville have på dets resultater og anbefalinger.

3. Denne anmodning om et råd om politikker vedrørte forbuddet mod hyldest af udpegede enkeltpersoner og ikke de parallelle forbud mod væsentlig støtte eller repræsentation. Sammenlignet med repræsentation og væsentlig støtte anså Meta "hyldest" for at være den mindst alvorlige overtrædelse. Meta reserverer "1. grad" til de farligste enheder, herunder terror- og hadorganisationer og kriminelle organisationer. Når Meta udpeger en "krænkende voldelig begivenhed", udpeges gerningsmændene i disse begivenheder også som farlige individer i 1. grad, og forherligelse (tidligere "hyldest") af dem er derfor forbudt. Udpegede begivenheder omfatter "terrorangreb, hadhændelser, vold med flere ofre eller forsøg på vold med flere ofre, massemord, seriemord eller hadforbrydelser." Selvom Meta kontrollerer sin egen liste over udpegede enheder, som ikke er offentlig, er udpegninger til dels baseret på den amerikanske regerings udpegningslister (dvs. Metas udpegningsliste vil være mindst lige så omfattende som den amerikanske regerings lister, som den stammer fra). Fællesskabsreglerne forklarer, at enheder i 1. grad inkluderer særligt udpegede bagmænd i narkohandel (SDNTK – Specially Designated Narcotics Trafficking Kingpins), udenlandske terrororganisationer (FTO – foreign terrorist organizations) og særligt udpegede globale terrorister (SDGT – Specially Designated Global Terrorists). Disse lister fra den amerikanske regering er offentligt tilgængelige henholdsvis her, her og her.

4. Før opdateringen af politikken den 29. december 2023 omfattede Metas definition af "hyldest" at tale "positivt om en udpeget enhed eller begivenhed" og dermed give en udpeget enhed "en fornemmelse af en bedrift", legitimere "årsagen til en udpeget enhed ved at fremsætte påstande om, at dens hadefulde, voldelige eller kriminelle handlinger er lovlige, moralsk korrekte eller på anden måde kan retfærdiggøres eller accepteres," og sidestille "sig selv ideologisk med en udpeget enhed eller begivenhed." Denne definition, eller række af eksempler, blev føjet til politikken for at øge klarheden som følge af en anbefaling fra Tilsynsrådet i en af vores første sager (afgørelsen i sagen Nazistisk citat, anbefaling nr. 2). Efter opdateringen af politikken i december 2023 defineres "forherligelse" som "legitimering eller forsvar af en udpeget enheds voldelige eller hadefulde handlinger ved at hævde, at disse handlinger har en moralsk, politisk, logisk eller anden begrundelse, der gør dem acceptable eller rimelige," eller "karakterisering eller hyldest af en udpeget enheds vold eller had som en præstation eller bedrift." Mere generelt oplyser Meta i sin opdatering af politikken, at virksomheden "fjerner [...] uklare eller kontekstløse referencer, hvis brugerens hensigt ikke er tydelig." Politikken specificerer, at dette vil omfatte "uklar humor" og "referencer uden tekst eller positive referencer, som ikke forherliger den udpegede enheds vold eller had." Politikken giver dog ikke eksempler på, hvilken slags opslag der ville overtræde denne regel. Meta har informeret rådet om, at virksomheden fortsætter med at fjerne alt indhold, der henviser til udpegede enkeltpersoner som "shaheed". I forhold til sådanne referencer antager virksomheden, at "shaheed" er en overtrædelse i alle sammenhænge, hvilket i det væsentlige resulterer i et generelt forbud mod ordet, når det bruges til at henvise til en udpeget enkeltperson. Omfanget af dette forbud kan delvist illustreres ved at tjekke de ovennævnte amerikanske udpegningslister, da det er forbudt i henhold til Metas politik at henvise til alle personer (og medlemmer af organisationer) på virksomhedens egen afledte liste som "shaheed" (eller enhver anden oversættelse af ordet "martyr"). Dette omfatter enheder på tværs af kontinenter og er ikke begrænset til terrororganisationer eller organisationer med en bestemt ideologi.

5. Virksomheden beskriver ordet "shaheed" som et "æresbegreb", der bruges af mange samfund i verden på tværs af kulturer, religioner og sprog. Virksomheden anerkender, at ordet har "flere betydninger", og at det er blevet "brugt til at beskrive nogen, der dør uventet eller for tidligt, og at det til tider henviser til en ærefuld død, såsom hvis en person dør i en ulykke eller under en konflikt eller i krig". Meta udtalte, at selvom der ikke var "nogen direkte ækvivalent på engelsk," er den almindelige engelske oversættelse "martyr." Da Meta sendte sin anmodning til rådet forud for ændringerne i december 2023, udtalte virksomheden: "vi formoder, at ordet betyder 'martyr', [og] det er på grund af denne brug, at vi har kategoriseret ordet som hyldest i henhold til vores politik [om farlige organisationer og individer]." Den eneste reference til denne regel i de offentlige fællesskabsregler var i form af et eksempel på sætninger, der ville overtræde forbuddet mod hyldest. Blandt andre eksempler inkluderede Meta en sætning, hvori en dømt amerikansk terrorist blev kaldt en "martyr". I Metas arabiske version af politikken brugte virksomheden det samme eksempel og oversatte ordet "martyr" til "shaheed". Eksemplet med "martyr"/"shaheed" blev fjernet ved opdateringen af den offentlige fællesskabsregel i december 2023, selvom Meta har informeret rådet om, at ordet fortsat er krænkende, og at moderatorer bliver bedt om at fjerne det.

6. Meta anvender ikke undtagelserne i politikken om farlige organisationer og individer til brugen af "shaheed", når det refererer til en udpeget enkeltperson. Disse undtagelser giver ellers mulighed for at "rapportere om, neutralt debattere eller fordømme" udpegede enkeltpersoner. Fjernelse af indhold, der inkluderer "shaheed" som "hyldest" af en udpeget enkeltperson, ville resultere i alvorlige "anmærkninger" for brugere, og flere alvorlige anmærkninger ville hurtigere føre til sanktioner såsom suspendering eller deaktivering af konto eller side. Uanvendeligheden af undtagelser i reglen om "shaheed" er ikke forklaret i de offentlige fællesskabsregler.

7. Meta har forklaret, at virksomhedens behandling af "shaheed" fremmer værdien om sikkerhed, fordi dette indhold efter virksomhedens opfattelse kunne "bidrage til en risiko for skade i det virkelige liv." Samtidig erkendte Meta, at det engelske ord "martyr" ikke er en passende oversættelse af "shaheed." I betragtning af de adskillige betydninger af "shaheed" og vanskelighederne med at redegøre for kontekst og brugernes hensigt i stor skala, accepterede Meta, at virksomheden har fjernet retorik, der "ikke bidrager til en risiko for skade", og som "ikke har til formål at hylde en udpeget enkeltperson, især blandt arabisktalende personer." For eksempel fjernelsen af indhold, når "shaheed" bruges i nyhedsrapportering eller til neutralt at debattere en udpeget enkeltpersons for tidlige død i stedet for at hylde (eller forherlige) vedkommende eller vedkommendes handlinger.

8. Den 29. august 2023 opdaterede Meta politikken om farlige organisationer og individer, således at der blev inkluderet definitioner af "nyhedsrapportering", "neutral debat" og "fordømmelse" samt illustrative eksempler på hver undtagelse. Samtidig udvidede Meta sin beskrivelse af denne tilladelse for at anerkende, at brugere kan referere til udpegede enheder "i konteksten af en social og politisk debat." De illustrative eksempler på tilladt indhold blev alle fjernet som en del af opdateringen af politikken i december 2023, selvom selve tilladelsen forbliver gældende. Eksemplerne blev gendannet i en opdatering af politikken den 8. februar 2024. Hverken opdateringen i december 2023 eller februar 2024 gør det dog eksplicit, at uklare eller kontekstløse referencer til udpegede enkeltpersoner eller organisationer ikke vil drage fordel af disse undtagelser, da de er defineret af en mangel på klart angivet hensigt i selve opslaget.

9. Meta påbegyndte en proces til udvikling af politikken i 2020 for at tage sin tilgang til ordet "shaheed" op til fornyet overvejelse. Dette inkluderede en undersøgelsesgennemgang og interessenthøring. Meta beskrev som det vigtigste resultat af denne inddragelse af interessenter, at betydningen af ordet "shaheed" afhænger af konteksten, og "at ordet i nogle sammenhænge har mistet noget af sin betydning og endda i nogle tilfælde ikke længere har betydningen hyldest." Samtidig er der uden tvivl tilfælde, hvor "shaheed" bruges og forstås som hyldest af en udpeget enkeltperson. At fastslå forskellene i hensigt i et enkelt opslag er i sagens natur udfordrende, især i stor skala. Under denne proces, som Meta beskrev i sin anmodning, identificerede Meta to politikmæssige muligheder som mulige alternativer til virksomhedens nuværende behandling af ordet "shaheed." Der var dog ingen konsensus blandt interessenterne om, hvilken mulighed der var bedst, og Meta besluttede sig ikke for en ny tilgang. Virksomheden understreger, at på grund af mængden af indhold på dens platforme er den primære praktiske bekymring, hvordan håndhævelsen af en eventuel ændret politik skal kunne fungere i stor skala.

III. Ændringer af politikken, som Meta anmodede rådet om at overveje

10. Meta præsenterede følgende politikmæssige muligheder, som rådet kunne overveje, inden virksomheden udskiftede forbuddet mod hyldest med et forbud mod forherligelse og uklare referencer:

1) At fortsætte med at fjerne alt indhold, der bruger "shaheed" til at henvise til en enkeltperson, der er udpeget som farlig i henhold til politikken om farlige organisationer og individer.

2) At tillade indhold, der henviser til en udpeget enkeltperson som "shaheed", når følgende betingelser er opfyldt: (i) det bruges i en kontekst, der er tilladt i henhold til politikken om farlige organisationer og individer (f.eks. fordømmelse, nyhedsrapportering, akademisk debat, social og politisk diskurs); (ii) der er ingen yderligere hyldest af, repræsentation af eller væsentlig støtte til en udpeget enkeltperson (f.eks. hylder opslaget ikke eksplicit en gerningsmand i et terrorangreb og legitimerer heller ikke dennes vold); og (iii) der ikke er noget signal om vold i indholdet. Signalerne, som Meta foreslog, er: en visuel skildring af bevæbning; hensigtserklæring om eller fortalervirksomhed for at bruge eller bære et våben; henvisning til militært sprog; henvisning til brandstiftelse, plyndring eller anden ødelæggelse af ejendom; henvisning til kendte voldshændelser i den virkelige verden; og hensigtserklæringer eller opfordringer til handling, som repræsenterer, støtter eller advokerer for vold mod mennesker.

3) Kun at fjerne indhold, der bruger "shaheed" til at henvise til en enkeltperson, der er udpeget som farlig i henhold til Metas politik om farlige organisationer og individer, når der foreligger yderligere hyldest, repræsentation eller væsentlig støtte eller signaler om vold. Disse signaler er de samme som dem, der er angivet under mulighed to.

11. Både anden og tredje mulighed søger at nå frem til en mere kontekstualiseret forståelse af brugen af "shaheed" og synes ikke at afvige meget fra hinanden i deres tilsigtede resultater. De to muligheder forekommer endnu tættere, for så vidt som Meta har udvidet omfanget af de kontekstualiserede undtagelser, som virksomheden gør i forhold til sit forbud mod hyldest (nu forherligelse) generelt (se punkt 8 ovenfor). Som rådet forstår det, efter at have spurgt Meta om forskellene i anvendelsen og resultatet af disse to muligheder, er den vigtigste forskel, at den anden mulighed ville kræve, at Meta opsøger og bekræfter, at en af undtagelserne (rapportering, neutral debat, fordømmelse) gælder for indholdet, mens den tredje mulighed ville se bort fra dette trin og kun tage højde for, hvorvidt opslaget også har yderligere hyldest (nu "forherligelse" eller "uklare referencer") eller et af de seks anførte signaler om vold. Med hensyn til alle Metas foreslåede muligheder, vil politikken blive anvendt på en måde, så alt indhold, der navngiver eller afbilder udpegede farlige enkeltpersoner med et tvetydigt eller uklart formål, som standard behandles som krænkende, og dermed lægges ansvaret for tydeliggørelse af hensigten over på brugeren. Ændringerne fra december 2023 inkorporerer denne anvendelse i fællesskabsreglen om farlige organisationer og individer, der forklarer, at for enheder i 1. grad og udpegede begivenheder forbyder politikken "uklare eller kontekstløse referencer", hvilket inkluderer "uklar humor, referencer uden tekst eller positive referencer, som ikke forherliger den udpegede enheds vold eller had." For eksempel ville et fotografi af en udpeget enkeltperson uden yderligere ord eller kommentarer blive fjernet i henhold til politikken, der forbyder uklare referencer, fordi brugerens hensigt ikke var tilstrækkeligt eksplicit.

12. Mens rådet overvejede de muligheder, Meta havde præsenterede, overvejede det også andre og tog ændringerne af politikken fra december 2023 i betragtning. I betragtning af, at Meta i sin anmodning direkte bad rådet om anbefalinger til politikken til at løse lignende udfordringer i fremtiden, vurderede rådet desuden tilknyttede problemer vedrørende Metas håndhævelses- og gennemsigtighedspraksis på områder, der er tydelige i dette råd om politikker, men som også har konsekvenser for ytringsfriheden og andre menneskerettigheder generelt.

IV. Spørgsmål, som rådet stillede Meta

13. Rådet stillede Meta 41 spørgsmål på skrift. Spørgsmålene var relateret til rationalet om politikken i fællesskabsreglen om farlige organisationer og individer, beviser på skade, der kunne opstå som følge af at tillade "hyldest" på Metas platforme, Metas menneskelige og automatiserede håndhævelsesprocesser, Metas udpegningsproces og liste over udpegede enheder, Metas anmærkningssystem og de praktiske konsekvenser af at indføre mulighed to eller tre. I oktober 2023 stillede rådet opfølgende spørgsmål om indholdstendenser for ordet "shaheed" relateret til terrorangrebene den 7. oktober på Israel og den igangværende militære reaktion fra Israel, og om hvorvidt Metas analyse af de politikmæssige muligheder, virksomheden havde præsenteret for rådet i sin anmodning, havde ændret sig i lyset af den nuværende krise. Rådet stillede tre yderligere spørgsmål om Metas opdatering af politikken fra den 29. december 2023. I alt blev 40 spørgsmål besvaret, og ét blev besvaret delvist. Meta gav kun rådet listen over udpegede enheder i 1. grad og delte ikke lister over enheder i 2. og 3. grad og forklarede, at "hyldest" kun er forbudt, når der henvises til 1. grad.

2. Inddragelse af interessenter

14. Tilsynsrådet modtog 101 offentlige kommentarer, der opfyldte betingelserne for indsendelse. Der blev indsendt i alt 72 kommentarer fra USA og Canada; 15 fra Mellemøsten og Nordafrika; otte fra Europa; tre fra Asien og Stillehavsområdet og Oceanien; to fra Latinamerika og Caribien; og én fra Central- og Sydasien. De blev alle modtaget før den 10. april 2023. Du kan læse de offentlige kommentarer, der er indsendt med samtykke til offentliggørelse, ved at klikke her.

15. Indlæggene dækkede mange spørgsmål. Mange af dem forklarede de adskillige betydninger af ordet "shaheed" og følgelig den negative indvirkning af Metas standardbehandling af dette ord som "hyldest" på ytringsfriheden, især politisk retorik og menneskerettighedsdokumentation. Nogle indsendelser berørte også bekymringer om brugen af automatisering i håndhævelse samt Metas udpegningsliste, problemer med gennemsigtighed og potentiel bias i udpegningsprocessen. Andre indsendelser udtrykte bekymring for, at ændringer af politikken kunne føre til normalisering af terrorgrupper og øge volden, især i Israel og de besatte palæstinensiske områder.

16. Rådet afholdt tre rundbordssamtaler med regionale interessenter for Sydvestasien og Nordafrika, Afrika syd for Sahara og Sydøstasien. Derudover var der to rundborde om specifikke emneområder, ét om automatisering i indholdsmoderering og ét om terrorbekæmpelse og menneskerettigheder. Deltagerne understregede, at ordet "shaheed" har mange betydninger. Martyrdøden er én mulig betydning, herunder for enkeltpersoners død i forbindelse med udførelsen af terrorhandlinger, men "shaheed" bruges også ofte i andre sammenhænge såsom til at beskrive ofre for vold i disse angreb. Mange deltagere, herunder berørte fællesskabsmedlemmer, terrorbekæmpelseseksperter og eksperter i indholdsmoderering, udtrykte bekymring over bias i politikken og diskuterede, hvordan den negativt påvirker ytringsfriheden, især for arabisktalende samfund og andre samfund, der bruger "shaheed." Andre temaer omfattede manglen på beviser, der viser en årsagssammenhæng mellem brugen af "shaheed" i forbindelse med udpegede enkeltpersoner og skade i den virkelige verden, hvilket også blev understreget af nationale sikkerhedseksperter og terrorbekæmpelseseksperter. Ligeledes var der bekymring for, at komplet mangel på moderering af ordet ville føre til normalisering af udpegede enkeltpersoner og deres organisationer, som kunne bruge sociale medier til rekruttering og andre former for væsentlig støtte. Andre emner omfattede bekymringer om kvaliteten af den automatisering, som Meta bruger i indholdsmoderering af ordet, og deltagernes opfordringer til mere gennemsigtighed omkring brugen af ordet såvel som omkring Metas liste over udpegede enheder og udpegningsprocesser.

17. Se en rapport om vores rundbordssamtaler med interessenter ved at klikke her (se den arabiske version ved at klikke her).

3. Tilsynsrådets bemyndigelse og arbejdsområde

18. Meta kan anmode rådet om råd om politikker (artikel 3, afsnit 7.3 i charteret), og rådet har skønsmæssige beføjelser til acceptere eller afvise Metas anmodninger (artikel 2, afsnit 2.1.3 i vedtægterne). Disse råd er netop rådgivende (artikel 3, afsnit 7.3 i charteret). Meta er forpligtet til at svare på dette råd om politikker inden for 60 dage efter offentliggørelsen (artikel 2, afsnit 2.3.2 i vedtægterne). Rådet overvåger implementeringen af anbefalinger, som Meta har givet tilsagn om at handle på, og vil muligvis følge op på eventuelle tidligere anbefalinger i sine sagsafgørelser.

4. Kilder til bemyndigelse og vejledning

I. Inden Tilsynsrådets anbefalinger

19. I tidligere sager har rådet anbefalet, at Meta præciserer og indsnævrer anvendelsesområdet for politikken om farlige organisationer og individer og øger retfærdigheden i processen samt gennemsigtigheden omkring håndhævelse.

20. I forhold til at forbedre klarheden i politikken og indsnævre dens anvendelsesområde har rådet anbefalet, at Meta gør følgende:

• Indsnævrer definitionen af "hyldest" i vejledningen "Kendte spørgsmål" til evaluatorer (Omtale af Taleban i nyhedsrapportering, anbefaling nr. 3).
• Reviderer sin interne vejledning for at gøre det klart, at tilladelsen om "rapportering" i politikken om farlige organisationer og individer muliggør positive udtalelser om udpegede enheder som en del af en rapportering, og hvordan man skelner mellem dette og "hyldest", som er forbudt (Omtale af Taleban i nyhedsrapportering, anbefaling nr. 4).
• Tilføjer kriterier og illustrative eksempler i sin politik for at gøre det nemmere at forstå undtagelserne, som er neutral debat, fordømmelse og nyhedsrapportering (Delt Al Jazeera-opslag, anbefaling nr. 1).
• Opdaterer rationalet om politikken, således at det afspejler, at respekt for ytringsfriheden og andre menneskerettigheder kan fremme Metas værdi om sikkerhed, og mere detaljeret specificerer den "skade i den virkelige verden", som politikken søger at imødegå og afbryde, når værdien om ytringsfrihed undertrykkes (Öcalans isolation, anbefaling nr. 4).
• Forklarer, hvordan brugerne kan tydeliggøre hensigten bag deres opslag, så deres opslag kan drage fordel af undtagelser i politikken (Öcalans isolation, anbefaling nr. 6).
• Forklarer og giver eksempler på anvendelsen af nøglebegreber i politikken om farlige organisationer og individer, herunder betydningen af "hyldest" og for at give tydeligere vejledning til brugerne om, hvordan de kan tydeliggøre deres hensigt (Nazistisk citat, anbefaling nr. 2).

21. I forhold til Metas anmærkningssystem har rådet anbefalet, at Meta gør følgende:

• Forklarer sin anmærknings- og sanktionsproces for begrænsning af profiler, sider, grupper og konti på Facebook og Instagram på en klar, omfattende og tilgængelig måde (Suspendering af den tidligere amerikanske præsident Trump, anbefaling nr. 15).
• Gør sin offentlige forklaring af sit tosporede anmærkningssystem mere udførlig og tilgængelig og giver flere baggrundsoplysninger om "alvorlige anmærkninger" (Omtale af Taleban i nyhedsrapportering, anbefaling nr. 2).
• Giver brugerne tilgængelige og letforståelige oplysninger om, hvor mange overtrædelser, anmærkninger og sanktioner, der er blevet opgjort for dem, samt konsekvenserne af fremtidige overtrædelser (Suspendering af den tidligere amerikanske præsident Trump, anbefaling nr. 16).

22. I forhold til gennemsigtighed har rådet anbefalet, at Meta gør følgende:

• Deler sin liste over udpegede enheder offentligt eller som minimum giver illustrative eksempler på udpegede enheder (Nazistisk citat, anbefaling nr. 3).
• Forbedrer sin håndhævelsesrapportering ved at inkludere antallet af profil-, side- og kontobegrænsninger (ud over afgørelser om fjernelse af indhold) sammen med andre oplysninger, udspecificeret efter region og land (Suspendering af den tidligere amerikanske præsident Trump, anbefaling nr. 17).
• Inkluderer mere udførlige oplysninger om fejlrater i forbindelse med håndhævelse af regler for hyldest af og støtte til farlige enkeltpersoner eller organisationer, udspecificeret efter region og sprog (Öcalans isolation, anbefaling nr. 12).
• Øger mængden af offentliggjorte oplysninger om fejlrater og gør dem synlige efter land og sprog for hver fællesskabsregel (Bekymringer i Punjab-regionen om RSS i Indien, anbefaling nr. 3).

23. I forhold til automatisering har rådet anbefalet, at Meta gør følgende:

• Informerer brugerne, når der anvendes automatisering til håndhævelse i forhold til indhold, herunder tilgængelige beskrivelser af betydningen af dette (Symptomer på brystkræft og nøgenhed, anbefaling nr. 3).
• Udvider gennemsigtighedsrapporteringen, så den indeholder data om antallet af afgørelser med automatiseret fjernelse i henhold til fællesskabsreglen og om andelen af disse afgørelser, der efterfølgende er blevet omstødt efter menneskelig gennemgang (Symptomer på brystkræft og nøgenhed, anbefaling nr. 6).
• Offentliggør fejlrater for indhold, der fejlagtigt er inkluderet i mediematchningsbanker med krænkende indhold, opdelt efter hver indholdspolitik, i virksomhedens gennemsigtighedsrapportering. Denne rapportering bør indeholde oplysninger om, hvordan indhold tilføjes i bankerne, og virksomhedens arbejde henimod at reducere antallet af fejl undervejs (Tegning af colombiansk politi, anbefaling nr. 3).
• Giver en offentlig forklaring på den automatiske prioritering og lukning af appeller (Iransk demonstrationsslogan, anbefaling nr. 7).

24. For at se implementeringsstatussen for disse tidligere anbefalinger på det tidspunkt, hvor dette råd om politikker blev udfærdiget, skal du klikke her (klikher for den arabiske version).

II. Metas værdier og menneskerettighedsansvar

25. Rådets analyse og anbefalinger i dette råd om politikker er baseret på Metas værdier og menneskerettighedsansvar.

26. Meta beskriver ytringsfrihed som en "altafgørende" værdi og bemærker, at den kan begrænses til fordel for fire andre værdier, hvoraf den mest relevante er sikkerhed for dette råd om politikker. For at beskytte værdien om sikkerhed "fjerner [Meta] indhold, der kan bidrage til risikoen for skade på personers fysiske sikkerhed." Virksomheden tillader heller ikke "indhold, der truer folk, har potentiale til at intimidere, ekskludere eller forhindre andre i at udtale sig."

27. Den 16. marts 2021 annoncerede Meta sin virksomhedspolitik om menneskerettigheder, hvori virksomheden beskriver sit tilsagn om at respektere rettigheder i overensstemmelse med FN's vejledende principper for erhvervsliv og menneskerettigheder. FN's vejledende principper for erhvervsliv og menneskerettigheder, som blev vedtaget af FN's menneskerettighedsråd i 2011, udgør en frivillig ramme for private virksomheders ansvar, hvad angår menneskerettigheder. Dette ansvar betyder, at virksomheder bl.a. "skal undgå negative indvirkninger på andres menneskerettigheder og skal håndtere negative indvirkninger på menneskerettigheder, som de er involveret i" (princip 11, FN's vejledende principper for erhvervsliv og menneskerettigheder). Det forventes, at virksomheder: "(a) undgår at forårsage eller bidrage til negative indvirkninger på menneskerettigheder gennem virksomhedens aktiviteter og håndterer sådanne indvirkninger, når de opstår; (b) søger at forebygge eller afbøde negative indvirkninger på menneskerettigheder, som er direkte forbundet med deres aktiviteter, produkter eller tjenesteydelser gennem deres forretningsforbindelser, også hvis de ikke selv har bidraget til de pågældende indvirkninger" (princip 13, FN's vejledende principper for erhvervsliv og menneskerettigheder).

28. Som Meta anerkender i sin anmodning til rådet, kan virksomhedens indholdsmodereringspraksis have en negativ indvirkning på ytringsfriheden. Artikel 19, stk. 2 i den internationale konvention om borgerlige og politiske rettigheder (ICCPR) giver bred beskyttelse af denne ret på grund af dens betydning for den politiske diskurs, og Menneskerettighedskomitéen har bemærket, at den også beskytter ytringer, der kan være dybt stødende (Generel bemærkning nr. 34, punkt 11, 13 og 38). Såfremt en stat indfører begrænsninger af ytringsfriheden, skal de opfylde kravene om lovlighed, legitimt formål og nødvendighed og proportionalitet (artikel 19, stk. 3 i ICCPR). Disse krav omtales ofte som en tredelt test. Rådet anvender denne struktur til at fortolke Metas frivillige tilsagn om beskyttelse af menneskerettigheder, både i forhold til afgørelser om individuelt indhold, der er ved at blive gennemgået, og til Meta i bredere forstand i forhold til indholdsstyring. Som FN's særlige rapportør for menings- og ytringsfrihed har udtalt, gælder det, at selvom "virksomheder ikke har samme forpligtelser som regeringer, så er deres indvirkning af en sådan art, at det kræver, at de tager stilling til samme slags spørgsmål angående beskyttelse af deres brugeres ret til ytringsfrihed" (rapport A/74/486, punkt 41).

29. Ytringsfrihed er ligeligt garanteret for alle mennesker. Enhver begrænsning af denne ret skal være ikke-diskriminerende, herunder på grundlag af religion eller tro, talt sprog eller national oprindelse (artikel 2 og 26, ICCPR).

Lovlighed (reglernes tydelighed og tilgængelighed)

30. Enhver begrænsning af ytringsfriheden bør være tilgængelig og tydelig nok i omfang, betydning og effekt til at vejlede brugere og indholdsevaluatorer om, hvilket indhold der er tilladt eller forbudt. Manglende klarhed eller præcision kan føre til inkonsekvent og vilkårlig håndhævelse af reglerne (FN's særlige rapportør, rapport A/HRC/38/35, punkt 46). Rådet har tidligere kritiseret den manglende klarhed i politikken om farlige organisationer og individer og fremsat anbefalinger til Meta om at forbedre sin politik (Öcalans isolation, anbefaling nr. 4 og 6; Delt Al Jazeera-opslag, anbefaling nr. 1; Omtale af Taleban i nyhedsrapportering, anbefaling nr. 3 og 4). Meta implementerede efterfølgende rådets anbefalinger for at tydeliggøre sin definition af hyldest.

31. Metas opdatering af politikken om farlige organisationer og individer i december 2023 introducerer imidlertid nye lovlighedsmæssige problemer. Selvom Meta giver eksempler på opslag, der overtræder forbuddet mod "repræsentation", "støtte" og "forherligelse", giver virksomheden ikke eksempler på krænkende "uklare referencer." Rådets anbefalinger i dette råd om politikker sigter mod yderligere at øge klarheden og tilgængeligheden af Metas regler.

Legitimt formål

32. I artikel 19, stk. 3 i ICCPR angives det, at enhver begrænsning af ytringer skal have et legitimt mål, hvilket omfatter beskyttelse af andres rettigheder såvel som samfundsinteresser mere generelt, f.eks. national sikkerhed (se også Generel bemærkning nr. 34, punkt 21 og 30). Metas rationale om politikken i fællesskabsreglen om farlige organisationer og individer forklarer, at reglen søger at "forebygge og afværge skade i den virkelige verden", hvilket rådet i forskellige sager har fundet er i overensstemmelse med det legitime mål om at beskytte andres rettigheder, bl.a. retten til livet (artikel 6, ICCPR). Rådet har også tidligere anerkendt, at hyldest af udpegede enheder kan udgøre en risiko for skade på andres rettigheder, og at forsøg på at afbøde disse skader gennem forbuddet mod hyldest i fællesskabsreglen om farlige organisationer og individer har et legitimt mål (Omtale af Taleban i nyhedsrapportering).

Nødvendighed og proportionalitet

33. Enhver begrænsning af ytringsfriheden "skal være passende for at opnå dens beskyttende funktion. Den skal være det mindst indgribende instrument blandt dem, der kan opnå den beskyttende funktion, og den skal være proportionel med interessen, der skal beskyttes" (Generel bemærkning nr. 34, punkt 34).

34. FN's Sikkerhedsråds resolution 1624 (2005) opfordrer stater, i nødvendigt og passende omfang, og i overensstemmelse med deres forpligtelser i henhold til international lovgivning, til "ved lov at forbyde tilskyndelse til at begå en terrorhandling eller -handlinger" (afsnit 1a)., og efterfølgende resolutioner har udtrykt bekymring over terrororganisationers brug af internettet (FN's Sikkerhedsråds resolution 2178 (2014) og FN's Sikkerhedsråds resolution 2396 (2017)). Selvom disse resolutioner på ny bekræfter, at stater bør adressere og forhindre terrorisme i overensstemmelse med deres forpligtelser i henhold til international menneskerettighedslovgivning, har FN's særlige rapportør for fremme og beskyttelse af menneskerettigheder og grundlæggende frihedsrettigheder under bekæmpelse af terrorisme rejst bekymringer over både vagheden af love, der forsøger at implementere deres forpligtelser, herunder dem, der vedrører ytringer online, og også deres fokus på ytringsindholdet frem for på talerens hensigt eller indvirkningen af sådanne ytringer på andre (rapport A/HRC/40/52, punkt 37). Den særlige rapportør konkluderede, at kriminalisering af terrorpropaganda "kræver en rimelig sandsynlighed for, at de pågældende ytringer vil lykkes med at tilskynde til en terrorhandling og dermed etablere en grad af årsagssammenhæng eller faktisk risiko for, at det forbudte resultat indtræffer" (ibid.). Den fælles erklæring om internettet og antiterrorforanstaltninger fra FN's særlige rapportør for ytringsfrihed, OSCE's repræsentant for mediefrihed og OAS' særlige rapportør for ytringsfrihed fra den 21. december 2005 fastslår, at uden klart at vise, at den pågældende retorik udgør en direkte og forsætlig opfordring til andre om at deltage i terrorhandlinger og direkte øger sandsynligheden for, at en terrorhandling finder sted, må en stat ikke begrænse og sanktionere ytringer med straffende foranstaltninger (s. 39). Den særlige rapportør for ytringsfrihed i rapport A/HRC/17/27 (16. maj 2011, punkt 36) har også fastsat en høj tærskel og bemærker, at ytringer kun bør begrænses af hensyn til national sikkerhed eller terrorbekæmpelse, når "(a) ytringen har til formål at tilskynde til nært forestående vold; (b) det er sandsynligt, at den vil tilskynde til en sådan vold; og (c) der er en direkte og umiddelbar forbindelse mellem ytringen og sandsynligheden for eller forekomsten af en sådan vold." Ifølge Menneskerettighedskomitéen gælder det, at når terrorbekæmpelsesforanstaltninger forbyder visse ytringer, skal ord som "tilskyndelse", "forherligelse" og "hyldest" være "snævert defineret" og må ikke "urimeligt begrænse mediernes afgørende rolle i at informere offentligheden om terrorhandlinger," (Generel bemærkning nr. 34, punkt 30 og 46).

35. Selvom disse principper og regler er et vigtigt udgangspunkt for rådet analyse, er de forpligtelser og begrænsninger, som international menneskerettighedslovgivning pålægger stater, ikke identiske med det ansvar og de skønsmæssige beføjelser, som en privat virksomhed måtte have på dette område. En stats anvendelse af strafferetlige sanktioner svarer ikke til at moderere indhold på en SoMe-platform, og rådet anerkender, at Meta, som en privat virksomhed snarere end en stat, kan have og nogle gange har en særlig tilgang til ytringer, der er mere restriktiv end, hvad der ville være forsvarligt af en stat, under hensyntagen til begge Metas virksomhedsværdier (se punkt 27-28 ovenfor) og de særlige udfordringer ved at moderere indhold i stor skala. Ifølge FN's særlige rapportør for ytringsfrihed: "Når virksomhedsregler afviger fra internationale standarder, bør virksomhederne på forhånd give en begrundet forklaring på forskellen i politikken på en måde, der artikulerer variationen" (rapport om hadefuld retorik online fra den særlige rapportør for ytringsfrihed, A/74/486, 9. oktober 2019, punkt 48). I mange af sine tidligere afgørelser har rådet undersøgt, hvordan man på passende vis kan overføre internationale standarder, som er udviklet til stater, til en virksomheds menneskerettighedsansvar, når man vurderer kravet om proportionalitet, hvilket rådet også søger at opnå med dette råd om politikker.

36. Tidligere afgørelser fra rådet vedrørende fællesskabsreglen om farlige organisationer og individer har også undersøgt Metas menneskerettighedsansvar omkring "hyldest" af udpegede enheder. Selvom det er et legitimt mål at forhindre udpegede enheders misbrug af Metas platforme til at tilskynde til vold og rekruttere eller deltage i andre former for væsentlig støtte, har rådet fundet forskellige tilfælde, hvor omfanget eller unøjagtigheden af forbuddet mod "hyldest" har begrænset ytringer fra brugerne unødigt og uforholdsmæssigt meget. For eksempel omstødte rådet fjernelsen af en urdu-sproget avis' opslag om en Taleban-meddelelse om planer om at genetablere kvinders og pigers uddannelse og fandt, at det ikke var "hyldest" (Omtale af Taleban i nyhedsrapportering). Rådet omstødte ligeledes Metas fjernelse af en brugers opslag, der ukorrekt tilskrev Joseph Goebbels et citat (Nazistisk citat), fordi der var tilstrækkelig kontekst til at gøre det klart, at opslaget ikke hyldede den nazistiske ideologi, men deltog i den politiske debat i USA. Rådet omstødte også Metas afgørelse om at fjerne et opslag, der delte en Al Jazeera-nyhedsartikel, som rapporterede om en udpeget terrorgruppes trussel om vold, som burde være forblevet på platformen, hvilket gav anledning til bekymring over den potentielt diskriminerende effekt af Metas politikker (Delt Al Jazeera-opslag). I oversigtsafgørelser og fremskyndede afgørelser har rådet også omstødt eller foranlediget omstødelse af adskillige Meta-afgørelser om at fjerne Facebook- og Instagram-opslag, der oprindeligt blev fjernet for at være hyldest af udpegede enkeltpersoner (Nationalistleder Amílcar Cabral; Libanesisk aktivist; Svar på antisemitisme; Føderal valgkreds i Nigeria; Pigers uddannelse i Afghanistan; Omtale af Al-Shabaab; Praise be to God (Gud være lovet) og Gidsler kidnappet fra Israel). Mange af disse afgørelser er stadig relevante på trods af Metas seneste ændringer af politikken om farlige organisationer og individer. Rådet vil fortsætte undersøgelsen af denne politik i fremtidige sager, herunder i forhold til de nye bestemmelser om forherligelse og "uklare referencer."

6. Anbefalinger og analyse

37. Tilsynsrådet udsteder syv anbefalinger til Meta på tværs af indholdspolitik, håndhævelse og gennemsigtighed. Rådet mener, at disse anbefalinger er anvendelige i stor skala og vil fremme Metas overholdelse af virksomhedens værdier om ytringsfrihed og sikkerhed, samtidig med at de øger respekten for ytringsfrihed og andre menneskerettigheder samt gennemsigtigheden.

6.1 Metas politik om "shaheed"

Anbefaling 1 – indholdspolitik: Meta bør stoppe med at antage, at ordet "shaheed", når det bruges til at henvise til en udpeget enkeltperson eller unavngivne medlemmer af udpegede organisationer, altid er i strid med virksomhedens politik og ikke er berettiget til undtagelser i politikken. Indhold, der henviser til en udpeget enkeltperson som "shaheed", bør kun fjernes som en "uklar reference" i to situationer. For det første, når et eller flere af tre signaler om vold er til stede: en visuel skildring af bevæbning/våben, en hensigtserklæring om eller advokering for at bruge eller bære et våben eller en henvisning til en udpeget begivenhed. For det andet, når indholdet på anden måde overtræder Metas politikker (f.eks. med henblik på forherligelse, eller fordi referencen til en udpeget enkeltperson forbliver uklar af andre årsager end brugen af "shaheed"). I begge scenarier bør indhold stadig være berettiget til undtagelserne i forhold til "rapportering, neutral debat og fordømmelse".

Rådet betragter denne anbefaling som implementeret, når Meta offentligt har opdateret sine fællesskabsregler, således at de specificerer, at referencer til udpegede enkeltpersoner som "shaheed" ikke er tilladt, når et eller flere af de tre anførte signaler om vold er til stede.

Anbefaling 2 – indholdspolitik: For at tydeliggøre forbuddet mod "uklare referencer" bør Meta inkludere flere eksempler på krænkende indhold, herunder et opslag, der henviser til en udpeget enkeltperson som "shaheed", kombineret med et eller flere af de tre voldssignaler, der er specificeret i anbefaling nr. 1.

Rådet betragter denne anbefaling som implementeret, når Meta offentligt har opdateret sine fællesskabsregler med eksempler på "uklare referencer."

Anbefaling 3 – håndhævelse: Metas interne vejledning om politikker bør også opdateres for at gøre det klart, at det at henvise til udpegede enkeltpersoner som "shaheed" ikke er krænkende, undtagen når det ledsages af signaler om vold, og at selv når disse signaler er til stede, kan indholdet stadig drage fordel af undtagelserne i forhold til "rapportering, neutral debat eller fordømmelse".

Rådet betragter denne anbefaling som implementeret, når Meta har opdateret sin vejledning til evaluatorer, således at "shaheed" kan drage fordel af undtagelserne i forhold til rapportering, neutral debat eller fordømmelse, og har delt denne reviderede vejledning med rådet.

38. Selvom det er bydende nødvendigt, at Meta søger at forhindre, at virksomhedens platforme bliver brugt til at tilskynde til terrorvold – et legitimt mål for dens indholdsmodereringspolitikker – kræver Metas menneskerettighedsansvar, at enhver begrænsning af ytringer skal være nødvendig og forholdsmæssig, ikke mindst for at respektere ytringsfriheden for mennesker i voldsramte samfund. Selvom én betydning af "shaheed" faktisk svarer til det engelske ord "martyr" og bruges på denne måde, finder rådet, at det ikke er nødvendigt eller forholdsmæssigt, at Meta fjerner alt indhold udelukkende for at have brugt ordet "shaheed" som henvisning til udpegede enkeltpersoner. Dette skyldes, at det kategoriske forbud ikke tager højde for ordets sproglige kompleksitet, fører til overdreven fjernelse af ytringer, begrænser mediefriheden og borgerrummet unødigt og har alvorlige negative konsekvenser for lighed og ikke-diskrimination. Hvis denne anbefaling bliver accepteret og implementeret, vil detaljerne i Metas politik, der forbyder "forherligelse" og "uklare referencer" mere generelt, desuden fortsat være gældende. Meta bør derfor stoppe med at fjerne indhold udelukkende baseret på tilstedeværelsen af ordet "shaheed". I stedet bør Meta have en mere kontekstuel tilgang og klart og snævert definere de signaler om vold, der vil føre til, at "shaheed" fortolkes som skadeligt. Som forklaret nedenfor støtter rådet kun to af de seks signaler fuldt ud, som Meta foreslog i sin anmodning, og anbefaler en indsnævring af et tredje. De tre andre, som Meta foreslog – og som er givet som vejledning til evaluatorer, der håndhæver den separate politik om vold eller opfordring til vold – er for brede i forhold til formålet med politikken om farlige organisationer og individer. Samtidig anbefaler rådet, at Meta anvender undtagelser for indhold, der rapporterer om, fordømmer eller neutralt debatterer en udpeget enhed, når der foreligger signaler om vold. Ovenstående anbefalinger gælder for "shaheed" i ental og flertal og for varianter af "shaheed" på de mange sprog, der har taget ordet til sig.

39. Rådet har konsulteret eksperter og interessenter for at vurdere den potentielle skade ved at tillade indhold, der bruger ordet "shaheed" til at henvise til udpegede enheder på Metas platforme. Nogle interessenter var bekymrede over, at Metas platforme faciliterer terroristers forsøg på propaganda og rekruttering samt fremmer diskrimination eller vold, herunder mod jøder (se de offentlige kommentarer, f.eks. PC-11123 – CyberWell Ltd; PC-11153 – Stop Antisemitism Now; PC-11194 – Committee for Accuracy in the Middle East; PC-11068 – Canadian Antisemitism Education Foundation). Selvom der ikke er nogen undersøgelser, der viser nogen konkret årsagssammenhæng mellem "shaheed" og en stigning i en sådan vold eller diskrimination (som tidligere nævnt i Metas henvisning på side 10, og som fulgte af samtalerne med eksperter og interessenter, som Meta selv stod for, før virksomheden anmodede om rådet om politikker), er der individuelle tilfælde, der forbinder et ønske om martyrdød med voldelige handlinger. Mere generelt er bekymringerne om, at sociale medier kan bruges af voldelige organisationer til at rekruttere og fremme udførelsen af terrorhandlinger, til at normalisere terrorisme og til at facilitere ekstremisme, udbredte. Rådets omfattende indragelse af interessenter og dets eksperthøringer, som omfattede en rundbordssamtale med terrorbekæmpelseseksperter (se Rundbordssamtaler med interessenter), bekræftede disse antagelser og bekymringer.

40. I talrige indsendelser til rådet beskrev eksperter og interessenter også negative indvirkninger på ytringsfriheden som følge af at fjerne indhold, der bruger ordet "shaheed" (se offentlige de kommentarer, f.eks. PC-11196 – Integrity Institute; PC-11164 – SMEX, PC-11183 ECNL EFF, PC-11190 – Brennan Centre; PC-11188 – Digital Rights Foundation). Dette inkluderer fjernelse af retorik, der bruger ordet "shaheed", ikke for at hylde eller forherlige udpegede enheder, men for at rapportere om vold fra terrorister eller andre udpegede organisationer eller for at deltage i neutral politisk eller akademisk debat om udpegede enkeltpersoner.

41. Følgende eksempler kan illustrere Metas tilgang, når indhold, der henviser til en udpeget enkeltperson som "shaheed", fjernes:

• En regering deler en pressemeddelelse på Metas platforme, der bekræfter en udpeget enkeltpersons død ved at bruge æresbegrebet "shaheed" sammen med afdødes navn. Dette opslag ville blive fjernet, da Meta antager, at ordet "shaheed" er krænkende, uanset om konteksten indikerer, at det er neutral debat.
• En bruger deler et billede af en demonstration, vedkommende deltager i, uden en tydelig billedtekst, der forklarer formålet med demonstrationen. Adskillige plakater omtaler en afdød udpeget enkeltperson med ordet "shaheed". Dette opslag ville blive fjernet, da Meta antager, at billedet med plakater, der omtaler den udpegede enkeltperson, kombineret med ordet "shaheed", er krænkende.
• En menneskerettighedsforkæmper deler et opslag, der inkluderer en beskrivelse af en stats summariske henrettelse af en udpeget enkeltperson, og omtaler vedkommende som "shaheed" og fordømmer en regeringens terrorbekæmpelsespolitik. Dette opslag ville blive fjernet, da Meta antager, at ordet "shaheed" er krænkende, uanset rapporteringskonteksten.
• Et bekymret fællesskabsmedlem sender en klage over tilstanden af en lokal vej, som er opkaldt efter en udpeget enkeltperson, og inkluderer æresbegrebet "shaheed". Dette ville blive fjernet, da Meta antager, at ordet "shaheed" er krænkende, uanset at omtalen af den udpegede enkeltperson er tilfældig i forhold til en debat om lokale forhold.
• Et familiemedlem omtaler en af sine kære, som er blevet dræbt i et terrorangreb, som "shaheed" og fordømmer gerningsmændene, som er udpegede enkeltpersoner. Selvom dette opslag ikke ville være krænkende, illustrerer kombinationen af brugen af "shaheed" i en kontekst, hvor gerningsmændene også er navngivet, indhold, der lægger op til fejlagtig fjernelse som følge af Metas kategoriske tilgang.

42. Nogle interessenter udtrykte bekymring for, at en mindre restriktiv tilgang til brugen af "shaheed" kunne have den kumulative effekt at normalisere terrorisme. Selvom det ikke kan benægtes, at "shaheed" i nogle tilfælde har til formål at udgøre og faktisk udgør en form for godkendelse af eller støtte til en person og dennes voldelige handlinger, anser rådet ikke politikkens generelle forbud mod ordet for at være berettiget på denne baggrund. I betragtning af de oplysninger, som rådet har modtaget fra interessenter, herunder terrorbekæmpelseseksperter, og fra Metas tidligere undersøgelser og interessenthøringer, konkluderer rådet, at bekymringer om mulighederne for, at sådanne sager kan have væsentlige kumulative skadelige virkninger, ikke vejer tungere end den meget håndgribelige negative effekt af den eksisterende politik om ytringsfrihed. Dette er især tilfældet, fordi det gælder, at selvom rådets anbefalinger implementeres, er der stadig betydelige sikkerhedsforanstaltninger på plads med henblik på at fremme målene om at forhindre vold og anden skade som følge af at tillade terrorister og deres støtter frit at bruge Metas platforme.

43. Rådet tog også hensyn til, at "shaheed" har forskellige betydninger, og at det ofte bruges på måder, der ikke tilskynder til vold eller had, men snarere for at rapportere om forhold af offentlig interesse. Håndhævelse af et generelt forbud betyder fjernelse af en masse indhold, der ikke udgør den skade, som Metas politikker søger at afbøde. Selvom moderering af indhold i stor skala nogle gange kræver, at man accepterer en vis grad af håndhævelsesfejl, har Meta et ansvar for at afveje fordele og ulemper baseret på hele sit menneskerettighedsansvar. På baggrund af alle disse overvejelser når rådet frem til konklusionen, at dets foreslåede tilgang er i bedst overensstemmelse med Metas overordnede menneskerettighedsansvar.

Den kulturelle og religiøse vigtighed af "shaheed" og de forskellige betydninger

44. "Shaheed" er et kulturelt og religiøst vigtigt ord, der bruges i mange forskellige sammenhænge og har forskellige betydninger. De offentlige kommentarer, der blev indsendt til rådet, og de undersøgelser, rådet havde bestilt, gav yderligere indblik i ordet. "Shaheed" kan betyde "at vidne om" og "at vidne". Det bruges også som et islamisk fornavn og i nogle regioner, herunder Vestasien og Nordafrika, som et efternavn (se de offentlige kommentarer, f.eks. PC-11196 – Integrity Institute; PC-11164 – SMEX). "Shaheed" bruges også til at henvise til personer, der dør, mens de udfører en religiøs pligt. I væbnede konflikter eller voldelige angreb, herunder hændelser, hvor udpegede organisationer er involveret, mindes folk nogle gange ofrene for vold og terror ved at omtale dem som "shaheed" (se de offentlige kommentarer, f.eks. PC-11164 – SMEX; PC-11197 fra den newzealandske regering, som anerkendte ofrene for skyderiet i Christchurch som "shuhada", som er flertalsformen af "shaheed"; PC-11196 fra Integrity Institute, som fremhæver, at marginaliserede muslimske samfund, herunder rohingyaerne, som i nogle lande omtales som flygtninge, der er blevet tvunget ud af Myanmar på grund af forfølgelse baseret på religion eller tro, henvises til som "shaheed"). Kvantitative undersøgelser om indhold, der er blevet slået op og forbliver på Metas platforme, som rådet bestilte fra Memetica, viste, at "shaheed" bruges meget til at henvise til personer, der dør, mens de tjener deres land eller en sag, eller dør som uventede ofre for sociopolitisk vold eller en naturtragedie. Selvom disse opslag ikke nødvendigvis associerede "shaheed" med en udpeget enkeltperson, illustrerer de tidligere citerede eksempler (se punkt 41), hvordan de mange betydninger og anvendelser af "shaheed" også er relevante i den kontekst.

45. Efter Hamas' terrorangreb på Israel i oktober 2023 og den efterfølgende israelske militæraktion i Gaza, bestilte rådet yderligere undersøgelser om indholdstendenser omkring brugen af "shaheed". Ud af de mere end 12.000 offentlige opslag, der blev gennemgået i denne analyse, var kun to til støtte for Hamas. Næsten alle anvendelser var relateret til beskrivelser af palæstinensiske ofre i Gazastriben uden at omtale nogen udpeget organisation eller enkeltperson. Opslagene omfattede palæstinensere, der sørgede over tabet af deres kære, mens andre viste sårede palæstinensiske børn og/eller situationer i kølvandet på luftangreb i Gaza. Meta blev stillet yderligere spørgsmål, da forskernes adgang til indholdstendenser er begrænset til offentligt indhold, der forbliver på platformene, og ikke inkluderer indhold, som Meta har for at overtræde virksomhedens politik om farlige organisationer og individer. Metas svar forstærkede resultaterne af undersøgelserne. Efter virksomhedens opfattelse viste indholdstendenserne under krisen ingen ændring i brugen eller forståelsen af ordet "shaheed" sammenlignet med tiden før disse begivenheder.

46. Disse forskellige betydninger indikerer, at Metas standardformodning om, at brugen af "shaheed" er krænkende og fører til skade i den virkelige verden og derfor altid bør fjernes, pålægger ytringsfriheden globale omkostninger, som skal adresseres. Meta forklarede, at "shaheed" sandsynligvis er det mest modererede ord på virksomhedens platforme, og forskellige interessenter bemærkede, at indhold, der rapporterer om udpegede enheder og vold, ofte fjernes af Meta (anmodning om råd om politikker, på side 3). Denne tilgang til "shaheed" er et eksempel på, at virksomheden prioriterer meget tydelige sondringer ved håndhævelse i stor skala. Selvom sådanne sondringer i princippet nogle gange kan være hensigtsmæssige, fordi indholdsmoderering i stor skala ofte medfører vanskelige afvejninger, konkluderer rådet i denne sag, at standardformodningen om, at "shaheed" altid skal fjernes i forbindelse med en udpeget enkeltperson, ikke er berettiget og skal droppes. Som Meta indrømmer, formår virksomhedens tilgang ikke bevidst at tage højde for sproglig og kulturel kontekst, og den resulterer i betydelig overhåndhævelse på to måder. For det første resulterer den i fjernelse af indhold, der ikke er tænkt som hyldest eller forherligelse, men som alligevel overtræder politikken, fordi Meta har valgt at antage, at "shaheed" altid er krænkende. For det andet fremmer den en højere frekvens af fejlagtig fjernelse af indhold, der bruger "shaheed" i forbindelse med personer, der ikke er udpegede enkeltpersoner, fordi tilgangen forankrer en kategorisk tilgang og modvirker mere kontekstuelle evalueringer.

47. På trods af de forskellige betydninger af "shaheed" bemærker rådet, at de eksempler, der tidligere var inkluderet i Metas forbud mod hyldest i politikken om farlige organisationer og individer, ikke var kontekstualiseret for forskellige markeder, og at oversættelserne af disse eksempler var alt for forsimplede og direkte. Den eneste indikation i fællesskabsreglerne på Metas tilgang til indhold med ordet "shaheed" var et eksempel på en sætning, hvori en dømt terrorist kaldes en "martyr", under det mere bredt angivne forbud mod hyldest. Det samme eksempel blev brugt på tværs af sprog og blev på arabisk oversat til "shaheed", på trods af at ordene ikke nødvendigvis var ækvivalenter. Rådet bemærker, at dette eksempel blev fjernet ved opdateringen af politikken i december 2023. Selvom oversættelsen i dette eksempel ikke nødvendigvis var unøjagtig, er det ikke korrekt at bruge det enkelte eksempel til at hævde, at "shaheed" altid er lig med "martyr".

48. Af de samme grunde bør rådets konklusioner om "shaheed" i dette råd om politikker omvendt ikke automatisk overføres til ordet "martyr" og alle oversættelser af dette ord på andre sprog. "Martyr" og "shaheed" er ikke direkte ækvivalenter, da førstnævnte er mindre semantisk variabel på engelsk i og på tværs af regioner, hvor der tales engelsk. Meta vil være nødt til på tværs af sprog at vurdere, hvilke ord der når Metas grænse for "forherligelse", under hensyntagen til vejledningen i dette råd om politikker. Under alle omstændigheder støtter rådet ikke generelle forbud, der forbyder brugen af "shaheed" og isolerer det fra den bredere kontekst af opslag, hvori det bruges. I overensstemmelse med Tilsynsrådets præcedens bør disse opslag vurderes i deres helhed. Derudover bør Meta i overensstemmelse med sine offentlige politikker sikre, at undtagelser i politikkerne giver folk mulighed for at "rapportere om, fordømme eller neutralt debattere" udpegede enkeltpersoner, når ordet "martyr" bruges (og reelt tilsvarende ord for forherligelse eller positiv reference på andre sprog). Dette understreger vigtigheden af, at intern vejledning for evaluatorer tilpasses den lokale kontekst og de sproglige egenskaber ved det sprog, der gennemgås (se lignende bekymringer i rådets afgørelse i sagen Bot vedrørende Myanmar, som var grundlaget for anbefaling nr. 1 i den sag).

49. I flere sager har rådet presset på med at få Meta til at rekalibrere afvejningen mellem at have klare regler, der kan håndhæves i stor skala, og politikker, der leder større opmærksomhed hen på konteksten i forbindelse med håndhævelse, og ofte favoriseret ytringsfrihed og brugernes stemme (f.eks. for at respektere rapportering om udpegede enheder, se Omtale af Taleban i nyhedsrapportering og Delt Al Jazeera-opslag). Selvom tidligere sager ikke direkte har omhandlet brugen af "shaheed", har rådet advaret mod formodninger om dårlig hensigt, når folk refererer til udpegede enheder (se Nazistisk citat). Forskellige offentlige kommentarer fremhæver, hvordan Metas formodning om, at "shaheed" altid er lig med "hyldest" som følge af fejl begået af moderatorer eller automatisering i stor skala, kunne føre til overhåndhævelse over for personer, der mindes ofrene for terrorangreb (se de offentlige kommentarer, f.eks. PC-11164 – SMEX, s. 1; kommentar PC-11197 fra den newzealandske regering). Fjernelse af sådant indhold kan endda virke imod formålene med politikken om farlige organisationer og individer, fordi det kan forhindre debat om terrorvold og bestræbelser på at imødegå ideologierne bag en sådan vold (se f.eks. PC-11164 – SMEX).

Respekt for mediefrihed og borgerrum

50. Rådet er især bekymret for, at Metas tilgang påvirker journalistik og borgerlig diskurs. Disse virkninger er akutte på steder, hvor vold fra terrorister eller andre udpegede organisationer er mere udbredt, og på steder, hvor udpegede enheder har territorial kontrol eller på anden måde har politisk magt. Forskellige offentlige kommentarer rejste disse bekymringer (se de offentlige kommentarer, f.eks. PC-11196 – Integrity Institute; PC-11157 – Palestine Institute for Public Diplomacy). Medieorganisationer og andre kommentatorer er muligvis forsigtige med at rapportere om udpegede enheder, fordi de ønsker at undgå fjernelse af indhold, der kan resultere i alvorlige sanktioner, herunder fjernelse af sider eller grupper eller deaktivering af konti. I nogle tilfælde kan dette være uforudsigeligt – for eksempel rapportering om en demonstration mod en regeringsaktør, hvor folk viser tegn på støtte til udpegede enkeltpersoner, der er blevet dræbt af den samme aktør. Sproglige, kulturelle eller religiøse konventioner kunne diktere, at "shaheed" bruges til at henvise til personer, der er blevet dræbt i disse situationer, herunder personer, der er gået bort, mens de begik voldshandlinger.

51. Det er vigtigt at bemærke kompleksiteten af situationer, hvor udpegede enheder kan være involveret i vold, herunder i situationer, der kan kvalificeres som væbnede konflikter, modstand mod udenlandsk besættelse og civile uroligheder. Medierne kan stå over for betydelige udfordringer med at rapportere om disse situationer, da de skal være følsomme over for lokale sproglige, kulturelle eller religiøse konventioner, samtidig med at de overholder Metas indholdspolitikker. Disse bekymringer forstærkes af manglen på gennemsigtighed omkring Metas liste over udpegede enheder og det faktum, at brugerne faktisk ikke ved, hvem der er på listen. Rapportering om disse situationer kan også ofte omfatte signaler om vold såsom afbildning af en bevæbning, som uden for konteksten af undtagelserne i forhold til rapportering, neutral debat eller fordømmelse kan være en indikation på en overtrædelse af politikken. Det er derfor vigtigt, at Meta anvender en politikmæssig undtagelse i tilfælde, hvor indhold rapporterer om, neutralt debatterer eller fordømmer en udpeget enhed.

52. Forbuddet kan også gøre det sværere for brugere at udtrykke deres synspunkter og kritik, når de lever i kontekster, hvor udpegede enheder opererer eller har politisk magt. For at undgå direkte konfrontation og sikkerhedsrisici kan brugere i disse kontekster formulere kommentarer på en respektfuld måde, der ikke nødvendigvis skal tolkes som hyldest. At sanktionere en sådan retorik er særligt bekymrende, da sociale medier udgør et vigtigt forum for debat, især i konfliktzoner og lande, hvor pressefriheden er begrænset.

Lighed og ikke-diskrimination

53. På grund af den udbredte og meget varierende brug af "shaheed", især blandt arabisktalende personer og personer, der taler andre sprog (mange af dem muslimer), som har låneordet "shaheed", har Metas politik en uforholdsmæssig stor indvirkning på disse samfund. Dette giver anledning til væsentlige bekymringer med hensyn til virksomhedens ansvar for at respektere alle brugeres ret til lighed og ikke-diskrimination i udøvelsen af deres ret til ytringsfrihed. Dette var fokus for mange offentlige kommentarer (se f.eks. PC-11183 ECNL EFF, PC-11190 – Brennan Centre; PC-11188 – Digital Rights Foundation; PC-11196 – Integrity Institute; se også BSR-rapporten om Metas indvirkning i Israel og Palæstina). FN's Udviklingsprogram fremhæver i sin rapportering om "at afbryde rejsen til ekstremisme", at drivkraften bag ekstremistisk vold, blandt andre grundlæggende årsager, er "ulighed, ekskludering, mangel på muligheder og opfattelser af uretfærdighed." Rådet er bekymret for, at Metas politikmæssige tilgang kan forstærke oplevelser af marginalisering og ekskludering for visse samfund og endda være kontraproduktiv i forhold til det erklærede mål om at reducere vold. FN's Udviklingsprogram fremhæver, at i forhold til indholdsmoderering på onlineplatforme bør virksomheder sikre, at forebyggelse af voldelig ekstremisme "ikke utilsigtet fører til stigmatisering og målretning af enkeltpersoner."

Mindre indgribende midler til at forhindre skade

54. En vurdering af politikkens nødvendighed og proportionalitet kræver også en analyse af, om der findes mindre restriktive midler til at nå det pågældende legitime mål. Rådets anbefalinger i dette råd om politikker ville, hvis de blev implementeret, kræve, at Meta stopper med kategorisk at fjerne al brug af "shaheed" for at referere til udpegede enkeltpersoner. Ikke desto mindre kan indhold, der bruger dette ord, stadig blive fjernet under mere snævert definerede omstændigheder, hvor forbindelsen til skade er mindre tvetydig og mere udtalt. Anbefalingerne ville tillade Meta at fortsætte med at fjerne indhold, der henviser til udpegede enkeltpersoner som "shaheed", når det enten ledsages af andre overtrædelser af politikken (f.eks. forherligelse eller uklare referencer), eller når indholdet har signaler om vold. Dette vil fortsat udgøre en vigtig begrænsning, samtidig med at de negative virkninger af politikken reduceres, herunder overhåndhævelse over for specifikke sproglige og religiøse grupper.

55. Tilstedeværelsen af signaler om vold sammen med en henvisning til en udpeget enkeltperson som "shaheed" giver en klarere indikation af, at opslaget har til formål at henvise positivt til enkeltpersonen på grund af opslagets association med vold (forudsat at undtagelserne i forhold til rapportering, neutral debat eller fordømmelse ikke gælder). I sin anmodning foreslog Meta følgende signaler om vold og lånte dem fra sin interne vejledning til politikken om vold eller opfordring til vold: (1) en visuel afbildning af en bevæbning; (2) en hensigtserklæring om eller fortalervirksomhed for at bruge eller bære et våben; (3) henvisning til militært sprog; (4) henvisning til brandstiftelse, plyndring eller anden ødelæggelse af ejendom; (5) henvisning til kendte voldshændelser i den virkelige verden; og (6) hensigtserklæringer eller opfordringer til handling, som repræsenterer, støtter eller advokerer for vold mod mennesker. Rådet finder, at nogle af disse signaler giver nyttige indikatorer for indhold, der kan forårsage skade, hvilket ikke kan formodes ud fra brugen af "shaheed" alene. Andre signaler anses dog ikke for at være så nyttige her. Den offentlige politik om vold eller opfordring til vold henviser til "midlertidige tegn på øget risiko for vold" tre gange, hver især i forhold til regler, der er designet til at imødegå risici for vold på bestemte lokationer og ved tidsbestemte begivenheder såsom ved valgsteder og demonstrationer. Masseanvendelsen af alle disse signaler som grundlag for håndhævelse ved henvisninger til "shaheed" i alle kontekster, hvor sandsynligheden for skade ikke i sammenlignelig grad er sandsynlig eller overhængende, skaber risiko for en uforholdsmæssig grad af håndhævelse.

56. Rådet finder, at i den bredere kontekst af politikken om farlige organisationer og individer er et snævrere sæt af signaler hensigtsmæssigt. Signalet om en visuel afbildning af bevæbning og signalet om en hensigtserklæring om eller fortalervirksomhed for at bruge eller bære et våben bør begge opfattes som indikatorer for indhold, der med større sandsynlighed vil bidrage til skade. Rådet finder dog, at signalet om "henvisning til kendte voldshændelser i den virkelige verden" er for bredt, da det omfatter for mange scenarier, der er fjernet fra udpegede organisationers eller enkeltpersoners vold. Derfor bør det defineres mere snævert og begrænses til begivenheder, der er udpeget i henhold til Metas politik om farlige organisationer eller individer, som omfatter terrorangreb, hadbegivenheder, vold med flere ofre eller forsøg på vold med flere ofre, seriemord og hadforbrydelser. De tre signaler, som rådet anbefaler, giver mulighed for større kontekstuelle nuancer for at sikre, at mindre tvetydige anvendelser af "shaheed", som mere udtrykkeligt henviser til terrorhandlinger, stadig fjernes.

57. De resterende signaler, som Meta har foreslået, om "henvisninger til militært sprog" og "til brandstiftelse, plyndring eller anden ødelæggelse af ejendom" er for brede og ville føre til upræcis håndhævelse. Det sidste foreslåede signal om "hensigtserklæringer eller opfordringer til handling, som repræsenterer, støtter eller advokerer for vold mod mennesker" ville uafhængigt føre til, at indhold overtræder fællesskabsreglen om vold eller opfordring til vold – og ville derfor være dubleret og unødvendig, hvis det inkluderes som et signal om vold.

58. Til forskel fra Metas tredje mulighed bemærker rådet, at selv når der er henvisninger til udpegede enkeltpersoner sammen med disse signaler om vold, har henvisningerne muligvis stadig ikke til formål at forherlige disse enkeltpersoner eller deres handlinger. I sin anmodning (på side 9-10) forklarer Meta potentialet for overhåndhævelse og henviser til medierapporteringspraksissen i Pakistan. Efter rådets opfattelse vil det være almindeligt, når der henvises til en udpeget enkeltpersons død, at medierne inkluderer billeder, der viser afdøde med våben, og/eller viser billeder af den ødelæggelse, vedkommende har forårsaget, uden at de forherliger disse handlinger. Af denne grund er det nødvendigt, at evaluatorer oplæres i at lade indhold forblive opslået, hvis der er en klar hensigt om at rapportere om, fordømme eller neutralt at debattere om enheden.

59. Desuden ville rådets anbefalede ændringer af politikken efterlade en lang række andre indholdspolitikker uændret for at beskytte mod terrorister og deres tilhængere, der bruger Metas platforme til at forårsage skade i den virkelige verden. Opslag med ordet "shaheed" som henvisning til en udpeget enkeltperson i 1. grad ville blive fjernet under følgende omstændigheder:

• Når det ledsages af et eller flere af de ovennævnte tre signaler om vold.
• Når opslaget indeholder andre overtrædelser af politikken om farlige organisationer og individer (f.eks. for repræsentation af, støtte til eller forherligelse af en udpeget enkeltperson). Forherligelse vil for eksempel omfatte legitimering eller forsvar af en udpeget enkeltpersons voldelige eller hadefulde handlinger eller hyldest af vedkommendes voldelige handlinger eller had som en bedrift.
• Når opslaget indeholder overtrædelser af andre politikker, herunder politikken om hadefuld retorik eller politikken om vold eller opfordring til vold.
• Når opslaget har "uklare eller kontekstløse" referencer. Dette omfatter "uklar humor, referencer uden tekst eller positive referencer, som ikke forherliger den udpegede enheds vold eller had."

60. Rådets anbefalinger vil derfor ikke forhindre Meta i at kræve, at brugerne sikrer, at hensigten bag deres opslag er klar, når de henviser til en udpeget enkeltperson i 1. grad som "shaheed". De forhindrer kun Meta i udelukkende at forholde sig til ordet "shaheed" for at hævde, at et opslag er krænkende. Metas aktive involvering i Global Internet Forum to Counter Terrorism og brug af dets hash-matchnings-database sikrer også, at indhold, der kan medføre skade i den virkelige verden, bliver fjernet. Rådets anbefalinger vil give mulighed for en klarere, mere kontekstualiseret og forholdsmæssig håndhævelse af indhold, der kan øge risikoen for vold, samtidig med at respekten for ytringsfriheden og ikke-diskrimination øges.

Evaluering af alternative politikmæssige muligheder

61. Af disse årsager konkluderer rådet, at en fortsættelse af politikkens status quo, som Meta præsenterede som én mulighed, rådet kunne overveje, ville forankre uberettigede begrænsninger af ytringsfriheden, som uforholdsmæssigt meget påvirker arabisktalende personer, relevante sproglige samfund og muslimer. Metas anden foreslåede politikmæssige mulighed ligner den tredje mulighed, som rådet anbefaler, for så vidt som den søger at kontekstualisere brugen af ordet "shaheed" og tillade, at det bliver brugt i forbindelse med farlige enkeltpersoner på flere måder. Faktisk tillader ændringerne af politikken den 29. august 2023 ifølge Meta mere social og politisk diskurs i visse tilfælde, herunder i forhold til fredsaftaler, valg, menneskerettighedsrelaterede spørgsmål, nyhedsrapportering og akademiske, neutrale og fordømmende debatter. Dette skubber de politikmæssige resultater, som anden og tredje løsning søger at opnå, endnu tættere på hinanden. Den væsentligste forskel mellem dem vedrører deres tekniske gennemførlighed og praktiske implementering i stor skala. Den anden mulighed kræver, at Meta først bekræfter, at en af de tilladte undtagelser gælder, og derefter undersøger, om den indeholder overtrædelser af politikker eller signaler om vold; i den tredje mulighed går man direkte til undersøgelsen af, om der er overtrædelser af politikker eller signaler om vold til stede. Ifølge Meta ville den anden mulighed teknisk set være væsentligt mere besværlig at udforme og implementere, fordi den kræver overvejelse af et bredt sæt af mulige undtagelser (endnu bredere efter de seneste ændringer af politikken), som hver især er meget afhængig af en evaluering af konteksten. Vanskeligheden ved at foretage disse vurderinger nøjagtigt og konsekvent betyder til gengæld, at det sandsynligvis vil kræve meget mere menneskelig gennemgang og resultere i et væsentligt højere antal håndhævelsesfejl.

62. Rådet foretrækker, at Meta benytter en tilgang, der på en mere ensartet måde undersøger alle anvendelser af "shaheed" i forhold til udpegede enkeltpersoner, ud over de eksisterende undtagelser, og fjerner disse anvendelser, når de ledsages af andre overtrædelser af politikker eller et af de tre signaler om vold, som er anført i anbefaling nr. 1. At ændre politikken, således at den kommer tættere på Metas tredje foreslåede mulighed om kun at behandle "shaheed" som en forbudt reference, når der foreligger andre overtrædelser af politikker eller specifikke signaler om vold, som rådet anbefaler, vil hjælpe med at reducere antallet af falske positiver (fejlagtige fjernelser af ikke-krænkende indhold), bedre at beskytte tale, som er i offentlighedens interesse, mediefrihed og borgerlig diskurs og reducere den negative indvirkning på retten til lighed og ikke-diskrimination blandt berørte grupper. Som svar på rådets spørgsmål efter Hamas' angreb på Israel i oktober 2023 og den efterfølgende konflikt, bekræftede Meta, at disse begivenheder ikke ændrede virksomhedens analyse af skalerbarheden af de muligheder, som oprindeligt blev præsenteret i dens anmodning. Efter rådets opfattelse vil de foreslåede anbefalinger, baseret på Metas tredje mulighed, være mest modstandsdygtige over for potentielle fejl, når en krise af denne størrelsesorden udspiller sig, forudsat at undtagelserne i forhold til "rapportering, neutral debat og fordømmelse" forbliver tilgængelige. Rådet anerkender, at tilgængeliggørelse af disse undtagelser i politikken tilfører større kompleksitet, hvad angår skalerbarheden af den politik, der foreslås af Metas tredje mulighed, men konkluderer, at de er væsentlige for tilstrækkelig beskyttelse af ytringsfriheden i forbindelse med moderering af indhold med ordet "shaheed".

63. Et mindretal i rådet er uenig i denne konklusion og vil foretrække at anbefale enten at bevare status quo, eller at Meta indfører den anden foreslåede mulighed. Nogle understreger, at ordet "shaheed" faktisk bruges af terrororganisationer til at udtrykke hyldest og forherligelse af personer, der begår voldelige handlinger, og dette kan være et incitament til radikalisering og rekruttering. For disse rådsmedlemmer repræsenterer disse fakta alene en alvorlig nok fare for skade i den virkelige verden til at berettige opretholdelse af det nuværende kategoriske forbud, selv på den erkendte bekostning af ytringsfriheden. Andre betragter fraværet af tilstrækkelige data om omfanget af skade i den virkelige verden, der kan kædes sammen med brugen af "shaheed" på Metas platforme, og om udbredelsen af overhåndhævelse, der finder sted i henhold til politikken, som en grund til at indføre en mere forsigtig tilgang og foretrækker at holde sig til den mere sikre side. Nogle rådsmedlemmer mener også, at den anden mulighed – hvor Meta kun ville overveje betydningen og brugen af "shaheed", når specifikke tilladte undtagelser først findes at være gældende – er en mere snævert tilpasset kompromisposition, uanset implikationerne af de tekniske vanskeligheder og gennemførligheden i stor skala. Bestyrelsen overvejede og drøftede disse alternativer indgående. Af de årsager, der er beskrevet i de foregående afsnit, når flertallet frem til den konklusion, at anbefalingerne baseret på Metas tredje mulighed skaber den foretrukne balance.

Anmærkninger og sanktioner

64. Selvom det kan være berettiget at opretholde andre begrænsninger i henhold til politikken om farlige organisationer og individer, skal Meta sikre, at disse begrænsninger og eventuelle sanktioner, som pålægges for overtrædelser, er proportionale. Meta har tidligere informeret rådet om, at virksomheden altid anvender alvorlige anmærkninger for alle overtrædelser af dens politik om farlige organisationer og individer, herunder for det tidligere forbud mod "hyldest". Alvorlige anmærkninger kan hurtigere føre til sanktioner på kontoniveau såsom tidsbestemte funktionsbegrænsninger, kontosuspendering og permanent deaktivering af profiler eller sider. Disse foranstaltninger kan i alvorlig grad begrænse brugernes ytringsfrihed (også understreget i de offentlige kommentarer, se f.eks. PC-11190 – Brennan Centre). Rådet har tidligere anbefalet, at Meta skulle øge klarheden og gennemsigtigheden omkring sit anmærkningssystem (Omtale af Taleban i nyhedsrapportering, anbefaling nr. 2; Suspendering af den tidligere amerikanske præsident Trump, anbefaling nr. 15). Som svar herpå har Meta givet oplysninger om anmærkningssystemet i Gennemsigtighedscenter og giver brugerne mulighed for at gennemgå, hvilke sanktioner Meta har pålagt deres konti. Meta opdaterede for nylig sit system for standardanmærkninger for at gøre det mere proportionalt, men dette tydeliggør ikke for offentligheden, om Metas tilgang til "alvorlige anmærkninger" også er blevet tilpasset.

65. Meta oplyste, at virksomheden arbejder på ændringer af håndhævelsessystemet relateret til politikken om farlige organisationer og individer, selvom virksomhedens forklaring af sin opdatering af politikken i december 2023 ikke beskriver, om eller hvordan håndhævelsessystemet har ændret eller vil ændre sig (f.eks. i forhold til alvorlige anmærkninger). Bestyrelsen hilser ændringer af håndhævelsessystemet velkommen, hvis det resulterer i mere forholdsmæssige sanktioner for indhold, der nøjagtigt er identificeret som en overtrædelse, i overensstemmelse med rådets tidligere anbefalinger. Alvorlige anmærkninger er uforholdsmæssige sanktioner for mildere og mere semantisk tvetydige overtrædelser af politikken om farlige organisationer og individer, hvilket resulterer i, at politikken fortsat fører til en høj grad af overhåndhævelse og uretfærdig behandling af brugerne.

6.2 Forbedre gennemsigtigheden omkring og revisionen af listen

Anbefaling 4 – gennemsigtighed: For at forbedre gennemsigtigheden af sin liste over udpegede enheder og begivenheder bør Meta mere detaljeret forklare den procedure, hvorigennem enheder og begivenheder udpeges. Meta bør også regelmæssigt offentliggøre aggregerede oplysninger om sin udpegningsliste, herunder det samlede antal enheder inden for hver grad på listen, samt hvor mange der er blevet tilføjet på og fjernet fra hver grad i det forløbne år.

Rådet vil betragte dette som implementeret, når Meta har offentliggjort de ønskede oplysninger i Gennemsigtighedscenter.

Anbefaling 5 – håndhævelse: For at sikre, at listen over enheder i politikken om farlige organisationer og individer er opdateret og ikke inkluderer organisationer, enkeltpersoner og begivenheder, der ikke længere opfylder Metas kriterier for udpegning, bør virksomheden indføre en klar og effektiv proces til regelmæssig revision af udpegninger og fjerne dem, der ikke længere opfylder de offentliggjorte kriterier.

Rådet vil betragte dette som implementeret, når Meta har oprettet en sådan revisionsproces og forklaret processen i Gennemsigtighedscenter.

66. I henhold til Metas tidligere politik om farlige organisationer og individer var "hyldest" og brug af ordet "shaheed" kun forbudt, hvis det refererede til en enhed, som Meta havde udpeget som en farlig enkeltperson i 1. grad (herunder gerningsmænd i udpegede "krænkende voldelige begivenheder"). Efter opdateringen i december 2023 forbyder politikken nu "uklare referencer" og forherligelse af alle udpegede enheder i 1. grad. "Uklare referencer" kan omfatte "uklar humor, kontekstløse referencer og positive referencer, der ikke forherliger den udpegede enheds vold eller had." De potentielle negative virkninger af sådanne forbud på ytringsfriheden afhænger i vid udstrækning af, hvilke enheder Meta udpeger som organisationer i 1. grad, og hvilke "krænkende voldelige begivenheder" virksomheden udpeger. I rundbordssamtaler og offentlige kommentarer kritiserede mange interessenter en mangel på gennemsigtighed og retfærdig proces omkring listen og argumenterede for, at Meta burde offentliggøre den (se de offentlige kommentarer, f.eks. PC-11164 – SMEX, s. 3; PC-11157 – Palestine Institute for Public Diplomacy). Én interessent var bekymret for at dele listen bredt og hævdede, at dette kunne skabe sikkerhedsproblemer. Da listen er så relevant for at forstå anvendelsesområdet for Metas politikker, gav virksomheden rådet sin liste over udpegede organisationer og enkeltpersoner i 1. grad og en forklaring af sine udpegningsprocesser, som rådet studerede til bunds, som nævnt nedenfor.

67. Som nævnt ovenfor er mange af de lister, Meta henter sine udpegninger i 1. grad fra, offentliggjort af den amerikanske regering. Disse inkluderer særligt udpegede bagmænd i narkohandel (SDNTK – Specially Designated Narcotics Trafficking Kingpins), udenlandske terrororganisationer (FTO – foreign terrorist organizations) og særligt udpegede globale terrorister (SDGT – Specially Designated Global Terrorists). Disse lister er vidtrækkende, omfatter enheder (og deres medlemmer) i stærkt politiserede kontekster på tværs af flere kontinenter og er ikke begrænset til terrorenheder. Denne bredde og mangfoldighed indikerer omfanget af Metas forbud mod farlige organisationer og enkeltpersoner, herunder det mere kategoriske forbud mod "shaheed" som henvisning til udpegede enkeltpersoner – og deres indflydelse.

68. Meta forklarede, at virksomheden i processen med at gennemgå og godkende enheder, der skal tilføjes på listen over farlige organisationer og enkeltpersoner, "henholder sig til konsultation med en række interne eksperter, vurdering af interne data og eksterne undersøgelser." Meta har også etableret en proces til at dokumentere "yderligere medlemmer, aliasser, symboler, slogans, undergrupper eller mediefløje relateret til allerede udpegede organisationer og enkeltpersoner." I 2022 udpegede Meta færre end 1000 enheder baseret på sin vurdering af farlige organisationers og enkeltpersoners trusler mod virksomhedens platforme. Kriminelle enheder udgjorde det største antal udpegninger, tæt efterfulgt af terrorenheder og derefter hadenheder. Meta har en proces for fjernelse fra listen, hvor den typisk undersøger, om en enhed fortsat opfylder politikkens kriterier for at blive udpeget som en farlig organisation eller enkeltperson, og betragter de "aktive skridt, som en enhed har taget for at standse voldelige handlinger og opretholde fred." Processen er i øjeblikket under fornyet udvikling, men den blev anvendt færre end 10 gange i 2022. Meta forklarede, at virksomheden reviderer tidligere udpegninger som en del af en kontinuerlig indsats for at holde dem så opdaterede som muligt og nøjagtigt afspejle trusler fra farlige organisationer og enkeltpersoner.

69. Meta forklarede, at hvis virksomheden deler sin liste over udpegede enheder eller begivenheder offentligt eller underretter enheder, når de føjes til listen, kan det udgøre en risiko for effektiviteten af håndhævelsen og for mange Meta-medarbejderes sikkerhed. Når enheder er blevet udpeget og har opdaget dette, har nogle anlagt sag mod Meta (se sagen Facebook v. CasaPound, 29. april 2020, Roms byret, Italien, og analysen her). Rådet bemærker, at Meta i nogle tilfælde har oplyst udpegninger af visse grupper som svar på medieforespørgsler, og at der er blevet delt udpegninger i Tilsynsrådets afgørelser.

70. Rådet har tidligere anbefalet, at Meta deler sin liste over udpegede enheder offentligt eller i det mindste giver illustrative eksempler (Nazistisk citat, anbefaling nr. 3). Meta har ikke offentliggjort sin liste og har ikke givet yderligere opdateringer om denne anbefaling efter en gennemførlighedsvurdering. Hvis Meta fortsætter med at afvise at implementere denne anbefaling, bør virksomheden som minimum træffe andre foranstaltninger for at forbedre gennemsigtigheden omkring listen. At offentliggøre aggregerede data, forbedre gennemsigtigheden i udpegningsprocessen og gøre processen for fjernelse fra udpegningslisten mere effektiv kan øge brugernes kendskab til Metas regler og processer. Dette ville også muliggøre større granskning og bidrage til at øge Metas ansvarlighed i forhold til udpegninger og konsekvenserne for ytringsfriheden og andre menneskerettigheder. Meta kunne også overveje at lette forskeres adgang til data for at øge gennemsigtigheden og samtidig bevare listens fortrolighed.

6.3 Data til vurdering af håndhævelsesnøjagtighed og test af klassificeringer

Anbefaling 6 – gennemsigtighed: For at forbedre gennemsigtigheden af Metas håndhævelse, herunder regionale forskelle mellem markeder og sprog, bør Meta forklare de metoder, virksomheden bruger til at vurdere nøjagtigheden af menneskelig gennemgang og effektiviteten af automatiserede systemer i håndhævelsen af politikken om farlige organisationer og individer. Meta bør også periodisk dele resultaterne af effektivitetsvurderingerne af de klassificeringer, der anvendes til håndhævelse af den samme politik, og fremlægge resultaterne på en måde, så disse vurderinger kan sammenlignes på tværs af sprog og/eller regioner.

Rådet vil betragte dette som implementeret, når Meta har inkluderet disse oplysninger i Gennemsigtighedscenter og i rapporterne om håndhævelse af fællesskabsregler.

Anbefaling 7 – gennemsigtighed: Meta bør give forklaringer på et tydeligt sprog for at oplyse interessenter om, hvordan klassificeringer bruges til at generere forudsigelser om overtrædelser af politikker. Meta bør også forklare, hvordan virksomheden fastsætter grænser for enten ikke at foretage sig noget, indstille indhold til menneskelig gennemgang eller fjerne indhold, ved at beskrive de processer, hvorigennem disse grænser er fastsat. Disse oplysninger bør gives i Gennemsigtighedscenter.

Rådet vil betragte dette som implementeret, når Meta har offentliggjort de ønskede oplysninger i Gennemsigtighedscenter.

71. Mange interessenter hævdede i rundbordssamtaler og i offentlige kommentarer, at Metas håndhævelse af sin politik om farlige organisationer og individer og behandlingen af ordet "shaheed" ved både menneskelig og automatiseret gennemgang, ofte resulterede i håndhævelsesfejl, der uforholdsmæssigt meget påvirkede muslimer og relevante sprogsamfund (se de offentlige kommentarer, f.eks. PC-11183 ECNL EFF, PC-11190 – Brennan Centre; PC-11188 – Digital Rights Foundation; PC-11196 – Integrity Institute; se også BSR-rapporten om Metas indvirkning i Israel og Palæstina). Meta erkendte også i sin anmodning, at dette er en konsekvens af virksomhedens politik om ordet "shaheed." For at øge gennemsigtigheden, nøjagtigheden og retfærdigheden af Metas menneskelige og automatiserede håndhævelsesprocesser fremsætter rådet de to ovenstående anbefalinger.

72. Meta forklarede, at virksomheden måler nøjagtigheden af menneskelig og automatiseret håndhævelse på regelmæssig basis. Menneskelige evaluatorer er underlagt periodiske revisioner fra Metas outsourcing-partnere, og disse revisioner er underlagt yderligere evaluering fra Metas team for international drift.

73. Rådet har tidligere anbefalet, at Meta forbedrer sin gennemsigtighedsrapportering for at øge mængden af offentlige oplysninger om fejlrater ved at gøre disse oplysninger synlige efter land og sprog for "hyldest" af og "støtte" til farlige organisationer og enkeltpersoner (Öcalans isolation, anbefaling nr. 12) og for hver fællesskabsregel (Bekymringer i Punjab-regionen om RSS i Indien, anbefaling nr. 3). Meta forklarede, at virksomheden efter en gennemførlighedsvurdering har afvist at implementere denne anbefaling (Öcalans isolation, anbefaling nr. 12; Metas kvartårlige opdatering for 4. kvartal 2021 om Tilsynsrådet, side 21) og har flyttet fokus over på langsigtede bestræbelser på at definere nøjagtighedsmålinger baseret på profil-, side- og kontobegrænsninger samt lokation frem for sprog (Bekymringer i Punjab-regionen om RSS i Indien, anbefaling nr. 3; Metas kvartårlige opdatering for 2. kvartal 2023 om Tilsynsrådet, side 59) På baggrund af udbredte bekymringer over uforholdsmæssig håndhævelse af politikken om farlige organisationer og individer, som Metas standpunkt i forhold til "shaheed" illustrerer, og Metas manglende offentliggørelse af nyttige håndhævelsesdata, gentager rådet disse anbefalinger og vigtigheden af, at virksomheden øger gennemsigtigheden omkring håndhævelse efter lokation.

74. De data, Meta i øjeblikket deler i Gennemsigtighedscenter, giver ikke tilstrækkeligt indblik i nøjagtigheden af menneskelig gennemgang og effektiviteten af automatiserede systemer. For at tillade granskning af sine metoder skal Meta forklare, hvordan virksomheden vurderer nøjagtigheden af menneskelig gennemgang og effektiviteten af automatiserede systemer i håndhævelsen af sin politik om farlige organisationer og individer. For at øge gennemsigtigheden omkring klassificeringernes effektivitet bør Meta dele målinger, der omfatter præcision (angiver andelen af indhold, der er korrekt identificeret som krænkende, ud af alt det indhold, der er markeret som krænkende) og genkaldelse (angiver procentdelen af krænkende indhold, som klassificeringen identificerer som krænkende, ud af alt det krænkende indhold, der findes). Offentliggørelse af oplysninger om nøjagtigheden af menneskelig gennemgang på tværs af forskellige regioner og klassificeringernes effektivitet på forskellige sprog kan bidrage til ansvarlighed i forhold til Metas menneskerettighedsforpligtelser. Rådet gentager derfor sine tidligere anbefalinger og opfordrer Meta til at implementere de foreslåede ændringer.

75. Meta benytter automatiserede systemer, herunder klassificeringer, til at håndhæve sine fællesskabsregler. Klassificeringsmodeller kategoriserer automatisk data i en eller flere "klasser" (f.eks. krænkende eller ikke-krænkende) baseret på et sæt træningsdata. At forstå, hvordan disse systemer fungerer, og hvor nøjagtige de er, er afgørende for at kunne evaluere, hvordan Meta modererer indhold i stor skala. Meta giver nogle grundlæggende oplysninger om, hvordan virksomheden bruger automatiserede systemer til at opdage krænkende indhold, i håndhævelsesafsnittet i Gennemsigtighedscenter, og i funktionsafsnittet forklarer den, hvordan den rangerer og kuraterer indhold. Meta offentliggør allerede oplysninger i sine rapporter om håndhævelse af fællesskabsregler om den procentdel af indhold, virksomheden fjerner, før det bliver anmeldt (dvs. på baggrund af automatiseret detektion). Disse data indikerer vigtigheden af automatiseret detektion, men giver ikke detaljerede målinger af brugen og nøjagtigheden af Metas automatiserede systemer, især ved automatiske fjernelser. Dette sæt anbefalinger har til formål at styrke gennemsigtigheden omkring Metas brug af algoritmer.

76. Som svar på de spørgsmål, rådet stillede, forklarede Meta, at klassificeringen af farlige organisationer og individer for "Generelt sprog – arabisk" udfører en indledende gennemgang med henblik på håndhævelse baseret på Metas politikker. Klassificeringer har til formål at detektere indhold, der muligvis overtræder disse politikker. Rådet finder, at Meta bør forklare denne anvendelse af klassificeringer i detaljer i håndhævelsesafsnittet i Gennemsigtighedscenter for sine brugere, i overensstemmelse med virksomhedens tidligere afgørelser (se Symptomer på brystkræft og nøgenhed, anbefaling nr. 3; Tegning af colombiansk politi, anbefaling nr. 3). Det er især vigtigt, at der er gennemsigtighed omkring de omtrentlige konfidensgrænser for at handle på eller ikke at handle på indhold og for at sætte indholdet i kø til menneskelig gennemgang, såvel som de overvejelser eller faktorer, der bestemmer disse scorer.

77. Meta forklarede, at virksomhedens nøjagtighedstests ikke fokuserer på individuelle overtrædelsestyper i politikken, men i stedet fokuserer på overordnede nøjagtighedsgrader på tværs af et helt område i politikken. Meta oplyste, at virksomheden "udfører regelmæssig overvågning af målinger og reviderer nøjagtighedsgrader i stor skala." Rådet har tidligere forklaret, at dette ikke er tilstrækkeligt til at evaluere effektiviteten af Metas håndhævelse af fællesskabsreglerne i deres helhed (se afgørelsen i sagen Wampum-bælte). Systemer, der i gennemsnit klarer sig godt, kan potentielt klare sig ret dårligt i underkategorier af indhold såsom indhold, der bruger ordet "shaheed", hvor forkerte afgørelser har en særlig udtalt indvirkning på menneskerettighederne. Det er derfor afgørende, at Meta demonstrerer, at virksomheden udfører due diligence for at identificere og minimere de potentielle negative virkninger af sine systemer på menneskerettighederne, og at den deler oplysninger, der muliggør granskning af disse virkninger.

78. Mange interessenter hævdede, at Metas algoritmiske håndhævelsessystemer ikke tog højde for kontekst og var mere unøjagtige på andre sprog end engelsk, og at dette havde resulteret i forskellige indvirkninger på muslimske samfund (se de offentlige kommentarer, f.eks. PC-11190 – Brennan Centre).

79. Nogle interessenter anbefalede, at Meta fuldstændig stoppede med at bruge automatisering til at moderere ordet "shaheed", da automatisering generelt ikke har taget højde for kontekst hidtil (se de offentlige kommentarer, f.eks. PC-11164 – SMEX, s. 4; PC-11157 – Palestine Institute for Public Diplomacy). Andre hævdede, at i betragtning af de strenge sanktioner for indhold, der overtræder politikken om farlige organisationer og individer, bør automatisering kun bruges til at sætte indhold i kø til gennemgang, men ikke til automatisk at fjerne indhold (se f.eks. PC-11183 ECNL EFF, s. 4f). Interessenterne foreslog, at ethvert opslag, der bruger "shaheed" til at henvise til en udpeget person, "ideelt set [bør] gennemgås af menneskelige moderatorer, som kender den lokale kontekst, som opslaget stammer fra" (se PC-11188 – Digital Rights Foundation, s. 2). Nogle foreslog, at indhold skulle geo-tagges, så menneskelig og automatiseret gennemgang bedre kunne tage højde for kontekst (se f.eks. PC-11165 – Taraaz, s. 1). Interessenterne opfordrede også Meta til at give flere oplysninger om nøjagtigheden af sin automatiserede håndhævelse og investere flere penge i at forbedre sine automatiserede systemer på andre sprog end engelsk (se f.eks. PC-11164 – SMEX, s. 5; PC-11190 – Brennan Centre). De pressede også på med at få Meta til at rapporterede sine indholdsmodereringsaktiviteter "konsekvent på tværs af sprog, herunder omfattende data om brugeranmeldelser, handlingsfrekvens, handlingstyper, effektiviteten af afbødende teknikker, træningsoplysninger og appelfrekvenser" (se f.eks. PC-11196 – Integrity Institute).

80. Nogle eksperter var uenige i brugen af "shaheed" i forhold til en udpeget enhed som et enkeltstående referencepunkt for automatiserede systemers fjernelse af indhold fra platformen, men de ville opfordre til at bruge ordet som en del af en mere lagdelt tilgang til moderering (f.eks. som et signal om, at indhold skal sættes i kø til gennemgang i overensstemmelse med Metas politikker, men ikke fjernes alene for at inkludere denne reference).

81. Rådet anerkender, at det er nødvendigt at benytte algoritmiske systemer, når man modererer indhold i stor skala, og at mange af disse foreslåede tilgange ikke ville være gennemførlige i stor skala uden automatisering. Men rådet konkluderer også, at Meta skal tage yderligere skridt, herunder dem, der er anbefalet ovenfor, for at sikre gennemsigtigheden omkring og retfærdigheden af disse systemer.

*Proceduremæssig bemærkning:

Tilsynsrådets råd om politikker udarbejdes af paneler bestående af fem medlemmer og godkendes af et flertal i rådet. Rådets afgørelser er ikke nødvendigvis udtryk for alle medlemmernes personlige meninger.

I forbindelse med dette råd om politikker blev der udført uafhængige undersøgelser på vegne af rådet. Rådet fik hjælp af et uafhængigt forskningsinstitut med hovedkontor på Göteborgs Universitet, som har et team med over 50 forskere på seks kontinenter og over 3200 landeeksperter fra hele verden. Rådet fik desuden assistance fra Duco Advisors, der er et rådgivningsfirma med fokus på geopolitik, tillid og sikkerhed samt teknologi. Memetica, en organisation, der udfører søgning i offentligt tilgængelige kilder for at finde tendenser på sociale medier, har også bidraget med analyser. Sproglig ekspertise fra Lionbridge Technologies, LLC, hvis specialister er flydende på mere end 350 sprog og arbejder fra 5.000 byer i hele verden.

Retour aux décisions de cas et aux avis consultatifs politiques