Iransk kvinde konfronteres på gaden

Resumé

Tilsynsrådet har omstødt Metas oprindelige afgørelse om at fjerne en video, der viser en mand, som konfronterer en kvinde på gaden i Iran for ikke at bære hijab. Opslaget overtrådte ikke reglerne om vold eller opfordring til vold, fordi det indeholder en billedlig snarere end en bogstavelig ytring, og er ikke en troværdig trussel om vold. Det blev delt i en periode med uro, eskalerende undertrykkelse og vold mod mennesker, der protesterer, og adgangen til sociale medier er afgørende i Iran, hvor internettet repræsenterer den nye kampplads i kampen for kvinders rettigheder. Da Instagram er en af de få tilbageværende platforme, der ikke er forbudt i landet, har platformens rolle i antiregime-bevægelsen "Kvinde, liv, frihed" været uvurderlig, på trods af regimets bestræbelser på at indgyde frygt i kvinder og bringe dem til tavshed online. Rådet konkluderer, at Metas bestræbelser for at sikre respekten for ytrings- og forsamlingsfriheden i forbindelse med systematisk statsundertrykkelse har været utilstrækkelige, og det anbefaler en ændring af virksomhedens krisepolitikprotokol.

Om sagen

I juli 2023 slog en bruger en video op på Instagram, hvor en mand konfronterer en kvinde i offentligheden for ikke at bære hijab. I videoen, som er på persisk med engelske undertekster, svarer kvinden ved at sige, at hun står op for sine rettigheder. En ledsagende billedtekst udtrykker støtte til kvinden og iranske kvinder, der står op mod regimet. En del af billedteksten, som også kritiserer regimet, indeholder en sætning, der kan oversættes til "der er ikke langt til, at du bliver revet i småstykker," ifølge Meta.

Irans straffelov straffede kvinder, der trådte ud i offentligheden uden en "ordentlig hijab", med fængsel, bøde eller piskeslag. I september 2023 godkendte Irans regime en ny hijab- og kyskhedslov, hvorunder kvinder kan risikere op til 10 års fængsel, hvis de fortsætter med at trodse de obligatoriske hijab-regler. Billedteksten i dette opslag gør det klart, at kvinden i videoen allerede er blevet anholdt.

Opslaget, som først blev markeret af Metas automatiserede systemer for potentielt at overtræde Instagrams fællesskabsregler, blev sendt til menneskelig gennemgang. Selvom flere evaluatorer vurderede indholdet i henhold til Metas politik om vold eller opfordring til vold, kom de ikke frem til samme konklusion, hvilket i kombination med en teknisk fejl betød, at opslaget forblev opslået. En bruger anmeldte derefter opslaget, hvilket førte til en ekstra gennemgang, denne gang af Metas regionale team med sprogekspertise. Her blev det fastslået, at opslaget overtrådte politikken om vold eller opfordring til vold, og det blev fjernet fra Instagram. Brugeren, der havde slået indholdet op, appellerede så til rådet. Meta fastholdt, at afgørelsen om at fjerne indholdet var korrekt, indtil rådet udvalgte denne sag, hvorefter virksomheden omstødte sin afgørelse og gendannede opslaget.

Centrale konklusioner

Rådet finder, at opslaget ikke overtrådte fællesskabsreglen om vold eller opfordring til vold, fordi det indeholder billedlige snarere end bogstavelige ytringer og ikke er en troværdig trussel om vold, der formår at tilskynde til skade i det virkelige liv. Selvom Meta oprindeligt fjernede opslaget, delvist fordi virksomheden vurderede sætningen "der er ikke langt til, at du bliver revet i småstykker" som en hensigtserklæring om at begå grov vold – rettet mod manden i videoen – skal den ikke tolkes bogstaveligt. I betragtning af konteksten af udbredte protester i Iran, og billedteksten og videoen som helhed, er sætningen billedlig og udtrykker vrede og forfærdelse over regimet. De sprogeksperter, som rådet konsulterede, fremhævede en lidt anderledes oversættelse af sætningen ("vi vil rive jer i småstykker snart"), og forklarede, at den formidler vrede, skuffelse og harme over for regimet. I stedet for at udløse skade mod regimet ville den mest sandsynlige skade, der ville følge af dette opslag, være repressalier fra regimets side.

Selvom Metas rationale om politik antyder, at "sprog" og "kontekst" kan tages i betragtning, når man vurderer en "troværdig trussel", muliggør Metas interne vejledning til moderatorer ikke dette i praksis. Moderatorerne instrueres i at identificere specifikke kriterier (en trussel og et mål), og når disse er opfyldt, at fjerne indholdet. Rådet har tidligere fremhævet sin bekymring over denne skævhed i sagen Iransk demonstrationsslogan, hvor rådet anbefalede, at Meta giver nuanceret vejledning om, hvordan man kigger på kontekst, og instruerer moderatorerne i at stoppe standardfjernelser af "retorisk sprogbrug", der udtrykker dissens. Det er fortsat bekymrende, at der stadig er plads til inkonsekvent håndhævelse i forhold til billedlig tale i kontekster såsom Iran. Da automatiseringsnøjagtigheden desuden påvirkes af kvaliteten af træningsdata fra mennesker, er det sandsynligt, at den fejl, det var at fjerne billedlig tale, forstærkes.

Dette opslag blev også behandlet i henhold til fællesskabsreglen om koordinering af skade og fremme af kriminalitet, fordi der er en regel, der forbyder indhold, som sætter utilslørede kvinder i fare ved, mod deres vilje eller uden tilladelse, at vise billeder af dem uden slør. Politikkens ordlyd er sidenhen blevet redigeret, så følgende forbydes: I forbindelse med outing af utilslørede kvinder: visning af en persons identitet og at sætte vedkommende i fare for at komme til skade. Her er rådet enig med Meta i, at indholdet ikke viser kvinden i videoen, og at risikoen for skade var aftaget, fordi hendes identitet var offentligt kendt, og hun allerede var blevet anholdt. Faktisk blev opslaget delt for at gøre opmærksom på hendes anholdelse, og det kunne hjælpe med at lægge pres på, at myndighederne løslod hende.

Da Iran er udpeget som et risikobetonet land i henhold til Metas krisepolitikker, herunder krisepolitikprotokollen, kan virksomheden anvende midlertidige ændringer i politikkerne ("løftestænger") for at håndtere en bestemt situation. Selvom rådet anerkender Metas indsats over for Iran, har den været utilstrækkelig til at sikre respekt for folks ytrings- og forsamlingsfrihed i miljøer med systematisk undertrykkelse.

Tilsynsrådets afgørelse

Tilsynsrådet har omstødt Metas oprindelige afgørelse om at fjerne opslaget.

Rådet anbefaler, at Meta gør følgende:

• Tilføjer et middel i krisepolitikprotokollen for at gøre det klart, at billedlige (dvs. ikke-bogstavelige) ytringer, der ikke har til hensigt at, og som sandsynligvis ikke vil, anspore til vold, ikke overtræder politikken om vold eller opfordring til vold, der forbyder trusler om vold, i relevante kontekster. Dette bør omfatte udvikling af kriterier til moderatorer, som gennemgår store mængder indhold, for, hvordan de identificerer sådanne ytringer i den relevante kontekst.

*Sagsresuméer giver en oversigt over sager og har ingen præjudikatværdi.

Fuld sagsafgørelse

1. Opsummering af afgørelse

Tilsynsrådet omstødte Metas oprindelige afgørelse om at fjerne en video, der viser en mand, som konfronterer en kvinde på gaden i Iran for ikke at bære hijab. Meta fjernede opslaget fra Instagram på grund af følgende ord i billedteksten – "der er ikke langt til, at du bliver revet i småstykker" – som virksomheden læste som en trussel, rettet mod manden i videoen, der henvendte sig til kvinden for ikke at bære hijab. Rådet finder, at opslaget ikke overtrådte politikken om vold eller opfordring til vold, fordi den relevante ytring er billedlig snarere end bogstavelig, og at den i betragtning af konteksten ikke udgør en troværdig trussel om vold. Efter at rådet havde udvalgt sagen, stadfæstede Meta i første omgang sin afgørelse om at fjerne opslaget – men før Meta indsendte sit rationale til rådet, fastslog Meta, at den oprindelige afgørelse om at fjerne indholdet var fejlagtig, og gendannede opslaget på platformen. Rådet konkluderer, at Metas indsats for at sikre respekten for ytrings- og forsamlingsfriheden i forbindelse med systematisk statsundertrykkelse af ytringsfriheden har været utilstrækkelig, og det anbefaler en ændring af virksomhedens krisepolitikprotokol.

2. Sagsbeskrivelse og -baggrund

I juli 2023 slog en Instagram-bruger en video op på persisk med engelske undertekster, der viser en mand, som konfronterer en kvinde i offentligheden for ikke at bære hijab, hvor kvinden svarer, at hun står op for sine rettigheder. Manden kan ikke identificeres på videoen, mens kvinden er helt synlig. Videoen ser ud til at være en videredeling af en optagelse, der oprindeligt blev delt af en person, der er tilknyttet eller støtter det iranske regime. Videoen var ledsaget af en billedtekst, også på persisk, der udtrykker støtte til kvinden og til iranske kvinder, der står op over for regimet og kritiserer regimet og dets tilhængere. Billedteksten indeholdt en sætning, som Meta oversatte til "der er ikke langt til, at du bliver revet i småstykker", og der stod, at kvinden blev anholdt efter hændelsen. Opslaget havde omkring 47.000 visninger, 2000 Synes godt om, 100 kommentarer og 50 delinger.

Dette indhold blev først markeret af en automatiseret klassificering, en algoritme, som Meta bruger til at identificere potentielle overtrædelser af sine politikker som potentielle krænkelser af Instagrams fællesskabsregler, og sendt til menneskelig gennemgang. Flere evaluatorer vurderede indholdet, men på grund af en teknisk fejl, og fordi evaluatorerne ikke nåede frem til samme konklusion om, hvorvidt opslaget var en overtrædelse af politikken om vold eller opfordring til vold, blev det i første omgang ikke fjernet. En bruger anmeldte derefter indholdet, og som svar herpå fastslog en automatiseret klassificering igen, at indholdet potentielt overtrådte Metas politikker, og sendte det til yderligere gennemgang. Indholdet blev anmeldt af én bruger og blev kun anmeldt én gang. Efter denne yderligere gennemgang af Metas team med regional sproglig ekspertise fjernede Meta opslaget fra Instagram i henhold til sin politik om vold eller opfordring til vold. Metas afgørelse om at fjerne opslaget var baseret på følgende ord i billedteksten: "der er ikke langt til, at du bliver revet i småstykker." Virksomheden læste disse ord som en trussel rettet mod manden i videoen, der henvendte sig til kvinden for ikke at bære hijab. Brugeren, der havde oprettede opslaget, appellerede afgørelsen om at fjerne opslaget til Meta. En evaluator stadfæstede afgørelsen om fjernelse.

Brugeren, der havde slået indholdet op, appellerede så fjernelsen til rådet. Da rådet identificerede sagen til juridisk gennemgang, stadfæstede Meta sin afgørelse om at fjerne indholdet. På dette stadie af gennemgangen tog Meta også fællesskabsreglen om koordinering af skade og fremme af kriminalitet i betragtning, som forbyder at "oute" utilslørede kvinder, når dette sætter kvinderne i fare for skade. På det tidspunkt, hvor indholdet blev slået op, var kvinden allerede blevet anholdt af regimet. Efter at rådet havde udvalgt sagen, ændrede virksomheden efterfølgende sin afgørelse og gendannede indholdet baseret på yderligere input fra dens regionale team og på rådets afgørelse i sagen Opfordring til kvindedemonstration i Cuba.

Som rådet bemærkede i sin afgørelse i sagen Iransk demonstrationsslogan, har folk i Iran som minimum siden revolutionen i 1979 demonstreret mod regeringen og for civile og politiske rettigheder og ligestilling mellem kønnene. I 2023 blev Nobels Fredspris tildelt Narges Mohammadi, en fængslet menneskerettighedsforkæmper, for "mere end 20 års kamp for kvinders rettigheder, som har gjort hende til et symbol på frihed og fanebærer i kampen mod det iranske teokrati." Irans straffelov straffer kvinder, der træder ud i offentligheden uden en "ordentlig hijab", med fængsel, bøde eller piskeslag. Kvinder i Iran har også forbud mod visse studieretninger og mange offentlige steder, og folk har blandt andet forbud mod at danse med personer af det modsatte køn. Mænd betragtes som overhoveder i husholdningen, og kvinder skal have tilladelse fra deres fædre eller mænd for at kunne arbejde, gifte sig eller rejse. En kvindes vidnesbyrd i retten vægtes som det halve af en mands vidnesbyrd, hvilket begrænser kvinders muligheder for retfærdighed.

Efter at de iranske myndigheder intensiverede og udvidede håndhævelsen i forhold til obligatorisk hijab i 2022, har kvinder været udsat for øget kontrol, hvilket ofte har ført til verbal og fysisk chikane og anholdelser. I september 2022 døde den 22-årige Jina Mahsa Amini i politiets varetægt tre dage efter sin anholdelse for angiveligt ikke at have overholdt landets regler om at bære en "ordentlig hijab." Hendes død udløste landsdækkende forargelse og bølger af protester over hele landet og en antiregime-bevægelse, der er blevet kendt som: "Zan, zendegi, azadi" ("Kvinde, liv, frihed"). Dette førte til, at myndighederne slog hårdt ned med over 500 bekræftede dødsfald ved udgangen af 2022 og et estimeret antal anholdte på 14.000, herunder demonstranter såvel som journalister, advokater, aktivister, kunstnere og atleter, der gav udtryk for støtte til bevægelsen.

I september 2023 godkendte Irans parlament en ny hijab- og kyskhedslov, hvorunder kvinder kan risikere op til 10 års fængsel, hvis de fortsætter med at trodse landets regler om obligatorisk hijab. Virksomheder, der betjener kvinder uden hijab, bliver også sanktioneret og risikerer at blive lukket ned.

Sociale medier har været centrale for kvindeprotestbevægelsen i Iran, og de har spillet en afgørende rolle i mobiliseringen af protester og udsendelse af vitale oplysninger (se de offentlige kommentarer – PC 21007, PC-21011) og i at dokumentere og offentligt bevare beviser om overgreb og menneskerettighedskrænkelser (PC-21008, vedhæftet fil).

Onlinekampagner udsætter dog også kvinder for risici for yderligere undertrykkelse fra regimets side, herunder trusler, ærekrænkelseskampagner, anholdelser og fængsling. De eksperter, rådet konsulterede, bemærkede et omfattende netværk af enheder tilknyttet den islamiske revolutionsgarde og den iranske regering, som opererer på Instagram og Telegram, hvor sidstnævnte ofte bliver brugt til direkte at målrette mod og anklage demonstranter og dissenter.

Adskillige af de offentlige kommentarer, der blev indsendt til rådet, fremhævede også regimets taktik med at masseanmelde protestindhold på Instagram ved hjælp af brugeranmeldelsessystemet for at "presse SoMe-virksomheder til at fjerne indhold relateret til dissidenter eller give dem skyggeforbud" (se de offentlige kommentarer – PC-21011, PC-21009). Der har også været rapporter om personer fra den iranske efterretningstjeneste, der har tilbudt indholdsmoderatorer penge for at fjerne indhold, der deles af regimets kritikere.

I februar 2023 rapporterede FN's særlige rapportør om Iran bekymringer over den fortsatte undertrykkelse af og målretning mod civilsamfundsaktivister, menneskerettighedsforkæmpere, kvinderettighedsaktivister, advokater og journalister, mens myndighederne slår ned på mulighederne for at udtrykke dissens, herunder kraftig afbrydelse af internettet og censur af SoMe-platforme.

3. Tilsynsrådets bemyndigelse og arbejdsområde

Rådet har bemyndigelse til at gennemgå Metas afgørelse efter en appel fra den person, som har fået sit indhold fjernet (artikel 2 i charteret, afsnit 1); artikel 3 i vedtægterne, afsnit 1).

Rådet kan stadfæste eller omstøde Metas afgørelse (artikel 3, afsnit 5 i charteret), og denne afgørelse er bindende for virksomheden (artikel 4 i charteret). Meta skal desuden vurdere muligheden for at anvende sin afgørelse i forhold til identisk indhold med parallel kontekst (artikel 4 i charteret). Rådets afgørelse kan indeholde ikke-bindende anbefalinger, som Meta skal reagere på (artikel 3 i charteret, afsnit 4; artikel 4). Når Meta forpligter sig til at handle på anbefalinger, overvåger rådet implementeringen af disse anbefalinger.

Når rådet udvælger sager som denne, hvori Meta efterfølgende erkender, at de har begået en fejl, gennemgår rådet den oprindelige afgørelse for bedre at forstå indholdsmodereringsprocessen, der førte til fejlen, og for at komme med strukturelle anbefalinger til at reducere fejl og behandle brugere mere retfærdigt i fremtiden.

4. Kilder til bemyndigelse og vejledning

Følgende regler og fortilfælde har dannet grundlag for rådets analyse i denne sag:

I. Tilsynsrådets afgørelser

De mest relevante tidligere afgørelser fra Tilsynsrådet omfatter:

• Opfordring til kvindedemonstration i Cuba
• Metaforisk udtalelse mod Perus præsident
• Iransk demonstrationsslogan
• Öcalans isolation
• Symptomer på brystkræft og nøgenhed

II. Metas indholdspolitikker

Rådets analyse er baseret på Metas tilsagn om at støtte ytringsfriheden, hvilket virksomheden beskriver som en væsentlig værdi sammen med værdierne sikkerhed, beskyttelse af personoplysninger og værdighed.

Instagrams fællesskabsregler

Instagrams fællesskabsregler angiver, at virksomheden vil fjerne indhold med troværdige trusler, og linker til fællesskabsreglen om vold eller opfordring til vold. Instagrams fællesskabsregler linker ikke direkte til Facebooks fællesskabsregel om koordinering af skade og fremme af kriminalitet. Metas rapport om håndhævelse af fællesskabsregler for 1. kvartal 2023 oplyser, at "Facebook og Instagram deler indholdspolitikker. Det betyder, at indhold, der betragtes som værende i strid med reglerne på Facebook, også betragtes som værende i strid med reglerne på Instagram."

Indholdet blev fjernet i henhold til politikken om vold eller opfordring til vold. Efter at rådet havde udvalgt sagen, analyserede Meta også indholdet i henhold til sin politik om koordinering af skade og fremme af kriminalitet.

Fællesskabsreglen om vold eller opfordring til vold

Ifølge rationalet om politikken i fællesskabsreglen om vold eller opfordring til vold har reglen til formål at forebygge potentiel skade i det virkelige liv, der kan være relateret til indhold på Metas platforme. Samtidig anerkender Meta, at mange udtrykker foragt eller uenighed ved for sjov at true med eller opfordre til vold på henkastede måder. Meta fjerner derfor indhold, når virksomheden mener, at det involverer trusler om vold, der kan føre til døden, herunder indhold, der er rettet mod enhver, med hensigtserklæringer om at begå grov vold. Virksomheden anfører, at den tager udgangspunkt i ytringens kontekst, når den vurderer, om en trussel er troværdig, hvilket kan være enhver yderligere information såsom personens offentlige synlighed og målets sårbarhed.

Afsnittet "Du må ikke slå følgende op" i politikken forbyder specifikt trusler om vold, der kan føre til døden (og andre former for grov vold). Ordet "trussel" inkluderer "hensigtserklæringer" om at begå grov vold.

Fællesskabsreglen om koordinering af skade og fremme af kriminalitet

I henhold til rationalet om politikken stræber fællesskabsreglen om koordinering af skade og fremme af kriminalitet på at "forhindre skade i det virkelige liv, og at andre kopierer en sådan adfærd" ved at forbyde folk mod at "facilitere, organisere, promovere eller indrømme visse kriminelle eller skadelige aktiviteter, der er rettet mod personer, virksomheder, ejendom eller dyr." Dette inkluderer "outing", som Meta definerer som indhold, der afslører identiteten eller lokationen tilknyttet enhver, der påstås blandt andet at være medlem af en gruppe med risiko for outing. Disse del af politikken håndhæves af moderatorer, som gennemgår store mængder indhold, i forhold til visse specifikke grupper. Ved eskalering med yderligere kontekst stod der i Metas politik på det tidspunkt, hvor indholdet blev slået op, at virksomheden muligvis også fjerner indhold, som sætter utilslørede kvinder i fare ved, mod deres vilje eller uden tilladelse, at vise billeder af dem uden slør. Denne ordlyd er nu blevet ændret, så følgende forbydes: I forbindelse med outing af utilslørede kvinder: visning af en persons identitet og at sætte vedkommende i fare for at komme til skade.

III. Metas menneskerettighedsansvar

De vejledende principper om erhvervslivet og menneskerettigheder, som blev vedtaget af FN's menneskerettighedsråd i 2011, udgør en frivillig ramme for private virksomheders ansvar, hvad angår menneskerettigheder. Metas virksomhedspolitik om menneskerettigheder, der blev annonceret 16. marts 2021, genbekræftede virksomhedens tilsagn om at overholde rettighederne som anført i FN's vejledende principper.

Følgende internationale standarder kan være relevante for rådets analyse af Metas menneskerettighedsansvar i denne sag:

• Retten til ytringsfrihed: Artikel 19, International konvention om borgerlige og politiske rettigheder ( ICCPR), Generel bemærkning nr. 34, Menneskerettighedskomitéen 2011; FN's særlige rapportør for menings- og ytringsfrihed, rapporter: A/HRC/38/35 (2018) og A/74/486 (2019); og Rabat-handlingsplan, FN's højkommissær for menneskerettigheder, rapport: A/HRC/22/17/Add.4 (2013).
• Retten til frit at deltage i fredelige forsamlinger: artikel 21, ICCPR; Generel bemærkning nr. 37, Menneskerettighedskomitéen, 2020.
• Retten til livet: artikel 6, ICCPR.
• En persons ret til frihed og til sikkerhed: artikel 9, ICCPR.
• Retten til beskyttelse mod forskelsbehandling: Artikel 2(1), 3 og 26, ICCPR; Artikel 1 og artikel 7 (ikke-diskrimination ved deltagelse i det politiske og offentlige liv i landet), Konvention om afskaffelse af alle former for diskrimination mod kvinder (CEDAW). Se også erklæringen om menneskerettighedsforkæmpere, artikel 8, ret til effektiv adgang, på et ikke-diskriminerende grundlag, til deltagelse i offentlige anliggender.
• Retten til privatlivets fred: artikel 17, ICCPR.

5. Indsendelser fra brugere

Brugeren, der havde slået indholdet op, appellerede fjernelsen til rådet. I sin udtalelse forklarede brugeren, at opslaget viste en repræsentant for den iranske regering konfrontere en kvinde for ikke at bære hijab. Brugeren udtalte, at videoen viser den iranske kvindes tapperhed, idet hun står op for sine rettigheder. Brugeren oplyste, at andre havde delt lignende videoer på sociale medier, og at indholdet ikke var skadeligt eller farligt og ikke overtrådte nogen Instagram-politik.

6. Metas indsendelser

Fællesskabsreglen om vold eller opfordring til vold

Meta fortalte rådet, at virksomhedens oprindelige afgørelse om at fjerne indholdet i denne sag var baseret på politikken om vold eller opfordring til vold. Virksomheden forklarede, at afgørelsen var baseret på en del af opslagets billedtekst, som virksomheden oversatte til: "der er ikke langt til, at du bliver revet i småstykker". Virksomheden læste disse ord som en trussel rettet mod manden i videoen, der henvendte sig til kvinden for ikke at bære hijab. Dens regionale team fastslog, at sætningen "du bliver revet i småstykker" udgjorde en trussel om fysisk skade i den iranske kontekst. På baggrund af denne fortolkning stadfæstede Meta i første omgang afgørelsen om at fjerne indholdet i henhold til sin politik om vold eller opfordring til vold.

Selvom Meta stadfæstede sin afgørelse om at fjerne indholdet, da rådet først identificerede sagen til juridisk gennemgang, ændrede virksomheden efterfølgende afgørelsen, efter at rådet havde udvalgte denne sag, og gendannede indholdet baseret på yderligere input fra det regionale team. Baseret på det input konkluderede Meta, at den mest sandsynlige fortolkning af sprogbrugen i billedteksten var en henvisning til at nedlægge det iranske regime eller dem, der støtter den obligatoriske hijab, snarere end en bogstavelig trussel mod manden i videoen.

I denne sidste gennemgang konkluderede Meta, at indholdet havde til formål at skabe opmærksomhed og henlede opmærksomhed på overgreb begået mod kvinder såsom kvinden, der blev konfronteret af manden i videoen for ikke at bære hijab. Brugeren henviser til iranske kvinders styrke og kritiserer "kujonagtighed" med henvisning til enten manden, der filmer videoen, eller regimet som helhed, og skaber opmærksomhed om anholdelsen af kvinden i videoen. Meta forklarede, at den potentielt truende sprogbrug skulle læses og forstås i lyset af denne overordnede kontekst. Meta bemærkede i sit rationale, med henvisning til rådets afgørelse i sagen Iransk demonstrationsslogan, at denne måde at skabe opmærksomhed på er særlig vigtig i Iran, hvor ytringsfriheden er begrænset.

Meta informerede også rådet om, at regionale teams efter yderligere undersøgelser havde foreslået, at den mest rimelige fortolkning af ordene "der er ikke langt til, at du bliver revet i småstykker" ikke var en sand trussel, men snarere en politisk kritik rettet mod enten regimet som helhed eller personer, der støtter kravet om obligatorisk hijab mere generelt. Selvom "du bliver revet i småstykker" generelt kan referere til at dræbe en person, kan det her forstås som en afmontering af regimet (svarende til den metaforiske sprogbrug i sagen Metaforisk udtalelse mod Perus præsident).

Meta fortalte rådet, at en anden faktor i, at virksomheden i sidste ende gendannede indholdet, var rådets nylige afgørelse i sagen Opfordring til kvindedemonstration i Cuba, hvor rådet understregede, at en kontekstuel læsning af opslaget skulle tage højde for bølgen af statsundertrykkelse og den betydelige offentlige interesse i de historiske protester, som var opslagets emne. Derudover overvejede virksomheden sagen Iransk demonstrationsslogan, hvor rådet analyserede den politiske bevægelse omkring kvinders rettigheder i Iran. Der understregede rådet vigtigheden af at beskytte ytringer i forbindelse med protestbevægelsen, især i lyset af den iranske regerings systematiske undertrykkelse af ytringsfriheden og vigtigheden af digitale rum som et forum til at udtrykke dissens. Virksomheden bemærkede også, at den havde overvejet rådets nylige opsummeringsafgørelse i sagen Metaforisk udtalelse mod Perus præsident, som atter understregede "vigtigheden af at designe kontekstfølsomme modereringssystemer med opmærksomhed på ironi, satire eller retorisk diskurs, især for at beskytte politisk tale."

Fællesskabsreglen om koordinering af skade og fremme af kriminalitet

Meta fortalte rådet, at virksomheden også havde overvejet at fjerne indholdet i henhold til fællesskabsreglen om koordinering af skade og fremme af kriminalitet for ufrivilligt at have outet kvinden i videoen uden slør. Meta håndhæver kun denne del af politikken ved eskalering, og hvis der er angivet yderligere kontekst. Håndhævelse kræver input fra relevante interessenter og er fokuseret på at afgøre, om indholdet viser en utilsløret kvinde, der får eksponeret sin identitet uden tilladelse, og sandsynligvis vil sætte hende i fare, snarere end eventuelle specifikke termer, der bruges, eller tonen i indholdet eller billedteksten. Meta bemærker, at en person ikke kan "oute" sig selv – outing skal være ufrivilligt, for at det overtræder politikken.

I dette tilfælde besluttede Meta, at indholdet ikke skulle fjernes for ufrivillig outing, da kvindens identitet var offentligt kendt og tilgængelig online, og hun allerede var blevet anholdt på det tidspunkt, hvor sagens indhold blev offentliggjort. Denne kontekst reducerede markant risikoen for skade forbundet med at lade indholdet forblive på platformen.

Rådet stillede Meta 11 spørgsmål og to opfølgende spørgsmål på skrift. Spørgsmålene var relateret til håndhævelsesprocedurer og -ressourcer for Iran, Metas risikovurdering for Iran generelt og for kvinden i videoen i særdeleshed, automatiserede og menneskelige gennemgangsprocesser, håndhævelse af regler for indhold, der viser utilslørede kvinder, og outing af en risikogruppe, i stort omfang og ved eskalering. Meta besvarede alle spørgsmål.

7. Offentlige kommentarer

Tilsynsrådet modtog 12 offentlige kommentarer relateret til denne sag. Syv af kommentarerne blev indsendt fra USA og Canada, to fra Central- og Sydasien, to fra Europa og en fra Mellemøsten og Nordafrika.

Indsendelserne dækkede følgende temaer: sociale mediers rolle i de iranske demonstrationer, herunder "Kvinde, liv, frihed"-bevægelsen og den rolle billeder af utilslørede kvinder spiller i digitale kampagner; risiciene ved at cirkulere billeder, der viser utilslørede kvinder i Iran, på sociale medier; de iranske myndigheders brug af sociale medier; Metas håndhævelse af sine indholdsmodereringspolitikker for persisksprogede ytringer relateret til den politiske situation i Iran; ytringsfrihed, menneskerettigheder, kvinders rettigheder, statsundertrykkelse og forbud mod sociale medier i Iran.

Klik her for at læse de indsendte offentlige kommentarer til denne sag.

8. Tilsynsrådets analyse

Rådet undersøgte Metas oprindelige afgørelse om at fjerne indholdet i henhold til virksomhedens indholdspolitikker, menneskerettighedsansvar og værdier.

Rådet udvalgte denne sag, fordi den gav mulighed for at udforske Metas politikker om vold eller opfordring til vold og om koordinering af skade og fremme af kriminalitet samt relaterede håndhævelsesprocesser i forbindelse med massive protester for kvinders rettigheder og kvinders deltagelse i det offentlige liv i Iran siden september 2022. Den adresserer især vigtigheden af SoMe-platforme for folk, der protesterer mod reglerne om obligatorisk hijab.

Derudover giver sagen rådet mulighed for at drøfte Metas interne procedurer, der afgør, hvornår og hvorfor billedlige ytringer, der, hvis de forstås bogstaveligt, kan tolkes som truende, men som i betragtning af konteksten ikke skal tolkes som en troværdig trussel. Sagen falder primært inden for rådets prioritet om valg og civilsamfundsmæssigt råderum, men berører også rådets prioriteringer af køn, regeringers brug af Metas platforme og krise- og konfliktsituationer.

8.1 Overholdelse af Metas indholdspolitikker

Fællesskabsreglen om vold eller opfordring til vold

Rådet finder, at indholdet i denne sag ikke overtræder fællesskabsreglen om vold eller opfordring til vold, da det indeholder billedlig tale, der udtrykker vrede over regeringens undertrykkelse, snarere end en bogstavelig og derfor troværdig trussel om vold.

Meta forklarede, at virksomheden oprindeligt fjernede indholdet i denne sag, fordi det indeholdt "en hensigtserklæring om at begå grov vold." Virksomheden definerer grov vold som en trussel, der kan føre til døden eller sandsynligvis vil være dødelig.

Baseret på de regionale teams' vurdering fortolkede Meta sætningen "der er ikke langt til, at du bliver revet i småstykker" fra opslagets billedtekst som en trussel om fysisk skade i den iranske kontekst, der overtrådte politikken om vold eller opfordring til vold.

De sprogeksperter, som rådet konsulterede, forklarede, at den relevante del af billedteksten kan oversættes til "vi vil rive jer i småstykker snart!" eller "vi er ikke langt fra at rive jer i småstykker." Eksperterne bemærkede, at sætningen i den iranske kontekst formidler vrede, skuffelse og fortørnelse over undertrykkere, og antyder idéen om, at situationen i sidste ende kan ændre sig, da undertrykkernes greb om magten ikke vil være evig. Denne sætning skal ikke fortolkes bogstaveligt som en hensigt om at forårsage fysisk skade; i stedet tjener den som et "retorisk udsagn", der sigter mod at tiltrække opmærksomhed, understreget af et følelsesladet sprog med kraftfulde verber som "rive" eller "rive i småstykker." Disse eksperter fremhævede, at en sådan billedlig tale afspejler den dybe vrede, der deles af både brugeren, der har slog indholdet op, og vedkommendes målgruppe. Derfor indebærer det ikke egentlige trusler om fysisk vold.

Selvom Meta fortalte rådet, at virksomheden også overvejer konteksten af ytringen, når den vurderer, om en trussel er troværdig, indikerer dens vejledning til moderatorerne ikke, at de kan tage konteksten i betragtning, når de vurderer, om der foreligger en "hensigtserklæring om at begå grov vold." Så længe elementerne i reglen er opfyldt, specifikt når indhold involverer både en trussel og et mål, anses opslaget for at være krænkende, som det var tilfældet her. I dette tilfælde fortolkede Meta ytringen som værende rettet mod manden, der fulgte efter kvinden. Reglen kræver ikke, at målet skal være synligt eller identificerbart. Reglerne giver kun ét eksempel på truende tale, der er undtaget eller anses for ikke at være en troværdig trussel: trusler rettet mod visse voldelige aktører såsom terrorgrupper.

Udtrykket "du bliver revet i småstykker" udgør ikke her en troværdig trussel. I betragtning af konteksten af en periode med uro, eskalerende undertrykkelse og vold mod mennesker, der protesterer mod regimet i Iran, og i betragtning af billedteksten og videoen som helhed, finder rådet, at sætningen er billedlig, ikke bogstavelig, og udtrykker vrede og forfærdelse over regimet, og at den ikke udgjorde ikke en "hensigtserklæring om at begå grov vold." Denne tolkning er overensstemmende med Metas indsats, hvad angår ytringsfrihed og vigtigheden af at beskytte ytringer og politisk utilfredshed.

Fællesskabsreglen om koordinering af skade og fremme af kriminalitet

Rådet vurderer, at indholdet i denne sag ikke overtræder fællesskabsreglen om koordinering af skade og fremme af kriminalitet.

Meta overvejede at fjerne opslaget i henhold til reglen, der forbyder indhold, som sætter utilslørede kvinder i fare ved, mod deres vilje eller uden tilladelse, at vise billeder af dem uden slør. Denne del af politikken er sidenhen blevet ændret, så følgende forbydes: I forbindelse med outing af utilslørede kvinder: visning af en persons identitet og at sætte vedkommende i fare for at komme til skade. Virksomhedens forståelse af "outing" inkluderer indhold, hvor der deles et billede af en utilsløret kvinde, der afslører hendes identitet uden hendes tilladelse og sætter hende i fare for at komme til skade. Denne del af politikken anvendes kun ved eskalering og kræver input fra forskellige interessenter for at kunne håndhæves (se afsnit 4 ovenfor).

I dette tilfælde er rådet enig med Meta i, at indholdet ikke "outer" kvinden, da hendes identitet var offentligt kendt, og risikoen for skader fra indholdet var aftaget, fordi hun allerede var blevet anholdt på tidspunktet for indholdets offentliggørelse. Derfor ville videoens fortsatte tilstedeværelse på platformen ikke øge risikoniveauet for kvinden væsentligt og faktisk kunne være beskyttende ved at skabe opmærksomhed om hendes sag. Afgørelsen af, om et opslag "outer" en kvinde og bringer hende i fare, er særligt kontekstafhængig; håndhævelse af politikken udelukkende ved eskalering kan sikre, at teamet, der håndhæver den, har tid og ressourcer til effektivt at identificere og overveje den relevante kontekst.

8.2 Overholdelse af Metas menneskerettighedsansvar

Rådet mener, at fjernelsen af indholdet fra platformen er overensstemmende med Metas menneskerettighedsansvar.

Ytringsfrihed (Artikel 19, ICCPR)

Artikel 19 i ICCPR giver en bred beskyttelse af ytringer, herunder "frihed til at søge, modtage og meddele oplysninger og tanker af enhver art uden hensyn til landegrænser, i mundtlig, skriftlig eller trykt form, i form af kunst eller ved andre midler efter eget valg." Såfremt en stat indfører begrænsninger af ytringsfriheden, skal de opfylde kravene om lovlighed, legitimt formål og nødvendighed og proportionalitet (artikel 19, stk. 3 i ICCPR). Rådet anvender denne struktur til at fortolke Metas frivillige forpligtelse til beskyttelse af menneskerettigheder, både i forbindelse med afgørelser om individuelt indhold, der er ved at blive gennemgået, og hvad det siger om Meta i bredere forstand i forhold til indholdsstyring. Som FN's særlige rapportør om ytringsfrihed har udtalt, gælder det, at selvom "virksomheder ikke har samme forpligtelser som regeringer, så er deres indvirkning af en sådan art, at det kræver, at de tager stilling til samme slags spørgsmål angående beskyttelse af deres brugeres ret til ytringsfrihed" ( A/74/486, punkt 41).

Adgang til sociale medier er afgørende i et lukket samfund som Iran. Som "digitale gatekeepere" har SoMe-platforme en "dyb indvirkning" på offentlighedens adgang til oplysninger (A/HRC/50/29, stk. 90). Opslaget i denne sag er en del af en bredere protestbevægelse, der er afhængig af digitale borgerrum for at kunne overleve. Lovgivning, der bestemmer, hvordan kvinder skal klæde sig, påvirker deres frihed og værdighed (A/68/290, stk. 38), uanset om lovene søger at forbyde at bære slør eller at forbyde at gå offentligt uden slør (se f.eks. Yaker vs. Frankrig, CCPR/C/123/D/2747/2016). I denne forbindelse er "internettet blevet den nye slagmark i kampen om kvinders rettigheder og forstærker kvinders muligheder for at udtrykke sig" (A/76/258 paragraf 4). Styrkning af kvinders ytringsfrihed muliggør deres politiske deltagelse og realiseringen af deres menneskerettigheder (A/HRC/Res/23/2, stk. 1-2; A/76/258, stk. 5).

I. Lovlighed (reglernes tydelighed og tilgængelighed)

Lovlighedsprincippet kræver, at enhver begrænsning af ytringsfriheden er i overensstemmelse med en fastlagt regel, som er tilgængelig og tydelig for brugerne. Reglen skal være "formuleret med tilstrækkelig præcision til at gøre det muligt for en person at regulere sin adfærd i overensstemmelse hermed, og den skal være tilgængelig for offentligheden," (Generel bemærkning nr. 34, stk. 25). Derudover gælder det, at regler, der begrænser ytringsfriheden, ikke må give uhindret diskretion for at begrænse ytringsfriheden for dem, der tynges af håndhævelsen og skal "yde tilstrækkelig vejledning til de personer, der er beskæftiget med håndhævelsen af dem, for at afklare, hvilke typer ytringer der er passende begrænset, og hvilke typer der ikke er." (Generel bemærkning nr. 34, stk. 25; A/HRC/38/35 (undocs.org), stk. 46). Manglende klarhed eller præcision kan føre til inkonsekvent og vilkårlig håndhævelse af reglerne. I forhold til Meta skal brugerne kunne forudsige konsekvenserne af at slå indhold op på Facebook og Instagram, og indholdsevaluatorerne bør have en klar vejledning om deres håndhævelse.

Fællesskabsreglen om vold eller opfordring til vold

Rådet finder, at selvom rationalet om politikken – som udtrykker formålene med fællesskabsreglen, men ikke er en del af selve reglen – i fællesskabsreglen om vold eller opfordring til vold antyder, at konteksten har betydning og kan tages i betragtning, når man vurderer en "troværdig trussel". Metas interne retningslinjer og tilgang til moderering muliggør ikke dette i praksis. Som rådet bemærkede i sagen Iransk demonstrationsslogan, instrueres en indholdsmoderator, der gennemgår store mængder indhold, i at lede efter specifikke kriterier eller elementer i opslaget og at fjerne opslaget, når disse kriterier eller elementer er opfyldt. Med andre ord gælder det, at hvis opslaget indeholder en trussel (f.eks. "dræb" eller "jeg vil rive dig i småstykker") og et mål, er resultatet fjernelse. Indholdsmoderatorer har ikke beføjelse til at foretage en vurdering af, om truslen er troværdig. Som Meta også forklarede i den pågældende sag, skyldes den formulaiske tilgang, at "det er svært at vurdere, om [en sætning] udgør retorisk tale eller en troværdig trussel, særligt i stor skala." Truslers troværdighed er taget i betragtning ved oprettelsen af reglen, ikke ved håndhævelsen af den. Som rådet bemærkede i sagen Iransk demonstrationsslogan, synes rationalet om politikken at tage højde for retorisk tale, som man kan forvente i forbindelse med protester, men det er ikke tilfældet i de nedskrevne regler og den tilhørende vejledning. Håndhævelse i praksis, særligt i stor skala, er mere formularisk end reglerne angiver, og dette kan betyde, at brugerne får en forkert opfattelse af, hvordan reglerne bliver håndhævet. Vejledningen til evaluatorer, som den ser ud for nuværende, indeholder ikke muligheden for kontekstbaseret analyse, heller ikke selvom der er tydeligt i indholdet, at truende sprog er retorisk. Denne uoverensstemmelse mellem virksomhedens erklærede rationale om politikken og dens faktiske håndhævelsespraksis fortsætter og opfylder ikke tilstrækkeligt lovlighedsprincippet.

Rådet gentager sine konklusioner fra sagen Iransk demonstrationsslogan om, at Meta bør give nuanceret vejledning om, hvordan man tager hensyn til kontekst, og instruere moderatorerne i at afstå fra standardfjernelse af "retorisk" eller ikke-bogstavelig sprogbrug, der udtrykker dissens, især i følsomme politiske miljøer såsom Iran.

Fællesskabsreglen om koordinering af skade og fremme af kriminalitet

Rådet finder, at Metas forbud mod indhold, som sætter utilslørede kvinder i fare ved, mod deres vilje eller uden tilladelse, at vise billeder af dem uden slør, er tilstrækkeligt klart, sådan som det er anvendt i denne sag. Det gør det klart, at indhold, der "outer" utilslørede kvinder og kan føre til skade, er forbudt på Metas platforme. Rådet bemærker dog med bekymring, at Instagrams fællesskabsregler ikke linker direkte til Facebooks fællesskabsregel om koordinering af skade og fremme af kriminalitet. Dette underminerer reglernes tilgængelighed for Instagram-brugere. I tidligere sager (Symptomer på brystkræft og nøgenhed, Öcalans isolation) har rådet anbefalet, at Meta offentligt tydeliggør for brugerne, hvordan Facebooks fællesskabsregler gælder for Instagram. Som reaktion herpå har Meta iværksat en proces for at forene Facebooks fællesskabsregler med Instagrams fællesskabsregler og specificere, hvor politikkerne afviger en smule platformene imellem. I de efterfølgende kvartalsvise gennemsigtighedsrapporter har Meta forsikret rådet om, at denne indsats forbliver en prioritet, og bemærket, at juridiske og regulatoriske overvejelser har påvirket Metas tidslinjer. Rådet gentager vigtigheden af at være hurtig i fuldførelsen af denne proces og sikre klarhed i de gældende regler.

II. Legitimt formål

I henhold til artikel 19, stk. 3 i ICCPR kan ytringer begrænses af en defineret og begrænset liste af årsager, herunder med det formål at beskytte andres rettigheder. I denne sag finder rådet, at fællesskabsreglen om vold eller opfordring til vold har til formål at forhindre potentiel skade i det virkelige liv ved at fjerne indhold, der udgør en reel risiko for fysisk skade eller direkte trusler mod den offentlige sikkerhed. Denne politik har derfor det legitime formål at beskytte retten til livet (artikel 6, ICCPR) og en persons ret til fysisk sikkerhed (artikel 9, ICCPR; Generel bemærkning nr. 35, stk. 9).

Politikken om koordinering af skade og fremme af kriminalitet tjener det legitime formål at beskytte kvinders ret til ikke-diskrimination i Iran (artikel 2, 3 og 26, ICCPR; artikel 1 og 7, CEDAW), herunder udøvelsen af retten til ytrings- og forsamlingsfrihed (artikel 19 og 21, ICCPR), retten til at deltage i det offentlige liv (artikel 1 og 7, CEDAW), retten til privatlivets fred (artikel 17, ICCPR) og retten til livet (artikel 6, ICCPR ) og til frihed og personlig sikkerhed (artikel 9, ICCPR).

III. Nødvendighed og proportionalitet

Enhver begrænsning af ytringsfriheden "skal være passende for at opnå dens beskyttende funktion. Den skal være det mindst indgribende instrument blandt dem, der kan opnå den beskyttende funktion, og den skal være proportionel med interessen, der skal beskyttes" (Generel bemærkning nr. 34, paragraf 34). SoMe-virksomheder bør overveje en række mulige svar på problematisk indhold ud over sletning, for at sikre at begrænsninger skræddersys (A/74/486, stk. 51).

Fællesskabsreglen om vold eller opfordring til vold

Rådet finder, at Metas oprindelige afgørelse om at fjerne indholdet i denne sag ikke var nødvendig. Det var ikke påkrævet for at beskytte den person, der optager videoen, eller andre, da truslen, som er nævnt i billedteksten til opslaget, ikke er bogstavelig. Rådet er bekymret over, at virksomhedens fællesskabsregler og vejledning til moderatorer, selv efter rådets vejledning i sagen Iransk demonstrationsslogan, stadig giver plads til inkonsekvent håndhævelse af billedlige (ikke-bogstavelige) trusler på trods af situationen i Iran, med demonstrationer der har stået på i mere end et år nu. Den sag involverede ligesom denne en sætning, som Meta ikke kunne identificere som en ikke-bogstavelig erklæring om en trussel. Den fortsatte mangel på tilstrækkelig vejledning fremhæves yderligere af det faktum, at indholdet i denne sag blev gennemgået af flere moderatorer og teams i Meta, og gentagne gange blev vurderet som krænkende.

Som en del af sin analyse anvendte rådet de seks faktorer fra Rabat-handlingsplanen for i denne sag at vurdere indholdets evne til at skabe en alvorlig risiko for at tilskynde til diskrimination, vold eller anden lovløs handling. Rådet bemærker, at selvom Rabat-faktorerne er udviklet til at modvirke nationalt, racemæssigt eller religiøst had, der udgør tilskyndelse til vold, og ikke til opildning generelt, er seksfaktor-testen nyttig til at vurdere opildning generelt, og rådet har tidligere brugt den på denne måde (se f.eks. Iransk demonstrationsslogan og Opfordring til kvindedemonstration i Cuba):

• Kontekst: Indholdet blev slået op i juli 2023 i en periode med uro, eskalerende undertrykkelse og vold mod mennesker, der protesterede mod regimet. Der er begrænsede steder for protester i landet på grund af massive internetafbrydelser og forbud mod store SoMe-platforme som Facebook, Telegram og X. Da Instagram er en af de få tilbageværende platforme, har platformens rolle i "Kvinde, liv, frihed"-bevægelsen været uvurderlig. De eksperter, som rådet konsulterede, bemærkede, at bevægelsen sigter mod normalisering af protester og modstand mod fire årtiers diskriminerende love mod kvinder. Eksperterne bemærkede, at siden begyndelsen af bevægelsen har det været store tendenser at skabe frygt og afholde kvinder fra at udtrykke sig online. Nye love og højt profilerede anholdelser har til formål at dæmme op for disse demonstrationer og stoppe tendensen med normalisering af modstand mod hijab-lovene.
• Talerens identitet: Meta fortalte rådet, at virksomheden ikke betragtede den bruger, der havde slået indholdet op, som en offentlig person. Baseret på billedteksten til videoen ser brugeren ud til at være tilhænger af eller en del af "Kvinde, liv, frihed"-bevægelsen. Derfor er taleren her ikke i en autoritetsposition, og vedkommende risikerer også potentielt sin egen sikkerhed ved at give udtryk for sin støtte og slå dette indhold op.
• Hensigt: Selvom vurdering af hensigt ved moderering af store mængder indhold udgør en betydelig udfordring, vil en objektiv og almindelig læsning af hele opslaget indikere støtte til den afbildede kvinde og skabe opmærksomhed om hendes anholdelse. Ifølge de eksperter, som rådet har konsulteret, er det almindeligt i Iran, at demonstranter cirkulerer billedet af en utilsløret kvinde og hendes navn efter hendes anholdelse for at lægge pres på myndighederne, så de ikke gør hende fortræd. Demonstranter har erfaret, at ved at offentliggøre disse personer kan de forhindre yderligere chikane af ofrene.
• Indhold og udtryksform: Ifølge de sprogeksperter, som rådet har konsulteret, ville udtrykket "du bliver revet i småstykker" i denne sammenhæng forstås af persisktalende som udtryk for en dyb følelse såsom vrede og skuffelse, men ikke en bogstavelig trussel om vold. Kraftfuldt og tilsyneladende truende sprog er jævnligt blevet brugt af bevægelsen til at tale imod regimet. I sagen Iransk demonstrationsslogan fandt rådet, at sloganet "Død over Khamenei" udgjorde en "retorisk trussel," og bemærkede, at Meta havde udstedt en tilladelse i forhold til formålet med politikken for sætningen "jeg vil dræbe den, der slår min søster/bror ihjel" af lignende årsager. Sætningen i denne sag optræder midt i en billedtekst, der roser en kvinde, som står op for sine rettigheder. Som helhed udtrykker billedteksten støtte til iranske kvinder, der protesterer mod diskriminerende love og regimets misbrug.
• Omfang og rækkevidde: Opslaget havde omkring 47.000 visninger, 2000 Synes godt om, 100 kommentarer og 50 delinger. Da denne ytring ikke ser ud til at udgøre tilskyndelse til vold i betragtning af de andre faktorer i Rabat-analysen, er indholdets store rækkevidde i sig selv ikke en faktor, der indikerer, at fjernelse var nødvendig.
• Sandsynlighed og overhængende fare: Denne faktor vurderer, om ytringen sandsynligvis vil udløse overhængende og sandsynlig skade mod det potentielle mål for ytringen, som i dette tilfælde var regimet. Protestbevægelsen og dens støtter er oppe imod et regime, der konstant bruger voldelig undertrykkelse og repressalier mod demonstranter. Den mest sandsynlige form for skade, der kan opstå som følge af ytringen i denne sag, er repressalier fra regimet mod den bruger, der slog indholdet op, eller kvinden i videoen snarere end vold mod regimet eller dets tilhængere. Eksperter understregede farerne for personer, der deltager i disse protester, og hvordan bevægelsen varer ved på trods af den faretruende trussel om vold. De udtalte også, at formålet med at cirkulere billederne af utilslørede kvinder, der er blevet anholdt, er at gøre opmærksom på deres anholdelse og lægge pres på myndighederne, så de ikke gør kvinderne fortræd.

På baggrund af analysen af ovenstående faktorer vurderer rådet, at indholdet ikke udgjorde en troværdig trussel og ikke kunne tilskynde til skade i det virkelige liv. Når billedlige ytringer bruges i forbindelse med udbredte protester, som bliver mødt med voldelig undertrykkelse, bør Meta gøre det muligt for sine evaluatorer at vurdere sproget og den lokale kontekst og tilpasse vejledningen til moderatorerne med det underliggende rationale om politikken. At sikre en nøjagtig vurdering af, om et opslag er en "billedlig ytring" eller sandsynligvis vil tilskynde til vold, er afgørende for mere generelt at kunne forbedre moderering i kriser. Automatiseringsnøjagtigheden vil blive påvirket af kvaliteten af de træningsdata, der leveres af menneskelige moderatorer. Når menneskelige moderatorer fjerner "billedlige" ytringer på grund af en rigid håndhævelse af en regel, vil denne fejl sandsynligvis blive gentaget og forstærket gennem automatisering.

Rådet bemærker, at Meta har en række mekanismer til rådighed til at justere sine politikker og sin håndhævelse i krisesituationer, herunder systemet for højrisikolande og krisepolitikprotokollen. Systemet for højrisikolande bruges til at identificere lande med risiko for "skade i det virkelige liv og vold" for at bestemme, hvordan virksomheden skal prioritere sin produktudvikling, eller hvordan den skal investere sine ressourcer. Vurderingen kan også tages i betragtning for andre processer (f.eks. om man skal opstille et særligt driftsteam eller udløse brugen af krisepolitikprotokol). Meta informerede rådet om, at Iran i andet halvår af 2023 er blevet udpeget som et højrisikoland. Iran har også været udpeget i henhold til krisepolitikprotokollen siden den 21. september 2022 og er forblevet udpeget siden da. Krisepolitikprotokollen gør det muligt for Meta at lave visse midlertidige ændringer af politikker, kendt som "løftestænger", for at håndtere en bestemt situation. Meta gav nogle eksempler på de løftestænger, der allerede er blevet brugt i Iran, herunder en tilladelse til at lade indhold med sloganet "jeg vil dræbe den, der slår min søster/bror ihjel" eller lignende forblive opslået, uden at det overtræder andre af Metas politikker. (Der er flere eksempler på løftestænger i Referat fra Politikforum, 25. januar 2022, krisepolitikprotokollen).

Selvom rådet anerkender virksomhedens tilsagn om sikkerhed og dens bestræbelser på at mindske potentielle risici for indholdsmoderering ved at aktivere krisepolitikprotokollen for Iran, har disse bestræbelser været utilstrækkelige til at sikre respekt for folks ytrings- og forsamlingsfrihed i et miljø med systematisk undertrykkelse af dissens og sociale spændinger. Forskning iværksat af rådet viser, at langt størstedelen af indhold, der skildrer utilslørede kvinder i forbindelse med debat om brugen af hijab i Iran på Metas platforme, er delt af eller til støtte for protestbevægelsen. Her har Metas håndhævelsesproces gentagne gange undladt at skelne mellem billedlige eller ikke-bogstavelige ytringer i relevant kontekst og reelle trusler og tilskyndelse til vold, som potentielt fremmer skade i det virkelige liv.

Rådet anbefaler, at Meta føjer et politikmiddel til krisepolitikprotokollen og i overensstemmelse hermed giver moderatorer, som gennemgår store mængder indhold, interne kriterier for, hvordan man identificerer ytringer, der bruger truende sprog billedligt eller ikke-bogstaveligt i den relevante kontekst på en måde, så det ikke krænker den del af politikken om vold eller opfordring til vold, der forbyder trusler om vold. Ved udviklingen af de krisespecifikke kriterier for, hvordan man afgør, om en trussel er billedlig og ikke bogstavelig, kan Meta se på Rabat-planens faktorer (f.eks. konteksten af udbredte protester mod statsundertrykkelse, om taleren har evnen til at opildne eller udgør en risiko for at tilskynde folk til at deltage i skade, relevant sproglig og social kontekst, der indikerer almindelig brug af stærkt/følelsesmæssigt sprog af hensym til retorikken, sandsynlighed for skade vurderet ud fra lokalt kendskab osv.). Virksomheden kan også hente hjælp hos sine betroede partnere til at udtænke eller vurdere kriterierne for moderering. Meta har selv understreget den praktiske betydning af Rabat-handlingsplanen for indholdsmoderering efter at have støttet FN i at oversætte handlingsplanen til 32 sprog. Denne løftestang bør tillade "billedlige ytringer" i forbindelse med protester mod regimet, forudsat at de ikke har til hensigt at, og sandsynligvis ikke vil, tilskynde til vold.

Fællesskabsreglen om koordinering af skade og fremme af kriminalitet

I denne sag finder rådet, at fjernelse i henhold til fællesskabsreglen om koordinering af skade og fremme af kriminalitet ikke var nødvendig, da den afbildede kvindes identitet var offentligt kendt, og indholdet var tydeligt offentliggjort for at henlede opmærksomheden på hendes anholdelse i håb om, at opmærksomheden ville føre til hendes løsladelse. Derudover fremhævede flere offentlige kommentatorer, at kvinder, der fjerner deres hijab i offentligheden, gør det målrettet som en form for protest og er opmærksomme på de potentielle konsekvenser, idet de vælger "trods som en strategisk modstand mod myndighederne" (se offentlig kommentar, Tech Global Institute, PC-21009). Kvinden i videoen var allerede blevet identificeret og anholdt af regimet. Dette opslag blev delt for at gøre opmærksom på anholdelsen. Demonstranter og dissidenter, som blev tilbageholdt af regimet, er blevet tortureret, udsat for kønsbaseret vold eller forsvundet. De eksperter, rådet konsulterede, og adskillige offentlige kommentatorer bemærkede specifikt, at denne praksis, der gør opmærksom på anholdelser og opfordrer til løsladelse af en tilbageholdt person, regelmæssigt bruges af bevægelsen og af menneskerettighedsforkæmpere i Iran og kan hjælpe med at beskytte individer i regimets varetægt.

Afvejningen af behovet for at beskytte sårbare brugeres identitet og samtidig undgå censur for dem, der ønsker eksponering, er et ømtåleligt spørgsmål og kræver kontekstanalyse, rettidig gennemgang og hurtig handling.

9. Tilsynsrådets afgørelse

Tilsynsrådet omstøder Metas oprindelige afgørelse om at fjerne indholdet.

10. Anbefalinger

1. Håndhævelse

For at sikre respekt for brugernes ytrings- og forsamlingsfrihed i et miljø med systematisk statsundertrykkelse bør Meta føje en løftestang til krisepolitikprotokollen, hvorved billedlige (eller ikke-bogstavelige) ytringer, der ikke har til hensigt at, og sandsynligvis ikke vil, tilskynde til vold, ikke overtræder politikken om vold eller opfordring til vold i relevante kontekster. Dette bør omfatte udvikling af kriterier til moderatorer, som gennemgår store mængder indhold, for, hvordan de identificerer sådanne ytringer i den relevante kontekst.

Rådet vil betragte denne anbefaling som implementeret, når Meta har delt både metoderne til implementering af løftestangen og de deraf følgende kriterier for moderering i Iran med rådet.

*Proceduremæssig bemærkning:

Tilsynsrådets afgørelser udarbejdes af paneler bestående af fem medlemmer og godkendes af et flertal i rådet. Rådets afgørelser er ikke nødvendigvis udtryk for alle medlemmernes personlige meninger.

I forbindelse med denne sagsafgørelse blev der udført uafhængige undersøgelser på vegne af rådet. Rådet fik hjælp af et uafhængigt forskningsinstitut med hovedkontor på Göteborgs Universitet, som har et team med over 50 forskere på seks kontinenter og over 3200 landeeksperter fra hele verden. Rådet fik desuden assistance fra Duco Advisors, der er et rådgivningsfirma med fokus på geopolitik, tillid og sikkerhed samt teknologi. Memetica, en organisation, der udfører søgning i offentligt tilgængelige kilder for at finde tendenser på sociale medier, har også bidraget med analyser. Sproglig ekspertise fra Lionbridge Technologies, LLC, hvis specialister er flydende på mere end 350 sprog og arbejder fra 5.000 byer i hele verden.

العودة إلى قرارات الحالة والآراء الاستشارية المتعلقة بالسياسة