Iransk kvinne konfrontert på gaten

Sammendrag

Tilsynsrådet har omgjort Metas opprinnelige beslutning om å fjerne en video som viser en mann som konfronterer en kvinne på gaten i Iran fordi hun ikke bruker hijab. Innlegget brøt ikke med reglene om vold og oppfordring til vold, ettersom det inneholder en billedlig uttalelse, ikke en bokstavelig, og det er ikke en troverdig trussel om vold. Innlegget ble delt i en periode med uro, eskalerende undertrykkelse og vold mot demonstranter. Det er avgjørende at folket i Iran har tilgang til sosiale medier, siden Internett har blitt den nye slagmarken i kampen for kvinners rettigheter. Instagram er en av de få gjenværende plattformene som ikke er blitt forbudt i landet. Derfor har Instagram hatt en betydelig rolle i motstandsbevegelsen «Zan. Zendegi. Azadi» («kvinne, liv, frihet»), til tross for regimets forsøk på å skape frykt og stilne kvinner på nettet. Rådet konkluderer med at Metas innsats for å sikre respekt for ytrings- og forsamlingsfriheten i sammenheng med systematisk statlig undertrykkelse har vært utilstrekkelig, og de anbefaler selskapet å endre kriseprotokollen sin.

Om saken

I juli 2023 la en bruker ut en video på Instagram der en mann konfronterer en kvinne offentlig fordi hun ikke bruker hijab. I videoen, som er på persisk med engelsk undertekst, svarer kvinnen med at hun står opp for rettighetene sine. En tilhørende undertekst uttrykker støtte til kvinnen og iranske kvinner som står opp mot regimet. Underteksten, som også kritiserer regimet, har også en setning som ifølge Meta kan oversettes som: «Vi skal snart slite deg i stykker».

I henhold til straffeloven i Iran, kan kvinner som opptrer offentlig uten «riktig hijab» straffes med fengsel, bøter eller piskeslag. I september 2023 godkjente Irans regime en ny hijab- og kyskhetslov som innebærer at kvinner kan risikere opptil ti års fengsel hvis de gjentatte ganger trosser de obligatoriske hijab-reglene. Underteksten i dette innlegget gjør det klart at kvinnen i videoen allerede er arrestert.

Innlegget ble først flagget av Metas automatiserte systemer for et potensielt brudd på Instagrams retningslinjer for fellesskapet, og det ble sendt til manuell vurdering. Selv om flere moderatorer vurderte innholdet i henhold til Metas retningslinjer om vold og oppfordring til vold, kom de ikke til samme konklusjon. I kombinasjon med en teknisk feil, betydde dette at innlegget ble liggende ute. En bruker rapporterte deretter innlegget, noe som førte til en ekstra runde med gjennomgang, denne gangen av Metas regionale team med språkekspertise. På dette stadiet ble det fastslått at innlegget brøt retningslinjene om vold og oppfordring til vold, og det ble fjernet fra Instagram. Brukeren som la ut innholdet, anket deretter til rådet. Meta fastholdt at beslutningen om å fjerne innholdet var korrekt, inntil rådet valgte denne saken. På dette stadiet omgjorde selskapet avgjørelsen og gjenopprettet innlegget.

Viktige funn

Rådet konkluderer med at innlegget ikke brøt standarden om vold og oppfordring til vold, fordi det inneholder billedlig uttalelse, ikke en bokstavelig, og det utgjør ikke en troverdig trussel om fysisk vold og skaper ingen økt fare for vold. Meta fjernet opprinnelig innlegget delvis fordi de vurderte uttrykket «vi skal snart slite deg i stykker» som en intensjonserklæring om å begå grov vold – rettet mot mannen i videoen – men dette bør ikke tolkes bokstavelig. Gitt de omfattende protestaksjonene i Iran, underteksten og videoen som helhet, må uttrykket tolkes billedlig. I innlegget uttrykkes sinne og forferdelse overfor regimet. Språkeksperter rådet har konsultert, bemerket en noe annerledes oversettelse av uttrykket («en gang i framtiden skal vi rive deg i stykker»), og de forklarte at dette formidler sinne og skuffelse overfor regimet. Snarere enn å utløse voldshandlinger mot regimet, vil den mest sannsynlige skaden av dette innlegget være voldelig gjengjeldelse fra regimets side.

Selv om Metas begrunnelse bak retningslinjene antyder at «språk» og «kontekst» kan vurderes når man vurderer om noe utgjør en «troverdig trussel», gjør Metas interne veiledning til moderatorer at dette ikke fungerer i praksis. Moderatorene blir bedt om å identifisere spesifikke kriterier (en trussel og et mål), og når disse er oppfylt, skal de fjerne innholdet. Rådet har tidligere uttrykt bekymring for denne uheldige koblingen i saken «Slagord i forbindelse med Iran-protester». Her anbefalte rådet at Meta gir en mer nyansert veiledning om hvordan moderatorene skal vurdere kontekst, der de bes om ikke å fjerne «retoriske ytringer» som uttrykker dissens. Det er bekymringsfullt at det fortsatt finnes rom for inkonsekvent håndhevelse av billedlig tale i kontekster som situasjonen i Iran. Ettersom nøyaktigheten til det automatiserte systemet påvirkes av kvaliteten på treningsdata fra mennesker, er det sannsynlig at feilen med å fjerne billedlig tale blir forsterket.

Dette innlegget ble også vurdert under standarden om koordinering av skade og promotering av kriminalitet, fordi det er en regel der som forbyr «innhold som setter kvinner uten slør i fare ved å vise dem uten slør mot deres vilje eller uten tillatelse». Retningslinjene har siden blitt redigert for å forby følgende: «Avsløring (av kvinner uten slør): avsløre identiteten til en person og dermed sette personen i fare.» På dette området er rådet enig med Meta i at innholdet ikke «avslører» kvinnen i videoen, og risikoen for skade var redusert, fordi identiteten hennes var allment kjent og hun allerede var arrestert. Innlegget ble faktisk delt for å gjøre folk oppmerksomme på at hun var arrestert og bidra til å presse myndighetene til å løslate henne.

Siden Iran er spesifisert som et høyrisikoland i Metas retningslinjer for kriser, inkludert kriseprotokollen deres, kan selskapet midlertidig endre retningslinjene (bruke «varianter») for å håndtere en bestemt situasjon. Selv om rådet anerkjenner Metas innsats når det gjelder Iran, har denne vært utilstrekkelig til å ivareta respekten for folks ytrings- og forsamlingsfrihet i miljøer med systematisk undertrykkelse.

Tilsynsrådets avgjørelse

Tilsynsrådet har opphevet Metas opprinnelige beslutning om å fjerne innlegget.

Rådet anbefaler at Meta gjør følgende:

• De bør legge til en variant i kriseprotokollen som gjør det klart at billedlige (dvs. ikke-bokstavelige) uttalelser som ikke har til hensikt å oppfordre til vold og sannsynligvis ikke vil medføre voldshandlinger, ikke bryter retningslinjene om vold og oppfordring til vold, som forbyr trusler om vold i relevante sammenhenger. Dette bør omfatte å utvikle kriterier for moderatorer på storskalanivå for hvordan de kan identifisere slike utsagn i den aktuelle konteksten.

* Sakssammendrag gir en oversikt over sakene og medfører ingen presedens.

Fullstendig saksavgjørelse

1. Sammendrag av avgjørelsen

Tilsynsrådet omgjør Metas opprinnelige beslutning om å fjerne en video som viser en mann som konfronterer en kvinne på gatene i Iran fordi hun ikke bruker hijab. Meta fjernet innlegget fra Instagram på grunn av linjen i underteksten som sier: «Vi skal snart slite deg i stykker». Dette forsto selskapet som en trussel som var rettet mot mannen i videoen som henvendte seg til kvinnen fordi hun ikke brukte hijab. Rådet konkluderer med at innlegget ikke brøt retningslinjene om vold og oppfordring til vold, fordi den aktuelle uttalelsen er billedlig ment, ikke bokstavelig, og gitt konteksten utgjør den ingen troverdig trussel om vold. Etter at rådet valgte saken, opprettholdt Meta først sin beslutning om å fjerne innlegget – men før de sendte inn begrunnelsen til rådet, fastslo de at den opprinnelige beslutningen om å fjerne innholdet var feil, og de gjenopprettet innlegget til plattformen. Rådet konkluderer med at Metas innsats for å sikre respekt for ytrings- og forsamlingsfriheten i sammenheng med systematisk statlig undertrykkelse av ytringsfriheten har vært utilstrekkelig, og de anbefaler selskapet å endre kriseprotokollen sin.

2. Saksbeskrivelse og -bakgrunn

I juli 2023 la en Instagram-bruker ut en video på persisk med engelsk undertekst som viser en mann som konfronterer en kvinne offentlig for ikke å ha på seg hijab, og der kvinnen svarte at hun står opp for sine rettigheter. Mannen er ikke identifiserbar i videoen, mens kvinnen er fullt synlig. Videoen ser ut til å være en videredeling av et opptak som opprinnelig ble delt av noen som er tilknyttet eller støtter det iranske regimet. Videoen var ledsaget av en undertekst, også på persisk, som uttrykker støtte til kvinnen og til iranske kvinner som står opp mot regimet og kritiserer regimet og deres støttespillere. Underteksten inneholdt en setning som Meta oversatte til: «Vi skal snart slite deg i stykker», og den sa også at kvinnen ble arrestert etter hendelsen. Innlegget hadde rundt 47 000 visninger, ble likt 2000 ganger, mottok 100 kommentarer og ble delt 50 ganger.

Innholdet ble først flagget av et automatisert klassifiseringssystem – en algoritme som Meta bruker for å identifisere potensielle brudd på retningslinjene – som potensielt i strid med Instagrams retningslinjer for fellesskapet. Deretter ble det sendt til manuell vurdering. Flere moderatorer vurderte innholdet, men på grunn av en teknisk feil og at moderatorene ikke kom til samme konklusjon rundt hvorvidt innlegget utgjorde et brudd på retningslinjene om vold og oppfordring til vold, ble det først ikke fjernet. En bruker rapporterte deretter innholdet, etter at et automatisert klassifiseringssystem igjen mente at innholdet potensielt krenket Metas retningslinjer og sendte det til ytterligere vurdering. Innholdet ble rapportert av én bruker, og kun én gang. Etter denne ekstra runden med gjennomgang av Metas team med regional kunnskap og språkekspertise, fjernet Meta innlegget fra Instagram i henhold til retningslinjene om vold og oppfordring til vold. Metas beslutning om å fjerne innlegget var basert på følgende linje i underteksten: «Vi skal snart slite deg i stykker.» Selskapet forsto dette som en trussel rettet mot mannen i videoen som henvendte seg til kvinnen fordi hun ikke hadde på seg hijab. Brukeren som opprettet innlegget anket beslutningen om å fjerne innlegget til Meta. En moderatorer opprettholdt beslutningen om å fjerne det.

Brukeren som la ut innholdet, anket deretter fjerningen til rådet. Da rådet identifiserte saken for juridisk vurdering, opprettholdt Meta sin beslutning om å fjerne innholdet. På dette stadiet av gjennomgangen vurderte Meta også standarden om koordinering av skade og promotering av kriminalitet, som forbyr «avsløring» av kvinner når dette setter kvinnen i fare for skade. På det tidspunktet innholdet ble lagt ut, var kvinnen allerede arrestert av regimet. Etter at rådet valgte saken, endret selskapet senere sin avgjørelse og gjenopprettet innholdet, basert på ytterligere innspill fra det regionale teamet og på rådets beslutning i saken «Oppfordring til kvinneprotest i Cuba».

Som rådet bemerket i sin beslutning om ««Slagord i forbindelse med Iran-protester»», har flere i Iran protestert mot regjeringen og tatt til orde for sivile og politiske rettigheter og likestilling siden revolusjonen i 1979, og trolig lenger. I 2023 ble Nobels fredspris tildelt Narges Mohammadi, en fengslet menneskerettighetsforkjemper, for «mer enn 20 års kamp for kvinners rettigheter, (noe som har) gjort henne til et frihetssymbol og en fanebærer i kampen mot det iranske teokratiet». I henhold til straffeloven i Iran, kan kvinner som opptrer offentlig uten «riktig hijab» bli straffet med fengsel, bøter eller piskeslag. Kvinner i Iran er også utestengt fra å gå visse studieretninger og fra mange offentlige steder, og det er blant annet også forbudt å danse med personer av motsatt kjønn. Menn regnes som husstandens overhode, og kvinner trenger tillatelse fra faren eller ektemannen sin for å kunne arbeide, gifte seg eller reise. En kvinnes vitneforklaring tillegges halvparten så stor vekt som en manns, noe som begrenser muligheten kvinner har til å oppnå rettferdighet.

Etter at de iranske myndighetene intensiverte og utvidet pålegget om obligatorisk hijab i 2022, har kvinner blitt enda tettere overvåket, noe som ofte har ført til verbal og fysisk trakassering og arrestasjoner. I september 2022 døde 22 år gamle Jina Mahsa Amini i politiets varetekt, tre dager etter at hun ble arrestert for angivelig å ha unnlatt å overholde landets regler for bruk av «riktig hijab». Hennes død utløste sterk harme og en protestbølge over hele landet, samt en regimekritisk bevegelse som har blitt kjent som «Zan. Zendegi. Azadi» («kvinne, liv, frihet»). Dette førte til et voldelig motangrep fra myndighetene, med over 500 bekreftede dødsfall innen utgangen av 2022, og der anslagsvis 14 000 personer ble arrestert, inkludert demonstranter, journalister, advokater, aktivister, artister og idrettsutøvere som ga uttrykk for støtte til bevegelsen.

I september 2023 godkjente Irans parlament et nytt «hijab og kyskhet»-lovforslag, der kvinner kan risikere opptil ti års fengsel hvis de gjentatte ganger trosser landets obligatoriske hijab-regler. Bedrifter som selger noe eller yter tjenester til kvinner uten hijab, vil også bli utsatt for sanksjoner og risikerer å bli stengt.

Sosiale medier har vært sentrale i kvinneprotestbevegelsen i Iran. De har spilt en avgjørende rolle i mobiliseringen av demonstrasjoner og kringkasting av viktig informasjon (se offentlig kommentar PC-21007 og PC-21011), og også i å dokumentere og ta vare på bevismateriale som viser overgrep og menneskerettighetsbrudd (PC-21008, vedlegg).

Nettkampanjer utsetter imidlertid også kvinner for risiko for mer undertrykkelse av regimet, inkludert trusler, ærekrenkelser, arrestasjoner og fengsling. Eksperter rådet har konsultert, bemerker et omfattende nettverk av enheter knyttet til Islamsk revolusjonsgarde og den iranske regjeringen som opererer på Instagram og Telegram, der sistnevnte ofte brukes til å målrette og anklage demonstranter og meningsmotstandere direkte.

Flere offentlige kommentarer som er sendt til rådet framhevet også regimets taktikk med å masserapportere protestinnhold på Instagram ved å bruke rapporteringssystemet for å «presse sosiale medieselskaper til å fjerne innhold relatert til dissidenter eller usynliggjøre dem» (se offentlig kommentar PC-21011 og PC-21009). Det har også kommet rapporter om at iransk etterretningstjeneste tilbyr innholdsmoderatorer penger for å fjerne innhold som er delt av kritikere av regimet.

I februar 2023 rapporterte FNs spesialrapportør om Iran bekymringer om den pågående undertrykkelsen og målrettingen av sivilsamfunnsaktivister, menneskerettighetsforkjempere, kvinnerettighetsaktivister, advokater og journalister. Myndighetene slår ned på uttrykk for dissens, inkludert kraftig inngripen på internettområdet og sensur av sosiale medieplattformer.

3. Tilsynsrådets myndighet og virkeområde

Rådet er bemyndiget til å vurdere Metas avgjørelse etter en klage fra personen som har fått innhold fjernet (artikkel 2, del 1 i reglementet; artikkel 3, del 1 i vedtektene).

Rådet kan opprettholde eller omgjøre Metas avgjørelse (artikkel 3, del 5 i vedtektene), og rådets avgjørelse er bindende for selskapet (artikkel 4 i vedtektene). Meta må også vurdere gjennomførbarheten av å iverksette avgjørelsen sin når det gjelder identisk innhold i tilsvarende sammenhenger (artikkel 4 i vedtektene). Rådets beslutninger kan omfatte ikke-bindende anbefalinger som Meta må svare på (vedtektenes artikkel 3, del 4; artikkel 4). Når Meta forplikter seg til å følge anbefalingene, vil rådet overvåke implementeringen av dem.

Når rådet velger ut saker som denne, der Meta i ettertid erkjenner at de har gjort en feil, går rådet gjennom den opprinnelige beslutningen for å få bedre forståelse av prosessen med innholdsmoderering, og for å komme med anbefalinger som kan redusere feilraten og øke rettferdigheten for folk som bruker Facebook og Instagram.

4. Ekspertkilder og -veiledning

Følgende standarder og presedenser dannet grunnlag for rådets analyse i denne saken:

I. Tilsynsrådets beslutninger

De mest relevante tidligere beslutningene fra tilsynsrådet inkluderer følgende:

• «Oppfordring til kvinneprotest i Cuba»
• «Metaforisk uttalelse mot presidenten i Peru»
• «Slagord i forbindelse med Iran-protester»
• «Isolasjonen av Öcalan»
• «Brystkreftsymptomer og nakenhet»

II. Metas retningslinjer for innhold

Rådets analyse var basert på Metas forpliktelse til verdien «stemme», som selskapet har beskrevet som «overordnet», og også verdiene «sikkerhet», «personvern» og «verdighet».

Retningslinjer for Instagram-fellesskapet

Instagrams retningslinjer for fellesskapet sier at selskapet vil «fjerne innhold med troverdige trusler» og lenker til standarden om vold og oppfordring til vold. Retningslinjene for fellesskapet lenker ikke direkte til standarden om vold og oppfordring til vold. Metas rapport om håndhevelsen av standardene for 1. kvartal 2023 sier at «Facebook og Instagram deler retningslinjer for innhold. Dette betyr at hvis innhold anses som krenkende på Facebook, anses det også som krenkende på Instagram.»

Innholdet ble fjernet i henhold til retningslinjene om vold og oppfordring til vold. Etter at rådet valgte saken, analyserte Meta også innholdet ut fra retningslinjene om koordinering av skade og promotering av kriminalitet.

Standard om vold og oppfordring til vold

I henhold til begrunnelsen bak retningslinjene, har standarden om vold og oppfordring til vold som mål å «forhindre potensiell vold utenfor Internett som kan henge sammen med innhold» som vises på Metas plattformer. Samtidig erkjenner Meta at «folk ofte kan uttrykke forakt eller uenigheter ved å true eller oppfordre til vold, uten at det ligger et alvor bak.» Meta fjerner derfor innhold når selskapet mener det inneholder «trusler om vold som kan føre til dødsfall», inkludert innhold med «intensjonserklæringer» om å begå «grov vold». De sier at selskapet tar konteksten til uttalelsen i betraktning når de vurderer om en trussel er troverdig. Dette kan være tilleggsinformasjon som personens «offentlige synlighet og målets sårbarhet».

Under «Ikke legg ut» i retningslinjene, forbys spesifikt «trusler om vold som kan føre til dødsfall (og andre former for grov vold)». Ordet «trussel» inkluderer «intensjonserklæringer» om å begå grov vold.

Standarden om koordinering av skade og promotering av kriminalitet

I henhold til begrunnelsen bak retningslinjene, har standarden om koordinering av skade og promotering av kriminalitet som mål å «forhindre skade utenfor nettet, og at andre kopierer en slik atferd» ved å forby folk å «tilrettelegge for, organisere, promotere eller innrømme visse kriminelle eller skadelige aktiviteter rettet mot mennesker, bedrifter, eiendom eller dyr». Dette inkluderer «avsløring», som Meta definerer som innhold som avslører identiteten eller oppholdsstedet til personer som blant annet påstås å «være medlem av en risikogruppe». Disse retningslinjene håndheves av moderatorer på storskalanivå når det gjelder noen spesifikke grupper. Ved eskalering, med ekstra kontekst, uttalte Metas retningslinjer på det tidspunktet da innholdet ble lagt ut at de også kan fjerne: «innhold som setter kvinner uten slør i fare ved å vise dem uten slør mot deres vilje eller uten tillatelse». Denne teksten har nå blitt redigert så den forbyr: «avsløring (av kvinner uten slør): avsløre identiteten til en person og dermed sette personen i fare».

III. Metas menneskerettighetsansvar

FNs veiledende prinsipper for næringsliv og menneskerettigheter (UNGP-ene) ble godkjent av FNs menneskerettighetsråd i 2011 og etablerte et frivillig rammeverk for private bedrifters menneskerettighetsansvar. Metas bedriftsretningslinjer for menneskerettigheter, publisert 16. mars 2021, bekreftet selskapets forpliktelse til å respektere rettighetene som er angitt i UNGP-ene.

Følgende internasjonale standarder kan være relevante for rådets analyse av Metas menneskerettighetsansvar i denne saken:

• Retten til ytringsfrihet: Artikkel 19, Den internasjonale konvensjonen om sivile og politiske rettigheter ( ICCPR), generell kommentar nr. 34, menneskerettighetskomiteen, 2011; Disse rapportene fra FNs spesialrapportør for menings- og ytringsfrihet: A/HRC/38/35 (2018) og A/74/486 (2019); og Rabat-handlingsplanen, rapport fra FNs høykommissær for menneskerettigheter: A/HRC/22/17/Add.4 (2013).
• Retten til å delta i fredelige forsamlinger: Artikkel 21, ICCPR; Generell kommentar nr. 37, menneskerettighetskomiteen, 2020.
• Retten til liv: Artikkel 6 i ICCPR.
• Retten til frihet og personlig sikkerhet: Artikkel 9 i ICCPR.
• Retten til ikke-diskriminering: artikkel 2(1), 3 og 26 i ICCPR; Artikkel 1 og 7 (ikke-diskriminering ved deltakelse i det politiske og offentlige liv i landet), konvensjon om avskaffelse av alle former for diskriminering av kvinner (CEDAW). Se også erklæringen om menneskerettighetsforkjempere, artikkel 8, rett til effektiv tilgang, på ikke-diskriminerende grunnlag, til deltakelse i gjennomføringen av offentlige anliggender.
• Retten til personvern: Artikkel 17 i ICCPR,

5. Brukeruttalelser

Brukeren som la ut innholdet, anket fjerningen til rådet. I uttalelsen sin forklarte brukeren at innlegget viste en representant for den iranske regjeringen som konfronterte en kvinne for ikke å ha på seg hijab. Brukeren uttalte at videoen viser tapperheten til den iranske kvinnen som står opp for sine rettigheter. Brukeren opplyste at andre hadde delt lignende videoer på sosiale medier og mente at innholdet ikke var skadelig eller farlig, samt at det ikke brøt noen av Instagrams retningslinjer.

6. Metas uttalelser

Standard om vold og oppfordring til vold

Meta fortalte rådet at den første beslutningen om å fjerne innholdet i denne saken var basert på retningslinjene om vold og oppfordring til vold. De forklarte at avgjørelsen var basert på en del av underteksten i innlegget, som selskapet oversatte som: «Vi skal snart slite deg i stykker.» Selskapet forsto det slik at denne linjen rettet seg mot mannen i videoen som hadde henvendt seg til kvinnen fordi hun ikke brukte hijab. Det regionale teamet deres fastslo at uttrykket «slite deg i stykker» utgjorde en trussel om fysisk skade i iransk kontekst. På grunnlag av denne tolkningen, opprettholdt Meta først beslutningen om å fjerne innholdet i henhold til retningslinjene om vold og oppfordring til vold.

Selv om Meta opprettholdt avgjørelsen om å fjerne innholdet da rådet først identifiserte saken for juridisk vurdering, endret de senere avgjørelsen og gjenopprettet innholdet basert på ytterligere innspill fra det regionale teamet. Basert på dette innspillet, konkluderte Meta med at den mest sannsynlige tolkningen av underteksten var at den henviste til å fjerne det iranske regimet eller de som støtter obligatorisk bruk av hijab, og at den ikke var en bokstavelig trussel rettet mot mannen i videoen.

I denne siste vurderingen konkluderte Meta med at innholdet hadde som mål å øke bevisstheten om og rette oppmerksomheten mot overgrep mot kvinner, slik som kvinnen som ble konfrontert av mannen i videoen fordi hun ikke brukte hijab. Brukeren refererer til styrken iranske kvinner har og kritiserer «ufinheten», som henviser enten til mannen som filmer eller regimet som helhet, og at delingen av videoen øker bevisstheten om arrestasjonen av kvinnen. Meta forklarte at den potensielt truende ordlyden burde leses og tolkes i lys av denne overordnede konteksten. Denne typen bevisstgjøring, bemerket Meta i sin begrunnelse, med henvisning til rådets avgjørelse i saken «Slagord i forbindelse med Iran-protester», er spesielt viktig i Iran, hvor det er begrensede rom for ytringsfrihet.

Meta informerte også rådet om at deres regionale team etter ytterligere undersøkelser mente at den mest fornuftige tolkningen av ordlyden («vi skal snart slite deg i stykker») ikke var en reell trussel, men snarere politisk kritikk rettet mot enten regimet som helhet eller personer som støtter det obligatoriske hijabkravet mer generelt. Selv om «slite deg i stykker» generelt sett refererer til å drepe noen ved å rive opp kroppen, kan det her forstås som å slite i stykker regimet (som den billedlige ordlyden som er nevnt i rådets sammenfattende beslutning i saken med den metaforiske uttalelsen mot presidenten av Peru).

Meta fortalte rådet at en annen faktor bak at de til slutt gjenopprettet innholdet, var rådets nylige avgjørelse i saken «Oppfordring til kvinneprotest i Cuba», der rådet understreket at en kontekstuell lesing av innlegget må ta hensyn til bølgen av statlig undertrykkelse og den betydelige offentlige interessen for de historiske protestene som var hovedsaken i innlegget. I tillegg vurderte selskapet saken «Slagord i forbindelse med Iran-protester», der rådet analyserte den politiske bevegelsen som kjemper for kvinners rettigheter i Iran. Der understreket rådet viktigheten av å beskytte ytringer i sammenheng med protestbevegelsen, spesielt i lys av den iranske regjeringens systematiske undertrykkelse av ytringsfriheten og viktigheten av digitale rom som et forum for å uttrykke dissens. Selskapet bemerket også at det hadde vurdert rådets nylige sammenfattende beslutning i saken «Metaforisk uttalelse mot presidenten i Peru», som på nytt understreket «viktigheten av å utforme kontekstsensitive modereringssystemer som tar høyde for ironi, satire og retorisk diskurs, spesielt for å beskytte politiske ytringer.»

Standarden om koordinering av skade og promotering av kriminalitet

Meta fortalte rådet at de også vurderte å fjerne innholdet i henhold til standarden om vold og oppfordring til vold for ufrivillig avsløring av kvinnen som vises uten slør i videoen. Meta håndhever bare disse retningslinjene ved eskalering og hvis det oppgis ytterligere kontekst. Håndhevelsen krever innspill fra relevante interessenter og fokuserer på å avgjøre hvorvidt innholdet viser at identiteten til en kvinne avsløres uten hennes tillatelse og potensielt setter henne i fare, ikke på de spesifikke begrepene som brukes i innlegget eller tonen i innholdet eller underteksten. Meta bemerker at en person ikke kan «avsløre» seg selv – avsløringen må være ufrivillig for å bryte retningslinjene.

I dette tilfellet avgjorde Meta at innholdet ikke skulle fjernes for ufrivillig avsløring, ettersom kvinnens identitet var allment kjent og tilgjengelig på nettet, og hun var allerede arrestert på det tidspunktet da innholdet i denne saken ble lagt ut. Denne konteksten reduserte risikoen for skader forbundet med å la innholdet ligge på plattformen i betydelig grad.

Rådet stilte Meta 11 spørsmål og to oppfølgingsspørsmål skriftlig. Spørsmålene var knyttet til håndhevelsesprosedyrer og -ressurser for Iran, Metas risikovurdering for Iran generelt og for kvinnen i videoen spesielt, automatiserte og manuelle vurderingsprosesser, håndheving av innhold som viser kvinner uten slør og avsløringen av en risikogruppe på storskalanivå og ved eskalering. Meta besvarte alle spørsmålene.

7. Offentlige kommentarer

Tilsynsrådet mottok tolv offentlige kommentarer som er relevante for denne saken. Sju av kommentarene kom fra USA og Canada, to fra Sentral- og Sør-Asia, to fra Europa og én fra Midtøsten og Nord-Afrika.

Kommentarene dekket følgende temaer: rollen til sosiale medier i Iran-protestene, inkludert «Woman, Life, Freedom»-bevegelsen, og rollen som bilder av kvinner uten slør spiller i digitale kampanjer; risikoen ved at bilder av iranske kvinner uten slør sirkulerer på sosiale medier; iranske myndigheters bruk av sosiale medier; Metas håndhevelse av retningslinjene om innholdsmoderering for persiskspråklige ytringer relatert til den politiske situasjonen i Iran; ytringsfrihet og menneskerettigheter generelt; kvinners rettigheter; regjeringens undertrykkelse; og forbud mot sosiale medier i Iran.

Du kan lese de offentlige kommentarene som er sendt inn angående denne saken ved å klikke her.

8. Tilsynsrådets analyse

Rådet undersøkte Metas opprinnelige beslutning om å fjerne innholdet i henhold til selskapets innholdsretningslinjer, menneskerettighetsansvar og verdier.

Rådet valgte denne saken fordi den ga en mulighet til å se nærmere på Metas retningslinjer om vold og oppfordring til vold og retningslinjene om koordinering av skade og promotering av kriminalitet, samt relaterte prosesser for håndhevelse av reglene i sammenheng med de massive demonstrasjonene for kvinners rettigheter og deltakelse i det offentlige liv i Iran som har foregått siden september 2022. Den tar spesielt opp hvor viktige sosiale medieplattformer er for alle dem som protesterer mot de obligatoriske hijab-reglene.

I tillegg gir saken rådet en anledning til å diskutere Metas interne prosedyrer som er bestemmende for hvordan man skal tolke billedlige utsagn. Når denne typen ytringer blir tatt bokstavelig, kan de tolkes som truende, men i mange sammenhenger bør de ikke forstås som en troverdig trussel. Saken faller først og fremst inn under rådets prioritering av valg og det offentlige rom, men berører også rådets prioritering av kjønn, myndigheters bruk av Metas plattformer og krise- og konfliktsituasjoner.

8.1 Overholdelse av Metas retningslinjer for innhold

Standard om vold og oppfordring til vold

Rådet konkluderer med at innholdet i denne saken ikke er i strid med standarden om vold og oppfordring til vold. I denne saken er det snakk om billedlig tale som uttrykker sinne over myndighetenes undertrykkelse, snarere enn en bokstavelig, og derfor troverdig, trussel om vold.

Meta forklarte at de opprinnelig fjernet innholdet i denne saken fordi det inneholdt «en intensjonserklæring om å begå grov vold». De definerer grov vold som en trussel som kan føre til dødsfall eller sannsynligvis vil være dødelig.

Basert på det regionale teamets vurdering, tolket Meta uttrykket «vi skal snart slite deg i stykker» fra innleggets undertekst som en trussel om fysisk skade i iransk kontekst, noe som altså vil være i strid med retningslinjene om vold og oppfordring til vold.

Språkeksperter rådet har konsultert, forklarte at denne delen av underteksten kan oversettes til: «Vi skal rive deg/dere i stykker snart!» eller: «Det er ikke lenge til vi skal rive deg/dere i filler.» Ekspertene bemerket at setningen i iransk kontekst formidler sinne og skuffelse mot et undertrykkende regime, og den antyder at situasjonen til slutt vil kunne endre seg, ettersom undertrykkernes grep om makten ikke vil vare evig. Denne setningen bør ikke tolkes bokstavelig som en intensjon om å forårsake fysisk skade. Den fungerer i stedet som en «retorisk uttalelse» for å tiltrekke oppmerksomhet, understreket av kraftfulle, følelsesladde verb som «rive» eller «slite i stykker». Disse ekspertene fremhevet at slik billedlig tale gjenspeiler det dype sinnet som deles av brukeren som la ut innholdet og brukerens publikum. Derfor utgjør det ikke reelle trusler om fysisk vold.

Selv om Meta fortalte rådet at de også vurderer konteksten til uttalelsen når de skal avgjøre om en trussel er troverdig, indikerer ikke veiledningen til moderatorer at disse kan se på konteksten når de skal vurdere om det foreligger en «intensjonserklæring om [å begå] grov vold». Så lenge kravene i regelen er oppfylt – mer spesifikt at innholdet både inkluderer en trussel og et mål – anses innlegget som et regelbrudd, slik tilfellet var her. I dette tilfellet tolket Meta uttalelsen til å være rettet mot mannen som fulgte etter kvinnen. Regelen krever ikke at målet skal være synlig eller identifiserbart. Reglene gir bare ett eksempel på truende ytringer som er unntatt fra regelen eller som ikke anses som en troverdig trussel: «trusler rettet mot visse voldelige aktører, som terrorgrupper».

Uttrykket «slite deg i stykker» utgjør ikke her en troverdig trussel. Gitt at konteksten er en periode med uro, eskalerende undertrykkelse og vold mot mennesker som protesterer mot regimet i Iran – og hvis man vurderer underteksten og videoen som helhet – finner rådet at frasen er billedlig ment, ikke bokstavelig. Den uttrykker harme og forferdelse overfor regimet og utgjør ikke en «intensjonserklæring [om å begå] grov vold». Denne tolkningen er i samsvar med Metas forpliktelse til verdien «stemme» og viktigheten av å beskytte ytringer som uttrykker politisk misnøye.

Standarden om koordinering av skade og promotering av kriminalitet

Rådet konkluderer med at innholdet i denne saken ikke er i strid med standarden om vold og oppfordring til vold.

Meta vurderte å fjerne innlegget i henhold til regelen som forbyr «innhold som setter kvinner uten slør i fare ved å vise dem uten slør mot deres vilje eller uten tillatelse». Denne teksten i retningslinjene har nå blitt redigert så den forbyr: «avsløring (av kvinner uten slør): avsløre identiteten til en person og dermed sette personen i fare». Selskapet tolker «avsløring» til å omfatte innhold der noen deler et bilde av en kvinne uten slør for å avdekke identiteten hennes uten hennes tillatelse og dermed setter henne i fare. Disse retningslinjene brukes kun ved eskalering og krever innspill fra ulike interessenter for å kunne håndheves (se punkt 4 ovenfor).

I dette tilfellet er rådet enig med Meta i at innholdet ikke «avslørte» kvinnen, ettersom identiteten hennes var allment kjent og at det var redusert risiko for skade på grunnlag av innholdet fordi hun allerede var arrestert på det tidspunktet da det ble lagt ut. Derfor vil ikke videoen som ligger ute på plattformen øke risikonivået for kvinnen, og det kan faktisk fungere beskyttende fordi det øker bevisstheten om situasjonen hun er i. Det er viktig å vurdere kontekst når man skal avgjøre om et innlegg «avslører» en kvinne og setter henne i fare. Hvis retningslinjene skal tolkes bare ved eskalering, må det sikres at teamet som skal håndheve dem har nok tid og ressurser til effektivt å kunne identifisere og vurdere den relevante konteksten.

8.2 Overholdelse av Metas menneskerettighetsansvar

Rådet konkluderer med at fjerning av innholdet fra plattformen var i strid med Metas menneskerettighetsansvar.

Ytringsfrihet (artikkel 19 ICCPR)

Artikkel 19 i ICCPR krever bred beskyttelse av ytringer, inkludert «frihet til å søke, motta og formidle informasjon og ideer av alle slag, uavhengig av grenser, både muntlig, skriftlig og på trykk, i form av kunst eller gjennom andre medier etter eget valg.» Når restriksjoner av ytringer pålegges av en stat, skal de oppfylle kravene til legalitet, legitimt formål, nødvendighet og proporsjonalitet (artikkel 19, § 3 i ICCPR). Rådet bruker dette rammeverket til å tolke Metas frivillige menneskerettighetsforpliktelser, både når det gjelder den enkelte innholdsbeslutningen som vurderes og hva denne sier om Metas bredere tilnærming til innholdskontroll. Som FNs spesialrapportør for ytringsfrihet har uttalt: Selv om «selskaper ikke har samme forpliktelser som offentlige myndigheter, har de en påvirkningskraft som krever at de foretar vurderinger for å beskytte brukernes ytringsfrihet» (A/74/486, § 41).

Tilgang til sosiale medier er avgjørende i et lukket samfunn som Iran. Som «digitale portvakter» har sosiale medieplattformer en «sentral innvirkning» på offentlighetens tilgang til informasjon ( A/HRC/50/29, § 90). Innlegget i denne saken er en del av en bredere protestbevegelse som er avhengig av digitale samfunnsrom for å overleve. Lover som bestemmer hvordan kvinner skal kle seg, påvirker deres frihet og verdighet (A/68/290, § 38). Dette gjelder enten loven forbyr slør eller det å vise seg offentlig uten å være tildekket (se for eksempel «Yaker mot Frankrike», CCPR/C/123/D/2747/2016). Internett har på mange måter blitt «den nye slagmarken i kampen for kvinners rettigheter, og forsterker kvinners mulighet til å uttrykke seg» (A/76/258, § 4). Det å styrke kvinners ytringsfrihet, gjør det mulig for dem å delta i politikk, og det beskytter menneskerettighetene deres (A/HRC/Res/23/2, §§ 1–2; A/76/258, § 5).

I. Legalitet (tydelige og tilgjengelige regler)

Legalitetsprinsippet krever at enhver innskrenkning av ytringsfriheten skjer i henhold til en etablert regel som er tilgjengelig og tydelig for brukerne. Regelen må være «formulert med tilstrekkelig presisjon til at det er mulig for en person å regulere atferden sin ut fra den, og den må være tilgjengelig for allmennheten» ( generell kommentar 34, § 25). Reglene krever i tillegg at begrensninger av ytringsfriheten «ikke kan være underlagt skjønnet til den som skal begrense ytringsfriheten» og må «gi tilstrekkelig veiledning til de som blir gjenstand for [begrensingene] for å gjøre dem i stand til å fastslå hva slags ytringer som er ulovlige og hvilke som ikke er det» (generell kommentar 34, § 25; A/HRC/38/35 (undocs.org), i § 46). Mangel på klarhet eller presisjon kan føre til inkonsekvent og vilkårlig håndhevelse av reglene. For Meta vil dette si at brukerne kunne forutsi konsekvensene av å legge ut innhold på Facebook og Instagram, og innholdsmoderatorene må ha klare retningslinjer for hvordan de skal håndheve regelverket.

Standard om vold og oppfordring til vold

Rådet konkluderer med at selv om begrunnelsen bak retningslinjene – som uttrykker målene for standarden, men ikke er en del av selve regelen – i standarden om vold og oppfordring til vold antyder at «kontekst er viktig» og kan vurderes når en «troverdig trussel vurderes», gjør Metas interne retningslinjer og tilnærming til moderering at dette ikke blir mulig i praksis. Som rådet bemerket i saken «Slagord i forbindelse med Iran-protester», blir moderatorer på storskalanivå instruert om å se etter spesifikke kriterier, eller elementer, i innlegget. Når disse elementene er oppfylt, blir moderatorene bedt om å fjerne innlegget. Med andre ord, hvis innlegget inneholder en trussel (for eksempel «drep» eller «jeg skal slite deg i stykker») og et mål, er resultatet fjerning. Innholdsmoderatorene har ikke fullmakt til å foreta en vurdering av om trusselen er troverdig. Som Meta også forklarte i den aktuelle saken, skyldes den strenge tilnærmingen at «det er utfordrende, spesielt på storskalanivå, å vurdere om [en ytring] er retorisk og ikke en troverdig trussel.» Hensynet til truslenes troverdighet ble tatt i betraktning ved opprettelsen av regelen og skal ikke bli tatt i forbindelse med håndhevelsen. Som rådet bemerket i saken «Slagord i forbindelse med Iran-protester»: «Begrunnelsen ser ut til å ta høyde for retoriske ytringer av typen som kan forventes i protestsammenheng, men det gjør ikke de skriftlige reglene og den tilhørende veiledningen til moderatorer. Håndhevelsen er i praksis, spesielt i stor skala, mer formell enn reglene tilsier, og dette kan skape misoppfatninger for brukerne om hvordan reglene mest trolig vil bli håndhevet. Veiledningen til moderatorer, slik den er utarbeidet for øyeblikket, utelukker muligheten for kontekstuell analyse, selv når det er klare signaler i selve innholdet om at det truende språket er ment retorisk.» Denne uoverensstemmelsen mellom selskapets uttalte begrunnelse bak retningslinjene og reell praksis ved håndhevelse, eksisterer fortsatt, og selskapet følger derfor ikke legalitetsprinsippet i tilstrekkelig grad.

Rådet gjentar sine funn fra saken «Slagord i forbindelse med Iran-protester» om at Meta bør gi moderatorene nyansert veiledning om hvordan de skal ta hensyn til kontekst og pålegge dem å avstå fra standardfjerning av «retoriske» eller ikke-bokstavelige ytringer som uttrykker dissens, spesielt i sensitive politiske miljøer som Iran.

Standarden om koordinering av skade og promotering av kriminalitet

Rådet konkluderer med at Metas forbud mot «innhold som setter kvinner uten slør i fare ved å vise dem uten slør mot deres vilje eller uten tillatelse» er tilstrekkelig klart, slik det er anvendt i denne saken. Forbudet gjør det klart at innhold som «avslører» kvinner og derved kan føre til skade, er forbudt på Metas plattformer. Rådet merker seg imidlertid med bekymring at Instagrams retningslinjer for fellesskapet ikke direkte lenker til standarden om vold og oppfordring til vold. Dette gjør reglene mindre tilgjengelige for Instagram-brukere. I de tidligere sakene («Brystkreftsymptomer og nakenhet» og «Isolasjonen av Öcalan»), har rådet anbefalt at Meta offentlig avklarer for brukerne at Facebooks standarder også gjelder for Instagram. Som svar har Meta iverksatt en prosess for å forene standardene med Instagrams retningslinjer for fellesskapet og spesifisere hvor retningslinjene eventuelt varierer mellom plattformene. I de påfølgende kvartalsvise åpenhetsrapportene sine har Meta forsikret rådet om at dette fortsatt har høy prioritet, og de har bemerket at juridiske hensyn og forskrifter har påvirket tidslinjen. Rådet gjentar viktigheten av å handle raskt for å fullføre denne prosessen og sikre klarhet i gjeldende regler.

II. Legitime mål

I henhold til artikkel 19, § 3 i ICCPR, kan ytringer begrenses av en definert og begrenset liste over årsaker, inkludert der formålet er å beskytte andres rettigheter. I denne saken ser rådet at standarden om vold og oppfordring til vold har som mål å «forhindre potensiell skade utenfor Internett» ved å fjerne innhold som utgjør «en reell risiko for fysisk skade eller direkte trusler mot offentlig sikkerhet». Disse retningslinjene tjener derfor det legitime målet om å beskytte retten til liv (artikkel 6 i ICCPR) og retten til personsikkerhet (artikkel 9 i ICCPR; generell kommentar 35, § 9).

Retningslinjene om koordinering av skade og promotering av kriminalitet tjener det legitime målet om å beskytte kvinners rettigheter til ikke-diskriminering i Iran (artikkel 2, 3 og 26 i ICCPR; artikkel 1 og 7 i CEDAW). Dette inkluderer retten til ytringsfrihet og forsamlingsfrihet (artikkel 19 og 21 i ICCPR), retten til å delta i offentlige anliggender (artikkel 1 og 7 i CEDAW), retten til personvern (artikkel 17 i ICCPR), retten til liv (artikkel 6 i ICCPR) og retten til frihet og personsikkerhet (artikkel 9 i ICCPR).

III. Nødvendighet og proporsjonalitet

Enhver begrensning av ytringsfriheten «må være hensiktsmessig for å oppnå sin beskyttende funksjon; den må være minst det mulig påtrengende tiltaket for å oppnå den beskyttende funksjonen og være proporsjonal med interessen som skal beskyttes» (generell kommentar 34, § 34). Sosiale medieselskaper bør vurdere ulike potensielle reaksjoner på problematisk innhold, ikke bare sletting, for å sikre at restriksjonene er konkrete og mest mulig skreddersydde (A/74/486, § 51).

Standard om vold og oppfordring til vold

Rådet konkluderer med at Metas første beslutning om å fjerne innholdet i denne saken ikke var nødvendig. Det var ikke nødvendig for å beskytte sikkerheten til personen som tok videoen eller andre personer, siden trusselen i underteksten ikke var bokstavelig ment. Rådet er bekymret for at selv etter veiledningen de kom med i saken «Slagord i forbindelse med Iran-protester», gir selskapets standarder og veiledning til moderatorer rom for inkonsekvent håndhevelse av billedlige (ikke-bokstavelige) trusler, til tross for situasjonen i Iran, der protester og demonstrasjoner har pågått i over ett år nå. I den saken, i likhet med den som vurderes her, forelå det en setning som Meta ikke klarte å identifisere som en ikke-bokstavelig trussel. En fortsatt mangel på tilstrekkelig veiledning understrekes ytterligere av at innholdet i denne saken ble gjennomgått av flere moderatorer og team i Meta, men likevel ble ansett som et regelbrudd gjentatte ganger.

Som et ledd i analysen, brukte rådet de seks faktorene fra Rabat-handlingsplanen for å evaluere kapasiteten innholdet i denne saken har til å skape en alvorlig fare for å oppfordre til diskriminering, vold og andre ulovlige handlinger. Rabat-faktorene ble utviklet for å håndtere innhold som fremmer nasjonalt, rasemessig eller religiøst hat som utgjør oppfordring til vold, ikke for oppfordringer til vold på generelt grunnlag. Rådet bemerker at til tross for dette, er seksfaktortesten derfra nyttig for å kunne vurdere oppfordringer til vold mer generelt. Rådet har derfor brukt Rabat-planen på denne måten også tidligere (se for eksempel sakene «Slagord i forbindelse med Iran-protester» og «Oppfordring til kvinneprotest i Cuba»):

• Kontekst: Innholdet ble lagt ut i juli 2023, i en periode med uro, eskalerende undertrykkelse og vold mot mennesker som protesterte mot regimet. Det er begrensede rom for protester i landet, gitt massiv kontroll over Internett og forbud mot store sosiale medieplattformer som Facebook, Telegram og X. Instagram er en av de få gjenværende plattformene og har derfor ekstremt stor betydning for bevegelsen «Zan. Zendegi. Azadi» («kvinne, liv, frihet»). Eksperter rådet har konsultert, bemerker at bevegelsen tar sikte på normalisering demonstrasjoner og protester som motstand mot førti år med lover som diskriminerer kvinner. Ekspertene har observert at siden bevegelsen ble startet opp, har trenden vært å skape frykt og forhindre kvinner fra å uttrykke seg på Internett. Nye lover og høyprofilerte arrestasjoner er ment å skulle dempe disse protestene og forhindre normaliseringen av motstand mot hijab-lovene.
• Talerens identitet: Meta fortalte rådet at de ikke anså at brukeren som la ut innholdet kunne anses som en offentlig person. Basert på underteksten til videoen ser det ut til at brukeren er tilhenger av, eller en del av, bevegelsen «Zan. Zendegi. Azadi.» Derfor er ikke taleren her en autoritet, og vedkommende risikerer også potensielt sin egen sikkerhet ved å gi uttrykk for støtte til bevegelsen og legge ut dette innholdet.
• Intensjon: Selv om det er en betydelig utfordring å skulle vurdere intensjon ved moderering av innhold på storskalanivå, tilsier en objektiv og vanlig tolkning av hele innlegget at det støtter den avbildede kvinnen og skaper bevisstgjøring om arrestasjonen av henne. Ifølge ekspertene rådet konsulterte, er det vanlig i Iran at demonstranter sirkulerer bilder av en kvinne uten slør sammen med navnet hennes etter en arrestasjon. Dette er for å legge press på myndighetene og holde henne trygg. Demonstranter har sett at de ved å offentliggjøre informasjon om disse personene kan forhindre ytterligere trakassering av ofrene.
• Innhold og uttrykksform: Ifølge språkekspertene rådet har konsultert, vil uttrykket «slite deg i stykker» i denne sammenhengen bli forstått av persisktalende som et uttrykk for sinne og skuffelse, ikke som en bokstavelig trussel om vold. Kraftfullt og tilsynelatende truende språk har jevnlig blitt brukt når bevegelsen uttaler seg mot regimet. I saken «Slagord i forbindelse med Iran-protester» besluttet rådet at slagordet «død over Khamenei» utgjorde en «retorisk trussel». De bemerket også at Meta hadde brukt et «unntak ut fra meningen bak retningslinjene» for uttrykket: «Jeg skal drepe den som dreper min søster/bror». Uttrykket i denne saken er midt i en undertekst som berømmer en kvinne som står opp for rettighetene sine. Når underteksten betraktes som helhet, utgjør innlegget en støtte til iranske kvinner som protesterer mot diskriminerende lover og overgrep fra regimet.
• Omfang og rekkevidde: Innlegget hadde omtrent 47 000 visninger, ble likt 2000 ganger, fikk 100 kommentarer og ble delt 50 ganger. Gitt at denne ytringen ikke ser ut til å utgjøre en oppfordring til vold med tanke på de andre faktorene i Rabat-analysen, er ikke den store rekkevidden til innholdet i seg selv en faktor som indikerer at fjerning var nødvendig.
• Sannsynlighet for overhengende fare: Denne faktoren ser på om en ytring potensielt kan utløse en overhengende fare for skade mot det potensielle målet for ytringen, som i dette tilfellet var regimet. Protestbevegelsen og deres støttespillere står opp mot et regime som stadig bruker voldelig undertrykkelse og represalier mot demonstranter. Den mest sannsynlige skaden som ytringen i denne saken kan medføre, er voldelig gjengjeldelse mot brukeren eller kvinnen som vises i videoen fra regimets side, ikke voldshandlinger mot regimet eller deres støttespillere. Eksperter har understreket den potensielle faren for personer som deltar i disse protestene og hvordan bevegelsen holder stand til tross for overhengende trusler om vold. De uttalte også at målet med å sirkulere bildene av arresterte kvinner uten slør, er å gjøre verden oppmerksom på arrestasjonen og legge press på myndighetene for å holde kvinnene trygge.

Basert på analysen av faktorene ovenfor, anser rådet at innholdet ikke utgjorde en troverdig trussel og neppe ville bidra til fysisk skade. Når billedlig tale brukes i sammenheng med at demonstrasjoner blir møtt med voldelig undertrykkelse, bør Meta gjøre det mulig for moderatorene å vurdere språket og den lokale konteksten. De bør tilpasse veiledningen til moderatorer så den stemmer overens med den underliggende bakgrunnen for retningslinjene. Det er av avgjørende betydning at selskapet klarer å forbedre moderering av innhold i kriser mer generelt. De må sikre en mer nøyaktig vurdering av om et innlegg inneholder «billedlig tale» eller har sannsynlighet for å oppmuntre til vold. En mer nøyaktig automatisering krever høy kvalitet på opplæringsdata som leveres av manuelle moderatorer. Når manuelle moderatorer fjerner «billedlige» utsagn på grunn av en streng håndhevelse av en regel, vil denne feilen sannsynligvis bli reprodusert og forsterket gjennom automatisering.

Rådet bemerker at Meta har en rekke tilgjengelige mekanismer for å justere retningslinjene sine og håndhevelsen av dem ved krisesituasjoner, inkludert i nivåsystemet for risikovurdering av land og i kriseprotokollen. Nivåsystemet for risikovurdering av land brukes til å identifisere land med økt risiko for «skade og vold utenfor Internett» for å avgjøre hvordan selskapet skal prioritere produktutviklingen sin eller investere ressursene sine. Vurderingen kan også tas i betraktning for andre prosesser (for eksempel om det skal utnevnes et spesialteam eller om kriseprotokollen skal tas i bruk). Meta informerte rådet om at Iran i andre halvdel av 2023 var spesifisert som et «risikoland». Iran har også vært en del av kriseprotokollen siden 21. september 2022, og de er fortsatt spesifisert i denne. Kriseprotokollen gjør det mulig for Meta å gjøre visse midlertidige endringer i retningslinjene, kjent som «varianter av retningslinjene», for å håndtere en bestemt situasjon. Meta kom med noen eksempler på retningslinjer som allerede er tatt i bruk i Iran, inkludert «en tillatelse til å godkjenne innhold som inkluderer slagordet "Jeg skal drepe den som dreper min søster/bror" eller variasjoner av dette, så fremt det ikke foreligger andre brudd på retningslinjene.» (For flere eksempler på varianter av retningslinjene, les referat fra retningslinjeforum fra 25. januar 2022, kriseprotokoll.)

Rådet anerkjenner selskapets forpliktelse til sikkerhet og innsats for å redusere potensielle risikoer ved innholdsmoderering ved å aktivere kriseprotokollen for Iran. Denne innsatsen har imidlertid ikke vært tilstrekkelig for å ivareta respekten for folks ytrings- og forsamlingsfrihet i et miljø med systematisk undertrykkelse av dissens og sosiale spenninger. Analyser rådet har bestilt, indikerer at en klar majoritet av innholdet på Metas plattformer som viser kvinner uten slør og der konteksten er å diskutere bruk av hijab i Iran, blir delt av eller til støtte for protestbevegelsen. Her mislyktes Metas rutiner gjentatte ganger i å skille billedlige eller ikke-bokstavelige ytringer i en relevant kontekst fra reelle trusler og oppfordringer til vold som potensielt kunne medføre fysisk skade.

Rådet anbefaler at Meta legger til en variant av retningslinjene i kriseprotokollen. De må dele interne kriterier med moderatorer på storskalanivå for hvordan disse skal identifisere uttalelser som bruker truende språk i overført betydning eller ikke-bokstavelig. Da kan moderatorene se på den relevante konteksten når de skal vurdere om et innlegg bør anses som en reell voldstrussel i henhold til standarden om vold og oppfordring til vold. Når Meta skal utvikle krisespesifikke kriterier for hvordan man kan avgjøre om en trussel er billedlig og ikke-bokstavelig, kan de bruke Rabat-planens faktorer (for eksempel der konteksten er omfattende protester mot statlig undertrykkelse, der innleggsforfatteren har mulighet til å oppvigle andre eller øke risikoen for voldshandlinger, der relevant språklig og sosial kontekst indikerer at det er vanlig å bruke kraftig/emosjonelt språk for økt retorisk kraft, hvor stor sannsynligheten er for skade ut fra lokalkunnskap osv.). Selskapet kan også bruke betrodde samarbeidspartnere som kan bidra til å utarbeide eller vurdere kriteriene for moderering. Meta har selv understreket den praktiske betydningen som Rabat-handlingsplanen har for innholdsmoderering, etter å ha støttet FN i å oversette handlingsplanen til 32 språk. Denne varianten av retningslinjene bør tillate «billedlig tale» i sammenheng med protester mot regimet, forutsatt at de ikke er ment å oppfordre til vold og sannsynligvis heller ikke vil medføre voldshandlinger.

Standarden om koordinering av skade og promotering av kriminalitet

I denne saken mener rådet at det ikke var nødvendig med fjerning i henhold til standarden om koordinering av skade og promotering av kriminalitet, siden den avbildede kvinnens identitet var allment kjent, og fordi innholdet tydelig ble lagt ut for å påkalle oppmerksomhet om arrestasjonen av henne, i håp om at dette ville føre til løslatelse. I tillegg trakk flere offentlige kommentatorer fram at kvinner som fjerner hijaben offentlig, gjør det målrettet, som en form for protest. De er klar over de potensielle konsekvensene av dette og velger «trass som strategisk motstand mot autoritet» (se offentlig kommentar fra Tech Global Institute, PC-21009). Kvinnen i videoen var allerede identifisert og arrestert av regimet. Dette innlegget ble delt for å gjøre verden oppmerksom på arrestasjonen. Demonstranter og dissidenter som regimet har internert, har blitt torturert, utsatt for kjønnsbasert vold eller forsvunnet. Både eksperter rådet har konsultert og flere offentlige kommentatorer bemerket spesifikt at denne praksisen, som vekker oppmerksomhet rundt arrestasjoner og krever løslatelse av en fengslet person, brukes regelmessig av bevegelsen og av menneskerettighetsforkjempere i Iran, og at det kan bidra til å beskytte personer som holdes fanget av regimet.

Når man skal balansere behovet for å ivareta identiteten til sårbare brukere og samtidig unngå sensur for de som ønsker eksponering, er det et vanskelig spørsmål som krever kontekstuell analyse, rettidig gjennomgang og rask handling.

9. Tilsynsrådets vedtak

Tilsynsrådet omgjør Metas opprinnelige avgjørelse om å fjerne innholdet.

10. Anbefalinger

1. Håndheving

For å sikre respekt for brukernes ytrings- og forsamlingsfrihet i et miljø med systematisk statlig undertrykkelse bør legge til en variant i kriseprotokollen som gjør det klart at billedlige (dvs. ikke-bokstavelige) uttalelser ikke bryter retningslinjene om vold og oppfordring til vold, som forbyr trusler om vold i relevante sammenhenger, det vil si så lenge de ikke har til hensikt å oppfordre til vold og sannsynligvis ikke vil medføre voldshandlinger. Dette bør omfatte å utvikle kriterier for moderatorer på storskalanivå for hvordan de kan identifisere slike utsagn i den aktuelle konteksten.

Rådet vil anse denne anbefalingen som implementert når Meta både deler med rådet metodene de har valgt for å implementere den aktuelle varianten av retningslinjene og de resulterende kriteriene for moderering i Iran.

*Prosedyremerknad:

Tilsynsrådets avgjørelser utarbeides av et panel på fem medlemmer og godkjennes av et flertall av rådet. Rådets avgjørelser gjenspeiler ikke nødvendigvis alle medlemmenes personlige meninger.

I denne konkrete saken ble det bestilt uavhengige undersøkelser på vegne av rådet. Rådet ble assistert av et uavhengig analyseinstitutt med hovedkontor ved universitetet i Göteborg, med støtte fra en gruppe på over 50 samfunnsvitere fra seks kontinenter og mer enn 3200 eksperter fra hele verden. Rådet ble også assistert av Duco Advisors, et rådgivningsfirma som fokuserer på skjæringspunktet mellom geopolitikk, tillit, sikkerhet og teknologi. Memetica, en organisasjon som driver med åpen kildekodeforskning på trender på sosiale medier, leverte også analyser. Lingvistisk ekspertise ble levert av Lionbridge Technologies, LLC, som har spesialister som behersker mer enn 350 språk flytende og jobber fra 5000 byer over hele verden.

Voltar para Decisões de Casos e Pareceres Consultivos sobre Políticas