Iransk kvinna konfronteras på gatan

Sammanfattning

Tillsynsrådet har upphävt Metas ursprungliga beslut att ta bort en video där en man konfronterar en kvinna på gatan i Iran eftersom hon inte bär hijab. Inlägget bröt inte mot Metas regler om våld och uppvigling eftersom det innehåller ett bildligt budskap snarare än ett bokstavligt och inte utgör något trovärdigt hot om våld. Det delades under en period i Iran präglad av oroligheter, eskalerande förtryck och våld mot protesterande människor, när det är det extra viktigt med åtkomsten till sociala medier eftersom internet har blivit kvinnokampens nya slagfält. Eftersom Instagram är en av få plattformar som inte förbjudits i landet har den en ovärderlig betydelse för den regimkritiska rörelsen ”Woman, Life, Freedom” (kvinnor, liv, frihet), trots att regimen jobbar hårt för att skrämma och tysta kvinnor online. Rådet finner att Meta hade kunnat göra mer för att respektera yttrandefriheten och mötesfriheten i en situation där staten systematiskt förtrycker medborgarna, och rekommenderar en justering av företagets krispolicyprotokoll.

Om ärendet

I juli 2023 publicerade en användare en video på Instagram där en man konfronterar en kvinna på gatan eftersom hon inte bär hijab. Videon är på persiska med engelska undertexter, och kvinnan svarar mannen att hon står upp för sina rättigheter. En tillhörande bildtext uttrycker stöd för kvinnan och de andra iranska kvinnor som kämpar mot regimen. I bildtexten, som även kritiserar regimen, används en fras som i översättning enligt Meta blir ungefär ”it is not far to make you into pieces” (jag skulle kunna slita dig i stycken).

Enligt iransk lagstiftning är det förbjudet för kvinnor att uppträda offentligt utan ”passande hijab”, och straffet är fängelse, böter eller spöstraff. I september 2023 godkände den iranska regimen en ny lag om hijab och kyskhet, där kvinnor kan dömas till upp till 10 års fängelse om de fortsätter att trotsa påbudet om att bära hijab. Enligt bildtexten i inlägget har kvinnan i videon redan arresterats.

Inlägget flaggades först av Metas automatiska system eftersom det ansågs bryta mot Instagrams riktlinjer för communityn, och det skickades till manuell granskning. Trots att flera granskare bedömde innehållet enligt Metas policy om våld och uppvigling kom de inte fram till samma slutsats, och i kombination med ett tekniskt fel innebar det att inlägget fick vara kvar. Sedan anmäldes inlägget av en användare, vilket ledde till ytterligare granskning av Metas lokala team med expertis i språket. Då fanns att inlägget bröt mot policyn mot våld och uppvigling, och det togs bort från Instagram. Användaren som publicerat innehållet överklagade borttagningen till rådet. Meta stod fast vid att borttagningsbeslutet var korrekt tills rådet valde ut ärendet. Företaget upphävde då sitt beslut och återställde inlägget.

Viktiga noteringar

Rådet anser inte att inlägget bryter mot policyn om våld och uppvigling eftersom det innehåller ett bildligt snarare än bokstavligt uttalande. Det utgör inte något konkret hot om våld som kan leda till offlineskada. En av anledningarna till att Meta ursprungligen tog bort inlägget var att frasen ”it is not far to make you into pieces” (jag skulle kunna slita dig i stycken) bedömdes som en avsikt att utsätta mannen i videon för allvarligt våld, men den bör inte tolkas bokstavligt. Mot bakgrund av de utbredda protesterna i Iran, och sett till bildtexten och videon som helhet, ska frasen tolkas bildligt samt som ett uttryck för ilska och förfäran gentemot regimen. De språkexperter som rådet tillfrågade föreslog en något annan översättning av frasen (”we will tear you to pieces sometime soon” (vi kommer slita er i stycken snart)) och förklarade att den uttrycker ilska, besvikelse och förbittring gentemot regimen. Snarare än att utlösa våld riktat mot regimen är det troligare att inlägget leder till repressalier från regimen.

I motiveringen till Metas policy står att formuleringar och sammanhang kan beaktas i bedömningen av vad som är ett trovärdigt hot, men enligt Metas interna vägledning till moderatorerna tillämpas inte det här i praktiken. Moderatorerna uppmanas att identifiera specifika kriterier (ett hot och en måltavla), och när de är uppfyllda ska innehållet tas bort. Rådet har tidigare uttryckt synpunkter på den här diskrepansen i ärendet Protestslogan i Iran, där rekommendationen var att Meta skulle tillhandahålla nyanserad vägledning kring hur kontexten bör bedömas, så att inte moderatorerna standardmässigt måste ta bort retoriskt tal som uttrycker oliktänkande. Det är oroväckande att bildligt tal fortfarande bedöms inkonsekvent i kontexter som Iran. Eftersom träffsäkerheten i automatiseringen dessutom påverkas av kvaliteten på träningsdata som tillhandahålls av människor är det troligt att misstaget att ta bort bildligt tal förstärks.

Inlägget bedömdes även mot communityregeln om samordning av skadliga handlingar och förespråkande av kriminella aktiviteter, eftersom det finns en regel som förbjuder innehåll som utsätter kvinnor som inte bär slöja för risker genom att de avbildas utan slöja mot sin vilja eller utan tillstånd. Den här delen av policyn har nu omformulerats och förbjuder: Avslöjanden av [kvinnor utan slöja]: exponering av enskilda människors identiteter på ett sätt som skulle kunna utsätta dem för fara. Här är rådet överens med Meta om att innehållet inte ”avslöjar” kvinnan i videon och att risken för skada hade minskat eftersom hennes identitet var allmänt känd och hon redan blivit arresterad. Inlägget delades i själva verket i syfte att uppmärksamma arresteringen och påverka myndigheterna att släppa henne.

Eftersom Iran är utpekat som ett land i riskzonen enligt Metas krispolicyer, bland annat i krispolicyprotokollet, så kan företaget tillämpa tillfälliga policyändringar (verktyg) i hanteringen av visas situationer. Även om rådet vet att Meta har lagt ner arbete när det gäller Iran så har inte ansträngningarna räckt till för att respektera människors yttrandefrihet och mötesfrihet i miljöer där det pågår ett systematiskt förtryck.

Tillsynsrådets beslut

Tillsynsrådet har upphävt Metas ursprungliga beslut att ta bort inlägget.

Rådet rekommenderar att Meta:

• Lägger till ett verktyg i krispolicyprotokollet som tydliggör att bildliga (snarare än bokstavliga) uttalanden som inte avser att uppmana till våld, och troligen inte har en sådan effekt, inte bryter mot policyn om våld och uppvigling som förbjuder hot om våld i relevanta sammanhang. I det här bör ingå att ta fram kriterier för hur breda moderatorer kan identifiera sådana uttalanden i relevanta sammanhang.

* En ärendesammanfattning ger en översikt över ärendet och har inget prejudikatvärde.

Fullständigt beslut i ärendet

1. Sammanfattning av beslutet

Tillsynsrådet upphäver Metas ursprungliga beslut att ta bort en video där en man konfronterar en kvinna på gatan i Iran eftersom hon inte bär hijab. Meta tog bort inlägget från Instagram på grund av frasen ”it is not far to make you into pieces” (jag skulle kunna slita dig i stycken) i bildtexten, som företaget tolkade som ett hot mot mannen i videon. Rådet finner att inlägget inte bryter mot policyn om våld och uppvigling eftersom det aktuella uttalandet är bildligt snarare än bokstavligt, och given den aktuella kontexten inte utgör något konkret hot om våld. När rådet valt att ta upp ärendet höll Meta inledningsvis fast vid sitt beslut att ta bort inlägget. Innan företaget skickade sin motivering till rådet kom Meta dock fram till att det ursprungliga beslutet att ta bort innehållet var felaktigt och återställde inlägget på plattformen. Rådet finner att Meta hade kunnat göra mer för att respektera yttrandefriheten och mötesfriheten i en situation där staten systematiskt begränsar just medborgarnas yttrandefrihet, och rekommenderar en justering av företagets krispolicyprotokoll.

2. Beskrivning av och bakgrund till ärendet

I juli 2023 publicerade en Instagram-användare en video på persiska med engelska undertexter, där en man konfronterar en kvinna på gatan på grund av att hon inte bär hijab och kvinnan svarar att hon står upp för sina rättigheter. Mannen i videon går inte att identifiera medan kvinnan är fullt synlig. Videon tycks vara en återpublicering av en inspelning som ursprungligen delades av någon med anknytning till eller som stöttar den iranska regimen. Videon har även en bildtext på persiska som uttrycker stöd för kvinnan och de andra iranska kvinnor som kämpar mot regimen, samtidigt som den kritiserar regimen och dess supportrar. Bildtexten innehöll en fras vars översättning enligt Meta blir ungefär ”it is not far to make you into pieces” (jag skulle kunna slita dig i stycken) och angav även att kvinnan arresterades efter incidenten. Inlägget hade ungefär 47 000 visningar, 2 000 gilla-markeringar, 100 kommentarer och 50 delningar.

Innehållet flaggades inledningsvis av en automatisk klassificering, en algoritm som Meta använder till att identifiera potentiella policyöverträdelser. Innehållet ansågs vara en potentiell överträdelse av Instagrams riktlinjer för communityn och skickades för manuell granskning. Flera granskare bedömde innehållet, men på grund av ett tekniskt fel och eftersom granskarna inte nådde samma slutsats kring att innehållet bröt mot policyn om våld och uppvigling, så togs inlägget först inte bort. En användare anmälde senare innehållet, varvid en automatisk klassificerare återigen slog fast att innehållet potentiellt bröt mot Metas policyer och eskalerade det för ytterligare granskning. Innehållet anmäldes endast en enda gång och av en användare. Efter ytterligare granskning av Metas team med experter på regionen och språket tog företaget bort inlägget från Instagram i enlighet med policyn om våld och uppvigling. Metas beslut att ta bort inlägget baserades på följande stycke i bildtexten: ”it is not far to make you into pieces” (jag skulle kunna slita dig i stycken). Företaget tolkade strofen som ett hot mot mannen i videon, som konfronterade kvinnan på grund av hon inte bar hijab. Användaren som skapade inlägget överklagade borttagningsbeslutet till Meta. En granskare fastställde beslutet att ta bort inlägget.

Den publicerande användaren överklagade då borttagningsbeslutet till rådet. När rådet valde att granska ärendet juridiskt stod Meta fast vid sitt beslut att ta bort innehållet. I det här skedet av granskningen beaktade Meta även communityregeln om samordning av skadliga handlingar och förespråkande av kriminella aktiviteter. Enligt den är det förbjudet att ”avslöja” kvinnor utan slöja som därmed utsätts för risker. När innehållet publicerades hade regimen redan arresterat kvinnan. När rådet valt ut ärendet ändrade sig sedan företaget och återställde innehållet. Det gjordes efter synpunkter från Metas lokala team och baserat på rådets beslut i ärendet Uppmaning till kvinnoprotest på Kuba.

Som rådet noterade i beslutet i ärendet Protestslogan i Iran så har människor i Iran protesterat mot regeringen samt för mänskliga, politiska rättigheter och jämlikhet mellan könen åtminstone sedan revolutionen 1979. 2023 gavs Nobels fredspris till Narges Mohammadi, en fängslad människorättsaktivist, för en ”mer än 20 år lång kamp för kvinnors rättigheter som gjort henne till en frihetssymbol och fanbärare i kampen mot teokratin”. Enligt Irans lagstiftning är det förbjudet för kvinnor att uppträda offentligt utan ”passande hijab”, och straffet är fängelse, böter eller spöstraff. Kvinnor i Iran är även utestängda från vissa utbildningsfält och många offentliga platser, och det är bland annat förbjudet att dansa med personer av det motsatta könet. Mannen anses vara hushållets överhuvud och kvinnor behöver faderns eller makens tillstånd för att arbeta, gifta sig eller resa. En kvinnas vittnesmål anses vara hälften så trovärdigt som en mans, vilket gör det svårare för kvinnor att vinna tvister i domstol.

Sedan de iranska myndigheterna intensifierade och utökade verkställigheten av hijablagstiftningen 2022 har trycket på kvinnorna ökat ännu mer, och det är inte ovanligt med verbala och fysiska trakasserier och arresteringar. I september 2022 dog den 22 år gamla Jina Mahsa Amini i polisförvar, tre dagar efter att hon arresterats när hon bröt mot landets regler kring att bära ”lämplig hijab”. Hennes död utlöste en våg av protester över hela landet och en regimkritisk rörelse som kallas: ”Zan, Zendegi, Azadi” (kvinna, liv, frihet). Det här fick myndigheterna att reagera våldsamt, och fler än 500 dödsfall bekräftades fram till slutet av 2022 medan 14 000 personer uppskattas ha arresterats. I den siffran ingick även journalister, jurister, aktivister, artister och idrottsmän som gav sitt stöd till rörelsen.

I september 2023 godkände det iranska parlamentet en ny lag om hijab och kyskhet, där kvinnor kan dömas till upp till 10 års fängelse om de fortsätter att trotsa påbudet om att bära hijab. Företag som betjänar kvinnor utan hijab kan även dömas till böter och kan tvingas slå igen.

De sociala medierna har haft en central roll för de iranska kvinnornas proteströrelse, och varit särskilt viktiga när det gäller att mobilisera till protester och sprida viktig information (läs offentlig kommentar PC 21007, PC-21011), eller satt dokumentera och offentliggöra bevis på maktmissbruk och brott mot mänskliga rättigheter (bilaga PC-21008).

Sådana kampanjer online ökar dock även riskerna för repression från regimen för de kvinnor som exponeras, i form av hot, förtalskampanjer, arresteringar och frihetsberövanden. Experter som rådet tillfrågat menade att det finns ett stort nätverk av enheter kopplade till det islamistiska revolutionsgardet och den iranska regeringen på Instagram och Telegram, och att den senare kanalen ofta används till att angripa och anklaga demonstranter och oliktänkare.

Flera offentliga kommentarer till rådet tar även upp regimens taktik att massanmäla innehåll om protester på Instagram via systemet för användaranmälan, i syfte att påverka de sociala medieföretagen att ta bort innehåll relaterat till oliktänkare så att de smygblockeras (läs de offentliga kommentarerna PC-21011, PC-21009). Det har även rapporterats att iransk underrättelsepersonal erbjuder pengar till innehållsmoderatorer för att de ska ta bort innehåll som regimkritiker delar.

I februari 2023 rapporterade FN:s specialrapportör om Iran betänkligheter kring den fortlöpande repressionen mot sociala aktivister, människorättskämpar, kvinnosaksaktivister, jurister och journalister, samt kring myndigheternas försök att stänga ned de kanaler där missnöjet framförs, som att störa internettrafiken och censurera sociala medier.

3. Tillsynsrådet: behörighet och omfång

Rådet har behörighet att granska Metas beslut efter ett överklagande från den person vars innehåll har tagits bort (artikel 2, avsnitt 1 i stadgan, artikel 3, avsnitt 1 i regelverket).

Rådet kan fastställa eller upphäva Metas beslut (stadgans artikel 3, avsnitt 5) och dess beslut är bindande för företaget (stadgans artikel 4). Meta måste dessutom utvärdera om det går att tillämpa beslutet på identiskt innehåll med liknande sammanhang (stadgans artikel 4). Rådets beslut kan innefatta ej bindande rekommendationer som Meta måste svara på (stadgans artikel 3, avsnitt 4, artikel 4). När Meta åtar sig att följa rekommendationer övervakar rådet deras implementering.

När rådet väljer ut ärenden som det här och Meta sedan medger sig ha gjort ett fel, granskar rådet det ursprungliga beslutet för att öka förståelsen för processen för innehållsmoderering och ge rekommendationer för att minska antalet fel och öka rättvisan för de som använder Facebook och Instagram.

4. Källor och riktlinjer som ligger till grund för beslutet

Rådets analys i det här ärendet är baserad på följande standarder och prejudikat:

I. Tillsynsrådets beslut

Här är några av de mest relevanta beslut som Tillsynsrådet har fattat tidigare:

• Uppmaning till kvinnoprotest på Kuba
• Metaforiskt uttalande mot Perus president
• Protestslogan i Iran
• Isolering av Öcalan
• Bröstcancersymtom och nakenhet

II. Metas innehållspolicyer

Rådets analys utgick ifrån Metas värdering gällande röst, som företaget säger vara av yttersta vikt, och företagets värderingar gällande säkerhet, integritet och värdighet.

Instagrams communityregler

I Instagrams riktlinjer för communityn står att Meta tar bort innehåll som innehåller konkreta hot, och företaget länkar till communityregeln om våld och uppvigling. Riktlinjerna för communityn länkar inte direkt till communityregeln om samordning av skadliga handlingar och förespråkande av kriminella aktiviteter. I Metas verkställighetsrapport för communityregler för första kvartalet 2023 står att Facebook and Instagram delar samma innehållspolicyer. Det innebär att om innehåll anses bryta mot reglerna på Facebook så anses det även bryta mot reglerna på Instagram.

Innehållet togs bort enligt policyn om våld och uppvigling. När rådet valt ut ärendet analyserade Meta även innehållet i relation till policyn om samordning av skadliga handlingar och förespråkande av kriminella aktiviteter.

Communityregeln om våld och uppvigling

Enligt motiveringen till policyn är syftet med communityregeln om våld och uppvigling att förhindra potentiellt offlinevåld som kan kopplas till innehåll på Metas plattformar. Meta noterar samtidigt att människor ofta uttrycker motvilja eller meningsskiljaktigheter genom hot eller uppmaningar till våld sätt som inte är allvarligt menade. Meta tar därför bort innehåll när företaget anser att inlägg innehåller hot om våld som kan leda till dödsfall, bland annat innehåll som riktas mot någon och där den tydliga avsikten att utföra allvarligt våld. Enligt policyn ska uttalandets kontext beaktas i bedömningen av om ett hot är allvarligt menat, och här menas exempelvis ytterligare information om bland annat personens position i offentligheten och om måltavlan befinner sig i en utsatt ställning.

Policyn förbjuder uttryckligen hot som kan leda till döden (och andra former av grovt våld). I begreppet hot ingår uttalanden om avsikt att utöva grovt våld.

Communityregeln om samordning av skadliga handlingar och förespråkande av kriminella aktiviteter

I motiveringen till policyn är syftet med communityregeln om samordning av skadliga handlingar och förespråkande av kriminella aktiviteter att förhindra offlineskada och att personer kopierar sådant beteende. Därför är det förbjudet att understödja, organisera, främja eller tillåta vissa kriminella eller skadliga handlingar riktade mot personer, företag, egendom eller djur. I det här ingår att ”avslöja”, vilket enligt Metas definition omfattar innehåll som exponerar personer som bland annat påstås tillhöra riskutsatta grupper och var dessa befinner sig. De breda moderatorerna tillämpar den här delen av policyn i relation till vissa grupper. Efter eskalering och med ytterligare kontext var Metas policy när innehållet publicerades att företaget även kan ta bort ”innehåll som utsätter kvinnor utan slöja för risker genom att publicera bilder på dem utan slöja mot deras vilja eller utan tillstånd”. Det här stycket har nu omformulerats och förbjuder avslöjanden av [kvinnor utan slöja]: exponering av enskilda människors identiteter på ett sätt som skulle kunna utsätta dem för fara.

III. Metas ansvar för mänskliga rättigheter

FN:s vägledande principer för företag och mänskliga rättigheter (UNGP), som bifölls av FN:s råd för mänskliga rättigheter 2011, utgör ett frivilligt ramverk för privata företags ansvar gällande de mänskliga rättigheterna. Metas företagspolicy avseende mänskliga rättigheter, som presenterades den 16 mars 2021, understryker företagets åtagande att respektera rättigheterna i UNGP.

Följande internationella standarder är relevanta i rådets analys av Metas ansvar avseende mänskliga rättigheter i det här ärendet:

• Rätten till yttrandefrihet: artikel 19, FN:s konvention om medborgerliga och politiska rättigheter (ICCPR), allmän kommentar 34, FN:s kommitté för mänskliga rättigheter, 2011, Följande rapporter från FN:s specialrapportör för åsikts- och yttrandefrihet: A/HRC/38/35 (2018) och A/74/486 (2019), Rabat Plan of Action, rapport från FN:s högkommissarie för mänskliga rättigheter: A/HRC/22/17/Add.4 (2013).
• Rätten till fredliga sammankomster: artikel 21, ICCPR, allmän kommentar 37, FN:s kommitté för mänskliga rättigheter, 2020,
• Rätten till liv: artikel 6, ICCPR.
• Människors rätt till frihet och personlig säkerhet: artikel 9, ICCPR,
• Rätten till likabehandling: artikel 2(1), 3 och 26, ICCPR, artikel 1 och 7 (likabehandling gällande deltagande i landets politiska och offentliga rum), kvinnokonventionen (CEDAW, Convention on the Elimination of All Forms of Discrimination against Women). Läs även deklarationen om människorättsförsvarare, artikel 8, om rätten till att utan diskriminering delta i det offentliga rummet.
• Rätten till integritet: artikel 17, ICCPR.

5. Framställningar från användaren

Den publicerande användaren överklagade borttagningsbeslutet till rådet. Användaren förklarade att inlägget visade en representant från den iranska regeringen som konfronterade en kvinna eftersom hon inte bar hijab. Användaren menade att videon visade på modet hos en iransk kvinna som stod upp för sina rättigheter. Användaren sade även att andra delat liknande videor i sociala medier samt att innehållet inte var skadligt eller farligt och att det inte bröt mot Instagrams policyer.

6. Metas framställningar

Communityregeln om våld och uppvigling

Meta sade till rådet att det ursprungliga borttagningsbeslutet i ärendet baserades på policyn om våld och uppvigling. Företaget förklarade att beslutet baserades på delar av bildtexten till inlägget, som företaget översatte till ungefär ”it is not far to make you into pieces” (jag skulle kunna slita dig i stycken). Företaget tolkade det här stycket som riktat mot mannen i videon, som konfronterade kvinnan på grund av hon inte bar hijab. Det lokala teamet slog fast att uttrycket ”make you into pieces” (slita dig i stycken) utgjorde ett hot om fysiskt våld i den iranska kontexten. Givet denna tolkning stod Meta initialt fast vid sitt beslut att ta bort innehållet enligt policyn om våld och uppvigling.

Även om Meta höll fast vid borttagningsbeslutet när rådet först valde ut ärendet för juridisk granskning så ändrade sig företaget senare och återställde innehållet efter att det lokala teamet kommit med ytterligare synpunkter. Baserat på de här synpunkterna fann Meta att den troligaste tolkningen av formuleringen i bildtexten var som en referens till att störta den iranska regimen och alla som står bakom obligatoriet att bära hijab, snarare än som ett bokstavligt hot mot mannen i videon.

I sin slutgranskning fann Meta att syftet med innehållet var att öka medvetenheten och rikta uppmärksamhet mot övergrepp begångna mot kvinnor, exempelvis mot kvinnan i videon som konfronteras av mannen eftersom hon inte bär hijab. Användaren åberopar de iranska kvinnornas styrka och kritiserar ”skändligheten” mes syfte på antingen mannen som filmar videon eller regimen som helhet, och lyfter även fram arresteringen av kvinnan i videon. Meta förklarade att det potentiellt hotfulla språket skulle läsas och förstås i relation till denna övergripande kontext. I sin motivering noterar Meta att det är särskilt viktigt med denna typ av medvetandegörande, med hänvisning till rådets beslut i ärendet Protestslogan i Iran, eftersom yttrandefriheten i landet är så begränsad.

Meta informerade även rådet om att de lokala teamen efter ytterligare efterforskningar föreslagit att den rimligaste tolkningen av uttrycket ”it is not far to make you into pieces” (jag skulle kunna slita dig i stycken) inte är som ett allvarligt menat hot, utan som kritik mot antingen regimen som helhet eller mot alla som stöttar att det är obligatoriskt att bära hijab. Även om ”make you into pieces” (slita dig i stycken) normalt avser att döda någon så kan det här snarare förstås som att krossa regimen (ungefär som det metaforiska språket i det sammanfattande beslutet Metaforiskt uttalande mot Perus president).

Meta sade även till rådet att beslutet i ärendet Uppmaning till kvinnoprotest på Kuba nyligen var ytterligare en bidragande faktor till att företaget återställde innehållet. Där framhävde rådet att inläggets kontext även bör omfatta den utbredda statliga repressionen och allmänhetens intresse av de historiska protester som inlägget tog upp. Företaget beaktade även ärendet Protestslogan i Iran där rådet analyserade den politiska rörelsen kring kvinnokampen i landet. Där lyfte rådet fram hur viktigt det är att skydda proteströrelsens möjlighet att uttrycka sig, särskilt eftersom den iranska regeringen systematiskt motarbetar yttrandefriheten och de digitala utrymmena blivit allt viktigare när det gäller att uttrycka oliktänkande. Företaget sade även att rådets sammanfattande beslut i ärendet Metaforiskt uttalande mot Perus president nyligen varit en faktor. Där tog rådet upp hur viktigt det är att skapa sammanhangsberoende modereringssystem där ironi, satir och retoriskt språk beaktas, särskilt när det gäller att skydda politiskt tal.

Communityregeln om samordning av skadliga handlingar och förespråkande av kriminella aktiviteter

Meta informerade rådet om att företaget även övervägde att ta bort innehållet enligt communityregeln om samordning av skadliga handlingar och förespråkande av kriminella aktiviteter eftersom kvinnan i videon ofrivilligt visats upp utan slöja. Meta tillämpar endast den här delen av policyn vid eskalering, och bara om ytterligare kontext har tillhandahållits. I verkställigheten krävs deltagande av relevanta intressenter, och fokus ligger på att fastställa om innehållet avbildar en kvinna utan slöja, där hennes identitet exponeras utan tillstånd och detta sannolikt innebär en risk, snarare än vilka specifika termer som används och innehållets eller bildtextens tonläge. Meta noterar att personer inte kan ”avslöja” sig själva, avslöjandet är bara en regelöverträdelse om det är ofrivilligt.

I det här ärendet kom Meta fram till att innehållet inte skulle tas bort på grund av ofrivilligt avslöjande, eftersom kvinnans identitet redan var allmänt känd online och hon redan hade arresterats när inlägget i ärendet publicerades. De här omständigheterna minskade betydligt risken för skada om innehållet lämnades kvar på plattformen.

Rådet ställde 11 skriftliga frågor och två uppföljningsfrågor till Meta. Frågorna gällde vilka rutiner och resurser som används för verkställighet i Iran, Metas riskbedömning gällande Iran i allmänhet och kvinnan i videon i synnerhet, automatiserade och manuella granskningsprocesser samt verkställigheten gällande innehåll som avbildar kvinnor utan slöja och avslöjar medlemmar i riskutsatta grupper, både i bred moderering och vid eskalering. Meta besvarade samtliga frågor.

7. Kommentarer från allmänheten

Tillsynsrådet fick in 12 kommentarer från allmänheten i ärendet. Sju av kommentarerna kom från USA och Kanada, två från Central- och Sydasien, två från Europa och en från Mellanöstern och Nordafrika.

Bidragen tog upp följande teman: de sociala mediernas roll under protesterna i Iran, inklusive rörelsen ”Woman, Life, Freedom” (kvinna, liv, frihet), och vilken betydelse bilder av kvinnor utan slöja har i digitala kampanjer, vilka risker det innebär att sprida bilder på kvinnor utan slöja i sociala medier i Iran, hur de iranska myndigheterna själva använder sociala medier, hur Meta tillämpar policyerna för innehållsmoderering gällande uttalanden på persiska om den politiska situationen i Iran samt yttrandefriheten, mänskliga rättigheter, kvinnors rättigheter, myndigheternas repression och förbudet mot sociala medier i Iran.

Klicka här om du vill läsa de kommentarer som har skickats in från allmänheten gällande ärendet.

8. Tillsynsrådets analys

Rådet granskade Metas ursprungliga beslut att ta bort innehållet enligt företagets innehållspolicyer, ansvar för mänskliga rättigheter och värderingar.

Rådet valde ut ärendet eftersom det innebar en möjlighet att granska Metas policyer kring samordning av skadliga handlingar och förespråkande av kriminella aktiviteter samt relaterade verkställighetsprocesser mot bakgrund av de utbredda protesterna för kvinnors rättigheter och kvinnors deltagande i det offentliga rummet i Iran sedan september 2022. Det belyser i synnerhet om hur viktiga de sociala medieplattformarna är för människor som protesterar mot obligatoriet att bära hijab.

Ärendet ger dessutom rådet tillfälle att diskutera Metas interna procedurer för att fastställa när och varför bildligt tal, som om det tolkas bokstavligt kan vara hotfullt, inte bör tolkas som ett allvarligt menat hot givet den aktuella kontexten. Ärendet faller primärt inom rådets prioritetsområde kring val och det offentliga rummet, men berör även prioritetsområdena kön, myndigheters användning av Metas plattformar samt kriser och konfliktsituationer.

8.1 Efterlevnad av Metas innehållspolicyer

Communityregeln om våld och uppvigling

Rådet anser inte att inlägget i det aktuella ärendet bryter mot communityregeln om våld och uppvigling, eftersom det innehåller bildliga uttalanden som uttrycker ilska mot regeringens repression snarare än ett bokstavligt och därmed allvarligt menat hot om våld.

Meta förklarade att inlägget ursprungligen togs bort eftersom det innehåller en avsiktsförklaring om att begå allvarligt våld. Företaget definierar grovt våld som ett hot som kan leda till döden eller som förmodligen skulle vara dödligt.

Baserat på det lokala teamets bedömning tolkade Meta frasen ”it is not far to make you into pieces” (jag skulle kunna slita dig i stycken) i bildtexten till inlägget som ett hot om fysiskt våld i den iranska kontexten, och att det därför bröt mot policyn om våld och uppvigling.

De lingvistiska experter rådet tillfrågade förklarade att den aktuella delen av bildtexten kan översättas som ”we will tear you to pieces sometime soon” (vi ska slita er i stycken snart) eller ”it is not far away, we will rip you into shreds” (det är inte långt kvar nu, vi ska slita er i stycken). Experterna noterade att uttrycket i den iranska kontexten förmedlar ilska, besvikelse och förbittring gentemot förtryckare, och för fram en tanke om att situationen kan ändras eftersom förtryckarnas grepp om makten inte kommer vara för evigt. Uttrycket ska inte tolkas bokstavligt som en avsikt att utöva fysiskt våld, utan snarare som ett retoriskt uttalande som syftar till att väcka uppmärksamhet med hjälp av ett känslomässigt laddat språk där kraftfulla verb som ”rip into pieces/shreds” (slita i stycken) används. Experterna menade att den här sortens bildliga språk speglar den ilska som både den publicerade användaren och den tänkta målgruppen delar. Det implicerar därför inget konkret hot om fysiskt våld.

Även om Meta har sagt till rådet att företaget även beaktar kontexten till uttalanden när det bedömer om hot är trovärdiga så medger inte instruktionerna till moderatorerna att de kan beakta kontexten när de bedömer om det förekommer en avsiktsförklaring att utöva allvarligt våld. Så länge kriterierna i regeln är uppfyllda, särskilt om innehållet både innehåller ett hot och en måltavla, anses inlägget bryta mot reglerna. Det här gällde även i det aktuella ärendet. Här tolkade Meta uttalandet som att mannen som förföljde kvinnan var den tänkta måltavlan. Enligt regeln måste inte måltavlan vara synlig eller gå att identifiera. Regeln innehåller endast ett exempel på hotfullt tal som ska undantas eller som regel inte ska anses vara trovärdigt: ”hot riktade mot vissa våldsamma aktörer, som terrorgrupper”.

Uttrycket ”make you into pieces” (slita dig i stycken) här utgör inte något allvarligt menat hot. När kontexten är en period som präglas av oroligheter, en eskalerande repression och våld mot människor som protesterar mot den iranska regimen, samt när bildtexten och videon beaktas i sin helhet, anser rådet att uttrycket ska tolkas bildligt snarare än bokstavligt. Det uttrycker ilska och förbittring gentemot regimen och utgör ingen avsiktsförklaring att utöva allvarligt våld. Den här tolkningen ligger i linje med Metas åtaganden kring användarnas röst och vikten av att skydda politiskt oliktänkande tal.

Communityregeln om samordning av skadliga handlingar och förespråkande av kriminella aktiviteter

Rådet finner att innehållet i det här ärendet inte bryter mot communityregeln om samordning av skadliga handlingar och förespråkande av kriminella aktiviteter.

Meta övervägde att ta bort inlägget enligt regeln som förbjuder innehåll som utsätter kvinnor som inte bär slöja för risker genom att de avbildas utan slöja mot sin vilja eller utan tillstånd. Policyn har nu omformulerats och förbjuder avslöjanden av [kvinnor utan slöja]: exponering av enskilda människors identiteter på ett sätt som skulle kunna utsätta dem för fara. Företaget menar att ”avslöja” här omfattar innehåll som avbildar en kvinna utan slöja, där hennes identitet exponeras utan tillstånd och exponeringen innebär en risk för skada. Den här delen av policyn tillämpas enbart vid eskalering, och för verkställighet krävs bidrag från olika intressenter (se avsnitt 4 ovan).

I det här ärendet är rådet överens med Meta om att innehållet inte ”avslöjar” kvinnan, eftersom hennes identitet var allmänt känd och risken för skada hade minskat eftersom hon redan var arresterad när innehållet publicerades. Risken för kvinnan skulle därför inte öka om videon fick vara kvar på plattformen, utan snarare minska när fler blev medvetna om hennes fall. Det är särskilt viktigt att beakta kontexten i avgörandet om ett inlägg ”avslöjar” en kvinna och utsätter henne för risker, och eftersom policyn enbart tillämpas vid eskalering har det verkställande teamet tid och resurser till att verkligen identifiera och beakta den aktuella kontexten.

8.2 Efterlevnad av Metas ansvar för de mänskliga rättigheterna

Rådet finner att borttagningen av innehållet från plattformen var oförenligt med Metas ansvar för de mänskliga rättigheterna.

Yttrandefrihet (artikel 19 ICCPR)

Artikel 19 i ICCPR ger ett brett skydd av yttrandefriheten, inklusive ”friheten att söka efter, ta emot och vidarebefordra information och idéer av alla de slag, utan hänsyn till gränser, och det muntligen, skriftligen eller i tryck, i form av konst, eller via någon annan typ av media”. När en stat begränsar yttrandefriheten måste den uppfylla kraven på laglighet, berättigat ändamål, nödvändighet och proportionalitet (artikel 19, paragraf 3, ICCPR). Rådet använder detta ramverk till att tolka Metas frivilliga åtaganden kring mänskliga rättigheter, både i relation till det enskilda innehållsbeslutet och vad det säger om Metas generella hållning gällande innehållsstyrning. Som FN:s specialrapportör om främjande och skydd av rätten till åsikts- och yttrandefrihet har beskrivit det ”[har företag] visserligen inte samma skyldigheter som myndigheter, men deras inverkan är av ett slag som gör det nödvändigt för dem att ta ställning till samma typer av frågor om att skydda sina användares rättigheter till yttrandefrihet” (A/74/486, paragraf 41).

Åtkomsten till sociala medier är otroligt viktig i stängda samhällen som Iran. Som ”digitala portvakter” har de sociala medieplattformarna en ”betydande inverkan” på allmänhetens tillgång till information (A/HRC/50/29, paragraf 90). Inlägget i det här ärendet är ett led i en bredare proteströrelse som inte kan överleva utan tillgång till digitala allmänna utrymmen. Lagar som anger hur kvinnor måste klä sig påverkar deras frihet och värdighet negativt (A/68/290, paragraf 38), oavsett om lagen förbjuder någon att bära slöja eller förbjuder kvinnor att visa sig offentligt utan en (se Yaker v France, CCPR/C/123/D/2747/2016). Dessutom har ”internet kommit att bli det nya slagfältet i kampen för kvinnors rättigheter genom att ge kvinnor utökade möjligheter att uttrycka sig” (A/76/258 paragraf 4). När kvinnors yttrandefrihet stärks kan de enklare delta i politiken och förverkliga sina mänskliga rättigheter (A/HRC/Res/23/2, paragraf 1–2, A/76/258, paragraf 5).

I. Laglighet (reglernas tydlighet och tillgänglighet)

Enligt principen om laglighet måste alla begränsningar av yttrandefriheten gälla en etablerad regel som är tillgänglig och tydlig för användarna. Regeln måste vara ”formulerad tillräckligt tydligt för att individer ska kunna reglera sitt beteende i enlighet med den och den måste vara tillgänglig för allmänheten”, (allmän kommentar 34, paragraf 25). Regler som begränsar yttrandefriheten får dessutom inte ”ge de personer som ska tillämpa reglerna obehindrad möjlighet att begränsa rätten att uttrycka sig”. Reglerna måste ”ge tillräcklig vägledning åt de personer som har till uppgift att verkställa dem, så att de kan säkerställa vilken typ av uttryck som bör begränsas och vilken typ som inte bör det”, (allmän kommentar 34, paragraf 25, A/HRC/38/35 (undocs.org), paragraf 46). Avsaknad av tydlighet och precision kan leda till inkonsekvent och godtycklig verkställighet av reglerna. När principen tillämpas på Meta innebär den att användarna bör kunna förutspå vilka konsekvenser en innehållspublicering på Facebook och Instagram ska få, och att innehållsgranskarna har tydliga riktlinjer kring verkställigheten.

Communityregeln om våld och uppvigling

I motiveringen till communityregeln om våld och uppvigling, där målen med communityregeln uttrycks men som inte ingår i själva regeln, står att kontexten bör beaktas i utvärderingen av vad som är ett ”allvarligt menat hot”, men rådet anser inte att Metas interna riktlinjer och modereringsrutiner medger detta i praktiken. Som råder noterade i ärendet Protestslogan i Iran så instrueras de breda innehållsmoderatorerna att leta efter specifika kriterier, eller element, i inlägget och att ta bort det om de aktuella elementen påträffas. Om inlägget med andra ord innehåller ett hot (exempelvis ”döda” eller ”jag ska slita dig i stycken”) och en måltavla så tas det bort. Innehållsmoderatorerna har inte befogenhet att bedöma om hotet är allvarligt menat. I det aktuella ärendet angav även Meta att den här typen av rigid verkställighet tillämpas eftersom det är svårt att avgöra om [en fras] är ett retoriskt uttryck eller ett allvarligt menat hot, särskilt när användningen är utbredd. Hotens trovärdighet beaktades när regeln skapades, men inte när den verkställs. I ärendet Protestslogan i Iran noterade rådet att policyn tycks tillåta retoriskt tal av den typ som kan förväntas i protestsammanhang, men att de skriftliga reglerna och motsvarande riktlinjer inte gör det. Faktum är att verkställigheten i praktiken, särskilt i stor skala, är mer formelbaserad än vad reglerna gör sken av, och det kan leda till att användarna får fel uppfattning om hur reglerna kommer att tillämpas. Som riktlinjerna till granskare är skrivna undantas möjligheten till analys av kontexten, även när själva innehållet visar tydliga tecken på att det hotfulla språket är retoriskt. Den här diskrepansen mellan företagets motivering till policyn och de faktiska rutinerna kring verkställigheten råder fortfarande, och det gör att principen om laglighet inte är helt tillfredsställd.

Rådet upprepar sin slutsats från ärendet Protestslogan i Iran, att Meta bör tillhandahålla nyanserad vägledning kring hur kontexten ska beaktas, och instruera moderatorerna att inte standardmässigt ta bort retoriskt eller bildligt språk som uttrycker oliktänkande, särskilt i politiskt känsliga miljöer som Iran.

Communityregeln om samordning av skadliga handlingar och förespråkande av kriminella aktiviteter

Rådet anser att Metas förbud mot innehåll som utsätter kvinnor som inte bär slöja för risker genom att de avbildas utan slöja mot sin vilja eller utan tillstånd tillräckligt tydligt sett till hur den tillämpas i det aktuella ärendet. Den gör tydligt att innehåll som ”avslöjar” kvinnor utan slöja och kan leda till skada är förbjudet på Metas plattformar. Rådet är dock bekymrat över att Instagrams riktlinjer för communityn inte länkar direkt till communityregeln om samordning av skadliga handlingar och förespråkande av kriminella aktiviteter. Det här gör reglerna mindre tillgängliga för Instagram-användare. I tidigare ärenden (Bröstcancersymptom och nakenhet, Isolering av Öcalan) rekommenderade rådet att Meta offentligt tydliggör för användarna hur Facebooks communityregler tillämpas på Instagram. Sedan dess har Meta påbörjat en process för att förena communityreglerna med Instagrams riktlinjer för communityn, och ange var det förekommer skillnader mellan plattformarnas policyer. I transparensrapporterna varje kvartal har Meta sedan dess försäkrat rådet om att det här arbetet fortfarande är prioriterat, och menat att olika juridiska överväganden har fått processen att dra ut på tiden. Rådet upprepar hur viktigt det är att slutföra den här processen skyndsamt så att de regler som gäller ska vara så tydliga som möjligt.

II. Berättigat ändamål

Enligt artikel 19, paragraf 3, i ICCPR kan yttrandefriheten begränsas av en definierad och begränsad uppsättning orsaker, exempelvis i syfte att skydda andras rättigheter. I samband med det här ärendet anser rådet att syftet med communityregeln om våld och uppvigling är att förhindra potentiell offlineskada genom att ta bort innehåll som utgör en reell risk för fysisk skada eller direkta hot mot den allmänna säkerheten. Policyn uppfyller därmed det legitima målet att skydda rätten till liv (artikel 6, ICCPR) och hälsa samt rätten till den personliga säkerheten (artikel 9, ICCPR, allmän kommentar 35, paragraf 9).

Syftet med policyn om samordning av skadliga handlingar och förespråkande av kriminella aktiviteter är att skydda iranska kvinnor mot diskriminering (artikel 2, 3 och 26, ICCPR, artikel 1 och 7, CEDAW), bland annat när de utövar sin yttrandefrihet och mötesfrihet (artikel 19 och 21, ICCPR), rätten att delta i det offentliga rummet (artikel 1 och 7, CEDAW), rätten till integritet (artikel 17, ICCPR) samt rätten till liv (artikel 6, ICCPR ), frihet och personlig säkerhet (artikel 9 ICCPR).

III. Nödvändighet och proportionalitet

Eventuella begränsningar av yttrandefriheten ”måste vara lämpliga för att uppnå sin skyddande funktion. De måste vara det minst ingripande alternativet av de som skulle kunna användas för att uppnå den skyddande funktionen och de måste vara proportionerliga i förhållande till det intresse som ska skyddas” (allmän kommentar 34, paragraf 34). Företag verksamma inom sociala medier bör överväga ett flertal möjliga sätt att agera på problematiskt innehåll förutom att ta bort det för att se till att begränsningarna är snävt utformade (A/74/486, paragraf 51).

Communityregeln om våld och uppvigling

Rådet finner att Metas ursprungliga beslut att ta bort innehållet i ärendet inte var nödvändigt. Det var inte nödvändigt för att skydda personen som filmade videon eller någon annan, eftersom hotet i bildtexten till inlägget inte ska tas bokstavligt. Rådet är bekymrat över att Metas communityregler och riktlinjerna till moderatorerna fortfarande lämnar utrymme för en inkonsekvent hantering av bildligt (inte bokstavligt) menade hot även efter rekommendationerna i ärendet Protestslogan i Iran, särskilt givet situationen i Iran där protesterna nu har pågått i mer än ett år. Det ärendet gällde också en fras med ett hot som Meta tolkade bokstavligt snarare än bildligt. Den bristande vägledningen blir ännu tydligare eftersom innehållet i det aktuella ärendet granskades av flera breda moderatorer och team på Meta, och upprepade gånger fanns bryta mot reglerna.

I sin analys av hur troligt det är att innehållet skulle kunna uppvigla till diskriminering, våld eller andra olagliga handlingar utgick rådet från de sex faktorerna i Rabat Plan of Action. Även om Rabat-faktorerna ursprungligen gällde uppvigling i relation till nationellt, etniskt eller religiöst betingat hat, snarare än uppvigling i allmänhet, så noterar rådet att de sex faktorerna även är användbara i bedömningen av allmän uppvigling. Rådet har också använt faktorerna så tidigare (se exempelvis Protestslogan i Iran och Uppmaning till kvinnoprotest på Kuba):

• Kontext: Innehållet publicerades i juli 2023, under en period präglad av oroligheter, eskalerande repression och våld mot människor som protesterade mot regimen. Möjligheterna att protestera i landet är begränsade givet utbredda internetstörningar och att sociala medieplattformar som Facebook, Telegram and X är förbjudna. Eftersom Instagram är en av de få plattformar som återstår har den otroligt stor betydelse för rörelsen ”Woman, Life, Freedom” (kvinna, liv, frihet). De experter som rådet tillfrågade menade att rörelsens mål är att normalisera protesterna och motståndet mot fyra decennier av lagstiftning som diskriminerar kvinnor. Experterna noterade även att regimen har jobbat hårt för att skrämma och tysta kvinnor från att uttrycka sig online sedan rörelsen startade. Nya lagar och uppmärksammade arresteringar syftar till att kväsa protesterna och stoppa trenden där motståndet mot hijablagarna normaliseras.
• Talarens identitet: Meta sade till rådet att företaget inte ansåg att den publicerande användaren var en offentlig person. Sett till videons bildtext verkar användaren stötta eller ingå i rörelsen ”Woman, Life, Freedom” (kvinna, liv, frihet). Talaren här agerar därför inte ur en maktposition, och riskerar dessutom även sin egen säkerhet genom att uttrycka sitt stöd och publicera innehållet.
• Avsikt: Även om det kan vara svårt att bedöma avsikter vid storskalig innehållsmoderering är det tydligt att syftet vid en objektiv och normal läsning av hela inlägget är att ge den avbildade kvinnan stöd och öka medvetenheten om hennes arrestering. Enligt de experter rådet har tillfrågat är det vanligt att demonstranter i Iran sprider bilder på kvinnor utan slöja med tillhörande namn efter en arrestering så att myndigheterna ska garantera hennes säkerhet. Demonstranterna har märkt att de kan motverka ytterligare trakasserier genom att publicera individernas identiteter.
• Innehåll och uttrycksform: Enligt de lingvistiska experter rådet har tillfrågat så uttrycker frasen ”make you into pieces” (slita dig i stycken) i den här kontexten en stark känsla för persisktalande, av exempelvis ilska eller besvikelse, men inte något allvarligt menat hot. Rörelsen har ofta använt ett kraftfullt och till synes hotfullt språk i sina uttalanden riktade mot regimen. I ärendet Protestslogan i Iran fann rådet att sloganen ”Death to Khamenei” (död åt Khamenei) utgjorde ett retoriskt hot och noterade att Meta av liknande skäl utfärdat ett undantag i policyns andemening gällande frasen ”I will kill whoever kills my sister/brother” (jag tänker döda alla som dödar mina systrar och bröder). Frasen i det här ärendet förekommer mitt i en bildtext som hyllar en kvinna som står upp för sina rättigheter. Sett till sin helhet uttrycker bildtexten stöd för de iranska kvinnor som protesterar mot diskriminerande lagstiftning och övergrepp från regimen.
• Omfattning och räckvidd: Inlägget hade ungefär 47 000 visningar, 2 000 gilla-markeringar, 100 kommentarer och 50 delningar. Eftersom talet inte tycks utgöra uppvigling sett till de andra faktorerna i Rabat-analysen är inte innehållets stora spridning i sig en faktor som gör borttagningen nödvändig.
• Sannolikhet och överhängande risk: Den här faktorn bedömer om talet löper risk att utlösa omedelbar skada för den potentiella måltavlan, som i det här fallet är regimen. Proteströrelsen och dess supportrar kämpar mot en regim som regelmässigt använder våldsam repression och repressalier mot demonstranterna. Den mest sannolika skadan från talet i det här ärendet gäller användaren som publicerade innehållet eller kvinnan i videon, snarare än regimen eller dess supportrar. Experterna betonade vika faror de som deltar i protesterna utsätter sig för, och hur rörelsen lever vidare trots det överhängande hotet om våld. De menade även att spridningen av bilder av kvinnor utan slöja som arresterats handlar om att rikta uppmärksamhet mot frihetsberövandet och att sätta tryck på myndigheterna så att kvinnornas säkerhet garanteras.

När rådet analyserar ovanstående faktorer blir slutsatsen att innehållet inte utgjorde något trovärdigt hot och sannolikt inte skulle uppvigla till offlineskada. När bildligt tal används i samband med utbredda protester som slås ned med våld bör Meta ge sina granskare befogenhet att bedöma språket och den lokala kontexten, och justera vägledningen till moderatorerna i enlighet med den underliggande motiveringen till policyn. Det är otroligt viktigt att bedöma om inlägg är ”bildligt” menade eller sannolikt kan leda till våld om det ska gå att förbättra den breda modereringen i krissituationer. Automatiseringens träffsäkerhet påverkas av kvaliteten på träningsdata som mänskliga moderatorer tillhandahåller. När de mänskliga moderatorerna tar bort bildligt menade uttalanden på grund av en rigid regeltillämpning fortplantas och förstärks misstaget sedan via automatiseringen.

Rådet noterar att Meta har ett antal mekanismer för att justera sina policyer och deras verkställighet i krissituationer, bland annat det nivåindelade systemet för länder ”i riskzonen” och företagets krispolicyprotokoll. Det nivåindelade systemet för länder ”i riskzonen” används till att identifiera länder där det råder risk för offlineskada och våld, och syftet är att företaget ska kunna avgöra hur det ska prioritera sin produktutveckling och investera sina resurser. Även andra processer kan beaktas i bedömningen (till exempel om ett särskilt åtgärdsteam ska bildas eller om krispolicyprotokollet ska tillämpas). Meta informerade rådet om att Iran betecknades som ett land ”i riskzonen” under den andra halvan av 2023. Iran omfattas även av krispolicyprotokollet sedan den 21 september 2022, och den här klassificeringen har kvarstått. Enligt krisprotokollet kan Meta göra temporära policyändringar, som kallas ”policyverktyg”, i syfte att hantera specifika situationer. Meta gav exempel på några av de policyverktyg som redan används i Iran, bland annat ett undantag som tillåter innehåll med sloganen ”I will kill whoever kills my sister/brother” (jag tänker döda alla som dödar mina systrar och bröder) eller varianter på den, så länge innehållet inte bryter mot några andra policyer. (Fler exempel på policyverktyg finns i Anteckningar från policyforum, 25 januari 2022, krispolicyprotokoll.)

Även om rådet håller med om att Meta tar säkerheten på allvar och motverkar potentiella risker i modereringen genom att aktivera krispolicyprotokollet för Iran så har inte de här åtgärderna räckt för att garantera människors yttrandefrihet och mötesfrihet i en miljö med systematiskt förtryck av oliktänkande som präglas av sociala spänningar. Enligt forskning som rådet beställt delas en överväldigande majoritet av innehållet som avbildar kvinnor utan slöja i Iran på Metas plattformar, där kontexten är att diskutera hijabens ställning, av användare som stöttar proteströrelsen. Här har Metas verkställighetsprocesser upprepade gånger misslyckats med att skilja mellan bildliga uttalanden i en relevant kontext och faktiska hot eller uppvigling till våld, som kan leda till ytterligare offlineskada.

Rådet rekommenderar att Meta lägger till ett policyverktyg i krispolicyprotokollet, och ger motsvarande instruktioner till de breda moderatorerna, om hur uttalanden med bildligt menade hot kan identifieras i den relevanta kontexten, och att de då inte bryter mot policyn om våld och uppvigling där hot om våld är förbjudna. När Meta tar fram de krisspecifika kriterierna för bedömningen av om hot är bildligt eller bokstavligt menade kan företaget använda sig av Rabat Plan-faktorerna (till exempel om kontexten är utbredda protester mot statlig repression, om talaren i sin roll har möjlighet att uppvigla andra till skadliga beteenden, hur den lingvistiska och sociala kontexten ska bedömas gällande användningen av kraftfullt eller känsloladdat språk i retoriskt syfte samt sannolikheten för skada givet kunskaper om regionen). Företaget kan även ta hjälp av betrodda partner när det ska formulera eller utvärdera modereringskriterierna. Meta har själva uttryckt hur viktig Rabat Plan of Action är för innehållsmodereringen, och har hjälpt FN att översätta planen till 32 språk. Det här policyverktyget bör tillåta ”bildligt tal” i samband med protester mot regimen, givet att syftet inte är att uppvigla till våld och att det heller inte är ett troligt resultat.

Communityregeln om samordning av skadliga handlingar och förespråkande av kriminella aktiviteter

I det här ärendet anser inte rådet att det var nödvändigt att ta bort innehållet enligt communityregeln om samordning av skadliga handlingar och förespråkande av kriminella aktiviteter, eftersom den avbildade kvinnans identitet var allmänt känd och syftet med publiceringen uppenbarligen var att uppmärksamma hennes arrestering i hopp om att hon skulle friges. Flera kommentarer från allmänheten lyfte dessutom fram att kvinnor som tar av sig sin hijab offentligt gör det avsiktligt, i protest, och att de är medvetna om de potentiella konsekvenserna men ändå väljer att trotsa myndigheterna som strategisk kampmetod (se offentlig kommentar Tech Global Institute, PC-21009). Regimen hade redan identifierat och arresterat kvinnan i videon. Inlägget delades i syfte att uppmärksamma andra om arresteringen. Demonstranter och oliktänkare som fängslats av regimen har torterats, utsatts för könsrelaterat våld eller försvunnit. Experter som rådet tillfrågat och flera kommentarer från allmänheten betonade särskilt hur den här metoden, att rikta uppmärksamhet mot arresteringar och kräva att fängslade personer släpps fria, ofta används av rörelsen och människorättskämpar i Iran, och att den kan bidra till att skydda de personer som regimen håller fängslade.

Avvägningen mellan att skydda identiteten för sårbara användare och samtidigt inte censurera de som söker exponeringen är svår, och om den ska lyckas krävs en ingående analys av kontexten, prioriterad granskning och snabba åtgärder.

9. Tillsynsrådets beslut

Tillsynsrådet upphäver Metas ursprungliga beslut att ta bort innehållet.

10. Rekommendationer

1. Verkställighet

I syfte att skydda användarnas yttrandefrihet och mötesfrihet i en miljö där statens förtryck är systematiskt bör Meta lägga till ett policyverktyg i krispolicyprotokollet, som anger att bildliga (inte bokstavliga) uttalanden vars avsikt och troliga följd inte är att uppvigla till våld inte bryter mot den del av policyn om våld och uppvigling som förbjuder hot om våld i relevanta kontexter. I det här bör ingå att ta fram kriterier för hur breda moderatorer kan identifiera sådana uttalanden i relevanta sammanhang.

Rådet anser rekommendationen vara implementerad när Meta både meddelar rådet hur policyverktyget ska implementeras och vilka modereringskriterier som ska användas i Iran.

* Procedurmässig notering:

Tillsynsrådets beslut utarbetas av en panel bestående av fem medlemmar och godkänns av en majoritet av rådet. Rådets beslut återspeglar inte nödvändigtvis alla medlemmars personliga åsikter.

Inför beslutet i det här ärendet genomfördes oberoende efterforskningar på uppdrag av rådet. Rådet bistods av ett oberoende forskningsinstitut som utgår från Göteborgs universitet, med ett team bestående av över 50 samhällsvetare på sex kontinenter och över 3 200 nationella experter från hela världen. Rådet bistods också av Duco Advisors, en konsultfirma med inriktning på skärningspunkten mellan geopolitik, förtroende och säkerhet och teknik. Memetica, en organisation som bedriver offentlig forskning kring trender i sociala medier, bidrog också med analyser. Företaget Lionbridge Technologies LLC, vars specialister är experter inom fler än 350 språk och jobbar från 5 000 städer världen över, tillhandahöll lingvistisk expertis.

Return to Case Decisions and Policy Advisory Opinions