Donna iraniana assalita in strada

Riepilogo

L'Oversight Board ha revocato la decisione originaria di Meta di rimuovere un video in cui un uomo assale una donna per la strada in Iran per non aver indossato l'hijab. Il post non ha violato le regole di Violenza e istigazione alla violenza perché contiene un linguaggio figurato, più che letterale, e non rappresenta una minaccia di violenza credibile. Condiviso durante un periodo di disordini, di crescente violenza e repressione ai danni di persone che contestano il regime, l'accesso ai social media risulta fondamentale e Internet rappresenta il nuovo campo di battaglia in cui lottare per i diritti delle donne. Poiché Instagram è una delle poche piattaforme a non essere stata bloccata nel Paese, il suo ruolo nel movimento "Woman, Life, Freedom" (Donna, vita, libertà) contro il regime è incommensurabile, nonostante gli sforzi del regime volti a spaventare e mettere a tacere le donne online. Il Board conclude che gli sforzi di Meta per garantire il rispetto della libertà di espressione e di riunione in un contesto di repressione sistematica da parte del governo sono stati insufficienti e raccomanda di modificare il Protocollo normativo per le situazioni di emergenza dell'azienda.

Informazioni sul caso

A luglio 2023, un utente ha pubblicato un video su Instagram in cui un uomo assale una donna in pubblico per non aver indossato l'hijab. Nel video, in persiano con sottotitoli in inglese, la donna risponde rivendicando i suoi diritti. La relativa didascalia esprime sostegno alla donna del video e a tutte le donne iraniane che si oppongono al regime. Parte della didascalia, in cui vengono anche rivolte critiche al regime, include una frase che secondo Meta è traducibile come "it is not far to make you into pieces" (presto ti faremo a pezzi).

Il Codice penale iraniano punisce le donne che appaiono in pubblico senza "proper hijab" (indossare correttamente l'hijab) con la detenzione, multe o frustate. A settembre 2023, il regime dell'Iran ha approvato un nuovo disegno di legge su hijab e castità ai sensi del quale le donne potrebbero dover scontare fino a 10 anni di detenzione se seguitano a rifiutare di seguire le regole che obbligano a indossare l'hijab. Dalla didascalia del post si capisce chiaramente che la donna nel video è già stata arrestata.

All'inizio contrassegnato dai sistemi automatizzati di Meta perché potenzialmente in violazione delle Linee guida della community di Instagram, il post è stato poi sottoposto al controllo umano. I molteplici addetti al controllo, che hanno valutato il contenuto ai sensi della normativa Violenza e istigazione alla violenza di Meta, non sono giunti alla stessa conclusione. Questa divergenza e un errore tecnico hanno comportato la permanenza del post. Un utente ha quindi segnalato il post, che è stato sottoposto a un ulteriore controllo, questa volta da parte del team regionale di Meta con competenze linguistiche. In questa fase, è stato determinato che il post violasse la normativa Violenza e istigazione alla violenza, quindi è stato rimosso da Instagram. L'utente che aveva pubblicato il contenuto ha quindi inviato un ricorso al Board. Meta ha sostenuto come corretta la propria decisione di rimuovere il contenuto finché il Board non ha selezionato questo caso. A quel punto l'azienda ha revocato la decisione e ripristinato il post.

Conclusioni principali

Il Board ritiene che il post non fosse in violazione dello Standard della community Violenza e istigazione alla violenza per il suo linguaggio figurato, più che letterale, e perché la minaccia di violenza è stata ritenuta non credibile, né in grado di istigare alla violenza offline. Sebbene Meta avesse originariamente rimosso il post in parte perché aveva valutato la frase "it is not far to make you into pieces" (presto ti faremo a pezzi) come una dichiarazione che esprime l'intenzione di commettere un atto di violenza molto grave (rivolta all'uomo del video), la frase non deve essere interpretata letteralmente. Dato il contesto di proteste diffuse in Iran, e considerando la didascalia e il video nel complesso, la frase ha un significato figurato ed esprime rabbia e costernazione verso il regime. I linguisti esperti interpellati dal Board hanno indicato una traduzione leggermente diversa per la frase in questione, ovvero "we will tear you to pieces sometime soon" (presto finirai in pezzi), spiegando che trasmette rabbia, insoddisfazione e sdegno nei confronti del regime stesso. Piuttosto che innescare atti di violenza contro il regime, il pericolo più probabile che deriverebbe da questo post sarebbero atti di ritorsione da parte del regime.

Mentre i fondamenti della normativa di Meta suggeriscono di considerare "language" (linguaggio) e "context" (contesto) nella valutazione di una "credible threat" (minaccia come credibile), le linee guida interne dei moderatori di Meta nella pratica non lo consentono. I moderatori hanno il compito di identificare criteri specifici (minacce e destinatari delle minacce) e quando li riscontrano, devono rimuovere il contenuto. Il Board aveva già espresso la propria preoccupazione relativamente a questo disallineamento nel caso Slogan di protesta in Iran, in cui raccomandava a Meta di fornire linee guida articolate su come valutare il contesto, per aiutare i moderatori a fermare le rimozioni automatiche di contenuti contenenti "rhetorical language" (linguaggio retorico) per esprimere dissenso. È preoccupante che vi sia ancora spazio per l'applicazione incoerente delle normative in merito al linguaggio figurato in contesti come quello dell'Iran. Inoltre, dato l'impatto della qualità dei dati di addestramento forniti da persone sulla precisione degli automatismi, è probabile che l'errore di rimozione di linguaggio figurato venga amplificato.

Il post è stato valutato anche ai sensi dello Standard della community Gestione degli atti di violenza e promozione di attività criminali, una cui regola proibisce "content that puts unveiled women at risk by revealing their images without [a] veil against their will or without permission" (contenuti che mettono in pericolo le donne diffondendone immagini di nudo contro la loro volontà o senza la loro autorizzazione). Da allora la disposizione della normativa è stata modificata per proibire: "Outing [unveiled women]: exposing the identity of a person and putting them at risk of harm" (Divulgazione dell'identità [delle donne a volto scoperto]: esposizione dell'identità di una persona mettendola in pericolo). Su questo, il Board concorda con Meta che il contenuto non divulga l'identità della donna nel video e che il rischio di violenza era diminuito perché l'identità della donna era già ampiamente nota ed era già stata arrestata. Infatti, il post era stato condiviso per richiamare l'attenzione sul suo arresto nella speranza di fare pressione sulle autorità per rilasciarla.

Poiché nelle normative sulle situazioni di emergenza di Meta, compreso il Protocollo normativo per le situazioni di emergenza, l'Iran è stato designato come Paese a rischio, l'azienda è in grado di applicare modifiche temporanee alle normative, "levers" (leve) per fare fronte a casi particolari. Sebbene il Board abbia riconosciuto gli sforzi attuati da Meta riguardo all'Iran, questi sono stati insufficienti per garantire il rispetto per la libertà di espressione e di riunione delle persone in ambienti in cui la repressione è sistematica.

La decisione dell'Oversight Board

L'Oversight Board ha revocato la decisione originaria di Meta di rimuovere il post.

Il Board raccomanda a Meta i seguenti provvedimenti:

• Aggiungere una leva al Protocollo normativo per le situazioni di emergenza per chiarire che il linguaggio figurato (cioè non letterale) che non ha lo scopo di istigare alla violenza, ed è improbabile che lo faccia, non viola la disposizione della normativa Violenza e istigazione alla violenza che proibisce minacce di violenza in contesti pertinenti. Questo deve includere criteri di sviluppo per moderatori su larga scala su come identificare tali linguaggi nel contesto considerato.

*I riepiloghi forniscono una panoramica dei casi e non costituiscono un precedente.

Decisione completa sul caso

1. Riepilogo della decisione

L'Oversight Board revoca la decisione originaria di Meta di rimuovere un video in cui un uomo assale una donna per la strada in Iran per non aver indossato l'hijab. Meta ha rimosso il post da Instagram a causa del passaggio della didascalia "it is not far to make you into pieces" (presto ti faremo a pezzi) che l'azienda ha interpretato come una minaccia, rivolta all'uomo del video che aveva assalito la donna per non aver indossato l'hijab. Il Board ritiene che il post non fosse in violazione della normativa Violenza e istigazione alla violenza perché il linguaggio usato è figurato, più che letterale, e dato il contesto, non costituisce una minaccia di violenza credibile. Dopo che il Board ha selezionato il caso, Meta ha inizialmente confermato la decisione di rimuovere il post, ma prima di inviare le proprie motivazioni al Board, ha stabilito che la sua decisione originaria di rimuovere il contenuto fosse errata e ha ripristinato il post sulla piattaforma. Il Board conclude che gli sforzi di Meta per garantire il rispetto della libertà di espressione e di riunione in un contesto di repressione sistematica da parte del governo delle forme di libertà sono stati insufficienti e raccomanda di modificare il Protocollo normativo per le situazioni di emergenza dell'azienda.

2. Descrizione e contesto del caso

A luglio 2023, un utente Instagram ha pubblicato un video in persiano con sottotitoli in inglese in cui un uomo assale una donna in pubblico per non aver indossato l'hijab e la donna risponde rivendicando i suoi diritti. L'uomo del video non può essere identificato, mentre la donna è completamente visibile. Il video sembra essere una nuova pubblicazione di una registrazione inizialmente condivisa da una persona che è collegata al regime iraniano o che lo sostiene. La didascalia relativa, sempre in persiano, esprimeva sostegno alla donna del video e a tutte le donne iraniane che si oppongono al regime e ne criticano i sostenitori. La didascalia includeva una frase tradotta da Meta come "it is not far to make you into pieces" (presto ti faremo a pezzi) e affermava che la donna è stata arrestata in seguito all'incidente. Il post ha registrato circa 47.000 visualizzazioni, 2.000 "Mi piace", 100 commenti e 50 condivisioni.

Il contenuto contrassegnato all'inizio da un classificatore automatizzato, un algoritmo che Meta usa per identificare le potenziali violazioni delle sue normative ai sensi delle Linee guida della community di Instagram, è stato poi sottoposto al controllo umano. Molteplici addetti al controllo hanno valutato il contenuto, ma a causa di un errore tecnico e della divergenza di opinioni degli addetti al controllo sulla violazione o meno del post rispetto alla normativa Violenza e istigazione alla violenza, il post inizialmente non è stato rimosso. Successivamente alla segnalazione di un utente, il classificatore automatizzato ha stabilito ancora una volta la potenziale violazione delle normative di Meta da parte del contenuto, che è stato sottoposto a ulteriore controllo. Il contenuto è stato segnalato da un solo utente e solo una volta. In seguito a questo ulteriore livello di controllo da parte del team di Meta con competenze regionali e linguistiche, Meta ha rimosso il post da Instagram ai sensi della normativa Violenza e istigazione alla violenza. La decisione di Meta di rimuovere il post si era basata sulla seguente affermazione nella didascalia: "it is not far to make you into pieces" (presto ti faremo a pezzi). L'azienda ha interpretato questo passaggio come una minaccia, rivolta all'uomo del video che aveva assalito la donna per non aver indossato l'hijab. L'utente che aveva creato il post ha inviato un ricorso contro la decisione di rimozione di Meta. Un addetto al controllo ha confermato la decisione di rimuovere il post.

L'utente che aveva pubblicato il contenuto ha quindi inviato un ricorso al Board contro la decisione di rimozione del post. Quando il Board ha individuato il caso per sottoporlo a controllo legale, Meta ha confermato la propria decisione di rimozione del contenuto. In questa fase di controllo, Meta ha inoltre valutato il contenuto ai sensi dello Standard della community Gestione degli atti di violenza e promozione di attività criminali, che proibisce la divulgazione dell'identità delle donne se ciò può metterle in pericolo. Al momento della pubblicazione del contenuto, la donna era stata già arrestata dal regime. Dopo che il Board ha selezionato il caso, l'azienda ha modificato la propria decisione e ripristinato il contenuto sulla base di ulteriori input pervenuti dal team regionale e sulla base della decisione del Board per il caso Invito alla protesta rivolto alle donne a Cuba.

Come indicato dal Board nella propria decisione Slogan di protesta in Iran, le persone in Iran protestano contro il governo per affermare i propri diritti civili e politici e di parità di genere, almeno dalla rivoluzione del 1979. Nel 2023, il premio Nobel per la pace è stato assegnato a Narges Mohammadi, attivista per i diritti umani che attualmente si trova in carcere, per "more than 20 years of fighting for women’s rights [which has] made her a symbol of freedom and standard-bearer in the struggle against the Iranian theocracy" (oltre 20 anni di lotta per i diritti delle donne, che l'hanno resa un simbolo di libertà e portavoce della battaglia contro la teocrazia iraniana). Il Codice penale iraniano punisce le donne che appaiono in pubblico "proper hijab" (senza indossare correttamente l'hijab) con la detenzione, multe o frustate. Per le donne in Iran sono proibiti anche alcuni campi di studio e numerosi luoghi pubblici, e, tra le altre cose, è vietato il ballo con persone del sesso opposto. Gli uomini sono considerati i capifamiglia e le donne devono avere il permesso del padre o del marito per lavorare, sposarsi o viaggiare. La testimonianza in tribunale di una donna vale la metà di quella di un uomo, e questo comporta un grande limite nell'accesso delle donne alla giustizia.

Dopo che nel 2022 le autorità iraniane hanno intensificato ed esteso l'applicazione delle misure sull'hijab obbligatorio, è stato riscontrato un aumento nel controllo sulle donne, che spesso ha portato a persecuzioni fisiche e verbali e ad arresti. A settembre del 2022, la 22enne Jina Mahsa Amini è morta durante un fermo della polizia tre giorni dopo essere stata arrestata, presumibilmente per non aver rispettato le regole del Paese su come indossare "proper hijab" (correttamente l'hijab). La morte della ragazza ha suscitato indignazione e ondate di proteste di livello nazionale in tutto il Paese, e ha ispirato un movimento contrario al regime, divenuto noto come: "Zan, Zendegi, Azadi" ("Woman, Life, Freedom" (Donna, vita, libertà)). Ciò ha suscitato una repressione violenta da parte delle autorità, con oltre 500 morti confermate alla fine del 2022, e circa 14.000 arresti, di cui sono caduti vittima oppositori, giornalisti, avvocati, attivisti, artisti ed atleti che hanno dato voce e sostenuto il movimento.

A settembre 2023, il parlamento iraniano ha approvato un nuovo disegno d legge "Hijab and Chastity" (Hijab e castità) ai sensi del quale le donne potrebbero dover scontare fino a 10 anni di detenzione se seguitano a rifiutare di seguire le regole che obbligano a indossare l'hijab. Inoltre, le aziende che offrono servizi alle donne che non indossano l'hijab sono punite con sanzioni e rischiano la chiusura.

I social media svolgono un ruolo fondamentale nel movimento di protesta delle donne in Iran, per quanto riguarda la mobilitazione e la trasmissione di informazioni vitali (per i commenti pubblici si veda PC 21007, PC-21011), nonché per la documentazione e conservazione pubblica delle prove di abusi e violazioni dei diritti umani (PC-21008, allegato).

Tuttavia, le campagne online espongono le donne anche al rischio di ulteriori atti di repressione da parte del regime, comprese minacce, campagne di diffamazione, arresto e detenzione. Gli esperti interpellati dal Board hanno indicato un'estesa rete di entità associate al Corpo delle guardie della rivoluzione islamica e al governo dell'Iran che operano su Instagram e Telegram. Quest'ultimo in particolare è usato spesso per colpire direttamente e accusare oppositori e dissidenti.

Numerosi commenti pubblici inviati al Board hanno evidenziato che il regime ha adottato la tattica di segnalare massivamente contenuti di protesta su Instagram tramite il sistema di segnalazione degli utenti per "pressure social media companies into removing content related to dissidents or placing them into shadow bans" (indurre le aziende di social media a rimuovere contenuti correlati ai dissidenti o restringerne la visibilità) (per i commenti pubblici si veda PC-21011, PC-21009). Inoltre si sono registrate anche segnalazioni di funzionari dell'intelligence iraniana che hanno offerto denaro ai moderatori di contenuti in cambio della rimozione di contenuti condivisi dagli oppositori del regime.

A febbraio 2023, il Relatore speciale delle Nazioni Unite sull'Iran ha espresso preoccupazioni in merito alla persistente repressione e al continuo attacco contro attivisti della società civile, difensori dei diritti umani, attivisti dei diritti delle donne, avvocati e giornalisti, mentre le autorità reprimono ogni possibilità di esprimere dissenso, ad esempio interrompendo il servizio Internet e censurando le piattaforme di social media.

3. Ambito e autorità dell'Oversight Board

Il Board ha l'autorità di controllare la decisione di Meta dando seguito al ricorso della persona il cui contenuto è stato rimosso (articolo 2, sezione 1 dell'Atto costitutivo; articolo 3, sezione 1 dello Statuto).

Il Board può confermare o revocare la decisione di Meta (articolo 3, sezione 5 dell'Atto costitutivo) e la sua decisione è vincolante per l'azienda (articolo 4 dell'Atto costitutivo). Meta deve anche valutare la fattibilità dell'applicazione della sua decisione nel caso di contenuti identici in un contesto parallelo (articolo 4 dell'Atto costitutivo). Le decisioni del Board possono comprendere raccomandazioni non vincolanti cui Meta deve rispondere (articolo 3, sezione 4 dell'Atto costitutivo; articolo 4). Quando Meta si impegna ad adottare misure a seguito di raccomandazioni, il Board ne monitora l'implementazione.

Quando seleziona casi come quello in esame, dove Meta riconosce successivamente di aver commesso un errore, il Board controlla la decisione originaria per approfondire il processo di moderazione dei contenuti e formulare raccomandazioni per ridurre gli errori e far sì che gli utenti Facebook e Instagram siano trattati in modo più equo.

4. Fonti di autorità e indicazioni

L'analisi del Board del caso in questione si è basata sui seguenti standard e precedenti:

I. Decisioni dell'Oversight Board

Le decisioni precedenti più pertinenti dell'Oversight Board includono quanto segue:

• Invito alla protesta rivolto alle donne a Cuba
• Dichiarazione metaforica contro il Presidente del Perù
• Slogan di protesta in Iran
• Isolamento di Öcalan
• Sintomi del tumore al seno e nudo

II. Normative sui contenuti di Meta

L'analisi del Board si è ispirata all'impegno verso la libertà di espressione di Meta, che l'azienda descrive come "paramount" (essenziale), e i suoi valori di sicurezza, privacy e dignità.

Linee guida della community di Instagram

Nelle Linee guida della community di Instagram si dichiara che l'azienda "remove content that contains credible threats" (rimuoverà i contenuti con minacce credibili) e rimanda allo Standard della community Violenza e istigazione alla violenza. Le Linee guida della community non rimandano direttamente allo Standard della community Gestione degli atti di violenza e promozione di attività criminali. Il Report sull'applicazione degli Standard della community di Meta relativo al T1 2023 afferma che "Facebook and Instagram share Content Policies. This means that if content is considered violating on Facebook, it is also considered violating on Instagram" (Facebook e Instagram condividono le Normative sui contenuti. Ciò significa che se un contenuto risulta essere in violazione su Facebook, sarà in violazione anche su Instagram).

Il contenuto è stato rimosso ai sensi della normativa Violenza e istigazione alla violenza. Dopo che il Board ha selezionato il caso, Meta ha analizzato il contenuto anche ai sensi della normativa Gestione degli atti di violenza e promozione di attività criminali.

Standard della community in materia di violenza e istigazione alla violenza

In base ai fondamenti della normativa, lo Standard della community Violenza e istigazione alla violenza ha lo scopo di "prevent potential offline violence that may be related to content" (evitare potenziali violenze offline collegate con i contenuti sulle piattaforme di Meta). Allo stesso tempo, Meta riconosce che "people commonly express disdain or disagreement by threatening or calling for violence in non-serious ways" (le persone comunemente esprimono antipatia o disapprovazione minacciando o invitando all'uso della violenza in modi incidentali e non seri). Pertanto, Meta rimuove contenuti quando ritiene che contengano "[t]hreats of violence that could lead to death" (minacce di violenza che potrebbero causare la morte), compresi i contenuti che prendono di mira qualcuno con "statements of intent" (dichiarazioni che esprimo l'intenzione) di commettere un atto di "high-severity violence" (violenza molto grave). L'azienda afferma di considerare il contesto delle dichiarazioni per valutare se una minaccia è credibile o meno, ad esempio qualsiasi informazione aggiuntiva, come "public visibility and vulnerability of the target" (la visibilità pubblica e la vulnerabilità del destinatario del messaggio).

La sezione "do not post" (contenuti da non pubblicare) della normativa proibisce in modo specifico "threats of violence that could lead to death (and other forms of high-severity violence)" (le minacce di violenza che possono causare morte e altre forme di violenza molto grave). Il termine "threat" include "statements of intent" (dichiarazioni che esprimono l'intenzione) di commettere un atto di violenza molto grave.

Standard della community Gestione degli atti di violenza e promozione di attività criminali

In base ai fondamenti della normativa, lo Standard della community Gestione degli atti di violenza e promozione di attività criminali ha lo scopo di "disrupt offline harm and copycat behavior" (contrastare la violenza offline e i comportamenti emulativi) vietando alle persone di "facilitating, organizing, promoting or admitting to certain criminal or harmful activities targeted at people, businesses, property or animals" (agevolare, organizzare, promuovere o tollerare determinate attività criminali o lesive che prendono di mira persone, aziende, proprietà o animali). Ciò include l'"outing" (la divulgazione dell'identità) che Meta definisce come contenuti che rivelano identità o luoghi ricollegabili a soggetti che si ritiene, tra l'altro, "be a member of an outing-risk group" (siano membri di un gruppo a rischio in caso di divulgazione dell'identità). Questa disposizione della normativa è applicata dai moderatori su vasta scala in relazione a determinati gruppi specifici. Riguardo l'escalation con contesto aggiuntivo, al momento in cui il contenuto è stato pubblicato, la normativa di Meta affermava che l'azienda può anche rimuovere: "content that puts unveiled women at risk by revealing their images without [a] veil against their will or without permission" (contenuti che mettono in pericolo le donne diffondendone immagini di nudo contro la loro volontà o senza la loro autorizzazione). Il contenuto è stato successivamente modificato per proibire "outing [unveiled women]: exposing the identity of a person and putting them at risk of harm" (la divulgazione dell'identità [delle donne a volto scoperto]: esposizione dell'identità di una persona mettendola in pericolo).

III. Responsabilità di Meta in materia di diritti umani

I principi guida delle Nazioni Unite (UNGP) su imprese e diritti umani, promossi nel 2011 dal Consiglio per i diritti umani delle Nazioni Unite, stabiliscono un quadro normativo volontario per le responsabilità delle aziende private in materia di diritti umani. La Normativa aziendale sui diritti umani di Meta, annunciata il 16 marzo 2021, ha confermato l'impegno dell'azienda nel rispettare i diritti previsti dai principi guida delle Nazioni Unite.

I seguenti standard internazionali possono essere rilevanti per l'analisi del Board sulle responsabilità di Meta in materia di diritti umani per il caso in oggetto:

• Il diritto alla libertà di espressione: articolo 19 della Convenzione internazionale sui diritti civili e politici (ICCPR), Commento generale 34, Comitato per i Diritti Umani (2011); i report del Relatore speciale delle Nazioni Unite sulla libertà di opinione ed espressione: A/HRC/38/35 (2018) e A/74/486 (2019); Piano d'azione di Rabat, report dell'Alto commissariato delle Nazioni Unite per i diritti umani: A/HRC/22/17/Add.4 (2013).
• Libertà di riunione pacifica: articolo 21 dell'ICCPR; Commento generale n. 37 del Comitato per i Diritti Umani, 2020.
• Il diritto alla vita: articolo 6 dell'ICCPR.
• Il diritto alla libertà e alla sicurezza della persona: articolo 9 dell'ICCPR.
• Il diritto alla non discriminazione: articoli 2(1), 3 e 26 dell'ICCPR; articolo 1 e articolo 7 (non discriminazione nella partecipazione alla vita politica e pubblica del Paese), Convenzione per l'eliminazione di ogni forma di discriminazione nei confronti delle donne (CEDAW). Si veda anche Dichiarazione sui difensori dei diritti dell'uomo, articolo 8, diritto all'accesso effettivo, senza discriminazioni, alla partecipazione all'attività pubblica.
• Il diritto alla privacy: articolo 17, ICCPR.

5. Osservazioni degli utenti

L'utente che aveva pubblicato il contenuto ha inviato un ricorso al Board contro la decisione di rimuovere il post. Nella dichiarazione, l'utente ha spiegato che il post mostrava un rappresentante del governo iraniano assalire una donna per non aver indossato l'hijab. L'utente ha affermato che il video mostra il coraggio della donna iraniana che rivendica i propri diritti. L'utente ha affermato che altri avevano condiviso video simili sui social media e che il contenuto non era pericoloso o dannoso e non era in violazione di nessuna delle normative di Instagram.

6. Osservazioni di Meta

Standard della community in materia di violenza e istigazione alla violenza

Meta ha riferito al Board di aver preso la decisione iniziale di rimuovere il contenuto del caso in oggetto in base alla normativa Violenza e istigazione alla violenza. Ha spiegato che la sua decisione si era basata su parte della didascalia del post, che l'azienda aveva tradotto come: "it is not far to make you into pieces" (presto ti faremo a pezzi). L'azienda ha interpretato questo passaggio come rivolto all'uomo del video che aveva assalito la donna per non aver indossato l'hijab. Il team regionale ha determinato che la frase "make you into pieces" (ti faremo a pezzi) costituiva una minaccia di violenza fisica nel contesto iraniano. Considerando questa interpretazione, Meta inizialmente ha confermato la decisione di rimuovere il contenuto ai sensi della normativa Violenza e istigazione alla violenza.

Sebbene inizialmente Meta avesse confermato la propria decisione di rimuovere il contenuto quando il Board ha individuato il caso per sottoporlo a controllo legale, l'azienda ha successivamente cambiato idea dopo che il Board ha selezionato questo caso e ripristinato il contenuto sulla base di ulteriori input pervenuti dal team regionale. In base a questi input, Meta ha concluso che l'interpretazione più probabile del contenuto della didascalia fosse un riferimento a smantellare il regime iraniano o a ostacolare le persone che sostengono l'obbligatorietà dell'hijab, piuttosto che una minaccia intesa in senso letterale rivolta all'uomo del video.

Nel controllo finale, Meta ha concluso che il contenuto avesse lo scopo di sensibilizzare le persone e richiamare l'attenzione sugli abusi commessi contro le donne, come nel caso della donna assalita dall'uomo del video per non aver indossato l'hijab. L'utente fa riferimento alla forza delle donne iraniane e critica la "bastardness" (illegittimità) dell'uomo ripreso nel video o del regime nel complesso, e sensibilizza il pubblico sull'arresto ai danni della donna del video. Meta ha spiegato che il linguaggio potenzialmente minaccioso deve essere letto e interpretato alla luce del contesto generale. Questo tipo di sensibilizzazione, come indicato nei fondamenti della normativa da Meta citando la decisione del Board nel caso Slogan di protesta in Iran, è particolarmente importante in Iran dove le manifestazioni per la libertà di espressione sono limitate.

Inoltre, Meta aveva informato il Board che, dopo ulteriori ricerche, i team regionali avevano suggerito che l'interpretazione più plausibile del testo "it is not far to make you into pieces" (presto ti faremo a pezzi) non costituisse una minaccia reale, ma piuttosto una critica politica nei confronti sia del regime nel complesso che, più in generale, di chi sostiene l'obbligo dell'hijab. Mentre "make you into pieces" (ti faremo a pezzi) in generale si riferisce all'uccisione di una persona facendone a pezzi il corpo, qui deve essere interpretato come smantellamento del regime (analogamente al linguaggio metaforico usato nella decisione riassuntiva Dichiarazione metaforica contro il Presidente del Perù).

Meta ha riferito al Board che un altro fattore che in ultima analisi ha contribuito alla decisione di ripristinare il contenuto è la recente decisione del Board sul caso Invito alla protesta rivolto alle donne a Cuba, in cui il Board aveva sottolineato che la lettura contestuale di un post deve prendere in considerazione l'ondata di repressione da parte del governo e il significativo interesse pubblico nelle proteste di rilevanza storica che erano oggetto del post. Inoltre, l'azienda ha preso in considerazione il caso Slogan di protesta in Iran, in cui il Board ha analizzato il movimento politico sui diritti delle donne in Iran. In quel caso, il Board aveva sottolineato l'importanza di proteggere la libertà di espressione in un contesto di movimento di protesta, in particolare alla luce della sistematica repressione delle libertà di espressione da parte del governo iraniano senza tralasciare l'importanza degli spazi digitali usati come forum in cui esprimere il proprio dissenso. Inoltre, l'azienda ha evidenziato di aver considerato la decisione riepilogativa recente del Board nella Dichiarazione metaforica contro il Presidente del Perù, in cui era stata nuovamente sottolineata "importance of designing context-sensitive moderation systems with awareness to irony, satire or rhetorical discourse, especially to protect political speech" (l'importanza di progettare sistemi di moderazione in base ai contenuti tenendo conto dell'ironia, della satira o del discorso retorico, soprattutto per proteggere il discorso politico).

Standard della community Gestione degli atti di violenza e promozione di attività criminali

Meta ha riferito al Board di aver valutato la rimozione del contenuto anche per aver involontariamente divulgato l'identità della donna mostrata nel video a volto scoperto, ai sensi dello Standard della community Gestione degli atti di violenza e promozione di attività criminali. Meta applica questa disposizione della normativa solo in caso di escalation e se viene fornito ulteriore contesto. Per l'applicazione della normativa, il cui obiettivo è quello di determinare se il contenuto che raffigura la donna a volto scoperto, rivelandone l'identità senza la sua autorizzazione, possa esporla a rischi di violenza, più dei termini specifici usati o del tono della didascalia o del contenuto, sono necessari ulteriori input da parte di stakeholder pertinenti. Meta osserva che la violazione non sussiste nel caso di una persona che divulga la propria identità: la normativa è violata nel caso di divulgazione involontaria.

Nel caso in oggetto, Meta ha stabilito che il contenuto non dovesse essere rimosso per divulgazione dell'identità involontaria, perché l'identità della donna era già ampiamente nota e disponibile online, ed era già stata arrestata al momento della pubblicazione del contenuto del caso. Tale contesto ha diminuito in modo significativo il pericolo di violenza associato alla decisione di lasciare il contenuto sulla piattaforma.

Il Board ha posto a Meta 11 domande per iscritto più due di approfondimento. Le domande riguardavano l'applicazione delle procedure e risorse per l'Iran, la valutazione dei rischi di Meta per l'Iran in generale e per la donna del video nello specifico, i processi del controllo automatizzato e umano, l'applicazione della normativa sui contenuti che raffigurano donne a volto scoperto e l'identificazione di un gruppo a rischio, su larga scala e tramite procedura di escalation. Meta ha risposto a tutte le domande.

7. Commenti pubblici

L'Oversight Board ha ricevuto 12 commenti pubblici pertinenti al caso in oggetto. Sette sono stati inviati da Stati Uniti e Canada, due dall'Asia centrale e meridionale, due dall'Europa e uno da Medio Oriente e Nord Africa.

I commenti inviati riguardavano i seguenti temi: il ruolo dei social media nelle proteste in Iran, compreso il movimento "Woman, Life, Freedom" (Donna, vita, libertà) e il ruolo delle immagini delle donne a volto scoperto nelle campagne digitali; i rischi legati alla circolazione di immagini che mostrano donne a volto scoperto in Iran sui social media; l'uso dei social media da parte delle autorità iraniane; l'applicazione delle normative di moderazione di Meta alle espressioni in lingua persiana correlate alla situazione politica in Iran; libertà di espressione, diritti umani, diritti delle donne, atti di repressione da parte del governo e blocchi dei social media in Iran.

I commenti pubblici inviati per il caso in oggetto sono disponibili qui.

8. Analisi dell'Oversight Board

Il Board ha esaminato la decisione originaria di Meta di rimuovere il contenuto ai sensi delle normative sui contenuti e delle responsabilità in materia di diritti umani dell'azienda.

Il Board ha selezionato questo caso perché offriva l'opportunità di esaminare le normative Violenza e istigazione alla violenza e Gestione degli atti di violenza e promozione di attività criminali di Meta, come pure i relativi processi di applicazione nel contesto delle proteste di massa in favore dei diritti delle donne e della loro partecipazione alla vita pubblica sorte in Iran da settembre 2022. In particolare, il caso sottolinea l'importanza delle piattaforme di social media per le persone che protestano contro le regole che obbligano a indossare l'hijab.

Inoltre, il caso fornisce al Board l'opportunità di analizzare le procedure interne di Meta che determinano quando e perché il linguaggio figurato è interpretato come minaccia se inteso letteralmente, ma che in considerazione del contesto non debba essere ritenuto tale. Il caso rientra principalmente nella priorità concessa alle elezioni e allo spazio civico dal Board, ma riguarda anche le priorità del Board per genere, utilizzo delle piattaforme di Meta da parte del governo e situazioni di emergenza e conflitto.

8.1 Conformità con le normative sui contenuti di Meta

Standard della community in materia di violenza e istigazione alla violenza

Il Board ritiene che il contenuto del caso in oggetto non violi lo Standard della community Violenza e istigazione alla violenza, poiché contiene linguaggio figurato, che esprime rabbia nei confronti degli atti di repressione da parte del governo, piuttosto che un significato letterale traducibile in una minaccia di violenza credibile.

Meta ha spiegato di aver originariamente rimosso il contenuto del caso in oggetto perché conteneva "a statement of intent to commit high-severity violence" (una dichiarazione che esprime l'intenzione di commettere un atto di violenza molto grave). L'azienda definisce la violenza molto grave come una minaccia che può essere letale o che potrebbe potenzialmente essere letale.

In base alla valutazione del team regionale, Meta ha interpretato la frase della didascalia del post, "it is not far to make you into pieces" (presto ti faremo a pezzi), come una minaccia di violenza fisica nel contesto iraniano e pertanto in violazione della normativa Violenza e istigazione alla violenza.

I linguisti esperti interpellati dal Board hanno spiegato che la parte rilevante della didascalia può essere tradotta come "we will tear you to pieces sometime soon!" (presto finirai in pezzi) o "it is not far away, we will rip you into shreds" (non è lontano il giorno in cui sarai ridotto in brandelli). Gli esperti hanno sottolineato che la frase nel contesto iraniano trasmette rabbia, delusione e sdegno nei confronti degli oppressori, e suggerisce l'idea che la situazione potrebbe cambiare perché gli oppressori non rimarranno al potere in eterno. La frase non dovrebbe essere interpretata letteralmente come intenzione di causare danni fisici; piuttosto, si tratta di una "rhetorical statement" (affermazione retorica) che ha lo scopo di attirare l'attenzione, enfatizzata dal linguaggio emotivo caratterizzato da verbi che rimandano all'uso della forza come "tear" (fare a pezzi) o "rip into pieces/shreds" (ridurre in brandelli). Gli esperti hanno evidenziato che questo linguaggio figurato rispecchia il sentimento di rabbia profonda condiviso dall'utente che ha pubblicato il contenuto e dal suo pubblico. Pertanto, non sottintende una minaccia di violenza fisica reale.

Sebbene Meta abbia riferito al Board di aver considerato anche il contesto della dichiarazione per valutare se la minaccia fosse credibile o meno, le linee guida fornite ai moderatori non indicano che essi possano considerare il contesto per valutare se "statement of intent [to commit] high-severity violence"(una dichiarazione esprime l'intenzione di commettere un atto di violenza molto grave). Fintantoché gli elementi della regola trovano riscontro, specialmente se il contenuto contiene una minaccia e un destinatario, il post è ritenuto in violazione, come in questo caso. Nel caso in oggetto, Meta aveva interpretato l'affermazione come indirizzata all'uomo che seguiva la donna. In base alla regola non è necessario che il destinatario della minaccia sia visibile o identificabile. Le regole forniscono solamente un esempio di discorso contenente minacce che è esente dall'applicazione o non è considerato come minaccia credibile: "threats directed against certain violent actors, like terrorist groups" (le minacce rivolte contro alcuni attori violenti, come i gruppi terroristici).

La frase "make you into pieces" (ti faremo a pezzi) qui non costituisce una minaccia credibile. Considerato il contestuale periodo di disordini, di crescente violenza e repressione contro i contestatori del regime in Iran, e considerata la didascalia e il video nel complesso, il Board ritiene che il linguaggio usato nella frase fosse figurato, e non letterale, e che esprimesse rabbia e costernazione per il regime, pertanto non costituiva "statement of intent [to commit] high-severity violence" (una dichiarazione che esprime l'intenzione di commettere un atto di violenza molto grave). Questa interpretazione è coerente con l'impegno di Meta per la libertà di espressione e l'importanza di proteggere l'espressione di dissenso politico.

Standard della community Gestione degli atti di violenza e promozione di attività criminali

Il Board ritiene che il contenuto del caso in oggetto non violi lo Standard della community Gestione degli atti di violenza e promozione di attività criminali.

Meta ha valutato di dover rimuovere il post ai sensi della regola che proibisce "content that puts unveiled women at risk by revealing their images without [a] veil against their will or without permission" (contenuti che mettono in pericolo le donne diffondendone immagini di nudo contro la loro volontà o senza la loro autorizzazione). La normativa è stata successivamente modificata per proibire "Outing [unveiled women]: exposing the identity of a person and putting them at risk of harm" (la divulgazione dell'identità [delle donne a volto scoperto]: esposizione dell'identità di una persona mettendola in pericolo). Nella comprensione dell'azienda, l'espressione "outing" (divulgazione dell'identità) include contenuti che condividono l'immagine di una donna a volto scoperto, rivelandone l'identità senza la sua autorizzazione e mettendola in pericolo. Questa disposizione della normativa è applicata solo tramite escalation e per essere applicata è necessario l'input da parte di vari stakeholder (si veda la Sezione 4 in alto).

Nel caso in oggetto, il Board concorda con Meta che il contenuto non divulga l'identità della donna, perché l'identità della donna era già ampiamente nota, e che il rischio di violenza derivante dal contenuto era diminuito, perché era già stata arrestata al momento della pubblicazione del contenuto. Pertanto, la permanenza del video sulla piattaforma non avrebbe aumentato significativamente il livello di pericolo per la donna e avrebbe potuto di fatto accrescere la sensibilizzazione sul caso. Determinare se un post divulghi o meno l'identità di una donna mettendola in pericolo dipende soprattutto dal contesto; l'applicazione della normativa solo tramite escalation può garantire che il team incaricato della sua applicazione abbia il tempo e le risorse per identificare e valutare efficacemente il contesto pertinente.

8.2 Conformità con le responsabilità di Meta in materia di diritti umani

Il Board ritiene che la rimozione del contenuto dalla piattaforma non sia coerente con le responsabilità di Meta in materia di diritti umani.

Libertà di espressione (articolo 19 dell'ICCPR)

L'articolo 19 dell'ICCPR garantisce ampia tutela alla libertà di espressione, compresa la "freedom to seek, receive and impart information and ideas of all kinds, regardless of frontiers, either orally, in writing or in print, in the form of art, or through any other media of his choice" (libertà di cercare, ricevere e diffondere informazioni e idee di ogni genere, senza riguardo a frontiere, oralmente, per iscritto, attraverso la stampa, in forma artistica o attraverso qualsiasi altro mezzo di sua scelta). Quando le limitazioni alla libertà di espressione sono imposte da uno Stato, devono soddisfare i requisiti di legalità, fine legittimo, necessità e proporzionalità (articolo 19, paragrafo 3 dell'ICCPR). Il Board utilizza questo framework per interpretare gli impegni volontari di Meta in materia di diritti, sia per quanto riguarda la singola decisione sul contenuto oggetto di controllo sia per quanto riguarda il più ampio approccio di Meta alla governance dei contenuti. Come dichiarato dal Relatore speciale delle Nazioni Unite sulla libertà di espressione, sebbene "companies do not have the obligations of Governments, their impact is of a sort that requires them to assess the same kind of questions about protecting their users’ right to freedom of expression" (le aziende non abbiano gli stessi obblighi dei governi, hanno un impatto che richiede loro di valutare lo stesso tipo di domande sulla protezione del diritto alla libertà di espressione dei propri utenti) (A/74/486, paragrafo 41).

L'accesso ai social media risulta fondamentale in una società chiusa come quella dell'Iran. Come "digital gatekeepers" (gatekeeper digitali), le piattaforme di social media hanno un "profound impact" (forte impatto) sull'accesso pubblico alle informazioni (A/HRC/50/29, paragrafo 90). Il post del caso in oggetto fa parte di un movimento di protesta più ampio che conta sugli spazi pubblici digitali per sopravvivere. Le leggi che stabiliscono come le donne devono vestirsi incidono sulla libertà e sulla dignità delle donne (A/68/290, paragrafo 38), sia che tali leggi cerchino di vietare di indossare un velo sia che vietino di recarsi in luoghi pubblici senza velo (si veda ad esempio, Yaker v France, CCPR/C/123/D/2747/2016). A tale riguardo, "the Internet has become the new battleground in the struggle for women’s rights, amplifying opportunities for women to express themselves" (Internet è diventato il nuovo campo di battaglia in cui lottare per i diritti delle donne, amplificando le opportunità di espressione per le donne) (A/76/258 paragrafo 4). Potenziare la libertà di espressione delle donne consente loro di partecipare alla vita politica e di prendere coscienza dei propri diritti umani (A/HRC/Res/23/2, paragrafi 1-2; A/76/258, paragrafo 5).

I. Legalità (chiarezza e accessibilità delle norme)

Il principio di legalità richiede che qualunque restrizione della libertà di espressione sia conforme a una regola stabilita, accessibile e chiara agli utenti. La regola deve essere "formulated with sufficient precision to enable an individual to regulate his or her conduct accordingly and it must be accessible to the public" (formulata in maniera sufficientemente precisa da consentire alle persone di regolare la propria condotta di conseguenza e deve essere accessibile pubblicamente), (Commento generale n. 34, paragrafo 25). Inoltre, le regole che limitano la libertà di espressione "may not confer unfettered discretion for the restriction of freedom of expression on those charged with [their] execution" (non possono conferire una discrezionalità illimitata nella limitazione della libertà di espressione ai responsabili della [relativa] applicazione) e devono "provide sufficient guidance to those charged with their execution to enable them to ascertain what sorts of expression are properly restricted and what sorts are not" (fornire indicazioni sufficienti ai responsabili della relativa applicazione per consentire loro di accertare quali forme di libertà di espressione sono correttamente limitate e quali non lo sono), (Commento generale n. 34, paragrafo 25; A/HRC/38/35 (undocs.org), paragrafo 46). La mancanza di chiarezza o precisione può provocare un'applicazione delle normative incoerente e arbitraria. In riferimento a Meta, gli utenti dovrebbero essere in grado di prevedere le conseguenze della pubblicazione di contenuti su Facebook e Instagram, mentre gli addetti al controllo dei contenuti devono avere indicazioni chiare sulla relativa applicazione.

Standard della community in materia di violenza e istigazione alla violenza

Il Board ritiene che mentre i fondamenti della normativa (che esprimono lo scopo dello Standard della community, ma non fanno parte della regola stessa) dello Standard della community Violenza e istigazione alla violenza suggeriscono che "context matters" (il contesto è importante) e di considerarlo durante la valutazione di una "credible threat" (minaccia credibile), le linee guida interne di Meta e l'approccio alla moderazione nella pratica non lo consentono. Come sottolineato dal Board nel caso Slogan di protesta in Iran, i moderatori di contenuti su larga scala hanno il compito di individuare criteri o elementi specifici nel post, e una volta riscontrati tali elementi, devono rimuovere il post. In altre parole, se il post contiene una minaccia, ad esempio l'espressione "kill" (uccidere) o "I will tear you into pieces" (fare a pezzi) e un destinatario della minaccia, ne consegue la rimozione. I moderatori dei contenuti non hanno la facoltà di valutare se una minaccia sia credibile o meno. Come ha inoltre spiegato Meta relativamente al caso in oggetto, l'uso di un approccio meccanico o basato su formule è dovuto al fatto che "assessing whether [a phrase] constitutes rhetorical speech as opposed to a credible threat is challenging, particularly at scale" (è complesso valutare se [una frase] costituisca un discorso retorico e non una minaccia credibile, soprattutto su larga scala). La valutazione della credibilità delle minacce viene presa in considerazione nella creazione delle regole e non nella loro applicazione. Come indicato dal Board nel caso Slogan di protesta in Iran, mentre "policy rationale appears to accommodate rhetorical speech of the kind that might be expected in protests contexts, the written rules and corresponding guidance to reviewers do not. Indeed, enforcement in practice, in particular at-scale, is more formulaic than the rules imply, and this may create misperceptions to users of how rules are likely to be enforced. The guidance to reviewers, as currently drafted, exclude[s] the possibility of contextual analysis, even when there are clear cues within the content itself that threatening language is rhetorical" (i fondamenti della normativa sembrano consentire discorso retorico del tipo che ci si può aspettare nei contesti di protesta, le regole scritte e le indicazioni corrispondenti per gli addetti al controllo non lo prevedono. Infatti, nella pratica l'applicazione, specie su larga scala, è più soggetta a formule di quanto previsto nelle regole stesse e questo potrebbe creare percezioni sbagliate negli utenti di come le regole vengono tendenzialmente applicate. Le indicazioni per gli addetti al controllo, nel modo in cui sono attualmente redatte, escludono la possibilità di analisi contestuale, anche quando ci sono segnali chiari all'interno del contenuto stesso che dimostrano che il linguaggio minaccioso è retorico). Questo disallineamento tra i fondamenti della normativa sostenuti dall'azienda e le reali pratiche di applicazione persiste e non rispetta in modo adeguato il principio di legalità.

Il Board ribadisce le proprie conclusioni sul caso Slogan di protesta in Iran per cui Meta dovrebbe fornire linee guida articolate su come tenere conto del contesto, per aiutare i moderatori a evitare la rimozione automatica di contenuti "rhetorical" (retorici) o dal significato non letterale che esprimono dissenso, in particolare in contesti politici sensibili, come quello dell'Iran.

Standard della community Gestione degli atti di violenza e promozione di attività criminali

Il Board ritiene che il divieto di Meta relativo ai "content that puts unveiled women at risk by revealing their images without [a] veil against their will or without permission" (contenuti che mettono in pericolo le donne diffondendone immagini di nudo contro la loro volontà o senza la loro autorizzazione) sia sufficientemente chiaro, come applicato al caso in oggetto. Chiarisce che i contenuti che divulgano l'identità di donne a volto scoperto e che potrebbero generare violenza sono proibiti sulle piattaforme di Meta. Tuttavia, il Board sottolinea la propria preoccupazione relativamente al fatto che le Linee guida della community di Instagram non rimandano direttamente allo Standard della community Gestione degli atti di violenza e promozione di attività criminali. Ciò compromette l'accessibilità degli utenti Instagram alle regole. Nei casi precedenti (Sintomi del tumore al seno e nudo, Isolamento di Öcalan), il Board aveva raccomandato a Meta di chiarire pubblicamente agli utenti la modalità di applicazione degli Standard della community di Facebook a Instagram. Nell'adempimento a questa richiesta, Meta ha intrapreso un processo per unificare gli Standard della community e le Linee guida della community di Instagram e per specificare le eventuali differenze anche minime tra le piattaforme. Nei successivi report trimestrali sulla trasparenza, Meta ha garantito al Board la priorità di tale impegno, sottolineando come le considerazione legali e regolatorie abbiano influito sulle tempistiche. Il Board ribadisce l'importanza di agire rapidamente per completare questo processo e di garantire maggiore chiarezza per le regole vigenti.

II. Fine legittimo

Ai sensi dell'articolo 19, paragrafo 3 dell'ICCPR, la libertà di espressione può essere limitata per un elenco definito e limitato di motivi, tra cui la protezione dei diritti altrui. Nel caso in oggetto, il Board ritiene che lo Standard della community Violenza e istigazione alla violenza ha lo scopo di "prevent potential offline harm" (impedire possibile violenza offline) rimuovendo contenuti che creano "a genuine risk of physical harm or direct threats to public safety" (un reale rischio di violenza fisica o minacce dirette alla sicurezza pubblica). Questa normativa serve pertanto lo scopo legittimo di proteggere il diritto alla vita (articolo 6 dell'ICCPR) e il diritto alla sicurezza fisica della persona (articolo 9 dell'ICCPR; Commento generale n. 35, paragrafo 9).

La normativa Gestione degli atti di violenza e promozione di attività criminali persegue il fine legittimo di proteggere i diritti delle donne in Iran alla non discriminazione (articoli 2, 3 e 26 dell'ICCPR; articoli 1 e 7, CEDAW), tra cui la fruizione dei diritti di libertà di espressione e di riunione (articoli 19 e 21 dell'ICCPR), diritto di partecipazione alla vita pubblica (articoli 1 e 7, CEDAW), diritto alla privacy (articolo 17 dell'ICCPR) e diritti alla vita (articoli 6 dell'ICCPR) e alla libertà e sicurezza della persona (articolo 9 dell'ICCPR).

III. Necessità e proporzionalità

Qualsiasi limitazione alla libertà di espressione "must be appropriate to achieve their protective function; they must be the least intrusive instrument amongst those which might achieve their protective function; they must be proportionate to the interest to be protected" (deve essere appropriata per svolgere la propria funzione protettiva; deve essere lo strumento meno invasivo tra quelli che potrebbero svolgere la loro funzione protettiva; deve essere proporzionata all'interesse da tutelare) (Commento generale n. 34, paragrafo 34). Le aziende di social media devono considerare una serie di possibili risposte a un contenuto problematico a parte l'eliminazione per garantire che le limitazioni siano altamente specifiche (A/74/486, paragrafo 51).

Standard della community in materia di violenza e istigazione alla violenza

Il Board ritiene che la decisione iniziale di Meta di rimuovere il contenuto in questo caso non fosse necessaria. Non era necessario proteggere la sicurezza della persona che aveva girato il video o di altri, perché la minaccia menzionata nella didascalia del post non aveva un significato letterale. Il Board teme che anche dopo aver fornito indicazioni sul caso Slogan di protesta in Iran, gli Standard della community e le linee guida per i moderatori lascino ancora spazio a un'applicazione incoerente in materia di minacce figurate (non letterali), nonostante la situazione di proteste in corso ormai da più di un anno in Iran. In tale caso, proprio come in questo, Meta non è riuscita a individuare il significato non letterale di una frase espressa come minaccia. La persistente mancanza di indicazioni adeguate è ulteriormente evidenziata dal fatto che nonostante il contenuto del caso in oggetto fosse stato controllato da più moderatori su vasta scala e da team interni di Meta, è stato ripetutamente reputato in violazione.

Nell'ambito della sua analisi, il Board si è basato sui sei fattori del Piano d'azione di Rabat per valutare la capacità del contenuto del caso in oggetto di comportare un grave rischio di incitamento alla discriminazione, alla violenza o ad altre azioni illegali. Il Board indica che mentre i fattori di Rabat sono stati sviluppati per evitare i casi di sostegno all'odio nazionale, razziale o religioso che costituisce incitamento alla violenza, e non per l'incitamento in modo generico, il test a sei fattori è utile per valutare l'incitamento in termini generici, e il Board l'ha già usato in questo modo (si veda ad esempio, Slogan di protesta in Iran e Invito alla protesta rivolto alle donne a Cuba):

• Contesto: il contenuto è stato pubblicato a luglio 2023, durante un periodo di disordini, di crescente violenza e repressione contro i contestatori del regime. Le possibilità per protestare all'interno del Paese sono limitate, considerando la massiccia interruzione di Internet e il blocco delle principali piattaforme di social media, come Facebook, Telegram e X. Poiché Instagram è una delle poche piattaforme rimaste, il suo ruolo nel movimento "Woman, Life, Freedom" (Donna, vita, libertà) è incommensurabile. Gli esperti interpellati dal Board hanno sottolineato che il movimento ha l'obiettivo di normalizzare le proteste e le ribellioni a dispetto di quattro decadi di leggi discriminatorie contro le donne. Gli esperti hanno osservato che le tendenze principali dall'inizio del movimento sono state di spaventare e mettere a tacere le donne online. Nuove leggi e arresti di alto profilo hanno lo scopo di arginare queste espressioni di protesa e di fermare la tendenza a normalizzare la ribellione contro le leggi che obbligano all'uso dell'hijab.
• Identità dell'autore: Meta ha riferito al Board di non aver considerato l'utente che aveva pubblicato il contenuto come personaggio pubblico. In base alla didascalia del video, l'utente sembra essere un sostenitore o un membro del movimento "Woman, Life, Freedom" (Donna, vita, libertà). Pertanto, l'autore in questo caso non detiene una posizione di autorità e potenzialmente mette a rischio la propria sicurezza esprimendo supporto alla causa e pubblicando questo contenuto.
• Intenzione: mentre la valutazione delle intenzioni presenta una sfida significativa nella moderazione del contenuto su vasta scala, una lettura ordinaria e obiettiva dell'intero post indica sostegno alla donna raffigurata e sensibilizzazione sul tema del suo arresto. Secondo gli esperti interpellati dal Board, accade comunemente che gli oppositori al regime iraniano facciano circolare l'immagine di donne a volto scoperto con nome e data dell'arresto, per indurre le autorità a non fare loro del male. Gli oppositori hanno capito che rendendo pubbliche le storie di queste persone riescono a impedire il protrarsi delle persecuzioni ai danni delle vittime.
• Contenuto e forma di espressione: secondo i linguisti esperti interpellati dal Board, la frase "make you into pieces" (ti faremo a pezzi) in questo contesto sarebbe compresa dagli utenti di lingua persiana come espressione di un profondo stato emotivo, ad esempio rabbia e delusione, ma non come una minaccia di violenza in senso letterale. Il linguaggio apparentemente minaccioso che fa uso di espressioni che rimandano all'uso della forza è stato regolarmente usato dal movimento per denunciare apertamente il regime. Nel caso Slogan di protesta in Iran, il Board ha ritenuto che lo slogan "Death to Khamenei" (A morte Khamenei) costituisse una "rhetorical threat" (minaccia retorica) e ha indicato come Meta avesse formulato l'eccezione "spirit of the policy" (spirito della normativa) per la frase "I will kill whoever kills my sister/brother" (ucciderò chiunque abbia ucciso mia sorella/mio fratello) per ragioni simili. La frase in questo caso, a metà della didascalia sembra elogiare la donna che rivendica i propri diritti. La didascalia, considerata nella sua interezza, esprime sostegno alle donne iraniane che protestano contro le leggi discriminatorie e le pratiche abusive del regime.
• Portata e copertura: il post ha registrato circa 47.000 visualizzazioni, 2.000 "Mi piace", 100 commenti e 50 condivisioni. Considerando che non sembra che il contenuto costituisca istigazione alla violenza tenendo presenti gli altri fattori dell'analisi di Rabat, la copertura elevata del contenuto in sé non è un fattore che indica che la rimozione fosse necessaria.
• Probabilità e imminenza: tale fattore valuta la probabilità con cui un discorso può innescare un pericolo imminente contro il suo potenziale destinatario, che nel caso in poggetto era il regime. Il movimento di protesta, e i suoi sostenitori, si oppongono al regime che fa continuamente uso di repressione violenta e rappresaglie contro gli oppositori. La forma di violenza più probabile che può risultare dal discorso riportato nel caso in oggetto è la possibilità di rappresaglie da parte del regime ai danni dell'utente che ha pubblicato il contenuto o della donna che appare nel video piuttosto che atti di violenza contro il regime e i suoi sostenitori. Gli esperti hanno sottolineato i pericoli cui incorrono le persone che partecipano a queste proteste, e la resistenza del movimento nonostante le minacce di violenza incombente. Hanno inoltre affermato che lo scopo di far circolare le immagini di donne a volto scoperto che sono state arrestate è quello di richiamare l'attenzione sull'arresto e di indurre le autorità a non fare loro del male.

In base alle analisi dei fattori menzionati sopra, il Board ritiene che il contenuto non costituisse una minaccia credibile e che non fosse atto a istigare violenza offline. Quando viene usato un linguaggio figurato nel contesto di forti proteste punite da atti di repressione violenti, Meta deve consentire agli addetti al controllo di valutare il linguaggio e il contesto locali, uniformando le indicazioni per i moderatori ai fondamenti della normativa di riferimento. Per migliorare la moderazione in contesti di emergenza più generali, è fondamentale garantire una valutazione accurata del linguaggio del post, stabilendo pertanto se si tratta di "figurative speech" (linguaggio figurato) o se ha la capacità di istigare alla violenza. La precisione dell'automazione sarà influenzata dalla qualità dei dati di addestramento forniti dai moderatori umani. L'errore di rimozione di contenuti dal linguaggio "figurative" (figurato), dovuto a una rigida applicazione delle regole da parte di moderatori umani, rischia di essere riprodotto e amplificato nei meccanismi di automazione.

Il Board sottolinea che Meta dispone di diversi meccanismi per adeguare le proprie normative e la loro applicazione durante le situazioni di emergenza, compresi il sistema di classificazione dei Paesi "at risk" (a rischio) e il Protocollo normativo per le situazioni di emergenza. Il sistema di classificazione dei Paesi "at risk" (a rischio) viene usato per identificare Paesi a rischio di "offline harm and violence" (violenze offline) al fine di consentire all'azienda di determinare come dare priorità allo sviluppo di prodotti o all'investimento delle risorse. La valutazione può anche essere considerata per altri processi (ad esempio, per decidere se mettere in piedi un team operativo dedicato o se attivare il Protocollo normativo per le situazioni di emergenza o meno). Meta ha informato il Board che per la seconda metà del 2023, l'Iran è stato designato come "at risk country" (Paese a rischio). Inoltre, l'Iran è stato designato nel Protocollo normativo per le situazioni di emergenza dal 21 settembre 2022, e lo è tuttora. Il Protocollo normativo per le situazioni di emergenza consente a Meta di apportare alcune modifiche temporanee, note come "leve della normativa" per fare fronte a casi particolari. Meta ha fornito alcuni esempi di leve delle normative già usate in Iran, compresa "an allowance to permit content that includes the slogan 'I will kill whoever kills my sister/brother' or its derivatives, absent other violations of our policies" (un'eccezione per consentire contenuti che includono lo slogan 'ucciderò chiunque abbia ucciso mia sorella/mio fratello' o derivazioni, in assenza di altre violazioni delle nostre normative) (per ulteriori esempi di leve delle normative, si veda Verbali del Policy Forum, 25 gennaio 2022, Protocollo normativo per le situazioni di emergenza).

Sebbene il Board riconosca l'impegno dell'azienda per la sicurezza e gli sforzi attuati per mitigare i possibili rischi nella moderazione dei contenuti mediante l'attivazione del Protocollo normativo per le situazioni di emergenza per l'Iran, questi sono stati insufficienti per garantire il rispetto per la libertà di espressione e di riunione delle persone in un ambiente di tensioni sociali in cui la repressione del dissenso è sistematica. La ricerca commissionata dal Board indica che la stragrande maggioranza di contenuti che raffigurano donne a volto scoperto, nel contesto del dibattito sull'obbligo di indossare l'hijab in Iran sulle piattaforme di Meta, sono condivisi o in supporto del movimento di protesta. In questo caso, il processo di applicazione delle normative di Meta ha ripetutamente fallito nel distinguere espressioni di linguaggio figurato, o non letterale nel contesto pertinente, da minacce reali e istigazione alla violenza, che possono invece causare ulteriore violenza offline.

Il Board suggerisce che Meta aggiunga una leva della normativa al Protocollo normativo per le situazioni di emergenza e che fornisca criteri interni coerenti ai moderatori su vasta scala su come identificare il linguaggio figurato, o comunque non letterale, nel contesto pertinente, non in violazione della disposizione della normativa Violenza e istigazione alla violenza che proibisce minacce di violenza. Nello sviluppare criteri specifici per i casi di emergenza su come determinare se una minaccia è figurata e non letterale, Meta può prendere in considerazione i fattori del Piano d'azione di Rabat (ad esempio, la riconducibilità a un contesto di forti proteste punite da atti di repressione governativa, la capacità dell'autore di rappresentare un rischio di istigazione delle persone alla violenza, il contesto linguistico e sociale che indica l'uso comune di un linguaggio forte/di impatto emotivo per questioni di retorica, probabilità del verificarsi di atti di violenza data la conoscenza locale, e così via). Inoltre, l'azienda può fare affidamento sui propri partner per implementare o ricevere aiuto nella valutazione di criteri per la moderazione. Meta stessa ha ribadito l'importanza a livello pratico del Piano d'azione di Rabat per la moderazione dei contenuti, avendo supportato le Nazioni Unite nella traduzione del Piano d'azione in 32 lingue. Questa leva della normativa dovrebbe consentire l'uso di "figurative speech" (linguaggio figurato) all'interno di contesti di proteste contro il regime, stabilendo che tale linguaggio non ha lo scopo di istigare alla violenza, ed è improbabile che lo faccia.

Standard della community Gestione degli atti di violenza e promozione di attività criminali

Nel caso in oggetto, il Board ritiene che la rimozione ai sensi dello Standard della community Gestione degli atti di violenza e promozione di attività criminali non fosse necessaria, in quanto l'identità della donna raffigurata era già ampiamente nota, ed era chiaro che il contenuto fosse stato pubblicato per richiamare l'attenzione sul suo arresto, nella speranza che l'interesse suscitato avesse portato al suo rilascio. Inoltre, molti commentatori pubblici hanno evidenziato che le donne che si spogliano dell'hijab in pubblico, lo fanno appositamente come forma di protesta, e consapevoli delle possibili conseguenze scelgono "defiance as a strategic opposition to authority" (di non rispettare le disposizioni come strategia di opposizione) (si veda il commento pubblico Tech Global Institute, PC-21009). La donna del video era già stata identificata e arrestata dal regime. Il post era stato condiviso per richiamare l'attenzione sull'arresto. Oppositori e dissidenti detenuti dal regime sono stati torturati, sono stati oggetto di violenza di genere o sono scomparsi. Gli esperti interpellati dal Board e numerose persone che hanno inviato commenti pubblici, nello specifico hanno osservato che questa pratica, di richiamare l'attenzione sugli arresti e invitare le autorità a rilasciare le persone detenute, viene regolarmente usata dal movimento e dai sostenitori dei diritti umani in Iran, e può aiutare a proteggere le persone arrestate dal regime.

Riuscire a bilanciare la necessità di salvaguardare l'identità degli utenti vulnerabili e di evitare la censura per coloro che desiderano l'esposizione è una questione delicata e richiede analisi contestuale, controllo tempestivo e interventi rapidi.

9. Decisione dell'Oversight Board

L'Oversight Board revoca la decisione originaria di Meta di rimuovere il contenuto.

10. Raccomandazioni

1. Applicazione

Per garantire il rispetto della libertà di espressione e di riunione degli utenti in un contesto di repressione sistematica da parte del governo, Meta dovrebbe aggiungere una leva della normativa al Protocollo normativo per le situazioni di emergenza che stabilisce che il linguaggio figurato (o non letterale), che non ha lo scopo di istigare alla violenza, ed è improbabile che lo faccia, non è in violazione della disposizione della normativa Violenza e istigazione alla violenza che proibisce minacce di violenza nei contesti pertinenti. Questo deve includere criteri di sviluppo per moderatori su larga scala su come identificare tali linguaggi nel contesto considerato.

Il Board considererà questa raccomandazione implementata non appena Meta condividerà con il Board sia i metodi di applicazione della leva della notifica che i criteri ottenuti per la moderazione in Iran.

*Nota procedurale:

Le decisioni dell'Oversight Board sono predisposte da gruppi di cinque Membri e devono essere approvate dalla maggioranza del Board. Le decisioni del Board non rappresentano necessariamente le opinioni personali di tutti i Membri.

Per la decisione su questo caso sono state commissionate ricerche indipendenti per conto del Board. Il Board è stato assistito da un istituto di ricerca indipendente presso l'Università di Göteborg facente ricorso a un team di oltre 50 esperti di social in sei continenti, nonché a più di 3200 esperti nazionali da tutto il mondo ha fornito il proprio contributo. Il Board ha ricevuto aiuto anche da Duco Advisors, una società di consulenza specializzata in geopolitica, fiducia e sicurezza e tecnologia. Ha fornito un'analisi anche Memetica, un'organizzazione che si occupa di ricerche open source sulle tendenze nei social media. Lionbridge Technologies LLC, i cui esperti vantano una conoscenza professionale in oltre 350 lingue e lavorano da più di 5000 città in tutto il mondo, ha messo a disposizione la propria competenza linguistica.

Retour aux décisions de cas et aux avis consultatifs politiques