Video di violenza esplicita in Sudan

Riepilogo del caso

L'Oversight Board ha confermato la decisione di Meta di ripristinare un post su Facebook che mostrava un episodio di violenza nei confronti di un civile in Sudan. Il contenuto ha favorito la sensibilizzazione in materia di violazioni dei diritti umani e ha avuto un notevole valore per l'interesse pubblico. Il Board ha raccomandato a Meta di aggiungere allo Standard della community in materia di contenuti forti e violenti un'eccezione specifica riguardante la sensibilizzazione o la documentazione di violazioni dei diritti umani.

Informazioni sul caso

Il 21 dicembre 2021 Meta ha sottoposto al Board un caso concernente la pubblicazione di un video violento che sembrava mostrare un civile vittima di violenza in Sudan. Il contenuto è stato pubblicato sul profilo di un utente Facebook a seguito del colpo di Stato militare avvenuto nel Paese il 25 ottobre 2021.

Il video mostra una persona riversa a terra vicino a un'automobile con un'importante ferita alla testa e un occhio visibilmente asportato. Voci udibili in sottofondo dicono in arabo che qualcuno è stato picchiato e lasciato sulla strada. Una didascalia, anch'essa in arabo, invita le persone a restare unite e a non fidarsi dei militari, con hashtag riferiti alla documentazione degli abusi da parte dei militari e alla disobbedienza civile.

Dopo l'identificazione per conto dei sistemi automatizzati di Meta e il controllo da parte di un moderatore umano, il post è stato rimosso per violazione dello Standard della community di Facebook in materia di contenuti forti e violenti. Tuttavia, dopo il ricorso dell'utente, il 29 ottobre 2021, Meta ha riconosciuto l'applicazione del principio di rilevanza informativa che esenta il post dalla rimozione. A causa di un disguido comunicativo interno, Meta ha ripristinato il contenuto solo a distanza di quasi 5 settimane. Una volta ripristinato il post, Meta ha inserito una schermata di avviso sul video.

Conclusioni principali

Il Board concorda con la decisione di Meta di ripristinare il contenuto su Facebook con una schermata di avviso. Tuttavia, la normativa sui contenuti forti e violenti di Meta risulta ambigua riguardo alle modalità con cui gli utenti possono condividere contenuti violenti per favorire la sensibilizzazione su abusi o documentarli.

I fondamenti dello Standard della community che definiscono gli obiettivi della normativa non sono in linea con le regole della stessa. Se da una parte i fondamenti della normativa indicano che Meta consente agli utenti di pubblicare contenuti violenti "per favorire la sensibilizzazione su determinati temi" relativi alla violazione dei diritti umani, dall'altra la normativa stessa proibisce tutti i video (condivisi o meno per favorire la sensibilizzazione) "di persone o cadaveri in un ambiente non medico se raffigurano smembramento".

Il Board ritiene inoltre che, seppur applicato al caso in oggetto, il principio di rilevanza informativa non sia un mezzo efficace per consentire su vasta scala questi contenuti su Facebook. Meta ha dichiarato al Board di aver "documentato 17 applicazioni del principio di rilevanza informativa in relazione alla normativa sui contenuti violenti nei precedenti 12 mesi (i 12 mesi prima dell'8 marzo 2022). I contenuti di questo caso costituiscono una delle 17 eccezioni". In confronto, Meta ha rimosso 90,7 milioni di contenuti ai sensi dello Standard della community in questione nei primi 3 trimestri del 2021.

Il Board ritiene improbabile che, nell'arco di un anno, sia stata autorizzata la permanenza sulla piattaforma di soli 17 contenuti correlati alla normativa in quanto rilevanti e di pubblico interesse. Per garantire che tali contenuti siano consentiti su Facebook, il Board raccomanda a Meta di modificare lo Standard della community in materia di contenuti forti e violenti per consentire la condivisione di video di persone o cadaveri finalizzata a favorire la sensibilizzazione su abusi o a documentarli.

Meta deve altresì essere in grado di rispondere in modo rapido e sistematico a situazioni di conflitto ed emergenza nel mondo. Nella sua decisione relativa alla "Sospensione dell'ex Presidente Trump", il Board aveva raccomandato a Meta di "Sviluppare e pubblicare una normativa che disciplini le risposte di Facebook a[lle] emergenze". Sebbene il Board accolga con favore lo sviluppo di questo protocollo, che Meta afferma di aver adottato, l'azienda dovrebbe implementarlo più rapidamente e fornire quanti più dettagli possibili sul relativo funzionamento.

La decisione dell'Oversight Board

L'Oversight Board conferma la decisione di Meta di ripristinare il post con una schermata di avviso che impedisca la visualizzazione del contenuto da parte di minori.

Come parere consultivo, il Board raccomanda a Meta di adottare i seguenti provvedimenti:

• Modificare lo Standard della community in materia di contenuti forti e violenti per consentire la condivisione di video di persone o cadaveri finalizzata a favorire la sensibilizzazione sulle violazioni dei diritti umani o a documentarle. Questi contenuti devono essere consentiti e accompagnati da una schermata di avviso affinché le persone sappiano che i contenuti potrebbero urtare la loro sensibilità.
• Intraprendere un processo di sviluppo della normativa con cui predisporre criteri per identificare video di persone o cadaveri condivisi al fine di favorire la sensibilizzazione sulle violazioni dei diritti umani o documentarle.
• Indicare in modo esplicito nella descrizione del principio di rilevanza informativa tutte le azioni che potrebbe adottare (ad es., il ripristino con una schermata di avviso) in base alla normativa.
• Comunicare agli utenti le azioni intraprese nei confronti dei loro contenuti in base al principio di rilevanza informativa, fra cui il ripristino dei contenuti o l'applicazione di una schermata di avviso. Tali comunicazioni dovrebbero rimandare alla spiegazione del principio di rilevanza informativa presente nel Centro sulla trasparenza.

*I riepiloghi forniscono una panoramica di un determinato caso e non costituiscono un precedente.

Decisione completa sul caso

1. Riepilogo della decisione

L'Oversight Board conferma la decisione di Meta di ripristinare su Facebook un post contenente un video, con una didascalia, che raffigura un episodio di violenza nei confronti di un civile in Sudan. Il post è stato ripristinato in base al principio di rilevanza informativa con una schermata di avviso che etichetta il contenuto come sensibile, rendendolo tendenzialmente inaccessibile per i minori, e richiedendo a tutti gli altri utenti di cliccare per vedere il contenuto. Il Board ritiene che il contenuto, che mirava a favorire la sensibilizzazione sulle violazioni dei diritti umani o a documentarle, abbia un notevole valore per l'interesse pubblico. Sebbene la rimozione iniziale del contenuto fosse in linea con le regole dello Standard della community in materia di contenuti forti e violenti, la decisione di Meta di ripristinare il contenuto con una schermata relativa alla natura sensibile del contenuto stesso è conforme alle normative, ai valori e alle responsabilità dell'azienda in tema di diritti umani.

Tuttavia, il Board sottolinea come l'uso di Meta del principio di rilevanza informativa non costituisca un mezzo efficace per mantenere o ripristinare questo tipo di contenuti su vasta scala. Pertanto, il Board raccomanda a Meta di aggiungere allo Standard della community in materia di contenuti forti e violenti un'eccezione specifica riguardante la sensibilizzazione o la documentazione di abusi. Il Board esorta inoltre Meta a dare priorità all'attuazione della sua precedente raccomandazione circa l'introduzione di una normativa in materia di raccolta, conservazione e condivisione di contenuti che potrebbero comprovare violazioni del diritto internazionale.

2. Descrizione e contesto del caso

Il 21 dicembre 2021 Meta ha sottoposto al Board un caso concernente la pubblicazione di un video violento che sembrava mostrare un civile vittima di violenza in Sudan. Il contenuto era stato pubblicato il 26 ottobre 2021 sul profilo Facebook dell'utente, a seguito del colpo di Stato militare avvenuto nel Paese il 25 ottobre 2021 e dell'inizio delle proteste contro la presa del potere da parte dell'esercito.

Il video mostra una persona con un'importante ferita alla testa e un occhio visibilmente asportato riversa a terra vicino a un'automobile. Voci udibili in sottofondo dicono in arabo che qualcuno è stato picchiato e lasciato sulla strada. Il post contiene una didascalia, anch'essa in arabo, che invita le persone a restare unite e a non fidarsi dei militari, con hashtag riferiti alla documentazione degli abusi da parte dei militari e alla disobbedienza civile.

Meta ha spiegato che le sue tecnologie avevano identificato il contenuto come potenzialmente in violazione dello Standard della community in materia di contenuti forti e violenti nello stesso giorno della pubblicazione, il 26 ottobre 2021. Dopo il controllo umano, Meta ha determinato che il contenuto violava la normativa di Facebook sui contenuti forti e violenti e lo ha rimosso. La persona che aveva realizzato il contenuto ha in seguito contestato la decisione. Il 28 ottobre 2021, il contenuto è stato inoltrato agli esperti della normativa e della materia per un ulteriore controllo, in seguito al quale, il 29 ottobre 2021, Meta ha riconosciuto l'applicazione del principio di rilevanza informativa che esenta il post dalla rimozione ai sensi della normativa sui contenuti forti e violenti. Tuttavia, a causa di un disguido comunicativo interno, Meta ha effettivamente ripristinato il contenuto solo il 2 dicembre 2021, quasi 5 settimane dopo. Nel ripristinare il contenuto, Meta ha inoltre aggiunto al video una schermata di avviso che lo etichetta come contenuto sensibile e richiede agli utenti di cliccare per poterlo visualizzare. La schermata di avviso proibisce agli utenti minori di 18 anni di visualizzare il video.

Il post è stato visualizzato meno di 1000 volte e nessun utente ha segnalato il contenuto.

Ai fini della decisione del Board, sono rilevanti le seguenti informazioni generali basate su dati di fatto. Secondo l'Alto commissariato delle Nazioni Unite per i diritti umani, a seguito del rovesciamento del governo civile in Sudan avvenuto a opera dell'esercito nell'ottobre 2021 e dell'inizio delle proteste civili, le forze di sicurezza nel Paese hanno sparato munizioni vere, usato gas lacrimogeni e arrestato e trattenuto in modo arbitrario i manifestanti. Le forze di sicurezza hanno inoltre preso di mira giornalisti e attivisti, perquisendone abitazioni e uffici. I giornalisti sono stati attaccati, arrestati e trattenuti.

Secondo gli esperti consultati dal Board, con la requisizione militare dei media di stato e la repressione dei giornali e delle emittenti sudanesi, i social media sono diventati una fonte fondamentale di informazioni e una piattaforma per documentare le violenze perpetrate dai militari. Il 25 ottobre 2021, i militari hanno oscurato Internet in concomitanza con l'arresto dei leader civili. Da allora, l'accesso a Internet è stato regolarmente bloccato in tutto il Paese.

3. Ambito e autorità dell'Oversight Board

Il Board dispone dell'autorità per rivedere le decisioni inviate da Meta per il controllo (articolo 2, sezione 1 dell'Atto costitutivo; articolo 2, sezione 2.1.1 dello Statuto). Il Board può confermare o revocare la decisione di Meta (articolo 3, sezione 5 dell'Atto costitutivo) e la sua decisione è vincolante per l'azienda (articolo 4 dell'Atto costitutivo). Meta deve anche valutare la fattibilità dell'applicazione della sua decisione nel caso di contenuti identici in un contesto parallelo (articolo 4 dell'Atto costitutivo). Le decisioni del Board possono comprendere dichiarazioni di carattere consultivo sulle normative, con raccomandazioni non vincolanti a cui Meta deve rispondere (articolo 3, sezione 4 dell'Atto costitutivo; articolo 4 dell'Atto costitutivo).

4. Fonti di autorità

L'Oversight Board ha preso in considerazione le seguenti fonti di autorità:

I.Decisioni dell'Oversight Board:

Nelle decisioni precedenti, il Board ha preso in considerazione e fornito raccomandazioni in merito a normative e processi di Meta. Ecco alcune delle decisioni più pertinenti:

• Decisione sul caso 2021-010-FB-UA ("Proteste in Colombia"): in questo caso, il Board ha sottolineato come Meta non renda di dominio pubblico i suoi criteri per il controllo dei contenuti in merito al principio di rilevanza informativa (che è l'unico modo per applicare lo standard), dichiarando che "in un contesto in cui le possibilità di espressione politica sono limitate, i social media costituiscono uno strumento in cui tutte le persone, giornalisti compresi, possono condividere informazioni sulle proteste". Il Board aveva raccomandato a Meta di "sviluppare e diffondere criteri chiari in base ai quali i responsabili addetti al controllo dei contenuti richiedono un controllo aggiuntivo agli altri team per i contenuti di interesse pubblico [...] Questi criteri dovrebbero riguardare contenuti legati ad ampie proteste per questioni politiche, in particolare in contesti in cui gli Stati sono accusati di violare i diritti umani ed è estremamente importante tenere un registro pubblico degli eventi".
• Decisione sul caso 2021-001-FB-FBR ("Sospensione dell'ex Presidente Trump"): in questo caso, il Board aveva raccomandato a Meta di "sviluppare e pubblicare una normativa che disciplini le risposte di Facebook a crisi o situazioni inedite nelle quali le procedure standard non riuscirebbero a prevenire o evitare episodi di violenza imminenti". A gennaio 2022, Meta ha tenuto un Policy Forum relativo al "Protocollo sulla normativa per le crisi", sviluppato in risposta alla raccomandazione del Board. Tuttavia, Meta ha confermato in una delle sue risposte alle domande del Board che tale protocollo non era in vigore al momento del colpo di Stato in Sudan e delle successive decisioni relative alla rimozione e al ripristino del contenuto oggetto del caso.

II.Normative sui contenuti di Meta

Standard della community di Facebook:

Nei fondamenti della sua normativa in materia di contenuti forti e violenti, Meta afferma di rimuovere i contenuti che "promuovono la violenza o celebrano la sofferenza", ma di consentire alcune immagini forti "per favorire la sensibilizzazione". Le regole proibiscono la pubblicazione di "video di persone o cadaveri in un ambiente non medico se raffigurano smembramento". In base al suo principio della rilevanza informativa, Meta consente un contenuto in violazione sulle sue piattaforme se è rilevante e "se mantenerlo visibile è nel pubblico interesse".

III. Valori di Meta:

I valori di Meta sono indicati nell'introduzione agli Standard della community di Facebook. I valori pertinenti per questo caso sono "Libertà di espressione", "Sicurezza", "Privacy" e "Dignità". Il valore della "Libertà di espressione" è "essenziale":

L'obiettivo dei nostri Standard della community è sempre stato quello di creare un luogo in cui le persone possano esprimersi. [Vogliamo che] gli utenti possano parlare apertamente dei temi che hanno a cuore, nonostante in alcuni casi si abbiano opinioni diverse o vengano sollevate obiezioni.

Meta limita la "libertà di espressione" per tutelare altri quattro valori, tre dei quali sono pertinenti in questo caso:

"Sicurezza": i contenuti che minacciano le persone possono intimidire, escludere o limitare il diritto di espressione altrui, pertanto non sono consentiti su Facebook.

"Privacy": ci impegniamo nel proteggere le informazioni e la privacy personale. La privacy offre alle persone la libertà di essere se stesse, scegliere come e quando condividere su Facebook e connettersi con maggiore semplicità.

"Dignità": crediamo che tutte le persone abbiano pari dignità e diritti. Ci aspettiamo che le persone rispettino la dignità altrui e non minaccino o denigrino gli altri.

IV: Standard internazionali per i diritti umani:

I principi guida delle Nazioni Unite (UNGP) su imprese e diritti umani, promossi nel 2011 dal Consiglio per i diritti umani delle Nazioni Unite, stabiliscono un quadro normativo volontario per le responsabilità delle aziende private in materia di diritti umani. Nel 2021, Meta ha annunciato la sua Normativa aziendale sui diritti umani, che ribadisce il suo impegno nel rispettare i diritti dell'uomo ai sensi dei principi guida delle Nazioni Unite. L'analisi del Board sulle responsabilità di Meta in materia di diritti umani per il caso in oggetto si è basata sui seguenti Standard per i diritti umani:

• Il diritto di espressione, compresa la libertà di cercare e ricevere informazioni: articolo 19 della Convenzione internazionale sui diritti civili e politici (ICCPR); Commento generale n. 34, Comitato per i Diritti Umani (2011); report del Relatore speciale delle Nazioni Unite sulla libertà di opinione ed espressione: A/HRC/38/35 (2018) e A/73/348 (2018).
• Principio del best interest of the child: articoli 13 e 17 della Convenzione sui diritti dell'infanzia e dell'adolescenza (CRC). Commento generale n. 25, Comitato sui diritti dell'infanzia e dell'adolescenza, 2021, in merito ai diritti dei minori nell'ambito degli ambienti digitali.
• Il diritto alla privacy: articolo 17 dell'ICCPR;
• L'accesso a una riparazione efficace: articolo 2 dell'ICCPR; Commento generale n. 31, del Comitato per i Diritti Umani delle Nazioni Unite (2004); principi 22, 29, 31 dei UNGP.

5. Invii dell'utente

In seguito al rinvio di Meta e alla decisione del Board di accettare il caso, l'utente ha ricevuto un messaggio in cui si comunicava che il Board stava effettuando un controllo e si offriva allo stesso la possibilità di inviare una dichiarazione al Board. Tuttavia, l'utente non ha inviato alcuna dichiarazione.

6. Invii di Meta

Nel rinviare il caso al Board, Meta ha affermato che la decisione sul contenuto in questione è stata spinosa, poiché evidenzia una tensione tra il pubblico interesse di documentare le violazioni dei diritti umani e il rischio di violenza associato alla condivisione di un contenuto così violento. Meta ha altresì sottolineato l'importanza di consentire agli utenti di documentare le violazioni dei diritti umani durante un colpo di Stato e dopo l'interruzione dell'accesso a Internet nel Paese.

Meta ha informato il Board di aver creato, subito dopo il colpo di Stato militare in Sudan, un team interfunzionale di risposta alla crisi per monitorare la situazione e comunicare rischi e tendenze emergenti. Secondo Meta, il team ha riscontrato "picchi in relazione alle segnalazioni di contenuti violenti e di incitamento alla violenza, quando le proteste erano più intense. [Il team] ha ricevuto istruzioni in merito all'inoltro delle richieste per consentire casi di violenza esplicita altrimenti contrari alla normativa sui contenuti espliciti e violenti, compresi i contenuti che mostrano violazioni dei diritti umani sostenuti da uno Stato".

Meta ha sottolineato che il video è stato girato nel contesto di proteste estese e concreti timori circa la liberà di stampa in Sudan. Inoltre, Meta ha aggiunto che questo tipo di contenuti "potrebbe avvisare gli utenti locali della presenza di una minaccia alla loro sicurezza ed è particolarmente importante durante un oscuramento di Internet, quando l'accesso dei giornalisti al luogo potrebbe essere limitato".

Meta ha anche dichiarato che la decisione di ripristinare il contenuto era in linea con i suoi valori, in particolare con quello della "Libertà di espressione", che è essenziale. Meta ha menzionato decisioni precedenti del Board in cui si affermava che il dibattito politico è cruciale per il valore della "Libertà di espressione". Decisioni sui casi 2021-010-FB-UA ("Proteste in Colombia"), 2021-003-FB-UA ("Preoccupazioni dei punjabi in relazione alla RSS in India), 2021-007-FB-UA ("Bot in Myanmar") e 2021-009-FB-UA ("Post di Al Jazeera condiviso").

Meta ha dichiarato al Board di aver stabilito che la sua decisione iniziale di rimuovere il contenuto era in contrasto con l'articolo 19 dell'ICCPR, nello specifico con il principio di necessità. Pertanto, il contenuto è stato ripristinato alla luce del principio di rilevanza informativa. Per ridurre potenziali danni derivanti dalla permanenza del contenuto violento nella piattaforma una volta ripristinato, Meta ne ha limitato l'accesso alle persone maggiorenni e ha applicato una schermata di avviso. Meta ha inoltre indicato nella sua motivazione del caso che la decisione di ripristinare i contenuti era conforme al report del Relatore speciale delle Nazioni Unite in materia di promozione e protezione del diritto di libertà di opinione ed espressione, in particolare "il diritto di accedere a informazioni sulle violazioni dei diritti umani".

Meta ha inoltre affermato che, avendo applicato una schermata di avviso che non permette la visualizzazione del contenuto ai minori di 18 anni, è stato preso in considerazione anche l'impatto della decisione sui diritti dei minori. Meta ha dichiarato al Board che, nella sua decisione, ha preso in considerazione l'articolo 13 della Convenzione sui diritti dell'infanzia e dell'adolescenza e il Commento generale n. 25 sui diritti dei minori in relazione agli ambienti digitali, per tutelare i diritti alla libertà di espressione dei minori, compresa la "libertà di cercare, ricevere e diffondere informazioni e idee di ogni genere, indipendentemente dalle frontiere". Meta ha indicato nella sua motivazione del caso che la decisione di limitare la visibilità del contenuto agli adulti rispondeva all'obiettivo legittimo di tutelare la sicurezza dei minori ed era proporzionale a tale obiettivo.

Il Board ha posto 21 domande a Meta. Meta ha fornito 17 risposte complete e 4 parziali. Le risposte parziali riguardavano quesiti sulla misurazione dell'impatto dei sistemi automatizzati di Meta sui contenuti nella piattaforma e sul motivo per cui lo Standard della community in materia di contenuti forti e violenti non contempla un'eccezione relativa al favorire la sensibilizzazione.

7. Commenti pubblici

Il Board ha ricevuto 5 commenti pubblici relativi al presente caso. Due commenti provenivano dall'Europa, uno dall'Africa subsahariana e due dagli Stati Uniti e dal Canada.

Gli invii riguardavano i seguenti temi: la necessità di adottare un approccio più attento al contesto che fissi una soglia meno stringente per la rimozione di contenuti in aree geografiche teatro di conflitti armati, in modo da rimuovere un minor numero di contenuti; la necessità di preservare materiali per possibili indagini future o giudicare gli autori delle violazioni dei diritti umani; il fatto che il principio di rilevanza informativa venga probabilmente applicato ad hoc e in modo contestabile e la necessità di rivedere tale pratica.

A marzo 2022, all'interno del continuo coinvolgimento degli stakeholder, il Board ha incontrato circa 50 rappresentanti di organizzazioni di sensibilizzazione e soggetti che si occupano di segnalare e documentare violazioni dei diritti umani, studiosi in materia di etica, diritti umani e documentazione e stakeholder interessati a confrontarsi con il Board su questioni derivanti dallo Standard della community in materia di contenuti forti e violenti e dalla sua applicazione in contesti di crisi o proteste. Questi regolari confronti si sono svolti ai sensi delle regole della Chatham House per garantire una discussione aperta e tutelare i partecipanti. La discussione ha toccato svariati temi, tra cui il ruolo cruciale dei social media nei Paesi controllati da regimi repressivi per documentare le violazioni dei diritti umani e portare all'attenzione dei media internazionali e dell'opinione pubblica le violenze perpetrate da uno Stato; timori condivisi sul fatto che uno standard universale sui contenuti forti e violenti sia in pratica uno standard improntato sugli Stati Uniti; osservazioni sull'utilità delle schermate di avviso nell'affrontare il reale problema del trauma, sebbene alcune organizzazioni internazionali abbiano segnalato che tali strumenti possano limitare la copertura dei loro contenuti.

Per leggere i commenti pubblici inviati per il caso in oggetto, clicca qui.

8. Analisi dell'Oversight Board

Il Board ha cercato di valutare se questo contenuto dovesse restare sulla piattaforma in base a tre aspetti: le normative sui contenuti di Meta, i valori dell'azienda e le sue responsabilità in materia di diritti umani.

8.1. Conformità con le normative sui contenuti

I.Regole sui contenuti

Il Board concorda con la decisione di Meta di ripristinare il contenuto sulla piattaforma con una schermata di avviso e una limitazione relativa all'età, ma rileva una mancanza di chiarezza nelle normative sui contenuti di Meta e l'assenza di mezzi efficaci per implementare su vasta scala questa risposta a contenuti simili.

La decisione iniziale di Meta di rimuovere il contenuto era coerente con le regole previste nello Standard della community in materia di contenuti forti e violenti: il contenuto violava la normativa mostrando lo smembramento di un essere umano in un ambiente non medico (una persona con un'importante ferita alla testa e un occhio visibilmente asportato). Tuttavia, i fondamenti della normativa dello Standard della community in materia di contenuti forti e violenti indicano che "[Meta] consente immagini forti (con alcune limitazioni) per favorire la sensibilizzazione su determinati temi. [Meta] sa che le persone apprezzano la possibilità di discutere di temi importanti come le violazioni dei diritti umani o gli atti di terrorismo". Nonostante tale richiamo nei fondamenti della normativa, le regole specifiche all'interno dello Standard della community non prevedono un'eccezione relativa al "favorire la sensibilizzazione". Inoltre, gli standard interni degli addetti al controllo di Meta non contemplano un'eccezione per i contenuti volti a favorire la sensibilizzazione sulle violazioni dei diritti umani o a documentarle.

In assenza di una specifica eccezione all'interno dello Standard della community, il Board concorda con la decisione di Meta di ripristinare il contenuto ai sensi del principio di rilevanza informativa. Meta dichiara di consentire la permanenza di un contenuto sulla piattaforma alla luce del principio di rilevanza informativa se determina che il contenuto è rilevante e se "mantenerlo visibile è nel pubblico interesse e dopo aver eseguito un test di bilanciamento che soppesa l'interesse pubblico rispetto al rischio di danno".

II.Azione di applicazione

Il Board sottolinea che, nonostante Meta abbia deciso di riconoscere l'applicazione del principio di rilevanza informativa e ripristinare il post con una schermata di avviso il 29 ottobre 2021, il post è stato ripristinato nella piattaforma il 2 dicembre 2021, quasi 5 settimane dopo. Meta ha dichiarato che le comunicazioni circa la decisione finale sul contenuto sono avvenute al di fuori dei suoi normali strumenti di gestione degli inoltri, "causando un ritardo nell'adozione delle misure opportune sul contenuto". Il Board ritiene la spiegazione e il ritardo estremamente preoccupanti e sottolinea quanto sia importante che Meta adotti azioni tempestive in decisioni come questa, in un contesto di emergenza pubblica, dove la libertà di stampa ha subito gravi limitazioni. Alla rimozione iniziale del contenuto, Meta ha applicato la limitazione della funzione di 30 giorni che ha impedito all'utente di creare nuovi contenuti, durante un periodo in cui i manifestanti nelle strade e i giornalisti che riferivano del colpo di Stato e delle repressioni da parte dei militari venivano bersagliati da gravi violenze e repressioni.

8.2. Conformità con i valori di Meta

Il Board ritiene che mantenere il contenuto sulla piattaforma con una schermata di avviso sia coerente con i valori di "Libertà di espressione" e "Sicurezza" di Meta.

Il Board riconosce l'importanza della "Dignità" e della "Privacy" nel contesto della protezione delle vittime delle violazioni dei diritti umani. Il contenuto lede la dignità e la privacy della persona ferita nel video e della sua famiglia. È possibile identificare la persona raffigurata e questa, o la sua famiglia o i suoi cari, potrebbero essere contrari alla diffusione di questo tipo di immagini.

Il Board sottolinea inoltre la pertinenza della "Sicurezza" in questo contesto, finalizzata a proteggere gli utenti da contenuti che costituiscono un "rischio per la sicurezza fisica delle persone". Da un lato, l'utente ha cercato di favorire la sensibilizzazione sul colpo di Stato in atto, il che potrebbe contribuire alla sicurezza delle persone in quell'area geografica. Dall'altro, il contenuto potrebbe mettere a rischio la persona ritratta nel video e/o la sua famiglia.

Il Board ritiene che in un contesto in cui lo Stato limita lo spazio civico e la libertà dei media, il valore della "Liberta di espressione" diventi ancora più importante. In questo caso, la "Libertà di espressione" contribuisce anche a rafforzare la "Sicurezza" garantendo alle persone l'accesso alle informazioni e denunciando le violenze dello Stato.

8.3. Conformità con le responsabilità di Meta in materia di diritti umani

Il Board ritiene che mantenere il contenuto sulla piattaforma con una schermata di avviso sia coerente con le responsabilità di Meta in materia di diritti umani. Tuttavia, il Board afferma che le normative di Meta andrebbero modificate per rispettare al meglio il diritto alla libertà di espressione degli utenti che cercano di favorire la sensibilizzazione su abusi o documentarli.

Libertà di espressione (articolo 19 dell'ICCPR)

L'articolo 19 dell'ICCPR fornisce un'ampia tutela alla libertà di espressione, il che comprende il diritto a cercare e ricevere informazioni. Tuttavia, il diritto potrebbe essere limitato in presenza di alcune condizioni specifiche, che rientrano nel cosiddetto test in tre parti su legalità (chiarezza), legittimità, necessità e proporzionalità. Anche se l'ICCPR non prevede obblighi nei confronti Meta, al contrario di quanto fa per gli Stati, l'azienda si è impegnata a rispettare i diritti umani, come definito nei UNGP. Tale impegno comprende i diritti umani riconosciuti a livello internazionale, così come sono stati definiti, tra i vari strumenti, dall'ICCPR.

I. Legalità (chiarezza e accessibilità delle norme)

Qualsiasi restrizione alla libertà di espressione deve essere accessibile e abbastanza chiara da fornire indicazioni su ciò che è consentito e ciò che non lo è. Il Board ritiene che la normativa sui contenuti forti e violenti non chiarisca in che modo Meta permette agli utenti di condividere contenuti violenti per favorire la sensibilizzazione sugli abusi o documentarli. I fondamenti dello Standard della community che definiscono gli obiettivi della normativa non sono in linea con le regole della stessa. I fondamenti della normativa indicano che Meta consente agli utenti di pubblicare contenuti violenti "per favorire la sensibilizzazione su determinati temi" relativi alle violazioni dei diritti umani, eppure la normativa proibisce tutti i video (condivisi o meno per favorire la sensibilizzazione) "di persone o cadaveri in un ambiente non medico se raffigurano smembramento". Sebbene Meta abbia correttamente fatto affidamento sul più ampio principio di rilevanza informativa per ripristinare il contenuto, lo Standard della community in materia di contenuti forti e violenti non chiarisce se questo tipo di contenuti sarà consentito sulla piattaforma.

Il Board inoltre ritiene che il principio di rilevanza informativa non chiarisca i casi in cui i contenuti che documentano atrocità o violazioni dei diritti umani rientrino in tale principio. Sebbene il Board concordi con Meta nel definire "altamente soggettiva" la rilevanza informativa, la regola in questione non offre alcuna definizione del termine. La normativa indica che l'azienda "attribuisce un valore speciale ai contenuti che pongono minacce imminenti per la salute o la sicurezza pubblica o che danno voce a punti di vista che al momento costituiscono oggetto di discussione nel quadro del processo politico". La discrezionalità nell'applicazione di questo principio dovrebbe essere guidata da esempi concreti e principi chiari, la cui assenza comporta un maggiore rischio di applicazioni incoerenti e arbitrarie. Inoltre, il principio di rilevanza informativa non presenta alcun riferimento all'uso di schermate di avviso (o interstitial) per contenuti altrimenti in violazione delle normative di Meta.

Infine, il Board, in un precedente caso ("Proteste in Colombia"), aveva raccomandato a Meta di "sviluppare e diffondere criteri chiari in base ai quali i responsabili addetti al controllo dei contenuti richiedono un controllo aggiuntivo agli altri team per i contenuti di interesse pubblico". Nella sua risposta, Meta ha dichiarato di aver già reso di pubblico dominio i criteri per l'inoltro in un articolo del Centro sulla trasparenza in materia di rilevanza informativa. Tuttavia, l'articolo si sofferma sui fattori che Meta prende in considerazione nell'applicazione del principio di rilevanza informativa, e non sui criteri forniti ai moderatori per stabilire in quali casi inoltrare i contenuti (vale a dire, sottoporli a un ulteriore controllo). Se il principio di rilevanza informativa è inteso come parte del sistema di moderazione dei contenuti inoltrati dell'azienda, i processi di inoltro e uso dovrebbero agevolare questo obiettivo. Il Board sottolinea che la mancanza di chiarezza circa casi e modalità di applicazione del principio di rilevanza informativa rischia di causare un'applicazione arbitraria della normativa.

II. Fine legittimo

Le restrizioni alla libertà di espressione dovrebbero perseguire un fine legittimo, il che comprende la protezione dei diritti altrui, come il diritto alla privacy della persona raffigurata (Commento generale 34, paragrafo 28) e il diritto all'integrità fisica. Inoltre, Meta sottolinea nei fondamenti della normativa che "le immagini forti che promuovono la violenza o celebrano la sofferenza o l'umiliazione di altri [...] potrebbero creare un ambiente che disincentiva la partecipazione". Il Board concorda sul fatto che la normativa sui contenuti forti e violenti persegue diversi fini legittimi.

III. Necessità e proporzionalità

Le limitazioni alla libertà di espressione "devono essere appropriate per svolgere la propria funzione protettiva; devono essere lo strumento meno invasivo tra quelli che potrebbero svolgere la loro funzione protettiva; [e] devono essere proporzionate all'interesse da tutelare" (Commento generale 34, paragrafo 34).

In questo caso, il Board ritiene che l'applicazione di un'etichetta di avviso sul contenuto costituisca una restrizione necessaria e proporzionale alla libertà di espressione. La schermata di avviso non comporta un onere eccessivo per chi desidera vedere il contenuto, mentre informa gli altri sulla natura del contenuto stesso e consente loro di decidere se visualizzarlo o meno. La schermata di avviso inoltre protegge in modo adeguato la dignità della persona raffigurata e della sua famiglia.

Il Board rileva inoltre che, come illustrato nella sezione 8.1, il ripristino del contenuto da parte di Meta abbia subito un ritardo di quasi 5 settimane. Il ritardo ha prodotto un impatto sproporzionato sulla libertà di espressione nel contesto delle violenze in atto e delle limitazioni al contesto mediatico in Sudan. Un ritardo di tale entità mina i vantaggi di questo dibattito, ovvero avvisare i civili e favorire la sensibilizzazione.

Il Board ritiene inoltre che, a causa del suo utilizzo poco frequente, il principio di rilevanza informativa non sia un meccanismo efficace attraverso cui autorizzare i contenuti che documentano abusi o che tentano di favorire la sensibilizzazione su vasta scala nella piattaforma. Meta ha dichiarato al Board di aver "documentato 17 applicazioni del principio di rilevanza informativa in relazione alla normativa sui contenuti violenti nei precedenti 12 mesi (i 12 mesi prima dell'8 marzo 2022). I contenuti di questo caso costituiscono una delle 17 eccezioni". In confronto, Meta ha rimosso 90,7 milioni di contenuti ai sensi dello Standard della community in questione nei primi 3 trimestri del 2021. Il Board ritiene improbabile che, a livello globale e nell'arco di un anno, sia stata autorizzata la permanenza sulla piattaforma di soli 17 contenuti correlati alla normativa in quanto rilevanti e di pubblico interesse. Il principio di rilevanza informativa non costituisce un meccanismo adeguato di preservazione dei contenuti di siffatta natura sulla piattaforma. Per evitare censure alle manifestazioni protette della libertà di espressione, Meta dovrebbe modificare la normativa sui contenuti forti e violenti per consentire la permanenza dei contenuti in questione sulla piattaforma.

In contesti di guerra o disordini politici, gli utenti creeranno e condivideranno sulla piattaforma più contenuti forti e violenti allo scopo di favorire la sensibilizzazione sugli abusi o documentarli. Questi contenuti sono importanti per la promozione della consapevolezza. Il Board, nel caso "Sospensione dell'ex Presidente Trump", aveva dichiarato che Meta ha la responsabilità di "raccogliere, conservare ed eventualmente condividere informazioni utili alle indagini e al possibile perseguimento di gravi violazioni del diritto umanitario, del diritto penale e delle leggi in materia di diritti umani internazionali da parte dei meccanismi di responsabilità e delle autorità competenti". Il Board ha inoltre raccomandato a Meta di chiarire e indicare nella sua Normativa aziendale sui diritti umani i protocolli per mettere a disposizione dei ricercatori i contenuti che in precedenza erano di dominio pubblico, rispettando al contempo standard internazionali e leggi sulla protezione dei dati. In risposta, Meta ha assunto l'impegno di informare il Board in merito alle iniziative in atto per affrontare la questione. Dal 5 maggio 2021, data di pubblicazione di tale raccomandazione, Meta non ha segnalato alcun progresso in merito. Il Board ritiene preoccupanti un ritardo di tale entità e l'assenza di progressi, considerato il ruolo delle piattaforme nelle situazioni di conflitto violento (ad es., l'attuale guerra in Ucraina dove gli utenti documentano gli abusi tramite i social media) e di disordini politici a livello mondiale.

Infine, il Board richiama la sua raccomandazione del caso "Sospensione dell'ex Presidente Trump", con cui esortava Meta a "sviluppare e pubblicare una normativa che disciplini le risposte di Facebook a crisi o situazioni inedite nelle quali le procedure standard non riuscirebbero a prevenire o evitare episodi di violenza imminenti". Meta ha segnalato nell'Aggiornamento del 4° trimestre 2021 sull'Oversight Board di aver elaborato una proposta per un nuovo Protocollo per le emergenze in risposta alla raccomandazione del Board e di averlo adottato. Meta ha altresì dichiarato che a breve fornirà informazioni in merito al protocollo nel Centro sulla trasparenza. Meta ha comunicato al Board che tale protocollo non era in vigore al momento del colpo di Stato in Sudan, né tantomeno era operativo durante il controllo del caso. L'azienda prevede di introdurre il protocollo più avanti nel corso del 2022. La predisposizione e l'implementazione di risposte necessarie e proporzionali in situazioni di emergenza da parte di Meta dovrebbe basarsi su un protocollo ben congegnato. Meta dovrebbe accelerare l'implementazione di questo protocollo e fornire quanti più dettagli possibili sul suo funzionamento e sulle relative interazioni con i processi esistenti di Meta. Le piattaforme di Meta rivestono un ruolo cruciale nelle situazioni di conflitto ed emergenza nel mondo e l'azienda deve essere pronta a rispondere in modo rapido e sistematico al fine di evitare errori.

9. Decisione dell'Oversight Board

L'Oversight Board conferma la decisione di Meta di lasciare pubblicato il contenuto con una schermata che limita l'accesso ai minori di 18 anni.

10. Linee guida sulle normative

Normativa sui contenuti

1. Meta deve modificare lo Standard della community in materia di contenuti forti e violenti per consentire la condivisione di video di persone o cadaveri finalizzata a favorire la sensibilizzazione sulle violazioni dei diritti umani o a documentarle. Questi contenuti devono essere consentiti e accompagnati da una schermata di avviso affinché le persone sappiano che i contenuti potrebbero urtare la loro sensibilità. Il Board considererà tale raccomandazione implementata nel momento in cui Meta aggiornerà lo Standard della community.

2. Meta deve intraprendere un processo di sviluppo della normativa con cui creare criteri per identificare la condivisione di video di persone o cadaveri finalizzata a favorire la sensibilizzazione sulle violazioni dei diritti umani o a documentarle. Il Board riterrà tale raccomandazione implementata quando Meta pubblicherà i risultati del processo di sviluppo della normativa, fra cui le informazioni sul processo e i criteri per l'identificazione di questi contenuti su vasta scala.

3. Meta deve indicare in modo esplicito nella descrizione del principio di rilevanza informativa tutte le azioni che potrebbe adottare (ad es., il ripristino con una schermata di avviso) in base alla normativa. Il Board considererà questa raccomandazione implementata non appena Meta aggiornerà la normativa.

Applicazione

4. Per la comprensione delle regole da parte degli utenti, Meta deve comunicare a questi le azioni intraprese nei confronti dei loro contenuti in base al principio di rilevanza informativa, fra cui il ripristino dei contenuti o l'applicazione di una schermata di avviso. Tali comunicazioni dovrebbero rimandare alla spiegazione del principio di rilevanza informativa presente nel Centro sulla trasparenza. Il Board riterrà tale raccomandazione implementata quando Meta introdurrà notifiche aggiornate nei confronti degli utenti in tutti i mercati e dimostrerà che questi ricevono tali notifiche attraverso i dati sull'applicazione.

*Nota procedurale:

Le decisioni dell'Oversight Board sono predisposte da gruppi di cinque Membri e devono essere approvate dalla maggioranza del Board. Le decisioni del Board non rappresentano necessariamente le opinioni personali di tutti i Membri.

Per la decisione su questo caso sono state commissionate ricerche indipendenti per conto del Board. Un istituto di ricerca indipendente presso l'Università di Göteborg e facente ricorso a un team di oltre 50 esperti di social in sei continenti, nonché a più di 3200 esperti nazionali da tutto il mondo ha fornito il proprio contributo. Il Board ha ricevuto aiuto anche da Duco Advisors, una società di consulenza specializzata in geopolitica, fiducia e sicurezza e tecnologia.

Voltar para Decisões de Casos e Pareceres Consultivos sobre Políticas