Commenti di un personaggio politico sui cambiamenti demografici

Riepilogo

L'Oversight Board ha confermato la decisione di Meta di lasciare pubblicata una clip video in cui il politico francese Éric Zemmour discute dei cambiamenti demografici in Europa e Africa. Il contenuto non viola lo Standard della community sull'incitamento all'odio non essendo un attacco diretto rivolto a persone sulla base di una caratteristica protetta, come la razza, l'etnia o la nazionalità di origine. La maggioranza del Board ritiene che lasciare pubblicato il contenuto sia coerente con le responsabilità di Meta in materia di diritti umani. Tuttavia, il Board raccomanda a Meta di chiarire pubblicamente in che modo distingue i dibattiti correlati all'immigrazione dai discorsi pericolosi, comprese le teorie del complotto che incitano all'odio e prendono di mira le persone sulla base del loro stato di migranti.

Informazioni sul caso

A luglio 2023, una clip video, in cui il politico francese Éric Zemmour discute dei cambiamenti demografici in Europa e Africa, è stata pubblicata sulla sua Pagina Facebook ufficiale da un utente amministratore della stessa. La clip è parte di un'intervista video più lunga con il politico. Nel video, Zemmour dichiara: "Dall'inizio del XX secolo, si è verificata un'esplosione demografica in Africa". Procede affermando che, mentre la popolazione europea è rimasta all'incirca invariata sui 400 milioni di abitanti, la popolazione africana è aumentata a 1,5 miliardi di persone" quindi "l'equilibrio del potere è mutato". La didascalia in francese afferma che nel '900 "quando c'erano quattro europei per ogni africano, [l'Europa] ha colonizzato l'Africa" e ora "ci sono quattro africani per ogni europeo e l'Africa colonizza l'Europa". La Pagina Facebook di Zemmour presenta circa 300 000 follower, mentre il post è stato visualizzato circa 40 000 volte al gennaio 2024.

Zemmour ha subito diversi procedimenti giudiziari, riportando più di una condanna in Francia per incitamento all'odio razziale e commenti razzisti su musulmani, africani e persone di colore. Si è candidato alla presidenza nel 2022, ma non ha superato il primo turno. La sua campagna elettorale ruota attorno alla Teoria della grande sostituzione, secondo la quale le popolazioni bianche europee stanno per essere deliberatamente sostituite dal punto di vista etnico e culturale mediante la migrazione e la crescita delle comunità di minoranza. Gli esperti linguistici denotano come la teoria e i termini a essa associati "incitino al razzismo, all'odio e alla violenza contro gli immigrati, gli europei non bianchi e prendano di mira nello specifico i musulmani". Il video nel post non menziona nello specifico la teoria.

Due utenti hanno segnalato il contenuto per violazione della normativa in materia di incitamento all'odio di Meta, ma dal momento che le segnalazioni non hanno ricevuto la priorità per il controllo in un periodo di 48 ore, entrambe sono state chiuse in automatico. I sistemi automatizzati di Meta assegnano le priorità alle segnalazioni in base alla gravità della violazione prevista, alla diffusione del contenuto (numero di visualizzazione) e alla probabilità di una violazione. In seguito, uno degli utenti ha inviato un ricorso contro Meta, facendo sì che uno degli addetti al controllo umano dell'azienda decidesse che il contenuto non violava le regole di Meta. L'utente ha quindi inviato un ricorso al Board.

Conclusioni principali

La maggioranza del Board ritiene che il contenuto non violi lo Standard della community sull'incitamento all'odio. La clip video contiene un esempio di libertà di espressione (seppur controversa) di un'opinione sull'immigrazione e non presenta alcun invito alla violenza, né un linguaggio disumanizzante o di incitamento all'odio rivolto a gruppi vulnerabili. Nonostante Zemmour sia stato perseguito in passato per il ricorso a un linguaggio che incita all'odio, e i temi nel video in esame siano simili alla Teoria della grande sostituzione, queste circostanze non giustificano la rimozione di un post che non viola gli standard di Meta.

Si sarebbe verificata una violazione se il post avesse previsto un "attacco diretto", invitando nello specifico all'"esclusione o segregazione" di un gruppo con "caratteristiche protette". Dal momento che non contengono alcun attacco diretto, né un invito esplicito all'esclusione di un gruppo dall'Europa, né una dichiarazione sugli africani che equivalga a uno stereotipo pericoloso, insulti o altri attacchi diretti, i commenti di Zemmour non violano le regole sull'incitamento all'odio di Meta. I fondamenti della normativa inoltre chiariscono che Meta consente di "commentare e criticare le politiche sull'immigrazione", anche se non viene condiviso a livello pubblico che l'azienda consente inviti all'esclusione durante i dibattiti sulle politiche relative all'immigrazione.

Tuttavia, il Board ritiene preoccupante che Meta non consideri gli africani un gruppo con caratteristiche protette, considerato il fatto che la nazionalità di origine, la razza e la religione sono protette sia dalle normative di Meta sia dal diritto internazionale dei diritti umani. Gli africani vengono menzionati in tutto il contenuto e, in questo video, rappresentano un'espressione che indica gli africani non bianchi.

Il Board ha inoltre preso in considerazione nel caso in esame la pertinenza della normativa in materia di organizzazione e persone pericolose. Tuttavia, la maggioranza del Board ritiene che il post non violi tale normativa poiché non sussistono elementi sufficienti per un controllo nell'ambito di una rete cospirazionista più ampia che incita alla violenza. Meta definisce queste reti come soggetti non statali che condividono la medesima missione, promuovono teorie infondate secondo cui alla base dei problemi politici e sociali ci siano complotti segreti di soggetti potenti e sono direttamente collegate a un modello di violenza offline.

Una parte minoritaria dei membri del Board ritiene che l'approccio di Meta ai contenuti che diffondono teorie del complotto pericolose sia incoerente con gli obiettivi delle normative predisposte dall'azienda per prevenire un ambiente caratterizzato dall'esclusione, che colpisce le minoranze, online e offline. Ai sensi di tali normative, i contenuti relativi a determinate altre ipotesi cospiratorie vengono moderate per proteggere i gruppi minoritari minacciati. Sebbene tali membri del Board ritengano che la critica su temi come l'immigrazione debba essere consentita, proprio a causa dell'importanza del dibattito basato su prove su questo tema, la diffusione di tali teorie del complotto, come la Teoria della grande sostituzione, possa essere pericolosa. Non sono i singoli contenuti, bensì gli effetti combinati degli stessi condivisi su larga scala e ad alta velocità a costituire la più grande sfida per le aziende di social media. Pertanto, Meta deve riformulare le sue normative affinché i suoi servizi non vengano usati in modo improprio da chi promuove teorie del complotto che causano violenza offline e online.

Meta ha intrapreso una ricerca sulla parte della normativa che potrebbe rispondere alle teorie del complotto che incitano all'odio, ma l'azienda ha deciso che ciò porterebbe in definitiva a una limitazione troppo ampia del dibattito politico. Il Board esprime perplessità circa la mancanza di informazioni condivise da Meta in merito a tale procedura.

La decisione dell'Oversight Board

L'Oversight Board ha confermato la decisione di Meta di lasciare pubblicato il post.

Il Board raccomanda a Meta i seguenti provvedimenti:

• Fornire maggiori dettagli nella formulazione del suo Standard della community sull'incitamento all'odio circa le modalità di distinzione fra dibattiti correlati all'immigrazione e discorsi di incitamento all'odio che prendono di mira le persone in base al loro stato di migranti. Ciò comprende illustrare il modo in cui l'azienda gestisce i contenuti che diffondono teorie del complotto che incitano all'odio, in modo che gli utenti possano comprendere come Meta protegge il dibattito politico sull'immigrazione, rispondendo al contempo alla potenziale violenza offline di tali teorie.

*I riepiloghi forniscono una panoramica dei casi e non costituiscono un precedente.

Decisione completa sul caso

1.Riepilogo della decisione

L'Oversight Board conferma la decisione di Meta di lasciare pubblicato un post sulla Pagina Facebook ufficiale del politico francese Éric Zemmour, che contiene un video in cui lo stesso viene intervistato, discutendo dei cambiamenti demografici in Europa e Africa. Il Board ritiene che il contenuto non violi lo Standard della community sull'incitamento all'odio di Meta poiché non attacca direttamente le persone sulla base delle caratteristiche protette, fra cui razza, etnia e nazionalità di origine. La maggioranza del Board ritiene che la decisione di Meta di lasciare pubblicato il contenuto su Facebook sia coerente con le responsabilità dell'azienda in materia di diritti umani. Una parte minoritaria del Board ritiene che le normative di Meta non siano adeguate a ottemperare alle responsabilità in materia di diritti umani dell'azienda finalizzate a gestire le significative minacce poste dalle teorie del complotto pericolose ed emarginanti, come la Teoria della grande sostituzione. Il Board raccomanda a Meta di chiarire pubblicamente il modo in cui gestisce i contenuti che diffondono teorie del complotto pericolose, considerata la necessità di proteggere la libertà di espressione sull'immigrazione, rispondendo al contempo alla potenziale violenza offline delle teorie in questione.

2. Descrizione e contesto del caso

Il 7 luglio 2023, un utente ha pubblicato un video sulla Pagina Facebook ufficiale e verificata del politico francese Éric Zemmour. Nel video, una clip di 50 secondi di un'intervista più lunga tenutasi in Francia, Zemmour discute dei cambiamenti demografici in Europa e in Africa. L'utente che ha pubblicato il video era un amministratore della Pagina, che presenta circa 300 000 follower. Zemmour è stato candidato alle elezioni presidenziali francesi del 2022 e ha conquistato circa il 7% dei voti al primo turno secondo i risultati ufficiali, ma non è andato oltre. Prima di candidarsi, Zemmour era un editorialista abituale presso Le Figaro e altri giornali, nonché un commentatore televisivo controverso e famoso per le sue provocazioni su Islam, immigrazione e donne. Come illustrato in maggiore dettaglio più avanti, è stato coinvolto in numerosi procedimenti legali e condannato in alcuni di essi a causa di questi commenti. Al contrario dell'utente che ha pubblicato il video, Meta ha considerato Zemmour un personaggio pubblico.

Nel video, Zemmour dichiara: "Dall'inizio del XX secolo, si è verificata un'esplosione demografica in Africa". Afferma che, mentre la popolazione europea è rimasta all'incirca invariata sui 400 milioni di abitanti, la popolazione africana è aumentata 1,5 miliardi di persone "quindi, l'equilibrio del potere è mutato". La didascalia in francese ripete quanto dichiarato nel video, affermando che nel '900, "quando c'erano quattro europei per ogni africano, [l'Europa] ha colonizzato l'Africa" e ora "ci sono quattro africani per ogni europeo e l'Africa colonizza l'Europa". Questi dati sono stati confrontati con quelli disponibili presso gli organismi delle Nazioni Unite indicati più avanti. Inoltre, la posizione della maggioranza del Board su questi dati è illustrata in maggiore dettaglio nella Sezione 8.2 successiva.

Quando il caso in esame è stato annunciato dal Board, il 28 novembre 2023, il contenuto era stato visualizzato circa 20 000 volte. A gennaio 2024, il contenuto è stato visualizzato circa 40 000 volte, ricevendo meno di 1000 reazione, la maggior parte delle quali erano "Mi piace", seguite da "Love" e "Ahah".

Il 9 luglio 2023, due utenti hanno segnalato separatamente il contenuto come in violazione della normativa in materia di incitamento all'odio di Meta. L'azienda ha chiuso in automatico entrambe le segnalazioni poiché non hanno ricevuto la priorità per il controllo nel periodo di 48 ore. Meta ha illustrato che alle segnalazioni viene assegnata in modo dinamico la priorità per il controllo sulla base di fattori quali gravità della violazione prevista, diffusione del contenuto (numero di visualizzazioni del contenuto) e probabilità che lo stesso violi le normative dell'azienda. Il contenuto non è stato rimosso ed è rimasto pubblicato sulla piattaforma.

L'11 luglio 2023, la prima persona che aveva segnalato il contenuto ha inviato un ricorso contro la decisione di Meta. Il ricorso è stato valutato da un addetto al controllo umano che ha confermato la decisione originale di Meta di mantenere pubblicato il contenuto. L'utente autore della segnalazione ha quindi inviato un ricorso all'Oversight Board.

Dieci giorni prima della pubblicazione del contenuto, l'uccisione di Nahel Merzouk, un francese di 17 anni di origini marocchine e algerine, morto dopo che due agenti della polizia gli avevano sparato a bruciapelo in un sobborgo di Parigi, il 27 giugno 2023, ha innescato diffusi disordini e violente proteste in Francia. Le proteste, ancora in atto alla pubblicazione del contenuto, erano rivolte contro la violenza della polizia e la discriminazione razziale sistemica percepita delle forze dell'ordine in Francia. Queste proteste sono le più recenti in una lunga serie di manifestazioni contro la violenza della polizia che, secondo quanto affermato, spesso prende di mira gli immigrati di origini africane e altre comunità marginalizzate in Francia.

Secondo la Commissione europea contro il razzismo e l'intolleranza (ECRI), le principali vittime del razzismo in Francia sono gli immigrati, soprattutto quelli di origini africane e i loro discendenti. Nel 2022, il Comitato per l'eliminazione della discriminazione razziale (CERD) ha esortato la Francia a intensificare gli sforzi per prevenire e contrastare in modo efficace l'incitamento all'odio razzista, dichiarando che "nonostante gli sforzi del partito al Governo [...] il Comitato rimane perplesso circa la persistenza e la diffusione di discorsi razzisti e discriminatori, specie nei media e su Internet". Il Comitato è inoltre "preoccupato per i commenti razzisti resi da alcuni leader politici in relazione a determinate minoranze etniche, in particolare rom, nomadi, africani, persone di origini africane e arabe e non dotate della cittadinanza" (CERD/C/FRA/CO/22-23, par. 11).

Secondo un report del 1999 del Dipartimento degli affari sociali ed economici delle Nazioni Unite, la popolazione stimata in Africa nel 1900 era di 133 milioni di persone. I dati provenienti dalle Nazioni Unite nel 2022 stimano che la popolazione in Africa nel 2021 fosse di circa 1,4 miliardi di persone. Si prevede inoltre che entro il 2050, la popolazione stimata in Africa potrebbe avvicinarsi ai 2,5 miliardi di persone. Secondo lo stesso report del 1999, la popolazione in Europa nel 1900 si attestava all'incirca su 408 milioni di persone. Il Dipartimento degli affari sociali ed economici delle Nazioni Unite stima che la popolazione europea nel 2021 fosse di circa 745 milioni di persone e che si ridurrà a circa 716 milioni di persone entro il 2050.

In Francia, così come in molte altre parti del mondo, l'arrivo di ingenti numeri di migranti provenienti da altri Paesi è diventato uno degli argomenti più salienti del dibattito politico. A settembre 2023, circa 700 000 rifugiati e richiedenti asilo si trovavano in Francia, rendendo la nazione il terzo Paese ospitante nell'Unione europea. Durante il controllo del caso in esame da parte del Board, la Francia ha vissuto proteste su vasta scala e un dibattito pubblico accesso sulla migrazione in seguito al passaggio in Parlamento di una nuova legge sull'immigrazione che, tra le altre cose, stabilisce le quote di migrazione e inasprisce le regole relative al ricongiungimento familiare e all'accesso alle prestazioni sociali. Zemmour e il suo partito sono stati molto attivi in tali dibattiti, sostenendo le restrizioni sull'immigrazione.

Zemmour ha subito numerosi procedimenti legali ed è stato condannato diverse volte dai tribunali francesi per incitamento all'odio razziale e per il rilascio di commenti offensivi dal punto di vista razziale negli ultimi anni, a seguito delle sue dichiarazioni su musulmani, africani, persone di colore e LGBTQIA+. Zemmour è stato condannato per incitamento all'odio razziale in relazione ai commenti resi nel 2011 in televisione, in cui affermava che la "maggior parte degli spacciatori sono neri e arabi. È un dato di fatto". Più di recente, un tribunale ha ritenuto Zemmour colpevole di incitamento all'odio razziale nel 2020, condannandolo a una multa di 10 000 euro per aver dichiarato che i bambini migranti sono "ladri, assassini, stupratori. Non sono nient'altro che questo. Dovremmo rimandarli a casa loro". Zemmour ha già esercitato il suo diritto di appello in un altro caso in cui è stato condannato e sanzionato dal tribunale correzionale per incitamento all'odio e alla discriminazione religiosa contro la comunità musulmana francese. La condanna si basava sulle dichiarazioni rese dal politico in un programma televisivo nel 2016, secondo cui ai musulmani dovrebbe essere data "la scelta tra Islam e Francia" e che "per 30 anni abbiamo subito un'invasione, una colonizzazione [...] e anche la battaglia per islamizzare un territorio che non lo è, che normalmente è una terra non islamizzata". Nel dicembre 2022, la Corte europea per i diritti dell'uomo ha ritenuto che la condanna non violasse il diritto alla libertà di espressione di Zemmour.

Nonostante il contenuto del caso in esame non menzioni esplicitamente la Teoria della grande sostituzione, il concetto è centrale nell'ideologia politica di Zemmour e ha avuto un ruolo fondamentale nella sua campagna presidenziale durante la quale ha promesso, qualora fosse stato eletto, la creazione di un "Ministro della remigrazione". Zemmour ha inoltre dichiarato che avrebbe "rispedito a casa un milione" di stranieri in 5 anni. Secondo la ricerca indipendente commissionata dal Board, condotta da esperti di teorie del complotto e politica francese, tendenze sui social media e linguistica, i sostenitori della Teoria della grande sostituzione affermano che le popolazioni bianche europee stanno per essere deliberatamente sostituite dal punto di vista etnico e culturale attraverso la migrazione e la crescita delle comunità minoritarie. La teoria insiste sulla circostanza che la moderna migrazione di persone non bianche (e prevalentemente musulmane) da Paesi non europei (perlopiù, Africa e Asia) all'Europa sia una forma di guerra demografica. Gli esperti del Board hanno sottolineato che la migrazione e l'aumento del fenomeno costituiscono una realtà di fatto. È piuttosto la convinzione della sussistenza di un vero complotto o cospirazione per portare le persone non bianche in Europa al fine di sostituire o ridurre la proporzione delle popolazioni bianche a rendere la Teoria della grande sostituzione una teoria del complotto. Gli esperti linguistici consultati dal Board denotano come la Teoria della grande sostituzione e i termini a essa associati "incitino al razzismo, all'odio e alla violenza contro gli immigrati, gli europei non bianchi e prendano di mira nello specifico i musulmani". Un report della Radicalization Awareness Network dell'Unione europea sottolinea come il sentimento anti-semita, anti-musulmano e in generale anti-immigrazione diffuso dai sostenitori della Teoria della grande sostituzione abbia ispirato la scelta dei bersagli da parte di molti attentatori solitari di alto profilo in Europea negli ultimi anni. La ricerca commissionata dal Board ha altresì indicato che la teoria ha ispirato innumerevoli incidenti violenti nel mondo negli ultimi anni, tra cui la sparatoria di massa a Christchurch, Nuova Zelanda, in cui hanno perso la vita 51 musulmani.

Una parte minoritaria del Board ha inoltre ritenuto un contesto importante l'aumento delle proteste violente dell'estrema destra in Francia registrate negli ultimi anni. A seguito dell'accoltellamento fatale di un adolescente durante un evento festivo del 18 novembre a Crépol, una comunità rurale in Francia, attivisti e partiti di destra hanno scatenato proteste violente, caratterizzate da scontri tra manifestanti e polizia. I manifestanti sostenevano che i responsabili fossero immigrati e membri delle minoranze, nonostante il fatto che delle 9 persone arrestate in relazione all'accoltellamento, 8 fossero francesi e 1 italiana. Il Ministro dell'interno, Gérald Darmanin, ha dichiarato che i membri della milizia "cercano di attaccare arabi, persone con un colore della pelle diversa e parlano della loro nostalgia per il Terzo Reich". L'esponente del partito dei verdi francese, Sandrine Rousseau, ha paragonato queste proteste alle ratonnade, violenze fisiche perpetrate contro una minoranza etnica o un gruppo sociale, soprattutto contro le persone di origine nordafricana. La più famosa ratonnade, spesso associata alla diffusione del termine, ha avuto luogo il 17 ottobre 1961, durante le proteste pacifiche degli algerini, in cui 200 di loro vennero uccisi durante gli attacchi violenti della polizia. Da allora il termine è stato ripreso più volte in Francia in diversi contesti. Ad esempio, a dicembre 2022, i politici francesi si sono uniti agli utenti dei social media nel denunciare la violenza di strada paragonandola alleratonnade dopo la partita della Coppa del mondo tra Francia e Marocco.

3. Ambito e autorità dell'Oversight Board

Il Board ha l'autorità di controllare la decisione di Meta dando seguito al ricorso della persona che ha in precedenza segnalato il contenuto che è stato lasciato sulla piattaforma (articolo 2, sezione 1 dell'Atto costitutivo; articolo 3, sezione 1 dello Statuto).

Il Board può confermare o revocare la decisione di Meta (articolo 3, sezione 5 dell'Atto costitutivo) e la sua decisione è vincolante per l'azienda (articolo 4 dell'Atto costitutivo). Meta deve anche valutare la fattibilità dell'applicazione della decisione del Board nel caso di contenuti identici in un contesto parallelo (articolo 4 dell'Atto costitutivo). Le decisioni del Board possono comprendere raccomandazioni non vincolanti cui Meta deve rispondere (articolo 3, sezione 4 dell'Atto costitutivo; articolo 4). Quando Meta si impegna ad adottare misure a seguito di raccomandazioni, il Board ne monitora l'implementazione.

4.Fonti di autorità e indicazioni

L'analisi del Board del caso in questione si è basata sui seguenti standard e precedenti:

I.Decisioni dell'Oversight Board

• Negazione dell'Olocausto
• Violenza tra comunità nello stato indiano dell'Orissa
• Cartone animato di Knin
• Post di Al Jazeera condiviso
• Sospensione dell'ex Presidente degli Stati Uniti Trump
• Raffigurazione di Zwarte Piet

II.Normative sui contenuti di Meta

Incitamento all'odio

I fondamenti della normativa per lo Standard della community sui contenuti che incitano all'odio indicano che l'incitamento all'odio, definito come attacco diretto contro le persone sulla base di caratteristiche protette, non è consentito sulla piattaforma "in quanto crea un ambiente di intimidazione ed esclusione e in alcuni casi potrebbe promuovere la violenza fisica offline". La normativa elenca tra le caratteristiche protette, tra le altre cose, la razza, l'etnia, la nazionalità di origine e l'affiliazione religiosa. La normativa indica che gli "attacchi sono suddivisi in due livelli di gravità", con gli attacchi di livello 1 che costituiscono quelli più gravi. I fondamenti dello Standard della community sull'incitamento all'odio inoltre afferma che la normativa "protegg[e] rifugiati, migranti, immigrati e richiedenti asilo dagli attacchi più gravi" ma che Meta consente "di commentare e criticare le politiche sull'immigrazione". Le indicazioni interne di Meta per i moderatori di contenuti approfondiscono questo aspetto, affermando che lo stato di migrante, immigrato, rifugiato e richiedente asilo viene considerato come stato quasi protetto. Ciò implica che Meta protegge queste persone dagli attacchi di livello 1 ma non da quelli di livello 2 ai sensi della normativa in materia di incitamento all'odio.

La normativa, che in precedenza presentava 3 diversi livelli di attacchi ma oggi ne prevede 2, attualmente vieta come attacco di livello 2, tra gli altri tipi di contenuti, l'"esclusione o la segregazione sotto forma di inviti, dichiarazioni di intenzioni, dichiarazioni di minaccia o auspicio o dichiarazioni a sostegno o a supporto della segregazione definiti come: [...] esclusione esplicita, intesa come l'espulsione di determinati gruppi o il dichiararli non ammessi". Meta ha respinto la richiesta del Board di pubblicare ulteriori informazioni circa le indicazioni interne dell'azienda rivolte agli addetti al controllo dei contenuti su questo punto.

In un post del 2017 su Newsroom intitolato "Hard Questions: Who Should Decide What Is Hate Speech in an Online Global Community?" (Chi dovrebbe stabilire cosa rientra nella categoria "discorso di incitazione all’odio" in una community globale online?), al quale è presente un link al termine dei fondamenti dello Standard della community sull'incitamento all'odio con il testo, "Scopri di più sul nostro approccio all'incitamento all'odio", Meta ha preso atto che i dibattiti politici sull'immigrazione spesso diventano "a debate over hate speech, as two sides adopt inflammatory language" (un dibattito sull'incitamento all'odio, con due parti che adottano un linguaggio provocatorio). L'azienda ha dichiarato che dopo aver controllato post su Facebook in materia di dibattito sulla migrazione a livello mondiale, "decided to develop new guidelines to remove calls for violence against migrants or dehumanizing references to them — such as comparisons to animals, to filth or to trash" (ha deciso di sviluppare nuove linee guida per rimuovere gli incitamenti alla violenza contro i migranti o i riferimenti disumani a queste persone, come il confronto con gli animali, la sporcizia o la spazzatura). L'azienda ha comunque lasciato "the ability for people to express their views on immigration itself," (la possibilità alle persone di esprimere le loro opinioni sull'immigrazione stessa) considerando che è "deeply committed to making sure Facebook remains a place for legitimate debate" (profondamente impegnata a garantire che Facebook rimanga un luogo di dibattito legittimo).

Organizzazioni e persone pericolose

I fondamenti dello Standard della community su organizzazioni e persone pericolose dichiara che Meta non consente a organizzazioni o persone che proclamano missioni violente o che commettono azioni violente di essere presenti sulle proprie piattaforme. Inoltre, illustra che Meta valuta queste entità "in base al loro comportamento online e offline, in particolare per quanto riguarda i legami con la violenza".

Lo Standard della community su organizzazioni e persone pericolose afferma che Meta vieta la presenza di reti cospirazionista che inducono alla violenza, attualmente definite come soggetti non statali: (i) "identificat[i] da un nome, una dichiarazione d'intenti, un simbolo o un lessico condiviso"; (ii) "[che] promuov[ono] teorie non fondate che tentano di spiegare le cause più importanti di eventi, circostanze e problemi politici e sociali significativi, con presunti piani segreti tramati da due o più soggetti potenti" e (iii) "[che] ha[nno] sostenuto esplicitamente o [sono] stat[i] direttamente collegat[i] a uno schema di violenza fisica offline perpetrata da sostenitori motivati dal desiderio di attirare l'attenzione sui presunti danni identificati nelle teorie infondate promosse dalla rete".

L'analisi del Board delle normative relative ai contenuti si è ispirata inoltre all'impegno verso la libertà di espressione di Meta, che l'azienda descrive come "essenziale", e ai suoi valori di sicurezza e dignità.

III. Responsabilità di Meta in materia di diritti umani

I principi guida delle Nazioni Unite (UNGP) su imprese e diritti umani, promossi nel 2011 dal Consiglio per i diritti umani delle Nazioni Unite, stabiliscono un quadro normativo volontario per le responsabilità delle aziende private in materia di diritti umani. Nel 2021, Meta ha annunciato la sua Normativa aziendale sui diritti umani, che ribadisce il suo impegno nel rispettare i diritti dell'uomo ai sensi dei principi guida delle Nazioni Unite. L'analisi del Board sulle responsabilità di Meta in materia di diritti umani per il caso in oggetto si è basata sui seguenti standard internazionali:

• Il diritto alla libertà di espressione: articolo 19 della Convenzione internazionale sui diritti civili e politici (ICCPR), articolo 20, par. 2 ICCPR, Commento generale 34, Comitato per i Diritti Umani, 2011; i report del Relatore speciale delle Nazioni Unite (UNSR) sulla libertà di opinione ed espressione: A/HRC/38/35 (2018) e A/74/486 (2019).
• Uguaglianza e non discriminazione: articolo 2, paragrafo 1 e articolo 26, ICCPR articolo 2 della Convenzione internazionale sull'eliminazione di ogni forma di discriminazione razziale (ICERD); Assemblea generale delle Nazioni Unite, risoluzione A/RES/73/195.
• Diritto alla vita: articolo 6 dell'ICCPR.

5. Osservazioni degli utenti

Il Board ha ricevuto un invio dall'utente che ha segnalato il contenuto e inviato il ricorso contro la decisione di Meta di mantenere pubblicato il contenuto, nell'ambito del suo ricorso al Board. Nell'invio, l'utente che ha inviato il ricorso afferma che Zemmour sta spiegando la colonizzazione e migrazione solo in termini di sovrappopolazione, il che viene classificato dall'utente come "notizie false".

6. Osservazioni di Meta

Dopo la selezione da parte del Board del caso in esame, Meta ha controllato il post rispetto alla normativa in materia di incitamento all'odio con esperti in materia e ha stabilito che la sua decisione originale di lasciare pubblicato il contenuto era corretta. Meta non ha fornito altre informazioni sul mandato specifico o sulle aree di competenza degli esperti che hanno effettuato questo ulteriore controllo. Meta ha sottolineato che, per considerare un contenuto in violazione, la normativa richiede sia un gruppo con caratteristiche protette sia un attacco diretto, mentre le affermazioni circa il cambiamento della popolazione e la colonizzazione sono privi di tali elementi. Meta ha dichiarato che non considera l'affermazione secondo cui un gruppo stia "colonizzando" un luogo come un attacco in sé, purché non costituisca un invito all'esclusione, e ha sottolineato che "desider[a] consentire ai cittadini di discutere di leggi e normative delle loro nazioni, fintantoché il dibattito non costituisca un attacco contro gruppi vulnerabili che potrebbero essere destinatari di tali leggi". Infine, Meta ha affermato che il contenuto non identifica un gruppo con caratteristiche protette poiché Zemmour si riferisce all'"Africa", un continente e i suoi Paesi, e che la "normativa in materia di incitamento all'odio non protegge Paesi o istituzioni dagli attacchi".

Meta ha rifiutato di sciogliere la riservatezza circa il processo di sviluppo della normativa dell'azienda in materia di teorie del complotto pericolose. Al contrario, Meta ha dichiarato: "Abbiamo preso in considerazione opzioni normative specifiche per i contenuti che discutono di teorie del complotto che non violano in altro modo le nostre normative esistenti. Tuttavia, abbiamo deciso che, per il momento, l'implementazione di una qualsiasi delle opzioni rischierebbe di limitare in modo significativo il dibattito politico".

Il Board ha posto 8 domande a Meta per iscritto. Le domande riguardavano lo sviluppo della normativa di Meta in relazione alla Teoria della grande sostituzione, l'applicabilità di varie sezioni della normativa in materia di organizzazioni e persone pericolose e i trascorsi in termini di violazione della Pagina Facebook e dell'utente che ha pubblicato il contenuto. Meta ha risposto a 6 delle domande del Board, mentre 2 risposte non sono state ritenute soddisfacenti. Dopo che Meta non ha fornito informazioni sufficienti in risposta alla domanda iniziale del Board circa lo sviluppo della normativa in relazione alla Teoria della grande sostituzione, il Board ha presentato una domanda di approfondimento, alla quale Meta ha risposto fornendo ulteriori informazioni, comunque non esaustive.

7.Commenti pubblici

L'Oversight Board ha ricevuto 15 commenti pubblici. 7 commenti sono stati inviati da Stati Uniti e Canada, 3 dall'Europa, 2 dall'Asia centrale e del Sud, 1 dal Medioriente e dal Nord Africa, 1 dall'Asia Pacifico e dall'Oceania e 1 dall'Africa subsahariana. Nel totale sono inclusi commenti pubblici duplicati o inviati con il consenso alla pubblicazione, ma che non hanno soddisfatto le condizioni per la pubblicazione del Board I commenti pubblici possono essere inviati al Board con o senza consenso alla pubblicazione e con o senza consenso all'attribuzione (ossia in forma anonima).

Gli invii riguardavano principalmente due temi. In primo luogo, diversi commenti hanno sottolineato che la rimozione del contenuto sottoposto a controllo nel caso in esame costituirebbe una forma di censura e potrebbe addirittura "alimentare la rabbia dei cittadini che ritengono inascoltate le loro voci" (PC-22009). In secondo luogo, due organizzazioni hanno inviato commenti che enfatizzano l'impatto negativo offline di questo tipo di contenuti e, nello specifico, della Teoria della grande sostituzione. Entrambi i commenti in questione sostenevano la sussistenza di un nesso fra il massacro di Christchurch e la teoria (PC-22013, Digital Rights Foundation; PC-22014, Global Project Against Hate and Extremism).

I commenti pubblici inviati per il caso in oggetto sono disponibili qui.

8.Analisi dell'Oversight Board

Il Board ha analizzato le normative sui contenuti, le responsabilità in materia di diritti umani e i valori di Meta per stabilire se il contenuto del caso in esame dovesse essere rimosso. Il Board ha anche valutato le implicazioni del caso in oggetto per il più ampio approccio di Meta nei confronti della governance dei contenuti.

Il Board ha selezionato il caso in esame come un'opportunità per controllare l'approccio di Meta ai contenuti che prendono di mira i migranti nel contesto di una crescente retorica anti-immigrazione a livello globale e di accessi dibattiti in merito alle politiche sull'immigrazione; in particolare, considerate le difficoltà nel distinguere su vasta scala i contenuti pericolosi dalla libertà di espressione politica dei dibattiti in materia di politiche sull'immigrazione.

8.1 Conformità con le normative sui contenuti di Meta

Il Board ritiene che il contenuto non violi le normative di Meta. Pertanto, la decisione di Meta di lasciare il contenuto pubblicato su Facebook era corretta. Una parte minoritaria del Board ritiene, tuttavia, che le normative di Meta potrebbero chiaramente distinguere anche le critiche più aspre alle politiche sull'immigrazione dalle forme di libertà di espressione che richiamano teorie del complotto, pericolose verso i gruppi con caratteristiche protette.

I.Regole sui contenuti

Incitamento all'odio

La maggior parte del Board ritiene che il contenuto nel caso in esame non violi lo Standard della community sull'incitamento all'odio di Meta, e che sia di fatto un esempio, seppur controverso, di libertà di espressione protetta di opinioni sul tema dell'immigrazione. La clip di 50 secondi dell'intervista di Zemmour pubblicata dall'utente non contiene alcun invito alla violenza né utilizza un linguaggio disumanizzante o che incita all'odio contro gruppi vulnerabili. La circostanza che Zemmour in passato sia stato perseguito e condannato per l'uso di un linguaggio che incita all'odio o che i temi del post richiamino la Teoria della grande sostituzione, la quale, secondo molti, ha innescato una serie di violenze contro i migranti e i membri dei gruppi minoritari, non è una giustificazione sufficiente per la rimozione di un post che non viola gli standard di Meta. La normativa richiede la presenza di due elementi nel contenuto per essere considerato in violazione: (i) un "attacco diretto" e (ii) un gruppo con "caratteristiche protette" contro il quale l'attacco è rivolto. Meta definisce gli "attacchi diretti" come, fra gli altri tipi di libertà di espressione, "esclusione o la segregazione sotto forma di inviti", come illustrato in maggiore dettaglio alla Sezione 4 di cui sopra. Inoltre, i fondamenti della normativa indicano chiaramente che Meta consente "di commentare e criticare le politiche sull'immigrazione".

Per la maggior parte, i commenti di Zemmour nel video si concentrano principalmente su presunte informazioni demografiche che fornisce in merito ad Africa, Europa e "colonizzazione". Il video contiene, tra le altre affermazioni, la dichiarazione "Quindi, l'equilibrio del potere si è invertito" e "Quando ci sono oggi 4 africani e 1 europeo, che cosa succede? L'Africa colonizza l'Europa, e in particolare, la Francia". I commenti di Zemmour non contengono alcun attacco diretto e, infatti, non usa la frase "La grande sostituzione" né fa riferimento diretto alla teoria. Non vi è alcun invito esplicito all'esclusione di gruppi dall'Europa né alcuna affermazione sugli africani che costituisca uno stereotipo pericoloso, un insulto o qualsiasi altra forma di attacco diretto. Il Board, tuttavia, ritiene preoccupante che Meta non consideri gli africani un gruppo con caratteristiche protette, considerato il fatto che la nazionalità di origine, la razza e la religione sono caratteristiche protette sia dalle normative di Meta sia dal diritto internazionale dei diritti umani. Gli africani vengono menzionati in tutto il contenuto. L'Africa è un insieme di nazione, pertanto "africani" si riferisce alle persone di nazionalità dei Paesi africani. In secondo luogo, nel contesto delle discussioni e dei precedenti commenti di Zemmour sulla migrazione in Francia, il termine "africani" costituisce un'espressione che indica gli africani non bianchi, in particolare quelli di colore e musulmani.

Organizzazioni e persone pericolose

La maggioranza del Board ritiene inoltre che il contenuto non violi la normativa in materia di organizzazioni e persone pericolose di Meta, considerata l'assenza degli elementi necessari per valutare questo particolare contenuto come parte di una rete cospirazionista che induce alla violenza più ampia.

Come illustrato nella precedente Sezione 6, Meta ha preso in considerazione opzioni sulla normativa specifiche per i contenuti che discutono di teorie del complotto che non violano in altro molto alcuna normativa, giungendo alla conclusione che, al momento, l'implementazione di una qualsiasi delle opzioni rischierebbe di limitare in modo significativo il dibattito politico. Il Board esprime preoccupazione per la mancanza di informazioni fornite da Meta in risposta alle sue domande su tale processo di sviluppo della normativa. Il Board sottolinea che l'azienda non ha fornito informazioni specifiche sulle ricerche condotte, le informazioni raccolte, l'ambito della sua azione, i tipi di esperti consultati o le varie opzioni sulla normativa analizzate. Il Board è altresì preoccupato per il fatto che Meta abbia scelto di non condividere informazioni circa il processo di sviluppo della normativa e i suoi risultati a livello pubblico.

Una parte minoritaria del Board ritiene che, nonostante il contenuto prenda implicitamente di mira diversi gruppi con caratteristiche protette che si sovrappongono (persone di colore, arabi e musulmani), alla luce dell'attuale formulazione, le regole incluse nelle normative in materia di organizzazioni e persone pericolose di Meta non vietano contenuti come quello in esame. Il fatto che il post si limiti a ripetere le parti più "accettabili" della Teoria della grande sostituzione non è, tuttavia, decisivo. Nella decisione del Board sul caso Sospensione dell'ex Presidente degli Stati Uniti Trump, il Board ha evidenziato che Meta "deve valutare i post degli utenti influenti nel loro contesto in base al modo in cui potrebbero essere intesi, anche quando riportano un messaggio provocatorio codificato in un linguaggio ad hoc per evitare responsabilità".

In ogni caso, come verrà illustrato in maggiore dettaglio nella Sezione 8.3, per una parte minoritaria del Board, l'approccio di Meta ai contenuti che diffondono teorie del complotto pericolose, come la Teoria della grande sostituzione, non è coerente con gli obiettivi delle varie normative predisposte dall'azienda per impedire la creazione di un ambiente di intimidazione ed esclusione che colpisca le minoranze protette dalla violenza offline e online. Sebbene una parte minoritaria del Board concordi fermamente sul fatto che le normative di Meta debbano consentire la critica e il dibattito su tutti i temi (come l'immigrazione) pertinenti in una società democratica, queste dovrebbero anche stabilire chiari paletti per evitare la diffusione di attacchi impliciti o espliciti nei confronti di gruppi vulnerabili, tenendo in considerazione la violenza offline di certe teorie del complotto, come la Teoria della grande sostituzione.

II. Trasparenza

Meta fornisce alcune informazioni su come gestisce i contenuti correlati all'immigrazione nel suo Centro sulla trasparenza, nello Standard della community sull'incitamento all'odio, nel quale l'azienda illustra che i rifugiati, i migranti, gli immigrati e i richiedenti asilo sono protetti dagli attacchi più gravi. In un post del 2017 su Newsroom, di cui è presente un link nei fondamenti della normativa sull'incitamento all'odio, Meta fornisce alcune informazioni aggiuntive. Tuttavia, l'azienda non illustra in modo esplicito il modo in cui gestisce i contenuti correlati alla Teoria della grande sostituzione. Il post del 2017 presenta informazioni pertinenti sull'argomento ma non è stato aggiornato dopo il processo di sviluppo della normativa del 2021, menzionato alla Sezione 6 di cui sopra. Meta inoltre non indica in modo esplicito nella sua normativa rivolta al pubblico che gli inviti all'esclusione sono consentiti nel contesto dei dibattiti sull'immigrazione. Inoltre, non è chiaro come vengano gestiti gli attacchi impliciti o celati in questo contesto.

8.2 Conformità con le responsabilità di Meta in materia di diritti umani

La maggioranza del Board ritiene che lasciare pubblicato il contenuto sia coerente con le responsabilità di Meta in materia di diritti umani. Una parte minoritaria ritiene che, per rispettare le sue responsabilità in materia di diritti umani, Meta debba riformulare le sue normative in modo che i suoi servizi non vengano usati in modo improprio dai promotori di teorie del complotto che cagionano violenza offline e online.

Libertà di espressione (articolo 19 dell'ICCPR)

L'articolo 19 dell'ICCPR garantisce un'ampia protezione dal diritto alla libertà di espressione, fra cui la "libertà di cercare, ricevere e dare informazioni e idee di ogni tipo", compresi il "dibattito politico" e i commenti sugli "affari pubblici" (Commento generale n. 34. par. 11). Il Comitato per i Diritti Umani ha dichiarato che l'ambito di tale diritto "abbraccia anche la libertà di espressione che potrebbe essere considerata profondamente offensiva, sebbene tale libertà di espressione possa essere limitata ai sensi delle disposizioni dell'articolo 19, paragrafo 3 e dell'articolo 20" per proteggere i diritti o la reputazione altrui o per vietare l'incitamento alla discriminazione, all'ostilità o alla violenza (Commento generale n. 34, par. 11).

Nel contesto del dibattito pubblico sulla migrazione, l'Assemblea generale delle Nazioni Unite ha ribadito il suo impegno nel "proteggere la libertà di espressione nel rispetto del diritto internazionale, riconoscendo che un dibattito aperto e libero contribuisce a una comprensione completa di tutti gli aspetti della migrazione". L'Assemblea si è ulteriormente impegnata a "promuovere un dibattito pubblico aperto e basato su prove in merito a migrazione e migranti in collaborazione con tutte le parti della società, in modo da creare una percezione più realistica, umana e costruttiva in tale ambito" (A/RES/73/195, par. 33). L'immigrazione e le politiche correlate, molto contestate e pertinenti per il processo politico, non solo in Francia, ma a livello globale, sono un argomento legittimo per il dibattito sulle piattaforme di Meta. Per la maggior parte del Board, considerate le potenziali implicazioni per il dibattito pubblico, il bannare questo tipo di dibattito sulle piattaforme di Meta costituirebbe una chiara violazione della libertà di espressione, nonché un pericoloso precedente. Per una parte minoritaria del Board, è proprio per l'importanza delle discussioni aperte e basate su prove per una società democratica, che la diffusione di teorie del complotto, come la Teoria della grande sostituzione, nelle piattaforme di social media può essere così pericolosa. Come segnalato dall'Institute for Strategic Dialogue, i metodi utilizzati per diffondere la teoria "comprendono meme razzisti disumanizzanti, distor[sioni] e rappresenta[zioni] fuorviant[i] dei dati demografici e utiliz[zo] di dati scientifici smentiti".

Quando le limitazioni alla libertà di espressione sono imposte da uno Stato, devono soddisfare i requisiti di legalità, fine legittimo, necessità e proporzionalità (articolo 19, paragrafo 3 dell'ICCPR). Questi requisiti vengono spesso definiti "test in tre fasi". Il Board utilizza questo framework per interpretare gli impegni volontari di Meta in materia di diritti, sia per quanto riguarda la singola decisione sul contenuto oggetto di controllo sia per quanto riguarda il più ampio approccio di Meta alla governance dei contenuti. Come dichiarato dal Relatore speciale delle Nazioni Unite sulla libertà di espressione, sebbene "le aziende non abbiano gli stessi obblighi dei governi, hanno un impatto che richiede loro di valutare lo stesso tipo di domande sulla protezione del diritto alla libertà di espressione dei propri utenti" ( A/74/486, par. 41)

I. Legalità (chiarezza e accessibilità delle norme)

Il principio di legalità impone regole che limitano la libertà di espressione accessibili e chiare, formulate con precisione sufficiente a consentire alle persone di regolare la propria condotta di conseguenza (Commento generale n. 34, par. 25). Inoltre, tali regole "non possono conferire una discrezionalità illimitata nella limitazione della libertà di espressione ai responsabili della [relativa] applicazione" e devono "fornire indicazioni sufficienti ai responsabili della relativa applicazione per consentire loro di accertare quali forme di libertà di espressione sono correttamente limitate e quali non lo sono" ( ibid.). In merito alle regole che disciplinano la libertà di espressione online, il Relatore speciale delle Nazioni Unite sulla libertà di espressione ha dichiarato che queste devono essere chiare e specifiche (A/HRC/38/35, par. 46). Le persone che usano le piattaforme di Meta devono poter accedere alle regole e comprenderle, mentre gli addetti al controllo dei contenuti devono ricevere indicazioni chiare sulla loro applicazione.

Nessuna delle attuali normative di Meta vieta "in modo specifico e chiaro" il contenuto del caso in esame. Per la maggioranza del Board, un utente ordinario, leggendo lo Standard della community sull'incitamento all'odio o il post sul blog "Hard Questions" del 2017 di Meta (di cui è presente un link nello Standard della community), potrebbe probabilmente avere l'impressione che vengono rimossi solo gli attacchi più gravi contro gli immigrati e i migranti, poiché Meta indica chiaramente che desidera consentire commenti e critiche in merito alle politiche sull'immigrazione nelle sue piattaforme. La maggioranza del Board ritiene che questo impegno sia in linea con le responsabilità di Meta in materia di diritti umani. Per una parte minoritaria del Board, la normativa in materia di incitamento all'odio mira a impedire la creazione di un ambiente di esclusione o segregazione, al quale teorie del complotto che incitano all'odio, come la Teoria della grande sostituzione, contribuiscono. Considerando che i contenuti che richiamano tali teorie di norma prendono di mira gruppi vulnerabili e minoritari e ne attaccano la dignità, un utente ordinario potrebbe aspettarsi una forma di protezione contro questo tipo di contenuti ai sensi della normativa in materia di incitamento all'odio di Meta.

L'attuale normativa in materia di organizzazione e persone pericolose di Meta non presenta alcuna disposizione che vieta il contenuto del caso in esame. Per la maggioranza del Board, anche se Meta vietasse in modo specifico e chiaro contenuti relativi alla Teoria della grande sostituzione sulle sue piattaforme, il contenuto del caso in esame non si spinge a nominare la teoria o a elaborarne i suoi elementi in modi che potrebbero essere considerati cospiratori e pericolosi. Il post non sostiene che i flussi migratori verso l'Europa coinvolgono gruppi specifici di persone facenti parti di un complotto segreto che coinvolge soggetti con scopi nascosti.

II.Fine legittimo

Le limitazioni alla libertà di espressione devono anche perseguire almeno uno degli scopi legittimi enucleati nell'ICCPR, che includono la protezione dei "diritti degli altri". "Il termine 'diritti' include i diritti umani riconosciuti dalla Convenzione e più in generale dal diritto internazionale sui diritti umani" ( Commento generale n. 34, par. 28)

In diverse decisioni, Il Board ha rilevato che la normativa in materia di incitamento all'odio di Meta, che mira a proteggere le persone dal danno causato dall'incitamento all'odio, ha un fine legittimo riconosciuto dal diritto internazionale sui diritti umani (v. la decisione Cartone animato di Knin). La normativa tutela il diritto alla vita (articolo 6, paragrafo 1, ICCPR), nonché il diritto all'uguaglianza e alla non discriminazione, anche basata sull'etnia e sulla nazionalità di origine (articolo 2, paragrafo 1, ICCPR; articolo 2, ICERD). Il Board ha in precedenza rilevato che la normativa in materia di organizzazioni e persone pericolose di Meta mira a prevenire e impedire i danni nel mondo reale con il fine legittimo di proteggere i diritti altrui (v. la decisione Post di Al Jazeera condiviso). Di contro, Il Board ha più volte sottolineato che non costituisce un fine legittimo limitare la libertà di espressione al solo scopo di proteggere gli individui dall'offesa (v. la decisione Raffigurazione di Zwarte Piet che cita il Relatore speciale delle Nazioni Unite sulla libertà di espressione, report A/74/486, par. 24 e la decisione Sospensione dell'ex Presidente degli Stati Uniti Trump), considerato l'elevato valore attribuito dal diritto internazionale sui diritti umani alla libertà di espressione priva di inibizioni (Commento generale n. 34, par. 38).

III. Necessità e proporzionalità

Il principio di necessità e proporzionalità prevede che le limitazioni alla libertà di espressione "debbano corrispondere allo strumento meno invasivo tra quelli che potrebbero svolgere la funzione protettiva e debbano essere proporzionate alla relativa funzione protettiva e all'interesse da tutelare" (Commento generale n. 34, paragrafo 34). La natura e la serie di risposte a disposizione di un'azienda come Meta sono diverse rispetto a quelle di uno Stato e spesso rappresentano violazioni meno gravi dei diritti rispetto, ad esempio, alle sanzioni penali. Nell'ambito delle responsabilità sui diritti umani, le aziende di social media devono considerare una serie di possibili risposte a un contenuto problematico a parte l'eliminazione per garantire che le limitazioni siano altamente specifiche ( A/74/486, paragrafo 51).

Nell'analizzare i rischi presentati da contenuti potenzialmente violenti, il Board si fa guidare dal test a sei parti illustrato nel Piano d'azione Rabat, che analizza l'incitamento alla discriminazione, ostilità o violenza (OHCHR, A/HRC/22/17/Add. 4, 2013). Il test prende in considerazione, contesto, autore del discorso, intento, contenuto e forma, misura della diffusione della libertà di espressione e probabilità di un pericolo imminente.

Per la maggioranza del Board, la rimozione del contenuto nel caso in questione non è né necessaria né proporzionata. Il test di Rabat sottolinea che il contenuto e la forma del discorso sono "un elemento critico dell'incitamento". Nel contenuto sottoposto a controllo del presente caso, i commenti di Zemmour, come riprodotti nella clip di 50 secondi pubblicata dall'utente, non toccano direttamente gli elementi cospirazionisti della Teoria della grande sostituzione. Inoltre, il video non contiene elementi provocatori, come immagini violente o di incitamento. Anche i commenti e la didascalia non contengono alcun invito diretto alla violenza o all'esclusione. La maggioranza del Board ritiene che costituirebbe una violazione della libertà di espressione l'escludere un contenuto politicamente controverso sulla base di dichiarazioni rese altrove dall'autore del discorso, oltre a vedere i numeri citati da Zemmour solo come leggermente esagerati. La maggioranza del Board inoltre rileva come l'oggetto principale delle dichiarazioni di Zemmour nel video sia l'immigrazione, forse uno dei temi politici più spinosi di oggi.

Secondo una minoranza dei membri del Board, il contenuto del caso in esame non viola le normative attuali di Meta (v. Sezione 8.1). Tuttavia, l'azienda ha predisposto una serie di normative volte a prevenire la creazione di un ambiente di esclusione e intimidazione che non solo influisce sulle minoranze protette online (pregiudicando la libertà di espressione dei gruppi esclusi), ma anche offline. Ai sensi di tali normative, le tematiche legate ad antisemitismo e supremazia bianca, nonché i contenuti provenienti da reti cospirazioniste che incitano alla violenza, vengono moderati. La rimozione di tali contenuti è in linea con le responsabilità in materia di diritti umani di Meta. Come illustrato nella Sezione 2 di cui sopra, la Teoria della grande sostituzione afferma che è in atto un complotto premeditato volto alla sostituzione delle popolazioni bianche in Europa con popolazioni di migranti, provenienti perlopiù da Africa e Asia. La diffusione delle visioni della Teoria della grande sostituzione ha contributo all'incitamento al razzismo, all'odio e alla violenza contro gli immigrati, gli europei non bianchi e i musulmani. Una parte minoritaria del Board sottolinea che non si tratta di un'idea astratta o di un'opinione controversa, bensì di una tipica teoria del complotto che provoca violenza offline e online. Tale teoria ha indubbiamente contribuito alla creazione di un clima di esclusione e intimidazione nei confronti di determinate minoranze. Le prove della violenza provocata dalla diffusione aggregata o cumulativa, su vasta scala e ad alta velocità di contenuti anti-semiti sulle piattaforme di Meta, come discusso nel caso Negazione dell'Olocausto, sono simili alle prove della violenza causata dalla Teoria della grande sostituzione, indicate nella Sezione 2. Per tali motivi, una parte minoritaria del Board ritiene incoerente con il principio di non discriminazione e con i valori di Meta di sicurezza e dignità il fatto che l'azienda abbia deciso di proteggere determinati gruppi di minoranza minacciati dall'esclusione e discriminazione causate dalle dichiarazioni cospiratorie, lasciando al contempo privi di protezione altre persone che si ritrovano in una situazione analoga di rischio. Una parte minoritaria del Board non trova alcuna ragione valida che giustifichi il differente approccio di Meta alla Teoria della grande sostituzione rispetto all'approccio dell'azienda ad altre dichiarazioni cospiratorie menzionate in precedenza, che Meta modera in linea con le sue responsabilità in materia di diritti umani.

In relazione a quanto sopra, per una parte minoritaria del Board, la sfida più grande affrontata dalle aziende di social media non sono i singoli contenuti, bensì l'accumulo di contenuti pericolosi condivisi su vasta scala e ad alta velocità. Il Board ha rilevato che "la moderazione dei contenuti per evitare i danni cumulativi dell'incitamento all'odio, anche laddove l'espressione non incita direttamente alla violenza o alla discriminazione, in determinate circostanze può essere coerente con le responsabilità di Meta in materia di diritti umani" (v. le decisioni Raffigurazione di Zwarte Piet e Violenza tra comunità nello stato indiano dell'Orissa). Nel 2022, il CERD ha espresso la sua preoccupazione "per la persistenza e diffusione di discorsi razzisti e discriminatori [in Francia], specie nei media e su Internet". Per una parte minoritaria del Board, l'accumulo di contenuti correlati alla Teoria della grande sostituzione "crea un ambiente in cui è più probabile che gli atti di violenza vengano tollerati e producano discriminazione in una società" (v. le decisioni Raffigurazione di Zwarte Piet e Violenza tra comunità nello stato indiano dell'Orissa). Una parte minoritaria del Board afferma che, ai sensi degli UNGP, "le aziende devono prestare particolare attenzione a eventuali impatti particolari sui diritti umani di individui appartenenti a gruppi e popolazioni che possono essere a maggior rischio di vulnerabilità ed emarginazione" (principi 18 e 20 degli UNGP). Come indicato nella Sezione 2 di cui sopra, le principali vittime del razzismo in Francia sono gli immigrati, soprattutto quelli di origini africane e i loro discendenti. In un'intervista del 2023, il Direttore generale della sicurezza interna francese si è detto convinto che i gruppi estremisti, compresi quelli che ritengono di dover agire per arrestare la "Grande sostituzione", rappresentino una grave minaccia nel Paese.

Sebbene Meta abbia dichiarato che la moderazione di contenuti correlati a teorie del complotto rischierebbe di limitare "in modo inaccettabile il dibattito politico", una parte minoritaria del Board ha sottolineato come l'azienda non abbia fornito alcuna prova né dato a sostegno di tale affermazione. Inoltre, Meta non ha spiegato perché questo sia il caso con i contenuti relativi alla Teoria della grande sostituzione ma non, ad esempio, con i contenuti correlati alla supremazia bianca e all'antisemitismo, poiché anche questi potrebbero essere considerati come fonte di diffusione di teorie del complotto. Alla luce dei motivi di cui sopra, per una parte minoritaria del Board, Meta dovrebbe rivedere le sue normative al fine di gestire i contenuti che promuovono la Teoria della grande sostituzione, salvo che l'azienda disponga di prove sufficienti: (i) per escludere la violenza derivante dalla diffusione di tale tipo di contenuti, come discusso nella presente decisione; o (ii) per dimostrare che l'impatto della moderazione di questo tipo di contenuti sul dibattito politico protetto sarebbe sproporzionato. Per una risposta proporzionata, tra le altre opzioni, Meta potrebbe prendere in considerazione la creazione di una normativa di sola escalation per consentire la rimozione dei contenuti che esprimono apertamente supporto alla Teoria della grande sostituzione, senza pregiudicare il dibattito politico protetto o prendere in considerazione la designazione dei soggetti esplicitamente coinvolti nella Teoria della grande sostituzione come parte di una rete cospiratoria che induce alla violenza, ai sensi della normativa in materia di organizzazioni e persone pericolose di Meta.

La maggioranza del Board dubita che si possa elaborare una normativa ai sensi della quale il contenuto in esame sarebbe in violazione, il che soddisfa i requisiti di legalità, necessità e proporzionalità, in particolare vista l'assenza delle parole "Grande sostituzione" o di qualsiasi variante delle stesse nel contenuto. Un tentativo di rimuovere tale contenuto, anche considerandolo come un riferimento in codice, comporterebbe una limitazione significativa della libertà di espressione politica protetta. I contenuti protetti per la loro natura non dovrebbero essere "censurati per associazione" a causa dell'identità dell'autore del discorso o della similitudine con ideologie che incitano all'odio.

9. Decisione dell'Oversight Board

L'Oversight Board conferma la decisione di Meta di lasciare pubblicato il contenuto.

10. Raccomandazioni

Trasparenza

1. Meta dovrebbe fornire maggiori dettagli nella formulazione del suo Standard della community sull'incitamento all'odio circa le modalità di distinzione fra dibattiti correlati all'immigrazione e discorsi pericolosi che prendono di mira le persone in base al loro stato di migranti. Ciò comprende la spiegazione del modo in cui l'azienda gestisce i contenuti che diffondono teorie del complotto che incitano all'odio. Si tratta di un intervento necessario per gli utenti, in modo che possano comprendere in che modo Meta protegge il dibattito politico sull'immigrazione, rispondendo al contempo alla potenziale violenza offline delle teorie del complotto che incitano all'odio.

Il Board riterrà tale raccomandazione implementata non appena Meta pubblicherà un aggiornamento in cui illustri il modo in cui gestisce i dibattiti sull'immigrazione nel contesto della Teoria della grande sostituzione e posizionerà un link in evidenza all'aggiornamento nel suo Centro sulla trasparenza.

*Nota procedurale:

Le decisioni dell'Oversight Board sono predisposte da gruppi di cinque Membri e devono essere approvate dalla maggioranza del Board. Le decisioni del Board non rappresentano necessariamente le opinioni personali di tutti i membri.

Per la decisione su questo caso sono state commissionate ricerche indipendenti per conto del Board. Il Board ha ricevuto aiuto anche da Duco Advisors, una società di consulenza specializzata in geopolitica, fiducia e sicurezza e tecnologia. Ha fornito un'analisi anche Memetica, un'organizzazione che si occupa di ricerche open source sulle tendenze nei social media. Lionbridge Technologies LLC, i cui esperti vantano una conoscenza professionale in oltre 350 lingue e lavorano da più di 5000 città in tutto il mondo, ha messo a disposizione la propria competenza linguistica.

Voltar para Decisões de Casos e Pareceres Consultivos sobre Políticas