Bot in Myanmar

Riepilogo del caso

L'Oversight Board ha revocato la decisione di Facebook di rimuovere un post in birmano in base allo Standard della community sui contenuti che incitano all'odio. Secondo il Board, il post non si riferiva al popolo cinese, bensì allo Stato della Cina. Nello specifico, è stato utilizzato un linguaggio volgare con riferimento alla politica del governo cinese a Hong Kong all'interno di un dibattito politico sul ruolo di quest'ultimo in Myanmar.

Informazioni sul caso

Nell'aprile del 2021, un utente Facebook che apparentemente risiedeva in Myanmar ha pubblicato un post in birmano sul proprio diario. Nel post si discuteva di come limitare il finanziamento delle forze armate del Myanmar in seguito al colpo di Stato avvenuto nello stesso Paese il 1° febbraio 2021. Il post proponeva di ridistribuire i ricavi delle imposte al Committee Representing Pyidaungsu Hlutaw (CRPH), un gruppo di legislatori che si è opposto al colpo di stato. Il post ha ricevuto quasi mezzo milione di visualizzazioni e nessun utente Facebook lo ha segnalato.

Facebook ha tradotto la parte ritenuta in violazione del post dell'utente come "Hong Kong people, because the fucking Chinese tortured them, changed their banking to UK, and now (the Chinese) they cannot touch them" (gli abitanti di Hong Kong, visto che sono stati torturati dai fottuti cinesi, hanno trasferito i loro conti bancari nel Regno Unito e adesso (i cinesi) non possono toccarli). Facebook ha rimosso il post in base allo Standard della community sui contenuti che incitano all'odio che vieta contenuti che prendono di mira una persona o un gruppo di persone in base a razza, etnia o nazionalità di origine con "termini o frasi volgari con l'intenzione di insultare".

Il post è stato dichiarato contrario alle regole di Facebook all'unanimità dai quattro responsabili del controllo dei contenuti che lo hanno esaminato. Nel suo ricorso al Board, l'utente ha dichiarato di aver pubblicato il contenuto per "fermare le brutalità del regime militare".

Conclusioni principali

Questo caso sottolinea l'importanza del prendere in considerazione il contesto nell'applicazione delle normative sull'incitamento all'odio, così come la necessità di proteggere il dibattito politico. Ciò è particolarmente rilevante in Myanmar, considerando il colpo di Stato del febbraio 2021 e il ruolo chiave di Facebook come mezzo di comunicazione nel Paese.

Nel post è stata usata l'espressione birmana "$တရုတ်", tradotto da Facebook come "fucking Chinese" (fottuti cinesi) (o "sout ta-yote"). Secondo Facebook, il termine "ta-yote" "presenta un'accezione linguistica e culturale in cui le identità/i significati del popolo cinese e della Cina come Paese si sovrappongono". Facebook ha dichiarato che, data la natura del termine e il fatto che l'utente non abbia "chiaramente indicato che il termine si riferisce al Paese/governo della Cina", è stato determinato che "l'utente si riferisce, come minimo, al popolo cinese". Pertanto, Facebook ha rimosso il post in base allo Standard della community sui contenuti che incitano all'odio

Dal momento che lo stesso termine viene usato in birmano per riferirsi a uno Stato e al popolo di quello Stato, il contesto è fondamentale per comprendere il significato sottinteso. Una serie di fattori ha persuaso il Board che l'utente non aveva preso di mira il popolo cinese, bensì lo Stato della Cina.

La parte del post ritenuta contraria alle regole di Facebook si riferisce alle politiche finanziarie cinesi a Hong Kong, definendole "torture" (torture) o "persecution" (persecuzioni), e non alle azioni di individui o cittadini cinesi in Myanmar. Entrambi i traduttori del Board hanno segnalato che, in questo caso, il termine "ta-yote" rimandava a uno Stato. Interrogati sull'eventuale ambiguità di tale rimando, i traduttori non hanno espresso alcun dubbio. I traduttori del Board hanno anche dichiarato che il post contiene termini comunemente usati dal governo del Myanmar e dall'ambasciata cinese nelle comunicazioni reciproche. Inoltre, sebbene mezzo milione di persone abbiano visualizzato il post e oltre 6000 lo abbiano condiviso, nessun utente lo ha segnalato. Anche nei commenti del pubblico, il tono generale del post rientrava nella discussione politica.

Considerando che il post non prendeva di mira persone in base a razza, etnia o nazionalità di origine, ma era riferito a uno Stato, il Board ritiene che non abbia violato lo Standard della community sui contenuti che incitano all'odio di Facebook.

La decisione dell'Oversight Board

L'Oversight Board revoca la decisione di Facebook di rimuovere il contenuto e dispone il ripristino del post.

Nelle linee guida sulle normative, il Board consiglia a Facebook le seguenti azioni:

• Garantire che gli Standard di implementazione interni siano disponibili nella lingua in cui i moderatori dei contenuti controllano i contenuti. Se è necessario stabilire delle priorità, Facebook dovrebbe concentrarsi in primo luogo sui contesti con maggiori rischi per i diritti umani.

*I riepiloghi forniscono una panoramica di un determinato caso e non costituiscono un precedente.

Decisione completa sul caso

1. Riepilogo della decisione

L'Oversight Board ha revocato la decisione di Facebook di rimuovere un contenuto in base allo Standard della community sui contenuti che incitano all'odio. Secondo il Board, il post non rientrava fra i contenuti che incitano all'odio.

2. Descrizione del caso

Nell'aprile del 2021, un utente Facebook che apparentemente risiedeva in Myanmar ha pubblicato un post in birmano sul proprio diario. Nel post si discuteva di come limitare il finanziamento delle forze armate del Myanmar in seguito al colpo di Stato avvenuto nello stesso Paese il 1° febbraio 2021. Il post proponeva di ridistribuire i ricavi delle imposte al Committee Representing Pyidaungsu Hlutaw (CRPH), un gruppo di legislatori che si è opposto al colpo di stato. Il post ha ricevuto circa 500 000 visualizzazioni, 6000 reazioni ed è stato condiviso circa 6000 volte. Nessun utente Facebook ha segnalato il post.

Facebook ha tradotto la parte ritenuta in violazione del post dell'utente come "Hong Kong people, because the fucking Chinese tortured them, changed their banking to UK, and now (the Chinese) they cannot touch them" (gli abitanti di Hong Kong, visto che sono stati torturati dai fottuti cinesi, hanno trasferito i loro conti bancari nel Regno Unito e adesso (i cinesi) non possono toccarli). Il giorno dopo la sua pubblicazione, Facebook ha rimosso il post come contenuto che incita all'odio di "Livello 2", in base allo Standard della community sui contenuti che incitano all'odio che vieta contenuti che prendono di mira una persona o un gruppo di persone in base a razza, etnia o nazionalità di origine con "termini o frasi volgari con l'intenzione di insultare".

Secondo Facebook, una ricondivisione del post è stata "selezionata in automatico come parte di un campione e inviata a un responsabile del controllo umano per istruire i classificatori". Ciò comprende la creazione da parte di Facebook di insiemi di dati con esempi di contenuti in violazione e non in violazione per istruire i propri processi automatizzati di rilevamento e applicazione al fine di prevedere la presenza di eventuali contenuti in violazione delle normative di Facebook. Il responsabile del controllo ha stabilito che il post condiviso aveva violato lo Standard della community sui contenuti che incitano all'odio. Nonostante lo scopo del processo fosse quello di creare insiemi di contenuti per istruire i classificatori, una volta ritenuto in violazione, il post condiviso è stato eliminato.

Dal momento che il post condiviso è stato ritenuto contrario alle regole di Facebook, un "Bot di azione amministrativa" ha identificato il post originale per il controllo. Facebook ha spiegato che il Bot di azione amministrativa è un account Facebook interno che non esegue alcuna valutazione dei contenuti ma svolge "una serie di azioni nel sistema di applicazione, in base a decisioni adottate da esseri umani o mediante automazione". Due responsabili del controllo umano hanno quindi analizzato il post originale ed entrambi lo hanno classificato come contenuto che incita all'odio di "Livello 2". Il contenuto è stato rimosso. L'utente ha inviato un ricorso a Facebook contro la rimozione del contenuto, all'interno del quale un quarto responsabile del controllo umano ha confermato la rimozione. Secondo Facebook, "i responsabili del controllo dei contenuti in questo caso facevano tutti parte di un team addetto al controllo dei contenuti in birmano di Facebook". L'utente ha dunque inviato un ricorso all'Oversight Board.

3. Autorità e ambito

Il Board ha l'autorità di controllare la decisione di Facebook dando seguito al ricorso dell'utente il cui post è stato rimosso (articolo 2, sezione 1 dell'atto costitutivo; Articolo 2, Sezione 2.1 dello statuto). Il Board può confermare o annullare la decisione (articolo 3, sezione 5 dell'atto costitutivo). Le decisioni del Board sono vincolanti e possono includere linee guida sulle normative con raccomandazioni. Le raccomandazioni non sono vincolanti, tuttavia Facebook deve tenerle in considerazione (Articolo 3, Sezione 4 dell'Atto costitutivo). Il Board è un meccanismo indipendente di mediazione in grado di affrontare le contestazioni in maniera trasparente e scrupolosa.

4. Standard pertinenti

L'Oversight Board ha preso in considerazione gli standard seguenti per la sua decisione:

I. Standard della community di Facebook

Gli Standard della community di Facebook definiscono i contenuti che incitano all'odio come "un attacco diretto rivolto alle persone sulla base di categorie protette, quali razza, etnia, nazionalità di origine, disabilità, religione, casta, orientamento sessuale, genere, identità di genere e malattie gravi". I contenuti proibiti che rientrano nel "Livello 2" comprendono gli insulti, definiti come "termini o frasi volgari con l'intenzione di insultare (tra cui a titolo esemplificativo e non esaustivo, fottiti, puttana, figlio di puttana)".

II. Valori di Facebook

I valori di Facebook sono delineati nell'introduzione agli Standard della community. Il valore della "Libertà di espressione" è "essenziale":

L'obiettivo dei nostri Standard della community è sempre stato quello di creare un luogo in cui le persone possano esprimersi. [...] Vogliamo che le persone possano esprimersi apertamente sui temi che hanno a cuore, anche se alcune persone potrebbero essere in disaccordo o trovarli discutibili.

Facebook limita la "libertà di espressione" per tutelare quattro valori, due dei quali sono pertinenti in questo caso:

"Sicurezza": per noi è importante che Facebook sia un luogo sicuro. Le espressioni che minacciano le persone possono intimidire, escludere o limitare il diritto di espressione altrui, pertanto non sono consentite su Facebook.

"Dignità": crediamo che tutte le persone abbiano pari dignità e diritti. Ci aspettiamo che le persone rispettino la dignità altrui e non minaccino o denigrino gli altri.

III. Standard per i diritti umani

I principi guida delle Nazioni Unite (UNGP) su imprese e diritti umani, promossi nel 2011 dal Consiglio per i diritti umani delle Nazioni Unite, stabiliscono un quadro normativo volontario per le responsabilità delle aziende private in materia di diritti umani. Nel 2021, Facebook ha annunciato la sua Normativa aziendale sui diritti umani, che ribadisce il suo impegno nel rispettare i diritti dell'uomo ai sensi dei principi guida delle Nazioni Unite. L'analisi del Board per il caso in oggetto si è basata sui seguenti standard per i diritti umani:

1. Libertà di espressione: articolo 19 della Convenzione internazionale sui diritti civili e politici (ICCPR), Commento generale 34, Comitato per i Diritti Umani (2011)
2. Responsabilità delle aziende: report "Business, human rights and conflict-affected regions: towards heightened action"(Aziende, diritti umani e aree geografiche colpite da conflitti: verso un'azione rafforzata) (A/75/212), gruppo di lavoro delle Nazioni Unite in materia di diritti umani e società transnazionali e altre imprese commerciali

5. Dichiarazione dell'utente

Nel suo ricorso al Board, l'utente ha dichiarato di aver pubblicato il contenuto in questione per "mettere fine al brutale regime militare" e fornire consigli ai leader democratici in Myanmar. L'utente ha inoltre ribadito l'esigenza di limitare il finanziamento del regime militare del Myanmar. L'utente si è definito un "attivista", ipotizzando che il suo post sia stato segnalato dagli informatori del regime militare del Myanmar. L'utente ha inoltre dichiarato che il suo post dovrebbe essere controllato da "qualcuno che comprende la lingua birmana".

6. Spiegazione della decisione di Facebook

Facebook ha rimosso il contenuto come attacco di "Livello 2" ai sensi dello Standard della community sui contenuti che incitano all'odio, nello specifico per violazione della sua normativa che vieta termini volgari che mirano a insultare le persone in base a razza, etnia e/o nazionalità di origine. Secondo Facebook, il contenuto in presunta violazione è stato considerato come un attacco al popolo cinese.

Il contenuto comprendeva l'espressione in birmano "$တရုတ်", tradotta dal team regionale di Facebook come "fucking Chinese" (fottuti cinesi) (o "sout ta-yote") Il team regionale di Facebook ha ulteriormente specificato che "$" può essere utilizzato come abbreviazione di "စောက်" o "sout", che significa "fottuti". Secondo il team di Facebook, il termine "ta-yote" "presenta un'accezione linguistica e culturale in cui le identità/i significati del popolo cinese e della Cina come Paese si sovrappongono". Facebook ha fornito al Board le indicazioni interne riservate pertinenti che fornisce ai propri moderatori (gli Standard di implementazione interni). Tali indicazioni riguardano la distinzione del linguaggio che prende di mira le persone in base alle caratteristiche protette e i concetti correlati alle caratteristiche protette.

Facebook ha inoltre rilevato nella motivazione della propria decisione che, a seguito del colpo di Stato del febbraio 2021, "si segnala un crescente sentimento anti-cinese" in Myanmar e che "diverse persone cinesi sono state ferite, sequestrate o uccise in un presunto attacco doloso contro una fabbrica di abbigliamento finanziata da soggetti cinesi in Yangon, Myanmar". In risposta a una domanda avanzata dal Board, Facebook ha dichiarato di non aver avuto contatti con il regime militare del Myanmar in relazione al post.

Facebook ha dichiarato che, data la natura del termine "ta-yote" e il fatto che l'utente non abbia "chiaramente indicato che il termine si riferisce al Paese/governo della Cina", è stato determinato che "l'utente si riferisce, come minimo, al popolo cinese". Pertanto, secondo Facebook, la rimozione del contenuto era in linea con lo Standard della community sui contenuti che incitano all'odio.

Facebook ha anche affermato che la rimozione del contenuto era coerente con i suoi valori di "Dignità" e "Sicurezza", controbilanciati dal valore della "Libertà di espressione". Secondo Facebook, gli insulti volgari rivolti al popolo cinese "potrebbero mettere in pericolo queste persone", oltre ad "avvilire, disumanizzare e sminuire la loro dignità individuale".

Facebook ha dichiarato che la sua decisione di rimuovere il contenuto era coerente con gli standard internazionali sui diritti umani. Facebook ha precisato che la sua decisione era conforme ai requisiti di legalità, fine legittimo, necessità e proporzionalità del Diritto internazionale dei diritti umani. Secondo Facebook, la sua normativa era "facilmente accessibile" negli Standard della community e "le parole scelte dall'utente rientravano perfettamente nel divieto relativo ai termini volgari". Inoltre, la decisione di rimuovere il contenuto era legittima al fine di proteggere "i diritti di altre persone da pregiudizi e discriminazione". Infine, la decisione di rimuovere il contenuto era "necessaria e proporzionata" poiché "la concentrazione di contenuti con termini volgari rivolti contro il popolo cinese", citando la decisione 2021-002-FB-UA del Board correlata a Zwarte Piet, "crea un ambiente in cui gli atti di violenza potrebbero essere più facilmente tollerati e portare a discriminazioni nella società". Facebook ha dichiarato che la situazione era simile poiché "entrambi i casi riguardano contenuti che incitano all'odio rivolti a persone in base alla loro razza o etnia".

7. Elementi inviati da terzi

L'Oversight Board ha ricevuto 10 commenti pubblici relativi al caso in questione: 5 commenti provenienti dall'Asia Pacifico e dall'Oceania, nello specifico dal Myanmar, e 5 dagli Stati Uniti e dal Canada. Il Board ha ricevuto commenti da stakeholder, tra cui sostenitori dei diritti civili e organizzazioni della società civile che si occupano di libertà di espressione e incitamento all'odio in Myanmar.

Gli invii riguardavano temi quali la traduzione e l'analisi del termine "sout ta-yote"; se il contenuto era un attacco alla Cina o al popolo cinese; se il post rientrava nel dibattito politico che dovrebbe essere protetto nel contesto del conflitto in Myanmar; se ha avuto luogo una crescita del sentimento anti-cinese in Myanmar a seguito del colpo di Stato del febbraio 2021; le relazioni fra Cina e il regime militare del Myanmar e le pratiche di moderazione dei contenuti di Facebook, in particolare l'uso, l'istruzione e la verifica degli strumenti di automazione di Facebook per i contenuti in lingua birmana.

Per leggere i commenti pubblici inviati per il caso in oggetto, clicca qui.

8. Analisi dell'Oversight Board

Il caso in oggetto mette in evidenza l'importanza del contesto nell'applicazione delle normative concepite per proteggere gli utenti dai contenuti che incitano all'odio, rispettando al contempo il dibattito politico. Ciò è particolarmente rilevante in Myanmar, considerando il colpo di Stato del febbraio 2021 e l'importanza di Facebook come mezzo di comunicazione. Il Board ha cercato di valutare se questo contenuto dovesse essere ripristinato in base a tre aspetti: gli Standard della community di Facebook, i valori dell'azienda e le sue responsabilità in materia di diritti umani.

8.1 Conformità con gli Standard della community

Il Board ha ritenuto che il ripristino del contenuto sia conforme agli Standard della community di Facebook. La normativa di Facebook vieta "termini o frasi volgari con l'intenzione di insultare" che prendono di mira persone o un popolo in base a razza, etnia o nazionalità di origine. Il Board ha concluso che il post non prendeva di mira un popolo, piuttosto era rivolto alle politiche del governo cinese a Hong Kong, nel contesto del dibattito politico sul ruolo del governo cinese in Myanmar.

Oltre ai commenti del pubblico, il Board ha richiesto due traduzioni del testo, una proveniente da un madrelingua birmano residente in Myanmar e l'altra da un madrelingua birmano non residente in Myanmar. I commenti del pubblico e i traduttori del Board hanno sottolineato che in birmano lo stesso termine viene usato per riferirsi a uno Stato e al popolo di quello Stato. Pertanto, il contesto è fondamentale per comprendere il significato sottinteso. Ciò è di particolare rilevanza nell'applicazione della normativa sui contenti che incitano all'odio di Facebook. Al momento della rimozione del contenuto, lo Standard della community sui contenuti che incitano all'odio proibiva gli attacchi rivolti alle persone in base alla nazionalità di origine, ma non quelli destinati ai Paesi.

Il Board ha preso in considerazione diversi fattori nel decidere che il post non era un attacco rivolto al il popolo cinese in base a etnia, razza o nazionalità di origine. In primo luogo, il post nel suo complesso suggerisce metodi per limitare la partecipazione finanziaria al regime militare e fornire supporto economico al CRPH. In secondo luogo, la parte del post ritenuta in violazione si riferisce alle politiche finanziarie cinesi a Hong Kong, definendole "torture" (torture) o "persecution" (persecuzioni), e non alle azioni di individui o cittadini cinesi in Myanmar. In terzo luogo, sebbene la mancata segnalazione di un post ampiamente condiviso non sempre indichi che esso non sia in violazione, il post è stato visualizzato da oltre 500 000 persone e condiviso da più di 6000 persone senza alcuna segnalazione da parte degli utenti. In quarto luogo, entrambi i traduttori consultati dal Board hanno indicato che, sebbene lo stesso termine sia utilizzato per indicare uno Stato e il suo popolo, in questo caso rimanda allo Stato. Interrogati su una possibile ambiguità di tale rimando, i traduttori non hanno espresso alcun dubbio. In quinto luogo, entrambi i traduttori hanno dichiarato che il post contiene termini comunemente usati dal governo del Myanmar e dall'ambasciata cinese nelle comunicazioni reciproche. Infine, in base ai commenti generali del pubblico, il tono complessivo del post è ascrivibile al dibattito politico.

Pertanto, considerando che i termini volgari non prendevano di mira persone in base a razza, etnia o nazionalità di origine, ma erano riferiti a uno Stato, il Board stabilisce che non è stato violato lo Standard della community sui contenuti che incitano all'odio di Facebook. È fondamentale garantire che i divieti di prendere di mira le persone in base a caratteristiche protette non vengano interpretati in modo da sottrarre governi o istituzioni dalle critiche. Il Board riconosce che i contenuti che incitano all'odio anti-cinesi siano una questione seria, ma il post in questione fa riferimento allo Stato della Cina.

Il Board non condivide l'argomentazione di Facebook secondo cui la decisione di rimuovere il contenuto era basata sulla motivazione del Board nella decisione sul caso 2021-002-FB-UA (in cui il Board ha confermato la rimozione di raffigurazioni di persone con il viso dipinto di nero). In quel caso, Facebook presentava una regola contro le raffigurazioni di persone con il volto dipinto di nero e il Board ha consentito a Facebook di applicare tale regola ai contenuti che comprendevano raffigurazioni di Zwarte Piet con il volto dipinto di nero. Qui, di contro, il contesto del post indica che il linguaggio usato non era assolutamente contrario alle regole di Facebook.

Nel corso delle discussioni del Board sul caso in questione, Facebook ha aggiornato il suo Standard della community sui contenuti che incitano all'odio per fornire più informazioni su come vieta i "concetti" correlati alle caratteristiche protette in determinate circostanze. Questa nuova regola afferma che Facebook "richiede contesto e/o informazioni aggiuntive" per l'applicazione e che gli utenti non devono pubblicare "contenuti che attaccano concetti, istituzioni, idee, pratiche o convinzioni associati alle caratteristiche protette, che potrebbero favorire violenza fisica imminente, intimidazioni o discriminazioni nei confronti delle persone associate a tali caratteristiche protette".

Non facendo parte degli Standard della community al momento della rimozione del contenuto da parte di Facebook e non avendo Facebook giustificato di fronte al Board la rimozione del contenuto ai sensi dello Standard aggiornato, il Board non ha preso in esame l'applicazione di tale normativa al caso in questione. Tuttavia, il Board rileva come in "concetti, istituzioni, idee, pratiche o convinzioni" possa rientrare una vasta gamma di espressioni, fra cui il dibattito politico.

8.2 Conformità con i valori di Facebook

Il Board ritiene che il ripristino del contenuto sia in linea con i valori di Facebook. Per quanto i valori di "Dignità" e "Sicurezza" di Facebook siano importanti, soprattutto nel contesto del colpo di Stato del febbraio 2021 in Myanmar, il contenuto in esame non rappresentava un rischio per questi valori tale da giustificare il sacrificio della "Libertà di espressione". Il Board ritiene inoltre che il post sia ascrivibile al dibattito politico che è vitale per il valore della "Libertà di espressione".

8.3 Conformità con le responsabilità di Facebook in materia di diritti umani

Il Board ritiene che il ripristino del contenuto sia coerente con le responsabilità di Facebook in materia di diritti umani in qualità di azienda. Facebook si impegna a rispettare i diritti umani riconosciuti dai principi guida delle Nazioni Unite (UNGP) su imprese e diritti umani. Secondo la Normativa aziendale sui diritti umani di Facebook, ciò comprende la Convenzione internazionale sui diritti civili e politici (ICCPR).

L'articolo 19 dell'ICCPR fornisce un'ampia protezione alla libertà di espressione. Questa protezione è "particolarmente elevata" per la libertà di espressione e il dibattito politico, anche in relazione alle istituzioni pubbliche (Commento generale n. 34, paragrafo 38) L'articolo 19 dell'ICCPR prevede che le limitazioni statali alla libertà di espressione debbano soddisfare tre requisiti: legalità, legittimità e necessità e proporzionalità. Il Board ritiene che l'operato di Facebook non sia stato in linea con le sue responsabilità come azienda ai sensi di tale valutazione.

I. Legalità (chiarezza e accessibilità delle norme)

Il principio di legalità stabilito dal Diritto internazionale dei diritti umani sancisce che le regole utilizzate dagli Stati per limitare la libertà di espressione debbano essere chiare e accessibili (Commento generale n. 34, paragrafo 25). Le regole che limitano la libertà di espressione devono altresì "fornire indicazioni sufficienti ai responsabili della relativa applicazione per consentire loro di accertare quali forme di libertà di espressione sono correttamente limitate e quali non lo sono" (Commento generale n. 34, paragrafo 25)

Lo Standard della community sui contenuti che incitano all'odio vieta termini volgari che prendono di mira le persone in base a razza, etnia o nazionalità di origine. Facebook ha dichiarato al Board che considerate le difficoltà nel "determinare l'intento su larga scala, Facebook considera l'espressione 'fucking Chinese' (fottuti cinesi) come riferita al popolo cinese e al governo o al Paese della Cina, a meno che l'utente non fornisca ulteriore contesto indicante che l'espressione è riferita unicamente al Paese o al governo". La normativa che dispone la rimozione in caso di inadempimento non è riportata negli Standard della community.

Il Board ritiene che l'utente abbia fornito ulteriore contesto a dimostrazione del fatto che il post era riferito a uno Stato o a un Paese, come si evince dall'analisi del Board del Standard della community sui contenuti che incitano all'odio (Sezione 8.1 di cui sopra). Diversi responsabili del controllo di Facebook sono giunti a una conclusione diversa rispetto a quella dei traduttori del Board, delle persone che hanno inviato commenti pubblici e, presumibilmente, degli oltre 500 000 utenti che hanno visualizzato il post senza segnalarlo. Data questa divergenza, il Board si interroga sull'adeguatezza delle indicazioni interne, delle risorse e della formazione che Facebook fornisce ai moderatori di contenuti.

Considerando che non ritiene che l'utente abbia violato la normativa sui contenuti che incitano all'odio di Facebook, il Board non si esprime circa l'eventuale violazione del principio di legalità della normativa non pubblica che dispone la rimozione in caso di inadempimento. Tuttavia, il Board esprime preoccupazione per il fatto che gli Standard della community non forniscano indicazioni chiare circa la normativa che dispone la rimozione in caso di inadempimento in relazione a termini volgari che potrebbero essere interpretati come rivolti a un popolo o a uno Stato. In generale, Facebook dovrebbe rendere pubbliche le indicazioni interne che modificano l'interpretazione dei suoi Standard della community rivolti al pubblico.

II. Fine legittimo

Le limitazioni statali alla libertà di espressione devono perseguire uno degli scopi legittimi enucleati nell'ICCPR. Ciò comprende i "diritti degli altri individui". Secondo Facebook, la sua normativa sui contenuti che incitano all'odio mira a proteggere gli utenti dalle discriminazioni. Il Board conviene che si tratti di uno scopo legittimo.

III. Necessità e proporzionalità

Il principio di necessità e proporzionalità del Diritto internazionale umanitario prevede che le limitazioni alla libertà di espressione "devono corrispondere allo strumento meno invasivo tra quelli che potrebbero svolgere la funzione protettiva e devono essere proporzionate alla relativa funzione protettiva e all'interesse da tutelare" (Commento generale n. 34, paragrafo 34). In questo caso, in base all'interpretazione del contenuto, il Board ha stabilito che la limitazione del post non conseguirebbe una funzione protettiva.

I principi guida delle Nazioni Unite affermano che le imprese dovrebbero esercitare una due diligence in materia di diritti umani nel valutare l'impatto delle loro attività (UNGP 17) e riconoscere che il rischio di pregiudicare i diritti umani è maggiore nelle aree colpite da conflitti (UNGP 7). Il gruppo di lavoro delle Nazioni Unite in materia di diritti umani e società transnazionali e altre imprese commerciali ha evidenziato che le responsabilità di diligence delle aziende dovrebbero riflettere la maggiore complessità e il rischio di violenze presenti in alcuni scenari (A/75/212, par. 41-49). Analogamente, nella decisione sul caso 2021-001-FB-FBR il Board aveva esortato Facebook a "garantire risorse e competenze adeguate nella valutazione dei rischi di violenze riconducibili ad account influenti a livello globale", sottolineando come Facebook dovesse dedicare maggiore attenzione alle aree geografiche più a rischio.

Nel caso in esame, il Board ha ritenuto che tali maggiori responsabilità non dovrebbero tradursi nella rimozione automatica, considerati i notevoli risvolti presenti sia nel consentire un contenuto pericoloso sia nel rimuovere un contenuto che rappresenta un rischio minimo o assente. Sebbene le preoccupazioni di Facebook circa i contenuti che incitano all'odio in Myanmar siano fondate, occorre comunque prestare particolare attenzione affinché non vengano pregiudicate la critica e la libertà di espressione politica, a sostegno in questo caso di un governo democratico.

Il Board ha rilevato che la normativa di Facebook secondo cui si presume che i termini volgari rivolti alla nazionalità di origine (in questo caso "$တရုတ်") si riferiscano agli Stati e ai popoli potrebbe comportare un'applicazione sproporzionata in determinati contesti linguistici, come quello trattato, in cui lo stesso termine viene usato con entrambe le accezioni. Il Board ha altresì rilevato che l'impatto di tale rimozione si è esteso oltre il caso, poiché Facebook ha dichiarato di averlo usato nell'istruire i classificatori come esempio di contenuto contrario allo Standard della community sui contenuti che incitano all'odio.

Considerato quanto sopra, gli standard internazionali sui diritti umani giustificano il ripristino del contenuto su Facebook.

9. Decisione dell'Oversight Board

L'Oversight Board revoca la decisione di Facebook di rimuovere il contenuto e ne richiede il ripristino. Ai sensi dell'atto costitutivo del Board, Facebook è obbligata ad applicare la presente decisione ai contesti analoghi e deve contrassegnare il presente contenuto come non in violazione in caso di utilizzo nell'istruzione dei classificatori.

10. Raccomandazione sulla normativa

Facebook deve garantire che gli Standard di implementazione interni siano disponibili nella lingua in cui i moderatori dei contenuti controllano i contenuti. Se è necessario stabilire delle priorità, Facebook dovrebbe concentrarsi in primo luogo sui contesti con maggiori rischi per i diritti umani.

*Nota procedurale:

Le decisioni dell'Oversight Board sono predisposte da gruppi di cinque Membri e devono essere approvate dalla maggioranza del Board. Le decisioni del Board non rappresentano necessariamente le opinioni personali di tutti i Membri.

Per la decisione su questo caso sono state commissionate ricerche indipendenti per conto del Board. Un istituto di ricerca indipendente presso l'Università di Göteborg e facente ricorso a un team di oltre 50 esperti di social in sei continenti, nonché a più di 3200 esperti nazionali da tutto il mondo ha fornito il proprio contributo in merito al contesto socio-politico e culturale. L'azienda Lionbridge Technologies, LLC, i cui esperti parlano oltre 350 lingue e lavorano da più di 5000 città in tutto il mondo, ha messo a disposizione la propria competenza linguistica.

Return to Case Decisions and Policy Advisory Opinions