Post in lingua polacca contro le persone transgender

Per leggere la decisione in polacco, clicca qui.

Kliknij tutaj, aby przeczytać postanowienie w języku polskim.

Riepilogo

L'Oversight Board ha revocato la decisione originaria di Meta di lasciare pubblicato un post su Facebook in cui un utente prendeva di mira le persone di un gruppo transgender esercitando violenza verbale tramite istigazione al suicidio. Il Board ritiene che il post fosse in violazione dello Standard della community Incitamento all'odio, nonché di quello Suicidio e autolesionismo. Tuttavia, il problema fondamentale di questo caso non riguarda le normative, ma la loro applicazione. La mancata applicazione delle normative di Meta, nonostante i molteplici segnali di pericolosità del contenuto del post, ha portato il Board a concludere che l'azienda non tiene fede agli ideali articolati in merito alla sicurezza della comunità LGBTQIA+. Il Board invita Meta a rimediare alle carenze nell'applicazione delle normative, ad esempio migliorando le indicazioni interne per gli addetti al controllo.

Informazioni sul caso

Ad aprile 2023, un utente Facebook in Polonia ha pubblicato l'immagine di una tenda a strisce nei colori della bandiera transgender: blu, rosa e bianco, con l'affermazione in polacco "Nuova tecnologia... Tende che si appendono da sole" e sopra la scritta "pulizie di primavera <3". Nella biografia dell'utente è presente la descrizione "Sono transfobico". Il post ha ricevuto meno di 50 reazioni.

Tra aprile e maggio 2023, 11 utenti diversi hanno segnalato il post per un totale di 12 volte. I sistemi automatizzati di Meta hanno assegnato la priorità necessaria per il controllo umano solo a due delle 12 segnalazioni, mentre le rimanenti sono state chiuse. Le due segnalazioni sottoposte al controllo umano, perché potenzialmente in violazione dello Standard di Facebook Suicidio e autolesionismo, sono state valutate come non in violazione. Nessuna delle segnalazioni basate sullo Standard Incitamento all'odio è stata sottoposta al controllo umano.

Tre utenti hanno quindi presentato un ricorso contro la decisione di Meta di lasciare il post su Facebook. Uno dei ricorsi ha ottenuto che il contenuto fosse sottoposto al controllo umano rispetto alla decisione originaria basata sullo Standard della community Suicidio e autolesionismo. Ancora una volta gli altri ricorsi, presentati per violazione dello Standard della community Incitamento all'odio, non sono stati sottoposti al controllo umano. Infine, uno degli utenti che in origine aveva segnalato il contenuto ha inviato un ricorso al Board. A seguito della selezione del caso da parte del Board, Meta ha determinato che il post violava sia la normativa Incitamento all'odio sia quella Suicidio e autolesionismo e ne ha deciso la rimozione da Facebook. Inoltre, l'azienda ha disattivato l'account dell'utente che aveva pubblicato il contenuto per diverse violazioni precedenti.

Conclusioni

Il Board ritiene che il contenuto abbia violato la normativa di Meta Incitamento all'odio perché include violenza verbale sotto forma di istigazione al suicidio rivolta a un gruppo con caratteristiche protette. Il post, che istiga le persone transgender al suicidio, creava un clima di esclusione e intimidazione e avrebbe potuto comportare manifestazioni di violenza fisica. Considerando la natura del testo e dell'immagine, il post esacerbava, inoltre, i disturbi di salute mentale che affliggono la comunità transgender. Un report recente del GLAAD (Gay and Lesbian Alliance Against Defamation) sottolinea "l'impatto traumatico a livello psicologico di essere perennemente esposti a insulti e manifestazioni d'odio" online. Il Board riscontra ulteriore sostegno alla sua conclusione nel contesto più ampio della violenza online e offline che la comunità LGBTQIA+ subisce in Polonia, compresi la retorica politica e gli attacchi perpetrati dai rappresentanti del governo e da personaggi influenti dell'opinione pubblica.

Il Board teme che gli addetti al controllo umano di Meta non abbiano saputo riconoscere gli indizi contestuali. I riferimenti del post all'alto rischio di suicidio ("tende che si appendono da sole") e all'incoraggiamento alla morte del gruppo ("pulizie di primavera") erano chiare violazioni dello Standard della community Incitamento all'odio, mentre l'autoidentificazione del content creator come transfobico, da sola, costituirebbe un'altra violazione. Il Board invita Meta a migliorare l'accuratezza dell'applicazione delle normative in materia di incitamento all'odio nei confronti delle persone LGBTQIA+, soprattutto quando i post con immagini e testo necessitano di contesto per essere interpretati. Nel caso in oggetto, i riferimenti codificati al suicidio insieme alla rappresentazione visiva di un gruppo protetto (la bandiera transgender) hanno assunto la forma di "creatività malevola", che si manifesta per mezzo di autori di atti illeciti che sviluppano nuovi mezzi per prendere di mira la comunità LGBTQIA+ attraverso post e meme che definiscono "umoristici o satirici", ma che in realtà sono manifestazioni di odio o intimidazione.

Inoltre, il Board ha espresso preoccupazioni per la dichiarazione di Meta secondo la quale la mancata rimozione del contenuto da parte degli addetti al controllo umano è in linea con la rigorosa applicazione delle sue linee guida interne. Ciò indicherebbe che le linee guida interne di Meta non consentono di interpretare in modo adeguato la correlazione tra testo e immagini che rappresenta un gruppo definito dall'identità di genere dei suoi membri.

Il Board ritiene che sebbene la violazione del post riguardo lo Standard della community Suicidio e autolesionismo di Facebook fosse evidente, la normativa non è altrettanto chiara sul divieto dei contenuti che promuovono il suicidio di un gruppo identificabile di persone, anziché di una singola persona del gruppo.

Nel caso in esame, i sistemi di assegnazione della priorità per il controllo automatizzato di Meta hanno influenzato in modo significativo l'applicazione della normativa, compresa la modalità di gestione di molteplici segnalazioni dello stesso contenuto. Meta monitora e deduplica (rimuove) le segnalazioni di questo tipo per "assicurare coerenza nelle decisioni e nei provvedimenti degli addetti al controllo". Altri motivi alla base della chiusura automatica delle segnalazioni includevano i punteggi bassi relativi a gravità e diffusione (la quantità di visualizzazioni accumulate) del contenuto, che precludevano l'assegnazione della priorità necessaria per il controllo umano. Nel caso in esame, il Board ritiene che la biografia dell'utente avrebbe dovuto essere considerata come un segnale rilevante nella determinazione del punteggio di gravità.

Il Board ritiene che Meta debba investire di più nello sviluppo di classificatori per l'identificazione di possibili contenuti in violazione relativi alla comunità LGBTQIA+ e migliorare la formazione degli addetti al controllo umano in merito ai pericoli relativi all'identità di genere.

La decisione dell'Oversight Board

L'Oversight Board revoca la decisione originaria di Meta di lasciare pubblicato il contenuto.

Il Board raccomanda a Meta i seguenti provvedimenti:

• Meta deve chiarire nella pagina Suicidio e autolesionismo che la normativa proibisce contenuti che promuovono o incoraggiano il suicidio rivolti a un gruppo identificabile di persone.
• Meta deve modificare le linee guida interne fornite agli addetti al controllo su larga scala per assicurare che le rappresentazioni visive dell'identità di genere basate su simboli che non contengono figure umane siano intese come rappresentazioni di un gruppo definito in base all'identità di genere dei suoi membri.

*I riepiloghi forniscono una panoramica di un determinato caso e non costituiscono un precedente.

Decisione completa sul caso

1. Riepilogo della decisione

L'Oversight Board ha revocato la decisione originaria di Meta di lasciare pubblicato su Facebook un contenuto in polacco in cui un utente prendeva di mira le persone di un gruppo transgender esercitando violenza verbale tramite istigazione al suicidio. Dopo che il Board ha individuato il caso da sottoporre al controllo, Meta ha concluso che la sua decisione originaria di lasciare il post sulla piattaforma fosse errata. Ha quindi rimosso il contenuto e applicato sanzioni. Il Board ritiene che il post fosse in violazione dello Standard della community Incitamento all'odio, nonché di quello Suicidio e autolesionismo. Il Board coglie l'occasione per invitare Meta a migliorare le sue normative e le linee guida per gli addetti al controllo al fine di proteggere al meglio le persone transgender nelle sue piattaforme. Nello specifico, nel valutare se un post costituisce incitamento all'odio, Meta deve assicurare che i simboli di un'identità di genere, anche se non contengono figure umane, debbano essere intesi come rappresentazioni di un gruppo definito dall'identità di genere dei suoi membri. Meta deve inoltre chiarire che incoraggiare un intero gruppo a commettere suicidio costituisce una violazione tanto quanto incoraggiare a tale atto un singolo individuo. Il Board ritiene, tuttavia, che il problema fondamentale di questo caso non riguarda le normative, ma la loro applicazione. Esattamente come sono scritte, le normative proibiscono chiaramente post di questo tipo, in cui sono contenute molteplici indicazioni di incitamento all'odio tramite la presa di mira un gruppo di persone sulla base dell'identità di genere. Nel caso in esame, la mancata applicazione delle normative di Meta, nonostante le molteplici segnalazioni da parte degli utenti, ha portato il Board a concludere che Meta non riesce a tener fede agli ideali articolati in merito alla sicurezza della comunità LGBTQIA+. Il Board invita Meta a rimediare a tali carenze nell'applicazione delle normative.

2. Descrizione e contesto del caso

Ad aprile 2023, un utente Facebook in Polonia ha pubblicato l'immagine di una tenda a strisce nei colori della bandiera transgender: blu, rosa e bianco. Nell'immagine è riportato il testo in polacco: "Nuova tecnologia. Tende che si appendono da sole". Sopra di esso, un altro testo in polacco riporta: "pulizie di primavera <3". Nella descrizione in polacco della propria biografia l'utente ha scritto "Sono transfobico". Il post ha ricevuto 50 reazioni da altri utenti, la maggioranza delle quali a sostegno del contenuto. L'emoji "Ahah" è stata la reazione maggiormente usata.

Tra aprile e maggio 2023, 11 utenti diversi hanno segnalato il contenuto per un totale di 12 volte. A 10 di queste segnalazioni, i sistemi automatizzati di Meta non hanno assegnato la priorità necessaria per il controllo umano per svariati motivi, tra cui i "punteggi bassi relativi a gravità e diffusione". Meta in genere assegna la priorità per il controllo umano ai contenuti in base alla loro gravità, diffusione e probabilità di violare le normative sui contenti. Solo due delle segnalazioni, che rientravano nello Standard della community di Facebook Suicidio e autolesionismo, hanno ottenuto che il post fosse sottoposto al controllo umano. Nessuna delle segnalazioni relative alla normativa Incitamento all'odio è stata invece sottoposta al controllo umano. Secondo Meta, gli addetti al controllo ricevono la formazione e gli strumenti per "valutare e intervenire" sui contenuti indipendentemente dalla specifica normativa (ad esempio, Incitamento all'odio o Suicidio e autolesionismo). Ciononostante, entrambi gli addetti al controllo hanno ritenuto che il contenuto non fosse in violazione e non hanno ritenuto necessari ulteriori approfondimenti.

Tre utenti hanno inviato un ricorso contro la decisione di Meta di lasciare il contenuto su Facebook. Uno dei ricorsi ha ottenuto che il contenuto fosse sottoposto al controllo umano rispetto alla decisione originaria di Meta secondo cui non veniva violata la normativa Suicidio e autolesionismo. Gli altri due ricorsi, presentati per violazione della normativa di Facebook Incitamento all'odio, non sono stati sottoposti al controllo umano. Ciò dipende dal fatto che Meta "monitora e deduplica" più segnalazioni sullo stesso contenuto per assicurare coerenza nelle decisioni e nei provvedimenti degli addetti al controllo.

Uno degli utenti che in origine aveva segnalato il contenuto ha inviato un ricorso al Board. A seguito della selezione del caso da parte del Board, Meta ha determinato che il contenuto violava sia la normativa Incitamento all'odio sia quella Suicidio e autolesionismo e ha deciso di rimuovere il post. Inoltre, durante il controllo del caso, Meta ha stabilito che l'account del content creator avesse già diverse violazioni degli Standard della community e che avesse raggiunto la soglia per la disattivazione. Meta ha disattivato l'account nell'agosto del 2023.

Il Board ha preso atto del seguente contesto nel giungere alla sua decisione per il caso in esame:

La Polonia è spesso segnalata per alti livelli di ostilità verso la comunità LGBTQIA+ [nota: il Board usa l'acronimo "LGBTQIA+" (Lesbica, Gay, Bisessuale, Transgender, Queer, Intersessuale e Asessuale) quando fa riferimento a gruppi basati su orientamento sessuale, identità di genere e/o espressione di genere. Tuttavia, il Board preserverà gli acronimi o altre diciture impiegati da altri nelle relative citazioni]. Il Commissario per i diritti umani del Consiglio d'Europa aveva precedentemente richiamato l'attenzione sulla "stigmatizzazione delle persone LGBTI" come "problema che va avanti da tempo in Polonia". Il report Rainbow Europe dell'ILGA (International Lesbian, Gay, Bisexual, Trans and Intersex Association) stila una classifica dei Paesi in base alle normative che interessano direttamente i diritti umani delle persone LGBTI. Secondo il report, la Polonia è lo stato membro dell'Unione europea che occupa la posizione più bassa (42°) sui 49 Paesi europei valutati. Governi nazionali e locali, nonché famosi personaggi pubblici, prendono di mira sempre di più la comunità LGBTQIA+ con provvedimenti legislativi e discorsi discriminatori.

A partire dal 2018, ILGA-Europe ha tenuto traccia di ciò che l'organizzazione definisce "incitamento all'odio perpetrato da leader politici polacchi di alto profilo ai danni di persone LGBTI", comprese le dichiarazioni secondo le quali l'"intero movimento LGBT" costituisce una "minaccia" per la Polonia. Nello stesso anno, il sindaco di Lublino, in Polonia, ha tentato di vietare la parata per l'uguaglianza in città, nonostante la Corte d'appello avesse abolito il divieto poco prima dell'inizio della stessa. Nel 2019, il sindaco di Varsavia ha introdotto un atto costitutivo contro le discriminazioni verso le persone LGBT+ per "migliorare la condizione delle persone LGBT" nella città. Il partito di maggioranza in Polonia, Diritto e giustizia (PiS), e i capi religiosi hanno criticato l'atto. Inoltre, il Presidente della Polonia e il governo centrale hanno sfruttato l'occasione per prendere di mira la comunità transgender. Ad esempio, il presidente del partito di maggioranza PiS ha usato il termine "anormali" riferendosi alle persone transgender. Il Ministro della giustizia polacco ha inoltre chiesto alla Corte suprema polacca di considerare che "oltre ai propri genitori, le persone trans dovrebbero interpellare i propri figli e il coniuge [per ottenere l'autorizzazione alla transizione] quando vogliono accedere al riconoscimento giuridico del genere".

Inoltre, la Polonia ha adottato una legislazione anti-LGBTQIA+. Come riportato dall'organizzazione Human Rights Watch, dal 2019 le città hanno iniziato a invitare le persone a "escludere la comunità LGBT dalla società polacca" attraverso, ad esempio, l'istituzione di zone LGBT-free. La Human Rights Watch ha dichiarato che queste zone sono luoghi "in cui le autorità locali hanno adottato 'atti costitutivi per la famiglia' discriminatori promettendo solennemente di 'proteggere i bambini dalla corruzione morale' o si sono proclamate libere dall'"ideologia LGBT'". Queste zone sono state istituite in più di 100 città. L'organizzazione ILGA-Europe ha dichiarato che a causa della pressione locale, dell'Unione europea e internazionale, alcune di queste amministrazioni comunali hanno revocato "le risoluzioni anti-LGBT o gli atti costitutivi dei diritti della famiglia". Il 28 giugno 2022 la Corte amministrativa suprema della Repubblica di Polonia ha ordinato a quattro amministrazioni comunali di revocare le proprie risoluzioni anti-LGBTQI+. Ciononostante, come suggerito dalla classifica del report di Rainbow Europe, nel Paese è presente un clima particolarmente ostile alla comunità LGBTQIA+.

Un sondaggio del 2019 sulle persone LGBTI nell'Unione europea, condotto dall'Agenzia europea dei diritti fondamentali, metteva a confronto le esperienze di violenza e intimidazione subite dalle persone LGBTI in Polonia e nel resto dell'Unione europea. Secondo il sondaggio, in Polonia il 51% delle persone LGBTI evita, spesso o sempre, determinati luoghi per paura di subire aggressioni. Nel resto dell'Unione europea questo dato corrisponde al 33%. Il sondaggio ha inoltre rivelato che una persona transgender su cinque è stata vittima di attacchi fisici o sessuali nei cinque anni precedenti al sondaggio, più del doppio rispetto agli altri gruppi LGBTI.

Il Board ha incaricato esperti esterni di analizzare le risposte alle dichiarazioni derogatorie dei funzionari del governo polacco sui social media. Gli esperti hanno osservato "un preoccupante incremento dell'incitamento all'odio online nei confronti delle comunità minoritarie presenti in Polonia, compresa la comunità LGBTQIA+ dal 2015". Nell'analisi dei contenuti anti-LGBTQIA+ in polacco su Facebook, gli esperti hanno osservato dei picchi verificatisi durante le " sentenze della corte relativamente alla legislazione anti-LGBTQIA+". Tra queste si annoverano la decisione della Corte amministrativa suprema discussa in precedenza e le delibere sulle contestazioni legali per l'adozione di svariate dichiarazioni anti-LGBT portate dinanzi alle corti amministrative locali dai difensori civici polacchi per il Commissariato per i diritti umani, in corso dal 2019.

Il Board ha inoltre interpellato linguisti esperti sul significato delle due frasi del post. Riguardo alla frase "tende che si appendono da sole", gli esperti hanno osservato che nel contesto di una "bandiera transgender appesa alla finestra" la frase era "un gioco di parole" che contrappone l'espressione "appendere le tende" a "commettere suicidio per impiccagione". Gli esperti hanno concluso che la frase era "un insulto velato di natura transfobica". Riguardo all'espressione "pulizie di primavera", gli esperti hanno detto che "solitamente fa riferimento alla pulizia approfondita di inizio primavera", ma, in alcuni contesti, "fa riferimento al 'gettare la spazzatura' e 'sbarazzarsi delle cose (e delle persone) che non si desidera avere". Diversi commenti pubblici, compresa l'osservazione della Human Rights Campaign Foundation (PC-16029), sostenevano che il riferimento del post alle "pulizie di primavera" fosse una forma di "lode all'esclusione e all'isolamento delle persone transgender dalla società polacca (attraverso la loro morte)".

I problemi della violenza online e offline in gioco, nel caso in esame, si estendono oltre alla comunità LGBTQIA+ in Polonia e interessano l'intera comunità mondiale. Secondo l'Organizzazione mondiale della sanità, il suicidio è la quarta causa principale di morte tra i 15 e i 29 anni in tutto il mondo. L'OMS osserva che la "percentuale di suicidio è molto elevata anche tra i gruppi vulnerabili che hanno subito discriminazioni, ad esempio rifugiati, migranti, popoli indigeni, nonché persone lesbiche, gay, bisessuali, transgender, intersessuali (LGBTI)". Altri studi hanno riscontrato un'"associazione concreta" tra la cyber-persecuzione e i pensieri e gli atti di autolesionismo.

Il rischio di suicidio è particolarmente preoccupante nella comunità transgender e non binaria. Il sondaggio nazionale del 2023 di The Trevor Project sulla salute mentale delle persone LGBTQ ha rivelato che metà dei giovani transgender e non binari negli Stati Uniti ha preso in considerazione il suicidio nel 2022. In base allo stesso studio, si stima che il 14% di giovani LGBTQ, di cui un giovane transgender e non binario su cinque, ha tentato il suicidio nell'ultimo anno. Secondo il sondaggio sui comportamenti a rischio dei giovani del CDC, il 10% degli studenti delle superiori negli Stati Uniti ha tentato il suicidio nel 2021. Numerosistudi internazionali hanno rivelato che, rispetto alle persone cisgender, le persone transgender o non binarie corrono un rischio maggiore di pensieri suicidi e tentativi di suicidio.

In un commento pubblico rivolto al Board, il GLAAD (PC-16027) ha evidenziato le conclusioni del suo sondaggio annuale, il Social Media Safety Index, sulla sicurezza degli utenti LGBTQ nelle cinque piattaforme principali di social media. Il report del 2023 ha assegnato a Facebook il punteggio 61% sulla base di 12 indicatori specifici per la categoria LGBTQ. Il punteggio presenta un aumento di 15 punti rispetto al 2022, con Facebook che si classifica al secondo posto dietro a Instagram e davanti alle altre tre piattaforme principali. Tuttavia, il GLAAD riporta che "la sicurezza e la salvaguardia degli utenti LGBTQ rimane insoddisfacente". Il report rileva che esistono "pericoli davvero reali per le persone LGBTQ online, compresi l'effetto dissuasivo sulla libertà di espressione delle persone LGBTQ che hanno paura di essere prese di mira e l'impatto traumatico a livello psicologico di essere perennemente esposti a insulti e manifestazioni d'odio".

3. Ambito e autorità dell'Oversight Board

Il Board ha l'autorità di controllare la decisione di Meta dando seguito al ricorso della persona che ha precedentemente segnalato il contenuto che è stato lasciato nella piattaforma (articolo 2, sezione 1 dell'Atto costitutivo; articolo 3, sezione 1 dello Statuto).

Il Board può confermare o revocare la decisione di Meta (articolo 3, sezione 5 dell'Atto costitutivo) e la sua decisione è vincolante per l'azienda (articolo 4 dell'Atto costitutivo). Meta deve anche valutare la fattibilità dell'applicazione della sua decisione nel caso di contenuti identici in un contesto parallelo (articolo 4 dell'Atto costitutivo). Le decisioni del Board possono comprendere raccomandazioni non vincolanti cui Meta deve rispondere (articolo 3, sezione 4 dell'Atto costitutivo; articolo 4 dell'Atto costitutivo). Quando Meta si impegna ad adottare misure a seguito di raccomandazioni, il Board ne monitora l'implementazione.

Quando seleziona casi come quello in esame, dove Meta riconosce successivamente di aver commesso un errore, il Board controlla la decisione originaria per approfondire il processo di moderazione dei contenuti e formulare raccomandazioni per ridurre gli errori e far sì che gli utenti Facebook e Instagram siano trattati in modo più equo.

4. Fonti di autorità e indicazioni

L'analisi del Board del caso in questione si è basata sui seguenti standard e precedenti:

I. Decisioni dell'Oversight Board

Le decisioni precedenti più pertinenti dell'Oversight Board includono le seguenti:

• Rivendicazione di parole in arabo
• Cartone animato di Knin
• Proteste in Colombia
• Armeni in Azerbaigian

II. Normative sui contenuti di Meta

I fondamenti della normativa Incitamento all'odio definiscono l'incitamento all'odio "come un attacco diretto rivolto alle persone (piuttosto che a concetti o istituzioni) sulla base di quelle che chiamiamo caratteristiche protette", tra cui sesso e identità di genere. Meta definisce l'"attacco" come "discorsi violenti o disumanizzanti, stereotipi offensivi, affermazioni di inferiorità, espressioni di disprezzo, disgusto o rifiuto, imprecazioni e incitazioni all'esclusione o alla segregazione". Nei fondamenti della normativa, Meta afferma inoltre: "Crediamo che le persone si sentano più libere di esprimersi e connettersi se non vengono attaccate in base alla loro identità. Per questo motivo, non consentiamo l'incitamento all'odio su Facebook, in quanto crea un ambiente di intimidazione ed esclusione e in alcuni casi potrebbe promuovere la violenza fisica offline".

Nello Standard della community Incitamento all'odio gli attacchi vengono suddivisi in "livelli". Gli attacchi di livello 1 includono contenuti che prendono di mira persone o gruppi di persone sulla base delle loro caratteristiche protette con "discorsi di incitamento o sostegno alla violenza in forma scritta o visiva". In ultima istanza, Meta ha stabilito che il post del caso in esame violava questa disposizione della normativa. Il 6 dicembre 2023 Meta ha aggiornato gli Standard della community per riflettere l'inserimento del divieto di violenza verbale contro gruppi con caratteristiche protette nella normativa Violenza e istigazione alla violenza.

Gli attacchi di livello 2 includono contenuti rivolti a persone o a gruppi di persone sulla base delle loro caratteristiche protette con "espressioni di disprezzo (in forma scritta o visiva)". Nello Standard della community Incitamento all'odio, Meta stabilisce che le espressioni di disprezzo includono l'"[a]mmissione di intolleranza basata su caratteristiche protette" e le "[e]spressioni secondo cui non dovrebbe esistere una caratteristica protetta".

Lo Standard della community Suicidio e autolesionismo vieta "tutti i contenuti che incoraggiano al suicidio o all'autolesionismo, inclusi contenuti fittizi come meme o illustrazioni". In base alla presente normativa, Meta rimuove i "contenuti che promuovono, incoraggiano, coordinano o forniscono istruzioni in merito a suicidio e autolesionismo".

L'analisi del Board si è basata sull'impegno di Meta a garantire la libertà di espressione, che l'azienda descrive come "essenziale", nonché sui valori di sicurezza e dignità dell'azienda.

III. Responsabilità di Meta in materia di diritti umani

I principi guida delle Nazioni Unite su imprese e diritti umani, promossi nel 2011 dal Consiglio per i diritti umani delle Nazioni Unite, stabiliscono un quadro normativo volontario per le responsabilità delle aziende private in materia di diritti umani. Nel 2021, Meta ha annunciato la sua Normativa aziendale sui diritti umani, che ribadisce il suo impegno nel rispettare i diritti dell'uomo ai sensi dei principi guida delle Nazioni Unite. L'analisi del Board sulle responsabilità di Meta in materia di diritti umani per il caso in oggetto si è basata sui seguenti standard internazionali:

• Il diritto alla libertà di opinione ed espressione: articolo 19 della Convenzione internazionale sui diritti civili e politici (ICCPR); Commento generale n. 34, del Consiglio per i diritti umani delle Nazioni Unite (2011); i report del Relatore speciale delle Nazioni Unite (UNSR) sulla libertà di opinione ed espressione: A/HRC/38/35 (2018), A/74/486 (2019); Piano d'azione Rabat, report dell'Alto commissariato delle Nazioni Unite per i diritti umani: A/HRC/22/17/Add.4 (2013).
• Il diritto alla vita: articolo 6 dell'ICCPR.
• Il diritto di godere delle migliori condizioni di salute fisica e mentale: articolo 12 del Patto internazionale sui diritti economici, sociali e culturali (ICESCR).
• Il diritto all'uguaglianza e alla non discriminazione: articolo 2, paragrafo 1 e articolo 26 dell'ICCPR.

5. Osservazioni dell'utente

Nel ricorso al Board, l'utente che ha segnalato il contenuto ha sottolineato che la persona che ha pubblicato l'immagine aveva creato un nuovo account Facebook dopo la precedente sospensione per aver molestato persone transgender online. L'utente ha affermato inoltre che l'esaltazione dell'alta percentuale di suicidio all'interno della comunità transgender "non dovrebbe essere consentita".

6. Osservazioni di Meta

Meta ha alla fine rimosso il post come previsto dal livello 1 dello Standard della community Incitamento all'odio perché il contenuto violava una disposizione che proibisce contenuti rivolti a persone o a gruppi di persone sulla base delle loro caratteristiche protette con "incitamento o sostegno alla violenza in forma scritta o visiva". Nelle linee guida interne su come applicare la normativa, Meta afferma che il contenuto deve essere rimosso se risulta essere "violenza verbale sotto forma di call to action o dichiarazioni di intenti a fare del male, minaccia o auspicio o dichiarazioni a sostegno o a supporto di morte, malattia o violenza (in forma scritta o visiva)".

Nelle linee guida interne, l'azienda descrive inoltre cosa considerare una rappresentazione visiva dei gruppi con caratteristiche protette in un'immagine o video. Meta non ha consentito al Board di pubblicare informazioni più dettagliate in correlazione alle suddette linee guida. Ha invece affermato che "ai sensi della normativa Incitamento all'odio, Meta potrebbe considerare gli elementi visivi presenti nel contenuto per stabilire se in questo venga presa di mira una persona o un gruppo di persone sulla base di caratteristiche protette".

Meta ha sostenuto che le molteplici valutazioni degli addetti al controllo del contenuto risultate come non in violazione dello Standard della community Incitamento all'odio sono in linea con "un'applicazione rigorosa delle linee guida interne dell'azienda", elaborando così l'affermazione: "Benché le tende ricordino la bandiera dell'orgoglio transgender, è stato interpretato come un attacco alla bandiera in sé, ossia attacco a un concetto o un'istituzione, che non viola le normative aziendali, e non ai danni di una persona o gruppi di persone". Ciononostante, Meta ha successivamente stabilito che il "riferimento all'atto di appendere indica che il post è un attacco contro un gruppo di persone". Tale valutazione si basava sulla decisione secondo cui la frase "'tende che si appendono da sole' si riferisce implicitamente alla percentuale di suicidio nella comunità transgender per via della somiglianza delle tende con la bandiera dell'orgoglio transgender, mentre le tende appese nella foto, così come il testo in sovrapposizione, sarebbero una metafora del suicidio per impiccagione". Meta inoltre ha osservato che "concetti o istituzioni non possono 'appendersi da soli', almeno non in senso letterale". Per questo motivo, Meta ha stabilito che l'utente facesse riferimento alle "persone transgender e non solamente al concetto". Pertanto, secondo Meta "il contenuto viola la normativa Incitamento all'odio in quanto dichiarazione a favore della morte di un gruppo con caratteristiche protette tramite suicidio".

In seguito all'aggiornamento della normativa Incitamento all'odio, in cui la disposizione che vieta la violenza verbale contro gruppi con caratteristiche protette è stata inserita nella normativa Violenza e istigazione alla violenza, Meta ha riferito al Board che il contenuto continua a essere in violazione.

Inoltre, Meta ha segnalato che la dichiarazione dell'utente nella biografia del suo account "Sono transfobico" è una violazione di livello 2 della normativa Incitamento all'odio in quanto "ammissione di intolleranza sulla base di caratteristiche protette". Secondo Meta, tale dichiarazione è stata valutata come in violazione durante il controllo del caso e dell'account utente in seguito alla selezione del caso da parte del Board. Meta ha affermato che tale dichiarazione ha aiutato a comprendere l'intenzione dell'utente che ha scritto il contenuto.

In risposta alla domanda del Board sul contenuto in violazione della normativa Suicidio e autolesionismo, Meta ha confermato che "il contenuto viola la normativa Suicidio e autolesionismo incoraggiando al suicidio, coerentemente con quanto da noi stabilito riguardo la dichiarazione a favore della morte del gruppo con caratteristiche protette tramite suicidio". Meta inoltre ha segnalato che la normativa Suicidio e autolesionismo "non fa differenza tra il contenuto che promuove o incoraggia al suicidio indirizzato a una persona specifica rispetto a quello indirizzato a un gruppo di persone".

Il Board ha posto a Meta 13 domande per iscritto: domande sull'approccio alla moderazione dei contenuti di Meta riguardo a tematiche transgender e LGBTQIA+; correlazione tra gli Standard della community Incitamento all'odio e Suicidio e autolesionismo; valutazione di contenuti "umoristici" e "satirici" da parte dei moderatori durante il controllo della presenza di discorsi di incitamento all'odio in violazione; ruolo dei punteggi relativi a "diffusione" e "gravità" nell'assegnazione della priorità necessaria per sottoporre un contenuto al controllo umano; infine, gestione delle pratiche di moderazione dei contenuti adottate da Meta attraverso l'assegnazione della priorità necessaria per sottoporre un contenuto al controllo umano in seguito a molteplici segnalazioni da parte degli utenti. Meta ha risposto a tutte le 13 domande.

7. Commenti pubblici

L'Oversight Board ha ricevuto 35 commenti pubblici pertinenti al caso in esame, di cui 25 da Stati Uniti e Canada, 7 dall'Europa e 3 da Asia Pacifico e Oceania. Nel totale sono inclusi commenti pubblici duplicati o inviati con il consenso alla pubblicazione, ma che non soddisfacevano le condizioni per la pubblicazione del Board a causa della natura offensiva dei commenti, delle preoccupazioni in materia di privacy degli utenti e/o altri motivi. I commenti pubblici possono essere inviati al Board con o senza consenso alla pubblicazione e con o senza consenso all'attribuzione.

I commenti inviati riguardavano i seguenti temi: la situazione dei diritti umani in Polonia, soprattutto relativamente alle persone transgender; la sicurezza delle persone LGBTQIA+ nelle piattaforme social; la relazione tra la violenza online e offline in Polonia; la correlazione tra umorismo, satira, meme e odio/intimidazioni ai danni delle persone transgender nelle piattaforme social; infine, le difficoltà nella moderazione dei contenuti che necessitano di contesto per essere interpretati.

Per leggere i commenti pubblici inviati per il caso in oggetto, clicca qui.

8. Analisi dell'Oversight Board

Il Board ha esaminato se il contenuto doveva essere rimosso analizzando le normative sui contenuti, le responsabilità in materia di diritti umani e i valori di Meta. Il Board ha anche valutato le implicazioni del caso in oggetto per il più ampio approccio di Meta nei confronti della governance dei contenuti.

Il Board ha selezionato questo caso per valutare l'accuratezza dell'applicazione della normativa Incitamento all'odio di Meta e per comprendere come l'azienda gestisce i contenuti di incitamento all'odio e istigazione al suicidio o all'autolesionismo.

8.1 Conformità con le normative sui contenuti di Meta

I. Regole sui contenuti

Incitamento all'odio

Il Board ritiene che il contenuto del caso in oggetto violi lo Standard della community Incitamento all'odio. Il post include infatti "incitamento o sostegno alla violenza" (livello 1) sotto forma di istigazione al suicidio rivolta a un gruppo con caratteristiche protette, pertanto viola chiaramente la normativa Incitamento all'odio.

Il Board concorda con la conclusione di Meta secondo la quale il riferimento all'atto di appendere nel post fosse un attacco rivolto a un gruppo di persone piuttosto che a un concetto, perché "concetti e istituzioni non possono appendersi da soli". Il Board trova inoltre sostegno alla sua conclusione nel contesto più ampio della violenza online e offline rivolta ai membri della comunità LGBTQIA+ e in modo particolare alle persone transgender in Polonia. Un post in cui si fa uso di violenza verbale per istigare al suicidio le persone transgender crea un clima di esclusione e intimidazione e potrebbe comportare manifestazioni di violenza fisica. Il contesto in cui è stato utilizzato il linguaggio del post rende evidente la volontà di disumanizzare il gruppo di persone a cui si riferisce. Alla luce della natura del testo e dell'immagine, il post esacerba, tra l'altro, i disturbi di salute mentale che affliggono già la comunità transgender. Secondo diversi studi, rispetto alle persone cisgender, le persone transgender o non binarie corrono un rischio maggiore di pensieri suicidi e tentativi di suicidio. Inoltre, attacchi online e persecuzione hanno una correlazione concreta con i pensieri suicidi. In tale contesto, il Board ritiene che la presenza della bandiera transgender, unitamente al riferimento all'elevato rischio di suicidio all'interno della comunità transgender, "tende che si appendono da sole", sia una chiara indicazione che il post ha come destinatari le persone transgender. Il Board ritiene che la frase "pulizie di primavera" seguita dall'emoticon del cuore "<3" stia ad indicare un incoraggiamento alla morte del gruppo. Pertanto, è anche in violazione del divieto dello Standard della community Incitamento all'odio (livello 2) relativo alle "espressioni secondo cui non dovrebbe esistere una caratteristica protetta".

Nel rispetto dello Standard della community, il Board ritiene che le normative e le linee guida interne per la loro applicazione dovrebbero essere maggiormente attente alla tendenza alla "malign creativity" (creatività malevola) dei contenuti che prendono di mira gruppi storicamente emarginati. Il termine è stato coniato dal Wilson Center nell'ambito della ricerca sulla violenza in base a identificazione di genere e sesso e il GLAAD ne ha sottolineato l'importanza nei suoi commenti pubblici (PC-16027). La "creatività malevola" fa riferimento all'"uso di linguaggio in codice; meme iterativi, testuali e visivi basati sul contesto; e altre tecniche per evitare di essere rilevati nelle piattaforme social". Applicando il concetto al post del caso in esame, il GLAAD ha sostenuto che la "creatività malevola" implica che "gli autori di atti illeciti sviluppino nuovi mezzi per prendere di mira la comunità LGBTQ" e i gruppi vulnerabili in generale, attraverso post e meme che definiscono "umoristici o satirici", ma che "in realtà sono manifestazioni di odio o intimidazione nei confronti della comunità LGBTQ". Nello specifico, la "creatività malevola" è stata convogliata sotto forma di post che fa due riferimenti codificati al suicidio, "tende che si appendono da sole" e "pulizie di primavera", insieme alla rappresentazione visiva di un gruppo protetto (la bandiera transgender) istigato al suicidio. Nella decisione Armeni in Azerbaigian, il Board ha preso atto dell'importanza del contesto per stabilire se il termine esaminato nel caso avesse l'intento di prendere di mira un gruppo sulla base di una caratteristica protetta. In tale caso, il contesto della guerra è stato determinante per giungere a una decisione, mentre il caso in esame ha dimostrato che, anche in assenza di guerre, le conseguenze delle minacce, come quelle cui sono sottoposte le persone transgender in Polonia, possono essere disastrose per una comunità. Come sottolineato in precedenza, una persona transgender su cinque in Polonia ha segnalato di essere stata vittima di attacchi fisici o sessuali nei cinque anni precedenti il 2019, più del doppio rispetto agli altri gruppi LGBTI che hanno segnalato attacchi di questo tipo.

Il Board teme che gli addetti al controllo umano di Meta non abbiano saputo riconoscere da subito gli indizi contestuali all'interno del contenuto, concludendo di conseguenza che non fosse in violazione. Sebbene il Board raccomandi la revisione delle linee guida per l'applicazione dello Standard della community Incitamento all'odio, sottolinea anche che il post era già in violazione delle normative così come erano formulate al momento in cui è stato segnalato. Entrambe le dichiarazioni nel post spingono le persone transgender al suicidio. Un ulteriore segnale nella biografia dell'utente supporta questa conclusione. L'autoidentificazione dell'utente come transfobico costituirebbe, in sé, una violazione di livello 2 dello Standard della community Incitamento all'odio riguardo l'"ammissione di intolleranza sulla base di caratteristiche protette". Meta deve migliorare l'accuratezza dell'applicazione delle normative in materia di incitamento all'odio ai danni della comunità LGBTQIA+ attraverso il controllo automatizzato o umano, soprattutto quando i post includono immagini e testi che necessitano di contesto per essere interpretati. Come osservato dal GLAAD (PC-16027), Meta "ha dimostrato errori sistematici nell'applicazione delle sue normative durante il controllo delle segnalazioni su contenuti che presentano 'creatività malevola'".

Il Board ha espresso preoccupazione anche in merito alla dichiarazione di Meta sulla mancata rimozione del contenuto da parte degli addetti al controllo "in linea con la rigorosa applicazione delle sue linee guida interne". La dichiarazione di Meta indica che le linee guida interne non consentono agli addetti al controllo di interpretare in modo adeguato la correlazione tra testo e immagini in un post sui social che rappresenta un gruppo definito dall'identità di genere dei suoi membri. Il Board ritiene che le linee guida per gli addetti al controllo dei contenuti su larga scala potrebbero non essere sufficienti per applicare correttamente le normative sui contenuti che prendono di mira gruppi di categorie protette che sono rappresentati visivamente, ma non presentano nomi o figure umane. Meta non ha consentito al Board di pubblicare ulteriori dettagli che avrebbero permesso una discussione approfondita su come migliorare l'applicazione delle normative su contenuti di questo tipo. Tuttavia, il Board ritiene che Meta debba modificare le proprie linee guida per assicurare che la rappresentazione visiva dell'identità di genere venga opportunamente interpretata durante la valutazione della presenza di forme di aggressione. Il Board sottolinea che, nel suggerire questo approccio, non intende sminuire le difficoltà riscontrate da Meta nella protezione di concetti, istituzioni, idee, pratiche o convinzioni. Piuttosto, il Board chiede a Meta di chiarire che i post non devono necessariamente raffigurare figure umane per costituire un attacco alle persone.

Suicidio e autolesionismo

Il Board ritiene che i contenuti del caso in esame violino anche lo Standard della community Suicidio e autolesionismo. La normativa vieta i "contenuti che promuovono, incoraggiano, coordinano o forniscono istruzioni in merito a suicidio e autolesionismo". In base alle linee guida interne per gli addetti al controllo di Meta, il termine "promozione" viene definito come "parlare in modo positivo di". Il Board concorda con la conclusione di Meta secondo cui il contenuto è una dichiarazione a favore della morte del gruppo con caratteristiche protette tramite il suicidio, pertanto incoraggia al suicidio.

Il Board ritiene inoltre che lo Standard della community Suicidio e autolesionismo dovrebbe vietare più espressamente i contenuti che promuovono o incoraggiano il suicidio di un gruppo identificabile di persone, anziché di una singola persona del gruppo. Meta ha dichiarato al Board che la normativa non fa differenza tra queste due forme di contenuto. Considerando le difficoltà che gli addetti al controllo hanno riscontrato nell'identificare una dichiarazione che incitava, in questo caso, un gruppo al suicidio, il Board invita Meta a chiarire che la normativa vieta i contenuti che promuovono o incoraggiano il suicidio rivolti a un gruppo identificabile di persone. Meta dovrebbe chiarire questo punto nella pagina della normativa Suicidio e autolesionismo e nelle linee guida interne per gli addetti al controllo.

II. Provvedimento

Il Board ritiene che i sistemi di assegnazione della priorità per il controllo automatizzato di Meta hanno influenzato in modo significativo i provvedimenti presi in questo caso. Su 12 segnalazioni degli utenti sul post, 10 sono state chiuse automaticamente dai sistemi automatizzati di Meta. Su tre ricorsi degli utenti contro le decisioni di Meta, due sono stati chiusi automaticamente dai sistemi automatizzati di Meta. Secondo il Board il fatto che la cronologia del caso condiviso contenesse numerose indicazioni di violazione suggerisce che le normative di Meta non vengono applicate in modo adeguato.

Il Board prende atto che numerose segnalazioni degli utenti erano state chiuse in virtù della pratiche di moderazione dei contenuti adottate da Meta per gestire molteplici segnalazioni dello stesso contenuto. Alla segnalazione del primo utente per incitamento alla violenza non è stata assegnata la priorità necessaria per il controllo umano a causa dei "punteggi bassi relativi a gravità e diffusione". Alle segnalazioni successive per incitamento alla violenza non è stata assegnata la priorità perché nel caso di più segnalazioni dello stesso contenuto, Meta "deduplica le segnalazioni per assicurare coerenza nelle decisioni e nei provvedimenti degli addetti al controllo". Il Board riconosce che la deduplicazione è una pratica ragionevole per la moderazione dei contenuti su larga scala. Tuttavia, il Board osserva che la pratica esercita maggiore pressione sulla decisione iniziale presa su una segnalazione, perché determina anche il destino di tutte le segnalazioni dello stesso tipo.

Il Board ritiene che sarebbe importante che Meta assegnasse la priorità migliorando l'accuratezza dei sistemi automatizzati che applicano le normative sui contenuti e assegnano priorità per il controllo, in particolare per gestire contenuti con possibile impatto sulle persone LGBTQIA+. Tali miglioramenti nella capacità dei sistemi automatizzati di riconoscere il tipo di linguaggio in codice e di immagini basate sul contesto di questo caso comporterebbero senza dubbio il miglioramento dell'applicazione delle normative per i contenuti che prendono di mira anche gruppi con caratteristiche protette. Il Board ritiene che la biografia dell'utente, ad esempio, che includeva un'ammissione di transfobia, dovesse essere considerata come segnale rilevante al momento dell'assegnazione del punteggio di gravità per stabilire se il contenuto fosse prioritario per il controllo e/o per prendere eventuali provvedimenti. Un segnale di questo tipo potrebbe integrare le analisi correnti in merito ai comportamenti sui social per far emergere contenuti potenzialmente in violazione.

Inoltre, il Board sottolinea che potrebbe essere importante per Meta assicurare che i sistemi automatizzati siano ben calibrati e che gli addetti al controllo dei contenuti siano formati a valutare in modo efficace post correlati alla comunità LGBTQIA+ su larga scala. Il Board esprime preoccupazione circa l'attuale approccio di Meta, in base al quale gli addetti al controllo incaricati di valutare i ricorsi sembrano spesso avere lo stesso livello di competenza degli addetti che valutano il contenuto alla prima segnalazione. Il Board ritiene che Meta debba investire di più nello sviluppo e nella formazione di classificatori per far emergere possibili contenuti in violazione relativi alla comunità LGBTQIA+ cui assegnare la priorità necessaria per il controllo umano. I contenuti di incitamento all'odio, soprattutto quelli con maggiore criticità che rientrano nel livello 1 della normativa di Meta, dovrebbero sempre ottenere la priorità necessaria per il controllo. Inoltre, il Board suggerisce di favorire questi processi di miglioramento attraverso: i) l'intensificazione della formazione degli addetti al controllo sui pericoli correlati all'identità di genere; ii) l'istituzione di una task force sulle esperienze di persone transgender e non binarie nelle piattaforme di Meta; e iii) la creazione di un gruppo specializzato di esperti in materia per controllare i contenuti correlati alle questioni che interessano la comunità LGBTQIA+. Sebbene i fatti di questo caso riguardino nello specifico le violenze subite da persone transgender su Facebook, il Board incoraggia Meta a capire come migliorare l'applicazione delle normative per i contenuti che incitano all'odio anche contro altri gruppi con caratteristiche protette.

Il Board propone solo le due raccomandazioni formali di seguito, perché le difficoltà evidenziate nel caso non riguardano specificatamente le normative così come erano formulate rispetto alla loro applicazione. Il Board conta almeno cinque segni riconoscibili di pericolo nel caso in esame: (1) i riferimenti del post alle "tende che si appendono da sole"; (2) il riferimento del post alle "pulizie di primavera <3"; (3) l'autodescrizione dell'utente come "transfobico" in un Paese in cui vengono segnalati livelli elevati di ostilità nei confronti della comunità LGBTQIA+; (4) il numero di segnalazioni e ricorsi degli utenti sul contenuto; infine (5) il numero di segnalazioni e ricorsi relativi alla diffusione del contenuto. Il Board teme che Meta non abbia riconosciuto questi segnali e ritiene che ciò suggerisce che le sue normative non vengano applicate correttamente. Il Board è fermamente convinto che Meta debba intervenire in modo rigoroso e creativo per rimediare alle carenze nell'applicazione dei suoi ideali di salvaguardia delle persone LGBTQIA+ nelle sue piattaforme.

8.2 Conformità con le responsabilità di Meta in materia di diritti umani

Libertà di espressione (articolo 19 dell'ICCPR)

L'articolo 19, paragrafo 2 della Convenzione internazionale sui diritti civili e politici (ICCPR) afferma che "ogni individuo ha il diritto alla libertà di espressione; tale diritto comprende la libertà di cercare, ricevere e diffondere informazioni e idee di ogni genere, indipendentemente dalle frontiere, siano esse in forma orale, scritta, a mezzo stampa, sotto forma di produzione artistica o attraverso qualsiasi altro mezzo". Il Commento generale n. 34 (2011) specifica ulteriormente che le manifestazioni protette della libertà di espressione potrebbero includere espressioni che potrebbero ritenersi "profondamente offensive" (paragrafo 11).

Quando le limitazioni alla libertà di espressione sono imposte da uno Stato, devono soddisfare i requisiti di legalità, fine legittimo, necessità e proporzionalità (articolo 19, paragrafo 3 dell'ICCPR). Questi requisiti vengono spesso definiti come "test in tre fasi". Il Board utilizza questo framework per interpretare gli impegni volontari di Meta in materia di diritti, sia per quanto riguarda la singola decisione sul contenuto oggetto di controllo sia per quanto riguarda il più ampio approccio di Meta alla governance dei contenuti. Come dichiarato dal Relatore speciale delle Nazioni Unite sulla libertà di espressione, anche se "le aziende non hanno gli stessi obblighi dei governi, hanno un impatto che richiede loro di valutare lo stesso tipo di domande sulla protezione del diritto alla libertà di espressione dei propri utenti" (A/74/486, paragrafo 41).

I. Legalità (chiarezza e accessibilità delle regole)

Il principio di legalità stabilito dal Diritto internazionale dei diritti umani sancisce la necessità di regole che garantiscano la chiarezza e l'accessibilità delle informazioni condivise (Commento generale n. 34, paragrafo 25). Richiede inoltre che le regole che limitano la libertà di espressione "non conferiscano una discrezionalità illimitata nella limitazione della libertà di espressione ai responsabili della [relativa] applicazione" e "forniscano indicazioni sufficienti ai responsabili della relativa applicazione per consentire loro di accertare quali forme di libertà di espressione sono correttamente limitate e quali non lo sono" (ibid.). In merito alle regole che disciplinano la libertà di espressione online, il Relatore speciale delle Nazioni Unite sulla libertà di espressione ha dichiarato che queste devono essere chiare e specifiche (A/HRC/38/35, paragrafo 46). Le persone che usano le piattaforme di Meta devono poter accedere alle regole e comprenderle, mentre gli addetti al controllo dei contenuti devono avere indicazioni chiare sulla relativa applicazione.

Il Board ritiene che i divieti di Meta relativi all'"incitamento o sostegno alla violenza" in forma scritta o visiva contro gruppi con caratteristiche protette, alle espressioni secondo cui non dovrebbe esistere una caratteristica protetta e ai discorsi che promuovono o incoraggiano il suicidio e l'autolesionismo sono sufficientemente chiari.

Il Board osserva, tuttavia, che Meta può migliorare l'accuratezza dell'applicazione delle normative interessate in questo caso, fornendo indicazioni più chiare agli addetti al controllo umano, come esposto nella sezione 8.1 sopra. Meta deve chiarire che le rappresentazioni visive dell'identità di genere, ad esempio tramite una bandiera, non devono raffigurare necessariamente figure umane per costituire un attacco alle persone come previsto dalla normativa Incitamento all'odio. Meta dovrebbe inoltre chiarire che l'invito di commettere suicidio rivolto a un gruppo (anziché a un individuo) viola la normativa Suicidio e autolesionismo.

II. Fine legittimo

Le limitazioni alla libertà di espressione devono perseguire uno degli scopi legittimi enucleati nell'ICCPR, che includono i "diritti degli altri". In diverse decisioni, Il Board ha rilevato che la normativa Incitamento all'odio di Meta, che mira a proteggere le persone dal danno causato dall'incitamento all'odio, ha un fine legittimo riconosciuto dalle norme internazionali in materia di diritti umani (si veda, ad esempio, la decisione Cartone animato di Knin). Inoltre, il Board ritiene che, nel caso in esame, le disposizioni della normativa Suicidio e autolesionismo relative al contenuto che incoraggia a tali atti consentono alle persone di raggiungere gli obiettivi legittimi legati al diritto di godere delle migliori condizioni di salute fisica e mentale (articolo 12 dell'ICESCR) e del diritto alla vita (articolo 5 dell'ICCPR). In casi come questo, in cui un gruppo con caratteristiche protette è incoraggiato al suicidio, la normativa Suicidio e autolesionismo ha anche lo scopo di proteggere il diritto all'uguaglianza e alla non discriminazione (articolo 2, paragrafo 1 dell'ICCPR).

III. Necessità e proporzionalità

Il principio di necessità e proporzionalità prevede che le limitazioni alla libertà di espressione "debbano corrispondere allo strumento meno invasivo tra quelli che potrebbero svolgere la funzione protettiva e debbano essere proporzionate alla relativa funzione protettiva e all'interesse da tutelare" (Commento generale n. 34, paragrafo 34).

Nell'analizzare i rischi presentati da contenuti violenti, il Board in genere si fa guidare dal test a sei fattori illustrato nel Piano d'azione Rabat, che analizza l'incitamento all'odio nazionale, razziale o religioso che costituisce un incitamento all'ostilità, alla discriminazione o alla violenza. In base alla valutazione dei fattori pertinenti, specie il contenuto e la forma d'espressione, l'intenzione dell'oratore e il contesto ulteriormente approfonditi più avanti, il Board ritiene che la rimozione del contenuto sia conforme alle responsabilità in materia di diritti umani di Meta, in quanto costituisce un rischio di violenza imminente e probabile. La rimozione del contenuto è una limitazione necessaria e proporzionata alla libertà di espressione al fine di proteggere il diritto alla vita, nonché il diritto di godere delle migliori condizioni di salute fisica e mentale della comunità LGBTQIA+ più ampia e, in particolare, delle persone transgender in Polonia.

Sebbene il Board avesse già preso atto dell'importanza di rivendicare termini dispregiativi per le persone LGBTQIA+ nella lotta alla discriminazione (si veda la decisione Rivendicazione di parole in arabo), nota che non è questo il caso. Il post inoltre non contiene discorsi politici o rilevanti (si veda la decisione Proteste in Colombia). Il post del caso in esame include l'immagine della bandiera transgender appesa come una tenda e la descrizione di tende che si appendono da sole. Secondo gli esperti consultati dal Board, l'uso delle tende, nella rappresentazione visiva e testuale, non sembrerebbe essere un linguaggio in codice ricorrente rivolto alla comunità transgender. Tuttavia, come detto in precedenza, il fenomeno della "creatività malevola", ovvero l'uso di nuovo linguaggio e strategie per esprimere odio e intimidazione, ha iniziato a caratterizzare i contenuti che prendono di mira le persone transgender. Il Board ritiene che il contenuto del caso in esame rientri perfettamente in tale tendenza. Sebbene l'immagine del post fosse considerata "umoristica" da alcuni, come evidenziato dalle reazioni con l'emoji "Ahah", il post è comunque da interpretarsi come una dichiarazione violenta e provocatoria contro la comunità transgender. Umorismo e satira possono ovviamente essere usati per spingere oltre i limiti la critica legittima, ma non per celare incitamento all'odio. Il post fa riferimento all'alta percentuale di suicidio tra i membri della comunità transgender, celebrando questo dato.

Per comprendere l'intento del content creator, il Board prende in considerazione l'aperta dichiarazione di "transfobia" presente nella sua biografia. Meta ha considerato le implicazioni di questa dichiarazione per il contenuto del caso solo in un secondo momento, ma il Board ritiene che sia estremamente pertinente per stabilire l'intento dell'utente. Si tratterebbe inoltre di una motivazione separata per rimuovere del contenuto in quanto violazione di livello 2 della normativa Incitamento all'odio. Il post descriveva infatti la situazione di elevata mortalità per suicidio tra le persone transgender come "pulizie di primavera", corredando la descrizione con l'emoticon del cuore. Alla luce di questa dichiarazione di istigazione al suicidio del gruppo, il Board riconosce l'intenzione del post, dell'immagine associata al testo e della didascalia di incoraggiare alla discriminazione e alla violenza. Non solo il contenuto del caso in esame incoraggia le persone transgender a commettere atti violenti contro se stessi, ma incita anche altri a discriminare ed essere ostili verso i membri della comunità transgender. Tale interpretazione è confermata dal fatto che la reazione al contenuto maggiormente usata dagli altri utenti fosse l'emoji "Ahah".

Infine, il Board prende atto degli elevati rischi offline che la comunità LGBTQIA+ polacca corre nella forma di attacchi crescenti attraverso provvedimenti legislativi e amministrativi, nonché retorica politica di rappresentanti del governo centrale e personaggi influenti dell'opinione pubblica. Secondo ILGA-Europe, dal 2020 la Polonia si posiziona sistematicamente all'ultimo posto tra i Paesi membri dell'UE in materia di diritti LGBTQIA+. Inoltre, è importante osservare che in Polonia le leggi sui reati motivati da odio e incitamento all'odio non prevedono tutele per le persone LGBTQIA+, così come evidenziato alla Polonia da organizzazioni tra cui ILGA-Europe e Amnesty International. Oltretutto, come segnalato da esperti esterni e numerosi commenti pubblici, l'impennata di retorica anti-LGBTQIA+ in lingua polacca su Facebook non è un fenomeno isolato. Molte organizzazioni e istituzioni hanno espresso preoccupazione in merito alla prevalenza di discorsi anti-LGBTQIA+ sui social. Victor Madrigal-Borloz, esperto indipendente sull'orientamento sessuale e l'identità di genere (IE SOGI) delle Nazioni Unite, ha dichiarato che i livelli di violenza e discriminazione contro le persone di genere diverso e transgender "offendono la coscienza umana". Secondo gli studi e report del GLAAD sono presenti "pericoli davvero reali per le persone LGBTQ online, compresi (...) l'impatto traumatico a livello psicologico di essere perennemente esposti a insulti e manifestazioni d'odio". Contenuti come quelli del post del caso in esame, soprattutto se considerati su larga scala, possono contribuire a esasperare la situazione di pericolo di suicidio che già pervade la comunità transgender. Inoltre, i contenuti che legittimano discorsi violenti anti-transgender, come nel caso del post in esame, rischiano di contribuire sia ai disturbi di salute mentale che affliggono la comunità transgender, sia all'impennata di violenza che prende di mira la comunità offline.

9. Decisione dell'Oversight Board

L'Oversight Board revoca la decisione originaria di Meta di lasciare pubblicato il contenuto.

10. Raccomandazioni

Normativa sui contenuti

1. La pagina della normativa Suicidio e autolesionismo di Meta dovrebbe chiarire che la normativa proibisce i contenuti che promuovono o incoraggiano il suicidio esplicitamente rivolti a un gruppo identificabile di persone.

Il Board considererà questa raccomandazione implementata quando il linguaggio rivolto al pubblico dello Standard della community Suicidio e autolesionismo rifletterà la modifica proposta.

Applicazione

2. Le linee guida interne di Meta per gli addetti al controllo su larga scala dovrebbero essere modificate per assicurare che le rappresentazioni visive dell'identità di genere mediante simboli che non contengono una figura umana siano intese come rappresentazioni di un gruppo definito dall'identità di genere dei suoi membri. Tale modifica consentirebbe di chiarire le indicazioni per l'applicazione sui contenuti su larga scala ogni volta che contengono un attacco in violazione delle normative.

Il Board considererà tale modifica attuata quando Meta fornirà al Board le modifiche alle sue linee guida interne.

*Nota procedurale:

Le decisioni dell'Oversight Board sono predisposte da gruppi di cinque Membri e devono essere approvate dalla maggioranza del Board. Le decisioni del Comitato non rappresentano necessariamente l'opinione personale di tutti i Membri.

Per la decisione su questo caso sono state commissionate ricerche indipendenti per conto del Board. Il Board è stato assistito da un istituto di ricerca indipendente presso l'Università di Göteborg con un team di più di 50 esperti di social in sei continenti, nonché da più di 3200 esperti nazionali da tutto il mondo. Ha fornito un'analisi anche Memetica, un'organizzazione che si occupa di ricerche open source sulle tendenze nei social media. La consulenza linguistica è stata affidata a Lionbridge Technologies LLC, i cui esperti vantano una conoscenza professionale in oltre 350 lingue e lavorano da più di 5000 città in tutto il mondo.

Retour aux décisions de cas et aux avis consultatifs politiques