Identità di genere e nudo

Riepilogo del caso

L'Oversight Board ha revocato la decisione originale di Meta di rimuovere due post su Instagram che ritraevano persone transgender e non binarie a torso nudo. Si raccomanda inoltre a Meta di modificare il suo Standard della community in materia di immagini di nudo e atti sessuali di adulti in modo che sia disciplinato da criteri chiari e conformi alle norme internazionali sui diritti umani.

Informazioni sul caso

In questa decisione, l'Oversight Board ha esaminato per la prima volta due casi allo stesso momento. Due contenuti separati sono stati pubblicati dallo stesso account Instagram, uno nel 2021 e l'altro nel 2022. L'account è gestito da una coppia residente negli Stati Uniti che si identifica come transgender e non binaria.

Entrambi i post presentano immagini della coppia a torso nudo, con i capezzoli coperti. Nelle didascalie delle immagini, si discute di assistenza sanitaria per le persone transgender e si afferma che un membro della coppia subirà a breve un intervento di chirurgia mammaria (operazione di affermazione del genere per appiattire il petto), per il quale la coppia ha creato una raccolta fondi.

Dopo una serie di avvisi da parte dei sistemi automatizzati di Meta e segnalazioni degli utenti, i post sono stati controllati più volte per potenziali violazioni di vari Standard della community. Meta ha infine rimosso entrambi i post per violazione dello Standard della community in materia di favoreggiamento di incontri di natura sessuale, a quanto pare poiché contenenti immagini di seni e un link a una pagina di raccolta fondi.

Gli utenti hanno inviare un ricorso a Meta e in seguito al Board. Dopo che il Board ha accettato i casi, Meta ha ritenuta erronea la rimozione dei post e li ha ripristinati.

Conclusioni principali

Secondo l'Oversight Board, la rimozione del post non rispetta gli Standard della community di Meta, i suoi valori o le sue responsabilità in materia di diritti umani. Questi casi evidenziano inoltre problemi fondamentali nelle normative di Meta.

Le indicazioni interne di Meta ai moderatori sui casi in cui rimuovere contenuti ai sensi della normativa in materia di favoreggiamento di incontri di natura sessuale sono molto più ampie rispetto al fondamento ufficiale della normativa o alle indicazioni di dominio pubblico. Ciò crea confusione fra utenti e moderatori e, come riconosciuto da Meta, causa la rimozione erronea di contenuti.

In almeno uno dei casi, il post è stato inviato al controllo umano da un sistema automatizzato preposto all'applicazione dello Standard della community in materia di immagini di nudo e atti sessuali. Lo Standard in questione vieta immagini che ritraggono capezzoli femminili, se non in circostanze specifiche, quali allattamento al seno e chirurgia di affermazione di genere.

Questa normativa si basa su una visione binaria del genere e su una distinzione fra corpi maschili e femminili. Questo approccio rende poco chiaro il modo in cui le regole si applicano alle persone intersessuali, non binarie e transgender e impone agli addetti al controllo di effettuare valutazioni rapide e soggettive su sesso e genere, il che non è ottimale nella moderazione dei contenuti su vasta scala.

Le restrizioni e le eccezioni alle regole sui capezzoli femminili sono ampie e fuorvianti, in particolare poiché trovano applicazione nei confronti di persone transgender e non binarie. Le eccezioni alla normativa spaziano dalle proteste, alle immagini del parto, ai contesti medici e sanitari, e comprendono chirurgia mammaria e sensibilizzazione sul cancro al senso. Queste eccezioni sono spesso intricate e scarsamente definite. In alcuni contesti, ad esempio, i moderatori devono valutare estensione e natura delle cicatrici visibili per determinare l'eventuale applicazione di determinate eccezioni. La scarsa chiarezza di questa normativa crea incertezza per utenti e addetti al controllo, rendendola di fatto inattuabile.

Il Board ha più volte ribadito che Meta dovrebbe prestare attenzione all'impatto delle sue normative sulle persone vittime di discriminazione (ad esempio, vd. le decisioni "Cintura wampum" e "Rivendicazione di parole in arabo"). In questo caso, il Board ritiene che le normative di Meta sulle immagini di nudo di adulti si traducano in maggiori barriere per la libertà di espressione di donne, transgender e persone non binarie sulle sue piattaforme. Ad esempio, le normative producono un grave impatto nei contesti in cui le donne sono tradizionalmente a petto nudo. Inoltre, come dimostrato da questi casi, le persone che si identificano come LGBTQI+ possono subire ripercussioni sproporzionate. I sistemi di automatizzati di Meta hanno rilevato più volte i contenuti, nonostante non violassero le normative dell'azienda.

Meta dovrebbe sviluppare e implementare normative che rispondano a tutte queste criticità. L'azienda dovrebbe modificare il suo approccio alla gestione del nudo sulle sue piattaforme stabilendo criteri chiari per disciplinare la normativa in materia di immagini di nudo e atti sessuali di adulti, che garantiscano a tutti gli utenti un trattamento coerente con le norme sui diritti umani. Meta dovrebbe altresì esaminare se la normativa in materia di immagini di nudo e atti sessuali di adulti fornisca protezione contro le condivisioni non consensuali di immagini, oltre all'opportunità di rafforzare altre normative in questo ambito.

La decisione dell'Oversight Board

L'Oversight Board revoca la decisione originale di Meta di rimuovere i post.

Il Board inoltre raccomanda a Meta i seguenti provvedimenti:

• Definire criteri chiari, obiettivi e coerenti con i diritti per la disciplina della sua normativa in materia di immagini di nudo e atti sessuali di adulti, in modo che le persone vengano trattate in modo coerente rispetto alle norme internazionali per i diritti umani, senza discriminazioni basate su sesso o genere. Meta dovrebbe in primo luogo effettuare una valutazione completa dell'impatto sui diritti umani di tale modifica, coinvolgendo vari stakeholder, e creare un piano per risolvere qualsiasi pericolo individuato.
• Fornire maggiori dettagli nello Standard della community pubblico in materia di favoreggiamento di incontri di natura sessuale sui criteri che portano alla rimozione dei contenuti.
• Rivedere le indicazioni per i moderatori in merito allo Standard della community in materia di favoreggiamento di incontri di natura sessuale in modo che rifletta con maggiore precisione le regole pubbliche della normativa. In questo modo si ridurranno gli errori di applicazione da parte di Meta.

*I riepiloghi forniscono una panoramica di un determinato caso e non costituiscono un precedente.

Decisione completa sul caso

1. Riepilogo della decisione

L'Oversight Board revoca la decisione originale di Meta in due casi di rimozione di post su Instagram da parte dell'azienda. Meta ha riconosciuto che le decisioni originali in entrambi casi erano errate. Questi casi sollevano serie perplessità circa l'impatto sproporzionato delle normative di Meta sui diritti di libertà di espressione di donne e utenti LGBTQI+ sulle piattaforme dell'azienda. Il Board esorta Meta a definire criteri chiari, obiettivi e coerenti con i diritti per la disciplina della sua intera normativa in materia di immagini di nudo e attività sessuali di adulti, in modo da garantire un trattamento equo a tutte le persone, in linea con le norme internazionali sui diritti umani, ed evitare discriminazioni basate su identità di genere o sessuale. Meta dovrebbe in primo luogo effettuare una valutazione completa dell'impatto sui diritti umani per esaminare le implicazioni dell'adozione di tali criteri, che preveda un ampio coinvolgimento inclusivo di stakeholder provenienti da diversi contesti ideologici, geografici e culturali. Nella misura in cui la valutazione identifichi eventuali danni potenziali, l'attuazione della nuova normativa dovrebbe prevedere un piano di mitigazione al riguardo.

Il Board esorta altresì Meta a fornire maggiore chiarezza in merito alla normativa pubblica in materia di favoreggiamento di incontri di natura sessuale e a precisare le sue linee guida sull'applicazione per affrontare al meglio tali violazioni.

2. Descrizione e contesto del caso

I casi riguardano due decisioni relative ai contenuti prese da Meta che l'Oversight Board intende affrontare insieme nella presente decisione. Su uno stesso account Instagram gestito congiuntamente da una coppia residente negli Stati Uniti, sono state pubblicate due immagini separate provviste di didascalie. Entrambe le immagini presentano la coppia che, sia nei post che nelle comunicazioni inviate al Board, ha specificato di identificarsi come transgender e non binaria.

Meta ha rimosso entrambi i post ai sensi dello Standard della community in materia di favoreggiamento di incontri di natura sessuale. In ambedue i casi, i sistemi automatizzati di Meta hanno identificato i contenuti come potenzialmente in violazione.

Nella prima immagine, pubblicata nel 2021, entrambe le persone sono a torso nudo e indossano un nastro color carne per coprire i capezzoli. Nella seconda immagine, pubblicata nel 2022, una persona è vestita mentre l'altra è a torso nudo e si copre i capezzoli con le mani. Nelle didascalie che accompagnano le immagini si dice che la persona a torso nudo in entrambe le foto presto si sottoporrà a un intervento di chirurgia mammaria di affermazione di genere per appiattire il petto. Le persone affermano che hanno in progetto di documentare il processo chirurgico e discutere le problematiche sanitarie affrontate dai soggetti transgender. I due dichiarano di aver creato una raccolta fondi per pagare l'intervento chirurgico dal momento che stanno avendo difficoltà a ottenere una copertura assicurativa per l'intervento.

Nel primo caso, l'immagine è stata classificata in automatico come improbabile violazione. La segnalazione è stata chiusa senza controllo e il contenuto è rimasto in un primo momento sulla piattaforma. Tre utenti hanno segnalato il contenuto per pornografia e autolesionismo. Queste segnalazioni sono state esaminate da moderatori umani, i quali hanno ritenuto il post non in violazione. Quando il contenuto è stato segnalato una quarta volta da un utente, un altro addetto al controllo umano ha ritenuto il post in violazione dello Standard della community in materia di favoreggiamento di incontri di natura sessuale e lo ha rimosso.

Nel secondo caso, il post è stato rilevato per due volte dai sistemi automatici di Meta, sottoposto al controllo umano e ritenuto non in violazione in entrambe le occasioni. In seguito, due utenti hanno segnalato il contenuto, ma entrambe le segnalazioni sono state chiuse in automatico senza un controllo umano e il contenuto è rimasto su Instagram. Da ultimo, i sistemi automatizzati di Meta hanno identificato per la terza volta il contenuto e lo hanno indirizzato al controllo umano. Le ultime due volte, i classificatori automatizzati in materia di immagini di nudo e attività sessuali di adulti di Meta hanno segnalato il contenuto, tuttavia il motivo di questi controlli ripetuti non è chiaro. L'ultimo addetto al controllo umano ha ritenuto il post in violazione dello Standard della community in materia di favoreggiamento di incontri di natura sessuale e lo ha rimosso.

I titolari dell'account hanno inviato un ricorso contro entrambe le decisioni di rimuovere i post di Meta e i contenuti sono stati controllati da addetti umani in entrambi i casi. Tuttavia, questi controlli non hanno portato al ripristino dei contenuti da parte di Meta. I titolari dell'account hanno dunque presentato ricorso al Board contro entrambe le decisioni di rimozione. Per la prima volta, il Board esamina questi due casi insieme al fine di identificare problemi simili nei processi e nelle normative sui contenuti di Meta e fornire soluzioni in merito.

Dopo che il Board ha selezionato questi post e richiesto a Meta di fornire le motivazioni alla base della sua decisione di rimuovere i contenuti, l'azienda ha riconosciuto le rimozioni come "errori di applicazione", ripristinando i post.

Nel valutare il motivo per cui questi casi rappresentano temi importanti, il Board ritiene pertinente l'elevato volume di commenti pubblici ricevuti in questi casi, molti dei quali provenienti da persone che si identificano come donne transgender, non binari o cis-gender, che hanno dichiarato di aver subito errori di applicazione e problemi analoghi a quelli riscontrati nei due casi in esame.

Il Board ha anche preso in considerazione come rilevante la ricerca in ambito accademico, anch'essa citata nei commenti pubblici, di Haimson et al, Witt, Suzor e Huggins, e due segnalazioni di Salty sui bias dell'algoritmo e sulla censura subita dalle community emarginate. Tali studi hanno rilevato che gli errori di applicazione dei due Standard della community discussi in questi casi colpiscono in modo sproporzionato le donne e la comunità LGBTQI+. Il coautore di uno di questi studi è un membro dell'Oversight Board.

3. Ambito e autorità dell'Oversight Board

Il Board ha l'autorità di controllare la decisione di Meta dando seguito al ricorso dell'utente il cui contenuto è stato rimosso (articolo 2, sezione 1 dell'Atto costitutivo; articolo 3, sezione 1 dello Statuto).

Il Board può confermare o revocare la decisione di Meta (articolo 3, sezione 5 dell'Atto costitutivo) e la sua decisione è vincolante per l'azienda (articolo 4 dell'Atto costitutivo). Meta deve anche valutare la fattibilità dell'applicazione della sua decisione nel caso di contenuti identici in un contesto parallelo (articolo 4 dell'Atto costitutivo). Le decisioni del Board possono comprendere dichiarazioni di carattere consultivo sulle normative, con raccomandazioni a cui Meta deve rispondere (articolo 3, sezione 4 dell'Atto costitutivo; articolo 4).

Quando il Board seleziona casi come quello in oggetto, in cui Meta riconosce di aver commesso un errore dopo che il Board ha identificato il caso, quest'ultimo rivede la decisione originale. Questa verifica serve a comprendere meglio i parametri normativi e i processi di moderazione dei contenuti che hanno contribuito a causare l'errore, nonché a risolvere i problemi che il Board identifica con le normative di riferimento. Il Board si propone inoltre di formulare raccomandazioni per ridurre la probabilità che si verifichino errori in futuro e per trattare gli utenti in modo più equo.

Quando il Board identifica casi che sollevano problemi simili, questi potrebbero essere tutti assegnati contemporaneamente a un gruppo che rifletterà in merito e verrà presa una decisione vincolante su ciascun contenuto.

4. Fonti di autorità

L'Oversight Board ha preso in considerazione standard e autorità seguenti:

I. Decisioni dell'Oversight Board:

• La decisione "Rivendicazione di parole in arabo" ( 2022-003-IG-UA). Il Board ha analizzato le criticità relative all'applicazione delle eccezioni normative e l'impatto sproporzionato di alcune scelte normative.
• La decisione "Cintura wampum" ( 2021-012-FB-UA). Il Board ha analizzato le criticità relative all'applicazione delle eccezioni normative e l'impatto sproporzionato di alcune scelte normative.
• "Sintomi del tumore al seno e nudo" ( 2020-004-IG-UA). Il Board ha analizzato le Linee guida della community di Instagram e ha raccomandato a Meta di chiarire l'esistenza di un'eccezione per la sensibilizzazione al tumore al seno.

II. Normative sui contenuti di Meta:

I casi in oggetto riguardano le Linee guida della community di Instagram e gli Standard della community di Facebook. Il Centro sulla trasparenza di Meta precisa che "Facebook e Instagram condividono le Normative sui contenuti. Ciò significa che se un contenuto risulta essere in violazione su Facebook, sarà in violazione anche su Instagram".

Favoreggiamento di incontri di natura sessuale

Le Linee guida della community di Instagram affermano che "l'offerta di servizi di natura sessuale" non è consentita. Questa disposizione rimanda poi allo Standard della community di Facebook in materia di favoreggiamento di incontri di natura sessuale.

Nei fondamenti della normativa sul favoreggiamento di incontri di natura sessuale, Meta afferma: "Tuttavia, poniamo un limite quando i contenuti facilitano, incoraggiano o coordinano incontri sessuali o servizi sessuali a pagamento tra adulti. Il nostro obiettivo è quello di scoraggiare le transazioni che potrebbero implicare traffici illeciti, coercizione e atti sessuali non consensuali. Inoltre, limitiamo il linguaggio sessualmente esplicito che può portare al favoreggiamento di incontri di natura sessuale poiché alcuni gruppi di pubblico all'interno della nostra community globale possono essere sensibili a questo tipo di contenuti e ciò potrebbe impedire alle persone di connettersi con i propri amici e con il resto della community".

Lo Standard della community di Facebook in materia di favoreggiamento di incontri di natura sessuale afferma che Meta vieta tale pratica, sia in forma implicita sia esplicita. Il favoreggiamento di incontri di natura sessuale, per essere considerato implicito, deve presentare due criteri, i quali devono essere entrambi riscontrati affinché il contenuto violi la normativa. La prima condizione viene definita come "offerta o sollecitazione", ovvero "Contenuti che offrono o sollecitano prestazioni sessuali in modo implicito o indiretto (di solito fornendo un metodo di contatto)." La seconda condizione viene definita come "elementi con allusioni sessuali", ovvero "Contenuti che veicolano le offerte o sollecitazioni di cui sopra mediante uno dei seguenti elementi sessualmente allusivi". Gli elementi in questione includono "gergo sessuale regionale" e "pose".

Immagini di nudo e atti sessuali di adulti

Le Linee guida della community di Instagram affermano che gli utenti devono: "Pubblicare foto e video adatti a un pubblico eterogeneo. Sappiamo che talvolta le persone desiderano condividere immagini di nudo artistiche o di natura creativa, ma per diversi motivi non è consentita la pubblicazione di contenuti di nudo su Instagram. Sono inclusi le foto, i video e altri contenuti creati con strumenti digitali che mostrano rapporti sessuali, genitali e primi piani di fondoschiena completamenti in vista. Sono comprese inoltre alcune foto con capezzoli femminili in vista, tranne che nel contesto di allattamento al seno, parto e momenti successivi al parto, situazioni correlate alla salute (ad es. in seguito a una mastectomia, sensibilizzazione sul cancro al seno o chirurgia di conferma di genere) o atto di protesta". Questa sezione rimanda alla normativa di Facebook su immagini di nudo e atti sessuali di adulti, la quale fornisce maggiori dettagli su queste regole.

Nell'ambito dei fondamenti della normativa dello Standard della community su immagini di nudo e atti sessuali di adulti, Meta spiega: "Limitiamo la visualizzazione di immagini di nudo o atti sessuali perché alcune persone della nostra community sono particolarmente sensibili a questo tipo di contenuti. Inoltre, rimuoviamo per impostazione predefinita immagini di carattere sessuale per impedire la condivisione di contenuti non consensuali o con minorenni".

La normativa di Facebook su immagini di nudo e atti sessuali di adulti afferma inoltre: "Non pubblicare: Capezzoli femminili in vista, tranne che nel contesto di allattamento al seno, parto e momenti successivi al parto, contesto medico o sanitario (ad es. in seguito a una mastectomia, sensibilizzazione sul cancro al seno o chirurgia di conferma di genere) o atto di protesta." Gli utenti possono anche pubblicare immagini di genitali se condivise in un "contesto medico o sanitario" (che include la chirurgia di conferma di genere), ma verrà applicata un'etichetta per avvisare le persone che il contenuto è sensibile. Esistono almeno 18 ulteriori linee guida interne relative ai capezzoli e a queste eccezioni.

III. Valori di Meta:

I valori di Meta sono indicati nell'introduzione agli Standard della community di Facebook, in cui il valore della "Libertà di espressione" è "essenziale":

L'obiettivo dei nostri Standard della community è sempre stato quello di creare un luogo in cui le persone possano esprimersi. [...] Vogliamo che le persone possano esprimersi apertamente sui temi che hanno a cuore, anche se alcune persone potrebbero essere in disaccordo o trovarli discutibili.

Meta limita la "Libertà di espressione" per tutelare quattro valori, due dei quali sono pertinenti in questo caso:

"Sicurezza": per noi è importante che Facebook sia un luogo sicuro. Le espressioni che minacciano le persone possono intimidire, escludere o limitare il diritto di espressione altrui, pertanto non sono consentite su Facebook.

"Dignità": crediamo che tutte le persone abbiano pari dignità e diritti. Ci aspettiamo che le persone rispettino la dignità altrui e non minaccino o denigrino gli altri.

IV. Standard internazionali per i diritti umani:

I principi guida delle Nazioni Unite (UNGP) su imprese e diritti umani, promossi nel 2011 dal Consiglio per i diritti umani delle Nazioni Unite, stabiliscono un quadro normativo volontario per le responsabilità delle aziende private in materia di diritti umani. Nel 2021, Meta ha annunciato la sua Normativa aziendale sui diritti umani, che ribadisce il suo impegno nel rispettare i diritti dell'uomo ai sensi dei principi guida delle Nazioni Unite. L'analisi del Board sulle responsabilità di Meta in materia di diritti umani per i casi in oggetto si è basata sui seguenti Standard per i diritti umani:

• Il diritto alla libertà di opinione ed espressione: articolo 19 della Convenzione internazionale sui diritti civili e politici (ICCPR), Commento generale n. 34, Comitato per i Diritti Umani (2011); Comunicazione 488/1992; Risoluzione 32/2, Consiglio per i diritti umani, 2016; i report del Relatore speciale delle Nazioni Unite sulla libertà di opinione ed espressione: A/HRC/38/35 (2018) e A/74/486 (2019).
• I diritti delle donne: articolo 2 e articolo 5, Convenzione sull'eliminazione di ogni forma di discriminazione della donna (CEDAW);
• Il diritto alla non discriminazione: articolo 2, par. 1 e articolo 26 (ICCPR) Nepomnyashchiy contro la Russia, Comitato per i Diritti Umani, 2018 ( CCPR/C/123/D/2318/2013).

5. Invii degli utenti

Nei loro invii relativi ai casi in oggetto, gli utenti dichiarano di ritenere che questi contenuti siano stati rimossi a causa della transfobia. Scrivono che se il Board dovesse affermare che questi contenuti devono rimanere sulla piattaforma, la decisione contribuirebbe a rendere Instagram uno spazio più ospitale per l'espressione LGBTQI+.

6. Invii di Meta

Nella motivazione della sua decisione, Meta ha spiegato che entrambe le rimozioni dei contenuti sono state frutto di errori di applicazione e che nessuno dei due post violava le sue normative in materia di favoreggiamento di incontri di natura sessuale. Meta afferma: "L'unica offerta o sollecitazione riguarda le donazioni per una raccolta fondi o la visita di un sito web per l'acquisto di magliette, nessuna delle quali è correlata al favoreggiamento di incontri di natura sessuale".

Meta afferma inoltre che nessuno dei due post viola il suo Standard su immagini di nudo e atti sessuali di adulti. Nella motivazione si afferma che le "linee guida interne per gli addetti al controllo si occupano specificamente di come agire sulle immagini di nudo non binarie, di genere neutro o transgender". In questi casi, i contenuti sono stati condivisi in un "contesto esplicitamente non binario o transgender, come evidenziato dall'argomento generale del contenuto (sottoporsi a un intervento di chirurgia mammaria) e dagli hashtag utilizzati". Meta conclude affermando che "anche se i capezzoli in questi casi fossero visibili e scoperti, non sussisterebbe una violazione della nostra normativa su immagini di nudo e atti sessuali di adulti". Meta ha altresì riconosciuto che in entrambe le immagini i capezzoli sono "completamente oscurati".

Dato il tempo trascorso dal momento in cui il contenuto è stato rimosso, Meta non ha potuto indicare al Board a quali normative rispondessero i vari sistemi automatizzati che hanno identificato il contenuto come potenzialmente in violazione. In un caso, Meta ha spiegato che il contenuto è stato messo in coda per il controllo due volte dai classificatori di immagini di nudo e atti sessuali di adulti. Meta non ha potuto fornire alcuna spiegazione sul perché gli addetti al controllo abbiano ritenuto che il contenuto violasse la normativa sul favoreggiamento di incontri di natura sessuale. Nella motivazione si riconosce che Meta "è consapevole del fatto che alcuni addetti al controllo dei contenuti potrebbero erroneamente rimuovere un contenuto come favoreggiamento di incontri di natura sessuale implicito (anche se non lo è) sulla base di un'applicazione troppo tecnica delle nostre linee guida interne per gli addetti al controllo".

Il Board ha posto a Meta 18 domande e Meta ha risposto a tutte.

7. Commenti pubblici

L'Oversight Board ha considerato 130 commenti pubblici relativi ai casi in oggetto. Novantasette commenti sono stati inviati dagli Stati Uniti e dal Canada, 19 dall'Europa, 10 dall'Asia Pacifica e dall'Oceania, uno dall'America Latina e dai Caraibi, uno dal Medio Oriente e dal Nord Africa, uno dall'Africa Sub-Sahariana e uno dall'Asia centrale e meridionale.

Gli invii riguardavano i seguenti temi: rimozione erronea di contenuti di utenti transessuali, non binari e donne; l'ingiustizia e l'ineguaglianza delle distinzioni basate sul genere per determinare quali forme di nudità sono consentite sulla piattaforma; la confusione relativa a quali contenuti sono consentiti dagli Standard della community in materia di immagini di nudo e atti sessuali di adulti e di favoreggiamento di incontri di natura sessuale; l'importanza dei social media come mezzo di espressione nelle società in cui i diritti LGBTQI+ sono minacciati.

Per leggere i commenti pubblici inviati per i casi in oggetto, clicca qui. Alcuni commenti inviati non sono stati inclusi in quanto contenevano informazioni personali relative a persone diverse da chi aveva inviato il commento.

8. Analisi dell'Oversight Board

Il Board ha cercato di valutare se questi post dovessero essere ripristinati in base a tre aspetti: le normative sui contenuti di Meta, i valori dell'azienda e le sue responsabilità in materia di diritti umani.

Il Board ha selezionato i casi in oggetto poiché la rimozione di contenuti non in violazione pubblicati da persone che si identificano con gruppi emarginati influisce sulla loro libertà di espressione. Questo aspetto è particolarmente significativo, in quanto Instagram può rappresentare per questi gruppi un forum importante in cui creare una community. I casi in oggetto dimostrano che gli errori di applicazione possono avere un impatto sproporzionato su alcuni gruppi e possono essere indice di problemi più ampi nella normativa e nell'applicazione che devono essere risolti.

8.1 Conformità con le normative sui contenuti di Meta

Il Board ritiene che questi post non violino alcuna normativa sui contenuti di Meta. Le Linee guida della community si applicano a Instagram, ma Meta dichiara altresì che "Facebook e Instagram condividono le normative sui contenuti. I contenuti che risultano essere in violazione su Facebook, saranno in violazione anche su Instagram". Gli Standard della community di Facebook forniscono maggiori dettagli e sono collegati alle Linee guida.

a. Favoreggiamento di incontri di natura sessuale

Lo Standard della community in materia di favoreggiamento di incontri di natura sessuale afferma che il favoreggiamento di incontri di natura sessuale implicito, per essere definito tale, richiede la presenza di due elementi:

• Contenuti che includono un'offerta o una sollecitazione implicita E
• Elementi sessualmente allusivi

Offerta o sollecitazione implicita.

Nello Standard della community sul favoreggiamento di incontri di natura sessuale, un'offerta o sollecitazione implicita viene definita come: "Contenuti che offrono o sollecitano prestazioni sessuali in modo implicito o indiretto (di solito fornendo un metodo di contatto)." Nelle "Domande note" di Meta, che forniscono linee guida interne aggiuntive agli addetti al controllo, la lista delle informazioni di contatto che fanno scattare la rimozione per offerta implicita include i link ai profili dei social media e "i link a siti web basati su abbonamenti (ad esempio, OnlyFans.com o Patreon.com)". Nei casi in oggetto, il contenuto forniva un link a una piattaforma in cui gli utenti organizzavano una raccolta fondi per finanziare un intervento chirurgico. Poiché i criteri interni di Meta che definiscono l'"offerta o la sollecitazione implicita" sono molto ampi, questo link rientrerebbe tecnicamente nella definizione di "offerta o sollecitazione" secondo le indicazioni per gli addetti al controllo di Meta, nonostante non violi lo standard destinato al pubblico, che indica che l'offerta o la sollecitazione devono essere di natura sessuale.

Elementi sessualmente allusivi.

Lo Standard della community fornisce una lista di elementi sessualmente allusivi che include le pose. Le Domande note forniscono una lista, che Meta considera esaustiva, di pose sessualmente allusive, tra cui "seni femminili nudi coperti da tecnologia digitale o da parti del corpo umano o da oggetti". In entrambe le immagini, il Board nota che sono presenti seni coperti da parti del corpo umano (mani) o da oggetti (nastro adesivo). Nei casi in oggetto, il contenuto dei post chiarisce che i soggetti della foto si identificano come transessuali e non binari, il che significa che i seni raffigurati appartengono a persone che non si identificano come donne. Il Board ritiene inoltre che il contenuto in oggetto non sia sessualmente allusivo. Tenuto conto di ciò, il secondo elemento necessario a determinare la violazione della normativa sul favoreggiamento di incontri di natura sessuale, ovvero un elemento sessualmente allusivo come una posa sessuale (che include un seno femminile coperto), non è stato riscontrato.

Dal momento che il secondo elemento non è stato riscontrato, i post non hanno violato questo standard. Anche la versione pubblica del primo elemento necessario a determinare la violazione della normativa (che prevede che l'offerta/sollecitazione debba essere di natura sessuale) dimostra che le immagini in oggetto non costituiscono un favoreggiamento di incontri di natura sessuale.

b. Immagini di nudo e atti sessuali di adulti

Lo Standard della community in materia di immagini di nudo e atti sessuali di adulti afferma che gli utenti non devono pubblicare immagini di "capezzoli femminili in vista, tranne che nel contesto di allattamento al seno, parto e momenti successivi al parto, contesto medico o sanitario (ad es. in seguito a una mastectomia, sensibilizzazione sul cancro al seno o chirurgia di conferma di genere) o atto di protesta." Inoltre, le Domande note di Meta affermano che gli addetti al controllo devono consentire "immagini di capezzoli se condivise in un contesto esplicitamente transgender, non binario o neutro dal punto di vista del genere (ad esempio, se un utente indica tale identità di genere), indipendentemente dalle dimensioni o dalla forma del seno". Nei casi in oggetto, nessuna delle due immagini viola lo Standard della community.

Innanzitutto, in nessuna delle immagini sono presenti capezzoli scoperti. In entrambe le immagini, le persone hanno coperto i capezzoli con le mani o con del nastro adesivo. In secondo luogo, se i capezzoli fossero stati scoperti, il Board sottolinea che le immagini sono state condivise con un testo di accompagnamento che chiariva l'identificazione non binaria delle persone in questione. Pertanto, questa normativa non è stata violata.

8.2 Conformità con i valori di Meta

Il Board ritiene che la decisione originaria di rimuovere i post in oggetto non fosse coerente con i valori di Meta della "Libertà di espressione" e della "Dignità" e non favorisse il valore della "Sicurezza".

Gli errori di applicazione che interessano in modo sproporzionato i gruppi che subiscono discriminazioni rappresentano una seria minaccia alla "Libertà di espressione" e alla "Dignità". Sebbene le argomentazioni di Meta sui diritti umani si riferiscano alla "Sicurezza", in particolare alla condivisione di immagini non consensuali, al traffico sessuale e all'abuso di minori, il Board ritiene che queste rimozioni non abbiano favorito la "Sicurezza".

8.3 Conformità con le responsabilità di Meta in materia di diritti umani

Libertà di espressione (articolo 19 dell'ICCPR)

L'articolo 19 dell'ICCPR fornisce un'ampia protezione alla libertà di espressione, e contempla anche il dibattito sui diritti umani e su espressioni che le persone possono considerare offensive ( Commento generale n. 34, paragrafo 11). Il diritto alla libertà di espressione è garantito indistintamente a tutte le persone senza discriminazioni di "sesso" o di "qualsiasi altra condizione" ( ICCPR, articolo 2, paragrafo 1). In casi quali Nepomnyashchiy contro la Russia ( CCPR/C/123/D/2318/2013), il Comitato per i Diritti Umani ha confermato che il divieto di discriminazione include la discriminazione sulla base dell'identità di genere.

Il contenuto si riferisce a questioni sociali importanti. Per questi utenti, Instagram rappresenta un forum di discussione e nel quale rappresentare la propria espressione di genere, offrendo un'occasione per creare connessioni e ottenere sostegno. I contenuti possono anche influenzare direttamente la capacità degli utenti di sottoporsi a un intervento chirurgico di conferma di genere, in quanto entrambi i post spiegano che una persona si sottoporrà a un intervento di chirurgia mammaria e condividono una raccolta fondi per sostenere i costi dell'intervento.

L'articolo 19 prevede che, quando le limitazioni alla libertà di espressione sono imposte da uno Stato, devono soddisfare i requisiti di legalità, fine legittimo, necessità e proporzionalità ( ICCPR, articolo 19, paragrafo 3). Sulla base del quadro tracciato dagli UNGP, il Relatore speciale delle Nazioni Unite sulla libertà di opinione ed espressione ha invitato le aziende di social media a verificare che le proprie regole in materia di contenuti siano guidate dai requisiti dell'articolo 19, paragrafo 3, ICCPR ( A/HRC/38/35, paragrafi 45 e 70). Il Board ha adottato questo framework per analizzare le normative e la loro applicazione da parte di Meta.

Nel caso in oggetto, il Board ritiene che Meta non abbia adempiuto le sue responsabilità di creare e applicare normative in linea con questi standard. I criteri interni applicati per rimuovere i contenuti ai sensi della normativa in materia di favoreggiamento di incontri di natura sessuale sono più ampi rispetto ai fondamenti dichiarati della normativa, con conseguente applicazione eccessiva che Meta stessa ha riconosciuto. Lo Standard della community in materia di immagini di nudo e atti sessuali di adulti produce conseguenze sproporzionate sulle donne e sugli utenti LGBTQI+ e si basa su percezioni soggettive e speculative del sesso e del genere, praticabili quando la moderazione dei contenuti viene effettuata su vasta scala. Il Board analizza questi limiti e raccomanda a Meta di avviare un processo completo per risolvere questi problemi.

I. Legalità (chiarezza e accessibilità delle norme)

Le regole che limitano la libertà di espressione devono essere chiare e accessibili, in modo che sia i responsabili della loro applicazione che gli utenti sappiano cosa è consentito. Entrambi gli Standard della community presi in considerazione nei casi in oggetto non soddisfano questo requisito.

a. Favoreggiamento di incontri di natura sessuale

Il Board ritiene che lo Standard della community sul favoreggiamento di incontri di natura sessuale contenga criteri troppo ampi nelle linee guida interne fornite agli addetti al controllo. Tali indicazioni troppo generiche contribuiscono all'applicazione eccessiva da parte degli addetti al controllo e alla confusione degli utenti. Meta ha riconosciuto questa mancanza, in quanto ha spiegato al Board che l'applicazione delle sue linee guida interne potrebbe "portare a un'applicazione eccessiva" nei casi in cui i criteri per definire un favoreggiamento di incontri di natura sessuale implicito vengono riscontrati, ma è altrettanto chiaro che non vi era "alcuna intenzione di sollecitare atti sessuali".

In entrambi gli elementi di questa normativa emerge una certa confusione. Per quanto riguarda la componente di "offerta o sollecitazione" citata nello Standard della community sul favoreggiamento di incontri di natura sessuale, le regole rivolte al pubblico fanno riferimento a un "metodo di contatto" adottato da chi effettua il favoreggiamento di incontri di natura sessuale. Tuttavia, nelle linee guida per i moderatori, le Domande note, si legge che un "metodo di contatto" per un'offerta o una sollecitazione implicita include i link ai profili dei social media e i link a siti web di terzi basati su abbonamenti, come Patreon. Non viene chiarito agli utenti che qualsiasi link a un altro profilo di social media, a una piattaforma di pagamento di terzi o a un link di raccolta fondi (come Patreon o GoFundMe) potrebbe significare che il loro post venga considerato come una forma di favoreggiamento di incontri di natura sessuale. Questa ambiguità traspare dai numerosi commenti pubblici che il Board ha ricevuto da persone che non capivano perché i contenuti che includevano tali link di terzi venissero rimossi o portassero al ban dei loro account.

Il secondo criterio, che prevede un elemento di allusione sessuale, è ampio e vago, oltre che incoerente con la normativa di Meta su immagini di nudo e atti sessuali di adulti. Lo Standard della community rivolto al pubblico include l'espressione "pose sessualmente allusive" come elemento sessualmente allusivo. Le Domande note forniscono poi una lista dettagliata di "pose sessualmente allusive", che includono il topless e la copertura dei seni con mani o oggetti. È probabile che per gli utenti non sia chiaro che qualsiasi immagine con i seni coperti è considerata una posa sessualmente allusiva. Questa ambiguità è aggravata dal fatto che la normativa sulle immagini di nudo di adulti consente foto in topless in cui i capezzoli sono coperti. In questo senso, i contenuti considerati di natura sessuale secondo una normativa non sono considerati di natura sessuale secondo un'altra normativa.

Oltre all'incertezza provocata negli utenti, il fatto che gli addetti al controllo abbiano ripetutamente tratto conclusioni diverse su questi contenuti suggerisce una mancanza di chiarezza per i moderatori su quali contenuti debbano essere considerati come favoreggiamento di incontri di natura sessuale.

Come riconosce Meta, l'applicazione delle sue linee guida interne sui due elementi di favoreggiamento di incontri di natura sessuale implicito comporta la rimozione dei contenuti che non sollecitano atti sessuali. Sul lungo termine, probabilmente le rimozioni sbagliate saranno risolte al meglio modificando l'ambito di applicazione di questa normativa. Sul breve termine, tuttavia, il Board raccomanda a Meta di rivedere le sue linee guida interne per garantire che i criteri corrispondano alle regole rivolte al pubblico e richiede che vi sia un collegamento più chiaro tra l'"offerta o la sollecitazione" e l'"elemento sessualmente allusivo". Meta deve inoltre fornire agli utenti maggiori spiegazioni su ciò che costituisce un'"offerta o una sollecitazione" di atti di natura sessuale e su ciò che costituisce una posa sessualmente allusiva nell'ambito degli Standard della community rivolti al pubblico.

b. Immagini di nudo e atti sessuali di adulti

Lo Standard della community in materia di immagini di nudo e atti sessuali di adulti si fonda su distinzioni di sesso e genere difficili da implementare e contiene eccezioni poco definite. Alcune regole della normativa possono creare confusione fra gli utenti, che non riescono a definire cosa è consentito. Inoltre generano confusione anche per i moderatori, che devono effettuare valutazioni soggettive basate su informazioni inevitabilmente incomplete e applicare in tempi rapidi una regola che presenta numerosi fattori, eccezioni e presunzioni.

Nonostante l'utilizzo di un linguaggio incentrato su parti del corpo specifiche anziché sul genere (e la possibilità offerta agli utenti di scegliere tra un'ampia gamma di identità di genere sul proprio profilo), la maggior parte delle regole di Meta non spiega in che modo l'azienda gestisce i contenuti che ritraggono persone intersessuali, transessuali o non binarie. Ad esempio, la normativa fa riferimento a "genitali maschili e femminili", "seni femminili" e "capezzoli femminili", ma non è chiaro come queste descrizioni vengano applicate alle persone con corpi e identità che potrebbero non essere in linea con queste definizioni. Molte persone transessuali e non binarie hanno inviato commenti pubblici al Board affermando che gli utenti non sanno se i loro contenuti vengono valutati e categorizzati in base alla loro identità di genere, al genere che è stato loro assegnato alla nascita o a caratteristiche del loro aspetto fisico.

Le regole attuali richiedono agli addetti al controllo umano di valutare rapidamente sia il genere di un utente, in quanto questa normativa si applica ai "capezzoli femminili", sia la sua identità di genere, in quanto sono previste eccezioni in base al fatto che la persona raffigurata sia non binaria, di genere neutro, transgender o che stia pubblicando i suoi contenuti nell'ambito di un intervento chirurgico di conferma di genere. La percezione del sesso e del genere richiede l'interpretazione di indizi contestuali e dell'aspetto esteriore, entrambe determinazioni soggettive che favoriscono la nascita di errori.

Questo tipo di approccio viene ulteriormente complicato dall'applicazione del "principio di femminile per impostazione predefinita" di Meta, in base al quale le normative più restrittive applicabili a immagini di nudo femminile (rispetto a quelle maschili) vengono applicate in caso di dubbio. Le Domande note affermano che nell'eventualità di un contesto non chiaro e nel caso in cui la persona nell'immagine "si presenti come una donna O sia presente un contesto transgender maschio-femmina, allora si deve considerare automaticamente l'immagine come di nudo femminile e applicare la normativa corrispondente".

Il numero di restrizioni ed eccezioni alle regole sui capezzoli percepiti come femminili è ampio e genera ambiguità. Le eccezioni spaziano da atti di protesta a immagini di parto e allattamento, fino a contesti medici e sanitari, tra cui immagini che illustrano le conseguenze di una mastectomia e la sensibilizzazione sul cancro al senso. Spesso tali eccezioni non vengono precisate o sono poco definite. Anche la lista delle eccezioni si è ampliata in modo sostanziale nel corso del tempo ed è altamente probabile che continui a crescere man mano che le forme di espressione si evolvono. In materia di seni femminili, la normativa di Meta su immagini di nudo e atti sessuali di adulti presuppone che tali rappresentazioni costituiscano immagini di natura sessuale. Tuttavia, la lista in costante espansione di eccezioni dimostra che, in molte circostanze riconosciute dalla normativa, le immagini di seni femminili non sono sessualmente allusive.

Anche nell'ambito di ciascuna eccezione emergono numerose questioni. Ad esempio, l'eccezione relativa alla chirurgia di conferma di genere è di particolare importanza per gli utenti transessuali e non-binari, ma nelle regole rivolte al pubblico Meta non spiega la portata dell'eccezione relativa alla chirurgia di conferma di genere. A ciò sono conseguiti numerosi commenti pubblici che esprimono confusione sul fatto che i contenuti consentiti dall'eccezione possano includere foto prima dell'intervento (per creare un'immagine prima e dopo) e immagini di donne transessuali che sono state sottoposte a un intervento di mastoplastica additiva. Dalle linee guida interne e dalle Domande note si evince che questa eccezione presenta più restrizioni di quanto le linee guida rivolte al pubblico possano far intendere.

Le normative di Meta si basano su distinzioni binarie tra maschio e femmina, il che comporta delle criticità quando Meta cerca di formulare l'eccezione relativa alla chirurgia di conferma di genere. Nelle risposte al Board, Meta ha spiegato che l'eccezione relativa alla chirurgia di conferma di genere consente "capezzoli femminili scoperti prima che l'individuo si sottoponga a un intervento chirurgico di rimozione del seno, quando il contenuto è condiviso in un contesto esplicitamente transgender femminile-maschile, non binario o di genere neutro". Le regole inoltre prevedono che "I capezzoli delle donne transgender maschio-femmina che hanno subito una mastoplastica additiva (chirurgia mammaria) sono proibiti, a meno che siano presenti cicatrici sopra gli stessi".

Le linee guida interne relative a cicatrici chirurgiche e capezzoli sono ancora più intricate. Le regole in materia di mastectomia, ad esempio, consentono "Casi in cui i capezzoli sono ricostruiti da altri tessuti o sono stati disegnati o tatuati" e "casi in cui almeno un seno rimosso chirurgicamente è presente, anche se l'altro capezzolo nudo femminile è visibile". In modo ancora più confuso, le regole affermano che "Per le mastectomie, le cicatrici includono la rappresentazione dell'area in cui si trovava il tessuto mammario rimosso. Non occorre che siano visibili le effettive cicatrici chirurgiche".

È probabile che gli addetti al controllo incontrino difficoltà nell'applicazione di regole che richiedono di valutare rapidamente le caratteristiche specifiche del genere della persona raffigurata per decidere se applicare le regole sui capezzoli femminili, nonché il genere della persona per stabilire l'eventuale applicazione di determinate eccezioni, e poi di prendere in considerazione se il contenuto raffigura le fasi precedenti o successive a un intervento chirurgico, la procedura chirurgica specifica e l'estensione e la natura delle cicatrici visibili per determinare l'applicazione di altre eccezioni. La stessa immagine di capezzoli femminili sarebbe vietata se pubblicata da una donna cisgender, ma consentita se pubblicata da una persona che si indentifica come non binaria. Il Board rileva inoltre la presenza di ulteriori eccezioni correlate ai capezzoli, basate su contesti di protesta, parto e momenti successivi al parto e allattamento, non esaminate in questa sede, ma che devono essere valutate e che probabilmente prevedono ulteriori criteri interni.

Considerata l'importanza dei diritti di libertà di espressione nell'ambito di genere, salute fisica, parto e genitorialità, l'attuale e complesso groviglio di eccezioni crea un'indebita incertezza per gli utenti e può potenzialmente dare luogo ad applicazioni errate delle regole, come evidenziato dal caso in esame. La mancanza di chiarezza per gli utenti e i moderatori che caratterizza questa normativa rende lo standard inapplicabile. Come approfondito più avanti, il Board ritiene che Meta debba adottare un approccio al nudo di adulti che garantisca a tutte le persone un trattamento non discriminatorio basato su identità di genere o sessuale.

II. Fine legittimo

L'articolo 19 dell'ICCPR stabilisce che quando gli Stati limitano la libertà di espressione, possono farlo solo per perseguire finalità legittime, quali: "il rispetto dei diritti o della reputazione altrui [...] [e] la protezione della sicurezza nazionale o dell'ordine pubblico o della salute e della morale pubblica". Questa decisione esamina le motivazioni di Meta per limitare la libertà di espressione nelle sue normative alla luce di questi standard.

a. Favoreggiamento di incontri di natura sessuale

Nella sua normativa in materia di favoreggiamento di incontri di natura sessuale, Meta afferma che "l'obiettivo è scoraggiare l'uso di Facebook o Instagram da parte degli utenti per 'transazioni che potrebbero implicare traffici illeciti, coercizione e atti sessuali'" che potrebbero verificarsi al di fuori della piattaforma. Si tratta di un esempio di protezione dei diritti altrui, che costituisce un fine legittimo.

b. Immagini di nudo e atti sessuali di adulti

Meta ha fornito diverse motivazioni per determinati aspetti della sua normativa su immagini di nudo e atti sessuali di adulti, fra cui la prevenzione della diffusione di contenuti non consensuali, la protezione dei minori nei casi in cui l'età della persona non sia chiara e il fatto che "alcune persone della nostra community potrebbero essere particolarmente sensibili a questo tipo di contenuti". Meta ha inoltre fornito una spiegazione dei suoi principi generali in materia di nudo al Board, secondo cui "Nel formulare la sua normativa, Meta ha preso in considerazione (1) la natura privata o sensibile delle immagini; (2) l'eventuale consenso all'acquisizione e condivisione delle immagini di nudo; (3) il rischio di sfruttamento sessuale; (4) l'eventualità che la diffusione di tali immagini possa portare a molestie al di fuori della piattaforma, in particolare in Paesi in cui immagini di questo tipo potrebbero essere offensive a livello culturale".

La maggior parte di questi obiettivi è in linea con la protezione dei diritti altrui. Tuttavia, la motivazione di Meta di proteggere "la sensibilità della community" merita un'ulteriore esame. Questa motivazione rischia di coincidere con l'obiettivo legittimo della "morale pubblica". Detto ciò, il Board sottolinea che l'obiettivo di proteggere la "morale pubblica" è stato talvolta indebitamente invocato dai governi che esercitano un controllo sulla libertà di espressione per violare i diritti umani, in particolare quelli dei membri di minoranze e gruppi vulnerabili. Il Comitato per i Diritti Umani ha sottolineato che "il concetto di morale è frutto di svariate tradizioni sociali, filosofiche e religiose; pertanto, le limitazioni [...] finalizzate alla protezione della morale devono basarsi su principi non derivanti direttamente da una singola tradizione" (Comitato per i Diritti Umani, Commento generale n. 34).

Sebbene il diritto in materia di diritti umani riconosca che la morale pubblica può costituire un fine legittimo per la limitazione della libertà di espressione per gli Stati e che le restrizioni al nudo pubblico esistono in tutto il mondo, Meta sottolinea obiettivi diversi dalla "sensibilità della community" nello specifico contesto del caso in esame. Meta ha affermato che "[s]ebbene [la sua] normativa in materia di nudo sia coerente con la protezione della morale pubblica [...questa] non si basa in definitiva su questo obiettivo poiché gli standard morali relativi al nudo variano notevolmente tra le varie culture e non sarebbero attuabili su vasta scala". Ad esempio, in molte comunità e parti del mondo, le raffigurazioni di seni scoperti di persone transgender e non binarie sarebbero considerate contrarie alla sensibilità della comunità. Eppure Meta non limita tale forma di espressione. Inoltre, il Board nutre perplessità circa le ricorrenti e note limitazioni sproporzionate alla libertà di espressione subite da donne, persone transgender e non binarie a causa delle normative di Meta (si veda più avanti). Per questi motivi, il Board si concentra su altre finalità, oltre alla "sensibilità della community", presentate da Meta nell'esame delle sue responsabilità in materia di diritti umani.

Va sottolineato che alcune motivazioni fornite da Meta per la sua normativa in materia di nudo denotano il presupposto della natura sessualmente allusiva del seno delle donne. Il Board ha ricevuto commenti pubblici da molti utenti che hanno espresso perplessità circa la presunta sessualizzazione dei corpi di donne e persone trans e non binarie, nonostante non trovi applicazione un'analoga presunzione di sessualizzazione nei confronti delle immagini di uomini cisgender (vd, ad es., il commento pubblico 10624 inviato da InternetLab).

Il Board ha ricevuto molti commenti pubblici in merito al caso in esame attraverso i suoi normali processi di raccolta di informazioni sui casi. In qualità di organo deputato a offrire una garanzia di responsabilità a base utenti e stakeholder principali di Meta, il Board prende seriamente in considerazione i commenti all'interno delle sue deliberazioni. Analogamente a quanto avviene in tutti i casi, riconosciamo che questi commenti potrebbero non riflettere l'opinione globale. Il Board apprezza le esperienze e le conoscenze condivise tramite i commenti e continua a impegnarsi per coinvolgere comunità che attualmente potrebbero non prendere parte a questo processo.

Infine, il Board riconosce che Meta potrebbe legittimamente prendere in considerazione l'importanza di prevenire determinati pericoli che potrebbero avere un impatto di genere. Come osservato dal Relatore speciale delle Nazioni Unite sulla violenza contro le donne, è "importante riconoscere che Internet viene usato in un contesto più ampio di discriminazione strutturale, diffusa, sistemica e di violenza di genere contro donne e ragazze" (A/HRC/38/47). Inoltre, i sondaggi indicano che "il 90% delle vittime di distribuzione digitale non consensuale di immagini intime sono donne". (A/HRC/38/47). Meta dovrebbe cercare di limitare i pericoli legati al genere, nell'ambito delle applicazioni eccessive e inadeguate dei divieti in materia di nudo.

III. Necessità e proporzionalità

Il Board ritiene che le normative di Meta, così come formulate e applicate, comprendano più contenuti del necessario. Nessuna delle due normative è commisurata ai problemi trattati.

a. Favoreggiamento di incontri di natura sessuale

Le definizioni di "offerta o sollecitazione" e pose sessualmente allusive della normativa in materia di favoreggiamento di incontri di natura sessuale sono troppo ampie e destinate a comprendere una quantità eccessiva di contenuti non correlati al favoreggiamento di incontri di natura sessuale. Meta riconosce il rischio di applicazioni errate, affermando di "essere consapevole del fatto che alcuni addetti al controllo dei contenuti potrebbero erroneamente rimuovere un contenuto come favoreggiamento di incontri di natura sessuale implicito (anche se non lo è) sulla base di un'applicazione troppo tecnica delle [proprie] linee guida interne per gli addetti al controllo". Meta prosegue:

Attualmente, sulla base delle nostre Domande note, consideriamo la condivisione, la menzione o l'indicazione di informazioni di contatto di identità social o digitali come offerta o sollecitazione implicita di favoreggiamento di incontri di natura sessuale. [...] Tuttavia, l'applicazione di questa indicazione può causare applicazioni eccessive nel caso in cui, ad esempio, un addetto al controllo umano ritenga come allusiva a livello sessuale la posa di un modello o di una modella (soddisfa il criterio di "elemento sessualmente allusivo") che tagga il fotografo o la fotografa per attribuire il merito della foto (soddisfa il criterio di "offerta o sollecitazione"). Questo tipo di contenuti non è in violazione poiché non sussiste l'intenzione di sollecitare attività sessuali, ma potrebbe comunque essere rimosso (in contrasto alla normativa) poiché soddisfa i due criteri di cui sopra.

L'UNESCO, in una relazione relativa all'educazione nello spazio digitale, tratta il rischio di applicazioni eccessive erronee, affermando che "le rigide normative in materia di condivisione di immagini esplicite comportano, in alcuni casi, la rimozione errata da parte dei moderatori di materiali educativi pubblicati online a supporto di formazione su corpo o relazioni sessuali come contenuti inappropriati ed espliciti, che vengono quindi rimossi dalle piattaforme web generiche". Il Board sottolinea inoltre i molti commenti pubblici ricevuti in merito alle rimozioni erronee ai sensi dello Standard in esame. Ad esempio, ACON (una ONG educativa australiana che si occupa di sensibilizzazione sull'HIV) dichiara che alcuni contenuti che promuovevano workshop formativi e messaggi di prevenzione contro l'HIV in modo positivo dal punto di vista sessuale sono stati rimossi per favoreggiamento di incontri di natura sessuale. Ciò ha spinto la ONG a preferire nei suoi contenuti un linguaggio volto a evitare le rimozioni di Meta anziché a raggiungere al meglio le sue comunità di riferimento (commento pubblico 10550). Questo aspetto è stato ribadito da Joanna Williams, una ricercatrice che ha scoperto che 9 organizzazioni in materia di salute sessuale su 12 da lei intervistate hanno segnalato di aver risentito negativamente della moderazione di Meta in questo ambito (commento pubblico 10613).

b. Immagini di nudo e atti sessuali di adulti

Oltre alle sfide nella definizione di regole applicabili e modulabili basate sulla percezione dell'identità di genere e sessuale di Meta, come esposto in precedenza, il Board ritiene inoltre che le normative di Meta sulle pose di nudo di adulti limitino in maniera sproporzionata alcuni tipi di contenuti e forme di espressione. Le normative impongono la rimozione dei contenuti, laddove misure meno restrittive potrebbero raggiungere gli obiettivi indicati dalla normativa.

Meta fa già ricorso a una serie di azioni di applicazione diverse dalla rimozione, fra cui l'applicazione di schermate di avviso e la limitazione in base all'età dei contenuti così da consentirne la visualizzazione solo agli utenti maggiorenni. Inoltre, l'azienda si avvale già di queste misure all'interno della sua normativa in materia di immagini di nudo e atti sessuali di adulti, anche per le raffigurazioni artistiche dell'attività sessuale. Meta potrebbe anche decidere di ricorrere a moderatori automatizzati e umani per determinare in modo più preciso e contestuale in quali casi il contesto del nudo sia effettivamente di natura sessuale, indipendentemente dal genere del corpo raffigurato. Meta potrebbe altresì adottare una vasta gamma di interventi normativi per limitare la visibilità dei contenuti di nudo agli utenti che non desiderano vederli, offrendo loro un maggiore controllo. Meta dispone inoltre di una serie di normative apposite sui temi già trattati dalla normativa sulle immagini di nudo (ad es., la normativa sullo sfruttamento sessuale di adulti e le normative su sfruttamento sessuale, abusi e nudi di minori) che potrebbero essere rinforzate.

Il Board rileva che le pratiche di applicazione di Meta comportano, secondo quanto segnalato, un elevato numero di falsi positivi o di rimozioni errate di contenuti non in violazione. Secondo l'ultimo report sull'applicazione degli Standard della community di Meta relativo a Instagram ( aprile-giugno 2022), il 21% delle rimozioni in materia di immagini di nudo e atti sessuali di adulti oggetto di ricorso si è concluso con il ripristino dei contenuti. Il Board ha ricevuto inoltre un elevato numero di commenti pubblici in merito all'errata rimozione di contenuti ai sensi della normativa sulle immagini di nudo di adulti.

Normativa contro le discriminazioni

È comprovato che le normative di Meta e l'applicazione della normativa in materia di immagini di nudo e atti sessuali di adulti possano produrre effetti sproporzionati, specie nei confronti di donne e persone LGBTQI+. Queste ripercussioni emergono sia nella normativa sia nell'applicazione e limitano le possibilità per i gruppi di esprimersi, opporsi ai pregiudizi e aumentare la loro visibilità nella società.

Nonostante il caso in esame riguardi utenti trans e non binari, gli errori di applicazione che emergono derivano da una normativa sottostante che ha ripercussioni anche sulle donne, specie poiché Meta adotta l'approccio del principio di "femminile per impostazione predefinita" per i contenuti di nudo. Pertanto, questa sezione esamina il modo in cui le normative di Meta influiscono su donne e persone LGBTQI+. L'elevato volume di invii pubblici nel caso in esame offre molti esempi delle ripercussioni di queste normative.

Il diritto alla libertà di espressione è garantito indistintamente a tutte le persone senza discriminazioni di "sesso" o di "qualsiasi altra condizione" (articolo 2, paragrafo 1, ICCPR). Sono inclusi l'orientamento sessuale e l'identità di genere ( Toonen contro l'Australia (1994); A/HRC/19/41, paragrafo 7). Secondo la giurisprudenza del Comitato per i Diritti Umani, "non tutte le differenziazioni basate sui presupposti di cui all'articolo 26 del Patto costituiscono discriminazione, fintantoché siano basate su criteri ragionevoli e oggettivi e perseguano uno scopo legittimo ai sensi del Patto". Nepomnyashchiy contro la Russia, Comitato per i Diritti Umani, 2018, par. 7.5 (CCPR/C/123/D/2318/2013).

La Convenzione sull'eliminazione di ogni forma di discriminazione della donna (CEDAW) proibisce "qualsiasi forma di discriminazione, emarginazione o limitazione basata sul sesso che abbia l'effetto o lo scopo di compromettere o annullare il riconoscimento, il godimento o l'esercizio da parte delle donne, [...] in condizione di parità fra uomini e donne, dei diritti umani e delle libertà fondamentali nel contesto politico, economico, sociale, culturale, civile o in qualsiasi altro campo" (CEDAW, art. 1). Il Board rileva che gli organismi internazionali per i diritti umani non hanno affrontato le implicazioni per i diritti umani del divieto o dell'autorizzazione alle immagini di nudo di adulti consensuali e i relativi effetti discriminatori.

Ai sensi degli UNGP, "le aziende devono prestare particolare attenzione a eventuali impatti particolari sui diritti umani di individui appartenenti a gruppi o popolazioni che possono essere a maggior rischio di vulnerabilità o emarginazione" (principi 18 e 20 degli UNGP). Il Relatore speciale sulla libertà di espressione ha esortato le aziende tecnologiche a "esaminare attivamente e tenere conto delle perplessità ascrivibili alle comunità storicamente a rischio di censura e discriminazione" ( A/HRC/38/35, par. 48). Il Gruppo di lavoro delle Nazioni Unite su aziende e diritti umani ha inoltre raccomandato alle aziende tecnologiche di verificare che "l'intelligenza artificiale e l'automazione non pregiudichino in modo sproporzionato i diritti umani delle donne" ( Gender Dimensions Handbook).

Considerata l'importanza delle piattaforme di social media come spazio di espressione per le vittime di discriminazione, il Board ha costantemente espresso nei confronti di Meta l'aspettativa di una maggiore sensibilità nei confronti della possibile rimozione erronea di contenuti pubblicati da, relativi a o riguardanti questi gruppi. Nella decisione "Cintura wampum" ( 2021-012-FB-UA), relativa all'espressione artistica di persone indigene, il Board ha osservato che non è sufficiente valutare complessivamente in che modo Meta abbia applicato la normativa di Facebook sull'incitamento all'odio sull'intera base utenti , ma che occorre prendere in considerazione gli effetti su specifici gruppi. Analogamente, nel caso "Rivendicazione di parole in arabo", il Board ha confermato che "l'eccessiva moderazione delle opinioni di utenti facenti parte di gruppi minoritari perseguitati rappresenta una grave minaccia alla loro libertà di espressione", oltre a esprimere perplessità sulle modalità con cui vengono applicate alle normative di Meta (in questo caso, la normativa sull'incitamento all'odio) le eccezioni relative alla libertà di espressione dei gruppi emarginati ( 2022-003-IG-UA).

Le scelte di Meta producono all'interno delle sue piattaforme disuguaglianze nelle opportunità di espressione per le donne, le persone trans e non binarie. L'attuale normativa di Meta in materia di immagini di nudo e atti sessuali di adulti considera i seni e i capezzoli femminili come elementi di natura intrinsecamente sessuale, e pertanto soggetti a divieti, salvo nel contesto di interventi chirurgici subiti o previsti o dell'allattamento al seno. Anziché adottare misure volte a garantire che la censura non si abbatta in maniera sproporzionata su questi gruppi, la normativa di Meta accentua e continua a perpetrare tali ripercussioni nei confronti dei gruppi in questione.

I casi in esame portano alla luce le ripercussioni sproporzionate delle scelte normative di Meta nei confronti delle persone che si identificano come LGBTQI+, dal momento che il contenuto è stato rilevato più volte dai classificatori in materia di immagini di nudo e atti sessuali di adulti pur non rientrando nell'ambito di applicazione della normativa. Il Board ritiene che i casi in esame siano indicativi di problemi più ampi. Ad esempio, secondo lo studio di Haimson et al., le persone transgender segnalano elevati tassi di rimozione di contenuti ed eliminazione di account, di solito a causa di contenuti di carattere sessuale e di nudo.

Inoltre, l'applicazione delle scelte normative di Meta incide in modo sproporzionato sulle donne. Secondo lo studio di Witt, Suzor e Higgins, il 22% delle immagini di corpi femminili rimosso da Instagram è risultato un evidente falso positivo. Il diverso impatto sui corpi delle donne è stato anche segnalato nei commenti pubblici (vd. ad esempio, il commento pubblico 10616 di Dr. Zahra Stardust).

Questa posizione predefinita sul nudo produce inoltre gravi ripercussioni nelle situazioni in cui le donne sono tradizionalmente a petto nudo. Il Relatore speciale sulla promozione e protezione del diritto alla libertà di opinione e di espressione ha esortato le aziende che interagiscono con gruppi indigenti nel mondo a "sviluppare indicatori migliori per tenere conto del contesto culturale e artistico nella valutazione di contenuti con immagini di nudo" (par. 54, A/HRC/38/35).

Oltre alle perplessità in materia di non discriminazione legate alla normativa, i casi in esame hanno sollevato anche preoccupazioni circa la non discriminazione legate all'applicazione. Meta dovrebbe tenere presente che i contenuti di utenti che si identificano in gruppi emarginati sono a maggior rischio di segnalazioni ricorrenti o malevole, dove gli utenti segnalano contenuti non in violazione allo scopo di opprimere o molestare altri utenti. Questi problemi sono stati segnalati anche da diversi commenti pubblici (vd., ad esempio, il commento pubblico 10596 di GLAAD e il commento pubblico 10628 della fondazione Human Rights Campaign).

I casi in esame hanno dimostrato che più segnalazioni, alle quali conseguono più controlli, possono accrescere la probabilità di rimozioni errate. Infatti, in questo caso, la maggior parte delle segnalazioni degli utenti è sfociata in controlli umani che hanno ritenuto il contenuto non in violazione. Tuttavia, le segnalazioni sono continuate fino a quando gli addetti al controllo non hanno erroneamente stabilito che il contenuto fosse in violazione, rimuovendolo.

Meta dovrebbe sviluppare e implementare normative che rispondano a tutte queste criticità. Ciò potrebbe comprendere normative più omogenee in relazione al nudo, applicate senza discriminazioni basate su identità di genere o sessuale, oltre a valutazioni più contestualizzate sui contenuti di natura sessuale, purché tali valutazioni non si basino su criteri discriminatori.

Il Board rileva inoltre che la normativa sullo sfruttamento sessuale di adulti di Meta disciplina nello specifico le immagini intime non consensuali. Si tratta di un'area di applicazione prioritaria per l'azienda (vd., ad esempio, l'introduzione delle tecnologie di individuazione automatizzata per contrastare la pubblicazione ripetuta di immagini non consensuali). Nel valutare un cambiamento nel proprio approccio alla gestione del nudo sulla piattaforma, Meta dovrebbe esaminare da vicino il grado di protezione offerto dalla normativa su immagini di nudo e atti sessuali di adulti contro la condivisione di immagini non consensuali e valutare la necessità di apportare modifiche alla normativa in materia di sfruttamento sessuale di adulti o alla relativa applicazione al fine di rafforzarne l'efficacia.

Il Board riconosce inoltre che Meta abbia un interesse legittimo nel limitare i contenuti sessuali o pornografici sulla sua piattaforma, ma ritiene che gli obiettivi aziendali pertinenti possano e debbano essere conseguiti mediante approcci che garantiscano il trattamento equo di tutti gli utenti.

Alcuni membri del Board ritengono che Meta dovrebbe ridurre gli effetti discriminatori delle sue attuali normative adottando una normativa in materia di nudo di adulti non basata su differenze di sesso o genere. Questi membri hanno ricordato le disposizioni della Convenzione sull'eliminazione di ogni forma di discriminazione della donna (CEDAW) sullo sradicamento degli stereotipi di genere (vd., ad esempio, gli articoli 5 e 10) e l'esplicito impegno di Meta nei confronti della CEDAW nella sua normativa aziendale sui diritti umani, concludendo che, nel contesto della normativa sul nudo, questi standard internazionali per i diritti umani e l'impegno di Meta alla non discriminazione possono contribuire all'eliminazione delle distinzioni basate su stereotipi. Questo gruppo di membri del Board è giunto alla conclusione che il passaggio a una normativa non basata su differenze di sesso o genere costituirebbe il modo migliore per Meta di rispettare le proprie responsabilità nell'ambito dei diritti umani in qualità di azienda, considerati i suoi valori e impegni aziendali. Questi membri rilevano che norme e normative dovrebbero evolversi per affrontare le convenzioni che producono ripercussioni discriminatorie, poiché molte forme di discriminazione di fatto erano o continuano a essere convenzioni sociali diffuse.

Su questi temi si registra un certo disaccordo tra i membri del Board. Alcuni concordano in linea di principio che Meta non dovrebbe basarsi sul sesso o sul genere per limitare la libertà di espressione, ma sono fortemente scettici circa la capacità di Meta di affrontare in modo efficace le immagini intime non consensuali e altri possibili pericoli senza una normativa sul nudo basata su sesso e genere. Dal momento che i principi applicabili in materia di diritti umani sulla non discriminazione consentono distinzioni sulla base di caratteristiche protette, fintantoché "siano basate su criteri ragionevoli e oggettivi e perseguano uno scopo legittimo ai sensi del Patto" ( Nepomnyashchiy contro la Russia, Comitato per i Diritti Umani, 2018, par. 7.5. CCPR/C/123/D/2318/2013), alcuni membri del Board ritengono che una normativa sul nudo neutrale dal punto di vista del genere non sia necessaria e potrebbe causare o esacerbare altri pericoli.

Il membri del Board che sostengono una normativa sul nudo di adulti neutrale dal punto di vista di sesso e genere riconoscono che, in base agli standard internazionali per i diritti umani applicati agli Stati, sia possibile effettuare distinzioni sulla base di caratteristiche protette in base a criteri ragionevoli e oggettivi e in presenza di una finalità legittima. Questi membri del Board non ritengono che le distinzioni all'interno della normativa sul nudo di Meta soddisfi tale standard, rilevando inoltre che, in qualità di azienda, Meta ha assunto impegni nell'ambito dei diritti umani incoerenti con un approccio che limita la libertà di espressione online sulla base della percezione di sesso e genere dell'azienda.

Lo Standard della community in materia di immagini di nudo e atti sessuali di adulti produce conseguenze sproporzionate sulle donne e sugli utenti LGBTQI+ e si basa su percezioni soggettive e speculative del sesso e del genere, praticabili quando la moderazione dei contenuti viene effettuata su vasta scala. Nel complesso, considerata la confusione sulle regole e sulla relativa applicazione, nonché le ripercussioni sproporzionate e discriminatorie dell'attuale normativa su immagini di nudo e atti sessuali di adulti di Meta, il Board raccomanda all'azienda di definire criteri chiari, obiettivi e conformi ai diritti alla base dell'intera normativa sulle immagini di nudo di adulti, che garantiscano il trattamento equo di tutte le persone e che siano in linea con gli standard internazionali per i diritti umani, senza discriminazioni sulla base di identità di genere o sessuale. Meta dovrebbe in primo luogo effettuare una valutazione completa dell'impatto sui diritti umani per esaminare le implicazioni dell'adozione di tali criteri, che preveda un ampio coinvolgimento inclusivo di stakeholder provenienti da diversi contesti ideologici, geografici e culturali. Nella misura in cui la valutazione identifichi eventuali danni potenziali, l'attuazione della nuova normativa dovrebbe prevedere un piano di mitigazione al riguardo. Il Board richiede un report sulla valutazione e sulla pianificazione entro 6 mesi dalla pubblicazione della presente decisione.

9. Decisione dell'Oversight Board

L'Oversight Board revoca la decisione originaria di Meta di rimuovere entrambi i post, richiedendone il ripristino.

10. Linee guida sulle normative

Normativa sui contenuti

1. Al fine di trattare in modo equo tutti gli utenti e fornire a moderatori e pubblico standard applicabili in materia di nudo, Meta deve definire criteri chiari, obiettivi e coerenti con i diritti alla base della sua intera normativa in materia di immagini di nudo e attività sessuali di adulti, in modo da garantire un trattamento equo a tutte le persone e in linea con le norme internazionali sui diritti umani, senza discriminazioni basate su identità di genere o sessuale. Meta dovrebbe in primo luogo effettuare una valutazione completa dell'impatto sui diritti umani per esaminare le implicazioni dell'adozione di tali criteri, che preveda un ampio coinvolgimento inclusivo di stakeholder provenienti da diversi contesti ideologici, geografici e culturali. Nella misura in cui la valutazione identifichi eventuali danni potenziali, l'attuazione della nuova normativa dovrebbe prevedere un piano di mitigazione al riguardo.

2. Per garantire una maggiore chiarezza agli utenti, Meta deve fornire loro maggiori spiegazioni su ciò che costituisce un'"offerta o una sollecitazione" di atti di natura sessuale (compresi link a siti web di terzi) e su ciò che costituisce una posa sessualmente allusiva nell'ambito degli Standard della community rivolti al pubblico. Il Board riterrà questa raccomandazione implementata una volta aggiunta una spiegazione di queste condizioni con esempi all'interno dello Standard della community in materia di favoreggiamento di incontri di natura sessuale.

Applicazione

3. Al fine di evitare che i criteri interni di Meta per la normativa sul favoreggiamento di incontri di natura sessuale portino alla rimozione di un numero maggiore di contenuti rispetto a quelli indicati dalla normativa pubblica e onde evitare l'erronea rimozione di contenuti non di natura sessuale, Meta deve rivedere le sue indicazioni interne per gli addetti al controllo in modo da garantire che riflettano le regole di dominio pubblico e richiedano una connessione più evidente tra l'"offerta o la sollecitazione" e l'"elemento sessualmente allusivo". Il Board riterrà questa misura implementata una volta che Meta fornirà al Board aggiornamenti alle sue linee guida conformi a questi criteri rivisti.

*Nota procedurale:

Le decisioni dell'Oversight Board sono predisposte da gruppi di cinque Membri e devono essere approvate dalla maggioranza del Board. Le decisioni del Board non rappresentano necessariamente le opinioni personali di tutti i Membri.

Per la decisione su questo caso sono state commissionate ricerche indipendenti per conto del Board. Un istituto di ricerca indipendente presso l'Università di Göteborg e facente ricorso a un team di oltre 50 esperti di social in sei continenti, nonché a più di 3200 esperti nazionali da tutto il mondo ha fornito il proprio contributo in merito al contesto socio-politico e culturale. Il Board ha ricevuto aiuto anche da Duco Advisors, una società di consulenza specializzata in geopolitica, fiducia e sicurezza e tecnologia.