Comentário de político sobre mudanças demográficas

Resumo

O Comitê de Supervisão manteve a decisão da Meta de deixar ativo um videoclipe no qual o político francês Éric Zemmour discute as mudanças demográficas na Europa e na África. O conteúdo não viola os Padrões da Comunidade sobre Discurso de Ódio, pois não há ataque direto a pessoas com base em uma característica protegida, como raça, etnia ou nacionalidade. A maioria do Comitê concluiu que manter o conteúdo está de acordo com as responsabilidades que a Meta tem com os direitos humanos. No entanto, o Comitê recomenda que a Meta esclareça publicamente como ela distingue as discussões relacionadas à imigração de discursos prejudiciais, incluindo teorias da conspiração odiosas, que visam pessoas com base em seu status migratório.

Sobre o caso

Em julho de 2023, um videoclipe no qual o político francês Éric Zemmour discute as mudanças demográficas na Europa e na África foi publicado em sua Página oficial do Facebook por um usuário que é o administrador da Página. O clipe faz parte de uma entrevista em vídeo mais longa com o político. No vídeo, Zemmour declara: “Since the start of the 20th century, there has been a population explosion in Africa” (Desde o início do século XX, houve uma explosão populacional na África). Ele continua dizendo que, embora a população europeia tenha permanecido praticamente a mesma, com cerca de 400 milhões de pessoas, a população africana aumentou para 1,5 bilhão de pessoas, “so the power balance has shifted” (portanto, o equilíbrio de poder mudou). A legenda da publicação em francês diz que, nos anos 1900, “when there were four Europeans for one African, [Europe] colonized Africa” (quando havia quatro europeus para um africano, [a Europa] colonizava a África), e agora “there are four Africans for one European and Africa colonizes Europe” (há quatro africanos para um europeu, e a África coloniza a Europa). A Página de Zemmour no Facebook tem cerca de 300 mil seguidores, e essa publicação foi visualizada cerca de 40 mil vezes em janeiro de 2024.

Zemmour foi alvo de vários processos judiciais, com mais de uma condenação na França por incitar o ódio racial e fazer comentários racialmente ofensivos sobre muçulmanos, africanos e negros. Ele concorreu à presidência em 2022, mas não passou do primeiro turno. O ponto central de sua campanha eleitoral é a Teoria da Grande Substituição, que argumenta que as populações brancas europeias estão sendo deliberadamente substituídas étnica e culturalmente por meio da migração e do crescimento de comunidades minoritárias. Especialistas em linguística observam que a teoria e os termos associados a ela “incitam o racismo, o ódio e a violência contra os imigrantes, europeus não brancos e, especificamente, contra os muçulmanos”. O vídeo na publicação não menciona especificamente a teoria.

Dois usuários denunciaram o conteúdo por violar a Política sobre Discurso de Ódio da Meta, mas, como as denúncias não foram priorizadas para análise em um período de 48 horas, ambas foram automaticamente fechadas. As denúncias são priorizadas pelos sistemas automatizados da Meta de acordo com a gravidade da violação prevista, o efeito viral do conteúdo (número de visualizações) e a probabilidade de uma violação. Um dos usuários fez então uma apelação à Meta, o que levou um dos analistas humanos da empresa a decidir que o conteúdo não violava as regras da empresa. Em seguida, o usuário fez uma apelação ao Comitê.

Principais conclusões

A maioria do Comitê concluiu que o conteúdo não viola os Padrões da Comunidade sobre Discurso de Ódio da Meta. O videoclipe contém um exemplo de expressão de opinião protegida (embora controversa) sobre imigração e não contém nenhuma incitação à violência, nem direciona linguagem desumanizante ou de ódio a grupos vulneráveis. Embora Zemmour tenha sido processado por uso de linguagem de ódio no passado e os temas desse vídeo sejam semelhantes aos da Teoria da Grande Substituição, esses fatos não justificam a remoção de uma publicação que não segue os padrões da Meta.

Para que houvesse uma violação, a publicação teria que incluir um “ataque direto”, pedindo especificamente a “exclusão ou segregação” de um grupo com “característica protegida”. Como os comentários de Zemmour não contêm nenhum ataque direto e não há um apelo explícito para excluir nenhum grupo da Europa nem qualquer declaração sobre africanos equivalente a um estereótipo prejudicial, calúnia ou qualquer outro ataque direto, eles não violam as regras de discurso de ódio da Meta. A justificativa da política também deixa claro que a Meta permite “comentários e críticas às políticas de imigração”, embora o que não é compartilhado publicamente é que a empresa permite pedidos de exclusão quando as políticas de imigração estão sendo discutidas.

No entanto, o Comitê julga preocupante que a Meta não considere os africanos como um grupo característico protegido, dado o fato de que a nacionalidade, a raça e a religião são protegidas tanto pelas políticas da Meta quanto pela legislação internacional de direitos humanos. Os africanos são mencionados em todo o conteúdo e, nesse vídeo, servem como representantes dos africanos não brancos.

O Comitê também considerou a relevância da Política sobre Organizações e Indivíduos Perigosos para esse caso. No entanto, a maioria considera que a publicação não viola essa política porque não há elementos suficientes para analisá-la como parte de uma rede de conspiração mais ampla que induz à violência. A Meta define essas redes como atores não estatais que compartilham a mesma declaração de missão, promovem teorias infundadas alegando que conspirações secretas de agentes poderosos estão por trás de problemas sociais e políticos e que estão diretamente ligadas a um padrão de danos no meio físico.

Uma minoria de membros do Comitê considera que a abordagem da Meta em relação ao conteúdo que divulga teorias da conspiração prejudiciais é inconsistente com os objetivos das políticas que ela criou para evitar um ambiente de exclusão que afete as minorias protegidas, tanto online quanto offline. De acordo com essas políticas, o conteúdo que envolve algumas outras narrativas de conspiração é moderado para proteger grupos minoritários ameaçados. Embora esses membros do Comitê acreditem que a crítica de questões como a imigração deva ser permitida, é justamente porque a discussão baseada em evidências sobre esse tópico é tão relevante que a disseminação de teorias da conspiração, como a Teoria da Grande Substituição, pode ser prejudicial. Não são itens individuais de conteúdo, mas os efeitos combinados desse conteúdo compartilhado em grande escala e em alta velocidade que causam o maior desafio para as empresas de redes sociais. Portanto, a Meta precisa reformular suas políticas para que seus serviços não sejam usados indevidamente por aqueles que promovem teorias da conspiração, causando danos online e no meio físico.

A Meta realizou pesquisas sobre uma linha de política que poderia abordar teorias da conspiração que incitam o ódio, mas a empresa decidiu que isso acabaria levando à remoção de muitos discursos políticos. O Comitê considera preocupante a falta de informações que a Meta compartilhou sobre esse processo.

Decisão do Comitê de Supervisão

O Comitê de Supervisão manteve a decisão da Meta de deixar ativa a publicação.

Ele recomenda que a Meta:

• Forneça mais detalhes em seus Padrões da Comunidade sobre Discurso de Ódio em relação a como ela distingue discussões relacionadas à imigração de discursos prejudiciais direcionados a pessoas com base em seu status migratório. Isso inclui a explicação de como a empresa lida com o conteúdo que divulga teorias da conspiração que incitam o ódio, para que os usuários possam entender como a Meta protege o discurso político sobre imigração e, ao mesmo tempo, aborda os possíveis danos no meio físico dessas teorias.

*Os resumos de casos fornecem uma visão geral dos casos e não têm valor de precedente.

Decisão completa sobre o caso

1.Resumo da decisão

O Comitê de Supervisão mantém a decisão da Meta de deixar ativa uma publicação na Página oficial do Facebook do político francês Éric Zemmour que contém um vídeo com uma entrevista dele, na qual discute as mudanças demográficas na Europa e na África. O Comitê considera que o conteúdo não viola os Padrões da Comunidade sobre Discurso de Ódio da Meta porque não ataca diretamente as pessoas com base em características protegidas, incluindo raça, etnia e nacionalidade. A maioria do Comitê concluiu que a decisão da Meta de manter o conteúdo no Facebook está de acordo com suas responsabilidades com os direitos humanos. Uma minoria de membros do Comitê considera que as políticas da Meta são inadequadas para atender às responsabilidades com os direitos humanos da empresa para lidar com a ameaça significativa representada por teorias da conspiração prejudiciais e excludentes, como a Teoria da Grande Substituição. O Comitê recomenda que a Meta esclareça publicamente como lida com conteúdo que divulga teorias de conspiração que incitam o ódio, dada a necessidade de proteger o discurso sobre imigração e, ao mesmo tempo, abordar os possíveis danos no meio físico dessas teorias de conspiração prejudiciais.

2. Descrição do caso e histórico

Em 7 de julho de 2023, um usuário publicou um vídeo na Página oficial e verificada do Facebook do político francês Éric Zemmour. No vídeo, que é um clipe de 50 segundos de uma entrevista mais longa realizada em francês, Zemmour discute as mudanças demográficas na Europa e na África. O usuário que publicou o vídeo era um administrador da Página, que tem cerca de 300 mil seguidores. Zemmour foi candidato às eleições presidenciais da França de 2022 e teve cerca de 7% dos votos no primeiro turno, mas não foi para o segundo. Antes de concorrer ao cargo, Zemmour foi colunista regular do Le Figaro e de outros jornais, além de comentarista de TV conhecido por suas provocações sobre o Islã, a imigração e as mulheres. Conforme explicado em mais detalhes abaixo, ele se envolveu em vários processos judiciais e foi condenado em alguns deles por causa desses comentários. Embora a Meta não tenha considerado o usuário que publicou o vídeo como uma figura pública, a empresa considerou Zemmour como uma.

No vídeo, Zemmour declara que: “Since the start of the 20th century, there has been a population explosion in Africa” (Desde o início do século XX, houve uma explosão populacional na África). Ele afirma que, embora a população europeia tenha permanecido praticamente a mesma, com cerca de 400 milhões de pessoas, a população africana aumentou para 1,5 bilhão de pessoas, “so the power balance has shifted” (portanto, o equilíbrio de poder mudou). A legenda em francês repete as afirmações no vídeo, dizendo que, nos anos 1900, “when there were four Europeans for one African, [Europe] colonized Africa” (quando havia quatro europeus para um africano, [a Europa] colonizava a África), e agora “there are four Africans for one European and Africa colonizes Europe” (há quatro africanos para um europeu, e a África coloniza a Europa). Esses números são comparados aos números disponíveis nos órgãos das Nações Unidas fornecidos abaixo. Além disso, a posição majoritária do Comitê sobre esses números é descrita em mais detalhes na Seção 8.2 abaixo.

Quando esse caso foi anunciado pelo Comitê em 28 de novembro de 2023, o conteúdo havia sido visualizado cerca de 20 mil vezes. Desde janeiro de 2024, o conteúdo foi visualizado cerca de 40 mil vezes e teve menos de mil reações, sendo a maioria “curtidas”, seguidas de reações “amei” e “Haha”.

Em 9 de julho de 2023, dois usuários denunciaram separadamente o conteúdo por violar a Política sobre Discurso de Ódio da Meta. A empresa fechou automaticamente as duas denúncias porque elas não foram priorizadas para análise em um período de 48 horas. A Meta explicou que as denúncias são priorizadas dinamicamente para análise com base em fatores como a gravidade da violação prevista, o efeito viral do conteúdo (número de visualizações que o conteúdo teve) e a probabilidade de o conteúdo violar as políticas da empresa. O conteúdo não foi removido e permaneceu na plataforma.

Em 11 de julho de 2023, a primeira pessoa que denunciou o conteúdo fez uma apelação da decisão da Meta. A apelação foi avaliada por um analista humano que manteve a decisão original da Meta de manter o conteúdo. O usuário que fez a denúncia recorreu então ao Comitê de Supervisão.

Dez dias antes da publicação do conteúdo, a morte a tiros de Nahel Merzouk, um jovem francês de 17 anos de ascendência marroquina e argelina, que morreu depois que dois policiais atiraram nele à queima-roupa em um subúrbio de Paris em 27 de junho de 2023, provocou tumultos generalizados e protestos violentos na França. Os protestos, que estavam em andamento quando o conteúdo foi publicado, foram direcionados à violência policial e à percepção da discriminação racial sistêmica do policiamento na França. Esses protestos foram os mais recentes de uma longa série de protestos contra a violência policial que, segundo alegações, frequentemente tem como alvo imigrantes de origem africana e outras comunidades marginalizadas na França.

De acordo com a Comissão Europeia contra o Racismo e a Intolerância (ECRI), as principais vítimas de racismo no país são os imigrantes, especialmente os de origem africana e seus descendentes. Em 2022, o Comitê para a Eliminação da Discriminação Racial (CERD) exigiu que a França redobrasse seus esforços para prevenir e combater efetivamente o discurso de ódio racista e afirmou que “apesar dos esforços do Estado Parte... o Comitê continua preocupado com a persistência e a disseminação do discurso racista e discriminatório, especialmente na mídia e na internet. Ele também está “preocupado com os comentários racistas de alguns líderes políticos com relação a certas minorias étnicas, em particular ciganos, viajantes, africanos, pessoas de ascendência africana, pessoas de origem árabe e não cidadãos,” (CERD/C/FRA/CO/22-23, parágrafo 11).

De acordo com um relatório de 1999 do Departamento de Assuntos Econômicos e Sociais das Nações Unidas, a população estimada da África no ano de 1900 era de 133 milhões. Dados das Nações Unidas em 2022 estimam que a população da África em 2021 era de cerca de 1,4 bilhão. A projeção é de que, até 2050, a população estimada da África poderá chegar a quase 2,5 bilhões. De acordo com o mesmo relatório de 1999, a população da Europa em 1900 era de aproximadamente 408 milhões. O Departamento de Assuntos Econômicos e Sociais das Nações Unidas estima que a população da Europa em 2021 era de aproximadamente 745 milhões e diminuirá para aproximadamente 716 milhões até 2050.

Na França, como em muitas partes do mundo, a chegada de um grande número de migrantes de outros países se tornou um dos tópicos mais importantes do debate político. Em setembro de 2023, aproximadamente 700 mil refugiados e solicitantes de asilo estavam na França, tornando-a o terceiro maior país anfitrião da União Europeia. Enquanto o Comitê analisava esse caso, a França passou por protestos em larga escala e debate público acalorado sobre migração em meio à aprovação parlamentar de um novo projeto de lei sobre imigração que, entre outras coisas, estabelece cotas de migração e torna mais rígidas as regras sobre reunificação familiar e acesso a benefícios sociais. Zemmour e seu partido têm sido muito ativos nessas discussões, defendendo restrições à imigração.

O político foi alvo de diversos processos legais e condenado várias vezes por tribunais franceses por incitar o ódio racial e fazer comentários racialmente ofensivos nos últimos anos, como resultado de suas declarações sobre muçulmanos, africanos, negros e pessoas LGBTQIA+. Zemmour foi condenado por incitação ao ódio racial devido aos comentários que fez em 2011 na televisão, em que afirmou que “most dealers are blacks and Arabs. That's a fact.” (a maioria dos traficantes são negros e árabes. Isso é um fato). Mais recentemente, um tribunal considerou Zemmour culpado de incitar o ódio racial em 2020 e o multou em 10 mil euros por declarar que crianças migrantes são “thieves, killers, they’re rapists. That’s all they are. We should send them back.” (ladrões, assassinos, estupradores. Eles são assim. Devemos mandá-los de volta para seus países). Ele esgotou seu direito de recorrer em outro caso no qual foi condenado e multado pelo tribunal correcional por incitar a discriminação e o ódio religioso contra a comunidade muçulmana francesa. A condenação foi baseada em declarações feitas por ele em um programa de televisão em 2016, segundo as quais os muçulmanos deveriam fazer “the choice between Islam and France” (a escolha entre o Islã e a França) e que “for thirty years we have been experiencing an invasion, a colonization (…) it is also the fight to Islamize a territory which is not, which is normally a non-Islamized land” (há trinta anos estamos sofrendo uma invasão, uma colonização (...) é também a luta para islamizar um território que não é, que normalmente é uma terra não islamizada). Em dezembro de 2022, o Tribunal Europeu de Direitos Humanos considerou que a condenação não violou o direito de Zemmour à liberdade de expressão.

Embora o conteúdo desse caso não mencione explicitamente a Teoria da Grande Substituição, o conceito é fundamental para a ideologia política de Zemmour e teve grande destaque em sua campanha presidencial, durante a qual ele prometeu, se eleito, criar um “Ministério da Remigração”. Ele também declarou que “send back a million” (mandaria de volta um milhão) de estrangeiros em cinco anos. De acordo com uma pesquisa independente encomendada pelo Comitê, que foi conduzida por especialistas em teorias da conspiração e política francesa, tendências de redes sociais e linguística, os proponentes da Teoria da Grande Substituição argumentam que as populações brancas europeias estão sendo deliberadamente substituídas étnica e culturalmente por meio da migração e do crescimento de comunidades minoritárias. A teoria reforça que a migração contemporânea de pessoas não brancas (e predominantemente muçulmanas) de países não europeus (principalmente da África e da Ásia) para a Europa é uma forma de guerra demográfica. Os especialistas do Comitê enfatizaram que a migração e o aumento da migração não são factualmente contestados. Em vez disso, é a insistência de que há um complô ou conspiração real para trazer não brancos para a Europa a fim de substituir ou reduzir a proporção de populações brancas que marca a Teoria da Grande Substituição como conspiratória. Especialistas em linguística consultados pelo Comitê explicaram que a Teoria da Grande Substituição e os termos associados a ela “incitam o racismo, o ódio e a violência contra os imigrantes, europeus não brancos e, especificamente, contra os muçulmanos”. Um relatório da Rede de Conscientização sobre Radicalização da União Europeia observa que o sentimento antissemita, antimuçulmano e, em geral, anti-imigração, disseminado por pessoas que defendem a Teoria da Grande Substituição, influenciou a seleção de alvos de vários atacantes individuais de alto nível na Europa nos últimos anos. A pesquisa encomendada pelo Comitê também indicou que a teoria inspirou uma miríade de incidentes violentos em todo o mundo nos últimos anos, incluindo o tiroteio em massa em Christchurch, Nova Zelândia, no qual 51 muçulmanos foram mortos.

Uma minoria do Comitê também considera o fato de que os protestos violentos da extrema direita têm aumentado na França no último ano como um contexto importante. Após o esfaqueamento fatal de um adolescente durante um evento festivo em 18 de novembro em Crépol, uma comunidade rural na França, ativistas e partidos de direita lideraram protestos violentos nos quais os manifestantes entraram em confronto físico com a polícia. Eles alegaram que os imigrantes e as minorias eram responsáveis, apesar do fato de que das nove pessoas presas em conexão com o esfaqueamento, oito eram franceses e um italiano. O ex-ministro do Interior Gérald Darmanin disse que os membros da milícia “procuram atacar árabes, pessoas com cores de pele diferentes, falam de sua nostalgia pelo Terceiro Reich”. A política do Partido Verde francês Sandrine Rousseau comparou esses protestos a ratonnades, violência física praticada contra uma minoria étnica ou um grupo social, predominantemente contra pessoas de origem norte-africana. A ratonnade mais notável, frequentemente associada à popularização do termo, ocorreu em 17 de outubro de 1961 durante protestos pacíficos dos argelinos, nos quais 200 argelinos foram mortos durante uma explosão de violência policial. Desde então, a palavra tem aparecido repetidamente em diferentes contextos na França. Por exemplo, em dezembro de 2022, os políticos franceses se juntaram aos usuários das redes sociais para denunciar a violência nas ruas, comparando-a comratonnades após a partida entre França e Marrocos na Copa do Mundo.

3. Escopo e autoridade do Comitê de Supervisão

O Comitê tem autoridade para analisar a decisão da Meta após uma apelação da pessoa que denunciou previamente o conteúdo que estava ativo (Artigo 2, Seção 1 do Estatuto; e Artigo 3, Seção 1 dos Regulamentos Internos).

De acordo com a Seção 5 do Artigo 3 do Estatuto, o Comitê pode manter ou revogar a decisão da Meta, decisão essa que é vinculante para a empresa, segundo o Artigo 4 do Estatuto. A Meta também deve avaliar a viabilidade de aplicar sua decisão do Comitê no que diz respeito a conteúdo idêntico em contexto paralelo, segundo o Artigo 4 do Estatuto. As decisões do Comitê podem incluir sugestões não vinculantes às quais a Meta deve responder, de acordo com o Artigo 3 do Estatuto, Seção 4; Artigo 4 do Estatuto. Quando a Meta se compromete a agir de acordo com as recomendações, o Comitê monitora sua implementação.

4.Fontes de autoridade e orientação

Os seguintes padrões e as decisões precedentes fundamentaram a análise do Comitê nesse caso:

I.Decisões do Comitê de Supervisão

• Negação do Holocausto
• Violência comunitária no estado indiano de Odisha
• Animação Knin
• Publicação compartilhada da Al Jazeera
• Suspensão do ex-presidente Trump
• Representação de Zwarte Piet

II.Políticas de Conteúdo da Meta

Discurso de ódio

O fundamento da política dos Padrões da Comunidade sobre Discurso de Ódio explica que discurso de ódio, definido como um ataque direto contra pessoas com base em características protegidas, não é permitido na plataforma “por criar um ambiente de intimidação e de exclusão que, em alguns casos, pode promover violência no mundo real”. A política lista como características protegidas, entre outras, a raça, a etnia, a nacionalidade e a afiliação religiosa. A política explica que “os ataques são separados em dois níveis de gravidade”, sendo que os ataques de Nível 1 são mais graves. O fundamento dos Padrões da Comunidade sobre Discurso de Ódio também explica que a política “protege refugiados, migrantes, imigrantes e solicitantes de asilo dos ataques mais graves”, mas que a Meta permite “comentários e críticas às políticas de imigração”. A orientação interna da Meta para os moderadores de conteúdo detalha isso, explicando que considera o status de migrantes, imigrantes, refugiados e solicitantes de asilo como quase protegido. Isso significa que a Meta os protege de ataques de Nível 1, mas não de ataques de Nível 2 de acordo com a Política sobre Discurso de Ódio.

A política, que anteriormente tinha três níveis de ataque diferentes, mas agora tem apenas dois, atualmente proíbe como ataque de Nível 2, entre outros tipos de conteúdo, “exclusão ou segregação na forma de chamadas para ação, declarações de intenção, declarações aspiracionais ou condicionais, ou declarações que defendam ou apoiem definidos como: [...] exclusão explícita, o que significa coisas como expulsar determinados grupos ou dizer que eles não são permitidos”. A Meta recusou a solicitação do Comitê de publicar mais informações sobre sua orientação interna aos analistas de conteúdo sobre esse ponto.

Em uma publicação do Newsroom de 2017 intitulada “Hard Questions: Who Should Decide What Is Hate Speech in an Online Global Community?” (Perguntas difíceis: quem deve decidir o que é discurso de ódio em uma comunidade online?), que está vinculada na parte inferior do fundamento para os Padrões da Comunidade sobre Discurso de Ódio com o texto “Saiba mais sobre nossa visão sobre discurso de ódio”, a Meta reconheceu que os debates políticos sobre imigração frequentemente se tornam “um debate sobre discurso de ódio, já que os dois lados adotam uma linguagem inflamatória”. A empresa disse que, após analisar as publicações no Facebook sobre o debate da migração em todo o mundo, “decidiu desenvolver novas diretrizes para remover apelos à violência contra migrantes ou referências desumanas a eles, como comparações com animais, sujeira ou lixo”. A empresa deixou em vigor, no entanto, “a capacidade de as pessoas expressarem suas opiniões sobre a imigração em si”, uma vez que está “profundamente comprometida em garantir que o Facebook continue sendo um local de debate legítimo”.

Organizações e indivíduos perigosos

O fundamento dos Padrões da Comunidade sobre Organizações e Indivíduos Perigosos declara que a Meta não permite que organizações ou indivíduos que anunciem uma missão violenta ou estejam envolvidos com violência tenham presença nas plataformas da Meta. Também explica que a Meta avalia essas entidades “com base em seu comportamento online e offline, mais significativamente, sua ligação com atos de violência”.

Os Padrões da Comunidade sobre Organizações e Indivíduos Perigosos explica que a Meta proíbe a presença de redes de conspiração de violência, atualmente definidas como agentes não estatais que são: (i) “identificados por um nome, declaração de missão, símbolo ou léxico compartilhado”; (ii) “promovem teorias infundadas que tentam explicar as causas finais de problemas sociais e políticos significativos, eventos e circunstâncias com alegações de conspirações secretas por dois ou mais atores poderosos”; e (iii) “defenderam explicitamente ou foram diretamente vinculados a um padrão de danos físicos por adeptos motivados pelo desejo de chamar a atenção ou reparar os supostos danos identificados nas teorias infundadas promovidas pela rede”.

A análise do Comitê sobre as políticas de conteúdo também foi fundamentada pelo compromisso com a voz da Meta, que a empresa descreve como “primordial”, bem como por seus valores de segurança e dignidade.

III. Responsabilidades da Meta com os direitos humanos

Os Princípios Orientadores da ONU sobre Empresas e Direitos Humanos (UNGPs, na sigla em inglês), endossados pelo Conselho de Direitos Humanos da ONU em 2011, estabelecem uma estrutura voluntária de responsabilidades das empresas privadas em relação aos direitos humanos. Em 2021, a Meta anunciou sua Política Corporativa de Direitos Humanos, em que reafirmou seu compromisso em respeitar os direitos humanos de acordo com os UNGPs. Ao analisar as responsabilidades da Meta com os direitos humanos no caso em questão, o Comitê levou em consideração as seguintes normas internacionais:

• O direito à liberdade de expressão: Artigo 19, Pacto Internacional dos Direitos Civis e Políticos (PIDCP), Artigo 20, parágrafo 2 do PIDCP, Comentário Geral 34, Comitê de Direitos Humanos, 2011; Relatórios do Relator Especial da ONU (UNSR) sobre a liberdade de opinião e expressão: A/HRC/38/35 (2018) e A/74/486 (2019).
• Igualdade e não discriminação: artigo 2, parágrafo 1 e artigo 26, PIDCP; Artigo 2, Convenção Internacional sobre a Eliminação de Todas as Formas de Discriminação Racial (ICERD); Assembleia Geral das Nações Unidas, resolução A/RES/73/195.
• Direito à vida: Artigo 6 do PIDCP.

5. Envios de usuários

O Comitê recebeu um envio do usuário que denunciou o conteúdo e recorreu da decisão da Meta de mantê-lo ativo, como parte de sua apelação ao Comitê. No envio, o usuário que fez a apelação diz que Zemmour está explicando a colonização e a migração apenas em termos de superpopulação, o que o usuário classificou como “fake news” (notícia falsa).

6. Envios da Meta

Depois que o Comitê selecionou esse caso, a Meta analisou a publicação em relação à Política sobre Discurso de Ódio com especialistas no assunto e determinou que sua decisão original de manter o conteúdo ativa estava correta. A Meta não forneceu mais informações sobre a competência específica ou as áreas de conhecimento dos especialistas que realizaram essa análise adicional. Ela enfatizou que, para que um conteúdo seja considerado violador, a política exige tanto um grupo de características protegidas quanto um ataque direto, e que as afirmações sobre mudanças populacionais e colonização não tinham esses elementos. A empresa explicou que não considera a alegação de que um grupo está “colonizando” um local como um ataque em si, desde que não seja um apelo à exclusão, e enfatizou que “deseja permitir que os cidadãos discutam as leis e políticas de suas nações, desde que essa discussão não constitua ataques contra grupos vulneráveis que possam estar sujeitos a essas leis”. Por fim, a Meta explicou que o conteúdo não identifica um grupo com características protegidas porque Zemmour se refere à “África”, um continente e seus países, e que a “Política sobre Discurso de Ódio não protege países ou instituições de ataques”.

Ela se recusou a suspender a confidencialidade relacionada ao processo de desenvolvimento de políticas da empresa sobre teorias da conspiração prejudiciais. Em vez disso, a empresa declarou: “Consideramos opções de políticas específicas para o conteúdo que discute teorias da conspiração que não violam nossas políticas existentes. No entanto, concluímos que, por enquanto, a implementação de qualquer uma das opções arriscaria a remoção de uma quantidade significativa de discurso político.”

O Comitê fez oito perguntas à Meta por escrito. As perguntas abrangeram o desenvolvimento da política da Meta em relação à Teoria da Grande Substituição; a aplicabilidade de várias linhas da Política sobre Discurso de Ódio e Organizações e Indivíduos Perigosos; e o histórico de violações da Página do Facebook e do usuário da publicação. A Meta respondeu a seis das perguntas do Comitê, sendo que duas não foram respondidas satisfatoriamente. Depois que a Meta não forneceu detalhes suficientes em resposta à pergunta inicial do Comitê sobre o desenvolvimento de políticas em relação à Teoria da Grande Substituição, foi feita uma pergunta de acompanhamento, para a qual a empresa forneceu informações adicionais, mas ainda assim menos abrangentes.

7.Comentários públicos

O Comitê de Supervisão recebeu 15 comentários públicos. Sete dos comentários foram enviados dos Estados Unidos e do Canadá, três da Europa, dois da Ásia Central e do Sul, um do Oriente Médio e Norte da África, um da Ásia Pacífico e Oceania e um da África Subsaariana. Esse total inclui comentários públicos que foram duplicados ou enviados com consentimento para publicação, mas que não atendiam às condições do Comitê para publicação. Comentários públicos podem ser enviados ao Comitê com ou sem consentimento para publicar, e com ou sem consentimento para atribuir (por exemplo, de forma anônima).

Os envios abrangeram principalmente dois temas. Primeiro, vários comentários enfatizaram que a remoção do conteúdo em análise nesse caso seria equivalente à censura e poderia até “servir para aumentar a raiva dos cidadãos que sentem que suas vozes não serão ouvidas” (PC-22009). Em segundo lugar, duas organizações enviaram comentários enfatizando o impacto offline negativo desse tipo de conteúdo e, especificamente, da Teoria da Grande Substituição. Ambos os comentários argumentaram que há uma ligação entre o massacre de Christchurch e a teoria (PC-22013, Digital Rights Foundation; PC-22014, Global Project Against Hate and Extremism).

Para ler os comentários públicos enviados sobre esse caso, clique aqui.

8.Análise do Comitê de Supervisão

O Comitê analisou as políticas de conteúdo, responsabilidades e valores de direitos humanos da Meta para determinar se esse conteúdo no caso em questão deveria ser removido. Também avaliou as implicações desse caso quanto à abordagem mais ampla da Meta em relação à governança de conteúdo.

O Comitê selecionou esse caso como uma oportunidade de analisar a abordagem da Meta em relação ao conteúdo direcionado a migrantes no contexto da retórica anti-imigração cada vez mais global e dos debates públicos acalorados sobre políticas de imigração, especialmente devido aos desafios associados à distinção, em escala, de conteúdo prejudicial do discurso político que discute políticas de imigração.

8.1 Conformidade com as Políticas de Conteúdo da Meta

O Comitê conclui que o conteúdo segue as políticas da Meta. Portanto, a decisão da empresa de manter o conteúdo no Facebook foi correta. Uma minoria do Comitê acredita, no entanto, que as políticas da Meta poderiam distinguir claramente até mesmo as críticas mais severas às políticas de imigração do discurso envolvido com teorias de conspiração que são prejudiciais a grupos com características protegidas.

I.Regras sobre conteúdo

Discurso de ódio

A maioria do Comitê conclui que o conteúdo deste caso não viola os Padrões da Comunidade sobre Discurso de Ódio da Meta e é um exemplo de expressão de opinião protegida, embora controversa, sobre o tema da imigração. O clipe de 50 segundos da entrevista de Zemmour publicado pelo usuário não contém nenhum apelo à violência, nem direciona linguagem desumanizante ou de ódio a grupos vulneráveis. O fato de Zemmour ter sido processado e condenado no passado por uso de linguagem de ódio, ou de os temas da publicação terem semelhança com os da Teoria da Grande Substituição, que muitos acreditam ter provocado violência contra migrantes e membros de grupos minoritários, não é uma justificativa adequada para remover uma publicação que não descumpre os padrões da Meta. A política exige que dois elementos estejam presentes para que o conteúdo seja considerado uma violação: (i) um “ataque direto” e (ii) um grupo de “característica protegida” ao qual o ataque direto se destina. A Meta define “ataques diretos” como, entre outros tipos de discurso, “exclusão ou segregação na forma de apelos à ação”, conforme explicado em mais detalhes na Seção 4 acima. Além disso, a justificativa da política deixa claro que a Meta permite “comentários e críticas sobre as políticas de imigração”.

Para a maioria, os comentários de Zemmour no vídeo se concentram principalmente nas supostas informações demográficas que ele apresenta sobre a África, a Europa e a “colonização”. O vídeo contém, entre outras afirmações, as declarações: “So the balance of power has reversed” (Então o equilíbrio de poder se inverteu) e “When there are now four Africans for one European, what happens?” Africa colonizes Europe, and in particular, France. (O que vai acontecer agora que há quatro africanos para um europeu? A África está colonizando a Europa e, em particular, a França). Os comentários de Zemmour não contêm nenhum ataque direto e, de fato, ele não usa a frase “A Grande Substituição” nem se refere diretamente à teoria. Não há nenhuma incitação explícita para excluir qualquer grupo da Europa, nem qualquer declaração sobre os africanos equivalente a um estereótipo prejudicial, calúnia ou qualquer outro ataque direto. No entanto, o Comitê julga preocupante que a Meta não considere os africanos como um grupo característico protegido, dado o fato de que a nacionalidade, a raça e a religião são características protegidas tanto pelas políticas da Meta quanto pela legislação internacional de direitos humanos. Os africanos são mencionados em todo o conteúdo. A África é um conjunto de nações, portanto, o termo “africanos” faz referência a cidadãos de países africanos. Em segundo lugar, no contexto dos comentários e discussões anteriores de Zemmour sobre migração na França, o termo “africanos” serve como um substituto para africanos não brancos, em particular africanos negros e muçulmanos.

Organizações e indivíduos perigosos

A maioria do Comitê também concluiu que o conteúdo não descumpre a Política sobra Organizações e Indivíduos Perigosos da Meta, dada a falta de elementos necessários para avaliar esse conteúdo específico como parte de uma rede de conspiração de violência mais ampla.

Conforme explicado na Seção 6 acima, a Meta considerou opções de política específicas para o conteúdo que discute teorias da conspiração que não violam nenhuma política, mas concluiu que, por enquanto, a implementação de qualquer uma das opções arriscaria a remoção de uma quantidade significativa de discurso político. O Comitê expressa sua preocupação com a falta de informações fornecidas pela Meta em resposta às perguntas sobre esse processo de desenvolvimento de políticas. O Comitê observa que a empresa não forneceu nenhuma informação específica sobre a pesquisa que realizou, as informações que coletou, o escopo de seu alcance, os tipos de especialistas consultados nem as diferentes opções de política que analisou. Também é uma preocupação para o Comitê o fato de a Meta ter optado por não compartilhar com o público informações sobre o processo de desenvolvimento de políticas e seus resultados.

Uma minoria do Comitê entende que, apesar de o conteúdo ter como alvo implícito vários grupos de características protegidas que se sobrepõem (negros, árabes e muçulmanos), conforme a redação atual, as regras incluídas nas Políticas sobre Discurso de Ódio e Organizações e Indivíduos Perigosos da Meta não proíbem esse tipo de conteúdo. O fato de a publicação repetir apenas as partes mais “palatáveis” da Teoria da Grande Substituição não é, no entanto, decisivo. Na decisão do Comitê no caso Suspensão do ex-presidente Trump, o Comitê destacou que a Meta “deve avaliar publicações de usuários influentes contextualmente, conforme provavelmente serão entendidas, mesmo que a mensagem explosiva deles esteja expressa em uma linguagem específica para evitar responsabilidade”.

No entanto, como será explicado em mais detalhes na Seção 8.3, para uma minoria do Comitê, a abordagem da Meta em relação ao conteúdo que divulga teorias de conspiração prejudiciais, como a Teoria da Grande Substituição, é inconsistente com os objetivos das diferentes políticas que a empresa elaborou para evitar a criação de um ambiente de intimidação e exclusão que afete as minorias protegidas contra danos online e no meio físico. Embora uma minoria do Comitê concorde plenamente que as políticas da Meta devem permitir críticas e discussões de todas as questões (como imigração) que são relevantes em sociedades democráticas, elas também devem estabelecer limites claros para evitar a disseminação de ataques implícitos ou explícitos contra grupos vulneráveis, levando em conta o dano no meio físico de certas narrativas conspiratórias, como a Teoria da Grande Substituição.

II. Transparência

A Meta explica melhor como lida com conteúdo relacionado à imigração em sua Central de Transparência no âmbito dos Padrões da Comunidade sobre Discurso de Ódio, no qual a empresa explica que refugiados, migrantes, imigrantes e solicitantes de asilo são protegidos contra os ataques mais severos. Em uma publicação do Newsroom de 2017, vinculada ao fundamento da Política sobre Discurso de Ódio, a Meta fornece mais detalhes. No entanto, a empresa não explica explicitamente como lida com o conteúdo relacionado à Teoria da Grande Substituição. A publicação de 2017 reúne informações relevantes para o tópico, mas não foi atualizada após o processo de desenvolvimento de políticas de 2021 mencionado na Seção 6 acima. A Meta também não explica explicitamente em sua política pública que os pedidos de exclusão são permitidos no contexto de discussões sobre imigração. Também não está claro como são tratados os ataques implícitos ou velados nesse contexto.

8.2 Conformidade com as responsabilidades da Meta relativas aos direitos humanos

A maioria do Comitê concluiu que manter o conteúdo está de acordo com as responsabilidades que a Meta tem com os direitos humanos. Uma minoria acredita que, para ser consistente com suas responsabilidades com os direitos humanos, a Meta precisa reformular suas políticas para que seus serviços não sejam usados indevidamente por aqueles que promovem teorias da conspiração que causam danos online e no meio físico.

Liberdade de expressão (Artigo 19 PIDCP)

O artigo 19 do PIDCP prevê uma ampla proteção do direito à liberdade de expressão, incluindo “a liberdade de buscar, receber e transmitir informações e ideias de todos os tipos”, incluindo “discurso político” e comentários sobre “assuntos públicos” (Comentário Geral nº 34, parágrafo 11). O Comitê de Direitos Humanos afirmou que o escopo desse direito “abrange até mesmo expressões que possam ser consideradas profundamente ofensivas, embora tais expressões possam ser restringidas de acordo com as disposições do artigo 19, parágrafo 3 e artigo 20” para proteger os direitos ou a reputação de outros ou para proibir a incitação à discriminação, hostilidade ou violência (Comentário Geral nº 34, parágrafo 11).

No contexto dos debates públicos sobre migração, a Assembleia Geral da ONU observou seu compromisso de “proteger a liberdade de expressão de acordo com o direito internacional, reconhecendo que um debate aberto e livre contribui para uma compreensão abrangente de todos os aspectos da migração”. Além disso, comprometeu-se a “promover um discurso público aberto e baseado em evidências sobre migração e migrantes, em parceria com todas as partes da sociedade, que gere uma percepção mais realista, humana e construtiva a esse respeito” (A/RES/73/195, parágrafo 33). A imigração e as políticas relacionadas, altamente disputadas e relevantes para os processos políticos não apenas na França, mas em nível global, são tópicos legítimos para debate nas plataformas da Meta. Para a maioria, dadas as possíveis implicações para o debate público, proibir esse tipo de discurso nas plataformas da Meta seria uma clara violação da liberdade de expressão e um precedente perigoso. Para uma minoria do Comitê, é justamente porque discussões abertas e baseadas em evidências sobre imigração são tão relevantes para uma sociedade democrática, que a disseminação de teorias da conspiração, como a Teoria da Grande Substituição, em plataformas de redes sociais pode ser tão prejudicial. Conforme relatado pelo Institute for Strategic Dialogue, os métodos usados para difundir a teoria “incluem a desumanização de memes racistas, a distorção e a deturpação de dados demográficos e o uso de ciência desmascarada”.

Quando um Estado aplica restrições à expressão, elas devem atender aos requisitos de legalidade, objetivo legítimo e necessidade e proporcionalidade, segundo o parágrafo 3 do Artigo 19 do PIDCP. Esses requisitos costumam ser chamados de “teste tripartite”. O Comitê usa essa estrutura para interpretar os compromissos voluntários de direitos humanos da Meta, tanto em relação à decisão de conteúdo individual sob análise quanto ao que isso diz sobre a abordagem mais ampla da empresa à governança de conteúdo. Como afirmou o Relator Especial da ONU sobre liberdade de expressão, embora “as empresas não tenham obrigações governamentais, seu impacto é do tipo que exige que avaliem o mesmo tipo de questões sobre a proteção do direito de seus usuários à liberdade de expressão” (A/74/486, parágrafo 41).

I. Legalidade (clareza e acessibilidade das regras)

O princípio da legalidade exige que as regras que limitam a expressão sejam acessíveis e claras, formuladas com precisão suficiente para permitir que um indivíduo regule sua conduta de acordo com elas (Comentário Geral nº 34, parágrafo 25). Além disso, essas regras “podem não conceder liberdade de ação irrestrita para a restrição da liberdade de expressão aos encarregados de [sua] execução” e devem “fornecer instrução suficiente aos encarregados de sua execução para permitir-lhes determinar quais tipos de expressão são propriamente restritas e quais tipos não são” (Ibid). Aplicada às regras que regem o discurso online, o Relator Especial da ONU sobre liberdade de expressão declarou que eles deveriam ser claros e específicos (A/HRC/38/35, parágrafo 46). As pessoas que usam as plataformas da Meta devem ser capazes de acessar e entender as regras, e os moderadores de conteúdo devem ter orientações claras sobre sua aplicação.

Nenhuma das políticas atuais da Meta proíbe “específica e claramente” o conteúdo deste caso. Para a maioria do Comitê, um usuário comum, ao ler os Padrões da Comunidade sobre Discurso de Ódio ou a publicação do blog “Hard Questions” de 2017 da Meta (vinculada aos Padrões da Comunidade), provavelmente teria a impressão de que apenas os ataques mais graves contra imigrantes e migrantes seriam removidos, já que a Meta indica claramente que deseja permitir comentários e críticas às políticas de imigração em suas plataformas. A maioria do Comitê concluiu que esse compromisso está de acordo com as responsabilidades que a Meta tem com os direitos humanos. Para uma minoria, a Política sobre Discurso de Ódio tem como objetivo evitar a criação de um ambiente de exclusão ou segregação para o qual contribuem as teorias da conspiração que incitam o ódio, como a Teoria da Grande Substituição. Como o conteúdo que envolve essas teorias geralmente tem como alvo grupos vulneráveis e minoritários e constitui um ataque à sua dignidade, um usuário comum poderia esperar proteção contra esse tipo de conteúdo de acordo com a política de discurso de ódio da Meta.

A atual Política sobre Organizações e Indivíduos Perigosos da Meta não tem disposições que proíbam o conteúdo nesse caso. Para a maioria, mesmo que a Meta proibisse específica e claramente o conteúdo relacionado à Teoria da Grande Substituição em suas plataformas, o conteúdo neste caso não chega a nomear a teoria ou a elaborar elementos da teoria de forma que possa ser considerada conspiratória e prejudicial. A publicação não alega que os fluxos migratórios para a Europa envolvendo grupos específicos de pessoas fazem parte de uma trama secreta envolvendo atores com agendas ocultas.

II.Objetivo legítimo

Qualquer restrição da liberdade de expressão deve também defender pelo menos um dos objetivos legítimos listados no PIDCP, que incluem a proteção aos “direitos de terceiros”. ”O termo ‘direitos’ inclui os direitos humanos reconhecidos no Pacto e, em geral, no direito internacional dos direitos humanos” (Comentário Geral nº 34, parágrafo 28).

Em várias decisões, o Comitê constatou que a Política sobre Discurso de Ódio da Meta, que tem o objetivo de proteger as pessoas contra os danos causados pelo discurso de ódio, persegue um objetivo legítimo reconhecido pelos padrões das leis internacionais de direitos humanos (veja a decisão da Animação Knin). Ela protege o direito à vida (Artigo 6, parágrafo 1, PIDCP), bem como os direitos à igualdade e à não discriminação, inclusive com base em raça, etnia e nacionalidade (Artigo 2, parágrafo 1, PIDCP; Artigo 2, ICERD). O Comitê também concluiu anteriormente que a Política sobre Organizações e Indivíduos Perigosos da Meta busca prevenir e interromper danos reais com o objetivo legítimo de proteger os direitos de terceiros (consulte a decisão Publicação compartilhada da Al Jazeera). Por outro lado, o Comitê observou repetidamente que não é um objetivo legítimo restringir a expressão com o único propósito de proteger cidadãos contra crimes (veja Representação de Zwarte Piet citando o Relator Especial da ONU sobre a liberdade de expressão, relatório A/74/486, parágrafo 24, e Suspensão do ex-presidente Trump), pois o valor que a lei internacional dos direitos humanos atribui à expressão ampla é alto (Comentário Geral nº 34, parágrafo 38).

III. Necessidade e proporcionalidade

O princípio da necessidade e da proporcionalidade mostra que qualquer restrição à liberdade de expressão “deve ser apropriada para cumprir sua função protetora; ser o instrumento menos intrusivo entre aqueles que podem cumprir sua função protetora [e] ser proporcional ao interesse a ser protegido” (Comentário Geral nº 34, parágrafo 34). A natureza e a variedade de respostas disponíveis para uma empresa como a Meta são diferentes daquelas disponíveis para um Estado e, em geral, representam infrações menos graves aos direitos do que, por exemplo, penalidades criminais. Como parte de suas responsabilidades com os direitos humanos, as empresas de redes sociais devem considerar uma série de possíveis respostas a conteúdo problemático além da sua exclusão, para garantir que as restrições sejam ajustadas de forma restrita (A/74/486, parágrafo 51).

Ao avaliar os riscos representados por conteúdo potencialmente violento, o Comitê guia-se pelo teste de seis fatores descrito no Plano de Ação de Rabat, que aborda a incitação à discriminação, hostilidade ou violência (OHCHR, A/HRC/22/17/Add.4, 2013). O teste considera o contexto, o locutor, a intenção, o conteúdo e a forma, o grau de disseminação da expressão e a probabilidade de dano iminente.

Para a maioria do Comitê, a remoção do conteúdo no caso em questão não é necessária nem proporcional. O teste de Rabat enfatiza o conteúdo e a forma do discurso como “um elemento essencial da incitação”. No conteúdo em análise no caso em voga, os comentários de Zemmour, conforme reproduzidos no clipe de 50 segundos publicado pelo usuário, não interagem diretamente com os elementos conspiratórios da Teoria da Grande Substituição e o vídeo não contém elementos inflamatórios, como imagens violentas ou incitadoras. Os comentários e a legenda também não contêm nenhum apelo direto à violência ou à exclusão. A maioria acredita que seria uma violação da liberdade de expressão excluir conteúdo politicamente controverso com base em declarações feitas pelo locutor em outro lugar. A maioria considera os números citados por Zemmour apenas um pouco exagerados. A maioria também observa que o assunto principal das declarações de Zemmour no vídeo é a imigração, talvez uma das questões políticas mais importantes da atualidade.

Para uma minoria de membros do Comitê, o conteúdo desse caso não descumpre as políticas atuais da Meta (consulte a Seção 8.1). No entanto, a empresa elaborou um conjunto de políticas destinadas a evitar a criação de um ambiente de exclusão e intimidação que não afeta apenas as minorias protegidas online (impactando as vozes de grupos excluídos), mas também offline. De acordo com essas políticas, as narrativas antissemitas e de supremacia branca, bem como o conteúdo das redes de conspiração de violência, são moderados. A remoção desse conteúdo está de acordo com as responsabilidades de direitos humanos da Meta. Conforme explicado na Seção 2 acima, a Teoria da Grande Substituição argumenta que há um plano deliberado para conseguir a substituição das populações brancas na Europa por populações migrantes predominantemente da África e da Ásia. A disseminação das narrativas da Teoria da Grande Substituição contribuiu para incitar o racismo, o ódio e a violência contra imigrantes, europeus não brancos e muçulmanos. Uma minoria do Comitê enfatiza que não se trata apenas de uma ideia abstrata ou de uma opinião controversa, mas de uma típica teoria da conspiração que causa danos online e no meio físico. Sem dúvida, isso contribui para a criação de uma atmosfera de exclusão e intimidação de certas minorias. A evidência do dano produzido pela circulação agregada ou cumulativa, em escala e em alta velocidade de conteúdo antissemita nas plataformas da Meta, conforme discutido no caso Negação do Holocausto, é semelhante à evidência do dano produzido pela Teoria da Grande Substituição, indicada na Seção 2. Por essas razões, uma minoria considera inconsistente com o princípio da não discriminação e com os valores de segurança e dignidade da Meta o fato de a empresa ter decidido proteger certos grupos minoritários ameaçados da exclusão e discriminação causadas por narrativas conspiratórias, enquanto mantém desprotegidos outros que estão em uma situação de risco semelhante. Uma minoria do Comitê não encontrou nenhuma razão convincente para diferenciar a abordagem da Meta à Teoria da Grande Substituição da abordagem da empresa a outras narrativas conspiratórias mencionadas acima, que a Meta modera de acordo com suas responsabilidades com os direitos humanos.

Em relação ao acima exposto, para uma minoria do Comitê, o maior desafio enfrentado pelas empresas de redes sociais não está em itens individuais de conteúdo, mas no acúmulo de conteúdo prejudicial que é compartilhado em grande escala e em alta velocidade. O Comitê explicou que “a moderação do conteúdo de forma a abordar os danos cumulativos do discurso de ódio, mesmo quando a manifestação não incita diretamente violência ou discriminação, pode estar de acordo com as responsabilidades da Meta em relação aos direitos humanos em determinadas circunstâncias,” (veja as decisões Representação de Zwarte Piet e Violência comunitária no estado indiano de Odisha) Em 2022, o CERD expressou sua preocupação “com a persistência e a disseminação do discurso racista e discriminatório [na França], especialmente na mídia e na internet”. Para uma minoria, o acúmulo de conteúdo relacionado à Teoria da Grande Substituição “cria um ambiente em que é mais provável que atos de violência sejam tolerados e reproduzam a discriminação em uma sociedade” (consulte as decisões Representação de Zwarte Piet e Violência comunitária no estado indiano de Odisha). Uma minoria destacou que, de acordo com os UNGPs, “as empresas devem prestar atenção especial a qualquer impacto específico aos direitos humanos em indivíduos de grupos e povos que possam estar em maior risco de vulnerabilidade e marginalização” (UNGPs, Princípios 18 e 20). Conforme indicado na Seção 2 acima, as principais vítimas de racismo na França são os imigrantes, especialmente os de origem africana e seus descendentes. Em uma entrevista de 2023, o Diretor Geral de Segurança Interna da França compartilhou sua crença de que grupos extremistas, incluindo aqueles que pensam que precisam agir para impedir a “Grande Substituição”, representam uma séria ameaça no país.

Embora a Meta tenha declarado que a moderação de conteúdo relacionado à teoria da conspiração arriscaria a remoção de “uma quantidade inaceitável de discurso político”, uma minoria do Comitê observou que a empresa não forneceu nenhuma evidência ou dados para apoiar essa afirmação. Além disso, a Meta não explicou por que isso ocorre com o conteúdo da Teoria da Grande Substituição, mas não com, por exemplo, conteúdo de supremacia branca ou antissemita, uma vez que esses conteúdos também poderiam ser entendidos como a disseminação de teorias da conspiração. Considerando as razões acima, para uma minoria, a Meta precisa revisar suas políticas para abordar o conteúdo que promove a Teoria da Grande Substituição, a menos que a empresa tenha evidências suficientes: (i) para descartar o dano resultante da disseminação desse tipo de conteúdo, conforme discutido nesta decisão; ou (ii) para demonstrar que o impacto da moderação desse tipo de conteúdo sobre o discurso político protegido seria desproporcional. Para uma resposta proporcional, entre outras opções, a Meta poderia considerar a criação de uma política de escalonamento apenas para permitir a remoção de conteúdo que expresse abertamente o apoio à Teoria da Grande Substituição, sem afetar o discurso político protegido, ou considerar a designação de atores explicitamente envolvidos com a Teoria da Grande Substituição como parte de uma rede de conspiração de violência no âmbito da Política sobre Organizações e Indivíduos Perigosos da Meta.

A maioria está cética quanto à possibilidade de elaboração de uma política na qual o conteúdo em questão violaria as regras ou normas estabelecidas, o que poderia satisfazer as exigências de legalidade, necessidade e proporcionalidade, especialmente devido à ausência das palavras “Grande Substituição” ou qualquer variação delas no conteúdo. Uma tentativa de remover esse conteúdo, mesmo que tomado como uma referência codificada, resultaria na remoção de quantidades significativas de expressão política protegida. O conteúdo que é protegido em sua aparência não deve sofrer “culpa por associação” devido à identidade do locutor ou à semelhança com ideologias que incitam o ódio.

9. Decisão do Comitê de Supervisão

O Comitê de Supervisão concorda com a decisão da Meta de manter o conteúdo.

10. Recomendações

Transparência

1. A Meta deve fornecer mais detalhes em seus Padrões da Comunidade sobre Discurso de Ódio em relação a como ela distingue discussões relacionadas à imigração de discursos prejudiciais direcionados a pessoas com base em seu status migratório. Isso inclui a explicação de como a empresa lida com o conteúdo que divulga teorias da conspiração que incitam o ódio. Isso é necessário para que os usuários entendam como a Meta protege o discurso político sobre imigração e, ao mesmo tempo, aborda os possíveis danos no meio físico de teorias da conspiração que incitam o ódio.

O Comitê levará em consideração essa implementação quando a Meta publicar uma atualização explicando como está abordando os debates sobre imigração no contexto da Teoria da Grande Substituição, e criar links para a atualização de forma proeminente em sua Central de Transparência.

*Nota processual:

As decisões do Comitê de Supervisão são preparadas por grupos com cinco membros e aprovadas pela maioria do Comitê. As decisões dele não representam, necessariamente, as opiniões pessoais de todos os membros.

Para a decisão sobre o caso em questão, uma pesquisa independente foi encomendada em nome do Comitê. O Comitê também recebeu assistência da Duco Advisors, uma empresa de consultoria especializada na intercessão entre as áreas de geopolítica, confiança e segurança, e tecnologia. A Memetica, uma organização dedicada à pesquisa de código aberto sobre tendências de redes sociais, também forneceu análises. A empresa Lionbridge Technologies, LLC, cujos especialistas são fluentes em mais de 350 (trezentos e cinquenta) idiomas e trabalham de 5.000 (cinco mil) cidades pelo mundo, forneceu a consultoria linguística.

Voltar para Decisões de Casos e Pareceres Consultivos sobre Políticas