Críticas às políticas de imigração da UE e aos imigrantes

Para ler a decisão completa em polonês, clique aqui.

Aby zapoznać się z tą decyzją w języku polskim, kliknij tutaj.

Para ler a decisão completa em alemão, clique aqui.

Klicken Sie hier, um diese Entscheidung auf Deutsch zu lesen.

Resumo

A maioria do Comitê considerou que dois conteúdos relacionados à imigração, publicados no Facebook antes das eleições de junho de 2024 para o Parlamento Europeu, violam a Política sobre Conduta de Ódio e a Meta deve retirá-los do ar. O Comitê reconhece que o direito à liberdade de expressão é fundamental ao avaliar discussões e comentários políticos. No entanto, conteúdos como essas duas postagens contribuíram para aumentar os riscos de violência e discriminação no período que antecedeu uma eleição, na qual a imigração era uma questão política importante e o sentimento anti-imigrantes estava em alta. Para a maioria, é necessário e proporcional removê-las. Um post de um partido político polonês usa intencionalmente uma terminologia racista para despertar o sentimento anti-imigrantes. O outro post generaliza os imigrantes como estupradores de gangues, uma afirmação que, quando repetida, desperta o medo e o ódio.

Observação adicional: As revisões de 7 de janeiro de 2025 da Meta não mudaram o resultado desses casos, apesar de o Comitê ter considerado as regras no momento da postagem e as atualizações durante a deliberação. Sobre as alterações mais abrangentes às políticas e à aplicação anunciadas apressadamente pela Meta em janeiro, o Comitê tem a preocupação de que a Meta não tenha compartilhado publicamente, quais, se alguma, diligências anteriores sobre direitos humanos foram realizadas de acordo com seus compromissos segundo os Princípios Orientadores das Nações Unidas sobre Negócios e Direitos Humanos. É crucial que a Meta garanta a identificação de impactos adversos contra os direitos humanos e a prevenção contra eles globalmente.

Sobre o caso

O primeiro caso abrange um meme postado na página do Facebook oficial da aliança política de extrema-direita da Polônia, a Confederação. No meme, o primeiro-ministro polonês Donald Tusk olha por um olho-mágico de uma porta enquanto um homem negro se aproxima dele pelas costas. No texto em polonês, se lê: “Good evening, did you vote for Platform?” (Boa noite, você votou na Plataforma?) “I’ve brought the murzyn from the immigration pact” (Eu trouxe os murzyn do pacto de imigração). A Plataforma é o partido político de Tusk, a coalizão Plataforma Cívica, enquanto o pacto é o Pacto em matéria de Migração e Asilo da União Europeia. A palavra polonesa “murzyn” é usada para descrever pessoas negras e é amplamente considerada pejorativa. A legenda critica o pacto da UE e encoraja as pessoas a votarem na Confederação durante as eleições europeias para interromper a “uncontrolled immigration” (migração descontrolada) O conteúdo foi visualizado aproximadamente 170 mil vezes.

No segundo caso, uma página do Facebook alemã que se descreve como contra grupos esquerdistas postou uma imagem gerada por IA de uma mulher loira de olhos azuis com a mão levantada fazendo um gesto de pare. Lê-se no texto em alemão que as pessoas não deveriam mais vir ao país porque “gang rape specialists” (especialistas em estupros em grupo) não eram mais necessários devido à política de imigração do Partido Verde. Também há um endereço que não está em hyperlink no artigo, com o título “Non-German suspects in gang rapes” (Suspeitos de estupro em grupo não alemães) no site do Parlamento Alemão. O post foi visualizado aproximadamente 9 mil vezes.

Ambos os posts foram denunciados por discurso de ódio. A Meta não encontrou violações, e os deixou no Facebook. Depois, os usuários fizeram uma apelação dos casos para o Comitê.

Principais descobertas

A maioria do Comitê conclui que ambos os posts violam a renomada Conduta de ódio, enquanto uma minoria também não encontrou violações.

O post polonês inclui a palavra “murzyn”, que a maioria considera uma calúnia discriminatória, usada para atacar pessoas negras com base na raça. As mudanças de 7 de janeiro da Meta não impactaram sua regra sobre calúnias, definidas como “palavras que criam, de modo inerente, um ambiente de exclusão e de intimidação de pessoas com base em uma característica protegida”. Ao implicar a inferioridade ou falta de higiene de pessoas negras, a natureza ofensiva do termo é reconhecida nos principais dicionários do polonês. Também é perceptível que movimentos da sociedade civil falante de polonês e liderada por pessoas negras desempenharam um papel importante na conscientização da sua natureza discriminatória e seus impactos nocivos. A maioria observa que a Meta não incluiu atualmente a palavra “murzyn” como calúnia e recomenda que isto seja alterado. Além disso, também solicita que a empresa aplique sua política sobre calúnias com maior precisão.

Uma minoria do Comitê discorda e considera que o termo não se encaixa na definição de calúnia da Meta e que é necessário se ter evidências mais claras se o termo cria inerentemente uma atmosfera de exclusão e intimidação.

A maioria também conclui que o post alemão é violador porque contém um ataque de Nível 1, generalizando que a maioria dos imigrantes são “gang rape specialists” (especialistas em estupros em grupo). Essa regra, que não permite alegações de “imoralidade e criminalidade graves” com base no status de migração, incluindo chamar pessoas de “predadores sexuais”, continua inalterada desde 7 de janeiro. Para a regra ser aplicada, os posts devem ser direcionados para mais de 50% de um grupo, com as orientações da Meta (não disponíveis ao público) aconselhando os analistas a deixarem ativos os conteúdos quando não for claro se as condições foram atendidas. Este é o motivo por qual a Meta deixou ativo o post alemão. A maioria do Comitê discorda da avaliação da Meta. Ele recomenda que a empresa altere sua regra para exigir que os usuários indiquem claramente que eles são direcionados para menos do que a metade de um grupo ao usar, por exemplo, quantitativos como “alguns”.

Uma minoria do Comitê discorda, considerando que o post alemão não afirma ou implica que todos ou a maioria dos imigrantes cometem estupros em grupo.

Por fim, a maioria observa que seria apropriado para a Meta considerar os efeitos que acumular essas condutas de ódio em suas plataformas terá nos direitos humanos. Uma minoria discorda da maioria e considera que as remoções seriam justificáveis apenas se os posts constituíssem incitações à provável violência ou discriminação iminentes. As duas publicações não incitavam ações que não a participação em eleições e a discussão do interesse público sobre imigração.

A decisão do Comitê de Supervisão

O Comitê de Supervisão revoga a decisão da Meta nos dois casos.

O Comitê recomenda que a Meta faça o seguinte:

• Em respeito às atualizações de 7 de janeiro de 2025 aos Padrões da Comunidade sobre Conduta de Ódio, a Meta deverá identificar como as atualizações à política e à aplicação podem impactar adversamente os direitos dos imigrantes, em particular refugiados e pessoas em busca de asilo. O foco deve ser colocado em mercados onde essas populações estão em maior risco. Ela deverá adotar medidas para prevenir e/ou mitigar esses riscos e monitorar a efetividade deles. Por fim, a Meta deve enviar atualizações ao Comitê semestralmente sobre o progresso, com a divulgação pública de relatórios assim que for oportuno.
• Adicionar o termo “murzyn” à lista de calúnias do mercado polonês.
• Garantir que a empresa trabalhe externamente de forma ampla com partes interessadas relevantes, incluindo a consulta com grupos impactados e sociedade civil, quando estiver auditando suas listas de calúnias.
• Atualizar suas orientações internas, tornando claro que ataques de Nível 1 (incluindo aqueles com base no status de imigração) são proibidos a menos que esteja claro no conteúdo que ele se refere a um subconjunto definido de menos do que a metade do grupo. Isto reverteria a presunção atual de que o conteúdo se refere a uma minoria, a menos que afirme explicitamente o contrário.

*Os resumos de casos fornecem uma visão geral dos casos e não têm valor de precedente.

cisão completa sobre o caso

1. Descrição do caso e histórico

O Comitê de Supervisão analisou dois casos envolvendo conteúdo postado no Facebook antes das eleições do Parlamento Europeu em junho de 2024, onde a imigração foi um dos principais pontos. Em maio desse ano, o Pacto em matéria de Migração e Asilo da União Europeia (UE) foi adotado, estabelecendo novas regras para gerenciar a migração na Europa.

O primeiro caso abrange um meme postado por um administrador da página do Facebook oficial da aliança política de extrema-direita da Polônia, a Confederação (Konfederacja Wolność i Niepodległość). A imagem exibe o primeiro-ministro do país, Donald Tusk, olhando pelo olho-mágico de uma porta enquanto um homem negro se aproxima pelas costas dele. Lê-se no texto em polonês da imagem: “Good evening, did you vote for Platform?” (Boa noite, você votou na Plataforma?) Eu trouxe os murzyn do pacto de imigração.” O termo “Plataforma” refere-se à coalização centrista de Tusk chamada Plataforma Cívica, que chegou ao poder em dezembro de 2024. “Murzyn”, a palavra polonesa utilizada para descrever pessoas negras no texto, é amplamente considerada uma calúnia pejorativa na Polônia, embora a Meta não o proíba. A legenda critica o pacto da UE e encoraja as pessoas a votarem na Confederação durante as eleições europeias para evitar que imigrantes sejam aceitos na Polônia e na UE. A publicação foi visualizada cerca de 170 mil vezes, compartilhada menos do que 500 vezes e tem menos do que 500 comentários.

No segundo caso, o administrador de uma página do Facebook alemã descrita como contra grupos esquerdistas publicou uma imagem que parece ser gerada por IA. A imagem exibe uma mulher loira de olhos azuis com a mão levantada fazendo um gesto de pare e com a bandeira da Alemanha no plano de fundo. O texto em alemão na imagem afirma que pessoas não deveriam mais vir à Alemanha já que “gang rape specialists” (especialistas em estupros em grupo) devido à política de imigração do Partido Verde. Segue-se, em texto em fonte muito menor, um endereço de site que não está em hyperlink para um artigo no site do Parlamento Alemão, com o título “Non-German suspects in gang rapes” (Suspeitos de estupro em grupo não alemães). A publicação foi visualizada cerca de 9 mil vezes e compartilhada menos do que 500 vezes.

Dez usuários do Facebook denunciaram o post em polonês e um denunciou o post em alemão por discurso de ódio. A Meta manteve os dois posts no Facebook, e , após cada apelação à Meta ter sido malsucedida, os dois casos foram enviados ao Comitê para apelação.

Em 7 de janeiro de 2025, a Meta anunciou alterações à sua Política sobre Discurso de Ódio, renomeando-a para Política sobre Conduta de Ódio. Essas alterações, na medida do necessário para esses casos, serão descritas na Seção 3 e analisadas na Seção 5. O Comitê observa que os conteúdos são acessíveis nas plataformas da Meta de forma contínua, e políticas atualizadas são aplicadas a todos os conteúdos presentes na plataforma, independentemente de onde tenham sido postados. Portanto, o Comitê avalia a aplicação das políticas conforme o estado delas na época da postagem e, se aplicável, conforme tenham sido atualizadas desde então (ver também a abordagem em Negação do Holocausto).

2. Envios de usuários

O usuário que fez a apelação contra o post em polonês citou referências acadêmicas como evidências para a posição de que o termo “murzyn” é pejorativo e depreciativo e perpetua estereótipos e discriminação raciais. O usuário que fez a apelação contra o post em alemão observou que ele parecia afirmar que todos os refugiados são criminosos e estupradores.

3. Políticas de conteúdo e envios da Meta

I. Políticas de conteúdo da Meta

Padrão da Comunidade sobre Conduta de Ódio (anteriormente conhecida como Discurso de Ódio)

A Meta define “conduta de ódio” da mesma forma que definiu “discurso de ódio” anteriormente, como “ataques diretos contra as pessoas” com base em características protegidas, que incluem origem nacional, raça e etnia. A política continua a tratar o status de imigração como uma “característica quase protegida”. Isso significa que a Meta protege apenas imigrantes dos ataques mais graves no Nível 1 da política. Em 7 de janeiro, a Meta adicionou à explicação da política que as pessoas “solicitam exclusão ou recorrem a linguagem ofensiva ao abordar tópicos políticos ou religioso”, incluindo a imigração. Agora, a Meta afirma explicitamente que as suas “políticas foram criadas para dar espaço a esses tipos de discurso”.

O Nível 1 proíbe “alegações de imoralidade e criminalidade graves”, citando predadores sexuais e criminosos violentos como exemplos. A política anteriormente proibia alegações sobre formas menos graves de criminalidade, mas foi movida do Nível 1 para o Nível 2. O Nível 2 não fornece tais proteções a imigrantes. Portanto, a Meta agora permite asserções que a maioria dos imigrantes são, por exemplo, ladrões. O Nível 2 continua proibindo apelos à exclusão, mas a proteção não se estende aos imigrantes.

O Nível 1 afirma que as proibições não se aplicam se o conteúdo é direcionado para menos do que a metade de um grupo. As orientações internas da Meta para moderadores explicam como abordar ataques diretos que se refiram a menos do que 100% do grupo alvo, incluindo a base do status de imigração. Se o conteúdo contém um quantitativo como “maioria”, indicando que ele se refere a mais do que 50% do grupo, a proibição do Nível 1 é aplicada. Se não estiver claro se o conteúdo se refere a mais do que 50% do grupo, então o conteúdo é permitido. Sendo assim, o conteúdo que afirma que todos ou a maioria dos imigrantes em um país são estupradores ou criminosos violentos é proibido, mas o conteúdo que afirma que alguns deles são estupradores ou criminosos violentos é permitido.

O Nível 1 da Política sobre Conduta de Ódio continua a proibir “conteúdo direcionado negativamente a pessoas ou que as descreve com calúnias”. Calúnias são definidas como palavras que criam, de modo inerente, uma atmosfera de exclusão e intimidação contra pessoas com base em uma característica protegida, frequentemente porque essas palavras estão associadas a discriminação, opressão e violência históricas. A Meta definiu como desenvolve, aplica e atualiza sua lista de calúnias na sua Central de Transparência.

II. Envios da Meta

A Meta manteve as duas publicações, concluindo que nenhuma delas violou sua renomada Política sobre Conduta de Ódio. A Meta confirmou que as alterações feitas em 7 de janeiro não impactaram suas decisões porque suas políticas sobre calúnias raciais e generalizações que comparam imigrantes a predadores sexuais ou criminosos violentos não foi alterada.

A Meta afirmou que o post em polonês não violou a política porque ele não continha um ataque violador de acordo com o Nível 1. A Meta não designou o termo “murzyn” como calúnia no mercado polonês. A Meta explicou que o termo foi considerado para categorização por último em 2023, mas não foi adicionado porque a Meta determinou que seu uso era historicamente neutro e, embora possa ser usado de forma depreciativa, sua semelhança com outras palavras poderia resultar em over-enforcement.

Quanto à publicação em alemão, a Meta concluiu que o conteúdo não era violador uma vez que “não está claro se o conteúdo está se referindo a todos, a maioria ou a alguns imigrantes como especialistas em estupro em grupo”. Para a Meta, o conteúdo não afirma ou implica que todos ou a maioria dos imigrantes cometerão estupros em grupo. A Meta também observou que o artigo referenciado no post não embasa a conclusão de que o conteúdo ataca a maioria dos imigrantes que chegam à Alemanha.

Por fim, embora a Meta tenha reconhecido que ambos os posts podem ser lidos como excludentes, a empresa explicou que eles não violam sua proibição de “apelos de exclusão”, uma vez que as proibições do Nível 2 não fornecem proteções com base no status de imigração.

O Comitê fez perguntas a respeito da Política sobre Conduta de Ódio da Meta, sobre as listas de calúnias da empresa e como ela avalia conteúdo de partidos políticos e de discursos anti-imigrantes no contexto eleitoral. A Meta respondeu a todas as perguntas.

4. Comentários públicos

O Comitê de Supervisão recebeu dezoito comentários públicos que atenderam aos termos para envio. Deles, quinze eram da Europa, dois eram dos Estados Unidos e um era da África Subsaariana. Dado que o período para comentários públicos foi encerrado antes de 7 de janeiro de 2025, nenhum dos comentários abordou as mudanças que a Meta fez à sua política nesse período. Para ler comentários públicos enviados com consentimento de publicação, clique aqui.

Os envios abordaram os seguintes temas: se o termo “murzyn” é uma calúnia discriminatória; retórica anti-imigrantes em redes sociais; vínculos entre discurso de ódio online e violência no meio físico; a importância da possibilidade de discutir questões imigratórias; e o crescimento de teorias da conspiração em retórica política sobre questões de imigração.

5. Análise do Comitê de Supervisão

O Comitê selecionou estes casos para avaliar como a Meta garante a liberdade de expressão em discussões sobre imigração enquanto respeita os direitos humanos dos imigrantes em contexto eleitoral. Esses casos se enquadram nas prioridades estratégicas do Comitê referentes a discurso de ódio contra grupos marginalizados e eleições e espaço cívico.

O Comitê analisou as decisões da Meta nesses casos em relação às políticas de conteúdo, aos valores e às responsabilidades de direitos humanos da empresa. Ele também avaliou as implicações desses casos quanto à abordagem mais ampla da Meta em relação à governança de conteúdo.

5.1 Conformidade com as políticas de conteúdo da Meta

A maioria do Comitê conclui que os posts em polonês e em alemão violam a Política sobre Conduta de Ódio e que devem ser removidos do Facebook. No entanto, uma minoria não encontrou violações de acordo com a Política sobre Conduta de Ódio. A decisão do Comitê não foi alterada como resultado das alterações feitas pela Meta em 7 de janeiro.

A maioria do Comitê considera que o termo “murzyn” é uma calúnia discriminatória dentro do significado da política da Meta porque ele é usado para atacar pessoas negras com base na raça delas, inerentemente criando uma atmosfera de exclusão e intimidação discriminatória. O Comitê observa que o termo é predominantemente usado online como parte de afirmações pejorativas sobre pessoas negras (leia também os comentários públicos, incluindo aqueles do Institute for Strategic Dialogue, PC-30797, PC-30795 e PC-30790). Os especialistas consultados pelo Comitê explicaram que o termo é usado em gírias e provérbios que implicam na inferioridade ou falta de higiene das pessoas negras, com base na raça. Os movimentos da sociedade civil falante de polonês e liderada por pessoas negras na Polônia desempenharam um papel chave na conscientização da sua natureza discriminatória e seus impactos nocivos. Danos, incluindo perpetuar estereótipos negativos e legitimar tratamentos discriminatórios ao retratar pessoas negras como os “outros” dentro da sociedade, resultam da natureza discriminatória do termo e das associações com inferioridade. Para a maioria, é especialmente convincente que um termo seja visto tanto como discriminatório como danoso pelo grupo marginalizado ao qual ele se refere. Por isso, a Meta deve ser mais sistemática e minuciosa durante sua consulta com grupos impactados ao auditar sua lista de calúnias e mais abrangente ao atualizar suas políticas.

O Comitê observa que os significados contemporâneos do termo importam. Embora alguns falantes de polonês afirmem que o termo é neutro, o Conselho do idioma polonês emitiu uma orientação em 2020 afirmando que ele é arcaico, pejorativo e não deve ser usado na esfera pública. Os especialistas também observam que, embora o termo possa ter sido percebido como neutro durante o século XX, já possuía conotações negativas e pejorativas antes disso. Por exemplo, a palavra anteriormente significava “um escravo””, vinculando-a a um dos piores exemplos de discriminação, opressão e violência da história e se encaixando claramente na definição da Meta de calúnia. Os principais dicionários do idioma polonês atualizaram suas definições do termo para reconhecê-lo como ofensivo. Por estes motivos, a maioria considera que o uso do termo cria uma atmosfera de exclusão e intimidação. Por isso, o Comitê emite uma recomendação para garantir que a Meta aplique de forma mais precisa sua política sobre calúnias agora em diante. A maioria também observa que, se o post não tivesse usado a calúnia, ele teria sido permitido de acordo com as políticas de conteúdo da Meta (veja a decisão do Comitê sobre Armênios no Azerbaijão).

Uma minoria do Comitê discorda que o post em polonês seja violador, considerando que o termo não se encaixa na definição de calúnia da Meta. Embora o termo possa ser visto como ofensivo e discriminatório, ele é insuficiente para se concluir que deve ser considerado um termo a ser banido. Para a minoria, a política da Meta requer evidências mais claras de que o uso do termo cria inerentemente uma atmosfera de exclusão e intimidação. Deve haver mais do que laços correlativos aos períodos de discriminação, opressão e violência histórica( em outros tempos e lugares), deve haver evidência de que seu uso foi e continua sendo intrínseco ao infligimento desses danos.

A maioria do Comitê conclui que o post alemão constitui um ataque de Nível 1 ao generalizar que a maioria dos imigrantes são “gang rape specialists” (especialistas em estupros em grupo). Essa proibição continua a mesma após as alterações da política da Meta de 7 de janeiro

Para a maioria, a caracterização de imigrantes que entram no país como “gang rape specialists” (especialistas em estupros em grupo) sem qualquer tipo de expressões quantitativas (como “alguns” ou “muitos”) claramente transmite um ataque generalizado a todos os imigrantes. Contrário à avaliação da Meta, o fato de que o post inclui o endereço web (que não está em hyperlink e aparece em fonte menor) de um artigo com o título “Non-German suspects in gang rapes” (Suspeitos de estupro em grupo não alemães) não afeta esta conclusão. Ao contrário, ele embasa a conclusão do Comitê. O texto no post inclui apenas o título do artigo, o qual, em vez de transmitir as nuances discutidas na totalidade da análise do artigo, implica que “não alemães” são geralmente os suspeitos de estupro em grupo.

Para uma aplicação mais precisa da Política sobre Conduta de Ódio, a maioria do Comitê recomenda que a Meta reverta sua presunção padrão de que a menos que o conteúdo se refira claramente a mais do que 50% de um grupo, ele será considerado não violador (por exemplo: “imigrantes são estupradores em grupo” deve ser considerado uma generalização e, portanto, violador). A Meta deve exigir que os usuários que postem conteúdo que pode violar a Política sobre Conduta de Ódio indiquem claramente que eles estão direcionando menos do que 50% de um grupo (como “alguns imigrantes são estupradores em grupo”).

Uma minoria do Comitê conclui que, embora o post em alemão seja muito ofensivo, ele não é uma generalização proibida pela Política sobre Conduta de Ódio revisada da meta ou pela versão de antes de 7 de janeiro. O conteúdo não afirma ou implica que todos ou a maioria dos imigrantes são estupradores em grupo. Este grupo de Membros do Comitê também expressa preocupação a recomendação da maioria e considera que os usuários terem que explicar seus posicionamentos é um fardo indevido. O artigo mencionado no post,“Non-German suspects in gang rapes” (Suspeitos de estupro em grupo não alemães), não corrobora a conclusão de que o post está atacando a maioria dos imigrantes, uma vez que ele inclui uma discussão com nuances sobre os motivos pelos quais os imigrantes podem estar sendo super-representados nas estatísticas de estupros em grupos cometidos. A minoria observa que o post aborda um tópico de discussão válido, especialmente no contexto eleitoral onde a imigração, e particularmente a relação entre imigrantes e crime, é uma questão muito importante. As alterações da Meta de 7 de janeiro ao fundamento da Política sobre Conduta de Ódio torna claro que a empresa quer que suas políticas concedam mais espaço para a liberdade de expressão ao discutir imigração.

5.2 Conformidade com as responsabilidades da Meta relativas aos direitos humanos

A maioria do Comitê considera que a remoção dos dois posts, conforme exigido pela devida interpretação das políticas de conteúdo da Meta, também é consistente com as responsabilidades da Meta com os direitos humanos. Uma minoria do Comitê discorda e considera que a remoção não é consistente com essas responsabilidades.

Liberdade de expressão (Artigo 19 do PIDCP)

O artigo 19 do PIDCP prevê uma proteção ampla da expressão, inclusive sobre opiniões políticas, assuntos públicos e direitos humanos (Comentário Geral n.º 34 , parágrafos 11-12). Quando um Estado aplica restrições à expressão, elas devem atender aos requisitos de legalidade, objetivo legítimo e necessidade e proporcionalidade, segundo o parágrafo 3 do Artigo 19 do PIDCP). Esses requisitos costumam ser chamados de “teste tripartite”.

O Comitê usa esse modelo para interpretar as responsabilidades da Meta relativas aos direitos humanos de acordo com os Princípios Orientadores da ONU sobre Empresas e Direitos Humanos (UNGPs), com os quais a própria Meta se comprometeu em sua Política Corporativa sobre Direitos Humanos. O Comitê faz isso tanto em relação à decisão de conteúdo individual sob análise quanto ao que isso diz sobre a abordagem mais ampla da empresa à governança de conteúdo. De acordo com o Princípio 13 dos UNGPs, as empresas devem “evitar causar ou contribuir para impactos adversos aos direitos humanos por meio de suas próprias atividades” e “prevenir ou mitigar impactos adversos aos direitos humanos que estejam diretamente ligados às suas operações, aos seus produtos ou serviços”. Como afirmou o Relator Especial da ONU sobre liberdade de expressão, embora “as empresas não tenham obrigações governamentais, seu impacto é do tipo que exige que avaliem o mesmo tipo de questões sobre a proteção do direito de seus usuários à liberdade de expressão” ( A/74/486, parágrafo 41). Ao mesmo tempo, quando as regras da empresa diferem de normas internacionais, as empresas devem fornecer uma explicação detalhada da diferença da política com antecedência, de forma a articular a variação (ibid., parágrafo 48).

I. Legalidade (clareza e acessibilidade das regras)

O princípio da legalidade exige que as regras que limitam a expressão sejam acessíveis e claras, formuladas com precisão suficiente para permitir que um indivíduo regule sua conduta de acordo com elas (Comentário Geral n.º 34, parágrafo 25). Além disso, essas regras “podem não conceder liberdade de ação irrestrita para a restrição da liberdade de expressão aos encarregados de [sua] execução” e devem “fornecer instrução suficiente aos encarregados de sua execução para permitir-lhes determinar quais tipos de expressão são propriamente restritas e quais tipos não são” (Ibid). Quando aplicadas à governação do discurso online por parte de intervenientes privados, as regras devem ser claras e específicas (A/HRC/38/35, parágrafo 46). As pessoas que usam as plataformas da Meta devem ser capazes de acessar e entender as regras, e os moderadores de conteúdo devem ter orientações claras sobre sua aplicação.

O Comitê conclui que não existem problemas relacionados à legalidade das regras de Conduta de Ódio aplicadas nesses casos. No entanto, o Comitê demonstra preocupação que uma versão recente da política, seguida por uma atualização em dezembro de 2023, foi aplicada globalmente por muitos meses enquanto estava disponível apenas em inglês dos EUA, até que o Comitê questionou a Meta sobre isso. Os usuários que acessam a Central de Transparência por meio de qualquer outro mercado acessariam por padrão uma tradução desatualizada da política. O Comitê encoraja novamente a Meta a ter mais atenção ao garantir que suas regras são acessíveis em todos os idiomas o mais rápido possível após qualquer alteração na política (ver Preocupação de Punjab com a RSS na Índia).

II. Objetivo legítimo

Qualquer restrição à liberdade de expressão deve perseguir um ou mais dos objetivos legítimos do PIDCP, o que inclui os “direitos de terceiros” (artigo 19, parágrafo 3 do PIDCP). Em muitas decisões, o Comitê concluiu que a política de Discurso de ódio da Meta (renomeada para Conduta de Ódio) tem como objetivo proteger o direito à igualdade e à não discriminação, um objetivo legítimo que é reconhecido por normas internacionais de direitos humanos (ver exemplos como Animação Knin e Bot de Mianmar). Este continua sendo um objetivo legítimo da Política sobre Conduta de Ódio.

III. Necessidade e proporcionalidade

Nos termos do artigo 19(3) do PIDCP, a necessidade e a proporcionalidade exigem que as restrições à expressão “devem ser adequadas para atingir sua função de proteção; devem ser o instrumento menos intrusivo entre aqueles que podem atingir sua função de proteção; devem ser proporcionais ao interesse a ser protegido” (Comentário Geral n.º 34, parágrafo 34).

O valor da expressão é particularmente alto quando se discutem assuntos de interesse público e o direito à liberdade de expressão é fundamental na avaliação do discurso político e de comentários sobre assuntos públicos. As pessoas têm o direito de buscar, receber e transmitir ideias e opiniões de todos os tipos, incluindo aquelas que podem ser controversas ou extremamente ofensivas (Comentário Geral n.º 34, parágrafo 11). Na decisão Comentário de político sobre mudanças demográficas, o Comitê concluiu que, embora controversa, a expressão dessa opinião sobre imigração não incluiu expressões desumanizantes ou de ódio diretas direcionadas a grupos vulneráveis ou incitações à violência.

A maioria do Comitê considera que a remoção dos dois posts é necessária e proporcional. Isso foi orientado por seis fatores descritos no Plano de ação de Rabat ao avaliar os riscos gerados por potencial discurso de ódio.

Para o post em polonês, a palavra “murzyn” é usada de forma geral, e, neste caso, deprecia pessoas com base na raça. O repetido uso do termo nas plataformas da Meta cria um ambiente onde a discriminação e a violência contra pessoas negras são mais prováveis. Aqui, a calúnia não é usada dentro do contexto permitido, seja uma autorreferência empoderadora ou para condenar ou conscientizar sobre o discurso de ódio de outra pessoa. Para a maioria, os efeitos cumulativos do uso repetido da calúnia nas plataformas da Meta são comparáveis ao uso desumanizante de “blackface”, conforme discutido pela maioria no caso Zwarte Piet. É muito mais óbvio no post, no entanto, que o usuário está intencionalmente se valendo de terminologia racista para se aproveitar do sentimento anti-imigrantes ao usar estereótipos contra pessoas negras (enquanto a remoção no caso Zwarte Piet foi justificada sem a existência de intenção hostil).

Por esses motivos, a maioria do Comitê conclui que a remoção do post seria necessária independentemente de quando ele foi compartilhado. Ela também observa que, neste caso, se tratando de período eleitoral com grandes níveis de sentimento anti-imigrantes, houve riscos elevados de violência e discriminação. Os especialistas consultados pelo Comitê destacaram que grupos de vigilantes na Polônia se organizaram em redes sociais para formar “patrulhas”, que visam estrangeiros e pessoas com sotaques estrangeiros com intimidação e violência no meio físico, incluindo ataques a acomodações de imigrantes. De acordo com a OSCE, a polícia registrou 893 crimes de ódio na Polônia durante 2023, sendo a motivação racista e xenofóbica a categoria com maior número de registros. Uma pesquisa também já concluiu que pessoas com ascendência africana foram aquelas que mais sofreram crimes de ódio na Polônia. Neste contexto, é notável que o falante é um partido político com uma quantidade considerável de adeptos e de porcentagem de votos na Polônia. Ele tem um grande alcance (esse post teve cerca de 170 mil visualizações) e a capacidade de influenciar seus apoiadores a agirem e atraírem a atenção da mídia. Embora seja claramente importante que um partido político possa fazer campanha livremente durante uma eleição, incluindo levantar questões sobre a imigração, ele pode fazer isso sem usar calúnias raciais (ver Armênios no Azerbaijão).

O post em alemão compartilha um contexto similar ao post em polonês. Ele também foi compartilhado imediatamente antes das eleições, onde a imigração foi uma das principais questões política, com a presença de altos níveis de sentimento anti-imigrantes. De forma coerente com as políticas da Meta, a maioria considera a remoção de afirmações de que a maioria dos imigrantes são estupradores em grupo necessária e proporcional. Os crimes contra imigrantes e o discurso online anti-imigrantes estavam em alta na Alemanha durante o período em questão. O Alto Comissariado das Nações Unidas para os Direitos Humanos “expressou preocupação quanto ao retrato quase sempre extraordinariamente negativo dos imigrantes em muitos países, bem como grupos de minorias pela mídia, políticos e outros atores da sociedade [que pedem] por medidas drásticas para lidar com as crescentes ações xenofóbicas” ( A/HRC/22/17/ADD.4, parágrafo 3). Os especialistas consultados pelo Comitê observaram que a retórica anti-imigrantes na Alemanha, geralmente vocalizada e amplificada nas redes sociais, pode ter contribuído para ataques contra imigrantes e minorias (ver também comentários públicos PC-30803, PC-30797 e PC-30790). Os protestos de 2024 no Reino Unido também destacaram como o conteúdo em redes sociais sobre tópicos como raça e imigração podem contribuir para violência no meio físico. O post em alemão intencionalmente generaliza imigrantes como predadores sexuais, uma alegação que repetida várias vezes cria medo e ódio, criando as bases para a incitação à discriminação e violência contra esse grupo.

Os usuários, nos dois casos, poderiam ter contribuído para o debate público sem usar calúnias raciais ou participar de generalizações degradantes se a Meta estivesse notificando-os de que seus posts eram potencialmente violadores. A especificidade das notificações quando o conteúdo for removido é importante, mas a Meta também deve explorar aumentar o uso de prompts para convidar os usuários antes de postar para reconsiderarem expressões que possam potencialmente violar as políticas da empresa. No caso Protestos a favor de Navalny na Rússia, o Comitê recomendou que a Meta notificasse os usuários com os motivos pelos quais seus conteúdos eram violadores para que eles pudessem repostá-los sem a parte violadora. Em resposta à esta recomendação, a Meta apresentou notificações aos usuários avisando que seus posts poderiam ser violadores, dando-os a oportunidade de excluir e repostar conteúdo antes que qualquer regra fosse aplicada. A Meta compartilhou que, em um período de 12 semanas em 2023, os usuários escolheram apagar seus posts mais do que 20% das vezes, diminuindo o número de conteúdo violador através da autocorreção.

A maioria enfatiza que, ao alcançar decisões sobre os dois posts, os padrões para moderação de conteúdo de uma empresa de redes sociais não devem ser comparados diretamente com os padrões que limitam a aplicação de sanções legais pelos estados. A Meta não participa de investigações detalhadas após os fatos para apurar se um crime foi cometido, mas opera em tempo real com informações incompletas. Se ela precisasse esperar que discriminação ou violência sejam iminentes antes de agir, seria tarde demais para evitar danos de acordo com suas responsabilidades dos UNGPs. Tanto o desafio de avaliar o impacto de cada peça de conteúdo em escala e a natureza imprevisível da viralidade online justificam que a Meta assuma uma postura mais cuidadosa quando se trata de moderação.

A maioria reitera que a Meta, enquanto ator privado, pode remover discursos de ódio que adentram o limite da discriminação ou violência iminente, uma vez que isso está de acordo com o artigo 19(3) do ICCPR que lista exigências de necessidade e proporcionalidade (ver Calúnias na África do Sul). A Meta permitir todo discurso de ódio que não se encaixe no Artigo 20 do ICCPR tornaria as plataformas da Meta um lugar intolerante e inseguro para minorias e grupos marginalizados se expressarem. Nesses casos, pode acontecer de imigrantes e qualquer pessoa que não é branca se retirar do discurso público, o que causaria um efeito assustador que diminuiria o valor do pluralismo e do acesso de todas as pessoas à informação. Portanto, é apropriado que a abordagem da Meta à moderação de conteúdo considere os efeitos da acumulação de conteúdo de ódio em suas plataformas sobre os direitos humanos, mesmo quando os posts não incitarem discriminação ou violência iminente (ver Representação de Zwarte Piet, Violência comunitária no estado indiano de Odisha, Armênios no Azerbaijão e Animação Knin).

O Comitê observa que intervenções menos severas como rótulos, telas de aviso ou outras medidas para reduzir a disseminação, não teriam oferecido a proteção adequada contra os efeitos cumulativos de manter conteúdo dessa natureza na plataforma (ver Representação de Zwarte Piet e Animação Knin).

Uma minoria do Comitê considera que a remoção do post em alemão ou em polonês não é necessária ou proporcional. Ela observa que ambos os posts podem ser ofensivos, mas nenhum deles cruza os limites da incitação de atos de violência, discriminação ou hostilidade prováveis e iminentes. Para a minoria, o conceito de danos acumulativos não se baseia em princípios derivados das normas internacionais de liberdade de expressão. Em vez disso, os requisitos de causa básica não são cumpridos, esvaziando a avaliação de necessidade e proporcionalidade da matéria. Comparado ao uso do Plano de Ação de Rabat de forma estrita para avaliar a necessidade e a proporcionalidade da remoção de conteúdo com base na chance que a expressão tem de causar danos iminentes, o conceito de danos acumulativos abandona este fator principal. No que diz respeito aos posts, é significante que nenhum deles incitou ações que não a participação em eleições e/ou em discussões de assuntos de interesse público sobre imigração. É essencial que os usuários consigam expressar suas opiniões sobre as questões políticas mais urgentes que seus países enfrentam, incluindo a imigração. A minoria observa que um amplo leque de ferramentas de moderação de conteúdo está disponível para a Meta além da escolha binária de “manter o conteúdo/retirar o conteúdo”, com meios menos intrusivos do que remoções disponíveis para mitigar possíveis danos. Ao se deparar com a escolha binária de manter o conteúdo/retirar o conteúdo, uma minoria considera que existe mais peso na importância do eleitorado ter acesso completo às opiniões dos candidatos e partidos políticos no contexto de uma eleição, e a censura privada pode gerar riscos elevados ao processo democrático. As percepções de injustiça e de viés na moderação de preferências políticas ameaçam a legitimidade da governança da plataforma amplamente. A Meta deve se inspirar no Plano de ação de Rabat, que também se concentra em medidas de política positiva, para considerar meios menos intrusivos do que a censura para se certificar que danos em potencial sejam evitados.

Direito ao recurso

Os usuários que denunciaram essas publicações não foram informados de que as denúncias (ou as apelações) não foram priorizadas para análise. O Comitê reitera preocupações comunicadas anteriormente (ver Imagens explícitas de figuras públicas femininas criadas por IA) de que usuários podem não ter conhecimento de que sua denúncia ou apelação não foi priorizada para análise. Dado o anúncio de 7 de janeiro da Meta de que agora ela tem planos de se concentrar em sistemas automatizados para lidar com “violações ilegais e de alta gravidade” e para se basear mais em denúncias de usuários para violações de política “menos graves”, a demanda por análise de denúncias de usuários pode aumentar. É crucial para a Meta que ela consiga priorizar de forma precisa e realmente analisar o volume de denúncias que recebe para que suas políticas sejam aplicadas de forma justa. Quando as denúncias de usuários não são priorizadas para análise, os usuários devem ser informados de que nenhuma análise aconteceu.

Devida diligência de recursos humanos

Os Princípios 13, 17 (c) e 18 dos UNGPs exigem que a Meta participe da devida diligência de direitos humanos para alterar de forma significativa suas políticas e aplicação, o que a empresa normalmente faria através de seu Fórum de Políticas de Produto, incluindo a participação de partes interessadas impactadas. O Comitê também demonstra preocupação com o anúncio apressado das alterações à política e à aplicação de 7 de janeiro de 2025, de forma diferente do procedimento regular, sem compartilhamento de informações públicas sobre questões como qual devida diligência de direitos humanos foi realizada.

Agora que estas mudanças estão sendo implementadas globalmente, é importante que a Meta garanta que os impactos adversos dessas alterações sobre os direitos humanos sejam identificados, mitigados, prevenidos e divulgados publicamente. Isso deve incluir um foco em como grupos podem ser impactados de forma diferente, incluindo imigrantes, refugiados e pessoas em busca de asilo. No que diz respeito a alterações na aplicação, a devida diligência deve considerar tanto os riscos de over-enforcement (Convocação das mulheres para protesto em Cuba, Ressignificação de palavras árabes) quanto de under-enforcement (Negação do Holocausto, Violência homofóbica na África Ocidental, Post em polonês contra pessoas trans).

6. A decisão do Comitê de Supervisão

O Comitê de Supervisão revoga a decisão da Meta de manter o conteúdo nos três casos.

7. Recomendações

Política de conteúdo

1. Como parte da devida diligência de direitos humanos, a Meta deve realizar todas as etapas a seguir a respeito das atualizações ao Padrão da Comunidade sobre Conduta de Ódio em 7 de janeiro de 2025. Em primeiro lugar, ela deverá identificar como as atualizações à política e à aplicação podem impactar adversamente os direitos dos imigrantes, em particular refugiados e pessoas em busca de asilo com foco em mercados onde estas populações estejam em maior risco. Em segundo lugar, a Meta deverá adotar medidas para prevenir e/ou mitigar esses riscos e monitorar a efetividade deles. Em terceiro lugar, a Meta deverá atualizar o Comitê sobre seu progresso e descobertas a cada seis meses e fornecer relatórios públicos sobre isso o quanto antes.

O Comitê considerará que esta recomendação foi implementada quando a Meta fornecer ao Comitê dados e análises robustas sobre a eficácia de suas medidas de prevenção ou mitigação sobre a cadência do destacado acima e quando a Meta divulgar relatórios públicos sobre essa questão.

Monitoramento

2. A Meta deve adicionar o termo “murzyn” à lista de calúnias do mercado polonês.

O Comitê considerará a recomendação implementada assim que a Meta informar o Comitê que isto foi feito.

3. Quando a Meta auditar suas listas de calúnias, ela deve se certificar de que há ampla participação externa com partes interessadas relevantes. Isso deve incluir a consulta com grupos afetados e a sociedade civil.

O Comitê considerará que esta recomendação foi implementada quando a Meta alterar sua explicação de como audita e atualiza suas listas de calúnias específicas de cada mercado na sua Central de Transparência.

4. Para reduzir os casos de conteúdos que violam sua Política sobre Conduta de Ódio, a Meta deve atualizar suas orientações internas para tornar claro que ataques de Nível 1 (incluindo aqueles com base no status de imigração) são proibidos a menos que esteja claro no conteúdo que ele se refere a um subconjunto definido de menos do que a metade do grupo. Isto reverteria a presunção atual de que o conteúdo se refere a uma minoria, a menos que afirme explicitamente o contrário.

O Comitê considerará que essa recomendação foi implementada quando a Meta fornecer as regras atualizadas ao Comitê.

*Nota processual:

• As decisões do Comitê de Supervisão são tomadas por painéis de cinco membros e aprovadas por maioria de votos do Comitê inteiro. As decisões dele não representam, necessariamente, as opiniões de todos os membros.
• De acordo com seu Estatuto, o Comitê de Supervisão pode analisar apelações de usuários cujo conteúdo foi removido pela Meta, apelações de usuários que denunciaram conteúdo que a Meta manteve ativo e decisões que a Meta encaminha a ele (Seção 1 do Artigo 2 do Estatuto). O Comitê tem autoridade vinculativa para manter ou anular as decisões de conteúdo da Meta (Seção 5 do Artigo 3 e 4 do Estatuto). Ele pode emitir recomendações não vinculativas às quais a Meta é obrigada a responder (Seção 4 do Artigo 3 e 4 do Estatuto). Quando a Meta se compromete a agir de acordo com as recomendações, o Comitê monitora sua implementação.
• Para a decisão sobre o caso em questão, uma pesquisa independente foi encomendada em nome do Comitê. O Comitê recebeu assistência da Duco Advisors, uma empresa de consultoria especializada na intercessão entre as áreas de geopolítica, confiança e segurança, e tecnologia. A empresa Lionbridge Technologies, LLC, cujos especialistas são fluentes em mais de 350 idiomas e trabalham de 5 mil cidades pelo mundo, forneceu a consultoria linguística.

Voltar para Decisões de Casos e Pareceres Consultivos sobre Políticas