Comentários com incitações à limpeza étnica

As decisões sumárias examinam casos em que a Meta reverteu a decisão original dela sobre um conteúdo depois que o Comitê o levou à atenção da empresa e incluem informações sobre os erros reconhecidos por ela. Elas são aprovadas por um painel de membros do Comitê, e não por ele inteiro, não envolvem comentários públicos e não têm valor precedente para o Comitê. As decisões sumárias geram mudanças diretas nas decisões da Meta, proporcionando transparência nessas correções e identificando em que área a empresa poderia melhorar sua aplicação.

Resumo

Um usuário apelou das decisões da Meta de deixar ativos três comentários no Facebook que incitavam a limpeza étnica dos albaneses no Kosovo. Após o Comitê levar as apelações à atenção da empresa, ela reverteu suas decisões originais e removeu todos os três comentários.

Sobre os casos

Esse caso é um conjunto de três trechos de conteúdo. Em junho de 2025, um usuário do Facebook postou uma foto da construção da Biblioteca Nacional do Kosovo, em Pristina, capital do país. Vários usuários fizeram comentários no post. O primeiro comentário apresentado pelo usuário que fez a denúncia ao Comitê marcava o próprio autor da denúncia e mencionava uma “good ethnic cleanse, as Milošević started” (boa limpeza étnica, como Milošević começou), que seria o fim do “fake state” (Estado falso) e do “turkoschiptar [hereafter “t************”] myth” (mito turkoschiptar [doravante “t************”]) sobre a “greater turkoalbania” (grande região da Turquia-Albânia). Slobodan Milošević foi presidente da Sérvia e, posteriormente, da antiga República da Iugoslávia, da qual o Kosovo fazia parte.

O usuário que fez a denúncia respondeu ao comentário, observando que o usuário que fez o post parecia estar comemorando a limpeza étnica e o genocídio e glorificando crimes de guerra. Ele também afirmou que Milošević era responsável pelo assassinato, pela agressão sexual e pelo deslocamento de muitas pessoas.

O segundo caso envolve um comentário do autor do post em resposta ao usuário que fez a denúncia. Ele marcou novamente o usuário que fez a denúncia, alegando que “you are victimizing yourself” (você está se vitimizando) e que “Milošević was too soft” (Milošević foi muito brando). Ele continuou afirmando que “We should go with full ethnic cleanse as you did to Serbian people back from wwII [World War Two]” (devemos realizar uma limpeza étnica completa, como vocês fizeram com o povo sérvio na Segunda Guerra Mundial). Ele também disse: “That’s the only way” (Essa é a única maneira), já que “you are not civilized people” (vocês não são pessoas civilizadas).

Mais uma vez, o usuário que fez a denúncia respondeu ao comentário, acusando o autor do post de incitar o genocídio e de demonstrar ignorância em relação aos fatos históricos.

O terceiro caso envolve outro comentário do autor do post em resposta ao usuário que fez a denúncia. O comentário afirmava: “We’ll get back to Serbian Kosovo and Metohia sooner or later” (Mais cedo ou mais tarde, vamos recuperar o Kosovo e a Metohia sérvios) e “NATO [the North Atlantic Treaty Organization] wouldn’t always be there for you." (A OTAN [Organização do Tratado do Atlântico Norte] não estará sempre presente para protegê-los). Metohia, também grafada Metohija, é a região sudoeste do Kosovo. O comentário acrescentava: “You are a disgrace to civilization” (Vocês são uma vergonha para a civilização) e que “know very well who t************ are” (sabem muito bem quem são os t************).

O usuário que fez a denúncia apresentou três apelações separadas ao Comitê, uma para cada comentário do usuário que fez o post, contra as decisões originais da Meta de deixar ativos os três comentários. Em suas declarações ao Comitê, o usuário explicou que o primeiro comentário usa “linguagem inflamatória e depreciativa que visa grupos étnicos específicos” com termos que “promovem uma narrativa de superioridade étnica”. Ele também ressaltou que conteúdos como esse “podem contribuir para uma escalada das tensões étnicas e nacionais, especialmente em regiões com histórico de conflitos”. Em relação ao segundo comentário do usuário que fez o post, o usuário que fez a denúncia mencionou que pedir uma “full ethnic cleanse” (limpeza étnica completa), com referências a conflitos históricos, “incita a hostilidade e a violência contra um grupo específico”. Ainda de acordo com o usuário, “deixar essas declarações sem moderação pode causar danos no mundo real”. Por fim, em relação ao terceiro comentário do usuário que fez o post, o usuário que fez a denúncia enfatizou que t************ “é um insulto étnico depreciativo e historicamente carregado, usado para insultar e desumanizar os albaneses. Ele é amplamente reconhecido como discurso de ódio no contexto das tensões étnicas nos Balcãs”.

A Meta inicialmente deixou os três trechos de conteúdo ativos. No entanto, de acordo com os Padrões da Comunidade sobre Violência e Incitação da Meta, a empresa remove “linguagem que incita ou facilita a violência e ameaças críveis à segurança pública ou pessoal. Isso inclui discurso violento direcionado a uma pessoa ou a um grupo de pessoas com base em suas características protegidas ou seu status de imigração”. A empresa remove “ameaças de violência que possam levar à morte (ou outras formas de violência de alta gravidade)”. Ameaças de violência são definidas como “declarações ou representações visuais de uma intenção, pretensão ou incitação à violência contra um alvo, e as ameaças podem ser expressas por meio de diversos tipos de declarações, como declarações de intenção, incitações, defesa, expressões de esperança e afirmações de pretensão ou condição”. Além disso, de acordo com os Padrões da Comunidade sobre Conduta de Ódio, a empresa remove “conteúdo que descreve ou se direciona às pessoas negativamente por meio de calúnia”. A política define calúnias como “palavras que criam, de modo inerente, uma atmosfera de exclusão e intimidação contra pessoas com base em uma característica protegida, frequentemente porque essas palavras estão associadas a discriminação, opressão e violência históricas”.

Depois que o Comitê levou esses casos à atenção da Meta, a empresa determinou que nenhum dos três trechos de conteúdo deveria ter permanecido na plataforma. A Meta explicou que o primeiro trecho de conteúdo “pede a retomada da limpeza étnica iniciada por Slobodan Milošević”, o que foi “articulado explicitamente em uma parte posterior da conversa pelo mesmo usuário”. Portanto, a empresa concluiu que esse comentário equivale a uma ameaça de violência de alta gravidade contra os albaneses. A Meta também considerou que o segundo caso violava a Política sobre Violência e Incitação, destacando que “nesse caso, o usuário pede a limpeza étnica, o que constitui uma ameaça de violência de alta gravidade contra os albaneses”. Por fim, a empresa concluiu que o terceiro comentário também era violador, pois fazia referência a um “incidente histórico de violência contra os albaneses no Kosovo” que, considerando a “ameaça anterior de violência pelo mesmo usuário”, também configura uma “ameaça de violência de alta gravidade contra os albaneses”. A empresa então removeu os três trechos de conteúdo do Facebook.

Autoridade e escopo do Comitê

O Comitê tem autoridade para analisar a decisão da Meta após uma apelação do usuário que denunciou que o conteúdo estava ativo (Artigo 2, Seção 1 do Estatuto; e Artigo 3, Seção 1 dos Regulamentos Internos).

Quando a Meta reconhece que cometeu um erro e reverte a decisão em um caso sob consideração para análise do Comitê, ele pode selecionar esse caso para uma decisão sumária (Artigo 2, Seção 2.1.3 dos Regulamentos Internos). O Comitê analisa a decisão original para aumentar a compreensão do processo de moderação de conteúdo, reduzir erros e aumentar a justiça para os usuários do Facebook, do Instagram e do Threads.

Significância dos casos

Os três trechos de conteúdo desse conjunto fornecem exemplos da underenforcement dos Padrões da Comunidade sobre Violência e Incitação da Meta em grande escala. Em três ocasiões distintas, os sistemas de moderação de conteúdo da empresa não conseguiram, inicialmente, identificar e remover ameaças claras de violência de alta gravidade contra um grupo específico de pessoas com base em características protegidas, que, nesses casos, eram os albaneses. No entanto, após o Comitê sinalizar o conteúdo, a Meta realizou uma nova análise, e suas equipes especializadas, ao considerarem o contexto completo da conversa, concluíram que os comentários eram violadores.

O Comitê tem reiteradamente expressado suas preocupações sobre a underenforcement de ameaças de morte em geral e, mais especificamente, de conteúdo direcionado a grupos que historicamente foram e continuam sendo discriminados (ver, por exemplo, os casos Declarações direcionadas aos indígenas australianos e Post em polonês contra pessoas trans). O Comitê observa o histórico de conflitos no Kosovo e a recente escalada das tensões após os eventos na região em maio e setembro de 2023, e fevereiro e novembro de 2024, bem como a ênfase que o usuário que fez a denúncia deu ao potencial de comentários como esses levarem à violência no meio físico. Na decisão Animação Knin, ao analisar um vídeo no Facebook que retratava os sérvios como ratos, o Comitê concluiu que o conteúdo direcionado a um grupo étnico é degradante e intolerante quando “comemora atos históricos de tratamento discriminatório”, “especialmente em uma região com histórico recente de conflito étnico”.

Na mesma decisão, o Comitê recomendou que a Meta deveria esclarecer “a orientação fornecida aos analistas, explicando que até mesmo referências implícitas a grupos protegidos são proibidas pela política quando a referência é razoavelmente compreendida” (caso Animação Knin, recomendação n.º 1). Embora a recomendação tenha relação com a Política sobre Discurso de Ódio (agora Conduta de Ódio) da Meta, o Comitê acredita que ela é relevante nesse caso, pois o usuário que fez o post não se referiu explicitamente aos albaneses em nenhum dos três comentários. Em resposta a essa recomendação, a Meta informou que “adicionou uma nova redação à introdução dos Padrões da Comunidade na Central de Transparência, com o objetivo de esclarecer a abordagem da empresa em relação a conteúdos que usam linguagem ambígua ou implícita e exigem contexto adicional para serem identificados como violadores. A atualização esclarece que, quando o contexto adicional permitir que a Meta interprete razoavelmente que determinado conteúdo viola [seus] Padrões da Comunidade, a Meta poderá remover esse conteúdo” (Atualização trimestral da Meta sobre o Comitê de Supervisão, 4º trimestre de 2022). O Comitê considerou que a recomendação foi parcialmente implementada, pois a atualização da política não foi adotada no âmbito da Política sobre Discurso de Ódio e ainda faltavam elementos que abordassem referências implícitas a grupos protegidos.

Além disso, o Comitê observou que, após levar os casos à atenção da Meta, a empresa avaliou os três comentários em conjunto com os comentários do usuário que fez a denúncia, à luz do contexto completo da conversa. Isso foi relevante para demonstrar que os três comentários estavam pedindo limpeza étnica e o “return to a ‘Serbian Kosovo’” (retorno a um ‘Kosovo sérvio’), uma referência a um incidente histórico de violência contra os albaneses no Kosovo e, portanto, uma ameaça de violência de alta gravidade contra eles. Embora essa abordagem seja consistente com as orientações do Comitê para a Meta sobre como lidar com a aplicação de políticas em suas plataformas, ela não foi seguida por seus analistas em escala. No caso Poema sobre protesto político na Argentina, o Comitê destacou a importância de fornecer aos analistas de conteúdo em escala o contexto completo de um post, como forma de melhorar a precisão da aplicação. Embora esse caso tenha se concentrado na aplicação de políticas contra carrosséis (posts com várias imagens), o mesmo raciocínio se aplica a conversas, como demonstram esses casos.

Além disso, o Comitê emitiu recomendações para aumentar sua compreensão e transparência geral em relação à precisão da aplicação da Meta e à abordagem usada para mensurá-la:

• “A fim de fundamentar futuras avaliações e recomendações à Política sobre Violência e Incitação e permitir que o Comitê realize sua própria análise de necessidade e proporcionalidade das compensações no desenvolvimento de políticas, a Meta deve fornecer ao Comitê os dados que usa para avaliar a precisão da aplicação de sua política. Essa informação deve ser suficientemente abrangente para permitir que o Comitê valide os argumentos da Meta de que o tipo de erros de aplicação nesses casos não resulta de quaisquer problemas sistêmicos nos processos de aplicação da Meta” (caso Posts nos Estados Unidos que discutem o aborto, recomendação n.º 1 ).
• A Meta “deve melhorar os seus relatórios de transparência para aumentar a informação do público sobre as taxas de erros, tornando essas informações visíveis por país e idioma para cada Padrão da Comunidade”. O Comitê destacou que “relatórios de transparência mais detalhados ajudarão o público a identificar áreas onde os erros são mais comuns, incluindo potenciais impactos específicos em grupos minoritários, e alertar o Facebook para os corrigir” (caso Preocupação de Punjab com a RSS na Índia recomendação n.º 3).

Em resposta a ambas as recomendações, a Meta compartilhou um “resumo confidencial de dados de aplicação... incluindo uma visão geral dos dados de precisão da aplicação” para as Políticas sobre Violência e Incitação e de Organizações e Indivíduos Perigosos (Relatório da Meta para o 1º semestre de 2025 sobre o Comitê de Supervisão). O Comitê considerou ambas as recomendações como omitidas ou reformuladas, uma vez que as respostas da Meta não abordaram os objetivos principais das recomendações. No caso da primeira recomendação, isso ocorreu porque o Comitê solicitou à Meta os dados usados pela empresa para avaliar a precisão da aplicação das políticas. No entanto, a Meta compartilhou apenas os resultados dessa avaliação. No segundo caso, isso ocorreu porque ele solicitou à Meta que tornasse públicos esses dados de aplicação e que os discriminasse por país e idioma. Portanto, o Comitê concluiu que os objetivos das recomendações não foram alcançados.

Por fim, ele também fez uma recomendação sobre as auditorias da Meta em sua lista de calúnias, a fim de garantir que ela esteja atualizada em todas as regiões: “Quando a Meta auditar suas listas de calúnias, ela deve se certificar de que há ampla participação externa com partes interessadas relevantes. Isso deve incluir a consulta com grupos afetados e a sociedade civil” (caso Críticas às políticas de imigração da UE e aos imigrantes, recomendação n.º 3). A Meta relatou progresso na implementação dessa recomendação. A empresa explicou que “interage regularmente com as partes interessadas, incluindo a sociedade civil, para manter listas de calúnias atualizadas em todas as regiões globais, e está trabalhando para formalizar essa prática em uma fase inicial da auditoria anual” (Relatório da Meta para o 1º semestre de 2025 sobre o Comitê de Supervisão). A Meta declarou que está “criando um grupo de trabalho para identificar como formalizar as boas práticas e os requisitos necessários a fim de garantir a inclusão das partes interessadas na próxima auditoria”. De acordo com a empresa, novas atualizações serão fornecidas no futuro.

O Comitê acredita que a implementação integral das recomendações mencionadas acima fortaleceria ainda mais a capacidade da Meta de reduzir a underenforcement das ameaças direcionadas a grupos de pessoas com base em uma característica protegida. Em primeiro lugar, aumentaria a capacidade dos analistas de identificar referências implícitas a grupos protegidos e remover conteúdos prejudiciais. Em segundo lugar, permitiria à empresa refinar sua abordagem para mensurar e comparar dados de precisão entre idiomas e/ou regiões, para melhor alocar recursos e melhorar as taxas de precisão onde necessário. Em terceiro lugar, a divulgação pública da precisão das avaliações no âmbito da Política sobre Violência e Incitação aumentaria a transparência e geraria engajamento com a Meta, o que tem o potencial de levar a melhorias adicionais. Por fim, a consolidação de boas práticas e requisitos para a interação com as partes interessadas, com o objetivo de atualizar a lista de calúnias, ampliaria a capacidade da Meta de responder com mais rapidez às tendências em evolução no uso de termos com potencial de causar danos.

Decisão

O Comitê revoga a decisão original da Meta de deixar ativos os três trechos de conteúdo. Além disso, após levar os casos ao conhecimento da empresa, ele reconhece que ela corrigiu os erros iniciais.

Voltar para Decisões de Casos e Pareceres Consultivos sobre Políticas