Parar com o uso de “algospeak”, incluindo emojis, para discurso de ódio

10 de Fevereiro de 2026

O Comitê de Supervisão anulou as decisões originais da Meta de manter dois conteúdos que usam emojis para expressar ódio, discriminação e assédio contra pessoas negras, comparando-as a macacos. Além disso, o Comitê solicitou que a Meta impeça ataques odiosos e discriminatórios direcionados a grupos, por meio do aprimoramento da moderação automatizada e humana, de modo a considerar de forma ampla a chamada “algospeak”, incluindo o uso de emojis. Isso deve envolver a garantia de que os dados de treinamento utilizados na aplicação automatizada das políticas sejam adequados à região e estejam atualizados, bem como a coordenação de esforços para interromper de forma proativa campanhas de ódio e assegurar que as medidas de mitigação incluam o monitoramento ativo de conteúdos com emojis que incentivem discriminação e hostilidade durante grandes eventos esportivos, como a Copa do Mundo da FIFA (Federação Internacional de Futebol).

Sobre os casos

Esses casos tratam de duas publicações feitas em maio de 2025 que utilizaram emojis de macaco para se referir a pessoas negras.

No primeiro caso, um usuário no Brasil publicou no Facebook um vídeo curto com uma cena do filme Se Beber, Não Case!, na qual dois personagens discutem, dublados em português, disputando a posse de um macaco. O texto inserido no vídeo identifica os personagens como os clubes de futebol espanhóis “Barcelona” e “Real Madrid”, além de incluir outro texto sobreposto que faz referência a meninos que vêm se destacando no futebol brasileiro. A legenda da publicação consistia apenas em um emoji de macaco. A publicação ultrapassou 22.000 visualizações e foi denunciada por 12 pessoas.

O segundo caso diz respeito a um comentário publicado em resposta a um vídeo em uma conta do Instagram na Irlanda. No vídeo, o autor manifesta indignação após presenciar um episódio de racismo na rua, e a legenda pede a rejeição do racismo no país. Em resposta, outro usuário comentou que não apoiava a mensagem, afirmando que desejava que a situação “explodisse” e que “se divertia muito com todos os [emojis de macaco] na rua”. O comentário incluía diversos emojis de macaco, além de emojis de riso e de oração, e mencionava “dias gloriosos pela frente”. A publicação original teve mais de 4.000 visualizações, e o comentário foi denunciado por 62 pessoas.

Os sistemas automatizados da Meta e, posteriormente, após as apelações apresentadas pelos usuários, os revisores humanos decidiram manter as duas publicações ativas. Diante disso, os usuários levaram os casos ao Comitê. Depois que o Comitê selecionou os casos para análise, a Meta concluiu que suas decisões iniciais haviam sido equivocadas e removeu as publicações em julho de 2025, por entender que elas violavam o Padrão da Comunidade sobre Conduta de Ódio da empresa.

A linguagem codificada por meio de expressões ou emojis, conhecida como “algospeak”, pode ser utilizada para transmitir mensagens desumanizantes ou de ódio, contornando os sistemas automatizados de moderação de conteúdo.

Principais descobertas

O Comitê demonstrou preocupação com a precisão na aplicação da política de Conduta de Ódio, sobretudo na análise de emojis utilizados como algospeak. Os classificadores chegaram a identificar o conteúdo, mas não adotaram nenhuma medida. A Meta afirma que os revisores devem avaliar todos os elementos do conteúdo, como imagens, legendas e textos sobrepostos, além de considerar fatores que vão além do material imediato, incluindo a publicação principal e os comentários. A empresa também explicou que seus classificadores são treinados com conjuntos de dados compostos por exemplos denunciados e rotulados, inclusive situações em que emojis são empregados de forma potencialmente violadora. Ainda assim, tanto as revisões automatizadas quanto as humanas não conseguiram avaliar as publicações de maneira adequada.

Diante disso, a Meta deve aprimorar a detecção automatizada do uso indevido de emojis, realizando auditorias periódicas em seus dados de treinamento. Os processos de aplicação das regras devem sempre encaminhar o conteúdo para revisores que possuam conhecimento linguístico e regional adequado.

Em resposta aos questionamentos do Comitê, a Meta declarou que, após o anúncio feito pela empresa em 7 de janeiro de 2025, os modelos de linguagem grande (LLMs) passaram a ser integrados de forma mais ampla como uma camada adicional de revisão, inclusive para conteúdos que possam violar a política de Conduta de Ódio. Segundo a Meta, os LLMs não substituem os modelos já existentes, mas atuam como uma segunda opinião nas decisões de aplicação das regras, com foco em conteúdos sinalizados para remoção. Nesses casos específicos, os LLMs não participaram do processo de revisão.

O Comitê entende que as duas publicações violam o Padrão da Comunidade sobre Conduta de Ódio, que proíbe comparações desumanizantes com animais. As duas publicações utilizam o emoji de macaco para atacar pessoas negras com base em uma característica protegida.

Manter as publicações no ar também é incompatível com as responsabilidades da Meta em matéria de direitos humanos, uma vez que emojis utilizados com o objetivo de desumanizar e de incitar discriminação ou hostilidade contra grupos com características protegidas devem ser removidos. A remoção das duas publicações é necessária e proporcional.

As duas publicações constituem formas de linguagem algorítmica empregadas para expressar ódio, discriminação e assédio contra grupos específicos com características protegidas, além de demonstrarem como emojis podem ser usados para incentivar outras pessoas a adotar condutas discriminatórias e potencialmente hostis.

A publicação brasileira ocorreu em um contexto de racismo sistêmico e de hostilidade amplamente documentados no futebol, especialmente contra jogadores negros. Já o comentário no caso irlandês foi compartilhado em um cenário de aumento da discriminação racial e da afrofobia na Irlanda.

Para melhorar a coordenação de seus esforços e proteger pessoas que, embora não sejam diretamente mencionadas, tornam-se alvos implícitos de campanhas de ódio, a Meta deve desenvolver uma estrutura para harmonizar as medidas já existentes voltadas à interrupção proativa dessas campanhas, especialmente aquelas que envolvem o uso de emojis. Além disso, a Meta deve assegurar que suas ações urgentes de mitigação — seja por meio do Centro de Operações de Produto de Integridade ou de outros sistemas de mitigação de riscos — incluam o monitoramento ativo de conteúdos com emojis que promovam discriminação ou hostilidade direcionada antes, durante e logo após grandes eventos esportivos, como a Copa do Mundo da FIFA de 2026.

A decisão do Comitê de Supervisão

O Comitê revogou a decisão original da Meta de manter os dois conteúdos.

O Comitê também recomenda que a Meta:

• Realize auditorias em seus dados de treinamento utilizados pelos sistemas automatizados de aplicação da política de Conduta de Ódio, assegurando que esses dados sejam atualizados de tempos em tempos para incluir exemplos de conteúdos com emojis em todos os idiomas, usos indevidos de emojis e novos casos de utilização odiosa de emojis.
• Harmonize os esforços já existentes para interromper de forma proativa campanhas de ódio, especialmente aquelas que envolvam o uso de emojis, com o objetivo de proteger melhor pessoas que não são mencionadas diretamente, mas que são alvos implícitos dessas campanhas.
• Assegure que suas ações urgentes de mitigação — seja por meio do Centro de Operações de Produto de Integridade ou de outros sistemas de mitigação de riscos — incluam o monitoramento ativo de conteúdos com emojis que promovam discriminação ou hostilidade direcionada antes, durante e logo após grandes eventos esportivos, como a Copa do Mundo da FIFA.

O Comitê reafirma a importância de sua recomendação anterior, destacando que a Meta:

• Ofereça aos usuários uma oportunidade de autorreparação semelhante à intervenção de atrito pós-tempo criada após os Protestos Pró-Navalny na Rússia (recomendação nº 6). Caso essa intervenção já não esteja em vigor, a Meta deve fornecer um recurso de produto equivalente.

Mais informações

Para ler os comentários públicos sobre este caso, clique aqui.

Return to Blogs