Remoção de insultos recuperados revela erros na moderação do carrossel do Instagram
25 de Setembro de 2025
O Comitê de Supervisão expressou preocupações em relação ao uso repetido de medidas excessivas nas práticas da Meta envolvendo carrosséis do Instagram. Neste caso, referente a um discurso político crítico ao governo argentino e aos impactos sociais de suas políticas, uma parte de um carrossel com várias imagens de texto, que formavam um poema político, foi removida de maneira indevida pela Meta. Somente uma das imagens, que continha insultos, foi avaliada pelos moderadores, resultando na perda do contexto crucial.
Para garantir que o contexto completo seja levado em consideração, o Comitê sugere que a Meta assegure que os moderadores responsáveis pela análise de carrosséis possam visualizar todo o conteúdo de uma publicação antes de tomar qualquer decisão. O Comitê revogou a decisão original da Meta de remover o conteúdo.
Sobre o caso
Em janeiro de 2025, dias antes dos protestos contra o presidente argentino Javier Milei, que havia feito um discurso atacando o “feminismo radical” e a “agenda LGBT”, um usuário do Instagram publicou um carrossel de imagens com apenas texto. As oito imagens, juntas, formam um poema que critica de maneira ampla o governo argentino e a indiferença da população durante um período em que, segundo o usuário, as mudanças políticas afetam grupos vulneráveis. O poema faz um apelo para que os leitores protestem.
Na segunda imagem do carrossel, o texto inclui dois insultos, “puto” e “trava”, usados para se referir a homens gays e mulheres trans, respectivamente. No dia seguinte à publicação, os sistemas automatizados da Meta detectaram a segunda imagem e a enviaram para um moderador humano, que determinou que a imagem violava as regras de Conduta de Ódio. O moderador, no entanto, não conseguiu visualizar as outras sete imagens do carrossel. Somente a segunda imagem foi removida da plataforma, e um aviso foi aplicado à conta do usuário. O usuário então recorreu à decisão da Meta. Um segundo revisor manteve a decisão original. O usuário, por fim, recorreu ao Comitê.
Quando o Comitê decidiu analisar o caso, a Meta reverteu sua decisão e restaurou a segunda imagem no carrossel.
Principais descobertas
O Comitê concluiu que o conteúdo não infringe a política de Conduta de Ódio, pois se enquadra nas exceções que permitem o uso de insultos “para condenar ou conscientizar” de maneira “empoderadora”. A decisão final da Meta de restaurar o conteúdo foi respaldada pela interpretação de que o texto critica o governo de Milei ao empregar termos que são comumente usados na retórica anti-LGBTQIA+. Essa interpretação está alinhada com a orientação que o Comitê já havia dado à Meta sobre como avaliar conteúdos e as exceções às suas políticas. No entanto, o Comitê destacou um ponto adicional importante: a publicação critica a indiferença das pessoas frente às mudanças sociais, políticas e econômicas que, segundo o autor da publicação, afetam negativamente certos grupos vulneráveis.
Os insultos presentes no conteúdo não foram direcionados contra um indivíduo ou grupo específico, mas utilizados como uma forma de criticar as políticas do governo argentino. Eles foram empregados para defender a oposição à apatia social em relação às ações governamentais que afetam, entre outros, a comunidade LGBTQIA+. Antes das eleições de outubro de 2025 na Argentina, a Meta precisa estar atenta para garantir que o discurso político, incluindo o conteúdo restaurado, não seja removido de forma indevida.
O Comitê observa que, neste caso, foi praticamente impossível para o revisor avaliar se os insultos foram usados de maneira aceitável, já que ele não teve acesso ao carrossel completo de imagens de texto que compõe o poema. O Comitê expressa preocupação sobre a possibilidade de fiscalizações excessivas e repetidas, decorrentes da limitação dos revisores em visualizar os carrosséis completos ao tomarem decisões sobre imagens específicas dentro desses carrosséis, como ocorreu neste caso, além da falta de autoridade para avaliar adequadamente a intenção do conteúdo. A liberdade de expressão dos usuários pode ser comprometida quando partes de um carrossel são removidas, afetando o contexto em que a mensagem se desenvolve pelas várias imagens.
A decisão do Comitê de Supervisão
O Comitê revogou a decisão original da Meta de remover o conteúdo.
A Diretoria recomenda que a Meta:
- Assegure que, ao revisar o conteúdo em carrosséis, os moderadores tenham acesso a todo o material da publicação antes de tomar uma decisão, mesmo que apenas uma imagem tenha sido enviada para revisão humana.
- Desenvolva um processo integrado que garanta que, ao introduzir ou atualizar significativamente um tipo de conteúdo, os procedimentos e ferramentas da empresa permitam que a moderação seja realizada de acordo com as responsabilidades da empresa em relação aos direitos humanos.
Mais informações
Para ler os comentários públicos sobre esse caso, clique aqui.
