Reforçar as políticas de bullying e assédio contra imagens geradas por IA de pessoas que não estão sob os holofotes públicos
17 de Setembro de 2026
O Comitê de Supervisão está exigindo que a Meta retire do Facebook um vídeo produzido por IA que pratica bullying contra uma jovem muçulmana por meio da manipulação de sua imagem. O conteúdo fazia parte de uma série viral de publicações semelhantes nas redes sociais. O Comitê conclui que as políticas da Meta relacionadas a bullying e assédio não são adequadas para lidar com imagens manipuladas por IA de pessoas que normalmente não estão sob os holofotes públicos.
Por que isso é importante
A decisão acontece em um período no qual a IA generativa apresenta novos riscos para mulheres e meninas, enquanto os abusos aumentam em escala, velocidade e gravidade. Segundo um relatório de 2025 da ONU Mulheres — principal entidade das Nações Unidas (ONU) voltada para a igualdade de gênero —, muitos ataques são “frequentemente deliberados e coordenados, visando silenciar mulheres na vida pública”. Os vídeos produzidos por IA estão transformando a natureza do assédio online e provocando impactos significativos sobre os direitos dos usuários da Meta, incluindo os direitos de participação pública de mulheres muçulmanas, assim como de mulheres e meninas em geral. Esses ataques muitas vezes falsificam não somente a aparência de uma pessoa, mas também suas ações e palavras, de uma forma que provoca danos a ela.
Sobre o caso
Em 2025, uma jovem muçulmana que vivia na Europa concedeu uma entrevista à TV como voluntária de uma campanha destinada a melhorar a educação sobre saúde menstrual e diminuir o estigma relacionado a condições de saúde que afetam mulheres e meninas de minorias étnicas. Nos meses seguintes, contas em plataformas de redes sociais alteraram digitalmente as imagens da entrevista para ridicularizá-la. As manipulações criavam uma aparente contradição entre sua atuação na promoção da saúde e sua aparência, em uma tentativa evidente de sugerir que ela não seria uma porta-voz adequada para questões relacionadas à saúde. Esses vídeos utilizam a imagem da jovem para manipular suas ações e palavras. Juntos, os vídeos e as imagens produzidos por IA alcançaram dezenas de milhões de visualizações em diversas plataformas, incluindo as plataformas da Meta.
O Comitê escolheu uma publicação no Facebook, que foi alvo de um recurso apresentado por um usuário, apenas como exemplo do abuso sofrido por essa mulher. A publicação contém um vídeo produzido por IA no qual a mulher aparece se apresentando como a nova embaixadora da saúde de seu país. Essa informação falsa também é repetida na legenda da publicação, acompanhada por um emoji de risada. Na imagem, ela aparece dizendo que demonstrará como manter a forma. Depois, é mostrada realizando uma sequência de exercícios limitados ou absurdos e oferecendo orientações sobre alimentação saudável enquanto consome alimentos pouco saudáveis. Diversos comentários feitos por diferentes usuários na publicação ridicularizam a mulher, principalmente em relação ao seu peso e ao fato de ela usar hijab.
Segundo o usuário que recorreu ao Comitê, tanto a denúncia inicialmente apresentada à Meta quanto o recurso posterior feito à empresa foram encerrados automaticamente, sem receber prioridade para análise. Posteriormente, a Meta confirmou ao Comitê que sua decisão de não agir em relação à publicação — mantendo o conteúdo na plataforma sem identificá-lo com um rótulo de IA — estava de acordo com suas políticas. Somente depois que o Comitê questionou quatro comentários depreciativos presentes na publicação, a Meta tomou medidas para removê-los, confirmando que violavam a proibição de comparações desumanizadoras prevista na política de Bullying e Assédio.
Principais descobertas
A maioria dos membros do Comitê entende que o vídeo deve ser removido por violar a política da Meta referente a Bullying e Assédio. Especificamente, o vídeo apresenta uma afirmação de inferioridade relacionada à aparência física de uma pessoa não pública, utiliza IA para falsificar suas palavras e ações sem seu consentimento e integra uma campanha que foi vivenciada pela pessoa-alvo como uma forma de assédio em massa.
Para a maioria dos membros, a definição adotada pela Meta para “imagens manipuladas indesejadas” — uma das proibições previstas nas políticas de Bullying e Assédio — é excessivamente restrita. Segundo esse entendimento, a definição deveria abranger também a falsificação das ações e das palavras de uma pessoa, além da modificação de sua aparência.
A maioria também considera que a Meta estabelece uma definição muito limitada para campanhas de assédio em massa. Por isso, a empresa deveria implementar novas medidas que diminuam o ônus colocado sobre as vítimas responsáveis por denunciar esse tipo de conteúdo. Entre essas medidas está a inclusão, no Banco de Correspondência de Mídia da empresa, de conteúdos manipulados indesejados que violem as políticas, permitindo a remoção de conteúdos idênticos ou quase idênticos. Outra medida é o uso de sinais que indiquem que uma mídia foi gerada ou manipulada por IA como um indicador de gravidade, a fim de priorizar a análise das denúncias.
Uma minoria dos membros do Comitê considerou que o conteúdo não se enquadrava na definição de Bullying e Assédio estabelecida pela Meta e que mantê-lo disponível na plataforma estava de acordo com as responsabilidades da empresa relacionadas aos direitos humanos.
A decisão do Comitê de Supervisão
O Comitê reverte a decisão da Meta de manter o conteúdo disponível na plataforma e determina que a publicação seja removida.
O Comitê destaca a importância de suas recomendações anteriores que defendem a possibilidade de contas de terceiros denunciarem conteúdos relacionados a bullying e assédio.
Além disso, recomenda que a Meta:
- Amplie a definição pública de “imagens manipuladas indesejadas” para abranger deepfakes de uma pessoa não pública dizendo ou fazendo coisas que ela não disse ou fez.
- Inclua nos bancos de Correspondência de Mídia casos de “imagens manipuladas indesejadas” que violem as políticas, com a finalidade de remover essas imagens.
- Utilize sinais de mídia gerada ou manipulada por IA como indicadores de gravidade para priorizar denúncias destinadas à análise.
Mais informações
Para ler os comentários públicos sobre este caso, clique aqui.
