A Meta precisa adotar medidas mais eficazes contra deepfakes prejudiciais que apresentem discurso de ódio

17 de Setembro de 2026

O Comitê de Supervisão determinou que um vídeo deepfake envolvendo uma política local do Reino Unido deve ser removido do Facebook por conter discurso de ódio direcionado a refugiados, anulando a decisão anterior da Meta de manter o conteúdo disponível na plataforma. A decisão do Comitê estabelece que a Meta precisa agir de forma muito mais efetiva para enfrentar esse tipo de conteúdo, incluindo o aumento das penalidades aplicadas ao compartilhamento de deepfakes prejudiciais, com o objetivo de proteger os usuários contra possíveis enganações.

Por que isso é importante

O caso evidencia desafios monumentais enfrentados pelas sociedades e que precisam ser tratados pelas empresas de redes sociais: o crescente realismo dos deepfakes que retratam autoridades eleitas expressando opiniões distorcidas sobre questões importantes e enganando o público, além da desinformação que contribui para o aumento do ódio contra minorias, incluindo imigrantes. Mulheres políticas, jornalistas e ativistas são desproporcionalmente atingidas por deepfakes que distorcem suas opiniões, inclusive no contexto de campanhas de assédio. Além disso, figuras públicas menos conhecidas, como políticas locais e ativistas, frequentemente não possuem recursos suficientes para reagir de maneira eficaz. A propagação de deepfakes enfraquece a confiança em todas as informações públicas e coloca em questão os limites entre aquilo que representa um discurso político protegido e aquilo que infringe as regras da Meta relacionadas à desinformação, ao discurso de ódio ou ao bullying e assédio.

Sobre o caso

Em novembro de 2025, um usuário do Facebook publicou um vídeo curto que apresentava a imagem de uma vereadora do Partido Trabalhista na Escócia. O vídeo, que aparenta ter sido produzido por inteligência artificial, mostra a vereadora dizendo: “Refugiados são bem-vindos aqui, mesmo que estuprem nossas mulheres, porque pessoas brancas também fazem isso.”

A representação é realista, embora, quando observada com mais atenção, pareça artificial: o áudio não está completamente sincronizado com os movimentos faciais dela, o que indica que se trata de uma criação artificial. O vídeo fazia parte de um álbum que continha uma fotografia de várias mulheres identificadas como participantes de um protesto contra a extrema-direita, entre elas a vereadora. Juntos, o álbum e o vídeo alcançaram mais de 5.000 visualizações, mais de 50 comentários, mais de 20 reações e mais de 10 compartilhamentos.

Duas pessoas, entre elas a política retratada, denunciaram o vídeo por violar a política de Bullying e Assédio. No entanto, os sistemas da Meta não priorizaram a publicação para uma revisão humana, e o conteúdo permaneceu no Facebook. Os dois usuários recorreram à Meta, mas a publicação foi mantida e novamente não foi submetida à análise humana. Um dos usuários — e não a política envolvida — decidiu então recorrer ao Comitê. Quando o Comitê apresentou o caso à Meta, a empresa concluiu que o vídeo não violava seus Padrões da Comunidade e que não havia justificativa para a aplicação de um rótulo de IA.

Principais descobertas

O Comitê analisou este caso considerando três políticas da Meta: Conduta de Ódio, Desinformação e Bullying e Assédio. O Comitê concluiu que a Meta deveria ter removido o vídeo produzido por IA com fundamento em sua política de Conduta de Ódio.

A maioria do Comitê entende que o vídeo infringiu as regras de Conduta de Ódio da Meta porque atribui crimes graves e comportamentos sexualmente predatórios aos refugiados enquanto grupo, e não apenas a determinados refugiados, como sustentou a Meta.

Durante a análise do caso, o Comitê também avaliou se o vídeo, caso não configurasse uma violação das regras de Conduta de Ódio, atenderia aos critérios de remoção estabelecidos pela política de desinformação. A maioria do Comitê concluiu que a remoção não seria justificável com base na política de desinformação. No entanto, considerou que o vídeo deveria ter recebido um rótulo de “IA de Alto Risco”. Em sua análise, o Comitê concluiu que as regras da Meta para a identificação e rotulagem de deepfakes gerados por IA são inadequadas.

A maioria entende que a Meta deve estabelecer políticas mais robustas para lidar com deepfakes. Entre as medidas apontadas estão a ampliação das circunstâncias em que os rótulos de “alto risco” podem ser utilizados, a adoção de mais medidas para limitar a disseminação de conteúdos enganosos produzidos por IA, a aplicação de penalidades mais rigorosas às contas que compartilham repetidamente esse tipo de conteúdo e o aumento da transparência sobre os dados relacionados à aplicação dos rótulos de IA.

Uma parcela minoritária do Comitê não concorda com a classificação do vídeo como discurso de ódio. Segundo esse entendimento, o conteúdo estaria direcionado às supostas opiniões da política, e não aos refugiados em geral ou à maioria deles. Essa parcela também defende que, por envolver discurso político, a aplicação do critério de remoção deveria ser mais rigorosa.

Também foram apresentadas opiniões divergentes em relação às conclusões do Comitê a respeito das regras de desinformação. Uma das minorias considerou que a classificação como “Alto Risco” impõe restrições excessivas e defendeu que fosse utilizado um rótulo menos severo, como “Informação sobre IA”. Outra minoria, diferente da anterior, sustentou que a gravidade dos possíveis danos, juntamente com o fato de que a Meta raramente aplica rótulos de IA na prática, seria suficiente para justificar a remoção do conteúdo.

O Comitê entende que o vídeo não deveria ser removido com fundamento nas regras de Bullying e Assédio, uma vez que a representante eleita é uma figura pública e, por essa razão, recebe menor proteção do que pessoas privadas no âmbito dessa política.

A decisão do Comitê de Supervisão

O Comitê determina a reversão da decisão da Meta de manter o conteúdo disponível e ordena sua remoção com base no Padrão da Comunidade sobre Conduta de Ódio. Na análise do caso, o Comitê também aponta falhas nas políticas de rotulagem estabelecidas no Padrão da Comunidade sobre Desinformação e apresenta as seguintes recomendações referentes a essa política.

O Comitê recomenda que a Meta:

• Modifique sua política sobre mídia manipulada para diminuir o critério necessário para a aplicação dos rótulos de “Alto Risco”, assegurando que essa medida não fique limitada a situações de crise ou à integridade eleitoral.
• Amplie a fricção enfrentada pelos usuários ao acessar conteúdos identificados como gerados por IA ou como “IA de Alto Risco”. Um exemplo seria a utilização de uma tela intermediária (interstitial — uma tela que exige uma ação de clique para permitir que o usuário prossiga e visualize o conteúdo), em substituição à utilização exclusiva de um rótulo.
• Aplique desmonetização, redução de alcance ou retirada das recomendações a todo conteúdo classificado como “Alto Risco”, estabelecendo penalidades progressivas para contas que compartilhem repetidamente conteúdos que recebam esse rótulo.
• Assegure que as regras e os exemplos referentes à interferência em votações ou censos sejam elaborados de maneira a permitir sua aplicação global, sem restringi-los ao contexto dos EUA.
• Publique, por meio de sua Central de Transparência, dados anuais sobre a frequência com que os rótulos “Alto Risco” e “IA de Alto Risco” são aplicados aos conteúdos. Esses dados também devem incluir a quantidade de vezes que tais rótulos são atribuídos a conteúdos produzidos por políticos ou que abordem políticos.
• Garanta que todos os rótulos previstos na política de Desinformação (“Informações de IA”, “Alto Risco” ou “IA de Alto Risco“) estejam visíveis nos conteúdos disponibilizados na Biblioteca de Conteúdo da Meta e que seja possível localizar os conteúdos que receberam esses rótulos por meio de filtros de pesquisa.

O Comitê também reforça a relevância de sua recomendação anterior, apresentada na decisão referente ao vídeo gerado por IA relacionado ao conflito entre Israel e Irã, na qual solicitou que a Meta disponibilizasse uma explicação clara sobre as penalidades aplicáveis quando não houvesse autorrotulagem de conteúdos criados ou modificados digitalmente. A empresa deve estabelecer os critérios utilizados para aplicar penalidades e informar quais recursos da conta serão restringidos, além de indicar por quanto tempo.

Mais informações

Para ler os comentários públicos sobre este caso, clique aqui.

Return to Blogs