Vídeo com IA falseia posição de vereadora do Reino Unido sobre imigração

Resumo

O Comitê de Supervisão concluiu que um vídeo deepfake de uma vereadora local do Reino Unido deve ser removido do Facebook, pois contém discurso de ódio contra refugiados, revertendo a decisão da Meta de mantê-lo na plataforma. Ele também concluiu que a Meta precisa adotar medidas muito mais efetivas para lidar com deepfakes de políticos, inclusive aumentando as penalidades aplicáveis ao compartilhamento de deepfakes prejudiciais, de modo a proteger os usuários contra possíveis enganos.

Por que isso é importante

O caso evidencia desafios significativos para as sociedades que as empresas de mídia social precisam enfrentar, incluindo o realismo crescente dos deepfakes que retratam autoridades eleitas expressando opiniões que não são suas sobre questões importantes e induzindo o público ao erro, bem como a desinformação que alimenta o ódio contra minorias, incluindo imigrantes. Mulheres que atuam na política, no jornalismo e no ativismo são alvo desproporcional de deepfakes que distorcem suas posições, inclusive como parte de campanhas de assédio. Já figuras públicas de menor projeção, como políticos e ativistas locais, muitas vezes não dispõem de recursos para responder de forma eficaz. A disseminação de deepfakes corrói a confiança na informação pública como um todo e torna mais complexa a distinção entre o discurso político protegido e a violação das regras da Meta sobre desinformação, discurso de ódio ou bullying e assédio.

Sobre o caso

Em novembro de 2025, um usuário do Facebook postou um vídeo curto com a imagem de uma vereadora do Partido Trabalhista na Escócia. O vídeo, que aparenta ter sido gerado por IA, retrata a vereadora dizendo: “Refugees are welcome here, even if they rape our women, because white people do that too.” (“Refugiados são bem-vindos aqui, mesmo que estuprem nossas mulheres, porque os brancos também fazem isso.”)

A representação é realista, mas, sob análise mais cuidadosa, revela-se sintética: o áudio não está totalmente sincronizado com os movimentos faciais dela, o que indica se tratar de uma fabricação. O vídeo fazia parte de um álbum que continha uma fotografia de várias mulheres identificadas pelo nome em um protesto contra a extrema direita, entre elas a vereadora. Juntos, o álbum e o vídeo receberam mais de 5 mil visualizações, mais de 50 comentários, mais de 20 reações e mais de 10 compartilhamentos.

Duas pessoas denunciaram o vídeo, entre elas, a vereadora retratada por violação da Política sobre Bullying e Assédio, mas os sistemas da Meta não priorizaram o post para análise humana, e ele permaneceu no Facebook. Ambos os usuários enviaram uma apelação à Meta, mas o post foi mantido e não passou por análise humana. Um dos usuários, e não a vereadora envolvida, enviou uma apelação ao Comitê. Quando o Comitê levou o caso ao conhecimento da Meta, a empresa concluiu que o vídeo não violava seus Padrões da Comunidade e que não merecia um rótulo de IA.

Principais descobertas

O Comitê avaliou este caso com base em três políticas da Meta: Conduta de Ódio, Desinformação e Bullying e Assédio. Ele entende que a Meta deveria ter removido o vídeo gerado por IA com base em sua Política sobre Conduta de Ódio.

A maioria do Comitê conclui que o vídeo violou as regras de Conduta de Ódio da Meta especificamente por atribuir criminalidade grave e comportamento sexual predatório aos refugiados enquanto grupo, e não a parte deles, como alegou a Meta.

Ao decidir o caso, o Comitê também considerou se o vídeo, caso não tivesse violado as regras de Conduta de Ódio, teria atingido o limiar de remoção previsto na Política sobre Desinformação. A maioria do Comitê considera que a remoção não se justificaria por desinformação, mas que o vídeo deveria ter recebido o rótulo “IA de Alto Risco”. Em sua análise, o Comitê conclui que as regras da Meta para aplicação de rótulos de IA a deepfakes são inadequadas.

A maioria conclui que a Meta precisa de políticas mais robustas sobre deepfakes, o que inclui ampliar as situações em que rótulos de “Alto Risco” podem ser aplicados, adotar mais medidas para reduzir a disseminação de conteúdo enganoso gerado por IA, aumentar as penalidades para contas que o compartilham repetidamente e dar mais transparência aos dados sobre quando os rótulos de IA são aplicados.

Uma minoria do Comitê discorda de que o vídeo deva ser considerado discurso de ódio, porque tem como alvo as supostas opiniões da vereadora, e não a todos ou à maioria dos refugiados; e entende que, por se tratar de discurso político, o limiar exigido para remoção deveria ser mais alto.

Houve, ainda, opiniões minoritárias quanto às conclusões do Comitê relativas às regras de desinformação. Uma minoria afirmou que o rótulo “Alto Risco” é restritivo demais e que deveria ter sido aplicado um rótulo menos severo, “Informações de IA”. Já uma outra minoria, distinta da anterior, afirmou que a gravidade dos danos, aliada ao fato de a Meta pouco aplicar rótulos de IA na prática, justificaria a remoção.

O Comitê conclui que o vídeo não exigiria remoção com base nas regras de Bullying e Assédio, pois a autoridade eleita é uma figura pública e, portanto, tem direito a menos proteção do que pessoas privadas segundo a política.

A decisão do Comitê de Supervisão

O Comitê revoga a decisão da Meta de manter o conteúdo no ar e exige que o post seja removido com base nos Padrões da Comunidade sobre Conduta de Ódio. Ao analisar este caso, o Comitê também identifica falhas nas políticas de rotulagem previstas nos Padrões da Comunidade sobre Desinformação e apresenta as seguintes recomendações quanto a essa política.

Ele recomenda que a empresa:

• Altere sua política de mídia manipulada para reduzir o limiar de aplicação dos rótulos de “alto risco”, garantindo que essa medida não se restrinja a situações de crise ou de integridade eleitoral.
• Dificulte o acesso, por parte dos usuários, a conteúdo rotulado como gerado por IA ou como “IA de Alto Risco”, por exemplo, adotando um intersticial (uma tela que exige um clique para prosseguir e visualizar o conteúdo) em vez de um rótulo simples.
• Submeta todo o conteúdo rotulado como “Alto Risco” à desmonetização, à redução de alcance ou à remoção das recomendações, com penalidades crescentes para contas que compartilhem repetidamente conteúdo rotulado como “Alto Risco”.
• Garanta que as regras e exemplos sobre interferência em eleições ou em censos sejam formulados de forma a ter aplicação global, sem se restringir ao contexto dos EUA.
• Divulgue publicamente, em sua Central de Transparência, dados anuais sobre o número de vezes em que aplica os rótulos “Alto Risco” e “IA de Alto Risco” a conteúdos, inclusive indicando quantas vezes esses rótulos recaem sobre conteúdo de políticos ou a seu respeito.
• Garanta que todos os rótulos previstos na Política sobre Desinformação (“Informações de IA”, “Alto Risco” ou “IA de Alto Risco”) estejam visíveis no conteúdo dentro da Biblioteca de Conteúdo da Meta, e que o conteúdo rotulado dessa forma possa ser localizado com o uso de um filtro.

O Comitê também reitera a importância da recomendação já feita na decisão sobre Vídeo Gerado por IA no Conflito entre Israel e Irã, exigindo que a Meta publique uma explicação clara sobre as penalidades pela falha em autodivulgar o conteúdo criado ou alterado digitalmente. Ela deve estabelecer critérios para aplicação de penalidades, indicando quais funcionalidades da conta são restringidas e por qual período.

Decisão completa sobre o caso

1. Descrição do caso e histórico

Em novembro de 2025, um usuário do Facebook postou um vídeo curto com a imagem de uma vereadora do Partido Trabalhista na Escócia. O vídeo, que aparenta ter sido gerado por IA, retrata a vereadora dizendo: “Refugees are welcome here, even if they rape our women, because white people do that too.” (“Refugiados são bem-vindos aqui, mesmo que estuprem nossas mulheres, porque os brancos também fazem isso.”) A representação é realista, mas, sob análise mais cuidadosa, revela-se sintética: o áudio não está totalmente sincronizado com os movimentos faciais dela, o que indica se tratar de uma fabricação. O vídeo fazia parte de um álbum (que não foi analisado em sua totalidade) que continha uma fotografia de várias mulheres identificadas pelo nome em um protesto contra a extrema direita, entre elas a vereadora. O álbum também continha um vídeo não relacionado de outro protesto, que parece ter sido gerado por IA, embora não mencionasse a vereadora. A legenda do álbum informa que a vereadora fez campanha contra o fechamento de um abrigo para refugiados em sua cidade.

Juntos, o álbum e o vídeo receberam mais de 5 mil visualizações, mais de 50 comentários, mais de 20 reações e mais de 10 compartilhamentos. Um comentário questionou a veracidade do vídeo e criticou o usuário responsável pelo post. Outro comentário, removido pela Meta no mesmo dia em que foi postado, sugeria que a vereadora retratada desejava ser estuprada.

Duas pessoas denunciaram o vídeo, entre elas, a vereadora retratada por violação da Política sobre Bullying e Assédio, mas os sistemas da Meta não priorizaram o post para análise humana, e ele permaneceu no Facebook. Ambos os usuários enviaram uma apelação à Meta, mas novamente o post foi mantido e não passou por análise humana. Um dos usuários, e não a vereadora retratada no vídeo, enviou uma apelação ao Comitê. Quando o Comitê levou o caso ao conhecimento da Meta, a empresa concluiu que o vídeo não violava seus Padrões da Comunidade e que não merecia um rótulo de IA.

Este caso ilustra dois desafios sistêmicos enfrentados por empresas de redes sociais em todo o mundo: representações sintéticas de políticos cada vez mais disseminadas, realistas e enganosas, às vezes chamadas de “deepfakes”, e desinformação que alimenta o ódio contra minorias, incluindo imigrantes. O Comitê já analisou as conexões entre desinformação gerada por IA e discurso de ódio nas decisões Posts em apoio aos motins no Reino Unido e Críticas às políticas de migração da UE e à Imigração. O Comitê também já analisou o áudio sintético de políticos na decisão Ligação de áudio atribuído a uma suposta tentativa de manipular as eleições no Curdistão iraquiano e de vídeo manipulado na decisão Vídeo adulterado do Presidente Biden.

O conteúdo deste caso foi postado meses antes da realização das eleições locais. Embora o mandato da vereadora só estivesse sujeito à reeleição em maio de 2027, seu partido disputava eleições em todo o país, nas quais a imigração e o acolhimento de solicitantes de refúgio eram temas de grande destaque. Em 2025, manifestações ocorreram em todo o Reino Unido contra o acolhimento de solicitantes de refúgio em hotéis, motivadas por um caso no condado de Essex, no sudeste do país, em que um deles agrediu sexualmente uma mulher e uma menina de 14 anos. Os protestos continuaram em 2026, inclusive na Escócia, com alegações de que solicitantes de refúgio representam risco à segurança das mulheres, o que alguns classificaram como desinformação racista que se apropria do discurso sobre violência contra a mulher para fomentar o ódio contra imigrantes.

2. Envios de usuários

Em sua apelação ao Comitê, o usuário que denunciou o conteúdo alegou que o vídeo havia sido gerado por IA, deturpava as posições da vereadora e poderia representar uma ameaça à segurança dela. Na visão dele, as pessoas devem ter liberdade para expressar suas próprias opiniões, mas isso não deveria incluir a criação de vídeos falsos de políticos fazendo declarações inflamatórias que nunca fizeram.

Em declaração ao Comitê, a vereadora retratada afirmou que o vídeo havia sido gerado por IA e que as palavras a ela atribuídas “run contrary to everything [she] stands for and significantly impugned [her] integrity.” (“vão contra tudo o que [ela] defende e comprometeram seriamente [sua] integridade.”). Segundo ela, os impactos negativos do vídeo foram significativos e bastante traumáticos. Ela fez diversas tentativas frustradas de que o vídeo fosse removido, inclusive denunciando o incidente à Meta e às autoridades policiais. Apesar disso, ela informou ao Comitê que continua atuando ativamente em defesa dos direitos dos refugiados na Escócia e no combate à disseminação do ódio em sua comunidade.

3. Políticas de conteúdo e envios da Meta

Os envios da Meta se concentraram em três áreas da política: Desinformação, Conduta de Ódio e Bullying e Assédio. A empresa argumentou que nenhuma dessas políticas exigia qualquer ação contra o conteúdo, e o manteve postado sem rótulo.

Desinformação

O fundamento da política sobre Padrões da Comunidade sobre Desinformação afirma que a Meta remove “conteúdo com probabilidade de contribuir diretamente para a interferência no funcionamento dos processos políticos”. Uma das três categorias de desinformação que a Meta remove está relacionada a processos políticos e é intitulada “interferência em eleições ou em censos”. Há oito exemplos de interferência proibida em eleições ou em censos listados a seguir, incluindo desinformação sobre “datas, locais, horários e métodos para votação, registro eleitoral ou participação censitária” e “se um candidato está ou não concorrendo”. Dois exemplos são específicos dos Estados Unidos. O fundamento da política observa que a Meta colabora com Parceiros Confiáveis, uma rede global de organizações não governamentais (ONGs), agências humanitárias e pesquisadores de direitos humanos que sinalizam riscos emergentes associados a conteúdo nas plataformas da Meta, para avaliar a veracidade do conteúdo e se ele tem “potencial de contribuir diretamente para o risco de dano iminente”. O fundamento da política também reconhece que “as pessoas costumam usar desinformação de forma inofensiva”, como “para dar ênfase exagerada a um ponto de vista” ou em contextos de “humor ou sátira”.

A Meta informou ao Comitê que não removeu o vídeo neste caso porque, segundo a empresa, os Parceiros Confiáveis não o sinalizaram. A empresa concluiu ainda que o conteúdo não tinha “potencial de contribuir diretamente para um risco de interferência no funcionamento dos processos políticos”, já que não continha nenhuma alegação proibida de “interferência em eleições ou em censos”.

Para determinados casos de desinformação que não violam as regras a ponto de justificar remoção, a Meta foca em “reduzir sua prevalência ou criar um ambiente que promova um diálogo produtivo”. A empresa faz isso concentrando-se em “fornecer aos usuários informações úteis quando há conteúdo potencialmente enganoso ou confuso”, inclusive o uso de rótulos.

Existem três tipos de rótulos:

• O rótulo “Informações de IA” é aplicado automaticamente a conteúdos que a Meta detecta usando “indicadores de imagem de IA padrão do setor ou quando as pessoas declaram que estão carregando conteúdo gerado por IA”. É menos proeminente que os outros dois rótulos, aparecendo na parte superior do post.
• O rótulo “Alto Risco” se aplica ao conteúdo sujeito à política de “mídia manipulada” que (i) apresenta um alto risco de enganar o público sobre um assunto de interesse público e (ii) possui sinais confiáveis de ter sido criado ou modificado digitalmente. Diferente do rótulo “Informações de IA”, o rótulo de “Alto Risco” é aplicado sob a política de escalonamento exclusivo da Meta, o que significa que apenas as equipes internas de políticas da Meta podem aplicá-lo após uma análise humana. Tem menor destaque, aparecendo na parte inferior do post, e contém um link para um recurso com mais informações sobre conteúdo criado ou alterado digitalmente.
• O rótulo de “IA de Alto Risco” também é aplicado sob a política de “mídia manipulada” quando o conteúdo atende a todos os requisitos do rótulo Alto Risco e apresenta indicadores confiáveis de ter sido criado ou alterado com uso de IA. Também se trata de uma política de aplicação exclusiva por escalonamento, que requer análise humana.

A Meta exige que as pessoas divulguem, usando ferramentas internas do app, sempre que postarem “conteúdo orgânico com vídeo fotorrealista ou áudio com som realista que foi criado ou alterado digitalmente”. Ela declara que a não utilização da ferramenta de divulgação de uso de IA “pode resultar em penalidades”.

A Meta afirmou que o usuário que criou o post não divulgou o uso de IA, razão pela qual o conteúdo não recebeu o rótulo “Informações de IA”. A empresa informou ao Comitê que pode aplicar esse rótulo automaticamente quando detecta “indicadores de imagem gerada por IA em padrão da indústria”, mas que esses indicadores não estavam presentes neste caso. Em resposta a perguntas do Comitê, a Meta confirmou que não penalizou esse usuário por não ter divulgado o uso de IA. Além disso, a aplicação, pela Meta, da exigência de autodivulgação de uso de IA tem se limitado a casos pontuais escalados às suas equipes internas de política, em vez de ser aplicada em larga escala. A Meta também observou que atualmente é capaz de detectar sinais compartilhados pela indústria de IA para vídeo e imagens, e está em processo de expansão dessa capacidade para todos os dispositivos (web e celular) e superfícies (Reels, feed etc.). Separadamente, a empresa está desenvolvendo classificadores capazes de detectar conteúdo gerado por IA em larga escala, com o objetivo de aplicar o rótulo menos proeminente “Informações de IA”, independentemente da presença de sinais de proveniência padronizados pela indústria nos vídeos.

A Meta confirmou que, em sua avaliação, o conteúdo também não merecia a rotulagem mais proeminente de “alto risco” de acordo com suas regras sobre mídia manipulada. Como não houve escalonamento do conteúdo para análise, não foi realizada avaliação para a aplicação desse rótulo. Além dos desafios enfrentados para verificar se o conteúdo havia sido criado ou alterado digitalmente com IA, a Meta explicou que o conteúdo não criava um “risco particularmente elevado de enganar o público sobre uma questão de interesse público”. Isso porque, no entendimento da Meta, não havia urgência relacionada a um evento sujeito a um prazo específico, como uma eleição iminente ou uma situação de crise, que elevasse o risco de engano material: as eleições mais próximas ainda estavam a meses de acontecer. Em segundo lugar, a Meta assinalou que o conteúdo era satírico, invertendo a posição pública da vereadora. Essa leitura ficou evidente em pelo menos um comentário feito por um usuário. Em terceiro lugar, o conteúdo teve pouco engajamento, o que reduzia a probabilidade de o público em geral ser materialmente enganado.

Em resposta a perguntas do Comitê, a Meta explicou que seu limiar para aplicação dos rótulos “Alto Risco”, mais proeminentes, é bastante exigente. Ela aplicou o rótulo em um número muito limitado de casos. A Meta justifica seu limiar elevado pelos seguintes motivos: (a) a aplicação desses rótulos coloca em questão a autenticidade do conteúdo e pode prejudicar a reputação dos usuários que o postam; (b) a detecção de IA é imperfeita, o que pode levar o conteúdo sem rótulo a parecer mais confiável do que de fato é; (c) pode haver um efeito inibidor sobre a liberdade de expressão; e (d) ampliar esses rótulos para além de eventos críticos pode dar margem a exigências cada vez maiores de políticos, governos e parceiros publicitários para que se rotule discurso de que não gostam. A Meta também observou que, como o conteúdo frequentemente não possui sinais de procedência de IA, ela recorre a outros fatores, como a “aparência” do conteúdo; se o conteúdo sintético tem intenção humorística também influencia a avaliação de ser considerado enganoso ou não. Ela afirmou que deseja evitar ser a “árbitra da verdade” e prefere adotar um limiar mais alto, de modo a não precisar fazer avaliações subjetivas sobre o que é enganoso ou relevante.

Fora dos EUA, a Meta depende de verificadores de fatos de terceiros e independentes para analisar e classificar o conteúdo, o que também pode resultar na aplicação de rótulos correspondentes à classificação atribuída. As classificações incluem “falso” e “alterado” e podem levar à redução na distribuição do conteúdo. A Meta utiliza tecnologia para identificar e encaminhar potenciais desinformações para a análise dos verificadores de fatos, que também podem selecionar conteúdos para análise. No entanto, a Meta confirmou que, neste caso, seus sistemas automatizados não enviaram o conteúdo a verificadores de fatos de terceiros, e eles não o selecionaram para análise, muito provavelmente devido ao baixo efeito viral. A empresa eliminou a verificação de fatos por terceiros apenas nos Estados Unidos, adotando em seu lugar as Notas da Comunidade, e o Comitê apresentou parecer sobre a viabilidade de adotar mudança semelhante em outras partes do mundo.

A conta do usuário que postou o conteúdo não era monetizada neste caso. As Políticas de Monetização de Parceiros da Meta definem as regras aplicáveis a páginas remuneradas pela empresa por posts feitos em suas plataformas, conforme o engajamento, e determinam que conteúdo sinalizado como desinformação não é elegível para monetização. As Políticas de Monetização de Conteúdo restringem ou reduzem ainda mais a monetização de conteúdo sobre “questões sociais debatidas” que “explora questões políticas ou sociais controversas para fins comerciais”, incluindo imigração, quando apresentado de “maneira polarizadora ou inflamatória”.

Conduta de ódio

Os Padrões da Comunidade sobre Conduta de Ódio da Meta proíbem “alegações de imoralidade grave e criminalidade” contra pessoas por causa de suas características protegidas ou em sua condição de refugiados. O padrão inclui comparar pessoas a “predadores sexuais” e “criminosos violentos” como exemplos de violação.

A Meta concluiu que a declaração “Refugees are welcome here, even if they rape our women because white people do that too” (“Refugiados são bem-vindos aqui, mesmo que estuprem nossas mulheres, porque os brancos também fazem isso”) não violava essa regra, pois não equiparava refugiados a criminosos violentos ou predadores sexuais com base em quem eles são. A orientação interna para analistas distingue entre “generalizações” proibidas e “declarações comportamentais” permitidas. As generalizações proibidas atribuem características inerentes a um grupo inteiro (como afirmar que o [Grupo X] é terrorista ou [Grupo Y] é assassino). As declarações comportamentais permitidas são afirmações sobre as ações de membros de um grupo (como afirmar que: [Grupo A] pratica terrorismo; ou [Grupo B] pratica assassinato). Para a Meta, a afirmação no vídeo dizia respeito às ações de alguns refugiados e não alegava que a violência sexual fosse um traço inerente aos refugiados. Ela descreve um comportamento atribuído a membros de um grupo, em vez de equiparar a identidade de um grupo à criminalidade sexual. A frase “because white people do that too” (porque os brancos também fazem isso) não altera esse sentido, na visão da Meta. Pelo contrário: ela compara o comportamento de dois grupos, atribuindo violência sexual também a alguns brancos.

Em casos anteriores, a Meta explicou ao Comitê que declarações comportamentais podem configurar violação quando a criminalidade grave é explicitamente atribuída a todos ou à maioria do grupo. No caso Críticas às políticas de migração da UE e à Imigração, a Meta concluiu que uma declaração referindo-se a representações de imigrantes como “especialistas em estupro coletivo” não era violadora, pois não atribuía o comportamento a todos ou a mais da metade do grupo. A Meta rejeitou a recomendação do Comitê, feita naquele caso, de reverter sua presunção de que referências ao comportamento de um grupo devem ser lidas como abrangendo a totalidade ou a maior parte do grupo, salvo especificação em contrário. Em suas manifestações relativas a este caso, a Meta observou que, após rejeitar essa recomendação, mantém o entendimento de que afirmações como “refugiados estupram” não significam “todos” ou “a maioria” dos refugiados e, portanto, não violam sua Política sobre Conduta de Ódio.

Bullying e Assédio

Os Padrões da Comunidade da Meta sobre Bullying e Assédio distinguem entre figuras públicas e pessoas físicas para “permitir a discussão, que geralmente inclui comentários críticos sobre pessoas que aparecem em notícias ou que têm um grande público”. Figuras públicas são protegidas apenas contra os ataques mais graves. Embora a Meta proíba “imagens manipuladas indesejadas”, essa regra se aplica apenas a conteúdo direcionado a menores privados, adultos privados e figuras públicas involuntárias menores de idade, quando essas pessoas fazem a autodenúncia. A Meta define figuras públicas como “autoridades governamentais em nível estadual e nacional”, candidatos a esses cargos e outras pessoas “que são objeto de ampla cobertura jornalística”. Ela determinou que a vereadora retratada no vídeo é figura pública e, portanto, não está protegida contra “imagens manipuladas indesejadas”.

4. Comentários públicos

O Comitê recebeu nove comentários públicos que cumpriam os termos para envio. Oito dos comentários foram enviados da Europa, e um da Ásia-Pacífico e da Oceania. Para ler comentários públicos enviados com consentimento de post, clique aqui.

Os envios abordaram os seguintes temas: a escala e a prevalência de conteúdo gerado por IA; a disseminação de conteúdo anti-imigração; o uso de sátira, humor e expressão política nas redes sociais, inclusive em conteúdo gerado por IA; assédio de gênero contra mulheres na vida pública; a eficácia da rotulagem como resposta à desinformação; a proteção do discurso contra figuras públicas na Política sobre Bullying e Assédio; lacunas na política de desinformação e interferência em processos políticos; desafios técnicos para detectar a procedência de conteúdo; como a desinformação e o discurso de ódio prejudicam o ambiente informacional e a democracia; e incentivos comerciais e de monetização que impulsionam conteúdo enganoso e odioso gerado por IA.

Em junho de 2026, o Comitê consultou representantes de organizações de defesa de direitos, acadêmicos, organizações intergovernamentais e outros especialistas sobre o tema dos deepfakes políticos, seus impactos sobre a informação e a integridade eleitoral, e sobre como as plataformas podem prevenir e mitigar danos ao mesmo tempo em que respeitam a liberdade de expressão.

Os participantes observaram a crescente prevalência de conteúdo gerado por IA que imita políticos e direciona discurso de ódio contra comunidades vulneráveis. Pesquisas apresentadas na consulta documentaram que conteúdo xenofóbico gerado por IA no Reino Unido recebeu engajamento desproporcionalmente superior ao de conteúdo autêntico comparável. Os participantes também observaram que mulheres que atuam na política, no jornalismo e no ativismo são alvo desproporcional de deepfakes que distorcem suas posições, inclusive como parte de campanhas de assédio. Já figuras públicas de menor projeção, como representantes eleitos localmente e ativistas, muitas vezes não dispõem de recursos institucionais para responder a esses ataques.

Os participantes expressaram preocupação com o fato de a Política sobre Desinformação da Meta ser muito restrita no que se refere à proteção da integridade eleitoral e da democracia de modo geral, uma vez que ela proíbe apenas um número limitado de alegações falsas sobre processos de votação em períodos próximos às eleições. Eles descreveram esse modelo como estruturalmente inadequado, dado que o conteúdo postado em plataformas de redes sociais permanece disponível indefinidamente e segue em circulação constante, mantendo vivas narrativas nocivas muito depois do encerramento de qualquer período eleitoral formal. Vários participantes descreveram a dependência da Meta em relação aos Parceiros Confiáveis para identificar possíveis danos como uma transferência problemática da responsabilidade de aplicação das regras, que falha sistematicamente em lidar com conteúdo de baixo engajamento inicial, especialmente em mercados menores. Por fim, vários participantes pediram maior atenção à falsificação de identidade gerada por IA em conteúdos, já que as políticas atuais parecem se concentrar em regras sobre “falsificação de identidade” por meio de contas inautênticas (ou seja, usuários que criam contas fingindo ser outra pessoa, diferentemente de usuários que compartilham conteúdo distorcendo a conduta de alguém).

Sobre a sátira, os participantes observaram que a ausência de qualquer sinal visível em conteúdo gerado por IA que retrata políticos fazia com que o público não tivesse meios confiáveis de saber se o conteúdo era fictício ou real. Um participante argumentou que deepfakes têm potencial satírico, e que a intenção precisa ser analisada dentro do contexto, inclusive por referência às posições ou ações públicas da pessoa retratada. Vários participantes ressaltaram que o dano mais significativo causado por deepfakes não está no fato de visualizadores individuais serem enganados por um conteúdo específico, mas na perda de confiança nas informações políticas como um todo. Quando o público é repetidamente exposto a fabricações realistas, pode perder a confiança em sua capacidade de diferenciar esse conteúdo de declarações autênticas. Por fim, os participantes observaram que a rotulagem tem valor protetivo cada vez menor nesse ambiente. Isso acontece porque a rotulagem é aplicada de forma inconsistente, mas também porque algumas pessoas continuam a reagir a conteúdo rotulado como inautêntico como se fosse autêntico, sobretudo quando reforça preconceitos já existentes.

Os participantes observaram que uma grande parte do conteúdo sintético tem motivação comercial, e não ideológica, e geralmente é produzido por pessoas sem vínculo com o país ao qual o conteúdo se refere, que exploram as ferramentas de monetização da Meta ou outros meios de geração de receita para lucrar com narrativas sensacionalistas, inclusive de teor odioso, que costumam ser impulsionadas por algoritmos baseados em engajamento. As estruturas de incentivo a criadores de conteúdo da Meta recompensam conteúdo provocativo com maior engajamento e amplificação algorítmica, tornando a produção de conteúdo enganoso gerado por IA economicamente atrativa mesmo quando posts individuais não são diretamente monetizados. Vários participantes observaram que restringir a monetização continua sendo um recurso ainda pouco explorado para coibir o uso enganoso de IA.

5. Análise do Comitê de Supervisão

O Comitê escolheu este caso a fim de analisar o tratamento dado pelas políticas da Meta a conteúdo enganoso gerado por IA em suas plataformas, especificamente quando as ferramentas de IA servem para se passar por políticos e forjar suas posições sobre temas relevantes para o discurso público, inclusive de formas que podem configurar discurso de ódio. A análise avalia as políticas de conteúdo da Meta e suas responsabilidades em matéria de direitos humanos em três eixos temáticos: desinformação; discurso de ódio; e bullying e assédio.

O Comitê conclui que, ainda que o conteúdo não exija remoção nos termos da Política sobre Desinformação, ele deveria ter recebido o rótulo “IA de Alto Risco”. Sob a perspectiva de direitos humanos, o Comitê propõe uma série de recomendações para melhorar a forma como a Meta trata conteúdo enganoso gerado por IA que atribui a políticos declarações que eles não fizeram sobre temas de relevância pública. Apesar dessas conclusões, neste caso, o Comitê concluiu que o conteúdo violava a Política sobre Conduta de Ódio da Meta e que, por essa razão, deveria ter sido removido. Por fim, o Comitê considera que o conteúdo nesse caso não viola a Política sobre Bullying e Assédio.

Desinformação

O Comitê conclui que o vídeo em que a vereadora aparece retratada não violava as regras de remoção previstas nos Padrões da Comunidade sobre Desinformação, pois não continha nenhuma das alegações de desinformação proibidas relativas a “interferência em eleições ou em censos”.

Para a maioria do Comitê, as regras dos Padrões da Comunidade sobre Desinformação relativas a mídia manipulada exigiam que um rótulo proeminente de “IA de Alto Risco” fosse adicionado ao vídeo, já que foi gerado por IA e apresenta risco especialmente alto de enganar materialmente o público sobre uma questão de relevância pública.

O vídeo deste caso apresenta características típicas de mídia gerada por IA, mas não seria imediatamente óbvio, para a maioria dos espectadores, que se trata de conteúdo falso. A falta de sincronia visível entre voz e movimento facial, somada a expressões faciais pouco naturais, são indícios de que o vídeo foi gerado por IA, mas só se tornam perceptíveis mediante análise mais minuciosa. A maioria observa que a Meta informou ao Comitê que seus classificadores atualmente conseguem detectar de forma automática imagens e vídeos em larga escala, mesmo na ausência de metadados de procedência. Na época em que esse conteúdo foi postado, porém, essa detecção exigiria análise humana. O realismo do vídeo e o uso não divulgado de IA para fabricar integralmente (em vez de alterar ou manipular) a filmagem o distinguem claramente do tipo de edição “cheap-fake” observado no caso Vídeo adulterado do Presidente Biden.

Para a maioria do Comitê, o vídeo busca enganar potenciais eleitores, apresentando “evidências” das supostas posições de uma autoridade eleita sobre o acolhimento de refugiados e a segurança pública, tema central no discurso político contemporâneo e em protestos de grande repercussão em todo o país. Os envios da Meta apontam para critérios não públicos para a aplicação dos rótulos “IA de Alto Risco”. Na prática, esses rótulos são raramente aplicados em qualquer escala significativa. Esses critérios não públicos estabelecem um limiar de aplicação excessivamente alto, tendo em vista a linguagem pública da regra, o caráter neutro e não acusatório do rótulo e seus efeitos limitados sobre a aplicação (as sanções impostas aos usuários parecem ser ainda menos frequentes do que os próprios rótulos).

Por essas razões, o argumento da Meta de que não havia crise ou eleição iminente, e de que o conteúdo teve alcance limitado, não é convincente. Nenhum dos dois fatores significa que o conteúdo tinha baixa probabilidade de enganar o público. Além disso, não há sinais de exagero ou paródia que deixassem claro tratar-se de conteúdo satírico. A curta duração do vídeo, a representação da vereadora contra um fundo neutro, sem qualquer marca de exagero ou paródia, no contexto de um álbum em que nenhum outro conteúdo é satírico ou humorístico, aumentam o risco de engano e apontam para uma provável intenção de enganar. O Forum for Humor and Law, um projeto acadêmico que explora como a legislação sobre liberdade de expressão protege o humor (ver PC-32578), apresentou ao Comitê exemplos úteis de deepfakes satíricos, nos quais o engano inicial é desfeito quando o caráter absurdo da falsificação fica evidente. Entre eles estão a política francesa Marine Le Pen usando trajes islâmicos e falando árabe e o ex-presidente brasileiro Bolsonaro apresentando um tutorial sobre lavagem das mãos durante a pandemia de COVID-19. Com base na redação dos Padrões da Comunidade, o rótulo de IA de Alto Risco deveria ter sido aplicado.

Para a maioria, as responsabilidades da Meta em direitos humanos exigem resposta muito mais eficaz e robusta diante do uso enganoso de IA generativa para fabricar falas de políticos sobre temas de relevância pública. A abordagem atual da empresa como “alto risco” fica aquém dessa exigência.

Segundo a maioria, a combinação de medidas para aprimorar a detecção do uso de IA e identificar usos enganosos em questões de interesse público, adicionar fricção, reduzir o alcance e aplicar penalidades a conteúdos enganosos prejudiciais por meio de uma rotulagem mais clara constituiria uma restrição necessária e proporcional à liberdade de expressão. Isso protegeria “os direitos de terceiros” de participar dos assuntos públicos e protegeria a vereadora de “ataques ilegais à [sua] reputação” (Artigos 17 e 25, Pacto Internacional sobre Direitos Civis e Políticos (PIDCP)).

O Comitê concorda que os padrões internacionais sobre liberdade de expressão protegem declarações falsas, e que o valor atribuído pelo PIDCP à expressão desinibida sobre figuras públicas no âmbito político é particularmente elevado (Comentário Geral nº 34, parágrafo 38). Como o Comitê observou no caso Vídeo adulterado do Presidente Biden:

“Embora os seres humanos saibam, há milênios, que palavras podem ser falsas, imagens, e especialmente vídeos e áudios, conferem uma falsa aparência de credibilidade. Enquanto as avaliações sobre desinformação geralmente se concentram nas evidências a favor ou contra as afirmações contidas em uma mensagem contestada, as avaliações sobre conteúdo manipulado se concentram nos meios utilizados para criar essa mensagem. Uma característica fundamental do “conteúdo manipulado” é induzir o usuário a acreditar que a mídia é autêntica e não foi alterada.”

Para a maioria dos membros do Comitê, há uma diferença qualitativa entre uma afirmação falsa sobre o que um político disse ou fez e a fabricação de uma “evidência” audiovisual que sustente essa mesma declaração falsa. Esses deepfakes podem convencer as pessoas com mais facilidade de que uma declaração falsa é indiscutível, de forma que gera risco de dano ao discurso democrático, à participação pública e à reputação de indivíduos. Quando a fabricação é altamente realista, propositalmente enganosa e até mesmo maliciosa, ela não deve atrair a maior proteção que o direito internacional dos direitos humanos confere ao discurso político (Comentário Geral nº 34, parág. 34). Conforme mencionado acima, não há indícios de que este vídeo fosse satírico, o que tornaria a declaração falsa mais evidente e evitaria danos aos direitos de outras pessoas. A disseminação das tecnologias de IA generativa traz novos desafios ao livre mercado de ideias, incluindo fraudes em escala industrial que comprometem a democracia e o direito das pessoas de participar da vida pública, além de possibilitar a difamação disseminada e generalizada da reputação de indivíduos.

À medida que se torna cada vez mais difícil diferenciar mídia manipulada ou fabricada da realidade, representações audiovisuais sintéticas e deliberadamente enganosas de autoridades públicas representam um risco singular e grave à confiança pública nas informações e, por consequência, à participação democrática. Pesquisas recentes indicam que, em média, as pessoas no Reino Unido têm dificuldade para distinguir conteúdos sintéticos que retratam pessoas reais. Os impactos cumulativos dessas falsificações podem comprometer os mecanismos de responsabilização de políticos, não apenas por meio do voto, mas também entre as eleições (ver: Relatório Preliminar do Painel Científico Internacional Independente das Nações Unidas sobre IA, julho de 2026, seção 2.7, a partir da página 23). Em particular, a proliferação de conteúdos falsificados pode gerar o chamado “dividendo do mentiroso”, que se refere à vantagem obtida por aqueles que alegam falsamente que evidências autênticas são falsas ou geradas por IA para evitar a responsabilização ( Chesney e Citron, 2019). A UNESCO descreveu o perigo mais amplo dos deepfakes como uma “crise do conhecimento”, que não apenas introduz declarações falsas, mas também corrói “os próprios mecanismos pelos quais as sociedades constroem uma compreensão compartilhada” Isso pode agravar os efeitos de persuasão já existentes nos feeds e recomendações personalizados das plataformas, baseados no engajamento, nos quais alegações manipuladoras disseminadas em larga escala são acompanhadas com “provas” sintéticas dessas alegações (op. cit., item 3.5, a partir da página 37). O desafio é global: um estudo identificou, ao longo de um ano, 82 deepfakes direcionados a figuras públicas em 38 países, sendo que mais de um quarto fabricava declarações falsas atribuídas a figuras públicas (ver Targets, Objectives, and Emerging Tactics of Political Deepfakes, Recorded Future, setembro de 2024). Conforme apontado pela ONG CEE Digital Democracy Watch em comentário público submetido ao Comitê, a ausência de medidas pode contribuir para que os deepfakes resultem em “manipulação epistêmica”, distorcendo “as condições informacionais sob as quais as pessoas formam suas crenças sobre agentes políticos e políticas públicas” (PC-32658).

Representações sintéticas de políticos trazem desafios adicionais quando são usadas para fabricar e distorcer suas posições sobre temas controversos, como a imigração, já que seus efeitos persuasivos podem ser ainda maiores. Um caso de grande repercussão que ilustra essa questão envolveu um clipe de áudio sintético que viralizou e que distorcia as opiniões do prefeito de Londres, capital do Reino Unido, Sadiq Khan, sobre as comemorações do Dia do Armistício e as manifestações pró-Palestina. O Alan Turing Institute, instituto nacional do Reino Unido para ciência de dados e inteligência artificial, relata ter observado ferramentas de IA sendo “cada vez mais exploradas para disseminar narrativas nocivas ou negativas sobre imigrantes no Reino Unido” (ver PC-32552 e “Adding Fuel to Fire: AI Information Threats and Crisis Events”, fevereiro de 2026), refletindo preocupações globais sobre a interseção entre desinformação, discurso de ódio e seus impactos na liberdade de expressão (ver Joint Declaration on AI, Freedom of Expression and Media Freedom, Mandate Holders, outubro de 2025). Quando a desinformação e o discurso de ódio se cruzam, também aumentam os riscos de incitação à hostilidade, à discriminação e à violência (ver a análise sobre discurso de ódio, abaixo).

A maioria dos membros do Comitê observa ainda que, em âmbito global, esse tipo de desinformação afeta de maneira desproporcional pessoas que já se encontram em situação de marginalização, reforçando os argumentos em favor de uma resposta mais robusta das redes sociais aos deepfakes de modo geral. Mulheres e pessoas que não se enquadram nas normas de gênero que ocupam posições de destaque público são alvo com maior frequência desse tipo de conteúdo falsificado (ver Tipping Point: Online Violence Impacts, Manifestations and Redress in the AI Age, UN Women, abril de 2026). A denúncia concluiu que os deepfakes são frequentemente criados de forma deliberada e coordenada, com ataques direcionados que podem causar graves consequências para a saúde mental e desencorajar a participação pública. Quase metade das mulheres jornalistas relatou ter recorrido à autocensura em resposta a esses ataques. A ONU Mulheres, principal entidade das Nações Unidas (ONU) para a igualdade de gênero, também documentou que deepfakes e desinformação de gênero contra mulheres são projetados para “levá-las a serem banidas das plataformas ou abandonar por completo a vida pública”. Outro estudo da ONU constatou que abuso baseado em imagens e vídeos, além do uso de IA para criar “histórias sintéticas” difamatórias, estão entre os vetores mais comuns de ataques online contra mulheres (“Your opinion doesn’t matter, anyway”: Exposing technology-facilitated gender-based violence in an era of generative AI (2ª ed.), UNESCO, abril de 2023). O Comitê já havia manifestado preocupação com a inadequação das respostas das empresas de mídia social aos abusos direcionados contra mulheres na vida pública, observando que “os ataques online têm um efeito inibidor sobre a liberdade de expressão das mulheres atingidas, reduzindo o acesso de todos à informação, pois, como consequência”, a sociedade ouve menos as mulheres” (ver decisão Banimento de conta por ataques a figuras públicas). Para ficar claro: a ideia não é criar regras novas ou diferentes com base na identidade do alvo, e sim compreender por que respostas mais robustas ao uso enganoso de IA, de forma geral, são essenciais para lidar com esses impactos específicos e desproporcionais.

Para a maioria dos membros do Comitê, uma abordagem muito mais robusta do uso enganoso de IA generativa para fabricar, de forma realista, falas ou ações de políticos em temas de interesse público deveria conter três elementos: a) maior capacidade de detectar conteúdo gerado por IA, inclusive por meio de análise humana; b) critérios públicos mais claros para a aplicação de classificações de “alto risco”; e c) rotulagem ou telas intersticiais mais claras, que introduzam mecanismos de fricção suficientes para esclarecer o potencial de engano, combinadas com penalidades progressivas para usuários que violem as regras, inclusive por meio da redução do alcance do conteúdo. Essa abordagem traria benefícios significativos para os direitos de participação pública, que superariam qualquer impacto sobre a liberdade de expressão das pessoas que compartilham esses posts.

a.) Maior capacidade de detectar conteúdo gerado por IA, inclusive por meio de análise humana

A maioria observa que os investimentos contínuos da Meta em moderação automatizada de conteúdo podem melhorar a detecção de conteúdo gerado por IA em larga escala, inclusive por meio de sinais de procedência que seguem padrões do setor, além de aprimorar a detecção baseada em classificadores. No entanto, as denúncias de usuários e terceiros, aliadas à análise humana, também devem continuar desempenhando um papel significativo na identificação de conteúdo de IA prejudicial. Isso é particularmente importante quando a IA é utilizada com o propósito de enganar o público em questões de relevância pública. A maioria reconhece que os recursos para detectar o uso de IA em larga escala não resolvem o problema de identificar, também em larga escala, a intenção de enganar, o que frequentemente exigirá uma avaliação contextual por especialistas, com o apoio de uma verificação de fatos independente robusta.

b.) Critérios públicos mais claros para a aplicação de rótulos de “alto risco”

Conforme exposto acima, os critérios não públicos da Meta para aplicar rótulos de IA de “alto risco” são rigorosos demais. O Comitê manifesta preocupação com o fato de que essa abordagem minimalista subestima seriamente as implicações da mídia manipulada por IA, de forma intencionalmente enganosa, sobre o discurso público. Essas intervenções, que ficam muito aquém da remoção do conteúdo, em particular, não devem se limitar a crises iminentes ou períodos eleitorais. Quanto a este último ponto, o Relator Especial da ONU sobre liberdade de expressão observou que “o ciclo de vida da desinformação eleitoral não se limita ao período de votação, mas começa muito antes e persiste muito depois das eleições, contaminando o discurso político e polarizando as sociedades democráticas” ( A/HRC/59/50, parágrafo 8). O Relator Especial também destacou que “a integridade eleitoral e a integridade das informações estão intimamente ligadas” e que as plataformas digitais ampliaram a manipulação de informações, “transformando-a em um tsunami de desinformação, informações incorretas e discurso de ódio”, com consequências “devastadoras” para “opositores políticos, minorias, migrantes e outros grupos marginalizados” (ibid., parágrafos 3-4). A Meta deve estender a aplicação de rótulos a conteúdos de desinformação e informações falsas, em vez de limitá-la apenas a eventos excepcionais. Como a empresa não está removendo esse tipo de conteúdo, o limiar para aplicação de rótulos deveria ser mais baixo.

c.) Aumento dos mecanismos de fricção e das penalidades

Por fim, a maioria do Comitê entende que o design dos atuais rótulos de “alto risco” de IA da Meta, bem como as medidas de aplicação relacionadas, são insuficientes para desestimular o compartilhamento de conteúdo enganoso gerado por IA que representa riscos sérios à participação pública. Isso exige que a Meta avalie como rótulos ou medidas mais rigorosas, como telas intersticiais, poderiam ser usados para introduzir mecanismos de fricção na interação dos usuários com conteúdos enganosos no momento em que são visualizados, e não apenas quando são compartilhados. Dessa forma, pode exigir que o texto dos rótulos, atualmente neutro (os rótulos não mencionam diretamente o risco de engano), seja alterado para garantir que o propósito seja bem compreendido. Os usuários que postarem esse tipo de conteúdo devem ser informados sobre as regras da Meta e sujeitos a consequências que vão além da simples rotulagem de seus posts, medida que desestimularia de forma mais eficaz o descumprimento das regras. Assim como ocorre com conteúdos classificados como “falsos” pelos verificadores de fatos independentes da Meta, os usuários que postarem conteúdo posteriormente classificado como de “Alto Risco” devem ser informados de que o post foi removido das recomendações ou teve seu alcance reduzido nos feeds dos usuários. Os usuários que postarem esse tipo de conteúdo também deveriam receber avisos que permitiriam a aplicação de penalidades crescentes em caso de reincidência. Isso poderia incluir limitações de recursos e a exclusão de programas de monetização.

Uma minoria do Comitê entende que esse post não viola as regras da Meta sobre mídia manipulada e demonstra preocupação com o fato de a posição da maioria não estar suficientemente delimitada para evitar restrições importantes à liberdade de expressão política protegida. As normas internacionais de direitos humanos reconhecem o valor particularmente elevado da expressão em debates públicos “relacionada a figuras de domínio público e político” (Comentário Geral nº 34, parágrafo 34). Para essa minoria, em consonância com a decisão anterior do Comitê no caso Vídeo adulterado do Presidente Biden, o conteúdo deveria receber o rótulo “Informações de IA”, mas não o rótulo “Alto Risco” nem as medidas adicionais de restrição à expressão que a maioria recomenda que a Meta adote.

Os princípios da liberdade de expressão reconhecem, há muito tempo, que em casos como este, envolvendo discurso político, é necessário conceder ampla margem para exageros e até mesmo declarações falsas por parte de quem se expressa. A conclusão lógica da posição da maioria é que o uso de IA para fabricar opiniões ou ações de figuras políticas representa um perigo tão inerente à democracia e à participação política que todos esses posts deveriam ser suprimidos por meio de medidas mais intrusivas do que as atualmente previstas nas políticas da Meta, a menos que a manipulação seja óbvia para o usuário comum. O precedente do caso do Vídeo adulterado do Presidente Biden, no qual o Comitê concluiu que medidas menos severas que a remoção, como a rotulagem, podem ajudar a informar os usuários sobre a autenticidade do conteúdo, não pode ser diferenciado sob o argumento de que, naquele caso, a falsificação era óbvia, pois a base daquela decisão foi a disponibilidade de meios menos restritivos (ou seja, a rotulagem) para lidar com o dano.

Para essa minoria, aplicar medidas de rebaixamento ou outras penalidades a um discurso que segue uma forma já conhecida de sátira política, como ocorre neste caso, é especialmente problemático. O vídeo em questão leva as opiniões de uma política a um extremo que não corresponde à realidade, com o objetivo de evidenciar o potencial dessas opiniões para produzir consequências radicais. A alegação implícita do vídeo neste caso é que a vereadora local é tão extremista em seu desejo de “acolher refugiados” que chegaria a acolher até mesmo estupradores. Essa sátira tem impacto porque ocorre após casos recentes de grande repercussão nos quais alguns políticos do Reino Unido foram acusados de ignorar casos de violência cometida por solicitantes de refúgio, incluindo violência sexual contra menores. Isso ocorre após a criação de uma Investigação Estatutária Independente sobre Gangues de Aliciamento, instituída após uma auditoria nacional, que analisa se questões sensíveis relacionadas a raça e etnia contribuíram para falhas na proteção de vítimas e sobreviventes de crimes sexuais. Exigir que a Meta suprima um post por distorcer as opiniões reais dessa figura política significa negar proteção a um gênero relevante de discurso político, voltado a uma questão de intensa e atual preocupação pública. O vídeo deveria ser rotulado como gerado por IA, conforme exige o precedente do Comitê, mas medidas adicionais para suprimir seu alcance (como rebaixamento ou rótulos mais agressivos) constituiriam uma restrição inadmissível à liberdade de expressão. Essa minoria também observa que o rótulo “IA de Alto Risco” só é aplicado em casos encaminhados aos especialistas da Meta no assunto, sendo, portanto, utilizado em um número extremamente pequeno de situações. Por isso, o uso do rótulo mais geral “Informações de IA” teria a vantagem de ser aplicado em maior escala e de forma mais equilibrada entre diferentes usuários, pontos de vista e contextos. Essa minoria também observa que, no momento em que o vídeo foi postado, a Meta não conseguia detectar automaticamente o uso de IA sem marcadores de proveniência ou um sinalizador de Parceiros Confiáveis, elementos que faltavam nesse conteúdo. Essa falta de confiança na avaliação de Conteúdo de IA reforça ainda mais os desafios e riscos envolvidos na adoção de uma abordagem mais agressiva para a supressão de conteúdo, fundamentada, em parte, no fato de ele ter sido gerado por IA.

Para outra minoria, considerando a gravidade das preocupações mencionadas, a remoção é o meio menos restritivo à disposição da Meta que se mostra eficaz. O Comitê tem apontado repetidamente as falhas da Meta na implementação de rótulos “informativos” menos intrusivos em diversos casos (ver, por exemplo, Vídeo gerado por IA no conflito Irã-Israel). Embora a empresa alegue levar esses riscos a sério, a Meta aplicou esses rótulos a um número alarmantemente pequeno de posts com uso enganoso de IA, e raramente (quando muito) parece sancionar usuários que deixam de divulgar o uso de IA. Medidas que existem apenas no papel, mas raramente são implementadas, não estão, na prática, disponíveis e, portanto, não são eficazes.

Na mesa-redonda promovida pelo Comitê, os participantes levantaram questões relevantes sobre a eficácia da rotulagem para conter os efeitos persuasivos de deepfakes realistas de políticos e seus danos à participação pública. Isso se torna ainda mais preocupante quando os rótulos não vêm acompanhados de limitações de alcance nem de penalidades aplicadas a usuários reincidentes, medidas que serviriam tanto para educar quanto para inibir a reincidência. Essas preocupações se tornam ainda maiores quando outras medidas menos intrusivas, como a verificação de fatos independentes, também não contam com o apoio ou a escala necessários para enfrentar esse desafio. Para essa minoria, a preocupação não está nas capacidades técnicas de detecção, mas na decisão de política da Meta de estabelecer um limiar tão alto para a rotulagem que os chamados rótulos de “alto risco” praticamente nunca chegam a ser aplicados — sem falar em sua opção de não vincular essa rotulagem a outras limitações de alcance, nem em reforçar penalidades para o uso enganoso de IA em larga escala. Considerando que documentação falsificada sobre supostas declarações ou ações de políticos possui pouco ou nenhum valor de interesse público, esses membros entendem que a remoção é proporcional: o ônus aplicado a quem se expressa é significativamente menor do que o benefício trazido pela remoção à participação pública e à proteção da democracia.

Apesar dessas divergências de opinião, o Comitê também constata que, do ponto de vista da legalidade, as regras da Meta sobre desinformação e a aplicação de rótulos poderiam ser mais claras em três aspectos ( Comentário Geral nº 34, parágrafo 25; relatório A/HRC/38/35, parágrafo 46). Em primeiro lugar, há uma desconexão entre a afirmação ampla feita no fundamento da política de que a Meta remove “conteúdo com probabilidade de contribuir diretamente para a interferência no funcionamento dos processos políticos”, e as regras subsequentes, que proíbem apenas um conjunto restrito de alegações de “interferência em eleitores ou censo”, algumas delas específicas dos Estados Unidos. A justificativa da Política sobre Desinformação deveria esclarecer melhor que só remove desinformação direta relacionada aos meios e à segurança da participação em eleições, além de revisar os exemplos específicos de determinados países presentes nas regras, de modo a torná-los relevantes globalmente.

Em segundo lugar, há uma preocupação quanto ao fato de a política não especificar as penalidades para a não divulgação do uso de IA, nem as condições em que tais penalidades são aplicadas, o que exige maior detalhamento. Em terceiro lugar, as regras sobre mídia manipulada não trazem nenhum detalhamento sobre como a Meta define um “risco particularmente elevado de induzir materialmente o público a erro em uma questão de importância pública”. Embora a maioria dos membros do Comitê seja favorável a medidas mais robustas e a um limiar mais baixo para sua aplicação (conforme refletido nas recomendações), o Comitê concorda que uma maior clareza nesse ponto, apoiada por divulgações mais transparentes sobre a frequência com que essas medidas são adotadas, seria muito útil para a compreensão pública das regras da Meta e de seus esforços de aplicação.

Discurso de ódio

O Comitê conclui que o vídeo viola os Padrões da Comunidade sobre Conduta de Ódio. Para a maioria do Comitê, o vídeo atribui criminalidade grave e comportamento sexual predatório a refugiados como grupo, unicamente em razão de quem são, sem qualquer distinção ou ressalva. O alvo é identificado de forma explícita (“refugees are welcome here”) (refugiados são bem-vindos aqui), e o vídeo atribui criminalidade grave a esse grupo como um todo (“even if they rape our women”) (mesmo que eles estuprem nossas mulheres). A declaração se enquadra na definição de generalização e se apoia em décadas de demonização de imigrantes como ameaça à segurança no Reino Unido, especialmente para os riscos atribuídos a mulheres e meninas. Essa conclusão é consistente com a decisão do Comitê no caso Críticas às políticas de migração da UE e à Imigração. Nesse caso, a maioria entendeu que uma imagem gerada por IA representando imigrantes, com o texto declarando que a Alemanha não precisa de mais “gang rape specialists” (especialistas em estupro coletivo), configurava violação com base em fundamentos semelhantes.

Para a maioria, a remoção do post com fundamento nas regras de Conduta de Ódio está em conformidade com as responsabilidades de direitos humanos assumidas pela Meta. Os Padrões da Comunidade são claros, atendendo ao princípio da legalidade, e a remoção é necessária e proporcional para proteger o direito de outras pessoas à igualdade e à não discriminação (Artigo 19, parágrafo 3, PIDCP; Artigo 2, parágrafo 1, PIDCP).

A remoção é proporcional porque o benefício de proteger refugiados contra discriminação, hostilidade e violência supera o ônus aplicado à liberdade de expressão do usuário (Comentário Geral nº 34, parágrafo 34). Com base no Plano de Ação de Rabat da ONU e em seus seis fatores para a avaliação da proporcionalidade de restrições à incitação à violência, hostilidade ou discriminação, esses riscos se mostram reais e iminentes.

O contexto social e político é especialmente relevante neste caso. No Reino Unido, têm ocorrido com frequência atos de violência direcionados a pessoas vistas como refugiadas ou migrantes, conforme resumo do Comitê da ONU para a Eliminação da Discriminação Racial ( Observações Finais no Reino Unido, Comitê da ONU para a Eliminação da Discriminação Racial, 2024), como documentado no caso Posts em apoio aos motins no Reino Unido. Conforme demonstrado naquele caso, a violência vem sendo alimentada por desinformação online, fenômeno continuamente documentado por organizações da sociedade civil desde que o Comitê publicou aquela decisão (World Report 2026, Human Rights Watch, fevereiro de 2026; e State of Hate report, Hope Not Hate, março de 2026).

A forma como a Meta distingue, em suas diretrizes de aplicação, traços inerentes de declarações comportamentais é excessivamente mecânica: a frase “refugiados estupram” é permitida, enquanto “refugiados são estupradores” não é. Ela se fundamenta mais na estrutura gramatical do que na intenção, no conteúdo ou na probabilidade de dano, todos elementos relevantes considerados pelo Plano de Ação de Rabat. O propósito desse post é demonizar os refugiados enquanto grupo e disseminar crenças sobre a suposta propensão dos refugiados à violência. Para a maioria, a referência a “pessoas brancas também cometem estupro” tem tom de deboche e visa ridicularizar aqueles que demonstram solidariedade aos refugiados. Considerando que pessoas brancas não são, na realidade, alvo desse estereótipo prejudicial, tal referência não produz impactos discriminatórios equivalentes.

O efeito cumulativo de manter conteúdos como esse nas plataformas da Meta cria um ambiente propício no qual violência e discriminação contra refugiados e minorias étnicas ou religiosas podem ser facilmente desencadeadas após eventos deflagradores (ver Posts em apoio aos motins no Reino Unido). Para a maioria, as responsabilidades da Meta em matéria de direitos humanos não se restringem à prevenção da violência racista generalizada, abrangendo também os atos cotidianos de hostilidade e discriminação que precedem esses eventos. Conforme afirmado pela maioria no caso Crítica às Políticas de Migração da UE e Imigração: “tanto o desafio de avaliar o impacto de cada peça de conteúdo em escala quanto a natureza imprevisível da viralidade online justificam que a Meta assuma uma postura mais cuidadosa quando se trata de moderação ... Ao permitir todo discurso de ódio que não se encaixe no Artigo 20 do PIDCP, tornaria as plataformas da Meta um lugar intolerante e inseguro para minorias e grupos marginalizados se expressarem. Para a maioria, a remoção é necessária porque não há nenhuma medida menos restritiva que assumiria uma função suficientemente protetora.

Para uma minoria do Comitê, a declaração contida no vídeo não viola os Padrões sobre Conduta de Ódio, por três razões distintas. Em primeiro lugar, trata-se de uma representação (manipulada) daquilo que uma vereadora supostamente teria dito, e não de uma afirmação direta sobre refugiados. A mensagem do vídeo é a de que essa vereadora não se importa se os refugiados são estupradores ou não; ela os acolheria de qualquer forma. Trata-se de uma mensagem sobre a vereadora, e não sobre os refugiados enquanto categoria.

Em segundo lugar, mesmo considerando as palavras atribuídas à vereadora como uma afirmação direta, o vídeo não diz que todos os refugiados, nem mesmo a maioria dos refugiados, ou ainda um grande número de refugiados, são estupradores. A alegação no vídeo é que essa vereadora acolhe todos os refugiados, independentemente de serem estupradores ou não, porque “white people” (pessoas brancas) também cometem estupros. O post só faz sentido como uma afirmação de que a vereadora está errada ao não distinguir refugiados perigosos e refugiados que não representam perigo, distinção que seria especialmente óbvia para usuários no Reino Unido, dado o amplo debate público sobre essas questões (ver acima).

Em terceiro lugar, o padrão para remoção de discurso político com base na Política sobre Discurso de Ódio é, e deve ser, elevado. Especialmente no contexto de debates políticos que, com frequência, envolvem generalizações sobre grupos de pessoas mais afetados por essas políticas, o que pode parecer ofensivo e discriminatório. Para a minoria, a distinção que a Meta faz entre generalizações proibidas sobre as qualidades inerentes de certos grupos e afirmações sobre o comportamento de alguns de seus membros está alinhada aos princípios internacionais de liberdade de expressão. A posição da maioria, apoiada no conceito de “danos cumulativos” do discurso de ódio, deixa de lado, em grande parte, a exigência do direito internacional dos direitos humanos de comprovar causalidade direta do dano para justificar restrições à fala, assim como a exigência de que esse dano seja provável e iminente (ver crítica da minoria em Críticas às Políticas de Migração da UE e à Imigração). Basear-se em uma noção de danos cumulativos, sem demonstrar claramente que o dano é provável e iminente, equivale, portanto, a restringir a expressão apenas por ela transmitir um ponto de vista desfavorável, o que contraria manifestamente as normas internacionais de direitos humanos.

Bullying e Assédio

O Comitê entende que o vídeo da vereadora não viola os Padrões da Comunidade sobre Bullying e Assédio, uma vez que ela é uma figura pública e, portanto, não é incluída na proibição de “imagens manipuladas indesejadas”.

De acordo com os padrões internacionais de direitos humanos, os líderes políticos e os funcionários públicos devem tolerar um grau mais elevado de fiscalização e críticas do que as pessoas físicas, dada a influência que exercem nos assuntos públicos e o direito do público de os responsabilizar (ver Comentário Geral n.º 34, parágrafo 11, 38). Distinguir figuras públicas de pessoas físicas ajuda a assegurar que quaisquer restrições à liberdade de expressão dela decorrentes estejam em conformidade com os princípios de necessidade e proporcionalidade.

Ao mesmo tempo, o Comitê observa que a definição de “figuras públicas” adotada pela Meta nos Padrões da Comunidade precisa de mais esclarecimento. O texto estabelece que figuras públicas são “representantes do governo de nível estadual e nacional, e candidatos políticos a esses cargos”, e não abrange todos os representantes eleitos, incluindo aqueles de nível local ou municipal. Na visão do Comitê, é mais apropriado que esses indivíduos sejam considerados figuras públicas em razão de sua função pública eletiva, e não em função de seu alcance nas redes sociais ou do grau de cobertura da mídia a seu respeito. A Meta parece adotar esse entendimento em sua aplicação das regras (como mostram seus envios neste caso), mas suas regras públicas deveriam expressar isso de forma mais clara.

6. A decisão do Comitê de Supervisão

O Comitê revoga a decisão da Meta de manter o conteúdo no ar e exige que o post seja removido com base nos Padrões da Comunidade sobre Conduta de Ódio. Ao analisar este caso, o Comitê também identifica falhas nas políticas de rotulagem previstas nos Padrões da Comunidade sobre Desinformação e apresenta recomendações para as melhorias abaixo.

7. Recomendações

A. Política de Conteúdo:

1. A fim de proteger os direitos dos usuários à participação pública e à integridade da informação, a Meta deve modificar sua política de mídia manipulada relativa aos rótulos de “alto risco”, reduzindo o limiar de aplicação desses rótulos e assegurando que não se trata de uma medida restrita apenas a crises ou à integridade eleitoral.

O Comitê considerará esta medida implementada assim que a Meta apresentar a orientação de aplicação atualizada, mostrando os limiares mais baixos para a aplicação dos rótulos de “alto risco”.

2. A fim de proteger os direitos dos usuários à participação pública e à integridade da informação, a Meta deve aumentar a fricção para os usuários que visualizarem conteúdo rotulado como gerado por IA ou “IA de Alto Risco”, inclusive por meio de um intersticial em substituição a um simples rótulo.

O Board considerará essa recomendação implementada assim que a Meta comprovar que a fricção adicional, como uma tela intersticial, passou a ser aplicada nesse caso de uso.

3. A fim de proteger os direitos dos usuários à participação pública e à integridade da informação, todo o conteúdo rotulado como “Alto Risco” deve estar sujeito à desmonetização, ao rebaixamento ou à remoção das recomendações, com penalidades crescentes para contas que compartilhem repetidamente conteúdo rotulado como “Alto Risco”.

O Comitê considerará essa recomendação implementada quando a Meta atualizar sua política de mídia manipulada para mostrar essas alterações e apresentar ao Comitê evidências de que tais penalidades estão sendo aplicadas.

4. Para deixar claro que a Política sobre Desinformação vale para usuários do mundo todo, a Meta deve garantir que as regras e os exemplos sobre interferência em eleitores e censos sejam formulados de modo a serem globalmente aplicáveis, e não restritos ao contexto dos Estados Unidos.

O Comitê considerará esta recomendação implementada quando a Meta atualizar seus Padrões da Comunidade sobre Desinformação, de modo a assegurar que todos os exemplos sejam globalmente aplicáveis.

B. Transparência:

5. Para tornar mais transparente a forma como aplica sua política de mídia manipulada, a Meta deve publicar dados anuais no Centro de Transparência sobre o número de vezes em que aplica os rótulos “Alto Risco” e “IA de Alto Risco” a conteúdos, inclusive indicando quantas vezes esses rótulos recaem sobre conteúdo de políticos ou a seu respeito.

O Comitê considerará esta recomendação implementada quando a Meta divulgar tal informação em seu Centro de Transparência, em formato similar ao de suas divulgações anuais relativas à permissão de relevância jornalística.

6. Para viabilizar pesquisas sobre a eficácia das intervenções contra a desinformação, a Meta deve garantir que todos os rótulos previstos na Política sobre Desinformação (“Informações de IA”, “Alto Risco” ou “IA de Alto Risco”) estejam visíveis no conteúdo dentro da Biblioteca de Conteúdo da Meta, e que o conteúdo rotulado dessa forma possa ser localizado com o uso de um filtro.

O Comitê considerará essa recomendação implementada quando a Meta demonstrar que essa funcionalidade está em operação.

O Comitê também reitera a importância da recomendação já feita (nº 3) na decisão sobre Vídeo Gerado por IA no Conflito entre Israel e Irã, exigindo que a Meta publique uma explicação clara sobre as penalidades pela falha em autodivulgar o conteúdo criado ou alterado digitalmente. Ela deve estabelecer critérios para aplicação de penalidades, indicando quais funcionalidades da conta são restringidas e por qual período.

*Nota processual:

• As decisões do Comitê de Supervisão são tomadas por painéis de cinco membros e aprovadas por maioria de votos do Comitê inteiro. As decisões dele não representam, necessariamente, as opiniões de todos os membros.
• De acordo com seu Estatuto, o Comitê de Supervisão pode analisar apelações de usuários cujo conteúdo foi removido pela Meta, apelações de usuários que denunciaram conteúdo que a Meta manteve ativo e decisões que a Meta encaminha a ele (Seção 1 do Artigo 2 do Estatuto). O Comitê tem autoridade vinculativa para manter ou anular as decisões de conteúdo da Meta (Seção 5 do Artigo 3 e Artigo 4 do Estatuto). Ele pode emitir recomendações não vinculativas às quais a Meta é obrigada a responder (Seção 4 do Artigo 3 e Artigo 4 do Estatuto). Quando a Meta se compromete a agir de acordo com as recomendações, o Comitê monitora sua implementação.
• Para a decisão sobre o caso, o Comitê não encomendou uma pesquisa independente.

Voltar para Decisões de Casos e Pareceres Consultivos sobre Políticas