Figuras não públicas necessitam de maior proteção contra deepfakes sexualizados
23 de Junho de 2026
O Comitê de Supervisão revogou a decisão da Meta de manter no Instagram um vídeo supostamente criado por inteligência artificial que imitava uma mulher e solicitou que a empresa reforce as medidas de proteção para pessoas não públicas que sejam alvo de deepfakes sexualizados.
Por que isso é importante
A decisão e as recomendações do Comitê ocorrem em um contexto no qual governos, incluindo os da Índia, do Reino Unido e da Espanha, estão implementando novas regulamentações para plataformas em relação a conteúdos gerados por IA. A União Europeia (EU) chegou a um acordo para proibir sistemas de IA capazes de produzir conteúdo íntimo e sexualmente explícito sem consentimento, bem como material de abuso sexual infantil, incluindo aplicativos de “nudificação” por IA. Paralelamente, outras plataformas, como o X vêm sendo analisadas devido à circulação de imagens sexualmente explícitas produzidas por chatbots de inteligência artificial.
Segundo o Comitê, a escala, a rapidez e o nível de sofisticação das ferramentas de IA contribuíram para uma disseminação global de conteúdo sexualizado não consensual gerado artificialmente. A propagação de vídeos deepfake com teor sexual provoca danos psicológicos e à reputação das vítimas, afetando principalmente mulheres e meninas, além de desencorajar sua participação na vida social e política.
Sobre o caso
Em setembro de 2025, um usuário do Instagram publicou um vídeo de 8 segundos, supostamente produzido por IA, mostrando uma mulher ajustando um vestido justo e movimentando o corpo, com a roupa íntima visível em alguns quadros da gravação.
No dia seguinte, o sistema automatizado da Meta — responsável por identificar conteúdos potencialmente prejudiciais a indivíduos e com alta probabilidade de viralização — detectou a publicação. No entanto, o caso não foi priorizado para revisão humana. Dias depois, dois usuários denunciaram o conteúdo, mas ele continuou disponível na plataforma. Um desses usuários recorreu da decisão da Meta. Como a publicação não foi revisada, o caso foi encaminhado ao Comitê. O usuário que apresentou a apelação informou ao Comitê que o vídeo havia sido gerado por IA e que imitava uma amiga, cuja conta já havia sido encerrada, sem o consentimento dela.
Após o Comitê levar o caso ao conhecimento da Meta, especialistas da empresa avaliaram a publicação e concluíram que ela não deveria ser removida com base nos Padrões da Comunidade. Ainda assim, decidiram restringir sua visualização apenas a adultos.
Principais descobertas
O Comitê entendeu que a publicação infringe a proibição de compartilhamento de imagens íntimas não consensuais (NCII), prevista na Política de Exploração Sexual Adulta da Meta. Isso porque o conteúdo atende aos três critérios estabelecidos pela política para caracterização de imagens íntimas não consensuais: aparenta ser conteúdo não comercial em um ambiente aparentemente privado; a mulher retratada está “quase nua”; e há ausência de consentimento.
A Meta argumentou que, quando o conteúdo foi sinalizado, não havia elementos que indicassem que a pessoa retratada fosse uma pessoa real, uma vez que ela própria não havia realizado uma denúncia. Entre os fatores considerados pela Meta para identificar a falta de consentimento estão denúncias feitas pela pessoa retratada, legendas, comentários ou títulos que indiquem contexto de vingança, bem como denúncias provenientes de fontes independentes, como autoridades policiais, veículos de comunicação ou representantes de sobreviventes de imagens íntimas não consensuais.
O Comitê entende que representações geradas por IA que se passam por pessoas reais devem ser consideradas, por definição, não consensuais e inseridas ao conjunto de sinais utilizados pela empresa para determinar a ausência de consentimento.
A ampliação desses indicadores beneficiaria especialmente pessoas não públicas afetadas por imagens íntimas não consensuais, pois diminuiria a necessidade de que as próprias vítimas denunciassem o abuso. Especialistas consultados pelo Comitê durante a análise do caso afirmaram que as vítimas são mais beneficiadas quando o conteúdo é removido rapidamente e quando existem mecanismos de sinalização que não dependem exclusivamente da autodenúncia.
Para reduzir ainda mais esse ônus, o Comitê considera que a Meta deveria permitir que contas verificadas de amigos e familiares das pessoas afetadas pudessem denunciar conteúdos violadores em nome delas.
O Comitê também entende que a Meta deve aperfeiçoar globalmente seus processos de denúncia e recurso relacionados a imagens íntimas não consensuais. Além disso, a Meta e outros grandes desenvolvedores de modelos de linguagem devem incorporar proteções ao design de seus sistemas e implementar credenciais de conteúdo em larga escala.
A decisão do Comitê de Supervisão
Diante disso, o Comitê revogou a decisão da Meta de manter a publicação e determinou sua remoção.
O Comitê recomenda que a Meta:
- Adicione à Política de Exploração Sexual Adulta um novo indicativo de ausência de consentimento: contexto de que o conteúdo constitui uma representação sexualizada de pessoas reais gerada por inteligência artificial.
- Permita que os usuários indiquem “contas conectadas”, como amigos de confiança, familiares ou associados, autorizadas a denunciar em seu nome possíveis violações dos Padrões da Comunidade relacionadas a imagens íntimas não consensuais, incluindo casos de criação de perfis falsos.
- Inclua a criação de perfis falsos com conteúdo sexualizado gerado por IA como uma categoria específica nos formulários de denúncia e recurso, separada das categorias “assédio” e “nudez”. Esses formulários devem estar disponíveis globalmente.
O Comitê também reafirma recomendações feitas em decisões anteriores:
- Substituir o termo “pejorativo” na proibição do “uso pejorativo de Photoshop para fins de sexualização” por “não consensual”, bem como trocar a palavra “Photoshop” por uma expressão mais ampla que contemple mídias manipuladas em geral.
- Implementar credenciais de conteúdo, conforme estabelecido pela Coalition for Content Provenance and Authenticity (C2PA), em larga escala, assegurando que essas informações sejam claramente visíveis e acessíveis aos usuários, de forma consistente, sempre que dados de procedência estiverem disponíveis.
Mais informações
Para ler os comentários públicos sobre este caso, clique aqui.
