Vídeo sexualizado gerado por IA denunciado

Resumo

O Comitê de Supervisão revogou a decisão da Meta de deixar ativo no Instagram um vídeo supostamente gerado por IA que falsificava a identidade de uma mulher e solicita que a empresa reforce as proteções para pessoas que não são figuras públicas e que são alvo de deepfakes sexualizados.

Por que isso é importante

A decisão e as recomendações do Comitê surgem em um momento em que governos, como os da Índia, do Reino Unido e da Espanha, estão estabelecendo novas regras para plataformas sobre conteúdos gerados por IA. A União Europeia (UE) chegou a um acordo para proibir sistemas de IA que geram conteúdo íntimo e sexualmente explícito não consensual ou que produzam material de abuso sexual infantil, como apps de “nudificação” por IA. Outras plataformas, como o X, vêm sendo criticadas devido a imagens sexualmente explícitas geradas por chatbots de IA.

É evidente que a escala, a velocidade e a sofisticação das ferramentas de IA têm levado a uma proliferação global de conteúdo sexualizado não consensual gerado por IA. A disseminação de vídeos deepfake com conteúdo sexual causa danos psicológicos e à reputação, que afetam de forma desproporcional mulheres e meninas, além de ter um efeito inibidor na participação delas na vida social e política.

Sobre o caso

Em setembro de 2025, um usuário do Instagram postou um vídeo de oito segundos, supostamente gerado por IA, em que uma mulher ajeita um vestido justo e se movimenta, deixando a roupa íntima visível em alguns quadros.

No dia seguinte, o sistema automatizado da Meta, que detecta conteúdos com potencial de causar danos a pessoas e com alta probabilidade de efeito viral, identificou o post, mas ele não foi considerado prioritário para análise humana. Alguns dias depois, dois usuários denunciaram o conteúdo, mas ele permaneceu na plataforma. Um dos usuários fez uma apelação à Meta, mas o post não foi analisado. O usuário, então, fez uma apelação ao Comitê. O usuário que fez a apelação disse ao Comitê que o vídeo havia sido gerado por IA e retratava uma pessoa se passando por uma amiga que já havia encerrado a conta, sem o consentimento da amiga.

Quando o Comitê levou o caso à atenção da Meta, os especialistas da empresa analisaram o post e concluíram que ele não deveria ser removido de acordo com os Padrões da Comunidade, mas restringiram sua visualização a adultos.

Principais descobertas

O Comitê considera que o post viola a proibição de compartilhamento de imagens íntimas não consensuais (NCII, na sigla em inglês), prevista na Política sobre Exploração Sexual de Adultos da Meta. Isso ocorre porque o post atende aos três critérios da política em caso de imagens íntimas não consensuais: parece ser um conteúdo não comercial em um ambiente aparentemente privado; a mulher retratada está “quase nua”; e não há consentimento.

A Meta afirmou que, quando o conteúdo foi sinalizado, a empresa não tinha indícios de que a pessoa retratada no vídeo fosse “uma pessoa real”, pois a própria pessoa retratada não havia denunciado o conteúdo. Entre os sinais que a Meta usa para determinar a falta de consentimento estão denúncias feitas pela pessoa retratada; legendas, comentários ou títulos que sugiram um contexto de vingança; e denúncias de fontes independentes, como autoridades policiais, veículos de comunicação ou representantes de vítimas de imagens íntimas não consensuais.

O Comitê considera que a falsificação de identidade gerada por IA é, por padrão, não consensual e deve ser adicionada ao conjunto de sinais que a empresa usa para determinar a ausência de consentimento.

Ampliar os sinais de falta de consentimento dessa forma beneficiaria especialmente as pessoas que não são figuras públicas e que são alvo de imagens íntimas não consensuais, pois isso reduziria o ônus que recai sobre as vítimas de denunciar o abuso. Os especialistas consultados pelo Comitê durante o caso afirmaram que as vítimas se beneficiam mais da remoção rápida de conteúdo e de métodos mais eficazes para sinalizar conteúdos que não dependam de autodenúncias.

Para reduzir ainda mais esse ônus, o Comitê considera que a Meta deveria permitir que contas verificadas de amigos e familiares denunciem, em nome das pessoas afetadas, conteúdos violadores.

A Meta também deveria melhorar o processo de denúncia e apelação de imagens íntimas não consensuais em suas plataformas no mundo todo. Ela e outros desenvolvedores de grandes modelos de linguagem devem incorporar medidas de proteção à concepção de seus sistemas e implementar credenciais de conteúdo em larga escala.

A decisão do Comitê de Supervisão

O Comitê anula a decisão da Meta de deixar ativo o conteúdo e exige que o post seja removido.

Ele recomenda que a Meta:

• Inclua, na Política sobre Exploração Sexual de Adultos, um novo indicador de falta de consentimento: contexto em que o conteúdo é uma falsificação de identidade sexualizada de pessoas reais gerada por IA.
• Permita que os usuários designem “contas conectadas”, como amigos de confiança, familiares ou colegas, que possam denunciar, em nome das pessoas afetadas, possíveis violações dos Padrões da Comunidade envolvendo imagens íntimas não consensuais, incluindo casos de falsificações de identidade.
• Inclua a falsificação de identidade sexualizada gerada por IA como uma categoria separada nos formulários padrão de denúncia e apelação de conteúdo, distinta das categorias “assédio” e “nudez”. Os formulários de denúncia devem ser disponibilizados no mundo todo.

O Comitê também reitera as seguintes recomendações de decisões anteriores:

• Substituir a palavra “depreciativos” na proibição de “photoshop sexualizado depreciativo” por “não consensuais” e substituir a palavra “photoshop” por um termo mais generalizado para se referir a mídias manipuladas.
• Implementar as credenciais de conteúdo (conforme estabelecido pela Coalition for Content Provenance and Authenticity – C2PA) em larga escala e assegurar que sejam visíveis e acessíveis de forma clara e consistente aos usuários sempre que os detalhes de origem estiverem disponíveis.

*Os resumos de casos fornecem uma visão geral dos casos e não têm valor de precedente.

Decisão completa sobre o caso

1. Descrição do caso e histórico

A escala, a velocidade e a sofisticação das ferramentas de IA resultaram na proliferação de conteúdo sexualizado não consensual gerado por IA. Em 2023, um relatório da plataforma de segurança online Security Hero descobriu que 98% dos vídeos deepfake online eram “pornografia deepfake” e 99% tinham mulheres como alvo. Um estudo de 2024 da organização não governamental (ONG) Internet Matters descobriu que 99% dos deepfakes de nudez apresentavam mulheres e meninas.

Em uma declaração conjunta de fevereiro de 2026, 61 autoridades de proteção dos dados e privacidade de todo o mundo alertaram que “desenvolvimentos recentes, particularmente a geração de imagens e vídeos por IA integrada em plataformas de rede social amplamente acessíveis, possibilitaram a criação de imagens íntimas não consensuais, representações difamatórias e outros conteúdos prejudiciais com indivíduos reais”. Segundo o grupo de notícias britânico The Guardian, como os modelos de IA criam imagens aprendendo e replicando elementos de imagens existentes, “acredita-se que os apps de nudificação sejam treinados em vastos conjuntos de dados de imagens predominantemente femininas, porque tendem a funcionar com mais eficácia em corpos de mulheres”.

Uma pesquisa realizada em 2025 com mais de 16 mil adultos em 10 países revelou que as mulheres relataram maiores danos e impactos negativos decorrentes do abuso sexual baseado em imagens do que os homens. Pesquisasmostram que o abuso sexual não consensual baseado em imagens acarreta danos psicológicos e à reputação (como angústia, ansiedade e trauma), assédio e humilhação, impactos na identidade, autonomia e integridade, além de um efeito inibidor na participação da vida social e política.

Os comentários públicos enviados ao Comitê destacam a importância de considerar as diferenças culturais e contextuais locais na definição e aplicação de medidas contra conteúdo sexualizado não consensual gerado por IA, incluindo a representação indevida de identidade (ver PC-32490 e PC-32481). Eles fornecem exemplos de imagens íntimas não consensuais geradas por IA envolvendo mulheres que são tanto figuras públicas quanto não públicas. A ONG Digital Rights Foundation Pakistan observou que sua Linha de Apoio de Segurança Digital recebeu vários casos de abuso não consensual baseado em imagens geradas por IA, incluindo casos em que mulheres paquistanesas que vivem na Itália e no Reino Unido foram alvo de abuso e posteriormente foram vítimas de assassinatos por questões de honra, “no país ou depois de serem forçadas a ir para o Paquistão” (PC-32481).

Um número significativo de jurisdições passou a regulamentar e criminalizar deepfakes não consensuais ou imagens sexualizadas geradas por IA. A Espanha propôs uma legislação destinada a restringir os deepfakes de IA e reforçar as regras de consentimento para o uso de imagens, vozes e semelhanças. O México aprovou a “Lei Olimpia”, focada em emendas legislativas que abordam a violência digital, incluindo imagens íntimas não consensuais. O Peru e a Colômbia aprovaram leis que tornam o uso de deepfakes um fator agravante de um crime. No Canadá, a Lei de Proteção de Imagens Íntimas da Colúmbia Britânica concentra-se na distribuição não consensual de imagens íntimas.

Nos EUA, a Lei TAKE IT DOWN, sancionada em 2025, torna crime postar ou ameaçar postar imagens íntimas não consensuais, incluindo deepfakes gerados por IA, e exige que as plataformas removam esse conteúdo em até 48 horas após a notificação. O governo indiano exige que as plataformas removam conteúdo sexual não consensual em até 24 horas após a apresentação de uma reclamação. O Reino Unido implementou um prazo de remoção de 48 horas para imagens íntimas não consensuais.

A União Europeia (UE) chegou a um acordo para proibir sistemas de IA que gerem conteúdo íntimo e sexualmente explícito não consensual ou que produzam material de abuso sexual infantil, como apps de “nudificação” por IA.

Esse caso levanta considerações emblemáticas sobre políticas e aplicação no contexto de imagens sexualizadas geradas por IA, incluindo a falsificação de identidade sexualizada. Em 2024, o Comitê discutiu dois casos de imagens explícitas de IA que se assemelhavam a figuras públicas femininas da Índia e dos EUA. ( Imagens explícitas de figuras públicas femininas criadas por IA). Partindo dessa decisão, o presente caso analisa questões relativas à falsificação de identidade sexualizada gerada por IA, em particular envolvendo figuras não públicas.

Em setembro de 2025, um usuário do Instagram postou um vídeo de oito segundos, supostamente gerado por inteligência artificial, de uma mulher vestindo um vestido justo. No vídeo, a mulher está ajustando o vestido e movimentando o corpo, com a roupa íntima visível em alguns momentos.

No dia seguinte, o sistema automatizado da Meta, que detecta e prioriza conteúdo que possa representar um risco para os indivíduos, especialmente conteúdo com alta probabilidade de efeito viral, identificou o post. No entanto, a denúncia não foi priorizada para análise humana.

Alguns dias depois, dois usuários denunciaram o conteúdo por ser pornográfico, mas suas denúncias também não foram priorizadas para análise humana, e o conteúdo permaneceu no Instagram. Um dos usuários que denunciou o conteúdo pediu à Meta que o removesse, mas, novamente, o post não foi priorizado para análise humana. Em seguida, o usuário fez uma apelação ao Comitê.

Quando o Comitê levou o caso ao conhecimento da Meta, os especialistas dela analisaram o post e concluíram que ele não violava os Padrões da Comunidade da empresa. Portanto, a Meta não removeu o conteúdo, mas determinou que ele só deveria ser visível para adultos conforme a Política sobre Nudez Adulta e Atividade Sexual.

2. Envios de usuários

Ao apresentar a apelação ao Comitê, o usuário denunciante afirmou que o vídeo foi gerado por IA e se passou por uma mulher, uma de suas amigas, sem o consentimento dela, “prejudicando sua reputação”. O usuário que fez a denúncia acrescentou que sua amiga já havia encerrado a conta, mas o usuário que fez o post continuou a criar conteúdo sexualizado usando a imagem da amiga.

3. Políticas de Conteúdo e envios da Meta

Avaliação de conteúdo

A Meta constatou que o post não viola nenhum Padrão da Comunidade. Ela não considerou que o post violasse a Política sobre Nudez Adulta e Atividade Sexual, que proíbe imagens fotorrealistas ou digitais de nudez adulta, ou vídeos fotorrealistas ou digitais que se concentram na virilha, seios femininos ou nádegas gravados sem o conhecimento das pessoas neles retratadas. No entanto, de acordo com essa política, a empresa restringe a visibilidade de “imagens fotorrealistas ou digitais de pessoas em que a virilha, as nádegas ou os seios femininos são o foco da imagem” a usuários maiores de 18 anos. Como a mulher retratada chama a atenção para a região da virilha e para a roupa íntima ao mover as pernas e ajustar a vestimenta, a Meta determinou que o conteúdo se enquadra nessa diretriz e só deve ser visível para adultos.

A Meta também não considerou que o post violava os Padrões da Comunidade sobre Exploração Sexual de Adultos, que proíbem “compartilhar, ameaçar, declarar a intenção de compartilhar, oferecer ou solicitar imagens íntimas não consensuais (NCII) que atendam a todas as três condições a seguir:

a. Imagens não comerciais e produzidas em um ambiente privado.

b. A pessoa na imagem está (praticamente) nua, envolvida em atividades sexuais ou em uma pose sexualmente sugestiva (isso inclui imagens criadas digitalmente ou geradas por IA).

c. A falta de consentimento para compartilhar as imagens é atestada com qualquer um dos seguintes sinais:

i. Contexto vingativo (como legenda, comentários ou título da Página).

ii. Fontes independentes, como registros policiais, reportagens jornalísticas (como vazamentos de imagens confirmados pela mídia) ou representantes de um sobrevivente de NCII (imagens íntimas não consensuais).

iii. Relato de uma pessoa retratada na imagem ou que compartilha o mesmo nome que essa pessoa”.

De acordo com a Meta, no momento da análise escalonada, a empresa não tinha indicações, como denúncias de usuários, sugerindo que o indivíduo retratado era “uma pessoa real”. A empresa observou que, se o indivíduo retratado tivesse denunciado o conteúdo, isso teria violado a Política sobre Exploração Sexual de Adultos. Isso ocorre porque a pessoa retratada veste lingerie ou roupa de dormir, o que configura quase nudez e viola a Política sobre Compartilhamento de Imagens Íntimas Não Consensuais. Para a Meta, a denúncia teria servido como um sinal claro de não consentimento.

Ela também não considerou que o post viola a Política sobre Bullying e Assédio que, conforme seu Nível 1 [proteções universais para todos], proíbe “photoshop ou desenhos sexualizados depreciativos”. Isso inclui conteúdo que foi alterado para combinar a cabeça ou o rosto de uma pessoa real com um corpo, real ou fictício, que seja sexualmente explícito (nu, seminu ou envolvido em atividade sexual) ou posicionado de maneira sexualmente sugestiva. A Meta afirmou que a pessoa no vídeo não é retratada de forma sexualmente explícita, ou seja, não aparece nua ou quase nua. Para a empresa, as poses da pessoa também não constituem poses sexualmente sugestivas, conforme definido na Política sobre Nudez Adulta e Atividade Sexual, que inclui abrir as pernas para expor a área genital ou se curvar usando roupa íntima ou roupas transparentes.

Como as três políticas mencionadas acima usam o termo “quase nudez”, o Comitê perguntou à Meta por que o post constituía apenas quase nudez, violando a regra da Política sobre Compartilhamento de Imagens Íntimas Não Consensuais. Em resposta, a Meta explicou que a principal distinção entre quase nudez e nudez é a forma como as partes íntimas são cobertas: no caso da quase nudez, elas são cobertas apenas por um objeto opaco (por exemplo, roupas não vestidas), uma sobreposição digital ou o corpo humano, tornando-as parcialmente visíveis, mas não totalmente expostas. Por outro lado, a nudez total não envolve essa cobertura. Segundo a Meta, as três políticas compartilham a mesma definição básica de quase nudez, ou seja, um “ser humano que não está totalmente vestido de maneiras específicas” para revelar parcialmente pelos pubianos, genitália, mamilos femininos e/ou nádegas, quando cobertos por objetos, sobreposições digitais ou roupas transparentes. No entanto, de acordo com a Meta, apenas a Política sobre Exploração Sexual de Adultos se baseia nessa definição compartilhada, incluindo indicadores adicionais de quase nudez com o objetivo de identificar possíveis imagens íntimas não consensuais. Para a Meta, essa abordagem mais ampla reflete como o abuso de imagens íntimas não consensuais pode aparecer em suas plataformas, ou seja, manifestando-se como imagens íntimas que apresentam indivíduos em ambientes privados usando lingerie ou outras roupas íntimas, o que vai além dos tipos de nudez e quase nudez definidos pelas outras políticas. A empresa explicou ainda que, embora a definição básica seja mantida para a aplicação da Política sobre Nudez Adulta e Atividade Sexual, a fim de evitar a remoção de conteúdo inofensivo, sem a definição ampliada, imagens íntimas não consensuais poderiam potencialmente escapar da aplicação.

Com relação à Política sobre Bullying e Assédio, a empresa explicou que fotos ou desenhos sexualizados depreciativos são considerados inerentemente depreciativos, enquanto imagens íntimas não consensuais geralmente envolvem pessoas reais capturadas em ambientes privados ou íntimos e compartilhadas sem o consentimento delas. Segundo a Meta, visto que se trata de dois abusos distintos, a definição ampliada de quase nudez na Política sobre Exploração Sexual de Adultos não se aplica à regra da Política sobre Photoshop ou Desenhos Sexualizados e Depreciativos na Política sobre Bullying e Assédio.

A empresa explicou ainda que, ao contrário do padrão de “quase nudez”, a definição de “poses sexualmente sugestivas”, mencionada acima, permanece a mesma em todas as políticas.

Em resposta às perguntas do Comitê, a Meta afirmou que, como a empresa não detectou metadados do Conselho Internacional de Telecomunicações da Imprensa (IPTC) ou C2PA em larga escala nos vídeos no momento em que o conteúdo foi postado, e o usuário que postou o vídeo não divulgou que o vídeo foi criado ou alterado usando IA, o conteúdo, neste caso, não foi rotulado como gerado ou manipulado por IA. A Meta observou que a empresa exige que os usuários divulguem, por meio da ferramenta de divulgação de IA, sempre que postarem conteúdo orgânico com vídeo fotorrealista ou áudio com som realista que foi criado ou alterado digitalmente, e os usuários podem receber penalidades por não divulgarem (ver também a decisão do caso Vídeo gerado por IA no conflito Israel-Irã).

Determinação de consentimento

A Meta informou ao Comitê que os requisitos para determinar a ausência de consentimento variam de acordo com seus Padrões da Comunidade. Em relação a conteúdo sexualizado, algumas políticas, como a de Exploração Sexual de Adultos, exigem sinais de não consentimento para a remoção do conteúdo. Outras políticas, como a de Nudez Adulta e Atividade Sexual ou certas regras da Política sobre Bullying e Assédio, serão consideradas violadoras, independentemente do consentimento da pessoa retratada ou visada. No entanto, com relação a outras regras da Política sobre Bullying e Assédio (que não se aplicam a esse caso), os sinais de que o conteúdo é indesejado exigem sua remoção e são avaliados como um indicador de não consentimento.

Especificamente, de acordo com a Política sobre Exploração Sexual de Adultos, para que conteúdo de imagens íntimas não consensuais e não comerciais, incluindo quando gerado por IA, seja removido, são necessários sinais de não consentimento. A Meta explicou que a empresa determina se imagens sexualmente explícitas ou sugestivas foram compartilhadas sem consentimento, com base no contexto da violação.

A empresa acrescentou que não exige uma denúncia direta da pessoa retratada para remover imagens íntimas não consensuais se há outros indicadores confiáveis de falta de consentimento. Isso inclui denúncias de terceiros, como autoridades policiais, mídia ou parceiros confiáveis, bem como pistas contextuais dentro do próprio conteúdo (por exemplo, na legenda, nos comentários ou no título da página) que sugerem que as imagens foram compartilhadas de maneira “vingativa ou sensacionalista”.

Por outro lado, as violações da Política sobre Nudez Adulta e Atividade Sexual são removidas independentemente do consentimento da pessoa retratada. Da mesma forma, violações envolvendo photoshop ou desenhos sexualizados depreciativos, de acordo com a Política sobre Bullying e Assédio, são consideradas inerentemente indesejáveis ​​e, portanto, não exigem autodenúncia.

Por fim, no caso de regras da Política sobre Bullying e Assédio, a empresa avalia se o conteúdo é indesejado por meio de autodenúncias ou sinais contextuais. Por exemplo, a autodenúncia se aplica à regra de imagens manipuladas indesejadas de “Nível 3” (que não precisa ser de natureza sexual ou íntima), visto que não é evidentemente depreciativa ou ofensiva. Já para a regra de “Nível 1” referente a contato indesejado que configura assédio sexual, não é necessário que o destinatário faça uma autodenúncia, mas a Meta considera diversos sinais para determinar se o conteúdo retrata um comportamento indesejado, incluindo se o destinatário fez uma autodenúncia, expressou desconforto, pediu para que o contato parasse ou tomou medidas na plataforma, como denunciar ou bloquear.

Relatórios de terceiros

A Meta informou ao Comitê que os sinais de não consentimento se aplicam igualmente a imagens íntimas não consensuais envolvendo figuras públicas e figuras privadas. A empresa explicou que, em larga escala, não se baseia em denúncias de terceiros que alegam estar agindo em nome da pessoa retratada, pois não consegue verificar de forma confiável se essas denúncias são autorizadas ou confiáveis. Para a Meta, as denúncias por terceiros, que não sejam de pessoas ou parceiros confiáveis, acarretam o risco de falsas acusações de imagens íntimas não consensuais em conteúdo que pode ter sido compartilhado por adultos que consentiram, o que pode levar a uma overenforcement.

A Meta acrescentou que a empresa permite que tanto as pessoas retratadas quanto terceiros denunciem casos de falsificação de identidade no Facebook e no Instagram. A Política sobre Representação de Identidade Autêntica da Meta proíbe contas que se passam por outra pessoa ou entidade usando sua imagem, nome ou semelhança. A Meta observou que proíbe contas que induzem deliberadamente outras pessoas a erro sobre sua identidade, por exemplo, por meio de alterações repetidas ou significativas nos dados de identidade ou informações de perfil enganosas. Ela explicou que essa política se concentra na representação indevida de identidade no nível da conta, e não no nível do conteúdo, já que os usuários podem compartilhar conteúdo de outras pessoas sem a intenção explícita de enganar (por exemplo, postar fotos de amigos). A Meta considera que a aplicação ao nível do conteúdo nesses contextos pode levar a uma overenforcement. A empresa acrescentou que a falsificação de identidade no nível do conteúdo é tratada separadamente em casos de escalation, de acordo com a Política sobre Fraudes, Golpes e Práticas Enganosas, por exemplo, para conteúdo que faz uso não autorizado da imagem de uma pessoa famosa em uma tentativa de aplicar golpes ou fraudes.

O Comitê fez perguntas sobre considerações de política e aplicação para determinar a falta de consentimento em larga escala, particularmente para conteúdo envolvendo figuras não públicas, canais para denúncias de terceiros em nome de indivíduos retratados, além de denúncias de autoridades policiais, mídia e parceiros confiáveis, penalidades por não divulgar o uso de IA na geração de vídeo ou áudio e a interação entre vários Padrões da Comunidade relevantes. A Meta respondeu a todas as perguntas.

4. Comentários públicos

O Comitê recebeu 13 comentários públicos que cumpriam os termos para envio. Três dos comentários foram enviados da Europa, três dos Estados Unidos e Canadá, dois da Ásia-Pacífico e Oceania, dois da Ásia Central e Meridional, dois da África Subsaariana e um da América Latina e do Caribe. Para ler comentários públicos enviados com consentimento de publicação, clique aqui.

Os envios abordaram os seguintes temas: implicações de uma definição padronizada de conteúdo sexualizado, considerando as diferenças culturais e locais; necessidade de simplificar as abordagens políticas relativas a imagens íntimas não consensuais; restrição de idade como medida inadequada para lidar com imagens íntimas não consensuais; importância e benefícios de permitir que terceiros denunciem em nome de vítimas de imagens íntimas não consensuais; recomendações sobre como determinar a falta de consentimento em larga escala, aprimorar a aplicação das políticas em relação a imagens íntimas não consensuais e implementar medidas de proteção no nível do produto.

Em março de 2026, como parte do engajamento contínuo com as partes interessadas, o Comitê consultou representantes de organizações de defesa de direitos, acadêmicos, organizações intergovernamentais e outros especialistas sobre a questão da moderação de conteúdo sexualizado não consensual gerado por IA. Os participantes forneceram insights sobre o uso e a proliferação de conteúdo sexualizado gerado por IA, inclusive por meio de falsificações de identidade. Eles destacaram a importância de tratar a falsificação de identidade sexualizada por IA sem consentimento como conteúdo sexual não consensual, e não meramente como uma questão de nudez adulta. Eles sugeriram que as empresas de redes sociais adotassem uma presunção de não consentimento, dado o risco de danos graves decorrentes de imagens íntimas não consensuais, incluindo assédio, exploração e danos à reputação. Alguns participantes observaram que pessoas que não são figuras públicas deveriam receber um nível mais alto de proteção, já que muitas vezes têm menos acesso à mídia e a outros recursos para denunciar os abusos. Outros destacaram a importância de envolver diretamente as vítimas de abuso de imagens íntimas não consensuais nos processos de elaboração de políticas e de aplicação.

5. Análise do Comitê de Supervisão

O Comitê selecionou esse caso para avaliar a abordagem da Meta em relação ao conteúdo sexualizado gerado por IA, particularmente no contexto em que a imagem ou semelhança de uma pessoa é usada de forma sexualmente explícita ou sugestiva sem o consentimento dela. O caso é relevante para duas das sete prioridades estratégicas do Comitê: Automação e IA e Gênero.

Ele analisou a decisão da Meta nesse caso em relação às políticas de conteúdo, aos valores e às responsabilidades de direitos humanos da empresa. Também avaliou as implicações desse caso quanto à abordagem mais ampla da Meta em relação à governança de conteúdo.

5.1 Conformidade com as políticas de conteúdo da Meta

I. Regras sobre conteúdo

O Comitê considera que o post viola a proibição da Meta de compartilhamento de imagens íntimas não consensuais, prevista em sua Política sobre Exploração Sexual de Adultos. Esse post representa uma falsificação de identidade sexualizada gerada por IA, um tipo de abuso sexual baseado em imagens, em que a imagem ou semelhança de uma pessoa é usada de maneira sexualmente sugestiva ou explícita sem o consentimento dela.

Para violar a regra da Meta sobre imagens íntimas não consensuais, o conteúdo deve atender às condições estabelecidas na Política sobre Exploração Sexual de Adultos, e o conteúdo neste caso atende a todas às três. Em primeiro lugar, o vídeo parece ser de natureza não comercial e aparenta ter sido produzido em um ambiente privado. Em segundo lugar, a mulher retratada está usando lingerie, o que se enquadra na definição de quase nudez segundo a política vigente.

Com relação à terceira condição, o Comitê observa que a falsificação de identidade gerada por IA não é consensual por padrão. Embora a Meta argumente, em sua apelação ao Comitê, que a mulher retratada não é “uma pessoa real”, o usuário afirmou que o vídeo foi gerado por IA e se passava por uma amiga, que havia encerrado sua conta, presumivelmente devido ao uso contínuo de sua imagem pelo usuário que fez o post para criar conteúdo sexualizado. O Comitê está preocupado com o fato de a empresa concluir que a pessoa retratada não é “uma pessoa real” com base unicamente na ausência de uma denúncia do usuário. Isso ilustra uma lacuna prática na determinação do consentimento para aplicar as regras da Meta sobre imagens íntimas não consensuais e conteúdo de falsificação de identidade sexualizada gerada por IA, especialmente envolvendo pessoas que não são figuras públicas.

Embora a atualização da Política sobre Exploração Sexual de Adultos da Meta, de outubro de 2025, que passa a incluir imagens geradas por IA, seja um passo necessário, dada a proliferação de conteúdo de falsificação de identidade sexualizada gerada por IA em todo o mundo, medidas adicionais são imprescindíveis. Considerando os graves danos causados ​​por falsificações de identidades sexualizadas geradas por IA, a empresa deveria priorizar a segurança.

Para este efeito, e conforme recomendações anteriores feitas pelo Comitê (ver, por exemplo, Imagens explícitas de figuras públicas femininas criadas por IA, recomendação n.º 4), a Meta deve ampliar o âmbito dos sinais de falta de consentimento, especialmente para figuras não públicas. Embora o Comitê acredite que, em consonância com o feedback de especialistas e partes interessadas recebido, a abordagem mais abrangente anteriormente recomendada (considerando a geração por IA como um sinal contextual de falta de consentimento para imagens íntimas não consensuais, de acordo com a Política sobre Exploração Sexual de Adultos) aborda melhor os danos causados ​​por esse conteúdo, a Meta não implementou a recomendação de forma significativa.

Portanto, no âmbito das políticas públicas, no mínimo, a empresa deveria considerar listar explicitamente a falsificação de identidade sexualizada gerada por IA como um sinal contextual de imagens íntimas não consensuais, a fim de evitar possíveis lacunas nas políticas e na aplicação dela. Isso exigiria uma avaliação contextual dos sinais no conteúdo (por exemplo, legenda do post, título da página ou comentários), semelhante, por exemplo, à avaliação do contexto vingativo como um sinal de falta de consentimento conforme a Política sobre Exploração Sexual de Adultos. Fluxos de denúncias aprimorados e denúncias de contas de conexão designadas, conforme discutido abaixo, também forneceriam sinais relevantes para essas avaliações. Ao mesmo tempo, a ausência desses sinais contextuais, juntamente com a autodeclaração do usuário sobre a utilização de ferramentas de IA para criar imagens sexualizadas, pode corroborar com a conclusão de que o conteúdo não retrata uma pessoa real e, portanto, não é uma falsificação de identidade. Essa abordagem é suficientemente restrita para evitar a overenforcement, mas abrange imagens de falsificação de identidade sexualizada gerada por IA que violam regras.

O Comitê também está preocupado com o fato de a abordagem atual da Meta se concentrar principalmente em contas que se fazem passar por outra pessoa ou entidade, de acordo com a Política sobre Representação de Identidade Autêntica, e na representação de figuras públicas no nível do conteúdo, de acordo com a Política sobre Fraude, Golpes e Práticas Enganosas. Essa abordagem não leva em consideração os danos graves e bem documentados causados ​​por imagens de falsificação de identidade sexualizada gerada por IA contra figuras não públicas.

II. Medida de aplicação

Esse caso levanta duas preocupações distintas e inter-relacionadas sobre a aplicação de política referente a imagens íntimas não consensuais. A primeira questão diz respeito às limitações no número de entidades, além da pessoa retratada, que podem sinalizar a falta de consentimento de acordo com a Política sobre Exploração Sexual de Adultos; e a segunda diz respeito à eficácia dos fluxos atuais de denúncia e apelação. Alterações em ambos os mecanismos levariam a uma melhor aplicação de política contra imagens íntimas não consensuais, incluindo a falsificação de identidade sexualizada gerada por IA. Esse caso também ilustra a necessidade de incorporar medidas de proteção no projeto do sistema e implementar credenciais de conteúdo em larga escala.

Designação de contas conectadas

As respostas da Meta às perguntas do Comitê sugerem que, atualmente, o único caminho eficaz para pessoas que não são figuras públicas comprovarem a falta de consentimento é por meio de autodenúncia.

Pessoas que não são figuras públicas dificilmente se beneficiariam diretamente da atuação das autoridades policiais e das denúncias da mídia enviadas à Meta, já que, por exemplo, teriam que apresentar uma queixa separada às autoridades policiais e depender da decisão da respectiva instituição pública de agir em relação ao caso. Além disso, dada a proliferação de conteúdo sexualizado gerado por IA, incluindo falsificação de identidade, as denúncias de parceiros confiáveis e representantes de vítimas de abuso de imagens íntimas não consensuais provavelmente ofereceriam uma oportunidade limitada para verificar a falta de consentimento. Nesse sentido, embora seja um passo positivo incluir denúncias de representantes de vítimas de abuso de imagens íntimas não consensuais como uma fonte adicional para comprovar a ausência de consentimento, essas denúncias são mais semelhantes aos de parceiros de confiança e provavelmente serão insuficientes para pessoas vitimizadas pela primeira vez.

Os comentários públicos enviados ao Comitê destacam o impacto da abordagem atual da Meta para determinar a falta de consentimento em larga escala para vítimas de abuso baseado em imagens, incluindo falsificação de identidade (ver PC–32480, PC-32489 e PC-32484). Os envios defendem que essa abordagem coloca o ônus sobre as vítimas e inclui o risco de revitimização e retraumatização. Além disso, a autodenúncia também pode ser difícil quando os usuários afetados não possuem contas ativas nas plataformas da Meta para monitorar e denunciar conteúdo infrator, como neste caso. Especialistas consultados pelo Comitê observam que os sistemas mais eficazes para denunciar o uso de imagens e semelhanças em conteúdo gerado por IA são aqueles que reduzem o ônus para as vítimas, permitem a denúncia em lote ou em grupo, possibilitando a denúncia de vários posts simultaneamente, e acionam a remoção rápida do conteúdo.

Para abordar algumas dessas lacunas de aplicação, no caso Imagens explícitas de figuras públicas femininas criadas por IA, o Comitê recomendou que se os aspectos de nudez ou sexualizados do conteúdo forem gerados por IA, editados ou manipulados de outra forma, mesmo que esse conteúdo não seja “não comercial ou produzido em um ambiente privado”, isso deverá ser visto como um sinal de não consentimento. Embora, em resposta, a Meta tenha atualizado a definição de imagens íntimas não consensuais para incluir imagens criadas digitalmente ou geradas por IA, o Comitê não considera a recomendação implementada, mas sim reformulada, visto que a empresa ainda não considera a geração por IA como um sinal de falta de consentimento.

Portanto, diante do crescente número de imagens de falsificação de identidade sexualizada gerada por IA e para reduzir o sofrimento das vítimas desse tipo de abuso, são necessários mecanismos adicionais para verificar a ausência de consentimento. Nesse sentido, a Meta deve permitir que os usuários designem contas conectadas para denunciar possíveis violações dos Padrões da Comunidade envolvendo imagens íntimas não consensuais, incluindo falsificações de identidade, com o consentimento deles e em seu nome. Para abordar preocupações semelhantes em um contexto diferente, o Comitê já fez recomendações sobre a designação de terceiros para enviarem denúncias ao abrigo das regras da Política sobre Bullying e Assédio que exigem autodenúncia (ver Vídeos de debate sobre identidade de gênero, recomendação n.º 3). Alguns membros do Comitê acreditam que a Meta também deveria considerar oferecer oportunidades semelhantes de denúncia para terceiros que possuam uma conta da Meta e reconheçam indivíduos retratados no conteúdo que não possuam uma conta (como no caso atual), ou que não tenham sido designados como uma conta conectada, para que possam denunciar o conteúdo.

Fluxos de denúncias e apelações

Diversos comentários públicos apontam para as deficiências dos fluxos de denúncia e apelação existentes, destacando a importância de uma análise significativa e eficiente das denúncias sobre imagens íntimas não consensuais geradas por IA, incluindo a falsificação de identidade (ver PC–32481, PC-32489 e PC-32484).

A página da Central de Ajuda da Meta sobre denúncia de imagens íntimas não consensuais afirma que os usuários podem denunciar imagens íntimas não consensuais por meio dos canais de denúncia de usuários existentes ou por meio de umrelatório de denúncia especializado, que atualmente está disponível apenas para residentes dos estados do Texas e da Flórida, nos EUA (embora a empresa observe que está “em processo de disponibilizar o formulário especializado para todos os residentes dos EUA”). O formulário de denúncia específico lista dois motivos para a denúncia: imagens íntimas (definidas como “nudez, nudez parcial ou conteúdo sexualmente explícito compartilhado sem consentimento”) e imagens íntimas deepfake (definidas como “conteúdo sexual falso ou gerado por IA, criado para se parecer com uma pessoa sem o consentimento dela”).

O abuso íntimo não consensual gerado por IA, incluindo personificações sexualizadas, é um problema global (ver, por exemplo, PC-32484, PC-32487, PC-32490, PC-32481 e PC-32480). Portanto, todos os usuários das plataformas da Meta devem ter acesso fácil a meios para denunciar esse tipo de conteúdo globalmente e encaminhá-lo a canais de análise dedicados. Isso deve incluir a listagem da falsificação de identidade sexualizada gerada por IA como uma categoria separada nos formulários regulares de denúncia e apelação, distinta de assédio ou nudez. Como o formulário de denúncia específico só está acessível a determinados usuários nos EUA, essas alterações devem ser adotadas nos formulários regulares de denúncia e apelação, em que usuários globais denunciam conteúdo nas plataformas da Meta. Especialistas consultados pelo Comitê observam que a dependência de categorias genéricas para denúncias, como nudez ou assédio, muitas vezes leva a resultados inconsistentes.

Mecanismos adicionais de aplicação

Ao mesmo tempo, o Comitê reitera sua recomendação no caso Vídeo gerado por IA no conflito Israel-Irã, que pediu à Meta que implementasse credenciais de conteúdo (conforme estabelecido pelo C2PA) em larga escala e garantisse que elas sejam claramente e consistentemente visíveis e acessíveis aos usuários sempre que os detalhes de proveniência estiverem disponíveis, além dos sistemas de back-end e detecção interna. Isso garantiria que tanto a Meta quanto os usuários tivessem sinais adicionais confiáveis ​​de que o conteúdo sexualizado pode ser gerado ou manipulado por IA. Também serviria como uma nova medida para reforçar o sinal de não consentimento ou de algo indesejado. Isso é particularmente importante para pessoas que não são figuras públicas, que muitas vezes estão sujeitas a assédio, danos à reputação e até ameaças à sua segurança física, o que pode ser devastador, estigmatizante e causar isolamento. Embora os danos sejam graves tanto para figuras públicas quanto para figuras não públicas, as figuras públicas têm canais de denúncia mais eficazes do que as figuras não públicas. Em resposta a essa recomendação, a Meta comprometeu-se a aprimorar a forma como apresenta os detalhes de proveniência do conteúdo aos usuários e reconheceu que “há um trabalho significativo pela frente para ampliar as intervenções em outros tipos de conteúdo, para que os usuários possam distinguir melhor entre o conteúdo que foi totalmente criado por IA e o conteúdo que foi apenas parcialmente editado com ferramentas de IA, e como garantir uma experiência consistente no Facebook, Instagram e Threads”.

Relatórios de especialistas e envios ao Comitê também destacam a importância de incorporar medidas de proteção no projeto do sistema. Um relatório de 2023 da empresa de análise de redes sociais Graphika observa que as imagens íntimas não consensuais geradas por IA “passaram de um serviço personalizado disponível em fóruns de nicho na internet para um negócio online automatizado e dimensionado que utiliza uma infinidade de recursos para monetizar e comercializar seus serviços”. De acordo com um relatório de 2025 da ONG AI Forensics, mais de 3 mil anúncios pornográficos foram aprovados e veiculados pelo sistema de publicidade da Meta no ano anterior, que também apresentavam mídia pornográfica gerada por IA, como imagens, vídeos e áudios. Portanto, as medidas de proteção no nível do sistema devem incluir a auditoria e a aplicação de ações contra anúncios pornográficos gerados por IA e a garantia de segurança desde a concepção para o treinamento, implementação e governação de modelos de fronteira, levando em consideração os impactos nas mulheres e meninas.

Por fim, ao avaliar este caso, o Comitê também considerou soluções escaláveis ​​para proteger as imagens e semelhanças dos usuários, como recursos opcionais para identificar e sinalizar as características faciais de um usuário para usos potencialmente não consensuais de sua imagem ou semelhança (ver, por exemplo, PC-32489 e PC-32484). No entanto, esses mecanismos foram descartados, uma vez que sua implementação se baseia principalmente na utilização de tecnologias de reconhecimento facial, que acarretam preocupações significativas em matéria de privacidade, vigilância e preconceito, e um impacto desproporcional documentado nas comunidades marginalizadas.

5.2. Conformidade com as responsabilidades da Meta relativas aos direitos humanos

O Comitê considera que a remoção do conteúdo seria compatível com as responsabilidades da Meta em matéria de direitos humanos.

Liberdade de expressão (Artigo 19 do PIDCP)

O artigo 19 do Pacto Internacional sobre Direitos Civis e Políticos (PIDCP) prevê ampla proteção da liberdade de expressão, incluindo expressões que possam ser consideradas “profundamente ofensivas” (Observação Geral 34, parágrafo 11, ver também parágrafo 17 do relatório de 2019 do Relator Especial da ONU sobre liberdade de expressão, A/74/486).

Quando um Estado aplica restrições à expressão, elas devem atender aos requisitos de legalidade, objetivo legítimo e necessidade e proporcionalidade (Artigo 19, parágrafo 3 do PIDCP). Esses requisitos costumam ser chamados de “teste tripartite”. O Comitê usa essa estrutura para interpretar as responsabilidades de direitos humanos da Meta de acordo com os Princípios Orientadores da Organização das Nações Unidas (ONU) sobre Empresas e Direitos Humanos, com os quais a própria Meta se comprometeu em sua Política Corporativa sobre Direitos Humanos. O Comitê faz isso em relação tanto à decisão de conteúdo individual sob análise quanto ao que isso diz sobre a abordagem mais ampla da empresa relacionada à governança de conteúdo. Como afirmou o Relator Especial da ONU sobre liberdade de expressão, embora “as empresas não tenham obrigações governamentais, o impacto delas exige que avaliem o mesmo tipo de questões sobre a proteção do direito de seus usuários à liberdade de expressão” (A/74/486, parágrafo 41).

I. Legalidade (clareza e acessibilidade das regras)

O princípio da legalidade exige que as regras que limitam a expressão sejam acessíveis e claras, formuladas com precisão suficiente para permitir que um indivíduo regule sua conduta de acordo com elas (Comentário Geral n.º 34, parágrafo 25). Além disso, essas regras “não podem conceder liberdade de ação irrestrita para a restrição da liberdade de expressão aos encarregados de [sua] execução” e devem “fornecer instrução suficiente aos encarregados de sua execução para permitir-lhes determinar quais tipos de expressão são adequadamente restritas e quais tipos não são” (ibid.). O Relator Especial da ONU sobre a liberdade de expressão declarou que, quando aplicadas à governação do discurso online por parte de intervenientes privados, as regras devem ser claras e específicas (A/HRC/38/35, parágrafo 46). As pessoas que usam as plataformas da Meta devem ser capazes de acessar e entender as regras, e os analistas de conteúdo devem ter orientações claras sobre sua aplicação.

No caso Imagens explícitas de figuras públicas femininas criadas por IA, o Comitê destacou várias preocupações em relação à clareza e acessibilidade das regras da Meta sobre imagens íntimas não consensuais. O Comitê recomenda que a Meta:

• Agrupe todas as regras relevantes na Política sobre Exploração Sexual de Adultos, transferindo as diretrizes da política sobre “photoshop sexualizado depreciativo” da seção de Bullying e Assédio lá (recomendação n.º 1).
• Altere a palavra “depreciativo” na proibição de “photoshop sexualizado depreciativo” para “não consensual”, visto que “não consensual” seria um descritivo mais claro do que “depreciativo” para transmitir a ideia de manipulações sexualizadas indesejadas em imagens (recomendação n.º 2).
• Assegure que suas políticas abordem uma ampla gama de técnicas de edição e geração de mídia, substituindo a palavra “photoshop” na proibição de “photoshop sexualizado depreciativo” por um termo mais generalizado para se referir a mídias manipuladas (recomendação n.º 3).

Embora essas recomendações tenham sido emitidas há quase dois anos, a Meta não as implementou de forma significativa. Após a atualização da Política sobre Exploração Sexual de Adultos em 2025, para incluir imagens criadas digitalmente ou geradas por IA na regra da Política sobre Imagens Íntimas Não Consensuais, a Meta considera a recomendação n.º 1 implementada, enquanto o Comitê a considera reformulada. Em relação à recomendação n.º 2, a Meta tem consistentemente observado que a empresa continua a considerar formas de esclarecer a Política sobre Bullying e Assédio, embora não espere fazer alterações a esta última, conforme especificado na recomendação. Da mesma forma, em relação à recomendação n.º 3, a Meta observou que a empresa ainda está em processo de atualização da linguagem relevante na Política sobre Bullying e Assédio. O Comitê solicita à Meta que implemente integralmente as recomendações n.º 2 e 3, a fim de garantir clareza aos usuários no contexto de suas regras sobre imagens íntimas não consensuais, incluindo a falsificação de identidade sexualizada gerada por IA.

II. Objetivo legítimo

Qualquer restrição à liberdade de expressão também deve perseguir um ou mais dos objetivos legítimos listados no PIDCP, o que inclui a proteção dos direitos de terceiros (Artigo 19, parágrafo 3 do PIDCP).

O Comitê reconheceu anteriormente que as restrições da Meta sobre imagens íntimas deepfake são projetadas para proteger os indivíduos da criação e disseminação de imagens sexuais sem o consentimento deles e dos danos resultantes dessas imagens às vítimas e aos seus direitos (Imagens explícitas de figuras públicas femininas criadas por IA). Esses direitos incluem o direito saúde física e mental, já que esse conteúdo é extremamente prejudicial às vítimas (Artigo 12 do PIDESC); a liberdade de não sofrer discriminação, já que há evidências irrefutáveis mostrando que esse conteúdo afeta desproporcionalmente mulheres e meninas (Artigo 2 do PIDCP e do PIDESC); e o direito à privacidade, já que afeta a capacidade das pessoas de manter uma vida privada e autorizar a criação e divulgação das próprias imagens (Artigo 17 do PIDCP).

III. Necessidade e proporcionalidade

Nos termos do artigo 19(3) do PIDCP, a necessidade e a proporcionalidade exigem que as restrições à expressão “devem ser adequadas para atingir sua função de proteção; devem ser o instrumento menos intrusivo entre aqueles que podem atingir sua função de proteção; devem ser proporcionais ao interesse a ser protegido” (Comentário Geral n.º 34, parágrafo 34).

Os direitos à privacidade e à proteção dos usuários contra danos mentais e físicos são violados pelo uso não consensual da própria imagem para criar outras imagens sexualizadas. O conteúdo de falsificação de identidade sexualizada gerada por IA representa uma tendência contínua de perda de controle sobre a própria imagem e identidade. Ao contrário das imagens íntimas não consensuais criadas por deepfake, que envolvem, por exemplo, colocar o rosto de uma pessoa real em uma imagem ou vídeo explícito, as imagens de falsificação de identidade sexualizada gerada por IA usam a imagem ou semelhança de uma pessoa real sem o consentimento dela para fabricar uma pessoa que se assemelhe a ela. O Comitê reitera que, como a grande maioria das pessoas retratadas nessas imagens são mulheres ou meninas, esse tipo de conteúdo também tem impactos discriminatórios e é um dano altamente relacionado ao gênero (ver, por exemplo, PC-32480, 32481, 32484, 32487, 32488, 32490; ver também Imagens explícitas de figuras públicas femininas criadas por IA).

Portanto, dada a gravidade dos danos e considerando que nenhuma medida menos intrusiva seria suficiente, a remoção desse conteúdo, incluindo o post em questão, é uma medida necessária e proporcional. Como o dano decorre do compartilhamento e da visualização dessas imagens, e não apenas do engano das pessoas quanto à sua autenticidade, a rotulagem não seria uma medida suficiente (ver Imagens explícitas de figuras públicas femininas criadas por IA). Da mesma forma, os envios públicos para o Comitê destacam que as conclusões de não violação e a restrição de idade neste caso “podem se tornar uma rejeição de fato da alegação principal em torno da representação sexualizada não consensual” (ver, por exemplo, PC-32481). Portanto, restringir o acesso a conteúdo de falsificação de identidade sexualizada gerada por IA por meio de restrição de idade não é necessário nem proporcional, visto que essa medida não impede de forma significativa a circulação desse conteúdo, não prevenindo, assim, danos à reputação, assédio e possíveis abusos físicos. Além disso, como os mecanismos de aplicação da Meta visam o combate aos danos após a detecção, a remoção rápida é crucial para reduzir o efeito viral e os danos associados às pessoas afetadas (ver também PC-32489).

Diversos envios públicos ao Comitê também destacam a importância de se considerar as diferenças culturais e locais na aplicação das regras sobre conteúdo sexualizado (ver, por exemplo, PC-32490 e PC-32481). Especialistas consultados pelo Comitê destacam que muitas plataformas adotam definições de dano sexual centradas no Ocidente, com foco principalmente na nudez explícita ou em atos sexuais. Os especialistas afirmam que, em certas comunidades socialmente conservadoras, “vídeos ou imagens gerados por IA que retratam uma mulher em público com homens (ou mesmo totalmente vestida em privado), mesmo em cenários não explícitos, podem levar a graves danos à reputação, ostracismo social, casamento forçado, violência baseada na honra ou danos físicos” (ver também PC-32481). Além disso, a Meta recentemente anunciou seu plano de usar IA mais avançada para melhorar o monitoramento de conteúdo, observando que esses sistemas podem “aumentar a capacidade em qualquer idioma com base na necessidade e se adaptar para compreender nuances culturais (incluindo subculturas de nicho), palavras de código, significados de emojis e gírias específicas da região e que mudam rapidamente”. O Comitê reforça a conclusão dos especialistas de que a aplicação eficaz das políticas deve avaliar os danos no contexto para levar em conta essas nuances locais e culturais, incluindo conteúdo sexualmente sugestivo, e espera explorar as oportunidades oferecidas pelos sistemas avançados de IA, por meio de uma supervisão independente e transparente.

No caso Imagens explícitas de figuras públicas femininas criadas por IA, o Comitê reconheceu que criar uma presunção de que imagens sexuais geradas por IA não são consensuais pode ocasionalmente levar à remoção de uma imagem que foi feita consensualmente, levantando preocupações sobre a overenforcement de nudez e quase nudez permitidas. No entanto, considerando os graves danos e o fato de que as regras da Meta sobre imagens íntimas não consensuais também incluem imagens íntimas manipuladas geradas por IA, a Meta deveria ampliar o escopo dos sinais de falta de consentimento, especialmente no que diz respeito a figuras não públicas. A empresa deveria, no mínimo, considerar listar explicitamente a falsificação de identidade sexualizada gerada por IA como um sinal contextual de imagens íntimas não consensuais, a fim de abordar os danos causados ​​por esse tipo de conteúdo.

Direito ao recurso

Semelhante ao caso Imagens explícitas de figuras públicas femininas criadas por IA, no presente caso, as denúncias iniciais e as apelações das decisões da Meta não foram priorizadas para análise humana em tempo hábil. No caso Imagens explícitas de figuras públicas femininas criadas por IA, o Comitê observou que, independentemente do status de figura pública ou não pública das vítimas, um atraso na remoção dessas imagens prejudica gravemente sua privacidade e pode ser catastrófico. Em consonância com a discussão e a recomendação desse caso sobre a melhoria dos fluxos de denúncia relativos a imagens íntimas não consensuais geradas por IA, o Comitê reitera que o acesso a reparação nesses contextos é uma questão que pode ter impactos significativos nos direitos humanos, exigindo uma avaliação e mitigação cuidadosas dos riscos.

6. A decisão do Comitê de Supervisão

O Comitê anula a decisão da Meta de manter o conteúdo e exige que o post seja removido.

7. Recomendações

Política

1. Para ajudar a garantir a remoção de conteúdo que viole as regras, a Meta deve adicionar um novo sinal de falta de consentimento na Política sobre Exploração Sexual de Adultos: contexto que indique que o conteúdo é uma falsificação de identidade sexualizada gerada por IA de pessoas reais.

O Comitê considerará essa recomendação implementada quando as diretrizes internas públicas forem atualizadas para refletir essa mudança.

Aplicação

2. Para reduzir o ônus sobre as vítimas de abuso de imagens íntimas não consensuais, a Meta deve permitir que os usuários designem contas conectadas, como as de amigos, familiares ou colegas de confiança, que possam denunciar em seu nome possíveis violações dos Padrões da Comunidade envolvendo imagens íntimas não consensuais, incluindo falsificações de identidade.

O Comitê considerará essa recomendação implementada quando a Meta disponibilizar esses recursos e torná-los facilmente acessíveis a todos os usuários por meio de suas configurações de conta.

A fim de garantir canais de denúncia eficazes e acessíveis para denunciar o abuso de imagens íntimas não consensuais geradas por IA, a Meta deve incluir a falsificação de identidade sexualizada gerada por IA como uma categoria separada nos formulários padrão de denúncia e apelação de conteúdo, distinta de “assédio” ou “nudez”. Esses formulários de denúncia padronizados devem estar disponíveis globalmente.

O Comitê considerará essa recomendação implementada quando a Meta atualizar seus formulários de denúncia, compartilhar dados que mostrem os resultados da implementação global e explicar como os novos fluxos de denúncia impactam a aplicação dos Padrões da Comunidade sobre Exploração Sexual de Adultos.

O Comitê reitera ainda a importância das suas recomendações anteriores, salientando sua relevância para as questões desse caso. Em conformidade com essas recomendações, a Meta deve:

• Alterar a palavra “depreciativo” na proibição de “photoshop sexualizado depreciativo” para “não consensual” (Imagens explícitas de figuras públicas femininas criadas por IA, recomendação n.º 2).
• Substituir a palavra “photoshop” na proibição de “photoshop sexualizado depreciativo” por um termo mais generalizado para se referir a mídias manipuladas (Imagens explícitas de figuras públicas femininas criadas por IA, recomendação n.º 3).
• Implementar credenciais de conteúdo (conforme estabelecido pelo C2PA) em larga escala e garantir que elas sejam claramente e consistentemente visíveis e acessíveis aos usuários sempre que os detalhes de proveniência estiverem disponíveis (Vídeo gerado por IA no conflito Israel-Irã, recomendação n.º 4).

Nota processual:

As decisões do Comitê de Supervisão são tomadas por painéis de cinco membros e aprovadas por maioria de votos do Comitê inteiro. As decisões dele não representam, necessariamente, as opiniões de todos os membros.

De acordo com seu Estatuto, o Comitê de Supervisão pode analisar apelações de usuários cujo conteúdo foi removido pela Meta, apelações de usuários que denunciaram conteúdo que a Meta manteve ativo e decisões que a Meta encaminha a ele (Seção 1 do Artigo 2 do Estatuto). O Comitê tem autoridade vinculante para manter ou anular as decisões de conteúdo da Meta (Seção 5 do Artigo 3 e Artigo 4 do Estatuto). Ele pode emitir recomendações não vinculantes às quais a Meta é obrigada a responder (Seção 4 do Artigo 3 e Artigo 4 do Estatuto). Quando a Meta se compromete a agir de acordo com as recomendações, o Comitê monitora sua implementação.

Para a decisão sobre o caso em questão, uma pesquisa independente foi encomendada em nome do Comitê. O Comitê recebeu assistência da Duco Advisors, uma empresa de consultoria especializada na intercessão entre as áreas de geopolítica, confiança e segurança, e tecnologia.

Voltar para Decisões de Casos e Pareceres Consultivos sobre Políticas