Poema sobre protesto político na Argentina

Resumo

O Comitê de Supervisão demonstrou preocupação sobre overenforcement (aplicação excessiva) decorrente das práticas da Meta que envolvem os carrosséis do Instagram. Neste caso de discurso político criticando o governo da Argentina e os efeitos sociais das suas políticas, parte do carrossel contendo diversas imagens com texto para formar um poema político foram incorretamente removidas pela Meta. Apenas uma das imagens, contendo calúnia, foi analisada pelos moderadores. Portanto, o contexto crucial foi ignorado.

Para que o contexto completo possa ser considerado, o Comitê recomenda à Meta garantir que os moderadores que analisam os carrosséis sejam capazes de verificar todo o conteúdo em um post de carrossel antes de tomar uma decisão. O Comitê revoga a decisão original da Meta de remover o conteúdo.

Sobre o caso

Em janeiro de 2025, dias antes dos protestos contra o presidente da Argentina, Javier Milei, que havia feito um discurso criticando o “feminismo radical” e a “agenda LGBT”, um usuário do Instagram postou um carrossel de imagens apenas com texto. As palavras nas oito imagens formam um poema que critica amplamente o governo da Argentina e a apatia do povo durante um período em que, de acordo com o usuário, as mudanças de políticas estão impactando grupos vulneráveis. O poema faz um apelo aos leitores para protestarem.

Na segunda imagem do carrossel, o texto inclui duas calúnias, “puto” e “trava”, usadas para se referir a homens gays e mulheres trans, respectivamente. Um dia após o carrossel ser postado, os sistemas automatizados da Meta detectaram a segunda imagem e a enviaram para um moderador humano, que decidiu que ele não seguia as regras sobre Conduta de Ódio. O moderador não pôde ver as outras sete imagens no carrossel. Apenas a segunda imagem foi removida do Instagram, e uma advertência foi aplicada contra a conta do usuário. O usuário fez uma apelação à Meta. Um segundo analista confirmou a decisão. Em seguida, o usuário fez uma apelação ao Comitê.

Quando o Comitê selecionou o caso, a Meta reverteu a decisão original, restaurando a segunda imagem ao carrossel.

Principais descobertas

O Comitê observou que o conteúdo não violava a Política sobre Conduta de Ódio porque ele se qualifica como exceção, permitindo o uso de calúnia “para condenar ou conscientizar” ou de uma forma “empoderadora”. A decisão eventual da Meta de restaurar o conteúdo se baseou na interpretação de que o texto condena o governo de Milei aplicando termos usados com frequência na retórica anti-LGBTQIA+. Essa interpretação está alinhada com a forma como o Comitê pediu anteriormente à Meta para avaliar o conteúdo e as exceções às suas políticas. Contudo, o Comitê destaca um ponto essencial: o post está condenando a indiferença das pessoas face às mudanças sociais, políticas e econômicas que o autor do post acredita estarem impactando negativamente determinados grupos vulneráveis.

As calúnias usadas no post não eram direcionadas a nenhum indivíduo ou grupo específico, mas foram usadas para criticar as políticas do governo argentino. Elas foram utilizadas para argumentar contra a indiferença social às medidas do governo que estão impactando certos grupos, incluindo as pessoas LGBTQIA+. Antes das eleições de outubro de 2025 na Argentina, a Meta precisa estar ciente de que o discurso político, incluindo o discurso recuperado, não é removido desnecessariamente.

O Comitê observa que, nesse caso, era praticamente impossível o analista determinar que as calúnias foram usadas de uma forma permitida, sem ter acesso ao carrossel completo das imagens de texto que formavam o poema. O Comitê demonstra preocupação com a possibilidade de uma overenforcement (aplicação excessiva) repetida como resultado de os analistas não terem acesso aos carrosséis completos ao tomar decisões de aplicação sobre imagens específicas em carrosséis, como aconteceu neste caso, e não estarem preparados para analisar o intuito com eficácia. A liberdade de expressão dos usuários pode ser impactada quando conteúdo selecionado é removido de carrosséis nos quais o discurso se revela ao longo de diversas imagens.

A decisão do Comitê de Supervisão

O Comitê anula a decisão original da Meta de remover o conteúdo.

Ele recomenda que a Meta faça o seguinte:

• Garantir que, ao analisar conteúdo nos carrosséis, os moderadores possam ver todo o conteúdo em um post antes de tomar uma decisão, mesmo quando apenas uma imagem for enviada para análise humana.
• Desenvolver um processo integrado para garantir que, quando um tipo de conteúdo é introduzido ou atualizado de forma significativa, os procedimentos e as ferramentas da empresa permitam sua moderação alinhada com as responsabilidades de direitos humanos da empresa.

*Os resumos de casos fornecem uma visão geral dos casos e não têm valor de precedente.

Decisão completa sobre o caso

1. Descrição do caso e histórico

Em janeiro de 2025, um usuário do Instagram na Argentina postou um carrossel de oito imagens apenas com texto em espanhol que formavam um poema. Ele foi compartilhado alguns dias após o presidente do país, Javier Milei, fazer um discurso na reunião anual do Fórum Econômico Mundial, no qual ele defendeu suas políticas econômicas e criticou o “feminismo radical” e a “agenda LGBT”.

O poema critica amplamente o governo da Argentina, suas políticas e o que ele descreve como a “violência” que ele gerou. Ele também critica a apatia política face às mudanças sociais e econômicas que, de acordo com o usuário, impactam grupos vulneráveis. Ele incita protestos e foi postado pouco depois de milhares de pessoas irem às ruas de Buenos Aires, capital da Argentina, para fazer uma demonstração no que foi chamado de Marcha Federal do Orgulho Antifascista e Antirracista.

O poema usa duas calúnias, “puto” e “trava” (termos usados comumente para se direcionar a homens gays e mulheres trans, respectivamente), ao fazer sua crítica. Na segunda imagem do post, o poema especula que o leitor pode não se sentir impactado pelo contexto político por não ser “puto, trava, woman, retiree or a student” (puto, trava, mulher, aposentado ou estudante). A quarta imagem também usa “puto” para se referir a pessoas que alegam ter amigos gays, mas não protestam em sua defesa. Ele faz uma observação similar sobre pais com filhas que apoiam os direitos de aborto. Enquanto “puto” e “trava” são consideradas calúnias em países da América Latina, incluindo na Argentina, os termos também foram reapropriados pelas pessoas LGBTQIA+ e são usados de forma autoidentificatória e empoderadora. Em seguida, o poema faz um apelo ao leitor, dizendo que o autor protestará pelos direitos dessas pessoas que escolheram ficar em casa quando “they come looking for you” (eles vierem procurar por vocês). O post recebeu cerca de mil curtidas, e a segunda imagem foi vista cerca de seis mil vezes. Nenhum usuário o denunciou.

Um dia após o conteúdo ser postado, os sistemas automatizados da Meta identificaram a segunda imagem com as duas calúnias como potencialmente violadora e a enviaram para uma análise em escala por um moderador humano. A quarta imagem com um xingamento não foi detectada pelos sistemas automatizados da Meta nem enviada para análise em escala. Apenas a imagem identificada com duas calúnias, em vez de todas as imagens no carrossel, estava visível para o analista, que determinou que ela violava a Política sobre Conduta de Ódio da Meta. Como resultado, a Meta removeu essa imagem, deixando apenas o resto do carrossel visível, e aplicou uma advertência padrão contra o usuário. No mesmo dia, o usuário apelou da decisão da Meta, e um segundo analista manteve a decisão original.

Assim sendo, o usuário que postou o conteúdo fez uma apelação da decisão da Meta ao Comitê de Supervisão. Quando o Comitê selecionou esse caso, os especialistas de política da Meta analisaram o post novamente, com acesso a todas as imagens. A empresa reverteu sua decisão original, restaurou a imagem no carrossel e removeu a advertência na conta do usuário.

O Comitê observa o seguinte contexto ao tomar uma decisão:

Em 2024, o presidente Milei promulgou reformas econômicas em resposta à crise econômica prolongada na Argentina. Além disso, o presidente argentino emitiu diversos decretos executivos. Grupos da sociedade civil condenaram os decretos, afirmando que eles impactam negativamente os direitos das pessoas LGBTQIA+. Esses grupos também levantaram preocupações acerca da retórica anti-LGBTQIA+ aplicada pelos representantes do governo. As políticas econômicas e sociais do governo ocasionaram diversas demonstraçõesnacionais por estudantes, pensionistas, organizações da sociedade civil, uniões trabalhistas e partidos da oposição.

O governo introduziu novas diretrizes para controlar demonstrações nas ruas no mesmo mês em que assumiu o poder, em dezembro de 2023, incluindo medidas que grupos da sociedade civil alertam poderem desencorajar ou até mesmo criminalizar protestos. Desde então, a Comissão Interamericana de Direitos Humanos (CIDH) expressou preocupação acerca dos relatos de suposto uso excessivo da força pelas forças de segurança do estado durante protestos. O CIDH constatou a “forte tradição de engajamento cívico” na Argentina e pediu ao país para “defender os direitos à liberdade de expressão e à reunião pacífica”. Diversas organizações, incluindo a PEN International, a Amnesty International e o Fórum de Jornalismo Argentino (FOPEA, na sigla em espanhol), observaram um declínio na liberdade de expressão na Argentina desde que o governo de Milei assumiu o poder.

2. Envios de usuários

Em sua apelação ao Comitê, o usuário que postou o conteúdo afirmou que o post “usava linguagem artística e reflexiva para engajar o público de forma significativa, sem promover ódio, discriminação ou violência”. O usuário disse que o post foi “compartilhado com o intuito de instigar compreensão e incentivar conversa sobre responsabilidade coletiva e direitos humanos”. Sobre o formato do post, ele afirmou que “esse tipo de expressão está enraizado nas tradições culturais de contar histórias e promover o pensamento crítico, que são essenciais para gerar empatia e um senso de comunidade”.

3. Políticas de conteúdo e envios da Meta

I. Políticas de conteúdo da Meta

De acordo com sua Política sobre Conduta de Ódio, a Meta remove conteúdo que “descreve ou se direciona às pessoas negativamente por meio de calúnia”. Calúnias são definidas como palavras que criam, de modo inerente, uma atmosfera de exclusão e intimidação contra pessoas com base em uma característica protegida, frequentemente porque essas palavras estão associadas a discriminação, opressão e violência históricas.

Na lógica da política, a Meta reconhece que há situações em que calúnias são usadas para “condenar um discurso ou denunciá-lo”. A Meta também reconhece que há casos nos quais “discursos, incluindo calúnias, que poderiam violar nossos padrões são usados de forma autorreferencial ou empoderadora”. Na sua atualização de 7 de janeiro da Política sobre Conduta de Ódio, a Meta deixou claro que calúnias se qualificam para essas exceções apenas quando o intuito do usuário é claro.

As diretrizes internas para analistas ainda definem uma exceção para condenação. A condenação é descrita como “denunciar ou desafiar o uso de uma calúnia ou conduta de ódio”, o que pode incluir expressar descrença, criticar e expor, ou ainda rejeitar o uso da calúnia ou conduta de ódio.

II. Envios da Meta

A Meta designou tanto “puto” quanto “trava”como calúnias nas suas orientações internas. Entretanto, quando o Comitê selecionou o caso, a Meta reverteu sua decisão original de remover a imagem do carrossel, concluindo que ela não violava a Política sobre Conduta de Ódio porque as calúnias são usadas em um “contexto de condenação”. A Meta afirmou: “Apesar de o usuário usar calúnias, elas não estão sendo usadas para se referir a uma pessoa ou um grupo com base em suas características protegidas de forma odiosa. Na verdade, as calúnias estão sendo usadas de maneira artística para condenar o governo de Milei usando termos frequentemente empregados na retórica anti-LGBTQIA+. Em outras palavras, o post condena a mesma discriminação a que o uso dessas calúnias se refere.”

Quando o Comitê perguntou como a Meta determinou que as calúnias estavam sendo usadas em um “contexto condenatório”, a Meta afirmou que o conteúdo “condenava de forma holística a retórica aparentemente anti-LGBTQIA+ do governo de Milei... mas de uma forma crítica, e não odiosa”. Além disso, “enquanto as calúnias em si não são objetos explícitos da condenação do autor, elas estão sendo usadas para exemplificar como a comunidade LGBTQIA+ pode ser atacada” e o “autor está condenando o uso generalizado desses tipos de palavras e a conduta de ódio de forma mais ampla”.

A Meta afirmou anteriormente ao Comitê que suas políticas geralmente não concedem aos analistas em escala discrição para determinar o intuito do usuário. De acordo com a empresa, para assegurar a aplicação coerente e justa de suas regras, ela não obriga os analistas em escala a “inferir intenções ou a adivinhar o que uma pessoa ‘está realmente dizendo’”, porque “adivinhar a intenção para discurso de ódio promove a subjetividade, o viés e a aplicação desigual” (Ver Violência contra as mulheres). Quando o Comitê pediu à Meta para esclarecer esse posicionamento, considerando o novo foco na intenção do usuário na seção de exceções para calúnia da Política sobre Conduta de Ódio, a empresa respondeu que ela não vê discrepância. De acordo com a Meta, a “política estabelece um equilíbrio conforme o qual não pedimos aos analistas para inferir o intuito de um autor, mas poderemos considerar esse intuito quando ele está claro no próprio conteúdo, a fim de garantir que permitimos a liberdade discursiva”. Nesse caso, “está evidente pelo próprio texto [...] que o intuito do autor é abrir uma discussão e desafiar aqueles que votaram no governo atual, que o autor acredita ter agido de forma violenta”.

Ao ser questionada sobre como a empresa garante que as ferramentas dos analistas são responsivas a novos tipos de conteúdo, a Meta afirmou que todas as equipes conduzem uma avaliação de risco para garantir que diferentes tipos de conteúdo (como carrosséis, stories e reels do Instagram) sejam integrados às ferramentas de moderação de conteúdo da empresa quando lançados e que novas ferramentas possam ser criadas ou adaptadas a fim de acomodar os requisitos específicos desses tipos de conteúdo.

O Comitê fez perguntas sobre: exceções à proibição de calúnia da Política sobre Conduta de Ódio; práticas de monitoramento em posts de carrossel do Instagram; e a auditoria de direitos humanos realizada para mitigar riscos relacionados ao lançamento de diferentes tipos de conteúdo, como imagens, vídeos e álbuns de imagens como carrosséis. A empresa respondeu a todas as perguntas. Entretanto, a Meta se recusou a permitir que o Comitê publicasse informações relacionadas às práticas de monitoramento da empresa sobre posts em carrossel no Instagram, especificamente com relação às perguntas do Comitê sobre quando os analistas têm acesso ao carrossel de imagens completo.

4. Comentários públicos

O Comitê recebeu dois comentários públicos que cumpriam os termos para envio. Um dos comentários foi enviado da América Latina e do Caribe, e outro, da região Ásia Pacífico e Oceania. Para ler comentários públicos enviados com consentimento de publicação, clique aqui.

Os envios abordavam os seguintes temas: o significado e os usos dos termos “puto” e “trava” em contexto; a recuperação e a reapropriação de calúnias; o impacto da renomeada Política sobre Conduta de Ódio nas comunidades LGBTQIA+; e abordagens para moderar expressões artísticas que incluem discurso político.

5. Análise do Comitê de Supervisão

O Comitê selecionou esse caso para abordar o uso recorrente de overenforcement (aplicação excessiva) dos Padrões da Comunidade da Meta para remover discurso político. Isso é particularmente importante, tendo em vista as eleições legislativas agendadas para 26 de outubro de 2025 na Argentina. O Comitê também selecionou esse caso para examinar como a Meta modera tipos de conteúdo com diversas partes, como os carrosséis do Instagram, e o impacto dessas práticas de monitoramento na liberdade de expressão. Esses casos se enquadram nas prioridades estratégicas do Comitê referentes a eleições e espaço cívico, e discurso de ódio contra grupos marginalizados.

O Comitê analisou a decisão da Meta nesse caso em relação às políticas de conteúdo, aos valores e às responsabilidades de direitos humanos da Meta. Ele também avaliou as implicações desse caso quanto à abordagem mais ampla da Meta em relação à governança de conteúdo.

5.1 Conformidade com as políticas de conteúdo da Meta

I. Regras sobre conteúdo

O Comitê observa que, enquanto duas calúnias foram usadas, o post não viola a Política sobre Conduta de Ódio. Como o usuário esclareceu em sua declaração ao Comitê, as calúnias são usadas como “linguagem provocadora” e não se direcionam negativamente a uma pessoa ou a um grupo de pessoas com base em suas características protegidas. O Comitê conclui que as calúnias são usadas para tipificar aqueles que se consideram aliados de pessoas LGBTQIA+ — e, portanto, se sentem confortáveis ao usar essas calúnias de uma forma reapropriada, mas não estão dispostos a protestar a favor da comunidade LGBTQIA+. Ao ler o post completo, é possível observar que ele condena amplamente a indiferença às medidas atuais do governo que impactam grupos vulneráveis, incluindo pessoas LGBTQIA+, e faz uma chamada para ação a seu favor na forma de protestos. Recuperar e reapropriar calúnias na forma de expressão política empoderada é algo histórico entre ativistas LGBTQIA+ na Argentina (ver PC-31290), em especial com relação a um dos termos (“trava”) em questão neste caso. Portanto, o post se qualifica para as exceções de uso para “condenar e gerar reconhecimento” e “empoderamento”.

O Comitê observa que o post não se enquadra com exatidão em nenhuma dessas exceções, mas, na verdade, se aproxima de diversas delas (ver Ressignificação de palavras árabes para uma abordagem similar). Isso ocorre porque o post não condena especificamente o uso das calúnias mencionadas nele nem condena explicitamente “conduta de ódio”, como as diretrizes internas da Meta sobre condenação requerem. Na verdade, o post requer uma compreensão mais ampla da condenação do contexto político. O Comitê atesta que a eventual conclusão da Meta de que o post condena “o governo de Milei usando termos utilizados com frequência na retórica anti-LGBTQIA+” é uma possível interpretação do conteúdo. Ele também reconhece que a abordagem revisada da Meta para avaliar o conteúdo se alinha melhor com a forma como o Comitê havia sugerido anteriormente que a empresa avaliasse conteúdo (ou seja, de forma não literal e avaliando o conteúdo como um todo e tendo em vista o contexto). Contudo, o Comitê destaca que um ponto essencial para a compreensão do post é entender que ele também condena a indiferença das pessoas frente às mudanças sociais, políticas e econômicas que o usuário acredita impactarem negativamente certos grupos vulneráveis e pede para que as pessoas protestem.

Todavia, o Comitê não está convencido de que a abordagem da Meta para moderar posts em carrossel neste caso teria permitido que os analistas em escala interpretassem o post com precisão e chegassem à decisão correta de aplicação. Ao verem apenas a imagem potencialmente violadora no post em carrossel, os analistas não foram capazes de avaliar o conteúdo integralmente. Ademais, as orientações internas previnem os analistas de considerar o contexto dentro e fora do post para determinar o intuito e o significado. Esses são problemas distintos que são discutidos, respectivamente, nas seções “Medida de aplicação” e “Legalidade” abaixo. Enquanto cada uma teria gerado um resultado incorreto de aplicação, o Comitê observa que, neste caso, elas se combinariam.

II. Medida de aplicação

Este caso levanta sérias preocupações sobre possível overenforcement (aplicação excessiva) decorrente do monitoramento da Meta de carrosséis no Instagram, em que o significado de um post pode se revelar ao longo de diversas imagens.

O Comitê pressionou a Meta repetidamente para que o conteúdo fosse analisado como um todo em escala, em vez de fazer avaliações com base em partes isoladas do conteúdo (ver, entre outros, Cinto Wampum). No caso Imagens de mulheres indígenas parcialmente nuas, o Comitê concluiu que, de forma similar a este caso, os analistas só tinham acesso a uma imagem em um post de carrossel e deveriam ter considerado o contexto adicional das outras fotos no carrossel a fim de determinar que o conteúdo se qualificava para continuar no Instagram. As medidas de aplicação neste caso, em que apenas a imagem identificada com duas calúnias era visível ao analista, refletem que, em prática, ele não pode avaliar o post em carrossel integralmente. O Comitê observa que, sem acesso ao carrossel completo de imagens, era praticamente impossível para o analista determinar que as calúnias neste caso foram usadas em um contexto permitido, visto que, juntas, elas formavam um poema, que só poderia ser compreendido integralmente.

O Comitê ainda atesta que os posts em carrossel no Instagram foram lançados há mais de oito anos. Ele está preocupado com a overenforcement (aplicação excessiva) repetida resultante de erros como o visto neste caso, em que os analistas não tinham acesso ao carrossel completo ao tomar decisões de aplicação sobre uma imagem específica do carrossel. Ele também demonstra preocupação acerca dos possíveis impactos à liberdade de expressão dos usuários causados pela remoção de certas imagens em posts de carrossel. Anteriormente, no caso Ressignificação de palavras árabes, o Comitê considerou um post em carrossel que era amplamente informativo e era apresentado como uma série de diferentes declarações. Nesse caso, o Comitê concluiu que remover um carrossel inteiro não seria uma reação proporcional “mesmo que o carrossel tivesse incluído apenas uma imagem com insultos proibidos não protegidos por uma exceção, a remoção de todo o carrossel não seria a resposta adequada”. Por outro lado, o conteúdo neste caso demonstra como posts em carrossel também podem permitir que o discurso dos usuários se revele ao longo de diversas imagens na forma de uma narrativa. Enquanto a remoção de imagens selecionadas poderia resultar em uma restrição mais leve de expressão (ver Ressignificação de palavras árabes), ela também poderia alterar ou distorcer o intuito pretendido por um usuário, o que pode ser exacerbado se não estiver claro para os espectadores que uma imagem foi removida.

As práticas de aplicação da Meta devem ser responsivas às diferentes formas de expressão que os posts em carrossel possibilitam. Similar ao que o Comitê havia recomendado anteriormente (ver Protestos a favor de Navalny na Rússia, recomendação 6), uma forma de a Meta fazer isso é notificando o usuário que parte do seu conteúdo foi removida (neste caso, parte de um post em carrossel). Em seguida, a Meta poderia possibilitar o ajuste ou a exclusão do post inteiro caso seu significado pretendido tivesse sido alterado. O Comitê também recomendou anteriormente que a Meta permitisse aos usuários indicar nos envios de suas apelações que o conteúdo se enquadra em uma das exceções à Política sobre Conduta de Ódio (ver Meme “dois botões”, recomendação 4).

Neste caso, o Comitê recomenda que a Meta desenvolva um processo para a análise periódica de suas práticas de aplicação e suas ferramentas de moderação de conteúdo para assegurar que elas se integram a diferentes tipos de conteúdo, como imagens, carrosséis de imagens e vídeos. A primeira fase desse processo poderia incorporar as avaliações de risco que a empresa informou ao Comitê que já realiza antes de lançar novos tipos de conteúdo, mas ela deveria abordar especificamente como a Meta pretende cumprir suas reponsabilidades de direitos humanos ao moderar diferentes tipos de conteúdo que permitem aos usuários se expressar de formas diversas. A análise periódica pós-lançamento deveria avaliar como os usuários estão realmente usando os tipos de conteúdo e considerar como a Meta está cumprindo suas responsabilidades de direitos humanos na prática por meio de contínuos testes ao vivo focados na moderação de novos tipos de conteúdo e na identificação e mitigação de problemas.

O Comitê também espera que, durante o lançamento de novos tipos de conteúdo, a Meta desenvolva as ferramentas de detecção automática necessárias para a aplicação das suas políticas, integrando os padrões de direitos humanos em sua concepção e implementação. Ele observa ainda que a Meta reconheceu publicamente aproveitar grandes modelos de linguagem para algumas tarefas relacionadas a monitoramento, como a remoção de conteúdo potencialmente não violador de listas de análise em algumas circunstâncias. É importante que essas ferramentas tenham a capacidade de prevenir overenforcement (aplicação excessiva) analisando os sinais dos posts como um todo, em vez de verificar possíveis violações isoladas em partes do post que não são violadoras quando vistas de forma holística.

Por fim, para reduzir a probabilidade de erros como o deste caso, o Comitê também sugere que a Meta permita aos analistas ver os carrosséis completos quando apenas uma imagem for enviada para análise. O Comitê reconhece que tomar uma decisão desse tipo para um produto requer uma série de concessões. Por exemplo, expandir o acesso dos analistas a posts em carrossel poderia aumentar a quantidade de tempo gasto por eles ao analisar posts. Entretanto, como o Comitê discutiu na decisão do caso Primeiro-Ministro do Camboja, a Meta deveria implementar recursos aos produtos e diretrizes operacionais que possibilitem uma análise mais precisa de conteúdo de formato longo. Neste caso, a Meta deveria garantir que os analistas humanos são capazes de ver todos os componentes de um post, incluindo todas as imagens de um carrossel, quando considerarem necessário.

5.2 Conformidade com as responsabilidades da Meta relativas aos direitos humanos

O Comitê considera que manter conteúdo na plataforma, conforme exigido por uma interpretação adequada das políticas de conteúdo da Meta, também é consistente com as responsabilidades de direitos humanos da Meta.

Liberdade de expressão (Artigo 19 do PIDCP)

O artigo 19 do Pacto Internacional sobre Direitos Civis e Políticos (PIDCP) prevê uma proteção ampla da expressão, inclusive sobre opiniões políticas, assuntos públicos e direitos humanos, assim como expressão cultural e artística (Comentário Geral n.º 34, parágrafos 11 e 12). Ele fornece proteção “particularmente alta” para “debate público sobre figuras públicas no domínio político e instituições públicas” como um componente essencial para a conduta em relações públicas (Comentário Geral n.º 34, parágrafo 38, veja também o Comentário Geral n.º 25, parágrafos 12 e 25). Isso se estende a expressões que possam ser consideradas “profundamente ofensivas” (Comentário Geral n.º 34 (2011), parágrafo 11; ver também o parágrafo 17 do Relatório de 2019 do Relator Especial das Nações Unidas sobre liberdade de expressão, A/74/486, e o caso Posts exibindo a bandeira da África do Sul da época do Apartheid). Esse post também está relacionado à discriminação contra pessoas LGBTQIA+. O Alto Comissariado das Nações Unidas para os Direitos Humanos destacou preocupação quanto às limitações da defesa pelos direitos das pessoas LGBTQIA+, levando a restrições à liberdade de expressão ( A/HRC/19/41, parágrafo 65).

Quando um Estado aplica restrições à expressão, elas devem atender aos requisitos de legalidade, objetivo legítimo e necessidade e proporcionalidade (Artigo 19, parágrafo 3 do PIDCP). Esses requisitos costumam ser chamados de "teste tripartite". O Comitê usa essa estrutura para interpretar as responsabilidades de direitos humanos da Meta de acordo com os Princípios Orientadores da ONU sobre Empresas e Direitos Humanos, com os quais a Meta se comprometeu em sua Política Corporativa sobre Direitos Humanos. O Comitê faz isso em relação tanto à decisão de conteúdo individual sob análise quanto ao que isso diz sobre a abordagem mais ampla da empresa à governança de conteúdo. Como afirmou o Relator Especial da ONU sobre liberdade de expressão, embora "as empresas não tenham obrigações governamentais, o impacto delas exige que avaliem o mesmo tipo de questões sobre a proteção do direito de seus usuários à liberdade de expressão" (A/74/486, parágrafo 41). Aqui, o Comitê conclui que a decisão inicial da Meta de remover o conteúdo de acordo com suas políticas não cumpriu esses requisitos.

I. Legalidade (clareza e acessibilidade das regras)

O princípio da legalidade exige que as regras que limitam a expressão sejam acessíveis e claras. As regras devem ser formuladas com precisão suficiente para permitir que os indivíduos regulem sua conduta em conformidade (Comentário Geral n.º 34, parágrafo 25). Além disso, essas regras devem “fornecer orientação suficiente para aqueles responsáveis pela sua execução para que possam determinar os tipos de expressão que são ou não são propriamente restritos” (Ibid). O Relator Especial da ONU sobre a liberdade de expressão declarou que, quando aplicadas à governação do discurso online por parte de intervenientes privados, as regras devem ser claras e específicas (A/HRC/38/35, parágrafo 46). As pessoas que usam as plataformas da Meta devem ser capazes de acessar e entender as regras, e os moderadores de conteúdo devem ter orientações claras sobre sua aplicação.

O Comitê observa que a proibição de calúnia e as exceções voltadas ao público para os usos permitidos de calúnia (para condenar ou denunciar, autorreferencial ou empoderadora) são suficientemente claras quando aplicadas neste caso.

Como observado pelo Comitê nas decisões anteriores, a Meta poderia melhorar sua aplicação de exceções para calúnia em escala fornecendo orientações mais claras a fim de que os analistas avaliem o conteúdo integralmente e considerem o contexto local ao determinar a intenção e o significado (ver, por exemplo, Cinto Wampum) Os especialistas em políticas da Meta contaram com uma série de indícios contextuais sobre o intuito do usuário e sobre a situações política atual na Argentina para determinar que as calúnias na segunda imagem eram não violadoras, depois que o Comitê identificou o conteúdo. Conforme o Comitê discutiu em diversos casos (ver, por exemplo, Violência contra as mulheres), a orientação atual para analistas limita significativamente a possibilidade de uma análise contextual desse tipo, mesmo quando há indícios claros de que o conteúdo pode se enquadrar em uma exceção.

Apesar de a Meta ter afirmado ao Comitê que não pede aos analistas para inferirem o intuito do autor, ela disse que os analistas podem considerar o intuito “quando estiver evidente no próprio conteúdo”. No exemplo fornecido pelo Comitê, ela disse que os analistas têm o poder de concluir que o autor pretendia explicitamente condenar o uso de uma calúnia no caso de o conteúdo declarar “Eu denuncio o uso de [calúnia]”. Apesar de os analistas terem poder para determinar o intuito em casos como esse, declarações de intenção podem assumir formas muito menos genéricas (ver Citação nazista). Com base nesses fatores, o Comitê não está convencido de que os analistas estão adequadamente autorizados a considerar o intuito na prática. No poema deste caso, por exemplo, o intuito do usuário é claro, mas é articulado de forma implícita com linguagem artística e referências ao cenário político argentino atual. Além disso, nas decisões dos casos Cinto Wampum e Meme de dois botões, o Comitê afirmou que não é necessário que um usuário declare explicitamente sua intenção para que atenda aos requisitos de exceção à política sobre discurso de ódio. Nesses casos, o Comitê afirmou que um usuário deixar claro sua intenção no contexto do post completo já é suficiente. Permitir que os usuários comuniquem a intenção dessa forma está alinhado com as responsabilidades de direitos humanos da Meta com relação a expressão, assim como com seus próprios valores. Quando a Meta emprega analistas humanos, a empresa deveria contar com sua experiência e capacidade de interpretação para fazer inferências sobre o conteúdo a fim de analisar a intenção do usuário.

Como o Comitê observou nas decisões anteriores, é indispensável que os analistas tenham conhecimento adequado linguístico e sobre o contexto local a fim de que possam avaliar com precisão o significado e a intenção. A Meta afirmou anteriormente ao Comitê que seus analistas são “designados para o mercado com base na sua aptidão linguística e seu conhecimento cultural e de mercado”. Esses fatores são particularmente importantes tendo em vista que, após as alterações de 7 de janeiro na Política sobre Conduta de Ódio, a Meta agora conta com a intenção clara do usuário para determinar quando o conteúdo se qualifica para uma exceção à política para calúnia. O Comitê recomendou anteriormente que a Meta atualize sua orientação interna a fim de mostrar quais indicadores ela fornece aos analistas a fim de conceder exceções ao considerar o conteúdo que pode, de outra forma, ser removido segundo a Política sobre Discurso de Ódio (ver Violência contra as mulheres). Preparar melhor os analistas a fim de “considerarem a intenção” de fato para essas exceções requer que a Meta reconheça que a condenação pode depender do contexto. A empresa deveria implementar uma orientação interna que permita aos analistas ponderar a respeito do contexto ao analisar o conteúdo.

II. Objetivo legítimo

Qualquer restrição de estado à liberdade de expressão deve perseguir um ou mais dos objetivos legítimos listados no PIDCP, o que inclui a proteção dos “direitos de terceiros”. O Comitê reconheceu previamente que os Padrões da Comunidade sobre Discurso de Ódio, assim como os Padrões da Comunidade sobre Conduta de Ódio agora, buscam o objetivo legítimo de proteger os direitos de outras pessoas. Na decisão do caso Ressignificação de palavras árabes, por exemplo, o Comitê concluiu que a Política sobre Discurso de Ódio tinha a intenção legítima de proteger os direitos dos outros à igualdade e à proteção contra violência e discriminação com base na orientação sexual e a identidade de gênero.

III. Necessidade e proporcionalidade

Nos termos do artigo 19(3) do PIDCP, a necessidade e a proporcionalidade exigem que as restrições de estado à expressão “devem ser adequadas para atingir sua função de proteção; devem ser o instrumento menos intrusivo entre aqueles que podem atingir sua função de proteção; devem ser proporcionais ao interesse a ser protegido” (Comentário Geral n.º 34, parágrafo 34).

Anteriormente, o Comitê reconheceu o potencial para danos aos direitos das pessoas LGBTQIA+ ao permitir que calúnias homofóbicas e discurso de ódio permanecessem nas plataformas da Meta e o papel que a Política sobre Conduta de Ódio exerce ao respeitar esses direitos (ver, por exemplo Post em polonês contra pessoas trans, Protestos na Colômbia e Ressignificação de palavras árabes). O Comitê buscou o input linguístico de especialistas e comentários públicos que confirmassem que os termos usados neste caso são considerados calúnias em países da América Latina, incluindo a Argentina. Entretanto, elas podem ser usadas de forma ressignificada como marcadores de identidade e “expressões de resistência” (PC-31290).

No post, as calúnias não eram direcionadas a nenhum indivíduo ou grupo específico, mas foram usadas para criticar as políticas econômicas e sociais do governo argentino. Ele incentiva os leitores a considerar suas próprias posições no contexto político da Argentina e participar de protestos. O povo argentino frequentemente usa redes sociais para mobilizar protestos sobre questões políticas e sociais Aqui, as calúnias foram utilizadas para argumentar contra a indiferença social às medidas recentes que estão impactando grupos vulneráveis, incluindo as pessoas LGBTQIA+. Com base nesses fatores, o Comitê conclui que a remoção do conteúdo não era necessária para proteger as pessoas LGBTQIA+ contra a discriminação.

Como parte de suas preparações para as eleições legislativas de outubro de 2025 na Argentina, a Meta deveria garantir que o discurso político usando as calúnias consideradas neste caso e outras similares em contextos permitidos não sejam removidas desnecessariamente. Isso requer que a Meta dependa de uma compreensão mais ampla da condenação do contexto político discutido acima. O comentário público pela organização de direitos digitais Derechos Digitales e pela organização da sociedade civil Conectando Derechos (PC-31290) destaca que essas calúnias são “pilares de identidade política” para as pessoas e os ativistas LGBTQIA+ e que seu uso no poema visa a “amplificar e tornar visíveis as vozes dos grupos diretamente afetados pelas medidas do governo argentino”.

Os comentários públicos recebidos neste caso defendem a consideração do conteúdo dele à luz das alterações à Política sobre Conduta de Ódio pela Meta em 7 de janeiro de 2025 (ver PC-31290 e PC-31289). Ao anunciar essas alterações, a Meta declarou que buscava cometer menos erros e remover menos conteúdo não violador por engano. O Comitê discutiu anteriormente sobre o potencial de haver erros desproporcionais na moderação de discurso recuperado ou ressignificado por comunidades queer e destacou o impacto negativo de remoções incorretas (ver Ressignificação de palavras árabes e Termo ressignificado em performance drag). Nesses casos, o Comitê afirmou que a overenforcement (aplicação excessiva) para esse tipo de discurso é uma “séria ameaça à sua liberdade de expressão”.

Neste caso, o Comitê reitera seu apelo à Meta para que seja “particularmente sensível à possibilidade de remoção incorreta” de discurso recuperado, “dada a importância de [tal discurso] para as pessoas LGBTQIA+ no combate à discriminação”. A orientação sexual e a identidade de gênero continuam sendo características protegidas na Política sobre Conduta de Ódio, e as exceções à política sobre calúnias oferecem proteção à expressão que ressignifica e reapropria calúnias a fim de defender os direitos das pessoas LGBTQIA+. A Meta deveria garantir que suas práticas de aplicação tornem a proteção eficiente.

6. A decisão do Comitê de Supervisão

O Comitê anula a decisão original da Meta de remover o conteúdo.

7. Recomendações

Aplicação

1. A fim de assegurar que o contexto completo do post possa ser considerado durante a análise, a Meta deve garantir que, ao analisar conteúdo nos carrosséis ou tipos de conteúdo com diversas imagens, os moderadores possam ver todo o conteúdo em um post antes de tomar uma decisão, mesmo quando apenas uma imagem for enviada para análise humana.

O Comitê considerará essa recomendação implementada quando a Meta compartilhar documentação interna com o Comitê detalhando essas alterações na interface de moderação.

2. A Meta deve desenvolver um processo integrado para garantir que, quando um tipo de conteúdo é introduzido ou atualizado de forma significativa, os procedimentos e as ferramentas da empresa permitam a moderação alinhada com as responsabilidades de direitos humanos da empresa. Esse processo deve incluir:

1. Um período de pré-lançamento no qual políticas de aplicação, diretrizes operacionais e decisões sobre produtos pelos analistas são configuradas, testadas e aplicadas a red teaming (ou seja, verificar vulnerabilidades proativamente) por equipes multifuncionais seguindo uma metodologia pré-determinada.
2. Um período pós-lançamento com tempo limitado, envolvendo testes ao vivo periódicos e identificação e mitigação de problemas, que aborda especificamente as diferentes formas de expressão possibilitadas pelo tipo de conteúdo.

O Comitê considerará essa recomendação implementada quando a Meta compartilhar documentação interna com o Comitê detalhando esse processo e alertar o Comitê toda vez que ele for ativado com uma atualização assíncrona.

*Nota processual:

• As decisões do Comitê de Supervisão são tomadas por painéis de cinco membros e aprovadas por maioria de votos do Comitê inteiro. As decisões dele não representam, necessariamente, as opiniões de todos os membros.
• De acordo com seu Estatuto, o Comitê de Supervisão pode analisar apelações de usuários cujo conteúdo foi removido pela Meta, apelações de usuários que denunciaram conteúdo que a Meta manteve ativo e decisões que a Meta encaminha a ele (Seção 1 do Artigo 2 do Estatuto). O Comitê tem autoridade vinculativa para manter ou anular as decisões de conteúdo da Meta (Seção 5 do Artigo 3 e Artigo 4 do Estatuto). Ele pode emitir recomendações não vinculativas às quais a Meta é obrigada a responder (Artigo 3; Seção 4; Artigo 4 do Estatuto). Quando a Meta se compromete a agir de acordo com as recomendações, o Comitê monitora sua implementação.
• Para a decisão sobre o caso em questão, uma pesquisa independente foi encomendada em nome do Comitê. A empresa Lionbridge Technologies, LLC, cujos especialistas são fluentes em mais de 350 idiomas e trabalham de 5 mil cidades pelo mundo, forneceu a consultoria linguística.

Voltar para Decisões de Casos e Pareceres Consultivos sobre Políticas