Conteúdo direcionado a ativistas de direitos humanos no Peru

Resumo

O Comitê de Supervisão revoga a decisão da Meta de manter ativo conteúdo direcionado a uma das principais ativistas de direitos humanos do Peru. Restrições às liberdades fundamentais, como o direito de reunião e associação, estão aumentando no Peru, com organizações não governamentais (ONGs) entre as afetadas. Contendo uma imagem da ativista que foi alterada, provavelmente com IA, para mostrar sangue escorrendo pelo rosto, o post foi compartilhado por um membro do La Resistencia. Esse grupo tem como alvo jornalistas, ONGs, ativistas de direitos humanos e instituições no Peru, agindo com desinformação, intimidação e violência. Considerando todo o seu contexto, esse post se qualifica como uma “ameaça velada” segundo a Política sobre Violência e Incitação. Como esse caso revela potencial underenforcement de ameaças veladas ou codificadas nas plataformas da Meta, o Comitê faz duas recomendações relacionadas.

Sobre o caso

Um membro do La Resistencia postou uma imagem provavelmente manipulada por IA, na qual a foto da líder de uma organização de direitos humanos foi alterada para mostrar seu rosto coberto de sangue. Uma legenda em espanhol insinua que organizações não governamentais (ONGs) estão se envolvendo em irregularidades financeiras ao receberem capital estrangeiro, acusando-as também de incentivar protestos violentos. No momento em que esse post foi compartilhado, havia manifestações de civis contra o governo no Peru.

Visualizado cerca de mil vezes, o post foi denunciado. A Meta determinou que não houve violações. O usuário que havia feito uma apelação à Meta então a levou ao Comitê. Antes de o Comitê selecionar o caso, a Meta recebeu um relatório de um de seus Parceiros Confiáveis, uma rede global de ONGs, agências humanitárias e pesquisadores de direitos humanos que sinalizam riscos emergentes no conteúdo das plataformas da Meta. Como resultado, a Meta analisou a conta que postou a imagem e a desativou por não seguir seus Termos de Serviço, o que significa que esse post específico não está mais no Facebook.

Principais descobertas

O Comitê decidiu por unanimidade que esse post se qualifica como uma ameaça “velada ou implícita” segundo os Padrões da Comunidade sobre Violência e Incitação. Quando as ameaças são veladas, elas exigem um sinal de ameaça, como uma declaração de retaliação ou uma incitação, e um sinal de contexto, incluindo especialistas locais confirmando que a declaração pode levar à violência iminente.

A imagem manipulada pela IA tem um alvo: a ativista de direitos humanos que é claramente identificável por muitos peruanos. A imagem dela foi editada para parecer que sofreu ferimentos físicos. O texto apresenta queixas contra ONGs, incluindo supostas irregularidades financeiras. Juntos, esses fatores atendem ao requisito de um sinal de ameaça. O conteúdo também satisfaz a necessidade de um sinal de contexto, já que ataques contra ativistas de direitos humanos, inclusive pelo La Resistencia, são bem noticiados no Peru. Além disso, o relatório do Parceiro Confiável enviado à Meta destaca como esse post pode ter contribuído para a violência iminente.

A Meta interpretou essa imagem como uma ativista de direitos humanos com “sangue nas mãos”. O Comitê não se convenceu e ficou decepcionado com essa explicação, observando que a imagem foi alterada para indicar um ferimento com sangue na cabeça. As equipes internas da Meta poderiam facilmente ter constatado que a ativista é reconhecível por meio de uma busca online, o que teria mostrado sua foto original sorrindo.

Nenhuma intervenção que não fosse a remoção do conteúdo teria mitigado adequadamente os riscos para a ativista de direitos humanos nesse caso. Relatórios recentes da ONU discutiram sobre o ambiente inseguro para ativistas, especialmente mulheres, no Peru. A estigmatização de grupos da sociedade civil criou uma atmosfera de medo, e essa dinâmica foi exacerbada por iniciativas legislativas que buscam exercer mais controle sobre as ONGs e restringir reuniões pacíficas.

Por fim, o Comitê recebeu relatos de que esse conteúdo foi repostado por outras contas associadas ao mesmo usuário que o postou originalmente. A Meta deve garantir que esses posts sejam removidos, a menos que sejam destinados para condenação ou conscientização.

A decisão do Comitê de Supervisão

O Comitê de Supervisão revoga a decisão da Meta de manter o conteúdo ativo.

Ele também recomenda que a Meta faça o seguinte:

• Esclareça que “declarações codificadas em que o método de violência não é claramente articulado” são proibidas em formato escrito, visual e verbal, de acordo com os Padrões da Comunidade sobre Violência e Incitação.
• Produza uma avaliação anual de precisão sobre potenciais ameaças veladas, incluindo um foco específico em conteúdo com ameaças contra ativistas de direitos humanos que permanecem indevidamente na plataforma e ocorrências de discurso político que são removidas erroneamente.

*Os resumos de casos fornecem uma visão geral dos casos e não têm valor de precedente.

Decisão completa sobre o caso

1. Descrição do caso e histórico

Em julho de 2024, um usuário do Facebook no Peru postou uma foto digitalmente alterada de uma conhecida líder de uma organização de direitos humanos no Peru. Ela é claramente identificável na imagem, provavelmente manipulada por IA, que mostra seu rosto coberto de sangue escorrendo. Uma legenda em espanhol insinua irregularidades financeiras por parte de organizações não governamentais (ONGs) ao receberem capital estrangeiro e acusa as ONGs de incentivar protestos violentos. O post foi compartilhado na época em que cidadãos protestavam contra o governo na capital do Peru, Lima. Ele foi visualizado cerca de mil vezes e teve menos de 100 reações.

Três dias após o conteúdo ter sido postado, um usuário o denunciou por não seguir as políticas do Meta. Um analista humano determinou que o conteúdo não infringia os direitos autorais, e ele foi mantido na plataforma. O usuário fez uma apelação da decisão da Meta, mas a apelação foi encerrada automaticamente sem análise adicional. O mesmo usuário, então, fez uma apelação ao Comitê.

No período entre o usuário fazer a apelação ao Comitê e o Comitê selecionar o caso, o post também foi denunciado à Meta por meio do seu Programa de Parceiros Confiáveis. Quem fez a denúncia foi uma rede de ONGs, agências humanitárias e pesquisadores de direitos humanos de 113 países que denunciam conteúdo e fornecem feedback à Meta sobre suas políticas de conteúdo e sua aplicação. Após essa denúncia, as equipes internas de escalation da Meta analisaram a conta associada ao post e constataram que ela não seguia os Termos de Serviço da Meta, já que o usuário tinha várias contas com o mesmo nome ou nome semelhante. A Meta, então, desabilitou a conta, tornando o conteúdo inacessível no Facebook. Consequentemente, o conteúdo não foi avaliado mais detalhadamente.

Quando o Comitê selecionou esse caso, a Meta analisou o post novamente, confirmando sua decisão original de que o conteúdo seguia suas políticas.

Ele observa o seguinte contexto ao tomar uma decisão sobre o caso:

O Peru enfrenta uma “grave crise política e social”, tendo tido seis presidentes e três legislaturas diferentes desde 2016 (ver relatório de 2023 do Escritório do Alto Comissariado das Nações Unidas para os Direitos Humanos (ACNUDH)). A instabilidade política atingiu o auge em dezembro de 2022, quando o ex-presidente Pedro Castillo foi afastado do cargo e preso sob acusações de abuso de autoridade. Dina Boluarte, então vice-presidente, foi nomeada para a presidência pelo Congresso. O ACNUDH observou que os eventos de dezembro de 2022 “desencadearam protestos em todo o país, canalizando o descontentamento social... sobre a discriminação histórica e a marginalização política e socioeconômica enfrentada por grande parte da população”.

Desde então, a ONU e grupos de direitos humanos expressaram preocupação com as restrições do governo aos direitos humanos básicos no Peru, particularmente o direito de reunião, incluindo o de protesto. Um relatório de 2024 do Relator Especial da ONU sobre os direitos à liberdade de reunião e associação pacíficas observou alegações de “uso excessivo, indiscriminado e desproporcional de força e armas de fogo, execuções extrajudiciais e detenções arbitrárias em massa” no contexto de protestos majoritariamente pacíficos que começaram em dezembro de 2022. Outros protestos contra o governo ocorreram desde então, inclusive em julho de 2024, quando o conteúdo desse caso foi postado. Outra “grande preocupação” é a “alegada estigmatização e criminalização dos ativistas de direitos humanos... e a falta de proteção eficaz aos ativistas em risco”. À medida que as restrições às liberdades fundamentais de reunião e associação aumentaram, o Relator Especial da ONU sobre a situação dos ativistas de direitos humanos documentou como a posição dos ativistas de direitos humanos se tornou mais precária. Essas tendências afetam particularmente as mulheres, que enfrentam ameaças devido ao seu ativismo e identidade de gênero. O Relator Especial observou que “o tipo de assédio que sofreram foi frequentemente de natureza discriminatória, misógina e sexual”. A “falta de uma abordagem sistêmica e interseccional por parte das autoridades” também tem dificultado que os ativistas apresentem queixas e busquem reparação e resolução.

O trabalho dos ativistas de direitos humanos também foi ameaçado por propostas legislativas para limitar as atividades das ONGs. Em junho de 2024, a Comissão de Relações Exteriores do Congresso do Peru propôs projetos de emendas à lei de 2022 que criou a Agência Peruana de Cooperação Internacional. Essas emendas, alertaram os atores da sociedade civil peruana, impediriam o financiamento internacional para ONGs e restringiriam sua liberdade de expressão. Em março de 2025, o Congresso do Peru as aprovou. Se promulgadas, penalidades também poderão ser impostas contra organizações da sociedade civil que tomarem medidas legais contra o Estado por violações de direitos humanos. A Human Rights Watch monitorou como esse tipo de “legislação com estilo de influência estrangeira” ao redor do mundo pode estigmatizar a sociedade civil independente e “oferecer uma ferramenta útil para desacreditar” a promoção dos direitos humanos, equiparando-a à “promoção dos interesses de uma potência estrangeira”.

No Peru, essas propostas avançaram junto com o lobby político de grupos de direita, bem como campanhas de redes sociais visando ONGs e ativistas de direitos humanos com acusações de terrorismo (chamado de “terruqueo” no Peru) e incitação à violência em protestos (ver PC-30930), conforme esse post. O usuário que criou o post nesse caso é um membro influente do La Resistencia, um grupo pouco organizado de ativistas de direita. Formado em 2018, o grupo tem como alvo jornalistas, ONGs, ativistas de direitos humanos e instituições públicas por meio de campanhas de desinformação, intimidação e violência.

2. Envios de usuários

Na apelação ao Comitê, o usuário que denunciou o conteúdo afirmou que o post era uma “ameaça de morte velada” contra uma ativista de direitos humanos. Ele acrescentou que o post deve ser interpretado dentro de um contexto de “assédio e ataques físicos” contra ativistas de direitos humanos no Peru e que foi compartilhado em resposta às manifestações de julho de 2024. Ele explicou que o usuário que postou o conteúdo é membro de um grupo conhecido por incitar a violência e que essas ameaças online se transformaram em violência no meio físico.

3.Políticas de conteúdo e envios da Meta

I. Políticas de conteúdo da Meta

Os Padrões da Comunidade sobre Violência e Incitação da Meta “visam prevenir a potencial violência no meio físico que pode estar relacionada ao conteúdo em [suas] plataformas”. O fundamento da política observa que a Meta remove “linguagem que incite ou facilite a violência e ameaças críveis à segurança pública ou pessoal”. A empresa também tenta “levar em consideração a linguagem e o contexto para distinguir declarações casuais ou de conscientização de conteúdo que constituam uma ameaça real à segurança pública ou pessoal”. A política afirma que a Meta remove conteúdo que inclua “ameaças de violência contra vários alvos”. A empresa define “ameaças de violência” como “declarações ou imagens que representam uma intenção, aspiração ou incitação à violência contra um alvo”.

Em um subtítulo que afirma que a Meta exige “informações adicionais e/ou contexto para ser aplicado”, os Padrões da Comunidade observam que a Meta remove “declarações codificadas em que o método de violência não é claramente articulado, mas a ameaça é velada ou implícita, conforme demonstrado pela combinação de um sinal de ameaça e um sinal de contexto”. Um sinal de ameaça pode incluir uma declaração codificada “compartilhada em um contexto de retaliação” ou uma declaração codificada que “funciona como uma incitação ameaçadora”. Um sinal de contexto pode significar confirmação de especialistas locais ou informações de que a declaração pode levar à violência iminente. Um sinal de contexto também pode ser alvo de uma ameaça que denuncia o conteúdo.

Diretrizes internas para analistas esclarecem como ameaças de violência podem existir em formato visual, incluindo imagens geradas ou alteradas digitalmente. Para determinar se imagens criadas ou alteradas digitalmente têm como alvo alguém com uma ameaça visual, a Meta considera fatores como se há um alvo na imagem ou se as imagens mostram a intenção de atingir a pessoa com violência de alta gravidade.

II. Envios da Meta

A Meta afirmou que esse post segue a política que proíbe ameaças contra alvos, incluindo imagens alteradas digitalmente que retratem violência visual, porque não contém uma ameaça clara. Segundo a Meta, o texto do post “levanta acusações de corrupção e violência por parte de ONGs... Isso se concentra em ONGs não especificadas e suas atividades, não identifica um alvo nem cria uma ameaça”. A Meta destacou os desafios de moderar conteúdo que faz alegações de corrupção ou irregularidades direcionadas a ONGs e ativistas de direitos humanos. A empresa declarou que “não tinha condições de determinar a veracidade ou falsidade das alegações” e “não queria impedir o que pode constituir discurso político sobre corrupção ou irregularidades”. No entanto, a Meta reconheceu que “em alguns casos, com contexto adicional, essas alegações podem contribuir para um risco de danos no meio físico e devem ser removidas em prol da segurança”.

Para a empresa, a imagem no post foi uma “incitação mais próxima [de uma violação], pois parece ter sido alterada digitalmente para mostrar [a ativista de direitos humanos] coberta de sangue”. Em sua análise da imagem, a Meta constatou que “embora haja sangue na imagem, a ativista de direitos humanos não parece estar ferida. Em vez disso, ela parece tranquila, até mesmo sorrindo levemente, e olha diretamente para a câmera. Não há dor em sua expressão que sugira que ela esteja ferida, nem o sangue vem de cortes ou ferimentos visíveis”. A Meta também enfatizou que sinais de violência de alta gravidade podem ser importantes para determinar o que constitui uma ameaça visual. Ela afirmou: “se [a imagem] tivesse sido alterada visualmente para mostrar feridas de faca visíveis ou outros ferimentos de alta gravidade, isso poderia constituir uma ameaça visual”. No entanto, concluiu que, quando “entendida juntamente com a legenda”, o “significado mais óbvio da imagem” é que a ativista de direitos humanos tem “sangue nas mãos” devido às “supostas ações da ONG descritas no texto”.

A proibição da Meta sobre “declarações codificadas em que o método de violência não é claramente articulado, mas a ameaça é velada ou implícita” é avaliada apenas em termos de escalation. A Meta requer um sinal de ameaça e um sinal de contexto para aplicar a linha de política de “ameaças veladas”. Ela informou que, como a conta havia sido desabilitada, não contatou uma equipe multifuncional ampla ou terceiros para avaliar o post como uma ameaça velada, pois isso envolveria “medidas investigativas que exigiriam muitos recursos”. Ela disse que teria feito essa análise mais aprofundada se o conteúdo tivesse permanecido ativo no Facebook. A empresa afirmou que “provavelmente não constituiria uma ameaça velada porque a imagem [da ativista de direitos humanos] poderia ser entendida como crítica política, em vez de violência visual”. Em resposta a uma solicitação de dados sobre ameaças veladas, a Meta declarou que não rastreia o número de itens de conteúdo analisados em busca de potenciais ameaças veladas.

Ela afirmou que “se envolve proativamente com os ativistas de direitos humanos para entender suas necessidades e se esforça para oferecer medidas específicas a fim de proteger sua segurança e mitigar os riscos que enfrentam”. De acordo com a Política sobre Direitos Humanos da empresa, o termo “ativistas de direitos humanos” inclui “organizações de direitos humanos; membros de grupos vulneráveis que lutam por seus direitos; jornalistas profissionais e cidadãos; ativistas políticos não violentos; e qualquer membro do público que manifeste uma preocupação de direitos humanos.”

O Comitê fez perguntas sobre a estrutura de ameaças veladas; como a Meta entende e avalia ameaças visuais em imagens; o papel que os Parceiros Confiáveis ​​desempenham no fornecimento de informações adicionais e contexto para avaliações da probabilidade de danos no meio físico; e como a Meta protege os ativistas de direitos humanos em suas plataformas. A Meta respondeu a todas as perguntas.

4. Comentários públicos

O Comitê de Supervisão recebeu 65 comentários públicos que atenderam aos termos para envio. Desses comentários, 60 foram enviados da América Latina e do Caribe, três da Europa e dois dos Estados Unidos e do Canadá. Para ler comentários públicos enviados com consentimento de publicação, clique aqui. Informações de identificação pessoal foram retiradas dos comentários públicos.

Os envios abordaram os seguintes temas: o contexto social e político no Peru; a situação dos ativistas de direitos humanos; dimensões de gênero das ameaças contra os ativistas; iniciativas legislativas recentes que impactam as atividades de ONGs no Peru; narrativas de redes sociais acusando ONGs, ativistas de direitos humanos e grupos da sociedade civil de “terrorismo”; as operações do La Resistencia; e como a Meta deve moderar o conteúdo, incluindo possíveis ameaças veladas.

Em janeiro de 2025, como parte do engajamento das partes interessadas, o Comitê consultou organizações de defesa, acadêmicos, organizações intergovernamentais e outros especialistas sobre a proteção de ativistas de direitos humanos online. Essa mesa-redonda se concentrou nas ameaças que os ativistas de direitos humanos enfrentam e em campanhas anteriores a fim de implementar recomendações de políticas para sua proteção em empresas de redes sociais. Os participantes também discutiram como denunciar conteúdo que eles achavam que poderia causar danos no meio físico por meio do Programa de Parceiro Confiável da Meta.

5. Análise do Comitê de Supervisão

O Comitê selecionou esse caso para examinar como as políticas da Meta protegem os ativistas de direitos humanos, especialmente quando ameaças de violência são veladas ou implícitas, exigem contexto adicional para serem interpretadas ou ocorrem em um ambiente de intimidação e assédio. Esse caso se enquadra na prioridade estratégica do Conselho de Eleições e Espaço Cívico.

O Comitê analisou a decisão da Meta nesse caso em relação às políticas de conteúdo, aos valores e às responsabilidades de direitos humanos da Meta. Ele também avaliou as implicações desse caso quanto à abordagem mais ampla da Meta em relação à governança de conteúdo.

5.1 Conformidade com as políticas de conteúdo da Meta

I. Regras sobre conteúdo

O Comitê considera por unanimidade que o post não segue a Política sobre Violência e Incitação. Visto em contexto, a combinação do texto com a imagem da ativista de direitos humanos ensanguentada atende à definição de ameaça proibida da Meta. O Comitê é unânime em afirmar que o post se qualifica como o que a Meta descreve como uma ameaça “velada”, o que classifica posts potencialmente ambíguos como ameaças se eles tiverem um “sinal de ameaça” e um “sinal de contexto” que juntos constituem uma ameaça implícita ou disfarçada.

• Sinal de ameaça: o post satisfaz o requisito de sinal de “ameaça” especificamente como “uma incitação ameaçadora” ou uma “expressão de desejo de se envolver em violência” em retaliação por supostas transgressões de ONGs. A imagem contém um alvo na forma da ativista de direitos humanos, que seria claramente identificável pelos usuários peruanos. O texto apresenta queixas contra ONGs, incluindo irregularidades financeiras e incitação à violência em protestos, juntamente com uma imagem alterada da ativista de direitos humanos, editada para retratá-la claramente com sangue e ferimentos sofridos em um ataque. O Comitê não está convencido e está decepcionado com a surpreendente conclusão da Meta de que a imagem da ativista de direitos humanos com sangue escorrendo pelo rosto significava “sangue em suas mãos” e, portanto, constituía “crítica política”. A ativista de direitos humanos “parece tranquila” e “não demonstra dor na expressão” porque a imagem é uma versão digitalmente alterada de uma foto profissional na qual ela está sorrindo. As mãos da pessoa nem sequer são visíveis. As equipes internas da Meta poderiam facilmente ter descoberto que a pessoa é reconhecível. O Comitê não tem conhecimento de quais ferramentas de busca reversa de imagens a Meta disponibiliza aos seus moderadores, mas presume que ela tem a sofisticação técnica para fornecer aos moderadores as informações necessárias para avaliar as imagens. Embora nenhum ferimento seja visível na versão alterada da imagem, o padrão de sangue escorrendo de um lado da cabeça e dos olhos da pessoa indica que ele se origina de um ferimento na cabeça.
• Sinal de contexto: o post satisfaz o sinal de “contexto” porque “[o] contexto local ou a experiência confirmam que a declaração em questão pode levar à violência iminente”. Essa conclusão se baseia em informações contextuais de que acusações semelhantes no Peru foram identificadas de forma crível como um incentivo para que as pessoas ataquem os ativistas de direitos humanos com intimidação e violência. O ACNUDH documentou vários ataques do La Resistencia a organizações de direitos humanos, durante os quais as organizações foram acusadas de serem “pró-terroristas” e de encorajar a violência nos protestos. O Comitê para a Proteção de Jornalistas relatou que, em um encontro do La Resistencia, os participantes gritaram ameaças incluindo “seus dias estão contados” e “vocês vão morrer” para indivíduos dentro do escritório de um meio de comunicação. O risco contextual também foi destacado nesse caso por um relatório de um Parceiro Confiável afirmando que o conteúdo poderia contribuir para a violência iminente. Os ativistas de direitos humanos também expressaram suas preocupações sobre ameaças de violência e abuso à empresa por meio de relatórios, litígios estratégicos e eventos com partes interessadas.

Alguns membros do Comitê consideram que não é necessário recorrer à análise de “ameaças veladas” para concluir que o post não segue a Política sobre Violência e Incitação. O Comitê enfatizou repetidamente que a Meta deve avaliar os posts como um todo e em contexto (ver os casos Cinto Wampum, Slogan de protesto no Irã, Violência contra a mulher e Declarações sobre o primeiro-ministro japonês). A Política sobre Violência e Incitação da Meta proíbe declarações “que representem uma intenção, aspiração ou incitação à violência contra um alvo”. Para esses membros do Comitê, a imagem da ativista de direitos humanos identificável coberta de sangue, apresentada com uma legenda que alega irregularidades, é uma clara “expressão de esperança”, “aspiração” ou “incitação” na forma de “violência de alta gravidade”. Para esses membros do Comitê, isso só pode significar que o indivíduo retratado está sendo alvo de imagens que representam uma incitação à violência e demonstram a intenção de atingir o indivíduo com violência de alta gravidade.

II. Medida de aplicação

Esse caso levanta preocupações de que a distinção operacional entre ameaças que exigem e não exigem contexto para serem aplicadas está resultando em underenforcement e mais ameaças veladas permanecendo nas plataformas da Meta.

O Comitê já reconheceu os desafios de aplicar políticas contra ameaças veladas de violência (ver os casos Gênero musical drill do Reino Unido, Protesto na Índia contra a França e Animação Knin) porque uma análise contextual suficientemente profunda às vezes só é realizada em situações de escalation. No entanto, também recomendou aplicações específicas do contexto das políticas da Meta sobre ameaças que poderiam ser aplicadas em larga escala (ver o caso Declarações sobre o primeiro-ministro japonês). A orientação atual da Meta para analistas em escala limita significativamente a possibilidade de análise contextual (ver o caso Violência contra as mulheres). Os moderadores em grande escala não são instruídos ou autorizados a identificar conteúdo que não segue as políticas apenas de escalation da empresa, como a regra em questão neste caso (ver o caso Vídeo de prisioneiro das Forças de Apoio Rápido do Sudão). Isso significa que o analista humano, nesse caso, não teria sido capaz de exercer discrição e julgamento ao avaliar o conteúdo quando denunciado inicialmente ou encaminhar o conteúdo para equipes autorizadas a aplicar a linha de política sensível ao contexto.

Como a Meta não rastreia o número de itens de conteúdo analisados em busca de ameaças veladas, o Comitê não pôde avaliar a prevalência de ameaças veladas ou a magnitude da underenforcement. No entanto, mesmo que ameaças veladas contra ativistas de direitos humanos sejam consideradas um problema de “baixa prevalência”, o impacto ainda é alto e intensamente sentido pelos ativistas de direitos humanos que são ameaçados, desencorajados de prosseguir com seu trabalho e enfrentam violência física. Para lidar com esse risco, a Meta deve investir em avaliações regulares e de alta qualidade de seu desempenho para identificar oportunidades de melhorar a aplicação nessa área. A Meta deve desenvolver uma melhor compreensão de qual é a prevalência das ameaças veladas em suas plataformas e com que precisão seus sistemas detectam e aplicam políticas contra esse conteúdo. Esse trabalho também pode servir de base para gerar métricas mais granulares, como a prevalência de ameaças direcionadas a ativistas de direitos humanos e mecanismos de avaliação direcionados. Como parte desse processo, a Meta poderia experimentar desenvolver uma ferramenta automatizada para identificar potenciais ameaças veladas, que seriam colocadas na fila para análise pela equipe de escalations relevante.

Por fim, os Parceiros Confiáveis ​​desempenham um papel importante na identificação de conteúdo potencialmente violador, incluindo ameaças veladas ou codificadas, e no fornecimento de informações necessárias para uma aplicação precisa. O Comitê já abordou questões relacionadas à capacidade de resposta da Meta aos relatórios de Parceiros Confiáveis (ver o caso Vídeo de delegacia de polícia no Haiti). Como a Meta indicou sua intenção de recorrer menos a sistemas automatizados e mais a denúncias de usuários para detectar conteúdo violador, o programa de Parceiro Confiável é um canal importante para revelar riscos emergentes e identificar erros. A Meta deve garantir que o programa tenha recursos e suporte adequados para que suas equipes internas possam tomar decisões de aplicação que se beneficiem da experiência e dos insights contextuais dos Parceiros Confiáveis.

5.2Conformidade com as responsabilidades da Meta relativas aos direitos humanos

O Comitê considera que a remoção do conteúdo da plataforma, conforme exigido por uma interpretação adequada das políticas de conteúdo da Meta, é consistente com as responsabilidades de direitos humanos da Meta.

Liberdade de expressão (Artigo 19 do PIDCP)

O artigo 19 do Pacto Internacional sobre Direitos Civis e Políticos (PIDCP) prevê uma proteção ampla da expressão, inclusive sobre opiniões políticas, assuntos públicos e direitos humanos (Comentário Geral n.º 34, parágrafos 11 e 12). Quando um Estado aplica restrições à expressão, elas devem atender aos requisitos de legalidade, objetivo legítimo e necessidade e proporcionalidade, segundo o parágrafo 3 do Artigo 19 do PIDCP). Esses requisitos costumam ser chamados de “teste tripartite”. O Comitê usa essa estrutura para interpretar as responsabilidades de direitos humanos da Meta de acordo com os Princípios Orientadores da ONU sobre Empresas e Direitos Humanos, com os quais a própria Meta se comprometeu em sua Política Corporativa sobre Direitos Humanos. O Comitê faz isso em relação tanto à decisão de conteúdo individual sob análise quanto ao que isso diz sobre a abordagem mais ampla da empresa à governança de conteúdo. Como afirmou o Relator Especial da ONU sobre liberdade de expressão, embora “as empresas não tenham obrigações governamentais, o impacto delas exige que avaliem o mesmo tipo de questões sobre a proteção do direito de seus usuários à liberdade de expressão” (A/74/486, parágrafo 41).

I. Legalidade (clareza e acessibilidade das regras)

O princípio da legalidade conforme a legislação internacional sobre direitos humanos exige que as regras que limitam a expressão sejam claras e acessíveis (Comentário Geral n.º 34, parágrafo 25). Os padrões de legalidade exigem ainda que as regras que restringem a expressão “não podem conferir poder discricionário irrestrito para a restrição da liberdade de expressão aos acusados ​​da sua execução” e “fornecer orientação suficiente aos acusados ​​da sua execução para lhes permitir determinar que tipos de expressão são devidamente restringidos e que tipos não o são” (A/HRC/38/35, no parágrafo 46). As pessoas que usam as plataformas da Meta devem ser capazes de acessar e entender as regras, e os moderadores de conteúdo devem ter orientações claras sobre a aplicação.

O Comitê considera que as proibições da Meta sobre “ameaças de violência contra vários alvos” e “declaração codificada em que o método de violência não é claramente articulado, mas a ameaça é velada ou implícita”, são suficientemente claras conforme aplicadas neste caso.

No entanto, o Comitê observa que, embora a proibição em larga escala da Política sobre Violência e Incitação contra ameaças estipule que “ameaças de violência são declarações ou imagens”, as linhas de política apenas de escalation sobre ameaças veladas se concentram em “declarações codificadas”. O Comitê recomenda que a Meta esclareça essa linguagem para que fique claro que “declarações codificadas” contendo ameaças em formas escritas, visuais e verbais são proibidas. O Comitê já havia solicitado à Meta que desenvolvesse políticas e diretrizes de aplicação que tratassem os posts contendo texto e imagem de forma holística (ver o caso Post em polonês contra pessoas trans). Isso é particularmente importante para conteúdo como o post nesse caso, em que o contexto é necessário para entender seu significado como um todo. A análise do post feita pela Meta faz isso de forma inconsistente: ela considera o texto ao interpretar a imagem, mas não considera a imagem ao interpretar o texto. Além disso, o Comitê observa que a terminologia escolhida pela Meta de “ameaça velada” pode ser enganosa para alguns usuários, pois sugere que a ameaça é disfarçada ou, talvez, até menos grave. Embora o post nesse caso exija alguma interpretação para ser compreendida, ele claramente tem a intenção de transmitir uma mensagem ameaçadora.

II. Objetivo legítimo

Qualquer restrição à liberdade de expressão também deve perseguir um ou mais dos objetivos legítimos listados no PIDCP, incluindo o objetivo de proteger os direitos de terceiros. Os Padrões da Comunidade sobre Violência e Incitação visam “prevenir a potencial violência no meio físico” removendo conteúdo que represente “um risco real de danos físicos”. Essa política serve ao objetivo legítimo de proteger os direitos à liberdade de expressão e de reunião (artigos 19 e 21, PIDCP) e o direito à vida e o direito à segurança da pessoa (artigo 6, PIDCP; 9 do PIDCP).

III. Necessidade e proporcionalidade

Nos termos do artigo 19(3) do PIDCP, a necessidade e a proporcionalidade exigem que as restrições à expressão “devem ser adequadas para atingir sua função de proteção; devem ser o instrumento menos intrusivo entre aqueles que podem atingir sua função de proteção; devem ser proporcionais ao interesse a ser protegido” (Comentário Geral n.º 34, parágrafo 34).

Ao analisar os riscos representados por conteúdo violento, o Comitê normalmente se orienta pelo teste de seis fatores descrito no Plano de Ação de Rabat. Embora a estrutura de Rabat tenha sido criada para avaliar a defesa do ódio nacional, racial ou religioso que incita atos de discriminação, hostilidade ou violência, o teste é útil para avaliar a incitação à violência em geral (ver os casos Slogan de protesto no Irã e Convocação das mulheres para protesto em Cuba). Com base na avaliação dos fatores relevantes, especialmente o conteúdo e a forma de expressão, a intenção do autor e o contexto abaixo, o Comitê conclui que a remoção do conteúdo é uma limitação necessária e proporcional à expressão, a fim de proteger o direito à vida e a segurança da ativista de direitos humanos. O post identifica a ativista de direitos humanos e a ameaça com violência. Nenhuma intervenção, exceto a remoção, atenuaria adequadamente os riscos apresentados pelo post.

Alegações de criminalidade e corrupção contra ONGs e ativistas de direitos humanos no Peru têm sido frequentemente usadas para mobilizar manifestações do La Resistencia, que resultaram em ataques. O post identifica pessoalmente a ativista de direitos humanos e a ameaça por meio de i) uma imagem alterada que retrata as consequências de um ferimento violento e ii) uma legenda que invoca narrativas que foram usadas para mobilizar esses ataques.

O conteúdo foi postado no mesmo dia em que foram realizadas manifestações contra o governo peruano para criticar as “infrações do Estado que vão contra os interesses da grande maioria”. A “suposta estigmatização e criminalização dos ativistas de direitos humanos, as práticas problemáticas persistentes da resposta do Estado no contexto dos protestos sociais e a falta de proteção efetiva para os ativistas em risco” foram apontadas como uma grande preocupação no Peru pelo Relator Especial da ONU sobre os direitos à liberdade de reunião e associação pacíficas. Além disso, a situação dos ativistas de direitos humanos deve ser entendida dentro do contexto de ameaças, intimidação, assédio e ataques físicos de grupos como o La Resistencia (ver PC-30929, PC-30927, PC-30930 e PC-30932). O post foi feito por um membro influente do La Resistencia com muitos seguidores nas redes sociais. Uma pesquisa encomendada pelo Comitê destacou o papel público do usuário na organização de reuniões que têm como alvo jornalistas e ativistas de direitos humanos com ameaças de morte e intimidação. O Comitê considera que qualquer ameaça de violência por parte desses usuários pode causar danos em curto prazo contra os alvos retratados. Ele ressalta que críticas a ONGs são permitidas, mas ameaças críveis de violência não.

Relatórios recentes corroboram a gravidade das ameaças contra ativistas de direitos humanos. O Relator Especial da ONU sobre a situação dos ativistas de direitos humanos afirmou que os ativistas estão sendo cada vez mais ameaçados e que “ameaças de morte que frequentemente precedem o assassinato de ativistas de direitos humanos” são motivo de particular preocupação. O Relator Especial também observou que “muitas ameaças são com base em gênero”, tendo como alvo mulheres ativistas de direitos humanos. No Peru, o Relator Especial concluiu que um “grande número de ativistas de direitos humanos não consegue operar em um ambiente seguro e propício”. Por meio de uma solicitação de informação pública feita às autoridades peruanas em 2023, a organização de direitos humanos Anistia Internacional observou que o Mecanismo de Proteção aos Defensores dos Direitos Humanos do estado registrou 197 ameaças contra ativistas de direitos humanos e/ou suas famílias, 60 das quais foram vítimas de abuso físico e/ou verbal (ver PC-30928). A Anistia Internacional também confirmou o assassinato de pelo menos quatro ativistas de direitos humanos no Peru em 2023.

Além de criar riscos físicos, o conteúdo direcionado a ativistas de direitos humanos com ameaças e acompanhado por narrativas usadas para mobilizar grupos que atacaram ONGs, mesmo que implícito e exija contexto para ser compreendido, perpetua uma atmosfera de medo e promove um ambiente em que atingir grupos da sociedade civil de forma mais ampla é normalizado. Na prática, isso dificulta o trabalho de ativistas de direitos humanos de proteger os direitos das pessoas. A estigmatização, de acordo com um Relatório da ONU, está “inerentemente ligada” à erosão dos direitos humanos subjacentes que os ativistas defendem. No Peru, essa dinâmica foi exacerbada por iniciativas legislativas que buscam garantir mais controle governamental sobre as ONGs e impor restrições aos direitos de liberdade de reunião e associação pacíficas em protestos. Como o Centro Internacional para o Direito das Organizações Sem Fins Lucrativos (PC-30930) observou em seu comentário público: “O trabalho dos ativistas de direitos humanos é essencial para o fortalecimento da democracia e do Estado de direito... o respeito pelos direitos humanos em uma sociedade democrática depende em grande parte de garantias eficazes e adequadas para os ativistas de direitos humanos que os permitam realizar suas atividades livremente.”

Devido ao medo de serem alvos, as ameaças podem produzir efeitos assustadores na liberdade de expressão dos ativistas de direitos humanos, especialmente das mulheres. As mulheres muitas vezes desempenham um papel desproporcional na defesa e organização de direitos iguais, e são desproporcionalmente alvo de ameaças e abusos. Os ativistas de direitos humanos também levantaram preocupações sobre os graves riscos de overenforcement quando a Meta interpreta discursos políticos que usam metáforas violentas ou chamam a atenção para abusos de direitos humanos (ver o caso Slogan de protesto no Irã). Como observou o Relator Especial sobre a promoção e proteção do direito à liberdade de opinião e expressão em um relatório de 2023, a desinformação com base em gênero e o abuso online “podem levar as mulheres na vida pública ou no jornalismo a abandonar os espaços online ou podem ter um efeito inibidor na sua liberdade de expressão e na sua capacidade de continuarem as suas atividades profissionais”. As partes interessadas que participaram da mesa-redonda do Comitê sobre “Proteger os ativistas de direitos humanos online” compartilharam que os ativistas, especialmente mulheres, mulheres não brancas e mulheres queer, se encontram em uma situação difícil: eles dependem dos produtos da Meta para seu trabalho, mas simultaneamente sofrem assédio e ameaças nas plataformas da empresa.

5.3 Conteúdo idêntico com contexto paralelo

O Comitê recebeu relatórios (PC-30929) informando que o conteúdo, apesar de estar inacessível após a desabilitação da conta do usuário, foi repostado de diferentes contas associadas ao usuário. Após essa decisão, a Meta deve garantir que conteúdo idêntico seja removido, a menos que seja compartilhado em um contexto de condenação ou conscientização.

6. A decisão do Comitê de Supervisão

O Comitê de Supervisão revoga a decisão original da Meta de manter ativo o conteúdo.

7. Recomendações

Política de conteúdo

1. Para garantir que seus Padrões da Comunidade sobre Violência e Incitação capturem claramente como ameaças veladas podem ocorrer em textos e imagens, a Meta deve esclarecer que ameaças feitas por meio de “declarações codificadas”, mesmo aquelas “em que o método de violência não é claramente articulado”, são proibidas em formato escrito, visual e verbal.

O Comitê considerará que isso foi implementado quando o texto dos Padrões da Comunidade sobre Violência e Incitação voltado para o público refletir a alteração proposta.

Aplicação

2. Para garantir que potenciais ameaças veladas sejam avaliadas com mais precisão, à luz da interpretação incorreta da Meta sobre esse conteúdo em escalation, o Comitê recomenda que a Meta realize uma avaliação anual de precisão nessa área problemática. Isso deve incluir um foco específico nas taxas de falsos negativos de detecção e remoção de ameaças contra ativistas de direitos humanos e nas taxas de falsos positivos para discursos políticos (por exemplo, o caso Slogan de protesto no Irã). Como parte desse processo, a Meta deve investigar oportunidades para melhorar a detecção precisa de ameaças de alto risco (baixa prevalência, alto impacto) em escala.

O Comitê considerará isso implementado quando a Meta compartilhar os resultados dessa avaliação, incluindo como esses resultados embasarão melhorias nas operações de aplicação e no desenvolvimento de políticas.

*Nota processual:

• As decisões do Comitê de Supervisão são tomadas por painéis de cinco membros e aprovadas por maioria de votos do Comitê inteiro. As decisões dele não representam, necessariamente, as opiniões de todos os membros.
• De acordo com seu Estatuto, o Comitê de Supervisão pode analisar apelações de usuários cujo conteúdo foi removido pela Meta, apelações de usuários que denunciaram conteúdo que a Meta manteve ativo e decisões que a Meta encaminha a ele (Seção 1 do Artigo 2 do Estatuto). O Comitê tem autoridade vinculativa para manter ou anular as decisões de conteúdo da Meta (Seção 5 do Artigo 3 e 4 do Estatuto). Ele pode emitir recomendações não vinculativas às quais a Meta é obrigada a responder (Seção 4 do Artigo 3 e 4 do Estatuto). Quando a Meta se compromete a agir de acordo com as recomendações, o Comitê monitora sua implementação.
• Para a decisão sobre o caso em questão, uma pesquisa independente foi encomendada em nome do Comitê. O Comitê recebeu assistência da Duco Advisors, uma empresa de consultoria especializada na intercessão entre as áreas de geopolítica, confiança e segurança, e tecnologia. A Memetica, um grupo de investigações digitais que fornece serviços de consultoria de risco e inteligência contra ameaças para mitigar danos online, também forneceu pesquisas.

Voltar para Decisões de Casos e Pareceres Consultivos sobre Políticas