Avaliação dos planos da Meta para expandir as notas da comunidade

Resumo executivo

O Comitê de Supervisão concluiu que as notas da comunidade poderiam aumentar a liberdade de expressão dos usuários e melhorar o discurso online nas plataformas da Meta, se implementadas em escala, velocidade e com proteções suficientes contra manipulações. No entanto, em certas circunstâncias – incluindo em regimes repressivos de direitos humanos, em contextos eleitorais específicos e em situações de crise e conflito em curso – a expansão das notas da comunidade para países fora dos Estados Unidos também pode representar riscos significativos para os direitos humanos e contribuir para danos tangíveis que a Meta tem a responsabilidade de evitar ou remediar.

O Comitê também está preocupado com redes coordenadas de desinformação que podem fazer o uso abusivo das notas da comunidade, e com o risco de que essas notas possam, em certos contextos, privilegiar grupos políticos, étnicos ou linguísticos dominantes e marginalizar grupos minoritários.

A probabilidade e a gravidade desses potenciais riscos aos direitos humanos, bem como sua mitigação adequada, dependem muito da concepção e da funcionalidade do produto de notas da comunidade em cada contexto. A eficácia e a adequação das medidas de mitigação da Meta em relação a alguns desses riscos – por exemplo, para garantir o anonimato dos colaboradores e proteger contra aqueles que tentam manipular o sistema – precisarão ser verificadas por meio de um processo contínuo de coleta e relato de dados sobre como as notas da comunidade funcionam na prática.

Além disso, na medida em que a Meta prevê as notas da comunidade como sua principal forma de lidar com a desinformação que não atinge o seu limiar de remoção (ou seja, quando não há probabilidade de contribuir para o risco de danos físicos iminentes ou para a interferência no funcionamento dos processos políticos), o Comitê considera que a concepção do programa pode limitar sua capacidade de atingir esse objetivo. A demora na publicação das notas, o número limitado de notas publicadas e a sua dependência da confiabilidade do ambiente de informação mais amplo levantam sérias dúvidas sobre até que ponto as notas da comunidade podem abordar de forma significativa a desinformação associada a danos.

O Comitê recomenda critérios que a Meta deve usar para avaliar quando esses riscos aos direitos humanos podem justificar a retenção de notas da comunidade em um determinado mercado. As recomendações do Comitê são necessariamente condicionais, pois as questões da Meta não podem ser respondidas de forma conclusiva sem testes suficientes e dados detalhados sobre como o algoritmo de notas da comunidade funciona em situações reais e em relação a outras ferramentas de desinformação. Por essa razão, o Comitê também recomenda a coleta, avaliação e divulgação contínuas de dados sobre a funcionalidade das notas da comunidade, relacionadas a esses critérios.

Histórico

Em 19 de novembro de 2025, o Comitê anunciou que aceitou uma solicitação da Meta para orientação sobre os fatores específicos que a empresa deve considerar ao decidir se algum país deve ser excluído de sua expansão planejada do recurso de notas da comunidade fora dos EUA, já que o contexto local pode impactar as operações do programa. Além disso, a Meta perguntou ao Comitê como ponderar esses fatores em relação uns aos outros, de uma forma que possa ser aplicada em larga escala.

Em sua solicitação, a empresa afirmou que o programa de notas da comunidade está em um "estágio inicial de desenvolvimento de produto" e que possui "dados limitados do lançamento beta nos EUA". A Meta descreveu essa implementação como um período de "testes e aprimoramentos" que pode resultar na evolução do formato das notas da comunidade. Devido a essas considerações, o principal interesse da empresa reside no estabelecimento de "princípios orientadores fundamentais" para sua implementação em todo o mundo. É importante ressaltar que o Comitê não avaliou a eficácia geral das notas da comunidade nos EUA.

O Comitê consultou uma série de partes interessadas, incluindo especialistas técnicos em algoritmos de bridging, organizações da sociedade civil, jornalistas e verificadores de fatos, para obter observações e dados sobre diferentes sistemas de moderação no estilo de notas da comunidade (incluindo o X) em diferentes contextos.

Em 7 de janeiro de 2025, a Meta anunciou que estava introduzindo um programa de notas da comunidade e encerrando seu programa de verificação de fatos independente nos EUA. A empresa indicou que aprimoraria as notas da comunidade antes de disponibilizá-las para usuários fora dos EUA.

Principais conclusões e recomendações

Com base numa análise abrangente dos potenciais impactos nos direitos humanos, o Comitê desenvolveu os seguintes fatores a nível nacional para orientar a implementação das notas da comunidade da Meta:

Proteções em contextos repressivos de direitos humanos

As notas da comunidade dependem de uma base de colaboradores ativa e engajada. Esses programas obtiveram maior sucesso em meio a uma sociedade civil robusta. Idealmente, os colaboradores contam com o apoio de meios de comunicação independentes para fundamentar as notas propostas e participam sem receio de assédio ou represálias.

O Comitê salienta que, até que a Meta possa demonstrar proteções robustas e eficazes à privacidade dos colaboradores, com provas de red-teaming em condições adversas, uma política clara sobre o tratamento de solicitações de autoridades policiais em relação a dados de notas da comunidade e medidas de mitigação de riscos, os países com histórico de repressão aos direitos humanos e sociedades civis frágeis devem ser excluídos da implementação inicial.

Cautela durante as eleições

As notas da comunidade podem apoiar o acesso à informação e a liberdade de expressão durante as eleições em ambientes de informação robustos, com meios de comunicação livres e uma sociedade civil sem inibições. Sem essas condições, o programa gera o risco de permitir a publicação de informações enganosas, e a Meta deve proceder com cautela. Nos casos em que existam riscos significativos para a integridade das instituições políticas e a Meta determine, por meio de testes de produto, avaliação de riscos e devida diligência em matéria de direitos humanos, que as suas proteções são insuficientes para os mitigar, as notas da comunidade não devem ser introduzidas antes ou durante eleições importantes.

Exclusão de países com histórico de redes coordenadas de desinformação

As notas da comunidade operam sob a premissa de que um conjunto suficientemente diverso e independente de colaboradores avaliará o conteúdo de boa fé e que os sinais de consenso podem aproximar-se da precisão de forma confiável. Nos casos em que indivíduos mal-intencionados demonstraram repetidamente a capacidade de coordenar um grande número de contas para promover informações enganosas, essa suposição pode não se sustentar. Em vez disso, as notas da comunidade correm o risco de se tornarem um vetor de manipulação em vez de uma proteção contra ela. Esse risco se tornará mais acentuado à medida que a inteligência artificial facilitar a criação e a operação em larga escala dessas redes.

Até que os dados sobre a funcionalidade das notas da comunidade possam verificar a adequação das medidas de mitigação da Meta contra essa atividade coordenada, o Comitê recomenda que a Meta exclua inicialmente os países com um histórico de redes de desinformação intencionais e em larga escala. A Meta também deve considerar se os agentes demonstraram a intenção de manipular ecossistemas de informação e se possuem a sofisticação técnica para fazê-lo em larga escala.

Sem introdução em situações de crise ou conflito prolongado

A potencial vulnerabilidade das notas da comunidade à manipulação coordenada por grupos armados, agentes estatais ou seus apoiadores, que buscam legitimar a propaganda por meio da manipulação do sistema de classificação das notas, representa riscos aumentados em situações de crise ou conflito em curso. Condições que impedem a contribuição de grupos, como acesso instável à internet e insegurança que impede a participação, podem exacerbar as assimetrias de informação. Nessas circunstâncias, a rapidez é fundamental. A demora na publicação das notas sugere que as notas da comunidade podem ser uma proteção primária inadequada em crises e conflitos, especialmente porque os limiares para incitação à violência podem ser mais baixos. Notas direcionadas a grupos específicos podem resultar mais facilmente em danos no meio físico.

Devido à incerteza quanto ao desempenho das notas da comunidade em conflitos e ao seu potencial para aumentar o risco de danos, o Comitê acredita que elas não devem ser introduzidas em países que vivenciam crises ou conflitos prolongados.

Adiantamento da introdução das notas da comunidade nos casos em que houver complexidade linguística que a Meta não consiga acomodar técnica e operacionalmente.

As notas da comunidade exigem representação suficiente dos grupos linguísticos de um contexto. Nos casos em que a Meta não conseguir atingir esse objetivo, deverá adiar a introdução de notas da comunidade. Caso contrário, disparidades linguísticas nas notas propostas e publicadas poderiam ser criadas ou exacerbadas, comprometendo o programa como uma fonte de informação plural e diversificada.

Além disso, existem potenciais variações linguísticas e culturais no uso e na interpretação das notas da comunidade, algumas inesperadas, que podem afetar quais notas serão publicadas. Por exemplo, o significado de classificar algo como "útil" pode variar dependendo do lugar e da tradução da palavra. Nos países onde a Meta prevê que os recursos das notas da comunidade ainda não conseguem acomodar a complexidade linguística, deve considerar adiar a sua implementação.

Extrema cautela onde a divisão social e a discordância que alimentam a violência política não podem ser definidas de forma simples.

O algoritmo das notas da comunidade do X foi projetado assumindo implicitamente que a discordância e a divisão em um contexto específico podem ser modeladas de forma simples, fornecendo uma única medida de polarização. A Meta não forneceu nenhuma informação que sugira que seu programa será diferente. No entanto, quando a divisão e a discordância não podem ser facilmente modeladas ao longo de um único eixo, isso pode reforçar uma compreensão excessivamente simplista do conflito, ignorando como múltiplos fatores se intercruzam (em termos de política, etnia, religião, idioma e casta, por exemplo). Na prática, isso acarreta o risco de marginalizar perspectivas minoritárias, uma vez que notas enganosas ou prejudiciais que alcancem consenso entre os grupos majoritários podem ser publicadas. Quando o algoritmo não identifica com precisão e não tenta "conectar" (recompensar conteúdo que recebe feedback positivo de públicos que normalmente discordam) uma divisão que gera conflito e violência, esse risco de dano é especialmente acentuado. Portanto, o Comitê recomenda que a Meta aja com extrema cautela ao considerar países caracterizados por essas dinâmicas.

Nos casos em que houver um risco elevado de desalinhamento entre as premissas de concepção das notas da comunidade sobre uma sociedade e o que de fato impulsiona a divisão social e política nesse país, não é necessário excluir categoricamente esses países da implementação das notas da comunidade. Em vez disso, a implementação deve ser sequencial para permitir testes de desempenho em diferentes contextos e deve começar com cautela em ambientes políticos, linguísticos e de informação semelhantes aos locais onde a Meta já possui esses dados, com testes-piloto e medidas de mitigação de riscos.

Exclusão de países que enfrentam obstáculos persistentes ao acesso à internet

O Comitê recomenda a exclusão de países que enfrentam obstáculos persistentes ou sistêmicos ao acesso à internet, uma vez que as notas da comunidade dependem da participação ampla, consistente e equitativa dos colaboradores para funcionar conforme o previsto. Um número reduzido de colaboradores, devido a lacunas de infraestrutura, custos elevados, disparidades regionais e, principalmente, paralisações impostas pelo governo, mina a premissa fundamental da representatividade das notas da comunidade.

Ponderação

O Comitê recomenda que os fatores que demonstrem que as notas da comunidade podem criar ou aumentar o risco de danos sejam ponderados mais do que os fatores decorrentes da inadequação do programa como medida de mitigação de danos. Isso inclui limites que determinam que a Meta não deve introduzir notas da comunidade até demonstrar que pode fazê-lo mitigando esses danos.

A Meta deve fornecer ao Comitê os critérios ou a matriz de risco que desenvolve para orientar a expansão a cada seis meses durante a fase inicial de expansão, com evidências de como esses critérios são aplicados nas decisões em nível nacional sobre a expansão do programa.

Dados e relatórios

Os potenciais riscos para os direitos humanos e a adequação das estratégias de mitigação relativas às notas da comunidade dependem da concepção e da funcionalidade do produto em determinado contexto. A Meta informou ao Comitê que planeja testar o programa antes do lançamento no mercado. O Comitê recomenda que esses testes se concentrem em identificar e mitigar riscos relacionados ao anonimato dos colaboradores, campanhas coordenadas de desinformação e manipulação do sistema, representação linguística e participação dos colaboradores. Ele exige transparência substancial, relatórios e acesso dos pesquisadores aos dados sobre o desempenho das notas da comunidade da Meta.

Parecer consultivo sobre política completo

1. Solicitação da Meta

Em 7 de janeiro de 2025, a Meta anunciou que estava introduzindo um programa de notas da comunidade e encerrando seu sistema de verificação de fatos independente nos Estados Unidos. Na época, ela indicou que aprimoraria as notas da comunidade antes de disponibilizá-las para usuários fora dos Estados Unidos. A empresa descreve as notas da comunidade como um recurso que permite os usuários adicionarem rótulos com contexto adicional ao conteúdo em que eles acreditam que informações adicionais podem ser úteis. Os participantes do programa de notas da comunidade, chamados de "colaboradores", classificam as notas propostas como "Úteis" ou "Não úteis" e explicam sua resposta selecionando um motivo em uma lista de opções. Um algoritmo calcula uma pontuação que reflete se uma nota foi considerada útil por um número suficiente de colaboradores que geralmente discordam entre si com base em classificações anteriores. Se essa pontuação atingir um determinado limite e a nota não violar os Padrões da Comunidade, ela será publicada. Esse sistema contrasta com o programa de verificação de fatos independente, que depende de organizações parceiras para analisar, pesquisar e emitir pareceres sobre a veracidade do conteúdo, o que pode resultar na rotulagem de informações falsas ou enganosas.

A Meta solicitou orientação do Comitê sobre os fatores específicos que deve considerar ao decidir se algum país deve ser excluído de sua expansão planejada das notas da comunidade fora dos Estados Unidos, já que o contexto local pode impactar as operações do programa. Além disso, a empresa perguntou ao Comitê como ponderar esses fatores em relação uns aos outros, de uma forma que possa ser aplicada em larga escala.

Em sua solicitação, a Meta afirmou que o programa de notas da comunidade está em um "estágio inicial de desenvolvimento de produto" e que a empresa possui "dados limitados do lançamento beta nos EUA". A Meta descreveu essa implementação como um período de "testes e aprimoramentos" que pode resultar na evolução do formato das notas da comunidade. Devido a essas considerações, o principal interesse da empresa reside no estabelecimento de "princípios orientadores fundamentais" para sua implementação em todo o mundo. Consequentemente, o Comitê não realizou uma avaliação geral da eficácia das notas da comunidade da forma que elas funcionam nos Estados Unidos.

O Comitê identificou um conjunto de riscos aos direitos humanos que considera mais importantes mitigar antes da implementação global das notas da comunidade. Para isso, ele consultou uma série de partes interessadas, incluindo pesquisadores, especialistas técnicos, organizações da sociedade civil, jornalistas e verificadores de fatos, em busca de observações e dados sobre o funcionamento de diferentes sistemas de moderação no estilo de notas da comunidade (incluindo as do X) em diferentes contextos. A avaliação do Comitê se concentra no desempenho previsto do sistema de notas da comunidade da Meta, caso seja aplicado em outros mercados além dos Estados Unidos, à luz dessas informações.

Responder à pergunta sobre o que as notas da comunidade e o algoritmo que as sustenta farão em um determinado contexto depende significativamente de dados empíricos. A Meta indicou que o sistema será testado fora dos Estados Unidos, e os dados de desempenho serão avaliados em relação aos objetivos do programa. Ela afirmou que planeja publicar dados para download sobre as notas da comunidade, com categorias de dados equivalentes às que o X compartilha para seu programa de notas da comunidade. Isso incluiria o texto completo das notas e suas respectivas localizações geográficas, as classificações de cada nota, o histórico de status, o cadastro de usuários e as solicitações de notas sobre o conteúdo. No entanto, esse nível de dados ainda não está disponível para uso do Comitê, e, em vez disso, um conjunto de métricas de alto nível foi fornecido confidencialmente a ele. A Meta forneceu ao Comitê determinados dados sobre as notas da comunidade, incluindo, entre outros, o número de colaboradores inscritos, o número de notas escritas e publicadas e o tempo médio para consenso nos Estados Unidos. Portanto, essa opinião não pode oferecer uma análise empírica dos sucessos, dos fracassos ou do impacto do programa de notas da comunidade da Meta. No entanto, incorpora insights de pesquisas sobre programas semelhantes fornecidos pela comunidade para entender as prováveis ​​áreas de risco em diferentes contextos, que se relacionam diretamente com as questões que a Meta apresentou ao Comitê.

É importante ressaltar que a Meta não solicitou ao Comitê que avaliasse a eficácia de seu programa de verificação de fatos independente, nem os méritos relativos das notas da comunidade e da verificação de fatos independente. Portanto, esse parecer não inclui recomendações independentes sobre se a verificação de fatos independente deve ser descontinuada ou mantida. No entanto, considerando que as notas da comunidade estão incluídas na abordagem da Meta em relação à desinformação, o parecer considera a ausência ou presença de verificação de fatos independente como um fator relevante na forma como a empresa lida com conteúdo enganoso em um determinado contexto. O Comitê perguntou à Meta se esta lista de países onde ela tem acordos em vigor para fornecer verificação de fatos independente permanecerá precisa durante e após qualquer implementação de notas da comunidade fora dos Estados Unidos. Em resposta, a empresa afirmou que isso está "sujeito a alterações periódicas". Reportagens recentes da mídia descobriram que, embora a Meta não tenha feito uma declaração pública sobre o futuro da verificação de fatos independente fora dos Estados Unidos, os contratos com agências de verificação de fatos foram renovados para 2026, embora com níveis de financiamento reduzidos.

As perguntas feitas na solicitação da Meta indicam que a empresa está considerando ativamente estender as notas da comunidade a países fora dos Estados Unidos. O parecer do Comitê não endossa nem se opõe a essa abordagem. Em vez disso, sua análise procede examinando quais seriam as implicações se a Meta disponibilizasse as notas da comunidade em todos os lugares e aborda quais considerações deveriam impedir ou condicionar o lançamento do produto em um determinado país.

O Comitê aceitou a solicitação da Meta em 19 de novembro de 2025. A solicitação completa da Meta ao Comitê pode ser encontrada aqui. Após a aceitação, o Comitê enviou perguntas à Meta. Ele fez perguntas sobre: ​​como a Meta prevê a relação entre as notas da comunidade e outras abordagens para informações enganosas; como a empresa define e mensura o sucesso das notas da comunidade; as medidas de mitigação de riscos e a devida diligência em direitos humanos que a Meta adotou antes do lançamento das notas da comunidade nos EUA, e esforços semelhantes planejados para lançamentos internacionais; o desempenho das notas da comunidade nos EUA; as diferenças técnicas entre as notas da comunidade da Meta e as do X; e a relação das notas da comunidade com medidas relacionadas a eleições, crises e conflitos.

2. Envolvimento das partes interessadas

Ao longo da elaboração desse parecer consultivo sobre política, o Comitê interagiu com partes interessadas externas das seguintes maneiras:

Comentários públicos

O Comitê recebeu 23 comentários públicos em dezembro de 2025 relacionados a esse parecer consultivo sobre política que atenderam aos termos para envio. Oito foram enviados dos Estados Unidos e do Canadá; cinco da Ásia Pacífico e da Oceania; cinco da Europa; três da América Latina e do Caribe; e duas do Oriente Médio e do Norte da África.

Os envios abordavam as seguintes questões:

• Benefícios potenciais da moderação baseada na comunidade para combater conteúdo enganoso. Vários envios destacaram os impactos positivos das notas da comunidade na liberdade de expressão, como a adição de contexto e o potencial do sistema para desenvolver a alfabetização informacional, especialmente quando comparado a intervenções que resultam na remoção de conteúdo (ver, por exemplo, PC-315688, Full Fact). Esses envios argumentam que as notas da comunidade e a verificação de fatos independente podem funcionar como ferramentas complementares. Por exemplo, incluir verificadores de fatos independentes no programa "poderia ser uma forma de aumentar a precisão, a relevância e a otimização das notas colaborativas... permitindo, ao mesmo tempo, maiores interações com os usuários online para aumentar a confiança" (PC-31579, Agence France-Presse).
• Risco contextual e aplicabilidade global desigual das notas da comunidade. Diversos envios enfatizaram que a repressão política, o retrocesso democrático, o conflito e a manipulação coordenada moldam fundamentalmente se a moderação conduzida pela comunidade pode funcionar com segurança (ver, por exemplo, PC-31580, Dr. Yohannes Eneyew Ayalew and Dr. Maria O’Sullivan). Comentaristas alertaram que, em países com espaço cívico restrito ou alta vigilância, as notas da comunidade poderiam ser capturadas por agentes alinhados ao Estado ou por grupos mal-intencionados, distorcendo o consenso e reforçando as narrativas oficiais em vez de oferecer oportunidades para contestá-las (PC-31586, Asian Forum for Human Rights and Development). Diversos envios solicitaram à Meta para evitar tratar a expansão global como uma simples implementação, enfatizando, em vez disso, a necessidade de estudos de viabilidade específicos para cada país, avaliações de impacto sobre os direitos humanos e limites mínimos de desempenho do sistema antes da implantação.
• Idioma e desigualdade linguística. Muitos comentários destacaram que as notas da comunidade exigem densidade suficiente de contribuidores e entendimento linguístico compartilhado para gerar consenso oportuno (ver, por exemplo, PC-31570, Dr. Sanjana Hattotuwa; PC-31589, Digital Democracy Institute of the Americas; PC-31581, Trusted Information Alliance). Diversos envios apresentaram evidências sobre as notas da comunidade do X, sugerindo que notas em idiomas que não sejam o inglês têm muito menos probabilidade de serem avaliadas ou publicadas, deixando grandes populações de usuários sem o devido recurso. Os comentários também observaram que os posts multilíngues, a alternância de códigos (alternância entre idiomas) e a dependência da tradução automática introduzem riscos de mal-entendidos e exclusões, particularmente em regiões multilíngues.
• Limitações em termos de eficácia e velocidade. Estudos empíricos citados em diversos envios sugerem que apenas uma pequena fração das notas propostas em sistemas de notas da comunidade são, em última análise, publicadas, frequentemente após atrasos significativos. Como resultado, as notas da comunidade tendem a aparecer em conteúdos "leves" ou de baixo risco, enquanto a desinformação altamente polarizadora ou de rápida disseminação, particularmente durante eleições, conflitos e crises, muitas vezes não é abordada (PC-31597, Institute for Strategic Dialogue). Para esses comentaristas, isso levanta preocupações de que o sistema possa falhar sistematicamente onde os danos são maiores.
• Relação entre notas da comunidade e verificação de fatos profissional. Nos comentários públicos, houve oposição à substituição da verificação de fatos independente por notas da comunidade. Diversos comentários públicos defenderam, em vez disso, uma abordagem híbrida, na qual as notas da comunidade complementam as avaliações profissionais de veracidade e os esforços de alfabetização midiática. Alguns comentários do público apresentaram propostas sobre como isso poderia funcionar na prática. Por exemplo, uma "via rápida [nas notas da comunidade] para verificadores de fatos certificados poderia assumir diferentes formas, como aprovação automática de notas por verificadores de fatos, ponderação mais acentuada de seus votos ou garantia de que os verificadores de fatos comparem as notas uns dos outros" (PC-31587, European Fact-Checking Standards Network). Os verificadores de fatos, em particular, alertam que a retirada do apoio institucional, ao mesmo tempo que se aumenta a dependência de colaboradores, gera o risco de enfraquecer o ecossistema de informação como um todo.
• Trabalho, segurança e responsabilidade. Os envios também levantaram preocupações sobre assédio, retaliação e risco pessoal para os colaboradores. Um comentário público (PC-31578, Renée DiResta and Alexios Mantzarlis) argumentou que escrever e classificar notas deve ser entendido como "trabalho de dados" não remunerado que beneficia as plataformas e que gera o risco de ser extraído desproporcionalmente de jornalistas, especialistas e comunidades marginalizadas.

Em conjunto, esses temas sugerem um interesse cauteloso no modelo participativo das notas da comunidade, aliado à preocupação com a dependência excessiva desse modelo sem proteções e transparência mais robustas.

Mesas redondas de partes interessadas

O Comitê realizou novas consultas com as partes interessadas por meio de duas mesas redondas sobre as oportunidades e os riscos das notas da comunidade. Essas mesas redondas contaram com a participação de aproximadamente 30 pessoas das Américas, da África, da Ásia e da Europa. Isso incluiu pesquisadores focados na disseminação e no impacto de informações enganosas, verificadores de fatos, especialistas técnicos, indivíduos da sociedade civil e ativistas dos direitos humanos.

As discussões da mesa redonda apoiaram a ideia de que o sistema de notas da comunidade pode fornecer contexto em vez de remover conteúdo. Nesse sentido, pode fortalecer a liberdade de expressão ao mudar o foco da moderação, da remoção para a contextualização. Em vez de suprimir a fala, o sistema pode adicionar um contradiscurso, permitindo que a expressão permaneça visível enquanto melhora o ambiente de informação ao seu redor.

Os participantes também expressaram ceticismo quanto ao uso das notas da comunidade como ferramenta principal para combater a desinformação, especialmente em contextos fora dos EUA e de alto risco. Os participantes relataram que os sistemas baseados em consenso podem falhar em conteúdos polarizados, políticos ou relacionados a crises, e podem privilegiar o poder da maioria em detrimento da precisão factual.

A diversidade linguística e o baixo nível de alfabetização digital também foram apontados como barreiras estruturais, com evidências de que notas em línguas minoritárias e que não sejam inglês têm muito menos probabilidade de serem encontradas, deixando grandes populações sem acesso ao serviço. As partes interessadas alertaram que os contextos afetados por conflitos e regimes autoritários representam riscos acentuados, incluindo a captura do poder pelo Estado ou por indivíduos coordenados, o assédio a colaboradores e a violência no meio físico, agravados por atrasos na publicação das notas.

Ao longo das discussões, houve forte consenso de que as notas da comunidade devem complementar, e não substituir, a verificação de fatos profissional, que pode fornecer a especialização e a avaliação de danos que as notas da comunidade às vezes não possuem (ver também PC-31568, Full Fact). Por fim, os participantes enfatizaram a necessidade de transparência e acesso aos dados para os pesquisadores, defendendo a realização de projetos-piloto, avaliações independentes e maior transparência na prestação de contas antes de qualquer expansão global.

3. Programa de notas da comunidade da Meta

Abordagens à desinformação

A Meta descreve sua abordagem atual para informações aparentemente falsas ou enganosas como envolvendo três estratégias: remover determinados tipos de desinformação prejudicial; reduzir a distribuição de conteúdo classificado como Falso, Alterado ou Parcialmente falso por verificadores de fatos independentes; e aplicar informações adicionais na forma de rótulos diferentes ao conteúdo que é potencialmente enganoso ou confuso. Segundo a Meta, as notas da comunidade se enquadram nessa terceira categoria. Embora isso sugira que uma das principais razões para as notas da comunidade seja combater a desinformação, as respostas às perguntas do Comitê indicam que a Meta também vê as notas da comunidade como uma ferramenta para adicionar contexto de forma mais ampla. Essa abordagem mais ampla reflete uma escolha de design que prioriza a contextualização em vez da remoção de conteúdo, permitindo que a fala permaneça visível e, ao mesmo tempo, facilitando a capacidade dos usuários de avaliar e interpretar as informações.

A Política sobre Desinformação da Meta especifica que a empresa remove informações falsas ou enganosas "quando for provável que contribuam para o risco de danos físicos iminentes" ou "que provavelmente contribuam diretamente para a interferência no funcionamento dos processos políticos", incluindo eleições e censos. Para chegar a essas conclusões sobre danos, a Meta trabalha em parceria com "especialistas independentes que possuem conhecimento e experiência para avaliar a veracidade do conteúdo e se ele provavelmente contribui diretamente para o risco de danos iminentes". Em sua solicitação ao Comitê, a Meta afirmou que seus anúncios de 7 de janeiro de 2025 não afetaram a continuidade da remoção de conteúdo que viola essas diretrizes. Este tipo de conteúdo é normalmente identificado e avaliado em consulta com o Canal do Parceiro Confiável da Meta (ver decisão do caso Vídeo de delegacia de polícia no Haiti).

Os parceiros externos de verificação de fatos da Meta – nos países e idiomas em que operam – priorizam a avaliação de informações potencialmente falsas que sejam "oportunas, relevantes e consequentes". Conteúdo classificado como "Falso", "Alterado" ou "Parcialmente falso" por parceiros de verificação de fatos pode ser rebaixado, não recomendado e rejeitado para anúncios. A política da Meta prevê que avisos sejam aplicados a posts com essas classificações, e a Meta enviará notificações aos usuários que os fizeram. O conteúdo que a Meta isenta da verificação de fatos abrange "conteúdo que não inclui uma alegação verificável", "opiniões e discursos de políticos" e "mídia criada ou editada digitalmente que contenha um dos rótulos de transparência ou marcas d'água de inteligência artificial da Meta com base em sua autenticidade", em que o aspecto enganoso é divulgado pelo usuário que postou. Existe um mecanismo de apelação para contestar as conclusões dos verificadores de fatos.

Nos Estados Unidos, os colaboradores das notas da comunidade podem sugerir notas que adicionam mais contexto a qualquer conteúdo público e orgânico (ou seja, não pago) nas plataformas da Meta. A exibição pública da nota proposta está condicionada à obtenção de uma classificação que ultrapasse o limite de "consenso útil" e à não violação de quaisquer Padrões da Comunidade. Isso inclui tipos de conteúdo que não foram previamente cobertos por verificações de fatos independente, como opiniões e posts de políticos. A Meta afirma que os colaboradores das notas da comunidade nos Estados Unidos (onde a verificação de fatos independente foi descontinuada) fazem parte de sua abordagem à desinformação: os colaboradores podem "escrever e enviar uma nota para posts que consideram potencialmente enganosos ou confusos". Conforme explicado em mais detalhes abaixo, se os colaboradores que discordaram anteriormente considerarem a nota útil, ela será afixada publicamente no post. A inclusão de uma nota não acarreta consequências como rebaixamento ou remoção das recomendações, como ocorre com os rótulos de verificação de fatos Falso, Parcialmente falso ou Alterado. Após a adição de uma nota da comunidade publicada em um post, a Meta também envia notificações para pessoas que anteriormente repostaram, deixaram um comentário, avaliaram ou solicitaram uma nota para esse post.

Em resposta a uma pergunta do Comitê sobre a relação entre as notas da comunidade e a verificação de fatos independente, a Meta esclareceu que considera as duas coisas "fundamentalmente diferentes em vários aspectos importantes". Para a Meta, "a verificação de fatos independente visa abordar alegações 'verificáveis' em suas plataformas, concentrando-se estritamente em declarações de fatos, e não em opiniões". Essa distinção é crucial para a Meta e aponta para o propósito mais amplo das notas da comunidade: "Os colaboradores das notas da comunidade podem adicionar contexto a qualquer conteúdo em que acreditem que informações adicionais possam ser úteis, incluindo conteúdo que seria categorizado como opinião ou que, de outra forma, não se qualificaria para análise pelo programa de verificação de fatos independente."

Outra diferença fundamental, segundo a Meta, é que as notas da comunidade não acarretam as "consequências punitivas associadas ao programa de verificação de fatos independente". Especificamente, não há "nenhuma penalidade por postar conteúdo que receba uma nota da comunidade", como aconteceria com a publicação de desinformação que "provavelmente contribuam para o risco de danos físicos iminentes", e a "distribuição ou monetização desse conteúdo não é afetada".

Como funcionam as notas da comunidade

i. Aspectos técnicos – Algoritmo e fila

Em sua solicitação, a Meta revelou que construiu seu sistema de notas da comunidade usando o algoritmo de código aberto do programa de notas da comunidade da plataforma de redes sociais X. A Meta descreveu o algoritmo como um "algoritmo de consenso que usa medidas separadas de 'utilidade' e 'consenso' para calcular uma pontuação geral de 'consenso útil'". Os algoritmos de consenso, também conhecidos como algoritmos de bridging, são projetados para promover conteúdo ou interações que supostamente fomentem o entendimento e o acordo entre grupos divididos. Teoricamente, eles recompensam conteúdo que "conecta" – ou seja, conteúdo que agrada ou recebe feedback positivo de públicos que normalmente discordam. O modelo de notas da comunidade, baseado em consenso, diferencia-se funcionalmente da verificação de fatos independente em seus objetivos e em sua eficácia comparativa para diferentes tarefas.

A Meta explicou que o algoritmo calcula essa pontuação identificando o consenso de que uma nota é "útil" entre um determinado número de colaboradores que geralmente discordam entre eles com base em classificações anteriores. Segundo a empresa, se a pontuação combinada de "consenso útil" em uma nota exceder um "determinado limite" e a nota não violar os Padrões da Comunidade da Meta, a nota será publicada. Em sua solicitação, a Meta afirmou que, como seu algoritmo é "mais complexo" na prática, "não é possível fornecer um número exato de quantas classificações úteis uma nota deve receber ou quanta discordância é necessária para que o algoritmo determine que os colaboradores têm pontos de vista diferentes". O código público das notas da comunidade do X indica um limite de variável semelhante. A Meta afirmou que essa abordagem "ajuda a garantir que as notas reflitam uma variedade de perspectivas e reduz o risco de viés". Se publicada, a nota aparece como um banner na parte inferior do post original, no qual os usuários podem clicar para ler a nota completa e o link de referência.

Em resposta a perguntas sobre como o algoritmo avalia desacordos anteriores entre colaboradores, a Meta esclareceu que, seguindo o algoritmo de código aberto do X, a empresa "avalia as diferenças de pontos de vista exclusivamente com base em como os colaboradores classificaram as notas no passado" e não considera outros comportamentos de engajamento, como seguidores, curtidas ou reposts. O algoritmo "não faz suposições sobre a natureza da discordância, como as conotações políticas de seus acordos ou discordâncias (já que não possui dados de pontos de vista sobre política ou o assunto de cada nota)". Um especialista técnico consultado pelo Comitê sugeriu o seguinte exemplo para ilustrar esse ponto: é possível que um país tenha um eixo político liberal-conservador notável, mas que os colaboradores da comunidade nesse país classifiquem as notas de acordo com a presença ou não de memes no conteúdo subjacente, o apoio à agenda de um determinado partido político ou o apoio a um astro do futebol específico. Nesse caso, o algoritmo das notas da comunidade aprenderá um eixo de conflito que pode ser melhor descrito como capturando uma dessas divisões, porque esse é o eixo que melhor explica os dados.

Usuários e colaboradores das notas da comunidade podem identificar conteúdo que potencialmente se beneficiaria de uma nota, e os colaboradores podem escrever e propor notas sobre esse conteúdo. Assim que uma nota é proposta, ela aparece em um feed para que seja votada quanto à sua utilidade.

Para facilitar a classificação das notas propostas, os colaboradores têm acesso a um feed de notas que ainda precisam de classificações antes de serem publicadas, acessível nas configurações dos apps do Facebook, do Instagram e do Threads. Em resposta a uma pergunta sobre esse feed, a Meta esclareceu que as notas são priorizadas "com base na data de publicação e no número de visualizações do post, a fim de melhorar a rapidez e a visibilidade das notas. O tipo de conteúdo não é levado em consideração na classificação das notas (por exemplo, se o conteúdo é cívico ou político). As notas com uma pontuação de utilidade mais alta podem aparecer com mais destaque nesse feed, enquanto as notas com uma pontuação de utilidade mais baixa podem aparecer com menos destaque." Além disso, a Meta informou que não adiciona posts a esse feed de forma independente, nem "utiliza quaisquer mecanismos para sinalizar conteúdo de alta prioridade que necessite de uma nota".

ii. Aspectos operacionais – Colaboradores e políticas

Em sua solicitação, a Meta descreve como o programa de notas da comunidade funciona na prática. Diferentemente do programa de verificação de fatos da Meta, em que a empresa faz parceria com organizações profissionais de verificação de fatos para analisar e rotular o conteúdo, nas notas da comunidade, os usuários da Meta se inscrevem para contribuir com o programa. A Meta exige que os colaboradores tenham mais de 18 anos, uma conta com mais de seis meses de existência e que não tenha violado as políticas da Meta, que visam "prevenir os danos mais graves – como terrorismo, exploração sexual infantil, fraudes e golpes", além de um número de telefone verificado ou autenticação de dois fatores ativada. Caso atendam a esses critérios de elegibilidade, as pessoas são admitidas "gradual e aleatoriamente" da lista de espera e podem então escrever e classificar notas. Atualmente, os colaboradores podem elaborar e enviar notas para "adicionar mais contexto" a conteúdo público e orgânico no Facebook, no Instagram e no Threads originário dos Estados Unidos. Os colaboradores devem incluir um link que corrobore o contexto compartilhado na nota. Ao classificar as notas, os colaboradores têm a opção de afirmar se as notas escritas por outros colaboradores são "úteis" ou "não úteis" e explicar sua resposta selecionando um motivo em uma lista de opções, como "se a nota é relevante para o post, fácil de entender e usa linguagem neutra ou imparcial".

O produto de notas da comunidade funciona atualmente em seis idiomas: inglês, espanhol, chinês, vietnamita, francês e português. A Meta ainda não decidiu "quais idiomas serão disponibilizados nas notas da comunidade para países multilíngues", nem estendeu "a infraestrutura técnica das notas da comunidade para disponibilizar a escrita, avaliação e publicação em idiomas além dos seis disponíveis no lançamento nos Estados Unidos". A Meta informou que espera iniciar esse trabalho no início de 2026. Em resposta a uma pergunta sobre os preparativos previstos para o lançamento internacional das notas da comunidade, a Meta afirmou que "pretende realizar testes com o produto de notas da comunidade antes do lançamento em um mercado. Esse teste avaliará como o algoritmo de bridging está funcionando no contexto local e ajudar a identificar quaisquer problemas potenciais relacionados à representação do idioma ou à participação dos colaboradores".

A Meta afirmou que as notas estão sujeitas aos mesmos Padrões da Comunidade que o conteúdo orgânico, com algumas diferenças significativas na aplicação dos padrões. A empresa utiliza uma "combinação de sistemas automatizados, equipes de análise especializadas e análise manual por especialistas para avaliar se as notas violam nossos Padrões da Comunidade". Além disso, a Meta informou que um classificador de machine learning também é usado para "reduzir a distribuição de posts sobre as quais as pessoas solicitaram notas e que nossos sistemas preveem que provavelmente violam os Padrões da Comunidade (mas que não foram confirmadas como tal) dentro dos posts candidatos exibidos na interface do colaborador enquanto o conteúdo aguarda análise humana". A Meta afirmou que isso ajuda a reduzir a exposição a conteúdo que provavelmente viola as regras.

Segundo a empresa, o anonimato dos colaboradores desempenha um papel importante no funcionamento das notas da comunidade. Os nomes dos colaboradores não são exibidos nas notas que eles escreveram ou avaliaram para garantir que as classificações sejam baseadas no "conteúdo e utilidade, e não na identidade de quem as escreveu". A Meta afirmou que esse anonimato entre os colaboradores "incentiva a participação, atenuando a pressão dos colegas ou o medo de assédio".

Em sua solicitação, a empresa afirmou que está trabalhando em maneiras de manter os colaboradores engajados, melhorar a qualidade das notas e evitar o abuso e a manipulação coordenados das notas da comunidade. Os novos colaboradores recebem um tutorial integrado ao produto sobre como escrever e avaliar notas. Os colaboradores ativos também podem participar de um fórum da comunidade, hospedado no Discord, para receber atualizações sobre novos recursos e fornecer feedback para orientar o desenvolvimento do produto. A Meta afirmou que exigir que os colaboradores possuam um número de telefone exclusivo e uma idade mínima da conta ajudará a impedir a criação de contas falsas. A admissão gradual e aleatória de usuários da lista de espera "ajudará a proteger contra esforços coordenados para adicionar notas a conteúdos específicos ou classificar notas de uma determinada maneira". Como uma nota exige um link para informações que corroborem o contexto proposto, a Meta implementou medidas que bloqueiam "links de URL que violam as regras de forma grave" para evitar abusos e incentivar os colaboradores a compartilhar informações de maior qualidade.

4. Pesquisa e avaliações de sistemas de moderação no estilo de notas da comunidade

Como parte de sua pesquisa e engajamento com as partes interessadas, o Comitê recebeu uma série de informações avaliando as oportunidades e os riscos de sistemas de moderação colaborativa, no estilo das notas da comunidade, bem como feedback, observações e dados empíricos sobre o desempenho desses sistemas em outras plataformas de rede social, mas principalmente nas notas da comunidade do X. Na ausência de dados substanciais sobre o desempenho do sistema da Meta, o Comitê extrapolou essas conclusões das notas da comunidade do X para fundamentar suas recomendações nas partes finais do parecer. Essa extrapolação pode ter limitações, já que as plataformas da Meta diferem das do X em vários aspectos, incluindo tamanho, distribuição da base de usuários e dinâmica de efeito viral. À medida que mais dados sobre o desempenho das notas da comunidade da Meta se tornarem disponíveis, a análise do Comitê, baseada principalmente nas notas da comunidade do X, precisará ser atualizada e testada mais a fundo.

As notas da comunidade e a tecnologia de bridging subjacente mostraram-se promissoras em alguns aspectos. Foi argumentado que, em teoria, é uma "abordagem promissora para ajudar o contradiscurso a combater à desinformação", uma vez que "respeita a autonomia dos usuários e incentiva uma ampla participação e trocas saudáveis". Outros comentários recebidos pelo Comitê citaram estudos que sugerem que anotações de conteúdo provenientes da comunidade podem aumentar a confiança do usuário nos resultados da moderação. Quase unanimemente, as partes interessadas nas consultas do Comitê manifestaram apoio a abordagens para combater informações enganosas que priorizem a liberdade de expressão, como fornecer contexto adicional por meio de ferramentas como notas da comunidade. Elas enfatizaram que a verificação de fatos e as notas da comunidade não devem ser vistas como ferramentas mutuamente exclusivas. Muitas destacaram como eles poderiam se complementar.

Com base em algumas pesquisas empíricas, as notas da comunidade, se implementadas com escala, velocidade, transparência e proteções contra manipulação suficientes, podem funcionar como uma ferramenta importante para melhorar o discurso online. Estudos experimentais e observacionais, bem como contribuições das partes interessadas, argumentam que as notas da comunidade podem superar o desempenho dos rótulos genéricos em termos de legitimidade percebida e compreensão do usuário, e que reintroduzem uma forma de participação cidadã estruturada na governança da plataforma, baseada não na regra da maioria, mas na colaboração interperspectiva e baseada em explicações.

Existe também certo otimismo quanto à potencial escalabilidade e eficácia das notas colaborativas, especialmente quando associadas a informações potencialmente enganosas. Algumas pesquisas mostraram que, no geral, os julgamentos de pessoas legais podem se aproximar dos níveis de precisão dos verificadores de fatos profissionais. Essa pesquisa argumenta que aproveitar avaliações agregadas de pessoas legais por meio de programas como notas da comunidade pode "permitir ações em larga escala contra a desinformação". Alguns estudos descobriram que as notas da comunidade podem reduzir o engajamento e o alcance do conteúdo rotulado como falso ou enganoso, às vezes substancialmente, uma vez que uma nota é anexada e vista pelos usuários. No entanto, existem algumas divergências em relação a essas conclusões. Outras pesquisas analisaram as dimensões temporais do engajamento com conteúdo enganoso e descobriram que as notas da comunidade do X "podem ser muito lentas para reduzir efetivamente o engajamento com a desinformação no estágio inicial (e mais viral) de difusão". Outro estudo de pesquisa descobriu que a influência social percebida do autor de um tweet original afetava os níveis de consenso do usuário, com autores influentes "gerando um nível mais baixo de consenso entre os usuários" e notas de verificação de fatos em seus posts "com maior probabilidade de serem vistas como incorretas". Essas divergências provavelmente decorrem, em parte, do desempenho variado das notas da comunidade em diferentes condições de implementação.

O Comitê também considerou as opiniões das partes interessadas que argumentaram que o desempenho dos programas de notas da comunidade em condições reais pode ser imprevisível. Sistemas que dependem de votação de colaboradores habilitada por algoritmos para adicionar notas ao conteúdo enfrentam desafios relacionados à cobertura, participação, rapidez e confiabilidade, todos os quais assumem maior importância em situações de alto risco, como conflitos e crises. Ao mesmo tempo, pesquisas sobre sistemas participativos e de moderação humana sugerem que um certo grau de variabilidade é inerente a essas abordagens, incluindo a verificação de fatos por especialistas, e que a relativa transparência das notas da comunidade pode tornar essa variabilidade mais observável e, portanto, mais passível de avaliação e aprimoramento iterativo.

Algumas pesquisas descobriram que, como as notas da comunidade dependem dos colaboradores escolherem quais posts anotar, seus resultados refletem padrões de autosseleção. Estudos demonstraram que os colaboradores do X nos Estados Unidos tendem a escrever notas em posts contrapartidários e avaliam as notas de correligionários como Útil, potencialmente reforçando as divisões ideológicas. Essas descobertas sugerem que exigir consenso entre aqueles que geralmente discordam pode ser uma solução incompleta para o problema de notas com motivação ideológica, particularmente em ambientes online polarizados. No entanto, outros estudos indicam que esse requisito de consenso entre diferentes perspectivas também funciona como um limiar de qualidade que limita a visibilidade de notas com motivação ideológica ou com fontes pouco confiáveis, mesmo que essa escolha de design restrinja a abrangência geral. Outros relatórios e pesquisas documentaram que, entre as notas publicadas sobre as notas da comunidade do X, os verificadores de fatos profissionais estão entre as fontes mais citadas para fornecer contexto, indicando a dependência das notas da comunidade na verificação de fatos independente, apesar de suas funções e objetivos distintos. Portanto, a redução do apoio aos verificadores de fatos provavelmente afetará as notas da comunidade, já que os colaboradores podem ter menos fontes confiáveis ​​para citar. Esse impacto pode ser maior onde houver poucas fontes de mídia confiáveis. Essa interdependência ressalta a importância de abordagens de governança em camadas, em vez da dependência de um único mecanismo, especialmente em contextos de alto risco ou com restrições de tempo.

O número relativamente pequeno de notas que alcançam consenso e são publicadas foi destacado como um desafio central por diversas partes interessadas. De acordo com um estudo, para 74% dos posts enganosos no X que tinham notas precisas propostas para eles, essas notas nunca foram exibidas aos usuários. Investigações da mídia descobriram que a maioria dos usuários nunca encontra notas publicadas. Quando as notas são publicadas, elas tendem a receber menos exposição do que o post original recebeu antes da nota ser anexada. Isso sugere que os usuários que visualizam conteúdo que eventualmente recebe uma nota muitas vezes não veem a nota quando ela é publicada. No entanto, as baixas taxas de publicação e visibilidade também podem refletir os limiares intencionalmente elevados de consenso e de origem do sistema, que são projetados para priorizar a qualidade das notas e a legitimidade percebida em detrimento do volume. Disparidades no número de notas propostas e publicadas em diferentes grupos linguísticos também levantaram preocupações sobre a representação adequada de diferentes grupos linguísticos no programa de notas da comunidade. Essas disparidades podem ser influenciadas pela densidade de colaboradores, pela busca de conteúdo específico para cada idioma e pelo investimento da plataforma em localização, e não pela viabilidade inerente do próprio modelo.

Algumas partes interessadas também manifestaram preocupação com o fato de que o acúmulo de notas não publicadas no X (ou seja, notas que foram propostas por colaboradores, mas que ainda não atingiram o nível de consenso necessário para publicação) esteja afetando negativamente a rapidez das notas da comunidade. Uma análise temporal recente dos padrões de publicação no X descobriu que "as notas são publicadas, em média, 65,7 horas após o post original, com atrasos maiores reduzindo significativamente a probabilidade de consenso". Outro estudo descobriu que, entre janeiro de 2021 e janeiro de 2025, 87,7% das notas propostas no X permaneceram na categoria "Precisa de mais classificações". De todas as notas propostas para classificação do colaborador, apenas 8,3% alcançaram o status de "Útil" e foram publicadas, com um atraso médio de 26 horas – "bem depois do ponto de pico de visibilidade para a maioria dos posts enganosos". Em uma atualização de setembro de 2025, a Meta relatou números semelhantes, com apenas cerca de 6% das notas sendo publicadas.

A análise das tendências no X mostrou como baixas taxas de publicação podem impactar o engajamento e a retenção de colaboradores. Um estudo recente descobriu que "a maioria das notas é produzida por uma minoria de colaboradores" e que "a fração de autores que permanecem no programa ano após ano diminuiu desde 2023". Além disso, a "fração de autores que permanecem ativos está diminuindo, sugerindo uma capacidade reduzida" de reter colaboradores. Segundo esses autores, a experiência repetida de não ter uma nota publicada desincentiva os colaboradores a continuarem participando. Essa tendência "indica os riscos para a sustentabilidade do sistema de notas da comunidade". Se, como sugerem suas declarações e políticas públicas, a Meta considera as notas da comunidade como parte de sua "abordagem à desinformação", então essas tendências indicam que o número de notas da comunidade pode ser insuficiente para que o sistema seja uma verificação eficaz de informações enganosas.

As implicações dessas descobertas de pesquisa em situações de crise e conflito foram apontadas como uma área de preocupação. Diversas partes interessadas compartilharam pesquisas sobre as notas da comunidade do X que questionam sua capacidade de lidar eficazmente com informações enganosas, principalmente em momentos em que a integridade da informação é de suma importância, como eleições, crises e conflitos. Por exemplo, uma pesquisa sobre posts no X de cinco contas famosas que divulgaram informações falsas durante os protestos de Southport em 2024 no Reino Unido descobriu que essas contas acumularam mais de 430 milhões de visualizações. De acordo com essa análise, dos 1.060 posts compartilhados por essas contas durante o auge dos protestos, apenas um recebeu uma nota da comunidade. Esses dados levantam sérias preocupações sobre a capacidade das notas da comunidade de responderem rapidamente à desinformação em situações de crise, particularmente nos estágios iniciais e virais de sua disseminação.

Algumas partes interessadas manifestaram preocupação com a recente decisão do X de permitir que colaboradores que usam inteligência artificial "aumentem o número de notas" (ver comentários públicos, por exemplo, PC-31568, Full Fact). O Comitê vê riscos na utilização de IA pelos colaboradores para gerar notas. A proliferação de ferramentas de IA introduz novos vetores para adulteração e manipulação. Indivíduos mal-intencionados poderiam ajustar os modelos para favorecer sutilmente narrativas, enquadrar seletivamente as evidências ou explorar o mecanismo de classificação – tudo isso aparentando neutralidade. Como a maioria dos sistemas de IA são treinados com dados sobrepostos e otimizados para objetivos semelhantes, sua participação pode homogeneizar os estilos de raciocínio e as interpretações nas anotações, excluindo perspectivas minoritárias e não centristas. A Meta informou ao Comitê que "não planeja permitir que usuários que escrevem notas com IA (ou seja, chatbots ou agentes que usam IA) enviem notas da comunidade nas plataformas da Meta. Os colaboradores podem usar IA para ajudá-los a escrever notas; no entanto, uma pessoa deve enviar a nota em seu nome, e é ela que é considerada o autor da nota."

Vários especialistas consultados pelo Comitê, bem como partes interessadas externas, levantaram preocupações sobre a aplicabilidade global do algoritmo das notas da comunidade do X, que foi projetado para modelar e "conectar" o desacordo político principalmente ao longo de um único eixo, para sociedades onde existem múltiplos eixos de divisão significativa. A aplicação do algoritmo nesses contextos pode reforçar uma compreensão simplista de conflitos políticos complexos e divisões sociais. No entanto, alguns especialistas observaram que o algoritmo não foi projetado para capturar todas as dimensões da discordância política, mas sim para identificar áreas limitadas de concordância entre perspectivas diferentes, o que ainda pode fornecer informações contextuais significativas mesmo em sociedades caracterizadas por múltiplos eixos de divisão que se sobrepõem. Na prática, o fato de o algoritmo não captar as divisões sociais pode resultar na geração de notas que tendem a abordar um subconjunto de expressões, as quais podem não corresponder aos tópicos mais relevantes e polarizadores de um país. Por exemplo, uma pesquisa compartilhada por partes interessadas constatou que "aproximadamente metade" das notas eram aplicadas ao que eles chamavam de "notícias leves" (matérias que abordavam cultura, estilo de vida ou tópicos mais leves, em vez de política ou eventos atuais). Em contrapartida, "notas bem fundamentadas sobre eventos politicamente controversos frequentemente não eram publicadas" (PC-31597, Institute for Strategic Dialogue), presumivelmente porque não haviam atingido o limiar necessário de consenso. Alternativamente, esse padrão pode refletir limites de publicação destinados a priorizar a legitimidade e evitar a captura de fontes, em vez da ausência de contribuições precisas ou bem fundamentadas, e que essa seletividade seja uma característica comum dos sistemas de governança participativa. Por fim, o sistema pode não conseguir identificar perspectivas minoritárias ou não centristas, independentemente da sua precisão, especialmente se o algoritmo não captar divisões social e politicamente significativas para além de um suposto eixo primário de polarização em um país. As implicações dessas dinâmicas para os direitos humanos são analisadas a seguir.

Em conjunto, as evidências e as contribuições das partes interessadas analisadas nesta seção indicam que as notas da comunidade apresentam tanto limitações significativas quanto pontos fortes potenciais como mecanismo para lidar com conteúdo potencialmente enganoso. Os desafios identificados, relacionados à escala, à rapidez, ao consenso, aos limites, aos incentivos aos participantes, às disparidades linguísticas e à modelagem de divergências, ressaltam a importância de escolhas cuidadosas no planejamento e na implementação. Ao mesmo tempo, pesquisas e consultas sugerem que essas restrições refletem as compensações inerentes aos sistemas de moderação participativa e explicativa. Assim sendo, seu papel deve ser avaliado à luz de sua capacidade de funcionar como uma linha de intervenção que priorize a transparência, a participação do usuário e a liberdade de expressão.

5. Análise de direitos humanos

Em 2021, a Meta anunciou uma Política Corporativa de Direitos Humanos, na qual delineou seu compromisso de respeitar os direitos de acordo com os Princípios Orientadores das Nações Unidas sobre Empresas e Direitos Humanos (UNGPs, na sigla em inglês). Os UNGPs, que foram endossados ​​pelo Conselho de Direitos Humanos das Nações Unidas (ONU) em 2011, estabelecem uma estrutura voluntária para as responsabilidades das empresas em matéria de direitos humanos. Esses direitos incluem, "no mínimo... aqueles expressos na Carta Internacional dos Direitos Humanos" (Princípio 12).

Como uma corporação global comprometida com os UNGPs, a Meta deve respeitar os padrões internacionais de direitos humanos em todos os lugares onde opera (Princípio 11) e "buscar prevenir ou mitigar os impactos adversos sobre os direitos humanos que estejam diretamente ligados às suas operações, produtos ou serviços por meio de seus princípios de negócios, mesmo que não tenha contribuído para esses impactos" (Princípio 13). Os UNGPs também estabelecem que as empresas devem realizar uma auditoria sobre direitos humanos para avaliar os impactos reais e potenciais e agir de acordo com suas descobertas (Princípio 17). Para fazer isso de forma eficaz, as empresas devem monitorar indicadores qualitativos e quantitativos e incorporar informações das partes interessadas afetadas (Princípio 20).

Por meio de seus casos e pareceres consultivos, o Comitê avalia os impactos das decisões políticas e de aplicação em relação aos direitos humanos. Quando esses casos revelam que a Meta está causando um impacto negativo, ou pode não estar tomando medidas para identificar, monitorar e limitar os resultados negativos de forma mais ampla, o Comitê faz as recomendações apropriadas. Em um parecer consultivo sobre política, o Comitê se concentra diretamente nas escolhas de política e aplicação da Meta para avaliar se a empresa está cumprindo seu compromisso de respeitar os direitos previstos nos UNGPs.

Aplicado às notas da comunidade, o Comitê analisou se o programa, na prática, serve para abordar e mitigar os potenciais impactos adversos sobre os direitos humanos, de acordo com as responsabilidades da Meta, especialmente em mercados fora dos Estados Unidos, onde a Meta poderá lançar as notas da comunidade. Nas seções que se seguem, o Comitê se concentra primeiramente em contextos em que as notas da comunidade podem criar ou aumentar diretamente o risco de danos aos usuários. Esses danos concretos se distinguem da potencial inadequação das notas da comunidade como medida de mitigação de danos (particularmente em relação a informações enganosas que não atingem o limite de remoção da Meta), o que será abordado na seção seguinte.

Impactos diretos nos direitos humanos decorrentes da implementação de notas da comunidade

O Princípio 13 dos UNGPs exige que a Meta "evite causar ou contribuir para impactos adversos aos direitos humanos" e que "lide com esses impactos quando eles ocorrerem". Uma ampla gama de direitos pode ser afetada pelo programa de notas da comunidade. Por exemplo, a liberdade de expressão, que inclui o direito de procurar e receber informações (Artigo 19, Pacto Internacional dos Direitos Civis e Políticos (PIDCP); Comentário Geral n.º 34, 2011, parágrafo 11), pode ser aprimorada na medida em que as notas da comunidade sirvam como um veículo para que os colaboradores tenham ferramentas adicionais para sua expressão, promovam o contradiscurso ou gerem e tornem acessíveis informações contextuais que, de outra forma, poderiam não estar disponíveis para os usuários. Debate, troca de ideias e tomada de decisão coletiva são características centrais da visão da Meta para o funcionamento do sistema. O conteúdo que recebe uma nota da comunidade não é rebaixado, como pode acontecer com o conteúdo que recebe um rótulo de verificação de fatos. Nesse sentido, as notas da comunidade podem ser vistas como uma contribuição adicional aos direitos de expressão de alguns usuários da plataforma.

Por outro lado, o Comitê considera que a introdução de notas da comunidade em países fora dos Estados Unidos pode, em determinadas circunstâncias, representar riscos significativos para os direitos humanos e pode gerar ou contribuir para danos tangíveis que a Meta assumiu a responsabilidade de evitar ou remediar. Embora a pesquisa e as observações das partes interessadas nas notas da comunidade do X compartilhadas acima deem uma ideia desses danos, sua probabilidade e gravidade dependem em grande parte do contexto de cada país, bem como dos planos de expansão da Meta. A Meta compartilhou informações sobre esse tópico em sua solicitação e nas respostas às perguntas do Comitê, incluindo seus planos de testar o produto de notas da comunidade antes do lançamento no mercado. Esse teste terá como objetivo "avaliar como o algoritmo de bridging está funcionando no contexto local e ajudar a identificar quaisquer problemas potenciais relacionados à representação do idioma ou à participação dos colaboradores". Levando em consideração os recursos do Gabinete do Alto Comissariado das Nações Unidas para os Direitos Humanos para a implementação dos UNGPs no espaço tecnológico, a Meta deve concentrar este teste em "compreender como as realidades socioeconômicas, políticas e de direitos humanos locais exacerbam ou protegem contra os danos aos direitos humanos", à medida que se aproxima a implementação global das notas da comunidade. O Comitê pede que a Meta divulgue publicamente os resultados desses testes antes do lançamento.

Embora a Meta enquadre as notas da comunidade como um "contexto" adicional, isso pode ter um efeito inibidor sobre a liberdade de expressão, principalmente quando os usuários temem que o aumento do escrutínio, que pode advir da rotulagem pública de suas falas, cause represálias ou possível assédio, ou que suas notas sejam rastreáveis. Isso pode levar os usuários a evitar completamente fazer posts sobre tópicos controversos ou sensíveis. O Comitê observa, no entanto, que esse risco não é exclusivo das notas da comunidade e provavelmente estará presente em qualquer sistema projetado para combater a desinformação. Em contextos políticos onde o espaço cívico é limitado e os direitos humanos estão em risco, as notas da comunidade podem desencorajar a dissidência, o jornalismo cidadão e a verificação de fatos feita pelos usuários, ou pontos de vista de minorias, especialmente na ausência de transparência sobre como o sistema funciona ou de vias significativas de recurso. A Meta informou que está estudando a possibilidade de adicionar a capacidade de solicitar classificações adicionais dos colaboradores como uma possível solução. Atualmente, os usuários não têm a possibilidade de contestar uma nota da comunidade, como acontece com conteúdos que recebem o selo de verificação de fatos, caso acreditem, por exemplo, que o significado pretendido foi alterado ou distorcido pela nota ou se a própria nota for imprecisa. O desenvolvimento desse recurso pela Meta pode servir para mitigar o risco de um efeito inibidor.

Em contextos em que os governos reprimem a dissidência, inclusive por meio de ataques à liberdade de expressão, o sistema pode colocar os indivíduos em risco de represálias caso o anonimato seja comprometido. Isso cria riscos para os direitos dos colaboradores à privacidade (Artigo 17 do PIDCP), à segurança da pessoa (Artigo 9 do PIDCP) e até mesmo ao direito à vida (Artigo 6 do PIDCP). Mesmo quando o anonimato formal é garantido, a participação em notas da comunidade pode expor os colaboradores à vigilância ou a ataques, caso suas identidades ou padrões de comportamento sejam inferidos. Os dados sobre quem contribui para as notas ou interage com elas podem revelar opiniões ou afiliações políticas, colocando os colaboradores em risco em países com histórico de uso dessas informações para repressão. A Meta afirmou que sua principal medida para mitigar a divulgação da identidade dos colaboradores nas notas da comunidade reside no próprio design do modelo de dados. As entidades de colaborador, usadas para criar e avaliar notas, são separadas dos perfis de usuário da Meta. No entanto, na ausência de uma descrição mais detalhada da arquitetura técnica de como a Meta implementou as contas de colaboradores para as notas da comunidade, o Comitê não pode tirar conclusões definitivas sobre se esse risco será adequadamente mitigado pelos planos atuais da Meta. Antes de implementar a solução em contextos em que governos reprimem a dissidência, a Meta deve garantir que suas proteções sejam robustas por meio de testes de vulnerabilidade na arquitetura técnica das notas da comunidade em condições adversas, como a modelagem de ameaças para agentes estatais.

O Comitê também está preocupado com o potencial uso de notas da comunidade por redes coordenadas de desinformação, especialmente em ambientes com evidências passadas ou presentes de manipulação intencional em larga escala ou ataques contra ecossistemas de informação. As plataformas de redes sociais, incluindo a Meta, estão cientes desse risco e divulgaram vários casos em que removeram contas por esse tipo de comportamento. Nessas situações, indivíduos mal-intencionados podem se coordenar para "manipular" ou burlar os mecanismos de participação e classificação, permitindo que eles, por exemplo, desacreditem sistematicamente pontos de vista opostos ou publiquem notas que não refletem o consenso real entre os colaboradores. Esses abusos das notas da comunidade, se bem-sucedidos, podem manipular o discurso público de maneiras que distorcem os ambientes de informação e afetam o direito das pessoas à participação na condução dos assuntos públicos (Artigo 25, Pacto Internacional dos Direitos Civis e Políticos). A Meta detalhou diversas medidas de segurança que implementou para evitar a manipulação das notas da comunidade. A empresa afirmou que "monitora possíveis manipulações do programa de notas da comunidade, analisando padrões de comportamento e interações dos colaboradores". A empresa afirmou que, até o momento, não detectou nenhum comportamento inautêntico coordenado ou manipulação do programa.

No entanto, pesquisas recentes sobre as notas da comunidade do X descobriram que "uma pequena minoria (5 a 20%) de classificações negativas pode suprimir estrategicamente notas úteis direcionadas", levantando assim preocupações sobre a adequação das proteções e, por sua vez, a vulnerabilidade dos sistemas à manipulação. O status de publicação das notas da Meta não é "restringido" até duas semanas após o consenso ser alcançado e a nota aparecer. Isso poderia tornar as notas da comunidade vulneráveis ​​a indivíduos mal-intencionados que poderiam se coordenar para remover uma nota, continuando a avaliá-la desfavoravelmente durante as duas semanas entre sua publicação e a restrição. Além disso, é provável que essas vulnerabilidades sejam exacerbadas com a proliferação de ferramentas de IA, em especial a IA agêntica, que permitem uma escalabilidade mais fácil na criação e gestão de contas. Embora as medidas de segurança da Meta, em teoria, visem monitorar esse tipo de atividade, não está claro, com base nas informações fornecidas ao Comitê, se essas medidas de segurança abordam adequadamente a escala potencial da ameaça. Avaliações adicionais sobre a gravidade desse risco e a adequação das medidas de segurança da Meta dependerão de dados empíricos que examinem se as ferramentas de IA usadas nas notas da comunidade criam ou agravam vulnerabilidades como manipulação coordenada ou operações de informação em larga escala, dados esses que a Meta precisará coletar e avaliar.

As notas da comunidade também podem correr o risco de privilegiar grupos políticos, étnicos ou linguísticos dominantes e potencialmente marginalizar minorias desfavorecidas, especialmente se vários grupos compartilharem preconceito contra um grupo minoritário. Esse problema se agrava se esses grupos não estiverem representados ou estiverem sub-representados como colaboradores, o que pode resultar em um algoritmo de notas da comunidade que modele desacordos que não sejam ilustrativos de divisões sociais críticas. Isso levanta preocupações sobre os potenciais impactos nos direitos dos membros desses grupos, por exemplo, os direitos à igualdade e à não discriminação (Artigos 2 e 26 do Pacto Internacional dos Direitos Civis e Políticos) e à liberdade de expressão (Artigo 19 do Pacto Internacional dos Direitos Civis e Políticos), especialmente se as circunstâncias objetivas tornarem menos provável a sua participação na criação e avaliação das notas da comunidade. Existem diversos fatores que podem tornar esse dano mais provável ou mais grave. Conforme discutido por especialistas e partes interessadas, conforme descrito acima, um dos principais desafios para o sistema de notas da comunidade do X tem sido aplicar um algoritmo que modela a polarização e a divisão social ao longo de um único eixo em contextos em que isso não ocorre. As partes interessadas consultadas pelo Comitê observaram que uma abordagem tão direta poderia resultar na distorção do ambiente de informações em favor de perspectivas majoritárias e na possível publicação de notas prejudiciais direcionadas a minorias mutuamente desfavorecidas. Essa dinâmica pode potencialmente levar a um aumento da divisão.

Nesses casos, o preconceito compartilhado em relação a grupos minoritários desfavorecidos pode servir como uma "conexão" entre outros grupos majoritários que, de outra forma, discordam em outros eixos principais de polarização. Esse tipo de dano também pode se tornar mais provável se minorias desfavorecidas tiverem acesso diferenciado à internet e às redes sociais e, portanto, forem sub-representadas como colaboradores em notas da comunidade. Para que as notas da comunidade possibilitem o amplo acesso a fontes de informação plurais e diversas, conforme previsto pela Meta, é essencial uma participação robusta entre os grupos, especialmente os grupos linguísticos relevantes e outros grupos minoritários (por exemplo, por religião, etnia, gênero e idade). Por exemplo, um consórcio de organizações não governamentais (ONGs) do sul da Ásia apresentou algumas evidências de danos decorrentes de uma dinâmica majoritária nas notas da comunidade do X em contextos indianos, onde as divisões políticas refletem afiliações complexas e sobrepostas que abrangem etnia, religião, idioma e casta. Embora seja difícil saber o quão generalizável o problema pode ser com base nesse exemplo limitado, o risco é suficientemente plausível para justificar a avaliação cuidadosa da Meta sobre a divisão social e a posição das minorias desfavorecidas em mercados em que as notas da comunidade possam ser introduzidas.

Especialistas em algoritmos de bridging consultados pelo Comitê salientaram que não há razão técnica para que o algoritmo das notas da comunidade não possa ser concebido de forma mais sofisticada, de modo a levar em consideração múltiplos eixos de desacordo simultaneamente. Conforme mencionado acima, na ausência de mais informações sobre o projeto, o Comitê está avaliando os riscos com base em como o algoritmo do X, que a Meta adotou como ponto de partida, demonstrou funcionar. Na medida em que a Meta concebe sua versão das notas da comunidade para funcionar de forma mais multidimensional, isso poderia ser um meio de mitigar os riscos aqui identificados.

A gravidade e a probabilidade dos diferentes danos mencionados acima podem depender significativamente de as notas da comunidade serem complementadas por outras medidas para combater informações enganosas, como a verificação de fatos independente, especialmente considerando a dependência das notas da comunidade em relação ao trabalho destes, conforme mencionado anteriormente. Por outro lado, outros fatores externos, como uma forte independência dos meios de comunicação e uma ampla alfabetização digital, podem reduzir a probabilidade e a gravidade desses danos.

Impactos indiretos nos direitos humanos decorrentes da implementação das notas da comunidade

As responsabilidades em matéria de direitos humanos mais diretamente aplicáveis ​​à Meta no âmbito dos UNGPs são as já mencionadas. Estas medidas abordam as condições em que as notas da comunidade podem, por si só, causar ou contribuir para impactos negativos nos direitos humanos em determinadas circunstâncias locais. Além dessas responsabilidades diretas, a implementação global da Meta e o uso de notas da comunidade também implicam preocupações mais amplas em matéria de direitos humanos, que são de natureza mais indireta, mas não menos significativas.

A Meta afirmou que continuará a aplicar as diretrizes políticas contra a desinformação e os danos, proibindo a desinformação que: i) possa contribuir diretamente para o risco de violência iminente; e ii) possa contribuir diretamente para o risco de interferência na capacidade das pessoas de participar nas eleições. No entanto, os usuários também postam informações falsas e enganosas que podem, em diversas circunstâncias, levar a situações em que os direitos humanos podem estar em risco, mas em que o risco não atinge o limiar necessário para a remoção do conteúdo. Por exemplo, o Relator Especial da ONU sobre a liberdade de expressão afirmou que a desinformação "é politicamente polarizadora, impede as pessoas de exercerem de forma significativa os seus direitos humanos e destrói a sua confiança no governo e nas instituições" ( A/HRC/47/25, parágrafo 2). Isso pode contribuir para um conjunto mais amplo de danos, "inibindo a liberdade de expressão, reduzindo os níveis de confiança na esfera pública como um espaço para deliberação democrática, amplificando narrativas antidemocráticas, impulsionando a polarização e promovendo agendas autoritárias e populistas" ( A/HRC/47/25, parágrafo 24). Um ambiente de informação degradado, no qual essas condições existam, pode, portanto, colocar as pessoas em risco, limitando seu acesso à informação e seu direito de participar do processo político.

Embora esses danos possam ser graves, normalmente não se situam no limiar que justificaria restrições estatais à liberdade de expressão, nos termos do artigo 19(3) do PIDCP. De fato, o Relator Especial da ONU sobre a liberdade de expressão levantou preocupações ( A/HRC/47/25, parágrafos 57-58) sobre os riscos à liberdade de expressão representados por uma legislação excessivamente abrangente sobre "notícias falsas". Em todo o mundo, esses projetos de lei têm sido usados ​​como pretexto para a censura de ONGs, jornalistas e dissidentes políticos. Tendo em conta essas preocupações, medidas menos drásticas que não a deportação podem ser mais proporcionais aos objetivos legítimos dos direitos humanos. Anteriormente, o Comitê enfatizou a importância de abordar os danos associados a informações enganosas por meio de medidas menos intrusivas do que a remoção, como fornecer informações para desmentir informações e rebaixar conteúdo enganoso (ver as decisões dos casos Posts em apoio aos motins no Reino Unido e Imagens de protesto combinadas com cânticos pró-Duterte). Como o Comitê já observou repetidamente, essas obrigações são diferentes das obrigações estaduais nessa área, e os estados que adotassem restrições semelhantes estariam infringindo direitos.

Existe alguma ambiguidade por parte da Meta sobre se a empresa pretende que as notas da comunidade sejam uma medida de mitigação para esses tipos de danos. Por um lado, em resposta à pergunta do Comitê sobre a relação entre as notas da comunidade e a verificação de fatos independente, a Meta indicou "diferenças fundamentais" entre as duas, afirmando que as notas da comunidade servem a um objetivo mais amplo: os colaboradores "adicionam contexto a qualquer conteúdo em que acreditem que informações adicionais possam ser úteis". Por outro lado, a Meta introduziu notas da comunidade na mesma declaração que anunciou o fim do seu programa de verificação de fatos independente nos Estados Unidos. A empresa descreve as notas da comunidade especificamente como um recurso que permite às pessoas "adicionar mais contexto a posts que são potencialmente enganosos ou confusos" (ênfase adicionada). A Meta também lista notas da comunidade como parte de sua abordagem à desinformação, com a verificação de fatos independente operando como o mecanismo de "informação" fora dos Estados Unidos, e notas da comunidade desempenhando a mesma função dentro dos Estados Unidos.

O Comitê considera que essas últimas declarações, e a Política sobre Desinformação da Meta de forma mais abrangente, demonstram que a empresa procura ativamente combater este tipo de informação enganosa e que prevê que as notas da comunidade desempenhem um papel no cumprimento dessa responsabilidade.

Na medida em que as notas da comunidade se destinam a funcionar como uma ferramenta para abordar preocupações de direitos humanos relacionadas à desinformação que não atinge o limiar para remoção, o Comitê considera positivo que as notas da comunidade não restrinjam a liberdade de expressão da mesma forma que outras medidas, como a remoção de conteúdo e as penalidades às contas. O conteúdo que recebe uma nota não sofre redução de visibilidade ou alcance, ao contrário dos posts que recebem rótulos resultantes da verificação de fatos independente. O Comitê considera esta uma forma adequada de modular a proporcionalidade da intervenção da Meta, de modo a torná-la mais consistente com a proteção da liberdade de expressão. Em alguns contextos, o programa também pode gerar contradiscursos que servem como um controle eficaz desse tipo de desinformação e, portanto, ajudam a Meta a cumprir sua responsabilidade assumida nessa área. No entanto, caso a Meta considere as notas da comunidade como sua principal ou única forma de lidar com todos os tipos de informações enganosas que não atingem o limite para remoção, as decisões de design inerentes ao seu funcionamento podem limitar sua capacidade de fazê-lo. Os efeitos dessas decisões, como a imposição, pelo algoritmo, de um único eixo de discordância em divisões sociais complexas, os atrasos na publicação de notas, o número relativamente pequeno de notas publicadas e, sobretudo, a dependência do sistema na profundidade e confiabilidade do ambiente informativo mais amplo (incluindo a verificação de fatos independente, quando disponível), levantam sérias preocupações sobre a adequação das notas da comunidade para o propósito de combater informações enganosas ligadas a danos.

Recentemente, o Relator Especial sobre a liberdade de expressão demonstrou preocupações sobre as implicações para os direitos humanos de algumas dessas funcionalidades, bem como sobre a mudança generalizada na indústria para abordagens de verificação de fatos orientadas pela comunidade, como as notas da comunidade ( A/80/341, parágrafos 67-72). Ao destacar os potenciais benefícios da moderação conduzida pela comunidade, incluindo a escalabilidade, o custo e a sua natureza democrática, o Relator Especial também apontou possíveis fragilidades. Isso inclui a "suscetibilidade do sistema à captura" por meio da manipulação de classificações, "aplicação inconsistente de padrões" e "falta de conhecimento especializado consistente e requisitos de consenso da comunidade" ( A/80/341, parágrafos 69-70). O Relator Especial conclui que "as notas da comunidade e a verificação de fatos não devem ser vistas como ferramentas mutuamente exclusivas" (A/80/341, parágrafo 72). Conforme discutido acima, em contextos profundamente polarizados, onde as divisões sociais não se encaixam perfeitamente no modelo de polarização assumido pelo algoritmo das notas da comunidade, pode ser difícil alcançar classificações consensuais. Na prática, essa limitação técnica pode resultar em um número insuficiente de notas exibidas para que o sistema seja uma verificação eficaz de informações enganosas. Além disso, a prática da Meta de usar sua tecnologia automatizada para reduzir a distribuição de posts limítrofes (conteúdo que seus sistemas preveem que provavelmente viola os Padrões da Comunidade, mas que não foi confirmado como tal) para as quais as pessoas solicitaram comentários na interface do colaborador pode fazer com que esses posts, que mais precisam de intervenções contextuais, tenham menos probabilidade de receber notas. Além do funcionamento do algoritmo, o Comitê observa a prática da Meta de reduzir a distribuição na interface do colaborador como uma explicação adicional para o fato de as notas da comunidade poderem mostrar um número insuficiente de notas para constituir uma verificação significativa de informações enganosas. O Comitê reconhece, no entanto, que os riscos de captura, inconsistência e especialização desigual não são exclusivos de sistemas orientados pela comunidade, podendo também surgir em moderação automatizada ou conduzida por especialistas.

Embora algumas pesquisas tenham descoberto que as notas da comunidade são vistas como mais confiáveis ​​do que as sinalizações de desinformação dos verificadores de fatos, outras pesquisas sobre a precisão das notas da comunidade descobriram que as avaliações feitas por grupos de pessoas não são tão precisas em comparação com os verificadores de fatos profissionais. Além disso, é importante destacar o papel das fontes fornecidas por verificadores de fatos profissionais em notas da comunidade que alcançam o status Útil. Um estudo de pesquisa recente descobriu que "as notas da comunidade citam fontes de verificação de fatos até cinco vezes mais do que relatado anteriormente", enquanto outro estudo descobriu que "as organizações de verificação de fatos são a terceira referência mais usada globalmente". Essas comparações não implicam que o programa de verificação de fatos da Meta também esteja isento de limitações e fragilidades significativas. Por exemplo, o Comitê já constatou que a grande maioria do conteúdo nas filas para verificação de fatos nunca é revisada pelos verificadores de fatos, em parte devido a restrições operacionais e de recursos (ver parecer consultivo sobre política do caso Remoção de desinformação sobre a COVID-19). Assim, embora as limitações das notas da comunidade suscitem preocupações legítimas, o Comitê observa que medidas baseadas em contradiscursos contextuais podem, em certas circunstâncias, satisfazer melhor as considerações de proporcionalidade e liberdade de expressão do que intervenções mais intrusivas, particularmente quando a desinformação não atinge o limiar para remoção.

Mais importante ainda, na medida em que o sistema de notas da comunidade se destina a servir como parte da resposta abrangente da Meta às preocupações com os direitos humanos decorrentes de informações falsas e enganosas que não chegam a causar danos prováveis ​​e iminentes, sua implementação não pode ser avaliada isoladamente. Em alguns mercados, idiomas e áreas temáticas, a capacidade profissional de verificação de fatos é limitada ou inexistente, e as notas da comunidade podem ser um meio pelo qual os usuários recebem informações contextuais sobre conteúdo potencialmente enganoso. Em outros casos, operações de verificação de fatos independente mais robustas poderiam ser complementadas por notas da comunidade (ver PC-31587, European Fact-Checking Standards Network). A Meta deve considerar a condição geral de um ecossistema de informação – incluindo a acessibilidade e a confiabilidade da informação – ao determinar onde e como introduzir as notas da comunidade. Considerando o papel que as agências de verificação de fatos frequentemente desempenham na formação de ambientes de informação mais amplos por meio de pesquisa, fontes e reportagem, sua presença (ou ausência) deve ser um fator considerado pela Meta ao fazer essas determinações. Essa consideração é particularmente importante em contextos afetados por conflitos, durante eleições e em ambientes onde grupos historicamente marginalizados e minorias desfavorecidas não têm acesso adequado à participação no discurso público.

Devida diligência de recursos humanos

A Meta descreveu sua diligência prévia ao lançamento das notas da comunidade nos EUA como consistindo em uma "revisão da literatura acadêmica e de estudos" focados na versão das notas da comunidade do X, bem como em algoritmos de bridging de forma mais ampla. A Meta afirmou que realizou essa análise, focada exclusivamente nos EUA, para avaliar diversos fatores que poderiam ser considerados indicadores da eficácia do programa. A revisão incluiu a análise de pesquisas sobre se o público dos EUA vê as notas da comunidade como mais legítimas do que a verificação de fatos tradicional, o que poderia sugerir uma "maior probabilidade de as pessoas aceitarem informações fornecidas por uma nota da comunidade em vez daquelas provenientes de um verificador de fatos independente". Além disso, em resposta a perguntas do Comitê, a Meta afirmou que "avaliou estudos que abordam a precisão das notas da comunidade, explorando se elas podem igualar ou até mesmo superar a precisão da verificação de fatos independente". A Meta não indicou que qualquer parte dessa pesquisa se concentrou em danos aos direitos humanos relacionados às notas da comunidade. Ela afirmou que sua equipe de políticas de direitos humanos está agora assessorando equipes multifuncionais relevantes para identificar os potenciais riscos e benefícios em matéria de direitos humanos relacionados às notas da comunidade. Este parecer consultivo também deve ser considerado parte da devida diligência em matéria de direitos humanos relativa ao lançamento global das notas da comunidade da Meta.

As recomendações do Comitê e a análise associada dos fatores que a Meta deve considerar ao excluir países da implementação das notas da comunidade foram baseadas numa ampla consideração dos potenciais impactos nos direitos humanos de uma implementação internacional, conforme apresentado acima. No entanto, o potencial risco para os direitos humanos e as estratégias de mitigação adequadas dependem criticamente da concepção e da funcionalidade do produto de notas da comunidade em cada contexto. A Meta alegou ter mitigado suficientemente os riscos aos direitos humanos (por exemplo, em relação ao anonimato dos colaboradores e à proteção contra jogos de azar) nos materiais fornecidos ao Comitê, mas a eficácia dessas medidas não pode ser adequadamente verificada a menos que haja dados e relatórios sobre como elas funcionam na prática.

As recomendações do Comitê são, portanto, necessariamente condicionais, uma vez que as questões levantadas pela Meta não podem ser respondidas com um alto grau de certeza na ausência de dados detalhados sobre como o algoritmo das notas da comunidade da Meta funciona em situações reais, bem como sua relação com outras ferramentas de desinformação. A empresa também precisará monitorar e mensurar cuidadosamente os impactos reais à medida que o produto se torna operacional em contextos novos e diferentes. A Meta se comprometeu a testar o produto de notas da comunidade antes do lançamento no mercado. O Comitê observa que esses testes devem se concentrar em identificar e mitigar os riscos relacionados ao funcionamento do algoritmo, à representação do idioma e à participação dos colaboradores. O Comitê reitera seu apelo por transparência substancial, relatórios e acesso dos pesquisadores aos dados sobre o desempenho das notas da comunidade. Isso deve incluir dados equivalentes aos que o X compartilha atualmente sobre seu sistema de notas da comunidade, incluindo, no mínimo, o texto completo de todas as notas e suas respectivas localizações geográficas, classificações de cada nota, histórico de status, cadastro de usuários e solicitações de notas sobre o conteúdo.

6. Fatores recomendados a nível nacional

O Comitê recomenda os seguintes fatores para orientar a implementação das notas da comunidade pela Meta. Para avaliar esses fatores e compará-los entre si de forma escalável, o Comitê também sugere classificações e avaliações relevantes que a Meta deve analisar como parte de seus preparativos e eventual monitoramento da expansão das notas da comunidade. Essas classificações e avaliações não são fontes abrangentes de verdade sobre as condições em nível nacional, mas fornecem medidas gerais de alguns dos fatores abaixo. A Meta também deve analisar seus próprios dados sobre o desempenho das notas da comunidade e consultar especialistas e partes interessadas impactadas dos países que podem receber o programa.

Conforme discutido acima, é possível para a Meta implementar as notas da comunidade em conformidade com os direitos humanos. Diversos fatores podem influenciar a ordem de implementação da Meta, e alguns deles exigem uma análise mais aprofundada. Existem também outros fatores que o Comitê considera como critérios essenciais, nos quais a Meta deve garantir que determinadas medidas de mitigação sejam robustas antes de prosseguir.

Contextos repressivos de direitos humanos

Conforme discutido ao longo do texto, o programa de notas da comunidade depende de uma base de colaboradores ativa e engajada. Os sistemas de notas da comunidade e as tecnologias de bridging em geral obtiveram seus maiores sucessos em contextos caracterizados por uma sociedade civil robusta. Idealmente, os colaboradores têm acesso a meios de comunicação independentes para apoiar as notas da comunidade propostas e participar sem medo de assédio ou retaliação por escreverem e avaliarem as notas. Essas condições podem ser mais difíceis de alcançar em países com histórico de repressão aos direitos humanos. Nesses ambientes, a influência do Estado, a atuação coordenada de indivíduos online e o medo de represálias podem distorcer a participação da comunidade, levando à sobrerrepresentação de narrativas majoritárias ou alinhadas ao Estado no grupo de colaboradores. Isso pode produzir efeitos inibidores que silenciam preventivamente as vozes da oposição dentro do sistema.

Por outro lado, o Comitê também considerou como ambientes sem indicadores de uma sociedade civil robusta, como baixos níveis de liberdade de expressão e evidências históricas e atuais de violações sistêmicas dos direitos humanos, poderiam se beneficiar da introdução de notas da comunidade (ver PC-31548, Cubalex). Nesse contexto, se forem garantidas proteções robustas aos colaboradores, as notas da comunidade poderão capacitá-los a contestar a repressão, utilizando o sistema para revelar perspectivas alternativas e publicar informações que, de outra forma, seriam inacessíveis. Se o anonimato for preservado, o sistema também poderá servir como um espaço para contestar as narrativas oficiais do Estado.

Devido aos potenciais riscos à segurança dos colaboradores, o Comitê recomenda que, até que a Meta possa demonstrar que as proteções de privacidade dos colaboradores são robustas e eficazes, com evidências de red-teaming em condições adversas, uma política clara sobre o tratamento de solicitações de dados das notas da comunidade por parte de agências de aplicação da lei e a presença de medidas de mitigação de riscos, os países com histórico de repressão aos direitos humanos e sociedades civis frágeis sejam excluídos da implementação internacional inicial das notas da comunidade. Essa é uma condição necessária para a expansão do Comitê. Rankings como o Freedom in the World e o Freedom on the Net da Freedom House, bem como o projeto Varieties of Democracy (V-Dem), o Relatório Global de Expressão da Article 19 e o Índice de Liberdade de Imprensa da Reporters Without Borders, empregam vários indicadores (além das pontuações gerais dos países) que oferecem medições holísticas dos níveis de liberdade de expressão, liberdade de imprensa e engajamento da sociedade civil.

Eleições de alto risco

O Comitê reconhece que alguns contextos eleitorais podem ser apropriados para as notas da comunidade. Em ambientes de informação robustos, a liberdade de imprensa permite que jornalistas apresentem múltiplas perspectivas sobre questões relevantes e que indivíduos da sociedade civil atuem sem medo de represálias; as notas da comunidade podem apoiar o acesso à informação e a liberdade de expressão em contextos eleitorais. No entanto, quando essas condições não estiverem presentes e o sistema gerar o risco de publicar notas que induzam as pessoas em erro sobre fatos essenciais ao exercício do seu direito de participar na condução dos assuntos públicos em momentos críticos dos processos eleitorais, a Meta deverá proceder com cautela. Nos casos em que esses riscos aos direitos humanos estejam presentes e a Meta determine, por meio de testes de produto, avaliação de riscos e diligência prévia em direitos humanos, que suas medidas de segurança são insuficientes para mitigar os riscos, as notas da comunidade não devem ser introduzidas antes ou durante eleições importantes. Para o Comitê, esse é um limite que a Meta deve usar para definir se, em um determinado momento, as notas da comunidade estão prontas para serem introduzidas em um país.

Conforme discutido acima, algumas pesquisas sugerem que a velocidade de disseminação da desinformação pode superar em muito a capacidade dos sistemas de moderação baseados na comunidade. Em eleições que são eventos com prazo determinado e caracterizados por intensa atividade política, a intervenção tardia pode ter impactos imediatos sobre o direito à participação política. A exposição inicial a conteúdo enganoso pode moldar as respostas ou minar a confiança nas instituições e nos processos políticos antes que surjam notas oferecendo interpretações alternativas do conteúdo ou correções. Eleições que se estendem para o período pós-eleitoral devido a resultados contestados, por exemplo, podem ser afetadas pela persistência de narrativas enganosas. Em ambos os casos, as notas da comunidade não criam danos concretos (como aconteceria, por exemplo, com a divulgação de discursos de ódio ou a exposição de colaboradores a represálias por parte de autoridades governamentais), mas, quando utilizadas isoladamente, podem ser uma medida de mitigação inadequada para informações enganosas que não chegam a causar danos prováveis ​​e iminentes. Por essas razões, o Comitê recomenda que qualquer introdução das notas da comunidade antes de uma eleição aborde como elas são integradas com outras medidas relacionadas à eleição, como Centros de Operações de Produtos de Integridade e Centros de Operações Eleitorais.

Ao desenvolver possíveis cronogramas de expansão, a Meta deve consultar classificações e dados relevantes relacionados à integridade eleitoral, bem como calendários que mapeiam as próximas eleições globais, como o Guia Eleitoral da Fundação Internacional para Sistemas Eleitorais (IFES).

Situações de crise e de conflito

Em contextos de crise e conflito, todos os riscos discutidos ao longo do texto podem estar presentes. As notas da comunidade podem ser vulneráveis ​​à manipulação coordenada por grupos armados, agentes estatais ou seus apoiadores que buscam legitimar a propaganda por meio da manipulação do sistema de classificação das notas. Notas publicadas que refletem consensos fabricados de forma inautêntica podem contribuir para ambientes de informação distorcidos, colocando os usuários em risco. As assimetrias de informação nas notas da comunidade podem ser exacerbadas quando determinados grupos não conseguem participar como colaboradores devido a fatores predominantes em contextos de conflito, como a falta de acesso estável à internet e a insegurança necessária para participar. Além da manipulação intencional de informações, conteúdo falso ou enganoso relacionado à violência e à segurança pública, que pode não se enquadrar nas diretrizes de desinformação e danos da Meta, pode se espalhar rapidamente e ter consequências no meio físico antes mesmo que as notas da comunidade sejam propostas, avaliadas e publicadas.

O sistema também gera o risco de publicar conteúdo violento se o algoritmo de notas da comunidade identificar uma divisão que não esteja correlacionada com os fatores que impulsionam a violência em um conflito específico. Nesse cenário, o sistema poderia potencialmente "conectar" a divisão entre grupos dominantes que compartilham hostilidade em relação a outro grupo envolvido no conflito, resultando em mensagens que visam e potencialmente incitam violência contra esse grupo mutuamente desfavorecido.

As consequências e os impactos sobre os direitos humanos decorrentes desses problemas potenciais são agravados em cenários de crise e conflito devido à rapidez com que os acontecimentos críticos se desenrolam. Isso torna a questão da rapidez crucial. O atraso na publicação de notas, apontado por diversas partes interessadas como uma das principais preocupações, sugere que as notas da comunidade podem não ser uma proteção primária adequada em cenários de crise e conflito. Além disso, em situações de conflito e algumas crises, existe uma propensão à violência, o que significa que os limites para a incitação podem ser mais baixos. Consequentemente, as observações que visam grupos específicos podem resultar mais facilmente em danos no meio físico. Aqui, o Comitê reitera sua recomendação na decisão do caso Posts em apoio aos motins no Reino Unido para que a Meta "realize avaliações contínuas da eficácia das notas da comunidade em comparação com a verificação de fatos independente", concentrando-se na "velocidade, precisão e volume de notas ou rótulos afixados em situações em que a rápida disseminação de informações falsas cria riscos à segurança pública".

Como nas eleições, o Comitê presume que outras medidas de integridade relacionadas com crises e conflitos, como o Protocolo de Política de Crise, permaneceriam em vigor. A Meta deve garantir que qualquer implementação de notas da comunidade que envolva essas situações aborde a forma como as notas da comunidade são integradas a esses protocolos e ferramentas relacionados a crises. O Comitê está preocupado com o fato de que, conforme explicado pela Meta em sua resposta a uma pergunta dele, a empresa "não tenha desenvolvido medidas relativas ao uso do produto em situações de crise, incluindo a adaptação, modificação ou suspensão do recurso". Dadas as preocupações com o desempenho irregular das notas da comunidade e a ausência de dados piloto verificados internamente sobre o desempenho do sistema durante crises e conflitos, a Meta deve consultar rankings e dados relevantes, como o Armed Conflict Location and Event Data Project (ACLED), para evitar depender das notas da comunidade durante esses eventos.

Devido à incerteza sobre o desempenho das notas da comunidade em resposta à complexidade dos conflitos, bem como ao potencial do sistema causar ou agravar o risco de danos, o Comitê não acredita que as notas da comunidade devam ser introduzidas em países que enfrentam crises ou conflitos prolongados. Para o Comitê, essa é mais uma condição essencial que a Meta deve usar para orientar a introdução de notas da comunidade.

Complexidade linguística que a Meta não consegue acomodar técnica e operacionalmente

Para que as notas da comunidade funcionem conforme o planejado pela Meta, a base de colaboradores deve refletir os diferentes idiomas usados ​​em um determinado contexto. Nos países onde o programa não funciona nesses idiomas, ou onde a Meta não consegue atingir os níveis de representação linguística e participação necessários para o funcionamento adequado do sistema, a Meta deve adiar a introdução das notas da comunidade. Não fazer isso pode criar ou agravar disparidades linguísticas nas notas propostas e publicadas nas notas da comunidade, prejudicando assim as notas da comunidade como fonte de informação plural e diversificada.

Além disso, o Comitê solicitou repetidamente à Meta que garantisse a paridade linguística, tanto técnica quanto operacional, em todos os seus sistemas de moderação de conteúdo. Essas iniciativas têm se concentrado em funções como o desenvolvimento de ferramentas automatizadas de aplicação que sejam adequadas ao contexto em diferentes idiomas, garantindo que os classificadores sejam precisos em todos os idiomas, trabalhando com Parceiros confiáveis em diferentes idiomas e mantendo relacionamentos com verificadores de fatos independentes que possam avaliar alegações em diferentes idiomas dentro de um determinado mercado. As notas da comunidade, por si só, não conseguem cumprir todas as funções de moderação de conteúdo da Meta.

Por fim, o Comitê observa que podem existir variações linguísticas e culturais relevantes na forma como diferentes grupos utilizam as notas da comunidade. Por exemplo, o significado de clicar no botão que classifica uma nota como "útil" em diferentes países pode variar de maneiras inesperadas, dependendo das normas sobre como esse botão deve ser usado ou da conotação exata com que a palavra "útil" é entendida na interface do usuário de notas da comunidade quando traduzida para diferentes idiomas. Essas diferenças irão alterar a forma como o conjunto de dados acumulado pelo sistema das notas da comunidade é estruturado e o significado que lhe deve ser atribuído – e, em última análise, os tipos de notas que publica. Nos países onde a Meta prevê que esses recursos das notas da comunidade não conseguem acomodar a complexidade linguística, deve adiar a implementação do programa até que a pesquisa e os testes demonstrem que os usuários em diferentes contextos culturais e linguísticos conseguem compreender e interagir com o sistema.

Onde a divisão social e a discordância que impulsionam a violência não se correlacionam com um único eixo de polarização

De forma geral, o algoritmo das notas da comunidade do X foi projetado para modelar a discordância e a divisão em um contexto específico ao longo de um único eixo de polarização. Ele tentará "conectar" grupos que se encontram em extremos opostos desse espectro. A Meta não forneceu nenhuma informação que sugira que seu programa será substancialmente diferente. Contudo, em contextos em que a divisão e a discordância não podem ser facilmente modeladas ao longo de um único eixo, essa pode não ser uma suposição apropriada. Nesses contextos, é provável que as notas da comunidade não abordem como múltiplos fatores se intercruzam (como política, etnia, religião, idioma e casta, por exemplo) para alimentar a discordância.

Na prática, isso significa que, em alguns contextos, as notas da comunidade podem encontrar consenso ao longo de um eixo com relevância limitada para as divisões sociais mais críticas. Em alguns cenários, notas prejudiciais que alcancem consenso podem ser publicadas. Isso pode ocorrer, por exemplo, quando grupos dominantes compartilham um preconceito mútuo contra um grupo minoritário, e esse preconceito serve como "conexão" entre esses grupos dominantes. Em contextos em que o algoritmo não identifica e tenta "conectar" uma divisão que gera conflito e violência, esse risco de danos é especialmente acentuado. Por essas razões, o Comitê recomenda que a Meta aja com extrema cautela ao considerar países caracterizados por essas dinâmicas.

O Comitê reconhece que todos os contextos sociopolíticos são caracterizados por múltiplos eixos de divisão e desacordo, em maior ou menor grau. No entanto, existem contextos em que os riscos de desalinhamento entre a forma como as notas da comunidade modelam a discordância em uma sociedade e o que impulsiona a divisão social e política nessa sociedade são maiores. Isso inclui países onde a fragmentação linguística, étnica e religiosa caracteriza a cultura política. Esses países não precisam ser categoricamente excluídos dos planos da Meta para expandir as notas da comunidade. Em vez disso, a introdução global das notas da comunidade deve ser sequenciada de forma a permitir o teste do desempenho do sistema em diferentes contextos e deve começar com cautela em ambientes mais semelhantes a locais onde a Meta já possui dados, testes e medidas de mitigação de riscos. O algoritmo das notas da comunidade também poderia ser projetado para modelar e integrar múltiplos eixos de divisão simultaneamente. Nesse caso, a implementação do Meta (e a omissão temporária de alguns países que não atingem o limite para a introdução antecipada) dependeria de escolhas de design que pudessem diferenciar as notas da comunidade da Meta da versão do X e aprimorá-las.

O projeto Varieties of Democracy ( V-Dem) produz rankings anuais de vários indicadores de democracia. Esses dados incluem informações sobre os níveis de polarização em diferentes países, embora ofereçam menos informações sobre a natureza da polarização em cada país. Como parte de sua diligência devida em direitos humanos relacionada à implementação global das notas da comunidade, a Meta deve consultar especialistas em países caracterizados por alta polarização para avaliar se seu algoritmo é capaz de capturar divisões sociais e políticas relevantes.

Histórico das redes coordenadas de desinformação

As notas da comunidade operam sob a premissa de que um conjunto suficientemente diverso e independente de colaboradores avaliará o conteúdo de boa fé e que os sinais de consenso podem aproximar-se da precisão de forma confiável. Em ambientes onde indivíduos alinhados ao Estado, operações de influência comercial e outros indivíduos mal-intencionados demonstraram repetidamente a capacidade de coordenar um grande número de contas para promover informações enganosas, essa suposição pode não se sustentar.

A Meta informou ao Comitê que acredita que suas medidas de segurança contra a manipulação e o uso indevido das notas da comunidade são suficientes. Os testes contínuos em situações reais das vulnerabilidades das notas da comunidade produzirão os dados necessários para verificar se essas medidas de segurança são adequadas. Caso contrário, as notas da comunidade correm o risco de se tornarem um vetor de manipulação em vez de uma proteção contra ela. Esse risco só tende a se agravar à medida que a inteligência artificial facilita a criação e a operação em larga escala de contas e redes.

O Comitê recomenda que a Meta, inicialmente, omita os países onde historicamente estiveram baseadas redes intencionais de desinformação em larga escala. Ao fazer isso, a Meta deve se concentrar em mercados com alta prevalência comprovada de comportamento inautêntico coordenado e operações de influência direcionadas ao público nacional, conforme evidenciado nos próprios relatórios da Meta sobre esses tópicos. A eventual inclusão no programa de notas da comunidade deve estar condicionada aos resultados dos testes, incluindo simulações de vulnerabilidade do programa, que demonstrem que as medidas de segurança são adequadas. A Meta deve considerar não apenas a presença de indivíduos mal-intencionados, incluindo aqueles ligados a regimes autoritários, mas também se eles demonstraram a intenção de manipular ecossistemas de informação e possuem a sofisticação técnica para fazê-lo em larga escala. Relatórios a nível nacional na Freedom on the Net e na Press Freedom Index documentam casos de campanhas de manipulação e desinformação patrocinada pelo Estado, assim como as divulgações das empresas sobre o tema.

Obstáculos ao acesso à internet

O Comitê recomenda a exclusão de países que enfrentam obstáculos persistentes ou sistêmicos ao acesso à internet, uma vez que as notas da comunidade dependem da participação ampla, consistente e equitativa dos colaboradores para funcionar conforme o previsto. Onde o acesso é limitado por lacunas de infraestrutura, custos elevados, conectividade intermitente, disparidades regionais e, especialmente, paralisações impostas pelo governo, o grupo de colaboradores aptos a participar é necessariamente restrito. Isso mina a premissa fundamental de que o sistema das notas da comunidade reflete um conjunto diversificado e representativo de perspectivas capazes de decidir coletivamente qual contexto é importante e se ele é relevante para alegações potencialmente enganosas. Além disso, se determinados grupos forem excluídos devido a problemas de acesso ou se outros grupos forem sobrerrepresentados, o sistema poderá gerar o risco de amplificação de viés.

Como a Meta observa em sua solicitação, as restrições governamentais à internet são um subfator particularmente relevante porque "a liberdade limitada na internet (devido à regulamentação ou censura) pode limitar o acesso das pessoas a informações oportunas e precisas para suas notas e dificultar a identificação de fontes confiáveis ​​para incluir links em suas notas (por exemplo, restrições ao uso de determinados mecanismos de busca ou ao acesso a certos sites de mídia)". A Freedom on the Net oferece uma medida holística dos obstáculos ao acesso à internet, de forma mais geral. Esse indicador engloba obstáculos infraestruturais, econômicos, governamentais, regulatórios e legais ao acesso à internet.

Ponderação

Ao longo de sua recomendação de fatores, o Comitê observou onde as notas da comunidade poderiam criar ou aumentar o risco de danos aos usuários. Esses danos afirmativos foram diferenciados de cenários em que a possibilidade de dano decorre da inadequação das notas da comunidade como medida de mitigação de danos, particularmente em relação a informações enganosas que não atingem o limite de remoção da Meta. O Comitê recomenda que os fatores em que os danos afirmativos são mais prováveis ​​sejam ponderados de forma mais significativa e indicou que estes envolvem limites em que a Meta não deve introduzir notas da comunidade até demonstrar que o pode fazer de uma forma que garanta que os riscos desses danos tenham sido mitigados. Em outros casos, o Comitê recomendou que a Meta proceda com cautela e escalone ou adie as implementações até que os testes demonstrem que suas medidas de segurança são adequadas. Isso não implica que esses fatores sejam menos importantes. O Comitê observa que esta orientação não pode ser absoluta. Em suas deliberações, o Comitê considerou cenários em que a presença de um fator poderia predominar de tal forma que a exclusão de um país fosse apropriada, bem como cenários em que nenhum fator fosse particularmente grave, mas vários fatores se combinassem de forma a tornar a omissão apropriada.

Em última análise, os esforços da Meta em relação aos direitos humanos e à mitigação de riscos devem examinar os fatores recomendados pelo Comitê, juntamente com os dados internos da plataforma e o feedback externo sobre o desempenho das notas da comunidade. O Comitê observa que a Meta já monitora alguns dos fatores discutidos acima, bem como as classificações recomendadas como indicadores desses fatores, como parte de seu Índice de Priorização de Países por Integridade. Esse é um processo bianual que a Meta utiliza para analisar e priorizar os países que apresentam maior risco de danos e violência fora do mundo real. O Comitê espera que a Meta demonstre o mesmo rigor e discernimento ao determinar como a introdução das notas da comunidade ocorrerá em diferentes países.

Na análise acima, o Comitê forneceu à Meta uma série de fatores que devem ser considerados para determinar se um país deve ser excluído de qualquer expansão futura das notas da comunidade além dos Estados Unidos, bem como orientações sobre onde a coleta e análise de dados adicionais sobre a função do programa serão cruciais para avaliar a relevância e o peso futuros desses fatores. Para demonstrar que levou em consideração os fatores recomendados pelo Comitê, a Meta deve fornecer a ele, a cada seis meses durante o período inicial de expansão, os critérios ou a matriz de risco que desenvolve para orientar a expansão, juntamente com evidências de como esses critérios são aplicados nas decisões em nível nacional sobre a expansão das notas da comunidade.

O Comitê considerará essa recomendação implementada quando a Meta apresentar seu primeiro relatório detalhando como os fatores descritos foram considerados, equilibrados e ponderados para cada mercado relevante, e como sua coleta e avaliação de dados adicionais sobre o funcionamento do programa serão integradas à reavaliação periódica da ponderação adequada dos fatores descritos.

*Nota processual

Os pareceres consultivos sobre política do Comitê de Supervisão são preparados por grupos de cinco membros e aprovados pela maioria do Comitê. As decisões do Comitê não representam, necessariamente, as opiniões pessoais de todos os membros.

Para este parecer consultivo sobre política, contratou-se uma pesquisa independente em nome do Comitê. O Comitê recebeu assistência da Duco Advisors, uma empresa de consultoria especializada na intercessão entre as áreas de geopolítica, confiança e segurança, e tecnologia.

Voltar para Decisões de Casos e Pareceres Consultivos sobre Políticas