Decisão de múltiplos casos

Banimento de conta por ataques a figuras públicas

O Comitê destaca preocupações relativas ao devido processo sobre a forma como a Meta desabilita contas de usuários e sua abordagem quanto à governança de contas de forma mais ampla, em um caso sobre a desabilitação permanente de uma conta devido a graves ameaças de violência postadas contra uma jornalista.

5 casos incluídos neste pacote

Mantido

IG-19SL57WS

Caso sobre bullying e assédio no Instagram

Plataforma
Instagram
Padrão
Bullying e assédio
Date
Publicado em 4 de Junho de 2026
Mantido

IG-35M089OR

Caso sobre violência e incitação no Instagram

Plataforma
Instagram
Padrão
Violência e incitação
Date
Publicado em 4 de Junho de 2026
Mantido

IG-EI6V8JVO

Caso sobre nudez ou atividade sexual de adultos no Instagram

Plataforma
Instagram
Padrão
Nudez adulta e atividades sexuais
Date
Publicado em 4 de Junho de 2026
Mantido

IG-DQZB8J35

Caso sobre violência e incitação no Instagram

Plataforma
Instagram
Padrão
Violência e incitação
Date
Publicado em 4 de Junho de 2026
Mantido

IG-36X9QO1A

Caso sobre discurso de ódio no Instagram

Plataforma
Instagram
Padrão
Conduta de ódio
Date
Publicado em 4 de Junho de 2026

Resumo

O Comitê de Supervisão tem preocupações quanto ao devido processo relacionado à forma como a Meta desabilita contas de usuários e à abordagem da empresa em relação à governança de contas de forma mais ampla. Neste caso, o Comitê considera que a empresa agiu corretamente ao desabilitar permanentemente uma conta devido às graves ameaças de violência que postou contra uma jornalista. No entanto, ele tem sérias dúvidas quanto à eficácia das respostas da Meta a essas ameaças, dúvidas que a empresa deve esclarecer para garantir o respeito aos direitos humanos.

O Comitê define princípios fundamentais para orientar a empresa e outras plataformas de redes sociais em sua abordagem quanto à governança de contas, incluindo o respeito ao direito dos usuários à transparência sobre as regras de aplicação das regras de conta e a oferta de um processo de apelação justo.

Este encaminhamento à Meta é o primeiro caso analisado pelo Comitê a avaliar a desabilitação permanente da conta de um usuário, testando uma extensão de seu mandato para além de decisões individuais sobre conteúdo.

Por que isso é importante

O Comitê está tratando de uma preocupação urgente dos usuários: a desabilitação de contas. Ele recebeu mais de 750 comentários públicos que atendiam aos termos de envios para esse caso. Esses se somam às inúmeras reclamações recebidas desde que o Comitê começou a analisar casos em 2020, de usuários que perderam o acesso às suas contas.

O Comitê destaca a importância de garantir o devido processo e proteger o direito à liberdade de expressão das pessoas cujas contas estão desabilitadas e daquelas que são alvo de conteúdo abusivo. Esse caso ilustra o abuso online desproporcional contra mulheres na esfera pública e suas conexões com a violência física. Esses ataques online ocorrem em todas as formas de rede social.

Sobre o caso

Em 2025, a Meta desabilitou permanentemente uma conta do Instagram com mais de 70.000 seguidores por violar os Padrões da Comunidade da empresa.

No seu encaminhamento, ela incluiu cinco dos posts da conta. Dois posts incluíam ameaças visuais de violência contra uma jornalista, mostrando o desenho de um alvo sobre o rosto dela. Um terceiro post usou o termo ofensivo “whore” (prostituta) contra a mesma jornalista, acusando-a, sem provas, de ter tido relações sexuais com uma figura pública. A jornalista reclamou com funcionários da Meta que ela conhecia, o que levou a uma análise escalonada. Inicialmente, a Meta removeu o post com a acusação de “whore” (prostituta). Em uma segunda análise, foram identificados os posts com ameaças de violência, e a conta foi permanentemente desabilitada de acordo com as Políticas sobre Integridade da Conta e Violência e Incitação, devido aos riscos à segurança da jornalista.

A Meta mencionou outros dois posts que, segundo ela, ilustravam o comportamento mais amplo da conta. Um deles continha o termo homofóbico “fag” (bicha) dirigido a políticos de destaque. Outro mostrava a foto de um casal em um transporte público que parecia estar praticando sexo oral, alegando que eles pertenciam a uma minoria religiosa e pedindo sua deportação. A Meta removeu cada post logo após sua postagem. A empresa citou essas violações, entre várias outras advertências que a conta recebeu nos 12 meses anteriores à desabilitação permanente, como justificativa adicional para a remoção da conta de acordo com suas políticas.

Principais descobertas

O Comitê concluiu que a Meta agiu corretamente ao desabilitar permanentemente a conta devido às graves ameaças de violência em dois posts e ao remover os outros três posts que violaram suas políticas. Essas ações foram consistentes com as responsabilidades da Meta em matéria de direitos humanos. A empresa deve comunicar uma posição firme e capaz de desencorajar ameaças de violência em suas plataformas.

No entanto, o caso levanta preocupações sobre o devido processo e a proporcionalidade em relação à governança de contas, bem como sobre a clareza das regras da Meta no que se refere à desabilitação permanente de contas. O caso levanta sérias dúvidas sobre a eficácia da resposta da Meta a ameaças plausíveis de violência grave contra pessoas, incluindo jornalistas e ativistas dos direitos humanos, dúvidas que a empresa precisa esclarecer. Melhorar a segurança pode ampliar o direito das pessoas à liberdade de expressão.

Aparentemente, o número considerável de seguidores dessa conta foi conquistado por meio da disseminação de posts conspiratórios e do assédio a figuras de destaque. Para alguns membros do Comitê, existem dúvidas sobre como o design da plataforma da Meta recompensa o comportamento de indivíduos que fazem provocações e aumenta o risco de disseminação generalizada de ameaças violentas. A Meta deveria rever como suas escolhas de design promovem o próprio comportamento que suas políticas proíbem.

Manter a desabilitação dessa conta não significa uma aprovação irrestrita da abordagem da empresa em relação ao banimento e à restrição de contas. O caso destaca as seguintes preocupações com os direitos humanos em nível sistêmico:

  • Devido processo para as pessoas alvo de ameaças violentas – O Comitê está seriamente preocupado com o fato de a Meta não ter analisado prontamente nenhuma das duas ameaças claras e plausíveis logo após sua postagem, atrasando a remoção e expondo a jornalista visada a um risco intolerável por um período prolongado.
  • Devido processo para usuários com contas desabilitadas – A demora em garantir justiça prejudicou o devido processo para o proprietário da conta, o que poderia ter proporcionado mais oportunidades para corrigir seu comportamento.
  • Políticas pouco claras de suspensão e desabilitação de contas – É preciso garantir aos usuários informações acessíveis, consistentes e abrangentes sobre as abordagens da Meta. A expansão do papel dos assistentes de IA da Meta pode ajudar. É importante haver coerência entre as políticas e as respostas dos assistentes. As restrições que a Meta aplica às contas do Instagram antes de desabilitá-las não são públicas.
  • Falta de uma estrutura clara que oriente as decisões de desabilitar permanentemente uma conta por motivos de segurança “graves” – É necessária uma estrutura mais detalhada, porém flexível, do que a atualmente disponível para os analistas. Isso poderia melhorar a consistência e evitar que ameaças plausíveis passassem despercebidas.
  • Não existem opções intermediárias entre a desabilitação permanente e deixar o sistema de advertências seguir seu curso natural em casos de violações graves da política – Quando houver fatores atenuantes, uma suspensão significativa, porém com prazo determinado, pode ser mais proporcional.

O Comitê traçou os seguintes princípios para orientar a Meta e outras plataformas de redes sociais em sua abordagem em relação à desabilitação de contas:

  1. Respeitar o direito dos usuários de acessar orientações claras e abrangentes sobre as regras que regem as decisões de desabilitação permanente de contas em redes sociais.
  2. Respeitar o direito dos usuários a uma explicação detalhada sobre a desabilitação de suas contas, incluindo o fornecimento de: informações confiáveis ​​e de fácil acesso, bem como opções de apelação; informações sobre o papel de qualquer solicitação governamental para a análise ou a desabilitação de uma conta e sobre a automação nos processos de análise.
  3. As empresas de redes sociais devem se coordenar para criar um programa de compartilhamento de informações sobre contas que ameacem, de forma plausível, cometer atos de violência graves.
  4. Permitir apelações eficazes e justas, incluindo a oportunidade para os usuários apresentarem motivos por escrito para a apelação e priorizar a análise humana em casos excepcionais.
  5. Fornecer relatórios de transparência detalhados com informações significativas sobre as tendências de aplicação da desabilitação de contas.

*Os resumos de casos fornecem uma visão geral dos casos e não têm valor de precedente.

Decisão completa sobre o caso

1. Descrição do caso e histórico

Em 2025, a Meta desabilitou permanentemente uma conta do Instagram com mais de 70.000 seguidores por violar os Padrões da Comunidade da empresa. Ela encaminhou essa decisão ao Comitê, apontando para os desafios de respeitar a liberdade de expressão política e, ao mesmo tempo, seguir suas regras de desabilitação de contas quando os usuários se envolvem em padrões de abuso, inclusive contra figuras públicas e ameaças contra jornalistas mulheres.

Em seu encaminhamento, a Meta incluiu cinco posts da conta do Instagram feitos no ano anterior à sua desabilitação permanente pela empresa. Do conteúdo em questão, dois posts incluíam ameaças visuais de violência contra uma jornalista, mostrando um alvo sobre o rosto dela. Um desses posts comparava as elites políticas do país a autocratas, enquanto o outro não continha nenhuma outra informação inteligível além da ameaça visual. Um terceiro post usou o termo ofensivo “whore” (prostituta) contra a mesma jornalista, acusando-a, sem provas, de ter tido relações sexuais com uma figura pública. Esses posts foram analisados em conjunto somente depois que a jornalista usou suas conexões para reclamar diretamente com a equipe da Meta. Esses funcionários escalonaram duas vezes as reclamações dela para as equipes internas. Na primeira escalation, o post que usava o termo “whore” (prostituta) foi removido, e a conta recebeu uma advertência. Na segunda vez, a Meta identificou os posts com ameaças de violência contra a jornalista e desabilitou permanentemente a conta de acordo com suas Políticas sobre Integridade da Conta e Violência e Incitação devido aos riscos de segurança representados para a jornalista, observando também que a conta estava perto do limite de desabilitação de acordo com sua Política sobre Advertências. A Meta também desabilitou outras contas vinculadas ao mesmo usuário, duas das quais também haviam postado conteúdo direcionado à jornalista.

A empresa mencionou outros dois posts que, segundo ela, ilustravam o comportamento mais amplo da conta. Um deles continha o termo homofóbico “fag” (bicha) dirigido a políticos de destaque. Outro mostrava a foto de um casal identificável em um transporte público, aparentemente praticando sexo oral, alegando que eles eram membros de uma minoria religiosa e pedindo sua deportação. Nenhum desses dois últimos posts envolvia a jornalista. A empresa removeu cada post da plataforma logo após sua postagem e aplicou uma advertência à conta a cada remoção. A Meta citou essas violações, entre várias outras advertências que a conta recebeu nos 12 meses anteriores à desabilitação permanente, como justificativa adicional para a remoção da conta de acordo com suas políticas.

Ao analisar esse caso, o Comitê pretende destacar os impactos sobre o devido processo e o direito à liberdade de expressão tanto das pessoas cujas contas são desabilitadas quanto daquelas que são alvo de conteúdo abusivo. Ele também observa o impacto dos ataques online sobre aqueles que são alvos desses ataques e que estes ocorrem em todas as formas de redes sociais. Esse caso é emblemático do nível desproporcional de abuso online contra mulheres na esfera pública, incluindo jornalistas mulheres, e das ligações preocupantes entre esse abuso e a violência física. Como parte da própria avaliação cuidadosa do Comitê, alguns detalhes do caso foram omitidos para evitar o agravamento dos impactos das ameaças e do assédio contra a jornalista.

2. Envios de usuários

A Meta encaminhou esse caso ao Comitê; não se tratava de uma apelação do usuário, e o Comitê não recebeu nenhuma declaração do proprietário da conta.

Em depoimento ao Comitê, a jornalista alvo da conta alegou que o proprietário da conta tem um histórico de violência e que a vinha assediando por meio de diversas contas de redes sociais e perseguição offline. Ela disse que os posts dele incluíam ameaças de morte, difamação e incitação dos seguidores à violência, o que levou a uma enxurrada de ameaças e abusos em diversas plataformas. Afirmou que essa atividade teve graves impactos emocionais e psicológicos, obrigando-a a tomar diversas medidas de segurança que restringiram sua vida pessoal e profissional.

A jornalista reclamou com funcionários da Meta na rede dela, que solicitaram a análise da conta. O Comitê constatou que o proprietário da conta continuou postando em outras plataformas que não são da Meta, embora tenha um público muito menor nelas.

3. Políticas de conteúdo e envios da Meta

Remoções de conteúdo individual

A Meta removeu os dois posts que mostravam o desenho de um alvo sobre o rosto da jornalista por violarem seus Padrões da Comunidade sobre Violência e Incitação. Essa política proíbe “ameaças de violência que possam levar à morte (ou outras formas de violência de alta gravidade)”. Ambos os posts se enquadram na definição de ameaças de violência da Meta, que inclui “imagens que representam uma intenção, aspiração ou incitação à violência contra um alvo”. O fundamento da política também afirma que a Meta “removerá conteúdo, desabilitará contas e colaborará com as autoridades policiais quando acreditarmos que existe um risco real de danos físicos ou ameaças diretas à segurança pública”.

A Meta descobriu que o post que fazia alegações sexuais contra a jornalista violava seus Padrões da Comunidade sobre Bullying e Assédio por usar o termo “whore” (prostituta) para se referir à jornalista. Essa política proíbe conteúdo que tenha como objetivo humilhar ou envergonhar, incluindo ataques por meio de termos depreciativos relacionados à atividade sexual, citando essa palavra como um exemplo de conteúdo que viola a política.

A Meta removeu o post que usava uma calúnia homofóbica por violar seus Padrões da Comunidade sobre Conduta de Ódio. A política proíbe conteúdo direcionado a pessoas com calúnias, definidas como “palavras que inerentemente criam uma atmosfera de exclusão e intimidação contra pessoas com base em uma característica protegida, muitas vezes porque essas palavras estão ligadas à discriminação histórica, opressão e violência”. A Meta confirmou que o termo usado no post está em sua lista de calúnias.

Ela removeu o post que retratava um ato sexual por violar os Padrões da Comunidade sobre Nudez de Adultos e Atividade Sexual. Essa política proíbe imagens de atos sexuais explícitos e implícitos, bem como de atividades sexuais iminentes. A política explica que a Meta, por padrão, “remove imagens sexuais para impedir o compartilhamento de conteúdo não consensual ou envolvendo menores de idade”.

Desabilitação de contas

A Política sobre Integridade da Conta da Meta estabelece que, “para manter um ambiente seguro e promover a liberdade de expressão”, a empresa “restringirá ou removerá contas que sejam prejudiciais à comunidade”. Ela explicou que sua “abordagem em relação ao monitoramento de contas visa equilibrar a orientação e a reabilitação do usuário, a transparência, a proporcionalidade e a agilidade”. Essa abordagem também está descrita na Central de Transparência, incluindo nas páginas sobre desabilitação de contas, restrição de contas e contagem de advertências.

De acordo com a Política sobre Integridade da Conta, a Meta pode desabilitar contas por uma única violação, desde que seja suficientemente grave, incluindo por “representar riscos graves de segurança”. A Central de Transparência estabelece que “em alguns casos, uma violação pode ser grave o suficiente, como a postagem de conteúdo de exploração sexual infantil, que desabilitaremos sua conta… após uma única ocorrência”. Os Padrões da Comunidade sobre Violência e Incitação também explicam que conteúdo que represente um risco real de danos físicos pode levar a Meta a desabilitar permanentemente as contas que postem isso. Em seus envios, a Meta explicou que, além disso, atividades ilícitas relacionadas a drogas de alto risco e exploração humana também podem resultar em desabilitação por uma única violação. Segundo os envios da Meta, essas avaliações, distintas do sistema de advertências descrito abaixo, são feitas caso a caso. Para determinar se deve desabilitar uma conta (em vez de simplesmente remover o conteúdo), a Meta considera fatores como “comportamento do usuário e atividade recente”, o que a permite “manter-se flexível e responder rapidamente a contas de alto risco”. Quando os usuários denunciam contas, a Meta as analisa de forma holística, avaliando a foto do perfil, o nome e o histórico de advertências, além de um número limitado de posts recentes da conta.

Em casos de violações persistentes ou recorrentes que não sejam graves, a Meta remove o conteúdo e notifica o usuário sobre a natureza da violação e suas políticas, para ajudá-lo a entender a situação e adequar seu comportamento futuro. Ela também pode aplicar uma advertência à conta. A aplicação de uma advertência depende de fatores como a gravidade da violação e o contexto em que foi cometida. Nem todas as violações resultam na aplicação de advertências. Por exemplo, a empresa não aplica advertências a conteúdo que viole as regras e que tenha sido “postado há mais de 90 dias para a maioria das violações ou há mais de quatro anos para violações mais graves”. As advertências expiram após um ano. Uma primeira advertência geralmente resulta em um aviso sem penalidades adicionais, mas, à medida que advertências adicionais são acumuladas, uma conta pode receber níveis crescentes de restrição. A Política sobre Integridade da Conta contém um link para uma explicação na Central de Transparência sobre a abordagem da Meta em relação às restrições de conta, que especifica os limites nos quais o acúmulo de advertências por violações recorrentes corresponde a penalidades crescentes (que se aplicam principalmente apenas no Facebook), além da remoção do conteúdo. De acordo com o sistema de advertências, as contas que violarem persistentemente as políticas da Meta serão avisadas antes de perderem o acesso a determinados recursos, como transmissões ao vivo no Instagram, ou serem removidas das recomendações. As contas do Facebook também podem ser suspensas por períodos cada vez maiores após violações adicionais, mas essa penalidade não se aplica às contas do Instagram. Contas que continuarem a acumular advertências por violações serão desabilitadas. Em larga escala, a Meta desabilita contas que atingem um limite específico para advertências padrão ou um limite separado para advertências graves.

Nesse caso, quando a conta foi escalonada para análise por especialistas internos, ela estava se aproximando do limite para remoção em larga escala, mas ainda não o havia ultrapassado. No entanto, como os dois posts continham ameaças com violência de alta gravidade contra uma jornalista identificada, o que poderia levar à morte, a avaliação da Meta sobre o risco que a conta representava levou à conclusão de que a desabilitação permanente da conta era a única opção consistente com as políticas da empresa sobre violações graves. A Meta observou que a conta “demonstrou um padrão persistente de violações recorrentes” ao longo do ano anterior, incluindo violações das Políticas sobre Bullying e Assédio, Violência e Incitação, Conduta de Ódio, Exploração Sexual Infantil, Abuso e Nudez, Nudez de Adultos e Atividade Sexual, e Proposta de Cunho Sexual a Adultos e Linguagem Sexualmente Explícita. Esse padrão incluía, a título de exemplo, os três posts adicionais mencionados no Comitê. Cada uma dessas violações teria sido acompanhada de uma mensagem com um link para a política relevante e um aviso ao usuário sobre possíveis novas violações das regras da Meta. A Meta informou ao Comitê que a conta do usuário foi sujeita a restrições em dez ocasiões distintas, sete das quais com duração de 30 dias cada. Essas restrições impediram que a conta fizesse transmissões ao vivo.

Considerando o comportamento crescente da conta, com dois posts representando um risco de segurança grave, violações contínuas apesar de repetidas advertências e proximidade do limite de remoção automática, a Meta determinou que a desabilitação da conta era justificada de acordo com sua política e fundamento de Integridade da Conta, e consistente com suas responsabilidades em relação aos direitos humanos.

O Comitê questionou a Meta sobre a conta individual, os sistemas e procedimentos da empresa para identificar e avaliar contas para remoção, o sistema automatizado de advertência e as medidas tomadas em relação às contas que representam um risco à segurança. A Meta respondeu a todas as perguntas do Comitê.

4. Comentários públicos

O Comitê recebeu um número substancial de comentários públicos sobre esse caso, com mais de 750 que cumpriam os termos para envio, e uma seleção dos mais relevantes foi publicada com essa decisão. Esses comentários vieram de todo o mundo e consistiam, em grande parte, de usuários explicando que não entendiam o motivo pelo qual suas contas estavam sendo desabilitadas permanentemente ou acreditavam que o motivo estava errado. Muitos comentadores reclamaram de terem suas contas permanentemente desabilitadas por supostamente postarem conteúdo de exploração sexual infantil, embora nunca tivessem postado nada sequer remotamente relacionado a esse tipo de conteúdo. Outros apontaram para aparentes inconsistências na aplicação das regras da Meta, bem como para o que consideram ser tomadas de decisão tendenciosas. Alguns usuários alegaram ter sido banidos por interagirem com conteúdo que a Meta havia permitido em suas plataformas ou disseram ter visto outras pessoas postarem conteúdo muito mais prejudicial sem qualquer punição aparente. Outros comentadores reclamaram que suas contas foram desabilitadas após terem sido comprometidas e usadas por estranhos.

Muitos comentadores escreveram sobre sistemas que não funcionavam, dizendo que não conseguiam apelar da decisão da Meta de desabilitar suas contas, que nunca receberam nenhuma explicação sobre o motivo da desabilitação ou que não conseguiam baixar seu conteúdo. Muitos desses usuários também observaram que as decisões pareciam ter sido tomadas automaticamente, sem supervisão humana, mesmo em apelações contra a desabilitação de contas antigas e amplamente seguidas. Outros relataram que, mesmo criando uma nova conta especificamente para pagar pelo acesso ao programa Meta Verified, que inclui “acesso 24 horas por dia, 7 dias por semana, a suporte por email ou conversa”, não conseguiram obter assistência significativa. Alguns relataram que suas novas contas foram desabilitadas por violarem a proibição de criar uma conta após o banimento.

Os comentadores também escreveram sobre o profundo impacto que essas decisões tiveram sobre eles. Muitos perderam o acesso a redes de amigos, contatos e seguidores, tanto em contextos pessoais quanto profissionais. Os usuários expressaram veementemente como a perda de suas contas prejudicou suas vidas sociais, saúde mental e bem-estar financeiro.

Desde a sua criação em 2020, os membros do Comitê receberam inúmeras reclamações de usuários da Meta, por meio das redes sociais e outros meios, de pessoas que perderam o acesso às suas contas. De acordo com o Estatuto e os Regulamentos Internos vigentes, o Comitê não tem autoridade para aceitar essas reclamações como apelações. No entanto, os membros do Comitê estão preocupados com o volume e a urgência dessas solicitações, que têm sido, em geral, consistentes com os comentários públicos recebidos sobre este caso. Muitos usuários sentem que a Meta os tratou injustamente e que não possuem uma maneira satisfatória de apelar de suas decisões.

Em janeiro de 2026, como parte do engajamento contínuo com as partes interessadas, o Comitê consultou especialistas em confiança e segurança sobre as dificuldades envolvidas na definição de políticas de governança de contas e no enfrentamento dos problemas de contas abusivas sem restrições excessivas à liberdade de expressão dos usuários. O Comitê também consultou jornalistas e representantes de organizações de defesa de direitos, acadêmicos, organizações intergovernamentais e outros especialistas sobre o impacto e a prevalência de ataques online, especialmente contra mulheres em posições de destaque na mídia, e sobre a eficácia das medidas que as plataformas utilizam para proteger seus usuários contra esses ataques.

5. Análise do Comitê de Supervisão

Este é o primeiro caso analisado pelo Comitê em que se avalia a desabilitação permanente da conta de um usuário, testando uma extensão da autoridade do Comitê para além das decisões individuais sobre conteúdo. Esse encaminhamento da Meta exige que o Comitê analise se foi correto desabilitar a conta e se foi correto remover os posts indicados.

O Comitê concluiu que foi correto desabilitar permanentemente a conta do Instagram devido às graves ameaças de violência contra um jornalista em dois dos posts. Os outros três posts mencionados pela Meta também violaram as políticas da Meta e foram corretamente removidos. Essas ações foram consistentes com as responsabilidades da Meta em matéria de direitos humanos (em conformidade com os Princípios Orientadores das Nações Unidas sobre Empresas e Direitos Humanos e com o Artigo 19, parágrafo 3, do Pacto Internacional sobre Direitos Civis e Políticos (PIDCP)). Ao mesmo tempo, esse caso levanta preocupações quanto ao devido processo e à proporcionalidade da abordagem geral da Meta em relação à governança de contas, além de questionamentos sobre a clareza das regras da empresa que regem a desabilitação permanente de contas. Existem também sérias dúvidas sobre a eficácia da resposta da Meta a ameaças plausíveis de violência grave contra pessoas, incluindo jornalistas e ativistas dos direitos humanos, dúvidas que a empresa precisa esclarecer.

I. Desabilitação permanente da conta

Dois dos posts direcionados à jornalista mostram o rosto dela com um desenho de alvo sobreposto. Essas são ameaças visuais plausíveis para atirar nela e uma incitação para que outros façam o mesmo. Essas ameaças também motivaram o número considerável de seguidores da conta a fazer ameaças, criando o risco de incitar violência iminente contra ela. Essas ameaças de violência de alta gravidade são proibidas pela Política sobre Violência e Incitação da Meta. A remoção de ambos os posts estava de acordo com as regras da Meta.

A desabilitação permanente da conta está de acordo com a Política sobre Violência e Incitação, que especifica que a Meta “desabilitará contas e colaborará com as autoridades policiais quando acreditarmos que existe um risco real de danos físicos ou ameaças diretas à segurança pública”. Isso também se reflete na Política sobre Integridade da Conta, que afirma que a Meta desabilitará contas que violarem suas políticas de maneiras que envolvam “danos graves, incluindo aqueles que encaminhamos às autoridades policiais devido ao risco de danos iminentes à segurança individual ou pública”. O Comitê observa que, embora a Meta não tenha encaminhado essas ameaças às autoridades policiais, a empresa afirmou que isso ocorreu apenas porque, no momento em que foram analisadas, a jornalista já as havia denunciado.

A Política Corporativa de Direitos Humanos da Meta reconhece que os jornalistas são ativistas dos direitos humanos e constituem um grupo de alto risco que a empresa procura proteger (ver Seção 4). Isso reflete a responsabilidade da Meta em lidar com ameaças plausíveis de violência em suas plataformas, que podem ter impactos particularmente adversos sobre os direitos humanos quando direcionadas a jornalistas e outros ativistas dos direitos humanos. Esses impactos se estendem não apenas à própria jornalista, mas também a todos aqueles envolvidos na divulgação de fatos ao público, que podem se sentir intimidados por essa violência, e ao público, cujo direito à informação é violado quando jornalistas são coagidos a deixar de exercer suas funções.

Esse caso é emblemático de uma tendência mais ampla de mulheres jornalistas sendo ameaçadas online. A ligação entre ataques online contra mulheres jornalistas e danos no meio físico está bem documentada, com um relatório recente descobrindo que mais de 40% dos entrevistados sofreram danos no meio físico relacionados a ataques que começaram online, mais que o dobro dos 20% entrevistados ​​em 2020. Os ataques online têm um impacto intimidatório na liberdade de expressão das mulheres visadas, diminuindo o acesso à informação para todos, uma vez que a sociedade ouve menos as mulheres como consequência. Um relatório de 2026 do Relator Especial da ONU sobre ativistas dos direitos humanos observou que as plataformas não conseguiram fornecer mecanismos adequados para proteger jornalistas e outros ativistas dos direitos humanos contra abusos e ataques online. Isso demonstra a necessidade e a proporcionalidade das ações tomadas pela Meta neste caso e evidencia que a relação de compromisso entre voz e segurança não é de soma zero.

A remoção de ambos os posts foi, portanto, necessária para cumprir as responsabilidades da Meta, e a desabilitação permanente estava de acordo com os princípios da necessidade e da proporcionalidade.

O Comitê constatou que remoções análogas de ameaças visuais de violência, incluindo contra mulheres visadas devido ao seu trabalho, cumprem a responsabilidade da Meta de respeitar os direitos humanos, incluindo a liberdade de expressão (ver Conteúdo direcionado a ativistas de direitos humanos no Peru). As regras da Meta sobre Violência e Incitação, aplicadas a esses posts, são suficientemente claras para satisfazer o requisito de legalidade, e a remoção é necessária e proporcional ao objetivo legítimo de proteger o direito à vida e à segurança de outras pessoas (Artigo 19 do PIDCP, parágrafo 3; Comitê dos Direitos Humanos da ONU, Comentário Geral n.º 34, parágrafo 25).

No contexto da expressão política, o Comitê constatou que as ameaças de violência são por vezes figurativas ou retóricas e devem ser permitidas (ver Declarações sobre o primeiro- ministro japonês e Slogan de protesto no Irã). No entanto, o Comitê não encontrou indícios de que os dois posts com desenho de alvo fossem ameaças figurativas ou retóricas.

Nenhum dos posts aborda comentários de interesse público que justifiquem a permanência desses posts graves violadores na plataforma, de acordo com a permissão para conteúdo de valor jornalístico da Meta e as responsabilidades da empresa relacionadas à liberdade de expressão.

Em primeiro lugar, embora a comparação entre as figuras públicas retratadas e os autocratas totalitários em um dos dois posts seja uma opinião política, ela não parece estar relacionada a nenhuma reportagem jornalística contemporânea ou discussão online sobre essas figuras públicas. Ela não revelou quaisquer fatos que pudessem iniciar essa discussão. A ameaça visual contra a jornalista no post está completamente fora de contexto e não tem relação com o restante do conteúdo. O outro post não contém nenhuma outra informação além da ameaça e não justifica uma exceção de interesse público.

Em segundo lugar, como o usuário não é um líder político ou uma figura pública, não havia um interesse maior em que outros usuários o ouvissem que justificasse deixar essas ameaças na plataforma. Mesmo nos casos Suspensão do ex-presidente Trump e do Primeiro-ministro do Camboja, o Comitê alertou contra o uso da permissão para conteúdo de valor jornalístico a fim de manter ameaças de violência proibidas por políticos ou outras figuras públicas na plataforma. Nesse caso, há um interesse público substancialmente maior em ouvir os líderes políticos do que o proprietário da conta. Aparentemente, o número considerável de seguidores dessa conta foi conquistado por meio da disseminação de posts conspiratórios e do assédio a figuras de destaque. Em suma, o Comitê considera que o número relativamente grande de seguidores que ele possui contribui menos para a conclusão de que ele se manifesta em prol do interesse público e mais para a conclusão de que suas ameaças podem causar danos iminentes. Para alguns membros do Comitê, isso levanta questões sobre como o design da plataforma da Meta recompensa o comportamento de quem faz provocações e aumenta o risco de ameaças violentas atingirem um público amplo, como também discutido na decisão do caso Suspensão do ex-presidente Trump. A Meta deveria rever como suas escolhas de design promovem o próprio comportamento que suas políticas proíbem.

As declarações da jornalista visada ao Comitê corroboram a credibilidade e a iminência das ameaças. Nem todos esses detalhes podem ser divulgados nessa decisão, em prol da segurança da jornalista. Esses detalhes não estariam necessariamente disponíveis para a Meta no momento em que os posts deveriam ter sido removidos. No entanto, quando ela levou as preocupações aos seus contatos na empresa, presume-se que a empresa teve tanta oportunidade de investigar os fatos quanto o Comitê teve nesse caso. Foi somente na segunda análise, após uma escalation do problema, que a decisão de desabilitação permanente foi tomada.

Da mesma forma, o comportamento anterior da conta em resposta a advertências por violações anteriores é relevante, embora não seja decisivo. O volume de advertências que o usuário recebeu por violações anteriores indica que ele não reagiu a avisos ou sanções progressivas, demonstrando falta de comprometimento em mudar seu comportamento. Em conjunto com a gravidade dos danos nos dois posts analisados ​​acima, esse fator reforça ainda mais a proporcionalidade da desabilitação permanente aplicada aos fatos deste caso.

Esses fatores apontam para a conclusão de que a desabilitação permanente foi o meio menos invasivo para atingir o objetivo de garantir a segurança da jornalista alvo dessa conta. Considerando a clara responsabilidade da Meta em respeitar a vida humana e a vulnerabilidade dos ativistas dos direitos humanos e dos jornalistas a ameaças contra suas vidas, é importante que a empresa comunique uma posição firme e enfática de que não tolera esse tipo de abuso em suas plataformas. Isso é compatível com as outras situações em que suas políticas preveem desabilitação permanente com base em violações isoladas.

É importante ressaltar que a decisão de manter a desabilitação da conta pela Meta nesse caso não seja interpretada como uma aprovação irrestrita da abordagem da empresa em relação ao banimento e à restrição de contas. O caso destaca para o Comitê as seguintes preocupações mais amplas em matéria de direitos humanos no nível sistêmico, relacionadas com a legalidade e o devido processo, bem como com a proporcionalidade das sanções aplicáveis ​​a violações graves na gestão das contas.

a. Aprimoramento do devido processo para os alvos de ameaças violentas

O Comitê está seriamente preocupado com o fato de a Meta não ter analisado prontamente nenhuma dessas ameaças claras e plausíveis assim que foram postadas, atrasando a remoção e expondo a jornalista visada a um risco intolerável por um período prolongado. Em vez disso, foi necessário que a jornalista usasse suas conexões na Meta para obrigar a empresa a agir. Qualquer usuário nessa situação, sem contatos semelhantes, não teria a quem e ao que recorrer.

b. Aprimoramento do devido processo para usuários com contas desabilitadas

A demora em fazer justiça à jornalista em questão também prejudicou o devido processo para o proprietário da conta. Se a Meta tivesse reagido às suas violações mais cedo, o proprietário da conta poderia ter tido mais oportunidades de compreender a natureza de sua conduta inadequada e corrigir seu comportamento, inclusive durante períodos adicionais de restrição da conta. Em vez disso, várias dessas violações foram tratadas durante uma análise escalonada da conta dele. Conforme discutido abaixo, é preocupante que as contas do Instagram não estejam sujeitas a suspensões temporárias após repetidas violações das políticas, sendo apenas restringidas de fazer transmissões ao vivo como uma penalidade intermediária antes de serem permanentemente desabilitadas.

c. Esclarecimento das políticas relativas à suspensão e desabilitação de contas

Embora a Meta tivesse uma base clara em suas políticas para tomar as medidas que tomou nesse caso, a clareza para os usuários sobre as políticas de desabilitação e restrição de contas poderia ser significativamente aprimorada. Existem duas maneiras de desabilitar permanentemente uma conta. Uma delas, como nesse caso, é a abordagem “tolerância zero após a segunda vez” para violações graves. O outro sistema é o de advertências, com penalidades crescentes correspondentes ao volume de infrações que uma conta acumula ao longo do tempo, com distinções entre advertências regulares e advertências severas. Este último pode ser referenciado como um fator para decisões conforme o primeiro, mas, na maior parte dos casos, é útil pensar neles operando em paralelo.

Embora as informações sobre desabilitação permanente estejam incluídas na Política sobre Violência e Incitação, uma visão completa da abordagem de dois sistemas da Meta requer a consulta da Política sobre Integridade da Conta e das páginas de Restrição de Contas, Contagem de Advertências e Desabilitação de Contas na Central de Transparência. Mesmo após essa consulta, a distinção entre os dois sistemas, considerando esses recursos, pode ser difícil de acompanhar. Os exemplos de violações “graves” que podem resultar em desabilitação permanente não são abrangentes nem facilmente distinguíveis das advertências “severas” que podem levar a penalidades mais severas e imediatas no âmbito do sistema de advertências. Pior ainda, algumas das informações nessas fontes são contraditórias. Por exemplo, a página de Desabilitação de contas afirma que os usuários podem receber uma restrição de 30 dias para criar conteúdo após cinco advertências. Em contrapartida, a página de Restrição de contas afirma que a mesma penalidade só será aplicada após dez advertências. Embora existam hiperlinks entre algumas dessas páginas, nem todas são fáceis de encontrar.

Existe uma clara necessidade de a Meta harmonizar essas diversas abordagens e explicações em um único recurso acessível que distinga claramente e assegure informações consistentes sobre as duas principais abordagens da Meta. Em caso de violações graves que resultem em desabilitação permanente, são necessárias informações muito mais abrangentes, incluindo hiperlinks para todas as políticas que, se violadas, podem resultar em desabilitação permanente. O Comitê observa que a expansão do papel dos assistentes de IA nas plataformas da Meta pode ajudar a explicar melhor as regras aos usuários em momentos-chave. É importante garantir a coerência entre as políticas subjacentes e as respostas que esses assistentes fornecem às consultas dos usuários.

Além disso, a Meta não divulga publicamente todas as restrições que pode aplicar às contas do Instagram por violações, desde o momento anterior até sua desabilitação. A página de Desabilitação de contas discute restrições de 30 dias, mas não especifica quais plataformas da Meta estão sujeitas a essas penalidades. As restrições listadas na página de Restrição de contas aplicam-se apenas ao Facebook, embora as advertências também sejam contabilizadas no Instagram. A Central de Ajuda do Instagram não fornece nenhuma informação esclarecedora. A Meta informou ao Comitê que não suspende temporariamente contas do Instagram em resposta a violações das políticas. Em vez disso, apenas restringe as contas do Instagram de fazer transmissões ao vivo por períodos determinados, que aumentam de acordo com a gravidade da violação e o histórico de monitoramento da conta. Existe uma diferença significativa na gravidade entre suspender o acesso de um usuário às funcionalidades de transmissão ao vivo e desabilitar permanentemente sua conta. Penalidades graduais adicionais entre essas sanções crescentes permitiriam uma abordagem mais proporcional. O Comitê também observa que o recurso “transmissão ao vivo” está disponível apenas para usuários com mais de 1.000 seguidores, e muitos não utilizam esse recurso. Sua eficácia como penalidade, especialmente em resposta a violações não cometidas durante uma transmissão ao vivo, é duvidosa. Para violações em posts permanentes, uma penalidade que corresponda diretamente ao comportamento infrator, suspendendo a capacidade do usuário de postar (por exemplo, colocando sua conta em modo somente leitura por um período determinado), teria maior probabilidade de influenciar o comportamento.

d. Criação de uma estrutura para orientar as decisões sobre desabilitação permanente

Embora a Meta tenha chegado à conclusão correta nesse caso, o Comitê está preocupado com o fato de a empresa não possuir uma estrutura clara que oriente as decisões de desabilitar permanentemente uma conta por motivos de segurança “graves”. Embora a avaliação caso a caso seja apropriada, fatores como “comportamento do usuário e atividade recente” são extremamente amplos e indefinidos, e a escalation dessas avaliações deve seguir caminhos claramente estruturados. Elas podem gerar resultados injustificadamente diferentes, dependendo da perspectiva dos analistas.

Sempre haverá uma tensão entre buscar consistência por meio de orientações específicas que antecipem as diversas maneiras pelas quais ameaças graves podem se manifestar nas plataformas da Meta, por um lado, e permitir que os analistas considerem adequadamente o contexto dos fatores agravantes e atenuantes, por outro. Esse equilíbrio entre prescrição e discrição pode ser difícil: prescrição em excesso pode levar a uma análise robotizada, na qual indicadores-chave de dano são ignorados ou mal interpretados, enquanto discrição em excesso pode levar diferentes analistas a chegar a conclusões injustificadamente divergentes com base nas mesmas informações. Adotar uma estrutura mais detalhada, porém ainda flexível, para os analistas, com critérios que preservem a necessária discrição para realizar análises contextuais, poderia ajudar a garantir maior consistência e evitar situações em que ameaças plausíveis, inclusive contra jornalistas ou ativistas dos direitos humanos, passem despercebidas. A ausência de orientações mais específicas pode explicar por que a Meta não agiu em vários momentos em relação às ameaças contra a jornalista nesse caso. Compartilhar publicamente informações sobre essa estrutura também aumentaria a transparência para os usuários do Meta.

e. Garantia de penalidades proporcionais

O Comitê está preocupado com o fato de que, para violações graves que representam ameaças plausíveis à segurança de indivíduos ou da sociedade em geral, a política da Meta não oferece opções intermediárias entre a desabilitação permanente e o cumprimento do sistema de advertências. No sistema de advertências, suspensões repetidas de 30 dias são a única penalidade que limita o acesso total à conta antes de uma desabilitação permanente. Quando existem fatores atenuantes, uma suspensão significativa, mas com prazo determinado, como as que a empresa adotou para as restrições às contas de líderes públicos durante distúrbios civis, pode ser mais proporcional para atingir o mesmo objetivo de garantir a segurança individual ou da comunidade, mantendo a possibilidade de reabilitação para o usuário.

II. Outras decisões de conteúdo

A análise dos três posts restantes é feita separadamente porque não altera fundamentalmente as principais conclusões do Comitê sobre a desabilitação permanente da conta. No entanto, um dos três posts demonstra clara animosidade baseada em gênero contra a mesma jornalista que foi alvo das ameaças. Os três posts reforçam a conclusão de que havia pouco interesse público neles que justificasse a não aplicação das políticas regulares da Meta, incluindo a desabilitação permanente.

a. Caso de bullying e assédio

Esse post atacou a mesma jornalista que foi alvo dos posts anteriores, chamando-a de “whore” (prostituta). O Comitê considera que essa calúnia é proibida pela Política sobre Bullying e Assédio, que proíbe termos depreciativos relacionados à atividade sexual, justificando sua remoção. Essa determinação é respaldada pelas responsabilidades da Meta em matéria de direitos humanos. A proibição é clara, atendendo ao requisito de legalidade aplicado a esse post. A remoção foi necessária e proporcional ao objetivo legítimo de respeitar os direitos da jornalista visada, incluindo a igualdade e a não discriminação. O Comitê já constatou anteriormente que as alegações sexuais contra mulheres que são figuras públicas podem ter implicações graves, inclusive para a segurança delas (ver Imagens explícitas de figuras públicas femininas criadas por IA). O assédio também tem sérios impactos na liberdade de expressão daqueles que são alvo dele. Uma pesquisa demonstrou o impacto assustador que o assédio e outras formas de ataques online podem ter sobre as mulheres jornalistas, com 30% das entrevistadas praticando autocensura e 20% se afastando de toda interação online como consequência. Nesse caso, a alegação contra a jornalista parece ser o único objetivo do post; não se tratava de algo incidental a um comentário mais amplo ou a uma mensagem política.

b. Caso de conduta de ódio

Esse post teve como alvo políticos com uma calúnia homofóbica, conforme proibido pela Política sobre Conduta de Ódio da Meta. O Comitê considera que esse termo consta da lista de calúnias da Meta e se enquadra na definição da política de ser uma palavra que inerentemente cria “uma atmosfera de exclusão e intimidação contra pessoas com base em uma característica protegida”. Essa proibição é clara quando aplicada aos fatos deste caso e tem como objetivo legítimo proteger os direitos de terceiros, incluindo a igualdade e a não discriminação. A remoção desse post foi necessária para proteger os direitos das pessoas LGBTQIA+ nas plataformas da Meta, dados os efeitos desumanizadores de calúnias que incluem incitação à discriminação iminente (ver Emojis direcionados a pessoas negras). O termo possui uma longa história ligada à discriminação e à violência contra pessoas LGBTQIA+, que é perpetuada por seu uso contínuo.

c. Caso de nudez de adultos e atividade sexual

Esse post contém imagens de dois adultos em transporte público com incitações à sua deportação com base na sua religião. O post afirma que o incidente ocorreu no país do proprietário da conta, embora a investigação do Comitê tenha demonstrado que isso é falso. Pela posição das pessoas retratadas, elas parecem estar praticando sexo oral, cujo post é proibido pela Política sobre Nudez de Adultos e Atividade Sexual da Meta, exigindo sua remoção. Isso está de acordo com as responsabilidades da Meta em relação aos direitos humanos. Essa proibição é suficientemente clara, quando aplicada a esse post, para atender aos requisitos de legalidade, e o Comitê já constatou que a política tem, de forma geral, como objetivo legítimo proteger os direitos de terceiros (ver Imagens de mulheres indígenas parcialmente nuas). A remoção foi necessária para proteger o direito à privacidade e à dignidade das pessoas retratadas. Não há interesse público nas falsas alegações do post que justifique mantê-lo no Instagram, apesar da violação. Ele distorceu o local do incidente para pedir a deportação do casal envolvido, baseando-se em suposições infundadas sobre sua etnia, religião e situação imigratória. Não havia opção menos restritiva do que a remoção disponível para atingir esse objetivo.

6. Boas práticas de governança de contas

Dado que esse caso é um projeto-piloto, não inclui recomendações formais à Meta, mas oferece princípios orientadores para o setor em geral. O Comitê prevê emitir recomendações formais em decisões futuras sobre casos de contas.

O número de comentários públicos recebidos sobre esse caso demonstra a significativa demanda por maior justiça por parte dos usuários da Meta cujas contas foram permanentemente desabilitadas. É necessário também garantir um tratamento justo aos usuários que são alvo de ameaças e assédio por parte de contas abusivas. Aqui, são apresentados alguns princípios básicos sobre a desabilitação permanente de contas, principalmente em resposta às experiências dos usuários nas plataformas da Meta. Esses princípios podem ter relevância mais ampla em todo o setor para a governança de contas em outras plataformas.

Respeito ao direito dos usuários a regras claras e abrangentes sobre a desabilitação de contas

As empresas devem respeitar o direito dos usuários de acessar orientações claras e abrangentes sobre as regras que regem as decisões de desabilitação permanente de contas em redes sociais.

As regras deveriam:

  1. Explicar claramente a abordagem para sancionar contas pelo conteúdo que postam ou por outros comportamentos que praticam.
  2. Explicar claramente quais regras, se violadas, resultarão em avisos e sanções graduais (por exemplo, um sistema de advertências) e quais podem resultar na desabilitação imediata da conta (por exemplo, uma regra de “tolerância zero após a segunda vez”).
  3. Para penalidades progressivas, divulgar os limites para a escalation das penalidades, incluindo o limite para a desabilitação permanente da conta. Esses limites devem distinguir claramente qualquer hierarquia de gravidade entre diferentes tipos de violação (por exemplo, advertências comuns e advertências graves) e fornecer vários níveis crescentes de penalidades para aumentar a probabilidade de que uma opção proporcional esteja disponível.
  4. Explicar as políticas e os fatores que as equipes internas de fiscalização consideram ao desabilitarem contas permanentemente.
  5. Caso as sanções variem entre as plataformas que uma empresa possui, ou para violações em diferentes superfícies de uma plataforma (por exemplo, publicamente versus em privado), explique essas distinções.

Respeito ao direito dos usuários a explicações detalhadas sobre a desabilitação de contas

Quando as contas dos usuários são suspensas por conteúdo ou comportamento, eles têm o direito de serem notificados sobre a regra que violaram e de manter o acesso ao histórico de violações e ao status atual da conta.

Isso requer:

  1. Fornecer aos usuários painéis por meio dos quais eles possam acessar facilmente informações confiáveis ​​sobre o status atual da conta, violações anteriores, informações sobre opções de apelação disponíveis e o status de quaisquer apelações pendentes. Essas informações devem poder ser baixadas para fins de registro.
  2. Notificações claras, visíveis e oportunas aos usuários, em um idioma que eles entendam, sobre qualquer advertência ou penalidade no momento em que for imposta, especificando a regra violada, a sanção aplicada e as opções de apelação.
  3. Informações sobre o papel de qualquer solicitação governamental para análise ou desabilitação de uma conta.
  4. Informações sobre o papel da automação na análise de conteúdo ou comportamento e na aplicação de avisos ou penalidades.
  5. Garantir que os usuários que perderem o acesso à sua conta devido a uma decisão de desabilitação permanente ainda possam acessar os motivos da decisão e os mecanismos de apelação, por exemplo, por meio de painéis de status da conta.

Coordenação para o combate a ameaças violentas nas plataformas

Frequentemente, ameaças plausíveis de violência contra indivíduos são coordenadas entre diferentes atores e em diversas plataformas de redes sociais. Isso cria desafios específicos para os alvos das ameaças no que diz respeito à gestão da própria segurança deles, especialmente quando as ferramentas de denúncias no app falham. A coordenação entre as plataformas de redes sociais tem sido importante para garantir respostas eficazes a comportamentos prejudiciais no contexto do combate a ameaças terroristas (por exemplo, o Fórum Global da Internet para o Combate ao Terrorismo) e no combate a ameaças à segurança infantil (por exemplo, o programa Lantern). As empresas de redes sociais deveriam criar um programa para compartilhar informações sobre contas que ameacem, de forma crível, atos de violência graves.

Esse programa deveria:

  1. Permitir o compartilhamento de informações confiáveis ​​sobre ameaças entre plataformas, incluindo detalhes sobre o alvo e a origem da ameaça, além de qualquer contexto relevante fora da plataforma.
  2. Estabelecer canais específicos para vítimas de violência de alto risco e seus representantes, incluindo jornalistas e ativistas dos direitos humanos.
  3. Compartilhar boas práticas sobre como lidar com ameaças, incluindo como estabelecer a credibilidade das ameaças e distinguir ameaças retóricas de ameaças não plausíveis, bem como sobre como encaminhar as ameaças, quando apropriado, às autoridades policiais e sobre a preservação de provas para fins de responsabilização.

Apelações eficazes e justas

Muitos comentários públicos mencionaram experiências de desabilitação de contas acompanhadas de razões que não compreendiam, bem como frustração quando as apelações foram negadas poucos instantes após o envio. Embora sejam relatos pontuais, muitas dessas experiências parecem se referir a violações do tipo “tolerância zero após a segunda vez”, como as analisadas nesse caso.

Os seguintes princípios devem orientar as avaliações sobre se é possível fazer com que esses sistemas sejam mais eficazes e justos:

  1. Os mecanismos de apelação devem proporcionar aos usuários a oportunidade de apresentar motivos por escrito para a apelação, com acesso contínuo à justificativa da política da empresa para a desabilitação e a quaisquer exceções aplicáveis ​​dentro da política. Deve-se explorar a possibilidade de fornecer aos usuários etiquetas que indiquem como suas apelações podem se enquadrar nas exceções aplicáveis ​​(por exemplo, “é reportagem jornalística” ou “é sátira”).
  2. Apelações contra a desabilitação de contas não são eficazes se a mesma decisão for submetida ao mesmo processo automatizado, esperando resultados diferentes com as mesmas informações. Embora os avanços na inteligência artificial devam ser aproveitados para garantir análises mais precisas e abrangentes, levando em consideração os envios escritos dos usuários, a priorização da análise humana em casos excepcionais será importante. Isso é especialmente importante para violações “com tolerância zero após a segunda vez”, em que qualquer erro na tomada de decisão automatizada tem consequências muito sérias, que vão além da remoção de um post ou da imposição de uma advertência.

Relatórios de transparência sobre a desabilitação de contas

As plataformas devem fornecer relatórios de transparência detalhados que permitam ao público acessar informações relevantes sobre as tendências de aplicação. Esse relatório deve incluir:

  1. O número total de contas desabilitadas por violação das políticas da plataforma, discriminado entre contas desabilitadas conforme regras de “tolerância zero após a segunda vez”, especificando qual regra resultou nessas desabilitações, e aquelas desabilitadas de acordo com qualquer sistema de monitoramento gradual (por exemplo, advertências).
  2. Número de contas que foram desabilitadas após uma solicitação de análise por parte de uma agência governamental ou policial.
  3. O número de contas desabilitadas que também foram encaminhadas às autoridades policiais e as políticas que violaram.
  4. A possibilidade de detalhar esses dados por região e idioma.

Voltar para Decisões de Casos e Pareceres Consultivos sobre Políticas