Símbolos adotados por organizações perigosas

Resumo

O Comitê de Supervisão considerou três casos envolvendo símbolos frequentemente usados ​​por grupos de ódio, mas que também podem ter outros usos. Ele solicita que a Meta explique como ela cria e toma medidas em relação à sua lista de símbolos designados de acordo com seus Padrões da Comunidade sobre Organizações e Indivíduos Perigosos. Isso proporcionará maior transparência aos usuários.

O Comitê está preocupado com a potencial overenforcement de referências a símbolos designados. A Meta deve desenvolver um sistema para sinalizar automaticamente quando conteúdo não violador estiver sendo removido em grande volume.

O Comitê mantém as decisões da empresa de remover conteúdo violador em dois dos casos e de manter o conteúdo no terceiro caso.

Sobre os casos

A Meta encaminhou ao Comitê três posts no Instagram envolvendo símbolos frequentemente usados ​​por grupos de ódio, mas que podem ter outros usos. O primeiro post envolvia uma imagem mostrando uma mulher com as palavras “Slavic Army” (Exército eslavo) e um símbolo de Kolovrat sobreposto em seu rosto. Na legenda, o usuário expressou orgulho de ser eslavo e esperava que seu “people will wake up” (povo acordasse).

O segundo post era um carrossel de fotos de uma mulher usando um colar com uma cruz de ferro e uma suástica e uma camiseta com um fuzil AK-47 e a frase “Defend Europe” (Defenda a Europa), escrita na fonte Fraktur, impressa nela. A legenda continha a runa Odal (ou Othala), a hashtag #DefendEurope (#DefendaAEuropa), símbolos contornando um rifle M8 e emojis de coração.

Ao indicar os dois posts ao Comitê, a Meta os removeu porque eles violavam a Política sobre Organizações e Indivíduos Perigosos.

O terceiro post é um carrossel de desenhos de uma runa Odal enrolada em uma espada com uma citação sobre sangue e destino de Ernst Jünger, um autor, filósofo e soldado alemão. A legenda repete a citação, compartilha uma história inicial seletiva da runa e afirma que impressões da imagem estão à venda. A Meta concluiu que esse post segue suas regras.

Principais descobertas

A maioria do Comitê considera que o símbolo de Kolovrat glorificava o nacionalismo branco. Uma minoria contesta qualquer ligação automática entre o orgulho eslavo e o nacionalismo branco. O Comitê considera que o post de defesa da Europa glorificava a supremacia branca. Os dois posts devem ser removidos por não seguir a Política sobre Organizações e Indivíduos Perigosos. De acordo com o fundamento da política, a Meta remove conteúdo que glorifica, apoia ou representa ideologias que promovem o ódio. Ela designa o nacionalismo branco e a supremacia branca como ideologias de ódio.

O post com a citação não viola a mesma política. Ele descreve a runa Odal de uma maneira aparentemente neutra. Não há glorificação de nenhuma ideologia de ódio na citação. O post não faz referência específica ao nazismo ou a qualquer outra ideologia de ódio designada.

As decisões da Meta foram consistentes com suas responsabilidades em relação aos direitos humanos. Para a maioria, as pistas contextuais do post com o símbolo de Kolovrat, incluindo referências claras ao nacionalismo e ao exército eslavo, podem ser lidas como um incentivo aos seguidores para realizarem ações potencialmente violentas, e ele deve ser removido. Uma minoria discorda, considerando que o post não representa um risco direto de incitar danos iminentes ou potenciais.

O Comitê considera a remoção do post de defesa da Europa necessária e proporcional para evitar risco de discriminação imediata. Ele contém diversas pistas contextuais que glorificam ideologias de ódio designadas. Sua remoção é necessária e proporcional ao objetivo legítimo de impedir que as plataformas da Meta sejam usadas de forma abusiva para organizar e incitar a violência ou a exclusão.

A decisão de manter o post com a citação foi justificada, pois o conteúdo não faz referência a uma ideologia de ódio designada e fornece mais contexto sobre a arte do usuário.

O Comitê reitera as preocupações sobre a falta de transparência em torno dos processos de designação conforme o Nível 1 da Política sobre Organizações e Indivíduos Perigosos, pois isso dificulta que os usuários entendam quais entidades, ideologias e símbolos relacionados eles podem compartilhar. A Meta deve fornecer mais transparência em torno de símbolos designados, especialmente aqueles associados a entidades ou ideologias de ódio designadas, estabelecendo um processo global e iterativo baseado em evidências. Ela deveria publicar uma explicação clara de seus processos e critérios para designar os símbolos e as medidas tomadas em relação a eles.

O Comitê está preocupado com a potencial overenforcement de referências a símbolos designados. A Meta não coleta dados suficientemente detalhados sobre suas práticas de aplicação nessa área. A empresa informou ao Comitê que sua definição interna de “referência” é mais ampla do que a definição de “referência pouco clara” em sua política voltada ao público. A Meta deve fornecer publicamente a definição interna de “referências” e definir suas subcategorias, para maior clareza e acessibilidade aos usuários.

A decisão do Comitê de Supervisão

O Comitê de Supervisão mantém as decisões da Meta de remover o conteúdo no primeiro e segundo casos e de manter ativo o conteúdo no terceiro caso.

O Comitê recomenda que a Meta faça o seguinte:

• Torne pública a definição interna de “referências” e defina suas subcategorias de acordo com os Padrões da Comunidade sobre Organizações e Indivíduos Perigosos.
• Introduza um processo para determinar como os símbolos designados são adicionados aos grupos e a qual grupo cada símbolo designado é adicionado e audite periodicamente todos os símbolos designados, garantindo que a lista abranja todos os símbolos relevantes globalmente e removendo aqueles que não atendem mais aos critérios publicados.
• Desenvolva um sistema para identificar e sinalizar automaticamente instâncias em que símbolos designados levam a “picos” que sugerem que um grande volume de conteúdo não violador está sendo removido.
• Publique uma explicação clara de como ela cria e toma medidas em relação à sua lista de símbolos designados de acordo com os Padrões da Comunidade sobre Organizações e Indivíduos Perigosos.

*Os resumos de casos fornecem uma visão geral dos casos e não têm valor de precedente.

Decisão completa sobre o caso

1. Descrição do caso e histórico

Em novembro de 2024, a Meta encaminhou três posts do Instagram ao Comitê, todas envolvendo símbolos frequentemente usados ​​por grupos de ódio, mas que também podem ter outros usos.

O primeiro post, de abril de 2016, continha uma imagem mostrando uma mulher loira com a metade inferior do rosto coberta por um lenço. As palavras “Slavic Army” (Exército eslavo) e um símbolo de Kolovrat foram sobrepostos sobre a cobertura facial. O Kolovrat é um tipo de símbolo de suástica usado por neonazistas e alguns neopagãos. Na legenda, o usuário expressou orgulho de ser eslavo, afirmando que o Kolovrat é um símbolo de fé, guerra, paz, ódio e amor. O usuário esperava que seu “people will wake up” (povo acordasse) e disse que seguiria “their dreams to the death” (seus sonhos até a morte). O post foi visualizado menos de 100 vezes e recebeu menos de 500 reações e menos de 50 comentários. Quando a Meta selecionou esse conteúdo para encaminhamento ao Comitê, os especialistas em assuntos sobre política da empresa determinaram que o post não seguia a Política sobre Organizações e Indivíduos Perigosos e o removeram.

O segundo post, de outubro de 2024, foi um carrossel de fotos de selfies. As fotos mostravam uma mulher loira em várias poses. Ela está usando um colar com uma cruz de ferro e uma suástica e uma camiseta com um fuzil AK-47 e a frase “Defend Europe” (Defenda a Europa), escrita na fonte Fraktur, impressa nela. A legenda continha a runa Odal (ou Othala), a hashtag #DefendEurope (#DefendaAEuropa), símbolos contornando um rifle M8, um emoji de bíceps flexionado e emojis de coração. A runa Odal é um símbolo do alfabeto rúnico usado em muitas partes da Europa até ser substituído pelo alfabeto latino no século VII. Ele foi apropriado pelos nazistas e agora é usado por neonazistas e outros supremacistas brancos para representar ideias conectadas ao que eles descrevem como a “raça ariana”. O post foi visualizado cerca de 3 mil vezes e recebeu menos de 500 reações e menos de 50 comentários. Depois que a empresa identificou esse caso para encaminhar ao Comitê, os especialistas em assuntos sobre política da Meta também determinaram que o post não seguia a Política sobre Organizações e Indivíduos Perigosos e o removeram da plataforma.

O terceiro post também trata de um carrossel de imagens. Postadas em fevereiro de 2024, as imagens são desenhos de uma runa Odal enrolada em uma espada com uma citação sobre a relação entre sangue e destino de Ernst Jünger, um autor, filósofo e soldado alemão que lutou na Primeira e Segunda Guerras Mundiais. Jünger foi um nacionalista alemão e crítico do partido nazista. A legenda repete a citação antes de compartilhar uma história inicial seletiva da runa, sem mencionar sua apropriação nazista e neonazista. A legenda conclui descrevendo a runa como um símbolo de “heritage, homeland, and family” (herança, pátria e família) e afirmando que impressões da imagem estão à venda. O post foi visualizado cerca de 25 mil vezes e recebeu menos de mil reações e menos de 50 comentários. Depois que a Meta selecionou esse conteúdo para ser encaminhado ao Comitê, os especialistas em assuntos sobre política da empresa concluíram que esse terceiro post não viola nenhuma de suas regras.

2. Envios de usuários

Os autores dos posts foram notificados da análise do Comitê e tiveram a oportunidade de enviar uma declaração. Nenhum dos usuários enviou uma declaração.

3. Políticas de conteúdo e envios da Meta

I. Políticas de conteúdo da Meta

A Política sobre Organizações e Indivíduos Perigosos da Meta visa “prevenir e impedir danos no mundo real”. De acordo com o fundamento da política, a Meta declara que remove conteúdo que “glorifica, apoia ou representa ideologias que promovem o ódio”, também descritas na política como ideologias de ódio. Ideologias de ódio são consideradas parte do Nível 1 da política da Meta, o que resulta na aplicação mais ampla, pois a empresa acredita que entidades e indivíduos do Nível 1 têm “os vínculos mais diretos com danos no meio físico”.

A Meta explica que designa ideologias proibidas, que a política lista como “inclui[ndo] nazismo, supremacia branca, nacionalismo branco [e] separatismo branco” porque são “inerentemente vinculadas a violência” e procuram “organizar as pessoas em torno de incitações a violência ou exclusão de outras pessoas com base em suas características protegidas”. Diretamente junto a essa lista, a empresa declara que remove a “glorificação, o apoio e a representação explícitos dessas ideologias”.

A Meta remove a glorificação de entidades e ideologias de Nível 1. Entre outras coisas, a glorificação inclui “legitimar ou defender os atos violentos ou intolerantes de uma entidade designada alegando que esses atos têm uma justificativa moral, política, lógica ou de outra natureza que os torna aceitáveis ou razoáveis” ou “caracterizar ou celebrar a violência ou a intolerância de uma entidade designada como uma conquista ou realização”.

De acordo com o Nível 1 da política, a Meta também remove “referências pouco claras”, que “incluem humor pouco claro, referências sem legenda ou positivas, que não glorificam a violência ou o ódio da entidade designada”. A Meta declarou duas vezes que remove “referências pouco claras” sobre ideologias de ódio, uma vez no fundamento da política e novamente de acordo com a descrição das organizações de Nível 1.

A política permite que os usuários relatem, discutam de forma neutra ou condenem organizações ou indivíduos designados ou suas atividades no contexto do “discurso social e político”. De acordo com o fundamento da política, a Meta exige que os usuários “indiquem claramente sua intenção” ao criar ou compartilhar esse conteúdo. Se a intenção do usuário for “ambígua ou pouco clara”, a Meta removerá o conteúdo por padrão.

II. Envios da Meta

A Meta determinou que o primeiro (post do símbolo de Kolovrat) e o segundo (post de defesa da Europa) casos não seguiram a Política sobre Organizações e Indivíduos Perigosos, enquanto o terceiro caso (post da citação) segue essa política.

Em resposta às perguntas do Comitê, a Meta explicou que os símbolos associados às entidades ou ideologias de Nível 1 são classificados em três grupos. Esses grupos determinam como a empresa analisa os posts e as medidas de aplicação que podem ser tomadas. O primeiro grupo consiste em uma lista muito curta de símbolos que ganharam “notoriedade pública” como pseudônimos bem conhecidos de entidades designadas e são usados ​​“rotineira e intensamente” por elas. Os símbolos do primeiro grupo são tratados como violadores inerentes da Política sobre Organizações e Indivíduos Perigosos quando moderados em escala.

O segundo grupo, muito maior, é composto por símbolos que são usados ​​principalmente no contexto de uma entidade ou ideologia designada. A Meta trata os símbolos desse segundo grupo como violadores em escala. O símbolo de Kolovrat no primeiro caso se enquadra nesse segundo grupo.

O terceiro grupo consiste em uma lista muito curta de símbolos associados a entidades designadas, mas também comumente usados ​​em contextos benignos. A Meta avalia esses símbolos em escalation para evitar riscos de overenforcement e os considera violadores somente quando o contexto sugere que o símbolo está sendo usado para se referir a uma ideologia designada. Esse grupo inclui a runa Odal em questão no segundo e terceiro casos.

Com relação à aplicação dos símbolos em todos os três grupos, se eles forem compartilhados para glorificar, apoiar ou representar uma entidade ou ideologia designada, a Meta remove o post e aplica uma advertência à conta do usuário. A Meta também remove posts e aplica uma advertência quando um símbolo do primeiro grupo é postado como foco principal de uma imagem sem contexto ou legenda. Quando uma imagem do primeiro grupo é postada sem contexto ou legenda, mas não é o foco principal de uma imagem, o conteúdo é removido como uma referência pouco clara, mas sem que uma advertência seja aplicada. Quando uma imagem do segundo grupo for compartilhada sem contexto ou legenda, independentemente de ser o foco principal ou secundário do conteúdo, ela será removida sem advertência por ser uma referência pouco clara. Quando uma imagem do terceiro grupo é postada sem qualquer contexto ou legenda, o conteúdo também é removido como uma referência pouco clara, sem advertência.

A empresa observou que o símbolo Kolovrat foi removido por ser uma violação em escala, a menos que seja usado em um contexto permitido, como discussão social e política. A Meta constatou que o post com o símbolo de Kolovrat continha uma referência ao nacionalismo branco, uma ideologia considerada de ódio. Ela considerou a frase “Slavic pride” (Orgulho eslavo) como “destinada a transmitir o chauvinismo racista do nacionalismo branco”. A empresa concluiu que, dadas as claras referências do conteúdo ao nacionalismo e exército eslavo, e suas menções militaristas, o símbolo foi usado para fazer referência à ideologia neonazista decorrente de crenças na supremacia eslava.

Ela permite a runa Odal, a menos que, quando analisada em escalation, a empresa conclua que o símbolo é usado em um contexto de ódio. A empresa concluiu que, no post de defesa da Europa, a runa Odal foi compartilhada com um contexto que estabelecia que a runa estava sendo usada para glorificar a supremacia branca. Ela afirmou que vários sinais ajudaram suas equipes a determinar que o símbolo foi usado para celebrar a violência de uma ideologia de ódio. Isso incluiu o uso de “#DefendEurope” (#DefendaAEuropa), uma hashtag frequentemente usada por grupos supremacistas brancos europeus; que a frase “Defenda a Europa” escrita na fonte Fraktur e a cruz de ferro no pescoço da mulher estão associadas a materiais e propaganda nazistas; e os símbolos construindo um rifle M8 na legenda com emojis de coração e arma ao redor da runa Odal.

A Meta determinou que o post de citação segue a Política sobre Organizações e Indivíduos Perigosos. A empresa observou que a runa Odal estava acompanhada por uma descrição neutra das origens históricas e do significado linguístico da runa. Embora a avaliação da citação de Jünger tenha sido mais desafiadora, a Meta concluiu que não havia nenhuma indicação clara de que a runa Odal foi usada para se referir ao nazismo ou à supremacia branca.

Em resposta a perguntas do Comitê, a Meta explicou que não concluiu uma auditoria sistêmica de sua primeira ou terceira lista de símbolos. A empresa atualiza continuamente a segunda lista. A Meta acrescentou que está explorando um desenvolvimento de política adicional nessa área que ajudará a informar como ela pode abordar futuras auditorias.

O Comitê fez perguntas sobre a designação e aplicação de símbolos designados. A Meta respondeu a todas as perguntas.

4. Comentários públicos

O Comitê de Supervisão recebeu 100 comentários públicos que atenderam aos termos para envio. Desses comentários, 95 foram enviados dos Estados Unidos e do Canadá, dois da Ásia Central e do Sul, dois do Oriente Médio e do Norte da África e um da Europa. Para ler comentários públicos enviados com consentimento de publicação, clique aqui.

Os envios abordaram os seguintes temas: abordagens para moderar símbolos potencialmente de ódio; a importância de permitir que os usuários forneçam mais contexto sobre conteúdo potencialmente violador; a necessidade de trabalhar com especialistas externos no assunto e parceiros confiáveis; e propostas para concentrar o treinamento de IA na análise de combinações de sinais.

5. Análise do Comitê de Supervisão

O Comitê selecionou esses casos para considerar como a Meta deveria moderar símbolos que podem promover organizações perigosas, respeitando ao mesmo tempo a liberdade de expressão dos usuários. Esses casos se enquadram na prioridade estratégica do Comitê referente a Discurso de Ódio Contra Grupos Marginalizados.

O Comitê examinou as decisões da Meta nesses casos em relação às políticas de conteúdo, aos valores e às responsabilidades de direitos humanos da empresa. Ele também avaliou as implicações desse caso quanto à abordagem mais ampla da Meta em relação à governança de conteúdo.

5.1 Conformidade com as políticas de conteúdo da Meta

O Comitê concorda com a Meta de que o símbolo Kolovrat e os posts de defesa da Europa não seguiram a Política sobre Organizações e Indivíduos Perigosos da Meta, enquanto o post com citação seguiu.

Embora o Comitê concorde com a Meta de que o símbolo de Kolovrat deve ser removido, ele assume essa posição por um motivo diferente. A Meta considera o símbolo de Kolovrat uma violação, pois é uma “referência” a uma ideologia de ódio. Em contraste, a maioria do Comitê considera que ele glorificou o nacionalismo branco, uma ideologia odiosa. As referências ao orgulho e ao exército eslavo, juntamente com expressões de esperança de que seu “people will wake up” (povo acordasse) e afirmações de que seguirá “their dreams to the death” (seus sonhos até a morte), ilustram a intenção do usuário de glorificar conforme o Nível 1 da política, particularmente para, como a política delineia, “legitimar ou defender os atos violentos ou de ódio... alegando que esses atos têm uma justificativa moral ou política que os torna aceitáveis”. Como a exceção da política de “discurso social e político” exige que o post não contenha glorificação, esse post não se qualificou para a exceção da política.

Uma minoria do Comitê não considera o primeiro post violador, seja por ser uma referência pouco clara ou por ser uma glorificação de uma ideologia de ódio. Essa minoria contesta qualquer vínculo automático entre o orgulho eslavo, um termo que também tem conotações culturais e históricas, e o nacionalismo branco. O post também poderia ter se beneficiado da exceção da política para “discurso social e político”. Sua remoção é indicativa de como recorrer à suposição de “referências pouco claras” na política pode levar a uma overenforcement desnecessária. A minoria também pede que a Meta analise periodicamente a exatidão e precisão do impacto dessa linha de política nas remoções gerais e se ela precisa ser restringida e ajustada.

O Comitê conclui que o post de defesa da Europa celebrava a violência da supremacia branca, constituindo a glorificação de uma ideologia de ódio designada. A conclusão do Comitê é apoiada pelos seguintes sinais contextuais no post. Embora cada um desses sinais possa não constituir individualmente uma violação, juntos eles são uma glorificação explícita:

• A cruz de ferro com uma suástica no pescoço da mulher. A cruz de ferro é uma medalha militar alemã, da qual os nazistas se apropriaram adicionando uma suástica. Embora a medalha tenha sido descontinuada após a Segunda Guerra Mundial, neonazistas e grupos de supremacia branca a adotaram como um símbolo de ódio.
• O uso da frase “Defend Europe” (Defenda a Europa) na camiseta, escrita na fonte Fraktur, e na legenda. “Defenda a Europa” é um slogan usado por supremacistas brancos e outras organizações anti-imigrantes ligadas a atos de violência. A fonte Fraktur é uma fonte às vezes associada a nazistas e neonazistas.
• A runa Odal sendo acompanhada por símbolos construindo um rifle M8, um bíceps flexionado e emojis de coração na legenda.

Como o post continha glorificação, o Comitê concluiu que a exceção da política para “discurso social e político” não era aplicável a esse post.

O Comitê concorda com a Meta de que o post de citação segue a Política sobre Organizações e Indivíduos Perigosos. O post descreve a runa Odal de uma maneira aparentemente neutra, sem nenhuma menção à sua apropriação pelos nazistas, e pretende vender obras de arte envolvendo a runa Odal. Embora o post contenha uma citação de Ernst Jünger, um nacionalista alemão, as referências ao destino e ao sangue na citação em si não constituem uma glorificação, apoio ou representação de qualquer ideologia de ódio designada. De forma mais geral, o post não faz referência específica ao nazismo ou a qualquer outra ideologia de ódio designada. Parece fornecer contexto em torno da arte no post, que inclui a runa Odal. Embora a espada possa ser vista como um símbolo de violência, um único indicador não é suficiente para constituir uma violação.

5.2 Conformidade com as responsabilidades da Meta relativas aos direitos humanos

O Comitê considera que a decisão da Meta de remover o conteúdo no primeiro e no segundo casos, mas manter o terceiro post na plataforma, foi consistente com as responsabilidades de direitos humanos da Meta. Uma minoria de membros do Comitê discorda da remoção do primeiro post.

Liberdade de expressão (Artigo 19 do PIDCP)

O artigo 19 do Pacto Internacional sobre Direitos Civis e Políticos (PIDCP) prevê ampla proteção da expressão, incluindo “discurso político”, “comentários sobre assuntos públicos” e expressões que podem ser consideradas “profundamente ofensivas” (Comentário Geral n.º 34, parágrafo 11). Quando um Estado aplica restrições à expressão, elas devem atender aos requisitos de legalidade, objetivo legítimo e necessidade e proporcionalidade, segundo o parágrafo 3 do Artigo 19, parágrafo 3 do PIDCP). Esses requisitos costumam ser chamados de “teste tripartite”. O Comitê usa essa estrutura para interpretar as responsabilidades de direitos humanos da Meta de acordo com os Princípios Orientadores da ONU sobre Empresas e Direitos Humanos, com os quais a própria Meta se comprometeu em sua Política Corporativa sobre Direitos Humanos. O Comitê faz isso em relação tanto à decisão de conteúdo individual sob análise quanto ao que isso diz sobre a abordagem mais ampla da empresa à governança de conteúdo. Como afirmou o Relator Especial da ONU sobre liberdade de expressão, embora “as empresas não tenham obrigações governamentais, o impacto delas exige que avaliem o mesmo tipo de questões sobre a proteção do direito de seus usuários à liberdade de expressão” (A/74/486, parágrafo 41).

I. Legalidade (clareza e acessibilidade das regras)

O princípio da legalidade exige que as regras que limitam a expressão sejam acessíveis e claras, formuladas com precisão suficiente para permitir que um indivíduo regule sua conduta de acordo com elas (Comentário Geral n.º 34, parágrafo 25). Além disso, essas regras “não podem conceder liberdade de ação irrestrita para a restrição da liberdade de expressão aos encarregados de [sua] execução” e devem “fornecer instrução suficiente aos encarregados de sua execução para permitir-lhes determinar quais tipos de expressão são adequadamente restritas e quais tipos não são” (Ibid.). O Relator Especial da ONU sobre a liberdade de expressão declarou que, quando aplicadas à governação do discurso online por parte de intervenientes privados, as regras devem ser claras e específicas (A/HRC/38/35, parágrafo 46). As pessoas que usam as plataformas da Meta devem ser capazes de acessar e entender as regras, e os analistas de conteúdo devem ter orientações claras sobre sua aplicação.

O Comitê reitera suas preocupações sobre a falta de transparência em torno dos processos de designação no Nível 1 da Política sobre Organizações e Indivíduos Perigosos. Isso torna difícil para os usuários entenderem quais entidades, ideologias e símbolos relacionados eles podem compartilhar (ver caso Campanha eleitoral de 2023 na Grécia). O Comitê pediu para a Meta publicar a lista de Nível 1 (ver caso Citação nazista). A Meta recusou-se a publicar a lista, argumentando que esse post poderia permitir que “agentes maliciosos contornassem os mecanismos de aplicação” e afetassem a “segurança dos funcionários [da Meta]”. A Meta se comprometeu a criar um hiperlink para as Organizações Terroristas Estrangeiras dos EUA e Terroristas Globais Especialmente Designados em seus Padrões da Comunidade, em que essas listas são mencionadas, em resposta à recomendação n.º 3 no caso Vídeo de prisioneiro das Forças de Apoio Rápido do Sudão. No entanto, a lista de entidades de ódio não se baseia em uma lista pública equivalente, o que torna difícil para as pessoas deduzirem quais símbolos de ódio relacionados são proibidos.

O Comitê pede que a Meta forneça mais transparência sobre símbolos designados, especialmente aqueles associados a entidades ou ideologias de ódio designadas. Ele solicita que a Meta introduza um processo claro para determinar como os símbolos são adicionados aos três grupos e a qual grupo cada símbolo é adicionado. O Comitê considera que esse processo, no mínimo, deve ser baseado em evidências, de escopo global e de natureza iterativa. Primeiro, esse processo ajudará a garantir que a lista de símbolos esteja atualizada e que os símbolos que não atendem aos critérios de inclusão sejam removidos, enquanto os símbolos restantes passam por aplicação por meio do processo de avaliação mais aplicável. Por exemplo, todos os símbolos designados com múltiplas finalidades não violadoras são avaliados por meio de uma análise escalonada pelas equipes internas de assuntos da Meta ou orientações específicas são emitidas para analistas humanos. Ao determinar os casos de uso dominantes para símbolos específicos, a Meta deve se basear em resultados de pesquisas relevantes, que podem incluir pesquisas sobre tendências de uso de símbolos nas plataformas da empresa em todos os idiomas e regiões. Em seguida, em linha com os compromissos da Meta de desenvolver e aplicar as suas regras globais de forma não discriminatória (Artigo 2 e 26, PIDCP; Comentário Geral n.º 34, parágrafo 26), a Meta deve analisar a lista de símbolos designados. Ao fazer isso, a Meta deve garantir que a lista abranja, por exemplo, ideologias de ódio não apenas nas regiões da Minoria Global, mas também nas regiões da Maioria Global, conforme o Comitê observou na decisão do caso Posts exibindo a bandeira da África do Sul da época do Apartheid. O Comitê também observa que o uso de símbolos pode mudar ao longo do tempo e, portanto, a lista deve ser auditada periodicamente para abordar os riscos de potencial under ou overenforcement, com base na evolução dos usos.

Para fornecer mais transparência aos usuários, a Meta também deve publicar uma explicação clara de como ela cria e toma medidas em relação à sua lista de símbolos designados. Essa explicação deve incluir os processos e critérios para designar os símbolos e como a empresa toma medidas em relação a diferentes símbolos, incluindo a aplicação de advertências. A Meta deve publicar essas informações na Central de Transparência e criar um hiperlink para elas na linguagem voltada ao público da Política sobre Organizações e Indivíduos Perigosos.

O Comitê também está preocupado com a falta de clareza e o potencial excesso de abrangência da linha de política de “referências” conforme a qual a Meta removeu o primeiro post. Em resposta às perguntas do Comitê, a empresa revelou que sua definição interna de “referência” é mais ampla do que a definição de “referência pouco clara” em sua Política sobre Organizações e Indivíduos Perigosos pública. Uma referência “inclui, mas não se limita a referências positivas, representações incidentais, fotos sem legenda, sátira ou humor pouco claros e símbolos”. Na seção “Nós removemos” da política, a Meta apenas declara que remove “referências pouco claras ou sem contexto se a intenção do usuário não foi claramente indicada”. Isso “inclui piadas pouco claras, referências sem legendas ou positivas que não glorifiquem a violência ou o ódio da entidade designada”. Portanto, o Comitê solicita à Meta que forneça publicamente a definição interna de “referências” e defina suas subcategorias, como “referências positivas” e “representação incidental”, para garantir que essa linha de política seja suficientemente clara e acessível aos usuários.

II. Objetivo legítimo

Qualquer restrição à liberdade de expressão deve perseguir um ou mais dos objetivos legítimos listados no PIDCP, o que inclui a proteção dos direitos de terceiros (parágrafo 3 do Artigo 19, parágrafo 3, PIDCP). O Comitê considerou que a Política sobre Organizações e Indivíduos Perigosos, buscando “prevenir e interromper danos no mundo real”, persegue o objetivo legítimo de proteger os direitos de terceiros, como o direito à vida (Artigo 6, PIDCP) e o direito à não discriminação e à igualdade (Artigos 2 e 26, PIDCP), porque abrange organizações que promovem ódio, violência e discriminação, bem como eventos violentos designados motivados pelo ódio (ver casos Vídeo de prisioneiro das Forças de Apoio Rápido do Sudão e Campanha eleitoral de 2023 na Grécia).

III. Necessidade e proporcionalidade

Nos termos do artigo 19(3) do PIDCP, a necessidade e a proporcionalidade exigem que as restrições à expressão “devem ser adequadas para atingir sua função de proteção; devem ser o instrumento menos intrusivo entre aqueles que podem atingir sua função de proteção; devem ser proporcionais ao interesse a ser protegido” (Comentário Geral n.º 34, parágrafo 34).

No que diz respeito às obrigações dos Estados, o Comitê de Direitos Humanos da ONU declarou: “Em geral, o uso de bandeiras, uniformes, cartazes e faixas deve ser considerado uma forma legítima de expressão que não deve ser restringida, mesmo que esses símbolos sejam lembranças de um passado doloroso. Em casos excepcionais, quando esses símbolos estiverem direta e predominantemente associados à incitação à discriminação, à hostilidade ou à violência, devem ser aplicadas restrições apropriadas” (Comentário Geral n.º 37 sobre o direito de reunião pacífica, CCPR/C/GC/37, parágrafo 51).

A maioria do Comitê considera que a remoção do símbolo do Kolovrat é a resposta necessária e proporcional para evitar que as plataformas da Meta sejam exploradas para incitar ou organizar discriminação e violência. Dadas as pistas contextuais no post, incluindo referências claras ao nacionalismo e ao exército eslavo, o post pode ser lido como um incentivo aos seguidores para realizarem ações potencialmente violentas. Para essa maioria, o post mostra como os símbolos podem fazer parte de esforços online para criar e cultivar apoio a ideologias que promovem a violência ou a exclusão. Uma minoria discorda, considerando que o post não representa um risco direto de incitar violência ou discriminação iminente ou provável. Portanto, a Meta poderia ter recorrido a outras ferramentas, incluindo não recomendar o post ou diminuir seu alcance em geral. A remoção desse post, segundo essa minoria, não é uma medida necessária nem proporcional.

O Comitê considera que a remoção do post de defesa da Europa satisfaz os princípios de necessidade e proporcionalidade, para evitar discriminação e violência prováveis ​​e iminentes. Ao contrário do conteúdo da decisão no caso Posts exibindo a bandeira da África do Sul da época do Apartheid, o post contém várias pistas contextuais que estão mais diretamente conectadas à glorificação da violência, conforme descrito na seção 5.1. Esse post ilustra como símbolos de ódio podem se tornar pontos de encontro para usuários na rede que buscam construir conexões e recrutar indivíduos com ideias semelhantes, ao mesmo tempo em que evitam a moderação de conteúdo. Portanto, a remoção do post de defesa da Europa também é necessária e proporcional ao objetivo legítimo de impedir que as plataformas da Meta sejam usadas de forma abusiva para organizar e incitar a violência ou a exclusão.

O Comitê considera que a decisão da Meta de manter o post com a citação foi justificada, pois o conteúdo não faz referência a uma ideologia de ódio designada e fornece mais contexto sobre a arte do usuário. Portanto, a remoção não foi justificada.

O Comitê também está preocupado com a possível overenforcement de referências a símbolos designados pelos Padrões da Comunidade sobre Organizações e Indivíduos Perigosos. A Meta não coleta dados suficientemente detalhados sobre suas práticas de aplicação nessa área. Ela deve desenvolver um sistema para identificar e sinalizar automaticamente instâncias em que símbolos designados levam a “picos” que sugerem que um grande volume de conteúdo não violador está sendo removido, semelhante ao sistema que a empresa criou em resposta à recomendação n.º 2 do Comitê no caso Ilustração retratando policiais colombianos. Esse sistema permitirá que a empresa analise “picos” envolvendo símbolos designados e embase as ações futuras da empresa, incluindo a alteração de suas práticas para que sejam mais exatas e precisas. Por exemplo, a Meta pode considerar mudanças de política ou ajustes de medidas de aplicação se houver um grande volume de falsos positivos que resultem em remoções incorretas de referências a símbolos designados, em que o conteúdo não é, de fato, violador ou deveria se enquadrar na exceção de política para “discurso social e político”. O Comitê espera que a Meta desenvolva esse sistema e informe o Comitê sobre as ações tomadas para evitar possível overenforcement detectada pelo sistema. Ele também prevê analisar as ações tomadas em um caso futuro.

6. A decisão do Comitê de Supervisão

O Comitê de Supervisão mantém as decisões da Meta de remover o conteúdo no primeiro e segundo casos e de manter ativo o conteúdo no terceiro caso.

7. Recomendações

Política de conteúdo

1. Para fornecer mais clareza aos usuários, a Meta deve tornar pública a definição interna de “referências” e definir suas subcategorias de acordo com os Padrões da Comunidade sobre Organizações e Indivíduos Perigosos.

O Comitê considerará essa recomendação implementada quando a Meta atualizar os Padrões da Comunidade sobre Organizações e Indivíduos Perigosos voltados ao público.

Aplicação

2. Para garantir que a lista de símbolos designados pela Política sobre Organizações e Indivíduos Perigosos não inclua símbolos que não atendem mais aos critérios de inclusão da Meta, a empresa deve introduzir um processo claro e baseado em evidências para determinar como os símbolos são adicionados aos grupos e a qual grupo cada símbolo designado é adicionado e auditar periodicamente todos os símbolos designados, garantindo que a lista abranja todos os símbolos relevantes globalmente e removendo aqueles que não atendem mais aos critérios publicados, conforme descrito na seção 5.2 dessa decisão.

O Comitê considerará essa recomendação implementada quando a Meta tiver estabelecido esse processo e fornecido ao Comitê a documentação e os resultados de sua primeira auditoria com base nessas novas regras.

3. Para lidar com potenciais falsos positivos envolvendo símbolos designados pelos Padrões da Comunidade sobre Organizações e Indivíduos Perigosos, a Meta deve desenvolver um sistema para identificar e sinalizar automaticamente instâncias em que símbolos designados levam a “picos” que sugerem que um grande volume de conteúdo não violador está sendo removido, semelhante ao sistema que a empresa criou em resposta à recomendação n.º 2 do Comitê no caso Ilustração retratando policiais colombianos. Esse sistema permitirá que a empresa analise “picos” envolvendo símbolos designados e embase as ações futuras da empresa, incluindo a alteração de suas práticas para que sejam mais exatas e precisas.

O Comitê considerará essa recomendação implementada quando a Meta desenvolver este sistema e informar o Comitê sobre as ações tomadas para evitar possível overenforcement detectada pelo sistema.

Transparência

4. Para fornecer mais transparência aos usuários, a Meta deve publicar uma explicação clara de como ela cria e toma medidas em relação à sua lista de símbolos designados de acordo com os Padrões da Comunidade sobre Organizações e Indivíduos Perigosos. Essa explicação deve incluir os processos e critérios para designar os símbolos e como a empresa aplica medidas em relação a diferentes símbolos, incluindo informações sobre advertências e quaisquer outras ações de aplicação tomadas contra símbolos designados.

O Comitê considerará essa recomendação implementada quando as informações forem publicadas na Central de Transparência e tiverem hiperlinks nos Padrões da Comunidade sobre Organizações e Indivíduos Perigosos voltados ao público.

*Nota processual:

• As decisões do Comitê de Supervisão são tomadas por painéis de cinco membros e aprovadas por maioria de votos do Comitê inteiro. As decisões dele não representam, necessariamente, as opiniões de todos os membros.
• De acordo com seu Estatuto, o Comitê de Supervisão pode analisar apelações de usuários cujo conteúdo foi removido pela Meta, apelações de usuários que denunciaram conteúdo que a Meta manteve ativo e decisões que a Meta encaminha a ele (Seção 1 do Artigo 2 do Estatuto). O Comitê tem autoridade vinculativa para manter ou anular as decisões de conteúdo da Meta (Seção 5 do Artigo 3 e Artigo 4 do Estatuto). Ele pode emitir recomendações não vinculativas às quais a Meta é obrigada a responder (Artigo 3; Seção 4; Artigo 4 do Estatuto). Quando a Meta se compromete a agir de acordo com as recomendações, o Comitê monitora sua implementação.
• Para a decisão sobre o caso em questão, uma pesquisa independente foi encomendada em nome do Comitê. O Comitê recebeu assistência da Duco Advisors, uma empresa de consultoria especializada na intercessão entre as áreas de geopolítica, confiança e segurança, e tecnologia.

Voltar para Decisões de Casos e Pareceres Consultivos sobre Políticas