Poema russo

Esta decisão também está disponível em russo (na aba “idioma”, do menu na parte superior desta tela), em letão (aqui) e em ucraniano (aqui).

Lai iepazītos ar lēmumu latviski, spied šeit.

Щоб прочитати це рішення українською мовою, натисніть тут.

Resumo do caso

O Comitê de Supervisão anulou a decisão original da Meta de remover uma publicação no Facebook que comparava o exército russo na Ucrânia com os nazistas e citava um poema que pede o extermínio de fascistas. Também anulou a conclusão da Meta de que uma imagem, que parece ser um cadáver na mesma publicação, violava a política sobre conteúdo violento e explícito. A Meta havia colocado uma tela de aviso na imagem alegando que ela violava a política. Esse caso levanta algumas questões importantes sobre moderação de conteúdo em situações de conflito.

Sobre o caso

Em abril de 2022, um usuário do Facebook na Letônia publicou uma imagem que parecia ser um cadáver virado para baixo, em uma rua. Não havia feridas visíveis. A Meta confirmou ao Comitê que a pessoa foi baleada em Bucha, na Ucrânia.

O texto em russo que acompanha a imagem argumenta que as supostas atrocidades que os soldados soviéticos cometeram na Alemanha na Segunda Guerra Mundial foram justificadas com base no fato de que eles vingaram os crimes que os soldados nazistas cometeram na URSS. Ele traça uma conexão entre o exército nazista e o exército russo na Ucrânia, afirmando que o exército russo “became fascist” (tornou-se fascista).

A publicação cita supostas atrocidades cometidas pelo exército russo na Ucrânia e diz que “depois de Bucha, os ucranianos também vão querer repetir... e poderão repetir”. Ela termina com a citação de uma poema do poeta soviético Konstantin Simonov que diz “Kill him!” (Mate-o!), incluindo os versos: “kill the fascist (mate o fascista)... Kill him! Kill him! Kill!”

A publicação foi denunciada por outro usuário do Facebook e removida pela Meta por violar o Padrão da Comunidade sobre discurso de ódio. Depois que o Comitê selecionou o caso, a Meta concluiu que havia removido a publicação por engano e a restaurou. Três semanas depois, colocou uma tela de aviso na imagem conforme a política sobre conteúdo violento e explícito.

Principais conclusões

O Comitê considera que remover a publicação e depois colocar a tela de aviso não se alinha com os Padrões da Comunidade do Facebook, os valores da Meta ou suas responsabilidades com direitos humanos.

O Comitê conclui que, em vez de fazer acusações gerais de que “os soldados russos são nazistas”, a publicação argumenta que eles agiram como nazistas em um determinado período e lugar e traça paralelos históricos. A publicação também critica os soldados russos devido ao papel deles como combatentes, não por causa de sua nacionalidade. Nesse contexto, nem as responsabilidades com direitos humanos ou o Padrão da Comunidade sobre discurso de ódio da Meta protegem os soldados contra alegações de crimes cruéis ou impedem comparações provocativas entre suas ações e eventos passados.

O Comitê enfatiza a importância do contexto para avaliar se o conteúdo está incentivando a violência. Nesse caso, o Comitê descobre que as citações do poema “Mate-o!” são uma referência artística e cultural empregada como dispositivo retórico. Quando lidas no contexto da publicação, o Comitê conclui que as citações estão sendo usadas para descrever, e não encorajar, um estado de espírito. Elas chamam a atenção para os ciclos de violência e o potencial de a história se repetir na Ucrânia.

A diretriz interna da Meta para os moderadores esclarece que a empresa interpreta o Padrão da Comunidade sobre violência e incitação para permitir "referências neutras a um possível resultado" e "avisos de advertência". No entanto, isso não é explicado nos Padrões da Comunidade públicos. Da mesma forma, a política sobre conteúdo violento e explícito proíbe imagens que retratam morte violenta. A diretriz interna para os moderadores descreve como a Meta determina se uma morte parece violenta, mas isso não está incluído na política pública.

Nesse caso, a maioria do Comitê considera que a imagem da publicação não inclui indicadores claros de violência, o que, de acordo com a diretriz interna da Meta para moderadores, justificaria o uso de uma tela de aviso.

No geral, o Comitê considera improvável essa publicação aumentar a violência. No entanto, ele observa que há complexidades adicionais na avaliação do discurso violento em situações de conflito internacional em que o direito internacional permite que os combatentes sejam alvos. A invasão russa da Ucrânia é reconhecida internacionalmente como ilegal. O Comitê pede que a Meta revise suas políticas para considerar as circunstâncias da intervenção militar ilegal.

A decisão do Comitê de Supervisão

O Comitê de Supervisão anula a decisão original da Meta de remover a publicação e sua subsequente determinação de que a imagem contida nela violou a política sobre conteúdo violento e explícito, na qual a Meta colocou uma tela de aviso.

O Comitê recomenda que a Meta:

• Altere o Padrão da Comunidade sobre violência e incitação público para esclarecer, com base na interpretação da política da Meta, que ela permite conteúdo com "referência neutra a um resultado potencial".
• Inclua uma explicação de como ela determina se uma imagem retrata “a morte violenta de uma pessoa” no Padrão da Comunidade sobre conteúdo violento e explícito público.
• Avalie a viabilidade de inserir ferramentas que permitam aos usuários adultos decidir se querem ver o conteúdo explícito e, em caso afirmativo, se querem vê-lo com ou sem a tela de aviso.

* Os resumos de caso dão uma visão geral da ocorrência e não têm valor precedente.

Decisão completa sobre o caso

1. Resumo da decisão

O Comitê de Supervisão anula a decisão original da Meta de remover uma publicação do Facebook abordando o conflito na Ucrânia. O conteúdo, que está no idioma russo e foi publicado na Letônia, é composto por uma foto de uma vista de rua onde há uma pessoa deitada no chão – provavelmente morta – , seguida de um texto. O texto inclui citações de um conhecido poema do poeta soviético Konstantin Simonov que pede resistência contra os invasores alemães durante a Segunda Guerra Mundial e insinua que os invasores russos estão desempenhando um papel semelhante na Ucrânia àquele que os soldados alemães desempenharam na URSS. Depois que o Comitê selecionou esta publicação para análise, a Meta mudou sua posição e restaurou o conteúdo na plataforma. O conteúdo levanta questões importantes relacionadas às políticas sobre discurso de ódio e violência e incitação da Meta. Algumas semanas depois de decidir restaurar a publicação, a Meta afixou uma tela de aviso na foto. A maioria do Comitê considera que a imagem fotográfica não viola a política sobre conteúdo violento e explícito, pois a imagem não tem indicadores visuais claros de violência, conforme descrito nas diretrizes internas da Meta aos moderadores de conteúdo, o que justificaria o uso da tela de aviso.

2. Descrição do caso e histórico

Em abril de 2022, um usuário do Facebook na Letônia publicou uma foto e um texto em russo no seu Feed de Notícias. A publicação foi vista aproximadamente 20.000 vezes, compartilhada cerca de 100 vezes e recebeu quase 600 reações e mais de 100 comentários.

A foto mostra uma vista da rua com uma pessoa deitada no chão e imóvel, provavelmente morta, ao lado de uma bicicleta caída. Não havia feridas visíveis. O texto começa com “eles queriam repetir e repetiram”. A publicação comenta sobre supostos crimes cometidos por soldados soviéticos na Alemanha durante a Segunda Guerra Mundial. Ela afirma que esses crimes foram justificados pelo fato de que os soldados estavam se vingando dos horrores causados pelos nazistas à URSS. Depois, fez uma conexão entre a Segunda Guerra Mundial e a invasão da Ucrânia, argumentando que o exército russo “became fascist” (tornou-se fascista). A publicação descreve que o exército russo na Ucrânia “rape[s] girls, wound[s] their fathers, torture[s] and kill[s] peaceful people” (estupra meninas, fere seus pais, tortura e mata pessoas pacíficas). Ela conclui que “after Bucha, Ukrainians will also want to repeat ... and will be able to repeat” (depois de Bucha, os ucranianos também vão querer repetir... e poderão repetir) tais ações. No fim da publicação, o usuário compartilha trechos do poema “Kill him!” (Mate-o!) escrito pelo poeta soviético Konstantin Simonov, incluindo os versos: “kill the fascist so he will lie on the ground’s backbone, not you”; “kill at least one of them as soon as you can” (mate o fascista para que ele, e não você, deite no chão; mate pelo menos um deles assim que puder); “Kill him! Kill him! Kill!”

No mesmo dia em que o conteúdo foi publicado, outro usuário o denunciou como conteúdo violento e explícito. Com base na decisão de um analista humano, a Meta removeu o conteúdo por violar os Padrões da Comunidade sobre discurso de ódio. Horas depois, o usuário que publicou o conteúdo fez uma apelação, e um segundo analista avaliou o conteúdo como uma violação da mesma política.

O usuário fez uma apelação ao Comitê de Supervisão. Como o Comitê selecionou a apelação para análise em 31 de maio de 2022, a Meta determinou que a decisão anterior de remover o conteúdo estava errada e o restaurou. Em 23 de junho de 2022, 23 dias após a restauração do conteúdo, a Meta colocou uma tela de aviso na foto da publicação de acordo com os Padrões da Comunidade sobre conteúdo violento e explícito, pois ela mostrava a morte violenta de uma pessoa. A tela de aviso diz “conteúdo sensível – esta foto pode mostrar conteúdo violento ou explícito” e oferece aos usuários duas opções: “saiba mais” e “ver foto”.

O seguinte histórico factual é relevante para a decisão do Comitê e é baseado em uma pesquisa encomendada pelo Comitê:

• A invasão russa da Ucrânia foi reconhecida como ilegal pela Assembleia Geral das Nações Unidas em 2 de março de 2022 (A/RES/ES-11/1).
• Michelle Bachelet, Alta Comissária da ONU para os Direitos Humanos, expressou preocupação sobre “questões sérias e perturbadoras de possíveis crimes de guerra, graves violações do direito humanitário internacional e graves violações do direito internacional dos direitos humanos” na Ucrânia.
• Nas culturas pós-soviéticas, o termo “fascista” geralmente se refere aos nazistas alemães, especialmente no contexto da Segunda Guerra Mundial. No entanto, a definição de “fascista” não está mais diretamente associada aos nazistas alemães. Na Rússia e na Ucrânia, o termo tornou-se confuso devido a discussões políticas em que ele tem sido usado para estigmatizar oponentes em diferentes partes do espectro político.
• A primeira frase da publicação “They wanted to repeat and repeated” (Eles queriam repetir e repetiram) é uma referência a “[w]e can repeat,” ([nós] podemos repetir); um slogan russo popular, usado para se referir à vitória soviética contra os nazistas durante a Segunda Guerra Mundial. O usuário ainda faz alusão a esse slogan ao afirmar que “after Bucha, Ukrainians will also want to repeat... and will be able to repeat” (depois de Bucha, os ucranianos também vão querer repetir... e poderão repetir) as ações do exército russo.

3. Escopo e autoridade do Comitê de Supervisão

O Comitê tem autoridade para analisar a decisão da Meta após uma apelação do usuário cujo conteúdo foi removido (Artigo 2, Seção 1 do Estatuto; e Seção 1 do Artigo 3 dos Regulamentos Internos). De acordo com o Artigo 3 da Seção 5 do Estatuto, o Comitê pode manter ou revogar a decisão da Meta, decisão essa que é vinculante para a empresa, segundo o Artigo 4 do Estatuto. A Meta também deve avaliar a viabilidade de aplicar sua decisão no que diz respeito a conteúdo idêntico em contexto paralelo, segundo o Artigo 4 do Estatuto. As decisões do Comitê podem incluir recomendações de política, além de sugestões não vinculantes às quais a Meta deve responder, de acordo com o Artigo 3 e 4 da Seção 4 do Estatuto .

Quando o Comitê seleciona casos como este, nos quais a Meta concorda que cometeu um erro, o Comitê analisa a decisão original para ajudar a ampliar a compreensão do motivo dos erros e fazer observações ou recomendações que podem contribuir para reduzir os erros e melhorar os procedimentos para que sejam mais justos e transparentes.

4. Fontes de autoridade

O Comitê de Supervisão considerou as seguintes autoridades e padrões:

I. Decisões do Comitê de Supervisão:

As decisões anteriores mais pertinentes do Comitê de Supervisão incluem:

• Caso “Gabinete de Comunicações da Região do Tigré” (2022-006-FB-MR). Nesse caso, o Comitê manteve a decisão da Meta de retirar o conteúdo após concluir que, devido ao perfil do usuário (um ministério do governo regional), a linguagem adotada (um apelo explícito para matar soldados que não se renderem) e o alcance da página (cerca de 260.000 seguidores), havia um alto risco de que publicação pudesse causar mais violência.
• Caso “Vídeo explícito do Sudão” (2022-002-FB-MR). Nesse caso, o Comitê recomendou à Meta: (i) alterar o Padrão da Comunidade sobre conteúdo violento e explícito para permitir vídeos de pessoas ou cadáveres quando compartilhados com o objetivo de conscientizar ou documentar abusos de direitos humanos; e (ii) empreender um processo de desenvolvimento de políticas que desenvolva critérios para identificar vídeos de pessoas ou cadáveres quando compartilhados com o objetivo de aumentar a conscientização ou documentar abusos de direitos humanos.

II. Políticas de conteúdo da Meta:

De acordo com o Padrão da Comunidade sobre discurso de ódio, a Meta não permite discurso "violento" ou "desumanizante" direcionado a pessoas ou grupos com base nas suas características protegidas. A política afirma que “discurso desumanizante” inclui “comparações, generalizações ou declarações comportamentais não qualificadas sobre... criminosos violentos e sexuais”. A política não se aplica explicitamente a declarações comportamentais qualificadas. Grupos descritos como “tendo cometido crimes violentos ou ofensas sexuais” não são protegidos contra ataques nos termos da política sobre discurso de ódio.

De acordo com o Padrão da Comunidade sobre violência e incitação, a Meta não permite "ameaças que podem levar à morte (e outras formas de violência de alta gravidade)", em que "ameaça" é definida como, entre outras coisas, “incitações de violência de alta gravidade” e “declarações que defendem a violência de alta gravidade”. As diretrizes internas da Meta para analistas de conteúdo esclarecem que a empresa interpreta essa política de forma a permitir conteúdo que inclua declarações com “referência neutra a um possível resultado de uma ação ou um aviso de advertência”.

De acordo com o Padrão da Comunidade sobre conteúdo violento e explícito, "imagens que mostram a morte violenta de uma pessoa ou de várias pessoas por acidente ou assassinato" são cobertas por uma tela de aviso.

III. Os valores da Meta:

A Meta descreveu os valores do Facebook de “Liberdade de expressão”, “Dignidade” e “Segurança”, entre outros, na introdução aos Padrões da Comunidade. Esta decisão se baseará nesses valores se relevantes para a decisão.

IV. Padrões internacionais dos direitos humanos:

Os Princípios Orientadores da ONU sobre Empresas e Direitos Humanos ( UNGPs), sancionados pelo Conselho de Direitos Humanos da ONU em 2011, estabelecem uma estrutura voluntária de responsabilidades sobre direitos humanos por parte das empresas privadas. Em 2021, a Meta anunciou sua Política Corporativa de Direitos Humanos, em que reafirmou seu compromisso com relação aos direitos humanos de acordo com os UNGPs. Neste caso, os Padrões de Direitos Humanos a seguir foram levados em consideração na análise que o Comitê fez das responsabilidades da Meta em termos de direitos humanos.

• Os direitos à liberdade de opinião e de expressão: Artigo 19, Pacto Internacional dos Direitos Civis e Políticos (PIDCP), Comentário Geral 34, Comitê de Direitos Humanos (2011); Relator Especial da ONU sobre os relatórios de liberdade de opinião e expressão: A/HRC/38/35 (2018), A/74/486 (2019) e A/HRC/44/49/Add.2 (2020); Alto Comissária das Nações Unidas para os Direitos Humanos, relatório: A/HRC/22/17/Add.4 (2013).
• Igualdade e não discriminação: Artigo 2, parágrafo 1, PIDCP.
• Direito à segurança física: Artigo 9 do PIDCP.
• Direito à vida: Artigo 6 do PIDCP.

5. Envios do usuário

Na apelação ao Comitê, o usuário afirma que a foto compartilhada é a “most innocuous” (mais inofensiva) das imagens que documentam os “crimes of the Russian army in the city of Bucha” (crimes do exército russo na cidade de Bucha), “where dozens of dead civilians lie on the streets” (onde dezenas de civis mortos jazem nas ruas). O usuário afirma que sua publicação não incita violência e aborda uma “past history and the present” (história do passado e do presente). Ele informa que o poema foi originalmente dedicado à “struggle of Soviet soldiers against the Nazis” (luta dos soldados soviéticos contra os nazistas) e que a publicação foi feita para mostrar como “the Russian army became an analogue of the fascist army” (o exército russo se tornou um análogo do exército fascista). Como parte da apelação, o usuário afirma que é jornalista e acredita que é importante as pessoas entenderem o que está acontecendo, especialmente em tempos de guerra.

6. Envios da Meta

Na justificativa apresentada pela Meta ao Comitê, a empresa analisou o conteúdo deste caso à luz de três políticas diferentes, começando pelo discurso de ódio. A Meta concentrou-se no motivo pelo qual a empresa reverteu sua decisão original, em vez de explicar como chegou a ela. De acordo com a Meta, alegar que os soldados russos cometeram crimes no contexto do conflito Rússia-Ucrânia não constitui um ataque de acordo com a política sobre discurso de ódio porque declarações comportamentais qualificadas são permitidas na plataforma. A Meta também explicou que o fascismo é uma ideologia política, e meramente vincular o exército russo a uma determinada ideologia política não constitui um ataque porque “o exército russo é uma instituição e, portanto, não é um grupo ou subconjunto de característica protegida coberto pela política sobre discurso de ódio (ao contrário dos soldados russos, que são pessoas)”. Por fim, a Meta indicou que os diferentes trechos do poema “Kill him!” citado no texto da publicação (por exemplo, “mate um fascista”, “mate pelo menos um deles”, “mate-o!”) referem-se a “nazistas” no contexto da Segunda Guerra Mundial, e os nazistas não são um grupo protegido.

A Meta também analisou a publicação à luz da sua política sobre violência e incitação. A este respeito, ela explicou que afirmar que “os ucranianos também vão querer repetir… e poderão repetir” ações após os acontecimentos em Bucha não defende a violência. A Meta afirmou que essa é uma “referência neutra a um resultado potencial”, que a empresa interpreta como permitida pela política sobre violência e incitação. A Meta também afirmou que citar o poema de Simonov era uma forma de aumentar a conscientização sobre o potencial de a história se repetir na Ucrânia. Por fim, a empresa explicou que defender a violência contra indivíduos cobertos pela política sobre organizações e indivíduos perigosos, como os nazistas (referidos como “fascistas” no poema de Simonov), é permitido de acordo com o Padrão da Comunidade sobre violência e incitação.

A Meta explicou então que uma tela de aviso e restrições de idade apropriadas foram inseridas à publicação segundo a política sobre conteúdo violento e explícito porque a imagem incluída no conteúdo mostra a morte violenta de uma pessoa. A Meta confirmou que a imagem retrata um indivíduo que foi baleado em Bucha, na Ucrânia.

Em resposta às perguntas do Comitê, a Meta forneceu mais explicações sobre as iniciativas que desenvolveu no contexto do conflito na Ucrânia. Ela confirmou, no entanto, que nenhuma dessas iniciativas foi relevante para a remoção inicial do conteúdo nesse caso ou a decisão de restaurá-lo com uma tela de aviso. A empresa acrescentou que tomou várias medidas consistentes com os Princípios Orientadores da ONU sobre Empresas e Direitos Humanos para garantir a devida diligência em tempos de conflito. Essas etapas incluíram o engajamento com a sociedade civil ucraniana e russa e a mídia independente russa para buscar feedback sobre o impacto das medidas adotadas pela Meta no início do conflito.

O Comitê fez 11 perguntas à Meta, que respondeu a todas elas na íntegra.

7. Comentários públicos

O Comitê de Supervisão recebeu oito comentários públicos relacionados a este caso. Três dos comentários foram enviados da Europa, quatro dos Estados Unidos e do Canadá, e um da América Latina e do Caribe. Os envios abordaram os seguintes temas: conflito armado internacional; a importância do contexto na moderação de conteúdo; o papel dos jornalistas em situações de conflito; a documentação de crimes de guerra; e expressão artística.

Para ler os comentários públicos enviados sobre este caso, clique aqui.

8. Análise do Comitê de Supervisão

O Comitê inicialmente examinou se o conteúdo era permitido pelas políticas de conteúdo da Meta, se foi interpretado quando necessário à luz dos valores da plataforma e, em seguida, avaliou se o tratamento do conteúdo está de acordo com as responsabilidades de direitos humanos da empresa.

Esse caso foi selecionado pelo Comitê porque a remoção da publicação levantou preocupações importantes sobre a expressão artística e as referências culturais reaproveitadas em novos contextos que podem incitar a violência em situações de conflito. Os espaços de expressão online são particularmente importantes para as pessoas impactadas pela guerra, e as empresas de mídia social devem prestar atenção especial à proteção dos direitos dessas pessoas. Esse caso demonstra como a falta de análise contextual, que é comum na moderação de conteúdo em larga escala, pode impedir os usuários de expressar opiniões sobre conflitos e traçar paralelos históricos provocativos.

8.1 Conformidade com as políticas de conteúdo da Meta

O Comitê considera que o conteúdo nesse caso não viola o Padrão da Comunidade sobre discurso de ódio ou o Padrão sobre violência e incitação. A maioria do Comitê considera que o conteúdo não viola o Padrão da Comunidade sobre conteúdo violento e explícito.

I. Discurso de ódio

A política sobre discurso de ódio da Meta proíbe ataques contra pessoas com base em características protegidas, inclusive nacionalidade. A profissão recebe “algumas proteções” quando referenciada junto com uma característica protegida. As diretrizes internas da empresa para moderadores esclarecem ainda que “subconjuntos quase protegidos”, incluindo grupos definidos por uma característica protegida mais uma profissão (por exemplo, soldados russos), geralmente têm direito à proteção contra ataques de discurso de ódio Nível 1. Tais ataques incluem, entre outros, "discurso violento" e "discurso desumanizante... na forma de comparações, generalizações ou declarações comportamentais não qualificadas" "para ou sobre... criminosos violentos e sexuais". A política sobre discurso de ódio da Meta não oferece proteção a “grupos descritos como tendo realizado crimes violentos ou crimes sexuais”.

Afirmações genéricas de que soldados russos têm propensão a cometer crimes podem, dependendo do conteúdo e do contexto, violar a política sobre discurso de ódio da Meta. Essas alegações podem se enquadrar na proibição de “discurso desumanizante” segundo a política, na forma de “declarações comportamentais não qualificadas”. A política da Meta faz a distinção entre: (i) a atribuição de má índole ou traços indesejáveis ​​a um grupo por causa de sua etnia, nacionalidade ou outras características protegidas (é o que Meta quer dizer por “generalizações”); (ii) a crítica de membros de um grupo sem contexto (é o que Meta quer dizer com “declarações comportamentais não qualificadas”); e (iii) a crítica de membros de um grupo por seu comportamento passado (é o que Meta quer dizer com “declarações comportamentais qualificadas”). Nesse caso, as alegações sobre a invasão de soldados russos são feitas no contexto de suas ações no conflito na Ucrânia, não em geral.

A questão aqui é se a comparação de soldados russos com fascistas alemães da Segunda Guerra Mundial e a afirmação de que eles estupraram mulheres, mataram seus pais e torturaram pessoas inocentes violaram a política sobre discurso de ódio da Meta. Tanto a Meta quanto o Comitê concluem que a publicação não constitui um discurso violento ou desumanizante segundo a política sobre discurso de ódio, embora por razões diferentes. Essa foi a única parte da política sobre discurso de ódio que foi identificada como relevante para a publicação.

A Meta argumenta que a publicação não viola a política porque as acusações são dirigidas ao exército russo, que é uma instituição, e não aos soldados russos, que são pessoas. O Comitê considera que essa distinção não se aplica a esse caso, uma vez que o usuário se refere a “exército” e “soldados” de forma intercambiável.

No entanto, o Comitê considera permitida a acusação do usuário de que soldados russos cometeram crimes comparáveis ​​aos nazistas no contexto da invasão russa da Ucrânia. Isso porque atribuir ações específicas (por exemplo, “eles começaram a se vingar – estuprar meninas, esfaquear seus pais, torturar e matar pessoas pacíficas da periferia de Kyiv”) e comparar as ações dos soldados russos na Ucrânia com outros exércitos conhecidos por cometeram crimes de guerra (por exemplo, “o exército russo, após 70 anos, repetiu completamente as ações na Alemanha e o [exército] alemão, na Ucrânia”) são declarações “qualificadas” relacionadas ao comportamento observado durante um conflito específico.

O Comitê considera, portanto, que comparar as ações dos soldados russos em um contexto específico com os crimes dos nazistas é permitido conforme os Padrões da Comunidade, independentemente de uma comparação genérica com os nazistas ser ou não permitida. De acordo com as diretrizes internas da Meta, o material que pode constituir discurso de ódio não viola a política se for direcionado a grupos “descritos como tendo cometido crimes violentos ou ofensas sexuais”. De forma mais ampla, não viola a política sobre discurso de ódio denunciar casos de violação de direitos humanos em um contexto específico, mesmo que essas pessoas sejam identificadas por referência à sua nacionalidade.

O Comitê considera ainda que os diferentes trechos do poema “Kill him!” citado no conteúdo (por exemplo, “mate um fascista”, “mate pelo menos um deles”, “mate-o!”) não devem ser considerados “discurso violento” porque, quando lidos em conjunto com o restante da publicação, o Comitê entende que o usuário está chamando a atenção para o ciclo da violência, e não incitando a violência.

Finalmente, o Comitê conclui que os soldados russos são criticados na publicação por causa de seu papel como combatentes, não por sua nacionalidade. As alegações não são ataques direcionados a um grupo “com base” em suas características protegidas. Ele também conclui que o conteúdo não é discurso de ódio, porque nenhuma característica protegida está envolvida.

II. Violência e incitação

Na política sobre violência e incitação, a Meta remove “pedidos por violência de alta gravidade”, “declarações defendendo violência de alta gravidade” e “declarações aspiracionais ou condicionais para cometer violência de alta gravidade”, entre outros tipos de expressão. As diretrizes internas da empresa para moderadores esclarecem ainda que a Meta interpreta esse Padrão da Comunidade de forma a permitir declarações com “referência neutra a um possível resultado de uma ação ou um aviso de advertência”. Além disso, elas explicam que o “conteúdo que condena ou conscientiza sobre ameaças violentas” também é permitido pela política sobre violência e incitação. Isso se aplica a conteúdo que “claramente procura informar e educar outras pessoas sobre um tópico ou questão específica; ou conteúdo que fala da experiência de alguém como sendo alvo de uma ameaça ou violência”, incluindo relatórios acadêmicos e da mídia.

A Meta explicou ao Comitê que decidiu restaurar esse conteúdo porque a publicação não defendia a violência. A empresa caracteriza a afirmação do usuário de que “os ucranianos também vão querer repetir … e poderão repetir” ações após os eventos em Bucha como uma “referência neutra a um resultado potencial”, que interpreta como permitido pela política sobre violência e incitação. A Meta também afirmou que citar o poema de Simonov era uma forma de aumentar a conscientização sobre o potencial de a história se repetir na Ucrânia. Por fim, considerando que o poema de Simonov é dirigido contra os fascistas alemães, ela observa que a defesa da violência contra indivíduos abrangidos pela política sobre organizações e indivíduos perigosos, como os nazistas, é permitida pelo Padrão da Comunidade sobre violência e incitação.

O Comitê é parcialmente convencido por esse raciocínio. Ele concorda que a frase “os ucranianos também vão querer repetir... e poderão repetir” ações não pede nem defende a violência. Se lida literalmente, essa parte da publicação apenas afirma que os ucranianos podem responder tão violentamente às ações do exército russo quanto os soviéticos fizeram aos nazistas. Em outras palavras, é uma “referência neutra a um resultado potencial”, o que é permitido conforme a interpretação da Meta da política sobre violência e incitação e explicado nas diretrizes internas fornecidas aos moderadores de conteúdo.

O Comitê também acredita que os trechos com linguagem violenta do poema “Kill him!” citado na seção acima podem ser lidos como descrevendo, e não encorajando, um estado de espírito. Quando lidos em conjunto com a publicação inteira, incluindo a imagem fotográfica, os trechos fazem parte de uma mensagem mais ampla de alerta sobre o potencial de a história se repetir na Ucrânia. São uma referência artística e cultural empregada como dispositivo retórico pelo usuário para transmitir sua mensagem. Portanto, o Comitê conclui que essa parte do conteúdo também é permitida pelas diretrizes internas da Meta.

No entanto, ele afirma que a Meta está sendo irrealista ao analisar a publicação como se fosse apenas uma incitação à violência contra os nazistas. O usuário deixa claro que as pessoas consideram os soldados russos na Ucrânia semelhantes aos alemães na Rússia durante a Segunda Guerra Mundial. Como a publicação, com suas citações do poema de Simonov, pode ser considerada uma referência aos soldados que agora cometem atrocidades contra civis, existe o risco de que os leitores interpretem isso como uma incitação à violência contra os soldados russos hoje. No entanto, o Comitê concorda com a conclusão da Meta de que a publicação não viola o Padrão sobre violência e incitação porque seu significado principal, no contexto, é um aviso contra um ciclo de violência.

III. Conteúdo violento e explícito

Segundo a política sobre conteúdo violento e explícito, a Meta adiciona rótulos de aviso ao conteúdo “para que as pessoas estejam cientes da natureza explícita ou violenta antes de clicar”. Esse é o caso para “imagens que mostrem a morte violenta de uma ou mais pessoas por acidente ou homicídio”. Nas suas diretrizes internas para moderadores de conteúdo, a Meta descreve como “indicadores de uma morte violenta” imagens explícitas das “consequências de uma morte violenta em que a vítima aparece morta ou visivelmente incapacitada, e há indicadores visuais adicionais de violência”, como “sangue ou feridas no corpo, sangue ao redor da vítima, corpo inchado ou descolorido, ou corpos em escombros”. As diretrizes internas explicam ainda que corpos sem “qualquer indicador visível de morte violenta” ou sem “pelo menos um indicador de violência” não devem ser considerados uma representação de “morte violenta”.

A foto incluída no conteúdo mostra uma vista de uma rua com uma pessoa deitada imóvel no chão. Não havia feridas visíveis. A Meta confirmou que a pessoa foi baleada em Bucha, na Ucrânia. O Comitê observa que os moderadores de conteúdo não necessariamente teriam acesso a esse tipo de informação. A maioria do Comitê considera que a política sobre conteúdo violento e explícito não foi violada porque a imagem carece de indicadores visuais claros de violência, conforme descrito nas diretrizes internas da Meta para moderadores de conteúdo. Portanto, a maioria conclui que uma tela de aviso não deveria ter sido aplicada.

Considerando o contexto do conflito armado na Ucrânia e os destroços retratados na imagem, uma minoria do Comitê considera que o conteúdo viola a política sobre conteúdo violento e explícito.

IV. Ação de aplicação

O conteúdo foi denunciado por um usuário como conteúdo violento e explícito, mas foi retirado de acordo com a política sobre discurso de ódio. Ele foi restaurado somente depois que o Comitê levou à atenção da Meta. Em resposta às perguntas do Comitê, a Meta explicou que o conteúdo do caso não foi encaminhado para especialistas no assunto ou em políticas para uma análise adicional. "Encaminhado para análise" significa que, em vez de a decisão ser analisada pelos moderadores de conteúdo que conduzem a análise em escala, ela seja enviada para uma equipe interna da Meta responsável pela política ou tópico relevante.

8.2 Conformidade com os valores da Meta

O Comitê considera que remover o conteúdo e colocar uma tela de aviso sobre a imagem incluída não é consistente com os valores da Meta.

Ele está preocupado com a situação dos civis russos e os possíveis efeitos do discurso violento contra os russos em geral. No entanto, nesse caso, o Comitê considera que o conteúdo não representa um risco real para a “Dignidade” e “Segurança” dessas pessoas que justificariam a omissão da “Liberdade de expressão”, especialmente em um contexto em que a Meta deve garantir que os usuários impactados pela guerra consigam discutir suas implicações.

8.3 Conformidade com as responsabilidades sobre direitos humanos da Meta

O Comitê considera que a decisão inicial da Meta de remover o conteúdo e aplicar uma tela de aviso ao conteúdo foi inconsistente com as responsabilidades de direitos humanos da Meta como empresa. A Meta se comprometeu a respeitar os direitos humanos de acordo com os Princípios Orientadores da ONU (UNGPs) sobre Empresas e Direitos Humanos. A Política Corporativa de Direitos Humanos do Facebook afirma que isso inclui o Pacto Internacional sobre Direitos Civis e Políticos (PIDCP).

Liberdade de expressão (Artigo 19 do PIDCP)

O escopo do direito de liberdade de expressão é amplo. Artigo 19, par. 2, do PIDCP dá maior proteção à expressão, incluindo expressão artística, sobre questões políticas e comentários sobre assuntos públicos, bem como para discussões de direitos humanos e reivindicações históricas (Comentário geral nº. 34, parágrafos 11 e 49). Mesmo a expressão que possa ser considerada “profundamente ofensiva” tem direito à proteção (Comentário geral nº. 34, parágrafo 11). O conteúdo em análise pelo Comitê nesse caso contém linguagem forte. No entanto, trata-se de um discurso político e chama a atenção para os abusos dos direitos humanos em um contexto de guerra.

O conteúdo nesse caso incluía citações de um conhecido poema de guerra, que o usuário empregou como uma referência cultural provocativa para instruir e alertar seu público sobre as possíveis consequências das ações dos soldados russos na Ucrânia. O Relator Especial da ONU sobre liberdade de expressão destacou que a expressão artística inclui “as histórias fictícias e não ficcionais que educam, divertem ou provocam” (A/HRC/44/49/Add.2, parágrafo 5).

O artigo 19 do PIDCP exige que, quando um estado aplica restrições à expressão, elas devem atender aos requisitos de legalidade, objetivo legítimo e necessidade e proporcionalidade (artigo 19, parágrafo 3, PIDCP). O relator especial da ONU sobre liberdade de expressão encorajou as redes sociais a serem guiadas por esses princípios na moderação da expressão online (A/HRC/38/35, parágrafos. 45 e 70).

I. Legalidade (clareza e acessibilidade das regras)

O princípio da legalidade exige que as regras usadas para limitar a expressão sejam claras e acessíveis (Comentário Geral nº. 34, parágrafo 25). O Comitê de Direitos Humanos observou também que as regras “não podem conceder liberdade de ação irrestrita para a restrição da liberdade de expressão aos encarregados de executá-las” (Comentário Geral 34, parágrafo 25). As pessoas devem ter informações suficientes para determinar se e como sua expressão pode ser limitada e ajustar seu comportamento em conformidade. Aplicando as regras de conteúdo da Meta para o Facebook, os usuários deverão ser capazes de saber o que é permitido e o que é proibido.

Duas seções das diretrizes internas da Meta sobre como aplicar o Padrão da Comunidade sobre violência e incitação são particularmente relevantes para a conclusão alcançada pela Meta e pelo Comitê de que o conteúdo deve permanecer no Facebook. Primeiro, a Meta interpreta essa política de forma a permitir mensagens que alertam sobre a possibilidade de violência por terceiros se forem declarações com “referência neutra a um possível resultado de uma ação ou um aviso de advertência”. Em segundo lugar, o conteúdo violador é permitido se “condenar ou aumentar a conscientização sobre ameaças violentas”. O Comitê observa, no entanto, que essas diretrizes internas não estão incluídas no texto público do Padrão da Comunidade sobre violência e incitação. Isso pode fazer com que os usuários acreditem erroneamente que o conteúdo como essa publicação é uma violação. A Meta deve integrar essas seções à versão pública da política sobre violência e incitação para que fique suficientemente clara para os usuários. O Comitê sabe que divulgar mais detalhes sobre as políticas de conteúdo da Meta pode permitir que usuários com intenções maliciosas burlem os Padrões da Comunidade com mais facilidade. No entanto, ele considera que a necessidade de clareza e especificidade prevalece sobre a preocupação de que alguns usuários possam tentar “burlar o sistema”. Não saber que “referências neutras a um resultado potencial”, “avisos de advertência”, “condenação” ou “conscientização” de ameaças violentas são permitidas pode fazer com que os usuários evitem iniciar ou se envolver em discussões de utilidade pública nas plataformas da Meta.

O Comitê também acredita que, neste caso, a decisão da Meta de mostrar uma tela de aviso seja inconsistente com as diretrizes internas para moderadores de conteúdo. Além disso, a interpretação da Meta da política sobre conteúdo violento e explícito pode não ser clara para os usuários. A Meta deve procurar esclarecer, na versão pública da política, como a empresa interpreta a política e como determina se uma imagem “mostra a morte violenta de uma pessoa ou pessoas por acidente ou assassinato”, no contexto de conflito, de acordo com as diretrizes internas para moderadores de conteúdo.

Além disso, a Meta informou ao Comitê que nenhuma mensagem foi enviada ao usuário que originalmente denunciou o conteúdo para informar que a publicação foi restaurada pela empresa. Isso levanta questões de legalidade, pois a falta de informações relevantes para os usuários pode interferir na "capacidade do indivíduo de contestar ações de conteúdo ou acompanhar reclamações relacionadas" (A/HCR/38/35, no parágrafo 58). O Comitê observa que notificar os denunciantes sobre a ação de aplicação das regras tomada contra o conteúdo que denunciaram e qual foi o Padrão da Comunidade aplicado ajudaria os usuários a entender e seguir melhor as regras da Meta.

II. Objetivo legítimo

Qualquer restrição à liberdade de expressão também deve ter um “objetivo legítimo”. O Comitê reconheceu anteriormente que o Padrão da Comunidade sobre discurso de ódio tem o objetivo legítimo de proteger os direitos de terceiros (Comentário Geral nº. 34, parágrafo 28), incluindo os direitos à igualdade e não discriminação com base na etnia e nacionalidade (Artigo 2, parágrafo 1, PIDCP). Proteger os russos atacados ​​pelo ódio é, portanto, um objetivo legítimo. No entanto, o Comitê considera que proteger “soldados” de alegações de irregularidades não é um objetivo legítimo quando são criticados ​​por causa do seu papel como combatente durante uma guerra, não por causa da sua nacionalidade ou outra característica protegida. A crítica a instituições como o exército não deve ser proibida (Comentário Geral nº 34, parágrafo 38).

O Padrão sobre violência e incitação, devidamente enquadrado e aplicado, tem o objetivo legítimo de proteger os direitos de terceiros. No contexto deste caso, essa política visa prevenir a escalada da violência que poderia levar a danos à segurança física (Artigo 9, PIDCP) e à vida (Artigo 6, PIDCP) das pessoas nas áreas afetadas pelo conflito Rússia-Ucrânia.

O Comitê observa que há complexidades adicionais envolvidas na avaliação do discurso violento no contexto da resistência armada a uma invasão. A invasão russa da Ucrânia é reconhecida internacionalmente como ilegal (A/RES/ES-11/1), e o uso da força como autodefesa contra tais atos de agressão é permitido (Artigo 51, Carta da ONU). Em um contexto de conflito armado internacional, o Direito Humanitário Internacional sobre a conduta das partes nas hostilidades permite que combatentes ativos sejam legalmente visados ​​no decorrer de um conflito armado. Esse não é o caso de pessoas que não participam mais ativamente das hostilidades, incluindo prisioneiros de guerra (Artigo 3, Convenção de Genebra relativa ao tratamento de prisioneiros de guerra). Quando a violência é lícita segundo o direito internacional, o discurso que incita tal violência apresenta diferentes considerações que devem ser examinadas separadamente. Embora o Comitê tenha considerado o conteúdo deste caso como não violador, ele pede que a Meta revise suas políticas para levar em consideração as circunstâncias da intervenção militar ilegal.

Com referência à decisão da empresa de colocar uma tela de aviso na foto, a Meta observa que a política sobre conteúdo violento e explícito visa promover um ambiente propício à participação diversificada, limitando “conteúdos que glorifiquem a violência ou celebrem o sofrimento ou humilhação de pessoas”. O Comitê concorda que esse objetivo é legítimo no contexto do propósito da Meta de promover uma plataforma inclusiva.

III. Necessidade e proporcionalidade

O princípio da necessidade e da proporcionalidade requer que qualquer restrição à liberdade de expressão “sejam apropriadas para cumprir sua função protetora; sejam o instrumento menos intrusivo entre aqueles que podem cumprir sua função protetora; e sejam proporcionais ao interesse a ser protegido” (Comentário geral n.º 34, parágrafo 34).

Para avaliar os riscos representados por conteúdo violento ou de ódio, o Comitê guia-se normalmente pelo teste de seis fatores descrito no Plano de Ação de Rabat, que aborda a defesa contra ódio nacional, racial ou religioso que constitua incitamento à hostilidade, discriminação ou violência. Nesse caso, o Comitê considera que, apesar do contexto de conflito armado em curso e das referências culturais empregadas pelo usuário, é improvável que a publicação – que é uma advertência contra um ciclo de violência – cause algum dano. Ele conclui que a remoção inicial do conteúdo não foi necessária. Além disso, a maioria do Comitê acredita que a tela de aviso também não era necessária, enquanto uma minoria considera que era uma medida necessária e proporcional.

Considerando os fatores relevantes para o caso, o Comitê conclui que, apesar do contexto da invasão ilegal da Ucrânia pela Rússia, em que o discurso potencialmente inflamatório poderia aumentar as tensões, a evidente intenção do usuário (conscientizar sobre a guerra e suas consequências), o tom reflexivo adotado ao citar um poema de guerra e a proliferação de outras comunicações sobre os horríveis eventos na Ucrânia significam que o conteúdo provavelmente não contribuirá significativamente para a exacerbação da violência.

A maioria do Comitê conclui que o uso de uma tela de aviso inibe a liberdade de expressão e não é uma resposta necessária nesse caso, pois a imagem fotográfica carece de indicadores visuais claros de violência, conforme descrito nas diretrizes internas da Meta para moderadores de conteúdo, que justificariam o uso da tela de aviso. As empresas de mídia social devem considerar uma série de possíveis respostas a conteúdo problemático para garantir que as restrições sejam ajustadas de forma restrita (A/74/486, parágrafo 51). Nesse sentido, o Comitê considera que a Meta deve desenvolver ainda mais ferramentas de customização para que os usuários possam decidir se querem ver conteúdo explícito sensível com ou sem avisos no Facebook e no Instagram.

Uma minoria do Comitê acredita que a tela de aviso foi uma medida necessária e proporcional, apropriadamente adaptada para incentivar a participação e a liberdade de expressão. Essa minoria acredita que, em consideração à dignidade das pessoas falecidas, especialmente no contexto de um conflito armado, e aos possíveis efeitos das imagens que retratam a morte e a violência em um grande número de usuários, a Meta pode errar pelo lado da prudência ao acrescentar telas de aviso sobre conteúdos como este que está sendo analisado.

9. Decisão do Comitê de Supervisão

O Comitê de Supervisão anula a decisão original da Meta de retirar o conteúdo e a determinação subsequente dela de que a política sobre conteúdo violento e explícito foi violada, o que levou a empresa a afixar uma tela de aviso na imagem da publicação.

10. Declaração de parecer consultivo

Política de conteúdo

1. A Meta deve adicionar à versão pública do Padrão da Comunidade sobre violência e incitação que a empresa interpreta a política de forma a permitir conteúdo contendo declarações “com referência neutra a um possível resultado de uma ação ou um aviso de advertência” e “que condene ou aumenta a conscientização sobre ameaças violentas”. O Comitê espera que essa recomendação, se implementada, exija que a Meta atualize a versão pública da política sobre violência e incitação para refletir essas inclusões.

2. A Meta deve adicionar à versão pública do Padrão da Comunidade sobre conteúdo violento e explícito detalhes das suas diretrizes internas sobre como a empresa determina se uma imagem “mostra a morte violenta de uma pessoa ou pessoas por acidente ou assassinato”. O Comitê espera que essa recomendação, se implementada, exija que a Meta atualize a versão pública do Padrão da Comunidade sobre conteúdo violento e explícito para refletir essa inclusão.

Monitoramento

3. A Meta deve avaliar a viabilidade de implementar ferramentas de personalização que permitiriam aos usuários maiores de 18 anos decidir se querem ver conteúdo explícito sensível com ou sem telas de aviso, tanto no Facebook quanto no Instagram. O Comitê espera que essa recomendação, se implementada, exija que a Meta publique os resultados de uma avaliação de viabilidade.

*Nota processual:

As decisões do Comitê de Supervisão são preparadas por grupos com cinco membros e aprovadas pela maioria do Comitê. As decisões do Comitê não representam, necessariamente, as opiniões pessoais de todos os membros.

Para a decisão sobre o caso em apreço, uma pesquisa independente foi contratada em nome do Comitê. Um instituto de pesquisa independente com sede na Universidade de Gotemburgo e com uma equipe de mais de 50 cientistas sociais de seis continentes, bem como mais de 3.200 especialistas de países do mundo todo. O Comitê também foi auxiliado pela Duco Advisors, uma empresa de consultoria especializada na intercessão entre as áreas de geopolítica, de confiança e segurança e de tecnologia. A empresa Lionbridge Technologies, LLC, cujos especialistas são fluentes em mais de 350 idiomas e trabalham de 5.000 cidades pelo mundo, forneceu a consultoria linguística.