Violência comunitária no estado indiano de Odisha

Para ler esta decisão no idioma odia, clique aqui.

ଏହି ନିଷ୍ପତ୍ତିକୁ ଓଡ଼ିଆରେ ପଢ଼ିବା ପାଇଁ ଏଠାରେ କ୍ଲିକ୍ କରନ୍ତୁ।

Resumo do caso

O Comitê de Supervisão confirmou a decisão da Meta de remover uma publicação no Facebook contendo um vídeo de violência comunitária no estado indiano de Odisha. O Comitê descobriu que a publicação violou as regras da Meta sobre violência e incitação. A maioria do Comitê também conclui que a decisão da Meta de remover todos os vídeos idênticos nas suas plataformas foi justificada no contexto específico de aumento de tensões e violência em andamento no estado de Odisha. Embora o conteúdo neste caso não tenha sido coberto por nenhuma exceção de política, o Comitê solicita à Meta para garantir que seu Padrão da Comunidade sobre Violência e Incitação permita conteúdo que "condene ou aumente a conscientização sobre ameaças violentas".

Sobre o caso

Em abril de 2023, um usuário do Facebook publicou um vídeo de um evento do dia anterior que mostra uma procissão religiosa em Sambalpur, no estado indiano de Odisha, relacionada ao festival hindu de Hanuman Jayanti. A legenda do vídeo traz o nome “Sambalpur”, que se refere a uma cidade em Odisha onde eclodiu um conflito intercomunitário entre hindus e muçulmanos durante o festival.

O vídeo mostra uma multidão carregando bandeiras cor de açafrão, associada ao nacionalismo hindu, e cantando "Jai Shri Ram" — termo que pode ser traduzido literalmente como "Salve Ram"(Deus hindu). Além dos contextos religiosos em que a frase é usada para expressar devoção a Ram, a expressão tem sido usada em algumas circunstâncias para promover hostilidade contra grupos minoritários, especialmente muçulmanos. O vídeo em questão mostra uma pessoa de pé na varanda de um prédio ao longo da rota da procissão jogando uma pedra em direção às pessoas que acompanhavam o evento. A multidão então atira pedras em direção ao edifício em meio a cantos de "Jai Shri Ram", "bhago" (que pode ser traduzido como "corra") e "Maro Maro" (que pode ser traduzido como "bata" ou "acerte"). O conteúdo foi visualizado aproximadamente 2 mil vezes e recebeu menos de 100 comentários e reações.

Após a violência que eclodiu durante a procissão religiosa mostrada no vídeo, o governo estadual de Odisha suspendeu os serviços de internet, bloqueou as plataformas de redes sociais e impôs um toque de recolher em várias áreas de Sambalpur. No contexto da violência que eclodiu durante a procissão, lojas foram supostamente incendiadas e uma pessoa foi morta.

Pouco depois dos eventos descritos no vídeo, a Meta recebeu uma solicitação da polícia de Odisha para remover um vídeo idêntico publicado por outro usuário com uma legenda diferente. A Meta considerou que a publicação violou os termos essenciais do Padrão da Comunidade sobre Violência e Incitação e adicionou o vídeo a um banco do Serviço de Correspondência de Mídias. Esse serviço localiza e sinaliza possível conteúdo de ação idêntico ou quase idêntico a fotos, vídeos ou texto previamente sinalizados.

A Meta informou ao Comitê que o banco do Serviço de Correspondência de Mídias foi criado para remover globalmente todas as instâncias do vídeo, independentemente da legenda, dados os riscos de segurança causados por esse conteúdo. Essa remoção geral foi aplicada a todos os vídeos idênticos, mesmo que se constituíssem como exceções da Meta para conscientização, condenação e interesse jornalístico. O Comitê observou que, considerando as configurações do banco de Serviço de Correspondência de Mídias, muitos itens de conteúdo idênticos a este vídeo foram removidos nos meses que se seguiram aos eventos em Sambalpur, Odisha.

Por meio do banco Serviço de Correspondência de Mídias, a Meta identificou o conteúdo em questão neste caso e o removeu, citando suas regras que proíbem "[i]ncitações de violência de alta gravidade, incluindo [...] a ação em que nenhum alvo é especificado, mas sim um símbolo que o representa e/ou inclui a imagem de um armamento ou método que representa a violência".

Principais conclusões

O Comitê considera que a publicação violou o Padrão da Comunidade sobre Violência e Incitação que proíbe “conteúdo que constitui uma ameaça crível à segurança pública ou pessoal”. A maioria do Comitê considera que, dada a violência em andamento em Odisha na época e o fato de que nenhuma exceção de política pode ser aplicada, o conteúdo apresentou um risco grave e provável de promover a violência. Uma minoria do Comitê acredita que a publicação poderia ser adequadamente removida no âmbito do Padrão da Comunidade sobre Violência e Incitação da Meta, mas por uma razão diferente. Como o vídeo mostrava um incidente passado de incitação sem pistas contextuais indicando que uma exceção de política deveria ser aplicada e um conteúdo semelhante estava sendo compartilhado com o objetivo de incitar a violência, a opção da Meta em remover o conteúdo foi justificada.

A maioria do Comitê conclui que a decisão da Meta de remover todos os vídeos idênticos nas suas plataformas, independentemente da legenda que acompanha, foi justificada no contexto da violência então em andamento. A maioria considera, no entanto, que tais medidas de aplicação devem ter um prazo determinado. Depois que a situação em Odisha mudar e o risco de violência associado ao conteúdo for reduzido, a Meta deve reavaliar suas medidas de aplicação para publicações que contenham o vídeo e aplicar suas exceções de política como de costume. No futuro, o Comitê poderá acolher abordagens que limitem essas medidas de aplicação abrangentes a um determinado período e a áreas geográficas que estão em risco elevado. Tais medidas permitiriam abordar melhor o risco de danos sem afetar desproporcionalmente a liberdade de expressão.

A minoria do Comitê considera que a remoção geral da Meta de todas as publicações incluindo um vídeo idêntico que descreve um incidente de incitação, independentemente de as publicações se qualificarem para suas exceções de conscientização ou condenação, não foi uma resposta proporcional e constituiu uma restrição indevida à expressão.

Embora o conteúdo neste caso não tenha sido coberto por nenhuma exceção de política, o Comitê observa que a exceção de "conscientização" segundo o Padrão da Comunidade sobre Violência e Incitação ainda não está disponível na linguagem voltada para o público da política. Sendo assim, os usuários ainda não sabem que violar o conteúdo é permitido se for compartilhado para condenar o ato ou aumentar a conscientização. Isso pode impedir que os usuários se envolvam em discussões de utilidade pública nas plataformas da Meta.

Decisão do Comitê de Supervisão

O Comitê de Supervisão mantém a decisão da Meta de remover o conteúdo.

O Comitê reitera recomendações de casos anteriores em que a Meta:

• Garante que o Padrão da Comunidade sobre Violência e Incitação permite conteúdo contendo declarações com "referência neutra a um resultado potencial de uma ação ou um aviso consultivo" e conteúdo que "condene ou aumente a conscientização sobre ameaças violentas".
• Fornece mais clareza aos usuários e explica na página de destino dos Padrões da Comunidade, da mesma forma que a empresa faz com a tolerância a conteúdo de interesse jornalístico, que podem ser feitas concessões aos Padrões da Comunidade quando o fundamento e os valores da Meta exigirem um resultado diferente de uma interpretação estrita das regras. O Comitê também reitera sua recomendação prévia à Meta para incluir um link para uma página da Central de Transparência que forneça informações sobre tolerância ao "conteúdo da política".

*Os resumos de casos fornecem uma visão geral dos casos e não têm valor de precedente.

Decisão completa sobre o caso

1. Resumo da decisão

O Comitê de Supervisão apoia a decisão da Meta de remover uma publicação de um vídeo no Facebook que mostra uma cena de violência comunitária no estado de Odisha, na Índia, durante o festival religioso Hanuman Jayanti. O vídeo mostra uma multidão carregando bandeiras cor de açafrão, associada ao nacionalismo hindu, e cantando "Jai Shri Ram" — que pode ser traduzido literalmente como "Salve Ram"(Deus hindu), termo que tem sido usado em algumas circunstâncias para promover hostilidade contra grupos minoritários, especialmente muçulmanos. O vídeo em questão mostra uma pessoa de pé na varanda de um prédio ao longo da rota da procissão jogando uma pedra em direção às pessoas que acompanhavam o evento. A multidão então atira pedras em direção ao edifício em meio a cantos de "Jai Shri Ram", "bhago" (que pode ser traduzido como "corra") e "Maro Maro" (que pode ser traduzido como "bata" ou "acerte"). A Meta encaminhou este caso ao Comitê porque ele ilustra as tensões entre os valores de "Voz" e "Segurança" da Meta e requer análise completa dos fatores contextuais e avaliação dos riscos de danos no meio físico representados pelo vídeo.

O Comitê conclui que a publicação violou o Padrão da Comunidade sobre Violência e Incitação. Dado o contexto volátil e a violência em curso em Odisha no momento em que o conteúdo foi publicado; tanto a natureza da procissão religiosa quanto os apelos por violência de alta gravidade no vídeo; e o efeito viral e a natureza generalizada de conteúdo semelhante sendo publicado na plataforma, a maioria do Comitê considera que o conteúdo constitui um apelo crível à violência.

Uma minoria do Comitê acredita que a publicação poderia ser adequadamente removida no âmbito do Padrão da Comunidade sobre Violência e Incitação da Meta, mas por uma razão diferente. A publicação não foi interpretada como uma "incitação crível à violência" sem quaisquer pistas contextuais sobre o propósito da publicação. Em vez disso, foi considerada uma forma de potencial "incitação representada" (ou seja, um conteúdo que descreve uma cena passada de incitação). A minoria concluiu que a publicação poderia ser removida no âmbito do Padrão da Comunidade sobre Violência e Incitação porque cumpria duas condições que essa minoria considera que deveriam ser cumpridas para justificar tal remoção: 1) existência de evidências contextuais de que publicações de conteúdo semelhante foram compartilhadas com o objetivo de incitar a violência e 2) ausência de pistas contextuais na publicação indicando a aplicabilidade de uma exceção de política, como conscientização ou interesse jornalístico.

A maioria do Comitê conclui que, considerando os desafios de moderar o conteúdo em escala adequada, a decisão da Meta de remover todos os vídeos idênticos nas suas plataformas, independentemente da legenda que acompanha, sem aplicar “advertências”, justifica-se no contexto específico do aumento de tensões e violência em andamento no estado de Odisha, onde foram criados. A maioria considera, no entanto, que tais medidas de aplicação devem ter um prazo determinado. Depois que a situação local em questão mudar e o risco de danos associados ao conteúdo em análise pelo Comitê for reduzido, a Meta deverá reavaliar suas medidas de aplicação e permitir exceções de política na escala adequada.

A minoria do Comitê considera que a remoção generalizada da Meta de todas as publicações que incluíam o vídeo idêntico descrevendo um incidente de incitação, independentemente de as publicações qualificadas para exceções de conscientização ou condenação não constituírem uma resposta proporcional, constituiu uma restrição indevida à liberdade de expressão e pode colocar pessoas vulneráveis em risco em meio a um contexto instável. A minoria considera que o conteúdo em questão é uma representação de incitação, e não uma incitação por si só. A minoria acredita que uma publicação que se caracteriza como incitação não deve ser retirada nos casos em que indícios contextuais apontam para a aplicabilidade de uma exceção à Política sobre Violência e Incitação. Tais exceções incluem conteúdo compartilhado para fins de conscientização ou interesse jornalístico. A minoria acredita que, caso existam indícios de que a intenção por trás de uma publicação de conteúdo de incitação retratado não é incitar, mas sim conscientizar, condenar ou denunciar, os compromissos de direitos humanos da Meta exigem que esse conteúdo permaneça na plataforma. A minoria acredita, portanto, que a remoção em massa de publicações contendo o vídeo em questão é uma violação inadmissível da liberdade de expressão dos usuários.

2. Descrição do caso e histórico

Em 13 de abril de 2023, um usuário do Facebook publicou um vídeo de um evento do dia anterior, 12 de abril, que mostra uma procissão religiosa em Sambalpur, no estado indiano de Odisha, relacionada ao festival hindu de Hanuman Jayanti. A legenda do vídeo traz o nome “Sambalpur”, que se refere a uma cidade em Odisha onde eclodiu um conflito intercomunitário entre hindus e muçulmanos durante o festival. O vídeo mostra uma multidão carregando bandeiras cor de açafrão, associada ao nacionalismo hindu, e cantando "Jai Shri Ram" — termo que pode ser traduzido literalmente como "Salve Ram"(Deus hindu). Além dos contextos religiosos em que a frase é usada para expressar devoção a Ram, a expressão tem sido usada em algumas circunstâncias para promover hostilidade contra grupos minoritários, especialmente muçulmanos. Especialistas consultados pelo Comitê relataram que o canto se tornou “um grito de ataque destinado a intimidar e ameaçar aqueles que proferem sua fé de forma diferente”. O vídeo em questão mostra uma pessoa de pé na varanda de um prédio ao longo da rota da procissão jogando uma pedra em direção às pessoas que acompanhavam o evento. A multidão então atira pedras em direção ao edifício em meio a cantos de "Jai Shri Ram", "bhago" (que pode ser traduzido como "corra") e "Maro Maro" (que pode ser traduzido como "bata" ou "acerte"). O conteúdo foi visto cerca de 2.000 vezes, recebeu menos de 100 comentários e reações e não foi compartilhado nem denunciado.

A violência comunitária, uma forma de violência coletiva que envolve confrontos entre grupos comunitários ou étnicos que se definem por suas diferenças de religião, etnia, idioma ou raça, é relatada como generalizada na Índia. Neste contexto, a violência é desproporcionalmente direcionada para as minorias religiosas, especialmente os muçulmanos, e é supostamente encarada com impunidade. Comentários públicos recebidos pelo Comitê destacam a natureza generalizada da violência comunitária em toda a Índia. A partir de 2022, mais de 2.900 eventos de violência comunitária foram registrados no país (ver também PC-14046). Especialistas consultados pelo Comitê explicaram que festivais religiosos e procissões foram supostamente usados para intimidar membros de tradições religiosas minoritárias e incitar a violência contra eles.

Na esteira da violência que irrompeu durante a procissão religiosa e suas consequências, quando lojas foram incendiadas e uma pessoa foi morta, o governo estadual de Odisha suspendeuserviços de internet, bloqueou plataformas de redes sociais e impôs um toque de recolher em várias áreas em Sambalpur. A polícia teria feito 85 prisões relacionadas aos eventos violentos em questão.

Em 16 de abril, a Meta recebeu uma solicitação da polícia de Odisha para remover um vídeo idêntico, publicado por outro usuário com uma legenda diferente. A Meta considerou que a publicação violou o conteúdo do Padrão da Comunidade sobre Violência e Incitação e decidiu removê-lo. Depois disso, em 17 de abril, a Meta adicionou o vídeo na publicação a um banco do Serviço de Correspondência de Mídias (MMS, pelas iniciais em inglês), que localiza e sinaliza possíveis conteúdos de ação adicionais que são idênticos ou quase idênticos a fotos, vídeos ou texto previamente sinalizados. No entanto, o usuário que publicou esse conteúdo o excluiu na mesma data antes que a Meta pudesse agir. Por meio do banco do MMS (Serviço de Correspondência de Mídias ou “Media Matching Service”, em inglês), a Meta então identificou o conteúdo em questão neste caso e o removeu, também em 17 de abril, citando sua proibição de “[i]ncitações para violência de alta gravidade, incluindo [...] a ação em que nenhum alvo é especificado, mas sim um símbolo que o representa e/ou inclui a imagem de um armamento ou método que representa a violência”.

Em 23 de abril, o governo estadual de Odisha removeu o toque de recolher e restaurou o acesso aos serviços de internet. Em julho de 2023, o governo estadual anunciou a proibição de procissões religiosas em Sambalpur por um ano.

De acordo com relatórios, a liderança estatal do Partido Bharatiya Janatha (BJP) criticou o governo do estado de Odisha liderado pelo partido Biju Janta Dal (BJD) por seu fracasso em manter a lei e culpou os membros de grupos minoritários, particularmente muçulmanos, por atacar procissões religiosas pacíficas. O BJD, por sua vez, acusou o BJP de tentar inflamar tensões religiosas.

A Meta explicou que o conteúdo não se enquadra em uma exceção de política, pois "não foi compartilhado para condenar ou aumentar a conscientização", uma vez que não havia contexto acadêmico ou de interesse jornalístico, nem discussão sobre a experiência do autor ser alvo de violência. Além disso, a Meta observou que a legenda não condena nem expressa "qualquer tipo de perspectiva negativa sobre os eventos retratados no vídeo". A empresa destacou, entretanto, que mesmo que o conteúdo tivesse uma legenda conscientizadora ou condenatória, a Meta ainda assim o removeria “considerando as preocupações significativas de segurança e o risco contínuo de violência comunitária entre hindus e muçulmanos”.

A Meta também divulgou ao Comitê que configurou o banco do MMS para remover todas as instâncias do vídeo, independentemente da legenda que o acompanha, mesmo que essa legenda tenha deixado claro que se aplicavam as exceções de interesse jornalístico e/ou conscientização. A Meta explicou ainda que a empresa não aplicou “advertências” a usuários cujo conteúdo foi removido pelo banco do MMS “para contabilizar comentários não violadores e atingir o equilíbrio certo entre voz e segurança”.

De acordo com os relatórios, as plataformas de redes sociais têm sido usadas para incentivar ataques mortais a grupos minoritários em meio a crescentes tensões comunitárias em toda a Índia. Especialistas observaram que ocorreram campanhas coordenadas nas redes sociais na Índia espalhando mensagens antimuçulmanas, discurso de ódio ou desinformação. Eles também observaram que os vídeos sobre violência comunitária foram espalhados em padrões que sinalizavam para uma ação coordenada. Depois que a violência eclodiu em Sambalpur, um vídeo da Argus News, uma mídia local em Odisha, foi publicado no Facebook pelo menos 34 vezes em 72 horas, muitas vezes por páginas e grupos com poucos minutos de diferença entre as publicações, alegando que os muçulmanos estavam por trás do ataque à celebração de Hanuman Jayanti em Sambalpur. Além disso, o Comitê observou que, dadas as configurações do banco do MMS, muitos itens de conteúdo idênticos a este vídeo foram removidos nos meses que se seguiram aos eventos em Sambalpur, Odisha.

A Meta encaminhou este caso ao Comitê, afirmando ser esse um caso “difícil” devido às tensões entre os valores de "Voz" e "Segurança" da Meta e ao contexto necessário para avaliar e apreciar plenamente o risco de danos representado pelo vídeo.

3. Escopo e autoridade do Comitê de Supervisão

O Comitê tem autoridade para analisar decisões que a Meta envia para análise, segundo a Seção 1 do Artigo 2º do Estatuto e a Seção 2.1.1 do Artigo 2º dos Regulamentos Internos.

De acordo com a Seção 5 do Artigo 3º do Estatuto, o Comitê pode manter ou revogar a decisão da Meta, decisão essa que é vinculante para a empresa, segundo o Artigo 4º do Estatuto. A Meta também deve avaliar a viabilidade de aplicar sua decisão no que diz respeito a conteúdo idêntico em contexto paralelo, de acordo com o artigo 4º do Estatuto. As decisões do Comitê podem incluir sugestões não vinculantes às quais a Meta deve responder, de acordo com o Artigo 3º do Estatuto, Seção 4; Artigo 4º do Estatuto. Quando a Meta se compromete a agir de acordo com as recomendações, o Comitê monitora sua implementação.

4. Fontes de autoridade e diretrizes

Os seguintes padrões e as decisões precedentes fundamentaram a análise do Comitê neste caso:

I. Decisões do Comitê de Supervisão:

As decisões anteriores do Comitê de Supervisão referidas na presente decisão incluem:

• Casos "Publicações nos Estados Unidos com discussões sobre aborto" (2023-011-IG-UA, 2023-012-FB-UA, 2023-013-FB-UA)
• Caso “Produtos farmacêuticos do Sri Lanka” (2022-014-FB-MR)
• Caso “Poema russo” (2022-008-FB-UA):
• Caso “Cartoon Knin”(2022-001-FB-UA)
• Caso “Representação de Zwarte Piet” (2021-002-FB-UA)
• Caso “Protesto na Índia contra a França” (2020-007-FB-FBR)
• Caso “Alegação de cura da COVID” (2020-006-FB-FBR)

II. Políticas de conteúdo da Meta:

Padrões da Comunidade sobre Violência e Incitação

O fundamento da política dos Padrões da Comunidade sobre Violência e Incitação declara que o objetivo dos padrões “é evitar potenciais danos no meio físico que possam estar relacionados a conteúdo nas plataformas da Meta” e que, embora a Meta entenda que “as pessoas comumente expressam desdém ou desacordo por meio de ameaças ou incitação à violência de maneira cômica, [nós] remove[mos] palavras que incitem ou facilitem qualquer violência grave”. A política proíbe “[a]meaças que possam levar à morte (e outras formas de violência de alta gravidade) (...) visando pessoas ou lugares em que a ameaça é assim reconhecida como” (...) “incitação à violência de alta gravidade, incluindo conteúdo em que nenhum alvo é especificado, mas que incluem um símbolo que o represente e/ou imagens de armas simbolizando violência”. No âmbito deste Padrão da Comunidade da Meta "remover conteúdo, desativar contas, e trabalhar com a aplicação da lei quando [a Meta] acreditar que há um risco genuíno de danos físicos ou ameaças diretas à segurança pública". A Meta também considera o contexto "a fim de distinguir declarações casuais de conteúdo que constitui uma ameaça crível à segurança pública ou pessoal". Ao avaliar se uma ameaça é crível, a Meta considera informações adicionais, como a "visibilidade pública da pessoa e os riscos para sua segurança física".

Tolerância à política

Como o Comitê discutiu no caso “Produtos farmacêuticos do Sri Lanka”, a Meta pode aplicar ao conteúdo uma tolerância ao "conteúdo da política" quando o fundamento (o texto que introduz cada Padrão da Comunidade) e os valores da Meta exigem um resultado diferente de uma interpretação estrita das regras (as regras estabelecidas na seção “não publicar” e na lista de conteúdos proibidos).

A análise do Comitê das políticas de conteúdo foi informada pelo valor da Meta de "Voz", que a empresa descreve como "primordial", assim como seu valor de "Segurança".

III. Responsabilidades da Meta com os direitos humanos

Os Princípios Orientadores da ONU sobre Empresas e Direitos Humanos (UNGPs, pelas iniciais em inglês), endossados pelo Conselho de Direitos Humanos da ONU em 2011, estabelecem uma estrutura voluntária de responsabilidades das empresas privadas em relação aos direitos humanos. Em 2021, a Meta anunciou sua Política Corporativa de Direitos Humanos, em que reafirmou seu compromisso com os direitos humanos de acordo com os UNGPs. Ao analisar as responsabilidades da Meta com os direitos humanos no caso em questão, o Comitê levou em consideração as seguintes normas internacionais:

• Os direitos à liberdade de opinião e de expressão: Artigos 19 e 20 do Pacto Internacional sobre Direitos Civis e Políticos, (PIDCP); Comentário geral n.º 34 do Comitê de Direitos Humanos (2011); Plano de Ação de Rabat, Alto Comissariado das Nações Unidas para os Direitos Humanos, relatório: A/HRC/22/17/Add.4 (2013) Relator Especial da ONU (UNSR) sobre a liberdade de opinião e de expressão, relatórios: A/HRC/38/35 (2018); A/74/486 (2019).
• Direito à vida: Artigo 6º do PIDCP.
• Liberdade de religião ou crença: Artigo 18 do PIDCP; Relator Especial da ONU sobre liberdade de religião ou crença, relatórios: A/HRC/40/58 (2019); A/75/385 (2020).

5. Envios do usuário

O autor da publicação foi notificado da análise do Comitê e teve a oportunidade de enviar uma declaração ao Comitê. No entanto, o usuário não a enviou.

6. Envios da Meta

Ao encaminhar este caso para o Comitê, a Meta afirmou que o considera “difícil” devido às tensões entre os valores da Meta de "Voz" e "Segurança" e por causa do contexto necessário para avaliar e apreciar plenamente o risco de danos representado pelo vídeo. A Meta afirmou que este caso é significativo por causa dos confrontos comunitários entre as comunidades hindu e muçulmana durante o festival religioso Hanuman Jayanti em Odisha.

A Meta explicou que o conteúdo originalmente transmitido – uma publicação com um vídeo idêntico ao que está em análise pelo Comitê, mas com uma legenda diferente – violou o "conteúdo" da Política sobre Violência e Incitação, apesar de conter uma legenda de conscientização, uma vez que: (1) "levantou preocupações significativas de segurança que foram sinalizadas pela polícia", que a Meta confirmou por meio de análise independente; (2) estava se tornando viral; e (3) desencadeou um número significativo de comentários violadores. A Meta então configurou um banco do MMS para remover todas as instâncias do vídeo, independentemente da legenda, que incluía o vídeo encaminhado ao Comitê, dados os riscos de segurança criados por esse conteúdo”. Ao chegar a essa decisão, a Meta conseguiu corroborar de forma independente com as preocupações levantadas pela polícia com base no feedback das equipes locais de políticas públicas e segurança da Meta, bem como das mídias locais e outras equipes internas. Ao tomar a sua decisão, a empresa considerou: (1) a natureza da ameaça; (2) o histórico de violência entre comunidades hindus e muçulmanas na Índia; e (3) o risco de violência contínua em Odisha nos dias que antecederam o festival religioso Hanuman Jayanti. Além disso, a Meta afirmou que os relatórios da cobertura de notícias e da polícia local reforçaram a conclusão de que este vídeo poderia contribuir para um risco de violência e retaliação comunal.

A Meta também explicou que o conteúdo neste caso violou a Política sobre Violência e Incitação, uma vez que inclui uma incitação à violência de alta gravidade, já que o vídeo mostra pedras ou tijolos sendo jogados em uma multidão e a multidão chamando outros para "bater" ou "acertar" alguém em resposta. Além disso, embora a Meta reconheça que o alvo não está expressamente identificado, os espectadores podem ver claramente pedras sendo jogadas em direção ao prédio e o indivíduo na varanda, o que a Meta considera uma representação visual de um método de violência direcionado a um alvo.

Em resposta às perguntas do Comitê, a Meta explicou que, segundo a Política sobre Violência e Incitação, conteúdo que não segue as políticas poderá ser permitido na plataforma se compartilhado em um contexto de condenação ou conscientização. No entanto, como um dos principais objetivos da Política sobre Violência e Incitação é "prevenir possíveis danos no meio físico" neste caso, a Meta determinou que a preocupação de segurança de que o conteúdo originalmente transmitido poderia contribuir para um risco de mais violência comunitária entre hindus e muçulmanos justificando, assim, a aplicação da política para removê-lo (e todas as outras instâncias do vídeo nas suas plataformas) independentemente da legenda do conteúdo.

A Meta também determinou que o conteúdo não se qualificava para tolerância a conteúdo de interesse jornalístico, pois o risco de dano superava o valor de utilidade pública. Segundo a Meta, o risco de danos era alto por vários motivos. Primeiro, o conteúdo destaca as tensões religiosas e políticas em curso entre hindus e muçulmanos que resultam regularmente em violência em toda a Índia. Além disso, incidentes localizados desse tipo de violência comunitária e religiosa têm o potencial de desencadear confrontos em outros lugares e se espalhar rapidamente além do local inicial. As equipes locais de políticas públicas e de segurança da Meta também estavam preocupadas com o risco de violência recorrente em Odisha, uma vez que o toque de recolher e a suspensão da internet foram cancelados e mais pessoas puderam assistir ao vídeo. Por fim, a identificação do conteúdo pelas autoridades locais como suscetível de contribuir para uma violência ainda mais iminente corroborou com as preocupações da Meta.

A Meta reconheceu que tentativas de informar outras pessoas sobre violência iminente e eventos atuais podem ser válidas. No entanto, neste caso, a Meta descobriu que o risco de dano superava a utilidade pública. Ela observou que no momento em que o conteúdo foi removido, a publicação tinha mais de quatro dias e seu valor como informação em tempo real havia diminuído. A Meta reiterou que a publicação tinha uma legenda neutra, sem valor informacional maior. Também mencionou que a legenda não diminuiu o risco de o conteúdo incitar a violência. De acordo com a Meta, houve ampla cobertura de mídias locais e nacionais dos eventos subjacentes neste caso, o que diminuiu o valor informativo dessa publicação em particular. Também informou ao Comitê que "nenhuma ação além de remover o conteúdo poderia abordar adequadamente os riscos potenciais associados ao compartilhamento desse conteúdo".

Em resposta às perguntas do Comitê, a Meta observou que "em geral, advertências são aplicadas em escala adequada para todas as violações da Política sobre Violência e Incitação". Mas, com o agravamento do caso, a Meta pode decidir não aplicar “advertências” com base em circunstâncias excepcionais, incluindo quando o conteúdo foi publicado em um contexto de conscientização ou com objetivo de condenar uma questão de importância pública.

A Meta explicou que a empresa não aplicou uma “advertência” ao conteúdo removido por meio do banco do MMS mencionado acima para “efetivamente equilibrar voz e segurança e explicar o fato de que algum conteúdo removido pelo banco não teria violado a política”. Como explicado anteriormente nesta seção, a decisão da Meta de remover o conteúdo originalmente relatado foi baseada no "conteúdo da Política sobre Violência e Incitação". A Meta acrescentou que, como os bancos do MMS estavam envolvidos, não foi possível revisar cada conteúdo individualmente, já que é um procedimento em grande escala. Portanto, a Meta não aplicou “advertências” para não penalizar ainda mais os usuários que publicaram conteúdo em conformidade com a política.

Em resposta às perguntas do Comitê sobre solicitações governamentais, a Meta mencionou as informações fornecidas na Central de Transparência. A Meta explicou que, quando uma denúncia formal baseada em uma violação da lei local é recebida pelos órgãos locais ou estaduais de aplicação da lei, ela é revisada primeiro em relação aos Padrões da Comunidade da Meta, mesmo que inclua solicitações para remover ou restringir o conteúdo devido à violação das leis locais. Se a Meta determinar que o conteúdo viola suas políticas, ele será removido. Caso contrário, a Meta realiza uma revisão legal para confirmar se a denúncia é válida e realiza uma devida diligência de direitos humanos consistente com a Política Corporativa de Direitos Humanos da Meta.

O Comitê fez 16 perguntas à Meta por escrito. Perguntas relacionadas aos processos da Meta para solicitações do governo para análise de conteúdo, uso da Meta dos bancos do MMS para aplicação em grande escala e práticas de monitoramento de contas. A Meta respondeu a 15 perguntas e se recusou a fornecer uma cópia da solicitação de análise de conteúdo recebida da polícia do estado de Odisha neste caso.

7. Comentários públicos

O Comitê de Supervisão recebeu 88 comentários públicos relacionados ao caso: Foram apresentadas 31 observações da Ásia-Pacífico e da Oceania, 42 da Ásia Central e do Sul, 8 da Europa, 1 da América Latina e Caraíbas, 1 do Oriente Médio e do Norte da África e 5 dos Estados Unidos e do Canadá. Esse total inclui 32 comentários públicos que foram duplicados, enviados sem consentimento para publicação ou enviados com consentimento para publicação, mas que não atendiam às condições do Comitê para publicações. Comentários públicos podem ser enviados ao Comitê com ou sem consentimento para publicar, e com ou sem consentimento para atribuir.

As submissões cobriram os seguintes temas: contexto social e político na Índia, particularmente no que diz respeito a diferentes grupos étnicos e religiosos; às políticas governamentais relevantes e tratamento de diferentes grupos étnicos e religiosos; ao papel das plataformas de redes sociais, em particular nas plataformas da Meta, na Índia; se o conteúdo que descreve a violência comunitária em Odisha era suscetível de incitar a violência no meio físico; como as empresas de redes sociais devem tratar as solicitações do governo para revisar e/ou remover conteúdo; à importância da informação de transparência, especialmente no que diz respeito às solicitações governamentais; ao papel dos meios de comunicação social e das comunicações no aumento da violência e da discriminação na Índia; à importância de analisar pistas contextuais e sinais no meio físico ao avaliar a probabilidade de um conteúdo incitar à violência no meio físico; às preocupações em torno de campanhas de desinformação online coordenadas destinadas a espalhar ódio contra grupos étnicos e religiosos específicos.

Para ler os comentários públicos enviados sobre esse caso, clique aqui.

O Comitê também apresentou solicitações de Direito à Informação com várias autoridades estaduais e da Índia Central. As respostas recebidas limitaram-se às informações sobre o contexto local no momento em que o conteúdo em análise neste caso foi publicado e às medidas proibitivas em Sambalpur, Odisha.

8. Análise do Comitê de Supervisão

O Comitê analisou as políticas de conteúdo, responsabilidades e valores de direitos humanos da Meta para determinar se esse conteúdo deveria ser removido. O Comitê também avaliou as implicações desse caso quanto à abordagem mais ampla da Meta em relação à governança de conteúdo, particularmente em contextos que envolvem violência comunitária em andamento.

O Comitê selecionou este caso como uma oportunidade para avaliar as políticas e práticas da Meta na moderação de conteúdo que descreve casos de violência comunitária. Além disso, oferece ao Comitê a oportunidade de discutir a natureza da incitação online e fornecer orientações à Meta sobre como abordá-la. Finalmente, o caso permite que o Comitê examine o cumprimento da Meta com suas responsabilidades de direitos humanos em situações de crise e conflito de forma mais geral.

8.1 Conformidade com as políticas de conteúdo da Meta

I. Regras sobre conteúdo

Violência e incitação

O Comitê considera que a publicação violou o Padrão da Comunidade sobre Violência e Incitação, no âmbito do qual a Meta remove “conteúdo que constitui uma ameaça crível à segurança pública ou pessoal”. Em particular, a política proíbe "[a]meaças que poderiam levar à morte (e outras formas de violência de alta gravidade) (...) visando pessoas ou lugares onde a ameaça é definida como" (...) "[i]ncitações para violência de alta gravidade". De acordo com esta política, o conteúdo que contém incitações à violência é considerado uma violação quando contém uma ameaça crível. Ao determinar se uma ameaça é crível, a Meta considera a linguagem e o contexto para distinguir ameaças de declarações casuais. A maioria considerou relevantes os seguintes fatores: o contexto volátil e a violência em andamento em Odisha no momento em que o conteúdo foi publicado; a natureza da procissão religiosa; as incitações à violência de alta gravidade no vídeo; e o efeito viral e a natureza generalizada de conteúdo semelhante publicado na plataforma (conforme descrito na Seção 2 acima). Com base nesses fatores, a maioria do Comitê considera que o conteúdo constitui um apelo crível à violência.

O conteúdo, neste caso, retrata uma cena de violência em que uma multidão na procissão religiosa pede que as pessoas joguem pedras/ tijolos ("violência de alta gravidade") contra uma pessoa não identificada de pé na varanda do prédio visto no fundo ("alvo"). A Meta inclui, sob a definição de "alvo" fornecido aos revisores de conteúdo, qualquer "pessoa", incluindo pessoas anônimas, definida como "uma pessoa real que não é identificada por nome ou imagem". A Meta define "violência de alta gravidade" como "qualquer violência que possa ser letal". A Meta instrui seus revisores de conteúdo a "considerar uma ameaça como de alta gravidade" se não tiverem certeza "se uma ameaça é de alta ou média gravidade". Dado que todos os requisitos são cumpridos, a maioria do Comitê considera que o conteúdo viola a linha de política relevante do Padrão da Comunidade sobre Violência e Incitação.

Os fatores contextuais são significativos neste caso. Incidentes com pedras foram generalizados e organizados durante procissões e desencadearam violência entre hindus e muçulmanos (veja, por exemplo, PC-14070), especialmente quando os festivais religiosos hindus e muçulmanos são realizados na mesma época. Como observado na Seção 2 acima, essas procissões geralmente exibem símbolos associados com o nacionalismo hindu (por exemplo, bandeiras cor de açafrão) e são acompanhadas por incitações implícitas à violência (o canto de "Jai Shri Ram") contra grupos minoritários, particularmente muçulmanos. Além disso, o Comitê está ciente de que as plataformas de redes sociais — e especificamente o compartilhamento de vídeos que retratam atos de incitação — são usadas, nesse contexto, para mobilizar e incitar a violência mais generalizada, especialmente por publicações "ao vivo" e vídeo (Id.) semelhante ao que está em questão neste caso. O risco de violência de alta gravidade foi aumentado neste caso, pois a manifestação e a violência instigada resultaram em fatalidade, ferimentos e danos materiais, conforme destacado na Seção 2 acima. Assim, o conteúdo foi suscetível de incitar a violência de alta gravidade.

Apesar da desativação da internet imposta pelo governo em Odisha, o Comitê observa que muitas publicações do mesmo vídeo foram removidas das plataformas da Meta, dadas as configurações do banco do MMS. Curiosamente, a Meta informou ao Comitê que o vídeo originalmente transmitido sinalizado pela polícia de Odisha "estava viralizando" quando foi revisado e incluiu "um número significativo de comentários violadores". Como observado na Seção 2 acima, houve relatos de campanhas coordenadas destinadas a espalhar desinformação com conteúdo antimuçulmano e discurso de ódio.

Nas diretrizes de implementação para seus revisores de conteúdo, a Meta permite "violar conteúdo se ele for compartilhado em um contexto de condenação ou conscientização". A Meta define o contexto de conscientização como "conteúdo que claramente procura informar e educar os outros sobre um tópico ou questão específica; ou conteúdo que fala da experiência de ser alvo de uma ameaça ou violência. Isso pode incluir relatórios acadêmicos e da mídia". A Meta disse ao Comitê que "essas tolerâncias são projetadas para limitar a disseminação de conteúdo que incita a violência e que possa ter consequências no meio físico, enquanto ainda permite espaço para contradiscurso que não é favorável, mas se destina a educar ou alertar as pessoas sobre ameaças feitas por terceiros".

O Comitê observa que, embora o usuário tenha compartilhado o conteúdo logo após o início da violência em Sambalpur, Odisha, ele foi acompanhado com uma legenda neutra ("Sambalpur", cidade onde os eventos violentos ocorreram). Dada a legenda neutra e a falta de pistas contextuais apontando para uma direção diferente, o Comitê conclui que o conteúdo não “busca claramente informar e educar os outros sobre um tópico ou questão específica” ou “falar da experiência de ser alvo de uma ameaça ou violência”. O Comitê considera que o conteúdo publicado não se enquadra na exceção de conscientização ao Padrão da Comunidade sobre Violência e Incitação. Dado o risco de dano, como discutido na Seção 8.2 abaixo, o Comitê considerou que o risco de dano superava o valor de utilidade pública da publicação. Por conseguinte, a tolerância a conteúdo de interesse jornalístico não deve ser aplicada neste caso.

A maioria do Comitê conclui, portanto, que, dado o contexto online e no meio físico em torno da publicação do conteúdo, as tensões e a violência intensificadas que ainda estavam em andamento em Sambalpur, Odisha, no momento da publicação e a ausência de qualquer indicação da aplicabilidade de qualquer exceção de política, o conteúdo representava um risco grave e provável de promover a violência, constituindo uma ameaça crível ou incitação à violência contra as comunidades religiosas envolvidas em confrontos em Sambalpur. Assim, sua remoção é consistente com a Política sobre Violência e Incitação da Meta.

Em contraste com a maioria, a minoria não conseguiu identificar quaisquer indicações contextuais que suportem a crença de que a republicação do vídeo com a cena de uma procissão de motocicletas em Odisha durante o festival religioso Hanuman Jayanti "constituiu um apelo crível à violência". A minoria observa que não há evidências para apoiar a afirmação de que o usuário estava emitindo ou endossando incitações como as expressas no vídeo. Interpretar uma publicação dessa natureza, sem mais contexto, como uma "incitação crível à violência" é um padrão que poderia ser aplicado para proibir a republicação de praticamente qualquer cena que descreva incitação, não importa o objetivo ou propósito de tal publicação.

No entanto, a minoria acredita que a publicação neste caso poderia ser adequadamente removida segundo o Padrão da Comunidade sobre Violência e Incitação da Meta por um motivo diferente. A minoria observa que o Padrão da Comunidade sobre Violência e Incitação não se pronuncia sobre a possibilidade de as publicações de "representação de incitação" serem proibidas. Na opinião da minoria, a "representação de incitação", que constitui repetição, retransmissão, relato ou outra representação de expressão passada (por exemplo, a publicação de um vídeo, notícia, áudio ou outro conteúdo), não pode ser considerada propriamente uma forma de incitação em si. "Representação de incitação" difere materialmente da incitação original, ou seja, a expressão transmitida com a intenção e o resultado da incitação do dano (por exemplo, um vídeo convencendo os ouvintes a cometer vandalismo ou uma publicação escrita incentivando ataques de vingança). Mensagens que envolvam representação de incitação podem ser compartilhadas para aumentar a conscientização, debater eventos recentes e condenar ou analisar e não devem ser interpretadas como incitação a menos que condições específicas sejam atendidas.

Enquanto o Padrão da Comunidade sobre Violência e Incitação proíbe explicitamente representações de atos passados de sequestro, ele não aborda representações de atos passados de incitação. Pode-se interpretar o Padrão como não cobrindo representações de atos passados de incitação. A minoria, no entanto, conclui que a Política sobre Violência e Incitação poderá ser adequadamente aplicada à "representação de incitação" quando uma das seguintes condições for cumprida: 1) a publicação de representação de incitação evidencia uma clara intenção de incitar; ou 2) a) a publicação não contém pistas contextuais que indiquem a aplicabilidade de uma exceção de política, como a conscientização ou a comunicação de notícias; e b) há evidências de que publicações de conteúdo semelhante são compartilhadas com o objetivo de incitar a violência ou resultar em violência. As condições especificadas (2) foram atendidas neste caso, tornando a remoção de conteúdo permitida.

A minoria do Comitê acredita que seria importante que o Padrão da Comunidade sobre Violência e Incitação fosse esclarecido para afirmar que a política se aplica não apenas ao conteúdo publicado para incitar a violência, mas também à "representação de incitação" ou seja, publicações que apenas compartilhem conteúdos que descrevam incitações passadas nas condições acima mencionadas.

II. Ação de execução

A Meta emprega bancos do MMS para localizar conteúdo idêntico ou quase idêntico a fotos, vídeos e texto previamente sinalizados. Esses bancos podem combinar as publicações dos usuários com conteúdo previamente sinalizado como violação pelas equipes internas da Meta.

A Meta explicou que os bancos do MMS podem ser configurados para tomar ações diferentes, uma vez que identificam o conteúdo armazenado. Nesse caso, a Meta informou ao Comitê que o banco do MMS foi criado para remover globalmente todas as instâncias do vídeo, independentemente da legenda, dados os riscos de segurança causados por esse conteúdo. Em outras palavras, a remoção geral se aplicava a todos os vídeos idênticos, mesmo que estivessem dentro das exceções da Meta para conscientização, condenação e interesse jornalístico. A Meta também mencionou que este banco do MMS particular foi “criado para tomar medidas sem aplicar uma advertência”.

O Comitê destaca o impacto significativo que a ação de aplicação da Meta tem sobre os usuários que publicam conteúdo idêntico para fins de conscientização e condenação. A Meta informou ao Comitê que a decisão da empresa de remover todas as instâncias do vídeo não era limitada por tempo (nem limitada a determinadas localizações geográficas) e que não há planos atuais para reverter a aplicação. O Comitê aborda a ação de aplicação da Meta com mais detalhes abaixo, na Seção 8.2 no contexto da análise de "Necessidade e proporcionalidade".

8.2 Conformidade com as responsabilidades da Meta com os direitos humanos

Liberdade de expressão (Artigo 19 do PIDCP)

O Artigo 19, parágrafo 2º, do PIDCP prevê ampla proteção da "expressão e recebimento de comunicações de toda forma de ideia e opinião passível de transmissão a outros", incluindo ideias sobre "discurso político", "discurso religioso" e "interesse jornalístico", bem como a expressão de ideias que as pessoas possam achar "profundamente ofensivas" (Comentário Geral N.º. 34, 2011, parágrafo 11). O direito à liberdade de expressão inclui o direito de acesso à informação (Comentário Geral n.º 34, 2011), parágrafos 18 e 19).

Quando um Estado aplica restrições à expressão, elas devem atender aos requisitos de legalidade, objetivo legítimo e necessidade e proporcionalidade (segundo o parágrafo 3º do Artigo 19 do PIDCP). Esses requisitos costumam ser chamados de “teste tripartite”. Este teste tripartite foi proposto pelo Relator Especial da ONU sobre liberdade de expressão como uma estrutura para orientar as práticas de moderação de conteúdo das plataformas (A/HRC/38/35). O Comitê usa essa estrutura para interpretar os compromissos voluntários de direitos humanos da Meta, tanto em relação à decisão de conteúdo individual em análise quanto ao que isso diz sobre a abordagem mais ampla da Meta à governança de conteúdo. Como afirmou o Relator Especial da ONU sobre liberdade de expressão, embora "as empresas não tenham as obrigações dos governos, seu impacto é tal que as obriga a avaliar o mesmo tipo de questões sobre a proteção do direito de seus usuários à liberdade de expressão" (A/74/486, para. 41). Neste caso, o Comitê aplicou o teste tripartite não apenas à decisão da Meta de remover o conteúdo em questão, mas também de remover automaticamente vídeos idênticos ao que está em análise pelo Comitê, independentemente da legenda que o acompanha.

I. Legalidade (clareza e acessibilidade das regras)

O princípio da legalidade conforme a legislação internacional sobre direitos humanos exige que as regras usadas para limitar a expressão sejam claras e acessíveis (Comentário Geral n.º 34, parágrafo 25). As regras que restringem a expressão “podem não conceder liberdade de ação irrestrita para a restrição da liberdade de expressão aos encarregados de [sua] execução” e “fornecer instrução suficiente aos encarregados de sua execução para permitir com que determinem quais tipos de expressão são propriamente restritas e quais tipos não são” (Ibid). Aplicada às regras que regem o discurso online, o Relator Especial da ONU sobre liberdade de expressão reiterou que eles deveriam ser claros e específicos (A/HRC/38/35, parágrafo 46). As pessoas que usam as plataformas da Meta devem ser capazes de acessar e entender as regras, e os moderadores de conteúdo devem ter orientações claras sobre a aplicação.

O Comitê considera que, como aplicado aos fatos deste caso, a proibição de conteúdo da Meta que incita a violência de alta gravidade contra alvos não especificados, bem como as condições em que a proibição é desencadeada, são suficientemente claras.

O Comitê também observa que a exceção de "conscientização" conforme o Padrão da Comunidade sobre Violência e Incitação ainda não está disponível na linguagem voltada para o público da política. Em outras palavras, os usuários ainda não sabem que a violação de conteúdo é permitida se for compartilhada em um contexto de condenação ou conscientização, o que pode impedi-los de iniciar ou se envolver em discussões de utilidade pública nas plataformas da Meta. Portanto, o Comitê reitera sua recomendação n.º 1 no caso " Poema russo", no qual o Comitê insta a Meta a adicionar a versão voltada ao público do Padrão da Comunidade sobre Violência e Incitação, para que a empresa interprete a política de forma a permitir conteúdo incluindo declarações “com referência neutra a um possível resultado de uma ação ou advertência instrutiva” e “que condenam ou aumentam a conscientização sobre ameaças violentas”.

Finalmente, o Comitê observa que a decisão da Meta de remover todos os vídeos idênticos, independentemente da legenda que os acompanha, é baseada na tolerância ao "conteúdo da política", a qual não é clara e acessível aos usuários, provocando sérias preocupações no âmbito do teste de legalidade. A este respeito, a minoria do Comitê considera ainda que a própria referência da Meta às remoções em massa é justificada pela Política sobre Violência e Incitação como uma admissão tácita de que a própria política, como escrita, não prevê remoções tão amplas. A decisão da empresa de não aplicar “advertências” contra usuários com base no conteúdo removido evidencia ainda mais o reconhecimento pela Meta de que a publicação de tal conteúdo não pode ser razoavelmente interpretada como uma violação da política. Esses fatores reforçam a conclusão da minoria de que a empresa, praticamente por sua própria admissão, não cumpriu o teste de legalidade em relação à sua ação de aplicação mais ampla neste caso.

O Comitê reitera sua recomendação n.º 1 no caso " Produtos farmacêuticos do Sri Lanka ", em que o Comitê advertiu a Meta a ser mais clara com os usuários e explicar na página de destino dos Padrões da Comunidade, da mesma forma que faz com a tolerância a conteúdo de interesse jornalístico, a possibilidade de haver tolerâncias conforme os Padrões da Comunidade sempre que os fundamentos e valores da Meta exijam uma aplicação menos rigorosa das regras. O Comitê também recomendou que a Meta inclua um link para uma página da Central de Transparência que forneça informações sobre a tolerância ao "conteúdo da política". O Comitê acredita que a implementação desta recomendação abordará as questões preocupantes em relação à clareza e acessibilidade da abordagem de aplicação mais ampla da Meta neste caso.

Embora a Política sobre Violência e Incitação não especifique se a "representação de incitação" é proibida, a minoria do Comitê acredita que tal proibição — sob condições limitadas — pode ser inferida por meio da política atual, mas deve ser explícita. A minoria observa que a Política sobre Violência e Incitação deve indicar claramente as circunstâncias em que as regras de representação de incitação podem ser aplicadas. A minoria considera que a política e os seus propósitos aplicados a este caso são suficientemente claros para satisfazer o requisito de legalidade.

II. Objetivo legítimo

Qualquer restrição à liberdade de expressão também deve ter um “objetivo legítimo”. A Política sobre Violência e Incitação visa "prevenir possíveis danos no meio físico" e remove conteúdo que representa "um risco genuíno de danos físicos ou ameaças diretas à segurança pública". Proibir convocações a atos violentos na plataforma para garantir a segurança das pessoas é um objetivo legítimo conforme o Artigo 19, parágrafo 3º, dado que protege o “direito à vida” (Artigo 6º do PIDCP) e à liberdade de religião ou crença (Artigo 18 do PIDCP).

III. Necessidade e proporcionalidade

O princípio da necessidade e proporcionalidade mostra que qualquer restrição à liberdade de expressão “deve ser apropriada para cumprir sua função protetora; ser o instrumento menos intrusivo entre aqueles que podem cumprir sua função protetora [e] ser proporcional ao interesse a ser protegido” (Comentário Geral n.º 34, parágrafo 34).

Ao avaliar os riscos representados por conteúdo violento, o Comitê guia-se pelo teste de seis fatores descrito no Plano de Ação de Rabat, que aborda a defesa contra ódio nacional, racial ou religioso que constitua incitação à hostilidade, discriminação ou violência. Com base em uma avaliação dos fatores relevantes, especialmente o contexto, o conteúdo e a forma, bem como a probabilidade e a iminência de danos, descritos abaixo, o Comitê considera que a remoção da publicação em questão é consistente com as responsabilidades da Meta com os direitos humanos, uma vez que representa um dano iminente e provável.

O vídeo mostra uma cena de violência durante uma procissão religiosa entre uma pessoa em pé em um prédio próximo e as pessoas na manifestação cantando “Jai Shri Ram”. O Comitê observa os relatórios de especialistas, discutidos na Seção 2 acima, em que "Jai Shri Ram" — que pode ser literalmente traduzido como "Salve Ram" (Deus hindu) – tem sido usado em procissões religiosas como as descritas no vídeo como uma expressão implícita para promover a hostilidade contra grupos minoritários, especialmente muçulmanos. O usuário publicou o conteúdo um dia depois que a violência eclodiu em Sambalpur, em um momento em que a situação ainda era volátil. O Comitê também observa, como destacado na Seção 2 acima, que tal manifestação religiosa em Sambalpur, Odisha, levou à violência e a uma morte e que esses eventos foram seguidos por prisões e bloqueio da internet. O Comitê está ciente da relação entre as procissões religiosas e a violência comunitária e destaca que atirar pedras durante as procissões é relatado como tendo uma natureza generalizada e organizada que tem sido observada para desencadear a violência entre hindus muçulmanos (veja, por exemplo, PC-14070).

Dado o contexto online e no meio físico em torno da publicação do conteúdo, as tensões e a violência ainda em andamento em Odisha no período em que o vídeo foi publicado e a falta de qualquer indicação da aplicabilidade de qualquer exceção de política, o Comitê considera que a remoção da publicação no âmbito dos Padrões da Comunidade de violência e incitação era necessária e adequada. Considerando o contexto volátil em Odisha no momento em que a publicação foi feita, o vídeo apresentou um risco sério e provável de promover a violência.

O Comitê, portanto, concorda com a remoção da Meta do vídeo neste caso, dados os fatores contextuais e a falta de um propósito claro de conscientização (como discutido na Seção 8.1 acima). O Comitê também observa que a empresa adicionou o vídeo no conteúdo originalmente transmitido para um banco do MMS, que foi configurado para remover todas as publicações semelhantes contendo o mesmo vídeo, independentemente da legenda que as acompanha. Isso inclui publicações com fins de conscientização, condenação e/ou denúncia — que são exceções ao Padrão da Comunidade sobre Violência e Incitação.

A maioria do Comitê acredita que os desafios de moderar o conteúdo em grande escala são muito relevantes para a avaliação dessa decisão de aplicação mais ampla. A Meta tomou essa decisão de remover conteúdo que representasse um risco sério e provável de promover a violência em um momento de maior tensão e violência. Nesses momentos, a agilidade das ações de aplicação da Meta é essencial. Como o Comitê enfatizou anteriormente, os erros são inevitáveis entre as centenas de milhões de publicações que a Meta modera todos os meses. Enquanto remoções equivocadas de conteúdo não violador (falsos positivos) impactam negativamente a expressão, manter por engano ameaças violentas e incitação (falsos negativos) apresenta grandes riscos de segurança e pode suprimir a participação dos alvos (veja casos de "Publicações nos Estados Unidos com discussões sobre aborto"). Dada a escala dos riscos para a segurança que envolveram a publicação deste vídeo em um período de maior tensão e violência em Odisha, a decisão da Meta de remover vídeos idênticos, independentemente de qualquer legenda, sem aplicar “advertências” para penalizar os usuários, foi necessária e proporcional para enfrentar os riscos potenciais desse conteúdo ser amplamente compartilhado.

Além dos fatores contextuais destacados nas Seções 2 e 8.1 acima, a maioria do Comitê observa que muitos vídeos idênticos foram removidos das plataformas da Meta devido às configurações do banco do MMS, apesar da suspensão da internet imposta pelo governo em Sambalpur. Em particular, de acordo com o fundamento da decisão da Meta, o vídeo originalmente transmitido "estava viralizando" e incluiu "um número significativo de comentários violadores". Nos termos da Seção 2 acima, o Comitê aponta relatórios destacando que há campanhas coordenadas na Índia espalhando discurso de ódio e desinformação contra os muçulmanos. Na mesma seção, o Comitê também aponta indícios de que os vídeos sobre a violência comunitária estavam se espalhando a níveis que sinalizavam uma ação coordenada. A este respeito, a maioria observa que, como afirma o Relator Especial sobre liberdade de religião ou crença, "[p]lataformas de mídia social são cada vez mais exploradas como espaços de incitação ao ódio e à violência por agentes civis, políticos e religiosos". Assim, preocupações "sobre a propagação do ódio real e implícito contra minorias religiosas foram levantadas na Índia" (A/75/385, parágrafo 35). A maioria reconhece a história de violência frequente e generalizada contra os muçulmanos, que supostamente são conduzidas com impunidade.

Esta maioria reconhece os desafios que a Meta enfrenta na remoção de ameaças de violência em grande escala (veja o caso "Protesto na Índia contra a França"). Ao analisar as dificuldades de aplicação das políticas da Meta em grande escala, o Comitê enfatizou anteriormente que o discurso desumanizante que consiste em atos ou discursos discriminatórios implícitos ou explícitos pode contribuir para atrocidades. Para evitar tais resultados, a Meta pode legitimamente remover publicações das suas plataformas que incentivem a violência (veja o caso "Cartoon Knin"). Ao interpretar o Padrão da Comunidade sobre discurso de ódio, o Comitê também considerou que, em certas circunstâncias, moderar o conteúdo com o objetivo de abordar os danos cumulativos causados pelo discurso de ódio em grande escala pode ser consistente com as responsabilidades de direitos humanos da Meta. Esta posição se mantém mesmo quando itens específicos de conteúdo, vistos isoladamente, não parecem incitar diretamente a violência ou discriminação (veja o caso "Representação de Zwarte Piet"). Para a maioria do Comitê, o mesmo pode ser dito em relação à Política sobre Violência e Incitação, dado o contexto específico deste caso.

A maioria do Comitê, no entanto, observa que medidas amplas de aplicação, como a abordagem do banco do MMS da Meta, devem ter um prazo determinado. Depois que a situação em Odisha mudar e o risco de violência associado a esse conteúdo for reduzido, a Meta deverá reavaliar as medidas de aplicação adotadas para moderar as publicações contendo o vídeo adicionado ao banco do MMS, para garantir que as exceções de política sejam aplicadas como de costume. No futuro, o Comitê aceitará abordagens que limitem tais medidas de aplicação abrangentes a um momento específico e a áreas geográficas de risco, de modo que tais medidas sejam melhor adaptadas para lidar com o risco de danos sem afetar desproporcionalmente a liberdade de expressão.

A minoria do Comitê, no entanto, não acredita que a remoção em massa da Meta em todo o mundo de todos os vídeos idênticos que descrevem um incidente passado de incitação, independentemente de os vídeos terem sido compartilhados para conscientização (por exemplo, por um veículo de notícias) ou condenação, tenha sido uma resposta proporcional. O fato de uma cidade ou população estar sofrendo violência comunitária não pode, por si só, constituir um motivo para restrições tão amplas à liberdade de expressão, em troca de evitar tal violência. Isso não garantiria que tais restrições diminuiriam a violência.

Em situações de conflito violento, o imperativo de conscientização, compartilhamento de informações e preparação das comunidades para reagir a eventos importantes que os afetam é primordial. Uma aplicação excessivamente agressiva gera o risco de deixar as comunidades vulneráveis no escuro quanto a eventos oportunos, criando o potencial para rumores e desinformação se espalharem. De fato, é perigoso supor que a voz e a segurança são necessariamente metas conflitantes e que uma deve ser sacrificada pela outra. Em vez disso, elas estão frequentemente muito interligadas: enquanto a disseminação de conteúdo destinado à incitação pode resultar em maiores riscos de violência no meio físico, a supressão de informações pode levar a minar a segurança, muitas vezes a das populações vulneráveis. Tais remoções em massa também correm o risco de afetar desproporcionalmente o discurso de partes específicas de um conflito, de maneiras a aumentar as tensões e alimentar o ímpeto à violência. Tais remoções coletivas podem silenciar os indivíduos em um momento em que precisam mais urgentemente clamar por ajuda ou pelo menos testemunhar o ocorrido. Em situações de conflito violento, há uma necessidade urgente de informações e diálogos prontamente acessíveis, para os quais as plataformas da Meta representam um veículo prioritário. A conclusão de que situações de conflito violento podem, por si só, justificar restrições abrangentes à liberdade de expressão seria uma notícia bem-vinda para governos autoritários e poderosos agentes privados que se envolvem em tal violência e um incentivo para impedir que o mundo tome conhecimento ou protelar a conscientização até que os poderes tenham alcançado seus propósitos.

A minoria acredita ainda que uma ampla política de remoção de todo o conteúdo que descreve incitação interferiria no papel vital da mídia na cobertura de eventos globais, limitando a distribuição de seu conteúdo de notícias nas plataformas da Meta quando os eventos descritos incluíssem incitações de atos passados de violência. O potencial de conscientização da divulgação oportuna de tais informações pode desempenhar um papel essencial no combate à violência ou na oposição a ela. A minoria também está preocupada com o fato de que a remoção geral de publicações que representam incitação possa prejudicar os esforços para identificar e responsabilizar os responsáveis pela incitação real à violência que ocorre fora da plataforma. Dado que o efeito viral e o alcance de uma publicação na Meta ocorrem principalmente nas horas e dias logo após a publicação ser compartilhada, a minoria não acredita que, mesmo com um prazo determinado, a proibição geral de "representação de incitação" na plataforma seja compatível com os valores da Meta e os compromissos de direitos humanos. O policiamento agressivo do conteúdo, sem levar em conta os motivos e o contexto em que ele é publicado, constitui uma abdicação da responsabilidade da Meta de manter o compromisso principal da empresa com a voz e de proteger a liberdade de expressão. A minoria está preocupada que o fundamento da maioria possa ser adotado por governos repressivos para legitimar ordens egoístas de suspensão da internet e outras formas de supressão de informações em nome da prevenção do que pode ser chamado de representação de incitação, mas equivale a informações oportunas sobre violência contra civis ou grupos minoritários e que podem salvar vidas.

Para a minoria, o Comitê não deve prontamente deferir as meras afirmações da Meta do desafio de "escala" na justificação de tais proibições abrangentes, particularmente em um contexto em que o governo estadual de Odisha cancelou a internet, contatou diretamente a Meta sobre sua moderação de conteúdo e proibiu a liberdade de reunião por um ano.

A minoria acredita que uma empresa de redes sociais que opera em uma escala específica deve garantir a aplicação das suas políticas na mesma escala. Além disso, como o Relator Especial da ONU observou, as empresas de redes sociais têm uma "gama de opções que podem estar disponíveis em determinadas situações" (A/74 /486, parágrafo 51) (observando opções como bloqueio regional, redução de amplificação, rótulos de aviso, promoção de contradiscurso etc.). O Relator Especial também declarou: “assim como os Estados devem avaliar se uma limitação de discurso é a abordagem menos restritiva, as empresas também devem realizar esse tipo de avaliação. E, ao realizar a avaliação, as empresas devem arcar com o ônus de demonstrar publicamente a necessidade e proporcionalidade”. (Id., ênfase adicionada.) O Comitê já pediu anteriormente à Meta para explicar as opções que tem à sua disposição para alcançar objetivos legítimos e por que o objetivo selecionado é o menos intrusivo (veja o caso “Alegação de cura da COVID”). Para a minoria, informações como as propostas pelo Relator Especial seriam úteis para avaliar se é necessário e proporcional instituir uma remoção massiva de conteúdo-chave durante uma crise. Além disso, ao se envolver em tal diálogo público com a Meta, a empresa poderia explicar mais detalhadamente ao Comitê e ao público, particularmente devido às suas conquistas anunciadas em relação à inteligência artificial, seus esforços para melhorar as tecnologias automatizadas a fim de detectar publicações a que exceções de política possam ser aplicadas.

9. Decisão do Comitê de Supervisão

O Comitê de Supervisão apoia a decisão da Meta de remover o conteúdo.

10. Recomendações

O Comitê de Supervisão decidiu não emitir novas recomendações nesta decisão devido à relevância das recomendações anteriores emitidas em outros casos. Por conseguinte, o Comitê decide reiterar as seguintes recomendações para que a Meta acompanhe atentamente:

• Garantir que o Padrão da Comunidade sobre Violência e Incitação permita conteúdo contendo declarações com "referência neutra a um resultado potencial de uma ação ou uma advertência instrutiva" e conteúdo que "condene ou aumente a conscientização sobre ameaças violentas" (Recomendação n.º 1, caso "Poema Russo"). O Comitê espera que essas mudanças na política sejam refletidas na aplicação em escala da Meta, incluindo sua detecção de conteúdo para aplicação, suas diretrizes de classificação/aplicação automatizada e análise usadas por seus revisores de conteúdo.
• Ser mais clara com os usuários e explicar na página de destino dos Padrões da Comunidade, da mesma forma que faz com a tolerância a conteúdo de interesse jornalístico, a possibilidade de haver tolerâncias conforme os Padrões da Comunidade sempre que os fundamentos e valores da Meta exijam uma aplicação menos rigorosa das regras. O Comitê também recomendou à Meta incluir um link para uma página da Central de Transparência que forneça informações sobre a tolerância ao "conteúdo da política" (Recomendação n.º 1, caso "Produtos farmacêuticos do Sri Lanka")

*Nota processual:

As decisões do Comitê de Supervisão são preparadas por grupos com cinco membros e aprovadas pela maioria do Comitê. As decisões do Comitê não representam, necessariamente, as opiniões pessoais de todos os membros.

Para a decisão sobre o caso em apreço, uma pesquisa independente foi contratada em nome do Comitê. O Comitê foi auxiliado por um instituto de pesquisa independente com sede na Universidade de Gotemburgo, que tem uma equipe de mais de 50 cientistas sociais de seis continentes, bem como mais de 3.200 especialistas de países do mundo todo. A Duco Advisors, empresa de consultoria especializada na intercessão entre as áreas de geopolítica, de confiança e segurança e de tecnologia, também ajudou. A Memetica, uma organização dedicada à pesquisa de código aberto sobre tendências de redes sociais, também forneceu análises. A empresa Lionbridge Technologies, LLC, cujos especialistas são fluentes em mais de 350 (trezentos e cinquenta) idiomas e trabalham de 5.000 (cinco mil) cidades pelo mundo, forneceu a consultoria linguística.