O Comitê de Supervisão publica parecer consultivo sobre política a respeito do uso do termo “shaheed” em referência a indivíduos designados como perigosos
26 de Março de 2024
Hoje, o Comitê publicou um parecer consultivo sobre política em resposta à solicitação da Meta sobre se a empresa deve continuar a remover todo o conteúdo que usa o termo árabe “shaheed” para se referir a indivíduos designados sob sua Política sobre Organizações e Indivíduos Perigosos. O Comitê acha que a abordagem atual da Meta restringe de forma desproporcional a liberdade de expressão, é desnecessária e que a empresa deve acabar com este banimento indiscriminado.
Leia o resumo executivo do parecer consultivo sobre política abaixo. Para ler a versão na íntegra, clique aqui.
Resumo executivo
O Comitê considera que a abordagem da Meta com relação à moderação de conteúdos que usam o termo “shaheed” para se referir a indivíduos designados como perigosos restringe a liberdade de expressão de maneira substancial e desproporcional. A Meta interpreta todos os usos de “shaheed” que se referem a indivíduos que ela designou como “perigosos” como violadores e remove o conteúdo. Segundo a empresa, é provável que “shaheed” tenha gerado mais remoções de conteúdo de acordo com os Padrões da Comunidade do que qualquer outra palavra ou frase nas suas plataformas. Os atos de violência terrorista têm consequências graves: destroem a vida de pessoas inocentes, impedem os direitos humanos e comprometem a estrutura de nossas sociedades. No entanto, toda limitação da liberdade de expressão para impedir esse tipo de violência deve ser necessária e proporcional, porque a remoção indevida de conteúdo pode ser ineficaz e até mesmo contraproducente.
As recomendações do Comitê se baseiam na premissa de que é indispensável que a Meta tome medidas eficazes para assegurar que suas plataformas não sejam usadas para incitar atos de violência nem para recrutar pessoas para que elas executem atos desse tipo. A palavra “shaheed” às vezes é usada por extremistas para elogiar ou glorificar pessoas que morreram ao cometer atos terroristas violentos. Porém, a resposta da Meta a essa ameaça deve também ser orientada pelo respeito a todos os direitos humanos, incluindo a liberdade de expressão.
Em 7 de outubro de 2023, quando o Comitê estava finalizando este parecer consultivo sobre política, o Hamas (uma organização designada como de Nível 1 pela Política da Meta sobre Organizações e Indivíduos Perigosos) conduziu ataques terroristas sem precedentes contra Israel, que mataram um número estimado de 1.200 pessoas e resultaram em aproximadamente 240 pessoas tomadas como reféns (Ministério das Relações Exteriores, Governo de Israel). De acordo com reportagens de notícias, em 6 de fevereiro de 2024, acredita-se que pelo menos 30 do número estimado de 136 reféns que ainda permaneciam em cativeiro pelo Hamas no início de janeiro tenham morrido. A Meta designou imediatamente esses eventos como um ataque terrorista, com base em sua Política sobre Organizações e Indivíduos Perigosos. Israel iniciou rapidamente uma campanha militar em resposta aos ataques. Até 4 de março, essa campanha militar tinha matado mais de 30 mil pessoas em Gaza (Escritório das Nações Unidas para a Coordenação de Assuntos Humanitários, com base em dados do Ministério da Saúde de Gaza). Em janeiro, relatórios indicavam a estimativa de que 70% das mortes fossem de mulheres e crianças.
Após esses eventos, o Comitê suspendeu a publicação deste parecer consultivo sobre política para assegurar que suas recomendações fornecessem uma resposta ao uso das plataformas da Meta e da palavra “shaheed” nesse contexto. Essa pesquisa adicional confirmou que as recomendações do Comitê para a Meta sobre a moderação da palavra “shaheed” eram válidas, mesmo sob a tensão extrema desses eventos, e assegurariam um maior respeito de todos os direitos humanos na resposta da Meta às crises. Ao mesmo tempo, o Comitê enfatiza que as políticas da Meta nessa área são globais, e seu impacto se estende para muito além desse conflito. Ao mesmo tempo em que reconhecem a relevância dos eventos recentes em Israel e na Palestina, as recomendações do Comitê também são globais e não se limitam a qualquer contexto específico.
Segundo o Comitê, a abordagem da Meta para a moderação da palavra “shaheed” é excessivamente ampla e restringe de maneira desproporcional a liberdade de expressão e o discurso cívico. Por exemplo, publicações que informam sobre violência e entidades designadas podem ser removidas erroneamente. A abordagem da Meta também não leva em consideração os diferentes significados de “shaheed”, muitos dos quais não têm a finalidade de glorificar ou denotar aprovação, e leva, com frequência excessiva, à remoção de publicações de falantes de árabe e de outros idiomas (muitos deles muçulmanos), sem que essa remoção sirva para os fins da Política sobre Organizações e Indivíduos Perigosos. Além disso, as políticas da Meta proíbem, por exemplo, a glorificação, o apoio e a representação de indivíduos, organizações e eventos designados, bem como a incitação à violência. Essas políticas, quando aplicadas com precisão, reduzem os perigos resultantes do uso terrorista das plataformas da Meta. Em função disso, o Comitê recomenda que a Meta cesse o banimento indiscriminado do uso do termo “shaheed” para se referir a indivíduos designados como perigosos e modifique sua política para promover uma análise contextualmente mais esclarecida dos conteúdos que incluam essa palavra.
Plano de fundo
Em fevereiro de 2023, a Meta perguntou ao Comitê se devia continuar a remover os conteúdos que usassem o termo árabe “shaheed”, ou شهيد, conforme escrito no alfabeto árabe, para se referir a indivíduos designados segundo a sua Política sobre Organizações e Indivíduos Perigosos. “Shaheed” também é um empréstimo (ou seja, muitos idiomas não árabes pegaram “emprestado” esse termo de origem árabe, inclusive adaptando a sua ortografia).
A empresa descreve a palavra “shaheed” como um título “honorífico” usado em diversas culturas, religiões e idiomas para se referir a uma pessoa que tenha morrido inesperadamente, por exemplo em um acidente, ou de forma honrada, como em uma guerra. A empresa reconhece que o termo tem “vários significados”, e que, embora não haja “nenhum termo equivalente direto no idioma inglês”, a sua tradução comum para o inglês é “martyr” (mártir). Observando que “em inglês, a palavra ‘martyr’ significa uma pessoa que tenha sofrido ou morrido por uma causa justificada, e normalmente tem uma conotação positiva”, a Meta afirma que “é devido a esse uso que categorizamos o termo [“shaheed”] como constituindo um elogio conforme a nossa Política [sobre Organizações e Indivíduos Perigosos].”
A pressuposição da Meta de que referir-se a um indivíduo designado como “shaheed” constitua sempre um elogio conforme a Política sobre Organizações e Indivíduos Perigosos resultou em um banimento indiscriminado. A Meta reconheceu que, devido aos vários significados do termo, ela “pode estar aplicando excessivamente o banimento em quantidades significativas de discursos que não são destinados a elogiar um indivíduo designado, particularmente entre os falantes do idioma árabe.” Além disso, a Meta não aplica as exceções à Política sobre Organizações e Indivíduos Perigosos que permitam o uso de “shaheed” para “divulgar notícias, condenar ou discutir de maneira neutra sobre entidades designadas.” Isso tem continuado após as atualizações mais recentes da política, feitas em dezembro de 2023, que agora proíbem a “glorificação” e as “referências pouco claras” em vez do “elogio”, que foi completamente removido.
Em 2020, devido a essas preocupações, a Meta começou um processo de desenvolvimento da política para reavaliar a sua abordagem do termo “shaheed”. No entanto, não foi alcançado um consenso dentro da empresa, e não foi acordada nenhuma nova abordagem.
Ao solicitar este parecer consultivo sobre política, a Meta apresentou ao Comitê três possíveis opções para a política:
- Manter o status quo.
- Permitir o uso de “shaheed” para referir-se a indivíduos designados em publicações que satisfaçam as exceções à proibição de “elogio” (por exemplo, divulgação de notícias, discussões neutras ou condenações), desde que não haja outros elogios ou “sinais de violência”. Alguns exemplos desses sinais propostos pela Meta incluem representações visuais de armas ou referências a linguagem militar ou violência do mundo real.
- Permitir o uso de “shaheed” para referir-se a indivíduos designados, desde que não haja outros elogios ou sinais de violência. Isso não depende de o conteúdo satisfazer ou não uma das exceções listadas acima, ao contrário do que ocorre na segunda opção.
O Comitê levou em consideração outras possíveis opções para a política. Pelos motivos alegados ao longo deste parecer consultivo sobre política, as recomendações do Comitê estão em estreita sintonia com a terceira opção, embora sejam adotados menos sinais de violência do que os que foram propostos pela Meta na sua solicitação, e há um requisito de aplicação mais ampla de exceções à política para divulgar notícias, discutir de maneira neutra e condenar entidades designadas e as respectivas ações.
Principais conclusões e recomendações
O Comitê considera que a abordagem atual da Meta com relação ao termo “shaheed” para se referir a indivíduos designados como perigosos é excessivamente ampla e restringe a liberdade de expressão de maneira substancial e desproporcional.
“Shaheed” é um termo significativo do ponto de vista cultural e religioso. Às vezes ele é usado para elogiar pessoas que morrem cometendo atos violentos, e pode até mesmo “glorificá-las”. Mas muitas vezes ele é usado, mesmo quando referido a indivíduos perigosos, em divulgação de notícias e em comentários neutros, discussões acadêmicas, debates sobre direitos humanos, e de maneiras ainda mais passivas. Entre outros significados, “shaheed” é amplamente usado para se referir a indivíduos que morrem servindo seu próprio país, servindo uma causa que eles adotaram ou como vítima inesperada de violência sócio-política ou catástrofes naturais. Em alguns países muçulmanos, ele é usado até mesmo como nome ou sobrenome. Existem fortes motivos para se acreditar que os vários significados de “shaheed” resultam na remoção de uma quantidade substancial de materiais que não têm a finalidade de elogiar terroristas ou as respectivas ações violentas.
A abordagem da Meta de remover conteúdos simplesmente por eles usarem “shaheed” ao se referirem a indivíduos designados ignora intencionalmente a complexidade linguística da palavra e seus numerosos usos, tratando-a sempre e somente como o equivalente da palavra inglesa “martyr” (mártir). Fazer isso afeta substancialmente a liberdade de expressão e as liberdades da mídia, restringe indevidamente o discurso cívico e tem consequências negativas graves para a igualdade e a não discriminação. Esse over-enforcement (monitoramento excessivo) afeta de maneira desproporcional os falantes de árabe e os falantes de outros idiomas que usam o termo “shaheed” como empréstimo. Ao mesmo tempo, outras maneiras de se implementar a Política sobre Organizações e Indivíduos Perigosos continuariam permitindo que a Meta promovesse seu valor de segurança e seu objetivo de não permitir que em suas plataformas haja materiais que glorificam terroristas. Portanto, a política atual é desproporcional e desnecessária.
Para que suas políticas e as práticas de monitoramento em torno do termo “shaheed” fiquem mais alinhadas com os padrões de direitos humanos, o Comitê faz as seguintes recomendações:
1. A Meta deve cessar de pressupor que a palavra “shaheed”, quando usada para se referir a um indivíduo designado ou a membros não nomeados de organizações designadas, é sempre violadora e não qualificada para exceções à política. Os conteúdos que se referem a um indivíduo designado com o termo “shaheed” devem ser removidos como “referência pouco clara” somente em duas situações. Em primeiro lugar, quando um ou mais destes sinais de violência estiverem presentes: uma representação visual de um armamento/uma arma, uma declaração de intenção ou defesa do uso ou da posse de um armamento/uma arma ou uma referência a um evento designado. Em segundo lugar, quando o conteúdo violar, de alguma outra forma, as políticas da Meta (por exemplo, por glorificação ou porque a referência a um indivíduo designado permanece pouco clara por motivos diferentes do uso de “shaheed”). Em qualquer uma das duas situações, o conteúdo deve continuar sendo qualificado para exceções de “divulgação de notícias, discussão neutra e condenação”.
2. Para esclarecer a proibição de “referências pouco claras”, a Meta deve incluir vários exemplos de conteúdos violadores, incluindo uma publicação que se refira a um indivíduo designado com o termo “shaheed” em combinação com um ou mais dos três sinais de violência especificados na recomendação n.º 1.
3. As orientações internas da Meta sobre a política também devem ser atualizadas para deixar claro que o uso da palavra “shaheed” em referência a indivíduos designados não é violador, exceto se acompanhado de sinais de violência, e que, mesmo quando esses sinais estão presentes, o conteúdo ainda pode se qualificar para se beneficiar das exceções para “divulgação de notícias, discussão neutra ou condenação”.
Se a Meta aceitar e implementar essas recomendações, segundo suas regras atuais, a empresa continuará a remover conteúdos que “glorificam” indivíduos designados, caracterizam a violência ou o ódio desses indivíduos como uma conquista, ou legitimam ou defendem seus atos violentos ou agressivos, bem como qualquer apoio a ou representação de uma entidade designada como perigosa. A abordagem proposta pelo Comitê que resulta dessas recomendações consiste em que a Meta cesse de interpretar sempre a palavra “shaheed” como violadora quando referida a um indivíduo designado, removendo o conteúdo somente quando ele estiver combinado com outras violações da política (por exemplo, glorificação) ou a título de “referência pouco clara” devido a sinais de violência. Ainda assim, o conteúdo deve ser considerado como qualificado para as exceções à política em casos de “divulgação de notícias, discussão neutra ou condenação de indivíduos designados”.
O Comitê também recomenda que a Meta faça o seguinte:
4. Explicar mais detalhadamente o procedimento por meio do qual entidades e eventos são designados segundo a Política sobre Organizações e Indivíduos Perigosos para melhorar a transparência com relação a essa lista. A Meta deveria também publicar informações agregadas sobre o número total de entidades em cada nível da sua lista de designações, bem como o número de entidades que foram adicionadas e removidas no último ano.
5. Introduzir um processo claro e eficaz para auditar regularmente as designações e remover as que já não satisfaçam os critérios publicados, para assegurar que a lista de entidades designadas como Organizações e Indivíduos Perigosos permaneça atualizada e não inclua organizações, indivíduos e eventos que não correspondam mais à definição da designação da Meta.
6. Explicar os métodos utilizados a fim de avaliar a precisão da análise humana e o desempenho dos sistemas automatizados para o monitoramento da Política sobre Organizações e Indivíduos Perigosos. A Meta deveria também compartilhar periodicamente os resultados das avaliações de desempenho dos classificadores utilizados no monitoramento dessa política, fornecendo os resultados de forma que eles possam ser comparados entre diferentes idiomas e/ou regiões.
7. Explicar claramente como os classificadores são usados para gerar previsões de violações da política e como a Meta estabelece limites para não tomar nenhuma medida, colocar o conteúdo na fila para análise humana ou remover o conteúdo. Essas informações devem ser fornecidas na Central de Transparência da empresa para informar as partes interessadas.
Mais informações
Na preparação deste parecer consultivo sobre política, o Comitê realizou o amplo envolvimento das partes interessadas. Para saber mais sobre os comentários públicos que recebemos e as mesas redondas de envolvimento das partes interessadas, clique para ver o parecer consultivo sobre política completo.
