Uso do termo “shaheed” em referência a indivíduos designados como perigosos

Resumo Executivo

O Comitê considera que a abordagem da Meta com relação à moderação de conteúdos que usam o termo “shaheed” para se referir a indivíduos designados como perigosos restringe a liberdade de expressão de maneira substancial e desproporcional. A Meta interpreta todos os usos de “shaheed” que se referem a indivíduos que ela designou como “perigosos” como violadores e remove o conteúdo. Segundo a empresa, é provável que “shaheed” tenha gerado mais remoções de conteúdo de acordo com os Padrões da Comunidade do que qualquer outra palavra ou frase nas suas plataformas. Os atos de violência terrorista têm consequências graves: destroem a vida de pessoas inocentes, impedem os direitos humanos e comprometem a estrutura de nossas sociedades. No entanto, toda limitação da liberdade de expressão para impedir esse tipo de violência deve ser necessária e proporcional, porque a remoção indevida de conteúdo pode ser ineficaz e até mesmo contraproducente.

As recomendações do Comitê se baseiam na premissa de que é indispensável que a Meta tome medidas eficazes para assegurar que suas plataformas não sejam usadas para incitar atos de violência nem para recrutar pessoas para que elas executem atos desse tipo. A palavra “shaheed” às vezes é usada por extremistas para elogiar ou glorificar pessoas que morreram ao cometer atos terroristas violentos. Porém, a resposta da Meta a essa ameaça deve também ser orientada pelo respeito a todos os direitos humanos, incluindo a liberdade de expressão.

Em 7 de outubro de 2023, quando o Comitê estava finalizando este parecer consultivo sobre política, o Hamas (uma organização designada como de Nível 1 pela política da Meta sobre Organizações e Indivíduos Perigosos) conduziu ataques terroristas sem precedentes contra Israel, que mataram um número estimado de 1.200 pessoas e resultaram em aproximadamente 240 pessoas tomadas como reféns (Ministério das Relações Exteriores, Governo de Israel). De acordo com reportagens de notícias, em 6 de fevereiro de 2024, acredita-se que pelo menos 30 do número estimado de 136 reféns que ainda permaneciam em cativeiro pelo Hamas no início de janeiro tenham morrido. A Meta designou imediatamente esses eventos como um ataque terrorista, com base em sua Política sobre Organizações e Indivíduos Perigosos. Israel iniciou rapidamente uma campanha militar em resposta aos ataques. Até 4 de março, essa campanha militar tinha matado mais de 30 mil pessoas em Gaza (Escritório das Nações Unidas para a Coordenação de Assuntos Humanitários, com base em dados do Ministério da Saúde de Gaza). Em janeiro, relatórios indicavam a estimativa de que 70% das mortes fossem de mulheres e crianças.

Após esses eventos, o Comitê suspendeu a publicação deste parecer consultivo sobre política para assegurar que suas recomendações fornecessem uma resposta ao uso das plataformas da Meta e da palavra “shaheed” nesse contexto. Essa pesquisa adicional confirmou que as recomendações do Comitê para a Meta sobre a moderação da palavra “shaheed” eram válidas, mesmo sob a tensão extrema desses eventos, e assegurariam um maior respeito de todos os direitos humanos na resposta da Meta às crises. Ao mesmo tempo, o Comitê enfatiza que as políticas da Meta nessa área são globais, e seu impacto se estende para muito além desse conflito. Ao mesmo tempo em que reconhecem a relevância dos eventos recentes em Israel e na Palestina, as recomendações do Comitê também são globais e não se limitam a qualquer contexto específico.

Segundo o Comitê, a abordagem da Meta para a moderação da palavra “shaheed” é excessivamente ampla e restringe de maneira desproporcional a liberdade de expressão e o discurso cívico. Por exemplo, publicações que informam sobre violência e entidades designadas podem ser removidas erroneamente. A abordagem da Meta também não leva em consideração os diferentes significados de “shaheed”, muitos dos quais não têm a finalidade de glorificar ou denotar aprovação, e leva, com frequência excessiva, à remoção de publicações de falantes de árabe e de outros idiomas (muitos deles muçulmanos), sem que essa remoção sirva para os fins da Política sobre Organizações e Indivíduos Perigosos. Além disso, as políticas da Meta proíbem, por exemplo, a glorificação, o apoio e a representação de indivíduos, organizações e eventos designados, bem como a incitação à violência. Essas políticas, quando aplicadas com precisão, reduzem os perigos resultantes do uso terrorista das plataformas da Meta. Em função disso, o Comitê recomenda que a Meta cesse o banimento indiscriminado do uso do termo “shaheed” para se referir a indivíduos designados como perigosos e modifique sua política para promover uma análise contextualmente mais esclarecida dos conteúdos que incluam essa palavra.

Histórico

Em fevereiro de 2023, a Meta perguntou ao Comitê se devia continuar a remover os conteúdos que usassem o termo árabe “shaheed”, ou شهيد, conforme escrito no alfabeto árabe, para se referir a indivíduos designados segundo a sua Política sobre Organizações e Indivíduos Perigosos. “Shaheed” também é um empréstimo (ou seja, muitos idiomas não árabes pegaram “emprestado” esse termo de origem árabe, inclusive adaptando a sua ortografia).

A empresa descreve a palavra “shaheed” como um título “honorífico” usado em diversas culturas, religiões e idiomas para se referir a uma pessoa que tenha morrido inesperadamente, por exemplo em um acidente, ou de forma honrada, como em uma guerra. A empresa reconhece que o termo tem “vários significados”, e que embora não haja “nenhum termo equivalente direto no idioma inglês”, a sua tradução comum para o inglês é “martyr” (mártir). Observando que “em inglês, a palavra ‘martyr’ significa uma pessoa que tenha sofrido ou morrido por uma causa justificada, e normalmente tem uma conotação positiva”, a Meta afirma que “é devido a esse uso que categorizamos o termo [“shaheed”] como constituindo um elogio conforme a nossa Política [sobre Organizações e Indivíduos Perigosos].”

A pressuposição da Meta de que referir-se a um indivíduo designado como “shaheed” constitua sempre um elogio conforme a Política sobre Organizações e Indivíduos Perigosos resultou em um banimento indiscriminado. A Meta reconheceu que, devido aos vários significados do termo, ela “pode estar aplicando excessivamente o banimento em quantidades significativas de discursos que não são destinados a elogiar um indivíduo designado, particularmente entre os falantes do idioma árabe.” Além disso, a Meta não aplica as exceções à Política sobre Organizações e Indivíduos Perigosos que permitam o uso de “shaheed” para “divulgar notícias, condenar ou discutir de maneira neutra sobre entidades designadas.” Isso tem continuado após as atualizações mais recentes da política, feitas em dezembro de 2023, que agora proíbem a “glorificação” e as “referências pouco claras” em vez do “elogio”, que foi completamente removido.

Em 2020, devido a essas preocupações, a Meta começou um processo de desenvolvimento da política para reavaliar a sua abordagem do termo “shaheed”. No entanto, não foi alcançado um consenso dentro da empresa, e não foi acordada nenhuma nova abordagem.

Ao solicitar este parecer consultivo sobre política, a Meta apresentou ao Comitê três possíveis opções para a política:

1. Manter o status quo.
2. Permitir o uso de “shaheed” para referir-se a indivíduos designados em publicações que satisfaçam as exceções à proibição de “elogio” (por exemplo, divulgação de notícias, discussões neutras ou condenações), desde que não haja outros elogios ou “sinais de violência”. Alguns exemplos desses sinais propostos pela Meta incluem representações visuais de armas ou referências a linguagem militar ou violência do mundo real.
3. Permitir o uso de “shaheed” para referir-se a indivíduos designados, desde que não haja outros elogios ou sinais de violência. Isso não depende de o conteúdo satisfazer ou não uma das exceções listadas acima, ao contrário do que ocorre na segunda opção.

O Comitê levou em consideração outras possíveis opções para a política. Pelos motivos alegados ao longo deste parecer consultivo sobre política, as recomendações do Comitê estão em estreita sintonia com a terceira opção, embora sejam adotados menos sinais de violência do que os que foram propostos pela Meta na sua solicitação, e há um requisito de aplicação mais ampla de exceções à política para divulgar notícias, discutir de maneira neutra e condenar entidades designadas e as respectivas ações.

Principais conclusões e recomendações

O Comitê considera que a abordagem atual da Meta com relação ao termo “shaheed” para se referir a indivíduos designados como perigosos é excessivamente ampla e restringe a liberdade de expressão de maneira substancial e desproporcional.

“Shaheed” é um termo significativo do ponto de vista cultural e religioso. Às vezes ele é usado para elogiar pessoas que morrem cometendo atos violentos, e pode até mesmo “glorificá-las”. Mas muitas vezes ele é usado, mesmo quando referido a indivíduos perigosos, em divulgação de notícias e em comentários neutros, discussões acadêmicas, debates sobre direitos humanos, e de maneiras ainda mais passivas. Entre outros significados, “shaheed” é amplamente usado para se referir a indivíduos que morrem servindo seu próprio país, servindo uma causa que eles adotaram ou como vítima inesperada de violência sócio-política ou catástrofes naturais. Em alguns países muçulmanos, ele é usado até mesmo como nome ou sobrenome. Existem fortes motivos para se acreditar que os vários significados de “shaheed” resultam na remoção de uma quantidade substancial de materiais que não têm a finalidade de elogiar terroristas ou as respectivas ações violentas.

A abordagem da Meta de remover conteúdos simplesmente por eles usarem “shaheed” ao se referirem a indivíduos designados ignora intencionalmente a complexidade linguística da palavra e seus numerosos usos, tratando-a sempre e somente como o equivalente da palavra inglesa “martyr” (mártir). Fazer isso afeta substancialmente a liberdade de expressão e as liberdades da mídia, restringe indevidamente o discurso cívico e tem consequências negativas graves para a igualdade e a não discriminação. Esse monitoramento excessivo afeta de maneira desproporcional os falantes de árabe e os falantes de outros idiomas que usam o termo “shaheed” como empréstimo. Ao mesmo tempo, outras maneiras de se implementar a Política sobre Organizações e Indivíduos Perigosos continuariam permitindo que a Meta promovesse seu valor de segurança e seu objetivo de não permitir que em suas plataformas haja materiais que glorificam terroristas. Portanto, a política atual é desproporcional e desnecessária.

Para que suas políticas e as práticas de monitoramento em torno do termo “shaheed” fiquem mais alinhadas com os padrões de direitos humanos, o Comitê faz as seguintes recomendações (consulte na seção 6 as recomendações em sua integralidade):

1. A Meta deve cessar de pressupor que a palavra “shaheed”, quando usada para se referir a um indivíduo designado ou a membros não nomeados de organizações designadas, é sempre violadora e não qualificada para exceções à política. Os conteúdos que se referem a um indivíduo designado com o termo “shaheed” devem ser removidos como “referência pouco clara” somente em duas situações. Em primeiro lugar, quando um ou mais destes sinais de violência estiverem presentes: uma representação visual de um armamento/uma arma, uma declaração de intenção ou defesa do uso ou da posse de um armamento/uma arma ou uma referência a um evento designado. Em segundo lugar, quando o conteúdo violar de alguma outra forma as políticas da Meta (por exemplo, por glorificação ou porque a referência a um indivíduo designado permanece pouco clara por motivos diferentes do uso de “shaheed”). Em qualquer uma das duas situações, o conteúdo deve continuar sendo qualificado para exceções de “divulgação de notícias, discussão neutra e condenação”.

2. Para esclarecer a proibição de “referências pouco claras”, a Meta deve incluir vários exemplos de conteúdos violadores, incluindo uma publicação que se refira a um indivíduo designado com o termo “shaheed” em combinação com um ou mais dos três sinais de violência especificados na recomendação nº 1.

3. As orientações internas da Meta sobre a política também devem ser atualizadas para deixar claro que o uso da palavra “shaheed” em referência a indivíduos designados não é violador, exceto se acompanhado de sinais de violência, e que mesmo quando esses sinais estão presentes, o conteúdo ainda pode se qualificar para se beneficiar das exceções para “divulgação de notícias, discussão neutra ou condenação”.

Se a Meta aceitar e implementar essas recomendações, segundo suas regras atuais, a empresa continuaria a remover conteúdos que “glorificam” indivíduos designados, caracterizam a violência ou o ódio desses indivíduos como uma conquista, ou legitimam ou defendem seus atos violentos ou agressivos, bem como qualquer apoio a ou representação de uma entidade designada como perigosa. A abordagem proposta pelo Comitê que resulta dessas recomendações consiste em que a Meta cesse de interpretar sempre a palavra “shaheed” como violadora quando referida a um indivíduo designado, removendo o conteúdo somente quando ele estiver combinado com outras violações da política (por exemplo, glorificação) ou a título de “referência pouco clara” devido a sinais de violência. Ainda assim, o conteúdo deve ser considerado como qualificado para as exceções à política em casos de “divulgação de notícias, discussão neutra ou condenação de indivíduos designados”.

O Comitê recomenda que a Meta faça o seguinte:

4. Explicar mais detalhadamente o procedimento por meio do qual entidades e eventos são designados segundo a Política sobre Organizações e Indivíduos Perigosos para melhorar a transparência com relação a essa lista. A Meta deveria também publicar informações agregadas sobre o número total de entidades em cada nível da sua lista de designações, bem como o número de entidades que foram adicionadas e removidas no último ano.

5. Introduzir um processo claro e eficaz para auditar regularmente as designações e remover as que já não satisfaçam os critérios publicados, para assegurar que a lista de entidades designadas como Organizações e Indivíduos Perigosos permaneça atualizada e não inclua organizações, indivíduos e eventos que não correspondam mais à definição da designação da Meta.

6. Explicar os métodos utilizados para avaliar a precisão da análise humana e o desempenho dos sistemas automatizados para o monitoramento da Política sobre Organizações e Indivíduos Perigosos. A Meta deveria também compartilhar periodicamente os resultados das avaliações de desempenho dos classificadores utilizados no monitoramento dessa política, fornecendo os resultados de forma que eles possam ser comparados entre diferentes idiomas e/ou regiões.

7. Explicar claramente como os classificadores são usados para gerar previsões de violações da política e como a Meta estabelece limites para não tomar nenhuma medida, colocar o conteúdo na fila para análise humana ou remover o conteúdo. Essas informações devem ser fornecidas na Central de Transparência da empresa para informar as partes interessadas.

Parecer consultivo sobre política completo

1. Solicitação da Meta

I. A solicitação de um parecer consultivo sobre política

1. Na solicitação (disponível em inglês e árabe), a Meta perguntou ao Comitê se devia continuar a remover o conteúdo que usa a palavra “shaheed” (شهيد) (e suas formas no singular e no plural, incluindo variantes de empréstimo em árabe e outros idiomas) para se referir a indivíduos designados como perigosos pela Política sobre Organizações e Indivíduos Perigosos, ou se outra abordagem se alinharia melhor com os valores e as responsabilidades de direitos humanos da empresa. Além disso, a Meta solicitou orientações sobre problemas de conteúdo parecidos que possam acontecer no futuro.

II. A abordagem da Meta

2. A Política sobre Organizações e Indivíduos Perigosos da Meta proibia “elogio, apoio substancial e representação de entidades e indivíduos designados” e de “eventos violentos violadores” designados. Em 29 de dezembro de 2023, a Meta atualizou essa política, removendo a proibição de elogio e adicionando proibições de “glorificação” e “referências pouco claras”. O Comitê estendeu suas considerações para avaliar os eventuais impactos que essas modificações à política poderiam exercer em suas conclusões e recomendações.

3. Essa solicitação de um parecer consultivo sobre política dizia respeito à proibição de elogio de indivíduos designados, e não às proibições paralelas de apoio substancial e representação. Em comparação com a representação e o apoio substancial, a Meta considerava o “elogio” como a violação menos grave. A Meta reserva o “Nível 1” para as entidades mais perigosas, incluindo organizações terroristas, intolerantes e criminosas. Quando a Meta designa um “evento violento violador”, os perpetradores desses eventos também são designados como indivíduos perigosos de Nível 1, e, portanto, a glorificação (anteriormente o “elogio”) deles é proibida. Os eventos designados incluem “ataques terroristas, eventos de ódio, violência com várias vítimas ou tentativa de violência com várias vítimas, assassinatos em série e crimes de ódio”. Embora a Meta controle sua própria lista de entidades designadas, que não é pública, as designações baseiam-se parcialmente nas listas de designações do governo dos EUA (ou seja, a lista de designações da Meta contém as listas do governo dos EUA das quais ela deriva). Os Padrões da Comunidade explicam que as entidades de Nível 1 incluem “comandos especiais de tráfico de drogas (SDNTKs, pelas iniciais em inglês) especialmente designados”, “organizações terroristas estrangeiras (FTOs, pelas iniciais em inglês)” e “terroristas globais especialmente designados”. Essas listas do governo dos EUA estão disponíveis publicamente aqui, aqui e aqui, respectivamente.

4. Antes da atualização da política de 29 de dezembro de 2023, a definição de “elogio” da Meta incluía falar “positivamente sobre uma entidade ou evento designados”, atribuir “uma noção de conquista” a uma entidade designada, legitimar “a causa de uma entidade designada, alegando que sua conduta intolerante, violenta ou criminosa é justificada ou aceitável do ponto de vista legal, moral ou outro” e “alinhar-se ideologicamente com uma entidade ou um evento designados”. Essa definição, ou série de exemplos, foi adicionada à política para melhorar a clareza após uma recomendação do Comitê de Supervisão em um de nossos primeiros casos (decisão sobre o caso Citação nazista, recomendação nº 2). Após a atualização da política de dezembro de 2023, a “glorificação” é definida como “legitimar ou defender os atos violentos ou intolerantes de uma entidade designada alegando que esses atos têm uma justificativa moral, política, lógica ou de outra natureza que os torna aceitáveis ou razoáveis” ou “caracterizar ou celebrar a violência ou a intolerância de uma entidade designada como uma conquista ou realização”. De modo mais geral, a Meta afirma, na atualização da sua política, que removerá “referências pouco claras ou sem contexto se a intenção do usuário não for indicada claramente”. A política especifica que isso incluirá “piadas pouco claras” e “referências sem legendas ou positivas que não glorifiquem a violência ou o ódio da entidade designada”. No entanto, a política não fornece exemplos dos tipos de publicações que violariam essa regra. A Meta informou o Comitê que ela continua removendo todos os conteúdos que fazem referência a indivíduos designados como “shaheed”. Para essas referências, a empresa pressupõe que “shaheed” seja uma palavra violadora em todos os contextos, resultando essencialmente em um banimento indiscriminado da palavra quando usada para se referir a um indivíduo designado. O escopo dessa proibição pode ser ilustrado em parte consultando-se a lista de designações dos EUA mencionada acima, sendo proibido pela política da Meta referir-se a quaisquer pessoas (e membros de organizações) contidas em sua própria lista derivada como “shaheed” (ou qualquer outra tradução do termo “mártir”). Isso inclui entidades em diferentes continentes, e não se limita a organizações terroristas ou organizações de uma ideologia específica.

5. A empresa descreve a palavra “shaheed” como um título “honorífico” em uso em muitas comunidades de diversas culturas, religiões e idiomas. A empresa reconheceu que o termo tem “vários significados” e tem sido “usado para descrever alguém que morre inesperada ou prematuramente, por vezes se referindo a uma morte honrosa, como quando alguém morre em um acidente, em um conflito ou em uma guerra”. A Meta afirmou que embora não haja “nenhum termo equivalente direto no idioma inglês”, a tradução comum para o inglês é “martyr” (mártir). Ao enviar a sua solicitação ao Comitê, antes das modificações à política feitas em dezembro de 2023, a Meta afirmou que “pressupomos que a palavra signifique ‘mártir’”, e “é devido a esse uso que categorizamos o termo como constituindo um elogio conforme nossa Política [sobre Organizações e Indivíduos Perigosos].” A única referência a essa regra nos Padrões da Comunidade dirigidos ao público era a título de exemplo de expressões que violariam a proibição de elogio. Entre outros exemplos, a Meta incluía uma expressão que chamava de “mártir” um terrorista dos EUA condenado. Em sua versão em árabe da política, a Meta usou o mesmo exemplo, traduzindo a palavra “martyr” (mártir) como “shaheed”. O exemplo de “mártir”/“shaheed” foi removido na atualização de dezembro de 2023 do Padrão da Comunidade dirigido ao público, embora a Meta tenha informado o Comitê de que ele continua sendo considerado como violador, e os moderadores têm a instrução de removê-lo.

6. A Meta não aplica as exceções à Política sobre Organizações e Indivíduos Perigosos com relação ao uso de “shaheed” ao se fazer referência a uma pessoa designada. Em outros casos, essas exceções permitem “divulgar notícias, discutir de maneira neutra ou condenar” indivíduos designados. A remoção de conteúdos que incluem “shaheed” como “elogio” de um indivíduo designado resultaria em advertências severas para os usuários, e a acumulação de advertências severas leva mais rapidamente a sanções como a suspensão ou a desativação de contas ou páginas. A inaplicabilidade das exceções à regra no caso do uso de “shaheed” não é explicada nos Padrões da Comunidade dirigidos ao público.

7. A Meta explicou que o seu tratamento do uso de “shaheed” impulsiona seu valor de promoção da segurança, porque esses conteúdos poderiam, segundo a Meta, “contribuir para um risco de dano no meio físico”. Ao mesmo tempo, a Meta reconheceu que a palavra inglesa “martyr” (mártir) não é uma tradução adequada de “shaheed”. Levando-se em consideração os vários significados de “shaheed” e as dificuldades em se determinar o contexto e as intenções dos usuários em grande escala, a Meta admitiu que tem removido discursos que “não contribuem para um risco de danos” e que “não têm a finalidade de elogiar um indivíduo designado, particularmente entre os falantes de árabe”. Por exemplo, a remoção de conteúdos em que “shaheed” é usado na divulgação de notícias ou para discutir de maneira neutra a morte prematura de um indivíduo designado, e não para elogiar (ou glorificar) o indivíduo ou a sua conduta.

8. Em 29 de agosto de 2023, a Meta atualizou as exceções à Política sobre Organizações e Indivíduos Perigosos para incluir definições de “divulgação de notícias”, “discussão neutra” e “condenação”, bem como exemplos ilustrativos de cada exceção. Ao mesmo tempo, a Meta expandiu sua descrição dessas exceções para reconhecer que os usuários podiam referir-se a entidades designadas “no contexto de um discurso social e político”. Os exemplos ilustrativos de conteúdos permitidos foram todos removidos como parte da atualização da política de dezembro de 2023, embora as exceções em si permaneçam. Os exemplos foram reinseridos em uma atualização da política em 8 de fevereiro de 2024. No entanto, nem a atualização de dezembro de 2023, nem a de fevereiro de 2024 explicitam que as referências pouco claras ou sem contexto a indivíduos ou organizações designados não se beneficiarão dessas exceções, já que elas são definidas pela falta de uma intenção claramente demonstrada na própria publicação.

9. Em 2020, a Meta começou um processo de desenvolvimento da política para reavaliar a sua abordagem do termo “shaheed”. Isso incluiu revisar pesquisas e consultar as partes interessadas. De acordo com a Meta, uma descoberta importante do engajamento com as partes interessadas foi que o significado de “shaheed” depende do contexto e “que, em determinadas situações, o termo não é sensível e não se qualifica como um elogio.” Ao mesmo tempo, sem dúvida existem situações em que “shaheed” é usado e entendido como um elogio a um indivíduo designado. A determinação das diferenças de intenção em uma única publicação é inerentemente difícil, especialmente em grande escala. Durante esse processo, como descrito na sua solicitação, a Meta identificou duas opções para a política como possíveis alternativas ao uso do seu tratamento atual da palavra “shaheed”. Porém, não havia consenso entre as partes interessadas sobre qual seria a melhor opção, e a Meta não estabeleceu uma nova abordagem. A empresa ressalta que, devido ao volume de conteúdo nas suas plataformas, uma das principais preocupações práticas é se o monitoramento de uma eventual política modificada é viável em grande escala.

III. Alterações à política que a Meta solicitou que o Comitê examine

10. A Meta apresentou as seguintes opções para a política a serem examinadas pelo Comitê, antes da substituição da proibição de “elogio” com a proibição de “glorificação” e “referências pouco claras”:

1) Continuar a remover todo conteúdo que use “shaheed” para se referir a indivíduos designados como perigosos pela Política sobre Organizações e Indivíduos Perigosos.

2) Permitir conteúdos que se refere indivíduos designados como “shaheed” quando os seguintes requisitos são cumpridos: (i) o termo é usado em um contexto permitido pela Política sobre Organizações e Indivíduos Perigosos (como condenações, divulgação de notícias, debates acadêmicos, discurso social e político); (ii) não há outros elogios, representações ou apoio substancial a um indivíduo designado (por exemplo, a publicação não elogia explicitamente o perpetrador de um ataque terrorista nem legitima a violência dele); e (iii) não há sinal de violência no conteúdo. Os sinais propostos pela Meta são: uma representação visual de um armamento; declaração de intenção ou defesa do uso ou da posse de um armamento/uma arma; referência a linguagem militar; referência a incêndio criminoso, saque ou outro tipo de destruição de bens; referência a incidentes de violência conhecidos no mundo real; e declarações de intenção, chamadas para ação, representação, apoio ou defesa de violência contra pessoas.

3) Remover conteúdos que usem “shaheed” para se referir a um indivíduo designado como perigoso pela Política sobre Organizações e Indivíduos Perigosos da Meta apenas quando houver outros elogios, representações ou apoio substancial, ou sinais de violência. Esses sinais são os mesmos estabelecidos na opção dois.

11. Tanto a segunda como a terceira opção têm a finalidade de chegar a uma compreensão mais contextualizada do uso de “shaheed”, e não parecem divergir muito com relação aos resultados almejados. As duas opções parecem ainda mais semelhantes ao se levar em consideração que a Meta expandiu o escopo das exceções contextualizadas que ela faz à proibição do elogio (agora substituído pela glorificação) de modo geral (veja o parágrafo 8 acima). Segundo o entendimento do Comitê, após questionar a Meta sobre as diferenças na aplicação e no resultado dessas duas opções, a diferença principal é que a segunda opção obrigaria a Meta a apurar e confirmar que uma das exceções (divulgação de notícias, discussão neutra, condenação) se aplique ao conteúdo, enquanto a terceira opção ignoraria essa etapa e consideraria apenas se a publicação contém ou não algum outro elogio (agora “glorificação” ou “referências pouco claras”) ou um dos seis sinais de violência listados. Com relação a todas as opções propostas pela Meta, a política seria aplicada de maneira que qualquer conteúdo que nomeie ou represente indivíduos designados como perigosos e que seja ambíguo ou pouco claro em sua intenção seja tratado por padrão como violador, atribuindo, portanto, ao usuário o ônus da clareza de intenção. As modificações de dezembro de 2023 incorporam essa aplicação no Padrão da Comunidade sobre Organizações e Indivíduos Perigosos, explicando que para as entidades e eventos designados de Nível 1, a política proíbe “referências pouco claras ou sem contexto”, que incluem “piadas pouco claras, referências sem legendas ou positivas que não glorifiquem a violência ou o ódio da entidade designada”. Por exemplo, uma fotografia de um indivíduo designado, sem palavras ou comentários, seria removida em função da política que proíbe referências pouco claras, porque a intenção do usuário não seria suficientemente explícita.

12. Além de examinar as opções apresentadas pela Meta, o Comitê também examinou outras opções, e levou em consideração as alterações à política feitas em dezembro de 2023. Além disso, como a solicitação da Meta pedia diretamente que o Comitê fornecesse recomendações sobre a política para lidar com desafios semelhantes no futuro, o Comitê avaliou assuntos afins relacionados com as práticas de monitoramento e transparência da Meta em áreas evidentes neste parecer consultivo sobre política, mas que têm consequências para a liberdade de expressão e outros direitos humanos de modo mais geral.

IV. Perguntas que o Comitê fez à Meta

13. O Comitê fez 41 perguntas à Meta por escrito. Perguntas relacionadas com o fundamento da política que embasa o Padrão da Comunidade sobre Organizações e Indivíduos Perigosos, provas de danos que poderiam decorrer por permitir “elogio” nas plataformas da Meta, os processos humanos e automatizados de monitoramento da Meta, o processo de designação e a lista de entidades designadas da Meta, o sistema de advertências da Meta e as consequências concretas da adoção da opção dois ou três para a política. Em outubro de 2023, o Comitê fez perguntas de acompanhamento sobre as tendências dos conteúdos com a palavra “shaheed” relacionados com os ataques terroristas de 7 de outubro contra Israel e com a resposta militar em andamento por Israel, e se a análise da Meta sobre as opções que ela tinha apresentado para a política em sua solicitação sofrera alguma alteração em função da crise atual. O Comitê fez mais três perguntas sobre a atualização que a Meta fez da política em 29 de dezembro de 2023. No total, 40 perguntas foram respondidas e uma foi parcialmente respondida. A Meta forneceu ao Comitê apenas a lista de entidades designadas de Nível 1, e não compartilhou listas de entidades de Nível 2 e 3, explicando que o “elogio” só é proibido com relação ao Nível 1.

2. Envolvimento das partes interessadas

14. O Comitê de Supervisão recebeu 101 comentários públicos que cumpriam os termos para envio. No total, 72 comentários foram enviados dos Estados Unidos e Canadá; 15 do Oriente Médio e Norte da África; oito da Europa; três da Ásia-Pacífico e da Oceania; dois da América Latina e do Caribe; e um da Ásia Central e do Sul. Todos foram recebidos antes de 10 de abril de 2023. Para ler os comentários públicos enviados com consentimento de publicação, clique aqui.

15. Os envios abrangiam muitos temas. Muitos explicavam os vários significados da palavra “shaheed”, e consequentemente o impacto negativo do tratamento padrão da Meta desse termo como “elogio” na liberdade de expressão, em particular no discurso político e na documentação sobre direitos humanos. Os envios também abordavam preocupações sobre o uso da automação no monitoramento, bem como a lista de designações da Meta, problemas de transparência e o potencial de viés no processo de designação. Outros envios expressavam preocupação de que as alterações na política pudessem levar à normalização de grupos terroristas e aumentar a violência, particularmente em Israel e nos Territórios Palestinos Ocupados.

16. O Comitê realizou três mesas redondas regionais com partes interessadas para o Oriente Médio e o Norte da África, a África Subsaariana e o Sudeste Asiático. Além disso, foram realizadas duas mesas redondas de assuntos específicos: uma sobre automação na moderação de conteúdo, e uma sobre combate ao terrorismo e direitos humanos. Os participantes ressaltaram que a palavra “shaheed” tem muitos significados. O martírio é um significado possível, inclusive para a morte de indivíduos ao cometerem atos de terrorismo, mas “shaheed” também é usado frequentemente em outros contextos, por exemplo para descrever vítimas de violência nesses ataques. Muitos participantes, incluindo membros de comunidades afetadas, especialistas em combate ao terrorismo e especialistas em moderação de conteúdo, expressaram preocupações sobre viés na política e discutiram como ele afeta negativamente a liberdade de expressão, particularmente para falantes de árabe e outras comunidades que usam “shaheed”. Outros temas incluíram a falta de provas que demonstrem um elo causal entre o uso de “shaheed” em referência a indivíduos designados e danos no mundo real, o que também foi enfatizado por especialistas em segurança nacional e combate ao terrorismo. Houve também preocupações de que a ausência total de moderação do termo venha a permitir a normalização de indivíduos designados e suas organizações, que poderiam usar as redes sociais para recrutamento e outras formas de apoio substancial. Outros tópicos incluíram preocupações sobre a qualidade da automação que a Meta usa na moderação de conteúdo com relação ao termo em questão e a solicitação dos participantes de uma maior transparência com relação ao seu uso e com relação à lista de entidades designadas e ao processo de designação da Meta.

17. Para consultar um relatório sobre nossas mesas redondas de envolvimento das partes interessadas, clique aqui (para a versão em árabe, clique aqui).

3. Escopo e autoridade do Comitê de Supervisão

18. A Meta pode solicitar pareceres consultivos sobre políticas ao Comitê (Artigo 3, Seção 7.3 do Estatuto), e fica ao critério do Comitê aceitar ou rejeitar as solicitações da Meta (Artigo 2, Seção 2.1.3 do Regulamento Interno). Esses pareceres são consultivos (Estatuto; Artigo 3, Seção 7.3). A Meta tem a obrigação de responder a este parecer em até 60 dias a partir da publicação (Artigo 2, Seção 2.3.2 do Regulamento Interno). O Comitê monitora a implementação de recomendações que a Meta se comprometeu a pôr em prática, e pode fazer um acompanhamento de eventuais recomendações anteriores em suas decisões sobre os casos.

4. Fontes de autoridade e orientação

I. Recomendações anteriores do Comitê de Supervisão

19. Em casos anteriores, o Comitê recomendou que a Meta esclarecesse e restringisse o escopo da Política sobre Organizações e Indivíduos Perigosos e melhorasse o processo e a transparência com relação ao monitoramento.

20. Com relação ao esclarecimento da política e à restrição do seu escopo, o Comitê recomendou que a Meta:

• restrinja a definição de “elogio” nas orientações para analistas sobre Questões Conhecidas (Menção do Talibã na divulgação de notícias, recomendação nº 3).
• revise suas orientações internas para deixar claro que a exceção para “divulgação de notícias” na Política sobre Organizações e Indivíduos Perigosos autoriza declarações positivas sobre entidades designadas como parte da divulgação de notícias, e como distinguir isso de “elogios” proibidos (Menção do Talibã na divulgação de notícias, recomendação nº 4).
• adicione critérios e exemplos ilustrativos à sua política para melhorar a compreensão das exceções para discussão neutra, condenação e divulgação de notícias (Publicação compartilhada da Al Jazeera, recomendação nº 1).
• atualize o fundamento da política para refletir o fato de que o respeito da liberdade de expressão e de outros direitos humanos pode promover o valor de segurança da Meta, e para especificar com mais detalhes os “danos no mundo real” que a política procura prevenir e interromper quando o valor de voz é suprimido (Isolamento de Öcalan, recomendação nº 4).
• explique como os usuários podem esclarecer sua intenção por trás da publicação para que esta possa se beneficiar de exceções à política (Isolamento de Öcalan, recomendação nº 6).
• explique e forneça exemplos da aplicação de termos importantes da Política sobre Organizações e Indivíduos Perigosos, incluindo o significado de “elogio”, e forneça a orientações mais claras aos usuários sobre como eles podem evidenciar a respectiva intenção (Citação nazista, recomendação nº 2).

21. Com relação ao sistema de advertências da Meta, o Comitê recomendou que a Meta:

• explique seu processo de advertências e penalidades para restringir perfis, páginas, grupos e contas no Facebook e no Instagram de uma maneira clara, abrangente e acessível (Suspensão do ex-presidente Trump, recomendação nº 15).
• torne mais abrangente e acessível a explicação pública do sistema de advertências de duas faixas, fornecendo mais contexto sobre as “advertências severas” (Menção do Talibã na divulgação de notícias, recomendação nº 2).
• forneça aos usuários informações acessíveissobre quantas violações, advertências e penalidades foram usadas nas avaliações deles, bem como as consequências de futuras violações (Suspensão do ex-presidente Trump, recomendação nº 16).

22. Com relação à transparência, o Comitê recomendou que a Meta:

• compartilhe publicamente sua lista de entidades designadas, ou pelo menos forneça exemplos ilustrativos de entidades designadas (Citação nazista, recomendação nº 3).
• melhore seus relatórios de monitoramento, incluindo números de restrições de perfis, páginas e contas (além das decisões de remoção de conteúdo), com informações subdivididas por região e país (Suspensão do ex-presidente Trump, recomendação nº 17).
• inclua informações mais abrangentes sobre taxas de erros na aplicação de regras sobre “exaltação” e “apoio” de organizações e indivíduos perigosos, subdivididas por região e idioma (Isolamento de Öcalan, recomendação nº 12).
• aumente as informações públicas sobre taxas de erros e as torne visualizáveis por país e idioma para cada Padrão da Comunidade (Preocupação do Punjab com a RSS na Índia, recomendação nº 3).

23. Com relação à automação, o Comitê recomendou que a Meta:

• informe os usuários quando for usada automação para tomar medidas de monitoramento contra os respectivos conteúdos, incluindo descrições acessíveis do significado disso (Sintomas de câncer de mama e nudez, recomendação nº 3).
• expanda os relatórios de transparência para divulgar dados sobre o número de decisões de remoção automatizadas de acordo com o Padrão da Comunidade e a proporção dessas decisões posteriormente revertidas após análise humana (Sintomas de câncer de mama e nudez, recomendação n.º 6).
• publique as taxas de erro relacionadas a conteúdos incluídos erroneamente nos bancos de dados de conteúdos violadores do Serviço de Correspondência de Mídias, subdivididas por política de conteúdo, em seus relatórios de transparência. Esses relatórios deveriam incluir informações sobre como o conteúdo é inserido nos bancos de dados e as iniciativas da empresa para reduzir erros no processo (Ilustração retratando policiais colombianos, recomendação nº 3).
• forneça uma explicação pública da priorização automática e do encerramento de apelações (Slogan de protesto no Irã, recomendação nº 7).

24. para visualizar o status da implementação dessas recomendações anteriores no momento em que este parecer foi finalizado, clique aqui (para a versão em árabe, clique aqui).

II. Responsabilidades com os direitos humanos e valores da Meta

25. A análise e as recomendações do Comitê neste parecer consultivo sobre política foram baseadas nas responsabilidades com os direitos humanos e nos valores da Meta.

26. A Meta descreve a voz como um valor “essencial”, observando que ele pode ser limitado em benefício de outros quatro valores, dos quais o mais relevante para este parecer consultivo sobre política é a segurança. Para proteger o valor de segurança, a Meta “remove conteúdo que possa contribuir para o risco de danos à segurança física das pessoas”. Ela também não permite “conteúdos que ameacem pessoas”, porque eles “têm o potencial de intimidar, excluir ou silenciar os outros.”

27. Em 16 de março de 2021, a Meta anunciou sua Política Corporativa de Direitos Humanos, na qual destaca o compromisso de respeitar os direitos de acordo com os Princípios Orientadores sobre Empresas e Direitos Humanos da ONU (UNGPs, na sigla em inglês). Os UNGPs, sancionados pelo Comitê de Direitos Humanos da ONU em 2011, estabelecem uma estrutura voluntária de responsabilidades sobre direitos humanos das empresas privadas. Essas responsabilidades significam, entre outras coisas, que as empresas devem “se abster de infringir os direitos humanos de terceiros e enfrentar os impactos negativos sobre os direitos humanos nos quais tenham algum envolvimento” (Princípio 11, UNGPs). Espera-se que as empresas: “(a) Evitem que suas próprias atividades gerem impactos negativos sobre direitos humanos ou para estes contribuam, bem como enfrentem essas consequências quando vierem a ocorrer; (b) Busquem prevenir ou mitigar os impactos negativos sobre os direitos humanos diretamente relacionadas com operações, produtos ou serviços prestados por suas relações comerciais, inclusive quando não tenham contribuído para gerá-los” (Princípio 13, UNGPs).

28. Como a Meta reconhece em sua solicitação ao Comitê, suas práticas de moderação de conteúdo podem ter impactos adversos no direito à liberdade de expressão. O Artigo 19, parágrafo 2 do Pacto Internacional dos Direitos Civis e Políticos (PIDCP) estabelece uma ampla proteção desse direito, dada a sua importância para o discurso político, e o Comitê de Direitos Humanos observou que ele protege também expressões que podem ser profundamente ofensivas (Comentário Geral nº 34, parágrafos 11, 13 e 38). Quando um Estado aplica restrições à expressão, elas devem atender aos requisitos de legalidade, objetivo legítimo e necessidade e proporcionalidade, segundo o parágrafo 3 do Artigo 19 do PIDCP. Esses requisitos costumam ser chamados de "teste tripartite". O Comitê usa essa estrutura para interpretar os compromissos voluntários de direitos humanos da Meta, tanto em relação à decisão de conteúdo individual sob análise quanto à abordagem mais ampla da Meta à governança de conteúdo. Como afirmou o Relator Especial da ONU sobre liberdade de opinião e de expressão, embora “as empresas não tenham as obrigações que os governos têm, seu impacto exige que avaliem o mesmo tipo de questões sobre a proteção do direito de seus usuários à liberdade de expressão” (relatório A/74/486, parágrafo 41).

29. O direito à liberdade de expressão é garantido para todas as pessoas igualmente. Quaisquer restrições a esse direito devem ser não discriminatórias, inclusive com base na religião ou crença, no idioma falado e na origem nacional (Artigos 2 e 26 do PIDCP).

Legalidade (clareza e acessibilidade das regras)

30. Qualquer restrição à liberdade de expressão deve ser acessível e ser clara o suficiente em escopo, significado e efeito, para orientar os usuários e os analistas de conteúdo sobre qual conteúdo é permitido ou proibido. A falta de clareza ou precisão pode levar a uma aplicação incoerente e arbitrária das regras (relatório A/HRC/38/35, parágrafo 46, do Relator Especial da ONU). O Comitê criticou anteriormente a falta de clareza da Política sobre Organizações e Indivíduos Perigosos e fez recomendações para que a Meta melhore essa política (Isolamento de Öcalan, recomendações nº 4 e nº 6; Publicação compartilhada da Al Jazeera, recomendação nº 1; Menção do Talibã na divulgação de notícias, recomendações nº 3 e nº 4). Subsequentemente, a Meta implementou as recomendações do Comitê de esclarecer a definição de elogio.

31. A atualização de dezembro de 2023 feita pela Meta na Política sobre Organizações e Indivíduos Perigosos, no entanto, introduz novas preocupações relacionadas com a legalidade. Embora a Meta forneça exemplos de publicações que violam a proibição de “representação”, “apoio” e “glorificação”, ela não fornece exemplos de “referências pouco claras” violadoras. As recomendações do Comitê neste parecer consultivo sobre política têm o objetivo de melhorar ainda mais a clareza e a acessibilidade das regras da Meta.

Objetivo legítimo

32. O Artigo 19, parágrafo 3 do PIDCP estabelece que qualquer restrição à expressão deve perseguir uma finalidade legítima, incluindo a proteção dos direitos de terceiros e interesses sociais mais amplos, como a segurança nacional (consulte também o Comentário Geral nº 34, parágrafos 21 e 30). O fundamento da política da Meta para o Padrão da Comunidade sobre Organizações e Indivíduos Perigosos explica que ele busca “prevenir e interromper danos no mundo real”, o que em vários casos o Comitê concluiu estar em sintonia com a finalidade legítima de proteger os direitos de terceiros, incluindo o direito à vida (Artigo 6 do PIDCP). O Comitê também reconheceu anteriormente que o elogio de entidades designadas pode gerar riscos de danos aos direitos de terceiros, e que procurar mitigar esses danos por meio da proibição do elogio no Padrão da Comunidade sobre Organizações e Indivíduos Perigosos tem uma finalidade legítima (Menção do Talibã na divulgação de notícias).

Necessidade e Proporcionalidade

33. Qualquer restrição à liberdade de expressão “deve ser apropriada para cumprir sua função protetora; deve ser o instrumento menos intrusivo entre aqueles que podem cumprir sua função protetora; deve ser proporcional ao interesse a ser protegido” (Comentário geral nº 34, parágrafo 34).

34. A Resolução 1624 do Conselho de Segurança da ONU (2005) exorta os estados, conforme necessário e apropriado, e em função das respectivas obrigações decorrentes do direito internacional, a “proibir por lei a incitação a cometer um ou mais atos terroristas” (parágrafo 1a), e resoluções subsequentes têm expressado preocupações sobre o uso da internet por organizações terroristas (Resolução 2178 (2014) do CSNU e Resolução 2396 do CSNU (2017)). Embora essas resoluções reafirmem que os estados devem enfrentar e prevenir o terrorismo em conformidade com suas obrigações decorrentes das leis internacionais dos direitos humanos, o Relator Especial da ONU sobre a promoção e a proteção dos direitos humanos e das liberdades fundamentais durante o combate ao terrorismo expressou preocupações sobre a imprecisão das leis destinadas a implementar essas obrigações, incluindo as leis relacionadas com a expressão online, e também sobre o foco dessas leis no conteúdo do discurso e não na intenção do autor ou no impacto do discurso em outras pessoas (relatório A/HRC/40/52, parágrafo 37). O Relator Especial concluiu que a criminalização da propaganda terrorista “requer a probabilidade razoável de que a expressão em questão seja bem-sucedida em incitar um ato terrorista, estabelecendo assim um grau de elo causal ou um risco real de que o resultado proscrito ocorra” ( ibid.). A Declaração conjunta sobre a internet e as medidas de combate ao terrorismo do Relator Especial da ONU sobre liberdade de expressão, do Representante da OSCE sobre a liberdade da mídia e do Relator Especial da OEA sobre liberdade de expressão, de 21 de dezembro de 2005, declara que se um estado não mostra claramente que o discurso em questão constitui uma chamada direta e intencional para que outras pessoas se envolvam em atos terroristas e que aumenta diretamente a probabilidade de ocorrência de um ato terrorista, o estado em questão não pode restringir e penalizar o discurso com medidas punitivas (p. 39). Um limite alto também é estabelecido pelo Relator Especial sobre liberdade de expressão no relatório A/HRC/17/27 (16 de maio de 2011, parágrafo 36), que observa que a expressão só pode ser limitada por motivos de segurança nacional ou para fins de combate ao terrorismo quando “(a) a expressão é destinada a incitar violência iminente; (b) é provável que ela incite a violência em questão; e (c) existe uma conexão direta e imediata entre a expressão e a probabilidade de ocorrência da violência em questão.” De acordo com o Comitê de Direitos Humanos, quando medidas de combate ao terrorismo proíbem um determinado discurso, termos como “encorajamento”, “glorificação” e “elogio” devem ser “definidos de maneira restrita” e não devem “restringir indevidamente o papel crucial da mídia em informar o público sobre atos de terrorismo” (Comentário Geral nº 34, parágrafos 30 e 46).

35. Embora esses princípios e padrões sejam um importante ponto de partida para a análise do Comitê, as obrigações e limitações que as leis internacionais de direitos humanos impõem aos estados não são idênticas às responsabilidades e ao arbítrio que uma empresa privada pode ter nessa área. A aplicação de sanções penais por um estado não é equivalente à moderação de conteúdo em uma plataforma de rede social, e o Comitê reconhece que a Meta, a título de empresa privada e não de estado, pode adotar e às vezes adota uma abordagem com relação à expressão que é mais restritiva do que seria justificável por um estado, levando-se em consideração seus valores empresariais (veja os parágrafos 27 e 28 acima) e os desafios característicos da moderação de conteúdo em grande escala. Segundo o Relator Especial da ONU sobre liberdade de expressão: “Quando as regras da empresa diferem das normas internacionais, as empresas devem fornecer uma explicação fundamentada da diferença da política antecipadamente, de uma maneira que articule a variação” (relatório sobre discurso de ódio online do Relator Especial sobre liberdade de expressão, A/74/486, 9 de outubro de 2019, parágrafo 48). Em muitas de suas decisões anteriores, o Comitê tem explorado como traduzir adequadamente as normas internacionais destinadas aos estados para as responsabilidades de direitos humanos de uma empresa ao avaliar o requisito de proporcionalidade, como o Comitê tenta fazer também neste parecer consultivo sobre política.

36. Decisões anteriores relacionadas com o Padrão da Comunidade sobre Organizações e Indivíduos Perigosos também examinaram as responsabilidades da Meta com os direitos humanos em torno do conceito de “elogio” de entidades designadas. Embora seja uma finalidade legítima prevenir o abuso das plataformas da Meta por entidades designadas que procuram incitar a violência e recrutar ou realizar outras formas de apoio material, o Comitê tem se deparado com vários casos em que a amplitude ou a imprecisão da proibição do “elogio” restringiu de maneira desnecessária e desproporcional a expressão do usuário. Por exemplo, o Comitê reverteu a remoção de uma publicação de um jornal no idioma urdu sobre um anúncio do Talibã sobre planos de restabelecer a educação de mulheres e meninas, concluindo que não se tratava de “elogio” (Menção do Talibã na divulgação de notícias). De forma análoga, o Comitê reverteu a remoção pela Meta de uma publicação de um usuário que atribuía erroneamente uma citação a Joseph Goebbels (Citação nazista), porque o contexto era suficiente para deixar claro que a publicação não estava elogiando a ideologia nazista, e sim participando de uma discussão política nos Estados Unidos. O Comitê reverteu também a decisão da Meta de remover uma publicação que compartilhava uma reportagem da Al Jazeera sobre a ameaça de violência de um grupo designado como terrorista, que deveria ter permanecido na plataforma, o que gerou preocupações sobre os impactos potencialmente discriminatórios das políticas da Meta (Publicação compartilhada da Al Jazeera). Em decisões resumidas e céleres, o Comitê também reverteu ou solicitou a reversão de várias decisões da Meta de remover publicações no Facebook e no Instagram, inicialmente removidas como elogio de indivíduos designados (Líder anticolonialista Amílcar Cabral; Ativista libanês; Resposta ao antissemitismo; Distrito eleitoral federal na Nigéria; Educação de meninas no Afeganistão; Menção do Al-Shabaab; Louvado seja Deus; e Reféns sequestrados de Israel). Muitas dessas decisões ainda são pertinentes, apesar das alterações recentes da Meta à Política sobre Organizações e Indivíduos Perigosos. O Comitê continuará o exame dessa política em casos futuros, inclusive com relação às novas disposições sobre glorificação e “referências pouco claras”.

6. Recomendações e análise

37. O Comitê de Supervisão emite sete recomendações para a Meta que abrangem a política de conteúdo, monitoramento e transparência. O Comitê acredita que essas recomendações são factíveis em grande escala e farão avançar a aderência da Meta a seus próprios valores de voz e de segurança, ao mesmo tempo em que farão aumentar o seu respeito pela liberdade de expressão e outros direitos humanos, bem como a transparência.

6.1 Política da Meta sobre “shaheed”

Recomendação 1 – política de conteúdo: A Meta deve cessar de pressupor que a palavra “shaheed”, quando usada para se referir a um indivíduo designado ou a membros não nomeados de organizações designadas, é sempre violadora e não qualificada para exceções à política. Os conteúdos que se referem a um indivíduo designado com o termo “shaheed” devem ser removidos como “referência pouco clara” somente em duas situações. Em primeiro lugar, quando um ou mais destes sinais de violência estiverem presentes: uma representação visual de um armamento/uma arma, uma declaração de intenção ou defesa do uso ou da posse de um armamento/uma arma ou uma referência a um evento designado. Em segundo lugar, quando o conteúdo violar de alguma outra forma as políticas da Meta (por exemplo, por glorificação ou porque a referência a um indivíduo designado permanece pouco clara por motivos diferentes do uso de “shaheed”). Em qualquer uma das duas situações, o conteúdo deve continuar sendo qualificado para exceções de “divulgação de notícias, discussão neutra e condenação”.

O Comitê considerará que essa recomendação terá sido implementada quando a Meta atualizar publicamente seus Padrões da Comunidade para especificar que o uso da palavra “shaheed” em referência a indivíduos designados não é permitido quando um ou mais dos três sinais de violência listados estiverem presentes.

Recomendação 2 – política de conteúdo: Para esclarecer a proibição de “referências pouco claras”, a Meta deve incluir vários exemplos de conteúdos violadores, incluindo uma publicação que se refira a um indivíduo designado com o termo “shaheed” em combinação com um ou mais dos três sinais de violência especificados na recomendação nº 1.

O Comitê considerará que essa recomendação terá sido implementada quando a Meta atualizar publicamente seus Padrões da Comunidade com exemplos de “referências pouco claras”.

Recomendação 3 – monitoramento: As orientações internas da Meta sobre a política também devem ser atualizadas para deixar claro que o uso da palavra “shaheed” em referência a indivíduos designados não é violador, exceto se acompanhado de sinais de violência, e que mesmo quando esses sinais estão presentes, o conteúdo ainda pode se qualificar para se beneficiar das exceções para “divulgação de notícias, discussão neutra ou condenação”.

O Comitê considerará que essa recomendação terá sido implementada quando a Meta atualizar suas orientações para analistas, permitindo que “shaheed” se beneficie das exceções para divulgação de notícias, discussão neutra e condenação, e compartilhar essas orientações revisadas com o Comitê.

38. Embora seja indispensável que a Meta procure impedir que suas plataformas sejam usadas para incitar atos de violência terrorista — uma finalidade legítima de suas políticas de moderação de conteúdo —, as responsabilidades da Meta com os direitos humanos exigem que qualquer limitação da expressão seja necessária e proporcional, em particular para respeitar a voz das pessoas de comunidades afetadas pela violência. Embora um dos significados de “shaheed” de fato corresponda à palavra inglesa “martyr” (mártir) e ela seja usada dessa forma, o Comitê considera não ser necessário nem proporcional que a Meta remova todos os conteúdos somente pelo uso da palavra “shaheed” em referência a indivíduos designados. Isso é porque a proibição categórica não leva em consideração a complexidade linguística do termo, leva a uma remoção excessiva de discursos, restringe indevidamente a liberdade da mídia e o espaço cívico e tem consequências negativas graves para a igualdade e a não discriminação. Além disso, se esta recomendação for aceita e implementada, os detalhes da política da Meta que proíbem a “glorificação” e as “referências pouco claras” de modo geral continuarão sendo aplicáveis. Portanto, a Meta deveria cessar de remover conteúdos com base unicamente na presença da palavra “shaheed”. Em vez disso, a empresa deveria adotar uma abordagem mais contextual, e definir de modo claro e restrito os sinais de violência que farão com que a palavra “shaheed” seja interpretada como prejudicial. Conforme explicado abaixo, o Comitê está endossando plenamente apenas dois dos seis sinais propostos pela Meta em sua solicitação, e recomenda restringir um terceiro sinal. Os outros três que a Meta propôs, e que são fornecidos como orientação para que os analistas monitorem a Política sobre Violência e Incitação separada, são excessivamente amplos para os fins da Política sobre Organizações e Indivíduos Perigosos. Por outro lado, o Comitê recomenda que a Meta aplique exceções para conteúdos que denunciem, condenem ou discutam de maneira neutra sobre uma entidade designada quando estiverem presentes sinais de violência. As recomendações acima se aplicam à palavra “shaheed” em suas formas no singular e no plural, e às variantes nos numerosos idiomas que adotaram o termo.

39. O Comitê consultou especialistas e partes interessadas para avaliar os possíveis danos de permitir conteúdos que usem o termo “shaheed” para se referir a entidades designadas nas plataformas da Meta. Algumas partes interessadas mostraram preocupação com a possibilidade de as plataformas da Meta facilitarem as iniciativas de propaganda e recrutamento de terroristas e promoverem a discriminação ou a violência, inclusive contra o povo judeu (veja os comentários públicos, por exemplo: PC-11123 – CyberWell Ltd; PC-11153 – Stop Antisemitism Now; PC-11194 – Committee for Accuracy in the Middle East; PC-11068 – Canadian Antisemitism Education Foundation). Embora não haja pesquisas que mostrem qualquer conexão causal concreta entre “shaheed” em um aumento nessa violência e discriminação (conforme observado anteriormente na indicação da Meta na página 10, que derivou do envolvimento com especialistas e partes interessadas que a própria Meta conduziu antes de solicitar o parecer consultivo sobre política), existem casos individuais que estabelecem um elo entre um desejo de martírio e atos violentos. De modo mais geral, as preocupações de que as redes sociais possam ser usadas por organizações violentas para recrutar e promover a comissão de atos terroristas, normalizar o terrorismo e facilitar o extremismo são generalizadas. As consultas extensas junto às partes interessadas e a especialistas, realizadas pelo Comitê, que incluíram uma mesa redonda com especialistas em combate ao terrorismo (consulte Mesas redondas de envolvimento das partes interessadas), confirmaram essas hipóteses e preocupações.

40. Numerosos envios de especialistas e partes interessadas ao Comitê também descreveram impactos negativos sobre a liberdade de expressão decorrentes da remoção dos conteúdos que usam o termo “shaheed” (veja os comentários públicos, por exemplo: PC-11196 – Integrity Institute; PC-11164 – SMEX, PC-11183 ECNL EFF, PC-11190 – Brennan Centre; PC-11188 – Digital Rights Foundation). Isso inclui a remoção de discursos que usam o termo “shaheed” não para elogiar nem glorificar entidades designadas, mas para divulgar notícias sobre violência de organizações terroristas ou outras organizações designadas, ou para participar de discussões políticas ou acadêmicas neutras sobre indivíduos designados.

41. Os exemplos a seguir podem servir para ilustrar a abordagem da Meta quando os conteúdos que usam a palavra “shaheed” para se referirem a um indivíduo designado são removidos:

• Um governo compartilha nas plataformas da Meta um comunicado à imprensa que confirma a morte de um indivíduo designado, usando o termo honorífico “shaheed” juntamente com o nome do indivíduo. Essa publicação seria removida, porque a Meta parte do pressuposto de que o termo “shaheed” é violador, independentemente do contexto que indica que se trata de uma discussão neutra.
• Um usuário compartilha uma foto de um protesto do qual ele está participando, sem uma legenda clara que explique a finalidade do protesto. Vários cartazes mencionam com a palavra “shaheed” um indivíduo designado falecido. Essa publicação seria removida, porque a Meta parte do pressuposto de que a imagem que mostra os cartazes que nomeiam o indivíduo designado em combinação com o termo “shaheed” é violadora.
• Um defensor dos direitos humanos compartilha uma publicação que inclui uma descrição de uma execução sumária, pelo estado, de um indivíduo designado, referindo-se ao indivíduo como “shaheed” e condenando a política antiterrorismo de um determinado governo. Essa publicação seria removida, porque a Meta parte do pressuposto de que o termo “shaheed” é violador, independentemente do contexto de divulgação de notícias.
• Um membro da comunidade preocupado publica uma reclamação sobre o estado de uma estrada local; o nome da estrada consiste no nome de um indivíduo designado e inclui o termo honorífico “shaheed”. Isso seria removido porque a Meta parte do pressuposto de que o termo “shaheed” é violador, independentemente do fato de que a menção do indivíduo designado é um detalhe incidental de uma discussão sobre assuntos locais.
• Um parente se refere a um ente querido assassinado em um ataque terrorista como “shaheed” e condena os agressores, que são indivíduos designados. Apesar de que essa publicação seria não violadora, a combinação do uso de “shaheed” em um contexto em que os perpetradores também são nomeados ilustra um conteúdo que incita a uma remoção errônea, vista a abordagem categórica da Meta.

42. Algumas partes interessadas expressaram a preocupação de que uma abordagem menos restritiva do uso de “shaheed” poderia ter, em grande escala, o efeito cumulativo de normalizar o terrorismo. Embora seja inegável que, em alguns casos, a palavra “shaheed” é usada com a intenção de constituir e constitui uma forma de aprovação ou endosso de uma pessoa e de seus respectivos atos violentos, o Comitê não considera que o banimento indiscriminado da palavra pela política em questão se justifique com esse argumento. Em função das informações fornecidas ao Comitê pelas partes interessadas, incluindo especialistas em combate ao terrorismo, e pelas pesquisas e consultas junto às partes interessadas conduzidas pela Meta, o Comitê conclui que as preocupações sobre as possibilidades de que esses casos possam ter efeitos cumulativos prejudiciais substanciais são sobrepujadas pelo impacto negativo altamente tangível que a política atual exerce na liberdade de expressão. Esse é especialmente o caso porque, mesmo se as recomendações do Comitê forem implementadas, permanecerão em vigor proteções significativas para fazer avançar as metas de prevenção da violência e de outros danos decorrentes do fato de se permitir que os terroristas e seus apoiadores usem livremente as plataformas da Meta.

43. O Comitê levou em consideração também que a palavra “shaheed” tem vários significados e é frequentemente usada não para incitar violência ou ódio, mas para relatar assuntos de interesse público. Aplicar um banimento indiscriminado significa remover uma grande quantidade de conteúdos que não causam os danos que as políticas da Meta procuram mitigar. Embora a moderação de conteúdo em grande escala às vezes exija a aceitação de uma certa porcentagem de erros de monitoramento, a Meta tem a responsabilidade de ponderar meios-termos com base em todas as suas responsabilidades com os direitos humanos. Com base em todas essas considerações, o Comitê chega à conclusão de que abordagem que ele propõe é a que melhor concilia as responsabilidades globais da Meta com os direitos humanos.

Importância cultural e religiosa de “shaheed” e diversidade de significados

44. “Shaheed” é um termo importante do ponto de vista cultural e religioso, é usado em muitos contextos diferentes e tem vários significados. Os comentários públicos enviados ao Comitê e as pesquisas encomendadas pelo Comitê forneceram insights adicionais sobre esse termo. “Shaheed” pode significar “testemunhar” e “depor”. Também é usado como nome islâmico, e em algumas regiões, incluindo a Ásia Ocidental e o Norte da África, como sobrenome (veja os comentários públicos, por exemplo: PC-11196 – Integrity Institute; PC-11164 – SMEX). “Shaheed” também é usado para se referir a pessoas que morrem durante um ato religioso. Em conflitos armados ou ataques violentos, incluindo incidentes em que estão envolvidas organizações designadas, as pessoas às vezes celebram as vítimas de violência e terrorismo referindo-se a elas como “shaheed” (veja os comentários públicos, por exemplo: PC-11164 – SMEX; o PC-11197 do governo da Nova Zelândia se referiu às vítimas de Christchurch como “shuhada,” que é o plural de “shaheed”; o PC-11196, do Integrity Institute, destaca que as comunidades muçulmanas marginalizadas, incluindo os rohingyas, em alguns países usam “shaheed” para referir-se aos refugiados que foram forçados a sair do Myanmar devido à perseguição baseada na religião ou na crença). Uma pesquisa quantitativa sobre conteúdos que foram publicados e permanecem nas plataformas da Meta, que o Comitê encomendou à Memetica, indicou que o termo “shaheed” é amplamente usado para referir-se a indivíduos que morrem ao servir seu próprio país, sua causa ou como vítimas inesperadas de violência sociopolítica ou catástrofes naturais. Embora essas publicações não associem necessariamente “shaheed” a um indivíduo designado, os exemplos citados anteriormente (veja o parágrafo 41) ilustram como os numerosos significados e usos de “shaheed” também são pertinentes nesse contexto.

45. Depois dos ataques terroristas de outubro de 2023 liderados pelo Hamas contra Israel e da ação militar de Israel que se seguiu em Gaza, o Comitê encomendou pesquisas adicionais sobre as tendências dos conteúdos em torno do uso de “shaheed”. Das mais de 12 mil publicações abertas examinadas nessa análise, somente duas apoiavam o Hamas. Praticamente todos os usos estavam relacionados a descrições de mortes de palestinos na faixa de Gaza, sem menção de qualquer organização ou indivíduo designado. As publicações incluíam palestinos em luto pela perda de seus entes queridos, enquanto outras mostravam crianças palestinas feridas e/ou o resultado de bombardeios aéreos em Gaza. Foram feitas perguntas adicionais à Meta, já que o acesso dos pesquisadores às tendências de conteúdo limita-se aos conteúdos públicos que permanecem nas plataformas, e não inclui os conteúdos removidos pela Meta por violarem sua Política sobre Organizações e Indivíduos Perigosos. As respostas da Meta reforçaram as conclusões da pesquisa. Segundo a empresa, as tendências de conteúdo durante a crise não demonstraram qualquer alteração no uso ou na compreensão da palavra “shaheed” em comparação com o período anterior a esses eventos.

46. Esses diversos significados indicam que a pressuposição padrão da Meta de que o uso de “shaheed” seja violador e cause danos no mundo real, e que, portanto, deva ser sempre removido, impõe custos globais na liberdade de expressão com os quais é necessário lidar. A Meta explicou que “shaheed” é provavelmente a palavra mais moderada em suas plataformas, e várias partes interessadas observaram que conteúdos de divulgação de notícias sobre entidades designadas e violência são frequentemente removidos pela Meta (solicitação de parecer consultivo sobre política, na página 3). Essa abordagem de “shaheed” é um exemplo da priorização que a empresa dá a distinções nítidas (óbvias) para o monitoramento em grande escala. Embora em princípio essas distinções possam às vezes ser adequadas, já que a moderação de conteúdo em grande escala frequentemente acarreta meios-termos difíceis, o Comitê conclui, neste caso, que a pressuposição padrão de que o termo “shaheed” deva sempre ser removido com relação a um indivíduo designado não se justifica e deve ser abandonada. Como a própria Meta admite, a sua abordagem não leva em consideração o contexto linguístico e cultural devido à sua própria concepção, e resulta em um excesso significativo de monitoramento de duas maneiras. Em primeiro lugar, ela resulta na remoção de conteúdos que não têm a finalidade de elogiar nem glorificar, mas que, apesar disso, violam a política, porque a Meta optou por pressupor que o termo “shaheed” seja sempre violador. Em segundo lugar, ela favorece taxas mais altas de remoção errônea de conteúdos que usam “shaheed” com relação a pessoas que não são indivíduos designados, porque a abordagem adota uma visão categórica e desencoraja avaliações mais contextuais.

47. Apesar dos vários significados de “shaheed”, o Comitê nota que os exemplos incluídos anteriormente na proibição de “elogio” de Organizações e Indivíduos Perigosos não eram contextualizados para diferentes mercados, com traduções diretas excessivamente simplistas desses exemplos. Nos Padrões da Comunidade, a única indicação da abordagem da Meta com relação aos conteúdos que incluem “shaheed” era um exemplo de uma frase que chama um terrorista condenado de “mártir”, listado na proibição mais geral de elogio. Esse mesmo exemplo foi usado em diferentes idiomas, e para o árabe foi traduzido como “shaheed”, apesar de esses termos não serem necessariamente equivalentes. O Comitê nota que esse exemplo foi removido na atualização de dezembro de 2023 da política. Embora a tradução desse exemplo não fosse necessariamente incorreta, usar esse único exemplo para afirmar que “shaheed” é sempre equivalente a “mártir” não é correto.

48. Pelos mesmos motivos mas na direção oposta, as conclusões do Comitê sobre “shaheed” neste parecer consultivo sobre política não devem ser transferidas automaticamente ao termo “mártir” e a todas as traduções desse termo a outros idiomas. “Martyr” (“Mártir”) e “shaheed” não são diretamente equivalentes, já que o primeiro é menos variável semanticamente no idioma inglês, nas regiões em que se fala inglês. Em diferentes idiomas, a Meta deverá avaliar quais termos cumprem o limite da Meta para “glorificação”, levando em consideração as orientações estabelecidas neste parecer consultivo sobre política. Em todo caso, o Comitê não endossa proibições indiscriminadas que isolem e proíbam o uso de “shaheed” no contexto mais amplo das publicações em que o termo é usado. Coerentemente com os precedentes do Comitê de Supervisão, essas publicações deveriam ser avaliadas em sua integralidade. Além disso, em conformidade com suas políticas dirigidas ao público, a Meta deveria assegurar que haja exceções à política para que as pessoas possam “divulgar notícias, condenar ou discutir de maneira neutra” sobre indivíduos designados quando é usado o termo “mártir” (e termos genuinamente correspondentes de glorificação ou referência positiva em outros idiomas). Isso ressalta a importância de que as orientações internas para analistas sejam adaptadas ao contexto local e às especificidades linguísticas do idioma que está sendo analisado (veja preocupações análogas expressas na decisão do Comitê sobre Bot de Myanmar, que serviram de base para a recomendação nº 1 daquele caso).

49. Em vários casos, o Comitê incitou a Meta a recalibrar o equilíbrio entre ter regras nítidas aplicáveis em grande escala e políticas que dedicam maior atenção ao contexto para aplicação, frequentemente favorecendo a liberdade de expressão e a voz do usuário (por exemplo, para respeitar a divulgação de notícias sobre entidades designadas; consulte Menção do Talibã na divulgação de notícias e Publicação compartilhada da Al Jazeera). Embora os casos anteriores não tenham lidado diretamente com o uso de “shaheed”, o Comitê alertou contra as pressuposições de más intenções quando as pessoas fazem referência a entidades designadas (veja Citação nazista). Vários comentários públicos destacam como a pressuposição da Meta de que “shaheed” equivalha sempre a “elogio” poderia, como resultado de erros cometidos por moderadores ou automação em grande escala, levar a um excesso de monitoramento contra pessoas que comemoram as vítimas de ataques terroristas (veja os comentários públicos, por exemplo: PC-11164 – SMEX, p.1; comentário PC-11197 do governo da Nova Zelândia). A remoção desses conteúdos pode até mesmo ir contra as finalidades da Política sobre Organizações e Indivíduos Perigosos, porque pode impedir a discussão sobre a violência terrorista e as iniciativas de combate às ideologias que estão por trás dessa violência (veja, por exemplo, PC-11164 – SMEX).

Respeito pela liberdade da mídia e pelo espaço cívico

50. O Comitê está particularmente preocupado com a eventualidade de que a abordagem da Meta afete o jornalismo e o discurso cívico. Esses efeitos são agudos em locais em que a violência cometida por organizações terroristas ou outras organizações designadas é mais predominante e em locais em que as entidades designadas têm controle territorial ou de alguma outra forma detêm o poder político. Vários comentários públicos expressaram essas preocupações (veja os comentários públicos, por exemplo: PC-11196 – Integrity Institute; PC-11157 – Palestine Institute for Public Diplomacy). As organizações de mídia e outros comentaristas poderão ter reservas quanto a divulgar notícias sobre entidades designadas, porque desejarão evitar remoções de conteúdo que possam resultar em sanções severas, incluindo a remoção de páginas ou grupos ou a desativação de contas. Em alguns casos, isso pode ser imprevisível. Por exemplo, ao divulgar notícias sobre um protesto contra um membro de um governo durante o qual as pessoas exibem sinais de apoio a indivíduos designados que foram assassinados pelo membro em questão. Convenções linguísticas culturais ou religiosas poderiam estabelecer que o termo “shaheed” seja usado para fazer referência a pessoas assassinadas nessas situações, incluindo pessoas que tenham morrido ao cometer atos de violência.

51. É importante notar a complexidade das situações em que determinadas entidades designadas podem vir a cometer violência, inclusive situações que podem se qualificar como conflitos armados, resistência à ocupação estrangeira e agitação civil. A mídia pode enfrentar desafios significativos para divulgar notícias sobre essas situações, já que os meios de comunicação precisam ser sensíveis às convenções linguísticas, culturais e/ou religiosas locais e ao mesmo tempo cumprir as políticas de conteúdo da Meta. Essas preocupações são agravadas pela falta de transparência em torno da lista de entidades designadas da Meta e pelo fato de que os usuários não sabem quem está na lista. Divulgar notícias sobre essas situações também pode muitas vezes incluir sinais de violência, como a representação de um armamento, o que, fora do contexto das exceções para divulgação de notícias, discussão neutra ou condenação, pode ser um indicador de uma violação da política. Portanto, é importante que a Meta aplique uma exceção à política em casos em que o conteúdo divulgue notícias, discuta de maneira neutra ou condene uma entidade designada.

52. A proibição também pode tornar mais difícil para os usuários expressarem seus pontos de vista e suas críticas quando eles vivem em contextos em que entidades designadas atuam ou detêm o poder político. Para evitar confrontos diretos e riscos à segurança, os usuários nesses contextos podem formular comentários de uma forma respeitosa que não devem necessariamente ser interpretadas como elogios. Penalizar esse tipo de discurso é particularmente preocupante, já que as redes sociais constituem um importante espaço para debate, especialmente em zonas de conflito e em países em que a liberdade de imprensa é limitada.

Igualdade e não discriminação

53. Devido ao uso amplo e altamente variável de “shaheed”, especialmente entre os falantes do idioma árabe e os falantes (muitos dentre os quais são muçulmanos) de outros idiomas que usam empréstimos do termo “shaheed”, a política da Meta exerce um impacto desproporcional sobre essas comunidades. Isso gera preocupações consideráveis com relação à responsabilidade da empresa de respeitar o direito de todos os usuários à igualdade e à não discriminação no exercício de seus direitos à liberdade de expressão. Isso foi o foco de muitos comentários públicos (veja, por exemplo: PC-11183 ECNL EFF, PC-11190 – Brennan Centre; PC-11188 – Digital Rights Foundation; PC-11196 – Integrity Institute; veja também o relatório da BSR sobre o impacto da Meta em Israel e na Palestina). O Programa das Nações Unidas para o Desenvolvimento (PNUD), em seu relatório sobre “interromper a jornada para o extremismo”, destaca que os principais impulsionadores da violência extremista são, entre outras causas raízes, “a desigualdade, a exclusão, a falta de oportunidades e as percepções de injustiça”. O Comitê está preocupado com a possibilidade de que a abordagem da política da Meta agrave as experiências de marginalização e exclusão de certas comunidades, e que seja até mesmo contraprodutiva para a finalidade declarada de reduzir a violência. O PNUD ressalta que, em relação à moderação de conteúdo nas plataformas online, as empresas deveriam assegurar que o trabalho de prevenção do extremismo violento “não leve involuntariamente à estigmatização e perseguição de indivíduos”.

Meios menos intrusivos de prevenir danos

54. A avaliação da necessidade e proporcionalidade da política também requer uma análise da existência ou não de meios menos restritivos para alcançar a finalidade legítima em questão. As recomendações do Comitê neste parecer, se implementadas, exigiriam que a Meta parasse de remover categoricamente todos os usos de “shaheed” em referência a indivíduos designados. Apesar disso, determinados conteúdos que usam esse termo ainda poderiam ser removidos em circunstâncias mais restritas em que a conexão com danos seja menos ambígua e mais pronunciada. As recomendações permitiriam que a Meta continuasse a remover conteúdos que usam “shaheed” para se referir a indivíduos designados quando acompanhados de outras violações da política (por exemplo, glorificação ou referências pouco claras) ou se o conteúdo incluir sinais de violência. Isso continuará sendo uma restrição importante, reduzindo ao mesmo tempo os impactos adversos da política, como o monitoramento excessivo contra grupos linguísticos e religiosos específicos.

55. A presença de sinais de violência juntamente com o uso de “shaheed” em referência a um indivíduo designado fornece uma indicação mais clara de que a publicação tem a intenção de se referir positivamente ao indivíduo devido à associação deste à violência (contanto que as exceções para divulgação de notícias, discussão neutra ou condenação não se apliquem). Na sua solicitação, a Meta propôs os sinais de violência a seguir, com base nas orientações internas para a sua política de Violência e Incitação: (1) representação visual de um armamento; (2) declaração de intenção ou defesa do uso ou da posse de um armamento/uma arma; (3) referência a linguagem militar; (4) referência a incêndios criminosos, saques ou outra destruição de bens; (5) referência a incidentes de violência conhecidos no mundo real; e (6) declarações de intenção, chamadas para ação, representação, apoio ou defesa de violência contra pessoas. O Comitê considera que alguns desses sinais constituem indicadores úteis de conteúdos que podem causar danos, que não podem ser pressupostos somente pelo uso de “shaheed”. No entanto, outros sinais não são considerados úteis neste caso. A Política sobre Violência e Incitação dirigida ao público menciona “sinais temporários de aumento do risco de violência” três vezes, cada uma em relação a regras designadas para lidar com riscos de violência em locais específicos e em eventos limitados no tempo, como estações de enquete e protestos. A aplicação indiscriminada de todos esses sinais para orientar o monitoramento das referências a “shaheed” em todos os contextos, para os quais a probabilidade de dano não é comparável ou o dano não é iminente, representa um risco de monitoramento desproporcional.

56. O Comitê considera que, no contexto mais amplo da Política sobre Organizações e Indivíduos Perigosos, seja mais adequado um conjunto de sinais mais restrito. O sinal de uma representação visual de um armamento e o sinal de uma declaração de intenção ou defesa do uso ou da posse de um armamento ou uma arma devem ser considerados como indicadores de conteúdos com maior probabilidade de contribuir à geração de danos. Por outro lado, o Comitê considera que o sinal de “referência a incidentes de violência conhecidos no mundo real” seja excessivamente amplo, incluindo um número excessivo de situações alheias à violência de organizações ou indivíduos designados. Portanto, ele deve ser definido de forma mais restrita e limitado a eventos designados pela Política sobre Organizações e Indivíduos Perigosos da Meta, que inclui ataques terroristas, eventos de ódio, violência com várias vítimas ou tentativa de violência com várias vítimas, assassinatos em série e crimes de ódio. Os três sinais recomendados pelo Comitê permitem mais nuances contextuais para assegurar que os usos menos ambíguos de “shaheed”, que se referem mais expressamente a atos de violência terrorista, continuem a ser removidos.

57. Os sinais restantes propostos pela Meta, “referências a linguagem militar” e “a saques ou outra destruição de bens” são excessivamente amplos e levariam a um monitoramento impreciso. O último sinal proposto, “declarações de intenção, chamadas para ação, representação, apoio ou defesa de violência contra pessoas”, levaria independentemente a identificar o conteúdo como violador do Padrão da Comunidade sobre Violência e Incitação e, portanto, seria redundante e desnecessário se incluído como sinal de violência.

58. Diferentemente da terceira opção da Meta para a política, o Comitê nota que mesmo quando as referências a indivíduos designados são feitas em combinação com esses sinais de violência, ainda assim elas podem não ter a finalidade de glorificar esses indivíduos ou seus atos. Em sua solicitação (nas páginas 9 e 10), a Meta explica o potencial de monitoramento excessivo, citando as práticas de divulgação de notícias da mídia no Paquistão. Segundo o Comitê, ao se referir à morte de um indivíduo designado, seria comum a mídia incluir imagens que mostram o indivíduo com armamentos, e/ou mostrar imagens da destruição que o indivíduo causou, sem glorificar essas ações. Por isso, é necessário que os analistas em grande escala recebam instruções de deixar ativo um conteúdo se houver uma clara intenção de divulgar notícias, condenar ou discutir de maneira neutra sobre a entidade.

59. Além disso, as alterações à política recomendadas pelo Comitê deixariam intacta uma ampla variedade de outras políticas de conteúdo que protegem contra o uso das plataformas da Meta por terroristas e seu apoiadores para causar danos no mundo real. As publicações que incluem “shaheed” em referência a um indivíduo designado de Nível 1 seriam removidas nas seguintes circunstâncias:

• Quando acompanhadas de um ou mais dos três sinais de violência mencionados acima.
• Quando a publicação incluir qualquer outra violação da Política sobre Organizações e Indivíduos Perigosos (por exemplo: representação, apoio ou glorificação de um indivíduo designado). A glorificação, por exemplo, incluiria a legitimação ou a defesa dos atos violentos ou de ódio de um indivíduo designado, ou a celebração da respectiva violência ou ódio como uma conquista.
• Quando a publicação incluir qualquer outra violação de política, inclusive por discurso de ódio e por violência e incitação.
• Quando a publicação tiver referências “pouco claras ou sem contexto”. Isso inclui “piadas pouco claras, referências sem legendas ou positivas que não glorifiquem a violência ou o ódio da entidade designada”.

60. As recomendações do Comitê, portanto, não impedirão a Meta de exigir que os usuários assegurem que a intenção de suas publicações sejam claras ao se referirem a um indivíduo designado de Nível 1 como “shaheed”. Elas só evitarão que a Meta se baseie apenas no termo “shaheed” para afirmar que uma publicação é violadora. O envolvimento ativo da Meta no Fórum Global da Internet para Combater o Terrorismo e o uso de seu banco de dados de correspondência de hash também garantem que o conteúdo que possa resultar em danos no mundo real seja removido. As recomendações do Comitê permitirão um monitoramento mais claro, contextualizado e proporcional contra conteúdos que possam aumentar os riscos de violência, promovendo ao mesmo tempo o respeito pela liberdade de expressão e pela não discriminação.

Avaliação de opções alternativas para a política

61. Por esses motivos, o Comitê conclui que continuar com o status quo da política, que a Meta apresentou como uma das opções a serem consideradas pelo Comitê, acarretaria restrições injustificadas à liberdade de expressão que afetam de maneira desproporcional os falantes de árabe, as comunidades linguísticas pertinentes e os muçulmanos. A segunda opção proposta pela Meta para a política é semelhante à terceira opção, que o Comitê recomenda, na medida em que ela busca contextualizar o uso da palavra “shaheed” e permitir que ela seja usada de diferentes maneiras com relação a indivíduos perigosos. De fato, segundo a Meta, as alterações à política feitas em 29 de agosto de 2023 permitem ampliar o discurso social e político em certos casos, inclusive no que diz respeito a acordos de paz, eleições, questões relacionadas com os direitos humanos, divulgação de notícias e discussões acadêmicas, neutras e sobre condenação. Isso torna os resultados da política pretendidos da segunda e da terceira opção ainda mais semelhantes. A diferença mais significativa entre elas diz respeito à viabilidade técnica e à implementação prática em grande escala de cada uma. A segunda opção requer que a Meta inicialmente estabeleça de forma afirmativa que uma das exceções permitidas se aplica, e em seguida examine se o conteúdo inclui violações da política ou sinais de violência; a terceira opção vai diretamente ao exame da presença ou não de violações da política ou sinais de violência. Segundo a Meta, a segunda opção seria significativamente mais trabalhosa para projetar e implementar tecnicamente, porque requer a consideração de um amplo conjunto de possíveis exceções (ainda mais amplo depois das alterações recentes à política), cada uma das quais é altamente dependente de uma avaliação do contexto. Além disso, a dificuldade de fazer essas avaliações com precisão e coerência significa que provavelmente essa opção exigirá muito mais análise humana e resultará em uma taxa significativamente maior de erros de monitoramento.

62. O Comitê considera preferível que a Meta adote uma abordagem que examine mais uniformemente todos os usos de “shaheed” relacionados com indivíduos designados, para além das exceções existentes, e remova esses usos quando acompanhados de outras violações da política ou de um dos três sinais de violência listados na recomendação nº 1. A alteração da política no sentido de adotar uma posição mais próxima da terceira opção proposta pela Meta, de tratar “shaheed” como uma referência proibida somente quando estiverem presentes outras violações da política ou sinais de violência específicos, conforme recomendado pelo Comitê, reduzirá os falsos positivos (remoções errôneas de conteúdos não violadores), protegerá melhor os discursos de interesse público, a liberdade da mídia e o discurso cívico, e reduzirá o impacto negativo sobre o direito à igualdade e a não discriminação entre os grupos afetados. Em resposta às perguntas do Comitê após os ataques contra Israel de outubro de 2023 liderados pelo Hamas e o conflito que se seguiu, a Meta confirmou que esses eventos não alteraram a sua análise da escalabilidade das opções inicialmente apresentadas em sua solicitação. Na opinião do Comitê, as recomendações propostas, baseadas na terceira opção da Meta, seriam as mais resilientes a possíveis erros em casos de crises dessa magnitude, contanto que as exceções para “divulgação de notícias, discussão neutra e condenação” permaneçam disponíveis. O Comitê reconhece que o fato de disponibilizar essas exceções à política adiciona uma certa complexidade à escalabilidade da política proposta pela terceira opção da Meta, mas conclui que elas são essenciais para a proteção adequada da liberdade de expressão com relação à moderação de conteúdos que usam a palavra “shaheed”.

63. Uma minoria de membros do Comitê discorda dessa conclusão e preferiria recomendar que a Meta mantivesse o status quo ou adotasse a segunda opção proposta. Alguns membros enfatizam que a palavra “shaheed” é, de fato, usada por organizações terroristas para expressar elogio e glorificação a pessoas que cometem atos violentos, e que isso pode ser um incentivo para a radicalização e o recrutamento. Para esses membros do Comitê, esses fatos por si sós representam um perigo suficientemente grave de danos no mundo real para justificar a manutenção da proibição categórica atual, mesmo com o prejuízo reconhecido à liberdade de expressão. Outros consideram a ausência de dados adequados sobre a extensão dos danos no mundo real que podem ser associados ao uso de “shaheed” nas plataformas da Meta e sobre a prevalência do excesso de monitoramento gerado pela política como um motivo para adotar uma abordagem mais prudente, preferindo priorizar uma maior segurança. Alguns membros do Comitê acreditam também que a segunda opção, em que a Meta só consideraria o significado e uso de “shaheed” após ter verificado a aplicabilidade de alguma das exceções permitidas, seja uma posição de meio-termo adaptada de forma mais restrita, apesar das consequências em termos de dificuldades técnicas e viabilidade em grande escala. O Comitê examinou e discutiu amplamente essas alternativas. Pelos motivos descritos nas seções anteriores, a maioria chega à conclusão de que a recomendação baseada na terceira opção da Meta apresenta o equilíbrio preferível.

Advertências e penalidades

64. Embora manter outras restrições de acordo com a Política sobre Organizações e Indivíduos Perigosos possa ser justificado, a Meta deve assegurar que essas restrições e as eventuais sanções impostas por violações sejam proporcionais. A Meta informou anteriormente o Comitê de que ela sempre aplica advertências severas para todas as violações de sua Política sobre Organizações e Indivíduos Perigosos, inclusive pela proibição anterior de “elogio”. As advertências severas podem levar mais rapidamente a penalidades no nível de conta, como limites de recursos durante um período determinado, suspensão de contas e desativação permanente de perfis ou páginas. Essas medidas podem restringir gravemente os direitos dos usuários à liberdade de expressão (também enfatizado em comentários públicos; veja, por exemplo, PC-11190 – Brennan Centre). Anteriormente, o Comitê recomendou que a Meta melhorasse a clareza e a transparência de seu sistema de advertências (Menção do Talibã na divulgação de notícias, recomendação nº 2; Suspensão do ex-presidente Trump, recomendação nº 15). Em resposta, a Meta forneceu informações sobre o sistema de advertências em sua Central de Transparência e permite que os usuários vejam quais penalidades a Meta aplicou às respectivas contas. Recentemente, a Meta atualizou seu sistema de advertências padrão para torná-lo mais proporcional, mas isso não esclarece para o público se a abordagem da Meta para as “advertências severas” também foi adaptada.

65. A Meta revelou que está trabalhando em alterações ao sistema de monitoramento relacionadas com a Política sobre Organizações e Indivíduos Perigosos, embora a sua explicação sobre a atualização da política de dezembro de 2023 não explique se ou como o sistema de monitoramento foi ou será alterado (por exemplo, com relação às advertências severas). O Comitê acolhe positivamente as alterações ao sistema de monitoramento, caso elas resultem em penalidades mais proporcionais para conteúdos identificados com precisão como sendo violadores, em sintonia com recomendações anteriores do Comitê. As advertências severas são penalidades desproporcionais para violações da Política sobre Organizações e Indivíduos Perigosos mais leves e mais ambíguas semanticamente; por causa disso, essa política continua tendo uma alta taxa de monitoramento excessivo e de tratamento injusto de usuários.

6.2 Melhorar a transparência e auditar a lista

Recomendação 4 – transparência: Para melhorar a transparência da sua lista de entidades e eventos designados, a Meta deveria explicar mais detalhadamente o procedimento pelo qual as entidades e os eventos são designados. A Meta deveria também publicar regularmente informações agregadas sobre a sua lista de designações, incluindo o número total de entidades em cada nível da lista, bem como o número de entidades que foram adicionadas e removidas de cada nível no último ano.

O Comitê considerará esta recomendação como implementada quando a Meta publicar as informações solicitadas na Central de Transparência.

Recomendação 5 – monitoramento: Para assegurar que a lista de entidades designadas como Organizações e Indivíduos Perigosos permaneça atualizada e não inclua organizações, indivíduos e eventos que não correspondam mais à definição da Meta para a designação, a empresa deveria introduzir um processo claro e eficaz para auditar regularmente as designações e remover as que já não satisfaçam os critérios publicados.

O Comitê considerará esta recomendação como implementada quando a Meta tiver criado esse processo de auditoria e explicar o processo na Central de Transparência.

66. De acordo com a anterior Política sobre Organizações e Indivíduos Perigosos da Meta, “elogio” e o uso do termo “shaheed” só eram proibidos em referência a uma entidade designada pela Meta como um indivíduo perigoso de Nível 1 (incluindo os perpetradores de “eventos violentos violadores” designados). Desde a atualização de dezembro de 2023, a política proíbe “referências pouco claras” e glorificação de todas as entidades designadas de Nível 1. As “referências pouco claras” podem incluir “piadas pouco claras, referências sem legendas e referências positivas que não glorifiquem a violência ou o ódio da entidade designada”. Os possíveis impactos adversos dessas proibições na liberdade de expressão dependem em grande parte de quais entidades a Meta designa como organizações de Nível 1 e quais “eventos violentos violadores” ela designa. Em mesas redondas e comentários públicos, muitas partes interessadas criticaram a falta de transparência e de um processo adequado com relação à lista, argumentando que a Meta deveria publicá-la (veja os comentários públicos, por exemplo: PC-11164 – SMEX, p.3; PC-11157 – Palestine Institute for Public Diplomacy). Uma parte interessada expressou preocupação sobre o compartilhamento amplo da lista, argumentando que isso poderia criar problemas de segurança. Dada a relevância da lista para apurar o escopo das políticas da Meta, a empresa forneceu ao Comitê a lista de organizações e indivíduos designados de Nível 1 e uma explicação de seus processos de designação, que o Comitê estudou de forma aprofundada, conforme discutido abaixo.

67. Conforme observado acima, muitas das listas das quais a Meta deriva as suas designações de Nível 1 são divulgadas publicamente pelo governo dos Estados Unidos. Elas incluem “comandos especiais de tráfico de drogas (SDNTKs, pelas iniciais em inglês) especialmente designados”, “organizações terroristas estrangeiras (FTOs, pelas iniciais em inglês)” e “terroristas globais especialmente designados”. Essas listas são extensas, incluem entidades (e seus respectivos membros) em contextos altamente politizados de vários continentes e não se limitam a entidades terroristas. Essa extensão e diversidade indicam a medida do alcance e do impacto das proibições da Política da Meta sobre Organizações e Indivíduos Perigosos, incluindo a proibição mais categórica de “shaheed” em referência a indivíduos designados.

68. A Meta explicou que seu processo para analisar e aprovar entidades a serem adicionadas à lista de Organizações e Indivíduos Perigosos “baseia-se na consulta de uma série de especialistas internos, na avaliação de dados internos e em pesquisas externas”. A Meta tem também um processo em vigor para documentar “membros adicionais, pseudônimos, símbolos, slogans, subgrupos e alas de mídia relacionados com organizações e indivíduos já designados”. Em 2022, com base na avaliação da Meta das ameaças de Organizações e Indivíduos Perigosos às suas plataformas, a empresa designou menos de mil entidades. A maior parte das designações consistia em entidades criminosas, seguidas de perto por entidades de terrorismo, e em seguida por entidades de ódio. A Meta tem um processo de política de remoção de itens da lista que normalmente examina se uma entidade continua a cumprir o limite para designação como organização ou indivíduo perigoso e leva em consideração as “etapas ativas que uma entidade tenha tomado para cessar os atos violentos e perseguir a paz”. O processo atualmente está em fase de redesenvolvimento, mas foi aplicado menos de dez vezes em 2022. A Meta explicou que está auditando as designações anteriores como parte de um esforço contínuo para mantê-las atualizadas na máxima medida possível e para que constituam de forma precisa as ameaças de organizações e indivíduos perigosos.

69. A Meta explicou que compartilhar publicamente a lista de entidades ou eventos designados e notificar as entidades quando elas são adicionadas à lista poderia representar um certo risco à eficácia do monitoramento e à segurança de muitos funcionários da Meta. Quando as entidades foram designadas e descobriram isso, algumas moveram ação judicial contra a Meta (veja o caso Facebook v. CasaPound , 29 de abril de 2020, Tribunal de Roma, Itália, e a análise correspondente aqui). O Comitê observa que em alguns casos a Meta revelou as designações de alguns grupos em resposta a consultas da mídia, e as designações foram divulgadas por meio das decisões do Comitê de Supervisão.

70. O Comitê recomendou anteriormente que a Meta compartilhe publicamente sua lista de entidades designadas, ou pelo menos que forneça exemplos ilustrativos (Citação nazista, recomendação nº 3). A Meta não publicou a lista nem deu mais atualizações sobre essa recomendação após uma avaliação de viabilidade. Se a Meta continuar a recusar a implementação dessa recomendação, ela deveria no mínimo tomar outras medidas para melhorar a transparência com relação à lista. Publicar dados agregados, melhorar a transparência do processo de designação e tornar o processo de cancelamento de designação mais eficaz poderia tornar os usuários mais cientes sobre as regras e os processos da Meta. Isso contribuiria também para uma maior análise e responsabilização das designações da Meta e das consequências para a liberdade de expressão e outros direitos humanos. A Meta poderia também considerar a eventualidade de facilitar o acesso dos pesquisadores aos dados, para aumentar a transparência sem deixar de preservar a confidencialidade da lista.

6.3 Dados para avaliar a precisão do monitoramento e teste dos classificadores

Recomendação 6 – transparência: Para melhorar a transparência do monitoramento da Meta, incluindo as diferenças regionais entre os mercados e os idiomas, a Meta deveria explicar os métodos utilizados para avaliar a precisão da análise humana e o desempenho dos sistemas automatizados para o monitoramento da Política sobre Organizações e Indivíduos Perigosos. A Meta deveria também compartilhar periodicamente os resultados das avaliações de desempenho dos classificadores utilizados no monitoramento da mesma política, fornecendo os resultados de forma que essas avaliações possam ser comparadas entre diferentes idiomas e/ou regiões.

O Comitê considerará que essa recomendação foi implementada quando a Meta incluir essas informações na Central de Transparência e nos Relatórios de Aplicação de Padrões da Comunidade.

Recomendação 7 – transparência: Para informar as partes interessadas, a Meta deveria fornecer explicações em linguagem clara sobre como os classificadores são usados para gerar previsões de violações da política. A Meta deveria explicar também como ela estabelece os limites para não tomar nenhuma medida, colocar o conteúdo na fila para análise humana ou remover o conteúdo, escrevendo os processos por meio dos quais esses limites são estabelecidos. Essas informações deveriam ser fornecidas na Central de Transparência da empresa.

O Comitê considerará esta recomendação como implementada quando a Meta publicar as informações solicitadas na Central de Transparência.

71. Muitas partes interessadas, em mesas redondas e comentários públicos, afirmaram que o monitoramento que a Meta faz da sua Política sobre Organizações e Indivíduos Perigosos e o tratamento que ela aplica à palavra “shaheed” nas análises humanas e automatizadas resultou frequentemente em erros de monitoramento que afetaram de maneira desproporcional os muçulmanos e as comunidades linguísticas pertinentes (veja os comentários públicos, por exemplo: PC-11183 ECNL EFF, PC-11190 – Brennan Centre; PC-11188 – Digital Rights Foundation; PC-11196 – Integrity Institute; veja também o relatório da BSR sobre o impacto da Meta em Israel e na Palestina). Na sua solicitação, a Meta reconheceu também que isso é uma consequência da sua política sobre a palavra “shaheed”. Para melhorar a transparência, a precisão e a equidade dos processos de monitoramento humano e automatizado da Meta, o Comitê faz as duas recomendações acima.

72. A Meta explicou que ela mede a precisão do monitoramento automatizado regularmente. Os analistas humanos são sujeitos a auditorias periódicas pelos parceiros externos da Meta, e essas auditorias são sujeitas a avaliação adicional pela equipe de Operações Globais da Meta.

73. O Comitê recomendou anteriormente que a Meta melhore seus relatórios de transparência para aumentar as informações públicas sobre as taxas de erro, tornando essas informações visualizáveis por país e por idioma quanto ao “elogio” e o “apoio” a organizações e indivíduos perigosos (Isolamento de Öcalan, recomendação nº 12) e para cada Padrão da Comunidade (Preocupação do Punjab com a RSS na Índia, recomendação nº 3). A Meta explicou que após uma avaliação de viabilidade, ela declinou a implementação dessa recomendação (Isolamento de Öcalan, recomendação nº 12; Atualização trimestral sobre o Comitê de Supervisão da Meta, quarto trimestre de 2021, página 21), e desviou o foco para iniciativas de longo prazo para definir métricas de precisão baseadas em restrições de perfil, página e conta, bem como local, em vez de idioma ( Preocupação do Punjab com a RSS na Índia, recomendação nº 3; Atualização trimestral sobre o Comitê de Supervisão da Meta, segundo trimestre de 2023, página 59). Consciente das preocupações generalizadas sobre o monitoramento desproporcional da Política sobre Organizações e Indivíduos Perigosos, como ilustra a posição da Meta sobre “shaheed”, e da deficiência na revelação de dados de monitoramento úteis pela Meta, o Comitê reitera essas recomendações e a importância de que a empresa melhore a transparência do monitoramento por local.

74. Os dados que a Meta compartilha atualmente em sua Central de Transparência não fornecem insights suficientes sobre a precisão da análise humana e o desempenho dos sistemas automatizados. Para permitir o exame de seus métodos, a Meta deve explicar como ela avalia a precisão da análise humana e o desempenho dos sistemas automatizados para o monitoramento da Política sobre Organizações e Indivíduos Perigosos. Para melhorar a transparência com relação ao desempenho dos classificadores, a Meta deveria compartilhar métricas que incluam a precisão (que indica a proporção entre os conteúdos identificados corretamente como violadores e todos os conteúdos sinalizados como violadores) e a lembrança (que indica a porcentagem de conteúdos violadores que o classificador identifica como conteúdos violadores dentre todos os conteúdos violadores que existem). A publicação de informações sobre a precisão da análise humana em diferentes regiões e o desempenho dos classificadores em diferentes idiomas pode contribuir para a responsabilização com relação às obrigações da Meta para com os direitos humanos. Portanto, o Comitê reitera suas recomendações anteriores e exorta a Meta a implementar as alterações propostas.

75. A Meta recorre a sistemas automatizados, incluindo classificadores para aplicar seus Padrões da Comunidade. Os modelos de classificadores categorizam automaticamente os dados em uma ou mais “classes” (por exemplo, violador ou não violador) com base em um conjunto de dados de treinamento. Entender como esses sistemas funcionam e qual é o seu nível de precisão é essencial para avaliar como a Meta modera os conteúdos em grande escala. A Meta fornece algumas informações básicas sobre como ela usa sistemas automatizados para detectar conteúdos violadores na seção sobre monitoramento da Central de Transparência, e, na seção sobre recursos, a Meta explica como ela classifica e seleciona os conteúdos. Nos Relatórios de Aplicação de Padrões da Comunidade, a Meta já publica informações sobre a porcentagem de conteúdos que ela remove antes de eles serem denunciados (ou seja, com base na detecção automática). Esses dados indicam a importância da detecção automatizada, mas não incluem métricas detalhadas sobre o uso e a precisão dos sistemas automatizados da Meta, especialmente no que diz respeito às remoções automatizadas. Esse conjunto de recomendações tem a finalidade de reforçar a transparência com relação ao uso que a Meta faz dos algoritmos.

76. Em resposta às perguntas do Comitê, a Meta explicou que o classificador de Organizações e Indivíduos Perigosos para “Idioma geral - árabe” realiza uma análise inicial para monitoramento com base nas políticas da Meta. O classificador tem a finalidade de detectar conteúdos que possam violar essas políticas. O Comitê considera que a Meta deveria explicar detalhadamente aos seus usuários essa dependência de classificadores na seção sobre monitoramento da Central de Transparência, em conformidade com suas decisões anteriores (veja Sintomas de câncer de mama e nudez, recomendação nº 3; Ilustração retratando policiais colombianos, recomendação nº 3). Em particular, é importante que haja transparência com relação aos limites de confiança aproximados para agir ou não agir sobre determinados conteúdos ou para adicioná-los a uma fila para análise humana, e também com relação às considerações ou fatores que determinam essas pontuações.

77. A Meta explicou que seu teste de precisão não se concentra nos tipos de violação individuais internos a uma política, e sim nas taxas de precisão globais de uma área de políticas inteira. A Meta afirmou que ela “conduz regularmente monitoramentos de métricas e taxas de precisão de auditorias em grande escala”. O Comitê explicou anteriormente que não é suficiente avaliar o desempenho da aplicação pela Meta dos Padrões da Comunidade como um todo (veja a decisão sobre o caso Cinto Wampum). Sistemas que têm um bom desempenho em média, podem ter um desempenho muito ruim em subcategorias de conteúdo, como os conteúdos que usam o termo “shaheed”, em que decisões incorretas têm um impacto particularmente forte sobre os direitos humanos. Portanto, é essencial que a Meta demonstre que realiza auditorias para identificar e minimizar os possíveis efeitos negativos de seus sistemas nos direitos humanos, e que compartilha informações que permitem examinar esses efeitos.

78. Muitas partes interessadas argumentaram que os sistemas de monitoramento algorítmicos da Meta não levaram em consideração o contexto e foram mais imprecisos nos idiomas diferentes do inglês , e que isso resultou em um impacto desproporcional contra as comunidades muçulmanas (veja os comentários públicos, por exemplo: PC-11190 – Brennan Centre).

79. Algumas partes interessadas recomendaram que a meta cesse completamente o uso da automação para moderar o termo “shaheed”, porque a automação, de modo geral, até o momento não tem considerado o contexto (veja os comentários públicos, por exemplo: PC-11164 – SMEX, p.4; PC-11157 – Palestine Institute for Public Diplomacy). Outras argumentaram que, levando-se em consideração as penalidades severas para os conteúdos que violam a Política sobre Organizações e Indivíduos Perigosos, a automação só deveria ser usada para adicionar os conteúdos a uma fila para análise, e não para remover automaticamente os conteúdos (veja, por exemplo: PC-11183 ECNL EFF, p. 4f). Certas partes interessadas sugeriram que qualquer publicação que use “shaheed” para se referir a uma pessoa designada deveria “idealmente ser analisada por moderadores humanos que tenham familiaridade com o contexto local de onde a publicação provém” (veja PC-11188 – Digital Rights Foundation, p.2). Algumas sugeriram que os conteúdos deveriam ser marcados com a origem geográfica, de maneira que a análise humana e automatizada possa levar em consideração o contexto (veja, por exemplo: PC-11165 – Taraaz, p. 1). Algumas partes interessadas também exortaram a Meta para que forneça mais informações sobre a precisão do monitoramento automatizado e invista mais dinheiro na melhoria de seus sistemas automatizados em idiomas diferentes do inglês (veja, por exemplo: PC-11164 – SMEX, p.5; PC-11190 – Brennan Centre). Elas também exortaram a Meta a relatar suas atividades de moderação de conteúdo “uniformemente nos diferentes idiomas, incluindo dados completos sobre denúncias de usuários, taxas de ação, tipos de ação, eficácia das técnicas de mitigação, informações de treinamento e taxas de apelação” (veja, por exemplo: PC-11196 – Integrity Institute).

80. Alguns especialistas discordaram do uso de “shaheed” em relação a uma entidade designada como ponto de referência único para que os sistemas automatizados removam conteúdos da plataforma, mas eles recomendariam usar o termo como parte de uma abordagem da moderação em camadas (por exemplo, como sinal de um conteúdo a ser adicionado a uma fila para análise com relação às políticas da Meta, mas não removido apenas por incluir essa referência).

81. O Comitê reconhece que recorrer a sistemas algorítmicos é necessário ao se moderar conteúdos em grande escala, e muitas dessas abordagens propostas não seriam viáveis em grande escala e com o uso de automação. Mas o Comitê conclui também que a Meta precisa tomar medidas adicionais, incluindo as que foram recomendadas acima, para garantir a transparência e a equidade desses sistemas.

*Nota processual:

Os pareceres consultivos sobre política do Comitê de Supervisão são preparados por grupos de cinco membros e aprovados pela maioria do Comitê. As decisões do Comitê não representam, necessariamente, as opiniões pessoais de todos os membros.

Para este parecer consultivo sobre política, contratou-se uma pesquisa independente em nome do Comitê. Um instituto de pesquisa independente com sede na Universidade de Gotemburgo, que tem uma equipe de mais de 50 cientistas sociais de seis continentes, e mais de 3.200 especialistas do mundo inteiro auxiliaram o Comitê. O Comitê também recebeu assistência da Duco Advisors, uma empresa de consultoria especializada na intercessão entre as áreas de geopolítica, confiança e segurança, e tecnologia. A Memetica, uma organização dedicada à pesquisa de código aberto sobre tendências de redes sociais, também forneceu análises. A empresa Lionbridge Technologies, LLC, cujos especialistas são fluentes em mais de 350 idiomas e trabalham de 5 mil cidades pelo mundo, forneceu a consultoria linguística.

Voltar para Decisões de Casos e Pareceres Consultivos sobre Políticas