Disputa política antes das eleições turcas

Resumo do caso

O Comitê de Supervisão revogou as decisões iniciais da Meta de remover as publicações de três organizações de mídia turcas, todas contendo um vídeo semelhante de um político enfrentando outro em público, usando o termo “İngiliz uşağı”, que significa “servo dos ingleses”. O Comitê considera que o termo em questão não constitui discurso de ódio nos termos das políticas da Meta. Além disso, o fato de a Meta não ter qualificado o conteúdo como “relatos” permissíveis e não ter aplicado a tolerância a conteúdo de interesse jornalístico tornaram difícil para as organizações de mídia em questão darem notícias de temas de interesse público. O Comitê recomenda que a meta torne pública uma exceção para relatos permissíveis sobre calúnias.

Sobre os casos

Para essas decisões, o Comitê considera três publicações – duas no Facebook e uma no Instagram – de três diferentes organizações de mídia turcas, todas de propriedade independente. Elas contêm um vídeo semelhante apresentando uma ex-deputada do partido de governo enfrentando um membro do principal partido de oposição logo após os terremotos que ocorreram na Turquia em fevereiro de 2023. No período pré-eleitoral turco, previa-se que os terremotos teriam um impacto significativo nos padrões de voto.

O vídeo mostra o prefeito de Istambul, Ekrem İmamoğlu, uma importante figura da oposição, visitando uma das cidades mais afetadas, quando é enfrentado por uma ex-deputada, que grita que ele está “showing off” (fazendo um espetáculo), chama-o de “servant of the British” (servo dos ingleses) e lhe diz que volte para “his own” (sua) cidade. Tanto o público quanto os comentaristas especializados confirmam que a expressão “İngiliz uşağı” é compreendida pelos falantes do idioma turco como significando “uma pessoa que atua pelos interesses e benefícios” da Grã-Bretanha ou do Ocidente de modo geral.

A Meta removeu as três publicações por violarem sua política sobre Discurso de Ódio que proíbe calúnias. Embora tenham sido acionados vários dos sistemas de prevenção de erros da Meta, incluindo a verificação cruzada, que fizeram que em cada caso as publicações fossem submetidas a vários ciclos de análise humana, isso não resultou na restauração do conteúdo.

No total, as publicações foram visualizadas, nas três contas, mais de 1.100.000 vezes antes de serem removidas.

Embora os três usuários tenham sido notificados de terem violado o Padrão da Comunidade sobre Discurso de Ódio, eles não foram informados de qual regra específica eles tinham infringido. Além disso, às contas de duas dessas organizações de mídia foram aplicados limites de recursos, que impediam que uma delas criasse conteúdos durante 24 horas e tiravam à outra a possibilidade de transmitir vídeo ao vivo durante três dias.

Depois que o Comitê identificou os casos, a Meta decidiu que suas decisões iniciais estavam erradas porque o termo “İngiliz uşağı” não deveria estar em suas listas de calúnias, e restaurou o conteúdo. Separadamente, a Meta vinha conduzindo uma auditoria anual de suas listas de calúnias para a Turquia antes das eleições, o que levou a remoção do termo “İngiliz uşağı” em abril de 2023.

Principais conclusões

O papel da mídia no relato de informações através do ecossistema digital é crucial. O Comitê conclui que a remoção das três publicações foi uma restrição desnecessária e desproporcional dos direitos dos indivíduos nas organizações de mídia turcas e do acesso à informação para seus respectivos públicos. Além disso, as medidas da Meta nestes casos tornaram difícil para duas das três organizações o compartilhamento livre do relato de informações pela duração dos limites de recursos aplicados às respectivas contas. Isso teve um impacto real, considerando-se que os terremotos e o período pré-eleitoral tornavam particularmente importante o acesso a notícias locais independentes.

O Comitê considera que o termo “İngiliz uşağı” não constitui discurso de ódio nos termos das políticas da Meta, porque não ataca pessoas com base em uma “característica protegida”. O enfrentamento público nos vídeos envolve políticos de partidos políticos concorrentes. Como o termo utilizado tem funcionado historicamente como crítica política na Türkiye (Turquia), ele constitui discurso político sobre um assunto de interesse público significativo no contexto eleitoral.

Mesmo se a Meta tivesse designado o termo corretamente como uma calúnia, o conteúdo deveria ainda assim ter sido permitido, devido ao seu valor de interesse público. O Comitê está preocupado com o fato de que as três publicações não tenham sido encaminhadas à Equipe de Políticas Básicas da Meta para avaliação com relação à tolerância a conteúdo de interesse jornalístico.

As políticas da Meta também permitem que as pessoas compartilhem discurso de ódio e calúnias para gerar reconhecimento desses problemas, contanto que a intenção do usuário seja clara. Em respostas a perguntas sobre esses casos, a Meta explicou que para que “um conteúdo se qualifique como relato gerador de reconhecimento, não é suficiente afirmar que alguém usou um discurso de ódio ou uma calúnia. O que nós [a Meta] precisamos é de contexto adicional específico.” Nenhuma das organizações de mídia nestes casos teria se qualificado, porque o conteúdo foi compartilhado com uma legenda neutra, o que não teria sido considerado como contexto suficiente. O uso do termo pelo político no vídeo não era a história principal que estava sendo relatada; portanto, uma legenda focada em explicar ou condenar esse uso não teria feito sentido. Em vez disso, o assunto principal da reportagem era o desacordo entre os políticos no contexto da resposta aos terremotos.

Por fim, o Comitê considera que a Meta deveria tornar público o fato de que os relatos sobre discurso de ódio são permitidos, idealmente em uma exceção separada que faça a distinção entre “relato” jornalístico e “geração de reconhecimento”. A orientação interna da Meta parece permitir exceções mais amplas do que as que são comunicadas publicamente aos usuários no momento. Essa informação seria particularmente importante para ajudar as organizações de mídia a relatar incidentes em que uma calúnia tenha sido usada por terceiros em um assunto de interesse público, inclusive quando esse não é o assunto principal do relato. O enquadramento dessa informação deveria reconhecer que as organizações de mídia e outros sujeitos envolvidos no jornalismo podem não sempre declarar a intenção de “geração de reconhecimento” para relatar eventos de atualidade de forma imparcial.

Decisão do Comitê de Supervisão

O Comitê de Supervisão revoga as decisões iniciais da Meta de remover as três publicações.

O Comitê recomenda que a Meta:

1. revise o Padrão da Comunidade sobre Discurso de Ódio para proteger explicitamente os relatos jornalísticos de calúnias quando esses relatos, particularmente em contexto eleitoral, não criem uma atmosfera de exclusão e/ou intimidação. Essa exceção deveria ser tornada pública, ser separada da exceção para “geração de reconhecimento”, e deveria ser esclarecido junto aos usuários, especialmente no setor de mídia, como contextualizar esses conteúdos. Deveria ser providenciado também um treinamento adequado para os moderadores, especialmente para idiomas que não sejam o inglês, para garantir o respeito ao jornalismo.
2. assegurar que o Padrão da Comunidade sobre Discurso de Ódio tenha explicações mais claras de cada exceção, com exemplos ilustrativos, para garantir maior clareza sobre quando podem ser usadas calúnias.
3. agilizar as auditorias de suas listas de calúnias em países com eleições para o restante de 2023 e o início de 2024, com a meta de identificar e remover termos adicionados erroneamente a essas listas.

* Os resumos de caso dão uma visão geral da ocorrência e não têm valor precedente.

Decisão completa sobre o caso

1. Resumo da decisão

O Comitê de Supervisão revoga as decisões iniciais da Meta de remover as publicações de três organizações de mídia turcas (BirGün Gazetesi, Bolu Gündem e Komedya Haber) que continham todas um conteúdo de vídeo semelhante. Todos os vídeos mostravam a Sra. Nursel Reyhanlıoğlu, ex-deputada do Partido da Justiça e Desenvolvimento (partido AKP) do presidente Erdoğan, referindo-se ao prefeito de Istambul Ekrem İmamoğlu, membro do maior partido de oposição da Türkiye (Turquia), como “İngiliz uşağı”, traduzido como “servo dos ingleses”. Nos três casos, a Meta removeu o vídeo por ter violado o Padrão da Comunidade sobre Discurso de Ódio, que proíbe “calúnias usadas para atacar pessoas com base em características protegidas”. Depois que o Comitê identificou esses casos, a meta reverteu cada uma de suas decisões de remover as publicações, decidindo que o termo “İngiliz uşağı” não deveria estar em sua lista de calúnias interna.

2. Descrição do caso e histórico

Em 6 de fevereiro de 2023, uma série de fortes terremotos atingiu o sul da Türkiye (Turquia), perto da fronteira setentrional da Síria. O desastre matou mais de 50 mil pessoas na Türkiye (Turquia), feriu mais de 100 mil e provocou o deslocamento de três milhões de pessoas nas províncias mais afetadas pelos tremores. Em 8 de fevereiro de 2023, o prefeito de Istambul, Ekrem İmamoğlu, membro do principal partido de oposição, o Partido Popular Republicano (CHP), visitou Kahramanmaraş, uma das cidades afetadas pelo desastre. Durante a visita, ele foi enfrentado pela ex-deputada Nursel Reyhanlıoğlu, do Partido da Justiça e Desenvolvimento (AKP), atualmente no poder. No enfrentamento gravado, a ex-deputada Reyhanlıoğlu gritou para o prefeito İmamoğlu que ele estava “showing off” (fazendo um espetáculo), chamando-o de “British servant” (em turco: İngiliz uşağı, servo dos ingleses), exige que ele “get out” (deixe a cidade) e volte para “his”(sua) Istambul.

Os comentários do público e de especialistas consultados pelo Comitê confirmaram que a expressão “İngiliz uşağı” é compreendida pelos falantes do idioma turco como significando “uma pessoa que atua pelos interesses e benefícios da nação britânica ou de representantes do governo britânico ou do Ocidente de modo geral”. Especialistas externos ressaltaram que a insinuação de que alguém esteja traindo seu próprio país ao servir os interesses de potências estrangeiras pode ser uma acusação grave e prejudicial, já que põe em questão a lealdade da pessoa e o seu comprometimento com seu próprio país, particularmente em um contexto político.

As três organizações de mídia destes casos são isentas de laços com o governo turco e são de propriedade independente. Especialistas externos observaram que a BirGün Gazetesi tem tido o relacionamento mais litigioso com o governo. Um de seus colunistas, o jornalista turco-armênio Hrant Dink, foi assassinado em 2007, e o jornal também tem sido submetido repetidamente a processos penais.

Imediatamente após os terremotos de fevereiro, houve uma atenção significativa nas eleições presidenciais e parlamentares previstas para maio. A Meta anunciou, em uma publicação de blog de abril de 2023, que estava pronta para combater a “desinformação” e as “notícias falsas” nas próximas eleições turcas. Especialistas consultados pelo Comitê descreveram como os observadores das eleições previam que os terremotos iriam influenciar os padrões de votação. Um dos principais pontos de crítica dizia respeito à legislação do governo que oferece anistia às empresas de construção por terem construído edifícios que não cumpriam os códigos de segurança, uma lei que Reyhanlıoğlu apoiou como deputada em 2018. A crítica pública à agência de gerenciamento de desastres Afet ve Acil Durum Yönetimi Başkanlığı (AFAD) por falhas em sua resposta aos terremotos tornou-se um tema eleitoral.

No primeiro caso que o Comitê aceitou após recurso, o site de notícias turco Bolu Gündem publicou o vídeo do enfrentamento em sua página do Facebook. A publicação foi denunciada por usuários e colocada em fila para análise por moderadores. No momento da análise, a Meta tinha habilitado um sistema de previsão de erros conhecido como Análise Dinâmica Múltipla, que permite que as tarefas sejam avaliadas por vários analistas para se obter um resultado majoritário. Dois de três analistas consideraram que o conteúdo violava a política da Meta sobre Discurso de Ódio, e um analista considerou que não. Devido ao protocolo Análise Secundária de Resposta Inicial (ERSR), que é uma forma de verificação cruzada, o conteúdo foi escalonado para análise secundária em vez de ser imediatamente removido (os diferentes sistemas de prevenção de erros acionados nestes casos são explicados ulteriormente na Seção 8.1). Nessa análise secundária, dois analistas consideraram que o conteúdo violava a política sobre Discurso de Ódio, e o conteúdo foi removido. A Meta aplicou uma advertência e um limite de recursos de 24 horas à conta (e não à página) do criador de conteúdo deste caso, o que impediu o usuário de criar conteúdos na plataforma (inclusive nas eventuais páginas que ele administra) e de criar ou participar de salas do Facebook Messenger. Antes de ser removida, a publicação foi visualizada mais de um milhão de vezes.

No segundo caso, organização de mídia turca BirGün Gazetesi publicou um vídeo mais longo que incluía o mesmo enfrentamento dos outros dois vídeos mais curtos, sob a forma de stream ao vivo na sua página do Facebook. Uma vez concluído o stream ao vivo, ele se tornou uma publicação permanente na página. Diferentemente dos outros dois vídeos, ele incluía uma filmagem adicional do prefeito İmamoğlu e do líder do CHP e candidato a presidente Kemal Kılıçdaroğlu falando com dois membros do público. Na conversa que se seguiu ao enfrentamento, os dois membros do público solicitaram mais ajuda para resgatar pessoas que ficaram presas sob os escombros, e expressaram frustração com a resposta de emergência do governo. Um usuário denunciou a publicação no Facebook por violação das políticas da Meta. No momento da análise, a Meta tinha habilitado a Análise Dinâmica Múltipla (ver a Seção 8.1), e dois de três analistas consideraram que o conteúdo violava a política sobre Discurso de Ódio, ao passo que um analista considerou que não. O conteúdo foi enviado para análise adicional devido ao classificador de Análise Secundária Geral (GSR), que é outro protocolo de verificação cruzada utilizado paralelamente ao ERSR. O algoritmo do GSR classifica os conteúdos para análise adicional com base em critérios como a sensibilidade do tópico, a gravidade do monitoramento, a probabilidade de falso positivo, o alcance previsto e a sensibilidade da entidade (ver explicações adicionais sobre esse protocolo na Seção 8.1 e o parecer consultivo sobre política a respeito da verificação cruzada, parágrafo 42). Um analista da equipe de mercados regionais da Meta determinou que a publicação violava a política sobre Discurso de Ódio, e a publicação foi removida. A Meta aplicou uma advertência padrão ao perfil e à página do Facebook do criador de conteúdo, mas não aplicou nenhum limite de recursos (como a restrição da possibilidade de publicar), porque o número de advertências não tinha alcançado o limite necessário. Antes de ser removida, a publicação foi visualizada mais de 60 mil vezes.

No terceiro caso, uma organização de mídia digital denominada Komedya Haber publicou o vídeo no Instagram. Um classificador designado para identificar “os conteúdos mais virais e com maior potencial de violação” detectou o conteúdo como potencialmente violador da política sobre Discurso de Ódio, e o colocou em fila para análise por moderador. O analista considerou que o conteúdo violava a política sobre Discurso de Ódio. Posteriormente, um usuário denunciou o conteúdo por violação das políticas da Meta. No momento da análise, a Meta tinha habilitado a Análise Dinâmica Múltipla, e dois analistas consideraram que o conteúdo violava a política sobre Discurso de Ódio. O classificador GSR priorizou o conteúdo para análise adicional, portanto a publicação foi enviada para outro moderador. Com base nas informações da Meta no parecer consultivo sobre a política de verificação cruzada, a análise do GSR é conduzida por um funcionário ou prestador independente na Equipe de Mercados Regionais da Meta (parecer consultivo sobre política a respeito da verificação cruzada, página 21). Através do GSR, um analista avaliou o conteúdo como sendo violador da política sobre Discurso de Ódio, e o conteúdo foi removido. A Meta aplicou uma advertência padrão, que resultou em um limite de recursos de três dias que impedia a conta do Instagram de usar vídeo ao vivo. Antes de ser removida, a publicação foi visualizada mais de 40 mil vezes.

Depois que cada publicação foi removida, os três usuários foram notificados de terem violado o Padrão da Comunidade da Meta sobre Discurso de Ódio, mas não da regra específica que eles tinham violado na política em questão. As notificações que os dois usuários do Facebook receberam afirmavam que o discurso de ódio inclui “ataques a pessoas devido à respectiva raça, etnia, religião, casta, capacidade física ou mental, gênero ou orientação sexual” e listavam vários exemplos, mas não mencionavam as calúnias. O usuário do Instagram recebeu uma notificação mais curta, que afirmava que o conteúdo fora removido “porque não está em conformidade com nossas Diretrizes da Comunidade [do Instagram] sobre discurso e símbolos de ódio”.

Embora a Meta tenha aplicado um limite de recursos de 24 horas ao criador de conteúdo que tinha publicado o conteúdo na página do Facebook da Bolu Gündem, a notificação ao usuário não o alertava sobre a restrição. No Instagram, a Komedya Haber recebeu uma notificação de que sua conta do Instagram tinha sido temporariamente impedida de criar vídeos ao vivo. Em seguida, os três usuários apresentaram recurso contra a decisão da Meta de remover o conteúdo, e os analistas da Meta concluíram novamente que cada uma das publicações violava a política sobre Discurso de Ódio. Cada usuário foi notificado de que o conteúdo tinha sido analisado novamente, mas que o conteúdo violava os Padrões da Comunidade do Facebook ou as Diretrizes da Comunidade do Instagram. As mensagens relacionadas com o recurso não diziam que política tinha sido violada.

Como resultado da seleção desses três recursos pelo Comitê, a Meta determinou que suas três decisões iniciais eram errôneas, e restaurou o conteúdo em cada uma das contas em 28 de março de 2023, revertendo as advertências correspondentes. A essa altura, os limites de recursos aplicados a dois dos casos já tinham expirado. A Meta explicou ao Comitê que a expressão não foi usada como uma calúnia, e portanto as três publicações não violavam a política sobre Discurso de Ódio. Entre janeiro e abril de 2023, a Meta estava conduzindo uma auditoria anual de sua lista de calúnias para o mercado turco, que a certa altura levou à remoção da expressão “İngiliz uşağı” da lista. Isso ocorreu paralelamente à seleção destes três casos pelo Comitê, o que, em conformidade com o processo regular, levou a Meta a revisar suas decisões iniciais. Através dessa análise, a empresa determinou também que “İngiliz uşağı” não era uma calúnia.

3. Escopo e autoridade do Comitê de Supervisão

O Comitê tem autoridade para analisar a decisão da Meta após uma apelação do usuário cujo conteúdo foi removido (Artigo 2, Seção 1 do Estatuto; e Artigo 3, Seção 1 dos Regulamentos Internos). De acordo com o Artigo 3 da Seção 5 do Estatuto, o Comitê pode manter ou revogar a decisão da Meta, e a decisão é vinculante para a empresa, nos termos do Artigo 4 do Estatuto. A Meta também deve avaliar a viabilidade de aplicar sua decisão no que diz respeito a conteúdo idêntico em contexto paralelo, de acordo com o Artigo 4 do Estatuto. As decisões do Comitê podem incluir sugestões não vinculantes às quais a Meta deve responder, de acordo com o Artigo 3 do Estatuto, Seção 4; Artigo 4 do Estatuto. O Comitê monitora a implementação de recomendações que a Meta se comprometeu a pôr em prática, e pode fazer um acompanhamento de eventuais recomendações anteriores em suas decisões sobre os casos.

Quando o Comitê seleciona casos como estes, em que a Meta subsequentemente reconhece que cometeu um erro, o Comitê analisa as decisões iniciais para aumentar a compreensão do processo de moderação de conteúdo e para fazer recomendações a fim de reduzir erros e reforçar a equidade para as pessoas que usam o Facebook e o Instagram. O Comitê observa também que a reversão da Meta de suas decisões iniciais em cada um destes casos foi baseada em uma alteração de sua orientação interna ocorrida depois que cada publicação já tinha sido feita, alteração esta que consistiu em remover a expressão “İngiliz uşağı” da sua lista não pública de calúnias em abril de 2023. Ao entender do Comitê, no momento das decisões iniciais da empresa, os analistas em escala da Meta aplicaram a política e a orientação interna que estavam em vigor.

Quando o Comitê identifica casos em que os recursos geram problemas semelhantes ou sobrepostos, inclusive relacionados com as políticas de conteúdo ou sua aplicação, ou com as responsabilidades da Meta com os direitos humanos, eles podem ser reunidos e atribuídos a um painel que delibere sobre os recursos conjuntamente. Será tomada uma decisão vinculativa em relação a cada publicação.

4. Fontes de autoridade e diretrizes

Os seguintes padrões e decisões precedentes fundamentaram a análise do Comitê neste caso:

I. Decisões do Comitê de Supervisão:

As decisões anteriores mais pertinentes do Comitê de Supervisão incluem as seguintes:

• Caso Armênios no Azerbaijão (2020-003-FB-UA)
• Caso Representação de Zwarte Piet (2021-002-FB-UA)
• Caso Protestos na Colômbia (2021-010-FB-UA)
• Caso Calúnias na África do Sul case (2021-011-FB-UA)
• Caso Ressignificação de palavras árabes (2022-003-IG-UA)
• Caso Menção do Talibã na divulgação de notícias (2022-005-FB-UA)
• Caso Slogan de protesto no Irã (2022-013-FB-UA)

II. Políticas de Conteúdo da Meta:

As Diretrizes da Comunidade do Instagram afirmam que todo conteúdo que inclua discurso de ódio será removido. Sob o título “Respeite os outros membros da comunidade do Instagram”, as diretrizes afirmam que “nunca é aceitável incentivar a violência ou atacar alguém com base em raça, etnia, nacionalidade, sexo, gênero, identidade de gênero, orientação sexual, religião, deficiências ou doenças”. As Diretrizes da Comunidade do Instagram não mencionam nenhuma regra específica sobre calúnias, mas as palavras “discurso de ódio” constituem um link que leva para o Padrão da Comunidade do Facebook sobre Discurso de Ódio.

No fundamento de sua política sobre Discurso de Ódio, a Meta proíbe “o uso de calúnias para atacar pessoas com base em características protegidas”. As características protegidas na política da Meta incluem, por exemplo, nacionalidade, religião, raça e etnia. No momento em que cada uma das três publicações foi criada, removida e encaminhada ao Comitê por meio de recurso, e quando a Meta reverteu suas decisões iniciais nos três casos, o termo “calúnias” era definido como “palavras intrinsecamente ofensivas e usadas como rótulos insultantes para as características citadas acima”. Após uma atualização da política em 25 de maio de 2023, a Meta agora define “calúnias” como “palavras que criam, de modo inerente, uma atmosfera de exclusão e intimidação contra pessoas com base em uma característica protegida, frequentemente porque essas palavras estão associadas a discriminação, opressão e violência históricas”, e adiciona que “elas fazem isso mesmo quando são direcionadas a alguém que não seja membro do grupo [da característica protegida] contra o qual a calúnia é inerentemente direcionada”.

O fundamento da política descreve também várias exceções que permitem o uso de uma calúnia “para condená-la ou gerar reconhecimento” ou “de forma autorreferencial ou para fortalecer uma causa”. No entanto, a Meta ainda poderá remover o conteúdo “se a intenção não for clara”. As revisões de 25 de maio à política sobre Discurso de Ódio não alterou essa parte do texto.

Além das exceções estabelecidas na política sobre Discurso de Ódio, a tolerância a conteúdo de interesse jornalístico permite “conteúdo que possa violar [os] Padrões da Comunidade do Facebook ou as Diretrizes da Comunidade do Instagram, caso ele seja interessante e se mantê-lo visível for de interesse público”. A Meta só concede tolerâncias a conteúdo de interesse jornalístico “após realizar uma análise completa que mensure o interesse público em relação ao risco de danos” e considera “os padrões internacionais de direitos humanos, conforme refletidos em nossa Política Corporativa de Direitos Humanos, para julgar esses casos”. A Meta afirma que avalia se o conteúdo gera “uma ameaça iminente à saúde ou segurança pública, ou dá voz às perspectivas que estão sendo debatidas atualmente como parte de um processo político”. Essa avaliação leva em consideração as circunstâncias do país, por exemplo se uma eleição ou conflito está em andamento, se há imprensa livre e se os produtos da Meta são proibidos. A Meta afirma que “não há presunção de que o conteúdo seja inerentemente de interesse público apenas com base na identidade do locutor, por exemplo, sua identidade como político”.

A análise do Comitê foi fundamentada pelo compromisso da Meta com o valor “Voz”, que a empresa descreve como “primordial”, e seus valores de “Segurança” e “Privacidade” e “Dignidade”.

III. Responsabilidades que a Meta tem com os direitos humanos

Os Princípios Orientadores da ONU sobre Empresas e Direitos Humanos (UNGPs, na sigla em inglês), endossados pelo Conselho de Direitos Humanos da ONU em 2011, estabelecem uma estrutura voluntária de responsabilidades das empresas privadas em relação aos direitos humanos. Em 2021, a Meta anunciou sua Política Corporativa de Direitos Humanos, em que reafirmou seu compromisso em respeitar os direitos humanos de acordo com os UNGPs.

Ao analisar as responsabilidades da Meta com os direitos humanos no caso em questão, o Comitê levou em consideração as seguintes normas internacionais:

• Os direitos à liberdade de opinião e de expressão: Artigos 19 e 20 do Pacto Internacional sobre Direitos Civis e Políticos, (PIDCP); Comentário geral n.º 34 do Comitê de Direitos Humanos, de 2011; Relatórios do Relator Especial da ONU sobre a liberdade de opinião e expressão: A/HRC/38/35 (2018), A/74/486 (2019); Declaração conjunta sobre liberdade da mídia e democracia, mandatários da ONU e regionais para a liberdade de expressão (2023).
• Os direitos à participação na vida pública e ao voto: Artigo 25 do PIDCP.
• Os direitos à igualdade e à não discriminação: Artigos 2 e 26 do PIDCP.
• O direito à proteção da lei contra ataques ilegais à honra e à reputação: Article 17, ICCPR (artigo 17 do PIDCP).

5. Envios de usuário

As três organizações de mídia apresentaram recurso separadamente ao Comitê contra as decisões da Meta de remoção. Em seu recurso ao Comitê, a Bolu Gündem afirmou ter pagado uma agência de notícias pelo vídeo, e que outras organizações de notícias haviam compartilhado o vídeo no Facebook sem que ele tivesse sido removido. A BirGün Gazetesi enfatizou o direito do público a receber informações, e o recurso da Komedya Haber contestou a alegação de que o conteúdo incluía discurso de ódio.

6. Envios da Meta

A Meta removeu as três publicações com base em seu Padrão da Comunidade sobre Discurso de Ódio, porque a expressão “İngiliz uşağı” era, do momento em que os vídeos foram publicados ao momento em que foram restaurados, uma calúnia designada no mercado turco da Meta, traduzida como “servo dos ingleses”.

No momento em que as três publicações foram removidas, o Padrão da Comunidade definia as calúnias, de forma coerente com a política voltada para o público, como “palavras intrinsecamente ofensivas e usadas como rótulos insultantes para [...] características protegidas”, incluindo nacionalidade. A Meta afirmou ao Comitê que, após um Fórum de Políticas interno, ela decidiu renunciar ao conceito de “intrinsecamente ofensivo” como base para descrever as calúnias, optando por “uma definição baseada em pesquisas e voltada para a associação entre a palavra e a discriminação, a opressão e a violência históricas contra grupos com características protegidas”. A Meta declarou ao Comitê que essa alteração da definição não afetava a orientação operacional para os analistas sobre como implementar a política. A única alteração que teria afetado o desfecho destes casos era a remoção de “İngiliz uşağı” da lista de calúnias.

A Meta explicou que suas políticas “permitem que as pessoas compartilhem discurso de ódio e calúnias para condená-los, para gerar reconhecimento, de forma autorreferencial ou para fortalecer uma causa. No entanto, a intenção do usuário deve ser clara. Para que um conteúdo se qualifique como relato gerador de reconhecimento, não é suficiente afirmar que alguém usou um discurso de ódio ou uma calúnia. O que nós [a Meta] precisamos é de contexto adicional específico.” Em resposta às perguntas do Comitê, a Meta esclareceu que ela permite calúnias em um contexto de “relato” somente quando compartilhadas para gerar reconhecimento sobre o uso da calúnia com “contexto adicional específico” e que “uma legenda neutra não é suficiente”. A Meta explicou que não aplicou essa exceção às publicações em questão porque os vídeos não incluíam um contexto claro de geração de reconhecimento ou de condenação.

Em suas respostas às perguntas do Comitê, a Meta declarou que nesses casos não era necessário aplicar a tolerância a conteúdo de interesse jornalístico, porque o conteúdo não incluía nenhuma calúnia violadora. No entanto, no momento das remoções iniciais, a Meta de fato considerou a expressão como sendo uma calúnia. Para essa situação, a Meta adicionou que consideraria que o valor em termos de interesse público do conteúdo no contexto eleitoral compensaria eventuais riscos de danos, portanto também teria restaurado o conteúdo. Quanto à avaliação do interesse jornalístico feita pelo Comitê, ver a Seção 8.1.

Em novembro de 2022, a equipe da Meta identificou a necessidade de atualizar a lista de calúnias turca como parte dos preparativos para as eleições presidenciais e parlamentares de maio de 2023 na Türkiye (Turquia). A auditoria anual da lista de calúnias do mercado do país começou em janeiro de 2023, e a equipe regional da empresa enviou suas propostas de alterações em meados de março de 2023. Na auditoria, a Meta decidiu que a expressão “İngiliz uşağı” não constituía uma calúnia e a removeu a partir de 12 de abril de 2023, duas semanas depois da restauração do conteúdo nos três casos. Ao mesmo tempo, a Meta removeu da lista de calúnias outros termos que combinavam o uso de “uşak” (servo) com nacionalidades específicas. Em resposta às perguntas do Comitê, a Meta declarou que não tem documentação sobre quando e por que a expressão foi originalmente designada como calúnia, mas reconhece que a expressão não ataca pessoas com base em uma característica protegida. A empresa declarou também que “İngiliz uşağı” ainda estava na lista de calúnias para o mercado turco quando as três publicações deste caso foram analisadas, e portanto os moderadores agiram em conformidade com a orientação interna ao remover o conteúdo.

Em janeiro de cada ano, a Meta realiza auditorias da sua lista de calúnias através de um processo conduzido pelas equipes dos mercados regionais, “com o objetivo de remover eventuais calúnias que não deveriam estar nas listas”. A Meta usou um novo processo de auditoria que foi testado na auditoria anual de 2023 da lista de calúnias do mercado turco. O novo processo envolve duas etapas: primeiro, uma análise qualitativa para determinar a história e o uso do termo; segundo, uma análise quantitativa para determinar as perguntas importantes sobre dados, por exemplo que quantidade da amostra pertence às exceções da política. A Meta explicou que, devido ao fato que “İngiliz uşağı” não corresponde qualitativamente à sua definição de “calúnia” (etapa um), a expressão foi removida da lista sem se proceder a uma análise quantitativa do seu uso (etapa dois).

O Comitê fez 23 perguntas à Meta por escrito. As perguntas abordavam questões relacionadas com os critérios dos processos para a designação de calúnias, a orientação interna sobre calúnias e sobre a aplicação de exceções à política, como os sistemas de prevenção de erros atuaram de formas diferentes nas análises das três publicações, e a avaliação das aplicações no nível da conta decorrentes de cada decisão sobre o conteúdo. Das 23 perguntas, 22 foram respondidas, e uma foi respondida parcialmente. A resposta parcial foi sobre quando e por que a expressão “İngiliz uşağı” foi designada como calúnia; a empresa alegou falta de documentação. A Meta também forneceu ao Comitê um relatório oral sobre as alterações ao seu processo de definição e designação de calúnias.

7. Comentários públicos

O Comitê de Supervisão recebeu 11 comentários públicos relacionados a esses três casos. Um dos comentários foi enviado da Ásia Central e do Sul, nove da Europa e um dos Estados Unidos e do Canadá. Os envios abordavam os seguintes temas: a importância de uma abordagem contextual para a moderação das calúnias, a notificação adequada ao usuário sobre os motivos para as remoções de conteúdo, os efeitos de remoções errôneas de conteúdo sobre as organizações de mídia, a pertinência da tolerância a conteúdo de interesse jornalístico com relação ao conteúdo em questão, e as solicitações de uma lista pública de exemplos de calúnias.

Para ler os comentários públicos enviados sobre esse caso, clique aqui.

8. Análise do Comitê de Supervisão

O Comitê examinou se manter ou revogar as decisões iniciais da Meta nesses três casos, analisando as políticas sobre conteúdo, as responsabilidades com os direitos humanos e os valores da Meta. Tomar essas decisões conjuntamente também proporciona ao Comitê uma maior oportunidade de avaliar suas implicações para a abordagem mais ampla da Meta sobre a governança de conteúdo, particularmente em contexto eleitoral.

8.1 Conformidade com as políticas de conteúdo da Meta

I. Regras sobre conteúdo

Discurso de ódio

O Comitê considera que a expressão “İngiliz uşağı” nesses três casos não constitui discurso de ódio segundo os Padrões da Comunidade da Meta. Independentemente de a avaliação ser feita antes ou depois das alterações à política realizadas em 25 de maio de 2023, a expressão “İngiliz uşağı” não ataca indivíduos com base em uma característica protegida. A remoção do conteúdo que inclui essa expressão em todos os três casos é incoerente com o fundamento da política sobre Discurso de Ódio, já que a expressão não ataca pessoas com base em uma característica protegida.

A expressão “İngiliz uşağı” tem uma longa história como ferramenta de crítica política na Türkiye (Turquia). De acordo com especialistas consultados pelo Comitê, o uso dessa expressão é anterior à fundação da Türkiye (Turquia) moderna, quando o termo era usado para criticar os líderes do Império Otomano por servirem os interesses da Grã-Bretanha, e a expressão não é de natureza discriminatória. O enfrentamento nesses três casos envolve membros de partidos políticos concorrentes. O AKP, partido da ex-deputada Reyhanlıoğlu, tem sido alvo de críticas e raiva do público com relação à gestão da resposta aos terremotos pelo governo e à legislação deste que concede anistia às empresas de construção por terem construído edifícios que não estavam em conformidade com os códigos de segurança contra terremotos. Ela dirigiu a calúnia ao prefeito İmamoğlu, uma figura importante do CHP, o maior partido de oposição do país. O relacionamento tenso entre o AKP e o CHP no período pré-eleitoral, incluindo a importância do terremoto como tópico eleitoral, se manifestou publicamente durante a visita do prefeito İmamoğlu e do candidato do CHP a presidente Kemal Kılıçdaroğlu à cidade de Kahramanmaraş. O conteúdo de cada um dos três casos constitui, portanto, um discurso político em um assunto de interesse público significativo no contexto eleitoral.

Como a Meta explicou, “para que um conteúdo se qualifique como relato gerador de reconhecimento, não é suficiente afirmar que alguém usou um discurso de ódio ou uma calúnia. Em outras palavras, uma legenda neutra não é suficiente”. Se o conteúdo tivesse incluído uma calúnia, nenhuma das organizações de mídia teria se qualificado como alguém que está “discutindo” ou “relatando” discurso de ódio, porque o conteúdo foi compartilhado com uma legenda neutra nos três casos. Segundo o parecer do Comitê, mesmo se fosse correto que essa calúnia estivesse incluída na lista, ainda assim, o conteúdo dos três casos deveria ter sido protegido como “relato”. Da forma em que a orientação interna está estruturada atualmente, se o conteúdo tivesse incluído uma calúnia, nenhuma das organizações de mídia teria se qualificado como alguém que está “discutindo” ou “relatando” discurso de ódio, porque o conteúdo foi compartilhado com uma legenda neutra nos três casos. Segundo o parecer do Comitê, mesmo se fosse correto que essa calúnia estivesse incluída na lista, ainda assim, o conteúdo dos três casos deveria ter sido protegido como “relato”.

O Comitê considera que a expressão “İngiliz uşağı” não devia ter sido adicionada à lista confidencial de calúnias da Meta, já que não se trata de uma forma de discurso de ódio. Em outros contextos, acusações de ser um “agente estrangeiro” podem chegar a ser uma ameaça plausível à segurança dos indivíduos, mas essas podem ser abordadas sob outras políticas (por exemplo, sob a política sobre Violência e Incitação). Mesmo nessas situações, a Meta deveria distinguir entre ameaças proferidas por uma pessoa que se encontra em uma posição influente e organizações de mídia que relatam essas ameaças. Considerando os fatos desses casos e a orientação interna em vigor quando eles ocorreram, os analistas de conteúdo que moderam conteúdo em escala agiram em conformidade com essa orientação, que prevê a remoção de conteúdo que inclua termos presentes nas listas de calúnias da Meta. Naquele momento, a lista incluía “İngiliz uşağı”. O motivo para os erros desses casos foi a decisão de adicionar a expressão à lista de calúnias e a orientação inadequadamente restrita e confidencial de como os analistas devem aplicar a exceção de “geração de reconhecimento” às publicações que “relatam” o uso de calúnias.

Tolerância a conteúdo de interesse jornalístico

O Comitê expressa a preocupação de que, em um momento em que as políticas internas da Meta categorizavam “İngiliz uşağı” como uma calúnia violadora, as três publicações não tenham sido encaminhadas para uma avaliação de tolerância a conteúdo de interesse jornalístico pela Equipe de Políticas Básicas da Meta (anteriormente conhecida, no âmbito da empresa, como a “Equipe de Política de Conteúdo”).

A organização turca de liberdade de expressão İfade Özgürlüğü Derneği (İFÖD) argumentou, em seu comentário público, que, devido a seu valor de interesse público, o conteúdo dos três casos devia ter sido considerado como qualificado para tolerância a conteúdo de interesse jornalístico. Se o conteúdo incluísse uma calúnia designada corretamente em conformidade com a política da Meta sobre Discurso de Ódio, o Comitê concordaria. As três publicações consistiam em relatar um discurso de um (ex-) político direcionado a um político atual, de uma maneira que está dentro dos limites da crítica (até mesmo ofensiva) que se pressupõe que um político tolere, incluindo epítetos insultantes. Essa avaliação poderia ser diferente, por exemplo, se um termo fosse usado em seu contexto específico como calúnia discriminatória. O vídeo veio à tona em um momento de importância política e social significativa, depois que uma série de terremotos devastadores atingiram a Türkiye (Turquia). Os terremotos, bem como as discussões relacionadas com a resposta e a preparação para eles por parte do governo, eram tópicos importantes para o presidente Erdoğan e o candidato a presidente Kemal Kılıçdaroğlu do CHP no período da campanha anterior às eleições de maio de 2023. Logo depois dos terremotos, o governo turco também restringiu temporariamente o acesso ao Twitter e a outros sites de redes sociais, à medida que a crítica à resposta do governo aos terremotos se difundia. Como essa filmagem era de interesse público e a sua remoção não iria reduzir qualquer risco de danos, a Meta devia ter permitido que a expressão fosse utilizada para relato de interesse público, mesmo se tivesse se qualificado corretamente como uma calúnia. O Comitê tinha insistido anteriormente que a Meta deixasse ativos os conteúdos que incluíssem calúnias discriminatórias quando o conteúdo estivesse relacionado, eventualmente por outras vias, a momentos significativos da história de um país (consulte o caso Protestos na Colômbia).

II. Desafios sistêmicos para a aplicação e a prevenção de erros

Processos de designação e auditoria da lista de calúnias

A Meta não pôde fornecer ao Comitê informações de quando ou por que ela designara inicialmente a expressão “İngiliz uşağı” como calúnia devido à documentação insuficiente, um problema que ela procura resolver com seus novos processos de designação e auditoria de calúnias.

No processo de auditoria anterior, as equipes regionais da empresa, com o apoio de especialistas em políticas e operações, conduziam uma análise qualitativa e quantitativa do idioma e da cultura da região ou do mercado relacionados para criar listas de calúnias. Esse processo incluía a análise do significado associado à palavra, da sua prevalência nas plataformas da Meta e do seu uso local e coloquial. A Meta exigia a coleta e a avaliação de no mínimo 50 conteúdos que incluíssem o termo em questão nesse processo. No entanto, a Meta observou, em seu recente Fórum de Políticas, que o processo anterior de designação de calúnias tinha vários problemas, incluindo a indexação de ofensividade, a falta de documentação e os critérios subjetivos; e, como a Meta observou ao Comitê, ele era “aplicado de maneira desigual”, com critérios de remoção que não eram fixos nem ponderados.

Quando a Meta estava testando o seu novo processo de designação em 2023 para o mercado turco, a expressão “İngiliz uşağı” foi removida da lista de calúnias. Por coincidência, essa auditoria estava em andamento quando o Comitê selecionou esses três casos. A expressão esteve na lista de calúnias da Meta pelo menos desde 2021. Segundo a Meta, o novo processo pretende quantificar melhor os significados e usos alternativos de um termo para remover uma designação de calúnia, um processo voltado para levar em consideração de maneira mais adequada a mudança dos significados das palavras ao longo do tempo.

Essas alterações na governança são, de modo geral, positivas, e se forem implementadas com eficácia, deverão reduzir o excesso de aplicação da política de calúnias. No entanto, o novo processo seria aprimorado se visasse especificamente a identificar termos que tenham sido adicionados incorretamente à lista de calúnias. A Meta deveria também se certificar de atualizar e tornar mais completa a sua explicação da designação e da auditoria das calúnias na Central de Transparência, alinhando-a com sua nova definição de calúnias e sua abordagem revisada às auditorias das listas de calúnias.

Medidas de prevenção de erros e desafios de escalonamento

A análise desses três casos conjuntamente permitiu ao Comitê avaliar como diversos sistemas de prevenção de erros da Meta funcionavam com relação a conteúdos semelhantes e abordar novamente um desafio sistemático mais amplo que o Comitê também tinha observado em decisões anteriores. O Comitê está preocupado com o fato de que, embora vários sistemas de prevenção de erros tenham sido acionados na análise de cada publicação, eles parecem não ter operado de maneira uniforme em benefício das organizações de mídia ou de seus respectivos públicos. Além disso, as medidas não capacitaram os analistas a escalonar quaisquer das três publicações para a análise contextual adicional. Esses escalonamentos poderiam ter levado a deixar o conteúdo ativo (por exemplo, por ser de interesse jornalístico) e/ou a identificar antecipadamente o erro de ter adicionado esse termo à lista de calúnias, fora da auditoria anual.

Nos três casos foi acionada a verificação cruzada, mas ela operou de maneira diferente na decisão sobre cada publicação. Somente a Bolu Gündem foi listada como organização de mídia para fins da Análise Secundária de Resposta Inicial (ERSR), ao passo que a BirGün Gazetesi e a Komedya Haber não o foram. A ERSR é a forma de verificação cruzada baseada em entidade, com a qual qualquer publicação de uma entidade listada é submetida a análise adicional, caso esteja marcada para remoção (ver o parecer consultivo sobre política a respeito da verificação cruzada, parágrafos 27-28). Das três organizações de mídia desses casos, somente a Bolu Gündem tinha um gerente de parceiros. Segundo a Meta, uma organização de mídia deve ter um “gerente de parceiros” para se qualificar para a ERSR. Segundo a Meta, os gerentes de parceiros “atuam como elo entre as organizações externas e os indivíduos que usam as plataformas e os serviços da Meta”, e ajudam os titulares de contas a “otimizarem sua presença e maximizarem o valor que eles geram através das plataformas e serviços da Meta”. O Comitê observa que tanto as publicações da BirGün Gazetesi como da Komedya Haber foram submetidas a verificação cruzada sob a Análise Secundária Geral (GSR), que prioriza conteúdos com base no “classificador de verificação cruzada”. Apesar disso, o Comitê está preocupado com o fato de que as entidades de mídia locais ou menores não são sistematicamente incluídas como entidades listadas na ERSR, já que elas não têm um gerente de parceiros. Isso reforça as preocupações que o Comitê expressou em seu parecer consultivo sobre política a respeito da verificação cruzada com relação à falta de transparência e à falta de critérios objetivos para inclusão na ERSR. As entidades envolvidas em jornalismo de interesse público devem ter acesso a informações claras sobre como suas contas podem se beneficiar da proteção da verificação cruzada; se ter um gerente de parceiros é uma condição necessária para a inclusão, então é necessário que haja instruções claras sobre como solicitar um gerente de parceiros. Além disso, o Comitê está preocupado porque o fato de as três publicações terem sido analisadas através de verificação cruzada não levou a se considerar de forma mais pormenorizada se devia ter sido aplicada uma exceção à política e/ou se devia ter sido realizado um escalonamento para uma avaliação de conteúdo de interesse jornalístico.

Além disso, também foi acionada a Análise Dinâmica Múltipla (DMR) para a fila de análise aplicável quando as três publicações foram enviadas para análise inicial por moderador. Para fins da DMR, a automação identificou as três publicações para múltiplas análises por moderador antes da remoção, em virtude da precisão da análise humana e para mitigar o risco de decisões incorretas com base em diversos fatores, como o efeito viral e o número de visualizações. De um total de oito análises das três publicações semelhantes, todas realizadas antes das análises de verificação cruzada adicionais, somente dois analistas (cada um para uma publicação diferente) determinaram que essas publicações não violavam a política sobre Discurso de Ódio. O Comitê está preocupado com o fato de que os analistas não são avisados quando a automação identifica um maior risco de erro de aplicação, pois isso poderia encorajá-los a examinar o conteúdo com mais detalhe, seja para considerar exceções à política que poderiam ser potencialmente aplicadas, seja para escalonar o conteúdo para uma análise contextual mais pormenorizada.

As medidas atuais da Meta para a prevenção de erros, tanto na DMR como na verificação cruzada, parecem estar completamente voltadas para assegurar que os moderadores apliquem as políticas em conformidade com a orientação interna. Elas não contêm, aparentemente, mecanismos adicionais para que os analistas identifiquem situações em que a conformidade estrita à orientação interna da Meta esteja levando à decisão errada pelo fato de a política em si estar errada (como a própria Meta admitiu posteriormente ter sido o caso de suas três decisões iniciais). Embora a automação tenha identificado corretamente que as publicações dos três casos corriam o risco de aplicação falso-positiva, as análises adicionais por moderadores não levaram a escalonamentos para a aplicação de tolerância a conteúdo de interesse jornalístico. Considerando-se os desafios de falsos positivos na análise em escala, os escalonamentos deveriam ser mais sistemáticos e frequentes para conteúdos relacionados com debates de interesse público, em particular em contextos eleitorais. O fato de a Meta ter aplicado a esses casos seus sistemas de prevenção de erros com uso intensivo de recursos, mas ter ainda assim chegado a conclusões incorretas nos três casos, mostra que eles requerem análise adicional. Anteriormente, a Meta descartou preocupações semelhantes que o Comitê tinha manifestado sobre os caminhos de escalonamento para avaliações de conteúdo de interesse jornalístico na decisão sobre o caso “Protestos na Colômbia” (ver a resposta da Meta à recomendação nº 3 no caso “Protestos na Colômbia”), por achar que o trabalho que ela estava fazendo fosse suficiente. O Comitê considera que esses três casos demonstram que a questão requer novo exame.

8.2 Conformidade com as responsabilidades da Meta em relação aos direitos humanos

O Comitê considera que a decisão da Meta de remover o conteúdo em todos os três casos era incompatível com as responsabilidades da Meta com os direitos humanos.

Liberdade de expressão (artigo 19 do PIDCP)

O artigo 19 do PIDCP prevê uma proteção ampla da expressão, incluindo a “liberdade de procurar, receber e difundir informações e ideias de qualquer natureza”. O escopo da proteção inclui “expressões que possam ser consideradas como profundamente ofensivas” (Comentário geral 34, parágrafo 11). A proteção da expressão também é “particularmente alta” quando o debate público é a respeito de “figuras do domínio público e político” (Comentário Geral 34, parágrafo 34). O papel da mídia no relato de informações através do ecossistema digital é crucial. O Comitê de Direitos Humanos ressaltou que uma “imprensa ou outros meios de comunicação livres, sem censura e desimpedidos são algo essencial”, sendo que a imprensa ou os outros meios de comunicação devem ter a possibilidade de “comentar questões públicas sem censura nem restrições e influenciar a opinião pública” (Comentário Geral 34, parágrafo 13).

A expressão em questão em cada um desses três casos merece uma proteção “particularmente alta”, porque a disputa política surgiu durante um debate político significativo sobre a resposta do governo aos terremotos no período de preparação das eleições presidenciais e parlamentares na Türkiye (Turquia). A raiva e as críticas do público após os terremotos surgiram quando o presidente Erdoğan e o candidato do CHP a presidente Kemal Kılıçdaroğlu estavam fazendo campanha eleitoral nos meses anteriores às eleições presidenciais e parlamentares de maio de 2023. Na Declaração conjunta sobre liberdade da mídia e democracia, mandatários da ONU e regionais para a liberdade de expressão afirmam que “as grandes plataformas online deveriam privilegiar as mídias independentes de qualidade e os conteúdos de interesse público em seus serviços, para facilitar o discurso democrático”, e “corrigir rápida e adequadamente as remoções errôneas de mídias independentes de qualidade e conteúdos de interesse público, inclusive através de análise humana célere” (Recomendações para plataformas de redes sociais, página 8).

Quando um Estado aplica restrições à expressão, elas devem atender aos requisitos de legalidade, objetivo legítimo e necessidade e proporcionalidade, segundo o parágrafo 3 do Artigo 19 do PIDCP. Esses requisitos costumam ser chamados de "teste de três partes". O Comitê usa essa estrutura para interpretar os compromissos voluntários de direitos humanos da Meta, tanto em relação à decisão de conteúdo individual sob análise quanto ao que isso diz sobre a abordagem mais ampla da empresa à governança de conteúdo. Como afirmou o Relator Especial da ONU sobre liberdade de expressão, embora “as empresas não tenham obrigações governamentais, seu impacto é do tipo que exige que avaliem o mesmo tipo de questões sobre a proteção do direito de seus usuários à liberdade de expressão ”(A/74/486, parágrafo 41).

I. Legalidade (clareza e acessibilidade das regras)

O princípio da legalidade exige que as regras usadas para limitar a expressão sejam claras e acessíveis publicamente (Comentário Geral nº 34, parágrafo 25). O Comitê de Direitos Humanos observou também que as regras “may not confer unfettered discretion for the restriction of freedom of expression on those charged with [their] execution” (não podem conceder liberdade de ação irrestrita para a restrição da liberdade de expressão aos encarregados de executá-las) (Ibid.). No contexto de discurso online, o Relator Especial da ONU sobre liberdade de expressão declarou que as regras deveriam ser específicas e claras (A/HRC/38/35, parágrafo 46).

A proibição que a Meta impõe das calúnias no contexto do discurso de ódio não é suficientemente clara para os usuários. A definição de calúnias adotada pela Meta antes de 25 de maio de 2023 se concentrava na ofensividade, o que era algo excessivamente subjetivo e muito mais amplo que a definição de discurso de ódio adotada pela Meta, conforme estabelecida no fundamento da política. Antes das alterações, os usuários do Facebook e do Instagram tinham grande probabilidade de ter interpretações diferentes do significado de “ofensivo”, o que gerava confusão, incluindo circunstâncias em que havia um ataque a uma característica protegida, e outras circunstâncias em que não havia. As alterações de 25 de maio esclareceram, em certa medida, a posição da política da Meta, ao eliminar o conceito vago de “ofensa”.

As notificações em cada um dos três casos não informavam os respectivos usuários de que as publicações tinham sido removidas devido ao uso de calúnias, mas somente que o conteúdo tinha sido removido por violar a política da Meta sobre Discurso de Ódio. Em sua atualização do 2º trimestre de 2022 sobre o Comitê de Supervisão, a Meta declarou que está “planejando avaliar a viabilidade de aumentar ainda mais a profundidade através da adição de mais granularidade sobre qual aspecto da política foi violado em escala (por exemplo, violação da proibição de calúnias conforme o Padrão da Comunidade sobre Discurso de Ódio)”. A Meta observou, em seu relatório, que seus sistemas de análise atingem sua máxima precisão no nível das políticas, e portanto priorizam as “mensagens mais gerais corretas” em relação às “mensagens específicas, porém incorretas”. Por exemplo, a Meta tem mais confiança de poder informar corretamente os usuários de que eles violaram a política sobre Discurso de Ódio, mas tem menos confiança de poder informar corretamente aos usuários a regra específica que eles violaram dentro da política em questão (por exemplo, a proibição de calúnias). Na resposta da Meta à recomendação sobre o caso “Calúnias na África do Sul”, porém, a empresa afirmou que está “elaborando novos recursos para providenciar notificações mais detalhadas”, os quais atualmente são oferecidos em inglês, com testes nas notificações em árabe, espanhol e português no Facebook. Isso não teria beneficiado os usuários nos casos em questão, porque, ao entender do Comitê, as notificações que os usuários receberam estavam em turco. O Comitê recomenda vivamente que a Meta forneça esse nível de detalhe para os usuários de idiomas diferentes do inglês.

A lista da Meta de exceções à proibição de calúnias, e mais geralmente de discurso de ódio, poderia ser explicada com maior clareza para os usuários e os analistas de conteúdo. Embora o Comitê tenha reservas com relação à exigência de declarações de intenção claras para se beneficiar de exceções, na medida em que a intenção deva ser uma consideração necessária, a Meta precisa especificar mais claramente aos usuários como eles podem demonstrar a respectiva intenção para cada uma das exceções à política listadas. Além disso, a orientação interna para analistas parece permitir exceções mais amplas do que as que são comunicadas publicamente aos usuários, gerando problemas de acessibilidade e clareza. A orientação da Meta com relação à política afirma que o “relato” é permitido sob a política sobre Discurso de Ódio quando estiver gerando reconhecimento. O Comitê já criticou anteriormente a política da Meta sobre Discurso de Ódio dirigida ao público, por não explicar as regras contidas na orientação interna para analistas (ver, por exemplo, o caso Meme “dois botões”). A Meta deveria tornar público o fato de que os relatos sobre discurso de ódio são permitidos, idealmente em uma exceção separada que faça a distinção entre “relato” jornalístico e “geração de reconhecimento”. Essa informação é particularmente importante para ajudar as organizações de mídia e outros que queiram relatar incidentes durante os quais tenha sido usada uma calúnia por terceiros em um assunto de interesse público, inclusive quando a calúnia é incidental ou não é o assunto principal da reportagem, de maneiras que não criem um clima de exclusão e/ou intimidação. Ela deveria ser estruturada de maneira a reconhecer que as organizações de mídia e outras pessoas envolvidas no jornalismo, para relatar eventos da atualidade de maneira imparcial, possam não sempre declarar a intenção de “geração de reconhecimento”, e que isso pode precisar ser inferido a partir de outras pistas contextuais.

II. Objetivo legítimo

Qualquer restrição da expressão deve defender um dos objetivos legítimos listados no PIDCP, que incluem os “right of others” (direitos de terceiros). Em várias decisões, o Comitê concluiu que a política da Meta sobre Discurso de Ódio, incluindo a proibição de calúnias, persegue o objetivo legítimo de proteger os direitos de terceiros, em particular o de não ser discriminado (ver, por exemplo, a decisão sobre o caso “Armênios no Azerbaijão”).

O Comitê observa que a atualização da Meta de 25 de maio de sua definição de calúnias tornou mais claro esse objetivo. As referências anteriores às calúnias como “intrinsecamente ofensivas” podem ter sido interpretadas como pressupondo implicitamente o direito dos indivíduos à proteção contra o discurso ofensivo em si. Isso não seria um objetivo legítimo, já que na legislação internacional de direitos humanos não existe nenhum direito à proteção contra discurso ofensivo. A nova definição da Meta, que substitui o conceito de ofensividade com uma definição mais objetiva de termos que “criam, de modo inerente, uma atmosfera de exclusão e intimidação contra pessoas com base em uma característica protegida”, é mais coerente com o objetivo legítimo de proteger os direitos de terceiros.

III. Necessidade e proporcionalidade

O princípio da necessidade e da proporcionalidade requer que qualquer restrição à liberdade de expressão “seja apropriada para cumprir sua função protetora; seja o instrumento menos intrusivo entre aqueles que podem cumprir sua função protetora; [e] seja proporcional ao interesse a ser protegido” (Comentário geral 34, parágrafo 34). O Comitê considera que não era necessário remover o conteúdo nesses três casos. Quando combinada com o problema sistêmico da não aplicação das exceções pertinentes, a lista de calúnias interna da Meta pode representar um banimento quase absoluto, gerando preocupações sobre a necessidade e a proporcionalidade no contexto de relatos jornalísticos.

Com relação à necessidade, a inclusão de “İngiliz uşağı” na lista de calúnias não era necessária para proteger as pessoas contra discurso de ódio, porque a expressão não é usada para atacar pessoas com base em características protegidas. A lista de calúnias da Meta também inclui termos que não cumprem a própria definição de calúnias adotada pela empresa, antes ou depois das revisões da política realizadas em 25 de maio. Ao Comitê foi outorgado pleno acesso às listas de calúnias atualizadas pela última vez no primeiro trimestre de 2023, e elas contêm muitos termos, em diferentes mercados, que são questionáveis ao se determinar se constituem discurso de ódio ou se seriam interpretados mais corretamente como insultos ofensivos que não são de natureza discriminatória. Os membros do Comitê também expressaram preocupação com o fato de as listas não incluírem muitos termos de discurso de ódio que supostamente deveriam estar incluídos em listas desse tipo; e com o fato de que, enquanto para alguns mercados ou idiomas a lista de termos designados ocupa várias páginas, para outros mercados as listas são muito mais curtas.

No momento das decisões iniciais da Meta sobre os casos em questão, a definição de calúnias anteriormente adotada pela Meta, baseada no conceito de ofensividade, era excessivamente ampla e levou a restrições desproporcionais à expressão quando três organizações de mídia relataram eventos de importância política envolvendo o uso de calúnias por figuras públicas. Mesmo se a expressão tivesse sido designada corretamente como uma calúnia, no contexto de relatos de eventos que incluíam o seu uso por terceiros de maneiras que não incitavam violência ou discriminação, o conteúdo devia ter sido qualificado como “relato” permitido. A orientação não divulgada da Meta para a política pertinente, que explica como o relato de calúnias deve ser acompanhado de contexto adicional para ser considerado como relato de “geração de reconhecimento”, interferiu com o critério editorial e com as tentativas de informar o público turco de cada uma das organizações de mídia. As entidades de mídia dos três casos em questão compartilharam o vídeo sem o contexto adicional que indicaria uma intenção de condenar ou gerar reconhecimento (ver a análise das exceções da Meta feita pelo Comitê na Seção 8.1).

Na decisão sobre o caso “Menção do Talibã na divulgação de notícias”, o Comitê examinou os desafios de exigir uma intenção clara do usuário “mesmo quando as indicações contextuais deixam claro que o objetivo da publicação é relatar”. Embora aquele caso lidasse com a política de Organizações e Indivíduos Perigosos (na qual há uma exceção pública para relatos sobre entidades designadas), as observações nele contidas sobre intenção se aplicam também a estes casos que lidam com discurso de ódio. Geralmente, no jornalismo considera-se boa prática relatar fatos de forma neutra ou imparcial, sem julgamentos de valor, uma prática que está em conflito com as qualificações da Meta para relatar, que exigem uma intenção clara de condenar ou gerar reconhecimento. Estes casos trazem uma faceta adicional a essa crítica. A exceção da Meta para “geração de reconhecimento”, que lida com os relatos de uso de calúnias, é uma aplicação restrita que não inclui circunstâncias, como as destes casos, em que o uso de calúnias é amplamente incidental com relação ao tópico principal que está sendo relatado. Nestes casos, a remoção das três publicações foi uma restrição desnecessária e desproporcional da liberdade de expressão dos direitos dos indivíduos na mídia turcas e dos direitos ao acesso à informação de seu público.

O Comitê está preocupado com o fato de a Meta aplicar mecanicamente a sua política sobre Discurso de Ódio a respeito de calúnias e não levar em consideração o fato de uma figura pública estar presente e ser o alvo de críticas. O Comitê de Direitos Humanos observou que os titulares de cargos públicos são “legitimamente sujeitos a críticas e oposição política” (Comentário geral 34, parágrafo 38). O Comitê já manifestou essa preocupação anteriormente em sua decisão sobre o caso “Protestos na Colômbia”. Naquele caso, o Comitê afirmou que o contexto devia ser levado em consideração cuidadosamente; não somente o contexto político em que é usada uma calúnia, mas também se uma calúnia é usada como parte de uma crítica a líderes políticos. A decisão do Comitê sobre o caso “Slogan de protestos no Irã” abordou ameaças hipotéticas contra líderes políticos, enfatizando a importância de proteger o discurso político retórico e ao mesmo tempo assegurar que todas as pessoas, incluindo as figuras públicas, sejam protegidas contra ameaças plausíveis. A crítica a figuras públicas pode assumir uma variedade de formas, até mesmo formas que incluem linguagem ofensiva, mas a abordagem atual da Meta para a aplicação de suas políticas não dá o espaço necessário para equilibrar ponderadamente esses fatores conflitantes, seja através das regras não divulgadas para relatar, seja através da tolerância a conteúdo de interesse jornalístico, um recurso paralelo de aplicabilidade mais generalizada. Uma política que pudesse acomodar melhor a divulgação de notícias permitiria uma avaliação mais ponderada do contexto durante a análise em escala, sem necessidade de escalonamento.

Como o Comitê enfatizou acima (Seção 8.1: medidas de prevenção de erros e desafios de escalonamento) e na decisão sobre o caso “Protestos na Colômbia”, as publicações potencialmente interessantes, que merecem uma avaliação contextual mais pormenorizada, parecem não ser escalonadas para a equipe de políticas da Meta com a sistematicidade ou a frequência adequadas. Embora a Meta apresente a tolerância a conteúdo de interesse jornalístico como uma espécie de recurso à prova de falhas para proteger a expressão de interesse público, os relatórios da própria Meta sobre transparência revelam que a tolerância foi aplicada apenas 68 vezes no ano transcorrido entre junho de 2021 e maio de 2022. Como o Comitê observou anteriormente em sua decisão sobre o caso “Protestos na Colômbia”, a “exceção para conteúdo de interesse jornalístico não deve ser interpretada como uma permissão ampla para que o discurso de ódio permaneça na plataforma”. No entanto, é necessário que haja mecanismos mais fortes para proteger a expressão de interesse público, que pode ser removida erroneamente com excessiva facilidade.

Em dois dos casos, as advertências e os sistemas de penalidades da Meta geraram problemas de necessidade e proporcionalidade, sendo que as remoções errôneas resultaram em limitações adicionais à expressão dos usuários e à liberdade da mídia. Essas medidas tornaram mais difícil para ambas as organizações de mídia compartilharem livremente seus relatos pela duração desses limites de recursos. Devido ao efeito inibidor de prováveis sanções futuras ainda mais pesadas, isso teve um impacto real em um momento em que os terremotos e o período pré-eleitoral tornavam particularmente importante o acesso a notícias locais independentes.

O Comitê também encoraja a Meta a fazer experimentos com procedimentos internos proativos para evitar falsos positivos e com meios menos intrusivos de regulamentar o uso de calúnias, além da remoção de conteúdo que pode resultar em advertências e limites de recursos. Considerando que a liberdade de expressão, refletida no valor fundamental de “Voz” da Meta, é a regra, e a proibição de calúnias imposta pela Meta é a exceção, a orientação interna da Meta para moderadores deveria estabelecer a presunção de que o os relatos jornalísticos (incluindo o jornalismo cidadão) não devam ser removidos. Embora o Comitê tenha enfatizado, em sua decisão sobre o caso Protestos na Colômbia, que a “exceção para conteúdo de interesse jornalístico não deve ser interpretada como uma permissão ampla para que o discurso de ódio permaneça na plataforma”, as regras internas da Meta deveriam encorajar a plena consideração de circunstâncias específicas, para assegurar que os relatos de interesse público, que não constituem discurso de ódio, não sejam incorretamente removidos. O Comitê lembra também a sua decisão sobre o caso Cinto Wampum, em que enfatizou a importância de que a Meta avalie o conteúdo como um todo, em vez de fazer avaliações baseadas em partes isoladas do conteúdo.

Além disso, a revisão das notificações aos usuários no sentido de incluir cutucadas sobre comportamento, por exemplo para informar os usuários quando as respectivas publicações pareçam conter calúnias proibidas, e a sugestão de que eles editem as publicações, podem aumentar a conformidade com as políticas da empresa. São necessários recursos adicionais para que as organizações de mídia possam apurar como elas devem relatar histórias que incluam uso de calúnias, de maneiras que não levem à remoção do conteúdo. O aconselhamento aos usuários sobre como editar vídeos transmitidos para ocultar o uso de calúnias e permitir que os eventos de atualidade sejam relatados também pode reduzir o número de organizações de mídia cujas contas são restringidas como resultado de relatos de temas de interesse público.

9. Decisão do Comitê de Supervisão

O Comitê de Supervisão revoga as decisões iniciais da Meta de remover o conteúdo em cada um desses três casos.

10. Recomendações

Política de conteúdo

1. Para assegurar que as organizações de mídia possam relatar tópicos de interesse público mais livremente, a Meta deve revisar o Padrão da Comunidade sobre Discurso de Ódio para proteger explicitamente os relatos jornalísticos de calúnias quando esses relatos, particularmente em contextos eleitorais, não criem um clima de exclusão e/ou intimidação. Essa exceção deve ser tornada pública e ficar separada das exceções de “geração de reconhecimento” e “condenação”. Deve ser providenciado um treinamento adequado para os moderadores, especialmente para idiomas que não sejam o inglês, para garantir o respeito ao jornalismo, incluindo a mídia local. A exceção para relatos deve deixar claro para os usuários, em particular os da mídia, como esses conteúdos devem ser contextualizados, e a orientação interna para analistas deve ser coerente com isso. O Comitê considerará que essa recomendação foi implementada quando os Padrões da Comunidade forem atualizados e as diretrizes internas para analistas humanos da Meta forem atualizadas para refletir essas alterações.

2. Para assegurar uma maior clareza sobre quando o uso de calúnias é permitido, a Meta deve assegurar que o Padrão da Comunidade sobre Discurso de Ódio tenha explicações mais claras de cada exceção, com exemplos ilustrativos. Podem ser fornecidos exemplos situacionais abstratos, para evitar a repetição de termos que constituem discurso de ódio. O Comitê considerará que essa recomendação foi implementada quando a Meta reestruturar o Padrão da Comunidade sobre Discurso de Ódio e adicionar exemplos ilustrativos.

Monitoramento

3. Para assegurar que ocorram menos erros na aplicação da sua política sobre Discurso de Ódio, a Meta deve acelerar as auditorias de suas listas de calúnias em países com eleições no segundo semestre de 2023 e no início de 2024, com o objetivo de identificar e remover termos adicionados erroneamente às listas de calúnias da empresa. O Comitê considerará que essa recomendação foi implementada quando a Meta fornecer uma lista atualizada de calúnias designadas após a auditoria e uma lista de termos removidos da lista de calúnias, por mercado, após as novas auditorias.

*Nota processual:

As decisões do Comitê de Supervisão são preparadas por grupos com cinco membros e aprovadas pela maioria do Comitê. As decisões do Comitê não representam, necessariamente, as opiniões pessoais de todos os membros.

Para a decisão sobre o caso em apreço, contratou-se uma pesquisa independente em nome do Comitê. Um instituto de pesquisa independente com sede na Universidade de Gotemburgo, que tem uma equipe de mais de 50 cientistas sociais de 6 continentes, e mais de 3.200 especialistas do mundo inteiro auxiliaram o Comitê. O Comitê também recebeu assistência da Duco Advisors, uma empresa de consultoria especializada na intercessão entre as áreas de geopolítica, confiança e segurança, e tecnologia. A Memetica, uma organização dedicada à pesquisa de código aberto sobre tendências de redes sociais, também forneceu análises. A empresa Lionbridge Technologies, LLC, cujos especialistas são fluentes em mais de 350 idiomas e trabalham de cinco mil cidades pelo mundo, forneceu a consultoria linguística.