Imagem retratando violência de gênero

Para ler esta decisão em curdo (sorâni), clique aqui.

بۆ خوێندنەوەی ئەم بڕیارە بە زمانی کوردیی سۆرانی، کرتە لێرە بکە.

Resumo do caso

O Comitê de Supervisão reverteu a decisão original da Meta de deixar ativa uma publicação do Facebook que ridiculariza uma vítima de violência de gênero. Embora a Meta tenha reconhecido que a publicação violou as regras sobre bullying e assédio, o Comitê identificou uma lacuna nas regras existentes da Meta que parece permitir conteúdo que normaliza a violência de gênero por enaltecê-la, justificá-la, celebrá-la ou ridicularizá-la (por exemplo, em casos nos quais a vítima não pode ser identificada ou a imagem é de uma personagem fictícia). O Comitê recomenda que a Meta realize o processo de desenvolvimento de política para solucionar essa lacuna.

Sobre o caso

Em maio de 2021, um usuário do Facebook no Iraque publicou uma foto com uma legenda em árabe. A foto mostrava uma mulher com marcas visíveis de agressão física, incluindo hematomas no corpo e no rosto. A legenda começa com um alerta às mulheres sobre cometer erros ao escrever cartas aos maridos, e afirma que a mulher na foto escreveu uma carta para o marido, e ele a entendeu errado, devido a um erro ortográfico. De acordo com a publicação, o marido pensou que a mulher havia pedido que ele trouxesse um “donkey” (burro) para ela, quando, na realidade, ela havia pedido um “veil” (véu). Em árabe, as palavras para “donkey” e “veil” são parecidas (“حمار” e “خمار”). A publicação insinua que, devido ao mal-entendido causado pelo erro ortográfico na carta da esposa, o marido a agrediu. A legenda então afirma que a mulher recebeu o que merecia como resultado do erro. Ao longo da publicação, há diversos emojis de sorrisos e risadas.

A mulher retratada na fotografia é uma ativista síria que teve sua imagem compartilhada em redes sociais anteriormente. A legenda não informa o nome dela, mas o rosto está claramente visível. A publicação também inclui uma hashtag usada em conversas entre sírias para apoiar mulheres.

Em fevereiro de 2023, um usuário do Facebook denunciou o conteúdo três vezes por violar os Padrões da Comunidade sobre Violência e Incitação da Meta. Se o conteúdo não for analisado em 48 horas, a denúncia será encerrada automaticamente, como foi o caso. O conteúdo continuou na plataforma por quase dois anos e não foi analisado por um moderador humano.

O usuário que denunciou o conteúdo fez uma apelação da decisão da Meta ao Comitê de Supervisão. Como resultado da escolha do caso pelo Comitê, a Meta determinou que o conteúdo viola a política de bullying e assédio e removeu a publicação.

Principais conclusões

O Comitê considera que a publicação viola a política da Meta sobre bullying e assédio, uma vez que ela ridiculariza o ferimento físico grave sofrida pela mulher retratada. Portanto, ela deve ser removida.

Contudo, a publicação não teria violado as regras da Meta sobre bullying e assédio se a mulher retratada não pudesse ser identificada, ou se a mesma legenda tivesse uma foto de uma personagem fictícia. Isso indica ao Comitê que existe uma lacuna nas políticas existentes que parecem permitir conteúdo que normalize a violência de gênero. De acordo com a Meta, um processo de desenvolvimento de política recente sobre o enaltecimento de atos violento se concentrou principalmente em qualquer lacuna de monitoramento de políticas sobre a abordagem ao enaltecimento de violência de gênero em várias políticas. Como parte desse processo, a empresa analisou a política sobre o aspecto de ridicularização ou piadas referentes à violência de gênero. A Meta informou ao Comitê que determinou que a política sobre bullying e assédio normalmente inclui esse conteúdo. No entanto, conforme observado nos exemplos acima, o Comitê considera que as políticas existentes e seu monitoramento não necessariamente contemplam todo o conteúdo relevante. Esse caso também suscita questões sobre como a Meta está aplicando suas regras sobre bullying e assédio. O conteúdo desse caso, que incluía uma foto de uma ativista síria agredida fisicamente e que foi denunciado várias vezes por um usuário do Facebook, não foi analisado por um moderador humano. Isso pode indicar que a Meta não prioriza esse tipo de violação na análise.

A decisão do Comitê de Supervisão

O Comitê de Supervisão revoga a decisão original da Meta manter o conteúdo.

O Comitê recomenda que a Meta:

• Realize um processo de desenvolvimento de políticas para estabelecer uma política que aborde o conteúdo que normaliza a violência de gênero por meio de enaltecimentos, justificativas, celebrações ou ridicularização da violência de gênero.
• Esclareça, nos Padrões da Comunidade sobre Bullying e Assédio, que o termo “condição médica” inclui “ferimento físico grave”.

* Os resumos de caso dão uma visão geral da ocorrência e não têm valor precedente.

Decisão completa sobre o caso

1. Resumo da decisão

O Comitê de Supervisão reverte a decisão original da Meta de deixar ativa uma publicação do Facebook que ridiculariza uma vítima de violência de gênero. A empresa reconheceu que sua decisão inicial está errada, e que o conteúdo viola sua política de bullying e assédio. O Comitê recomenda que a Meta realize um processo de desenvolvimento de políticas para estabelecer uma política que aborde o conteúdo que normaliza a violência de gênero por meio de enaltecimentos, justificativas, celebrações ou ridicularização da violência de gênero. O Comitê entende que a Meta está conduzindo um processo de desenvolvimento de política que, entre outros assuntos, está considerando como abordar o enaltecimento da violência de gênero. Essa recomendação serve para oferecer apoio a fim de possibilitar uma abordagem mais abrangente.

2. Descrição do caso e histórico

Em maio de 2021, um usuário do Facebook no Iraque publicou uma foto com uma legenda em árabe. A foto mostrava uma mulher com marcas visíveis de agressão física, incluindo hematomas no corpo e no rosto. A legenda começa com um alerta às mulheres sobre cometer erros ao escrever cartas aos maridos, e afirma que a mulher na foto escreveu uma carta para o marido, e ele a entendeu errado, devido a um erro ortográfico. De acordo com a publicação, o marido pensou que a mulher havia pedido que ele trouxesse um “donkey” (burro) para ela, quando, na realidade, ela havia pedido um “veil” (véu). Em árabe, as palavras para “donkey” e “veil” são parecidas (“حمار” e “خمار”). A legenda ridiculariza a situação e conclui que a mulher recebeu o que merecia como resultado do erro. Ao longo da publicação, há diversos emojis de sorrisos e risadas.

De acordo com várias fontes, a mulher retratada na fotografia é uma ativista síria que foi presa pelo regime de Bashar Al-Assad e posteriormente espancada por indivíduos supostamente afiliados ao regime. A imagem dela já havia sido compartilhada anteriormente. A legenda não informa o nome dela, mas o rosto está claramente visível. A publicação também inclui uma hashtag que, de acordo com os especialistas consultados pelo Comitê, é principalmente usada por páginas e grupos em conversas entre sírias de apoio a mulheres. A publicação teve cerca de 20 mil visualizações e menos de mil reações.

Em fevereiro de 2023, um usuário do Facebook denunciou o conteúdo três vezes por violar os Padrões da Comunidade sobre Violência e Incitação. As denúncias foram encerradas sem a análise humana, o que manteve o conteúdo na plataforma. A Meta afirmou ao Comitê que leva em consideração uma série de sinais para determinar como priorizar conteúdo para análise humana, o que inclui a viralidade do conteúdo e o quão grave a empresa considera o tipo da violação. Se o conteúdo não for analisado em 48 horas, a denúncia será encerrada automaticamente. Nesse caso, o conteúdo permaneceu na plataforma por quase dois anos antes de ser denunciado pela primeira vez. Após a denúncia, ele não foi analisado por um moderador humano dentro de 48 horas e, portanto, ela foi encerrada automaticamente.

O usuário que denunciou o conteúdo fez uma apelação da decisão da Meta ao Comitê de Supervisão. Como resultado da escolha do caso pelo Comitê, a Meta determinou que o conteúdo viola a política de bullying e assédio e removeu a publicação.

O Comitê observa o seguinte contexto ao tomar uma decisão sobre o caso. O Conteúdo foi publicado por um usuário no Iraque. De acordo com a Organização Mundial da Saúde, estima-se que cerca de 1,32 milhões de pessoas no Iraque corram riscos de sofrer violência de gênero de diferentes formas. A maioria são mulheres e garotas. Apesar dos repetidos apelos feitos por grupos de mulheres para aprovação de leis de combate à violência doméstica, um projeto de lei continua paralisado, e o código penal atual permite que maridos punam suas esposas como um direito legal e concede penas menores para homicídios relacionados à “defesa da honra”.

A ativista retratada na foto é da Síria. De acordo com as Nações Unidas, “quase uma década de conflito na Síria teve um grande impacto na vida de mulheres e garotas”. Até 7,3 milhões de sírios, majoritariamente mulheres e garotas, precisam de serviços relacionados à violência de gênero. Uma estrutura jurídica nacional inadequada e práticas discriminatórias são barreiras para a proteção das mulheres e para responsabilizar efetivamente os responsáveis por violência contra elas. ( Relatório da ONU sobre a Síria, páginas 5-9) A ONU relata que a perseguição por violência de gênero e a estigmatização das vítimas ou sobreviventes desse tipo de violência passam amplamente impunes, o que resulta no ostracismo e em mais restrições sobre a participação na vida pública. O regime tem visado mulheres associadas à oposição, sujeitando-as a tortura e abusos sexuais.

De acordo com um estudo realizado pela ONU Mulheres, quase metade (49%) das usuárias de internet de oito países da Liga de Estados Árabes relatam sentir insegurança causada por assédio online. O mesmo estudo constatou que “33% das mulheres que já sofreram violência online relataram que algumas ou todas as suas experiências online se concretizaram offline”. A definição de violência online inclui receber imagens indesejadas ou símbolos com conteúdo sexual; ligações constantes, comunicações inapropriadas ou indesejadas e receber mensagens com insultos e/ou discurso de ódio. De acordo com o relatório do Secretário-Geral da ONU, a violência online “impedes women’s equal and meaningful participation in public life through humiliation, shame, fear and silencing. This is a ‘chilling effect,’ whereby women are discouraged from actively participating in public life.” (impede a participação significativa e igualitária das mulheres na vida pública por meio da humilhação, da vergonha, do medo e do silenciamento. Ela gera um “efeito assustador” que faz com que mulheres sejam desencorajadas de participar amplamente da vida pública.) (A/77/302, para. 22)

3. Escopo e autoridade do Comitê de Supervisão

O Comitê tem autoridade para analisar a decisão da Meta após uma apelação da pessoa que denunciou previamente o conteúdo que estava ativo (Artigo 2, Seção 1 do Estatuto; e Artigo 3, Seção 1 dos Regulamentos Internos).

De acordo com o Artigo 3 da Seção 5 do Estatuto, o Comitê pode manter ou revogar a decisão da Meta, e a decisão é vinculante para a empresa, nos termos do Artigo 4 do Estatuto. A Meta também deve avaliar a viabilidade de aplicar sua decisão no que diz respeito a conteúdo idêntico em contexto paralelo, de acordo com o Artigo 4 do Estatuto. As decisões do Comitê podem incluir sugestões não vinculantes às quais a Meta deve responder, de acordo com o Artigo 3 do Estatuto, Seção 4; Artigo 4 do Estatuto. Quando a Meta se compromete a agir de acordo com as recomendações, o Comitê monitora sua implementação.

Quando o Comitê seleciona casos como esse, em que a Meta subsequentemente reconhece que cometeu um erro, o Comitê analisa a decisão original para aumentar a compreensão do processo de moderação de conteúdo e para fazer recomendações a fim de reduzir erros e reforçar a equidade para as pessoas que usam o Facebook e o Instagram.

4. Fontes de autoridade e diretrizes

Os seguintes padrões e decisões precedentes fundamentaram a análise do Comitê neste caso:

I. Decisões do Comitê de Supervisão:

As decisões anteriores mais pertinentes do Comitê de Supervisão incluem as seguintes:

• Animação Knin (2022-001-FB-UA)
• Calúnias sul-africanas, 2021-011-FB-UA.
• Protestos a favor de Navalny na Rússia, 2021-004-FB-UA.
• Representação de Zwarte Piet, 2021-002-FB-UA.
• Armênios no Azerbaijão, 2020-003-FB-UA.

II. Políticas de conteúdo da Meta:

Os Padrões da Comunidade sobre Bullying e Assédio têm o objetivo de evitar que indivíduos sejam visados nas plataformas da Meta por meio de ameaças e diferentes formas de contato malicioso. De acordo com o fundamento da política da Meta, esse comportamento “impede que as pessoas se sintam seguras e respeitadas no Facebook”. Os Padrões da Comunidade são divididos em níveis, com maiores níveis de proteção para pessoas comuns e figuras públicas de escopo limitado, em comparação com figuras públicas comuns.

Quando o conteúdo foi analisado pela Meta e o Comitê deu início à análise dele, o Nível 4 dos Padrões da Comunidade sobre Bullying e Assédio proibiam atacar indivíduos ou figuras públicas de escopo limitado com “Conteúdo que enalteça, comemore ou zombe da morte ou ferimentos físicos graves de terceiros”. Esses Padrões da Comunidade definem figuras públicas como “pessoas cuja fama primária esteja restrita ao seu ativismo, jornalismo, ou que ficaram famosas involuntariamente”. A Meta tornou esta definição pública em resposta à recomendação do Comitê no caso Protestos a favor de Navalny na Rússia, 2021-004-FB-UA. As instruções internas da empresa para moderadores de conteúdo definem “ridicularização” como “uma tentativa de fazer uma piada, zombar ou degradar alguém ou algo”.

Em 29 de julho, a Meta atualizou os Padrões da Comunidade. De acordo com o Nível 1 da política atual, todas as pessoas recebem proteção contra “Celebração ou zombaria do falecimento ou condição médica”.

A análise do Comitê foi informada pelo Compromisso da Meta com o valor “Voz”, que a empresa descreve como fundamental, bem como seus valores “Segurança” e “Dignidade”.

III. Responsabilidades que a Meta tem com os direitos humanos

Os UN Guiding Principles on Business and Human Rights (Princípios Orientadores da ONU sobre Empresas e Direitos Humanos, UNGPs, pelas iniciais em inglês), que contam com o apoio do Conselho de Direitos Humanos da ONU desde 2011, estabelecem uma estrutura voluntária de responsabilidades sobre direitos humanos das empresas privadas. Em 2021, a Meta anunciou sua Política Corporativa de Direitos Humanos, em que reafirmou seu compromisso com os direitos humanos de acordo com os UNGPs.

Ao analisar as responsabilidades da Meta com os direitos humanos no caso em questão, o Comitê levou em consideração as seguintes normas internacionais:

• O direito de liberdade de opinião e expressão: Article 19, International Covenant on Civil and Political Rights (Artigo 19 do Pacto Internacional sobre Direitos Civis e Políticos, PIDCP, na sigla em inglês); General comment No. 34, Human Rights Committee, de 2011 (Comentário geral n.º 34, do Comitê de Direitos Humanos, de 2011); Relatórios do Relator Especial da ONU sobre a liberdade de opinião e expressão: A/HRC/38/35 (2018) e A/74/486 (2019); e Declaração conjunta sobre liberdade de expressão e justiça de gênero, Relatores Especiais da Organização das Nações Unidas (ONU) sobre a liberdade de opinião e expressão, Organização para a Segurança e a Cooperação na Europa (OSCE), Organização dos Estados Americanos (OEA), Comissão Africana dos Direitos Humanos e dos Povos (ACHPR) (2022).
• Direito à não discriminação: Artigo 2.º, parágrafo 1 do PIDCP; Artigo 1.º e Artigo 7.º (eliminação da discriminação na vida política e pública do país), Artigo 4.º (1) e Artigo 5.º (a), Convenção Sobre a Eliminação de Todas as Formas de Discriminação Contra a Mulher (CEDAW) e Artigo 8.º, Declaração sobre os Defensores dos Direitos Humanos, direito ao acesso efetivo, de forma não discriminatória, à participação dos negócios públicos.; Resolução 35/18, Conselho dos direitos humanos, 2017; Relator Especial sobre a situação dos defensores dos direitos humanos. Relatório: A/HRC/40/60 (2019); Relator Especial sobre violência contra mulheres, suas causas e consequências, Relatório: A/HRC/38/47 (2018).

5. Envios de usuário

Após o usuário do Facebook denunciar e fazer uma apelação ao Comitê de Supervisão, tanto o usuário que criou o conteúdo como aquele que fez a denúncia receberam uma notificação sobre a análise do Comitê e uma oportunidade para enviar uma declaração a ele. Nenhum usuário enviou uma declaração.

6. Envios da Meta

No fundamento da decisão, a Meta explicou que o conteúdo deveria ter sido removido do Facebook por violar a política de bullying e assédio.

A equipe regional da empresa identificou a mulher retratada como uma ativista síria que havia sido presa por seu ativismo. De acordo com a Meta, a fotografia na publicação mostra a ativista após ela ter sido espancada por indivíduos relacionados ao regime de Bashar Al-Assad

Com base na política em vigor na época, a empresa afirmou que considera que o conteúdo ridiculariza os ferimentos físicos graves da mulher retratada, e, portanto, é violador. A Meta considera que a mulher retratada na fotografia é uma figura pública de escopo limitado, uma vez que a principal fama está limitada ao seu ativismo. Também entende que o conteúdo zomba de seus ferimentos e insinua que ela “brought them upon herself due to ‘karma’” (é culpada por seu “carma”). Ainda, de acordo com a empresa, o conteúdo “inventa” uma história sobre ela ter escrito uma carta com erros, insinua que ela não é inteligente, quando, na realidade, ela sofreu os ferimentos em um ataque violento.

Após atualização da política, a Meta comunicou ao Comitê que o conteúdo continua sendo violador, e que a atualização não impacta a proteção fornecida pela política à mulher retratada. De acordo com a empresa, “a atualização da política de bullying e assédio tem a função de alinhar a política. A atualização não alterou as proteções conferidas às figuras públicas de escopo limitado, como a mulher retratada no conteúdo do caso. O trecho relevante que foi usado [pela Meta] para remover o conteúdo inicialmente estava no Nível 4, mas, como resultado da atualização, agora faz parte do Nível 1.”

O Comitê fez 11 perguntas à Meta por escrito. As questões foram relacionadas às políticas da Meta que abordam conteúdo retratando violência de gênero, como a Meta aplica sua política de bullying e assédio e qualquer pesquisa sobre as representações desse tipo de violência em redes sociais e danos no meio físico. Dez questões foram respondidas e uma questão, que pedia dados regionais da aplicação da política de bullying e assédio, não foi respondida.

7. Comentários públicos

O Comitê de Supervisão recebeu 19 comentários públicos sobre este caso. Três comentários foram enviados do Oriente Médio e norte da África, dois da Ásia Central e do Sul, dois da Ásia Pacífico e Oceania, três da Europa, oito dos Estados Unidos e um da América Latina e do Caribe.

Os envios abordaram os seguintes temas: assédio virtual e ataques a mulheres ativistas e figuras públicas, as graves consequências da dimensão digital da violência de gênero na saúde física e mental e na dignidade das mulheres, e a dificuldade de chamar a atenção dos moderadores de conteúdo para a violência contra mulheres, que podem não entender o dialeto regional relevante.

Para ler os comentários públicos enviados sobre esse caso, clique aqui.

8. Análise do Comitê de Supervisão

O Comitê examinou se esse conteúdo deveria ser removido analisando as políticas de conteúdo, as responsabilidades e os valores de direitos humanos da Meta. O Comitê também avaliou as implicações desse caso na abordagem mais ampla da empresa sobre governança de conteúdo, fazendo recomendações sobre como as políticas e o processo de aplicação delas podem respeitar ainda mais a responsabilidade da Meta com os direitos humanos.

O Comitê selecionou esta apelação porque ela fornece a oportunidade de explorar como as políticas da Meta e a aplicação delas aborda conteúdo que ataca defensoras dos direitos humanos e conteúdo que ridiculariza a violência de gênero, questões que se enquadram na prioridade estratégica do Comitê sobre gênero.

8.1 Conformidade com as políticas de conteúdo da Meta

I. Regras sobre conteúdo

O Comitê considera que a publicação viola a política da Meta sobre bullying e assédio, tanto antes como após a atualização, e deve ser removida. A legenda da publicação interpretada em conjunto com a imagem viola a política da empresa porque ridiculariza os ferimentos físicos ou condição médica graves da mulher retratada.

As instruções internas da empresa para moderadores de conteúdo definem “ridicularização” como “uma tentativa de fazer uma piada, zombar ou degradar alguém ou algo”. Como uma forma de piada, o conteúdo insinua que a mulher retratada merecia ser fisicamente atacada por ter cometido um erro ortográfico em um pedido ao marido.

De acordo com a Meta, as instruções internas fornecidas aos moderadores de conteúdo incluem “ferimento grave” na definição de “condição médica”. Antes da atualização de 29 de junho, a política disponível ao público proibia a ridicularização de “ferimentos físicos graves” de um indivíduo ou figura pública de escopo limitado, enquanto as instruções internas fornecidas aos moderadores proibiam a ridicularização da “condição médica”. O Comitê questionou a Meta sobre a discrepância nos termos usados na política disponível ao público e as instruções internas. A empresa reconheceu a discrepância e corrigiu a política disponível ao público para incluir o mesmo termo usado nas instruções internas.

O Comitê considera que a publicação tem várias interpretações plausíveis. A mulher pode ter sido atacada por ser defensora dos direitos humanos ou como vítima de abuso, ou ambos. As análises das diferentes interpretações estão disponíveis abaixo. Independentemente da interpretação, do gênero da pessoa retratada e da natureza de gênero da ridicularização, a violação da política é causada pela possibilidade de identificar a pessoa retratada.

II. Ação de aplicação

O Comitê está preocupado com potenciais desafios na aplicação desses Padrões da Comunidade. Em primeiro lugar, o conteúdo desse caso, que incluía uma foto de uma ativista síria agredida fisicamente e que foi denunciado várias vezes por um usuário do Facebook, não foi analisado por um moderador humano. Isso pode indicar que esse tipo de violação não é priorizado para análise. Em segundo lugar, o Comitê está preocupado com o fato de que a aplicação dessa política, especialmente quando ela exige a análise da imagem junto da legenda, seja desafiadora em conteúdo em árabe. Como explicado anteriormente pelo Comitê, a Meta usa uma combinação de moderadores humanos e ferramentas de aprendizado de máquina chamadas de classificadores para aplicar seus Padrões da Comunidade. (Ver Cinto Wampum, 2021-012-FB-UA). Neste caso, a empresa informou o Comitê que ela tem um classificador que busca bullying e assédio em “árabe geral”.

O Comitê observa que o relatório independentemente sobre a devida diligência de direitos humanos publicado pela BSR e encomendado pela Meta em resposta à recomendação do Comitê em um caso anterior, que menciona problemas na aplicação de políticas da Meta em árabe. Consideramos que os problemas da empresa na aplicação de políticas podem ser causados pela sensitividade inadequada dos diferentes dialetos árabes. O Comitê está preocupado, com base nas conclusões do relatório independente sobre a devida diligência de direitos humanos e a falta de aplicação de políticas nesse casa, que possa haver desafios, no caminho proativo ou reativo, na aplicação efetiva da política na região. A falta de transparência da auditoria dos classificadores que aplicam essa política também é preocupante para o Comitê.

8.2 Conformidade com as responsabilidades que a Meta tem com os direitos humanos

O Comitê conclui que a decisão inicial da Meta de manter a publicação não estava de acordo com suas responsabilidades de direitos humanos como empresa.

Liberdade de expressão (Artigo 19 do PIDCP)

O Artigo 19, parágrafo 2 do Pacto Internacional dos Direitos Civis e Políticos dispõe que “toda pessoa terá direito à liberdade de expressão; esse direito incluirá a liberdade de procurar, receber e difundir informações e ideias de qualquer natureza, independentemente de considerações de fronteiras, verbalmente ou por escrito, em forma impressa ou artística, ou por qualquer outro meio de sua escolha”. Esse artigo prevê ampla proteção à expressão, entre elas a discussão daquela que possa ser considerada “extremamente ofensiva” (Comentário Geral 34, parágrafo 11).

Embora o direito à liberdade de expressão seja fundamental, ele não é absoluto. Pode ser restrito, mas as restrições devem atender aos requisitos de legalidade, objetivo legítimo, necessidade e proporcionalidade (Artigo 19, parágrafo 3, PIDCP). O Comitê reconhece que, embora o PIDCP não crie obrigações para a Meta como o faz para os estados, a empresa se comprometeu a respeitar os direitos humanos nos termos dos UNGPs. ( A/74/486, parágrafos 47-48). As políticas da Meta proíbem formas específicas de expressões discriminatórias e de ódio, na ausência de qualquer requisito de que a expressão incite atos violentos ou discriminatórios. O Relator Especial sobre liberdade de expressão observou que, nas redes sociais, “the scale and complexity of addressing hateful expression presents long-term challenges” (a escala e a complexidade de se abordar expressões de ódio representam desafios de longo prazo) (A/HRC/38/35, parágrafo 28). O Comitê, usando como base as instruções do Relator Especial, explicou anteriormente que essas proibições causariam preocupações se fossem impostas por um governo, particularmente se aplicadas com sanções civis ou penais. Conforme observado nas decisões do Comitê sobre os casos Animação Knin, Representação de Zwarte Piet e Calúnias sul-africanas, a Meta pode regular essas expressões, demonstrando a necessidade e a proporcionalidade das suas ações resultantes dos danos causados pela acumulação de conteúdo.

I. Legalidade (clareza e acessibilidade das regras)

Qualquer restrição à liberdade de expressão deve estar acessível e ser clara o suficiente, em escopo, significado e efeito, para dar orientações aos usuários e aos analistas sobre qual conteúdo é ou não permitido na plataforma. A falta de clareza ou precisão pode levar a uma aplicação incoerente e arbitrária das regras ( Comentário Geral n.º 34, parágrafo 25; (A/HRC/38/35, parágrafo 46).

O Comitê observa que a Meta fez alterações nos Padrões da Comunidade em 29 de junho, alinhando a terminologia usada nos Padrões da Comunidade sobre Bullying e Assédio disponíveis ao público e as instruções internas fornecidas a moderadores de conteúdo. Antes da mudança, o Padrão da comunidade proibia conteúdo que zombe “ferimentos físicos graves”, enquanto as instruções internas proibiam conteúdo que zombe de “condição médica”. De acordo com a Meta, o termo “condição médica” é mais amplo. O Comitê dá as boas-vindas a essa mudança, uma vez que o uso de termos diferentes pode gerar confusão e aplicação inconsistente de políticas. No entanto, o Comitê está preocupado com o fato de que pode não estar claro para os usuários que “condição médica” inclui “ferimentos físicos graves”, e recomenda que a empresa esclareça isso aos usuários.

II. Objetivo legítimo

As restrições estatais à liberdade de expressão devem ter um objetivo legítimo, que inclui a proteção de direitos de terceiros. O Comitê de Direitos Humanos interpretou o termo “direitos” de forma a incluir os direitos humanos reconhecidos no PIDCP e, em geral, no direito internacional dos direitos humanos ( Comentário Geral 34, parágrafo 28).

O Comitê considera que a política sobre bullying e assédio da Meta persegue o objetivo legítimo de respeitar o direito dos outros, incluindo o direito à igualdade e não discriminação e à liberdade de expressão. Essas políticas perseguem o objetivo legítimo de prevenir os danos resultantes do bullying e assédio, da discriminação com base no sexo ou gênero e do respeito à liberdade de expressão e do acesso à plataforma da Meta para as pessoas que são atacadas por essa expressão. Esses objetivos estão vinculados, de acordo com a Declaração conjunta sobre liberdade de expressão e justiça de gênero, “a violência contra mulheres tem um impacto especial na liberdade de expressão” e “as plataformas de redes sociais têm a obrigação de garantir que os espaços online sejam seguros para todas as mulheres e sejam livres de discriminação, violência, ódio e desinformação”.

III. Necessidade e proporcionalidade

O princípio da necessidade e da proporcionalidade requer que qualquer restrição à liberdade de expressão “must be appropriate to achieve their protective function; they must be the least intrusive instrument amongst those which might achieve their protective function; they must be proportionate to the interest to be protected” (seja apropriada para cumprir sua função protetora; seja o instrumento menos intrusivo entre aqueles que podem cumprir sua função protetora; [e] seja proporcional ao interesse a ser protegido) (Comentário geral n.º 34, parágrafo 34).

Aplicando isso à empresa, o Comitê considera que a política da Meta, de acordo com a qual o conteúdo deveria ter sido removido, constitui uma resposta necessária e proporcional para proteger usuários de ataques online de bullying e assédio. A política respeita a igualdade do direito à liberdade de expressão de defensoras dos direitos humanos que geralmente são forçadas a sair da plataforma devido a esse tipo de assédio. O Relator Especial da ONU sobre a violência contra mulheres relatou que “[w]omen human rights defenders, journalists and politicians are directly targeted, threatened, harassed, or even killed for their work. They receive online threats, generally of a misogynistic nature, often sexualized and specifically gendered. The violent nature of these threats often leads [women] to suspend, deactivate or permanently delete their online accounts, or to leave the profession entirely” (as mulheres defensoras dos direitos humanos, jornalistas e políticas são diretamente atacadas, ameaçadas, assediadas e até assassinadas por causa de seu trabalho. Elas recebem ameaças online, geralmente de natureza misógina, e geralmente são sexualizadas e ofendidas devido ao seu gênero. A natureza violenta dessas ameaças geralmente as leva a suspender, desativar ou excluir permanentemente suas contas online ou até mesmo deixar de exercer sua profissão.) (A/HRC/38/47 parágrafo 29).

O Relator Especial sobre a situação dos defensores dos direitos humanos identificou práticas parecidas e danos específicos às mulheres: “As defensoras dos direitos humanos geralmente são vítimas de assédio, violência e ataques online, o que inclui violência sexual e verbal, iscas sexualizadas, doxing... e constrangimento público. Esses abusos ocorrem nos comentários de artigos de notícias, blogs, sites e redes sociais. O terror e a difamação online que as mulheres enfrentam também pode resultar em agressões físicas” ( A/HRC/40/60 (2019) parágrafo 45). De acordo com um estudo realizado pela ONU Mulheres, 70% das mulheres ativistas e defensoras dos direitos humanos em estados árabes relatam sentir insegurança causada pelo assédio online. Neste sentido, as mulheres que participam da vida pública pelo ativismo ou ao se candidatar para um cargo eleitoral são desproporcionalmente atacadas na internet, o que pode resultar na autocensura e até mesmo no abandono da vida pública.

O Comitê considera que a publicação ridiculariza a mulher retratada valendo-se de uma piada de gênero para diminuí-la, insinuando que ela merecia ser atacada fisicamente. Esse assédio online é abrangente e leva mulheres a serem silenciadas e abandonarem a vida pública. Ele também pode ser acompanhado de ataques físicos. Portanto, a remoção desse conteúdo é necessária, uma vez que menos restrições não evitariam que a imagem da mulher com uma legenda com intenção de diminuí-la fosse disseminada.

O Comitê também conclui que a publicação se destina a mulheres e garotas em um sentido amplo. Ela normaliza a violência de gênero por insinuar que atacar mulheres fisicamente é algo divertido e que os homens têm direito de usar a violência. O uso da hashtag também indica a intenção do usuário de alcançar um grupo maior de mulheres do que aquela retratada. O Relator Especial sobre violência contra as mulheres faz a conexão entre atacar mulheres na vida pública e a intimidação direcionada a mulheres no geral: “Além do impacto nos indivíduos, uma grande consequência da violência online e facilitada por ICTs [tecnologias de informação e comunicação] é uma sociedade onde as mulheres não se sentem mais seguras online ou offline, dada a ampla impunidade dos perpetradores da violência de gênero” ( A/HRC/38/47, parágrafo 29; A/HRC/RES/35/18, parágrafo 4, clamando para os estados abordarem estereótipos de gênero que são a causa raiz da violência e da discriminação contra mulheres).

O Comitê está preocupado com o fato de as políticas existentes da Meta não abordarem, de forma adequada, conteúdo que normaliza a violência de gênero por enaltecê-la ou insinuar que é algo merecido. O conteúdo analisado nesse caso foi tratado de acordo com a política de bullying e assédio, mas ela nem sempre é adequada para limitar os danos causados pelo material que, por se referir amplamente à violência de gênero, agrava a discriminação e exclusão das mulheres da esfera pública, online ou offline. Essa mesma publicação não teria violado a política da Meta sobre bullying e assédio se a mulher retratada não pudesse ser identificada, ou se a mesma legenda tivesse uma foto de uma personagem fictícia. De acordo com a Meta, esse conteúdo não viola a política de discurso de ódio porque ela não “ataca uma pessoa ou grupo de pessoas com base nas características protegidas”. Isso indica ao Comitê que existe uma lacuna nas políticas existentes que parecem permitir conteúdo discriminatório, incluindo aquele que normaliza a violência de gênero, permaneça e seja compartilhado na plataforma.

De acordo com a Meta, um processo de desenvolvimento de política recente sobre o enaltecimento de atos violento se concentrou principalmente em qualquer lacuna de monitoramento de políticas sobre a abordagem ao enaltecimento de violência de gênero em várias políticas. Como parte desse processo, a empresa analisou a política sobre o aspecto de ridicularização ou piadas referentes à violência de gênero. A Meta informou ao Comitê que determinou que a política sobre bullying e assédio normalmente inclui esse conteúdo. No entanto, conforme observado nos exemplos acima, o Comitê considera que as políticas existentes e seu monitoramento não necessariamente contemplam todo o conteúdo relevante.

De acordo com o Relator Especial da ONU sobre violência contra mulheres, “[v]iolence against women is a form of discrimination against women and a human rights violation falling under CEDAW” (a violência contra mulheres é uma forma de discriminação contra mulheres e uma violação dos direitos humanos de acordo com a CEDAW) ( A/HRC/38/47, parágrafo 22). A violência online contra mulheres inclui “any act of gender-based violence against women that is committed, assisted or aggravated in part or fully by the use of ICT…against a woman because she is a woman, or affects women disproportionately” (qualquer ato de violência de gênero contra mulheres que seja cometido, assistido ou agravado, em parte ou na sua totalidade, pelo uso de ICTs… contra uma mulher pelo fato de ser mulher, ou afete mulheres de forma desproporcional) (A/HRC/38/47, parágrafo 23). O Comitê sobre a Eliminação da Discriminação contra a Mulher (órgão da ONU composto por especialistas independentes que monitoram a implementação da Convenção), no Comentário Geral 35, pediu que os estados adotem medidas preventivas, incluindo o incentivo para que empresas de redes sociais fortaleçam seus mecanismos regulatórios “addressing gender-based violence against woman that takes place through their services and platforms” (abordando a violência de gênero contra a mulher que ocorre por meio das suas plataformas e serviços) (CEDAW/C/GC/35, parágrafo 30(d)).

Conteúdo que normaliza a violência de gênero por enaltecê-la ou insinuar que é uma consequência lógica ou que foi merecida, valida a violência e busca intimidar mulheres, incluindo aquelas que querem participar da vida pública (veja o Comentário Público pela Digital Rights Foundation, PC-11226). A mensagem que a acumulação desse conteúdo transmite é que a violência é aceitável e pode ser usada para punir as transgressões das regras de gênero. Embora estudos acadêmicos mostrem que a causalidade é limitada, vários outrosestudos demonstram uma relação entre a normalização da violência de gênero e o aumento da ocorrência dessa violência.

Em vários outros casos anteriores, o Comitê reconheceu como certos conteúdos que podem ser discriminatórios ( Representação de Zwarte Piet, 2021-002-FB-UA) ou de ódio ( Animação Knin, 2022-001-FB-UA, Calúnias sul-africanas, 2021-011-FB-UA) podem ser removidos por seu efeito acumulativo, sem a necessidade de comprovar que cada trecho de conteúdo pode causar lesões corporais diretas e iminentes. O Comitê também observou que a acumulação de conteúdo prejudicial cria um ambiente onde atos de discriminação e violência são mais possíveis ( Representação de Zwarte Piet, 2021-002-FB-UA).

O Relator Especial da ONU sobre violência contra mulheres chamou a atenção ao papel importante que as redes sociais desempenham na abordagem à violência de gênero e à necessidade de moldar políticas e práticas de ICTs com o entendimento de que o “broader environment of widespread and systemic structural discrimination and gender-based violence against women and girls, which frame their access to and use of the Internet and other ICT” (ambiente geral da ampla discriminação e violência de gênero contra mulheres e garotas, o que determina seu acesso e uso da internet e outras ICTs) (A/HRC/38/47, parágrafo 14). Estereótipos de gênero promovem a violência e respostas inadequadas a eles, o que perpetua ainda mais essa discriminação. Em vários casos, Comitê sobre a Eliminação da Discriminação contra a Mulher constatou que, quando as autoridades estatais agem levando estereótipos de gênero em consideração durante a tomada de decisão, o estado é incapaz de prevenir ou abordar efetivamente a violência de gênero (Ver Belousova v. Cazaquistão, R.P.B. v. Filipinas; Jallow v. Bulgária (parágrafo 8.6); e L.R. v. República da Moldávia.).

No contexto mais amplo sobre a discriminação e a violência de gênero, a Meta tem a responsabilidade de não aumentar as ameaças de lesão corporal, supressão da liberdade de expressão e da participação das mulheres na sociedade. Conteúdo como a publicação nesse caso normaliza a violência de gênero por denegrir mulheres e banalizar, justificar ou encorajar tanto agressões públicas como domésticas. O efeito acumulado do conteúdo que normaliza a violência de gênero é encorajar ou defender seu uso, e o dano aos direitos das mulheres e um ambiente de impunidade contribuem para um risco aumentado de violência no meio físico, autocensura e a supressão da participação das mulheres na vida pública. Portanto, o Comitê recomenda que a Meta realize um processo de desenvolvimento de políticas para estabelecer uma política que aborde o conteúdo que normaliza a violência de gênero por meio de enaltecimentos, justificativas, celebrações ou ridicularização da violência de gênero.

9. Decisão do Comitê de Supervisão

O Comitê de Supervisão revoga a decisão original da Meta de manter o conteúdo.

10. Recomendações

A. Política de conteúdo

1. Para garantir a clareza para usuários, a Meta deve explicar que o termo “condição médica” , conforme usado nos Padrões da Comunidade sobre Bullying e Assédio, inclui “ferimentos físicos graves”. Embora as instruções internas expliquem para moderadores de conteúdo que a “condição médica” inclui “ferimentos físicos graves”, essa explicação não é fornecida para usuários da Meta.

O Comitê considerará que essa recomendação foi implementada quando o texto dos Padrões da Comunidade disponíveis para o público seja atualizado para incluir o esclarecimento.

2. O Comitê recomenda que a Meta realize um processo de desenvolvimento de políticas para estabelecer uma política que aborde o conteúdo que normaliza a violência de gênero por meio de enaltecimentos, justificativas, celebrações ou ridicularização da violência de gênero. O Comitê entende que a Meta está conduzindo um processo de desenvolvimento de política que, entre outros assuntos, está considerando como abordar o enaltecimento da violência de gênero. Essa recomendação serve para oferecer apoio a fim de possibilitar uma abordagem mais abrangente.

O Comitê considerará que essa recomendação foi implementada quando a Meta publicar os resultados do processo de desenvolvimento de política e atualizar os Padrões da Comunidade.

*Nota processual:

As decisões do Comitê de Supervisão são preparadas por grupos com cinco membros e aprovadas pela maioria do Comitê. As decisões do Comitê não representam, necessariamente, as opiniões pessoais de todos os membros.

Para a decisão sobre o caso em apreço, uma pesquisa independente foi contratada em nome do Comitê. O Comitê foi auxiliado por um instituto de pesquisa independente com sede na Universidade de Gotemburgo, que tem uma equipe de mais de 50 cientistas sociais de seis continentes, bem como mais de 3.200 especialistas de países do mundo todo. A Duco Advisors, empresa de consultoria especializada na intercessão entre as áreas de geopolítica, de confiança e segurança e de tecnologia, também ajudou. A Memetica, uma organização dedicada à pesquisa de código aberto sobre tendências de redes sociais, também forneceu análises. A empresa Lionbridge Technologies, LLC, cujos especialistas são fluentes em mais de 350 idiomas e trabalham de cinco mil cidades pelo mundo, forneceu a consultoria linguística.