Identidade de gênero e nudez

Resumo do caso

O Comitê de Supervisão anulou as decisões originais da Meta de remover duas publicações do Instagram retratando pessoas transgênero e não binárias com a mama descoberta. Também recomenda que a Meta mude seu Padrão da Comunidade sobre conteúdo adulto de nudez e atividades sexuais adicionando critérios claros que respeitem as normas internacionais de direitos humanos.

Sobre o caso

Nesta decisão, o Comitê de Supervisão considera dois casos juntos pela primeira vez. Dois itens de conteúdo separados foram publicados pela mesma conta do Instagram, um em 2021 e outro em 2022. A conta é de um casal americano que se identifica como transgênero e não binário.

Ambas as publicações apresentam imagens do casal com os seios expostos e os mamilos cobertos. As legendas da imagem discutem a saúde transgênero e dizem que um membro do casal em breve será submetido a uma cirurgia importante (de afirmação de gênero com retirada de mamas), para a qual o casal está arrecadando fundos.

Após uma série de alertas dos sistemas automatizados da Meta e denúncias de usuários, as publicações foram revisadas várias vezes quanto a possíveis violações de diversos Padrões da Comunidade. A Meta removeu as duas publicações por violar o Padrão da Comunidade sobre proposta de cunho sexual, aparentemente porque continham seios e um link para uma página de arrecadação de fundos.

Os usuários fizeram uma apelação para a Meta e depois para o Comitê. Depois que o Comitê aceitou os casos, a Meta descobriu que havia removido as publicações por engano, restaurando-as.

Principais conclusões

O Comitê de Supervisão considera que a remoção dessas publicações vai contra os Padrões da Comunidade, valores ou responsabilidades de direitos humanos da Meta. Esses casos também destacam questões fundamentais relacionadas às políticas da Meta.

A orientação interna da Meta para moderadores sobre quando remover conteúdo nos termos da política sobre proposta de cunho sexual é muito mais ampla do que a justificativa declarada para a política ou a orientação disponível ao público. Isso cria confusão para usuários e moderadores e, como a Meta reconheceu, leva à remoção indevida do conteúdo.

Em pelo menos um dos casos, a publicação foi enviada para análise humana por um sistema automatizado treinado para aplicar o Padrão da Comunidade sobre conteúdo adulto de nudez e atividades sexuais. Este Padrão proíbe imagens que contenham mamilos femininos, exceto em circunstâncias específicas, como amamentação e cirurgia de afirmação de gênero.

Esta política é baseada em uma visão binária de gênero e uma distinção entre corpos masculinos e femininos. Essa abordagem deixa claro como as regras se aplicam a pessoas intersexuais, não binárias e transgêneros e exige que os analistas façam avaliações rápidas e subjetivas de sexo e gênero, o que não é prático ao moderar conteúdo em grande escala.

As restrições e exceções às regras sobre mamilos femininos são extensas e confusas, principalmente quando se aplicam a pessoas trans e não binárias. Elas variam de protestos e cenas de parto a contextos médicos e de saúde, incluindo cirurgias de ponta e conscientização sobre o câncer de mama. Essas exceções geralmente são complicadas e mal definidas. Em alguns contextos, por exemplo, os moderadores devem avaliar a extensão e a natureza das cicatrizes visíveis para determinar se certas exceções se aplicam. A falta de clareza inerente a esta política gera incerteza para usuários e analistas, tornando-a inviável na prática.

O Comitê diz frequentemente que a Meta deve pensar em como suas políticas afetam as pessoas sujeitas a discriminação (veja, por exemplo, as decisões dos casos “Cinto Wampum” e “Ressignificação de palavras em árabe”). Nesse caso, o Comitê considera que as políticas da Meta sobre nudez adulta resultam em mais barreiras à expressão de mulheres, trans e pessoas não binárias nas plataformas. Por exemplo, elas têm um impacto severo em contextos em que as mulheres ficam com os seios descobertos, e as pessoas que se identificam como LGBTQIAP+ podem ser afetadas de forma desproporcional, como nesses casos. Os sistemas automatizados da Meta identificaram o conteúdo várias vezes, apesar de ele não violar as políticas da empresa.

A Meta deve procurar desenvolver e implementar políticas que abordem todas essas questões. Ela deve mudar sua abordagem para gerenciar a nudez nas plataformas, definindo critérios claros para a política de conteúdo adulto de nudez e atividades sexuais, que garanta que todos os usuários sejam tratados de maneira consistente com as normas de direitos humanos. Também deve avaliar se essa política protege contra o compartilhamento não consensual de imagens e se outras políticas precisam ser fortalecidas a esse respeito.

A decisão do Comitê de Supervisão

O Comitê de Supervisão revoga a decisão original da Meta de remover as publicações.

O Comitê recomenda que a Meta faça o seguinte:

• Defina critérios claros, objetivos e que respeitem os direitos segundo o Padrão da Comunidade sobre conteúdo adulto de nudez e atividades sexuais, para que todas as pessoas sejam tratadas de maneira consistente com as normas internacionais de direitos humanos, sem discriminação com base em sexo ou gênero. Primeiro, a Meta deve realizar uma avaliação abrangente do impacto dessa mudança sobre os direitos humanos com ajuda de diversas partes interessadas e criar um plano para lidar com quaisquer danos identificados.
• Depois deve incluir mais detalhes no Padrão da Comunidade sobre proposta de cunho sexual voltado ao público sobre os critérios que levam à remoção de conteúdo.
• E por fim, revisar a orientação para moderadores relacionada ao Padrão da Comunidade sobre proposta de cunho sexual para que reflita com mais precisão as regras públicas da política. Isso ajudaria a reduzir os erros de monitoramento por parte da Meta.

*Os resumos de caso oferecem um panorama da ocorrência e não têm valor precedente.

Decisão completa sobre o caso

1. Resumo da decisão

O Comitê de Supervisão anula as decisões originais da Meta em dois casos de publicações do Instagram removidas pela Meta. A Meta reconheceu que as decisões originais estavam erradas em ambos os casos. Esses casos levantam preocupações importantes sobre como as políticas da Meta impactam desproporcionalmente os direitos de expressão de mulheres e usuários LGBTQIAP+ das plataformas. O Comitê recomenda que a Meta defina critérios claros, objetivos e que respeitem os direitos segundo a política de conteúdo adulto de nudez e atividades sexuais, garantindo tratamento igual para todas as pessoas que seja consistente com as normas internacionais de direitos humanos e evite a discriminação com base em sexo ou identidade de gênero. Primeiro, a Meta deve realizar uma avaliação abrangente do impacto dos direitos humanos, analisando as implicações da adoção de tais critérios, que inclui o envolvimento amplamente inclusivo das partes interessadas em diversos contextos ideológicos, geográficos e culturais. Essa avaliação deve identificar quaisquer danos potenciais, e a implementação da nova política deve incluir um plano de mitigação para abordá-los.

O Comitê recomenda ainda que a Meta esclareça sua política sobre proposta de cunho sexual voltada ao público e restrinja sua orientação de monitoramento interno para melhor identificar as violações.

2. Descrição do caso e histórico

Esses casos tratam de duas decisões sobre conteúdo da Meta que o Comitê de Supervisão está abordando em conjunto. Duas imagens separadas com legendas foram publicadas em uma mesma conta do Instagram, mantida por um casal americano. As duas imagens mostram o casal, que afirmou, nas publicações e em envios ao Comitê, ser transgênero e não binário.

A Meta removeu as duas publicações de acordo com os Padrões da Comunidade sobre propostas de cunho sexual. Em ambos os casos, os sistemas automatizados da Meta identificaram o conteúdo como potencialmente violador.

Na primeira imagem, publicada em 2021, as duas pessoas estão sem camiseta com uma fita adesiva cor de pele cobrindo os mamilos. Na segunda imagem, publicada em 2022, uma pessoa está vestida, e a outra está com os seios descobertos e com as mãos cobrindo os mamilos. As legendas dessas imagens informam que a pessoa que está sem camiseta em ambas as fotos logo passará por uma cirurgia de afirmação de gênero de retirada de seios. O casal fala sobre os planos de registrar o procedimento cirúrgico e debater questões de saúde da população transgênero. Elas anunciam que estão arrecadando fundos para pagar a cirurgia porque não conseguiram cobertura de seguro para o procedimento.

No primeiro caso, a imagem foi primeiro classificada automaticamente como violação improvável. A denúncia foi encerrada sem ser analisada, e o conteúdo inicialmente permaneceu na plataforma. Em seguida, três usuários denunciaram o conteúdo por pornografia e automutilação. Essas denúncias foram analisadas por moderadores humanos que consideraram a publicação não violadora. Quando o conteúdo foi denunciado por um usuário pela quarta vez, outro analista humano considerou que a postagem violava o Padrão da Comunidade de proposta de cunho sexual e a removeu.

No segundo caso, a postagem foi identificada duas vezes pelos sistemas automatizados da Meta e, em seguida, enviada para análise humana, que constatou que não havia violação em nenhuma das denúncias. Dois usuários denunciaram o conteúdo, mas as denúncias foram encerradas automaticamente sem passar por análise humana, e o conteúdo permaneceu no Instagram. Por fim, os sistemas automatizados da Meta identificaram o conteúdo pela terceira vez e o enviaram para análise humana. Nas duas últimas vezes, o classificador automatizado de conteúdo adulto de nudez e atividades sexuais da Meta sinalizou o conteúdo, mas o motivo dessas análises recorrentes não está claro. Esse analista considerou que a publicação violava o Padrão da Comunidade sobre proposta de cunho sexual e a removeu.

Os proprietários da conta enviaram uma apelação para a Meta referente às duas decisões de remoção, e o conteúdo foi revisado por analistas em ambos os casos. No entanto, essas análises não levaram a Meta a restaurar as publicações. Os proprietários da conta fizeram uma apelação das duas decisões de remoção ao Comitê. O Comitê está analisando esses dois casos juntos, o que nunca havia sido feito antes. Os benefícios disso são identificar problemas semelhantes nas políticas e processos de conteúdo da Meta e oferecer soluções que resolvam esses problemas.

Depois que o Comitê selecionou essas publicações e a Meta foi solicitada a fornecer uma justificativa para a decisão de remover o conteúdo, a Meta identificou as remoções como "erros de monitoramento" e restaurou as publicações.

Ao considerar por que esses casos representam questões importantes, o Comitê destaca como contexto relevante o grande volume de comentários públicos recebidos nesses casos, muitos dos quais eram de pessoas que se identificaram como mulheres trans, não binárias ou cisgênero que explicaram que foram pessoalmente afetadas por erros de monitoramento e problemas semelhantes aos desses casos.

O Comitê também observou como contexto relevante a pesquisa acadêmica, também citada nos comentários públicos, feita por Haimson et al, Witt, Suzor e Huggins, e dois relatórios de Salty sobre viés algorítmico e censura de comunidades marginalizadas. Esses estudos descobriram que os erros de monitoramento nos dois Padrões da Comunidade discutidos nesses casos afetam desproporcionalmente as mulheres e a comunidade LGBTQIAP+. Um coautor de um desses estudos é membro do Comitê de Supervisão.

3. Escopo e autoridade do Comitê de Supervisão

O Comitê tem autoridade para analisar a decisão da Meta após uma apelação do usuário cujo conteúdo foi removido (Artigo 2, Seção 1 do Estatuto; e Seção 1 do Artigo 3 dos Regulamentos Internos).

De acordo com o Artigo 3, Seção 5 do Estatuto, o Comitê pode manter ou revogar a decisão da Meta, decisão essa que é vinculante para a empresa, segundo o Artigo 4 do Estatuto. A Meta também deve avaliar a viabilidade de aplicar sua decisão no que diz respeito a conteúdo idêntico em contexto paralelo, segundo o Artigo 4 do Estatuto. As decisões do Comitê podem incluir recomendações de política com sugestões às quais a Meta deve responder (Artigo 3, Seção 4; Artigo 4 do Estatuto.

Quando o Comitê seleciona casos como este, em que a Meta reconhece que cometeu um erro após o Comitê identificar o caso, o Comitê analisa a decisão original. O motivo disso é aumentar a compreensão dos parâmetros da política e processos de moderação de conteúdo que contribuíram para o erro e para resolver problemas que o Comitê identifica segundo as políticas subjacentes. O Comitê também pretende fazer recomendações para diminuir a probabilidade de erros futuros e tratar os usuários de maneira mais justa no futuro.

Quando o Comitê identifica casos que geram questões semelhantes, eles podem ser atribuídos simultaneamente a um painel conjunto. Uma decisão vinculativa será tomada em relação a cada parte do conteúdo.

4. Fontes de autoridade

O Comitê de Supervisão considerou as seguintes autoridades e padrões:

I. Decisões do Comitê de Supervisão:

• Decisão “Ressignificação de palavras árabes” (2022-003-IG-UA). O Comitê analisou os desafios da aplicação de exceções de políticas e os impactos desproporcionais de algumas escolhas de políticas.
• “Decisão Cinto Wampum” (2021-012-FB-UA): O Comitê analisou os desafios da aplicação de exceções de políticas e os impactos desproporcionais de algumas escolhas de políticas.
• Sintomas de câncer de mama e nudez (2020-004-IG-UA). O Comitê analisou as Diretrizes da Comunidade do Instagram e recomendou que a Meta esclarecesse que há uma exceção para conscientização sobre o câncer de mama.

II. Políticas de conteúdo da Meta:

Estes casos envolvem as Diretrizes da Comunidade do Instagram e os Padrões da Comunidade do Facebook. A Central de Transparência da Meta afirma que “o Facebook e o Instagram compartilham Políticas de Conteúdo. Isso significa que, se um conteúdo é considerado como uma violação no Facebook, ele também é considerado como uma violação no Instagram”.

Proposta de cunho sexual

As Diretrizes da Comunidade do Instagram afirmam que “oferecer serviços sexuais” não é permitido. Esta disposição vincula-se ao Padrão da Comunidade do Facebook sobre proposta de cunho sexual.

No fundamento da política sobre proposta de cunho sexual, a Meta declara: “Todavia, impomos limites quando o conteúdo facilita, incentiva ou coordena encontros sexuais ou serviços sexuais pagos entre adultos. Fazemos isso para dificultar transações que possam envolver tráfico, coerção e atos sexuais sem consentimento. Também restringimos o uso de linguagem sexualmente explícita que possa gerar propostas de cunho sexual, uma vez que alguns públicos da nossa comunidade global podem ser sensíveis a esse tipo de conteúdo. Assim, isso pode impedir que essas pessoas se conectem com amigos e com a comunidade em geral.

O Padrão da Comunidade do Facebook sobre proposta de cunho sexual afirma que a Meta proíbe esse tipo de proposta explícita e implícita. A proposta de cunho sexual implícita tem dois critérios, ambos devem ser atendidos para que o conteúdo viole a política. O primeiro é “oferecer ou pedir”, ou seja, “conteúdo que implícita ou indiretamente (normalmente pelo fornecimento de um método de contato) oferece ou faz uma proposta de cunho sexual”. O segundo critério é "elementos sugestivos", ou seja, "conteúdo que faz a oferta ou proposta supramencionada usando um dos seguintes elementos sexualmente sugestivos". Os elementos listados incluem “gíria sexualizada regional” e “poses”.

Conteúdo adulto de nudez e atividades sexuais

As Diretrizes da Comunidade do Instagram declaram que os usuários devem: “Publique fotos e vídeos adequados a um público variado. Sabemos que há momentos em que as pessoas podem desejar publicar imagens de nudez de natureza artística ou criativa, mas, por vários motivos, não permitimos nudez no Instagram. Isso inclui fotos, vídeos e alguns conteúdos criados digitalmente que mostram relações sexuais, genitais e close-ups de nádegas totalmente expostas. Algumas fotos de mamilos femininos também estão incluídas, mas fotos no contexto de amamentação, parto e pós-parto, em situações relacionadas à saúde (por exemplo, pós-mastectomia, conscientização sobre câncer de mama ou cirurgia de afirmação de gênero) ou como ato de protesto são permitidas.” Esta seção está vinculada à política de conteúdo adulto de nudez e atividades sexuais do Facebook, que fornece mais detalhes sobre essas regras.

Como parte do fundamento da política do Padrão da Comunidade sobre conteúdo adulto de nudez e atividades sexuais, a Meta explica que: “Restringimos a exibição de imagens com nudez ou atividade sexual porque algumas pessoas podem ser especialmente sensíveis a esse tipo de conteúdo. Além disso, removemos por padrão imagens sexuais para impedir o compartilhamento de conteúdo de menores ou não consentido.”

A política de conteúdo adulto de nudez e atividades sexuais do Facebook também afirma: “Não publique: Mamilos femininos descobertos, salvo no contexto de amamentação, parto e momentos pós-parto, em contexto médico ou de saúde (por exemplo, mastectomia, conscientização sobre o câncer de mama ou cirurgia de confirmação de gênero) ou no caso de ato de protesto.” Os usuários também podem publicar imagens da genitália quando compartilhadas em um “contexto médico ou de saúde” (que inclui cirurgia de afirmação de gênero), mas um rótulo será aplicado avisando as pessoas de que o conteúdo é sensível. Há também pelo menos 18 fatores adicionais na orientação interna sobre mamilos e essas exceções.

III. Os valores da Meta:

Os valores da Meta são descritos na introdução aos Padrões da Comunidade do Facebook, em que o valor “Voz” é descrito como “essencial”:

o objetivo de nossos Padrões da Comunidade sempre foi criar um local de expressão e dar voz às pessoas. [...] Queremos que as pessoas possam falar abertamente sobre os assuntos importantes para elas, ainda que sejam temas que geram controvérsias e objeções.

A Meta limita a “Voz” com base em quatro valores, e dois são relevantes aqui:

“Segurança”: temos o compromisso de fazer com que o Facebook seja um lugar seguro. Manifestações contendo ameaças podem intimidar, excluir ou silenciar pessoas e isso não é permitido no Facebook.

"Dignidade": acreditamos que todas as pessoas são iguais no que diz respeito à dignidade e aos direitos. Esperamos que as pessoas respeitem a dignidade alheia e não assediem nem difamem outras pessoas.

IV. Normas internacionais dos direitos humanos:

Os UN Guiding Principles on Business and Human Rights (Princípios Orientadores da ONU sobre Empresas e Direitos Humanos, UNGPs, pelas iniciais em inglês), que contam com o apoio do Conselho de Direitos Humanos da ONU desde 2011, estabelecem uma estrutura voluntária de responsabilidades sobre direitos humanos das empresas privadas. Em 2021, a Meta anunciou sua Política Corporativa de Direitos Humanos, em que reafirmou seu compromisso com os direitos humanos de acordo com os UNGPs. Na análise das responsabilidades da Meta com os direitos humanos no caso em questão, o Comitê levou em consideração as seguintes normas de direitos humanos:

• Os direitos à liberdade de opinião e de expressão: Artigo 19 do Pacto Internacional dos Direitos Civis e Políticos, (PIDCP); Comentário geral n.º 34, do Comitê de Direitos Humanos, de 2011; Comunicação 488/1992; Resolução 32/2, Conselho de Direitos Humanos, 2016; Relatórios do relator especial da ONU sobre a liberdade de opinião e expressão: A/HRC/38/35 (2018) e A/74/486 (2019).
• Direitos das mulheres: Artigos 2 e 5 da Convenção sobre a Eliminação de Todas as Formas de Discriminação contra a Mulher, (CEDAW, pelas iniciais em inglês);
• Direito a não discriminação: Artigo 2, parágrafo 1 e Artigo 26 PIDCP; Nepomnyashchiy v Russia, Comitê de Direitos Humanos, 2018 (CCPR/C/123/D/2318/2013).

5. Envios de usuário

No envios para esses casos, os usuários acreditam que esse conteúdo foi removido por causa da transfobia. Eles escrevem que a decisão do Comitê de manter o conteúdo na plataforma contribuiria para tornar o Instagram um espaço mais amigável para a expressão LGBTQIAP+.

6. Envios da Meta

A Meta explicou no fundamento da sua decisão que ambas as remoções de conteúdo foram erros de monitoramento e que nenhuma das publicações violou suas políticas de proposta de cunho sexual. A Meta afirma: “a única oferta ou pedido existente é para arrecadação de fundos ou para visitar um site e comprar camisetas, e nenhum deles está relacionado à proposta de cunho sexual”.

A Meta também afirma que nenhuma das publicações viola o padrão sobre conteúdo adulto de nudez e atividades sexuais. O fundamento afirma que a “orientação interna do analista aborda especificamente como agir em relação à nudez não binária, de gênero neutro ou transgênero”. O conteúdo nesses casos foi compartilhado em um “contexto explicitamente não binário ou transgênero, conforme evidenciado pelo tópico geral do conteúdo (cirurgia de seios) e as hashtags usadas”. A Meta concluiu que "mesmo que os mamilos nesses casos fossem visíveis e descobertos, eles não violariam nossa política de conteúdo adulto de nudez e atividades sexuais". A Meta também reconheceu que, em ambas as imagens, os mamilos estão “totalmente ocultos”.

Dado o tempo decorrido desde a remoção do conteúdo, a Meta não pôde informar ao Comitê qual(is) política(s) os sistemas automatizados que identificaram o conteúdo como potencialmente violador foram programados para aplicar. Em um caso, a Meta conseguiu explicar que o conteúdo foi colocado na fila para análise duas vezes pelos classificadores de conteúdo adulto de nudez e atividades sexuais. A Meta também não forneceu nenhuma explicação sobre por que os analistas pensaram que o conteúdo violava a política sobre proposta de cunho sexual. O fundamento reconhece que a Meta está “ciente de que alguns analistas de conteúdo podem remover incorretamente o conteúdo como proposta de cunho sexual implícita (mesmo que não seja) com base em uma aplicação excessivamente técnica da nossa orientação para analistas de conteúdo”.

O Comitê fez 18 perguntas para a Meta, que respondeu a todas elas.

7. Comentários públicos

O Comitê de Supervisão considerou 130 comentários públicos relacionados aos casos. Noventa e sete dos comentários foram enviados dos Estados Unidos e Canadá, 19 da Europa, 10 da Ásia-Pacífico e Oceania, 1 da América Latina e Caribe, 1 do Oriente Médio e Norte da África, 1 da África Subsaariana e 1 da Ásia Central e Meridional.

Os envios cobriram os seguintes temas: remoções errôneas de conteúdo de usuários trans, não binários e mulheres; a injustiça e a desigualdade das distinções de gênero para determinar quais formas de nudez são permitidas na plataforma; confusão sobre qual conteúdo é permitido de acordo com os Padrões da Comunidade sobre proposta de cunho sexual e conteúdo adulto de nudez e atividades sexuais; e a importância das redes sociais para a expressão em sociedades onde os direitos LGBTQIAP+ estão sendo ameaçados.

Para ler os comentários públicos enviados sobre este caso, clique aqui. Vários comentários enviados não foram incluídos porque continham informações de identificação pessoal de outros indivíduos além do autor do comentário.

8. Análise do Comitê de Supervisão

O Comitê avaliou a questão da restauração do conteúdo sob três pontos de vista: as políticas de conteúdo da Meta, os valores da empresa e suas responsabilidades com os direitos humanos.

O Comitê selecionou esses casos porque a remoção de um conteúdo não violador publicado por pessoas que se identificam com grupos marginalizados afeta a liberdade de expressão. Isso é particularmente significativo, pois o Instagram é um espaço importante para esses grupos criarem uma comunidade. Esses casos demonstram como os erros de monitoramento podem ter um impacto desproporcional em certos grupos e podem significar problemas mais amplos relacionados à política e monitoramento que devem ser corrigidos.

8.1 Conformidade com as políticas de conteúdo da Meta

O Comitê considera que essas publicações não violam nenhuma política de conteúdo da Meta. Embora as Diretrizes da Comunidade se apliquem ao Instagram, a Meta também afirma que o “Facebook e Instagram compartilham políticas de conteúdo. O conteúdo considerado infrator no Facebook também é considerado infrator no Instagram”. Os Padrões da Comunidade do Facebook dão mais detalhes e estão vinculados às Diretrizes.

a. Proposta de cunho sexual

O Padrão da Comunidade sobre proposta de cunho sexual afirma que uma proposta implícita requer dois elementos:

• Conteúdo que contém uma oferta ou pedido implícito E
• Elementos sexualmente sugestivos.

Oferta ou pedido implícito.

Uma oferta ou proposta de cunho sexual implícita é definida no Padrão da Comunidade sobre proposta de cunho sexual como “conteúdo que implícita ou indiretamente (normalmente por fornecimento de um método de contato) oferece ou faz uma proposta de cunho sexual”. Nas "Perguntas conhecidas" da Meta, que fornecem orientação interna adicional aos analistas, a lista de informações de contato que aciona a remoção como uma oferta implícita inclui links de perfil de redes sociais e "links para sites baseados em assinatura (por exemplo, OnlyFans.com ou Patreon.com).” Nesses casos, o conteúdo fornecia um link para uma plataforma na qual os usuários mostravam uma campanha de arrecadação de fundos para pagar a cirurgia. Como os critérios internos da Meta que definem "oferta ou pedido implícito" são muito amplos, esse link se qualificaria tecnicamente como uma "oferta ou pedido" segundo a orientação para analistas da Meta, apesar de não violar o padrão voltado para o público, que indica que a oferta ou pedido deve ser relacionado a conteúdo sexual.

Elementos sexualmente sugestivos.

O Padrão da Comunidade apresenta uma lista de elementos sexualmente sugestivos que inclui poses. As Perguntas conhecidas mostram uma lista, descrita pela Meta como exaustiva, do que é caracterizado como poses sexualmente sugestivas, incluindo “seios femininos nus cobertos digitalmente ou por partes do corpo humano ou objetos”. Em ambas as imagens, o Comitê observa que há seios cobertos por partes do corpo humano (mãos) ou objetos (fita adesiva). Nesses casos, o conteúdo das publicações deixa claro que as pessoas na foto se identificam como trans e não binárias, ou seja, os seios retratados são de indivíduos que não se identificam como mulheres. O Comitê também acredita que o conteúdo não é sexualmente sugestivo. Com base nisso, o segundo elemento necessário para violar a política sobre proposta de cunho sexual – um elemento sexualmente sugestivo, como uma pose sexual (que inclui um seio feminino coberto) – não está presente.

Como o segundo elemento não foi satisfeito, as publicações não violaram esse padrão. O monitoramento da versão pública do primeiro elemento (que indica que a oferta/pedido deve ter um cunho sexual) também indica que essas imagens não constituiriam uma proposta de cunho sexual.

b. Conteúdo adulto de nudez e atividades sexuais

O Padrão da Comunidade sobre conteúdo adulto de nudez e atividades sexuais afirma que os usuários não devem publicar imagens de “mamilos femininos descobertos, salvo no contexto de amamentação, parto e momentos pós-parto, em contexto médico ou de saúde (por exemplo, mastectomia, conscientização sobre o câncer de mama ou cirurgia de afirmação de gênero) ou no caso de ato de protesto”. As Perguntas conhecidas da Meta afirmam ainda que os analistas devem permitir “imagens de mamilos quando compartilhados em um contexto transgênero explicitamente feminino para masculino, não binário ou neutro em termos de gênero (por exemplo, um usuário indica tal identidade de gênero), independentemente do tamanho ou forma da mama”. Nenhuma das imagens nesses casos viola esse Padrão da Comunidade.

Primeiro, nenhuma das imagens apresenta mamilos descobertos. Em ambas as imagens, os indivíduos cobriram seus mamilos com as mãos ou com fita adesiva. Em segundo lugar, mesmo que os mamilos estivessem descobertos, o Comitê observa que as imagens foram compartilhadas com um texto que deixava claro que as pessoas se identificavam como não binárias. Esta política, portanto, não foi violada.

8.2 Conformidade com os valores da Meta

O Comitê considera que a decisão original de remover esse conteúdo foi inconsistente com os valores de "Voz" e "Dignidade" da Meta e não atendia ao valor de "Segurança".

Os erros de monitoramento que afetam desproporcionalmente grupos que sofrem discriminação representam uma séria ameaça à “Voz” e à “Dignidade”. Embora os argumentos de direitos humanos da Meta discutissem a “Segurança”, particularmente relacionada ao compartilhamento não consensual de imagens, tráfico sexual e abuso infantil, o Comitê considera que essas remoções não contribuíram nesse sentido.

8.3 Conformidade com as responsabilidades que a Meta tem com os direitos humanos

Liberdade de expressão (artigo 19 do PIDCP)

O Artigo 19 do PIDCP prevê ampla proteção à expressão, entre elas a discussão de direitos humanos e a expressão que possa ser considerada “extremamente ofensiva” (Comentário Geral 34, parágrafo 11). O direito à liberdade de expressão é garantido a todas as pessoas, sem discriminação de “sexo” ou “outro status” (PIDCP, Artigo 2, parágrafo 1). O Comitê de Direitos Humanos confirmou em casos como Nepomnyashchiy v Rússia (CCPR/C/123/D/2318/2013) que a proibição de discriminação inclui discriminação com base em identidade de gênero.

O conteúdo está relacionado a importantes questões sociais. Para esses usuários, o Instagram oferece um fórum para discutir e expor sua expressão de gênero, fazer conexões e obter apoio. O conteúdo também pode afetar diretamente a capacidade dos usuários de realizar a cirurgia de afirmação de gênero, já que ambas as publicações destacam que uma pessoa passará por uma cirurgia importante com ajuda de uma campanha de arrecadação de fundos.

O artigo 19 exige que, quando um estado aplica restrições à expressão, elas devem atender aos requisitos de legalidade, objetivo legítimo e necessidade e proporcionalidade (PIDCP, artigo 19, parágrafo 3). Com base no quadro dos UNGPs, o Relator Especial da ONU sobre Liberdade de Opinião e Expressão exortou as empresas de redes sociais a assegurar que suas regras sobre conteúdo sejam orientadas pelos requisitos do Artigo 19, parágrafo 3, PIDCP (A/HRC/38/35, parágrafos 45 e 70). O Comitê adotou esse quadro de referência para analisar as políticas e as práticas de monitoramento da Meta.

Nesse caso, ele considera que a Meta não cumpriu suas responsabilidades de criar e aplicar políticas alinhadas com esses padrões. Os critérios internos aplicados para remover conteúdo segundo a política de proposta de cunho sexual são mais amplos do que a justificativa declarada para a política, com consequências de monitoramento excessivo que a própria Meta reconheceu. O Padrão da Comunidade sobre conteúdo adulto de nudez e atividades sexuais afeta desproporcionalmente mulheres e usuários LGBTQIAP+ e se baseia em percepções subjetivas e especulativas de sexo e gênero que não são praticáveis ​​ao moderar conteúdo em grande escala. O Comitê analisa essas deficiências e recomenda que a Meta inicie um processo abrangente para resolver esses problemas.

I. Legalidade (clareza e acessibilidade das regras)

As regras que restringem a expressão devem ser claras e acessíveis para que tanto os responsáveis ​​por aplicá-las quanto os usuários saibam o que é permitido. Ambos os Padrões da Comunidade considerados nestes casos ficam aquém desse padrão.

a. Proposta de cunho sexual

O Comitê considera que o Padrão da Comunidade sobre proposta de cunho sexual contém critérios excessivamente amplos nas diretrizes internas fornecidas aos analistas. Essa orientação incompleta contribui para o monitoramento excessivo pelos analistas e confusão para os usuários. A Meta reconheceu essa questão, pois explicou ao Comitê que a aplicação da orientação interna poderia “levar a monitoramento excessivo” nos casos em que os critérios para proposta de cunho sexual implícita são atendidos, mas está claro que “não havia intenção de propor sexo”.

A confusão reflete-se em ambos os elementos desta política. Em relação ao componente “oferta ou pedido” do Padrão da Comunidade sobre proposta de cunho sexual, as regras voltadas para o público referem-se a um "método de contato" para a parte solicitante. No entanto, a orientação para moderadores, ou seja, as Perguntas conhecidas, afirmam que um “método de contato” para uma “oferta ou pedido” implícito inclui links de perfil de redes sociais ou para sites de assinatura de terceiros, como o Patreon. Não fica claro para os usuários que qualquer link para outro perfil de rede social, plataforma de pagamento de terceiros ou link de arrecadação de fundos (como Patreon ou GoFundMe) possa significar que a publicação é tratada como uma proposta. Essa confusão se reflete nos vários comentários públicos que o Comitê recebeu de pessoas que não entendiam por que o conteúdo, incluindo links de terceiros, foi removido ou levou ao banimento das contas.

O segundo critério, que exige um elemento sexualmente sugestivo, é amplo e vago, além de inconsistente com a política de conteúdo adulto de nudez e atividades sexuais. O Padrão da Comunidade voltado para o público inclui “poses sexualmente sugestivas” como um elemento sexualmente sugestivo. As Perguntas conhecidas fornecem uma lista detalhada dessas poses, que inclui seios nus e cobertos com as mãos ou objetos. Os usuários provavelmente não conseguirão prever que qualquer imagem com seios cobertos seja considerada uma pose sexualmente sugestiva. Essa confusão é agravada pelo fato de que a política sobre conteúdo adulto de nudez permite fotos de seios nus em que os mamilos estão cobertos. Assim, o conteúdo considerado sexualmente sugestivo em uma política não é em outra.

Além da incerteza do usuário, a inconsistência das decisões dos analistas sobre esse conteúdo sugere uma falta de clareza para os moderadores sobre qual conteúdo deve ser considerado uma proposta de cunho sexual.

A própria Meta reconhece que a aplicação da sua orientação interna sobre os dois elementos de proposta implícita está removendo conteúdo que não tem uma proposta de cunho sexual. Após a modificação do escopo desta política, no longo prazo as remoções errôneas provavelmente serão tratadas de forma mais adequada. No curto prazo, no entanto, o Comitê recomenda que a Meta revise suas orientações internas para garantir que os critérios reflitam as regras voltadas para o público e exijam uma conexão mais clara entre "oferta e pedido" e "elemento sexualmente sugestivo". A Meta também deve fornecer aos usuários mais explicações sobre o que constitui uma "oferta ou pedido" de sexo ou poses sexualmente sugestivas nos Padrões da Comunidade públicos.

b. Conteúdo adulto de nudez e atividades sexuais

O Padrão sobre conteúdo adulto de nudez e atividades sexuais tem como premissa as distinções de sexo e gênero que são difíceis de implementar e contém exceções mal definidas. Certas regras da política podem confundir os usuários, que não sabem o que é permitido. Isso também causa confusão para os moderadores, que devem fazer avaliações subjetivas com base em informações incompletas e aplicar rapidamente uma regra com inúmeros fatores, exclusões e presunções.

Apesar de usar uma linguagem com foco em partes específicas do corpo em vez de gênero (e permitir que os usuários escolham entre uma ampla gama de identidades de gênero no perfil deles), a maioria das regras da Meta não explica como a empresa lida com conteúdo que retrata pessoas intersexuais, trans ou não binárias. Por exemplo, a política refere-se a “genitália masculina e feminina”, “seios femininos” e “mamilos femininos”, mas não está claro como essas descrições são aplicadas a pessoas com corpos e identidades que não se alinham a essas definições. Muitas pessoas trans e não binárias enviaram comentários públicos ao Comitê afirmando que os usuários não sabem se seu conteúdo é avaliado e categorizado de acordo com a identidade de gênero, o sexo atribuído no nascimento ou aspectos da aparência física.

As regras atuais exigem que os analistas avaliem rapidamente o sexo do usuário, já que essa política se aplica a “mamilos femininos”, e a identidade de gênero dele, pois há exceções no caso de a publicação estar relacionada a uma cirurgia de afirmação de gênero ou com base no fato de a pessoa retratada ser não binária, agênero ou transgênero. As percepções de sexo e gênero requerem a interpretação de pistas contextuais e aparência, as quais são determinações subjetivas que conduzem a erros.

Essa abordagem é ainda mais complicada devido ao “padrão como princípio feminino” da Meta, segundo o qual são aplicadas políticas mais restritivas quanto ​​à nudez feminina (em oposição à masculina) em caso de dúvidas. As Perguntas conhecidas afirmam que, quando o contexto não está claro e a pessoa na imagem “se apresenta como mulher OU existe um contexto de mulher transgênero, o padrão é considerar uma nudez feminina e aplicar a política relevante”.

O número de restrições e exceções às regras sobre mamilos considerados femininos é extenso e confuso. As exceções variam de atos de protesto e cenas de parto e amamentação a contextos médicos e de saúde, incluindo imagens pós-mastectomia e conscientização sobre o câncer de mama. As exceções geralmente não são definidas ou estão mal definidas. A lista de exceções também aumentou substancialmente ao longo do tempo e deve continuar expandindo à medida que a forma de expressão evolui. Quando se trata de seios femininos, a política de conteúdo adulto de nudez e atividades sexuais da Meta assume como padrão que essas representações constituem imagens de cunho sexual. No entanto, a crescente lista de exceções mostra que, em muitas circunstâncias descritas na política, as imagens de seios de mulheres não são sexualmente sugestivas.

Mesmo em cada exceção, surgem inúmeras questões. Por exemplo, a exceção de cirurgia de afirmação de gênero é muito importante para usuários trans e não binários, mas a Meta não fornece uma explicação sobre o escopo da exceção para esse procedimento nas regras voltadas ao público. Isso resultou em muitos dos comentários públicos com dúvidas sobre se o conteúdo permitido de acordo com a exceção poderia incluir fotos pré-cirúrgicas (para criar um antes e depois) e imagens de mulheres trans que fizeram uma mamoplastia de aumento. As orientações internas e as Perguntas conhecidas deixam claro que essa exceção é mais restritiva do que a orientação pública pode sugerir.

As políticas da Meta têm como premissa distinções binárias entre masculino e feminino, o que dificulta para ela explicar sua exceção para cirurgia de afirmação de gênero. Nas respostas da Meta ao Comitê, ela explicou que a exceção para cirurgia de afirmação de gênero permite “mamilos femininos descobertos antes que o indivíduo faça uma cirurgia para remover os seios quando o conteúdo é compartilhado em um contexto explícito de homem transgênero, não binário ou agênero”. As regras afirmam ainda que “os mamilos de mulheres transgêneros que passaram por um aumento mamário são proibidos, a menos que haja cicatriz neles”.

As orientações internas sobre cicatrizes cirúrgicas e mamilos são ainda mais complicadas. As regras para mastectomias, por exemplo, permitem “casos em que o mamilo é reconstruído a partir de outro tecido ou representando ou tatuado” e “casos em que pelo menos uma mama removida cirurgicamente está presente, mesmo que o outro mamilo feminino nu esteja visível”. Para complicar ainda mais, as regras afirmam que “para mastectomias, cicatriz inclui a representação da área onde o tecido mamário removido ficava. A cicatriz cirúrgica real não precisa ser visível”.

Os analistas provavelmente terão dificuldades para aplicar regras que exijam a validação rápida das características específicas do sexo da pessoa retratada para decidir se devem aplicar as regras referentes a mamilo feminino e depois do gênero para determinar se algumas exceções se aplicam; e, em seguida, analisar se o conteúdo descreve o antes ou depois de um procedimento cirúrgico, qual é o procedimento cirúrgico realizado e a extensão e natureza da cicatriz visível, para determinar se outras exceções podem ser aplicadas. A mesma imagem de mamilos com apresentação feminina seria proibida se fosse publicada por uma mulher cisgênero, mas permitida se publicada por um indivíduo que se identificasse como não binário. O Comitê também observa outras exceções relacionadas aos mamilos com base em contextos de protesto, parto, pós-parto e amamentação que não foram examinadas aqui, mas também devem ser avaliadas e envolvem critérios internos adicionais.

Dada a importância dos direitos de expressão sobre questões de gênero, saúde física, parto e paternidade/maternidade, a atual colcha de retalhos de exceções cria incerteza para os usuários e resulta na aplicação incorreta das regras, como evidenciado neste caso. A falta de clareza desta política para os usuários e moderadores torna o padrão inviável. Conforme discutido mais abaixo, o Comitê acredita que a Meta deve adotar uma abordagem para conteúdo adulto de nudez que garanta que todas as pessoas sejam tratadas sem discriminação com base em sexo ou identidade de gênero.

II. Objetivo legítimo

O artigo 19 do PIDCP estabelece que os estados só podem restringir a expressão em prol de objetivos legítimos, que são definidos como: “respeito pelos direitos ou reputações de terceiros... [e] a proteção da segurança nacional ou da ordem pública, ou da saúde e moral públicas”. Essa decisão examina os fundamentos da Meta para limitar o discurso nas suas políticas conforme esses padrões.

a. Proposta de cunho sexual

A Meta explica na sua política de proposta de cunho sexual que “ela visa a impedir que os usuários usem o Facebook ou o Instagram para facilitar transações relacionadas a tráfico, coerção e atos sexuais não consensuais ocorridas fora da plataforma”. Esse é um exemplo de proteção dos direitos de terceiros, que é um objetivo legítimo.

b. Conteúdo adulto de nudez e atividades sexuais

A Meta forneceu várias justificativas para aspectos específicos da sua política de conteúdo adulto de nudez e atividades sexuais, incluindo a prevenção da disseminação de conteúdo não consensual, a proteção de menores cuja idade não é clara e o fato de que “algumas pessoas na nossa comunidade possam ser sensíveis a esse tipo de conteúdo”. A Meta também forneceu uma explicação dos seus princípios gerais sobre nudez ao Comitê. Ela afirma que “ao redigir a política, a Meta considerou (1) a natureza privada ou sensível das imagens; (2) se foi dado consentimento para a obtenção e compartilhamento de imagens de nudez; (3) o risco de exploração sexual; e (4) se a divulgação das imagens pode levar a assédio fora da plataforma, particularmente em países onde elas podem ser culturalmente ofensivas”.

A maioria desses objetivos se alinha com a proteção dos direitos de terceiros. No entanto, o fundamento da Meta de proteger a “sensibilidade da comunidade” merece uma análise mais aprofundada. Esse fundamento pode se alinhar com o objetivo legítimo de “moral pública”. Sendo assim, o Comitê observa que o objetivo de proteger a “moral pública” às vezes foi indevidamente invocado por reguladores de discurso governamental para violar os direitos humanos, particularmente os de membros de minorias e grupos vulneráveis. O Comitê de Direitos Humanos alertou que “o conceito de moral deriva de muitas tradições sociais, filosóficas e religiosas; consequentemente, as limitações (...) com o objetivo de proteger a moral devem ser baseadas em princípios que não derivam exclusivamente de uma única tradição” (Comitê de Direitos Humanos, Comentário Geral 34).

Embora a lei de direitos humanos reconheça que a moral pública possa constituir um objetivo legítimo de limitações à liberdade de expressão dos estados e existam restrições à nudez pública em todo o mundo, a Meta enfatiza outros objetivos além de “sensibilidade da comunidade” no contexto específico deste caso. A Meta afirmou que “embora [sua] política de nudez seja consistente com a proteção da moral pública, ela não é baseada nesse objetivo, porque os padrões morais em torno da nudez diferem amplamente entre as culturas e não seriam implementáveis ​​em grande escala”. Por exemplo, em muitas comunidades e partes do mundo, as representações de seios transgêneros e não binários descobertos podem ser consideradas como um insulto às sensibilidades da comunidade. No entanto, a Meta não restringe essa expressão. Além disso, o Comitê preocupa-se com a conhecida e recorrente opressão desproporcional da expressão que tem sido vivenciada por mulheres, transgêneros e pessoas não binárias devido às políticas da Meta (veja abaixo). Por essas razões, ele concentra-se em outros objetivos além das “sensibilidades da comunidade”, em que a Meta já progrediu ao examinar suas responsabilidades quanto aos direitos humanos.

Deve-se notar que algumas das justificativas que a Meta oferece para sua política sobre nudez usam como base a premissa padrão da natureza sexualmente sugestiva dos seios de mulheres. O Comitê recebeu comentários públicos de muitos usuários que expressaram preocupação com a presumível sexualização de corpos femininos, trans e não binários, quando nenhuma premissa comparável de sexualização de imagens é aplicada a homens cisgênero. (Veja, por exemplo, o Comentário Público 10624 enviado pelo InternetLab).

O Comitê recebeu muitos comentários públicos neste caso por meio dos processos normais de divulgação de casos. Como um órgão comprometido em oferecer uma medida de responsabilização à base de usuários da Meta e às principais partes interessadas, o Comitê considera os comentários durante suas deliberações. Em todos os casos, entendemos que esses comentários podem não representar a opinião de todos. O Comitê aprecia as experiências e os conhecimentos compartilhados por meio dos comentários e continua tomando medidas para aumentar seu alcance das comunidades que podem não estar participando desse processo no momento.

Por fim, ele reconhece a legitimidade dos esforços da Meta em prevenir certos danos que podem ter impactos de gênero. Conforme observado pelo Relator Especial das Nações Unidas sobre a violência contra as mulheres, é "importante reconhecer que a Internet está sendo usada em um ambiente mais amplo de discriminação estrutural e violência de gênero contra mulheres e meninas de forma generalizada e sistêmica." (A/HRC/ 38/47) Além disso, as pesquisas indicam que "90% das vítimas da distribuição digital e não consensual de imagens íntimas são mulheres". (A/HRC/38/47). A Meta deve procurar limitar os danos de gênero, tanto no monitoramento excessivo quanto no monitoramento insuficiente das proibições de nudez.

III. Necessidade e proporcionalidade

O Comitê considera que as políticas da Meta, da forma em que estão estruturadas e são aplicadas, capturam mais conteúdo do que o necessário. Nenhuma das políticas é proporcional aos problemas que estão tentando resolver.

a. Proposta de cunho sexual

As definições da política de proposta de cunho sexual de "oferta ou pedido" implícito e poses sexualmente sugestivas são muito amplas e tendem a capturar uma quantidade significativa de conteúdo não relacionado. A Meta reconhece que está “ciente de que alguns analistas de conteúdo podem remover incorretamente o conteúdo como proposta de cunho sexual implícita (mesmo que não seja) com base em uma aplicação excessivamente técnica da nossa orientação específica”. Ela continua:

Atualmente, com base nas nossas Perguntas conhecidas, consideramos que compartilhar, mencionar ou fornecer informações de contato de identidades sociais ou digitais é uma oferta ou proposta de cunho sexual. […] No entanto, essa orientação pode levar a monitoramento excessivo nos casos em que, por exemplo, um analista considera que foram atendidos os critérios de “elemento sexualmente sugestivo” (devido à pose de uma modelo) e de “oferta ou pedido” (por marcar o fotógrafo a fim de conceder crédito pela foto). Esse tipo de conteúdo não é infrator porque não há intenção de solicitar sexo, mas ainda pode ser removido (em violação à política) porque atende aos dois critérios descritos acima.

A UNESCO, em um relatório discutindo a educação no espaço digital, descreveu o risco do monitoramento excessivo. Observando que "os regulamentos estritos relativos ao compartilhamento de imagens explícitas fazem com que, em alguns casos, os materiais educacionais publicados online para apoiar o aprendizado sobre o corpo ou relações sexuais possam ser confundidos pelos moderadores com conteúdo inadequado e explícito e, portanto, removidos de plataformas genéricas da web". O Comitê também observa os muitos comentários públicos que recebeu discutindo remoções errôneas segundo esse Padrão. Por exemplo, a ACON (uma ONG de conscientização sobre HIV na Austrália) escreve que o conteúdo que promovia mensagens de prevenção do HIV aconselhando o sexo seguro e divulgava oficinas educativas foi removido por ter sido considerado uma proposta de cunho sexual. Com isso, a ONG passou a escolher uma linguagem para o conteúdo de forma a evitar remoções da Meta, em vez de usar a linguagem mais adequada para alcançar suas comunidades-alvo (Comentário Público 10550). Isso foi repercutido por Joanna Williams, uma pesquisadora que descobriu que 9 em cada 12 das organizações de saúde sexual que ela entrevistou relataram ter sido afetadas negativamente pela moderação de Meta nessa área (Comentário Público 10613).

b. Conteúdo adulto de nudez e atividades sexuais

Além dos desafios em estabelecer regras exequíveis e escaláveis com base na percepção de sexo e identidade de gênero da Meta, conforme descrito acima, o Comitê também considera que as políticas da Meta sobre conteúdo adulto de nudez incluem restrições desproporcionais a alguns tipos de conteúdo e expressão. As políticas exigem a remoção de conteúdo quando medidas menos restritivas poderiam ser atender às metas declaradas nelas.

A Meta já usa uma gama diversificada de ações de monitoramento, além da remoção, incluindo a aplicação de telas de aviso e controle de idade para permitir que apenas usuários com mais de 18 anos visualizem o conteúdo. Além disso, ela já emprega tais medidas na sua política de conteúdo adulto de nudez e atividades sexuais, inclusive para representações artísticas de atividade sexual. A Meta também pode engajar moderadores automatizados e humanos para fazer determinações mais refinadas e específicas quando o contexto de nudez é realmente sexual, independentemente do gênero do corpo que ele representa. Ela poderia ainda empregar uma ampla gama de intervenções políticas para limitar a visibilidade do conteúdo de nudez aos usuários que não desejam vê-lo, permitindo um maior controle do usuário. A Meta também tem uma série de políticas dedicadas a questões também abordadas na política de nudez (como a política sobre exploração de adultos e as políticas sobre exploração, abuso e nudez sexual infantil) que poderiam ser fortalecidas.

O Comitê observa que as práticas de monitoramento da Meta supostamente resultam em um alto número de falsos positivos ou de remoção equivocada de conteúdo não violador. O último Relatório de Aplicação de Padrões da Comunidade da Meta para o Instagram (abril a junho de 2022) revelou que 21% das remoções de conteúdo adulto de nudez e atividades sexuais que foram objetos de apelação levaram à restauração do conteúdo. O Comitê também recebeu um grande número de comentários públicos sobre a remoção equivocada de conteúdo segundo a Política de Nudez de Adultos.

Não discriminação

Há evidências de que as políticas e o monitoramento da Meta relacionados à política de conteúdo adulto de nudez e atividades sexuais podem levar a impactos desproporcionais especificamente para mulheres e pessoas LGBTQIAP+. Esses impactos refletem-se tanto na política quanto no monitoramento e limitam as maneiras pelas quais os grupos podem se expressar, resistir ao preconceito e aumentar sua visibilidade na sociedade.

Embora este caso esteja relacionado a usuários trans e não binários, os erros de monitoramento nele derivam de uma política subjacente que também afeta as mulheres, especialmente porque a Meta adota uma abordagem "padrão para mulheres" em relação a conteúdo de nudez. Portanto, esta seção considera como as políticas da Meta afetam as pessoas LGBTQIAP+ e as mulheres. O grande volume de envios públicos neste caso demonstrou o impacto que essas políticas podem ter.

O direito à liberdade de expressão é garantido a todas as pessoas, sem discriminação de “sexo” ou “outro status” (Artigo 2, parágrafo 1, PIDCP). Isso inclui orientação sexual e identidade de gênero ( Toonen vs. Austrália (1994); A/HRC/19/41, parágrafo 7). A jurisprudência do Comitê de Direitos Humanos observa que "nem toda diferenciação baseada nos fundamentos listados no artigo 26 do Pacto equivale a discriminação, desde que seja baseada em critérios razoáveis e objetivos e busque um objetivo legítimo de acordo com o Pacto". Nepomnyashchiy v Russia, Comitê de Direitos Humanos, 2018, parágrafo 7.5 (CCPR/C/123/D/2318/2013).

A Convenção sobre a Eliminação de Todas as Formas de Discriminação Contra as Mulheres (CEDAW, pelas iniciais em inglês) proíbe "qualquer distinção, exclusão ou restrição feita com base no sexo que tenha o efeito ou o propósito de prejudicar ou anular o reconhecimento, gozo ou exercício pelas mulheres [...] sob a base da igualdade entre homens e mulheres, dos direitos humanos e das liberdades fundamentais no domínio político, econômico, sociocultural, civil ou em qualquer outro domínio" (CEDAW, artigo 1). O Comitê observa que os órgãos internacionais de direitos humanos não abordaram as implicações de direitos humanos de permitir ou proibir a nudez adulta consensual e seus potenciais impactos discriminatórios.

De acordo com os Princípios Orientadores da ONU, "as empresas devem prestar atenção especial a qualquer impacto específico aos direitos humanos em indivíduos de grupos ou povos que possam estar em maior risco de vulnerabilidade ou marginalização" (UNGPs, Princípios 18 e 20). O Relator Especial sobre liberdade de expressão instou as empresas de tecnologia a "buscar e considerar ativamente as preocupações das comunidades historicamente em risco de censura e discriminação" (A/HRC/38/35, parágrafo 48). O Grupo de Trabalho das Nações Unidas sobre Empresas e Direitos Humanos também recomendou que as empresas de tecnologia garantam que "a inteligência artificial e a automação não tenham impactos adversos desproporcionais nos direitos humanos das mulheres" (Guia de Dimensão de Gênero).

Devido à importância das plataformas de rede social como um espaço de expressão para indivíduos sujeitos à discriminação, o Comitê articulou consistentemente sua expectativa de que a Meta seja particularmente sensível à possibilidade de remoção indevida de conteúdo criado por membros desses grupos ou os retrate ou os mencione. Conforme observado na decisão “Cinto Wampum” (2021-012-FB-UA) em relação à expressão artística de povos indígenas, não basta avaliar o desempenho do monitoramento pela Meta em relação à Política de Discurso de Ódio do Facebook sobre a população de usuários como um todo, já que devem ser levados em consideração os efeitos em determinados grupos. Da mesma forma, no caso "Ressignificação de palavras em árabe", o Comitê confirmou que "a moderação excessiva do discurso por usuários de grupos minoritários perseguidos é uma séria ameaça à sua liberdade de expressão" e expressou preocupação sobre como as isenções nas políticas da Meta (nesse caso, a Política de Discurso de Ódio) foram aplicadas à expressão de grupos marginalizados (2022-003-IG-UA).

As consequências das escolhas da Meta resultam em oportunidades díspares de expressão sendo disponibilizadas para mulheres, trans e pessoas não binárias nas plataformas. A atual política de conteúdo adulto de nudez e atividades sexuais da Meta trata os seios e mamilos femininos como inerentemente sexuais e, portanto, sujeitos à proibição, a menos que tenham ou venham a ser operados cirurgicamente ou apareçam durante a amamentação. Em vez de tomar medidas para garantir que a censura não afete desproporcionalmente alguns grupos, a política da Meta consolida e perpetua tais impactos.

Esses casos destacam o impacto desproporcional das escolhas políticas da Meta para pessoas que se identificam como LGBTQIAP+, já que o conteúdo foi identificado várias vezes pelos classificadores de conteúdo adulto de nudez e atividades sexuais, apesar de estar fora do escopo da política. O Comitê acredita que esses casos são emblemáticos representando problemas mais amplos. Por exemplo, o estudo de Haimson et al. descobriu que as pessoas transgênero relatam muitos conteúdos sendo removidos e contas sendo excluídas, geralmente devido à nudez e conteúdo sexual.

O monitoramento das escolhas políticas da Meta também tem um impacto desproporcional sobre as mulheres. Um estudo de Witt, Suzor e Higgins descobriu que até 22% das imagens de corpos de mulheres que foram removidas do Instagram eram aparentes falsos positivos. O impacto diferencial nos corpos das mulheres também foi observado em comentários públicos (veja, por exemplo, o Comentário Público 10616 pelo Dr. Zahra Stardust).

Essa posição padrão sobre a nudez também tem um impacto severo em contextos nos quais as mulheres podem tradicionalmente ficar com seios descobertos. O Relator Especial sobre a promoção e a proteção do direito à liberdade de opinião e expressão instou que as empresas colaborem com grupos indígenas em todo o mundo para "desenvolver melhores indicadores a fim de considerar o contexto cultural e artístico ao avaliar conteúdo com nudez" (parágrafo 54, A/HRC/38/35).

Além dessas preocupações de não discriminação relacionadas à política, esses casos também levantaram preocupações de não discriminação relacionadas ao monitoramento. A Meta deve estar ciente de que o conteúdo de usuários que se identificam com grupos marginalizados está em maior risco de denúncias reiteradas ou maliciosas, em que os usuários denunciam conteúdo não violador para sobrecarregar ou assediar outros usuários. Essas questões também foram levantadas por vários comentários públicos (veja, por exemplo, o Comentário Público 10596 da GLAAD e o Comentário Público 10628 da The Human Rights Campaign Foundation).

Esses casos destacaram que várias denúncias que levam a inúmeras análises podem aumentar a probabilidade de remoções equivocadas. De fato, nesse caso, a maioria das denúncias de usuários resultou em análises humanas que determinaram que o conteúdo não violava a política, mas ele continuou a ser denunciado até que os analistas decidiram erroneamente que o conteúdo era infrator e o removeram.

A Meta deve procurar desenvolver e implementar políticas que amenizem essas preocupações, incluindo políticas mais uniformes no que diz respeito à nudez e que se apliquem sem discriminação com base no sexo ou identidade de gênero. Também podem conter determinações mais contextualizadas de qual conteúdo é sexual, desde que elas evitem a dependência de critérios discriminatórios.

O Comitê observa que a Meta tem uma política dedicada a abordar imagens íntimas não consensuais na sua Política de Exploração Sexual de Adultos. A empresa tem priorizado esse monitoramento (veja, por exemplo, Introdução da tecnologia de detecção automatizada para impedir que imagens não consensuais sejam publicadas repetidamente). Ao mudar sua abordagem para gerenciar a nudez na plataforma, a Meta deve examinar de perto o grau em que a política de conteúdo adulto de nudez e atividades sexuais protege contra o compartilhamento de imagens não consensuais e entender se mudanças nela ou na sua aplicação podem ser necessárias para aumentar a eficácia.

O Comitê também reconhece que a Meta tem um interesse legítimo em limitar o conteúdo sexual ou pornográfico na sua plataforma, mas acredita que os objetivos de negócios relevantes podem e devem ser atendidos com abordagens que tratem todos os usuários sem discriminação.

Alguns dos membros do Comitê acham que a Meta deve tentar reduzir o impacto discriminatório das suas políticas atuais, adotando uma política de nudez adulta que não se baseie em diferenças de sexo ou gênero. Eles ressaltaram as disposições da Convenção sobre a Eliminação de Todas as Formas de Discriminação Contra as Mulheres (CEDAW) sobre a supressão de estereótipos de gênero (veja, por exemplo, os artigos 5 e 10) e o compromisso explícito da Meta com a CEDAW na sua política corporativa de direitos humanos. Concluíram que, no contexto da política de nudez, esses padrões internacionais de direitos humanos e o próprio compromisso da Meta com a não discriminação apoiam a eliminação de distinções estereotipadas. Esse grupo de membros concluiu que adotar uma política não baseada em diferenças de sexo ou gênero seria a melhor maneira de a Meta defender suas responsabilidades quanto aos direitos humanos como empresa, segundo seus valores e compromissos corporativos. Esses membros observam que as normas e políticas devem evoluir para abordar convenções que têm impactos discriminatórios, já que muitas formas de discriminação foram ou continuam a ser convenções sociais generalizadas.

Houve alguma discordância entre os membros do Comitê sobre essas questões. Alguns membros concordaram em princípio que a Meta não deveria confiar no sexo ou no gênero para limitar a expressão, mas estavam profundamente céticos em relação à capacidade da Meta de abordar efetivamente imagens íntimas não consensuais e outros danos potenciais sem uma política de nudez consciente de sexo e gênero. Outros acreditam que, como os princípios de direitos humanos aplicáveis sobre não discriminação permitem distinções com base em características protegidas, desde que "baseadas em critérios razoáveis e almejem um objetivo legítimo segundo o Pacto" (Nepomnyashchiy v Russia, Comitê de Direitos Humanos, 2018, parágrafo 7.5 (CCPR/C/123/D/2318/2013), uma política de nudez neutra em relação a sexo e gênero não é necessária e pode causar ou exacerbar outros danos.

Os membros do Comitê que apoiam uma política de nudez adulta neutra em termos de sexo e gênero reconhecem que, de acordo com os padrões internacionais de direitos humanos aplicados aos Estados, as distinções com base em características protegidas podem ser feitas com base em critérios e objetivos razoáveis e quando servem a um propósito legítimo. Eles não acreditam que as distinções segundo a política de nudez da Meta atendam a esse padrão. Observam ainda que, como empresa, a Meta assumiu compromissos de direitos humanos que são inconsistentes com uma abordagem que restringe a expressão online com base na percepção da empresa sobre sexo e gênero.

O Padrão da Comunidade sobre conteúdo adulto de nudez e atividades sexuais afeta desproporcionalmente mulheres e usuários LGBTQIAP+ e se baseia em percepções subjetivas e especulativas de sexo e gênero que não são praticáveis ​​ao moderar conteúdo em grande escala. Visto de forma abrangente, devido à confusão em torno das regras e sua aplicação e ao impacto desproporcional e discriminatório da atual política de conteúdo adulto de nudez e atividades sexuais da Meta, o Comitê recomenda que a Meta defina critérios claros, objetivos e que respeitem os direitos para a política de nudez de adultos, garantindo um tratamento de todas as pessoas consistente com os padrões internacionais de direitos humanos, incluindo sem discriminação com base em sexo ou identidade de gênero. Primeiro, a Meta deve realizar uma avaliação abrangente do impacto dos direitos humanos, analisando as implicações da adoção de tais critérios, que inclui o envolvimento amplamente inclusivo das partes interessadas em diversos contextos ideológicos, geográficos e culturais. Essa avaliação deve identificar quaisquer danos potenciais, e a implementação da nova política deve incluir um plano de mitigação para abordá-los. O Comitê solicita um relatório sobre a avaliação e o plano de seis meses a contar da data de emissão da presente decisão.

9. Decisão do Comitê de Supervisão

O Comitê de Supervisão anula as decisões originais da Meta de remover ambas as publicações, pedindo que sejam restauradas.

10. Declaração de parecer consultivo

Política de conteúdo

1. A fim de tratar todos os usuários de forma justa e fornecer aos moderadores e ao público um padrão viável sobre nudez, a Meta deve definir na sua política de conteúdo adulto de nudez e atividades sexuais critérios claros, objetivos e que respeitem os direitos, garantindo um tratamento de todas as pessoas que seja consistente com os padrões internacionais de direitos humanos, inclusive sem discriminação com base em sexo ou identidade de gênero. Primeiro, a Meta deve realizar uma avaliação abrangente do impacto dos direitos humanos, analisando as implicações da adoção de tais critérios, que inclui o envolvimento amplamente inclusivo das partes interessadas em diversos contextos ideológicos, geográficos e culturais. Essa avaliação deve identificar quaisquer danos potenciais, e a implementação da nova política deve incluir um plano de mitigação para abordá-los.

2. A fim de fornecer maior clareza aos usuários, a Meta deve disponibilizar aos usuários mais explicações sobre o que constitui uma "oferta ou pedido" de sexo (incluindo links para sites de terceiros) e o que constitui poses sexualmente sugestivas nos Padrões da Comunidade públicos. O Comitê considerará esta recomendação implementada quando uma explicação desses termos com exemplos for adicionada ao Padrão da Comunidade sobre proposta de cunho sexual.

Monitoramento

3. A fim de garantir que os critérios internos da Meta para a política de proposta de cunho sexual não resultem na remoção de mais conteúdo do que a política voltada ao público indica e para que o conteúdo não sexual não seja removido por engano, ela deve revisar sua orientação interna para analistas de modo a garantir que os critérios reflitam as regras voltadas ao público e solicitar uma conexão mais clara entre "oferta ou pedido" e "elemento sexualmente sugestivo". O Comitê considerará essa questão implementada quando a Meta fornecer ao Comitê suas orientações internas atualizadas com os critérios revisados.

*Nota processual:

As decisões do Comitê de Supervisão são preparadas por grupos com cinco membros e aprovadas pela maioria do Comitê. As decisões do Comitê não representam, necessariamente, as opiniões pessoais de todos os membros.

Para a decisão sobre o caso em apreço, uma pesquisa independente foi contratada em nome do Comitê. Um instituto de pesquisa independente, com sede na Universidade de Gotemburgo e com uma equipe de mais de 50 cientistas sociais de seis continentes, bem como mais de 3.200 especialistas de nações do mundo todo, forneceu informações especializadas sobre contexto sociopolítico e cultural. A Duco Advisors, empresa de consultoria especializada na intercessão entre as áreas de geopolítica, de confiança e segurança e de tecnologia, também ajudou.