Posts Condemning Bus Harassment

RESUMO

Analisando dois casos envolvendo vídeos de assédio sexual em transportes públicos na Índia e no Brasil, o Comitê de Supervisão concluiu que a Meta deve ampliar as exceções previstas nas políticas e fornecer mais clareza aos analistas sobre conteúdos de conscientização. Essas ações são particularmente importantes devido às preocupações sobre monetização e às iscas de engajamento que usam supostos conteúdos de conscientização.

A Meta precisa reduzir a lacuna entre as políticas externas e as orientações internas sobre “fotos em poses sexuais”, imagens não consensuais de pessoas que não sabem que estão sendo fotografadas, para que os analistas possam moderar conteúdos de conscientização de forma eficaz.

O Comitê conclui que nenhum dos posts violou os Padrões da Comunidade da Meta, pois seu objetivo era conscientizar, e que a remoção do conteúdo foi inconsistente com o compromisso da empresa de respeitar os direitos humanos. Os posts deveriam ter recebido exceções.

O Comitê também conclui que, quando torna ambos os posts indisponíveis para recomendação a outros usuários, a Meta desconsidera a forma como as partes interessadas usam suas plataformas para promover causas sociais, inclusive para alcançar formuladores de políticas e legisladores, além de enfraquecer a fundamentação para as exceções de política relevantes.

Por que isso é importante

Uma pesquisa de 2012, realizada em 143 países, constatou que três em cada cinco mulheres no mundo sofrem assédio sexual no transporte público. Segundo a Organização Mundial da Saúde, a violência contra as mulheres continua sendo uma das “crises de direitos humanos mais negligenciadas” no mundo. Enquanto isso, as redes sociais são uma ferramenta poderosa para promover causas sociais e conscientizar sobre elas, especialmente no que diz respeito à violência de gênero, além de permitir que sobreviventes compartilhem suas experiências, o que é especialmente importante onde não é possível confiar nos sistemas formais de denúncia.

Esses dois casos retratam situações de assédio sexual no transporte público na Índia e no Brasil, onde casos anteriores de violência sexual desse tipo ganharam repercussão nacional. Por meio desses casos, o Comitê está avaliando as práticas de moderação da Meta quando os usuários pretendem conscientizar sobre assédio sexual e violência de gênero.

Sobre o caso

O primeiro caso envolve um vídeo de um minuto, postado na Página do Facebook de uma organização jornalística indiana em novembro de 2025, no qual uma mulher cuja identidade não pode ser determinada filma um homem sentado ao lado dela em um ônibus na Índia. O homem tenta apalpá-la, colocando a mão por baixo da blusa dela, e ela o confronta verbalmente. A legenda conscientiza sobre a segurança das mulheres.

Um usuário denunciou o conteúdo no dia em que ele foi postado. Os analistas humanos e os especialistas em políticas determinaram que o conteúdo violava o Padrão da Comunidade sobre Exploração Sexual de Adultos e o removeram.

O segundo caso envolve um vídeo de 18 segundos, do Brasil, postado no Instagram em dezembro de 2025. O vídeo, gravado por uma mulher cuja identidade não pode ser determinada enquanto ela estava sentada ao lado de um homem em um ônibus, mostra o homem segurando a própria genitália por cima da roupa enquanto olha para o celular dele. A sobreposição de texto do vídeo e a legenda informam a localização do incidente e reforçam a preocupação com a segurança das mulheres e com o assédio em transportes públicos.

Dois usuários denunciaram o conteúdo no dia em que ele foi postado. Após análise humana, o conteúdo foi removido de acordo com a Política sobre Exploração Sexual de Adultos, no âmbito de “fotos em poses sexuais”.

Os usuários que fizeram os posts não tiveram sucesso em suas apelações contra as respectivas decisões.

Após o Comitê selecionar esses casos, a Meta determinou que suas decisões iniciais estavam erradas e restaurou ambos os posts com limitação de idade e uma tela de aviso.

Principais descobertas

O Comitê conclui que nem o caso da Índia nem o do Brasil violam os Padrões da Comunidade da Meta, pois cada um se enquadra, respectivamente, nas exceções de política para conscientização e para contornos do corpo, que permitem conteúdos que exibam a silhueta ou o formato dos seios, das nádegas ou da genitália por meio de roupas ou outras coberturas, desde que nenhuma outra nudez esteja visível. Ambos deveriam ter permanecido na plataforma com as devidas restrições de idade e telas de aviso. Esses casos suscitam preocupações sobre a precisão da aplicação, em especial tendo em vista os múltiplos analistas humanos que avaliaram ambos os itens de conteúdo.

Tendo em vista pesquisas que consideram a masturbação em público uma forma de assédio sexual, o Comitê sugere que a Meta amplie sua definição de assédio sexual na exceção de conscientização da Política sobre Exploração Sexual de Adultos, para além do “toque não consensual”, de modo a incluir outras formas de assédio sexual.

O Comitê considera que a remoção de ambos os itens de conteúdo não foi coerente com as responsabilidades da Meta com os direitos humanos. Ambos os posts tinham finalidades de conscientização. Nenhum deles revelava a identidade das vítimas, e cada um apresentava sinais claros, nas respectivas legendas, de que tinha como finalidade conscientizar sobre assédio sexual e violência. As telas de aviso com limitação de idade eram restrições legítimas. As telas de aviso permitem que os usuários tenham discussões cruciais sobre violência e segurança, ao mesmo tempo que alertam outros usuários sobre os possíveis temas sensíveis da conversa. Uma restrição de idade protege menores de idade de material prejudicial.

Combinar as telas de aviso “Marcar como sensível” com a função “Não recomendável” constituía uma restrição legítima da liberdade de expressão. O Comitê demonstra preocupação de que, quando torna ambos os posts não recomendáveis, a Meta esteja ignorando o valor de suas plataformas para sobreviventes, defensores de causas sociais e públicos pretendidos, incluindo legisladores, o que, em última análise, prejudica o propósito da exceção de política de conscientização relevante.

O fundamento da Política sobre Nudez e Atividade Sexual de Adultos carece de critérios claros e operacionais para uma exceção de conscientização. Isso precisa ser codificado para usuários e moderadores. A Política sobre Exploração Sexual de Adultos também é insuficientemente clara. Ela permite a retratação de toques sexuais não consensuais em conteúdos de conscientização, desde que não haja “contexto sensacionalista”, mas não define o que constitui “contexto sensacionalista”.

O Comitê também está preocupado com a falta de conexão entre as políticas externas da Meta e a decisão de aplicação no caso do Brasil. O Comitê concorda com a conclusão da Meta de que o conteúdo não violou a Política sobre Exploração Sexual de Adultos referente a “fotos em poses sexuais”, porque não tinha a intenção de humilhar ou menosprezar o indivíduo filmado. Entretanto, as orientações internas estabelecem claramente que qualquer conteúdo que retrate masturbação em público e menospreze, sexualize ou identifique um indivíduo, inclusive conteúdos que tenham como objetivo condenar esse comportamento, viola a política sobre “fotos em poses sexuais”, o que significa que os analistas precisariam removê-lo. Ao mesmo tempo, o fundamento da política voltado para o público reconhece a importância de “os sobreviventes compartilharem suas experiências”. Esses fatores internos e externos não são consistentes e geram confusão para os analistas de conteúdo e os usuários.

A decisão do Comitê de Supervisão

O Comitê revoga a decisão da Meta de remover o conteúdo, que deveria ter sido mantido com as devidas restrições de limitação de idade e tela de aviso. Nenhum dos itens de conteúdo deveria ter sido marcado como não recomendável.

Ele recomenda que a empresa:

• Expanda seu texto sobre as exceções da Política sobre Exploração Sexual de Adultos de “conteúdo retratando toque sexual não consensual” para “conteúdo retratando toque sexual não consensual e/ou outras formas de violência sexual”.
• Inclua uma exceção de conscientização de acordo com a Política sobre Nudez e Atividade Sexual de Adultos, com as mesmas consequências que a exceção da Política sobre Exploração Sexual de Adultos, incluindo limitação de idade e telas de aviso.
• Alinhe as orientações internas e os textos externos acerca do trecho da política sobre “fotos em poses sexuais” no Padrão da Comunidade sobre Exploração Sexual de Adultos para esclarecer que nem todas as retratações de masturbação em público estão em violação.
• Desvincule a tela de aviso “Marcar como sensível” da medida de aplicação “Não recomendável”.

  *Os resumos de casos fornecem uma visão geral dos casos e não têm valor de precedente.

Decisão completa sobre o caso

1. Descrição do caso e histórico

Essa decisão destaca dois casos retratando ocorrências de assédio sexual em transportes públicos expostos com o intuito de conscientizar. De acordo com a ONU Mulheres, a principal entidade das Nações Unidas sobre igualdade de gênero, quase 90% das mulheres e meninas sofrem alguma forma de violência em transportes públicos. O Relatório de 2023 de Estimativas de Prevalência da Violência contra as Mulheres da Organização Mundial da Saúde conclui que a violência contra as mulheres permanece como uma das “crises de direitos humanos mais persistentes e ignoradas” no mundo, com pouco progresso tendo sido registrado desde 2000. O relatório afirma que quase 840 milhões de mulheres, uma em cada três, sofreram violência sexual ao longo da vida.

As redes sociais são regularmente utilizadas como uma plataforma para conscientizar sobre problemas sociais como a exploração ou a violência sexual. Um estudo do Banco Mundial constatou que a veiculação de conteúdos educativos nas redes sociais pode mudar as atitudes em relação à violência contra as mulheres. Além de serem uma ferramenta de promoção de causas sociais, as redes sociais costumam ser um recurso para que os sobreviventes documentem suas experiências. Pesquisas apontam que um histórico de assédio sexual era o indicador preditivo mais influente do engajamento com a campanha #MeToo nas redes sociais. Entretanto, os conteúdos de conscientização também evidenciam as lacunas na moderação de conteúdo, pois revelam a capacidade limitada das plataformas de distinguir entre conteúdos que perpetuam o dano e aqueles que o expõem ou condenam. Como declarado em decisões anteriores do Comitê, distinguir entre conteúdos em violação e conteúdos de conscientização requer políticas claras e aplicação ponderada (ver Vídeo de assédio sexual na Índia).

O primeiro caso envolve um vídeo de um minuto, postado em uma Página do Facebook em novembro de 2025, no qual uma mulher, cuja identidade não pode ser determinada na gravação, filma um homem sentado ao lado dela em um ônibus na Índia. O homem tenta apalpá-la, colocando a mão por baixo da blusa dela, e ela o confronta verbalmente. A legenda que acompanha o vídeo elogia a reação da vítima, expressa consternação pela falta de suporte exibida pelas pessoas próximas a ela e conscientiza sobre a problemática da segurança das mulheres. A Página do Facebook pertence a uma organização jornalística proeminente na Índia com mais de 1,1 milhão de seguidores. O conteúdo do caso foi visto mais de 60 vezes antes de a Meta tirá-lo do ar.

Um usuário denunciou o conteúdo no mesmo dia em que ele foi postado de acordo com a Política sobre Exploração Sexual de Adultos. Os analistas humanos determinaram que o conteúdo violava essa política. O conteúdo do caso foi então encaminhado para uma análise adicional e, posteriormente, para especialistas em políticas, que determinaram, todos, que ele violava a política. O post foi removido em dezembro de 2025. Como o conteúdo foi removido por “toque sexual não consensual”, o criador do conteúdo do caso recebeu uma advertência e uma limitação de recursos com base em tempo. O toque sexual não consensual é qualquer forma de atividade sexual ou toque sexual (conforme definido na Política sobre Nudez e Atividade Sexual de Adultos) que ocorre sem consenso. A falta de consenso é determinada pelo contexto. O criador do conteúdo fez uma apelação, e, após análise humana, a empresa manteve a decisão de que o conteúdo era violador.

O segundo caso envolve um vídeo de 18 segundos, do Brasil, postado no Instagram em dezembro de 2025. O vídeo, também gravado por uma mulher cuja identidade não pode ser determinada enquanto estava sentada ao lado de um homem em um ônibus, mostra o homem segurando a própria genitália por cima da roupa, com o perfil lateral visível, enquanto olha para o celular. A sobreposição de texto no vídeo e a legenda fornecem detalhes sobre o incidente, incluindo a rota do ônibus e a parada onde o indivíduo desembarcou, e expressam preocupação com a segurança das mulheres e com o problema do assédio no transporte público. O usuário que fez o post se identifica como jornalista, e sua bio incentiva os visualizadores a anunciar na página dele. O conteúdo tinha mais de 150 mil visualizações antes de ser removido.

Dois usuários denunciaram o conteúdo no mesmo dia em que ele foi postado, uma vez por prostituição, de acordo com a Política sobre Proposta de Cunho Sexual a Adultos e Linguagem Sexualmente Explícita, e outra por Nudez e Atividade Sexual de Adultos. Após análise humana, o post foi removido de acordo com a Política sobre Exploração Sexual de Adultos por envolver “fotos em poses sexuais”. Como consequência, uma advertência padrão foi aplicada ao perfil do criador do conteúdo. O criador do conteúdo fez uma apelação, e, após análise humana, a empresa manteve a decisão de que o conteúdo era violador.

Em cada caso, o criador de conteúdo fez uma apelação ao Comitê.

Após a seleção desses casos pelo Comitê, a Meta determinou que suas decisões iniciais estavam erradas e restaurou ambos os posts em suas plataformas, com limitação de idade e uma tela de aviso.

Ambos os casos relembram incidentes anteriores de crimes sexuais no transporte público que ganharam repercussão nacional em seus respectivos países. O Caso Nirbhaya, de 2012, na Índia, um crime sexual horrendo que ocorreu em um ônibus, chocou o país e levou à formulação de uma nova legislação para abordar a violência sexual. No Brasil, um caso de 2017 envolvendo masturbação pública em um ônibus gerou indignação nas redes sociais e motivou apelos por mais segurança para as mulheres em espaços públicos. Os tópicos retratados nos casos discutidos nesta decisão não são isolados e refletem um problema mais amplo relacionado à segurança das mulheres em espaços públicos na Índia, no Brasil e no mundo.

Apesar da nova legislação em vigor na Índia desde 2012, os crimes contra as mulheres continuam sendo frequentes. De acordo com o National Crime Records Bureau (Gabinete Nacional de Registros Criminais, em tradução livre) da Índia, 448.211 casos de crimes contra mulheres foram registrados em 2023 (um aumento de 0,7% em relação a 2022), o equivalente a 51 denúncias por hora. Esses crimes incluem estupro, perseguição e assédio sexual. Os especialistas consultados pelo Comitê explicaram que os baixos níveis de confiança na polícia e nos sistemas jurídicos podem resultar em um número reduzido de denúncias e em reparações inadequadas. Como observado pelo Relator Especial da ONU sobre Violência Sexual durante sua visita à Índia, “a violência sexual, incluindo o estupro e o assédio sexual, é uma prática disseminada em todo o país e perpetuada em espaços públicos e privados” (parágrafo 7). O Banco Mundial reportou em 2021 que 56% das mulheres que usaram transportes públicos em áreas metropolitanas na Índia relataram ter sofrido assédio sexual.

Relatórios oficiais mostram que a violência de gênero está em ascensão no Brasil, com um crescimento de mais de 6% nos casos de assédio sexual entre 2023 e 2024. Um relatório de 2025 afirmou que 37,5% das mulheres acima de 16 anos sofreram alguma forma de violência nos últimos 12 meses. Em 2019, uma pesquisa constatou que 97% das mulheres brasileiras acima de 18 anos que usaram transportes públicos ou por apps relataram ter sofrido algum tipo de assédio no trânsito. O país implementou mudanças nas políticas e na legislação para enfrentar esses problemas, incluindo a criminalização do assédio sexual em público em 2018.

As redes sociais se tornaram uma ferramenta potente para promover e conscientizar sobre causas sociais, especialmente no que diz respeito à violência de gênero. As alterações legislativas de 2018 no Brasil mencionadas anteriormente foram, pelo menos em parte, resultado de campanhas com hashtags realizadas online contra a violência sexual. Conforme a ONU Mulheres relata, os movimentos online como o #MeToo expõem “a exaustão e a raiva com relação ao assédio sexual no mundo todo, e a ânsia por uma mudança urgente”. As redes sociais também servem como uma ferramenta para as vítimas compartilharem suas histórias e experiências, o que é especialmente importante em situações nas quais não há confiança nos sistemas de denúncia formais.

A monetização e o engajamento podem incentivar os criadores a compartilhar conteúdos, inclusive violentos, online que despertam emoções. Pesquisas indicam que conteúdos que geram reações emocionais, incluindo choque, raiva ou preocupação, tendem a gerar mais engajamento e podem ser mais distribuídos nas plataformas. Conforme os especialistas explicaram ao Comitê, esses sistemas raramente são capazes de distinguir entre o engajamento gerado por preocupação, empatia ou interesse público e o gerado por curiosidade, indignação ou outras motivações. Portanto, conteúdos controversos, como representações de violência de gênero, podem potencialmente levar a um aumento no engajamento e no número de seguidores, o que pode gerar receita.

2. Envios de usuários

Em uma declaração ao Comitê, o usuário responsável pelo conteúdo no caso da Índia explicou que o propósito do post era servir ao interesse público, e não “glorificar a violência nem humilhar ninguém, mas... iniciar uma discussão urgente sobre a segurança das mulheres, o papel das testemunhas e a responsabilidade coletiva”. Ele também afirmou que “suprimir esse tipo de conteúdo é correr o risco de silenciar as próprias vozes que precisam ser ouvidas”.

De forma similar, o criador do conteúdo do caso do Brasil explicou ao Comitê que o objetivo do vídeo era de buscar “prevenção, conscientização e segurança, especialmente para mulheres que enfrentam esse tipo de situação diariamente”. O usuário afirma que a remoção do conteúdo silencia uma vítima, “impedindo que informações importantes cheguem à comunidade”.

3. Políticas de Conteúdo e envios da Meta

I. Políticas de Conteúdo da Meta

O Padrão da Comunidade sobre Exploração Sexual de Adultos reconhece as plataformas da Meta como “um lugar para discutir e chamar a atenção para a violência e a exploração sexual” e que isso é uma “parte importante para gerar uma compreensão mútua e uma comunidade”.

De acordo com essa política, a Meta remove imagens representando contato sexual não consensual (exceto em arte do mundo real representando pessoas não reais, com uma legenda condenatória ou neutra) A empresa também remove “descrições de contato sexual não consensual, exceto se compartilhadas por sobreviventes ou em seu apoio”.

As chamadas “fotos em poses sexuais” ou o “compartilhamento de imagens não comerciais tiradas secretamente com foco em partes do corpo comumente sexualizadas (como seios, virilha, nádegas ou coxas)” com a intenção de ridicularizar, sexualizar ou expor a identidade da pessoa retratada também são removidas.

Conforme previsto na exceção de política do Padrão da Comunidade sobre Exploração Sexual de Adultos, a Meta poderá incluir uma tela de conteúdo sensível para “narrativas e declarações que contenham uma descrição de toque sexual não consensual (escrita ou verbal) que inclua detalhes além de simplesmente nomear ou mencionar o ato, se [...] compartilhadas por terceiros em apoio à vítima, para condenar o ato ou para conscientização geral, conforme determinado pelo contexto/legenda”.

Além disso, a exceção de política afirma que a Meta pode restringir a visibilidade para pessoas maiores de 18 anos e incluir um rótulo de aviso em “certos conteúdos que retratam contato sexual não consensual, quando compartilhados com uma finalidade de conscientização, e não em um contexto sensacionalista ou de entretenimento, contanto que a vítima ou o sobrevivente não possa ser identificado e o conteúdo não envolva nudez”.

O fundamento da política para o Padrão da Comunidade sobre Nudez e Atividade Sexual de Adultos afirma que a política remove “fotos e vídeos reais de nudez e atividade sexual, imagens geradas por IA ou computador de nudez e atividade sexual, e imagens digitais, independentemente de parecem ‘fotorrealistas’”, apesar de abrir permissões cuidadosas para determinados “conteúdos de conscientização”. Ela também remove vídeos fotorrealistas/digitais focados em virilhas, seios femininos ou nádegas gravados sem a ciência da(s) pessoa(s) retratada(s) neles.

O Padrão da Comunidade sobre Nudez e Atividade Sexual de Adultos restringe a visibilidade, para pessoas com mais de 18 anos, de conteúdos que consistem em “imagens fotorrealistas/digitais e arte do mundo real de atividade ou estímulo sexual explícitos, implícitos ou de outra natureza, quando apenas as formas ou os contornos do corpo são visíveis”. A política também permite a aplicação de um rótulo a determinados conteúdos, incluindo “imagens fotorrealistas/digitais e arte do mundo real de genitália visível”, para que os usuários saibam que o conteúdo pode ser sensível.

II. Envios da Meta

A Meta disse ao Comitê que, quando o conteúdo do caso foi escalado para um analista interno com experiência regional, a empresa concluiu que os critérios contextuais para a exceção não foram cumpridos.

Após o Comitê selecionar o caso da Índia, a Meta reverteu sua decisão e restaurou o conteúdo, com visibilidade restrita e uma tela de aviso, porque todas as condições da exceção de política para Exploração Sexual de Adultos aplicável exclusivamente a escalation foram cumpridas: o conteúdo retratava toque sexual não consensual, sem contexto de entretenimento ou sensacionalista, e havia sido postado para conscientização, sem nudez e sem que a identidade da vítima pudesse ser determinada.

Quando restaurou o conteúdo do caso da Índia na plataforma, a Meta adicionou uma tela de aviso “Marcar como sensível”. Quando um conteúdo recebe essa tela de aviso, ele se torna automaticamente não recomendável.

No caso do Brasil, após a seleção pelo Comitê, a Meta reverteu sua decisão e restaurou o conteúdo com visibilidade restrita. Apesar de o conteúdo ter sido originalmente removido de acordo com a disposição sobre “fotos em poses sexuais” da Política sobre Exploração Sexual de Adultos, a Meta depois determinou que isso estava fora do escopo desse trecho da política porque não foi compartilhado com o intuito de desprezar, sexualizar ou identificar o indivíduo. Em vez disso, a Meta declarou que a aplicação mais adequada seria de acordo com a Política sobre Nudez e Atividade Sexual de Adultos. De acordo com a empresa, apesar de ter sido determinado que o vídeo exibe autoestimulação, o indivíduo está vestido, e apenas formatos e contornos do corpo são visíveis. Portanto, o conteúdo do vídeo não viola a Política sobre Nudez e Atividade Sexual de Adultos.

Segundo as orientações internas da Meta, o compartilhamento de imagens de alguém se masturbando em público para condenar o ato viola a Política sobre Exploração Sexual de Adultos se, além de condenar o ato, o conteúdo desprezar, sexualizar ou revelar a identidade da pessoa retratada na imagem, conforme estabelecido no trecho da política sobre “fotos em poses sexuais”.

Apesar de não ser aplicada em geral de acordo com o trecho sobre “contorno do corpo” da Política sobre Nudez e Atividade Sexual de Adultos, a Meta aplicou uma tela de aviso “Marcar como sensível” ao conteúdo no caso do Brasil em escalation devido ao seu teor mais sensível. A tela de aviso pode ser aplicada por meio de sistemas automatizados ou por analistas humanos. Aplicando essa tela, o conteúdo se tornou não recomendável.

O Comitê fez perguntas sobre, entre outras coisas, o Padrão da Comunidade sobre Exploração Sexual de Adultos, o Padrão da Comunidade sobre Nudez e Atividade Sexual de Adultos, e os mecanismos de aplicação como a limitação de idade e as telas de aviso. A Meta respondeu a todas as perguntas.

4. Comentários públicos

O Comitê não recebeu nenhum comentário público que cumpria os termos para envio.

5. Análise do Comitê de Supervisão

O Comitê selecionou esse caso para analisar as políticas e as medidas de aplicação da Meta relacionadas a conteúdos de conscientização sobre violência sexual e segurança das mulheres. Esse caso é classificado como uma prioridade estratégica de Gênero do Comitê.

Ele analisou a decisão da Meta nesse caso em relação às políticas de conteúdo, aos valores e às responsabilidades de direitos humanos da empresa. Também avaliou as implicações desse caso quanto à abordagem mais ampla da Meta em relação à governança de conteúdo.

5.1 Conformidade com as políticas de conteúdo da Meta

I. Regras sobre conteúdo

Caso da Índia

O Comitê conclui que o caso da Índia não viola o Padrão da Comunidade sobre Exploração Sexual de Adultos da Meta porque ele se enquadra diretamente na exceção da política para conteúdo de conscientização. Dessa forma, ele deveria ter permanecido na plataforma, com as devidas restrições de idade e uma tela de aviso. Nesse caso, todas as três condições para conteúdo de conscientização retratando toque sexual não consensual foram cumpridas: (1) ele foi compartilhado para conscientizar sem contexto de entretenimento ou sensacionalista; (2) a vítima não é identificável; e (3) o conteúdo não envolve nudez. Isso se alinha com a exceção da Política sobre Exploração Sexual de Adultos.

Caso do Brasil

O Comitê conclui que o caso do Brasil não viola o Padrão da Comunidade sobre Nudez e Atividade Sexual de Adultos da Meta porque ele se enquadra diretamente na exceção para contornos do corpo. O Comitê concorda com a conclusão da Meta de que esse caso teria uma melhor aplicação conforme essa exceção. Visto que o indivíduo está completamente vestido, o conteúdo retrata a estimulação apenas onde os contornos do corpo estão visíveis. Dessa forma, ele deveria ter permanecido na plataforma, mas deveria ter recebido as restrições de idade apropriadas. Devido à natureza sensível e sexualizada do conteúdo, ele também deveria ter recebido uma tela de aviso para informar adequadamente os usuários sobre o tipo de conteúdo.

Esse conteúdo não pode ser categorizado conforme a exceção do trecho sobre “fotos em poses sexuais” da Política sobre Exploração Sexual de Adultos, visto que não foi compartilhado com a intenção de desprezar, sexualizar ou revelar a identidade do indivíduo. Não há tentativas de exibir as características faciais para identificar um dos indivíduos ou compartilhar dados pessoais indiretos. Ele também não se enquadra em exceção de política para conscientização, porque não retrata toque sexual não consensual. Como se trata de conteúdo retratando masturbação em público, o Comitê observa que, caso ele tivesse revelado a identidade do indivíduo, mesmo que condenando o ato, ele teria sido removido de acordo com as orientações internas da Política sobre Exploração Sexual de Adultos. Contudo, essa medida de aplicação interna não é clara na linguagem pública da política.

Embora esse caso em particular tenha uma aplicação mais adequada segundo o Padrão da Comunidade sobre Nudez e Atividade Sexual de Adultos, o Comitê está preocupado com o fato de a exceção da Política sobre Exploração Sexual de Adultos ser muito limitada para abordar adequadamente conteúdos que retratam todas as formas de violência sexual. Como descrito no fundamento da política, os serviços da Meta desempenham um papel importante como um “espaço para discutir e chamar a atenção para a violência sexual”. A masturbação em público é consideradauma forma de assédio sexual por alguns, que ressaltam a “natureza indesejada do encontro implica sexualização, intimidação e desconforto”, o que é uma evidência de assédio sexual. A ONU Mulheres define violência sexual como “qualquer tipo de comportamento sexual prejudicial ou indesejado que é imposto sobre alguém”. O Comitê incentiva a Meta a expandir a exceção de conscientização da Política sobre Exploração Sexual de Adultos para além de “toque não consensual” para incluir outras formas de violência e assédio sexuais. Qualquer possível exceção de política para conteúdos de conscientização deveria ser desenvolvida adequadamente para contemplar conteúdos que condenem a masturbação em público.

O Comitê também reconhece que a retratação de violência sexual online impacta os indivíduos de formas diferentes globalmente devido a diferentes contextos e nuances culturais. As normas do compartilhamento público sobre esses tópicos varia muito, e é possível que haja diferenças razoáveis de opinião. Conteúdo de conscientização costuma ser naturalmente transgressivo por, em geral, estar em conflito com as normas locais. Portanto, o Comitê recomenda priorizar a liberdade de expressão. Os esforços da Meta para considerar o contexto em cada um desses casos, conforme demonstrado pelo uso de conhecimento regional na análise humana, deveriam ser mantidos em casos semelhantes que retratem violência sexual, inclusive quando o conteúdo for compartilhado para condenar esse comportamento. Entretanto, como os resultados das análises nesses casos demonstram, os analistas humanos precisam de uma orientação melhor para avaliar adequadamente tanto os trechos da política quanto contextos específicos em que elas podem ser aplicadas.

II. Medida de aplicação

Esses casos suscitam preocupações acerca da precisão da aplicação dos Padrões da Comunidade sobre Exploração Sexual de Adultos e Nudez de Adultos e Atividade Sexual, especialmente considerando que diversos analistas avaliaram ambos os itens de conteúdo.

Com relação ao caso da Índia, o Comitê demonstra preocupação com o fato de diferentes analistas humanos terem analisado o post em diversos momentos e terem todos falhado em analisá-lo adequadamente como permitido segundo a exceção de política para conscientização. Devido à natureza sensível desse conteúdo e o fato de a exceção de política só ser aplicada em escalation, os analistas humanos precisam ser capazes de avaliar adequadamente o contexto e reconhecer quando o conteúdo se enquadra na exceção. Esse caso foi analisado por analistas humanos três vezes. O que é particularmente preocupante para o Comitê é que, apesar de isso ter resultado em uma escalation adicional para especialistas em políticas, eles ainda avaliaram o conteúdo como violador e não o receberam como uma exceção de política.

5.2 Conformidade com as responsabilidades da Meta relativas aos direitos humanos

O Comitê considera que remover ambos os itens de conteúdo da plataforma não foi coerente com as responsabilidades da Meta relativas aos direitos humanos. O uso das telas de aviso e das restrições de idade foram restrições legítimas para ambos os itens de conteúdo. Todavia, a categorização como não recomendável decorrente das telas de aviso não constituiu uma restrição legítima.

Liberdade de expressão (Artigo 19 do PIDCP)

O Artigo 19 do Pacto Internacional sobre Direitos Civis e Políticos (PIDCP) prevê ampla proteção da liberdade de expressão, incluindo expressões que possam ser consideradas “profundamente ofensivas” (Observação Geral 34, parágrafo 11).

Quando um Estado aplica restrições à expressão, elas devem atender aos requisitos de legalidade, objetivo legítimo e necessidade e proporcionalidade (Artigo 19, parágrafo 3 do PIDCP). Esses requisitos costumam ser chamados de “teste tripartite”. O Comitê usa essa estrutura para interpretar as responsabilidades de direitos humanos da Meta de acordo com os Princípios Orientadores da ONU sobre Empresas e Direitos Humanos, com os quais a própria Meta se comprometeu em sua Política Corporativa sobre Direitos Humanos. O Comitê faz isso em relação tanto à decisão de conteúdo individual sob análise quanto ao que isso diz sobre a abordagem mais ampla da empresa em relação à governança de conteúdo. Como afirmou o Relator Especial da ONU sobre liberdade de expressão, embora “as empresas não tenham obrigações governamentais, o impacto delas exige que avaliem o mesmo tipo de questões sobre a proteção do direito de seus usuários à liberdade de expressão” (A/74/486, parágrafo 41).

I. Legalidade (clareza e acessibilidade das regras)

O princípio da legalidade exige que as regras que limitam a expressão sejam acessíveis e claras, formuladas com precisão suficiente para permitir que um indivíduo regule sua conduta de acordo com elas (Comentário Geral n.º 34, parágrafo 25). Além disso, essas regras “não podem conceder liberdade de ação irrestrita para a restrição da liberdade de expressão aos encarregados de [sua] execução” e devem “fornecer instrução suficiente aos encarregados de sua execução para permitir-lhes determinar quais tipos de expressão são adequadamente restritas e quais tipos não são” (ibid.). O Relator Especial da ONU sobre a liberdade de expressão declarou que, quando aplicadas à governança do discurso online por parte de intervenientes privados, as regras devem ser claras e específicas (A/HRC/38/35, parágrafo 46). As pessoas que usam as plataformas da Meta devem ser capazes de acessar e entender as regras, e os analistas de conteúdo devem ter orientações claras sobre sua aplicação.

Embora o Comitê receba positivamente a implementação, pela Meta, da exceção de política para conteúdos de conscientização no Padrão da Comunidade sobre Exploração Sexual de Adultos, resultado das recomendações da decisão sobre o Vídeo de assédio sexual na Índia, ele está preocupado com o fato de o Padrão da Comunidade sobre Nudez e Atividade Sexual de Adultos não fornecer um nível semelhante de clareza aos usuários. Por sua vez, o fundamento da política só faz uma referência breve a respeito da conscientização, sem definir critérios e detalhes claros e operacionais sobre o que é permitido na plataforma. Esse fundamento precisa ser codificado nas regras operáveis da política a fim de evitar confusão para os usuários e moderadores de conteúdo. Na suas respostas ao Comitê, a Meta justifica a falta de exceções independentes para conscientização na Política sobre Nudez e Atividade Sexual de Adultos declarando que o conteúdo pode ser analisado em escalation por especialistas em políticas, que podem decidir atribuir a ele uma exceção com uma permissão para conteúdo de valor jornalístico.O Comitê não acredita que isso seja suficiente, porque essa permissão pode ser, como declara a Meta, limitada por natureza. A Meta deve fornecer mais detalhes aos usuários e às pessoas responsáveis pela aplicação das regras sobre quais conteúdos se enquadram como conteúdos de conscientização de acordo com a Política sobre Nudez e Atividade Sexual de Adultos.

A exceção para conscientização segundo a Política sobre Exploração Sexual de Adultos permite especificamente conteúdo retratando toque sexual não consensual quando “compartilhada para conscientizar (sem contexto de entretenimento ou sensacionalista)”, Contudo, “contexto sensacionalista” não é definido de nenhuma forma neste caso específico, seja nas orientações internas ou nos textos voltados ao público, o que deixa o termo sujeito a diferentes interpretações e, em última instância, pode levar à remoção indevida do conteúdo. A falta de clareza também pode levar a falhas no monitoramento de conteúdo que explora a exceção de conscientização para fins de engajamento. Dadas as preocupações a respeito da monetização de conteúdo que incita reações emocionais, o Comitê pede à Meta para explicar com mais clareza aos analistas o que é “conteúdo sensacionalista” no contexto de toque sexual não consensual, a fim de garantir uma análise mais precisa do conteúdo.

O Comitê observa, com preocupação, a falta de coesão entre as políticas externas da Meta e as orientações internas de aplicação relevantes ao caso do Brasil. A Meta afirma que o conteúdo foi considerado não violador segundo o trecho sobre “fotos em poses sexuais” da Política sobre Exploração Sexual de Adultos, porque ele não pretendia humilhar, desprezar ou identificar o indivíduo retratado. O Comitê concorda com essa conclusão. Entretanto, visto que as orientações internas afirmam claramente que qualquer conteúdo que retrate masturbação em público e que ridicularize, sexualize ou identifique uma pessoa, incluindo conteúdos que tenham como objetivo condenar esse comportamento, viola a disposição da política sobre “fotos em poses sexuais”, o único resultado possível para esse conteúdo teria sido sua remoção segundo a Política sobre Exploração Sexual de Adultos. A falta de flexibilidade nas políticas voltadas ao público interno gera confusão para os analistas de conteúdo, pois contraria o fundamento da política voltado ao público externo, que reconhece a importância da plataforma para as vítimas e outras pessoas que chamam a atenção para a violência e a exploração sexual.

Além disso, a falta de alinhamento entre as políticas externas e as orientações internas revela outro risco. O Padrão da Comunidade sobre Exploração Sexual de Adultos afirma, explicitamente, que a empresa permite que “as vítimas compartilhem suas experiências”, servindo, ao menos em parte, como justificativa para a exceção de política para conscientização. Portanto, os usuários que postarem conteúdo que seria categorizado segundo a política sobre “fotos em poses sexuais”, assumindo que ele se enquadraria na exceção de conscientização, poderão se deparar com consequências inesperadas, como uma advertência padrão ou severa, por não terem ciência das orientações internas. Essas advertências vêm com consequências adicionais, como limites de recursos, o que reduz ainda mais a presença do usuário na plataforma. A possibilidade de os usuários receberem advertências desproporcionais devido às orientações pouco claras da Meta sobre as políticas reforça a necessidade de uma exceção de política para conteúdos de conscientização que seja mais abrangente e clara.

O Comitê também observa que uma tela de aviso foi, por fim, aplicada ao conteúdo do caso do Brasil, mesmo que fazer isso estivesse fora do escopo para o Padrão da Comunidade sobre Nudez e Atividade Sexual de Adultos. A restauração do conteúdo do caso do Brasil segundo a Política sobre Nudez e Atividade Sexual de Adultos exigiu essa aplicação específica da tela de aviso, apesar de a própria empresa ter afirmado que estava “fora das disposições da política”. O Comitê compreende que essa decisão estava de acordo com as restrições a conteúdo de conscientização segundo o Padrão da Comunidade sobre Exploração Sexual de Adultos. Todavia, visto que a Meta escolheu corretamente considerar o Padrão da Comunidade sobre Nudez e Atividade Sexual de Adultos como aplicável a esse conteúdo, quaisquer consequências deveriam estar previstas nessa política. Embora a aplicação de uma tela de aviso possa ser uma resposta adequada da política ao conteúdo, isso deveria estar especificado na própria política, de forma semelhante ao que ocorre na Política sobre Exploração Sexual de Adultos.

II. Objetivo legítimo

Qualquer restrição à liberdade de expressão também deve buscar um ou mais dos objetivos legítimos listados no PIDCP, o que inclui a proteção dos direitos de terceiros (Artigo 19, parágrafo 3 do PIDCP).

Tanto a Política sobre Exploração Sexual de Adultos quanto a Política sobre Nudez e Atividade Sexual de Adultos procuram evitar o abuso, a revitimização, a estigmatização social, a prática de doxing e outras formas de assédio. Conforme enfatizado na decisão do caso Assédio sexual na Índia, elas servem para a proteção do direito à vida (Artigo 6, PIDCP), o direito à privacidade (Artigo 17, PIDCP) e o direito à saúde física e mental (Artigo 12, PIDESC). A Política sobre Exploração Sexual de Adultos também visa a prevenir a discriminação e a violência de gênero, segundo o parágrafo 1 do Artigo 2, PIDCP e o Artigo 1, Convenção sobre a Eliminação de Todas as Formas de Discriminação contra as Mulheres (CEDAW, na sigla em inglês). Aspectos dessas políticas também visam proteger a criança de informações e materiais prejudiciais a ela ou ao seu bem-estar (Artigo 17, CRC). Esses objetivos estão amplamente alinhados com a proteção dos direitos das outras pessoas, o que é uma meta legítima.

III. Necessidade e proporcionalidade

Nos termos do Artigo 19(3) do PIDCP, a necessidade e a proporcionalidade exigem que as restrições à expressão “devem ser adequadas para atingir sua função de proteção; devem ser o instrumento menos intrusivo entre aqueles que podem atingir sua função de proteção; devem ser proporcionais ao interesse a ser protegido” (Comentário Geral n.º 34, parágrafo 34).

Avaliando a necessidade e a proporcionalidade de possíveis medidas, o Comitê considerou o seguinte: (a) as referências à intenção de conscientizar em ambos os posts, nas legendas e/ou na sobreposição de texto; (b) a possível vulnerabilidade das vítimas nos vídeos; (c) a vulnerabilidade dos usuários, especificamente sobreviventes de violência sexual e/ou crianças, que possam se deparar com esse material durante o uso da plataforma.

Nesses casos, o Comitê conclui que a remoção não seria necessária nem proporcional em nenhum dos dois casos, pois ambos têm finalidade de conscientização. Nenhum deles revelava a identidade das vítimas, e ambos continham sinais claros, nas respectivas legendas, de que tinham como objetivo conscientizar sobre assédio sexual e violência.

O Comitê considera que, em ambos os casos, a aplicação de uma tela de aviso constituía uma restrição necessária e proporcional à liberdade de expressão. Como o Comitê afirmou em suas decisões anteriores, uma tela de aviso “não gera culpa naqueles que desejam visualizar o conteúdo, ao mesmo tempo que informa os outros sobre a natureza do conteúdo e permite decidirem visualizá-lo ou não” (ver Vídeo explícito do Sudão). As telas de aviso permitem que os usuários tenham discussões cruciais sobre a violência de gênero e a segurança das mulheres enquanto, simultaneamente, alertam outros usuários sobre os possíveis temas sensíveis da conversa.

Todavia, o Comitê constata que combinar automaticamente a tela de aviso “Marcar como sensível” com a função “Não recomendável” é uma restrição adicional desnecessária à liberdade de expressão nesse caso. As redes sociais desempenham um papel significativo na educação sobre temas sociais e na defesa deles, incluindo aqueles relacionados a alterações na legislação. O Comitê demonstra preocupação com o fato de que, quando torna esse conteúdo não recomendável, a Meta esteja ignorando o valor da plataforma para sobreviventes e defensores de causas sociais, o que, em última análise, prejudica o propósito da exceção de política para conteúdos de conscientização relevante. Anteriormente, o Comitê considerou que a exclusão da recomendação do conteúdo de conscientização posicionada atrás de uma tela de advertência não constituía uma restrição necessária ou proporcional à liberdade de expressão (Hospital Al-Shifa;Reféns sequestrados de Israel;Candidato a prefeito assassinado no México). Conforme ainda disposto na decisão do caso Distúrbios alimentares, os sistemas da Meta não devem impedir que esse tipo de conteúdo alcance os públicos pretendidos, em especial quando ele é visível apenas para usuários adultos.

O Comitê concorda com a decisão da Meta de aplicar uma restrição de idade a esses itens de conteúdo com o objetivo de proteger menores contra material prejudicial, permitindo, ao mesmo tempo, que conteúdos de conscientização permaneçam na plataforma. Conforme delineado anteriormente na decisão do caso de Assédio sexual na Índia, o Comitê reconhece a importância de proteger as crianças de verem conteúdo inadequado à idade e potencialmente prejudicial na plataforma. De acordo com o Comentário geral n.º 25, sobre os direitos da criança no ambiente digital: “as partes devem tomar todas as medidas apropriadas para proteger as crianças de riscos ao direito à vida, à sobrevivência e ao desenvolvimento. Os riscos relativos ao conteúdo [...] abrangem, entre outros, conteúdo violento e sexual… (parágrafo 14).

Em ambos os casos, o Comitê considera que a remoção do conteúdo não seria necessária e proporcional, mas a aplicação de uma tela de aviso e uma restrição de idade satisfaz esse teste.

6. A decisão do Comitê de Supervisão

O Comitê anula a decisão da Meta de remover o conteúdo. Ambos os itens de conteúdo deveriam ter permanecido, com as restrições de idade e as telas de aviso apropriadas. Entretanto, nenhum dos itens de conteúdo deveria ter sido marcado como não recomendável.

7. Recomendações

A. Política de Conteúdo

1. Para garantir que o conteúdo com intuito de conscientizar seja adequadamente monitorado segundo a Política sobre Exploração Sexual de Adultos, a Meta deverá expandir o texto da exceção da política de “conteúdo retratando toque sexual não consensual” para “conteúdo retratando toque sexual não consensual e/ou outras formas de violência sexual”.

O Comitê vai considerar essa recomendação implementada quando a Meta atualizar seu Padrão da Comunidade sobre Exploração Sexual de Adultos para refletir essa definição mais ampla de casos de assédio sexual compartilhados com o intuito de conscientizar.

2. Para assegurar que o conteúdo com intuito de conscientizar seja monitorado adequadamente segundo a Política sobre Nudez e Atividade Sexual de Adultos, a Meta deverá desenvolver uma exceção de política para conscientização, em especial para conteúdo retratando masturbação em locais públicos. Essa exceção deveria ter tido as mesmas consequências que a da Política sobre Exploração Sexual de Adultos, que inclui limitação de idade e telas de aviso.

O Comitê considerará essa recomendação implementada quando os Padrões da Comunidade sobre Nudez e Atividade Sexual de Adultos forem atualizados publicamente para refletir essa nova exceção.

Aplicação

3. Para assegurar a proteção de conteúdos de conscientização, a Meta deverá alinhar suas orientações internas e os textos externos referentes à disposição da política sobre “fotos em poses sexuais” no Padrão da Comunidade sobre Exploração Sexual de Adultos para esclarecer que nem todas as retratações de masturbação em público estão em violação.

O Comitê considerará essa recomendação implementada quando a Meta compartilhar o texto atualizado para as orientações internas do Padrão da Comunidade sobre Exploração Sexual de Adultos em relação a “fotos em poses sexuais”.

4. Para permitir que os usuários compartilhem amplamente conteúdo de conscientização e, ao mesmo tempo, ainda permitir que eles tomem decisões informadas sobre o conteúdo com o qual interagem de acordo com os Padrões da Comunidade sobre Exploração Sexual de Adultos e sobre Nudez e Atividade Sexual de Adultos, a Meta deverá desvincular a tela de aviso “Marcar como sensível” da medida de aplicação “Não recomendável”.

O Comitê considerará essa recomendação implementada quando a Meta compartilhar com o Comitê as práticas de aplicação atualizadas para a tela de aviso “Marcar como sensível” quando aplicada a conteúdo de conscientização.

*Nota processual:

• As decisões do Comitê de Supervisão são tomadas por painéis de cinco membros e aprovadas por maioria de votos do Comitê inteiro. As decisões dele não representam, necessariamente, as opiniões de todos os membros.
• De acordo com seu Estatuto, o Comitê de Supervisão pode analisar apelações de usuários cujo conteúdo foi removido pela Meta, apelações de usuários que denunciaram conteúdo que a Meta manteve ativo e decisões que a Meta encaminha a ele (Seção 1 do Artigo 2 do Estatuto). O Comitê tem autoridade vinculativa para manter ou anular as decisões de conteúdo da Meta (Seção 5 do Artigo 3 e Artigo 4 do Estatuto). Ele pode emitir recomendações não vinculativas às quais a Meta é obrigada a responder (Seção 4 do Artigo 3 e Artigo 4 do Estatuto). Quando a Meta se compromete a agir de acordo com as recomendações, o Comitê monitora sua implementação.
• Para a decisão sobre o caso em questão, uma pesquisa independente foi encomendada em nome do Comitê. O Comitê recebeu assistência da Duco Advisors, uma empresa de consultoria especializada na intercessão entre as áreas de geopolítica, confiança e segurança, e tecnologia.

Voltar para Decisões de Casos e Pareceres Consultivos sobre Políticas