O Comitê de Supervisão abre comentários públicos sobre o parecer consultivo que trata da política de verificação cruzada
2 de Dezembro de 2021
Em outubro, o Comitê aceitou uma solicitação da Meta, na forma de um parecer consultivo, para analisar o sistema de verificação cruzada da empresa e apresentar recomendações sobre como alterá-lo. Logo depois, a Meta divulgou mais detalhes sobre essa solicitação. A partir de hoje, o Comitê está recebendo comentários públicos sobre esse parecer.
Além de analisar casos individuais para remover ou restaurar conteúdo, o Comitê pode aceitar solicitações de parecer consultivo sobre as políticas da Meta. Após recebermos opiniões de partes interessadas externas, nós apresentamos recomendações de mudanças que a Meta deveria fazer nas políticas sobre um tópico específico.
A empresa precisa enviar essas recomendações por meio do seu processo de desenvolvimento de políticas e dar informações periódicas sobre o assunto, inclusive por meio do Newsroom. Embora o parecer consultivo do Comitê não seja vinculante, a Meta precisa dar uma resposta pública e tomar providências após o recebimento das nossas recomendações.
Parecer consultivo 2021-02
Envie um comentário público aqui.
*No resumo a seguir, “Facebook” se refere à plataforma de rede social, e “Meta”, à empresa dona e administradora dessa plataforma.
Esta solicitação de parecer consultivo é sobre a política da Meta de verificação cruzada, um sistema que, segundo a empresa, ajuda a “garantir que as decisões de monitoramento sobre os Padrões da Comunidade do [Facebook] sejam tomadas com precisão e maior análise humana”.
A Meta disse ao Comitê que esse sistema desempenha um papel importante na proteção das vozes e dos direitos humanos, assim como no gerenciamento de relacionamentos com os parceiros comerciais. A empresa também afirmou que “remover incorretamente conteúdo publicado em uma Página ou em um perfil com muitos seguidores, por exemplo, pode gerar experiências negativas para os parceiros comerciais do Facebook e a grande quantidade de usuários que os seguem”.
A Meta explicou que os “principais sistemas de análise do Facebook usam tecnologia para priorizar conteúdos de alta gravidade, o que inclui os ‘virais’, que se espalham rapidamente”. Quando os sistemas sinalizam que um conteúdo precisa de encaminhamento, os analistas do Facebook decidem se ele deve permanecer na plataforma. A Meta também explicou que, embora “tenha como objetivo tomar as decisões certas, ela reconhece que falsos positivos [remoção incorreta de conteúdo não violador] ocorrem”. A verificação cruzada é um dos sistemas que a Meta usa para impedir erros de falso positivo no Facebook. Vale ressaltar que ele não é o único sistema desse tipo a que a empresa recorre.
A Meta declarou que, historicamente, a empresa determinava quem deveria passar pela análise de verificação cruzada compilando listas de usuários ou de entidades que corriam maior risco associado de sofrer medidas de falso positivo. “'Risco de falso positivo' se refere ao de aplicação incorreta contra conteúdo ou entidades que não violam” os Padrões da Comunidade do Facebook. A Meta aplicou diversos critérios, incluindo o tipo de usuário ou de entidade (como representante eleito, jornalista, parceiro comercial importante, organização de direitos humanos), o número de seguidores e o tema da entidade. Quando usuários ou entidades dessas listas publicavam conteúdo ou executavam ações que os sistemas do Facebook sinalizavam, a plataforma os adicionava a uma fila para que eles passassem pela análise de verificação cruzada.
No início de 2020, a Meta “fez alterações para que a maioria do conteúdo na fila recebesse prioridade usando uma estrutura de risco, que atribuía um nível de falso positivo que poderia ocorrer se o Facebook removesse incorretamente esse conteúdo. Essa estrutura de risco costumava depender de três fatores: (1) a sensibilidade da entidade, (2) a gravidade da suposta violação e (3) a gravidade da possível medida de aplicação. Com base nesses fatores, o conteúdo era atribuído a um de três níveis de análise: baixo (encaminhado para analistas contratados), médio (encaminhado para a nossa equipe de mercado, que tem conhecimento regional especializado) e alto (encaminhado para a nossa equipe de mercado e a equipe de resposta inicial que tem mais experiência com políticas e pode levar em conta mais contexto). Nesses níveis de análise, o conteúdo na fila recebia prioridade de acordo com a possível gravidade de violação de política”.
Os analistas examinavam o conteúdo, confirmavam se ele violava as políticas e as aplicavam em caso positivo. Essa análise, dependendo da complexidade do caso, poderia chegar até a liderança da empresa.
A Meta implementou outras mudanças no sistema de verificação cruzada em 2021 após conduzir uma análise holística do sistema e identificar oportunidades de aprimoramento. Entre essas mudanças, está a divisão da verificação cruzada em duas partes: a “Análise secundária geral” e a “Análise secundária de resposta inicial” (ER, na sigla em inglês).
A Análise secundária de ER é o sistema de verificação cruzada que descrevemos acima. Ele continuará usando listas de entidades (como usuários, páginas, grupos e assim por diante). No entanto, a Meta mudou o processo de compilação e de revisão de listas de verificação cruzada. A empresa especificou que, “antes de setembro de 2020, a maioria dos funcionários podia adicionar um usuário ou uma entidade à lista de verificação cruzada. Depois de setembro de 2020, embora qualquer funcionário possa solicitar a adição de um usuário ou de uma entidade às listas de verificação cruzada, apenas um grupo designado de funcionários tem autoridade para fazer adições à lista”. As listas relevantes à Análise secundária de ER tinham mais de 660 mil entidades em 16 de outubro de 2021. A Meta explicou que as listas não são estáticas e mudam conforme as entidades são adicionadas e removidas.
A Análise secundária geral representa a maioria das verificações cruzadas e continuará crescendo. Até o final de 2021, a Meta pretende disponibilizar o sistema para todos os usuários e as entidades do Instagram e do Facebook. Esse tipo de análise funcionará com um sistema de priorização dinâmico chamado “classificador de verificação cruzada”, que usa critérios como sensibilidade do tópico (o quanto o tópico é uma tendência ou sensível), gravidade da aplicação (a gravidade da possível medida de aplicação), probabilidade de falso positivo, alcance previsto e sensibilidade da entidade (com base, em grande parte, nas listas compiladas, descritas acima) para ordenar o conteúdo segundo o risco de falso positivo”. A Análise secundária geral representa a maioria das verificações cruzadas de conteúdo e de entidades.
Durante o desenvolvimento do classificador de verificação cruzada, a Meta entrevistou 14 partes interessadas internas nas equipes de operações, de políticas e de produtos para entender melhor os riscos da aplicação excessiva. A empresa “escolheu partes interessadas internas pela complexidade de explicar como o monitoramento funciona, mas [está] considerando o engajamento externo no futuro”.
A Meta reconhece que, apesar de investir uma quantidade considerável de recursos no aprimoramento da verificação cruzada, ainda tem dificuldades para encontrar um equilíbrio entre a remoção de conteúdo que viola as políticas do Facebook e “o incentivo à comunicação aberta e à liberdade de expressão”. A empresa fez três perguntas ao Comitê, as quais incluímos em um chamado para comentários públicos.
Perguntas ao Comitê:
- Devido às complexidades da moderação de conteúdo em escala, como a Meta deveria equilibrar o dever de aplicar de modo justo e objetivo os Padrões da Comunidade do Facebook com a necessidade de ser flexível, ver nuances e tomar decisões específicas ao contexto durante a verificação cruzada?
- Quais aprimoramentos a Meta deveria fazer no modo como gerencia o sistema de verificação cruzada da Análise secundária de ER para aplicar, de forma justa, os Padrões da Comunidade do Facebook enquanto minimiza a possibilidade de aplicação excessiva, continua flexível comercialmente e promove transparência no processo de análise?
- Quais critérios a Meta deveria usar para determinar quem deve ser incluído na Análise secundária de ER e receber prioridade como um dos diversos fatores do classificador de verificação cruzada da empresa com o objetivo de garantir a equidade no acesso a esse sistema e sua implementação?
Solicitações do Comitê por comentários públicos sobre as seguintes questões:
- Se um sistema de verificação cruzada é necessário e se fortalece ou prejudica a proteção da liberdade de expressão e de outros direitos humanos.
- Como a verificação cruzada foi feita para ser um mecanismo de prevenção de falso positivo, quais são os pesos e contrapesos que esse sistema deve contemplar para reduzir os riscos de falsos negativos [falta errônea por não tomar medidas contra conteúdo violador]?
- Recomendações sobre o que a Meta deveria fazer para que o sistema de verificação cruzada, incluindo o processo de encaminhamento, seja neutro e livre de vieses políticos e de outros tipos.
- Quais fatores a Meta deveria incorporar ao sistema do classificador de verificação cruzada, além da sensibilidade do tópico, da gravidade de aplicação, da probabilidade de falso positivo, do alcance previsto e da natureza e importância da entidade, e como eles deveriam ser definidos?
- Benefícios e limitações das tecnologias automatizadas usadas para priorizar a análise de conteúdo de alta gravidade.
- Informações sobre como o sistema de verificação cruzada deveria e pode ser aprimorado para usuários e entidades que não publicam em inglês.
- Informações sobre sistemas parecidos com a verificação cruzada usados em outras plataformas de rede social e lições aprendidas que podem ser aplicadas à Meta.
- Como a Meta pode melhorar a transparência do sistema de verificação cruzada.
- Quais outros recursos e pesquisas a Meta deveria dedicar ao aprimoramento do sistema de verificação cruzada?
Comentários públicos
Uma parte importante do nosso processo de elaboração de um parecer consultivo é a reunião de informações adicionais e especializadas de pessoas e de organizações. Com elas, os membros do Comitê podem acessar mais conhecimentos e entender como as políticas da Meta afetam pessoas diferentes em diversas partes do mundo.
Se você ou sua organização acha que pode contribuir com perspectivas valiosas para essa solicitação de parecer consultivo, envie sua contribuição por aqui.
O período para deixar comentários públicos sobre a solicitação de parecer consultivo terminará às 15h00 (GMT) do dia 14 de janeiro de 2022, sexta-feira.
Esse período é mais longo do que o destinado a novos casos, pois o processo de parecer consultivo não tem as mesmas restrições de tempo. Além disso, os comentários públicos podem ter até seis páginas e ser enviados em qualquer idioma disponível no site do Comitê. Isso deve possibilitar maior participação nas questões consideradas. A lista completa de idiomas está disponível no link acima.
Como o Comitê responde a uma solicitação de parecer consultivo?
1.O Comitê aceita uma solicitação de parecer consultivo sobre uma política da Meta
Quando a Meta envia uma solicitação de parecer consultivo ao Comitê, ela é atribuída a um dos quatro copresidentes do grupo. O copresidente relevante redige um memorando para todos os membros do Comitê no qual resume as principais questões levantadas. De acordo com esses dados, os membros do Comitê aceitam ou rejeitam a solicitação da Meta.
2.Uma comissão elabora opções de política
Se o Comitê aceita a solicitação, o copresidente forma uma comissão de, no mínimo, cinco membros que são convidados a participar conforme a especialização e o interesse deles. As vagas remanescentes são atribuídas aleatoriamente aos membros do Comitê que não são copresidentes, garantindo também a diversidade de gênero.
Após a nomeação de um redator principal, a comissão determina as informações adicionais que serão solicitadas à Meta, as pesquisas que a administração do Comitê de Supervisão conduzirá e os planos de engajamento das partes interessadas. Recebidas as respostas às perguntas da Meta, da administração e das partes interessadas externas, a comissão redige uma versão preliminar das opções de política para ela passar pelo crivo de todo o Comitê.
3. O Comitê delibera e apresenta recomendações
Todos os membros do Comitê participam das deliberações para discutir as opções de política. Com base nessas deliberações, o redator principal prepara um parecer consultivo que inclui recomendações detalhadas para a Meta. Os membros do Comitê avaliam esse parecer e propõem alterações.
4.O parecer consultivo é aprovado e publicado
O parecer consultivo é distribuído a todos os membros do Comitê, cuja maioria deve aprová-lo ou rejeitá-lo. Se aprovado, o parecer consultivo é publicado no site do Comitê, e a Meta deve enviar uma resposta. Caso o Comitê rejeite o parecer, os copresidentes discutem as razões por que isso aconteceu e determinam como proceder.
Próximo passo
O Comitê aceitou a solicitação de parecer consultivo e está coletando as informações necessárias, inclusive pelo chamado para comentários públicos aberto hoje.
Em junho, nós aceitamos outra solicitação de parecer consultivo sobre a política de compartilhamento de informações residenciais privadas, o qual será publicado no início do ano que vem.
