Lenguaje deshumanizante contra una mujer [decisión resumida]

Esta es una decisión resumida. Las decisiones resumidas examinan casos en los que Meta revirtió su decisión original sobre un contenido después de que el Consejo le remitiera el caso a la empresa. Estas decisiones incluyen información sobre los errores reconocidos de Meta. Un panel de miembros del Consejo las aprueba, pero no todo el Consejo. No tienen en cuenta los comentarios del público ni tienen un valor de precedente para el Consejo. Las decisiones resumidas aportan transparencia a las correcciones de Meta y destacan áreas de posible mejora en su aplicación de políticas.

Resumen del caso

Un usuario apeló la decisión de Meta de conservar una publicación en Facebook donde se atacaba a una mujer identificable y se la comparaba con un vehículo a motor (un "camión"). Después de que el Consejo le remitiera la apelación a Meta, la empresa revirtió su decisión original y eliminó la publicación.

Descripción y contexto del caso

En diciembre de 2022, un usuario de Facebook publicó una foto de una mujer que se podía identificar claramente. El texto que aparecía sobre la foto, en inglés, se refería a ella como un camión usado en venta. Luego describía a la mujer usando la metáfora de un "camión", que requería pintura para ocultar los daños, que emanaba olores inusuales y que raramente se lavaba. El usuario agregó que la mujer "advertised all over town" (se publicitaba en todo el pueblo). Otro usuario reportó el contenido al Consejo indicando que era misógino y ofensivo para la mujer. La publicación tuvo más de dos millones de visualizaciones y fue reportada a Meta más de 500 veces por usuarios de Facebook.

Antes de que Meta volviera a evaluar su decisión original, el usuario que había publicado el contenido editó la publicación original y superpuso un emoji de "vómito" sobre el rostro de la mujer. Actualizó el texto afirmando que había ocultado la identidad de la mujer porque le daba vergüenza "to say that I owned this pile of junk" (decir que fue el dueño de esta pila de basura). También agregó información incluyendo varios sitios web de citas en los cuales la mujer supuestamente tenía un perfil.

De acuerdo con la política sobre bullying y acoso de Meta, la empresa elimina contenido que se dirige a personas no públicas con "ataques por medio de descripciones físicas negativas" o "afirmaciones relacionadas con la actividad sexual".

Meta inicialmente conservó el contenido en Facebook. Cuando el Consejo le remitió este caso a Meta, la empresa revisó tanto la publicación original como la publicación actualizada. La empresa observó que ambas versiones del contenido incluían una descripción física negativa de una persona no pública al compararla con un camión, y ambas hacían deducciones sobre su actividad sexual afirmando que "advertised all over town" (se publicitaba en todo el pueblo), aunque la publicación editada era más explícita con las referencias a los sitios web de citas. Por lo tanto, Meta determinó que ambas versiones infringían su política sobre bullying y acoso, y que su decisión original de conservar el contenido fue incorrecta. La empresa eliminó el contenido de Facebook.

Autoridad y alcance del Consejo

El Consejo tiene la autoridad para revisar la decisión de Meta tras la apelación del usuario que reportó el contenido que posteriormente se conservó en la plataforma (artículo 2, sección 1, del acta constitutiva; artículo 3, sección 1, de los estatutos).

Cuando Meta reconoce que cometió un error y revierte su decisión en un caso en consideración para la revisión del Consejo, el Consejo puede seleccionar ese caso para una decisión resumida (artículo 2, sección 2.1.3, de los estatutos). El Consejo revisa la decisión original para entender mejor el proceso de moderación de contenido, para reducir los errores y para ser más justo con las personas que usan Facebook e Instagram.

Importancia del caso

El caso expone una preocupación en cuanto a cómo Meta falla al aplicar su política cuando una publicación contiene bullying y acoso, lo cual puede ser un importante elemento de disuasión para la libre expresión online de las mujeres y otros grupos marginalizados. Meta no eliminó el contenido que infringía dos elementos de la norma comunitaria sobre bullying y acoso, como un "ataque por medio de descripciones físicas negativas" y "afirmaciones relacionadas con la actividad sexual", pese a que la publicación tuvo millones de visualizaciones y cientos de reportes de usuarios de Facebook.

Previamente, el Consejo emitió una serie de recomendaciones para que Meta aclare varios puntos ambiguos de su política sobre bullying y acoso ("Manifestaciones en Rusia a favor de Navalny", recomendaciones n.° 1-4). Meta implementó la mitad de ellas, pero rechazó la otra mitad después de una evaluación de viabilidad. Al Consejo le preocupa que este caso pueda indicar un problema más amplio de subaplicación de la norma contra el bullying, lo que probablemente tiene impactos desproporcionados sobre las mujeres y los miembros de otros grupos vulnerables. El Consejo destaca la necesidad de que Meta aborde holísticamente las preocupaciones que el Consejo incluye en sus resoluciones de casos y que implemente las recomendaciones pertinentes para reducir la tasa de errores al moderar contenido con bullying que afecta a todos los usuarios, a la vez que equilibra los valores de la empresa de "seguridad", "dignidad" y "expresión".

Decisión

El Consejo anuló la decisión original de Meta de conservar el contenido. El Consejo reconoce la corrección de Meta de su error inicial después de que el Consejo le remitiera el caso a la empresa.

Volver a Decisiones de casos y opiniones consultivas sobre políticas