El Consejo asesor de contenido anuló la decisión inicial de Facebook: Caso 2020-004-IG-UA
28 de enero de 2021
El Consejo asesor de contenido anuló la decisión de Facebook de eliminar una publicación en Instagram. Después de que el Consejo seleccionó este caso, Facebook restauró el contenido. Inicialmente, los sistemas automatizados de Facebook eliminaron la publicación por infringir la norma comunitaria de la empresa sobre desnudos y actividad sexual de adultos. El Consejo determinó que la publicación estaba permitida bajo una excepción a la política para "generar conciencia sobre el cáncer de mama" y que, en este caso, la moderación automatizada de Facebook plantea inquietudes importantes sobre los derechos humanos.
Información sobre el caso
En octubre de 2020, un usuario de Brasil publicó una foto en Instagram con un título en portugués en el que indicaba que su intención era generar conciencia sobre los síntomas del cáncer de mama. La imagen era de color rosa, en consonancia con "Octubre Rosa", una campaña internacional para concientizar sobre esta enfermedad. En la imagen, aparecían ocho fotografías de dichos síntomas, debajo de las cuales se mostraban las descripciones correspondientes. En cinco de ellas, se mostraban pezones femeninos visibles y descubiertos, mientras que en las otras tres, se mostraban senos de mujeres con los pezones fuera de cuadro o cubiertos por una mano. El sistema automatizado eliminó la publicación, como medida en conformidad con la norma comunitaria de Facebook sobre desnudos y actividad sexual de adultos. Después de que el Consejo seleccionara el caso, Facebook determinó que se trataba de un error y restauró la publicación.
Principales conclusiones
En su respuesta, Facebook indicó que el Consejo no debería aceptar atender este caso. La empresa argumentó que, al haber restaurado la publicación, ya no existía un desacuerdo entre el usuario y Facebook acerca de si el contenido debía permanecer publicado, por lo que el caso era irrelevante.
El Consejo rechazó el argumento de Facebook. La falta de acuerdo se aplica solo al momento en que el usuario agota el proceso de apelación interno de Facebook. Como el usuario y Facebook no estaban de acuerdo en ese momento, el Consejo puede atender el caso.
La decisión de Facebook de restaurar el contenido tampoco hace que este caso sea irrelevante, como afirma la empresa. Además de tomar decisiones vinculantes sobre restaurar o no contenido, el Consejo también ofrece a los usuarios una explicación completa de por qué se eliminó su publicación.
El hecho de que esta publicación se haya eliminado por error muestra una falta de supervisión humana adecuada, lo cual plantea inquietudes sobre los derechos humanos. La detección y eliminación de esta publicación fue completamente automatizada. Los sistemas automatizados de Facebook no reconocieron las palabras "cáncer de mama", que aparecían en la imagen en portugués, y la publicación se eliminó por error. Como las reglas de Facebook tratan los pezones masculinos y femeninos de manera diferente, usar automatización inadecuada para tomar medidas en conformidad con dichas reglas afecta desproporcionadamente a la libertad de expresión de las mujeres. El cumplimiento que depende únicamente de la automatización sin supervisión humana adecuada también interfiere con la libertad de expresión.
En este caso, se le informó al usuario que la publicación infringía las Normas comunitarias de Instagram, lo cual implica que no está permitido compartir fotos de pezones femeninos descubiertos para generar conciencia sobre el cáncer de mama. Sin embargo, la norma comunitaria de Facebook sobre desnudos y actividad sexual de adultos, permite expresamente los desnudos cuando el usuario pretende "generar conciencia sobre una causa o por razones médicas o educativas" y permite específicamente pezones femeninos descubiertos para promover la "generación de conciencia sobre el cáncer de mama". Como las Normas comunitarias de Facebook se aplican en Instagram, la publicación del usuario se clasifica bajo la excepción anterior. Por lo tanto, la eliminación del contenido por parte de Facebook no concordaba con sus Normas comunitarias.
Decisión del Consejo asesor de contenido
El Consejo asesor de contenido anuló la decisión inicial de Facebook de eliminar el contenido y solicitó que la publicación se restaurara. El Consejo notó que Facebook ya había tomado medidas al respecto.
El Consejo recomendó que Facebook:
- Le informe a los usuarios cuándo se toman medidas basadas en la automatización para moderar el contenido, garantice que, en ciertos casos, los usuarios puedan apelar las decisiones que fueron tomadas con base en la automatización ante una persona y mejore la detección automatizada de imágenes con texto superpuesto para que las publicaciones que pretenden generar conciencia sobre los síntomas del cáncer de mama no se marquen para revisión por error. Facebook también debería informar sobre el uso de automatización para el cumplimiento de normas para mejorar su transparencia.
- Revise las Normas comunitarias de Instagram para especificar que los pezones femeninos se pueden mostrar para generar conciencia sobre el cáncer de mama y aclarar que cuando haya inconsistencias entre las Normas comunitarias de Instagram y las Normas comunitarias de Facebook, las últimas tienen prioridad.
Más información:
Para leer la decisión completa del caso, haz clic aquí.
Para leer una sinopsis de los comentarios públicos del caso, haz clic aquí.
