Anuncio de los próximos casos del Consejo

15 de marzo de 2022

Hoy, el Consejo anunció tres casos nuevos para su consideración: un dibujo animado relacionado con Croacia, un video gráfico que representa a una víctima civil de la violencia en Sudán y una publicación en la que el usuario realiza un reclamo sobre ciertas palabras árabes.

Selección de casos

Como no podemos atender todas las apelaciones, el Consejo prioriza los casos que podrían afectar a muchos usuarios de todo el mundo, que sean de suma relevancia para el discurso público o que planteen cuestiones importantes sobre las políticas de Meta.

Estos son los casos que anunciamos hoy:

Dibujo animado de Knin (2022-001-FB-UA)

Apelación del usuario para eliminar el contenido de Facebook

Enviar comentario del público aquí.

A principios de diciembre de 2021, una página pública de Facebook que se describía como un portal de noticias de Croacia publicó un video con subtítulos en croata. Meta tradujo el subtítulo como "The Player from Čavoglave and the rats from Knin" (El flautista de Čavoglave y las ratas de Knin). Čavoglave es un pueblo de Croacia y Knin es una ciudad del país. El video es una versión editada del dibujo animado de Disney "El flautista de Hamelín". Dura 2 minutos y 10 segundos, y tiene voz en off en croata. El video tiene superpuesta la palabra "pretjerivač", que parece referirse a una plataforma online del mismo nombre donde los usuarios comparten videos y otros tipos de contenido.

El video muestra a una ciudad infectada de ratas. Mientras que la ciudad del dibujo animado original de Disney se llama "Hamelín", la ciudad del video editado lleva el nombre de la ciudad croata "Knin". Al comienzo del video, un narrador describe cómo las ratas y los humanos vivieron en la ciudad real de Knin durante muchos años. El narrador continúa relatando que las ratas querían vivir en un "país exclusivo de ratas", así que empezaron a amenazar y a perseguir a las personas que habitaban la ciudad. El narrador explica que, cuando las ratas quedaron al mando de la ciudad, apareció un flautista del pueblo croata de Čavoglave. En un principio, las ratas no tomaron en serio al flautista y continuaron con la "gran embestida de las ratas". Pero, cuando el flautista empezó a tocar una melodía con su "flauta mágica", las ratas, cautivadas por la melodía, comenzaron a cantar "su canción favorita" y siguieron al flautista que las llevó fuera de la ciudad.

Meta informó al Consejo que la melodía del dibujo animado es de una famosa canción folclórica de los Balcanes Occidentales. La empresa tradujo la letra de la canción que cantan las ratas de la siguiente manera: "¿Qué es lo que brilla en Dinara? La escarapela de Dujić en su cabeza [...] La libertad emergerá de Dinara y la traerá el comandante Momčilo". Meta le informó al Consejo que la letra es de una canción dedicada a Momčilo Dujić, un famoso comandante serbio de la Segunda Guerra Mundial. Luego, el video muestra a las personas de la ciudad cerrando el portón detrás del flautista y de las ratas. El video termina cuando el flautista agrupa a las ratas en un tractor que desaparece. El narrador concluye que, una vez que el flautista atrae a todas las ratas al "tractor mágico", las ratas "desaparecen para siempre de estas tierras" y "todos viven eternamente felices". La página que compartió el contenido tiene más de 50.000 seguidores. Mientras el contenido estuvo publicado en la plataforma, tuvo más de 380.000 reproducciones, se compartió más de 540 veces y recibió más de 2.400 reacciones y más de 1.200 comentarios. La mayor parte de los usuarios que reaccionaron al contenido, que lo comentaron o que lo compartieron tienen cuentas en Croacia. Y otra parte de los usuarios tienen cuentas en Alemania y Bosnia y Herzegovina.

El contenido se reportó más de 390 veces. De las personas que lo reportaron, 362 dijeron que el contenido incluía lenguaje que incita al odio. Esta apelación al Consejo se basa en el reporte de uno de estos usuarios cuya cuenta parece ser de Serbia. En virtud de las decisiones previas de revisión manual, Meta determinó que el contenido no infringía las Normas comunitarias de Facebook y no lo eliminó. Meta explicó que sigue un proceso de automatización si ocurren reportes subsiguientes relacionados con contenido para el que posiblemente se haya tomado una decisión previa, con el fin de evitar que el contenido se vuelva a revisar si ya se revisó. Después de que el usuario que reportó el contenido apelara la decisión de Meta, Meta realizó una nueva revisión manual y mantuvo la decisión original de conservar el contenido en la plataforma.

El usuario que reportó el contenido envió su apelación al Consejo en serbio. Explica que el flautista representa al "ejército croata, que persiguió a los serbios en Croacia". También indica que las ratas representan a los serbios. Según el usuario que reportó el contenido, Meta no evaluó el video de forma correcta. Agrega que el video "incita el odio nacional y religioso" en los Balcanes y otros territorios. También describe que "esta representación" fomenta la "intolerancia nacional entre dos naciones que apenas sanaron las heridas".

A fines de enero de 2022, como consecuencia de que el Consejo seleccionara el caso, Meta identificó su decisión de conservar el contenido en la plataforma como un "error de aplicación de políticas" y lo eliminó porque infringía la política sobre lenguaje que incita al odio. Meta explicó que su decisión original se basó en la determinación de un revisor de contenido que tenía contexto limitado.

En virtud de su norma comunitaria sobre lenguaje que incita al odio, Meta puede eliminar contenido dirigido a una persona o a un grupo de personas en función de su raza, etnia o nacionalidad con "lenguaje o imágenes deshumanizantes en forma de comparaciones, generalizaciones o afirmaciones basadas en comportamientos no aptas (de forma escrita o visual) en relación con lo siguiente: animales que culturalmente se perciben como intelectual o físicamente inferiores". Meta explicó al Consejo que, debido al contexto histórico del caso, el contenido incluye un ataque directo a los serbios al compararlos con ratas. Meta concluyó que el contenido crea un entorno de intimidación y exclusión, y que también puede promover el daño en el mundo real.

En su declaración al Consejo, el usuario que publicó el contenido indicó que "tiene dudas sobre el contenido" y que es parte de la página "solo como socio comercial con fines publicitarios". Meta no considera que el usuario que publicó el contenido sea una figura pública.

Al Consejo le gustaría recibir comentarios del público sobre lo siguiente:

De qué modo la aplicación de las políticas de contenido de Meta sobre lenguaje que incita al odio debería considerar el contexto local en el Sudeste de Europa, específicamente en Croacia, y la historia del conflicto en esta región.
Cómo mejorar la revisión manual de contenido complejo, en particular en el formato de video.
La naturaleza del cumplimiento de Meta de sus responsabilidades hacia los derechos humanos al evitar o mitigar las repercusiones adversas para los derechos humanos a causa del lenguaje que incita al odio en sus plataformas en el Sudeste de Europa, específicamente en Croacia, y sus compromisos hacia el respeto de la libertad de expresión.
El contexto histórico, social, político y cultural en Croacia, Serbia, Bosnia y Herzegovina en relación con la naturaleza, la prevalencia y las repercusiones del lenguaje que incita al odio en estos contextos, incluidas las comunidades en diáspora.

En sus decisiones, el Consejo puede formular recomendaciones de políticas a Meta. Si bien estas recomendaciones no son vinculantes, Meta debe responder a ellas en un plazo de 60 días. El Consejo recibe comentarios del público con recomendaciones que sean relevantes para este caso.

Video gráfico de Sudán (2022-002-FB-MR)

Caso remitido por Meta

Enviar comentario del público aquí.

El 21 de diciembre de 2021, Meta remitió un caso al Consejo sobre un video gráfico que mostraba a una víctima civil de la violencia en Sudán. El contenido se publicó en la página del perfil de Facebook de un usuario después de un golpe militar en el país el 25 de octubre de 2021 y del inicio de las protestas contra la toma militar del Gobierno. Las protestas fueron violentas y las fuerzas de seguridad atacaron y arrestaron a periodistas y activistas.

El video muestra a una persona, posiblemente un menor, tirado al lado de un automóvil con una importante herida en la cabeza. Se pueden escuchar voces que dicen en árabe que alguien recibió un golpe y quedó tirado en la calle. La publicación incluye texto, también en árabe, a través del que se pide a las personas solidarizarse y no confiar en el ejército, y se incluyen varios hashtags como #DocumentingMilitaryAbuses (documentar el abuso militar) y #CivilDisobedience (desobediencia civil). La publicación tuvo menos de 1.000 visualizaciones y ningún usuario reportó el contenido.

Los sistemas automáticos de Meta identificaron el contenido como una posible infracción y, después de una revisión, el contenido se eliminó porque infringía la normas comunitaria sobre contenido violento y gráfico. El usuario apeló la decisión de Meta de eliminar la publicación. Meta revisó el contenido nuevamente y aplicó la concesión de interés periodístico para restaurar la publicación. Cuando Meta restauró la publicación, colocó una pantalla de advertencia en el video para marcarlo como contenido delicado y el usuario tenía que hacer clic para verlo. La pantalla de advertencia prohíbe a usuarios menores de 18 años ver el video.

En virtud de su política sobre contenido violento y gráfico, Meta declara que elimina cualquier contenido que "glorifica la violencia o celebra el sufrimiento", pero permite la publicación de contenido gráfico que "ayuda a generar conciencia". La política prohíbe la publicación de "videos de personas o cadáveres en contextos no médicos que muestren desmembramiento". En función de su concesión de interés periodístico, Meta permite la publicación de contenido que infringe las normas en su plataforma "si mantener su visibilidad es de interés público".

En su recomendación, Meta declaró que la decisión sobre esta publicación es difícil porque el contenido destaca la tensión entre el valor de interés público de documentar violaciones de los derechos humanos y el riesgo de los daños asociados con la acción de compartir dicho contenido gráfico. Meta también resaltó la importancia de permitir a los usuarios documentar las violaciones de los derechos humanos durante un golpe y cuando se interrumpió el acceso a internet en el país.

El Consejo no recibió comentarios del usuario responsable del contenido.

Al Consejo le gustaría recibir comentarios del público sobre lo siguiente:

Si las políticas de Meta sobre contenido violento y gráfico brindan suficiente protección a los usuarios que documentan violaciones de los derechos humanos o que generan conciencia en torno a ellas.
El cumplimiento de Meta de sus responsabilidades hacia los derechos humanos en torno a la moderación de expresiones que muestran contenido gráfico y violento, incluido si los derechos de todas las víctimas se protegen de igual manera y si los derechos de los sobrevivientes traumatizados y de los familiares o seres queridos de las víctimas representadas se protegen de modo adecuado.
La moderación del contenido violento y gráfico por parte de Meta durante períodos de crisis, protestas en masa o interrupciones de internet, y los factores que Meta debería considerar al determinar si tiene que eliminar el contenido o colocar pantallas de advertencia o restricciones por edad en dicho contenido.
La manera en que el uso de una pantalla de advertencia en el contenido gráfico, incluida la restricción de acceso a menores, puede afectar a los derechos de los usuarios de Facebook (p. ej., para generar conciencia y documentar abusos, derechos de privacidad, integridad física, salud física y mental).
La manera en que la moderación de contenido de Meta, incluido el uso de la automatización, afecta a la libertad de expresión y la documentación de las violaciones de los derechos humanos durante un conflicto, y cómo deben prevenirse o mitigarse los efectos negativos.

Reclamo sobre palabras árabes (2022-003-IG-UA)

Apelación de un usuario para restaurar contenido en Instagram

Enviar comentario del público aquí.

Nota: Para permitir que las personas envíen comentarios sobre la naturaleza y la repercusión de la publicación y facilitar la comprensión de las personas de la resolución final del Consejo sobre este caso, compartimos algunas de las palabras textuales que se usaron en esta publicación. Si bien reconocemos que parte del lenguaje citado podría resultar ofensivo, lo hacemos en favor de la transparencia.

En noviembre de 2021, una cuenta de Instagram que se identifica como un espacio para debatir historias queer en la cultura árabe publicó una serie de imágenes en una secuencia (una única publicación de Instagram que incluye hasta diez imágenes con un solo texto). El texto explica que cada imagen muestra una palabra diferente que se puede usar de manera despectiva para referirse a los hombres con "gestos afeminados" en el mundo árabe, incluidos los términos "zamel", "foufou" y "tante/tanta". El texto, escrito en árabe y en inglés, explicaba que el usuario no "tolera ni alienta el uso de estas palabras". El usuario explicó en la publicación que había sido víctima de acoso con uno de estos términos en su niñez y que la intención de la publicación era "realizar un reclamo sobre el poder de estos términos hirientes". El contenido tuvo aproximadamente 9.000 visualizaciones, recibió alrededor de 30 comentarios y casi 2.000 reacciones.

En un plazo de tres horas desde la publicación del contenido, un usuario lo reportó como "desnudo o actividad sexual de adultos" y otro usuario lo reportó como "servicios sexuales". Después de revisar cada reporte por separado, Meta eliminó el contenido porque infringía su política sobre lenguaje que incita al odio. El usuario apeló y Meta restauró el contenido en la plataforma. Cuando el contenido se restauró en la plataforma, una tercera persona lo reportó como lenguaje que incita al odio. Meta llevó a cabo una cuarta revisión y volvió a eliminar el contenido. El usuario apeló por segunda vez y, después de una quinta revisión, Meta mantuvo su decisión de eliminar el contenido.

En su declaración al Consejo, Meta explicó que, en un primer momento, eliminó el contenido en virtud de su política sobre lenguaje que incita al odio porque "zamel" (زامل) se considera un "término despectivo hacia las personas homosexuales", lo que la empresa había designado como un insulto en sus mercados "árabes" y de la región de "Maghreb" cuando el contenido se eliminó. Después de realizar una auditoría del uso de la palabra, el 23 de febrero de 2022, Meta eliminó la palabra de la "lista de insultos árabes" y la conservó en la "lista de insultos para la región de Maghreb". Meta llevó a cabo una sexta revisión adicional del contenido y determinó que no infringía la política sobre lenguaje que incita al odio. Meta explicó que la eliminación fue incorrecta porque "el uso del insulto estaba dentro de la concesión de Meta sobre contenido que desaprueba un insulto o lenguaje que incita al odio, que analiza el uso de los insultos, incluidos reportes de los casos en que se usaron, o que genera un debate en torno a si su uso es aceptable". Las seis revisiones fueron llevadas a cabo por moderadores humanos de contenido.

En su apelación al Consejo, el usuario indica que la intención de la publicación del contenido era celebrar a los hombres y jóvenes afeminados de la sociedad árabe que, a menudo, se sienten ofendidos por el uso de lenguaje despectivo. El usuario también explica que intenta realizar un reclamo sobre las palabras despectivas que se usan en su contra como forma de resistencia y fortalecimiento. Declara que su contenido es adecuado en virtud de las políticas de contenido de Meta, que específicamente permiten el uso de términos que están prohibidos de algún modo si se usan de manera autorreferencial o para fortalecimiento.

Al Consejo le gustaría recibir comentarios del público sobre lo siguiente:

De qué manera las Normas comunitarias de Instagram y la norma comunitaria de Facebook sobre lenguaje que incita al odio, específicamente las reglas sobre insultos, pueden brindar una mejor protección a las personas LGBTQ+ contra ataques con insultos despectivos y pueden ayudar a las personas LGBTQ+ a generar una respuesta a contenido ofensivo que puede usar los mismos insultos.
El requisito de la política de que los usuarios "indiquen con claridad su intención" si usan términos de lenguaje que incita al odio para desaprobar, generar conciencia o fortalecer, y si se deberían considerar otros factores contextuales y cómo hacerlo al aplicar esta excepción.
El cumplimiento de Meta de sus responsabilidades hacia los derechos humanos con respecto a los usuarios de sus productos que hablan árabe y que son LGBTQ+, en especial, los que se encuentran en África del Norte y Asia Occidental.
Los desafíos y riesgos de las personas LGBTQ+ al ejercer sus derechos de libertad de expresión en los productos de Meta en África del Norte y Asia Occidental.
Cualquier avance en los productos de Meta y en el enfoque hacia la moderación de contenido que mejoraría la protección de los derechos de las personas LGBTQ+ en las plataformas de Meta, incluido en relación con los reportes en masa (lo que también se conoce como "brigading" o acoso grupal).

Comentarios públicos

Si tú o tu organización consideran que pueden contribuir con perspectivas valiosas que ayuden a tomar una decisión sobre los casos anunciados hoy, puedes enviar tus aportes a través de los enlaces que aparecen arriba. El plazo para enviar comentarios del público dura 14 días y finaliza el martes 29 de marzo de 2022 a las 15:00 GMT.

Próximos pasos

En las siguientes semanas, los miembros del Consejo deliberarán sobre estos casos. Cuando hayan tomado sus decisiones finales, las publicaremos en el sitio web del Consejo asesor de contenido. Para recibir notificaciones cuando el Consejo anuncie nuevos casos o publique decisiones, regístrate aquí.

Volver a Noticias