El Consejo asesor de contenido anuncia una revisión del enfoque de Meta en relación con el término "shaheed"

9 de marzo de 2023

Hoy, el Consejo asesor de contenido anunció que aceptó una solicitud de Meta para una opinión de asesoramiento normativo respecto de su enfoque al moderar el término árabe "shaheed", cuando se utiliza para hacer referencia a personas que clasifica como peligrosas, incluidos los terroristas. Como parte de este proceso, invitamos a las personas y organizaciones a enviar comentarios.

Además de revisar casos individuales sobre eliminación o restauración de contenidos, el Consejo también puede aceptar solicitudes de asesoramiento por parte de Meta sobre sus políticas de contenido más amplias. Después de recibir la solicitud de Meta y los aportes de los asesores externos, el Consejo ofrece recomendaciones detalladas sobre los cambios que Meta debería hacer en sus políticas en relación con un tema determinado.

Meta debe hacer pasar las recomendaciones del Consejo por el proceso oficial de desarrollo de políticas y comunicar actualizaciones periódicas al respecto, incluso a través de su sala de prensa. Aunque la opinión de asesoramiento normativo del Consejo no es vinculante, Meta debe dar una respuesta pública y adoptar medidas de seguimiento en un plazo de 60 días a partir de la recepción de las recomendaciones.

A la fecha, el Consejo emitió otras tres opiniones de asesoramiento normativo, publicó la primera de ellas, relacionada con la difusión de información residencial privada en Facebook e Instagram, en febrero de 2022 y la segunda, relacionada con el programa de verificación cruzada de Meta, en diciembre de 2022. En julio de 2022, el Consejo comenzó una revisión de las políticas de Meta de información errónea relacionada con el COVID-19.

Enviar comentario público aquí.

"Shaheed" y personas peligrosas designadas

(PAO 2023-01)

Hoy, el Consejo asesor de contenido aceptó una solicitud de Meta para una opinión de asesoramiento normativo respecto de su enfoque al moderar la palabra árabe "shaheed", cuando hace referencia a personas que clasifica como "peligrosas", incluidos los terroristas. La palabra tienes varios significados, pero generalmente se traduce como "mártir" y ocasiona más eliminaciones de contenido conforme a las Normas comunitarias que cualquier otra palabra individual o frase en las plataformas de Meta. La empresa reconoce que su enfoque actual puede dar lugar a una sobreaplicación de políticas significativa, en particular en países de habla árabe, por lo que ha explorado alternativas. Sin embargo, señala las dificultades y tensiones presentes al moderar el uso del término a gran escala.

La solicitud que Meta presentó ante el Consejo está disponible eninglés y árabe.

Meta estima que la palabra "shaheed" y sus variaciones ocasionan más eliminaciones de contenido conforme a las Normas comunitarias que cualquier otra palabra individual o frase en sus plataformas.

En su solicitud, Meta pregunta al Consejo si debería continuar eliminando contenido que incluya "shaheed" para hacer referencia a personas designadas como peligrosas conforme a su política de personas y organizaciones peligrosas, o si un enfoque diferente se alinearía mejor con los valores y responsabilidades de la empresa en cuanto a los derechos humanos. Meta también solicita orientación sobre problemas de contenido similares que puedan surgir en el futuro.

Meta afirma que elimina contenido que hace referencia a personas peligrosas designadas como "shaheed", porque traduce la palabra como "mártir". Por lo tanto, la considera una forma de exaltación. La política de personas y organizaciones peligrosas prohíbe exaltar a personas designadas. Sin embargo, la empresa reconoce que el significado de "shaheed" varía.

En su solicitud, Meta describe la palabra "shaheed" como un término "honorífico" utilizado por muchas comunidades en todo el mundo, en diferentes culturas, religiones e idiomas. La empresa afirma que el término tiene "varios significados" y que "se usa para describir a alguien que muere de forma inesperada o prematura, en ocasiones, haciendo referencia a una muerte honorable, por ejemplo, cuando alguien muere en un accidente o en un conflicto o una guerra". Meta expone que la traducción habitual al inglés es "martyr" (en español, "mártir") y asume este significado al moderar contenido, en todos los contextos. Sin embargo, nota que "no hay un equivalente directo del término en el idioma inglés".

La política de personas y organizaciones peligrosas prohíbe la exaltación, el apoyo sustancial o la representación de entidades y personas designadas. Su definición de exaltación incluye dar a una entidad o evento designados un sentido de logro, legitimar la causa de una entidad designada y alinearse ideológicamente con una entidad o un evento designados. Esta definición se agregó como consecuencia de una recomendación del Consejo ( caso "Cita nazi" , recomendación n.º 2). Dado que Meta asume que "shaheed" significa "mártir", se considera una forma de exaltación cuando se utiliza para hacer referencia a una entidad designada. Anteriormente, el Consejo recomendó que Meta publicara una lista de entidades designadas o ejemplos ilustrativos ( caso "Cita nazi" , recomendación n.º 3). Meta aún no publicó la lista ni proporcionó información actualizada en relación con esta recomendación tras una evaluación de viabilidad.

La eliminación de la palabra "shaheed" puede generar "faltas" graves o sanciones para los usuarios. La empresa reconoce que su enfoque actual puede dar lugar a una sobreaplicación de políticas significativa, en particular en países de habla árabe. Debido a los múltiples significados de "shaheed" y las dificultades de analizar el contexto a gran escala, Meta acepta que es posible que esté eliminando contenido "cuya intención no sea exaltar a una persona designada". Por ejemplo, cuando "shaheed" se utiliza para hacer referencia a la muerte prematura o a una persona fallecida, en lugar de glorificar su conducta. Meta no aplica excepciones a la política para los informes de noticias neutrales que incluyen la palabra "shaheed", porque asume que este término no es neutral.

Debido a estas inquietudes, Meta inició un proceso de desarrollo de políticas en 2020 para reevaluar su uso del término "shaheed". Esto incluye una revisión de investigaciones y consultas a las partes interesadas. Según Meta, las conclusiones principales de esta interacción con las partes interesadas es que el significado de "shaheed" depende del contexto y que, en algunas instancias, el término se insensibilizó y desconectó de la idea de exaltación. Durante este proceso, Meta identificó dos opciones normativas escalables para el uso de la palabra "shaheed". Sin embargo, ambas presentaron desventajas, por lo que no hubo consenso entre las partes interesadas y Meta no estableció un nuevo enfoque. La empresa enfatiza que, debido al volumen del contenido en su plataforma, una inquietud práctica clave es determinar si la aplicación de políticas funciona a gran escala.

Preguntas que Meta planteó al Consejo:

Meta presentó las siguientes opciones normativas ante el Consejo para su consideración:

1. Continuar con su enfoque actual y eliminar contenido que incluye "shaheed" para hacer referencia a una persona designada como peligrosa conforme a la política de personas y organizaciones peligrosas. Meta reconoce que esta opción puede restringir la expresión de los usuarios y genera la mayor cantidad de eliminaciones de contenido. La empresa también reconoce que este enfoque puede dar lugar a "faltas" graves para los usuarios, lo que puede tener como consecuencia la inhabilitación de su cuenta. También puede afectar de forma desproporcionada a "comunidades específicas para quienes 'shaheed' es una palabra habitual", lo que genera inquietudes en torno a la igualdad y equidad. Sin embargo, Meta afirma que esta opción responde a su valor de "seguridad" y es la más fácil de operar.

2. Permitir contenido que haga referencia a una persona designada como "shaheed" cuando se cumplen las siguientes condiciones: (i) se utiliza en un contexto permitido conforme a la política de personas y organizaciones peligrosas (p. ej., condena, informe de noticias, debate académico); (ii) no se evidencia exaltación, representación ni apoyo adicionales de una persona designada (p. ej., la publicación no exalta explícitamente al perpetrador de un ataque terrorista ni legitima su violencia); y (iii) no hay señal de violencia en el contenido (p. ej., una representación visual de armas, jerga militar o referencias a violencia en el mundo real). Meta afirma que esto respaldaría su valor de "expresión", aunque podría afectar a su valor de "seguridad", y se alinearía mejor con la política de personas y organizaciones peligrosas, que permite debates sobre personas designadas. Esta opción también reduciría el impacto negativo en comunidades en las que "shaheed" se utiliza de forma habitual y "puede facilitar que los medios de comunicación... brinden una cobertura objetiva de las noticias". Sin embargo, Meta nota que los objetivos de terrorismo y violencia pueden objetar este cambio en la política. También afirma que esta opción complejizaría la aplicación de políticas, lo que podría dar lugar a errores de aplicación.

3. Eliminar contenido que incluye "shaheed" para hacer referencia a una persona designada como peligrosa conforme a la política de personas y organizaciones peligrosas solo cuando no se evidencia exaltación, representación ni apoyo adicionales y no hay señal de violencia. Meta considera que esta opción "se alinearía mejor con el valor de Meta de expresión y los principios de la normativa internacional", pero "podría percibirse como promover la expresión por sobre el valor de seguridad". Esta opción "maximiza la forma en que 'shaheed' podría utilizarse", por lo que las personas podrían "usar la palabra en función de su cultura o lenguaje coloquial respectivos". Sin embargo, podría dar lugar a contenido en sus plataformas cuya intención sea legitimar el terrorismo. Meta afirma que esta opción sería más fácil de operar que la segunda.

Si bien el Consejo considerará las opciones específicas que proporciona Meta, es posible que las recomendaciones y la opinión de asesoramiento normativo del Consejo no se limiten a estas opciones.

El Consejo solicita comentarios del público sobre lo siguiente:

  • Ejemplos de cómo el enfoque actual de Meta de considerar a "shaheed" como exaltación afecta a la libertad de expresión en Instagram y Facebook, específicamente para la sociedad civil, los periodistas y los defensores de los derechos humanos en regiones donde la palabra se utiliza de forma habitual.
  • Investigación sobre la conexión entre restringir la exaltación de personas asociadas con organizaciones terroristas en medios sociales y la prevención eficaz de actos terroristas.
  • Cómo Meta debería considerar la variedad de significados y los diversos contextos culturales para el uso del término "shaheed" en diferentes regiones, idiomas y dialectos, teniendo en cuenta las concesiones inherentes a la aplicación de políticas de contenido a gran escala y las implicaciones para la responsabilidad de Meta en cuanto al respeto de los derechos humanos.
  • Qué procesos y protecciones deberían aplicarse para mitigar los riesgos de una subaplicación o una sobreaplicación de la política de personas y organizaciones peligrosas, en particular en diferentes culturas, idiomas y dialectos.
  • Cómo medir la precisión de la aplicación de políticas en esta área, incluido en el uso de la automatización, para contrarrestar el potencial de sesgo o discriminación, y cómo reflejar esto en informes de transparencia o permitir que investigadores independientes accedan a datos relevantes.

Decisiones anteriores

Anteriormente, el Consejo abordó la política de personas y organizaciones peligrosas en varios casos, incluidos los siguientes:

Comentarios públicos

Una parte importante del proceso del Consejo para el desarrollo de una opinión de asesoramiento normativo consiste en recopilar otras opiniones y conocimientos de personas y organizaciones. Estos aportes les permiten a los miembros del Consejo obtener más conocimientos y comprender cómo las políticas de Meta afectan a diferentes personas en distintas partes del mundo.

Si crees que tú o tu organización pueden hacer aportes valiosos para esta solicitud de opinión de asesoramiento normativo, puedes enviarlos aquí.

El período para recibir comentarios públicos para la solicitud de opinión de asesoramiento normativo que se anunció hoy estará vigente hasta las 15:00 UTC del lunes 10 de abril.

Este plazo es más largo que el período que se establece para la recepción de comentarios del público de nuevos casos, ya que el proceso de opinión de asesoramiento normativo no tiene las mismas limitaciones de tiempo que las decisiones sobre casos. Además, los comentarios del público pueden tener una extensión de hasta seis páginas. Para esta opinión de asesoramiento normativo, los comentarios se pueden enviar en bengalí, así como en cualquiera de los otros idiomas disponibles en el sitio web del Consejo, que incluyen árabe, farsi, urdu, bahasa Indonesia y turco. La lista completa de idiomas está disponible en el enlace anterior.

Próximos pasos

Ahora que el Consejo aceptó esta solicitud de opinión de asesoramiento normativo, está recopilando la información necesaria mediante, entre otras acciones, la solicitud de comentarios del público que emitió hoy. Tras las deliberaciones, el Consejo en pleno emitirá su voto en relación con la opinión de asesoramiento normativo. Si se aprueba, se publicará en el sitio web del Consejo.

Archivos adjuntos

Meta's request to the Board - English

Meta's request to the Board - Arabic

Volver a Noticias