Referencia a personas peligrosas designadas como “shaheed”

Resumen ejecutivo

El Consejo determina que el enfoque de Meta respecto a la moderación de contenido que emplea el término “shaheed” para hacer referencia a personas designadas como peligrosas restringe de forma sustancial y desproporcionada la libertad de expresión. Meta interpreta que se infringen sus normas en todos los casos en que se usa el término “shaheed” para hacer referencia a personas que dicha entidad ha designado como peligrosas y, como consecuencia, suprime el contenido infractor. De acuerdo con Meta, es probable que la palabra “shaheed” provoque más supresiones de contenido por infracciones de las Normas comunitarias que cualquier otra palabra o frase en sus plataformas. Los actos de violencia terrorista acarrean graves consecuencias, ya que destruyen la vida de personas inocentes, obstaculizan la promulgación de los derechos humanos y socavan el tejido de nuestras sociedades. No obstante, toda limitación a la libertad de expresión para evitar esa violencia debe ser necesaria y proporcionada, dado que la supresión indebida de contenido puede resultar ineficaz e incluso contraproducente.

Las recomendaciones del Consejo parten de la perspectiva de que es imperativo que Meta tome medidas eficaces para garantizar que sus plataformas no se utilicen para incitar actos violentos ni para reclutar gente que participe en ellos. Los extremistas en ocasiones usan la palabra “shaheed” para glorificar a personas que han muerto mientras cometían actos de violencia terrorista o hacer apología de ellas. Sin embargo, la respuesta de Meta ante esta amenaza también debe regirse por el respeto a todos los derechos humanos, incluida la libertad de expresión.

El 7 de octubre de 2023, cuando el Consejo estaba finalizando esta opinión consultiva sobre políticas, Hamás (una organización designada como de nivel 1 conforme a la política sobre personas y organizaciones peligrosas de Meta) lideró ataques terroristas sin precedentes en Israel en los que aproximadamente 1200 personas fueron asesinadas y 240 fueron tomadas como rehén (Ministerio de Asuntos Exteriores, Gobierno de Israel). Según las coberturas informativas, a fecha de 6 de febrero de 2024, se creía que al menos 30 de los 136 rehenes estimados que seguían en manos de Hamás a principios de enero habían muerto. Meta designó de inmediato estos hechos como un ataque terrorista conforme a su política sobre personas y organizaciones peligrosas. Israel inició rápidamente una campaña militar en respuesta a estos ataques. Como consecuencia de esta campaña, a fecha de 4 de marzo, habían muerto más de 30 000 personas en Gaza (Oficina de Coordinación de Asuntos Humanitarios de las Naciones Unidas, basándose en datos del Ministerio de Sanidad de Gaza). Informes de enero estimaban que un 70 % de los fallecidos eran mujeres y niños.

Tras estos hechos, el Consejo se abstuvo de publicar esta opinión consultiva sobre políticas hasta garantizar que sus recomendaciones se adecuaran al uso de las plataformas de Meta y la palabra “shaheed” en este contexto. Esta investigación adicional confirmó que se debían mantener las recomendaciones que el Consejo hizo a Meta sobre la moderación del término “shaheed”, incluso bajo el estrés extremo de hechos como los referidos, lo que garantizaría un mayor respeto por todos los derechos humanos en la respuesta de Meta ante situaciones de crisis. No obstante, el Consejo señala que las políticas de Meta en este ámbito son globales y su impacto trasciende este conflicto en concreto. Si bien reconocen la relevancia de los hechos recientes en Israel y Palestina, las recomendaciones del Consejo también son globales y no se limitan a un contexto particular.

Según el Consejo, el enfoque de Meta en cuanto a la moderación de la palabra “shaheed” es demasiado amplio y restringe de forma desproporcionada la libertad de expresión y el discurso cívico. Por ejemplo, es posible que se supriman por error publicaciones que informen sobre actos violentos y entidades designadas. El enfoque de Meta tampoco tiene en cuenta los diversos significados que se atribuyen al término “shaheed”, muchos de los cuales no tienen como objeto glorificar a nadie o transmitir aprobación, y conlleva con demasiada frecuencia la supresión de publicaciones de personas que hablan árabe u otros idiomas (muchas de ellas musulmanas), sin que se contribuya de ningún modo a las finalidades indicadas en la política sobre personas y organizaciones peligrosas. Además, las políticas de Meta prohíben, por ejemplo, el apoyo a personas, organizaciones y hechos designados, y su glorificación y representación, así como la incitación a la violencia. Estas políticas, si se aplican con precisión, mitigan el peligro que supone el uso de las plataformas de Meta por parte de terroristas. En consecuencia, el Consejo recomienda que Meta anule su veto absoluto respecto al uso del término “shaheed” cuando hace referencia a personas designadas como peligrosas y que modifique su política para realizar un análisis del contenido que incluye este término en el que se tenga más en cuenta el contexto.

Contexto

En febrero de 2023 Meta preguntó al Consejo si debería seguir suprimiendo contenido en el que apareciese el término árabe “shaheed” o هيد (escrito en caracteres árabes) para hacer referencia a personas designadas en virtud de su política sobre personas y organizaciones peligrosas. Además, el término “shaheed” también es un préstamo (es decir, muchos idiomas distintos al árabe lo han tomado “prestado” e incluso han adaptado su grafía).

La empresa describe la palabra “shaheed” como un término “honorífico” que usan muchas comunidades de diferentes culturas, religiones e idiomas para referirse a una persona que muere de forma inesperada, por ejemplo, en un accidente, o de manera honorable, como en una guerra. La empresa reconoce que el término tiene “varios significados” y, si bien “no hay equivalente directo en inglés”, la traducción más habitual sería “martyr” (“mártir” en español). Teniendo en cuenta que “la palabra ‘martyr’ en inglés se refiere a una persona que ha sufrido o muerto por una causa justificada y habitualmente tiene connotaciones positivas”, Meta indica que “es debido a este uso que se ha categorizado el término [“shaheed”] como una apología conforme a nuestra política [sobre personas y organizaciones peligrosas]”.

La presunción de Meta de que usar el término “shaheed” para referirse a una persona designada siempre constituye una “apología” conforme a la política sobre personas y organizaciones peligrosas ha derivado en un veto absoluto del término. Meta ha reconocido que, dados los diversos significados del término, “es posible que se estén sobreaplicando políticas a una cantidad considerable de discursos cuyo fin no es hacer apología de una persona designada, en particular entre hablantes de árabe”. Además, Meta no aplica las excepciones de la política sobre personas y organizaciones peligrosas que permiten el uso de la palabra “shaheed” para “informar sobre dichas personas y organizaciones o sus actividades, debatir sobre ellas en un tono neutral o condenarlas”. Esto se ha mantenido igual en las actualizaciones más recientes de la política, realizadas en diciembre de 2023, en la que ahora se prohíben la “glorificación” y las “referencias poco claras”, en lugar de la “apología”, a la cual ya no se hace mención en la versión actual.

Debido a estas inquietudes, en 2020 Meta inició un proceso de desarrollo de políticas para reevaluar su enfoque en cuanto al término “shaheed”. No obstante, no se ha llegado a consenso alguno en la empresa y no se ha acordado un nuevo enfoque.

Al solicitar esta opinión consultiva sobre políticas, Meta presentó al Consejo tres posibles opciones en cuanto a la política correspondiente:

1. Mantener el status quo.
2. Permitir el uso del término “shaheed” en referencia a personas designadas en publicaciones que satisfacen las condiciones de las excepciones a la prohibición de la “apología” (por ejemplo, al informar sobre ellas, debatir sobre ellas en un tono neutral o condenarlas), siempre que no haya otro tipo de apología ni “indicios de violencia”. Meta propuso como ejemplos de estos indicios las representaciones visuales de armas o las referencias a lenguaje militar o violencia en el mundo real.
3. Permitir el uso del término “shaheed” en referencia a personas designadas siempre que no haya otras apologías ni indicios de violencia, independientemente de que el contenido satisfaga o no las condiciones de alguna de las excepciones mencionadas arriba, en contraste con la segunda opción.

Además, el Consejo ha tenido en cuenta otras posibles opciones en cuanto a la política. Por los motivos que se explican en esta opinión consultiva sobre políticas, las recomendaciones del Consejo coinciden en gran medida con la tercera opción, aunque se tienen en cuenta menos indicios de violencia de los que Meta propuso en su solicitud, y existe un requisito para la aplicación más general de las excepciones de la política a la hora de informar sobre entidades designadas y sus actividades, debatir sobre ellas en un tono neutral o condenarlas.

Conclusiones y recomendaciones principales

El Consejo determina que el enfoque actual de Meta en cuanto al uso del término “shaheed” en relación con personas designadas como peligrosas es demasiado amplio y restringe de forma sustancial y desproporcionada la libertad de expresión.

El término “shaheed” es importante tanto en el plano cultural como en el religioso. En ocasiones se utiliza para hacer apología de aquellas personas que mueren cometiendo actos violentos e incluso puede llegar a “glorificarlas”. Sin embargo, hasta cuando hace referencia a personas peligrosas, el término se usa con frecuencia en informes y comentarios neutros, conversaciones académicas o debates sobre derechos humanos, e incluso de formas más pasivas. Entre otros significados, la palabra “shaheed” se suele usar en general para hacer referencia a personas que mueren sirviendo a su país o defendiendo una causa, o como víctimas inesperadas de una tragedia natural o la violencia sociopolítica. En algunas comunidades musulmanas, incluso se usa como nombre y apellido. Existen motivos importantes para creer que los diversos significados del término “shaheed” conllevan que se suprima una cantidad sustancial de material cuyo objetivo no es hacer apología de terroristas ni de los actos violentos que cometen.

El enfoque de Meta respecto a la supresión del contenido por el mero uso de la palabra “shaheed” para hacer referencia a personas designadas ignora intencionadamente la complejidad lingüística del término y sus diversos usos, y lo trata siempre y únicamente como equivalente de la palabra inglesa “martyr”. Este planteamiento afecta en gran medida la libertad de expresión y las libertades de los medios de comunicación, restringe indebidamente el discurso cívico y tiene graves implicaciones negativas en lo que se refiere a la igualdad y la no discriminación. Esta sobreaplicación afecta de forma desproporcionada a hablantes de árabe y otros idiomas que han tomado prestado el término “shaheed”. Por otro lado, existen otras formas de implementar la política sobre personas y organizaciones peligrosas que seguirían permitiendo que Meta refuerce su valor de seguridad y su objetivo de mantener sus plataformas libres de todo material que glorifique a terroristas. Por lo tanto, la política actual es desproporcionada e innecesaria.

Para que las políticas de Meta relacionadas con el término “shaheed” y las prácticas de aplicación de estas reflejen mejor las normas sobre derechos humanos, el Consejo hace las siguientes recomendaciones (consulta la sección 6 para verlas completas):

1. Meta debe dejar de suponer que el uso de la palabra “shaheed” para hacer referencia a una persona designada o a miembros anónimos de organizaciones designadas siempre conlleva un caso de infracción de las normas al que no se puede aplicar ninguna de las excepciones de la política. El contenido en el que se usa el término “shaheed” para hacer referencia a una persona designada debe suprimirse como “referencia poco clara” únicamente en dos situaciones. En primer lugar, cuando hay presente uno o más de estos tres indicios de violencia: una representación visual de armamento o armas, una declaración de intención o apoyo sobre usar o llevar armamento o armas, o una referencia a un hecho designado. En segundo lugar, cuando el contenido infringe de otra forma las políticas de Meta (p. ej., en el caso de glorificación o cuando la referencia a una persona designada sigue siendo poco clara por otros motivos aparte del uso del término “shaheed”). En ambas situaciones, el contenido igualmente podría cumplir los requisitos para las excepciones en las que se permite “informar sobre personas y organizaciones designadas o sus actividades, debatir sobre ellas en un tono neutral o condenarlas”.

2. Para aclarar la disposición que prohíbe las “referencias poco claras”, Meta debe incluir varios ejemplos de contenido infractor, como una publicación en la que se use el término “shaheed” para hacer referencia a una persona designada en combinación con uno o más de los tres indicios de violencia que se especifican en la recomendación n.º 1.

3. Las pautas internas de aplicación de políticas de Meta también deberían actualizarse para dejar claro que usar el término “shaheed” para referirse a personas designadas no supone una infracción, salvo si dicha declaración va acompañada de indicios de violencia, y que, incluso si se presentan dichos indicios, el contenido puede beneficiarse igualmente de las excepciones que permiten “informar sobre personas y organizaciones designadas o sus actividades, debatir sobre ellas en un tono neutral o condenarlas”.

Si Meta acepta e implementa estas recomendaciones, conforme a sus reglas actuales, la empresa seguiría suprimiendo el contenido que “glorifica” a personas designadas, caracteriza su violencia u odio como un logro, o legitima o defiende sus actos violentos o basados en el odio, así como el contenido que respalda o representa a una entidad designada como peligrosa. El enfoque que propone el Consejo a partir de estas recomendaciones sería que Meta deje de interpretar siempre que la palabra “shaheed” en referencia a una persona designada constituye una infracción y que solo suprima el contenido si coincide con otras infracciones de la política (p. ej., casos de glorificación) o como “referencia poco clara” debido a indicios de violencia. Dicho contenido puede seguir cumpliendo los requisitos para que se apliquen las excepciones de la política que permiten “informar sobre personas y organizaciones designadas o sus actividades, debatir sobre ellas en un tono neutral o condenarlas”.

Asimismo, el Consejo recomienda que Meta tome las siguientes medidas:

4. Explicar en más detalle el procedimiento que sigue para designar a entidades o hechos conforme a su política sobre personas y organizaciones peligrosas, a fin de aumentar la transparencia en torno a esta lista. Meta también debe publicar datos agregados sobre la cantidad total de entidades en cada nivel de su lista de designación, así como el número de entidades que se han añadido o suprimido durante el último año.

5. Presentar un proceso claro y eficaz para auditar con regularidad las designaciones y suprimir aquellas que ya no satisfacen los criterios publicados, a fin de garantizar que la lista de entidades conforme a la política sobre personas y organizaciones peligrosas esté actualizada y no incluya personas, organizaciones ni acontecimientos que ya no encajen dentro de la definición de designación de Meta.

6. Explicar los métodos que emplea para evaluar la precisión de la revisión manual y el rendimiento de los sistemas automatizados en la aplicación de su política sobre personas y organizaciones peligrosas. Meta también debe compartir periódicamente los resultados de las evaluaciones de rendimiento a las que se someten los clasificadores que se utilizan en la aplicación de esta política, y mostrar los resultados de una forma que se puedan comparar entre diferentes idiomas o regiones.

7. Explicar con claridad cómo se usan los clasificadores para generar predicciones de infracciones de políticas y cómo Meta establece umbrales para decidir si no toma medida alguna, deriva el contenido para una revisión manual o lo suprime. Esta información debe proporcionarse en el Centro de transparencia de la empresa para mantener al corriente a las partes interesadas.

OPINIÓN CONSULTIVA SOBRE POLÍTICAS COMPLETA

1. Solicitud de Meta

I. Solicitud de opinión consultiva sobre políticas

1. En su solicitud (disponible en inglés y árabe), Meta preguntó al Consejo si debería continuar suprimiendo contenido que incluya el término “shaheed” (شهيد) (y sus formas singular y plural, incluidas las variantes que se han tomado prestadas en árabe y otros idiomas) para hacer referencia a personas designadas como peligrosas conforme a su política sobre personas y organizaciones peligrosas, o si un enfoque distinto se ajustaría mejor a los valores y las responsabilidades de la empresa en cuanto a los derechos humanos. Meta también solicitó orientación sobre problemas de contenido similares que pudieran surgir en el futuro.

II. Enfoque de Meta

2. La política sobre personas y organizaciones peligrosas de Meta anteriormente prohibía “la apología, el apoyo sustancial y la representación de entidades y personas designadas” y “hechos violentos que infringen las normas” designados. El 29 de diciembre de 2023 Meta actualizó esta política, suprimió la disposición que prohibía la apología y añadió disposiciones que prohibían la “glorificación” y las “referencias poco claras”. El Consejo amplió el alcance de sus consideraciones para evaluar el impacto que estos cambios de política tendrían en sus hallazgos y recomendaciones.

3. Esta solicitud de opinión consultiva sobre políticas estaba relacionada con la disposición que prohíbe la apología de personas designadas, y no con las disposiciones que prohíben su representación o apoyo sustancial. En comparación con la representación y el apoyo sustancial, Meta consideró la “apología” como la infracción de menor gravedad. Meta reserva el nivel 1 a las entidades más peligrosas, incluidas organizaciones terroristas, criminales e incitadoras del odio. Cuando Meta designa un “hecho violento que infringe las normas”, quienes lo perpetran también se designan como personas peligrosas de nivel 1 y, por lo tanto, se prohíbe su glorificación (anteriormente, “apología”). Los hechos designados incluyen “ataques terroristas, actos o delitos de odio, ataques o intentos de ataque con varias víctimas o asesinatos en serie”. Si bien Meta controla su propia lista de entidades designadas, que no es de dominio público, las designaciones se basan en parte en listas de designación del Gobierno de EE. UU. (es decir, la lista de Meta será al menos tan extensa como aquellas del Gobierno de EE. UU. de las que deriva). En las Normas comunitarias se explica que las entidades de nivel 1 incluyen “traficantes de narcóticos especialmente designados”, “organizaciones terroristas extranjeras” o “terroristas mundiales especialmente designados”. Estas listas del Gobierno de EE. UU. están disponibles para el público aquí, aquí y aquí respectivamente.

4. Antes de la actualización de la política del 29 de diciembre de 2023, la definición del término “apología” incluía hablar “positivamente de una entidad o un suceso designados”, atribuir a una entidad designada “una sensación de logro”, legitimar “la causa de una entidad designada al afirmar que su conducta violenta, delictiva o de odio es justificable o aceptable en términos legales, morales o de otra naturaleza” y “alinearse ideológicamente con una entidad o un suceso designados”. Esta definición o serie de ejemplos se añadió a la política para aportar mayor claridad tras una recomendación del Consejo asesor de contenido en uno de nuestros primeros casos (decisión del caso Cita nazi, recomendación n.º 2). Tras la actualización de la política realizada en diciembre de 2023, la “glorificación” se define como “legitimar o defender actos violentos u ofensivos de una entidad designada al afirmar que dichos actos tienen una justificación moral, política, lógica o de otro tipo, lo que los hace aceptables o razonables” o “caracterizar o celebrar la violencia o el odio de una entidad designada como un logro o progreso”. De forma más general, Meta afirma en dicha actualización que puede “suprimir referencias poco claras o sin contexto si la intención del usuario no estaba claramente indicada”. En la política se especifica que esto incluye “humor poco claro” y “referencias positivas o sin pies de foto que no glorifiquen la violencia o el odio de la entidad designada”. No obstante, la política no brinda ejemplos de los tipos de publicaciones que infringirían esta regla. Meta ha informado al Consejo de que sigue suprimiendo todo el contenido en el que se use el término “shaheed” para hacer referencia a personas designadas. Con dichas referencias, la empresa supone que el uso del término “shaheed” infringe las normas en todos los contextos, lo que, básicamente, conduce a un veto absoluto de esta palabra cuando se refiere a una persona designada. Para ejemplificar en parte el alcance de esta prohibición, se pueden consultar las listas de designación de EE. UU. mencionadas arriba, ya que, de acuerdo con la política de Meta, está prohibido usar la palabra “shaheed” (o cualquier otra traducción del término “mártir”) para referirse a todas las personas (y miembros de organizaciones) que figuren en su propia lista derivada. Esto incluye entidades de todos los continentes y no se limita a organizaciones terroristas ni organizaciones que sostienen una única ideología concreta.

5. La empresa describe la palabra “shaheed” como un término “honorífico” utilizado por muchas comunidades en diferentes culturas, religiones e idiomas. La empresa reconoció que el término tiene “varios significados” y que “se usa para describir a alguien que muere de forma inesperada o prematura, y que en ocasiones hace referencia a una muerte honorable, por ejemplo, cuando alguien muere en un accidente o en un conflicto o una guerra”. Meta indicó que, si bien “no existe un equivalente directo del término en inglés”, la traducción habitual es “martyr” (“mártir” en español). Cuando envió su solicitud al Consejo, antes de los cambios en la política de diciembre de 2023, Meta indicó que “suponemos que la palabra significa ‘mártir’” y “es por ello que la categorizamos como apología conforme a nuestra política [sobre personas y organizaciones peligrosas]. La única referencia a esta regla en las Normas comunitarias de dominio público fue un ejemplo de frases que infringirían la disposición que prohíbe la apología. Entre otros ejemplos, Meta incluyó una frase en la que se llamaba “mártir” a un terrorista estadounidense condenado. En la versión en árabe de la política, Meta usó el mismo ejemplo y tradujo la palabra “mártir” como “shaheed”. El ejemplo que incluía los términos “mártir” y “shaheed” se suprimió en la actualización de diciembre de 2023 de la norma comunitaria de dominio público, aunque Meta ha informado al Consejo de que el uso de la palabra “shaheed” sigue considerándose una infracción, por lo que los moderadores tienen instrucciones de suprimirla.

6. Meta no aplica las excepciones de la política sobre personas y organizaciones peligrosas al uso del término “shaheed” en referencia a personas designadas. Dichas excepciones permiten “informar sobre personas y organizaciones designadas o sus actividades, debatir sobre ellas en un tono neutral o condenarlas”. La supresión del contenido que incluye el término “shaheed” como “apología” de una persona designada generaría “faltas” graves para los usuarios, y la acumulación de faltas graves conduciría más rápidamente a sanciones como la suspensión o inhabilitación de cuentas o páginas. En las Normas comunitarias de dominio público no se explica el hecho de que no se apliquen las excepciones de la regla sobre el término “shaheed”.

7. Meta ha explicado que su tratamiento del término “shaheed” refuerza su valor de fomentar la seguridad, ya que este contenido, según su opinión, podría “contribuir a provocar daños fuera de internet”. Aun así, Meta ha reconocido que no es apropiado traducir la palabra “shaheed” como “martyr” en inglés. Dados los diversos significados de este término y las dificultades que supone analizar el contexto y las intenciones de los usuarios a gran escala, Meta ha admitido haber estado suprimiendo discursos que “no contribuyen a provocar daños fuera de internet” y “cuyo fin no es hacer apología de personas designadas, en particular entre hablantes de árabe”. Un ejemplo sería la supresión de contenido cuando se emplea el término “shaheed” en coberturas informativas o para debatir en un tono neutral sobre la muerte prematura de una persona designada, no para hacer apología de ella o de su conducta (ni para glorificarlas).

8. El 29 de agosto de 2023, Meta actualizó la concesión de su política sobre personas y organizaciones peligrosas para incluir las definiciones de “coberturas informativas”, “debate neutral” y “condena”, y proporcionar ejemplos ilustrativos de cada excepción. Al mismo tiempo, Meta amplió la descripción de esta concesión a fin de reconocer que los usuarios pueden referirse a entidades designadas “en el contexto del discurso social y político”. Todos los ejemplos ilustrativos de contenido permitido se suprimieron como parte de la actualización de la política de diciembre de 2023, aunque se mantuvo la concesión en sí. Dichos ejemplos se volvieron a incluir en una actualización de la política realizada el 8 de febrero de 2024. Sin embargo, en ninguna de estas actualizaciones (diciembre de 2023 y febrero de 2024) se establece de forma explícita que las referencias a personas u organizaciones designadas poco claras o sin contexto no se beneficiarán de estas excepciones, dado que las define una falta de intención claramente demostrada en la publicación en sí.

9. Meta inició un proceso de desarrollo de políticas en 2020 para reevaluar su enfoque respecto al término “shaheed”, que incluyó una revisión de estudios y consultas a las partes interesadas. Según Meta, una de las conclusiones principales a las que se llegó a partir de estas interacciones con las partes interesadas fue que el significado de la palabra “shaheed” depende del contexto y que, “en algunos casos, se ha convertido en un término neutro que no guarda relación con la apología”. No obstante, sin lugar a dudas, hay instancias en las que el término “shaheed” se usa e interpreta como apología de una persona designada. Determinar las diferencias en cuanto a intención en una sola publicación, en especial a gran escala, es intrínsecamente difícil. Durante este proceso, como se detalla en su solicitud, Meta identificó dos opciones en cuanto a políticas como posibles alternativas al enfoque que seguía en ese momento con el término “shaheed”. Sin embargo, no se llegó a un consenso entre las partes interesadas sobre qué opción era mejor, por lo que Meta al final no estableció un nuevo enfoque. La empresa hace hincapié en que, debido al volumen de contenido en su plataforma, una inquietud práctica clave es determinar si la aplicación de una política actualizada funciona a gran escala.

III. Cambios en las políticas que Meta pidió al Consejo que tuviera en cuenta

10. Meta presentó las siguientes opciones en cuanto a políticas para que el Consejo las tuviera en cuenta antes de reemplazar la disposición que prohibía la “apología” por una que prohíbe la “glorificación” y las “referencias poco claras”.

1) Continuar suprimiendo todo el contenido que incluye el término “shaheed” para hacer referencia a una persona designada como peligrosa conforme a la política sobre personas y organizaciones peligrosas.

2) Permitir contenido en el que se use la palabra “shaheed” para hacer referencia a una persona designada cuando se cumplan las siguientes condiciones: (i) se utiliza en un contexto permitido conforme a la política sobre personas y organizaciones peligrosas (p. ej., condenas, coberturas informativas, debates académicos o discursos sociales y políticos); (ii) no hay otras evidencias de apología, representación o apoyo sustancial de una persona designada (p. ej., la publicación no hace apología explícita del autor de un ataque terrorista ni legitima su violencia); y (iii) no hay ningún indicio de violencia en el contenido. Conforme lo propone Meta, los indicios son: la representación visual de armamento; declaraciones de intención o apoyo respecto a usar o llevar armamento o armas; referencias a lenguaje militar; referencias a incendios provocados, saqueos u otros métodos de destrucción de la propiedad; referencias a incidentes violentos del mundo real; y declaraciones de intención, incitación, representación, respaldo o defensa relacionadas con la violencia contra otras personas.

3) Suprimir el contenido que incluya la palabra “shaheed” para hacer referencia a una persona designada como peligrosa según la política sobre personas y organizaciones peligrosas de Meta únicamente cuando existan evidencias de apología, representación o apoyo sustancial, o haya indicios de violencia. Estos indicios son los mismos que se indican en la opción 2.

11. Tanto la segunda como la tercera opción buscan entender de un modo más contextualizado el uso del término “shaheed” y no parecen discrepar tanto en cuanto a los resultados que pretenden obtener. Parece haber incluso más semejanzas entre las dos opciones en la medida en que Meta ha ampliado el alcance de las excepciones contextualizadas que aplica a la disposición que prohíbe la apología (ahora glorificación) en general (consulta el párrafo 8 anterior). Conforme a la interpretación del Consejo, tras consultar a Meta sobre las diferencias en la aplicación y el resultado de estas dos opciones, la principal diferencia radica en que la segunda opción exigiría a Meta buscar y confirmar que una de las excepciones (informar, debatir en un tono neutral o condenar) se aplica al contenido, mientras que la tercera opción omitiría ese paso y solo tendría en cuenta si la publicación incluye o no apología adicional (ahora “glorificación” o “referencias poco claras”) o uno de los seis indicios enumerados de violencia. Respecto a todas las opciones que propone Meta, la política se aplicaría de forma que cualquier contenido que nombre o represente a personas designadas como peligrosas, cuya intención resulte ambigua o poco clara se tratará de forma predeterminada como infractor, lo que supondría que la carga respecto a la claridad de la intención recaiga sobre el usuario. Los cambios realizados en diciembre de 2023 incorporan esta aplicación en la norma comunitaria sobre personas y organizaciones peligrosas y explican que, en el caso de las entidades y los hechos designados de nivel 1, la política prohíbe “referencias poco claras o sin contexto”, lo que incluye “humor poco claro, referencias positivas o sin pies de foto que no glorifiquen la violencia o el odio de la entidad designada”. Por ejemplo, se suprimiría la foto de una persona designada, sin otras palabras o comentarios, en virtud de la política que prohíbe las referencias poco claras porque la intención del usuario no sería lo suficientemente explícita.

12. Si bien el Consejo analizó las opciones que presentó Meta, también consideró otras y tuvo en cuenta las actualizaciones de la política acontecidas en diciembre de 2023. Asimismo, como Meta, a través de su solicitud, pidió de forma directa al Consejo que le brindara recomendaciones para abordar desafíos similares en el futuro, el Consejo evaluó asuntos relacionados que tienen que ver con la aplicación de políticas y las prácticas de transparencia de Meta en áreas evidentes en esta opinión consultiva sobre políticas, pero que también tienen implicaciones en la libertad de expresión y en otros derechos humanos de forma más general.

IV. Preguntas que el Consejo hizo a Meta

13. El Consejo planteó 41 preguntas a Meta por escrito. Estas versaban sobre las bases que subyacen a la norma comunitaria sobre personas y organizaciones peligrosas; evidencia del daño que podría generarse si se permitiera la “apología” en las plataformas de Meta; los procesos de aplicación de políticas manuales y automatizados de Meta; el proceso de designación y la lista de entidades designadas de Meta; el sistema de faltas de Meta y las implicaciones prácticas de la adopción de la opción normativa 2 o 3. En octubre de 2023, el Consejo planteó preguntas de seguimiento sobre las tendencias de contenido en cuanto al término “shaheed” en relación con los ataques terroristas que tuvieron lugar el 7 de octubre en Israel y la respuesta militar en curso de Israel, y si el análisis de Meta de las opciones normativas que presentó al Consejo en su solicitud había cambiado en vista de la crisis actual. El Consejo hizo a Meta tres preguntas adicionales sobre la actualización de su política realizada el 29 de diciembre de 2023. La empresa respondió un total de 40 preguntas, pero en una dio una respuesta parcial. Meta solo proporcionó al Consejo la lista de entidades designadas de nivel 1, pero no las de entidades designadas de nivel 2 y 3, y explicó que la “apología” solo se prohíbe si hace referencia a entidades de nivel 1.

2. Participación de partes interesadas

14. El Consejo asesor de contenido recibió 101 comentarios del público dentro de los plazos de presentación. Un total de 72 comentarios procedían de EE. UU. y Canadá, 15 de Oriente Medio y África septentrional, 8 de Europa, 3 de Asia-Pacífico y Oceanía, 2 de Latinoamérica y el Caribe, y 1 de Asia central y meridional. El Consejo recibió todos los comentarios antes del 10 de abril de 2023. Para leer los comentarios del público enviados con consentimiento de publicación, haz clic aquí.

15. Los comentarios abarcaban diversos temas. Muchos explicaban los diferentes significados de la palabra “shaheed” y, por consiguiente, el impacto negativo para la libertad de expresión que tiene la interpretación predeterminada que hace Meta de este término como “apología”, en particular en el discurso político y la documentación sobre derechos humanos. También expresaban inquietudes sobre el uso de la automatización en la aplicación de políticas, así como la lista de designación de Meta, los problemas de transparencia y los posibles sesgos en el proceso de designación. Otros comentarios expresaban inquietud en cuanto a que los cambios normativos podrían conducir a la normalización de grupos terroristas y aumentar la violencia, en particular en Israel y los territorios palestinos ocupados.

16. El Consejo llevó a cabo tres mesas redondas con partes interesadas de Asia suroccidental y África septentrional, África subsahariana y el Sudeste Asiático. Asimismo, se organizaron dos mesas redondas sobre temas específicos, una sobre automatización en la moderación de contenido y la otra sobre la lucha contra el terrorismo y los derechos humanos. Los participantes hicieron hincapié en que el término “shaheed” tiene varios significados. Uno de los posibles significados es “martirio”, que se refiere a la muerte de personas mientras llevan a cabo actos de terrorismo, pero “shaheed” se suele usar con frecuencia en otros contextos, por ejemplo, para describir a las víctimas de actos violentos en dichos ataques. Muchos participantes, incluidos miembros de las comunidades afectadas, expertos en la lucha contra el terrorismo y especialistas en moderación de contenido expresaron preocupación respecto al sesgo en la política y debatieron cómo afecta de forma negativa a la libertad de expresión, en particular para personas que hablan árabe y otras comunidades que usan el término “shaheed”. Otros temas tratados incluían la falta de evidencia que demuestre un vínculo causal entre el uso de “shaheed” en referencia a personas designadas y daños fuera de internet, que los expertos en seguridad nacional y lucha contra el terrorismo también señalaron. Del mismo modo, se expusieron inquietudes respecto a que, si el término no se modera en absoluto, acabaríamos por normalizar a personas designadas y sus organizaciones, que podrían usar los medios sociales para reclutar gente y obtener otros tipos de ayuda sustancial. Otros temas giraban en torno a preocupaciones sobre la calidad de la automatización que Meta usa para moderar el contenido que incluye el término. Asimismo, los participantes exigían más transparencia en cuanto a su uso, así como respecto a la lista de entidades designadas y los procesos de designación de Meta.

17. Para obtener un informe sobre las mesas redondas con partes interesadas, haz clic aquí (para obtener la versión en árabe, haz clic aquí).

3. Competencia y ámbito de actuación del Consejo asesor de contenido

18. Meta puede solicitar opiniones consultivas sobre políticas al Consejo (artículo 3, apartado 7.3, del acta constitutiva), y el Consejo puede, bajo su criterio exclusivo, aceptar o rechazar las solicitudes de Meta (artículo 2, apartado 2.1.3, de los estatutos). Estas opiniones tienen carácter consultivo (artículo 3, apartado 7.3 del acta constitutiva). Meta debe responder a esta opinión en un plazo de 60 días a partir de la publicación (artículo 2, apartado 2.3.2, de los estatutos). El Consejo supervisa la aplicación de las recomendaciones que Meta se ha comprometido a cumplir, y puede hacer un seguimiento de cualquier recomendación incluida en decisiones de casos anteriores.

4. Precedentes y pautas

I. Recomendaciones anteriores del Consejo asesor de contenido

19. En casos anteriores el Consejo ha recomendado a Meta aclarar y acotar el alcance de la política sobre personas y organizaciones peligrosas, así como mejorar el debido proceso y la transparencia en torno a la aplicación de la política.

20. En relación con aumentar la claridad de la política y acotar su alcance, el Consejo ha recomendado a Meta:

• Acotar la definición de “apología” en las pautas de preguntas conocidas para revisores ( Mención de los talibanes en coberturas informativas, recomendación n.º 3).
• Revisar sus pautas internas para aclarar que, por medio de la exención para “informar” correspondiente a la política sobre personas y organizaciones peligrosas, se permiten declaraciones positivas sobre entidades designadas como parte de la cobertura informativa, y cómo se deberían distinguir estos casos de las “apologías” prohibidas ( Mención de los talibanes en coberturas informativas, recomendación n.º 4).
• Añadir criterios y ejemplos ilustrativos a su política para mejorar la comprensión de las excepciones relativas al debate neutral, la condena y las coberturas informativas ( Publicación compartida de Al Jazeera, recomendación n.º 1).
• Actualizar las bases de la política para reflejar que el respeto por la libertad de expresión y otros derechos humanos puede reforzar el valor de seguridad de Meta, y especificar en más detalle los “daños fuera de internet” que la política busca prevenir e interrumpir cuando se reprime el valor de expresión ( Aislamiento de Öcalan, recomendación n.º 4).
• Explicar de qué forma los usuarios pueden dejar clara su intención en las publicaciones que realizan, de modo que estas puedan beneficiarse de las excepciones de la política ( Aislamiento de Öcalan, recomendación n.º 6).
• Explicar la aplicación de términos clave en la política sobre personas y organizaciones peligrosas y brindar ejemplos de estos, incluido el significado de “apología”, y brindar pautas más claras a los usuarios sobre cómo dejar clara la intención que tienen ( Cita nazi, recomendación n.º 2).

21. En relación con el sistema de faltas de Meta, el Consejo recomienda a Meta:

• Explicar el proceso de faltas y penalizaciones para restringir perfiles, páginas, grupos y cuentas en Facebook e Instagram de una forma clara, integral y accesible ( Suspensión de la cuenta del expresidente de EE. UU. Donald Trump, recomendación n.º 15).
• Incluir en la explicación pública de su sistema de faltas de dos vías detalles más exhaustivos y accesibles, y brindar más información general sobre las “faltas graves” ( Mención de los talibanes en coberturas informativas, recomendación n.º 2).
• Proporcionar a los usuarios información accesible sobre la cantidad de infracciones, faltas y penalizaciones que se hayan evaluado en su contra, así como sobre las consecuencias que habrá si se cometen más infracciones en el futuro ( Suspensión de la cuenta del expresidente de EE. UU. Donald Trump, recomendación n.º 16).

22. En relación con la transparencia, el Consejo recomienda a Meta:

• Compartir públicamente su lista de entidades designadas o al menos proporcionar ejemplos ilustrativos de dichas entidades ( Cita nazi, recomendación n.º 3).
• Incluir la cantidad perfiles, páginas y cuentas restringidos (además de las decisiones de supresión de contenido), con información desglosada por región y país, para presentar informes de aplicación de políticas más precisos ( Suspensión de la cuenta del expresidente de EE. UU. Donald Trump, recomendación n.º 17).
• Incluir información más completa, desglosada por región e idioma, sobre las tasas de error en la aplicación de las reglas sobre “apología” y “apoyo” de personas y organizaciones peligrosas ( Aislamiento de Öcalan, recomendación n.º 12).
• Aumentar la información pública sobre tasas de errores y ponerla a disposición por país e idioma en cada norma comunitaria ( Inquietud punyabí en torno a la RSS en la India, recomendación n.º 3).

23. En relación con la automatización, el Consejo recomienda a Meta:

• Informar a los usuarios cuando se usen sistemas automatizados para tomar medidas de aplicación de normas contra su contenido, lo que incluye facilitar descripciones accesibles sobre lo que esto implica ( Síntomas de cáncer de mama y desnudos, recomendación n.º 3).
• Ampliar los informes de transparencia para divulgar datos sobre la cantidad de decisiones de supresión automatizadas por norma comunitaria y la proporción de dichas decisiones que se revirtieron posteriormente tras la revisión manual (Síntomas de cáncer de mama y desnudos, recomendación n.º 6).
• Publicar en sus informes de transparencia las tasas de errores relativas al contenido incluido erróneamente en los bancos de contenido infractor del servicio de coincidencias de contenido multimedia, desglosadas por cada política de contenido. En estos informes se debería incluir información sobre cómo se incorpora el contenido a los bancos y acerca de las iniciativas de la empresa para reducir errores en el proceso ( Caricatura sobre la policía colombiana, recomendación n.º 3).
• Proporcionar una explicación pública de la priorización automática y el cierre de apelaciones ( Mensaje de protesta en Irán, recomendación n.º 7).

24. Para consultar el estado de implementación de estas recomendaciones anteriores en el momento en que concluía esta opinión, haz clic aquí (para consultar la versión en árabe, haz clic aquí).

II. Valores y responsabilidades con los derechos humanos de Meta

25. El análisis y las recomendaciones del Consejo en esta opinión consultiva sobre políticas se han basado en los valores y las responsabilidades con los derechos humanos de Meta.

26. Meta describe la expresión como un valor “fundamental” y señala que se puede limitar en favor de otros valores, de los cuales el más relevante es la seguridad en esta opinión consultiva sobre políticas. En referencia a su valor de seguridad, Meta indica que “suprimimos el contenido que pueda contribuir a poner en riesgo la integridad física de las personas”. Tampoco permite el “contenido que supone una amenaza para las personas”, ya que “tiene potencial para intimidar, excluir o silenciar a otros”.

27. El 16 de marzo de 2021 Meta anunció su política corporativa de derechos humanos, en la que establece su compromiso de respetar los derechos de conformidad con los Principios Rectores sobre las Empresas y los Derechos Humanos (PREDH) de las Naciones Unidas. Los PREDH, respaldados por el Consejo de Derechos Humanos de la ONU en 2011, establecen un marco voluntario de responsabilidades de las empresas privadas en relación con estos derechos. Estas responsabilidades implican que las empresas, entre otras cosas, deben “abstenerse de infringir los derechos humanos de terceros y hacer frente a las consecuencias negativas sobre los derechos humanos en las que tengan alguna participación” (principio 11, PREDH). Se espera que las empresas: “a) Eviten que sus propias actividades provoquen o contribuyan a provocar consecuencias negativas sobre los derechos humanos y hagan frente a esas consecuencias cuando se produzcan; b) Traten de prevenir o mitigar las consecuencias negativas sobre los derechos humanos directamente relacionadas con operaciones, productos o servicios prestados por sus relaciones comerciales, incluso cuando no hayan contribuido a generarlos” (principio 13, PREDH).

28. Como se reconoce en la solicitud que Meta hace al Consejo, sus prácticas de moderación de contenido pueden tener efectos adversos en el derecho a la libertad de expresión. El artículo 19, párrafo 2, del Pacto Internacional de Derechos Civiles y Políticos (PIDCP) protege ampliamente este derecho, dada su importancia para el discurso político, y el Comité de Derechos Humanos ha señalado que también protege la expresión que puede resultar profundamente ofensiva ( Observación general n.º 34, párrafos 11, 13 y 38). Si un Estado impone restricciones sobre la libertad de expresión, estas deben cumplir los requisitos de legalidad, fin legítimo y necesidad y proporcionalidad (artículo 19, párrafo 3, del PIDCP). Estos requisitos reciben habitualmente el nombre de “prueba de tres partes”. El Consejo usa este marco para interpretar los compromisos voluntarios de Meta en materia de derechos humanos, tanto respecto a la decisión sobre el contenido concreto sometido a revisión como en cuanto al enfoque global de la empresa en relación con la gobernanza en estrategia de contenidos. Tal como afirma el Relator Especial de la ONU sobre la promoción y protección del derecho a la libertad de opinión y de expresión: “las empresas no tienen las obligaciones de los Gobiernos, pero su repercusión es de un tipo que las obliga a evaluar el mismo tipo de cuestiones sobre la protección del derecho de sus usuarios a la libertad de expresión” (informe A/74/486, párrafo 41).

29. Se garantiza el derecho a la libertad de expresión a todas las personas de forma igualitaria. Toda restricción a este derecho no debe basarse en la discriminación, lo que incluye por motivos de religión o creencias, idioma u origen nacional (artículos 2 y 26 del PIDCP).

Legalidad (claridad y accesibilidad de las reglas)

30. Cada vez que se aplique una restricción a la libertad de expresión, se debe ofrecer información de fácil acceso y suficientemente clara (en cuanto al alcance, el significado y las consecuencias) que sirva a los usuarios y revisores de contenido como guía sobre qué contenido se permite y cuál está prohibido. La falta de claridad o precisión puede dar lugar a una aplicación de las reglas incoherente y arbitraria (informe de la Relatora Especial de la ONU A/HRC/38/35, párrafo 46). El Consejo había criticado anteriormente la falta de claridad de la política sobre personas y organizaciones peligrosas, y había brindado a Meta recomendaciones para mejorarla ( Aislamiento de Öcalan, recomendaciones n.º 4 y n.º 6; Publicación compartida de Al Jazeera, recomendación n.º 1; Mención de los talibanes coberturas informativas, recomendaciones n.º 3 y n.º 4). Posteriormente, Meta implementó las recomendaciones del Consejo para aclarar su definición de apología.

31. Sin embargo, la actualización que realizó Meta en la política sobre personas y organizaciones peligrosas en diciembre de 2023 presenta nuevas inquietudes que tienen que ver con la legalidad. Si bien Meta brinda ejemplos de publicaciones que infringen la disposición que prohíbe la “representación”, el “apoyo” y la “glorificación”, no lo hace respecto a las “referencias poco claras” que infringen las normas. Las recomendaciones del Consejo en esta opinión consultiva sobre políticas pretenden aumentar la claridad y accesibilidad de las reglas de Meta.

Fin legítimo

32. El artículo 19, párrafo 3, del PIDCP estipula que toda restricción a la libertad expresión debe tener un fin legítimo, incluido proteger los derechos de otras personas, así como velar por los intereses más generales de la sociedad (consulta también la Observación general n.º 34, párrafos 21 y 30). En las bases de la política de Meta relativas a la norma comunitaria sobre personas y organizaciones peligrosas, se explica que el objetivo es “evitar y prevenir daños fuera de internet”, consideración que el Consejo ha determinado, en varios casos, como coherente con el fin legítimo de proteger los derechos de otras personas, incluido el derecho a la vida (artículo 6, PIDCP). Asimismo, el Consejo ha reconocido en instancias anteriores que la apología de entidades designadas puede poner en riesgo de daño los derechos de otras personas y que intentar mitigar dichos daños por medio de la disposición incluida en la norma comunitaria sobre personas y organizaciones peligrosas que prohíbe la apología entraña un fin legítimo ( Mención de los talibanes en coberturas informativas).

Necesidad y proporcionalidad

33. Todas las restricciones que se apliquen a la libertad de expresión “deben ser adecuadas para desempeñar su función protectora; deben ser el instrumento menos perturbador de los que permitan conseguir el resultado deseado, y deben guardar proporción con el interés que debe protegerse” (Observación general n.º 34, párrafo 34).

34. La Resolución 1624 del Consejo de Seguridad de las Naciones Unidas (2005) exige a los Estados, conforme sea necesario y adecuado, y de conformidad con sus obligaciones en virtud de la legislación internacional, “prohibir por ley la incitación a cometer un acto o actos de terrorismo” (párrafo 1a), y resoluciones posteriores expresaron inquietud respecto al uso de internet por parte de organizaciones terroristas (Resolución 2178 [2014] y Resolución 2396 [2017] del UNSC). Si bien estas resoluciones reafirman que los Estados deben abordar y prevenir el terrorismo de conformidad con las obligaciones contraídas en virtud de las leyes de derechos humanos internacionales, el Relator Especial sobre la promoción y protección de los derechos humanos y las libertades fundamentales en la lucha contra el terrorismo ha expresado preocupaciones tanto sobre la ambigüedad de las leyes en el ejercicio de sus obligaciones, incluidas aquellas relacionadas con la expresión online, como también sobre el enfoque de estas respecto al contenido del discurso, no respecto a la intención del orador o el impacto que dicho discurso tiene en los demás (informe A/HRC/40/52, párrafo 37). El Relator Especial concluyó en que criminalizar la propaganda terrorista “exige una probabilidad razonable de que la expresión en cuestión logre incitar a cometer un acto terrorista, estableciendo así un cierto grado de relación causal o de riesgo real de que se produzca el resultado prohibido” ( ibid.). La Declaración Conjunta Sobre Internet y sobre Medidas Anti-Terroristas de la Relatora Especial de la ONU sobre la libertad de expresión, el representante de la OSCE para la libertad de los medios y el Relator Especial para la libertad de expresión de la OEA, con fecha del 21 de diciembre de 2005, indica que, si no se muestra con claridad que el discurso en cuestión constituye una incitación directa e intencionada a participar en hechos terroristas y aumenta de forma directa la probabilidad de que ocurran dichos hechos, un Estado no puede aplicar medidas punitivas para restringir y sancionar el discurso (p. 39). El Relator Especial de la ONU sobre la libertad de expresión también ha establecido un límite alto en el párrafo 36 del informe A/HRC/17/27 publicado el 16 de mayo de 2011, en el que indica que la protección de la seguridad nacional o la lucha contra el terrorismo no pueden aducirse para justificar la restricción del derecho a la libertad de expresión, a no ser que se pueda demostrar que: “a) la expresión tiene por objetivo instigar a la violencia inmediata; b) es probable que instigue a ese tipo de violencia; y c) existe una relación directa e inmediata entre la expresión y la posibilidad de que se produzca ese tipo de violencia”. Conforme al Comité de Derechos Humanos, cuando las medidas de lucha contra el terrorismo prohíben un determinado discurso, términos como “incitación”, “glorificación” y “apología” deben “estar claramente definidos” y no deben “limitar indebidamente la función crucial que los medios de comunicación desempeñan en la tarea de informar a la población sobre los actos de terrorismo” (Observación general n.º 34, párrafos 30 y 46).

35. Si bien estas normas y principios son un importante punto de partida para el análisis del Consejo, las obligaciones y limitaciones que la legislación de derechos humanos internacional impone en los Estados no son idénticas a las responsabilidades y los criterios que puede tener una empresa privada en esta esfera. Las sanciones penales que impone un Estado no equivalen a moderar el contenido en una plataforma de medios sociales, y el Consejo reconoce que Meta, como empresa privada, no estatal, puede adoptar, y en ocasiones adopta, un enfoque en cuanto a la expresión que es más restrictivo que el que se justificaría para un Estado, tomando en cuenta los valores de la empresa (consulta los párrafos 27 y 28 anteriores) y los retos únicos que supone moderar contenido a gran escala. Según la Relatora Especial de la ONU sobre la libertad de expresión: “Cuando las reglas de las empresas difieren de las normas internacionales, las empresas deben dar una explicación razonada de antemano de la diferencia en políticas, de forma que se explique la variación” (informe sobre lenguaje que incita al odio online de la Relatora Especial sobre la libertad de expresión, A/74/486, párrafo 48, 9 de octubre de 2019). En muchas de sus decisiones anteriores, el Consejo ha explorado cómo transformar las normas internacionales diseñadas para los Estados en responsabilidades con los derechos humanos de una empresa, al evaluar el requisito de proporcionalidad, lo que también busca lograr con esta opinión consultiva sobre políticas.

36. En decisiones anteriores del Consejo en relación con la norma comunitaria sobre personas y organizaciones peligrosas, también se han analizado las responsabilidades con los derechos humanos de Meta en torno a la “apología” de entidades designadas. Pese a que el objetivo de evitar que entidades designadas que buscan incitar a la violencia, o reclutar gente o participar en otras formas de apoyo sustancial, es un fin legítimo, el Consejo ha detectado varias instancias en las que el alcance o la imprecisión de la disposición que prohíbe la “apología” restringe la expresión de los usuarios de un modo innecesario y desproporcionado. Por ejemplo, el Consejo anuló la supresión de una publicación de un periódico en idioma urdu sobre un comunicado de los talibanes que afirmaba que había planes para restablecer la educación de mujeres y niñas, porque no la consideró como “apología” ( Mención de los talibanes coberturas informativas). También, de una forma similar, revirtió la supresión de Meta de la publicación de un usuario por atribuir erróneamente una cita a Joseph Goebbels ( Cita nazi) porque había contexto suficiente para que quedara claro que la publicación no hacía apología de la ideología nazi, sino que generaba un debate político en EE. UU. El Consejo también anuló la decisión de Meta de suprimir una publicación sobre un artículo periodístico de Al Jazeera que informaba de las amenazas de violencia de un grupo terrorista designado, que se debería haber conservado en la plataforma, lo que plantea inquietudes respecto al impacto potencialmente discriminatorio de las políticas de Meta ( Publicación compartida de Al Jazeera). En decisiones resumidas e inmediatas, el Consejo también ha revertido o instado a que se reviertan varias decisiones de supresión de Meta de publicaciones en Facebook e Instagram que se habían quitado inicialmente por hacer apología de personas designadas ( Líder anticolonial Amílcar Cabral; Activista libanés; Respuesta al antisemitismo; Distrito electoral federal en Nigeria; Educación de las niñas en Afganistán; Mención de Al Shabaab; Alabado sea Dios; y Rehenes secuestrados en Israel). Muchas de estas decisiones siguen siendo relevantes, sin perjuicio de los cambios recientes que Meta ha hecho en la política sobre personas y organizaciones peligrosas. El Consejo seguirá evaluando esta política en casos futuros, lo que incluye hacerlo en relación con las nuevas disposiciones sobre glorificación y “referencias poco claras”.

6. Recomendaciones y análisis

37. El Consejo asesor de contenido ha emitido siete recomendaciones para Meta relativas a políticas de contenido, aplicación de políticas y transparencia. El Consejo considera que dichas recomendaciones son viables a gran escala y permitirán a Meta aumentar su transparencia y seguir defendiendo sus valores de expresión y seguridad, y, al mismo tiempo, respetar aún más el derecho a la libertad de expresión y otros derechos humanos.

6.1 Política de Meta respecto al término “shaheed”

Recomendación n.º 1 (política de contenido): Meta debe dejar de suponer que el uso de la palabra “shaheed” para hacer referencia a una persona designada o a miembros anónimos de organizaciones designadas siempre conlleva un caso de infracción de las normas al que no se puede aplicar ninguna de las excepciones de la política. El contenido en el que se usa el término “shaheed” para refiere a una persona designada debe suprimirse como “referencia poco clara” únicamente en dos situaciones. En primer lugar, cuando hay presente uno o más de estos tres indicios de violencia: una representación visual de armamento o armas, una declaración de intención o apoyo sobre usar o llevar armamento o armas, o una referencia a un hecho designado. En segundo lugar, cuando el contenido infringe de otra forma las políticas de Meta (p. ej., en el caso de glorificación o cuando la referencia a una persona designada sigue siendo poco clara por otros motivos aparte del uso del término “shaheed”). En ambas situaciones, el contenido igualmente podría cumplir los requisitos para las excepciones en las que se permite “informar sobre personas y organizaciones designadas o sus actividades, debatir sobre ellas en un tono neutral o condenarlas”.

El Consejo considerará implementada esta recomendación cuando Meta actualice públicamente las Normas comunitarias y especifique que las referencias a personas designadas como “shaheed” no se admiten cuando hay presentes uno o más de los tres indicios de violencia.

Recomendación n.º 2 (política de contenido): Para aclarar la disposición que prohíbe las “referencias poco claras”, Meta debe incluir varios ejemplos de contenido infractor, como una publicación en la que se use la palabra “shaheed” para referirse a una persona designada en combinación con uno o más de los tres indicios de violencia que se especifican en la recomendación n.º 1.

El Consejo considerará implementada esta recomendación cuando Meta actualice públicamente sus Normas comunitarias con ejemplos de “referencias poco claras”.

Recomendación n.º 3 (aplicación de políticas): Las pautas internas de aplicación de políticas de Meta también deberían actualizarse para dejar claro que llamar “shaheed” a personas designadas no infringe las normas, excepto si dicha declaración va acompañada de indicios de violencia, y que, incluso si se presentan dichos indicios, el contenido puede beneficiarse de las excepciones que permiten “informar sobre personas y organizaciones designadas o sus actividades, debatir sobre ellas en un tono neutral o condenarlas”.

El Consejo considerará implementada esta recomendación cuando Meta actualice las pautas que proporciona a los revisores a fin de que el término “shaheed” pueda beneficiarse de las excepciones que permiten informar sobre personas y organizaciones designadas o sus actividades, debatir sobre ellas en un tono neutral o condenarlas, y comparta con el Consejo las pautas revisadas.

38. Si bien es imperativo que Meta evite que sus plataformas se usen para incitar actos de violencia terrorista (un fin legítimo al que apuntan sus políticas de moderación de contenido), las responsabilidades de Meta con los derechos humanos exigen que las limitaciones a la expresión sean necesarias y proporcionadas, y, en última instancia, respeten la expresión de personas en comunidades que sufren actos violentos. Si bien uno de los significados del término “shaheed” corresponde a la palabra en inglés “martyr” (mártir en español) y se usa de ese modo, al Consejo no le parece necesario ni proporcionado que Meta suprima todo el contenido únicamente por emplear dicha palabra para referirse a personas designadas. El motivo es que la prohibición categórica no tiene en cuenta la complejidad lingüística del término, conduce a la supresión exagerada del discurso, restringe de manera indebida la libertad de los medios de comunicación y el espacio cívico, y tiene implicaciones negativas graves para la igualdad y la no discriminación. Asimismo, si la empresa acepta e implementa esta recomendación, se seguirán aplicando las disposiciones de la política de Meta que prohíben la “glorificación” y las “referencias poco claras” de forma más general. Por lo tanto, Meta debe dejar de suprimir contenido solo porque incluye el término “shaheed”. En lugar de ello, Meta debe adoptar un enfoque más contextual y definir de forma clara y concisa cuáles son los indicios de violencia que llevarían a interpretar el término “shaheed” como dañino. Como se explica más adelante, el Consejo respalda absolutamente dos de los seis indicios que Meta propone en su solicitud, y recomienda acotar con un tercero. Los otros tres indicios propuestos por Meta, que se proporcionan como pauta a los revisores para la aplicación de la política independiente sobre violencia e incitación, son demasiado generales para los fines que persigue la política sobre personas y organizaciones peligrosas. Al mismo tiempo, el Consejo recomienda a Meta aplicar excepciones que permitan el contenido en el que se informe sobre entidades designadas, se debata sobre ellas en un tono neutral o se condenen cuando haya presentes indicios de violencia. Las recomendaciones anteriores se aplican tanto al singular como al plural del término “shaheed” y a sus variantes en los diversos idiomas que lo han adoptado.

39. El Consejo ha consultado con expertos y partes interesadas para evaluar los daños potenciales que supone permitir el contenido que incluye esta palabra para hacer referencia a entidades designadas en las plataformas de Meta. A algunas partes interesadas les preocupa que las plataformas de Meta favorezcan la propaganda y las iniciativas de reclutamiento de terroristas, y fomenten la violencia y la discriminación, incluso contra personas judías (consulta los comentarios del público, p. ej., PC-11123 de CyberWell Ltd; PC-11153 de Stop Antisemitism Now; PC-11194 del Comité para la Exactitud de la Información de Oriente Medio; PC-11068 de Canadian Antisemitism Education Foundation). Aunque no existe ninguna investigación que demuestre una conexión causal concreta entre “shaheed” y un aumento de la violencia o la discriminación (como se ha señalado anteriormente en la referencia de Meta en la página 10 y que ha surgido de las reuniones que Meta ha mantenido con expertos y partes interesadas antes de solicitar la opinión consultiva sobre políticas), existen casos individuales que vinculan el deseo de martirio con actos violentos. En términos más generales, es motivo de gran preocupación que organizaciones violentas usen los medios sociales para reclutar personas e incitarlas a cometer actos terroristas, normalizar el terrorismo y facilitar el extremismo. La exhaustiva participación de partes interesadas y las consultas a expertos del Consejo, que incluyen una mesa redonda con expertos en la lucha contra el terrorismo (consulta Mesas redondas con partes interesadas) han confirmado dichas presunciones e inquietudes.

40. Diversos comentarios que expertos y partes interesadas han presentado al Consejo también describen las repercusiones negativas que tiene para la libertad de expresión la supresión de contenido que incluye el término “shaheed” (consulta los comentarios del público, p. ej., PC-11196 de Integrity Institute; PC-11164 de SMEX; PC-11183 de ECNL y EFF; PC-11190 de Brennan Centre; PC-11188 de Digital Rights Foundation). Esto incluye suprimir el discurso que emplea el término “shaheed” que no hace apología ni glorifica a entidades designadas, sino que informa de la violencia de organizaciones terroristas o de otro tipo designadas, o mantiene un debate académico o político sobre personas designadas en un tono neutral.

41. Los siguientes ejemplos pueden servir para ilustrar el enfoque que adopta Meta al suprimir contenido en el que se usa el término “shaheed” para hacer referencia a una persona designada:

• Un gobierno comparte un comunicado de prensa en las plataformas de Meta en el que confirma la muerte de una persona designada y utiliza el término honorífico “shaheed” junto a su nombre. Esta publicación se suprimiría ya que Meta supone que la palabra “shaheed” infringe las normas, independientemente del contexto, el cual indica que se trata de un debate neutral.
• Un usuario publica la foto de una manifestación a la que asiste sin una descripción clara que explique la finalidad de dicha concentración. Varios carteles mencionan a una persona designada fallecida con el término “shaheed”. La publicación se suprimiría ya que Meta supone que la imagen que muestra carteles con el nombre de una persona designada en conjunto con la presencia del término “shaheed” infringe las normas.
• Un defensor de los derechos humanos comparte una publicación con la descripción de la ejecución sumaria por orden del Estado de una persona designada, en la que se hace referencia a dicha persona como “shaheed” y se repudia la política antiterrorismo del Gobierno. Esta publicación se suprimiría ya que Meta supone que la palabra “shaheed” infringe las normas, independientemente del contexto del informe.
• El miembro de una comunidad realiza una publicación como queja por el estado de una carretera local que lleva el nombre de una persona designada e incluye el término honorífico “shaheed”. Meta suprimiría la publicación porque supone que el término “shaheed” infringe las normas, independientemente de que se haya mencionado a la persona designada de forma indirecta en un debate sobre asuntos locales.
• El miembro de una familia se refiere a un ser querido que ha muerto en un ataque terrorista como “shaheed” y repudia a los perpetradores, que son personas designadas. Si bien esta publicación no infringiría las normas, el uso de la palabra “shaheed” en un contexto en el que también se menciona a los perpetradores sirve como ejemplo de contenido que se suprime erróneamente conforme al enfoque categórico de Meta.

42. Algunas partes interesadas han expresado su preocupación por el hecho de que, si se aplica un enfoque menos restrictivo respecto al uso del término “shaheed”, se podría producir un efecto acumulativo a gran escala que conduciría a normalizar el terrorismo. Si bien es innegable que, en algunos casos, el término “shaheed” constituye una forma de aprobación o apoyo hacia una persona y los actos violentos que comete, y se usa con este fin, el Consejo no lo considera como motivo suficiente para justificar el veto absoluto que impone la política a esta palabra. En vista de la información que ha obtenido el Consejo de las partes interesadas, incluidos expertos en la lucha contra el terrorismo, y de las investigaciones previas y consultas con partes interesadas de Meta, el Consejo ha llegado a la conclusión de que pesa más el impacto negativo tangible específico que tiene la política actual sobre la libertad de expresión que las posibilidades de que dichos casos tengan importantes efectos dañinos acumulativos. Esto ocurre especialmente porque, incluso aunque se implementen las recomendaciones del Consejo, siguen vigentes medidas de protección que respaldan los objetivos de prevención de la violencia y otros daños que surgen cuando se permite que terroristas y sus seguidores usen libremente las plataformas de Meta.

43. El Consejo ha considerado también que el término “shaheed” tiene diversos significados y se suele usar de formas que no incitan a la violencia o al odio, sino que pretenden informar sobre asuntos de interés publico. Aplicar un veto absoluto implica suprimir mucho contenido que no entraña los daños que las políticas de Meta intentan mitigar. Si bien moderar contenido a gran escala a veces requiere aceptar un porcentaje de errores en la aplicación de políticas, Meta tiene la responsabilidad de evaluar las concesiones en función de todas sus responsabilidades con los derechos humanos. Conforme a todas estas consideraciones, el Consejo ha llegado a la conclusión de que el enfoque que propone concuerda mejor con las responsabilidades con los derechos humanos de Meta.

Importancia cultural y religiosa del término “shaheed” y su diversidad de significados

44. La palabra “shaheed” es un término importante desde el punto de vista cultural y religioso que se utiliza en muchos contextos diferentes y adquiere diversos significados. Los comentarios del público que ha recibido el Consejo y las investigaciones que este ha encargado han proporcionado más información valiosa sobre esta palabra. El término “shaheed” puede significar “dar fe de algo” y “testificar”. También se usa como nombre islámico y, en algunas regiones, como Asia occidental y África septentrional, como apellido (consulta los comentarios del público, p. ej., PC-11196 del Integrity Institute; PC-11164 de SMEX). Esta palabra también se utiliza para hacer referencia a personas que mueren honrando una obligación religiosa. En conflictos armados o ataques violentos, incluidos incidentes en los que participan organizaciones designadas, las personas en ocasiones conmemoran a las víctimas de violencia o terrorismo con la palabra “shaheed” (consulta los comentarios del público, p. ej., PC-11164 de SMEX; PC-11197 del Gobierno de Nueva Zelanda, en el que se reconoce a las víctimas del tiroteo de Christchurch como “shuhada”, que es el plural de “shaheed”; PC-11196 de Integrity Institute, que manifiesta que algunas comunidades musulmanas marginadas, como los rohingyá, en algunos países usan el término “shaheed” para referirse a los refugiados que han tenido que abandonar Myanmar/Birmania a la fuerza debido a la persecución religiosa de la que son víctimas). Las investigaciones cuantitativas respecto al contenido que se ha publicado y sigue vigente en las plataformas de Meta, que el Consejo ha encomendado a Memetica, indican que el término “shaheed” se usa en general para referirse a personas que han muerto por servir a su país o defender su causa, o como víctimas inesperadas de una tragedia natural o la violencia sociopolítica. Si bien dichas publicaciones no asocian necesariamente la palabra “shaheed” con una persona designada, los ejemplos que hemos citado antes (consulta el párrafo 41) ilustran cómo los diversos significados y usos de este término también son pertinentes en ese contexto.

45. Tras los ataques terroristas perpetrados por Hamás contra Israel y la posterior ofensiva militar de Israel en Gaza en octubre de 2023, el Consejo encomendó otra investigación sobre tendencias de contenido en torno al uso del término “shaheed”. De las más de 12 000 publicaciones públicas evaluadas en este análisis, solo dos respaldaban a Hamás. Casi todas las instancias del término se relacionaban con descripciones de las víctimas fatales en la Franja de Gaza, sin mención alguna a personas u organizaciones designadas. Las publicaciones incluían expresiones de dolor de palestinos ante la pérdida de sus seres queridos, mientras que otras mostraban a niños palestinos heridos o los momentos posteriores a los ataques aéreos en Gaza. Se plantearon otras preguntas a Meta, ya que el acceso de los investigadores a tendencias de contenido se limita al contenido público que permanece en las plataformas, pero no incluye aquel que Meta ha suprimido por infringir su política sobre personas y organizaciones peligrosas. La respuesta de Meta reforzó los hallazgos de la investigación. En opinión de la empresa, las tendencias de contenido durante la crisis no demostraron cambios en el uso o la interpretación de la palabra “shaheed” en comparación con el periodo anterior a estos acontecimientos.

46. Estos diversos significados indican que la presunción predeterminada de Meta de que el uso de “shaheed” infringe las normas y provoca daños fuera de internet y, por ende, se debe suprimir siempre, impone costes globales a la libertad de expresión que se deben abordar. Meta explicó que la palabra “shaheed” es probablemente la palabra más moderada en sus plataformas, y diversas partes interesadas han observado que Meta suele suprimir contenido que informa de entidades designadas y hechos violentos ( solicitud de opinión consultiva sobre políticas, página 3). Este enfoque respecto al término “shaheed” es un ejemplo de cómo la empresa prioriza las distinciones claras (evidentes) en la aplicación de políticas a gran escala. Mientras que, en principio, tales distinciones pueden resultar apropiadas en ocasiones, ya que la moderación de contenido a gran escala a menudo implica concesiones difíciles, el Consejo concluye, en este caso, que no hay justificación suficiente que respalde la presunción predeterminada de que la palabra “shaheed” siempre se deba suprimir si se vincula con una persona designada y, por lo tanto, esta se deba descartar. Como Meta admite, su enfoque pasa por alto intencionadamente el contexto lingüístico y cultural, lo que genera una importante sobreaplicación de políticas de dos formas distintas. En primer lugar, supone la supresión de contenido cuyo fin no es hacer apología ni glorificar a nadie, pero que de todos modos infringe la política porque Meta supone que la palabra “shaheed” siempre es un término infractor. En segundo lugar, fomentan tasas más altas de supresiones erróneas de contenido que emplea el término “shaheed” en relación con personas que no son personas designadas, ya que este enfoque tiene arraigado un marco categórico y rechaza evaluaciones más contextuales.

47. Sin perjuicio de los diversos significados de la palabra “shaheed”, el Consejo señala que los ejemplos antes proporcionados incluidos en la disposición de la política de personas y organizaciones peligrosas de Meta que prohíbe la “apología” no estaban contextualizados según los diferentes mercados y se tradujeron de un modo demasiado simplista. El único indicador en el enfoque que adoptan las Normas comunitarias de Meta respecto al contenido que incluye el término “shaheed” era el ejemplo de una frase en la que se llamaba “mártir” a un terrorista condenado, que se enumera en su prohibición más general de la apología. Se utilizó este mismo ejemplo en diversos idiomas y, en árabe, se tradujo como “shaheed”, pese a que los términos no eran necesariamente equivalentes. El Consejo manifiesta que este ejemplo se suprimió en la actualización de la política realizada en diciembre de 2023. Si bien la traducción de este ejemplo no era necesariamente exacta, no es preciso usar ese único ejemplo para afirmar que el término “shaheed” siempre equivale a “mártir”.

48. Por las mismas razones en sentido contrario, las conclusiones del Consejo sobre el término “shaheed” en esta opinión consultiva sobre políticas no deberían transferirse automáticamente al término “mártir” y a todas sus traducciones en otros idiomas. “Martyr” y “shaheed” no son equivalentes directos, ya que el primero tiene menos variabilidad semántica en inglés dentro de las diversas regiones en las que se habla dicho idioma. En los diversos idiomas, Meta deberá evaluar qué términos llegan al umbral de “glorificación” que la empresa estipula, pero sin perder de vista las pautas establecidas en esta opinión consultiva sobre políticas. En cualquier caso, el Consejo no apoya las prohibiciones absolutas que aíslan el término “shaheed” del contexto más general de las publicaciones en las que se incluye, y prohíben su uso. De conformidad con un precedente del Consejo asesor de contenido, estas publicaciones deben evaluarse en su totalidad. Asimismo, de acuerdo con sus políticas de dominio público, Meta debe garantizar que las excepciones de la política permitan “informar sobre personas designadas, debatir sobre ellas en un tono neutral o condenarlas” cuando se emplea el término “mártir” (y los términos referidos a la glorificación o que hagan una referencia positiva conforme corresponda genuinamente). Esto remarca la importancia de que las pautas internas que se proporcionan a los revisores se adapten al contexto local y a las especificidades lingüísticas del lenguaje que se someterá a revisión (consulta inquietudes similares expresadas en la decisión del caso Bot de Myanmar/Birmania, que sustentaron la recomendación n.º 1 de ese caso).

49. En varios casos el Consejo ha obligado a Meta a recalibrar la concesión entre contar con reglas claras aplicables a gran escala y contar con políticas cuya aplicación tiene más en cuenta el contexto, lo que a menudo propicia la libertad de expresión y la voz del usuario (p. ej., respetar que se informe sobre entidades designadas; consulta Mención de los talibanes coberturas informativas y Publicación compartida de Al Jazeera). Si bien casos anteriores no implicaban directamente el uso del término “shaheed”, el Consejo ha advertido sobre suponer que hay malas intenciones cuando se hace referencia a entidades designadas (consulta Cita nazi). Varios comentarios del público resaltan cómo la presunción de Meta de que el término “shaheed” siempre equivale a “apología”, como consecuencia de los errores que cometen los moderadores o la automatización a gran escala, podría conducir a la sobreaplicación de políticas contra personas que conmemoran a las víctimas de ataques terroristas (consulta los comentarios del público, p. ej., PC-11164 de SMEX, p. 1; PC-11197 del Gobierno de Nueva Zelanda). Suprimir dicho contenido incluso podría ir en contra de los objetivos de la política sobre personas y organizaciones peligrosas, ya que podría impedir que se desarrolle un debate sobre la violencia terrorista y las iniciativas para contrarrestar las ideologías que la sustentan (consulta, p. ej., PC-11164 de SMEX).

Respeto por la libertad de los medios de comunicación y el espacio cívico

50. Al Consejo le preocupa especialmente que el enfoque de Meta afecte al periodismo y el discurso cívico. Dichas repercusiones son graves en ubicaciones donde abunda la violencia de organizaciones terroristas o de otro tipo designadas, así como en lugares donde entidades designadas tienen control territorial o, de otro modo, poder político. Diversos comentarios del público han planteado estas inquietudes (consulta los comentarios del público, p. ej., PC-11196 de Integrity Institute; PC-11157 de Palestine Institute for Public Diplomacy). Es posible que organizaciones de medios de comunicación y otros comentaristas sean precavidos a la hora de informar sobre entidades designadas porque quieran evitar las supresiones de contenido que pueden generar sanciones graves, incluida la supresión de páginas o grupos o la inhabilitación de cuentas. En algunos casos, esto puede ser impredecible, por ejemplo, informar sobre una manifestación contra un agente del Gobierno en la que se muestran letreros de apoyo a personas designadas que ese mismo agente ha asesinado. Las convenciones lingüísticas, culturales o religiosas podrían imponer que el término “shaheed” se utilice en referencia a personas asesinadas en estas situaciones, incluidas aquellas que hayan muerto mientras cometían actos de violencia.

51. Cabe tener en cuenta la complejidad de las situaciones en las que entidades designadas pueden estar involucradas en hechos de violencia, incluidas situaciones que podrían llegar a considerarse conflictos armados, resistencia a la ocupación extranjera o disturbios civiles. Los medios de comunicación pueden tener que enfrentarse a importantes retos a la hora de informar sobre estas situaciones, ya que estos deben tener en cuenta las convenciones lingüísticas, culturales o religiosas locales y, al mismo tiempo, cumplir las políticas de contenido de Meta. Como agravante de dichas inquietudes está la falta de transparencia en torno a lista de entidades designadas de Meta y el hecho de que los usuarios no saben en realidad quién figura en ella. Las coberturas informativas sobre dichas situaciones con frecuencia también pueden mostrar indicios de violencia, como la imagen de un arma, que, fuera del contexto de las excepciones que permiten informar, condenar o debatir en un tono neutral, pueden indicar que se está infringiendo la política. Por lo tanto, es de suma importancia que Meta aplique la excepción de la política en instancias en las que el contenido informe sobre personas y organizaciones designadas o sus actividades, debata sobre ellas en un tono neutral o las condene.

52. Con dicha prohibición, también es posible que a los usuarios se les haga más difícil expresar sus opiniones y críticas al vivir en contextos en los que entidades designadas operan o gozan de poder político. Para evitar la confrontación directa y los riesgos para la seguridad, los usuarios en estos contextos pueden formular comentarios desde el respeto que no necesariamente deben interpretarse como apologías. Es motivo de especial preocupación que se sancione ese discurso, ya que los medios sociales constituyen un importante foro de debate, en particular en países y zonas de conflicto en los que se limita la libertad de la prensa.

Igualdad y no discriminación

53. Dado el uso generalizado y muy variable del término “shaheed”, en particular entre hablantes de árabe y de otros idiomas (muchos de ellos musulmanes) que han tomado prestado este término, la política de Meta repercute de forma desproporcionada en estas comunidades. Esto suscita importantes preocupaciones respecto a la responsabilidad de la empresa de respetar los derechos a la igualdad y la no discriminación de todos los usuarios en el ejercicio de sus derechos a la libertad de expresión. Este ha sido el enfoque de muchos comentarios del público (consulta, p. ej., PC-11183 de ECNL y EFF; PC-11190 de Brennan Centre; PC-11188 de Digital Rights Foundation; PC-11196 de Integrity Institute; consulta también el informe de BSR sobre el impacto de Meta en Israel y Palestina). En su informe sobre interrupción del viaje hacia el extremismo, el Programa de las Naciones Unidas para el Desarrollo (PNUD) destaca que los principales factores que impulsan la violencia extremista son, entre otras causas raíz, “la desigualdad, la exclusión, la falta de oportunidades y las percepciones de injusticia”. Al Consejo le preocupa que el enfoque de la política de Meta pueda agravar las experiencias de marginalización y exclusión de determinadas comunidades e incluso resultar contraproducente para la finalidad establecida, que es reducir la violencia. El PNUD señala que, en relación con la moderación de contenido en plataformas online, las empresas deben garantizar que la labor para prevenir el extremismo violento “no conduzca involuntariamente a que se estigmatice o ataque a personas”.

Medios menos invasivos de prevenir el daño

54. Una evaluación de la necesidad y proporcionalidad de la política requiere también que se realice un análisis para determinar si hay medios menos restrictivos de alcanzar el fin legítimo en cuestión. Las recomendaciones del Consejo en esta opinión, de implementarse, exigirían que Meta deje de suprimir categóricamente todas las instancias del término “shaheed” que hacen referencia a personas designadas. No obstante, el contenido que incluye este término se podría seguir suprimiendo en circunstancias más concretas en las que las posibilidades de daños sean menos ambiguas y más evidentes. Las recomendaciones permitirían a Meta seguir suprimiendo contenido en el que se use el término “shaheed” para hacer referencia a personas designadas cuando haya otras infracciones de la política (p. ej., glorificación o referencias poco claras) o el contenido incluya indicios de violencia. De este modo, se seguirá imponiendo una restricción importante y se reducirán, al mismo tiempo, los efectos adversos de la política, incluida su sobreaplicación a grupos lingüísticos o religiosos específicos.

55. La presencia de indicios de violencia junto con la mención del término “shaheed” en referencia a una persona designada indican con más claridad que la publicación tiene como fin hablar de forma positiva sobre la persona debido a su vínculo con la violencia (siempre que no se aplique la excepción que permite informar, debatir en un tono neutral o condenar). En su solicitud, Meta propuso los siguientes indicios de violencia, que tomó prestados de las pautas internas que figuran en la política sobre violencia e incitación: (1) representación visual de armamento; (2) declaración de intención o apoyo en lo que respecta a usar o llevar armamento o armas; (3) referencias a lenguaje militar; (4) referencias a incendios provocados, saqueos o cualquier otro tipo de destrucción de la propiedad; (5) referencias a incidentes violentos del mundo real conocidos; y (6) declaraciones de intención, incitación, representación, respaldo o defensa de la violencia contra otras personas. El Consejo determina que algunos de estos indicios constituyen indicadores útiles de contenido que podría ocasionar daños, que no se pueden inferir únicamente a partir del uso del término “shaheed”. Sin embargo, otros de estos indicios no se consideran tan útiles. La política de violencia e incitación de dominio público se refiere a “indicios temporales de alto riesgo de violencia o daños en el mundo real” en tres ocasiones, cada una relacionada con reglas que se diseñaron para abordar riesgos de violencia en lugares específicos y en acontecimientos de duración concreta, como mesas electorales y manifestaciones. Basar en estos indicios la aplicación de políticas respecto al término “shaheed” en todos los contextos, en los que la posibilidad de daños no es comparablemente probable ni inminente, supone riesgos de aplicación desproporcionada.

56. Para el Consejo, teniendo en cuenta el contexto más general de la política sobre personas y organizaciones peligrosas, es adecuado emplear un conjunto más acotado de indicios. El indicio de representación visual de armamento y el de declaración de intención o apoyo respecto a usar o llevar armamento o armas deberían tomarse como indicadores de contenido que es más probable que contribuya a daños. Para el Consejo, el indicio de “referencias a incidentes de violencia del mundo real conocidos” es demasiado amplio, no obstante, lo que supone la supresión de demasiadas situaciones que muestran la violencia de personas u organizaciones designadas. Por lo tanto, debería definirse mejor y restringirse a acontecimientos designados en la política sobre personas y organizaciones peligrosas de Meta, que incluyen ataques terroristas, actos o delitos de odio, ataques o intentos de ataque con varias víctimas o asesinatos en serie. Los tres indicios que recomienda el Consejo admiten más matices contextuales, lo que garantiza que se sigan suprimiendo las instancias menos ambiguas del término de “shaheed”, que se refieren más explícitamente a hechos de violencia terrorista.

57. El resto de los indicios que propone Meta, “referencias a lenguaje militar” y a “incendios provocados, saqueos u otros métodos de destrucción de la propiedad”, son demasiados amplios y conducirían a una aplicación de políticas imprecisa. El indicio final propuesto que atañe a “declaraciones de intención, incitación, representación, respaldo o defensa de la violencia contra otras personas” conduciría particularmente a contenido que infringe la norma comunitaria sobre violencia e incitación y, por lo tanto, sería redundante e innecesario si se incluyera como indicio de violencia.

58. Contrario a la tercera opción normativa de Meta, el Consejo señala que, incluso cuando se haga referencia a personas designadas junto con estos indicios de violencia, puede que no siempre haya intención de glorificarlas o glorificar sus actos. En su solicitud (páginas 9 y 10), Meta explica el potencial de sobreaplicación y menciona las prácticas que emplean los medios de comunicación para difundir una noticia en Pakistán. En opinión del Consejo, al hablar sobre la muerte de una persona designada, sería habitual que los medios de comunicación publicaran imágenes en las que se la ve con armamento o se muestra la destrucción que ha ocasionado, sin glorificar sus actos. Por este motivo es necesario que los revisores a gran escala reciban formación para conservar contenido en las plataformas cuando haya una clara intención de informar sobre la entidad, debatir sobre ella en un tono neutral o condenarla.

59. Asimismo, los cambios de la política que recomienda el Consejo dejarían intactas una amplia variedad de políticas de contenido que brindan protección contra los terroristas que usan las plataformas de Meta para causar daños fuera de internet y sus seguidores. Las publicaciones que incluyan el término “shaheed” en referencia a una persona designada de nivel 1 se suprimirían en las siguientes circunstancias:

• Cuando venga acompañado de uno o más de los tres indicios de violencia mencionados antes.
• Cuando la publicación incluya otra infracción de la política sobre personas y organizaciones peligrosas (p. ej., representación, apoyo o glorificación de una persona designada). La glorificación incluiría, por ejemplo, legitimar o defender los hechos violentos o de odio de una persona designada, o celebrar su violencia u odio como si fuese un logro.
• Cuando la publicación incluya otra infracción de la política, incluido lenguaje que incita al odio o violencia e incitación.
• Cuando la publicación incluya referencias “poco claras o sin contexto”. Esto incluye “humor poco claro, referencias positivas o sin pies de foto que no glorifiquen la violencia o el odio de la entidad designada”.

60. Las recomendaciones del Consejo no evitarán, por lo tanto, que Meta exija a sus usuarios reflejar claramente la intención de sus publicaciones al referirse a una persona designada de nivel 1 como “shaheed”. Sin embargo, sí evitarán que Meta se base solo en dicho término para afirmar que la publicación infringe las normas. La participación activa de Meta en el Foro Global de Internet contra el Terrorismo y el uso de su base de datos de coincidencias cifradas también garantizan que se suprima contenido que podría ocasionar daños fuera de internet. Las recomendaciones del Consejo permitirán aplicar las políticas de manera más clara, contextualizada y proporcionada a contenido que podría aumentar los riesgos de violencia y, al mismo tiempo, garantizar el respeto a la libertad de expresión y la no discriminación.

Evaluación de opciones alternativas en cuanto a políticas

61. Por estos motivos, el Consejo concluye que continuar con el status quo de la política, que Meta presentó como opción para que el Consejo la tome en consideración, entrañaría restricciones injustificadas a la libertad de expresión que afectan de forma desproporcionada a personas que hablan árabe, comunidades lingüísticas relevantes y musulmanes. La segunda opción normativa que propone Meta es similar a esta tercera opción, que el Consejo recomienda siempre que se intente contextualizar el uso de la palabra “shaheed” y se admita su uso en relación con personas peligrosas de diversas maneras. De hecho, Meta indica que los cambios en la política del 29 de agosto de 2023 permiten más discurso político y social en determinadas instancias, lo que incluye en relación con acuerdos de paz, elecciones, asuntos relativos a los derechos humanos, coberturas informativas y debates académicos, condenatorios o neutros. Esto se aproxima más a los resultados normativos que se buscan alcanzar con la segunda y la tercera opción. La diferencia más significativa entre estas opciones es su viabilidad técnica y la implementación a gran escala. La segunda opción requiere que Meta establezca de manera afirmativa que se aplica una de las excepciones permitidas y, luego, examine si el contenido es infractor o incluye indicios de violencia; la tercera opción tiene como fin examinar de forma directa si hay presentes infracciones o indicios de violencia. Según Meta, sería mucho más engorroso diseñar e implementar de forma técnica la segunda opción porque exige que se tenga en cuenta un amplio conjunto de posibles excepciones (incluso más generales tras los cambios recientes realizados a la política), cada una de las cuales depende en gran medida de una evaluación del contexto. La dificultad de realizar dichas evaluaciones de forma precisa y coherente a su vez implica que es probable que se necesite mucha más revisión manual y haya mayor cantidad de errores de aplicación de políticas.

62. El Consejo considera que es preferible que Meta se base en un enfoque que evalúe de manera más uniforme todas las instancias en que se utilice el término “shaheed” en relación con personas designadas, más allá de las excepciones existentes, y las suprima cuando haya infracciones o uno de los tres indicios de violencia que figuran en la recomendación n.º 1. Tal como el Consejo recomienda, cambiar la política para adoptar una postura más aproximada a la tercera opción que propone Meta para tratar el término “shaheed” como una referencia prohibida solo cuando se infringen normas o hay presentes indicios de violencia específicos permitirá reducir los falsos positivos (supresiones erróneas de contenido no infractor), proteger mejor discurso de interés público y el discurso cívico y libre de los medios de comunicación, y reducir el impacto negativo sobre el derecho a la igualdad y la no discriminación entre grupos afectados. En respuesta a las preguntas del Consejo tras los ataques perpetrados por Hamás contra Israel en octubre de 2023 y el posterior conflicto, Meta confirmó que estos acontecimientos no modificaron su análisis de la escalabilidad de las opciones que presentó en su solicitud. En opinión del Consejo, las recomendaciones propuestas, en función de la tercera opción de Meta, serían menos proclives a posibles errores cuando se desata una crisis de esta magnitud, siempre que sigan disponibles las excepciones que permiten “informar sobre personas y organizaciones designadas o sus actividades, debatir sobre ellas en un tono neutral o condenarlas”. El Consejo reconoce que poner a disposición dichas excepciones suma algo de complejidad a la escalabilidad de la política que Meta propone con su tercera opción, pero ha llegado a la conclusión de que estas son esenciales para la adecuada protección de la libertad de expresión en relación con la moderación del contenido que incluye el término “shaheed”.

63. Una minoría en el Consejo no está de acuerdo con esta conclusión y preferiría recomendar que se mantenga el status quo o que Meta adopte la segunda opción propuesta. Algunos miembros destacan que, de hecho, algunas organizaciones terroristas usan el término “shaheed” para hacer apología o glorificar a personas que cometen actos violentos, lo que puede constituir un incentivo para la radicalización y el reclutamiento. Para estos miembros del Consejo, estos hechos por sí solos representan un peligro lo suficientemente grave de daños fuera de internet para garantizar que se mantenga la prohibición categórica actual, incluso aunque se sepa que es a costa de la libertad de expresión. Otros mencionan la ausencia de datos adecuados respecto a la medida del daño en el mundo real que se puede vincular al uso de “shaheed” en las plataformas de Meta y de la prevalencia de la sobreaplicación en virtud de la política como un motivo para adoptar un enfoque más cauto en el que es mejor equivocarse en pro de una mayor seguridad. Algunos miembros del Consejo también creen que la segunda opción, en la que Meta solo consideraría el significado y el uso del término “shaheed” cuando se determina en principio que es posible aplicar excepciones específicas admitidas, representa una postura transigente muy adaptada, sin perjuicio de las implicaciones de sus dificultades técnicas y su viabilidad a gran escala. El Consejo ha debatido y analizado estas alternativas de forma cabal. Por los motivos expresados en las secciones anteriores, la mayoría ha llegado a la conclusión de que las recomendaciones basadas en la tercera opción de Meta presentan el equilibrio más conveniente.

Faltas y penalizaciones

64. Si bien se puede justificar que se mantengan otras restricciones en virtud de la política sobre personas y organizaciones peligrosas, Meta debe garantizar que dichas restricciones y las sanciones que se impongan debido a una infracción sean proporcionadas. Meta le informó anteriormente al Consejo que siempre aplica faltas graves a todas las infracciones de la política sobre personas y organizaciones peligrosas, incluido lo que recaía en su anterior prohibición de la “apología”. Las faltas graves conducen más rápidamente a penalizaciones en el nivel de la cuenta, como limitación temporal de funciones, suspensión de cuentas e inhabilitación definitiva de páginas y perfiles. Estas medidas pueden restringir gravemente los derechos a la libertad de expresión de los usuarios (lo que también se señala en comentarios del público, como PC-11190 de Brennan Centre). El Consejo le había recomendado a Meta anteriormente que ofreciera mayor claridad y transparencia respecto a su sistema de faltas ( Mención de los talibanes en coberturas informativas, recomendación n.º 2; Suspensión de la cuenta del expresidente de EE. UU. Donald Trump, recomendación n.º 15). En respuesta, Meta ha proporcionado información sobre el sistema de faltas en su Centro de transparencia y permite a los usuarios revisar qué penalizaciones Meta ha aplicado a su cuenta. Hace poco, Meta ha actualizado su sistema de faltas estándar para que sea más proporcionado, pero al público sigue sin quedarle claro si el enfoque de Meta respecto a las “faltas graves” también se ha adaptado.

65. Meta afirmó estar trabajando en cambios al sistema de aplicación de políticas en relación con la política sobre personas y organizaciones peligrosas, aunque la explicación que brindó respecto a la actualización de la política acontecida en diciembre de 2023 no indica si dicho sistema ha cambiado o cambiará, ni de qué manera (p. ej., en relación con las faltas graves). El Consejo acepta cambios en el sistema de aplicación de políticas si esto supone que se apliquen penalizaciones más proporcionadas respecto al contenido que se identifica con precisión como infractor, de conformidad con otras recomendaciones que hizo anteriormente. Las faltas graves son penalizaciones desproporcionadas para infracciones más leves o más ambiguas desde el punto de vista semántico de la política sobre personas y organizaciones peligrosas, lo que genera que siga habiendo altas tasas de sobreaplicación y se trate a los usuarios injustamente.

6.2 Mejorar la transparencia y la auditoría de la lista

Recomendación n.º 4 (transparencia): Para aumentar la transparencia de su lista de entidades y hechos designados, Meta debe explicar en más detalle el procedimiento por el cual se designan estas entidades o hechos. También debe publicar información consolidada sobre la lista de designación de forma regular, incluida la cantidad total de entidades en cada nivel de la lista, así como la cantidad de entidades que se han añadido o suprimido en cada nivel durante el último año.

El Consejo considerará implementada esta recomendación cuando Meta haya publicado la información solicitada en su Centro de transparencia.

Recomendación n.º 5 (aplicación de políticas): Para garantizar que la lista de entidades conforme a la política de personas y organizaciones peligrosas esté actualizada y no incluya personas, organizaciones ni acontecimientos que ya no encajen dentro de la definición de designación, la empresa debe presentar un proceso claro y eficaz para auditar con regularidad las designaciones y suprimir aquellas que ya no satisfacen los criterios publicados.

El Consejo considerará implementada esta recomendación cuando Meta haya creado un proceso de auditoría y lo explique en su Centro de transparencia.

66. Conforme a la política sobre personas y organizaciones peligrosas anterior de Meta, la “apología” y el uso del término “shaheed” solo se prohibían cuando se referían a una entidad designada por Meta como persona peligrosa de nivel 1 (incluidos los perpetradores de “hechos violentos que infringen las normas” designados). Tras la actualización de diciembre de 2023, la política ahora prohíbe las “referencias poco claras” y la glorificación de todas las entidades de nivel 1. Las “referencias poco claras” pueden incluir “humor poco claro, referencias sin contexto y referencias positivas que no glorifiquen la violencia o el odio de la entidad designada”. Los posibles efectos adversos que estas prohibiciones suponen para la libertad de expresión dependen en gran medida de las entidades que Meta designe como organizaciones de nivel 1 y los “hechos violentos que infringen las normas” que designe. Durante las mesas redondas y comentarios del público, muchas partes interesadas criticaron la falta de transparencia y de debido proceso en torno a esta lista, y señalaron que Meta debería publicarla (consulta los comentarios del público, p. ej., PC-11164 de SMEX, p. 3; PC-11157 de Palestine Institute for Public Diplomacy). A una parte interesada le preocupaba que se comparta la lista de manera general, ya que para ella esto podría generar inquietudes de seguridad. Dado que la lista es tan relevante para entender el alcance de las políticas de Meta, la empresa le proporcionó al Consejo su lista de personas y organizaciones designadas de nivel 1, junto con una explicación de sus procesos de designación, que el Consejo estudió en profundidad, como se indica más adelante.

67. Como se mencionó anteriormente, muchas de las listas de las que Meta extrae las designaciones de nivel 1 proceden del Gobierno de EE. UU. y son de dominio público. Estas incluyen “traficantes de narcóticos especialmente designados”, “organizaciones terroristas extranjeras” o “terroristas mundiales especialmente designados”. Estas listas son amplias, incluyen a entidades (y sus miembros) en contextos altamente politizados de diversos continentes y no se limitan a entidades terroristas. La amplitud y la diversidad son indicadores del alcance que pueden tener las prohibiciones que figuran en la política sobre personas y organizaciones peligrosas de Meta, incluida la prohibición más categórica respecto al término “shaheed” en referencia a personas designadas, y su impacto.

68. Meta explicó que su proceso para revisar y aprobar entidades para que se añaden a la lista de personas y organizaciones peligrosas “se basa en la consulta con una variedad de expertos internos, la evaluación de datos internos e investigaciones externas”. Meta cuenta también con un proceso para documentar “miembros adicionales, alias, símbolos, eslóganes, subgrupos o ramas de los medios de comunicación relacionados con organizaciones o personas ya designadas”. En 2022, en función de la una evaluación de Meta de las amenazas procedentes de personas y organizaciones peligrosas en sus plataformas, la empresa designó a menos de 1000 entidades. La mayor parte de las designaciones incluían a entidades criminales, seguidas de cerca por entidades terroristas y, por último, entidades de odio. Meta tiene un proceso normativo para suprimir a entidades de la lista que suele examinar si una entidad continúa alcanzando el límite de la política para que se la siga designando como persona u organización peligrosa, y considera las “medidas activas que una entidad tomó para poner fin a los hechos violentos y procurar la paz”. Actualmente, el proceso se encuentra en una nueva fase de desarrollo, pero, en 2022, se aplicó menos de diez veces. Meta explicó que está realizando auditorías a designaciones anteriores como parte de una iniciativa permanente para mantenerlas lo más actualizadas posible y reflejar con precisión las amenazas de personas y organizaciones peligrosas.

69. Meta explicó que compartir su lista de entidades o hechos designados públicamente, o notificar a las entidades cuando se las añade a la lista, podría suponer riesgos para la aplicación eficaz de políticas y para la seguridad de muchos empleados de Meta. Algunas entidades han emprendido acciones legales contra Meta tras tomar conocimiento de que fueron designadas (consulta el caso Facebook versus CasaPound , 29 de abril de 2020, Tribunal de Roma, Italia, y el análisis aquí). El Consejo manifiesta que, en algunos casos, Meta ha divulgado las designaciones de algunos grupos en respuesta a consultas de los medios de comunicación, y estas se compartieron a través de decisiones del Consejo asesor de contenido.

70. El Consejo le había recomendado a Meta anteriormente compartir públicamente su lista de entidades designadas o al menos proporcionar ejemplos ilustrativos de dichas entidades ( Cita nazi, recomendación n.º 3). Meta aún no ha publicado la lista ni ha proporcionado información actualizada en relación con esta recomendación tras una evaluación de viabilidad. Si Meta continúa rehusándose a implementar esta recomendación, como mínimo debería tomar otras medidas para aumentar la transparencia en torno a la lista. Si publicara datos agregados, mejorara la transparencia del proceso de designación y aumentara la eficacia del proceso para quitar entidades de la lista, los usuarios estarían más al tanto de las reglas y los procesos de Meta. Esto contribuiría a un mayor escrutinio y una asignación de responsabilidades más precisa respecto a las designaciones de Meta y de las consecuencias que recaen en la libertad de expresión y otros derechos humanos. Meta también podría proporcionar a los investigadores acceso a los datos para aumentar la transparencia y, al mismo tiempo, preservar la confidencialidad de la lista.

6.3 Datos para evaluar la precisión de la aplicación de políticas y pruebas de clasificadores

Recomendación n.º 6 (transparencia): Para aumentar la transparencia en cuanto a la aplicación de políticas de Meta, incluidas diferencias regionales entre mercados e idiomas, Meta debe explicar los métodos que emplea para evaluar la precisión de la revisión manual y el rendimiento de los sistemas automatizados en la aplicación de su política sobre personas y organizaciones peligrosas. También debe compartir periódicamente los resultados de las evaluaciones de rendimiento a las que se someten los clasificadores que se utilizan en la aplicación de esta misma política de un modo que permita comparar dichas evaluaciones en diversos idiomas o regiones.

El Consejo considerará implementada esta recomendación cuando Meta incluya dicha información en su Centro de transparencia y en los informes de cumplimiento de las Normas comunitarias.

Recomendación n.º 7 (transparencia): Para informar a las partes interesadas, Meta debe proporcionar explicaciones claras sobre cómo se usan los clasificadores para generar predicciones de infracciones de políticas. Meta también debe explicar cómo establece límites para no tomar medida alguna, derivar contenido a revisión manual o suprimir contenido. Para ello, debe describir los procesos por medio de los cuales establece dichos límites. Esta información se debe proporcionar en el Centro de transparencia de la empresa.

El Consejo considerará implementada esta recomendación cuando Meta haya publicado la información solicitada en su Centro de transparencia.

71. Muchas partes interesadas, en mesas redondas y en comentarios del público, afirmaron que la aplicación de la política sobre personas y organizaciones peligrosas de Meta, y el tratamiento de la palabra “shaheed” tanto en la revisión manual con en la automatizada con frecuencia conducían a errores de aplicación que afectaban a musulmanes y comunidades lingüísticas relevantes (consulta los comentarios del público, p. ej., PC-11183 de ECNL y EFF; PC-11190 de Brennan Centre; PC-11188 de Digital Rights Foundation; PC-11196 de Integrity Institute; consulta también el informe de BSR sobre el impacto de Meta en Israel y Palestina). Asimismo, Meta ha reconocido en su solicitud que esto es consecuencia de su política respecto al término “shaheed”. Para aumentar la transparencia, la precisión y la imparcialidad de los procesos de aplicación de políticas manuales y automatizados de Meta, el Consejo realiza las dos recomendaciones anteriores.

72. Meta explicó que mide con regularidad la precisión de los proceso de aplicación de políticas manuales y automatizados. Los revisores están sujetos a auditorías periódicas que llevan a cabo socios externos de Meta, y dichas auditorías están supeditadas a una evaluación adicional que realiza el equipo de operaciones internacionales de Meta.

73. El Consejo anteriormente había recomendado que, para mejorar sus informes de transparencia y aumentar la información sobre las tasas de errores, Meta permitiera consultar dichos datos por país e idioma en relación con la “apología” y el “apoyo” de personas y organizaciones peligrosas ( Aislamiento de Öcalan, recomendación n.º 12) y con cada norma comunitaria ( Preocupación punyabí en torno a la RSS en la India, recomendación n.º 3). Meta explicó que, tras realizar una evaluación de viabilidad, se rehusó a implementar esta recomendación ( Aislamiento de Öcalan, recomendación n.º 12; actualización trimestral de Meta sobre el Consejo asesor de contenido, cuarto trimestre de 2021, página 21), y se centró su atención en iniciativas a largo plazo para definir métricas de precisión basadas en restricciones de perfiles, páginas y cuentas, así como en la ubicación, no en el idioma ( Inquietud punyabí en torno a la RSS en la India, recomendación n.º 3; actualización trimestral de Meta sobre el Consejo asesor de contenido, segundo trimestre de 2023, página 59). Consciente de las inquietudes generalizadas respecto a la aplicación desproporcionada de la política sobre personas y organizaciones peligrosas, que la postura de Meta respecto al término “shaheed” ilustra, y de la deficiencia en la divulgación de Meta de datos de aplicación útiles, el Consejo reitera estas recomendaciones, así como la importancia de que la empresa aumenta la transparencia en la aplicación de políticas por ubicación.

74. Los datos que Meta actualmente comparte en su Centro de transparencia no brindan suficiente información valiosa sobre la precisión de la revisión manual y el rendimiento de los sistemas automatizados. Para permitir que se supervisen sus métodos, Meta debe explicar cómo evalúa la precisión de la revisión manual y el rendimiento de los sistemas automatizados en la aplicación de su política sobre personas y organizaciones peligrosas. Para aumentar la transparencia en torno al análisis de los clasificadores, Meta debe compartir métricas que incluyan precisión (es decir, que indiquen la proporción de contenido identificado correctamente como infractor de todo el contenido marcado por infringir las normas) y recuperación (es decir, que indiquen el porcentaje de contenido infractor que el clasificador identifica de este modo de todo el contenido que infringe las normas que existe). Publicar información sobre la precisión de la revisión manual en diferentes regiones , y el rendimiento de los clasificadores en distintos idiomas, puede contribuir a que Meta asuma la responsabilidad por las obligaciones que contrajo Meta con los derechos humanos. Por ende, el Consejo reitera sus recomendaciones anteriores e insta a Meta a implementar los cambios propuestos.

75. Meta recurre a los sistemas automatizados, incluidos los clasificadores, para aplicar sus Normas comunitarias. Los modelos de clasificadores automáticamente categorizan los datos en una “clase” o más (p. ej., infractor o no infractor) en función de un conjunto de datos de entrenamiento. Comprender cómo funcionan estos sistemas y qué tan precisos son es fundamental para evaluar cómo Meta modera el contenido a gran escala. Meta proporciona información básica sobre cómo usa los sistemas automatizados para detectar contenido infractor en la sección de aplicación de políticas y explica cómo clasifica y selecciona contenido en la sección de funciones de su Centro de transparencia. Meta ya publicó información en sus informes de cumplimiento de las Normas comunitarias sobre el porcentaje de contenido que suprime antes de que se reporte (es decir, sobre la base de la detección automatizada). Estos datos indican la importancia de la detección automatizada, pero no alcanza a proporcionar métricas detalladas sobre el uso y la precisión de los sistemas automatizados de Meta, en especial sobre las supresiones automatizadas. Este conjunto de recomendaciones tiene como fin reforzar la transparencia en cuanto al uso de algoritmos por parte de Meta.

76. En respuesta a las preguntas que planteó el Consejo, Meta explicó que el clasificador de personas y organizaciones peligrosas para “idioma general: árabe” realiza una revisión inicial de aplicación en función de las políticas de Meta. Los clasificadores intentan detectar contenido que puede infringir esas políticas. El Consejo considera que Meta debe explicar a los usuarios en detalle cómo usa los clasificadores en la sección de aplicación de políticas del Centro de transparencia, de conformidad con sus decisiones anteriores (consulta Síntomas de cáncer de mama y desnudos, recomendación n.º 3; Caricatura sobre la policía colombiana, recomendación n.º 3). En particular, es importante que haya transparencia en los umbrales de confianza aproximados para tomar o no medidas respecto al contenido y para ponerlo en cola para que se someta a revisión manual, así como consideraciones o factores que determinen dichas puntuaciones.

77. Meta explicó que su prueba de precisión no se centra en tipos de infracciones individuales de las políticas, sino en las tasas de precisión generales en toda el área normativa. Meta indicó que “realiza supervisiones de métricas regulares y auditorías de las tasas de precisión a gran escala”. El Consejo había explicado anteriormente que esto no basta para evaluar el rendimiento de Meta en cuanto a la aplicación de las Normas comunitarias en su totalidad (consulta la decisión del caso “Cinturón de Wampum”). Es posible que los sistemas que funcionen bien en términos generales tengan un rendimiento bastante deficiente en subcategorías de contenido, como contenido que incluye el término “shaheed”, en las que tomar decisiones incorrectas perjudica en gran medida los derechos humanos. Por ello, es fundamental que Meta demuestre que emplea la debida diligencia para identificar y minimizar los posibles efectos negativos que sus sistemas tienen en los derechos humanos, y que comparte información para que se analicen estos efectos.

78. Muchas partes interesadas argumentaron que los sistemas de aplicación de políticas basados en algoritmos de Meta no tuvieron en cuenta el contexto, fueron más imprecisos en otros idiomas distintos del inglés y esto tuvo un impacto dispar contra las comunidades musulmanas (consulta los comentarios del público, p. ej., PC-11190 de Brennan Centre).

79. Algunas partes interesadas recomendaron que Meta deje por completo de moderar el término “shaheed” mediante automatización, ya que esta en general no tuvo en cuenta el contexto hasta la fecha (consulta los comentarios del público, p. ej., PC-11164 de SMEX, p. 4; PC-11157 de Palestine Institute for Public Diplomacy). Otros manifestaron que, teniendo en cuenta las penalizaciones graves que se imponen al contenido que infringe la política sobre personas y organizaciones peligrosas, la automatización solo se debe usar para poner el contenido en cola de revisión, pero no para suprimirlo de forma automática (consulta, p. ej., PC-11183 de ECNL y EFF, p. 4f). Las partes interesadas sugirieron que cualquier publicación que use el término “shaheed” en referencia a una persona designada debe “someterse idealmente a revisión manual por parte de un moderador que conozca el contexto local del cual proviene”, (consulta PC-11188 de Digital Rights Foundation, p. 2). Algunas de ellas sugirieron aplicar etiquetas de ubicación al contenido, de modo que la revisión manual y automatizada pueda analizar mejor el contexto (consulta, p. ej., PC-11165 de Taraaz, p. 1). Asimismo, las partes interesadas instaron a Meta a proporcionar más información sobre la precisión de su aplicación de políticas automatizada y a invertir más dinero a fin de mejorar sus sistemas automatizados en idiomas distintos del inglés (consulta, p. ej., PC-11164 de SMEX, p. 5; PC-11190 de Brennan Centre). También presionaron a Meta para que informe sobre sus actividades de moderación “de forma coherente en todos los idiomas, incluido que proporcione datos integrales sobre reportes de usuarios, proporción de acción, tipos de acción, eficacia de las técnicas de mitigación, información de entrenamiento y proporción de apelaciones” (consulta, p. ej., PC-11196 de Integrity Institute).

80. Algunos expertos no están de acuerdo con el uso de “shaheed” en relación con una entidad designada como punto particular de referencia para que los sistemas automatizados supriman el contenido de la plataforma, pero sugerirían usar el término como parte de un enfoque de moderación más estratificado (p. ej., como señal que indica que el contenido debe ponerse en cola de revisión para determinar si cumple las políticas de Meta, pero se debería suprimir por incluir esta referencia solamente).

81. El Consejo reconoce que es necesario recurrir a sistemas algorítmicos al moderar contenido a gran escala, y muchos de estos enfoques propuestos no serían viables a gran escala y con el uso de automatización. Sin embargo, el Consejo concluye también en que Meta debe tomar otras medidas, incluidas las que recomendó anteriormente, para asegurar la transparencia e imparcialidad de dichos sistemas.

* Nota procedimental:

Las opiniones consultivas sobre políticas del Consejo asesor de contenido se preparan a través de comités constituidos por cinco miembros y deben recibir la aprobación de la mayoría de dicha institución. Las decisiones emitidas no reflejan necesariamente las opiniones personales de todos los miembros.

En cuanto a la opinión consultiva sobre políticas, se encargó una investigación independiente a nombre del Consejo. El Consejo recibió asistencia de un centro de investigación independiente en la Universidad de Gotemburgo que recurrió a un equipo de más de 50 sociólogos en seis continentes y más de 3200 especialistas de países de todo el mundo. Asimismo, ha recibido asesoramiento de Duco Advisors, una consultora especializada en geopolítica, confianza, seguridad y tecnología. Memetica, una organización dedicada a la elaboración de estudios de código abierto sobre tendencias en los medios sociales, también ha proporcionado análisis. La empresa Lionbridge Technologies, LLC, con especialistas en más de 350 idiomas que trabajan en 5000 ciudades diferentes, ha aportado las competencias en materia lingüística.

العودة إلى قرارات الحالة والآراء الاستشارية المتعلقة بالسياسة