Símbolos adoptados por organizaciones peligrosas

Resumen

El Consejo asesor de contenido analizó tres casos en los que se usaron símbolos que suelen asociarse a grupos de odio, pero que también pueden emplearse en otras situaciones. El Consejo solicita a Meta que explique cómo crea y aplica su lista de símbolos designados en virtud de su norma comunitaria sobre personas y organizaciones peligrosas, ya que esto aportará mayor transparencia para los usuarios.

Al Consejo le preocupa la posible sobreaplicación de políticas a referencias a símbolos designados. Meta debe desarrollar un sistema que marque automáticamente cuando se eliminan grandes volúmenes de contenido no infractor.

El Consejo sostuvo las decisiones de Meta de eliminar el contenido infractor en dos de los casos y de conservar el contenido en el tercer caso.

Información de los casos

Meta remitió al Consejo tres publicaciones de Instagram en las que se usaron símbolos que suelen asociarse a grupos de odio, pero que también pueden emplearse en otras situaciones. En la primera publicación, se mostraba la imagen de una mujer con las palabras "Slavic Army" (Ejército eslavo) y el símbolo del kolovrat sobre el pañuelo que le cubría el rostro. En la descripción, el usuario expresaba orgullo por ser eslavo y esperaba que "su gente despierte".

La segunda publicación era una secuencia de fotos de una mujer que llevaba un collar con una cruz de hierro que tenía una esvástica, y una camiseta que tenía impresos un fusil AK-47 y la leyenda "Defend Europe" (Defendamos Europa) escrita en fuente Fraktur. La descripción incluía la runa Odal (u Othala), el hashtag #DefendEurope, símbolos con el contorno de un fusil M8 y emojis de corazón.

Tras remitir las dos publicaciones al Consejo, Meta las eliminó porque infringían la política de personas y organizaciones peligrosas.

La tercera publicación es una secuencia de dibujos de una runa Odal envolviendo una espada con una cita sobre sangre y destino de Ernst Jünger, autor, filósofo y soldado alemán. La descripción repite la cita, comparte una historia preliminar selectiva de la runa y señala que se venden impresiones de la imagen. Meta concluyó que esta publicación no infringe ninguna de sus reglas.

Conclusiones principales

La mayoría en el Consejo considera que la publicación con el símbolo del kolovrat glorifica al nacionalismo blanco. Una minoría descarta un vínculo automático con el orgullo eslavo y el nacionalismo blanco. Para el Consejo, la publicación con la leyenda sobre defender a Europa glorifica la supremacía blanca. Las dos publicaciones deberían eliminarse por infringir la política de personas y organizaciones peligrosas. De acuerdo con las bases de la política, Meta elimina contenido que glorifica, apoya o representa ideologías que fomentan el odio. Designa al nacionalismo blanco y la supremacía blanca como ideologías de odio.

La publicación con la cita no infringe la misma política, sino que describe la runa Odal de una manera aparentemente neutra. La cita no glorifica ninguna ideología que incite al odio. La publicación no hace referencia al nazismo ni a otra ideología de odio designada específicamente.

Las decisiones de Meta fueron coherentes con sus responsabilidades en materia de derechos humanos. Para la mayoría, las claves contextuales de la publicación con el símbolo del kolovrat, incluidas las referencias claras al nacionalismo y el ejército eslavos, se pueden interpretar como una incitación a que los seguidores tomen medidas potencialmente violentas, por lo que debe eliminarse. Una minoría está en desacuerdo, ya que señala que la publicación no supone un riesgo directo de incitación a causar daños de forma inminente o probable.

El Consejo considera que eliminar la publicación sobre defender a Europa es una medida necesaria y proporcionada para evitar riesgos de discriminación inmediata, ya que esta contiene varios indicios contextuales que glorifican ideologías de odio designadas. Su eliminación es necesaria y proporcionada conforme al fin legítimo de evitar que las plataformas de Meta se usen de forma indebida para coordinar e incitar actos de violencia o exclusión.

Conservar la publicación con la cita fue una medida justificada, ya que el contenido no hace referencia a una ideología de odio designada y brinda más contexto sobre la obra artística del usuario.

El Consejo reitera sus inquietudes respecto de la falta de transparencia en torno a los procesos de designación conforme al nivel 1 de la política de personas y organizaciones peligrosas, ya que a los usuarios les resulta difícil entender qué entidades, ideologías y símbolos relacionados pueden compartir. Meta debe brindar mayor transparencia respecto de los símbolos designados, en especial aquellos asociados con entidades o ideologías de odio, y establecer un proceso iterativo, internacional y basado en evidencia. Debe publicar una explicación clara de los procesos y criterios empleados para designar los símbolos y cómo aplica políticas a estos.

Al Consejo le preocupa la posible sobreaplicación de políticas a referencias a símbolos designados. Meta no recopila suficientes datos detallados sobre sus prácticas de aplicación de políticas en este ámbito. Meta le indicó al Consejo que su definición interna de "referencia" es más amplia que la definición de "referencia poco clara" en la política pública. Meta debe hacer pública la definición interna de "referencia" y definir sus subcategorías, de modo que resulte más clara y accesible para los usuarios.

Decisión del Consejo asesor de contenido

El Consejo asesor de contenido ratificó las decisiones de Meta de eliminar el contenido en el primer y el segundo caso, y de conservar el contenido en el tercer caso.

El Consejo recomendó a Meta lo siguiente:

• Publicar la definición interna de "referencia" y definir sus subcategorías en virtud de la norma comunitaria sobre personas y organizaciones peligrosas.
• Presentar un proceso para determinar cómo se agregan los símbolos designados a los grupos y a qué grupo se incorpora cada uno de ellos, y auditar de forma periódica todos los símbolos designados, para garantizar que la lista abarque todos los que son relevantes a nivel mundial y se eliminen aquellos que ya no satisfagan los criterios publicados.
• Desarrollar un sistema para identificar y marcar automáticamente instancias en las que los símbolos designados conduzcan a "picos" que sugieren que se está eliminando un gran volumen de contenido no infractor.
• Publicar una explicación clara de cómo crea y aplica su lista de símbolos designados en virtud de su norma comunitaria sobre personas y organizaciones peligrosas.

* Los resúmenes de casos ofrecen información general sobre los casos y no sientan precedentes.

Decisión del caso completa

1. Descripción y contexto del caso

En noviembre de 2024, Meta remitió al Consejo tres publicaciones de Instagram en las que se usaron símbolos que suelen asociarse a grupos de odio, pero que también pueden emplearse en otras situaciones.

La primera publicación, de abril de 2016, mostraba la imagen de una mujer rubia con la parte inferior del rostro cubierto por un pañuelo. El pañuelo que le cubría el rostro tenía superpuestas las palabras "Slavic Army" (Ejército eslavo) y un símbolo del kolovrat. El kolovrat es un tipo de esvástica que usan los neonazis y algunos neopaganos. En la descripción, el usuario expresaba su orgullo por ser eslavo y señalaba que el kolovrat es un símbolo de fe, guerra, paz, odio y amor. El usuario esperaba que su "gente despierte" y afirmaba que seguiría "sus sueños hasta la muerte". La publicación se visualizó menos de 100 veces y recibió menos de 500 reacciones y menos de 50 comentarios. Cuando Meta seleccionó el contenido para remitirlo al Consejo, los expertos en políticas de la empresa determinaron que la publicación infringía la política de personas y organizaciones peligrosas y la eliminaron.

La segunda publicación, de octubre de 2024, era una secuencia de fotos en modo selfie. En ellas se veía a una mujer rubia adoptando varias poses. La mujer llevaba un collar con una cruz de hierro que tenía una esvástica, y una camiseta que tenía impresos un fusil AK-47 y la leyenda "Defend Europe" (Defendamos Europa) escrita en fuente Fraktur. La descripción incluía la runa Odal (u Othala), el hashtag #DefendEurope, símbolos con el contorno de un fusil M8, el emoji de bícep flexionado y emojis de corazón. La runa Odal es un símbolo del alfabeto rúnico que se utilizaba en muchas partes de Europa hasta que se reemplazó por el alfabeto latino en el siglo VII. Los nazis se lo apropiaron, y ahora lo usan los neonazis y otros supremacistas blancos para representar ideas vinculadas con lo que describen como la "raza aria". La publicación se visualizó unas 3.000 veces y recibió menos de 500 reacciones y menos de 50 comentarios. Luego de que la empresa identificara este caso para remitirlo al Consejo, los expertos en políticas de la empresa determinaron que la publicación infringía la política de personas y organizaciones peligrosas y la eliminaron de la plataforma.

La tercera publicación también tiene que ver con una secuencia de imágenes. Publicadas en febrero de 2024, las imágenes son dibujos de una runa Odal envueltos en una espada con una cita sobre la relación entre sangre y destino de Ernst Jünger, autor, filósofo y soldado alemán que luchó en la Primera y la Segunda Guerra Mundial. Jünger era un nacionalista alemán y crítico del partido nazi. La descripción repite la cita y, luego, comparte una historia preliminar selectiva de la runa, sin mencionar su apropiación por parte de los nazis o neonazis. Para concluir, la descripción describe la runa como un símbolo de "herencia, patria y familia" y señala que se venden impresiones de la imagen. La publicación se visualizó unas 25.000 veces y recibió menos de 1.000 reacciones y menos de 50 comentarios. Luego de que Meta seleccionara este contenido para remitirlo al Consejo, los expertos en políticas de la empresa concluyeron que esta tercera publicación no infringe sus reglas.

2. Respuestas de los usuarios

Los autores de las publicaciones recibieron una notificación acerca de la revisión del Consejo y tuvieron la oportunidad de presentar una declaración. Ninguno de ellos lo hizo.

3. Respuestas y políticas de contenido de Meta

I. Políticas de contenido de Meta

La política de personas y organizaciones peligrosas de Meta busca "evitar y prevenir daños en la vida real". De acuerdo con las bases de la política, Meta elimina contenido que "glorifica, apoya o representa ideologías que promueven el odio", descritas también en la política como ideologías de odio. Las ideologías de odio se consideran parte del nivel 1 de la política de Meta, que culmina en la más extensa aplicación de políticas, ya que Meta cree que las entidades y personas de nivel 1 guardan "los vínculos más directos con el daño en la vida real".

Meta explica que designa ideologías prohibidas, entre las que se incluyen "nazismo, supremacía blanca, nacionalismo blanco [y] separatismo blanco" porque están "inherentemente vinculadas a la violencia" e intentan "organizar a las personas en torno a los llamados a la violencia o la exclusión de otras personas en función de sus características protegidas". Junto con lo expresado en esta lista, la empresa indica que elimina "la glorificación, el apoyo y la representaciónexplícitos de estas ideologías".

Meta elimina la glorificación de entidades e ideologías de nivel 1. Entre otras cuestiones, la "glorificación" incluye "legitimar o defender los actos violentos u ofensivos de una entidad designada al afirmar que dichos actos tienen una justificación moral, política, lógica o de otro tipo, lo que los hace aceptables o razonables" o "caracterizar o celebrar la violencia o el odio de una entidad designada como un logro o progreso".

Conforme al nivel 1 de la política, Meta también elimina "referencias poco claras" que incluyen "humor poco claro, referencias positivas o sin descripción que no glorifican la violencia o el odio de la entidad designada". Meta indica dos veces que elimina las "referencias poco claras" a ideologías de odio, primero en las bases de la política y, luego, en la descripción de las organizaciones de nivel 1.

La política permite a los usuarios reportar o condenar a personas u organizaciones designadas, o hablar sobre ellas o sus actividades en un tono neutral en el contexto de un "discurso social y político". Según las bases de la política, Meta requiere que los usuarios "indiquen con claridad su intención" al crear o compartir este tipo de contenido. Si la intención del usuario es "ambigua o confusa", Meta elimina el contenido de forma predeterminada.

II. Respuestas de Meta

Meta determinó que, en el primer y el segundo caso (la publicación con el símbolo del kolovrat y la publicación sobre defender a Europa, respectivamente), se infringe la política de personas y organizaciones peligrosas, mientras que, en el tercer caso (publicación con la cita), no se infringe esta política.

En respuesta a las preguntas del Consejo, Meta explicó que los símbolos asociados con las entidades e ideologías de nivel 1 se organizan en tres grupos. Estos grupos determinan cómo la empresa revisa las publicaciones y qué medidas de aplicación de políticas se pueden tomar. El primer grupo consta de una lista muy breve de símbolos que tomaron "notoriedad pública" como apodos de entidades designadas y que estas usan "de forma rutinaria e intensa". Se considera que los símbolos incluidos en el primer grupo infringen de manera inherente la política de personas y organizaciones peligrosas cuando se moderan a gran escala.

El segundo grupo, que es mucho más extenso, consta de símbolos que se usan principalmente en el contexto de una entidad o ideología designada. Meta considera estos símbolos del segundo grupo como infractores a gran escala. El símbolo del kolovrat en el primer caso recae en este segundo grupo.

El tercer grupo consta de una muy breve lista de símbolos asociados con entidades designadas, pero que también se emplean comúnmente en contextos inofensivos. Meta evalúa estos símbolos en la etapa de escalamiento para evitar riesgos de sobreaplicación de políticas y los considera infractores solo cuando el contexto sugiere que el símbolo utilizado hace referencia a una ideología designada. Este grupo incluye la runa Odal en cuestión que figura en el segundo y el tercer caso.

Con respecto a la aplicación de políticas sobre los símbolos en los tres grupos, si se comparten para glorificar, apoyar o representar una entidad o ideología designada, Meta elimina la publicación y aplica una falta a la cuenta del usuario. Meta también elimina las publicaciones y aplica una falta si se incluye un símbolo del primer grupo como eje principal de la imagen, sin contexto ni descripción. Cuando un símbolo del primer grupo se publica sin contexto o descripción, pero no es el eje principal de la imagen, el contenido se elimina como referencia poco clara, pero no se aplica una falta. Cuando un símbolo del segundo grupo se publica sin contexto o descripción, independientemente de que sea el eje principal o secundario del contenido, se eliminará, sin que se aplique una falta, como referencia poco clara. Cuando una imagen del tercer grupo se publica sin contexto o descripción, el contenido también se elimina como referencia poco clara sin que se aplique una falta.

La empresa señaló que el símbolo del kolovrat se elimina por ser infractor a gran escala, a menos que se use en un contexto admisible, como un debate social o político. Meta determinó que la publicación con el símbolo del kolovrat incluía una referencia al nacionalismo blanco, una ideología de odio designada. Meta consideró que la frase "Slavic pride" (Orgullo eslavo) "busca transmitir el patriotismo racista del nacionalismo blanco". La empresa concluyó que, dadas las referencias poco claras al nacionalismo y al ejército eslavos incluidas en el contenido, y a sus menciones de naturaleza militar, el símbolo se usó como referencia de la ideología neonazi cuya raigambre es la creencia de la supremacía eslava.

Meta permite la runa Odal, a menos que, tras revisarse en el proceso de escalamiento, la empresa determine que el símbolo se usa en un contexto de odio. La empresa concluyó que, en la publicación sobre defender a Europa, la runa Odal se compartió con un contexto que indicaba que esta glorificaba la supremacía blanca. Meta afirmó que hubo varias señales que le permitieron determinar que el símbolo tenía como fin celebrar la violencia de una ideología de odio. Entre ellas, estaban "#DefendEurope", un hashtag que suelen usar grupos que defienden la supremacía blanca europea; la frase "Defend Europe" (Defendamos Europa) escrita en fuente Fraktur y la cruz de hierro alrededor del cuello de la mujer, que se asocian con materiales y propaganda nazi; y los símbolos del contorno de un fusil M8 en la descripción con emojis de armas y corazón alrededor de la runa Odal.

Meta determinó que la publicación de la cita no infringe la política de personas y organizaciones peligrosas. La empresa manifestó que la runa Odal iba acompañada por una descripción neutra de los orígenes históricos y del significado lingüístico de la runa. Si bien el análisis de la cita de Jünger era más complejo, Meta concluyó en última instancia que no había un indicio claro de que la runa Odal se usara en referencia al nazismo o a la supremacía blanca.

En respuesta a las preguntas del Consejo, Meta explicó que no completó una auditoría sistemática de la primera ni de la tercera lista de símbolos. La empresa actualiza constantemente la segunda lista. Meta agregó que la empresa está analizando otro desarrollo normativo en este ámbito que permitirá informar cómo puede abordar futuras auditorías.

El Consejo planteó preguntas sobre la designación de símbolos designados y la aplicación de políticas respecto de ellos. Meta respondió todas las preguntas.

4. Comentarios del público

El Consejo asesor de contenido recibió 100 comentarios del público que cumplieron las condiciones de presentación. De estos comentarios, 95 se enviaron desde los Estados Unidos y Canadá, dos eran de Asia central y meridional, dos eran de Oriente Medio y África septentrional y uno procedía de Europa. Para leer los comentarios del público enviados con consentimiento de publicación, haz clic aquí.

Los comentarios abarcaban los siguientes temas: enfoques respecto de la moderación de símbolos potencialmente de odio; la importancia de permitir que los usuarios brinden más contexto respecto de contenido potencialmente infractor; la necesidad de trabajar con expertos en el tema externos y socios de confianza; y propuestas para centrar el entrenamiento de la IA en el análisis de una combinación de señales.

5. Análisis del Consejo asesor de contenido

El Consejo seleccionó estos casos para considerar cómo Meta debe moderar los símbolos que pueden promover organizaciones peligrosas y respetar, al mismo tiempo, la libertad de expresión. Estos casos se enmarcan en la prioridad estratégica del Consejo sobre lenguaje que incita al odio contra grupos marginados.

El Consejo analizó las decisiones de Meta en estos casos en relación con sus políticas de contenido, valores y responsabilidades en materia de derechos humanos. Asimismo, el Consejo evaluó las implicaciones de este caso para el enfoque más general de Meta en cuanto a la gobernanza de contenido.

5.1 Cumplimiento de las políticas de contenido de Meta

El Consejo está de acuerdo con Meta en que las publicaciones con el símbolo de kolovrat y sobre defender a Europa infringían la política de personas y organizaciones peligrosas, mientras que la de la cita no.

Si bien el Consejo está de acuerdo con Meta en que la publicación con el símbolo del kolovrat debe eliminarse, adopta esa postura por un motivo diferente. Para Meta, la publicación con el símbolo del kolovrat infringe las normas porque hace "referencia" a una ideología de odio. Por otro lado, una mayoría en el Consejo considera que glorifica el nacionalismo blanco, una ideología de odio designada. Las referencias al orgullo y el ejército eslavos, junto con las expresiones de esperanza de que su "gente despierte" y la afirmación de que seguirá "sus sueños hasta la muerte", ilustran que la intención del usuario es glorificar conforme al nivel 1 de la política, en particular (como lo detalla esta política) para "legitimar o defender los actos violentos u ofensivos... al afirmar que dichos actos tienen una justificación moral, política, lógica o de otro tipo, lo que los hace aceptables o razonables". Dado que la excepción de la política aplicada al "discurso social y político" exige que la publicación no incluya glorificación, esta publicación no reúne los requisitos para obtener dicha excepción.

Una minoría en el Consejo considera que la primera publicación no infringe ninguna norma porque no observa referencias poco claras ni glorificación de una ideología de odio. Esta minoría descarta un vínculo automático entre el orgullo eslavo, término que también tiene connotaciones culturales e históricas, y el nacionalismo blanco. La publicación se podría haber beneficiado de la excepción de la política aplicada al "discurso social y político". Su eliminación es un indicador de que recurrir a la presunción de "referencias poco claras" en la política podría conducir a una sobreaplicación de políticas innecesaria. Asimismo, la minoría urge a Meta a revisar de manera periódica la precisión y exactitud del impacto que tiene esta línea normativa en las eliminaciones en general y en qué ámbitos se debe acotar y ajustar.

El Consejo considera que la publicación sobre defender a Europa celebra la violencia de la supremacía blanca, lo que constituye glorificación de una ideología de odio designada. Las siguientes señales contextuales en la publicación respaldan la conclusión del Consejo. Si bien cada una de estas señales a título individual no constituyen una infracción, juntas conforman una glorificación explícita:

• La cruz de hierro con una esvástica en el cuello de la mujer. La cruz de hierro es una medalla militar alemana de la que los nazis se apropiaron agregándole una esvástica. Si bien la medalla se dejó de fabricar luego de la Segunda Guerra Mundial, los grupos neonazis y de supremacía blanca la adoptaron como un símbolo de odio.
• El uso de la frase "Defend Europe" (Defendamos Europa) en la camiseta, en fuente Fraktur, y en la descripción. "Defendamos Europa" es un eslogan que usan los supremacistas blancos y otras organizaciones antimigratorias vinculadas con actos de violencia. La fuente Fraktur es un estilo de fuente en ocasiones asociados con los nazis y neonazis.
• La runa Odal en conjunto con símbolos del contorno de un fusil M8, el emoji de bícep flexionado y emojis de corazón en la descripción.

Dado que la publicación incluía glorificación, el Consejo concluyó que la excepción de la política respecto del "discurso social y político" no podía aplicarse a esta publicación.

El Consejo está de acuerdo con Meta en que la publicación de la cita no infringe la política de personas y organizaciones peligrosas. La publicación describe la runa Odal de un modo aparentemente neutro, sin mención de su apropiación por parte de los nazis, y su intención es vender una obra artística relacionada con la runa. Si bien la publicación incluye una cita de Ernst Jünger, nacionalista alemán, las referencias a sangre y destino en la cita por sí mismas no constituyen glorificación, apoyo o representación de ninguna ideología de odio designada. De modo más general, la publicación no hace referencia al nazismo o a otra ideología de odio designada específicamente. Al parecer aporta contexto sobre la obra en la publicación, que incluye la runa Odal. Aunque la espada puede interpretarse como símbolo de violencia, un solo indicador no basta para que haya una infracción.

5.2 Cumplimiento de las responsabilidades de Meta en materia de derechos humanos

Para el Consejo, la decisión de Meta de eliminar el contenido en el primer y el segundo caso, pero conservarlo en la plataforma en el tercero, fue coherente con las responsabilidades de Meta en materia de derechos humanos. Una minoría de miembros del Consejo no están de acuerdo con que se elimine la primera publicación.

Libertad de expresión (artículo 19 del ICCPR)

El artículo 19 del Pacto Internacional de Derechos Civiles y Políticos (ICCPR) establece una amplia protección de la libertad de expresión, incluidos el "discurso político", las "opiniones sobre asuntos públicos" y la expresión que puede considerarse "profundamente ofensiva" ( observación general n.º 34, párrafo 11). Si un Estado impone restricciones sobre la libertad de expresión, estas deben cumplir los requisitos de legalidad, fin legítimo y necesidad y proporcionalidad (artículo 19, párrafo 3, ICCPR). Se suele hacer referencia a estos requisitos como "prueba de tres partes". El Consejo utiliza este marco para interpretar las responsabilidades de Meta en materia de derechos humanos en línea con los Principios Rectores sobre las Empresas y los Derechos Humanos de las Naciones Unidas, que Meta se comprometió a cumplir en su Política corporativa de derechos humanos. El Consejo lo hace tanto respecto de la decisión sobre el contenido en particular en revisión como de lo que esto pone de manifiesto acerca del enfoque más amplio de Meta en relación con la gestión del contenido. Como indicó el Relator Especial de la ONU sobre libertad de expresión, "las empresas no tienen las obligaciones de los Gobiernos, pero sus efectos son de un tipo que les obliga a evaluar el mismo tipo de cuestiones sobre la protección del derecho de sus usuarios a la libertad de expresión" (A/74/486, párrafo 41).

I. Legalidad (claridad y accesibilidad de las reglas)

El principio de legalidad exige que las reglas que limitan la expresión sean accesibles y claras, y estén formuladas con precisión suficiente para que una persona pueda regular su comportamiento de conformidad con ellas (observación general n.º 34, párrafo 25). Asimismo, estas reglas "no pueden conferir a los encargados de su aplicación una discrecionalidad sin trabas para restringir la libertad de expresión" y deben "proporcionar suficientes orientaciones a los encargados de su ejecución para que puedan distinguir cuáles expresiones pueden restringirse correctamente y cuáles no" (ibidem). El Relator Especial sobre la libertad de expresión de la ONU dijo que, cuando se aplican a la gobernanza del discurso online por parte de actores privados, las reglas deben ser claras y específicas (A/HRC/38/35, párrafo 46). Las personas que usan las plataformas de Meta deben ser capaces de acceder a las reglas y entenderlas, y los revisores de contenido deben tener pautas claras para su aplicación.

El Consejo reitera sus inquietudes respecto de la falta de transparencia en torno a los procesos de designación conforme al nivel 1 de la política de personas y organizaciones peligrosas. Esto hace que resulte difícil para los usuarios entender qué entidades, ideologías y símbolos relacionados pueden compartir (consulta el caso Campaña electoral 2023 en Grecia). El Consejo instó a Meta a publicar la lista de nivel 1 (consulta el caso Cita nazi). Meta se negó a publicar la lista bajo el argumento de que dicha publicación podría permitir que "personas malintencionadas eludan los mecanismos de aplicación de políticas" y afectar la "seguridad de los empleados de [Meta]". Meta se comprometió a incluir hipervínculos a las listas de organizaciones terroristas extranjeras y de terroristas internacionales especialmente designados de los Estados Unidos en sus Normas comunitarias, en las que se mencionan dichas listas, en respuesta a la recomendación n.º 3 del caso Cautivo en video de las Fuerzas de Apoyo Rápido de Sudán. No obstante, la lista de entidades que incitan al odio no se basa en una lista pública equivalente, por lo que resulta complicado para las personas deducir qué símbolos de odio están prohibidos.

El Consejo insta a Meta a brindar mayor transparencia respecto de los símbolos designados, en especial aquellos asociados con entidades o ideologías de odio. El Consejo urge a Meta a presentar un proceso claro para determinar cómo se agregan los símbolos a estos tres grupos y a qué grupo se incorpora cada uno. El Consejo considera que este proceso, como mínimo, debe tener una naturaleza iterativa, tener alcance mundial y basarse en evidencia. En primer lugar, este proceso permitirá garantizar que la lista de símbolos se mantenga actualizada y que los símbolos que no reúnan los requisitos de inclusión se eliminen, mientras que los restantes se incluyan a través del proceso de evaluación más pertinente. Por ejemplo, todos los símbolos designados con varios motivos no infractores se evalúan por medio de una revisión en escalamiento a cargo de equipos internos de expertos en el tema de Meta, o bien se ofrecen pautas específicas a los revisores. Al determinar los casos de uso dominantes de símbolos específicos, Meta debe recurrir a los resultados de investigaciones relevantes, que pueden incluir investigaciones sobre las tendencias en el uso de símbolos en las plataformas de la empresa en diversos idiomas y regiones. Luego, de conformidad con los compromisos de Meta con el desarrollo y la aplicación de sus reglas internacionales de un modo no discriminatorio (artículos 2 y 26 del ICCPR; observación general n.º 34, párrafo 26), Meta debe revisar la lista de símbolos designados. Al hacerlo, Meta debe asegurarse de que esta abarque, por ejemplo, ideologías de odio no solo en regiones con minoría global, sino también con mayoría global, tal como esbozó el Consejo en la decisión del caso Publicaciones que muestran la bandera de la época del apartheid en Sudáfrica. El Consejo señaló también que el uso de símbolos puede cambiar con el tiempo y, por ende, la lista debe auditarse de forma periódica para abordar los riesgos de posible sobreaplicación o subaplicación de políticas, en función de la evolución de los usos.

Para brindar mayor transparencia a los usuarios, Meta debe publicar también una explicación clara de cómo crea y aplica su lista de símbolos designados. Esta explicación debe incluir los procesos y criterios para designar símbolos y definir cómo la empresa aplica políticas respecto de los diferentes símbolos, incluida la aplicación de faltas. Meta debe publicar esta información en el Centro de transparencia e incluir un hipervínculo a ella en el texto público de la política de personas y organizaciones peligrosas.

Al Consejo también le preocupa la falta de claridad y la potencial amplitud de la línea normativa sobre "referencias" en función de la cual Meta eliminó la primera publicación. En respuesta a las preguntas del Consejo, la empresa declaró que su definición interna de "referencia" es más amplia que la definición de "referencia poco clara" en la política de personas y organizaciones peligrosas pública. Una referencia "incluye, sin limitación, referencias positivas, representaciones indirectas, fotos sin descripción, sátira o humor poco claros y símbolos". En virtud de la sección "Eliminamos" de la política, Meta solo manifiesta eliminar "referencias poco claras o sin contexto si la intención del usuario no estaba claramente indicada". Esto incluye "humor poco claro, referencias positivas o sin pies de foto que no glorifican la violencia o el odio de la entidad designada". Por ello, el Consejo solicita a Meta que ponga a disposición pública la definición de "referencias" y defina sus subcategorías, como "referencias positivas" y "representación indirecta", para garantizar que la línea normativa sea lo suficientemente clara y accesible para los usuarios.

II. Fin legítimo

Cualquier restricción sobre la libertad de expresión debe procurar uno o más de los fines legítimos mencionados en el ICCPR, entre ellos, proteger los derechos de los demás (artículo 19, párrafo 3, del ICCPR). El Consejo determinó que la política de personas y organizaciones peligrosas, cuyo fin es "evitar y prevenir daños en la vida real", tiene como fin legítimo proteger los derechos de los demás, como el derecho a la vida (artículo 6 del ICCPR) y el derecho a la no discriminación y a la igualdad (artículos 2 y 26 del ICCPR), porque abarca organizaciones que promueven el odio, la violencia y la discriminación, así como también eventos violentos motivados por el odio (consulta los casos Cautivo en video de las Fuerzas de Apoyo Rápido de Sudán y Campaña electoral 2023 en Grecia).

III. Necesidad y proporcionalidad

El principio de necesidad y proporcionalidad previsto en el artículo 19(3) del ICCPR exige que las restricciones que se apliquen a la expresión "deben ser adecuadas para desempeñar su función protectora; deben ser el instrumento menos perturbador de los que permitan conseguir el resultado deseado; y deben guardar proporción con el interés que debe protegerse" (observación general n.º 34, párrafo 34).

Con respecto a las obligaciones del Estado, el Comité de Derechos Humanos de la ONU manifestó: "Por lo general, el uso de banderas, uniformes, signos y pancartas se debe considerar como una forma legítima de expresión que no debe restringirse, aunque esos símbolos recuerden un pasado doloroso. En casos excepcionales, cuando esos símbolos se asocien, de manera directa y predominante, con la incitación a la discriminación, la hostilidad o la violencia, se deben aplicar las restricciones correspondientes" (observación general n.º 37 sobre el derecho a la reunión pacífica, CCPR/C/GC/37, párrafo 51).

Una mayoría en el Consejo considera que la eliminación de la publicación con el símbolo del kolovrat es una respuesta necesaria y proporcionada para evitar que las plataformas de Meta se exploten para coordinar e incitar actos de violencia y discriminación. Dadas las claves contextuales en la publicación, incluidas las referencias claras al nacionalismo y el ejército eslavos, esta se puede interpretar como una incitación a que los seguidores tomen medidas potencialmente violentas. Para esta mayoría, la publicación muestra cómo los símbolos pueden ser parte de las iniciativas online para crear y cultivar el apoyo de ideologías que incrementan la violencia o la exclusión. Una minoría está en desacuerdo, ya que señala que la publicación no supone un riesgo directo de incitación a la violencia o la discriminación inminente o probable. Por ende, Meta podría haber recurrido a otras herramientas, entre ellas, no recomendar la publicación o restarle alcance en general. Según esta minoría, eliminarla no es una medida necesaria ni proporcionada.

Para el Consejo, la eliminación de la publicación sobre defender a Europa satisface los principios de necesidad y proporcionalidad para prevenir violencia y discriminación inminente o probable. A diferencia del contenido en la decisión del caso Publicaciones que muestran la bandera de la época del apartheid en Sudáfrica, la publicación contiene varios indicios contextuales que se vinculan de forma más directa con la glorificación de la violencia, según se describe en la sección 5.1. Esta publicación ilustra cómo los símbolos de odio constituyen puntos de convergencia para que redes de actores intenten forjar conexiones y reclutar personas con ideas afines, al tiempo que evaden la moderación del contenido. Por lo tanto, la eliminación de la publicación sobre defender a Europa también es necesaria y proporcionada conforme al fin legítimo de evitar que las plataformas de Meta se usen de forma indebida para coordinar e incitar actos de violencia o exclusión.

Para el Consejo, la decisión de Meta de conservar la publicación con la cita fue una medida justificada, ya que el contenido no hace referencia a una ideología de odio designada, sino que brinda más contexto sobre la obra artística del usuario. Por ende, no se garantizó la eliminación.

Al Consejo también le preocupa la posible sobreaplicación de políticas a referencias a símbolos designados en virtud de la norma comunitaria sobre personas y organizaciones peligrosas. Meta no recopila suficientes datos detallados sobre sus prácticas de aplicación de políticas en este ámbito. Meta debe desarrollar un sistema para identificar y marcar automáticamente instancias en las que los símbolos designados conduzcan a "picos" que sugieren que se está eliminando un gran volumen de contenido no infractor, similar al sistema que la empresa creó en respuesta a la recomendación n.º 2 del Consejo en el caso Caricatura sobre la policía colombiana. El sistema permitirá a Meta analizar los "picos" que tengan que ver con símbolos designados y así podrá basar en ello las futuras acciones, incluido modificar sus prácticas para que sean más precisas y exactas. Por ejemplo, Meta puede considerar realizar cambios normativos o ajustes en las medidas de aplicación de políticas si hay un amplio volumen de falsos positivos que generen eliminaciones erróneas de referencias a símbolos designados, cuando el contenido es de hecho no infractor o debería recaer en la excepción de la política que se aplica al "discurso social o político". El Consejo espera que Meta desarrolle este sistema y le informe sobre las medidas tomadas para evitar la posible sobreaplicación de políticas que dicho sistema detecte. Asimismo, el Consejo anticipa revisar las medidas tomadas en un caso futuro.

6. Decisión del Consejo asesor de contenido

El Consejo asesor de contenido ratificó las decisiones de Meta de eliminar el contenido en el primer y el segundo caso, y de conservar el contenido en el tercer caso.

7. Recomendaciones

Política de contenido

1. Para ofrecer más claridad a los usuarios, Meta debe publicar la definición interna de "referencia" y definir sus subcategorías en virtud de la norma comunitaria sobre personas y organizaciones peligrosas.

El Consejo considerará implementada esta recomendación cuando Meta actualice la norma comunitaria sobre personas y organizaciones peligrosas.

Aplicación de políticas

2. Para garantizar que la lista símbolos designados en virtud de la política de personas y organizaciones peligrosas no incluya símbolos que ya no cumplen con los criterios de Meta para que se los incluya, Meta debe presentar un proceso claro y basado en evidencia para determinar cómo los símbolos se agregan a los grupos y a qué grupo se incorpora cada uno de ellos, y auditar de forma periódica todos los símbolos designados, a fin de asegurar que la lista abarque todos los que son relevantes a nivel mundial y que se eliminen aquellos que ya no cumplen con los criterios publicados, conforme se detalla en la sección 5.2 de esta decisión.

El Consejo considerará implementada esta recomendación cuando Meta haya establecido este proceso y brinde al Consejo la documentación y los resultados de su primera auditoría en función de estas nuevas reglas.

3. Para abordar los posibles falsos positivos en lo que respecta a símbolos designados en virtud de la norma comunitaria sobre personas y organizaciones peligrosas, Meta debe desarrollar un sistema para identificar y marcar automáticamente instancias en las que los símbolos designados conduzcan a "picos" que sugieren que se está eliminando un gran volumen de contenido no infractor, similar al sistema que la empresa creó en respuesta a la recomendación n.º 2 del Consejo en el caso Caricatura sobre la policía colombiana. El sistema permitirá a Meta analizar los "picos" que tengan que ver con símbolos designados y así podrá basar en ello las futuras acciones, incluido modificar sus prácticas para que sean más precisas y exactas.

El Consejo considerará implementada esta recomendación cuando Meta desarrolle este sistema y le informe sobre las medidas tomadas para evitar la posible sobreaplicación de políticas que dicho sistema detecte.

Transparencia

4. A fin de brindar mayor transparencia a los usuarios, Meta debe publicar una explicación clara de cómo crea y aplica su lista de símbolos designados en virtud de su norma comunitaria sobre personas y organizaciones peligrosas. Esta explicación debe incluir los procesos y criterios para designar símbolos y definir cómo la empresa aplica políticas respecto de los diferentes símbolos, incluidas información sobre faltas y otras medidas de aplicación de políticas que se tomen contra los símbolos designados.

El Consejo considerará implementada esta recomendación cuando la información se publique en el Centro de transparencia y se incluya un hipervínculo a ella en la norma comunitaria sobre personas y organizaciones peligrosas pública.

* Nota de procedimiento:

• La preparación de las decisiones del Consejo asesor de contenido está a cargo de paneles conformados por cinco miembros, quienes deben aprobarlas por mayoría. Las decisiones del Consejo no necesariamente representan las opiniones de todos los miembros.
• En virtud de su acta constitutiva, el Consejo asesor de contenido tiene la facultad de revisar apelaciones de usuarios cuyo contenido fue eliminado por Meta, apelaciones de usuarios que reportaron contenido que Meta mantuvo publicado y decisiones que Meta le presente (artículo 2, sección 1, del acta constitutiva). El Consejo tiene autoridad vinculante para ratificar o anular las decisiones sobre contenido de Meta (artículo 3, sección 5, y artículo 4 del acta constitutiva). El Consejo podrá emitir recomendaciones no vinculantes a las que Meta deberá responder (artículo 3, sección 4, y artículo 4). Cuando Meta se compromete a tomar medidas respecto de las recomendaciones, el Consejo supervisa su implementación.
• En cuanto a la decisión del caso, se encargó una investigación independiente en nombre del Consejo. El Consejo recibió asistencia de Duco Advisors, una empresa asesora dedicada a la intersección de geopolítica, confianza, seguridad y tecnología.

Volver a Decisiones de casos y opiniones consultivas sobre políticas