Se necesita más transparencia en lo que respecta a los símbolos prohibidos vinculados a grupos que incitan al odio
12 de junio de 2025
El Consejo asesor de contenido ha analizado tres casos que involucran símbolos utilizados con frecuencia por grupos que incitan al odio, pero que también pueden tener otros usos. El Consejo solicita a Meta que explique cómo crea y aplica su lista de símbolos designados conforme a su Norma comunitaria sobre personas y organizaciones peligrosas. Esto proporcionará mayor transparencia a los usuarios.
El Consejo expresa su preocupación por la posible aplicación excesiva de las referencias a símbolos designados. Meta debe desarrollar un sistema que señale automáticamente cuando se esté eliminando un gran volumen de contenido que no infringe las normas.
El Consejo mantiene las decisiones de Meta de eliminar el contenido que infringe las normas en dos de los casos y de mantener la publicación en el tercer caso.
Sobre los casos
Meta remitió al Consejo asesor de contenido tres publicaciones en Instagram que contenían símbolos utilizados con frecuencia por grupos que incitan al odio, pero que también pueden tener otros usos. La primera publicación mostraba la imagen de una mujer con las palabras “Ejército eslavo” y un símbolo kolovrat superpuesto sobre su cubrebocas. En el texto, el usuario expresó orgullo por ser eslavo y manifestó su esperanza de que su “pueblo despierte”.
The second post was a carousel of photographs of a woman wearing an iron cross necklace with a swastika on it and a T-shirt with an AK-47 assault rifle and “Defend Europe”, written in Fraktur font, printed on it. The caption contained the Odal (or Othala) rune, the hashtag #DefendEurope, symbols outlining an M8 rifle and heart emojis.
Al remitir las dos primeras publicaciones al Consejo, Meta las eliminó por infringir su Política sobre personas y organizaciones peligrosas.
La tercera publicación es un carrusel de dibujos que muestra una runa Odal envolviendo una espada, junto con una cita sobre la sangre y el destino, atribuida a Ernst Jünger, autor, filósofo y soldado alemán. El texto repite la cita, presenta una historia inicial selectiva de la runa y afirma que las impresiones de la imagen están a la venta. Meta concluyó que esta publicación no infringe ninguna de sus normas.
Conclusiones clave
La mayoría del Consejo considera que la publicación del símbolo kolovrat glorificó el nacionalismo blanco. Una minoría cuestiona la existencia de un vínculo automático entre el orgullo eslavo y el nacionalismo blanco. El Consejo concluye que la publicación sobre “Defienda a Europa” glorificó la supremacía blanca. Ambas publicaciones deben eliminarse por infringir la Política sobre personas y organizaciones peligrosas. Según la justificación de esta política, Meta elimina el contenido que glorifica, apoya o representa ideologías que promueven el odio. Meta designa el nacionalismo blanco y la supremacía blanca como ideologías que incitan al odio.
La publicación con la cita no infringe esta política. Describe la runa Odal de manera aparentemente neutral. La cita no glorifica ninguna ideología que incite al odio. La publicación no hace referencia explícita al nazismo ni a ninguna otra ideología considerada de odio.
Las decisiones de Meta fueron coherentes con sus responsabilidades en materia de derechos humanos. Para la mayoría, los elementos contextuales de la publicación del símbolo kolovrat, incluidas las referencias claras al nacionalismo eslavo y al ejército eslavo, pueden interpretarse como una incitación a sus seguidores a cometer actos potencialmente violentos, por lo que debe eliminarse. Una minoría no está de acuerdo y considera que la publicación no representa un riesgo directo de incitación a un daño inminente o probable.
El Consejo considera que eliminar la publicación sobre “Defienda a Europa” resulta necesario y proporcional para prevenir el riesgo de discriminación inmediata. Contiene múltiples elementos contextuales que glorifican ideologías consideradas de odio. Su eliminación es necesaria y proporcional al objetivo legítimo de evitar que las plataformas de Meta se utilicen para organizar e incitar a la violencia o a la exclusión.
Mantener la publicación de la cita está justificado, ya que el contenido no hace referencia a una ideología considerada de odio y ofrece mayor contexto sobre la obra artística del usuario.
El Consejo reitera su preocupación por la falta de transparencia en los procesos de designación contemplados en el Nivel 1 de la Política sobre personas y organizaciones peligrosas, ya que esto dificulta que los usuarios comprendan qué entidades, ideologías y símbolos relacionados pueden compartir. Meta debe proporcionar mayor transparencia sobre los símbolos designados, especialmente aquellos asociados con entidades o ideologías consideradas de odio, y establecer un proceso global, iterativo y basado en evidencia. Debe publicar una explicación clara sobre sus procesos y criterios para designar estos símbolos, así como sobre la aplicación de sus políticas en estos casos.
El Consejo expresa su preocupación por una posible aplicación excesiva de las referencias a símbolos designados. Meta no recopila datos suficientemente detallados sobre sus prácticas de aplicación en este ámbito. Meta informó al Consejo que su definición interna de “referencia” es más amplia que la definición de “referencia ambigua” que figura en su política pública. Meta debe publicar de forma accesible su definición interna de “referencias” y definir sus subcategorías, para brindar mayor claridad y accesibilidad a los usuarios.
La decisión del Consejo asesor de contenido
El Consejo asesor de contenido mantiene las decisiones de Meta de eliminar el contenido en el primer y segundo caso, y de mantener la publicación en el tercer caso.
El Consejo recomienda que Meta haga lo siguiente:
- Publique la definición interna de “referencias” y defina sus subcategorías dentro de la Norma comunitaria sobre personas y organizaciones peligrosas.
- Establezca un proceso para determinar cómo se agregan los símbolos designados a los grupos, a qué grupo pertenece cada símbolo, y realice auditorías periódicas de todos los símbolos designados, asegurándose de que la lista incluya todos los símbolos pertinentes a nivel global y eliminando aquellos que ya no cumplan con los criterios publicados.
- Desarrolle un sistema que identifique y señale automáticamente los casos en los que los símbolos designados generen “picos” que indiquen la eliminación de un gran volumen de contenido que no infringe las normas.
- Publique una explicación clara sobre cómo crea y aplica su lista de símbolos designados conforme a la Norma comunitaria sobre personas y organizaciones peligrosas.
Más información
Para leer los comentarios públicos sobre este caso, haga clic aquí.
