Poema ruso

Esta decisión también está disponible en ruso (por medio de la pestaña “Idioma” en el menú que figura en la parte superior de esta pantalla), en letón (aquí) y en ucraniano (aquí).

Lai iepazītos ar lēmumu latviski, spied šeit.

Щоб прочитати це рішення українською мовою, натисніть тут.

Resumen del caso

El Consejo asesor de contenido ha revocado la decisión original de Meta de eliminar una publicación de Facebook en la que se comparaba el ejército ruso presente en Ucrania con los nazis y se citaba un poema en el que se reclamaba el exterminio de fascistas. El Consejo ha revocado también la conclusión de Meta de que una imagen de lo que parecía ser un cuerpo sin vida en la misma publicación infringía la política sobre contenido gráfico y violento. Basándose en esta infracción, Meta había incluido una pantalla de advertencia con la imagen. Este caso pone de manifiesto varios aspectos importantes relacionados con la moderación de contenido en situaciones de conflicto.

Información sobre el caso

En abril de 2022 un usuario de Facebook en Letonia publicó una imagen de lo que parecía ser un cuerpo sin vida, boca abajo, en una calle, aunque no se apreciaban heridas. Meta confirmó al Consejo que a esa persona le habían disparado en Bucha, Ucrania.

En el texto en ruso que acompañaba la imagen, se argumentaba que las presuntas atrocidades que los soldados soviéticos cometieron en Alemania durante la Segunda Guerra Mundial se excusaron bajo el pretexto de que tenían como objetivo vengar los crímenes que los soldados nazis habían cometido en la URSS. Se establecía una conexión entre el ejército nazi y el ejército ruso presente en Ucrania al afirmar que el ejército ruso “se ha vuelto fascista”.

En la publicación se mencionaban atrocidades que presuntamente había cometido el ejército ruso en Ucrania y se afirmaba que “después de Bucha, los ucranianos también querrán repetir... y podrán repetir”. Al final de la publicación se citaba el poema “¡Mátalo!” del poeta soviético Konstantín Símonov, incluidos estos versos: “mata al fascista… ¡Mátalo! ¡Mátalo! ¡Mata!”.

Otro usuario de Facebook denunció la publicación, y Meta la eliminó por infringir la política sobre lenguaje que incita al odio de las Normas comunitarias. Después de que el Consejo seleccionara el caso, Meta consideró que había eliminado la publicación por error y la restauró. Tres semanas más tarde, incluyó una pantalla de advertencia con la imagen conforme a su política sobre contenido gráfico y violento.

Conclusiones principales

El Consejo considera que eliminar la publicación y, más tarde, incluir una pantalla de advertencia no han sido medidas coherentes con las Normas comunitarias de Facebook, los valores de Meta o sus responsabilidades en materia de derechos humanos.

El Consejo también considera que, más que hacer acusaciones generales acerca de que “los soldados rusos son nazis”, en la publicación se argumentaba que actuaron como nazis en un momento y lugar en concreto, y se establecieron paralelos históricos. Además, en la publicación se hacía referencia a los soldados rusos debido a su rol como combatientes, y no a causa de su nacionalidad. En este contexto, ni las responsabilidades de Meta en materia de derechos humanos ni la política sobre lenguaje que incita al odio de las Normas comunitarias protegen a los soldados contra denuncias sobre actos inmorales atroces ni impiden comparaciones provocativas entre sus acciones y hechos pasados.

El Consejo hace hincapié en la importancia del contexto a la hora de evaluar si determinado contenido fomenta actos violentos. En este caso, el Consejo considera que las citas del poema “¡Mátalo!” constituyen una referencia artística y cultural que se empleó como recurso retórico. El Consejo es de la opinión de que, si se leen dentro del contexto de la publicación en su totalidad, las citas se usaron para describir un estado mental, en lugar de fomentarlo. Se emplearon para advertir sobre ciclos de violencia y la posibilidad de que la historia se repita en Ucrania.

En las pautas internas que Meta proporciona a los moderadores, se aclara que, según la interpretación que la empresa hace de la política sobre violencia e incitación de las Normas comunitarias, se permiten este tipo de referencias neutrales a un posible resultado, así como advertencias. Sin embargo, esto no se explica en las Normas comunitarias públicas. De igual forma, en la política sobre contenido gráfico y violento, se prohíben las imágenes que representen muertes violentas. En las pautas internas que se proporcionan a los moderadores, se describe cómo Meta determina si una muerte parece violenta, pero esta información no se incluye en la política pública.

En este caso, la mayoría de los miembros del Consejo considera que la imagen de la publicación no incluía indicadores claros de violencia, los cuales, según las pautas internas que Meta proporciona a los moderadores, justificarían la inclusión de una pantalla de advertencia.

En términos generales, el Consejo considera que no es probable que esta publicación exacerbe la violencia. Sin embargo, señala que existen complejidades adicionales a la hora de evaluar la incitación a la violencia en situaciones de conflicto internacional, en las cuales, según las leyes internacionales, se puede tomar a los combatientes como objetivo. La ilegalidad de la invasión rusa en Ucrania se ha reconocido internacionalmente. El Consejo insta a Meta a revisar sus políticas para que en ellas se tengan en cuenta las circunstancias de una intervención militar ilegal.

Decisión del Consejo asesor de contenido

El Consejo asesor de contenido revoca la decisión original de Meta de eliminar la publicación y su consideración posterior de que la imagen de la publicación infringía la política sobre contenido gráfico y violento, a causa de la cual Meta incluyó una pantalla de advertencia.

El Consejo recomienda que Meta tome las siguientes medidas:

• Modificar la política pública sobre violencia e incitación de las Normas comunitarias para aclarar que, según la interpretación que Meta hace de ella, se permite contenido que haga referencia neutral a un posible resultado.
• Incluir una explicación de cómo determina si una imagen representa la muerte violenta de una persona en la política pública sobre contenido gráfico y violento de las Normas comunitarias.
• Evaluar la viabilidad de incorporar herramientas que permitan a los usuarios adultos decidir si quieren ver contenido gráfico en general y, de ser así, si quieren verlo con una pantalla de advertencia o sin ella.

* Los resúmenes de casos ofrecen información general sobre estos y no sientan precedente alguno.

Decisión completa del caso

1. Resumen de la decisión

El Consejo asesor de contenido revoca la decisión original de Meta de eliminar una publicación de Facebook en la que se abordaba el conflicto en Ucrania. El contenido, escrito en ruso y publicado en Letonia, consistía en una imagen fotográfica de una calle en la que yacía una persona, probablemente fallecida, acompañada de un texto, el cual incluía citas de un conocido poema del poeta soviético Konstantín Símonov en el que se hacía un llamamiento a resistir contra los invasores alemanes durante la Segunda Guerra Mundial. Con la inclusión de estas citas, se insinuaba que los invasores rusos están teniendo en Ucrania un papel similar al de los soldados alemanes en la URSS. Después de que el Consejo seleccionara esta publicación para revisión, Meta cambió su postura y restauró el contenido en la plataforma. Este contenido pone de manifiesto cuestiones conceptuales importantes en relación con las políticas sobre lenguaje que incita al odio y sobre violencia e incitación de Meta. Unas semanas después de decidir restaurar la publicación, Meta incluyó una pantalla de advertencia en la foto. La mayoría de los miembros del Consejo considera que la imagen fotográfica no infringe la política sobre contenido gráfico y violento, ya que en la imagen no hay indicadores visuales claros de violencia, los cuales justificarían el uso de la pantalla de advertencia, según se describe en las pautas internas que Meta proporciona a los moderadores de contenido.

2. Descripción y antecedentes del caso

En abril de 2022 un usuario de Facebook de Letonia publicó una foto con un texto en ruso en su sección de noticias. La publicación tuvo unas 20 000 visualizaciones, se compartió unas 100 veces y obtuvo casi 600 reacciones y más de 100 comentarios.

En la foto se mostraba una calle en la que yacía una persona, probablemente fallecida, junto a una bicicleta caída, aunque no se apreciaban heridas. El texto comenzaba de la siguiente forma: “Querían repetir y repitieron”. En la publicación se hablaba sobre los presuntos crímenes que los soldados soviéticos cometieron en Alemania durante la Segunda Guerra Mundial y se afirmaba que dichos crímenes se excusaron bajo el pretexto de que los soldados se vengaban por las atrocidades que los nazis habían perpetrado en la URSS. Después, se establecía una conexión entre la Segunda Guerra Mundial y la invasión de Ucrania al argumentar que el ejército ruso “se ha vuelto fascista”. En la publicación se afirmaba que el ejército ruso en Ucrania “viola a las niñas, hiere a sus padres, y tortura y asesina a personas pacíficas”, y se concluía que “después de Bucha, los ucranianos también querrán repetir... y podrán repetir” dichos actos. Al final de la publicación, el usuario compartía fragmentos del poema “¡Mátalo!” del poeta soviético Konstantín Símonov, incluidos estos versos: “mata al fascista para que sea él, y no tú, quien yazga sobre la tierra”, “mata al menos a uno de ellos tan pronto como puedas”, “¡Mátalo! ¡Mátalo! ¡Mata!”.

El mismo día en que se publicó este contenido, otro usuario lo denunció por incluir “contenido gráfico y violento”. Basándose en la decisión de un revisor, Meta eliminó el contenido por infringir la política sobre lenguaje que incita al odio de las Normas comunitarias. Horas más tarde, el usuario que había publicado el contenido presentó una apelación, de forma que un segundo revisor lo evaluó y también determinó que infringía la política mencionada.

Entonces, el usuario presentó una apelación ante el Consejo asesor de contenido. Como consecuencia de que el Consejo seleccionara la apelación para revisarla el 31 de mayo de 2022, Meta determinó que había cometido un error en su decisión anterior de eliminar el contenido, de forma que lo restauró. El 23 de junio de 2022, 23 días después de que se restaurara el contenido, Meta incluyó una pantalla de advertencia con la fotografía de la publicación en virtud de la política sobre contenido gráfico y violento de las Normas comunitarias, basándose en el argumento de que mostraba una muerte violenta. En dicha pantalla de advertencia, aparece el texto “Contenido delicado: esta foto podría mostrar contenido violento o gráfico” y se ofrecen dos opciones a los usuarios (“Más información” o “Ver foto”).

El siguiente contexto fáctico es pertinente para la decisión del Consejo y se basa en un estudio que ha encargado este:

• El 2 de marzo de 2022 la Asamblea General de las Naciones Unidas reconoció la ilegalidad de la invasión rusa en Ucrania (A/RES/ES-11/1).
• Michelle Bachelet, Alta Comisionada de las Naciones Unidas para los Derechos Humanos, expresó su preocupación en torno a “cuestiones graves e inquietantes sobre posibles crímenes de guerra, infracciones serias del derecho internacional humanitario e incumplimientos importantes de los derechos humanos internacionales” que tienen lugar en Ucrania.
• En las culturas postsoviéticas, el término “fascista” suele hacer referencia a los nazis de Alemania, sobre todo en el contexto de la Segunda Guerra Mundial. Sin embargo, la definición del término “fascista” ya no se asocia directamente con los nazis alemanes. En Rusia y Ucrania el significado del término se ha desdibujado debido a los debates políticos en los que se ha ido usando la palabra “fascista” para estigmatizar a los oponentes de distintas partes del espectro político.
• La primera frase de la publicación del usuario, “Querían repetir y repitieron”, hacía alusión a “Podemos repetir”, un conocido eslogan ruso que algunas personas utilizan para referirse a la victoria soviética contra los nazis durante la Segunda Guerra Mundial. El usuario volvió a aludir a este eslogan cuando escribió “después de Bucha, los ucranianos también querrán repetir... y podrán repetir” las acciones del ejército ruso.

3. Competencia y ámbito de actuación del Consejo asesor de contenido

El Consejo tiene competencia para revisar la decisión de Meta tras una apelación del usuario cuyo contenido se haya eliminado (artículo 2 del acta constitutiva, apartado 1; artículo 3 de los estatutos, apartado 1). El Consejo puede mantener o anular la decisión de Meta (artículo 3 del acta constitutiva, apartado 5), y la decisión que tome será vinculante para la empresa (artículo 4 del acta constitutiva). Meta también debe evaluar la viabilidad de aplicar su decisión con respecto a contenido idéntico cuyo contexto sea similar (artículo 4 del acta constitutiva). Las decisiones del Consejo pueden incluir dictámenes consultivos sobre políticas con recomendaciones no vinculantes a las que Meta debe responder (artículo 3 del acta constitutiva, apartado 4; artículo 4 del acta constitutiva).

Cuando el Consejo selecciona casos como este, en los que Meta reconoce que ha cometido un error, revisa la decisión inicial para entender mejor la causa de los errores, así como para realizar observaciones o recomendaciones que puedan contribuir a la reducción del número de errores y a la mejora de procesos justos y transparentes.

4. Precedentes

El Consejo asesor de contenido ha tenido en cuenta las siguientes autoridades y normas:

I. Decisiones del Consejo asesor de contenido:

Algunas de las decisiones previas del Consejo asesor de contenido pertinentes en este caso son las siguientes:

• “Agencia de comunicaciones de Tigré” (caso 2022-006-FB-MR). En este caso, el Consejo ratificó la decisión de Meta de eliminar el contenido tras concluir que, teniendo en cuenta el perfil del usuario (un ministerio gubernamental regional), las expresiones elegidas (un llamamiento explícito a matar a los soldados que no se rindieran) y el alcance de la página (unos 260 000 seguidores), se trataba de una publicación de alto riesgo que podría haber incitado más violencia.
• Caso “Vídeo gráfico de Sudán” (caso 2022-002-FB-MR). En este caso, el Consejo recomendó a Meta: (i) modificar la política sobre contenido gráfico y violento de las Normas comunitarias para permitir vídeos de personas o cadáveres si se comparten para concienciar sobre abusos de los derechos humanos o para documentarlos; e (ii) implementar un proceso de desarrollo de políticas que perfeccionara los criterios para identificar los vídeos de personas o cadáveres si se comparten para concienciar sobre abusos de los derechos humanos o para documentarlos.

II. Políticas de contenido de Meta:

Conforme a la política sobre lenguaje que incita al odio de las Normas comunitarias, Meta no permite incitaciones a la violencia ni lenguaje deshumanizante que tengan como objetivo personas o grupos debido a sus características protegidas. En dicha política se indica que las “expresiones deshumanizantes” incluyen “comparaciones, generalizaciones o afirmaciones no aptas basadas en comportamientos en relación con [...] criminales violentos o sexuales”. La política no se aplica de forma explícita a afirmaciones aptas basadas en comportamientos. La política sobre lenguaje que incita al odio no protege contra ataques a los grupos que se describen como “responsables de crímenes violentos o delitos sexuales”.

En virtud de la política sobre violencia e incitación de las Normas comunitarias, Meta no permite “amenazas que puedan derivar en la muerte (y otras formas de violencia de gravedad alta)”, donde “amenazas” se define como, entre otras cosas, “incitación a actos de violencia de gravedad alta” y “declaraciones que promuevan la violencia de gravedad alta”. En las pautas internas que Meta proporciona a los revisores de contenido, se aclara que, según la interpretación de la empresa, esta política permite contenido que incluya declaraciones con referencias neutrales a un posible resultado de una acción o una advertencia.

En vista de la política sobre contenido gráfico y violento de las Normas comunitarias, las imágenes en las que se muestre la muerte violenta de una o más personas por un accidente o asesinato deben cubrirse con una pantalla de advertencia.

III. Valores de Meta:

Meta ha descrito los valores de Facebook de “expresión”, “dignidad” y “seguridad”, entre otros, en la introducción a las Normas comunitarias. En esta decisión se hará referencia a estos valores si corresponde y según sea pertinente en relación con la decisión.

IV. Normas internacionales sobre derechos humanos:

Los Principios Rectores de la ONU sobre las Empresas y los Derechos Humanos (PRNU), que el Consejo de Derechos Humanos de dicha organización ratificó en 2011, establecen un marco voluntario de responsabilidad de las empresas privadas en relación con estos derechos. En 2021 Meta anunció su Política corporativa sobre derechos humanos, con la que reafirmó su compromiso con el respeto de los derechos humanos de conformidad con los PRNU. El análisis del Consejo sobre las responsabilidades de Meta en materia de derechos humanos en este caso se basó en las siguientes normas de derechos humanos:

• Derechos a la libertad de opinión y expresión: artículo 19 del Pacto Internacional de Derechos Civiles y Políticos (PIDCP); Observación general n.º 34 del Comité de Derechos Humanos (2011); informes del Relator Especial de la ONU sobre la libertad de opinión y de expresión: A/HRC/38/35 (2018), A/74/486 (2019) y A/HRC/44/49/Add.2 (2020); Alto Comisionado de las Naciones Unidas para los Derechos Humanos, informe: A/HRC/22/17/Add.4 (2013).
• Igualdad y no discriminación: artículo 2, párrafo 1 del PIDCP.
• Derecho a la seguridad física: artículo 9 del PIDCP.
• Derecho a la vida: artículo 6 del PIDCP.

5. Manifestaciones del usuario

En su apelación ante el Consejo, el usuario indicó que la foto que compartió es la imagen “más inocua” de las que documentan los “crímenes del ejército ruso en la ciudad de Bucha”, “en cuyas calles yacen decenas de civiles muertos”. El usuario afirmó que la publicación no apelaba a la violencia y trataba sobre “la historia pasada y el presente”, y que el poema se dedicó originalmente a la “lucha de los soldados soviéticos contra los nazis”. También añadió que lo publicó para demostrar cómo “el ejército ruso se ha transformado en una analogía del ejército fascista”. Como parte de su apelación, indicó que es periodista y que considera importante que la gente entienda lo que está pasando, sobre todo durante un conflicto bélico.

6. Manifestaciones de Meta

En la argumentación que Meta proporcionó al Consejo, la empresa analizó el contenido de este caso sobre la base de tres políticas distintas, y empezó por la que concierne al lenguaje que incita al odio. Meta se centró en los motivos por los que la empresa revirtió su decisión original, en lugar de explicar cómo llegó a esa decisión. De acuerdo con Meta, afirmar que soldados rusos cometieron crímenes en el contexto del conflicto entre Rusia y Ucrania no constituye un ataque conforme a la política sobre lenguaje que incita al odio, ya que se permiten “afirmaciones aptas basadas en comportamientos” en la plataforma. Meta también explicó que el fascismo es una ideología política y que el mero hecho de vincular al ejército ruso con una determinada ideología política no constituye un ataque, ya que “el ejército ruso es una institución y, por lo tanto, no es un grupo ni un subgrupo con características protegidas amparados por la política sobre lenguaje que incita al odio (en comparación con los soldados rusos, quienes son personas)”. Por último, Meta indicó que los distintos fragmentos del poema “¡Mátalo!” citados en el texto de la publicación (p. ej., “mata a un fascista”, “mata al menos a uno de ellos”, “¡mátalo!”) hacen referencia a los “nazis” en el contexto de la Segunda Guerra Mundial y que los nazis no son un grupo protegido.

Meta también analizó la publicación sobre la base de su política sobre violencia e incitación. Sobre este aspecto, explicó que afirmar que “los ucranianos también querrán repetir... y podrán repetir” después de los acontecimientos en Bucha no fomenta la violencia. Meta señaló que se trata de “una referencia neutral a un posible resultado”, lo que está permitido conforme a la interpretación de la empresa respecto a la política sobre violencia e incitación. Meta también indicó que citar el poema de Símonov fue una forma de concienciar sobre la posibilidad de que la historia se repita en Ucrania. Por último, la empresa explicó que defender la violencia contra individuos incluidos en la política sobre personas y organizaciones peligrosas, como los nazis (a quienes se hace referencia como “fascistas” en el poema de Símonov), está permitido conforme a la política sobre violencia e incitación de las Normas comunitarias.

Después, Meta explicó que se incluyó una pantalla de advertencia y se aplicaron restricciones de edad apropiadas en la publicación conforme a la política sobre contenido gráfico y violento porque la imagen incluida en el contenido mostraba la muerte violenta de una persona. Meta confirmó que en la imagen se mostraba a una persona a quien se había disparado en Bucha, Ucrania.

En respuesta a las preguntas del Consejo, Meta profundizó en sus explicaciones sobre las iniciativas que ha desarrollado en el contexto del conflicto en Ucrania. Sin embargo, ratificó que ninguna de estas iniciativas fue pertinente en cuanto a la eliminación inicial del contenido de este caso ni respecto a la decisión de restaurarlo con una pantalla de advertencia. La empresa añadió que tomó varias medidas coherentes con los Principios Rectores sobre las Empresas y los Derechos Humanos de las Naciones Unidas para asegurar la debida diligencia en momentos de conflicto. Estas medidas incluyeron la interacción con la sociedad civil de Ucrania y Rusia, y con medios independientes rusos, para pedir opiniones sobre los efectos de las iniciativas que Meta ha implementado desde el principio del conflicto.

El Consejo hizo 11 preguntas a Meta y la empresa las respondió todas de forma completa.

7. Comentarios públicos

El Consejo asesor de contenido ha recibido ocho comentarios públicos relacionados con este caso. Tres comentarios procedieron de Europa; cuatro, de los Estados Unidos y Canadá, y uno, de Latinoamérica y el Caribe. Los comentarios hacían referencia a los siguientes temas: el conflicto armado internacional, la importancia del contexto en la moderación de contenido, el papel de los periodistas en situaciones de conflicto, la documentación de crímenes de guerra y la expresión artística.

Los comentarios públicos que se enviaron en relación con este caso se pueden leer aquí.

8. Análisis del Consejo asesor de contenido

Inicialmente, el Consejo examinó si el contenido estaba permitido conforme a las políticas de contenido de Meta, lo interpretó sobre la base de los valores de la plataforma cuando fue necesario y, después, evaluó si su tratamiento fue coherente con las responsabilidades de la empresa en materia de derechos humanos.

El Consejo seleccionó este caso porque la eliminación de esta publicación generó controversias importantes en relación con las expresiones artísticas y las referencias culturales reutilizadas en nuevos contextos que podrían llegar a incitar violencia en situaciones de conflicto. Los espacios online para la expresión son especialmente importantes para las personas afectadas por la guerra, y las empresas de medios sociales deben prestar particular atención a la protección de los derechos de estas personas. En este caso, queda demostrado cómo la falta de un análisis contextual, lo que es común en la moderación de contenido a gran escala, puede impedir que los usuarios expresen sus opiniones respecto al conflicto y establezcan paralelos históricos provocativos.

8.1 Cumplimiento de las políticas de contenido de Meta

El Consejo considera que el contenido de este caso no infringe la política sobre lenguaje que incita al odio ni la política sobre violencia e incitación de las Normas comunitarias. La mayoría de los miembros del Consejo opina que el contenido no infringe la política sobre contenido gráfico y violento de las Normas comunitarias.

I. Lenguaje que incita al odio

La política sobre lenguaje que incita al odio de Meta prohíbe los ataques contra personas basados en características protegidas, incluida la nacionalidad. La profesión recibe “determinadas protecciones” cuando se hace referencia a ella junto con una característica protegida. En las pautas internas que la empresa proporciona a los moderadores, también se aclara que, “a los subgrupos parcialmente protegidos”, incluidos los grupos definidos por una característica protegida junto con una profesión (p. ej., soldados rusos), generalmente les corresponde una protección contra ataques de nivel 1 de lenguaje que incita al odio. Tales ataques incluyen, entre otras cosas, “incitación a la violencia” y “expresiones deshumanizantes [...] en la forma de comparaciones, generalizaciones o afirmaciones no aptas basadas en comportamientos” “en relación con [...] criminales violentos o sexuales”. La política sobre lenguaje que incita al odio de Meta no ofrece protección a los “grupos que se describen como responsables de crímenes violentos o delitos sexuales”.

Las afirmaciones genéricas de que los soldados rusos son propensos a cometer crímenes podrían, según el contenido y el contexto, infringir la política sobre lenguaje que incita al odio de Meta. Es posible que tales afirmaciones entren dentro del alcance de la prohibición contra “expresiones deshumanizantes” correspondiente a la política, en la forma de “afirmaciones no aptas basadas en comportamientos”. La política de Meta distingue entre: (i) la atribución de un mal carácter o rasgos desagradables a un grupo sobre la base de la etnia, nacionalidad u otras características protegidas (esto es a lo que Meta se refiere con “generalizaciones”); (ii) la crítica a miembros de un grupo sin contexto (esto es a lo que Meta se refiere con “afirmaciones no aptas basadas en comportamientos”); y (iii) la crítica a miembros de un grupo por su comportamiento pasado (esto es a lo que Meta se refiere con “afirmaciones aptas basadas en comportamientos”). En este caso, las afirmaciones sobre los soldados rusos invasores se hicieron en el contexto de las acciones realizadas durante el conflicto en Ucrania, no en general.

La pregunta que surge aquí es si la comparación del usuario de los soldados rusos con los fascistas alemanes de la era de la Segunda Guerra Mundial, así como su aserción de que violaban mujeres, mataban a sus padres, y mataban y torturaban a gente inocente, infringen la política sobre lenguaje que incita al odio de Meta. Tanto Meta como los miembros del Consejo concluyen que la publicación no constituye un caso de incitación a la violencia o de expresiones deshumanizantes conforme a la política sobre lenguaje que incita al odio, aunque por distintos motivos. Esta fue la única parte de la política sobre lenguaje que incita al odio que se identificó como pertinente para esta publicación.

Meta argumenta que la publicación no infringe la política porque las afirmaciones acusatorias van dirigidas al ejército ruso, que es una institución, y no a los soldados rusos, que son personas. El Consejo considera que esta distinción no tiene validez en este caso, ya que el usuario hace referencia al “ejército” y a los “soldados” de forma intercambiable.

No obstante, el Consejo opina que la acusación del usuario de que los soldados rusos cometieron crímenes comparables a los de los nazis en el contexto de la invasión rusa en Ucrania está permitida. Esto se debe a que atribuir acciones específicas (p. ej., “comenzaron a vengarse realmente: violar mujeres, cortar a sus padres, torturar y matar a personas pacíficas en la periferia pacífica de Kiev”) y comparar las acciones de los soldados rusos en Ucrania con otros ejércitos reconocidos por haber cometido crímenes de guerra (p. ej., “el ejército ruso, después de 70 años, repitió totalmente su historia en Alemania, y el ejército alemán, en Ucrania”) se consideran afirmaciones “aptas” relacionadas con comportamientos observados durante un conflicto específico.

Por lo tanto, el Consejo considera que comparar las acciones de los soldados rusos en un contexto específico con los crímenes de los nazis está permitido en virtud de las Normas comunitarias, independientemente de si se permite o no una comparación genérica con los nazis. De acuerdo con las pautas internas de Meta, material que en otras circunstancias podría constituir un caso de lenguaje que incita al odio no infringe la política si va dirigido a grupos que “se describen como responsables de crímenes violentos o delitos sexuales”. En términos más generales, informar de situaciones de incumplimiento de los derechos humanos en un contexto en particular no infringe la política sobre lenguaje que incita al odio, ni siquiera si se identifica a esas personas a través de su nacionalidad.

Además, el Consejo señala que los distintos fragmentos del poema “¡Mátalo!” citados en el contenido (p. ej., “mata a un fascista”, “mata al menos a uno de ellos”, “¡mátalo!”) no deben considerarse incitación a la violencia porque, al leerse de forma conjunta con el resto de la publicación, el Consejo entiende que el usuario hizo hincapié en el ciclo de violencia, en lugar de instar a la violencia.

Por último, el Consejo concluye que en la publicación se hace referencia a los soldados rusos debido a su papel como combatientes, y no a su nacionalidad. Las afirmaciones no son ataques dirigidos a un grupo “sobre la base de” sus características protegidas. En consecuencia, el contenido no constituye lenguaje que incita al odio, ya que no está involucrada ninguna característica protegida.

II. Violencia e incitación

Conforme a la política sobre violencia e incitación, Meta elimina la “incitación a actos de violencia de gravedad alta”, las “declaraciones que promuevan la violencia de gravedad alta” y las “declaraciones en las que se refleje la intención de cometer actos de violencia de gravedad alta o el compromiso de llevarlos a cabo si se cumplen determinadas condiciones”, entre otros tipos de expresiones. En las pautas internas que la empresa proporciona a los moderadores, se aclara también que, según la interpretación de Meta, esta norma comunitaria permite declaraciones con “referencias neutrales a un posible resultado de una acción o una advertencia”. Asimismo, en las pautas internas se explica que, conforme a la política sobre violencia e incitación, también se permite “contenido en el que se condenen las amenazas violentas o se conciencie sobre estas”. Esto es válido para el contenido que tiene la “finalidad evidente de informar e instruir a otras personas acerca de un tema o asunto específico, o para el contenido que habla sobre la experiencia personal de haber sido blanco de amenazas o violencia”, incluidos informes académicos y periodísticos.

Meta explicó al Consejo que decidió restaurar este contenido porque la publicación no fomentaba la violencia. Meta caracterizó la afirmación del usuario de que “los ucranianos también querrán repetir... y podrán repetir” después de los acontecimientos en Bucha como una “referencia neutral a un posible resultado”, lo que, según la interpretación de la empresa, está permitido conforme a la política sobre violencia e incitación. Meta también indicó que citar el poema de Símonov fue una forma de concienciar sobre la posibilidad de que la historia se repita en Ucrania. Por último, la empresa destacó el hecho de que el poema de Símonov va dirigido contra fascistas alemanes y que defender la violencia contra individuos incluidos en la política sobre personas y organizaciones peligrosas, como los nazis, está permitido conforme a la política sobre violencia e incitación de las Normas comunitarias.

Esta argumentación persuade al Consejo de forma parcial. Está de acuerdo en que la frase “los ucranianos también querrán repetir... y podrán repetir” no incita a la violencia ni la defiende. Si se lee literalmente, este fragmento de la publicación simplemente dice que los ucranianos podrían responder a las acciones del ejército ruso con la misma violencia con la que los soviéticos respondieron a los nazis. En otras palabras, se trata de una “referencia neutral a un posible resultado”, lo que, como se aclara en las pautas internas que se proporcionan a los moderadores de contenido, se permite conforme a la interpretación que hace Meta de la política sobre violencia e incitación.

El Consejo también considera que los fragmentos con lenguaje violento del poema “¡Mátalo!” citados en el apartado anterior podrían interpretarse como expresiones descriptivas, y no alentadoras, de un estado mental. Cuando se leen junto con toda la publicación, incluida la imagen fotográfica, los fragmentos forman parte de un mensaje más amplio que advierte sobre la posibilidad de que la historia se repita en Ucrania. Constituyen una referencia artística y cultural que el usuario emplea como recurso retórico para transmitir su mensaje. Por lo tanto, el Consejo concluye que esta parte del contenido también se permite en virtud de las pautas internas de Meta.

Sin embargo, el Consejo también concluye que Meta no es realista cuando analiza la publicación como si fuera una mera incitación a la violencia contra los nazis. El usuario deja claro que percibe una similitud entre los soldados rusos en Ucrania hoy y los alemanes en Rusia durante la Segunda Guerra Mundial. En la medida en que podría considerarse que la publicación, con las citas del poema de Símonov, hace referencia a los soldados que ahora cometen atrocidades contras civiles, existe el riesgo de que los lectores interpreten esto como un llamamiento a la violencia contra los soldados rusos en la actualidad. Sin embargo, el Consejo está de acuerdo en la conclusión de Meta de que la publicación no infringe la política sobre violencia e incitación de las Normas comunitarias porque su principal significado, en contexto, es una advertencia contra un ciclo de violencia.

III. Contenido gráfico y violento

En vista de su política sobre contenido gráfico y violento, Meta añade etiquetas de advertencia al contenido “para que las personas sean conscientes de su naturaleza gráfica o violenta antes de hacer clic en él”. Así sucede en el caso de las “imágenes que muestran la muerte violenta de una o más personas por accidente o asesinato”. En las pautas internas que Meta proporciona a los moderadores de contenido, se describen como “indicadores de una muerte violenta” las imágenes gráficas de “las consecuencias de una muerte violenta en las que la víctima aparece sin vida o visiblemente incapacitada, y hay otros indicadores visuales de violencia, como sangre o heridas en el cuerpo, sangre alrededor de la víctima, un cuerpo hinchado o descolorido, o cuerpos extraídos de entre escombros”. En las pautas internas, también se explica que los cuerpos “sin ningún indicador de muerte violenta” o sin “al menos un indicador de violencia” no deben considerarse como representaciones de una “muerte violenta”.

En la foto incluida en el contenido se mostraba una calle en la que yacía una persona sobre el suelo, aunque no se apreciaban heridas. Meta pudo confirmar que a esa persona le habían disparado en Bucha, Ucrania. El Consejo señala que los moderadores de contenido, al trabajar a gran escala, no necesariamente tienen acceso a este tipo de información. La mayoría de los miembros del Consejo determinó que, según se describe en las pautas internas que Meta proporciona a los moderadores de contenido, no se infringió la política sobre contenido gráfico y violento, ya que en la imagen fotográfica no hay indicadores visuales claros de violencia. Por lo tanto, dicha mayoría concluye que no se debió haber incluido la pantalla de advertencia.

En vista del contexto del conflicto armado en Ucrania y los escombros que se observan en la imagen, una minoría de los miembros del Consejo considera que el contenido efectivamente infringe la política sobre contenido gráfico y violento.

IV. Aplicación

Un usuario denunció la publicación por contenido gráfico y violento, pero esta se eliminó conforme a la política sobre lenguaje que incita al odio. Meta restauró la publicación únicamente después de que el Consejo hiciera hincapié en ella. En respuesta a las preguntas del Consejo, Meta explicó que el contenido del caso no se remitió a expertos en políticas o en el tema pertinente para una revisión adicional. “Remitir para revisión” significa que, en lugar de someter la decisión a una revisión por parte de moderadores de contenido del mismo nivel, esta se somete a un equipo interno de Meta que se encarga de la política pertinente o la materia en cuestión.

8.2 Cumplimiento de los valores de Meta

El Consejo considera que eliminar el contenido y colocar una pantalla de advertencia sobre la imagen incluida en él no son medidas coherentes con los valores de Meta.

Al Consejo le preocupan la situación de los ciudadanos rusos y las posibles consecuencias de la incitación a la violencia dirigida a las personas rusas en general. Sin embargo, en este caso, el Consejo considera que el contenido no representa un riesgo real para la “dignidad” y la “seguridad” de dicho pueblo que pueda justificar su prevalencia sobre la “expresión”, en especial, en un contexto en el que Meta debe asegurar a los usuarios afectados por la guerra la posibilidad de debatir sus implicaciones.

8.3 Cumplimiento de las responsabilidades de Meta en materia de derechos humanos

El Consejo considera que la decisión inicial de Meta de eliminar el contenido y su decisión posterior de incluir una pantalla de advertencia en dicho contenido no han sido medidas coherentes con las responsabilidades de Meta como empresa en materia de derechos humanos. Meta se ha comprometido a respetar los derechos humanos de conformidad con los Principios Rectores de la ONU sobre las Empresas y los Derechos Humanos (PRNU). En la Política corporativa sobre derechos humanos de Facebook, se dispone el cumplimiento específico del Pacto Internacional de Derechos Civiles y Políticos ( PIDCP).

Libertad de expresión (artículo 19 del PIDCP)

El alcance del derecho a la libertad de expresión es amplio. El artículo 19, párrafo 2, del PIDCP concede una mayor protección a la libertad de expresión, incluida la expresión artística, en cuanto a temas políticos y observaciones sobre asuntos públicos, así como a debates sobre los derechos humanos y sobre afirmaciones históricas (Observación general n.º 34, párrafos 11 y 49). Incluso a las expresiones que puedan considerarse “profundamente ofensivas” se les ofrece protección (Observación general n.º 34, párrafo 11). El contenido que el Consejo analiza en este caso incluye lenguaje ofensivo. Sin embargo, equivale a un discurso político y dirige la atención a abusos contra los derechos humanos en el contexto de una guerra.

El contenido de este caso incluía citas de un poema de guerra reconocido, que el usuario empleó como referencia cultural provocativa para instruir y advertir a su audiencia acerca de las posibles consecuencias de las acciones de los soldados rusos en Ucrania. El Relator Especial de la ONU sobre la libertad de expresión ha destacado que la expresión artística incluye las “historias de ficción y de no ficción que instruyen, entretienen o provocan” (A/HRC/44/49/Add.2, párrafo 5).

El artículo 19 del PIDCP exige que, si un estado impone restricciones sobre la libertad de expresión, estas deben cumplir los requisitos de legalidad, fin legítimo, y necesidad y proporcionalidad (artículo 19, párrafo 3, del PIDCP). El Relator Especial de la ONU sobre la libertad de expresión ha animado a las empresas de medios sociales a basarse en estos principios a la hora de moderar la expresión en internet (A/HRC/38/35, párrafos 45 y 70).

I. Legalidad (claridad y accesibilidad de las reglas)

El principio de legalidad exige que todas las reglas que los estados apliquen para limitar la expresión sean claras y accesibles (Observación general n.º 34, párrafo 25). El Comité de Derechos Humanos también ha indicado que las reglas “no pueden conferir a los encargados de su aplicación una discrecionalidad sin trabas para restringir la libertad de expresión” (Observación general n.º 34, párrafo 25). Las personas deben disponer de información suficiente para saber en qué casos y de qué forma pueden aplicarse restricciones a su capacidad de expresión, de modo que tengan la opción de adaptar su comportamiento en consecuencia. Si se aplica a las reglas de contenido de Meta para Facebook, esto implica que los usuarios deben poder saber qué está permitido y qué está prohibido.

Dos apartados de las pautas internas de Meta sobre cómo aplicar la política sobre violencia e incitación de las Normas comunitarias son especialmente pertinentes respecto a la conclusión a la que han llegado tanto Meta como el Consejo de que el contenido debe permanecer en Facebook. En primer lugar, según la interpretación de Meta, esta política permite los mensajes en los que se advierte sobre la posible existencia de violencia ejercida por terceros, cuando se trata de afirmaciones con “referencias neutrales a un posible resultado de una acción o una advertencia”. En segundo lugar, se permite contenido que en otras circunstancias se consideraría infractor cuando en él se condenan amenazas violentas o se conciencia sobre estas. No obstante, el Consejo señala que estas pautas internas no están incluidas en el texto público de la política sobre violencia e incitación de las Normas comunitarias. A raíz de esto, los usuarios pueden creer que contenido como el de la publicación de este caso es infractor, cuando no lo es. Meta debería integrar estos apartados en el texto público de la política sobre violencia e incitación para ofrecer la claridad necesaria a los usuarios. El Consejo sabe que divulgar más detalles sobre las políticas de contenido de Meta podría ayudar a usuarios con malas intenciones a eludir las Normas comunitarias con mayor facilidad. Sin embargo, el Consejo considera que la necesidad de claridad y especificidad prevalece sobre la preocupación de que algunos usuarios pudieran intentar engañar al sistema. Si no saben que las “referencias neutrales a un posible resultado” y las “advertencias” en las que se condenan amenazas violentas o se conciencia sobre estas están permitidas, es posible que los usuarios eviten iniciar debates de interés público, o participar en estos, en las plataformas de Meta.

Al Consejo también le preocupa que, en este caso, la decisión de Meta de incluir una pantalla de advertencia no fuera coherente con las pautas internas que proporciona a los moderadores de contenido. Asimismo, es posible que la interpretación de Meta de la política sobre contenido gráfico y violento no sea clara para los usuarios. Meta debería procurar aclarar en el texto público de la política la forma en que la empresa la interpreta y cómo determina si una imagen “muestra la muerte violenta de una o más personas por accidente o asesinato” en el contexto de un conflicto, según las pautas internas que Meta proporciona a los moderadores de contenido.

Además, Meta informó al Consejo de que no se envió ningún mensaje al usuario que originalmente denunció el contenido para informarle de que, más tarde, la empresa restauró la publicación. Esto genera preocupaciones relativas a la legalidad, ya que la falta de información pertinente para los usuarios podría interferir en la capacidad de las personas de oponerse a las medidas tomadas respecto al contenido o de hacer un seguimiento de las quejas relacionadas (A/HCR/38/35, párrafo 58). El Consejo señala que notificar a las personas que denuncian contenido acerca de la medida de cumplimiento que se toma en relación con ese contenido, así como la norma comunitaria pertinente, ayudaría a los usuarios a conocer mejor las reglas de Meta y a seguirlas.

II. Fin legítimo

Cualquier restricción que se aplique a la libertad de expresión debe tener como objetivo un “fin legítimo”. El Consejo ha reconocido previamente que la política sobre lenguaje que incita al odio de las Normas comunitarias intenta cumplir el fin legítimo de proteger los derechos de los demás (Observación general n.º 34, párrafo 28), incluidos los derechos a la igualdad y a la no discriminación sobre la base de la etnia y la nacionalidad (artículo 2, párrafo 1, del PIDCP). Por lo tanto, proteger a las personas rusas contra ataques basados en el odio es un fin legítimo. Sin embargo, el Consejo considera que proteger a los “soldados” de afirmaciones de actos inmorales no es un fin legítimo cuando el ataque se hace en referencia a su rol de combatientes durante una guerra, y no a su nacionalidad u otra característica protegida. No deberían prohibirse las críticas a instituciones como el ejército (Observación general n.º 34, párrafo 38).

La política sobre violencia e incitación, debidamente contextualizada y aplicada, intenta cumplir el fin legítimo de proteger los derechos de los demás. En el contexto de este caso, esta política intenta evitar el aumento de la violencia que podría dañar la seguridad física (artículo 9 del PIDCP) y la vida (artículo 6 del PIDCP) de las personas que se encuentran en zonas afectadas por el conflicto entre Rusia y Ucrania.

El Consejo señala que existen otras complejidades involucradas a la hora de evaluar la incitación a la violencia en el contexto de una resistencia armada ante una invasión. La ilegalidad de la invasión rusa en Ucrania se ha reconocido internacionalmente (A/RES/ES-11/1), y el uso de la fuerza en defensa propia ante tales actos de agresión está permitido (artículo 51 del acta constitutiva de las Naciones Unidas). En el contexto de un conflicto armado internacional, el derecho internacional humanitario que regula la conducción de hostilidades de las partes permite tomar como objetivo a combatientes activos durante el curso del conflicto armado sin incurrir en un hecho ilegal. Este no es el caso de las personas que ya no participan activamente en las hostilidades, incluidos los prisioneros de guerra (artículo 3 del Convenio de Ginebra relativo al trato debido a los prisioneros de guerra). Cuando la violencia es legal en sí misma conforme al derecho internacional, el discurso que insta a dicha violencia implica varias consideraciones que deben examinarse por separado. Si bien el Consejo considera que el contenido de este caso no es infractor, urge a Meta a revisar sus políticas para que en ellas se tengan en cuenta las circunstancias de una intervención militar ilegal.

En referencia a la decisión de la empresa de incluir una pantalla de advertencia con la fotografía, Meta señala que la política sobre contenido gráfico y violento intenta fomentar un entorno que favorezca la diversidad en la participación al limitar el contenido que glorifica la violencia o celebra el sufrimiento o la humillación de otras personas. El Consejo reconoce que esta finalidad es legítima en el contexto del objetivo de Meta de fomentar la inclusión en la plataforma.

III. Necesidad y proporcionalidad

El principio de necesidad y proporcionalidad dispone que las restricciones que se apliquen a la libertad de expresión “deben ser adecuadas para cumplir su función de protección, deben ser el instrumento menos invasivo que permita cumplir dicha función y deben ser proporcionales al interés que se pretende proteger” (Observación general n.º 34, párrafo 34).

A fin de evaluar los riesgos que presenta el contenido violento u ofensivo, el Consejo normalmente se guía por la prueba de seis factores descrita en el Plan de Acción de Rabat, que trata la apología del odio nacional, racial o religioso que constituye una incitación a la hostilidad, la discriminación o la violencia. En este caso, el Consejo considera que, a pesar del contexto de un conflicto armado en curso y de las referencias culturales densas que el usuario empleó, no es probable que la publicación (una advertencia acerca de un ciclo de violencia) genere daños. El Consejo concluye que la eliminación inicial del contenido fue innecesaria. Además, la mayoría de los miembros del Consejo considera que la pantalla de advertencia tampoco era necesaria, mientras que una minoría de estos cree que era necesaria y proporcionada.

Teniendo en cuenta los factores pertinentes, el Consejo concluye que, a pesar del contexto de la invasión ilegal de Rusia en Ucrania donde los discursos potencialmente provocadores podrían aumentar la tensión, la intención evidente del usuario (concienciar acerca de la guerra y sus consecuencias), el tono reflexivo que se adoptó al citar un poema de guerra y la proliferación de otras conversaciones respecto a los acontecimientos terribles acaecidos en Ucrania significan que no es probable que el contenido contribuya significativamente a la exacerbación de la violencia.

La mayoría de los miembros del Consejo concluye que el uso de una pantalla de advertencia inhibe la libertad de expresión y que no es una respuesta necesaria en esta instancia, ya que en la imagen fotográfica no hay indicadores visuales claros de violencia (los cuales justificarían el uso de esta pantalla, según se describe en las pautas internas que Meta proporciona a los moderadores de contenido). Las empresas de medios sociales deben considerar diversas respuestas posibles ante un contenido problemático para garantizar que las restricciones se delimiten estrictamente (A/74/486, párrafo 51). A este respecto, el Consejo considera que Meta debería desarrollar otras herramientas de personalización para que los usuarios puedan decidir si quieren ver contenido gráfico delicado con o sin advertencias en Facebook e Instagram.

Una minoría de los miembros del Consejo cree que la pantalla de advertencia era una medida necesaria y proporcionada que se diseñó de forma adecuada para fomentar la participación y la libertad de expresión. Esta minoría cree que, en consideración a la dignidad de las personas fallecidas, en especial, en el contexto de un conflicto armado, y los posibles efectos de las imágenes que muestran muerte y violencia a un gran número de usuarios, Meta podría priorizar la prudencia y añadir pantallas de advertencia en contenido similar al que se analiza en este caso.

9. Decisión del Consejo asesor de contenido

El Consejo asesor de contenido revoca la decisión original de Meta de eliminar el contenido y su consideración posterior de que se había infringido la política sobre contenido gráfico y violento, que fue el motivo por el que la empresa colocó una pantalla de advertencia en la imagen fotográfica de la publicación.

10. Dictamen consultivo sobre políticas

Política de contenido

1. Meta debería añadir al texto público de su política sobre violencia e incitación de las Normas comunitarias que, según la interpretación de la empresa, la política permite contenido que incluya declaraciones con “referencias neutrales a un posible resultado de una acción o una advertencia”, y contenido en el que “se condenen las amenazas violentas o se conciencie sobre estas”. El Consejo prevé que, en caso de implementarse esta recomendación, será necesario que Meta modifique el texto público de la política sobre violencia e incitación para reflejar estas inclusiones.

2. Meta debería añadir al texto público de su política sobre contenido gráfico y violento de las Normas comunitarias detalles de las pautas internas respecto a la forma en que la empresa determina si una imagen muestra la muerte violenta de una o más personas por accidente o asesinato. El Consejo prevé que, en caso de implementarse esta recomendación, será necesario que Meta modifique el texto público de la política sobre contenido gráfico y violento de las Normas comunitarias para reflejar estas inclusiones.

Aplicación

3. Meta debería evaluar la viabilidad de implementar herramientas de personalización que permitan a los usuarios mayores de 18 años decidir si quieren ver contenido gráfico delicado con o sin pantallas de advertencia, tanto en Facebook como en Instagram. El Consejo prevé que, en caso de implementarse esta recomendación, será necesario que Meta publique los resultados de una evaluación de viabilidad.

* Nota procedimental:

Las decisiones del Consejo asesor de contenido se preparan a través de comités constituidos por cinco miembros y deben recibir la aprobación de la mayoría de dicha institución. Las decisiones emitidas no reflejan necesariamente las opiniones personales de todos los miembros.

En lo que respecta específicamente a la decisión de este caso, se ha llevado a cabo una investigación independiente por encargo del Consejo. Se estableció un centro de investigación independiente en la Universidad de Gotemburgo y se recurrió a un equipo de más de 50 sociólogos en seis continentes y más de 3200 especialistas de países de todo el mundo. El Consejo también ha recibido asesoramiento de Duco Advisors, una empresa asesora dedicada a la intersección de geopolítica, confianza, seguridad y tecnología. La empresa Lionbridge Technologies, LLC, con especialistas en más de 350 idiomas que trabajan en 5000 ciudades diferentes, se ha encargado de las competencias en materia lingüística.