Poema ruso

Esta decisión también está disponible en ruso (por medio de la pestaña "Idioma" en el menú que figura en la parte superior de esta pantalla), en letón (aquí) y en ucraniano (aquí).

Lai iepazītos ar lēmumu latviski, spied šeit.

Щоб прочитати це рішення українською мовою, натисніть тут.

Resumen del caso

El Consejo asesor de contenido anuló la decisión original de Meta de eliminar una publicación de Facebook en la que se comparaba al ejército ruso presente en Ucrania con los nazis y se citaba un poema que reclama el exterminio de los fascistas. Además, revocó la conclusión de Meta de que una imagen de lo que parecía ser un cuerpo sin vida en la misma publicación infringía la política sobre contenido violento y gráfico. Meta había aplicado una pantalla de advertencia a la imagen en vista de que infringía dicha política. Este caso plantea varios asuntos importantes en relación con la moderación de contenido en situaciones de conflicto.

Información sobre el caso

En abril de 2022, un usuario de Facebook en Letonia publicó una imagen de lo que parecía ser un cuerpo sin vida, boca abajo, en una calle. No había heridas visibles. Meta le confirmó al Consejo que a la persona le habían disparado en Bucha, Ucrania.

En el texto en ruso que acompañaba la imagen, se argumentaba que las presuntas atrocidades que los soldados soviéticos cometieron en Alemania durante la Segunda Guerra Mundial se excusaron bajo el pretexto de que vengaban los crímenes que los soldados nazis habían cometido en la URSS. Se establecía una conexión entre el ejército nazi y el ejército ruso presente en Ucrania diciendo que el ejército ruso se había vuelto fascista.

En la publicación, se citaban supuestas atrocidades cometidas por el ejército ruso en Ucrania y se afirmaba que después de Bucha, los ucranianos también querrán que se repitan... y podrán hacer que se repitan. Al final, se citaba el poema "Kill him!" (¡Mátalo!) del poeta soviético Konstantin Simonov, incluidas estas líneas: "kill the fascist… Kill him! Kill him! Kill!" (mata al fascista… ¡Mátalo! ¡Mátalo! ¡Mata!).

Otro usuario de Facebook reportó la publicación, y Meta la eliminó por infringir su norma comunitaria sobre lenguaje que incita al odio. Después de que el Consejo seleccionara el caso, Meta determinó que había eliminado la publicación por error y la restauró. Tres semanas más tarde, aplicó una pantalla de advertencia a la imagen conforme a su política sobre contenido violento y gráfico.

Conclusiones principales

El Consejo determinó que eliminar la publicación y, más tarde, aplicar la pantalla de advertencia no fueron medidas coherentes con las Normas comunitarias de Facebook, los valores de Meta o sus responsabilidades respecto de los derechos humanos.

El Consejo señaló que, más que hacer acusaciones generales de que los soldados rusos son nazis, en la publicación, se argumentaba que actuaron como nazis en un momento y lugar en particular, y se establecieron paralelos históricos. Además, en la publicación se hacía referencia a los soldados rusos debido a su rol como combatientes, y no debido a su nacionalidad. En este contexto, ni las responsabilidades de Meta con los derechos humanos ni su norma comunitaria sobre lenguaje que incita al odio protegen a los soldados contra denuncias sobre actos inmorales atroces ni impiden comparaciones provocativas entre sus acciones y hechos pasados.

El Consejo hizo hincapié en la importancia del contexto a la hora de evaluar si cierto contenido insta a la violencia. En este caso, el Consejo determinó que las citas del poema "Kill him!" (¡Mátalo!) constituyen una referencia artística y cultural que se empeló como recurso retórico. El Consejo señaló que, si se leen a la luz de toda la publicación, las citas se usaron para describir, en lugar de para alentar, un estado mental. Advierten sobre ciclos de violencia y la posibilidad de que la historia se repita en Ucrania.

En las pautas internas que Meta proporciona a los moderadores, se aclara que, según la interpretación que la empresa hace de su norma comunitaria sobre violencia e incitación, se permiten tales referencias neutrales a un resultado potencial y las advertencias. Sin embargo, esto no se explica en las Normas comunitarias públicas. De igual modo, en la política sobre contenido violento y gráfico, se prohíben las imágenes que representan una muerte violenta. En las pautas internas que se proporcionan a los moderadores, se describe cómo Meta determina si una muerte parece violenta, pero esto no está incluido en la política pública.

En este caso, la mayoría de los miembros del Consejo indicó que la imagen de la publicación no incluía indicadores claros de violencia, los que, según las pautas internas que Meta proporciona a los moderadores, justificarían el uso de una pantalla de advertencia.

En términos generales, el Consejo definió que no es probable que esta publicación exacerbe la violencia. Sin embargo, destacó que existen complejidades adicionales a la hora de evaluar la incitación a la violencia en situaciones de conflictos internacionales, en las que, según las leyes internacionales, se puede tomar como blanco a los combatientes. La ilegalidad de la invasión rusa a Ucrania se reconoció internacionalmente. El Consejo instó a Meta a revisar sus políticas para que en ellas se consideren las circunstancias de una intervención militar ilegal.

La decisión del Consejo asesor de contenido

El Consejo asesor de contenido anuló la decisión original de Meta de eliminar la publicación y revocó la subsiguiente determinación de que la imagen de la publicación infringía la política sobre contenido violento y gráfico, por cuya causa Meta aplicó una pantalla de advertencia.

El Consejo le recomendó a Meta:

• Enmendar la norma comunitaria pública sobre violencia e incitación para aclarar que, según la interpretación que Meta hace de la política, se permite contenido que haga referencia neutral a un resultado potencial.
• Incluir una explicación de cómo determina si una imagen representa la muerte violenta de una persona en la norma comunitaria pública sobre contenido violento y gráfico.
• Evaluar la viabilidad de incorporar herramientas que les permitan a los usuarios adultos decidir si quieren ver contenido gráfico en general y, de ser así, si quieren verlo con o sin una pantalla de advertencia.

* Los resúmenes de casos ofrecen información general sobre los casos y no sientan precedentes.

Decisión del caso completa

1. Resumen de la decisión

El Consejo asesor de contenido anuló la decisión original de Meta de eliminar una publicación de Facebook en la que se abordaba el conflicto en Ucrania. El contenido, escrito en ruso y publicado en Letonia, consistía en una imagen fotográfica de una calle en la que yacía una persona, probablemente fallecida, acompañada por un texto. El texto incluía citas de un poema reconocido del poeta soviético Konstantin Simonov en el que se exigía resistencia contra los invasores alemanes durante la Segunda Guerra Mundial. Con este, se insinuó que los invasores rusos están teniendo en Ucrania un papel similar al que los soldados alemanes tuvieron en la URSS. Después de que el Consejo seleccionara esta publicación para revisión, Meta cambió su postura y restauró el contenido en la plataforma. El contenido planteó cuestiones conceptuales importantes en relación con las políticas sobre lenguaje que incita al odio y sobre violencia e incitación de Meta. Unas semanas después de decidir restaurar la publicación, Meta colocó una pantalla de advertencia en la foto. La mayoría de los miembros del Consejo determinó que la imagen fotográfica no infringe la política sobre contenido violento y gráfico, ya que en la imagen no hay indicadores visuales claros de violencia (los cuales justificarían el uso de la pantalla de advertencia, según se describe en las pautas internas que Meta proporciona a los moderadores de contenido).

2. Descripción del caso y contexto

En abril de 2022, un usuario de Facebook en Letonia publicó una foto con un texto en ruso en la sección de noticias. La publicación tuvo unas 20.000 visualizaciones, se compartió unas 100 veces y obtuvo casi 600 reacciones y más de 100 comentarios.

En la foto, se observaba una calle en la que yacía una persona, probablemente fallecida, junto a una bicicleta caída. No había heridas visibles. El texto comenzaba del siguiente modo: "Querían que se repitiera y se repitió". En la publicación, se hablaba sobre los presuntos crímenes que los soldados soviéticos cometieron en Alemania durante la Segunda Guerra Mundial. Asimismo, se afirmaba que dichos crímenes se excusaron bajo el pretexto de que los soldados se vengaban por el horror que los nazis habían infligido en la URSS. El usuario estableció una conexión entre la Segunda Guerra Mundial y la invasión de Ucrania, y argumentó que el ejército ruso se había vuelto fascista. En la publicación, se señalaba que el ejército ruso en Ucrania viola a las niñas, lastima a sus padres, tortura y asesina a personas pacíficas. Por último, concluía que después de Bucha, los ucranianos también querrán que se repitan... y podrán hacer que se repitan dichas acciones. Al final de la publicación, el usuario compartió fragmentos del poema "Kill him!" (¡Mátalo!) del poeta soviético Konstantin Simonov, incluidas estas líneas: "Kill the fascist so he will lie on the ground’s backbone, not you"; "kill at least one of them as soon as you can"; "Kill him! Kill him! Kill!" (Mata al fascista para que él se vuelva carroña, y no tú; mata al menos a uno de ellos tan pronto como puedas; ¡mátalo!, ¡mátalo!, ¡mata!).

El mismo día en que se publicó el contenido, otro usuario lo reportó como contenido violento y gráfico. En función de la decisión de un revisor, Meta lo eliminó por infringir la norma comunitaria sobre lenguaje que incita al odio. Horas más tarde, el usuario que publicó el contenido presentó una apelación. Un segundo revisor lo evaluó y determinó que infringía la misma política.

El usuario presentó una apelación ante el Consejo asesor de contenido. Luego de que el Consejo seleccionara la apelación para revisión el 31 de mayo de 2022, Meta determinó que había cometido un error en su decisión anterior de eliminar el contenido y lo restauró. El 23 de junio de 2022, 23 días después de que se restableciera el contenido, Meta aplicó una pantalla de advertencia a la foto de la publicación en virtud de la norma comunitaria sobre contenido violento y gráfico, sobre la base de que se mostraba la muerte violenta de una persona. En la pantalla de advertencia, aparece el siguiente texto: "Contenido delicado: esta foto podría mostrar contenido violento o gráfico". Se da a los usuarios dos opciones: "Más información" o "Ver foto".

El siguiente contexto fáctico es pertinente para la decisión del Consejo y se basa en una investigación encargada por el Consejo:

• El 2 de marzo de 2022, la Asamblea General de las Naciones Unidas reconoció la ilegalidad de la invasión rusa a Ucrania (A/RES/ES-11/1).
• Michelle Bachelet, Alta Comisionada de las Naciones Unidas para los Derechos Humanos, expresó su preocupación en torno a cuestiones graves e inquietantes sobre posibles crímenes de guerra, infracciones considerables contra el derecho internacional humanitario e incumplimientos importantes de los derechos humanos internacionales que ocurren en Ucrania.
• En las culturas postsoviéticas, el término "fascista" suele referirse a los nazis de Alemania, en especial, en el contexto de la Segunda Guerra Mundial. Sin embargo, la definición del término "fascista" ya no se asocia directamente con los nazis alemanes. En Rusia y Ucrania, el término se desdibujó debido a los debates políticos en los que la palabra "fascista" se usó para estigmatizar a los oponentes de diferentes fragmentos del espectro político.
• La primera oración de la publicación del usuario: "Querían que se repitiera y se repitió" hacía alusión a "podemos hacer que se repita", un eslogan popular en ruso, que algunas personas usan para referirse a la victoria soviética contra los nazis durante la Segunda Guerra Mundial. El usuario volvió a aludir a este eslogan cuando escribió "después de Bucha, los ucranianos también querrán que se repitan... y podrán hacer que se repitan" las acciones del ejército ruso.

3. Autoridad y alcance del Consejo asesor de contenido

El Consejo tiene la facultad para revisar la decisión de Meta tras la apelación de un usuario cuyo contenido se eliminó (Artículo 2, sección 1, del acta constitutiva; Artículo 3, sección 1, de los estatutos). El Consejo puede mantener o revertir la decisión de Meta (Artículo 3, sección 5, del acta constitutiva), y la decisión que tome será vinculante para la empresa (Artículo 4 del acta constitutiva). Meta también debe evaluar la viabilidad de aplicar su decisión con respecto a contenido idéntico cuyo contexto sea similar (Artículo 4 del acta constitutiva). Las decisiones del Consejo podrían incluir declaraciones de asesoramiento normativo con recomendaciones no vinculantes a las que Meta debe responder (Artículo 3, sección 4, y Artículo 4 del acta constitutiva).

Cuando el Consejo selecciona casos como este, en los que Meta reconoce que cometió un error, procede a revisar la decisión original para entender mejor la causa de los errores, así como para realizar observaciones o recomendaciones que puedan contribuir a la reducción del número de errores y la optimización de procedimientos imparciales y transparentes.

4. Fuentes de autoridad

El Consejo asesor de contenido consideró las siguientes autoridades y normas:

I. Decisiones del Consejo asesor de contenido

Entre las decisiones previas del Consejo asesor de contenido más relevantes, se encuentran las siguientes:

• Caso "Consejo de comunicaciones de Tigray" (2022-006-FB-MR). En este caso, el Consejo ratificó la decisión de Meta de eliminar el contenido después de concluir que, en virtud del perfil del usuario (un ministerio gubernamental regional), de las expresiones elegidas (un llamado explícito a matar a los soldados que no se rindieran) y del alcance de la página (unos 260.000 seguidores), se trataba de una publicación de alto riesgo que podría haber incitado más violencia.
• Caso "Video gráfico de Sudán" (2022-002-FB-MR). En este caso, el Consejo le recomendó a Meta: (i) enmendar la norma comunitaria sobre contenido violento y gráfico para permitir videos de personas o cadáveres si se comparten para generar conciencia en torno a abusos de los derechos humanos o para documentarlos; e (ii) implementar un proceso de desarrollo de políticas que perfeccionara los criterios para identificar los videos de personas o cadáveres si se comparten para generar conciencia en torno a abusos de los derechos humanos o para documentarlos.

II. Políticas de contenido de Meta

Conforme a la norma comunitaria sobre lenguaje que incita al odio, Meta no permite incitaciones a la violencia ni lenguaje deshumanizante dirigidos a personas o grupos sobre la base de características protegidas. En la política, se indica que el lenguaje deshumanizante incluye comparaciones, generalizaciones o afirmaciones basadas en comportamientos no aptas en relación con criminales sexuales o violentos. La política no se aplica de forma explícita a afirmaciones basadas en comportamientos aptas. La política sobre lenguaje que incita al odio no protege contra ataques a los grupos que se describen como responsables de crímenes violentos o delitos sexuales.

En virtud de la norma comunitaria sobre violencia e incitación, Meta no permite amenazas que podrían llevar a la muerte (y otras formas de violencia de gravedad alta), donde "amenazas" se define como, entre otras cosas, incitación a la violencia de gravedad alta y declaraciones a favor de la violencia de gravedad alta. En las pautas internas que Meta proporciona a los revisores de contenido, se aclara que, según la interpretación de la empresa, esta política permite contenido que incluya declaraciones con referencias neutrales a un resultado potencial de una acción o una advertencia.

En vista de la norma comunitaria sobre contenido violento y gráfico, las imágenes que muestren la muerte violenta de una o más personas por un accidente o asesinato deben cubrirse con una pantalla de advertencia.

III. Valores de Meta

Meta describió los valores de Facebook de "expresión", "dignidad" y "seguridad", entre otros, en la introducción a las Normas comunitarias. Esta decisión se referirá a esos valores si corresponde y según sea pertinente en relación con la decisión.

IV. Normas internacionales sobre derechos humanos

Los Principios Rectores sobre las Empresas y los Derechos Humanos de la ONU (UNGP), respaldados por el Consejo de Derechos Humanos de la ONU en 2011, establecen un marco voluntario que encuadra las responsabilidades de las empresas privadas en cuanto a estos derechos. En 2021, Meta anunció su Política corporativa de derechos humanos, con la que reafirmó su compromiso con el respeto de los derechos humanos de conformidad con los UNGP. El análisis del Consejo sobre las responsabilidades de Meta respecto de los derechos humanos en este caso se basó en las siguientes normas de derechos humanos:

• Derecho a la libertad de opinión y expresión: Artículo 19 del Pacto Internacional de Derechos Civiles y Políticos (ICCPR); observación general n.º 34 del Comité de Derechos Humanos (2011); informes del Relator Especial de la ONU sobre la libertad de opinión y expresión: A/HRC/38/35 (2018), A/74/486 (2019) y A/HRC/44/49/Add.2 (2020); informe del Alto Comisionado de la ONU para los Derechos Humanos: A/HRC/22/17/Add.4 (2013).
• Igualdad y no discriminación: Artículo 2, párrafo 1, del ICCPR.
• Derecho a la seguridad física: Artículo 9 del ICCPR.
• Derecho a la vida: Artículo 6 del ICCPR.

5. Respuestas del usuario

En su apelación ante el Consejo, el usuario indicó que la foto que compartió es la imagen "más inocua" de las que documentan los "crímenes del ejército ruso en la ciudad de Bucha", "en cuyas calles yacen decenas de civiles muertos". El usuario afirmó que la publicación no incita a la violencia y trata sobre "hechos históricos y actuales". Expresó que el poema se dedicó originalmente a la "lucha de los soldados soviéticos contra los nazis" y que lo publicó para demostrar cómo "el ejército ruso se transformó en una analogía del ejército fascista". Como parte de su apelación, indicó que es periodista y que considera importante que las personas entiendan lo que está pasando, en especial, en un conflicto bélico.

6. Respuestas de Meta

En los fundamentos que Meta proporcionó al Consejo, la empresa analizó el contenido de este caso a la luz de tres políticas diferentes y comenzó por la que concierne al lenguaje que incita al odio. Meta se enfocó en los motivos por los que la empresa revirtió su decisión original, en lugar de explicar cómo llegó a dicha decisión. De acuerdo con Meta, afirmar que soldados rusos cometieron crímenes en el contexto del conflicto entre Rusia y Ucrania no constituye un ataque conforme a la política sobre lenguaje que incita al odio, ya que se permiten afirmaciones basadas en comportamientos aptas en la plataforma. Meta también explicó que el fascismo es una ideología política y que el mero hecho de vincular al ejército ruso con cierta ideología política no constituye un ataque, ya que el ejército ruso es una institución y, por lo tanto, no es un grupo ni un subgrupo con características protegidas amparados por la política sobre lenguaje que incita al odio (en comparación con los soldados rusos, quienes son personas). Por último, Meta indicó que los distintos fragmentos del poema "Kill him!" (¡Mátalo!) citados en el texto de la publicación (p. ej., "kill a fascist" [mata a un fascista], "kill at least one of them" [mata al menos a uno de ellos], "kill him!" [¡mátalo!]) se refieren a los "nazis" en el contexto de la Segunda Guerra Mundial y que los nazis no son un grupo protegido.

Meta también analizó la publicación en vista de su política sobre violencia e incitación. Sobre este asunto, explicó que afirmar que "los ucranianos también querrán que se repitan... y podrán hacer que se repitan" después de los acontecimientos en Bucha no promueve la violencia. Meta señaló que se trata de una referencia neutral a un resultado potencial, lo que está permitido conforme a la interpretación de la empresa respecto de la política sobre violencia e incitación. Meta también indicó que citar el poema de Simonov fue un modo de concientizar acerca de la posibilidad de que la historia se repita en Ucrania. Por último, la empresa explicó que defender la violencia contra individuos incluidos en la política sobre personas y organizaciones peligrosas, como los nazis (a quienes se hace referencia como "fascistas" en el poema de Simonov), está permitido conforme a la norma comunitaria sobre violencia e incitación.

Luego, Meta explicó que se aplicaron una pantalla de advertencia y restricciones de edad apropiadas a la publicación conforme a la política sobre contenido violento y gráfico porque la imagen incluida en el contenido mostraba la muerte violenta de una persona. Meta confirmó que, en la imagen, se mostraba una persona a quien se le había disparado en Bucha, Ucrania.

En respuesta a las preguntas del Consejo, Meta ahondó sus explicaciones sobre las iniciativas que desarrolló en el contexto del conflicto en Ucrania. Sin embargo, ratificó que ninguna de estas iniciativas fue pertinente en cuanto a la eliminación inicial del contenido de este caso ni a la decisión de restaurarlo con una pantalla de advertencia. La empresa agregó que tomó varias medidas coherentes con los Principios Rectores sobre las Empresas y los Derechos Humanos de las Naciones Unidas para asegurar la debida diligencia en momentos de conflicto. Estas medidas incluyeron la interacción con la sociedad civil de Ucrania y Rusia, y con medios independientes rusos, para pedir opiniones sobre el impacto de las iniciativas que Meta implementó desde el principio del conflicto.

El Consejo hizo once preguntas a Meta, y Meta las respondió a todas de forma completa.

7. Comentarios del público

El Consejo asesor de contenido recibió ocho comentarios del público relacionados con este caso. Tres comentarios procedieron de Europa; cuatro, de los Estados Unidos y Canadá, y uno, de Latinoamérica y el Caribe. Los comentarios se referían a los siguientes temas: el conflicto armado internacional, la importancia del contexto en la moderación de contenido, el papel de los periodistas en situaciones de conflicto, la documentación de crímenes de guerra y la expresión artística.

Si quieres leer los comentarios del público que se enviaron en relación con este caso, haz clic aquí.

8. Análisis del Consejo asesor de contenido

Inicialmente, el Consejo examinó si el contenido estaba permitido conforme a las políticas de contenido de Meta, lo interpretó, cuando fue necesario, a la luz de los valores de la plataforma, y, luego, evaluó si su tratamiento coincidió con las responsabilidades de la empresa respecto de los derechos humanos.

El Consejo seleccionó este caso porque la eliminación de esta publicación generó controversias importantes en relación con las expresiones artísticas y las referencias culturales reutilizadas en nuevos contextos que podrían llegar a incitar violencia en situaciones de conflicto. Los espacios online para la expresión son especialmente importantes para las personas afectadas por la guerra, y las empresas de medios sociales deben prestar particular atención a proteger sus derechos. En este caso, quedó demostrado cómo la falta de un análisis contextual, lo que es común en la moderación de contenido a gran escala, podría impedir que los usuarios expresen sus opiniones respecto del conflicto y establezcan paralelos históricos provocativos.

8.1 Cumplimiento de las políticas de contenido de Meta

El Consejo determinó que el contenido de este caso no infringe la norma comunitaria sobre lenguaje que incita al odio ni la norma sobre violencia e incitación. La mayoría de los miembros del Consejo determinó que el contenido no infringe la norma comunitaria sobre contenido violento y gráfico.

I. Lenguaje que incita al odio

La política sobre lenguaje que incita al odio de Meta prohíbe los ataques contra personas sobre la base de características protegidas, incluida la nacionalidad. La profesión recibe algunas protecciones cuando se hace referencia a ella junto con una característica protegida. En las pautas internas que la empresa proporciona a los moderadores, también se aclara que, a los subgrupos parcialmente protegidos, incluidos los grupos definidos por una característica protegida más una profesión (p. ej., soldados rusos), generalmente les corresponde una protección contra ataques de nivel 1 de lenguaje que incita al odio. Tales ataques incluyen, entre otras cosas, incitación a la violencia y lenguaje deshumanizante en la forma de comparaciones, generalizaciones o afirmaciones basadas en comportamientos no aptas en relación con criminales sexuales o violentos. La política sobre lenguaje que incita al odio de Meta no ofrece protección a los grupos que se describen como responsables de crímenes violentos o delitos sexuales.

Las afirmaciones genéricas de que los soldados rusos son propensos a cometer crímenes podrían, según el contenido y el contexto, infringir la política sobre lenguaje que incita al odio de Meta. Es posible que tales afirmaciones estén cubiertas por la prohibición contra lenguaje deshumanizante correspondiente a la política, en la forma de afirmaciones basadas en el comportamiento no aptas. La política de Meta distingue entre: (i) la atribución de un mal carácter o rasgos desagradables a un grupo sobre la base de la etnia, nacionalidad u otras características protegidas (esto es a lo que Meta se refiere con "generalizaciones"); (ii) la crítica a miembros de un grupo sin contexto (esto es a lo que Meta se refiere con "afirmaciones basadas en el comportamiento no aptas"); y (iii) la crítica a miembros de un grupo por su comportamiento pasado (esto es a lo que Meta se refiere con "afirmaciones basadas en el comportamiento aptas"). En este caso, las afirmaciones sobre los soldados rusos invasores se hicieron en el contexto de las acciones realizadas durante el conflicto con Ucrania, no en general.

La pregunta que surge aquí es si la comparación del usuario de los soldados rusos con los fascistas alemanes de la era de la Segunda Guerra Mundial, así como su aserción de que violaban a mujeres, mataban a sus padres y mataban y torturaban a gente inocente, infringen la política sobre lenguaje que incita al odio de Meta. Tanto Meta como los miembros del Consejo concluyeron que la publicación no constituye un caso de incitación a la violencia o lenguaje deshumanizante conforme a la política sobre lenguaje que incita al odio, aunque por diferentes motivos. Esta fue la única parte de la política sobre lenguaje que incita al odio que se identificó como relevante para esta publicación.

Meta argumentó que la publicación no es infractora porque las afirmaciones acusatorias están dirigidas al ejército ruso, que es una institución, y no a los soldados rusos, que son personas. El Consejo indicó que esta distinción no tiene validez en este caso, ya que el usuario se refiere al "ejército" y a los "soldados" de manera intercambiable.

No obstante, el Consejo determinó que la acusación del usuario de que los soldados rusos cometieron crímenes comparables con los de los nazis en el contexto de la invasión rusa a Ucrania está permitida. Esto se debe a que atribuir acciones específicas (p. ej., comenzaron a vengarse realmente: violar mujeres, cortar a sus padres, torturar y matar a personas pacíficas en la periferia pacífica de Kiev) y comparar las acciones de los soldados rusos en Ucrania con otros ejércitos reconocidos por haber cometido crímenes de guerra (p. ej., el ejército ruso, después de 70 años, repitió completamente su historia en Alemania, y el ejército alemán, en Ucrania) se consideran afirmaciones "aptas" relacionadas con comportamientos observados durante un conflicto específico.

Por lo tanto, el Consejo definió que comparar las acciones de los soldados rusos en un contexto específico con los crímenes de los nazis está permitido en virtud de las Normas comunitarias, independientemente de si se permite o no una comparación genérica con los nazis. De acuerdo con las pautas internas de Meta, material que en otras circunstancias podría constituir un caso de lenguaje que incita al odio no infringe la política si está dirigido a grupos que se describen como responsables de crímenes violentos o delitos sexuales. En términos más generales, informar situaciones de incumplimientos de los derechos humanos en un contexto en particular no infringe la política sobre lenguaje que incita al odio, ni siquiera si se identifica a esas personas a través de su nacionalidad.

Además, el Consejo señaló que los distintos fragmentos del poema "Kill him!" (¡Mátalo!) citados en el contenido (p. ej., "kill a fascist" [mata a un fascista], "kill at least one of them" [mata al menos a uno de ellos], "kill him!" [¡mátalo!]) no deben considerarse incitación a la violencia porque, al leerse de forma conjunta con el resto de la publicación, el Consejo entiende que el usuario hizo hincapié en el ciclo de violencia, en lugar de instar a la violencia.

Por último, el Consejo concluyó que, en la publicación, se hace referencia a los soldados rusos debido a su papel como combatientes, y no a su nacionalidad. Las afirmaciones no son ataques dirigidos a un grupo "sobre la base de" sus características protegidas. En consecuencia, el contenido no constituye lenguaje que incita al odio, ya que no está involucrada ninguna característica protegida.

II. Violencia e incitación

Conforme a la política sobre violencia e incitación, Meta elimina la incitación a la violencia de gravedad alta, las declaraciones a favor de la violencia de gravedad alta y las declaraciones condicionales o expresiones de deseo de cometer actos de violencia de gravedad alta, entre otros tipos de expresiones. En las pautas internas que la empresa proporciona a los moderadores, se aclara también que, según la interpretación de Meta, esta norma comunitaria permite declaraciones con referencias neutrales a un resultado potencial de una acción o una advertencia. Asimismo, en las pautas internas se explica que, conforme a la política sobre violencia e incitación, también se permite contenido que condene las amenazas violentas o concientice sobre estas. Esto es válido para el contenido que tiene la finalidad evidente de informar e instruir a otras personas acerca de un tema o asunto específico, o para el contenido que habla sobre la experiencia personal de haber sido blanco de amenazas o violencia, incluidos informes académicos y periodísticos.

Meta explicó al Consejo que decidió restaurar este contenido porque la publicación no promovía la violencia. Meta caracterizó la afirmación del usuario de que los ucranianos también querrán que se repitan... y podrán hacer que se repitan después de los acontecimientos en Bucha como una referencia neutral a un resultado potencial, lo que, según la interpretación de la empresa, está permitido conforme a la política sobre violencia e incitación. Meta también indicó que citar el poema de Simonov fue una forma de concientizar acerca de la posibilidad de que la historia se repitiera en Ucrania. Por último, la empresa destacó el hecho de que el poema de Simonov está dirigido contra fascistas alemanes y que defender la violencia contra individuos incluidos en la política sobre personas y organizaciones peligrosas, como los nazis, está permitido conforme a la norma comunitaria sobre violencia e incitación.

Al Consejo este razonamiento lo persuade de forma parcial. Está de acuerdo con que la frase "los ucranianos también querrán que se repitan... y podrán hacer que se repitan" no incita a la violencia ni la defiende. Si se lee literalmente, este fragmento de la publicación simplemente dice que los ucranianos bien podrían responder a las acciones del ejército ruso con la misma violencia con la que los soviéticos respondieron a los nazis. En otras palabras, se trata de una referencia neutral a un resultado potencial, lo que, como se aclara en las pautas internas que se proporcionan a los moderadores de contenido, se permite conforme a la interpretación que hace Meta de la política sobre violencia e incitación.

El Consejo también determinó que los fragmentos con lenguaje violento del poema "Kill him!" (¡Mátalo!) citados en la sección anterior podrían leerse como expresiones descriptivas, y no alentadoras, de un estado mental. Cuando se leen junto con toda la publicación, incluida la imagen fotográfica, los fragmentos forman parte de un mensaje más amplio que advierte sobre la posibilidad de que la historia se repita en Ucrania. Constituyen una referencia artística y cultural que el usuario emplea como recurso retórico para transmitir su mensaje. Por lo tanto, el Consejo resolvió que esta parte del contenido también se permite en virtud de las pautas internas de Meta.

Sin embargo, el Consejo concluyó que Meta no es realista cuando analiza la publicación como si fuera una mera incitación a la violencia contra los nazis. El usuario deja claro que nota una similitud entre los soldados rusos en Ucrania hoy y los alemanes en Rusia durante la Segunda Guerra Mundial. En la medida en que podría considerarse que la publicación, con las citas del poema de Simonov, hace referencia a los soldados que ahora cometen atrocidades contras civiles, existe el riesgo de que los lectores interpreten esto como un llamado a la violencia contra los soldados rusos en la actualidad. Sin embargo, el Consejo está de acuerdo con la conclusión de Meta de que la publicación no infringe la norma comunitaria sobre violencia e incitación porque su principal significado, en contexto, es una advertencia contra un ciclo de violencia.

III. Contenido violento y gráfico

En vista de su política sobre contenido violento y gráfico, Meta agrega etiquetas de advertencia al contenido para que las personas sean conscientes de su naturaleza gráfica o violenta antes de hacer clic en él. Así sucede en el caso de las imágenes que muestran la muerte violenta de una o más personas por accidente o asesinato. En las pautas internas que Meta proporciona a los moderadores de contenido, se describe como "indicadores de una muerte violenta" a las imágenes gráficas de las consecuencias de una muerte violenta en donde la víctima aparece sin vida o visiblemente incapacitada, y hay otros indicadores visuales de violencia, como sangre o heridas en el cuerpo, sangre alrededor de la víctima, un cuerpo hinchado o descolorido, o cuerpos extraídos de entre escombros. En las pautas internas, también se explica que los cuerpos sin ningún indicador de muerte violenta o sin al menos un indicador de violencia no deben considerarse como representaciones de una muerte violenta.

En la foto incluida en el contenido, se observaba una calle en la que yacía una persona. No había heridas visibles. Meta pudo confirmar que a la persona le habían disparado en Bucha, Ucrania. El Consejo destacó que los moderadores de contenido al trabajar a gran escala no necesariamente tienen acceso a este tipo de información. La mayoría de los miembros del Consejo determinó que, según se describe en las pautas internas que Meta proporciona a los moderadores de contenido, no se infringió la política sobre contenido violento y gráfico, ya que en la imagen fotográfica no hay indicadores visuales claros de violencia. Por lo tanto, dicha mayoría concluyó que no se debió haber aplicado la pantalla de advertencia.

En vista del contexto del conflicto armado en Ucrania y los escombros que se observan en la imagen, una minoría de los miembros del Consejo determinó que el contenido efectivamente infringe la política sobre contenido violento y gráfico.

IV. Aplicación

Un usuario reportó la publicación por contenido violento y gráfico, pero esta se eliminó conforme a la política sobre lenguaje que incita al odio. Meta restauró la publicación solo después de que el Consejo hiciera hincapié en ella. En respuesta a las preguntas del Consejo, Meta explicó que el contenido del caso no se remitió a expertos en políticas o en el tema para una revisión adicional. Remitido para revisión significa que, en lugar de someter la decisión a una revisión por parte de moderadores de contenido del mismo nivel, esta se somete a un equipo interno de Meta que se encarga de la política pertinente o la materia en cuestión.

8.2 Cumplimiento de los valores de Meta

El Consejo determinó que eliminar el contenido y colocar una pantalla de advertencia sobre la imagen incluida en él no son medidas coherentes con los valores de Meta.

Al Consejo le preocupan la situación de los ciudadanos rusos y las posibles consecuencias de la incitación a la violencia dirigida a los rusos en general. Sin embargo, en este caso, el Consejo determinó que el contenido no representa un riesgo real para la "dignidad" y la "seguridad" de dicho pueblo que pudiera justificar su primacía sobre la "expresión", en especial, en un contexto en el que Meta debe asegurar a los usuarios afectados por la guerra la posibilidad de debatir sus implicancias.

8.3 Cumplimiento de las responsabilidades de Meta con los derechos humanos

El Consejo determinó que la decisión inicial de Meta de eliminar el contenido y la decisión de Meta de aplicar una pantalla de advertencia al contenido no fueron medidas coherentes con las responsabilidades de Meta como empresa con los derechos humanos. Meta se comprometió a respetar los derechos humanos de conformidad con los Principios Rectores sobre las Empresas y los Derechos Humanos de la ONU (UNGP). En la Política corporativa de derechos humanos de Facebook, se dispone el cumplimiento específico del Pacto Internacional de Derechos Civiles y Políticos (ICCPR).

Libertad de expresión (Artículo 19 del ICCPR)

El alcance del derecho a la libertad de expresión es amplio. El Artículo 19, párrafo 2, del ICCPR concede una mayor protección a la libertad de expresión, incluida la expresión artística, en cuanto a temas políticos y observaciones sobre asuntos públicos, así como a debates sobre los derechos humanos y sobre afirmaciones históricas (observación general n.º 34, párrafos 11 y 49). Incluso a las expresiones que pudieran considerarse profundamente ofensivas se les ofrece protección (observación general n.º 34, párrafo 11). El contenido que el Consejo analiza en este caso incluye lenguaje ofensivo. Sin embargo, equivale a un discurso político y dirige la atención a abusos contra los derechos humanos en el contexto de una guerra.

El contenido de este caso incluía citas de un poema de guerra reconocido, que el usuario empleó como referencia cultural provocativa para instruir y advertir al público acerca de las posibles consecuencias de las acciones de los soldados rusos en Ucrania. El Relator Especial de la ONU sobre la libertad de expresión destacó que la expresión artística incluye las "historias de ficción y de no ficción que instruyen, entretienen o provocan" (A/HRC/44/49/Add.2, párrafo 5).

El Artículo 19 del ICCPR exige que, si un Estado impone restricciones sobre la libertad de expresión, estas deben cumplir los requisitos de legalidad, fin legítimo y necesidad y proporcionalidad (Artículo 19, párrafo 3, del ICCPR). El Relator Especial de la ONU sobre la libertad de expresión animó a las empresas de medios sociales a basarse en estos principios al moderar la expresión en el entorno online (A/HRC/38/35, párrafos párrafos 45 y 70).

I. Legalidad (claridad y accesibilidad de las reglas)

El principio de legalidad exige que cualquier regla que los Estados usen para limitar la expresión sea clara y accesible (observación general n.º 34, párrafo 25). El Comité de Derechos Humanos también indicó que las reglas "no pueden conferir una discrecionalidad absoluta para restringir la libertad de expresión a los encargados de su implementación" (observación general n.º 34, párrafo 25). Las personas deben contar con suficiente información para saber en qué casos es posible que se apliquen restricciones a su libertad de expresión y de qué forma, a fin de poder ajustar su comportamiento según la situación. Si se aplica a las reglas de contenido de Meta para Facebook, esto implica que los usuarios deben poder conocer qué está permitido y qué está prohibido.

Dos secciones de las pautas internas de Meta sobre cómo aplicar la norma comunitaria sobre violencia e incitación tienen especial relevancia ante la conclusión a la que llegaron tanto Meta como el Consejo de que el contenido debe permanecer en Facebook. En primer lugar, según la interpretación de Meta, esta política permite los mensajes que advierten sobre la posible existencia de violencia ejercida por terceros, cuando se trata de afirmaciones con referencias neutrales a un resultado potencial de una acción o una advertencia. En segundo lugar, se permite contenido que en otras circunstancias se consideraría infractor cuando condena amenazas violentas o concientiza sobre estas. No obstante, el Consejo señaló que estas pautas internas no están incluidas en el texto público de la norma comunitaria sobre violencia e incitación. A raíz de esto, los usuarios podrían creer que contenido como el de la publicación de este caso es infractor, cuando no lo es. Meta debería integrar estas secciones en el texto público de la política sobre violencia e incitación para ofrecer la claridad necesaria a los usuarios. El Consejo sabe que divulgar más detalles sobre las políticas de contenido de Meta podría habilitar a usuarios con malas intenciones a eludir las Normas comunitarias con mayor facilidad. Sin embargo, el Consejo considera que la necesidad de claridad y especificidad prevalece sobre la preocupación de que algunos usuarios pudieran intentar engañar al sistema. Si no saben que las referencias neutrales a un resultado potencial y las advertencias que condenan a las amenazas violentas o concientizan sobre estas estás permitidas, quizá los usuarios eviten iniciar debates de interés público, o participar en estos, en las plataformas de Meta.

Al Consejo también le preocupa que, en este caso, la decisión de Meta de aplicar una pantalla de advertencia no fue coherente con las pautas internas que proporciona a los moderadores de contenido. Asimismo, es posible que la interpretación de Meta de la política sobre contenido violento y gráfico no sea clara para los usuarios. Meta debería procurar aclarar, en el texto público de la política, cómo la empresa la interpreta y cómo determina si una imagen muestra la muerte violenta de una o más personas por accidente o asesinato en el contexto de un conflicto, según las normas internas que Meta proporciona a los moderadores de contenido.

Además, Meta le informó al Consejo que no se le envió ningún mensaje al usuario que originalmente reportó el contenido para informarle que, más tarde, la empresa restauró la publicación. Esto genera preocupaciones relativas a la legalidad, ya que la falta de información pertinente para los usuarios podría interferir en la habilidad de las personas de oponerse a las medidas tomadas respecto del contenido o de hacer un seguimiento de las quejas relacionadas (A/HCR/38/35, párrafo 58). El Consejo destacó que notificar a las personas que reportan contenido acerca de la medida de cumplimiento que se toma en relación con dicho contenido, así como la norma comunitaria pertinente, ayudaría a los usuarios a comprender mejor las reglas de Meta y seguirlas.

II. Fin legítimo

Cualquier restricción que se aplique a la libertad de expresión debe tener un "fin legítimo". El Consejo previamente reconoció que la norma comunitaria sobre lenguaje que incita al odio procura el fin legítimo de proteger los derechos de los demás (observación general n.º 34, párrafo 28), incluidos los derechos a la igualdad y a la no discriminación sobre la base de la etnia y la nacionalidad (Artículo 2, párrafo 1, del ICCPR). Por lo tanto, proteger a los rusos contra ataques basados en el odio es un fin legítimo. Sin embargo, el Consejo determinó que proteger a los "soldados" de afirmaciones de actos inmorales no es un fin legítimo cuando la ofensiva se hace en referencia a su rol de combatientes durante una guerra, y no a su nacionalidad u otra característica protegida. No deberían prohibirse las críticas a instituciones como el ejército (observación general n.º 34, párrafo 38).

La norma sobre violencia e incitación, debidamente enmarcada y aplicada, procura el fin legítimo de proteger los derechos de los demás. En el contexto de este caso, esta política busca evitar el aumento de la violencia que podría dañar la seguridad física (Artículo 9 del ICCPR) y la vida (Artículo 6 del ICCPR) de las personas que se encuentran en zonas afectadas por el conflicto entre Rusia y Ucrania.

El Consejo señaló que existen otras complejidades involucradas a la hora de evaluar la incitación a la violencia en el contexto de una resistencia armada ante una invasión. La ilegalidad de la invasión rusa a Ucrania se reconoció internacionalmente (A/RES/ES-11/1), y el uso de la fuerza en defensa propia ante tales actos de agresión está permitido (Artículo 51 del acta constitutiva de las Naciones Unidas). En el contexto de un conflicto armado internacional, el derecho internacional humanitario que regula la conducción de hostilidades de las partes permite tomar como blanco a combatientes activos durante el curso del conflicto armado sin incurrir en un hecho ilegal. Este no es el caso de las personas que ya no participan activamente en las hostilidades, incluidos los prisioneros de guerra (Artículo 3 del Convenio de Ginebra relativo al trato debido a los prisioneros de guerra). Cuando la violencia es legal en sí misma conforme al derecho internacional, el discurso que insta a dicha violencia implica varias consideraciones que deben examinarse por separado. Si bien el Consejo determinó que el contenido de este caso no es infractor, urgió a Meta a revisar sus políticas para que en ellas se consideren las circunstancias de una intervención militar ilegal.

En referencia a la decisión de la empresa de colocar una pantalla de advertencia en la fotografía, Meta señaló que la política sobre contenido violento y gráfico procura promover un entorno que favorezca la diversidad en la participación al limitar el contenido que glorifica la violencia o celebra el sufrimiento o la humillación de otras personas. El Consejo reconoció que esta finalidad es legítima en el contexto del objetivo de Meta de promover la inclusión en la plataforma.

III. Necesidad y proporcionalidad

El principio de necesidad y proporcionalidad dispone que las restricciones que se apliquen a la libertad de expresión deben ser adecuadas para cumplir su función de protección, deben ser el instrumento menos invasivo entre aquellos que permitan cumplir dicha función y deben ser proporcionales al interés que se pretende proteger (observación general n.º 34, párrafo 34).

A fin de evaluar los riesgos que presenta el contenido violento u ofensivo, el Consejo normalmente se guía por la prueba de seis factores descrita en el Plan de Acción de Rabat, que trata la apología del odio nacional, racial o religioso que constituye una incitación a la hostilidad, la discriminación o la violencia. En este caso, el Consejo determinó que, a pesar del contexto de un conflicto armado en curso y de las referencias culturales densas que el usuario empleó, no es probable que la publicación (una advertencia acerca de un ciclo de violencia) genere daños. El Consejo concluyó que la eliminación inicial del consejo fue innecesaria. Además, la mayoría de los miembros del Consejo determinó que la pantalla de advertencia tampoco era necesaria, mientras que una minoría de estos consideró que era necesaria y proporcionada.

Teniendo en cuenta los factores pertinentes, el Consejo concluyó que, a pesar del contexto de la invasión ilegal de Rusia a Ucrania donde los discursos potencialmente provocadores podrían aumentar la tensión, la intención evidente del usuario (concientizar acerca de la guerra y sus consecuencias), el tono reflexivo que se adoptó al citar un poema de guerra y la proliferación de otras conversaciones respecto de los acontecimientos terribles acaecidos en Ucrania significan que no es probable que el contenido contribuya significativamente a la exacerbación de la violencia.

La mayoría de los miembros del Consejo concluyó que el uso de una pantalla de advertencia inhibe la libertad de expresión y que no es una respuesta necesaria en esta instancia, ya que en la imagen fotográfica no hay indicadores visuales claros de violencia (los cuales justificarían el uso de la pantalla de advertencia, según se describe en las pautas internas que Meta proporciona a los moderadores de contenido). Las empresas de medios sociales deben considerar diversas respuestas posibles ante un contenido problemático para garantizar que las restricciones se delimiten estrictamente (A/74/486, párrafo 51). En este asunto, el Consejo planteó que Meta debería desarrollar otras herramientas de personalización para que los usuarios puedan decidir si quieren ver contenido gráfico delicado con o sin advertencias en Facebook e Instagram.

Una minoría de los miembros del Consejo indicó que la pantalla de advertencia era una medida necesaria y proporcionada que se diseñó de forma adecuada para fomentar la participación y la libertad de expresión. Esta minoría cree que, en consideración a la dignidad de las personas fallecidas, en especial, en el contexto de un conflicto armado, y los posibles efectos de las imágenes que muestran muerte y violencia a un gran número de usuarios, Meta podría priorizar la prudencia y agregar pantallas de advertencia sobre el contenido similar al que se analiza en este caso.

9. Decisión del Consejo asesor de contenido

El Consejo asesor de contenido anuló la decisión original de Meta de eliminar el contenido y revocó la subsiguiente determinación de Meta de que se había infringido la política sobre contenido violento y gráfico, que fue el motivo por el que la empresa colocó una pantalla de advertencia en la imagen fotográfica de la publicación.

10. Declaraciones de asesoramiento normativo

Política de contenido

1. Meta debería agregar al texto público de su norma comunitaria sobre violencia e incitación que, según la interpretación de la empresa, la política permite contenido que incluya declaraciones con referencias neutrales a un resultado potencial de una acción o una advertencia, y contenido que condene las amenazas violentas o concientice sobre estas. El Consejo prevé que, en caso de implementarse esta recomendación, será necesario que Meta modifique el texto público de la política sobre violencia e incitación para reflejar estas inclusiones.

2. Meta debería agregar al texto público de su norma comunitaria sobre contenido violento y gráfico detalles de las pautas internas respecto de cómo la empresa determina si una imagen muestra la muerte violenta de una o más personas por accidente o asesinato. El Consejo prevé que, en caso de implementarse esta recomendación, será necesario que Meta modifique el texto público de la norma comunitaria sobre contenido violento y gráfico para reflejar estas inclusiones.

Aplicación

3. Meta debería evaluar la viabilidad de implementar herramientas de personalización que les permitan a los usuarios mayores de 18 años decidir si quieren ver contenido gráfico delicado con o sin pantallas de advertencia, tanto en Facebook como en Instagram. El Consejo prevé que, en caso de implementarse esta recomendación, será necesario que Meta publique los resultados de una evaluación de viabilidad.

* Nota de procedimiento:

La preparación de las decisiones del Consejo asesor de contenido está a cargo de paneles conformados por cinco miembros, quienes deben aprobarlas por mayoría. Las decisiones del Consejo no necesariamente representan las opiniones personales de todos los miembros.

En cuanto a la decisión del caso, se encargó una investigación independiente en nombre del Consejo. Un instituto de investigación independiente con sede en la Universidad de Gotemburgo y un equipo conformado por más de 50 científicos sociales de seis continentes, así como 3.200 expertos de diferentes países del mundo. El Consejo también recibió asesoramiento de Duco Advisors, una empresa asesora dedicada a la intersección de geopolítica, confianza, seguridad y tecnología. La empresa Lionbridge Technologies, LLC, con especialistas en más de 350 idiomas que trabajan en 5.000 ciudades diferentes, se encargó de las competencias en materia lingüística.