Poema sobre la protesta política en Argentina

Resumen

El Consejo asesor de contenido manifestó su preocupación respecto de la aplicación excesiva y reiterada de políticas derivadas de las prácticas de Meta en relación con las secuencias de Instagram. En este caso relacionado con un discurso político que critica al Gobierno de Argentina y los efectos sociales de sus políticas, Meta eliminó de manera incorrecta parte de una secuencia que contenía varias imágenes con texto que componían un poema político. Los moderadores solo evaluaron una de las imágenes, que contenía insultos, por lo que no se tuvo en cuenta el contexto, que es fundamental.

A efectos de que se pueda considerar el contexto completo, el Consejo recomienda que Meta se asegure de que los moderadores que revisan las secuencias puedan ver todo el contenido que forma parte de una determinada publicación por secuencia antes de tomar una decisión. El Consejo anuló la decisión original de Meta de eliminar el contenido.

Información sobre el caso

En enero de 2025, días antes de que se realizaran protestas contra el presidente de Argentina, Javier Milei, quien había pronunciado un discurso en el que criticaba el "feminismo radical" y la "agenda LGBT", un usuario de Instagram publicó una secuencia de imágenes que solo incluían texto. Las palabras que figuran en las ocho imágenes componen un poema muy crítico del Gobierno de Argentina y de la apatía de las personas durante un período en el que, según el usuario, los cambios en las políticas están afectando a grupos vulnerables. El poema anima a los lectores a protestar.

En la segunda imagen de la secuencia, el texto incluye dos insultos, "puto" y "trava", que se utilizan para referirse a los hombres gais y las mujeres trans, respectivamente. Un día después de que se publicó la secuencia, los sistemas automatizados de Meta detectaron la segunda imagen y la enviaron a un moderador, quien determinó que infringía las reglas sobre conducta que incita al odio. El moderador no podía ver las otras siete imágenes de la secuencia. Solo se eliminó la segunda imagen de Instagram y se aplicó una falta a la cuenta del usuario. El usuario apeló a Meta. Un segundo revisor ratificó la decisión. El usuario entonces apeló al Consejo.

Cuando el Consejo seleccionó el caso, Meta revirtió su decisión original y restauró la segunda imagen para que volviera a formar parte de la secuencia.

Conclusiones principales

El Consejo determinó que el contenido no infringe la política de conducta que incita al odio, ya que cumple con los requisitos para que se haga una excepción, que permita el uso de insultos "para condenar o concientizar" y con el fin de "empoderar" a las personas. La decisión final de Meta de restaurar el contenido se basó en la interpretación de que el texto repudia al Gobierno de Milei mediante el uso de términos que suelen utilizarse en la retórica anti-LGBTQIA+. Esta interpretación se ajusta a lo que el Consejo le ha indicado anteriormente a Meta en cuanto a la manera en que debe evaluar el contenido y las excepciones a sus políticas. Sin embargo, el Consejo destacó otro aspecto fundamental: la publicación repudia la indiferencia de las personas ante los cambios sociales, políticos y económicos que el usuario que realiza la publicación considera que afectan de forma negativa a determinados grupos vulnerables.

Los insultos utilizados en la publicación no se dirigían de forma negativa a una persona o un grupo en particular, sino que se invocaban para criticar las políticas del Gobierno argentino. Se usaban como recurso para oponerse a la indiferencia social ante determinadas medidas gubernamentales que afectan a ciertos grupos, incluidas las personas de la comunidad LGBTQIA+. De cara a las elecciones que tendrán lugar en octubre de 2025 en Argentina, Meta debe asegurarse de que el discurso político, incluido aquel con fines reivindicatorios, no se elimine de manera innecesaria.

El Consejo destacó que, en este caso, resultaba prácticamente imposible para el revisor determinar que los insultos se utilizaban de un modo permitido sin tener acceso a la secuencia completa de imágenes con texto que componían el poema. El Consejo manifestó su preocupación respecto de la posibilidad de que se produzca una aplicación excesiva de políticas de forma reiterada, debido a que los revisores no tienen acceso a las secuencias completas al tomar decisiones relacionadas con la aplicación de políticas sobre imágenes específicas de dichas secuencias, tal como sucedió en este caso, y no cuentan con las herramientas necesarias para evaluar la intención de manera eficaz. La libertad de expresión de los usuarios puede verse afectada cuando determinado contenido se elimina de las secuencias en las que el discurso se presenta a lo largo de varias imágenes.

Decisión del Consejo asesor de contenido

El Consejo anuló la decisión original de Meta de eliminar el contenido.

El Consejo recomendó a Meta lo siguiente:

• Garantizar que, al revisar contenido que forme parte de secuencias, los moderadores puedan ver la totalidad del contenido de la publicación antes de tomar una decisión, incluso cuando se envíe una sola imagen para su revisión manual.
• Desarrollar un proceso integrado que garantice que, cuando se presente un determinado tipo de contenido o se lo actualice de forma significativa, las herramientas y procedimientos de la empresa permitan su moderación de un modo que se ajuste a las responsabilidades de la empresa en materia de derechos humanos.

* Los resúmenes de casos ofrecen información general sobre los casos y no sientan precedentes.

Decisión del caso completa

1. Descripción y contexto del caso

En enero de 2025, un usuario de Instagram de Argentina publicó una secuencia de ocho imágenes que solo incluían texto en español y componían un poema. Se compartió unos días después de que el presidente argentino Javier Milei pronunciara un discurso en la reunión anual del Foro Económico Mundial, en el que defendió sus políticas económicas y criticó el "feminismo radical" y la "agenda LGBT".

El poema es muy crítico del Gobierno de Argentina, sus políticas y lo que describe como la "violencia" que generaron. También critica la apatía política ante los cambios en las políticas sociales y económicas que, a criterio del usuario, afectan a los grupos vulnerables. Exhorta al público a protestar y se publicó poco antes de que miles de personas salieran a las calles de la Ciudad Autónoma de Buenos Aires, capital de Argentina, para manifestarse en lo que se conoció como la Marcha Federal del Orgullo Antifascista y Antirracista.

Al formular sus críticas, el poema utiliza dos insultos: "puto" y "trava" (términos que suelen utilizase para referirse a los hombres gais y las mujeres trans, respectivamente). En la segunda imagen de la publicación, el poema especula sobre el hecho de que es posible que el lector no se sienta afectado por el contexto político por no ser "puto, trava, mujer, jubilado o estudiante". La cuarta imagen también utiliza el término "puto " para referirse a las personas que afirman tener amigos gais, pero no protestan para defender sus derechos. Presenta un argumento similar en relación con los padres o las madres que tienen hijas que defienden el derecho al aborto. Aunque los términos "puto" y "trava" se consideran insultos en los países latinoamericanos, incluido Argentina, también fueron reivindicados por las personas de la comunidad LGBTQIA+ y se utilizan en contextos de autoidentificación y empoderamiento. El poema apela al lector, y el autor afirma que protestará a favor de los derechos de aquellas personas que eligen quedarse en casa cuando "vengan a buscarte". Aproximadamente 1.000 personas indicaron que les gustaba la publicación, y la segunda imagen se visualizó unas 6.000 veces. Ningún usuario la reportó.

Un día después de que se publicara el contenido, los sistemas automatizados de Meta identificaron la segunda imagen que contenía los dos insultos como potencialmente infractora y la enviaron para que se someta a una revisión a gran escala a cargo de un moderador. Los sistemas automatizados de Meta no detectaron la cuarta imagen que contenía un insulto, la cual no se sometió a una revisión a gran escala. Los revisores solo pudieron ver la imagen identificada con los dos insultos, en lugar de todas las imágenes de la secuencia, y determinaron que infringía la política de conducta que incita al odio de Meta. Como consecuencia, Meta eliminó la imagen, dejó visible el resto de la secuencia y aplicó una falta estándar al usuario. Ese mismo día, el usuario apeló la decisión de Meta, y un segundo revisor ratificó la decisión original.

El usuario que publicó el contenido luego apeló la decisión de Meta al Consejo asesor de contenido. Cuando el Consejo seleccionó este caso, los expertos en políticas de Meta volvieron a revisar la publicación y tuvieron acceso a todas las imágenes. La empresa revirtió la decisión original, restauró la imagen para que volviera a formar parte de la secuencia y eliminó la falta de la cuenta del usuario.

El Consejo destacó el siguiente contexto en cuanto a la decisión que tomó:

En 2024, el presidente Milei puso en marcha una serie de reformas económicas para abordar la prolongada crisis económica de Argentina. Además, promulgó varios decretos. Algunos grupos de la sociedad civil repudiaron los decretos, afirmando que afectan de manera negativa los derechos de las personas de la comunidad LGBTQIA+. Estos grupos también expresaron su preocupación por la retórica anti-LGBTQIA+ que emplean funcionarios del Gobierno. Las políticas sociales y económicas del Gobierno desencadenaron varias manifestacionesnacionales por parte de estudiantes, jubilados, organizaciones de la sociedad civil, sindicatos y partidos de la oposición.

En diciembre de 2023, mismo mes en que asumió la presidencia, el Gobierno implementó nuevos protocolos para controlar las manifestaciones callejeras, que incluían medidas que, según advirtieron ciertos grupos de la sociedad civil, podían desalentar las protestas o incluso sancionarlas penalmente. Desde entonces, la Comisión Interamericana de Derechos Humanos (CIDH) expresó su preocupación en relación con denuncias vinculadas al presunto uso excesivo de la fuerza por parte de las fuerzas de seguridad del Estado durante las protestas. La CIDH destacó "la sólida tradición de participación ciudadana" de Argentina y exhortó al país a "garantizar los derechos a la libertad de expresión y de asociación". Varias organizaciones, entre ellas, PEN International, Amnistía Internacional y el Foro de Periodismo Argentino, registraron una disminución en la libertad de expresión en Argentina desde la asunción de Milei.

2. Respuestas del usuario

En su apelación al Consejo, el usuario que publicó el contenido manifestó que en la publicación "se utilizaba un lenguaje artístico y que invita a la reflexión para captar la atención del público de un modo significativo, sin incitar al odio, la discriminación o la violencia". Dijo que la publicación "se compartió con la intención de fomentar la comprensión y propiciar el debate en torno a la responsabilidad colectiva y los derechos humanos". En cuanto al formato de la publicación, sostuvo que "este tipo de expresión se basa en tradiciones culturales de narración y crítica, que son esenciales para generar empatía y consolidar la comunidad".

3. Respuestas y políticas de contenido de Meta

I. Políticas de contenido de Meta

En virtud de su política de conducta que incita al odio, Meta elimina el contenido que "describe o ataca negativamente a las personas con insultos". Los insultos se definen como "palabras que generan inherentemente un clima de exclusión e intimidación en contra de las personas sobre la base de una característica protegida, a menudo porque estas palabras están vinculadas a discriminación, opresión y violencia históricas".

En las bases de la política, Meta reconoce que hay ocasiones en las que se utilizan insultos para "condenar o denunciar un discurso". Meta también es consciente de que hay casos en los que "el lenguaje, incluidos los insultos, que podría infringir nuestras normas se usa de forma autorreferencial o motivadora". En la actualización del 7 de enero de la política de conducta que incita al odio, Meta dejó en claro que los insultos cumplen con los requisitos para que se hagan excepciones de este tipo solo cuando la intención del usuario resulta clara.

Las normas internas para revisores definen en mayor detalle la excepción con motivos de condena. Condenar se describe como el acto de "denunciar o cuestionar el uso del insulto o la conducta que incita al odio", lo que puede incluir expresar incredulidad, criticar y exponer, así como rechazar el uso del insulto o la conducta que incita al odio.

II. Respuestas de Meta

Meta designó los términos "puto" y "trava"como insultos en sus normas internas. Sin embargo, cuando el Consejo seleccionó este caso, Meta revirtió su decisión original de eliminar la imagen de la secuencia, ya que concluyó que no infringía la política de conducta que incita al odio debido a que los insultos se utilizan en un "contexto de condena". Meta manifestó lo siguiente: "Aunque en la publicación se utilizan insultos, estos no se usan para atacar a una persona o grupo de personas sobre la base de sus características protegidas de una manera que incite al odio, sino que se emplean de forma artística en repudio al Gobierno de Milei mediante el uso de términos que suelen utilizarse en la retórica anti-LGBTQ+. En otras palabras, la publicación condena el mismo tipo de discriminación a la que se hace referencia al utilizar el insulto".

Cuando el Consejo preguntó de qué manera Meta determinó que los insultos se utilizaban en un "contexto de condena", Meta manifestó que el contenido "condena[ba] de manera integral la retórica percibida como anti-LGBTQ+ del Gobierno de Milei… pero de un modo crítico y que no incita al odio". Además, "aunque los insultos en sí no constituyen el objeto explícito de la condena del autor, se utilizan como ejemplo de la manera en que se puede atacar a la comunidad  LGBTQ+" y el "autor repudia el uso generalizado de esta clase de términos y la conducta que incita al odio en un sentido más amplio".

Meta ya le manifestó con anterioridad al Consejo que sus políticas, por lo general, no les otorgan a los revisores a gran escala facultades discrecionales para determinar la intención de un usuario. Según la empresa, para garantizar que sus reglas se apliquen de manera justa y congruente, no es necesario que los revisores a gran escala "infieran la intención o adivinen lo que alguien realmente quiere decir" porque "adivinar la intención de expresar lenguaje que incita al odio da pie a la subjetividad, los sesgos y una aplicación de políticas injusta" (consulta Violencia contra las mujeres). Cuando el Consejo le pidió a Meta que aclarase esta postura, considerando el nuevo enfoque relativo a la intención del usuario previsto en la sección sobre excepciones aplicables al uso de insultos de la política de conducta que incita al odio, la empresa respondió que no veía ninguna discrepancia. Según Meta, la "política logra un equilibro justo dado que no pide a los revisores que infieran la intención de un usuario, sino que los habilita a considerar dicha intención cuando esta resulta clara a la luz del contenido, con el fin de garantizar que se permita cualquier discurso que no esté expresamente prohibido". En este caso, "resulta evidente a partir del propio texto [...] que la intención del autor es generar un debate en relación con las personas que votaron al Gobierno actual, a quien este acusa de cometer actos de violencia, y cuestionarlas por haberlo hecho.

Cuando se le preguntó cómo hace la empresa para garantizar que los revisores cuenten con herramientas que tengan en cuenta los nuevos tipos de contenido, Meta respondió que todos los equipos realizan una evaluación de riesgos para garantizar que los diferentes tipos de contenido (como historias, reels o secuencias de Instagram) se incorporen a las herramientas de moderación de contenido de la empresa al momento de su lanzamiento, y que se pueden desarrollar nuevas herramientas, o adaptar las existentes, para ajustarse a los requisitos específicos de estos tipos de contenido.

El Consejo realizó preguntas sobre: las excepciones aplicables a la prohibición de la política de conducta que incita al odio en cuanto al uso de insultos; las prácticas en materia de aplicación de políticas en relación con las publicaciones por secuencia de Instagram; y los procesos de diligencia debida en materia de derechos humanos implementados para mitigar los riesgos relacionados con el lanzamiento de diferentes tipos de contenido, como imágenes, videos y álbumes de imágenes, como secuencias. Meta respondió todas las preguntas. Sin embargo, Meta se negó a permitir que el Consejo publique información relacionada con las prácticas de aplicación de políticas de la empresa en relación con las publicaciones por secuencia de Instagram, específicamente en lo relativo a las preguntas del Consejo sobre los casos en que los revisores tienen acceso a la secuencia completa de imágenes.

4. Comentarios del público

El Consejo recibió dos comentarios del público que cumplieron las condiciones de presentación. Uno de los comentarios provino de Latinoamérica y el Caribe, y el otro de Asia-Pacífico y Oceanía. Para leer los comentarios del público enviados con consentimiento de publicación, haz clic aquí.

Los comentarios contemplaban los siguientes temas: el significado y los usos de los términos "puto" y "trava" en contexto; la recuperación y reivindicación de términos considerados insultos; el impacto de la ahora llamada política de conducta que incita al odio de Meta en las personas de la comunidad LGBTQIA+; y los enfoques respecto de la moderación de expresiones artísticas que incluyen discurso político.

5. Análisis del Consejo asesor de contenido

El Consejo seleccionó este caso con el fin de abordar el problema recurrente asociado a la aplicación excesiva de las Normas comunitarias de Meta para eliminar el discurso político. Esto es de especial importancia considerando las elecciones legislativas que tendrán lugar en Argentina el 26 de octubre de 2025. El Consejo también seleccionó este caso con el objeto de examinar la manera en que Meta modera los tipos de contenido compuestos por varias partes, como las secuencias de Instagram, y el impacto de dichas prácticas de aplicación de políticas sobre la libertad de expresión. Este caso se incluye dentro del ámbito de las prioridades estratégicas del Consejo para elecciones y espacio cívico y lenguaje que incita al odio contra grupos marginados.

El Consejo analizó la decisión de Meta en este caso respecto de sus políticas de contenido, valores y responsabilidades en materia de derechos humanos. Asimismo, el Consejo evaluó las implicaciones de este caso para el enfoque más general de Meta en cuanto a la gobernanza de contenido.

5.1 Cumplimiento de las políticas de contenido de Meta

I. Reglas de contenido

El Consejo determinó que, aunque en la publicación se utilizan dos insultos, esta no infringe la política de conducta que incita al odio. Como mencionó el usuario en la declaración que presentó al Consejo, los insultos se utilizan con el fin de "invitar a la reflexión" y no señalan de manera negativa a ninguna persona o grupo en función de sus características protegidas. El Consejo determinó que los insultos se utilizan para tipificar a las personas que se consideran aliadas de la comunidad LGBTQIA+ y que, por lo tanto, se sienten cómodas utilizando insultos de una manera reivindicatoria, pero que no están dispuestas a protestar en nombre de dicha comunidad. Cuando se lee la publicación en su totalidad, es claro que repudia de manera general la indiferencia ante las medidas recientes del Gobierno que afectan a grupos vulnerables, incluidas las personas de la comunidad  LGBTQIA+, y que exhorta a actuar en su nombre en forma de protesta. La recuperación y reivindicación de términos considerados insultos como expresión política motivadora es un fenómeno de larga data entre los activistas de la comunidad LGBTQIA+ en Argentina (consulta PC-31290), en especial en relación con uno de los términos ("trava") del caso en cuestión. Por lo tanto, la publicación cumple con los requisitos para que se apliquen las excepciones que permiten el uso "con el fin de condenar o concientizar" y "empoderar" a las personas.

El Consejo destacó que la publicación no se ajusta a la perfección a ninguna de estas excepciones, sino que comprende varias de ellas (consulta Reapropiación de términos árabes para obtener información sobre un enfoque similar). Esto se debe a que la publicación no condena de manera específica el uso de los insultos a los que se hace referencia en ella, ni repudia de manera explícita una "conducta que incita al odio", como exigen las normas internas de Meta en materia de condena. Más bien, la publicación requiere una mayor comprensión de la condena del contexto político. El Consejo determinó que la conclusión final de Meta en cuanto a que la publicación condena al "Gobierno de Milei mediante el uso de términos que suelen usarse en la retórica anti-LGBTQ" constituye una posible interpretación del contenido. El Consejo también reconoció que el enfoque revisado de Meta para la evaluación del contenido se ajusta mejor a la recomendación que el Consejo le dio en el pasado sobre cómo evaluar el contenido (es decir, no de forma literal, sino tomando en cuenta el contenido en su totalidad y el contexto). Sin embargo, el Consejo destacó como aspecto indispensable para entender la publicación el hecho de que esta también condena la indiferencia de las personas ante los cambios sociales, políticos y económicos que el usuario considera que afectan de forma negativa a determinados grupos vulnerables, y que exhorta a las personas a protestar.

Sin embargo, el Consejo no está convencido de que el enfoque de Meta respecto de la moderación de las publicaciones por secuencia en este caso hubiese podido permitir que los revisores a gran escala interpretaran de manera correcta la publicación y tomaran una decisión adecuada en relación con la aplicación de políticas. Como a los revisores solo se les mostró la imagen potencialmente infractora de la publicación por secuencia, estos no pudieron evaluar el contenido en su totalidad. Además, las pautas internas les impiden considerar el contexto, tanto dentro como fuera de la publicación, a la hora de determinar la intención y el significado. Se trata de cuestiones distintas que se analizan, respectivamente, en las secciones "Aplicación de políticas" y "Legalidad" a continuación. Aunque cada una de ellas habría dado lugar a un resultado incorrecto en materia de aplicación de políticas, el Consejo destacó que, en este caso, ambas se potenciaron entre sí.

II. Aplicación de políticas

Este caso genera una gran preocupación respecto de la posible aplicación excesiva de las políticas de Meta en relación con secuencias de Instagram, en las que el significado de una publicación se va desarrollando a lo largo de varias imágenes.

El Consejo sugirió a Meta en reiteradas ocasiones que revise el contenido en su totalidad y a gran escala, en lugar de evaluarlo basándose en un fragmento aislado (consulta, entre otros, Cinturón de abalorios). En el caso Imágenes de mujeres indígenas parcialmente desnudas, el Consejo consideró que, de manera similar a lo que sucedió en este caso, los revisores de Meta solo tuvieron acceso a una imagen de la publicación por secuencia y deberían haber considerado el contexto adicional que aportaba el resto de las fotos de la secuencia para determinar si el contenido cumplía con los requisitos para que se le aplicara una concesión a fin de que permanezca en Instagram. Las acciones vinculadas a la aplicación de políticas en este caso, donde el revisor solo podía ver la imagen con los dos insultos, implicó, en la práctica, que este no pudiera evaluar la totalidad de la publicación. El Consejo consideró que era prácticamente imposible para el revisor determinar que, en este caso, los insultos se utilizaban en un contexto permitido sin tener acceso a la secuencia completa de imágenes, dado que en su conjunto componían un poema, que solo podía entenderse analizándolo en su totalidad.

El Consejo hizo hincapié en que las publicaciones por secuencia de Instagram se lanzaron hace más de ocho años. Al Consejo le preocupan las situaciones reiteradas de aplicación excesiva de políticas producto de errores como el que observamos en este caso, en el que los revisores no tuvieron acceso a la secuencia completa al tomar decisiones sobre aplicación de políticas en relación con una imagen específica. También le preocupa el posible impacto que tiene la eliminación de determinadas imágenes de las publicaciones por secuencia en la libertad de expresión de los usuarios. Anteriormente, en el caso Reapropiación de términos árabes, el Consejo consideró una publicación por secuencia que era mayormente informativa y se presentaba como una serie de declaraciones distintas. En ese caso, el Consejo determinó que eliminar la secuencia completa no supondría una respuesta proporcionada "incluso en el caso de que la secuencia hubiera incluido una imagen con insultos inadmisibles no amparados bajo una excepción". Por otro lado, el contenido en este caso demuestra la manera en que las publicaciones por secuencia permiten que el discurso de los usuarios se desarrolle a lo largo de varias imágenes de un modo narrativo. Aunque el hecho de eliminar solo determinadas imágenes podría conllevar una menor restricción de la libertad de expresión (consulta Reapropiación de términos árabes), también podría modificar o distorsionar el significado que el usuario buscaba transmitir, lo cual se exacerba aún más si las personas que ven la publicación no tienen claro que se eliminó una imagen.

Las prácticas en materia de aplicación de políticas de Meta deberían tener en cuenta los diferentes modos de expresión que permiten las publicaciones por secuencia. De manera similar a lo que el Consejo recomendó anteriormente (consulta Manifestaciones en Rusia a favor de Navalny, recomendación 6), una manera en que Meta podría implementar esto es notificando al usuario que se eliminó parte de su contenido (en este caso, parte de una publicación por secuencia). Luego, Meta podría darle la posibilidad de modificar la publicación o eliminarla por completo si considera que se modificó el significado que buscaba transmitir. El Consejo también le recomendó a Meta anteriormente que permita que los usuarios indiquen en sus solicitudes de apelación si el contenido se encuadra dentro de alguna de las excepciones de la política de conducta que incita al odio (consulta El meme de los "dos botones", recomendación 4).

En este caso, el Consejo recomienda que Meta desarrolle un proceso de revisión periódica de sus prácticas de aplicación de políticas y sus herramientas de moderación de contenido con el fin de garantizar que estas se ajusten a los diferentes tipos de contenido, como imágenes, secuencias de imágenes y videos. La primera etapa de este proceso podría incorporar las evaluaciones de riesgos que la empresa le informó al Consejo que ya realiza antes del lanzamiento de un nuevo tipo de contenido, pero debería abordar específicamente la forma en que Meta prevé cumplir con sus responsabilidades en materia de derechos humanos al moderar distintos tipos de contenido que permiten que los usuarios se expresen de diferentes maneras. La revisión periódica posterior al lanzamiento debería evaluar la forma en que los usuarios usan concretamente los tipos de contenido y considerar la manera en que Meta cumple con sus responsabilidades en materia de derechos humanos en la práctica mediante pruebas constantes en tiempo real en torno a la moderación de nuevos tipos de contenido, la identificación de problemas y su mitigación.

El Consejo también espera que, en paralelo con el lanzamiento de nuevos tipos de contenido, Meta desarrolle las herramientas de detección automatizadas necesarias para la aplicación de sus políticas, que integren normas de derechos humanos en su diseño e implementación. El Consejo destaca que Meta reconoció públicamente que utiliza los macromodelos lingüísticos para realizar algunas tareas relacionadas con la aplicación de políticas, como eliminar contenido potencialmente infractor de las colas de revisión en determinadas circunstancias. Es importante que estas herramientas cuenten con la capacidad de prevenir la aplicación excesiva de políticas mediante la revisión de señales de las publicaciones en su totalidad, en lugar de mediante la búsqueda de posibles infracciones aisladas en partes de la publicación que no constituyen infracciones cuando se las analiza de manera integral.

Por último, para reducir la probabilidad de que se cometan errores como en este caso, el Consejo también recomienda que Meta permita que los revisores vean las secuencias completas cuando se envíe una sola imagen para su revisión. El Consejo reconoce que existen ventajas y desventajas a la hora de tomar esta clase de decisiones sobre productos. Por ejemplo, ampliar el acceso de los revisores para que puedan ver las publicaciones por secuencia podría aumentar la cantidad de tiempo que estos dedican a revisar las publicaciones. Sin embargo, tal como el Consejo comentó en el marco de la decisión sobre el caso del Primer ministro de Camboya, Meta debería implementar funciones de los productos y guías operativas que permitan revisar el contenido de formato extenso con mayor precisión. En este caso, Meta debería asegurarse de que los revisores puedan ver todos los componentes de una publicación, incluidas todas las imágenes de una secuencia, cuando lo consideren necesario.

5.2 Cumplimiento de las responsabilidades de Meta en materia de derechos humanos

El Consejo determinó que mantener el contenido en la plataforma, como lo requiere una interpretación adecuada de las políticas de contenido de Meta, también es coherente con las responsabilidades de Meta en materia de derechos humanos.

Libertad de expresión (artículo 19 del ICCPR)

El artículo 19 del Pacto Internacional de Derechos Civiles y Políticos (ICCPR) establece una amplia protección de la libertad de expresión, incluidas las opiniones sobre política, asuntos públicos y derechos humanos, así como las expresiones artísticas y culturales (observación general n.º 34, párrafos 11 y 12). En dicho artículo, se concede una "protección de muy alto valor" al "debate público que involucra figuras públicas en el ámbito político e instituciones públicas" como un componente esencial para la gestión de asuntos públicos (observación general n.º 34, párrafo 38; consulta también la observación general n.º 25, párrafos 12 y 25). Esto se extiende a las expresiones que puedan considerarse "muy ofensivas" (observación general n.º 34, (2011), párrafo 11; consulta también el párrafo 17 del informe de 2019 del Relator Especial de la ONU sobre la libertad de expresión, A/74/486, y el caso Publicaciones que muestran la bandera de la época del apartheid en Sudáfrica). Esta publicación también se relaciona con un acto de discriminación contra las personas de la comunidad LGBTQIA+. El Alto Comisionado de la ONU para los Derechos Humanos expresó su preocupación en relación con ciertas limitaciones discriminatorias respecto de la defensa de los derechos de las personas de la comunidad LGBTQIA+ que provocan restricciones sobre la libertad de expresión (informe A/HRC/19/41, párrafo 65).

Si un Estado impone restricciones sobre la libertad de expresión, estas deben cumplir los requisitos de legalidad, fin legítimo y necesidad y proporcionalidad (artículo 19, párrafo 3, ICCPR). Se suele hacer referencia a estos requisitos como "prueba de tres partes". El Consejo utiliza este marco para interpretar las responsabilidades de Meta en materia de derechos humanos en línea con los Principios Rectores sobre las Empresas y los Derechos Humanos de las Naciones Unidas, que Meta se comprometió a cumplir en su Política corporativa de derechos humanos. El Consejo lo hace tanto respecto de la decisión sobre el contenido en particular en revisión como de lo que esto pone de manifiesto acerca del enfoque más amplio de Meta en relación con la gestión del contenido. Como indicó el Relator Especial de la ONU sobre libertad de expresión, "las empresas no tienen las obligaciones de los Gobiernos, pero sus efectos son de un tipo que les obliga a evaluar el mismo tipo de cuestiones sobre la protección del derecho de sus usuarios a la libertad de expresión" (A/74/486, párrafo 41). En este caso, el Consejo considera que la decisión inicial de Meta de eliminar el contenido en virtud de sus políticas no cumplía con estos requisitos.

I. Legalidad (claridad y accesibilidad de las reglas)

El principio de legalidad exige que cualquier regla que limite la expresión sea clara y accesible. Las reglas deberían formularse con la precisión suficiente para permitir que las personas regulen su conducta en consonancia con ellas (observación general n.º 34, párrafo 25). Además, estas reglas deben "proporcionar suficientes pautas para aquellos que están a cargo de su implementación, de manera que puedan definir qué tipos de expresión pueden restringirse de forma adecuada y cuáles no" (ibid.). El Relator Especial sobre la libertad de expresión de la ONU dijo que, cuando se aplican a la gobernanza del discurso online por parte de actores privados, las reglas deben ser claras y específicas (A/HRC/38/35, párrafo 46). Las personas que usan las plataformas de Meta deben ser capaces de acceder a las reglas y entenderlas, y los revisores de contenido deben tener pautas claras respecto de su aplicación.

El Consejo considera que la prohibición de Meta en relación con el uso de insultos y las excepciones de carácter público respecto de los usos permitidos de insultos (con fines de condena, denuncia y de manera autorreferencial y motivadora) resultan suficientemente claras según su aplicación en este caso.

Como mencionó el Consejo en decisiones anteriores, Meta podría mejorar la aplicación a gran escala de las excepciones relativas al uso de insultos proporcionando a los revisores pautas claras para que evalúen el contenido en su totalidad y consideren el contexto local al determinar la intención y el significado (consulta, por ejemplo, Cinturón de abalorios). Los expertos en políticas de Meta se basaron en una serie de indicios contextuales sobre la intención del usuario y la situación política actual en Argentina para determinar que los insultos de la segunda imagen no constituían una infracción, después de que el Consejo identificara el contenido. Como señaló el Consejo en varios casos (consulta, por ejemplo, Violencia contra las mujeres), las pautas actuales para revisores limitan considerablemente la posibilidad de realizar este tipo de análisis contextual, incluso cuando existen indicios claros de que el contenido podría justificar una excepción.

Aunque Meta manifestó al Consejo que no solicita a los revisores que infieran la intención del usuario, expresó que los revisores pueden considerar la intención "cuando esta resulta clara a la luz del contenido". En el ejemplo que se proporcionó al Consejo, dijo que los revisores están facultados para concluir que el usuario tiene la intención explícita de condenar el uso de un determinado insulto si el contenido afirma: "Condeno el uso de [insulto]". Aunque los revisores pueden estar facultados para determinar la intención en esa clase de casos, las declaraciones de intención pueden adoptar formas mucho menos evidentes (consulta Cita nazi). A la luz de estos factores, el Consejo no está convencido de que los revisores cuenten con facultades suficientes para considerar la intención en la práctica. En el poema mencionado en este caso, por ejemplo, la intención del usuario resulta clara, pero se articula de manera implícita con lenguaje artístico y referencias a la situación política actual de Argentina. Asimismo, en las decisiones sobre el Cinturón de abalorios y El meme de los "dos botones", el Consejo manifestó que no es necesario que un usuario señale de forma explícita su intención para que la publicación cumpla con los requisitos para constituir una excepción conforme a la política sobre lenguaje que incita al odio. En esos casos, el Consejo dijo que es suficiente con que el usuario deje en claro su intención en el contexto de la publicación en su conjunto. Permitir que los usuarios comuniquen su intención de este modo se ajusta a las responsabilidades de Meta en materia de derechos humanos en relación con la expresión, así como también a sus propios valores. Cuando Meta utiliza revisores, debería confiar en su idoneidad y capacidad de interpretación a la hora de realizar inferencias a partir del contenido con el fin de evaluar la intención del usuario.

Como el Consejo señaló en decisiones anteriores, es indispensable que los revisores posean conocimientos lingüísticos y sobre el contexto local adecuados para poder evaluar el significado y la intención de manera precisa. Meta expresó al Consejo anteriormente que los revisores "se designan para su mercado en función de su aptitud lingüística y su conocimiento de la cultura y el mercado". Estos factores son muy importantes dado que, tras los cambios en la política de conducta que incita al odio del 7 de enero, Meta ahora se basa en la existencia de una intención clara por parte del usuario para determinar si cierto contenido cumple con los requisitos para que se haga una excepción que permita el uso de insultos. El Consejo le recomendó a Meta en ocasiones anteriores que actualice sus pautas internas para mostrar qué indicadores proporciona a los revisores para que realicen excepciones al considerar contenido que, de otro modo, podría eliminarse en virtud de la política de lenguaje que incita al odio (consulta Violencia contra las mujeres, recomendación 2). Brindar a los revisores más herramientas para que verdaderamente "consideren la intención" a la hora de aplicar dichas excepciones exige que Meta reconozca que la condena puede depender del contexto. Meta debería implementar pautas internas que permitan que los revisores utilicen su criterio en relación con dicho contexto al evaluar el contenido.

II. Fin legítimo

Toda restricción sobre la libertad de expresión por parte de un Estado debe procurar uno o más de los fines legítimos mencionados en el ICCPR, entre ellos, proteger los "derechos de los demás". El Consejo previamente reconoció que la norma comunitaria sobre lenguaje que incita al odio, actualmente norma comunitaria sobre conducta que incita al odio, persigue el fin legítimo de proteger los derechos de los demás. En la decisión Reapropiación de términos árabes, por ejemplo, el Consejo consideró que la política de lenguaje que incita al odio perseguía el fin legítimo de proteger los derechos de los demás a la igualdad y la protección contra la violencia y la discriminación por motivos de orientación sexual e identidad de género.

III. Necesidad y proporcionalidad

El principio de necesidad y proporcionalidad previsto en el artículo 19(3) del ICCPR exige que las restricciones por parte de los Estados que se apliquen a la expresión "deben ser adecuadas para desempeñar su función protectora; deben ser el instrumento menos perturbador de los que permitan conseguir el resultado deseado; y deben guardar proporción con el interés que debe protegerse" (observación general n.º 34, párrafo 34).

El Consejo reconoció anteriormente la posibilidad de que se generen perjuicios respecto de los derechos de las personas de la comunidad LGBTQIA+ producto de permitir la permanencia de insultos homofóbicos y discurso que incita al odio en las plataformas de Meta, así como el papel que desempeña la política de conducta que incita al odio en el respeto de esos derechos (consulta, por ejemplo, Publicación en polaco contra las personas trans, Manifestaciones en Colombia, Reapropiación de términos árabes). El Consejo solicitó la opinión lingüística de expertos y comentarios del público que confirmaron que los términos utilizados en este caso se consideran insultos en los países de Latinoamérica, incluido Argentina. Sin embargo, pueden utilizarse de forma reivindicatoria como marcadores de identidad y "expresión[es] de resistencia" (PC-31290).

En esta publicación, los insultos no señalaban de forma negativa a una persona o un grupo en particular, sino que se invocaban para criticar las políticas sociales y económicas del Gobierno argentino. La publicación anima a los lectores a considerar su propia postura respecto del contexto político de Argentina y a protestar. Los argentinos utilizan con frecuencia los medios sociales para convocar manifestaciones en relación con temas sociales y políticos. En este caso, los insultos se usaban como recurso para oponerse a la indiferencia social ante ciertas medidas recientes que afectan a grupos vulnerables, incluidas las personas de la comunidad LGBTQIA+. En función de estos factores, el Consejo considera que no era necesario eliminar el contenido para proteger a las personas de la comunidad LGBTQIA+ de la discriminación.

Como parte de sus preparativos para las elecciones legislativas de 2025 en Argentina, Meta debe asegurarse de que el discurso político que utiliza insultos como los considerados en este caso y otros similares en contextos permitidos no se eliminen de forma innecesaria. Para ello, Meta debe basarse en el sentido amplio de condena del contexto político que se menciona antes. El comentario público realizado por la organización Derechos Digitales y la organización de la sociedad civil Conectando Derechos (PC-31290) menciona que estos insultos son "pilares de identidad política" para los activistas y las personas de la comunidad LGBTQIA+, y su utilización en el poema tiene por objeto "amplificar y visibilizar las voces de los grupos directamente afectados por las medidas del Gobierno argentino".

Los comentarios del público recibidos en este caso recomiendan que se considere el contenido del caso a la luz de los cambios de la política de conducta que incita al odio del 7 de enero de 2025 (consulta PC-31290 y PC-31289). Al anunciar esos cambios, Meta indicó que su objetivo era cometer menos errores y eliminar una menor cantidad de contenido que no infringe las normas por equivocación. El Consejo ya mencionó que existe la posibilidad de que se cometan errores desproporcionados al moderar discurso que incluya términos reivindicados o reapropiados por parte de las comunidades queer, y destacó el efecto negativo de la eliminación de contenido por error (consulta Reapropiación de términos árabes y Término reapropiado en actuación drag). En estos casos, el Consejo ratificó que la aplicación excesiva de políticas sobre este tipo de discurso constituye una "seria amenaza para su libertad de expresión".

En este caso, el Consejo reitera su recomendación de que Meta "muestre una especial sensibilidad ante la posibilidad de eliminar de forma indebida" cualquier discurso que incluya términos reivindicados, "dada la importancia de [dicho discurso para] las personas de la comunidad LGBTQIA+ para contrarrestar la discriminación". La orientación sexual y la identidad de género se siguen considerando características protegidas en la política de conducta que incita al odio, y las excepciones de la política sobre insultos ofrecen protección a la expresión que utilice términos considerados insultos reivindicados y reapropiados para defender los derechos de las personas de la comunidad LGBTQIA+. Meta debe garantizar que sus prácticas de aplicación de políticas hagan efectiva dicha protección.

6. Decisión del Consejo asesor de contenido

El Consejo anuló la decisión original de Meta de eliminar el contenido.

7. Recomendaciones

Aplicación de políticas

1. A los fines de que se pueda considerar el contexto completo de una determinada publicación durante una revisión, Meta debe garantizar que, al revisar contenido que forme parte de secuencias o ciertos tipos de contenido que incluyan varias imágenes, los moderadores puedan ver la totalidad del contenido de la publicación antes de tomar una decisión, incluso cuando se envíe una sola imagen para su revisión manual.

El Consejo considerará implementada esta recomendación cuando Meta le envíe documentación interna en la que se detallen estos cambios respecto de la interfaz del moderador.

2. Meta debe desarrollar un proceso integrado que garantice que, cuando se presente o se actualice de forma significativa un determinado tipo de contenido, las herramientas y los procedimientos de la empresa permitan moderarlo de un modo que se ajuste a las responsabilidades de la empresa en materia de derechos humanos. Este proceso debería incluir lo siguiente:

1. Un período previo al lanzamiento en el que las políticas de cumplimiento de normas, las guías operativas y las decisiones sobre productos por parte de los revisores se establezcan, se prueben y se sometan a pruebas de "red-teaming" (es decir, procedimientos en los que se buscan vulnerabilidades de forma proactiva) por parte de equipos interdisciplinarios según una metodología predeterminada.
2. Un período limitado después del lanzamiento, con pruebas en vivo periódicas, identificación y mitigación de problemas, que se enfoque en los distintos modos de expresión que permite este tipo de contenido.

El Consejo considerará implementada esta recomendación cuando Meta comparta documentación interna que detalle este proceso y alerte al Consejo cada vez que se active con una actualización asíncrona.

* Nota de procedimiento:

• La preparación de las decisiones del Consejo asesor de contenido está a cargo de paneles conformados por cinco miembros, quienes deben aprobarlas por mayoría. Las decisiones del Consejo no necesariamente representan las opiniones de todos los miembros.
• En virtud de su acta constitutiva, el Consejo asesor de contenido tiene la facultad de revisar apelaciones de usuarios cuyo contenido fue eliminado por Meta, apelaciones de usuarios que reportaron contenido que Meta mantuvo publicado y decisiones que Meta le presente (artículo 2, sección 1, del acta constitutiva). El Consejo tiene autoridad vinculante para ratificar o anular las decisiones sobre contenido de Meta (artículo 3, sección 5, y artículo 4 del acta constitutiva). El Consejo podrá emitir recomendaciones no vinculantes a las que Meta deberá responder (artículo 3, sección 4, y artículo 4). Cuando Meta se compromete a tomar medidas respecto de las recomendaciones, el Consejo supervisa su implementación.
• En cuanto a la decisión del caso, se encargó una investigación independiente en nombre del Consejo. Lionbridge Technologies, LLC, con especialistas en más de 350 idiomas que trabajan en 5.000 ciudades diferentes, se encargó de las competencias en materia lingüística.

Volver a Decisiones de casos y opiniones consultivas sobre políticas