La eliminación de insultos reapropiados evidencia errores en la moderación de carruseles en Instagram
25 de septiembre de 2025
El Consejo asesor de contenido ha expresado su preocupación por la aplicación excesiva y reiterada de las prácticas de Meta relacionadas con los carruseles de Instagram. En este caso, que involucra un discurso político crítico hacia el gobierno de Argentina y los efectos sociales de sus políticas, Meta eliminó de forma incorrecta parte de un carrusel compuesto por varias imágenes de texto que formaban un poema político. Solo una de las imágenes, que contenía insultos, fue evaluada por los moderadores, lo que provocó que se pasara por alto un contexto crucial.
Para que se pueda considerar el contexto completo, el Consejo recomienda que Meta garantice que los moderadores puedan ver todo el contenido dentro de una publicación en carrusel antes de tomar una decisión. El Consejo anula la decisión original de Meta de eliminar el contenido.
Sobre el caso
En enero de 2025, pocos días antes de las protestas contra el presidente argentino Javier Milei, quien había pronunciado un discurso criticando al “feminismo radical” y a la “agenda LGBT,” un usuario de Instagram publicó un carrusel de imágenes que solo contenían texto. Las palabras distribuidas en las ocho imágenes conformaban un poema que expresaba una crítica general hacia el gobierno argentino y hacia la apatía de la población durante un período en el que, según el usuario, los cambios de política estaban afectando a grupos vulnerables. El poema instaba a los lectores a la protesta.
En la segunda imagen del carrusel, el texto incluía dos insultos, “puto” y “trava,” utilizados para referirse a hombres homosexuales y mujeres trans, respectivamente. Un día después de que se publicara el carrusel, los sistemas automatizados de Meta detectaron la segunda imagen y la enviaron a un moderador humano, quien determinó que infringía las reglas sobre conducta que incita al odio. El moderador no tuvo acceso a las otras siete imágenes del carrusel. Solo se eliminó la segunda imagen de Instagram, y se aplicó una sanción a la cuenta del usuario. El usuario apeló ante Meta. Un segundo revisor confirmó la decisión. Posteriormente, el usuario apeló ante el Consejo.
Cuando el Consejo seleccionó el caso, Meta revocó su decisión original y restauró la segunda imagen al carrusel.
Conclusiones clave
El Consejo concluyó que el contenido no infringe la política de conducta que incita al odio, ya que califica para excepciones que permiten el uso de insultos “para condenar o generar conciencia” y de manera “empoderadora”. La decisión final de Meta de restaurar el contenido se fundamentó en la interpretación de que el texto condena al gobierno de Milei mediante términos que suelen utilizarse en discursos anti-LGBTQIA+. Esta interpretación concuerda con las orientaciones que el Consejo ha brindado anteriormente a Meta sobre cómo evaluar contenido y excepciones a sus políticas. No obstante, el Consejo puso de manifiesto un punto adicional clave: la publicación condena la indiferencia de la población frente a los cambios sociales, políticos y económicos que, según el usuario que publicó el contenido, afectan negativamente a ciertos grupos vulnerables.
Los insultos utilizados en la publicación no apuntaban negativamente a una persona o grupo en específico, sino que se emplearon para criticar las políticas del gobierno argentino. Se utilizaron con el objetivo de rechazar la indiferencia social ante medidas gubernamentales que afectan a grupos, como los integrantes de la comunidad LGBTQIA+. De cara a las elecciones de octubre de 2025 en Argentina, Meta debe asegurarse de que los discursos políticos, incluidos los discursos reapropiados, no se eliminen innecesariamente.
El Consejo señala que, en este caso, resultaba prácticamente imposible para el revisor determinar que los insultos se habían usado de manera permitida sin tener acceso al carrusel completo de imágenes de texto que conformaban el poema. El Consejo está preocupado por la posibilidad de una aplicación excesiva reiterada cuando los revisores no tienen acceso a todo el carrusel a la hora de tomar decisiones sobre imágenes específicas, como ocurrió en este caso, y cuando no cuentan con la facultad de evaluar eficazmente la intención. La libertad de expresión de los usuarios puede verse afectada cuando se elimina contenido específico de carruseles en los que el discurso se desarrolla a lo largo de múltiples imágenes.
La decisión del Consejo asesor de contenido
El Consejo anula la decisión original de Meta de eliminar el contenido.
El Consejo recomienda que Meta haga lo siguiente:
- Garantice que, al revisar el contenido dentro de carruseles, los moderadores puedan ver todo el contenido de la publicación antes de tomar una decisión, incluso cuando solo se envíe una imagen para la revisión manual.
- Desarrolle un proceso integral que asegure que, al introducir o actualizar de manera significativa un tipo de contenido, los procedimientos y las herramientas de Meta permitan su moderación conforme a las responsabilidades de la empresa en materia de derechos humanos.
Más información
Para leer los comentarios públicos sobre este caso, haga clic aquí.
