Reporte de una imagen generada con IA de un hombre judío con el diablo

Las decisiones resumidas analizan casos en los que Meta revirtió su decisión original sobre un contenido después de que el Consejo lo remitiera a la empresa e incluyen información sobre los errores que Meta reconoció. Estas decisiones son aprobadas por un panel de miembros del Consejo, no por todo el Consejo, no implican comentarios del público ni tienen valor de precedencia para el Consejo. Las decisiones resumidas traen aparejados cambios directos en las decisiones de Meta, ya que aportan transparencia respecto de estas correcciones, a la vez que permiten identificar en qué aspectos Meta podría mejorar la aplicación de sus políticas.

Resumen

Un usuario apeló la decisión de Meta de conservar una publicación de Facebook que contenía una imagen creada digitalmente que retrataba a un hombre judío riéndose con el diablo, junto con una descripción que acusaba a las personas judías de habilitar "fuerzas malignas" y chantajear a "políticos, figuras de los medios de comunicación y personas en posiciones de supuesta autoridad". Después de que el Consejo le remitiera la apelación a Meta, la empresa revirtió su decisión original y eliminó la publicación.

Información sobre el caso

En noviembre de 2025, un usuario de Facebook publicó una imagen creada digitalmente que retrataba a un hombre judío riéndose con el diablo. La imagen mostraba dos figuras frente a frente. A la izquierda, había un humanoide rojo con cuernos y dientes afilados, una representación comúnmente asociada con personajes demoníacos o malignos. A la derecha, había un hombre mayor, con barba, que llevaba una kipá (un pequeño gorro redondo que tradicionalmente usan los hombres judíos) y una chaqueta con la Estrella de David. Ambas figuras tenían las manos entrelazadas frente a ellas y parecían estar riéndose. La imagen se compartió con una descripción que afirmaba que "no hay fuerza maligna en este planeta que no sea habilitada por los judíos" y que el pueblo judío chantajea a políticos, figuras de los medios de comunicación y autoridades. En su apelación ante el Consejo, el usuario que reportó el contenido afirmó que la imagen es una "foto generada con IA" y que el usuario que la publicó "publica contenido antisemita constantemente".

Conforme a la norma comunitaria sobre conducta que incita al odio, Meta elimina "contenido dirigido a una persona o un grupo de personas sobre la base de la condición de inmigrante o las características protegidas tanto de forma escrita como visual que incluya estereotipos dañinos como declaraciones que afirman que las personas judías controlan instituciones financieras, políticas o de medios de comunicación".

Después de que el Consejo le remitiera este caso a Meta, la empresa determinó que el contenido incluía un estereotipo dañino al afirmar que las personas judías chantajean a "políticos, figuras de los medios de comunicación y personas en posiciones de supuesta autoridad" y habilitan "fuerzas malignas" en todo el mundo. Como resultado, Meta revirtió su decisión original y eliminó el contenido de Facebook.

Autoridad y alcance del Consejo

El Consejo tiene la autoridad para revisar la decisión de Meta tras la apelación del usuario que reportó el contenido que se conservó en la plataforma (artículo 2, sección 1, del acta constitutiva; artículo 3, sección 1, de los estatutos).

Cuando Meta reconoce que cometió un error y revierte su decisión en un caso en consideración para la revisión del Consejo, el Consejo puede seleccionar ese caso para una decisión resumida (artículo 2, sección 2.1.3, de los estatutos). El Consejo revisa la decisión original para entender mejor los procesos de moderación de contenido empleados, reducir los errores y ser más justo con los usuarios de Facebook, Instagram y Threads.

Importancia del caso

El contenido de este caso proporciona un ejemplo de la aplicación deficiente de la política de conducta que incita al odio de Meta y muestra cómo los estereotipos dañinos dirigidos a las personas judías pueden aparecer tanto en forma visual como textual y cómo dicho contenido puede evadir el sistema a pesar de infringir la política.

El Consejo emitió recomendaciones que apuntan a mejorar la aplicación por parte de Meta de la política de conducta que incita al odio. En la decisión del caso Acusaciones de criminalidad basadas en la nacionalidad, el Consejo recomendó a Meta "compartir [públicamente] los resultados de las auditorías internas que realiza para evaluar la precisión de la revisión manual y el rendimiento de los sistemas automatizados en la aplicación de la política de lenguaje que incita al odio [ahora conducta que incita al odio] […] de un modo que permita que estas evaluaciones se comparen entre idiomas y regiones" (recomendación n.º 2). En su respuesta inicial al Consejo, Meta indicó que la empresa compartiría de forma confidencial datos sobre la precisión de la aplicación de la política con el Consejo, en lugar de hacerlo de forma pública. Luego, Meta indicó que "como parte de las iniciativas de la empresa de cambiar el modo en que aplica sus políticas para reducir errores, se está basando más en reportes de usuarios que en la detección proactiva de muchos tipos de infracciones, como conductas que incitan al odio" (informe del primer semestre de 2025 de Meta sobre el Consejo asesor de contenido [Apéndice]). Más recientemente, Meta explicó que "lanzó la versión inicial de un nuevo sistema de métricas diseñado para evaluar mejor la precisión en la aplicación de las políticas y la efectividad de los revisores" (informe del segundo semestre de 2025 de Meta sobre el Consejo asesor de contenido [Apéndice]). De acuerdo con Meta, la empresa "compartirá datos de rendimiento a medida que el nuevo sistema evolucione". La implementación aún está en progreso, pero todavía no se compartieron datos con el Consejo.

En la decisión del caso Publicaciones que incluyen la frase "From the River to the Sea" (Desde el río hasta el mar), el Consejo recomendó a Meta "implementar la recomendación n.º 16 del informe de diligencia debida respecto de los derechos humanos elaborado por BSR sobre el impacto de Meta en Israel y Palestina para desarrollar un mecanismo para registrar la prevalencia de contenido que ataca a las personas basándose en características protegidas específicas (por ejemplo, contenido antisemita, islamofóbico y homofóbico)" (recomendación n.° 3). Meta se negó a implementar esta recomendación. La empresa explicó que, si bien sigue "comprometida con mejorar las métricas de aplicación de políticas (incluida la prevalencia)", se está "enfrentando a limitaciones de recursos y capacidad para llevar a cabo esta labor específica" (informe del segundo semestre de 2024 de Meta sobre el Consejo asesor de contenido [Apéndice]).

Implementar la recomendación n.º 2 de la decisión del caso Acusaciones de criminalidad basadas en la nacionalidad permitiría a Meta comparar los datos de precisión entre diferentes idiomas y regiones, y habilitaría la asignación de recursos para mejorar las tasas de precisión cuando sea necesario. Además, asignar recursos para implementar la recomendación n.º 3 de la decisión del caso Publicaciones que incluyen la frase "From the River to the Sea" (Desde el río hasta el mar) permitiría a Meta evaluar eficazmente el alcance del aumento de contenido antisemita, antimusulmán, racista y de otro tipo de odio en sus plataformas, así como identificar dónde y cuándo dicho aumento puede ser más prominente para abordar mejor la falta de aplicación rigurosa de su política de conducta que incita al odio. Finalmente, una implementación más rápida de las recomendaciones del Consejo contribuiría aún más a abordar la falta de aplicación rigurosa de las políticas. El Consejo señala que, hasta mayo de 2026, 73 de las recomendaciones que emitió siguen "en progreso", con algunas recomendaciones pendientes de implementación desde 2023.

Decisión

El Consejo anuló la decisión original de Meta de conservar el contenido. El Consejo confirmó que Meta corrigió su error inicial después de haberle remitido el caso.

Volver a Decisiones de casos y opiniones consultivas sobre políticas