Consejo para investigar suplantación de identidad por IA de política británica
21 de mayo de 2026
El día de hoy, el Consejo anuncia un nuevo caso para considerar. Como parte de esto, invitamos a personas y organizaciones a enviar comentarios públicos utilizando el botón de abajo.
Selección de casos
Como no podemos atender todas las apelaciones, el Consejo prioriza los casos que tienen el potencial de afectar a una gran cantidad de usuarios alrededor del mundo, los casos que son de suma importancia para el discurso público o los que plantean preguntas importantes respecto a las políticas de Meta.
El caso que anunciamos el día de hoy es el siguiente:
Video por IA falsifica opiniones de política británica sobre inmigración
2026-034-FB-UA
Apelación usuario
Envíe un comentario público utilizando el botón de abajo
El Consejo asesor de contenido ha seleccionado un caso relacionado con un video, aparentemente creado por IA, de una política británica en el que se tergiversan sus opiniones sobre la inmigración. El consejo evaluará las medidas adoptadas por Meta en relación con esta publicación a la luz de las políticas de la empresa y sus responsabilidades en materia de derechos humanos, con el fin de garantizar el respeto a la libertad de expresión y, al mismo tiempo, hacer frente al posible efecto perjudicial de los contenidos engañosos relacionados con asuntos públicos de importancia.
En noviembre de 2025, un usuario de Facebook publicó un álbum que incluía un breve video en el que se mostraba una imitación de un concejal del Partido Laborista del Reino Unido que representa a una zona de Escocia. El video, que parece haber sido generado por IA, muestra a la política diciendo: "Los refugiados son bienvenidos aquí, incluso si violan a nuestras mujeres, porque los blancos también lo hacen". Un segundo video del álbum muestra a personas protestando, entre ellas un hombre que ondea una bandera palestina con un audio aparentemente generado por IA en el que se le oye corear elogios a Antifa, un movimiento antifascista de izquierdas. Una última imagen, que parece real y no generada por IA, muestra a varias mujeres, incluida la política que aparece en el primer video, sosteniendo pancartas de protesta contra la extrema derecha e identificándolas por sus nombres. El pie de foto del álbum acusa a la política de evasión fiscal sin aportar pruebas. El usuario no reveló el uso de IA, y Meta no aplicó ninguna etiqueta informativa de IA al contenido. El contenido recibió menos de 50 reacciones y comentarios, y se compartió menos de 50 veces.
Dos usuarios denunciaron el contenido por infringir la política de bullying y acoso, pero los sistemas de Meta no dieron prioridad a la publicación para su revisión manual, por lo que el contenido permaneció en Facebook. Ambos usuarios presentaron una apelación a Meta, pero, una vez más, la publicación no fue seleccionada para su revisión manual. Uno de los usuarios apeló entonces al Consejo.
En su declaración ante el Consejo, el usuario que presentó la denuncia alega que el video fue generado por IA y tergiversa las creencias de la política, en el contexto de una manifestación en la que ella apoyaba la acogida de solicitantes de asilo. El usuario afirmó que el contenido podría suponer una amenaza para la seguridad de la mujer.
En 2025 y 2026 se han producido protestas contra la inmigración en todo el Reino Unido. Algunos manifestantes afirmaron que la acogida de solicitantes de asilo en hoteles de todo el Reino Unido planteaba problemas de seguridad para las mujeres. Los contramanifestantes, incluida la política que aparece en el video, han rechazado públicamente estas afirmaciones por considerarlas información errónea racista que utiliza las preocupaciones sobre la violencia contra las mujeres como arma para avivar el odio contra los migrantes. También han denunciado intimidaciones y amenazas contra ellos por alzar la voz, como acoso en Internet y difamación mediante contenido generado por IA. La inmigración y la acogida de los solicitantes de asilo han sido temas de intenso debate político, incluso en el periodo previo a las elecciones, como las celebradas en Escocia el 7 de mayo de 2026. Sin embargo, la concejala que aparece en la imagen no se presentaba a la reelección en 2026.
Cuando el Consejo seleccionó el caso, los expertos en la materia de Meta concluyeron que la publicación no infringía las normas comunitarias de la empresa y, por lo tanto, no requería su eliminación ni el uso de una etiqueta de IA.
Según Meta, el contenido no infringía su política de bullying y acoso porque la política es una figura pública adulta y, por lo tanto, no está protegida frente a "imágenes manipuladas no deseadas", mientras que los particulares pueden denunciar por sí mismos dicho contenido para que sea eliminado. Meta también determinó que la afirmación del video de que los refugiados cometen violaciones no infringía su política sobre conductas de odio, ya que se trataba de una afirmación contra las acciones de algunos refugiados, en lugar de una generalización que equiparara a todos o a la mayoría de los refugiados con delincuentes. La empresa señaló que la publicación no se eliminó por información errónea, ya que ningún socio de confianza la señaló como falsa y susceptible de "contribuir directamente al riesgo de daño inminente", y no se trataba de una injerencia electoral. El programa de socios de confianza de Meta es una red global de organizaciones, agencias e investigadores independientes que identifican los riesgos emergentes derivados de los contenidos. El contenido no ha sido revisado por verificadores de datos externos.
Meta también determinó que el contenido no merecía una etiqueta de IA en virtud de su política sobre información errónea para informar a los usuarios de que el contenido había sido creado o alterado digitalmente. Según Meta, no era necesario incluir una etiqueta en virtud de su norma sobre medios manipulados, ya que el contenido no se publicó durante unas elecciones ni una crisis, es satírico y recibió poca interacción, por lo que es poco probable que "suponga un riesgo especialmente elevado de engañar de manera sustancial al público sobre un asunto de importancia pública".
El Consejo seleccionó este caso para evaluar las responsabilidades de Meta en materia de derechos humanos cuando se utilizan herramientas de IA para suplantar a políticos con el fin de tergiversar sus opiniones sobre asuntos importantes para el discurso público. El caso permite al Consejo investigar de qué manera las plataformas pueden tomar decisiones de diseño, políticas y aplicación que respeten la libertad de expresión —incluida la sátira o la crítica a los políticos— al tiempo que abordan los daños que pueden producir engañar al público sobre asuntos importantes.
El caso se enmarca dentro de las prioridades estratégicas del Consejo en materia de automatización e IA, y lenguaje que incita al odio contra grupos marginados.
El Consejo agradecería comentarios públicos que aborden lo siguiente:
- La prevalencia, el impacto y las fuentes de los contenidos engañosos generados por IA en la formación de la opinión pública sobre la inmigración en Europa y a nivel mundial.
- Cómo deben abordar las plataformas de redes sociales el acoso, el odio o el engaño generados por IA, incluso contra políticos, a la vez que se respeta la libertad de expresión, especialmente en lo que se refiere a la crítica política, la sátira y el humor, así como la necesidad y la proporcionalidad de la retirada de contenidos o de medidas alternativas para reducir su difusión.
- Si las políticas y las decisiones de diseño de las plataformas pueden crear incentivos —incluso a través de la monetización y las recomendaciones— para que las personas compartan contenido engañoso generado por IA, y de qué manera; y cómo mitigar o prevenir los efectos adversos que estos tienen sobre los derechos humanos.
- Cómo se utilizan las técnicas de ultrafalsificación en campañas de acoso contra personas que se pronuncian sobre temas controvertidos, incluidos los políticos, y las repercusiones más amplias de los ataques engañosos generados por IA para desacreditar a las personas en lo que respecta al acceso a la información y la participación política.
En sus dictámenes, el Consejo puede emitir recomendaciones de políticas a Meta. Aunque las recomendaciones no son vinculantes, Meta debe responder a ellas en un plazo de 60 días. Por ello, el Consejo agradece los comentarios públicos que propongan recomendaciones pertinentes para este caso.
Comentarios públicos
Si usted o su organización consideran que pueden aportar perspectivas valiosas que ayuden a tomar una decisión sobre los casos anunciados hoy, pueden enviar sus contribuciones utilizando el siguiente botón. Tenga en cuenta que los comentarios públicos pueden realizarse de manera anónima. El plazo para presentar comentarios públicos tiene una duración de 14 días y finaliza a las 23:59, hora estándar del Pacífico (PST), del jueves 4 de junio.
Próximos pasos
En las próximas semanas, los Miembros del Consejo deliberarán sobre estos casos. Una vez que hayan tomado una decisión, la publicaremos en la página de Dictámenes.
