Video con IA que falsifica la opinión sobre la inmigración de una concejala del Reino Unido

Resumen

El Consejo asesor de contenido anuló la decisión de Meta de conservar en Facebook un video deepfake de una política local del Reino Unido porque contiene lenguaje que incita al odio contra refugiados. El Consejo determinó también que Meta debe esforzarse mucho más para abordar de manera efectiva deepfakes de políticos, lo que incluye aumentar las penalizaciones por compartir deepfakes dañinos, a fin de proteger a los usuarios de posibles engaños.

Por qué es importante

El caso pone de relieve los enormes desafíos que enfrentan las sociedades y que las empresas de medios sociales deben abordar: el creciente realismo de deepfakes que muestran a funcionarios electos haciendo declaraciones que representan erróneamente sus opiniones sobre temas críticos y engañan al público, y la información errónea que fomenta el odio contra minorías, incluidos los inmigrantes. Las mujeres del mundo de la política, el periodismo y el activismo son el blanco más desproporcionadamente frecuente de deepfakes que representan de forma engañosa sus opiniones, incluido como parte de campañas de acoso, y las figuras públicas menos destacadas, como políticos y activistas locales, suelen carecer de recursos para responder de manera efectiva. La difusión de deepfakes erosiona la confianza en toda la información pública y desafía los límites entre lo que constituye discurso político protegido y lo que infringe las reglas de Meta sobre información errónea, lenguaje que incita al odio, y bullying y acoso.

Información sobre el caso

En noviembre de 2025, un usuario de Facebook publicó un video breve en el que aparecía una concejala del Partido Laborista en Escocia. El video, que parecía haberse generado con IA, la muestra diciendo: "Acogemos a los refugiados en nuestro país, aunque violen a nuestras mujeres, porque también los blancos lo hacen".

El video es realista, aunque, si se lo observa bien, parece creado de forma sintética: el audio no se sincroniza del todo con los gestos faciales, lo que indica que está manipulado. El video era parte de un álbum que incluía una foto de varias mujeres identificadas en una manifestación contra la extrema derecha, entre las que figura la concejala. El álbum y el video juntos obtuvieron más de 5.000 reproducciones, más de 50 comentarios y más de 20 reacciones, y se compartieron más de 10 veces.

Dos personas, incluida la política que figura en las imágenes, reportaron el video por infringir la política de bullying y acoso, pero los sistemas de Meta no priorizaron la publicación para someterla a revisión manual, y esta permaneció en Facebook. Ambos usuarios apelaron a Meta, pero la publicación siguió en la plataforma, sin que ninguna persona la revise. Uno de los usuarios, no la política implicada en el caso, apelaron entonces ante el Consejo. Cuando el Consejo dio a conocer el caso a Meta, la empresa concluyó que el video no infringía sus Normas comunitarias ni ameritaba que se le colocara una etiqueta de IA.

Conclusiones principales

El Consejo evaluó este caso tomando como referencia tres de las políticas de Meta: conducta que incita al odio, información errónea y bullying y acoso. El Consejo considera que Meta debería haber eliminado el video generado con IA en virtud de su política de conducta que incita al odio.

La mayoría de los miembros del Consejo creen que el video infringió las reglas de esta política específicamente porque no se refiere solo a algunos refugiados, como Meta argumentaba, sino que aduce que los refugiados, como colectivo, participan en delitos graves y presentan comportamientos sexuales predatorios.

Para tomar una decisión sobre este caso, el Consejo también tuvo en cuenta si el video, de no haber infringido las reglas sobre conducta que incita al odio, habría alcanzado el umbral de eliminación en virtud de la política de información errónea. Para una mayoría en el Consejo, no se habría garantizado su eliminación debido a información errónea, pero debería haberse aplicado una etiqueta de "IA de alto riesgo", y en su análisis, concluye que las reglas de Meta sobre las etiquetas de IA en deepfakes no son adecuadas.

La mayoría cree que Meta necesita políticas más rigurosas, incluido ampliar las situaciones en que se pueden aplicar etiquetas de "alto riesgo", imponer más medidas para reducir la difusión de contenido de IA engañoso, aumentar las penalizaciones en cuentas que lo comparten reiteradamente y ofrecer mayor transparencia sobre cuándo se aplican etiquetas de IA.

Una minoría en el Consejo no está de acuerdo con que el video debe considerarse lenguaje que incita al odio porque involucra directamente las presuntas opiniones de la política, no va en contra de todos los refugiados o la mayoría de ellos, y, dado que muestra un discurso político, el umbral de eliminación debería ser más alto.

Una minoría también opinó respecto de los hallazgos del Consejo sobre las reglas de información errónea. Una minoría afirmó que la etiqueta "Alto riesgo" es demasiado restrictiva y que se debería haber aplicado la etiqueta "Información de IA". Otra minoría independiente señaló que la gravedad de los daños, junto con el hecho de que Meta no aplica en la práctica muchas etiquetas de IA, habría justificado la eliminación.

Para el Consejo, el video no debería eliminarse en virtud de las reglas sobre bullying y acoso porque la funcionaria electa es una figura pública y, por ende, accede a protecciones menos estrictas que las personas no públicas conforme a la política.

Decisión del Consejo asesor de contenido

El Consejo anuló la decisión de Meta de conservar el contenido y exigió que se eliminara en virtud de la norma comunitaria sobre conducta que incita al odio. Mientras analizaba este caso, el Consejo también descubrió fallas en las políticas de etiquetado conforme a la norma comunitaria sobre información errónea y realizó las siguientes recomendaciones respecto de esta.

El Consejo recomendó a Meta lo siguiente:

• Modificar la política de contenido multimedia manipulado para reducir el umbral de aplicación de las etiquetas de "alto riesgo", de modo que se garantice que esta medida no se tome solo en situaciones de crisis o que comprometen la integridad de las elecciones.
• Aumentar la fricción para usuarios que miran contenido etiquetado como generado con IA o "IA de alto riesgo", por ejemplo, usar un aviso intersticial (una pantalla que solicita que se haga clic para seguir viendo el contenido), en lugar de una etiqueta.
• Desmonetizar, degradar o eliminar de las sugerencias contenido etiquetado como "Alto riesgo", e imponer penalizaciones cada vez más elevadas a las cuentas que comparten reiteradamente contenido etiquetado de este modo.
• Garantizar que las reglas y los ejemplos relacionados con la interferencia electoral o censal se redacten de un modo que tenga aplicación mundial y que no se limiten al contexto de los Estados Unidos.
• Divulgar públicamente datos anuales en su Centro de transparencia respecto de la cantidad de veces que aplica las etiquetas "Alto riesgo" e "IA de alto riesgo" al contenido, incluida la cantidad de veces que estas etiquetas se aplican al contenido que los políticos publican o en el que se habla de ellos.
• Garantizar que, conforme a la política de información errónea, se puedan ver todas las etiquetas ("Información de IA", "Alto riesgo" o "IA de alto riesgo") aplicadas al contenido de la biblioteca de contenido de Meta y que este se pueda buscar mediante un filtro.

El Consejo reitera también la importancia de su recomendación anterior en la decisión del caso "Video generado con IA en el conflicto entre Israel e Irán" y exige a Meta publicar una explicación clara de las penalizaciones que se imponen por no divulgar que el contenido se creó o alteró digitalmente. Debe proporcionar criterios para aplicar las penalizaciones y enumerar qué funciones de la cuenta se limitan en consecuencia y por cuánto tiempo.

Decisión del caso completa

1. Descripción y contexto de los casos

En noviembre de 2025, un usuario de Facebook publicó un video breve en el que aparecía una concejala del Partido Laborista en Escocia. El video, que parecía haberse generado con IA, la muestra diciendo: "Acogemos a los refugiados en nuestro país, aunque violen a nuestras mujeres, porque también los blancos lo hacen". El video es realista, aunque, si se lo observa bien, parece creado de forma sintética: el audio no se sincroniza del todo con los gestos faciales, lo que indica que está manipulado. El video era parte de un álbum (el cual no se había sometido a revisión por completo) que incluía una foto de varias mujeres identificadas en una manifestación contra la extrema derecha, entre las que figuraba la concejala. El álbum también incluía un video no relacionado de otra manifestación que parece haberse generado con IA, pero no mencionaba a la concejala. La descripción del álbum señala que la concejala llevó adelante una campaña en contra del cierre de unas instalaciones de acogida para refugiados de su ciudad.

El álbum y el video juntos obtuvieron más de 5.000 reproducciones, más de 50 comentarios y más de 20 reacciones, y se compartieron más de 10 veces. Uno de los comentarios cuestionaba la veracidad del video y criticaba al usuario por publicarlo. Otro comentario, que Meta eliminó el mismo día en que se publicó, sugería que la política que figuraba en el video quería que la violaran.

Dos personas, incluida la política que figura en las imágenes, reportaron el video de la concejala por infringir la política de bullying y acoso, pero los sistemas de Meta no priorizaron la publicación para someterla a revisión manual, y permaneció en Facebook. Ambos usuarios apelaron a Meta, pero, nuevamente, la publicación siguió en la plataforma, sin que ninguna persona la revise. Uno de los usuarios, no la concejala que figura en el video, apeló entonces al Consejo. Cuando el Consejo dio a conocer el caso a Meta, la empresa concluyó que el video no infringía sus Normas comunitarias ni ameritaba que se le colocara una etiqueta de IA.

Este caso ejemplifica dos desafíos sistémicos relacionados que enfrentan las empresas de medios sociales a nivel mundial: imágenes sintéticas realistas engañosas y cada vez con mayor alcance, en ocasiones denominadas "deepfakes", y desinformación que fomenta el odio contra minorías, incluidos inmigrantes. El Consejo abordó la conexión entre desinformación generada con IA y lenguaje que incita al odio en las decisiones de los casos Publicaciones a favor de los disturbios en el Reino Unido y Crítica de las políticas migratorias de la UE y los inmigrantes. También abordó el tema de los audios sintéticos de políticos en la decisión del caso Presunto audio de incitación a manipular las elecciones en el Kurdistán iraquí y de la manipulación de videos en la decisión del caso Video alterado del presidente Biden.

El contenido en este caso se publicó varios meses antes de las elecciones locales. Aunque el cargo de concejal no estaba sujeto a reelección hasta mayo de 2027, su partido participó en campañas en todas las partes del país donde la inmigración y el alojamiento de solicitantes de asilo constituían un serio problema. En 2025, hubo manifestaciones contra el alojamiento de solicitantes de asilo en hoteles en todo el Reino Unido luego de que una de estas personas en el sureste del condado de Essex agrediera sexualmente a una mujer y a una niña de 14 años. Las manifestaciones continuaron en 2026, incluido en Escocia, con denuncias que argumentaban que los solicitantes de asilo generan inquietudes respecto de la seguridad de las mujeres, que algunas personas caracterizaron como desinformación racista que utiliza como herramienta la preocupación por la violencia contra las mujeres para encender el odio contra la inmigración.

2. Respuestas de los usuarios

En su apelación ante el Consejo, el usuario que reportó el contenido expresó que el video se había generado con IA, representaba de forma engañosa la opinión de la política y podría suponer una amenaza para la seguridad de esta mujer. En su opinión, las personas deberían tener la libertad de expresar lo que piensan, pero no mediante la creación de videos falsos de políticos haciendo declaraciones incendiarias que no hicieron.

En una declaración ante el Consejo, la concejala que aparecía en el video dijo que este fue generado con IA y que las palabras que se le atribuían "eran contrarias a todo lo que [ella] representa y pusieron considerablemente en duda su integridad". Los efectos adversos del video fueron, según sus palabras, significativos y traumáticos. Intentó varias veces sin éxito que lo quitaran, incluso reportó el incidente a Meta y las fuerzas del orden. Pese a ello, le informó al Consejo que continuó luchando activamente por los derechos de los refugiados en Escocia y emprendiendo campañas contra la propagación del odio en su comunidad.

3. Respuestas y políticas de contenido de Meta

Los comentarios de Meta se centraron en tres áreas normativas: información errónea, conducta que incita al odio y bullying y acoso. La empresa sostuvo que no hizo falta tomar medidas respecto del contenido conforme a ninguna de estas políticas y lo conservó en la plataforma sin etiqueta.

Información errónea

En las bases de la norma comunitaria sobre información errónea, se indica que Meta "elimina contenido que es probable que contribuya de manera directa a interferir en el funcionamiento de los procesos políticos". Una de las tres categorías de información errónea que Meta elimina se relaciona con los procesos políticos y se titula "interferencia electoral o censal". Le siguen ocho ejemplos de interferencia electoral o censal prohibida, incluida información errónea sobre "fechas, lugares, horarios y métodos de votación, registro de votantes o participación en el censo" y "si un candidato se postula o no". Dos ejemplos son específicos de los Estados Unidos. En las bases de la política, se señala que Meta colabora con socios de confianza, una red mundial de organizaciones no gubernamentales (ONG), agencias humanitarias e investigadores en materia de derechos humanos que marcan el contenido que supone riesgos inminentes en las plataformas de Meta, para evaluar su veracidad y si "tiene probabilidades de contribuir de manera directa con el riesgo de un daño inminente". Las bases de la política también manifiestan que "a menudo la gente usa la información errónea de formas inofensivas", por ejemplo, "para exagerar una idea" o "en forma de humor o sátira".

Meta informó al Consejo que no eliminó el video en este caso porque, según la empresa, los socios de confianza no lo marcaron. Meta concluyó, además, que el contenido "no tenía probabilidades de contribuir de manera directa a interferir en el funcionamiento de los procesos políticos", ya que no contenía declaraciones que supusieran "interferencia electoral o censal" prohibida.

En el caso de cierta información errónea que no infringe las reglas que garantizan la eliminación, Meta se centra en "reducir su prevalencia o crear un ambiente que genere un diálogo productivo". Para lograrlo, la empresa se centra en "proporcionar a los usuarios información útil cuando hay contenido potencialmente engañoso o confuso", incluido mediante etiquetas.

Hay tres tipos de etiquetas:

• La etiqueta "Información de IA" se aplica de manera automática al contenido cuando Meta lo detecta por medio de "indicadores de imágenes con IA estándar del sector o cuando las personas confirman haber estado subiendo contenido generado con IA". Es menos notoria que las otras dos etiquetas, ya que aparece en la parte superior de una publicación.
• La etiqueta "Alto riesgo" se aplica a contenido que, en virtud de la política de "contenido multimedia manipulado", (i) genera un riesgo particularmente alto de engañar de forma significativa al público en relación con asuntos de importancia pública y (ii) muestra indicios confiables de que se creó o alteró digitalmente. A diferencia de la etiqueta "Información de IA", la etiqueta "Alto riesgo" se aplica conforme a una política de Meta que estipula que se coloque únicamente en la etapa de escalamiento, es decir, solo los equipos de políticas internos de Meta pueden aplicarla luego de la revisión manual. Es más notoria, porque aparece en la parte inferior de una publicación e incluye enlaces a un recurso para obtener más información sobre contenido creado o alterado digitalmente.
• La etiqueta "IA de alto riesgo" se aplica conforme a la política de "contenido multimedia manipulado" cuando el contenido cumple todos los requisitos de la etiqueta "Alto riesgo" y muestra indicadores confiables de que se creó o alteró con IA. También se trata de una política impuesta en la etapa de escalamiento que requiere revisión manual.

Meta exige que las personas avisen, mediante herramientas en la app, cada vez que publiquen contenido orgánico con "videos fotorrealistas o audios con sonido realista creados o alterados digitalmente". Meta manifestó que no usar la herramienta de aviso de IA "puede suponer penalizaciones".

Meta señaló que el usuario que creó la publicación no indicó haber usado IA, motivo por el cual no recibió la etiqueta "Información de IA". La empresa informó al Consejo que puede aplicar esta etiqueta de forma automática si detecta "indicadores de imágenes de IA estándar del sector", pero que no había tales indicadores en este caso. En respuesta a las preguntas que planteó el Consejo, Meta confirmó que no penalizó a este usuario por no avisar que había usado IA. Asimismo, la imposición de Meta del requisito sobre el aviso de uso de IA se limita a casos individuales remitidos a sus equipos de políticas internos; no se aplica a gran escala. Meta también indicó que ahora puede detectar señales de IA comunes del sector en videos e imágenes, y que está en proceso de implementar esto en todos los dispositivos (web y dispositivos móviles) y plataformas (Reels, feed, etc.). Por otra parte, está desarrollando clasificadores capaces de detectar contenido generado con IA a gran escala a fin de aplicar la etiqueta "Información de IA", que es menos prominente, independientemente de si los videos incluyen señales de procedencia estándar del sector.

Meta confirmó que, en su opinión, el contenido no ameritó tampoco la etiqueta "Alto riesgo" más notoria conforme a sus reglas sobre contenido multimedia manipulado. Como el contenido no se sometió a revisión en la etapa de escalamiento, no se realizó una evaluación para determinar si era necesario aplicar esta etiqueta. Además de los desafíos en cuanto a identificar si el contenido se creó o alteró digitalmente con IA, Meta explicó que este no generó un "riesgo particularmente alto de engañar de manera sustancial al público respecto de un asunto de importancia pública". Esto se debe, según el criterio de Meta, a que no había urgencia alguna respecto de un acontecimiento temporal, como una elección o crisis inminentes, que elevaría el riesgo de engaño sustancial: las elecciones más próximas se celebrarían al cabo de varios meses. En segundo lugar, Meta señaló que el contenido era satírico, ya que invertía la postura pública de la concejala y que esto se traslucía en al menos un comentario de los usuarios. En tercer lugar, el contenido generó poca interacción, lo que redujo las probabilidades de engañar significativamente al público en general.

En respuesta a las preguntas del Consejo, Meta explicó que el umbral para implementar la etiqueta "Alto riesgo" más prominente es muy riguroso. Solo usó la etiqueta en una cantidad muy limitada de casos. La justificación de Meta para este alto umbral es que: (a) agregar dichas etiquetas pone en duda la autenticidad del contenido y puede dañar la reputación de los usuarios que lo publican; (b) la detección con IA es imperfecta y podría conducir a que contenido no etiquetado luzca más confiable cuando no es así; (c) puede ocasionar un efecto intimidatorio en la libertad de expresión; y (d) ampliar la aplicación de estas etiquetas más allá de acontecimientos críticos puede aumentar las exigencias de políticos, gobiernos y socios publicitarios para que se etiquete el discurso que no les agrada. Meta también señaló que, como el contenido no suele mostrar señales que indiquen que procede de la IA, recurre a otros factores, por ejemplo, cómo "luce". También se tiene en cuenta si el contenido sintético tiene fines humorísticos a la hora de decidir si es engañoso o no. Meta afirmó que quiere evitar ser el "árbitro de la verdad" y prefiere un umbral más alto que impida que la empresa deba realizar evaluaciones subjetivas de lo que es engañoso o importante.

Fuera de los Estados Unidos, Meta recurre a verificadores de datos independientes que revisan y califican el contenido. Esto también puede conducir a que se le agreguen las etiquetas correspondientes a la calificación. Las calificaciones incluyen "falso" y "alterado", y pueden propiciar que se reduzca su distribución. Meta emplea tecnología para detectar información errónea potencial a fin de que los verificadores de datos la revisen, y estos últimos también pueden identificar contenido para revisar. No obstante, Meta confirmó que, en este caso, sus sistemas automatizados no enviaron el contenido a verificadores de datos independientes ni lo seleccionaron para revisión, muy probablemente por la baja viralidad. Meta eliminó la verificación de datos independiente solo en los Estados Unidos, donde la reemplazó por las notas de la comunidad, y el Consejo expresó su opinión sobre la conveniencia de hacer un cambio similar en otras partes del mundo.

La cuenta del usuario que hizo la publicación no se monetizó en este caso. Las Políticas de monetización para socios de Meta establecen las reglas que deben seguir las páginas a las que la empresa paga por hacer publicaciones en sus plataformas en función de la interacción y señalan que el contenido que se marca como información errónea no reúne los requisitos para monetización. Las Políticas de monetización de contenido restringen o reducen aún más la monetización del contenido sobre "temas sociales debatidos" que "explota temas políticos o sociales controversiales con fines comerciales", incluida la inmigración, que se presenta "de una manera polarizada o incendiaria".

Conducta que incita al odio

La norma comunitaria sobre conducta que incita al odio de Meta prohíbe "acusaciones de criminalidad o inmoralidad grave" contra las personas en función de sus características protegidas o su estado como refugiadas. Como ejemplos de infracciones, menciona comparar a las personas con "depredadores sexuales" y "criminales violentos".

Meta determinó que la declaración "Acogemos a los refugiados en nuestro país, aunque violen a nuestras mujeres, porque también los blancos lo hacen" no infringe esta regla, ya que no equipara a los refugiados con criminales violentos o depredadores sexuales en función de su identidad. Las pautas internas que se brindan a los revisores distinguen entre "generalizaciones" prohibidas y "declaraciones conductuales" permitidas. Las generalizaciones prohibidas atribuyen rasgos inherentes a todo un grupo (por ejemplo, decir: [Grupo X] son terroristas o [Grupo Y] son asesinos). Las declaraciones conductuales permitidas son afirmaciones contra las acciones que realizan los miembros de un grupo (por ejemplo, decir: [Grupo A] participan en actividades de terrorismo o [Grupo B] asesinan gente). Para Meta, la afirmación en el video tenía que ver con las acciones de algunos refugiados, pero no ratificaba que la violencia sexual es un rasgo inherente en ellos. Describe el comportamiento atribuido a miembros de un grupo, no equipara la identidad del grupo con la criminalidad sexual. Según Meta, la frase "porque también los blancos lo hacen" no altera ese significado. Por el contrario, compara el comportamiento de dos grupos y atribuye la violencia sexual también a algunas personas blancas.

En casos anteriores, Meta explicó al Consejo que las declaraciones conductuales pueden infringir las normas si se atribuye explícitamente una presunta criminalidad grave a todo un grupo o a la mayoría de sus integrantes. En el caso Crítica de las políticas migratorias de la UE y los inmigrantes, Meta determinó que una declaración que aludía a la representación de los inmigrantes como "especialistas en violaciones en grupo" no infringía las normas porque no atribuía este comportamiento a todo el grupo o a más de la mitad de sus miembros. En ese caso, Meta rechazó la recomendación del Consejo de revertir su suposición de que las referencias al comportamiento de un grupo deben interpretarse como una referencia a todo el grupo o la mayoría de sus integrantes, a menos que se indique lo contrario. Meta expresó en sus comentarios sobre el presente caso que, tras rechazar esta recomendación, sigue suponiendo que declaraciones como "los refugiados violan" no se refieren a "todos" o "la mayoría" de ellos y, por lo tanto, no infringen su política de conducta que incita al odio.

Bullying y acoso

La norma comunitaria sobre bullying y acoso hace una distinción entre las figuras públicas y las personas no públicas a fin de "dar lugar al diálogo, que a menudo incluye comentarios críticos de personas que aparecen en las noticias o tienen un público amplio". A las figuras públicas solo se las protege de los ataques más graves. Si bien Meta prohíbe "imágenes manipuladas no deseadas", esta regla solo se aplica al contenido cuyo blanco son menores y adultos no públicos, y figuras públicas involuntarias menores de edad si ellos mismos reportan. Meta define las figuras públicas como "funcionarios del gobierno nacional o estatal", candidatos a esos cargos y otras personas que "reciben una amplia cobertura en las noticias". Meta determinó que la concejala que aparecía en el video es una figura pública y, por ende, no está protegida contra "imágenes manipuladas no deseadas".

4. Comentarios del público

El Consejo recibió nueve comentarios del público que cumplieron las condiciones de presentación. Ocho de los comentarios provinieron de Europa y uno de Asia-Pacífico y Oceanía. Para leer los comentarios del público enviados con consentimiento de publicación, haz clic aquí.

Los comentarios abarcaban los siguientes temas: el alcance y la prevalencia de contenido generado con IA; la difusión de contenido contra la inmigración; el uso de sátira, humor y expresión política en medios sociales, incluido en contenido generado con IA; acoso basado en el género contra mujeres de la esfera pública; efectividad de las etiquetas como respuesta a la información errónea; protección del discurso contra figuras públicas en la política de bullying y acoso; brechas en la política de información errónea e interferencia en los procesos políticos; desafíos técnicos a la hora de detectar de dónde procede el contenido; cómo la información errónea y el lenguaje que incita al odio dañan el entorno informativo y la democracia; y los incentivos comerciales y de monetización que impulsan el contenido de IA engañoso y de odio.

En junio de 2026, el Consejo consultó con representantes de organizaciones de sociedad civil, académicos, organizaciones intergubernamentales y otros expertos sobre el tema de deepfakes políticos, su impacto en la integridad electoral y en la información, y cómo las plataformas pueden prevenir y mitigar daños, pero respetando la libertad de expresión.

Los participantes señalaron la creciente prevalencia de contenido generado con IA que simula a políticos y focaliza el odio hacia comunidades vulnerables. Las investigaciones que se presentaron en la consulta documentaban que el contenido xenófobo generado con IA en el Reino Unido recibía una interacción desproporcionadamente más alta que contenido auténtico equiparable. Los participantes también expresaron que las mujeres del mundo de la política, el periodismo y el activismo son el blanco más desproporcionadamente frecuente de deepfakes que representan de forma engañosa sus opiniones, incluido como parte de campañas de acoso, y que las figuras públicas menos destacadas (como figuras electas a nivel local y activistas) suelen carecer de recursos institucionales para responder a dichos ataques.

Los participantes expresaron inquietudes sobre las medidas de protección demasiado acotadas que la política de información errónea de Meta ofrece para salvaguardar la integridad de las elecciones y la democracia en un sentido más amplio, ya que esta solo prohíbe una cantidad limitada de afirmaciones falsas sobre los procesos de votación si se aproximan elecciones. Describieron este marco como estructuralmente inadecuado dado que el contenido publicado en plataformas de medios sociales persiste por tiempo indefinido y circula todo el tiempo, lo que sustenta narrativas dañinas que se prolongan mucho más allá de un período electoral formal. Varios participantes describieron la colaboración de Meta con socios de confianza para identificar posibles daños como una externalización insatisfactoria de la responsabilidad de aplicación de políticas que falla sistemáticamente a la hora de abordar contenido con poca interacción inicial, en especial en mercados más pequeños. Por último, varios participantes exigieron que se haga mayor hincapié en la suplantación de identidad generada con IA en el contenido, ya que las políticas actuales parecen centrarse en reglas sobre "suplantación de identidad" mediante cuentas no auténticas (es decir, en personas que configuran cuentas para representar de forma engañosa su identidad, no en personas que comparten contenido para representar de forma engañosa la conducta de alguien).

En el caso de la sátira, los participantes subrayaron que, ante la ausencia de señales visibles en el contenido generado con IA que muestra a políticos, los públicos no cuentan con una manera confiable de identificarlo como ficcional o real. Un participante argumentó que los deepfakes pueden usarse a modo de sátira y que la intención se debe analizar en contexto, incluido tomar como referencia las posturas o acciones públicas de la persona en cuestión. Varios participantes recalcaron que el daño más consecuente de los deepfakes no tiene que ver con engañar a los espectadores individuales mediante un contenido, sino con erosionar la confianza en la información política más ampliamente. Cuando se expone de forma reiterada a los públicos a manipulaciones realistas, pueden perder la confianza en su capacidad para distinguirlas de discurso auténtico. Por último, los participantes manifestaron que las etiquetas pierden progresivamente su valor de protección en este entorno. Esto se debe a que se aplican de forma inconsistente, pero también a que algunas personas continúan reaccionando a contenido etiquetado como no auténtico como si fuera auténtico, en especial si refuerza sesgos preconcebidos.

Los participantes resaltaron que una proporción significativa del contenido sintético persigue fines comerciales, más que ideológicos, y suelen producirlo personas sin vínculo con el país al que se hace referencia, que explotan las herramientas de monetización de Meta u otros medios de generación de ingresos para lucrar con narrativas sensacionalistas, incluso de odio, que es probable que los algoritmos basados en la interacción exacerben. Las estructuras de incentivos para creadores de Meta premian el contenido provocador que genera mayor interacción y amplificación algorítmica. Por ello, la producción de contenido generado con IA engañoso se vuelve atractiva desde el punto de vista económico, incluso si las publicaciones individuales no se monetizan directamente. Varios participantes observaron que restringir la monetización sigue siendo una estrategia no explorada para disuadir el uso engañoso de la IA.

5. Análisis del Consejo asesor de contenido

El Consejo seleccionó este caso para examinar cómo las políticas de Meta abordan el contenido generado con IA engañoso en sus plataformas, en especial cuando se usan herramientas de IA para suplantar la identidad de políticos a fin de manipular sus opiniones sobre asuntos importantes para el discurso público, incluido de maneras que podrían constituir lenguaje que incita al odio. El análisis evalúa las políticas de contenido y las responsabilidades en materia de derechos humanos de Meta en tres ámbitos: información errónea, lenguaje que incita al odio, y bullying y acoso.

Para el Consejo, si bien el contenido no amerita su eliminación en virtud de la política de información errónea, debe recibir la etiqueta "IA de alto riesgo". Desde la perspectiva de los derechos humanos, el Consejo emitió una serie de recomendaciones cuyo fin es mejorar la respuesta de Meta ante contenido generado con IA que muestra a políticos haciendo declaraciones que no hicieron sobre asuntos de importancia pública. Pese a estos resultados, en este caso, el Consejo determinó que el contenido infringía la política de conducta que incita al odio de Meta y debería haberse eliminado en función de ello. Finalmente, el Consejo determinó que el contenido no infringía la política de bullying y acoso de Meta.

Información errónea

Para el Consejo, el video donde aparecía la concejala no infringía las reglas de la norma comunitaria sobre información errónea de Meta de un modo que ameritara su eliminación, ya que no incluía ninguna de las afirmaciones prohibidas por difundir información errónea y ocasionar "interferencia electoral o censal".

Para una mayoría en el Consejo, las reglas de la norma comunitaria sobre información errónea que rigen el contenido multimedia manipulado exigían que se agregue la etiqueta "IA de alto riesgo" al video porque se había generado con IA y suponía un riesgo particularmente alto de engañar en gran medida al público respecto de un asunto de importancia pública.

El video en este caso muestras indicios de que es contenido multimedia generado con IA, pero la mayoría de los espectadores no notarían de inmediato que es falso. La falta de sincronización visible entre la voz y los movimientos faciales, así como las expresiones faciales poco naturales, constituyen indicios de que el video se generó con IA, pero solo son evidentes si se lo inspecciona con atención. La mayoría señala que Meta informó al Consejo que sus clasificadores ahora pueden detectar automáticamente imágenes y videos a gran escala, incluso si no hay metadatos que indiquen su procedencia. Sin embargo, en el momento en que se publicó este contenido, dicha detección habría requerido revisión manual. El realismo del video, el uso de IA no declarado para falsificar por completo (más que para alterar o manipular) las imágenes, lo distingue claramente del tipo de edición de "videos falsos de baja calidad" que observamos en el caso Video alterado del presidente Biden.

Para una mayoría en el Consejo, el video busca engañar a posibles votantes presentando "evidencia" de la presunta opinión de una funcionaria electa respecto del alojamiento de refugiados y la seguridad pública, un tema central del discurso político contemporáneo y de las manifestaciones de alto perfil que se llevaron a cabo en el país en cuestión. Los comentarios de Meta apuntan a criterios privados para imponer la etiqueta "IA de alto riesgo" que implican que esta, en la práctica, escasamente se aplicó a escala significativa. Estos criterios privados establecen un umbral de aplicación de políticas que es exageradamente alto dado el texto público de la regla, el texto neutral y no condenatorio de la etiqueta, y sus limitados efectos de aplicación (las sanciones contra los usuarios parecen ser incluso menos habituales que las etiquetas mismas).

Por estos motivos, la justificación de Meta de que no había crisis o elecciones inminentes y de que el contenido tenía un alcance limitado no fue convincente. Ningún factor implicaba que no hubiera probabilidades de que el contenido engañara al público. Asimismo, no había señales de exageración o parodia que dejaran claro que se trataba de sátira. La corta duración del video y la imagen de la concejala sobre un fondo simple, sin marcadores de exageración o parodia, en el contexto de un álbum en el que ningún otro contenido es satírico o humorístico, aumentan las probabilidades de engaño y ponen de manifiesto una posible intención de engañar. Forum for Humor and the Law, un proyecto académico que explora cómo la ley de libertad de expresión protege el humor (consulta PC-32578) le proporcionó al Consejo ejemplos útiles de deepfakes satíricos, en los que el engaño inicial queda al descubierto a medida que se materializa lo absurdo de la falsificación (la política francesa Marine Le Pen con vestimenta islámica hablando árabe; el expresidente de Brasil Bolsonaro haciendo un tutorial de cómo lavarse las manos en la era COVID). En función del texto de las Normas comunitarias, se debería haber aplicado la etiqueta "IA de alto riesgo".

Para la mayoría, las responsabilidades de Meta con los derechos humanos exigen que responda al uso engañoso de la IA generativa para manipular las palabras de un político sobre asuntos de importancia pública de una manera mucho más efectiva y rigurosa que su enfoque actual de etiqueta "IA de alto riesgo".

Para la mayoría, una combinación de medidas para detectar mejor el uso de IA y si es engañoso en cuanto a asuntos de importancia pública, agregar fricción, reducir el alcance y penalizar el engaño dañino mediante etiquetas claras justificaría una restricción necesaria y proporcionada a la libertad de expresión. De este modo, se protegerían "los derechos de las personas" de participar en asuntos públicos y se protegería al político de "ataques ilícitos contra [su] reputación" (artículos 17 y 25 del Pacto Internacional de Derechos Civiles y Políticos [ICCPR]).

El Consejo está de acuerdo en que las normas internacionales sobre la libertad de expresión brindan protección contra falacias y que el valor que el ICCPR otorga a la expresión sin inhibiciones sobre figuras públicas en el ámbito político es sumamente alto (observación general n.º 34, párrafo 38). Tal como observó el Consejo en el caso Video alterado del presidente Biden:

"Si bien hace milenios que las personas saben que las palabras pueden ser mentirosas, las fotos y, en especial, los videos y audios confieren una falsa pátina de credibilidad. Si bien las opiniones sobre la información errónea suelen centrarse en evidencia en contra y a favor de las premisas incluidas en un mensaje controvertido, las opiniones sobre el contenido multimedia manipulado gira en torno a los medios con los que se creó dicho mensaje. Una característica central del "contenido multimedia manipulado" es que conduce al usuario a creer que es auténtico y no está alterado".

Para una mayoría en el Consejo, hay una diferencia cualitativa entre una mentira manifiesta sobre lo que un político dijo o hizo y la "evidencia" audiovisual manipulada de esa misma mentira. Dichos deepfakes pueden convencer a las personas más fácilmente de que una falacia es irrefutable, de un modo que supone un riesgo de dañar el discurso democrático, la participación pública y la reputación de las personas. Cuando una falsificación es sumamente realista, tiene intención de engañar y es incluso maliciosa, no se le debería asignar la suma protección que otorgan las leyes de derechos humanos internacionales al discurso político (observación n.º 34, párrafo 34). Como se indica arriba, no hay indicios de que el video se trate de una sátira, lo cual pondría más en evidencia la falacia y no socavaría los derechos de otras personas. La difusión de tecnologías de IA generativa supone nuevos desafíos para el mercado de ideas, incluidos fraudes de enorme magnitud que perjudican la democracia y los derechos de participación de las personas, y puede dar pie a que se difame la reputación de alguien de forma generalizada y prolongada.

Como cada vez es más difícil distinguir el contenido multimedia manipulado o falsificado de la realidad, las representaciones audiovisuales sintéticas e intencionalmente engañosas de funcionarios públicos exponen la confianza pública en la información y, a su vez, la participación democrática a un riesgo gravísimo. Investigaciones recientes demostraron que, en promedio, a la población del Reino Unido le cuesta identificar contenido multimedia sintético que muestra a personas reales. Los efectos acumulativos de dicho contenido falso socava los mecanismos para que los políticos asuman la responsabilidad que les corresponde, no solo en las urnas, sino entre elecciones (consulta: Informe preliminar del Panel Científico Internacional Independiente sobre Inteligencia Artificial, julio de 2026, sección 2.7, de la página 23). Específicamente, la proliferación de contenido falsificado puede conducir al "dividendo del mentiroso", que es la ventaja que obtienen las personas que afirman de manera falaz que la evidencia auténtica es falsa o generada con IA para evitar asumir la responsabilidad ( Chesney y Citron, 2019). La Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO) describió el riesgo más amplio de los deepfakes como una "crisis del saber", una que no implica la mera introducción de falacias, sino que erosiona "el mecanismo mismo por el cual las sociedades construyen un entendimiento en común". Esto puede exacerbar los efectos persuasorios que ya presentan los feeds y las recomendaciones de las plataformas personalizados en función de la interacción, en los que las afirmaciones manipuladoras a gran escala se combinan con "evidencia" sintética que las respalda ( op. cit., sección 3.5, de la página 37). Se trata de un desafío global: un estudio identificó 82 deepfakes en contra de figuras públicas en 38 países en un año. Más de un cuarto de estas incluían declaraciones falsas engañosas de figuras públicas (consulta Targets, Objectives, and Emerging Tactics of Political Deepfakes, Recorded Future, septiembre de 2024). Tal como señaló la ONG CEE Digital Democracy Watch en un comentario público presentado al Consejo: si no se toman medidas, los deepfakes pueden contribuir a una "manipulación epistémica" y distorsionar "las condiciones informativas sobre las cuales las personas forman creencias sobre agentes políticos y políticas" (PC-32658).

Las representaciones sintéticas de políticos plantean otras dificultades cuando se usan para falsificar o representar de forma engañosa sus posturas sobre asuntos controversiales, como la inmigración, ya que sus efectos persuasorios pueden ser aún más potentes. Un caso de alto perfil que sirve para ilustrar este punto fue el de un clip de audio sintético viral del alcalde de Londres, capital del Reino Unido, Sadiq Khan, en el que se representaba de forma engañosa su opinión sobre las celebraciones del Día del Armisticio y las manifestaciones a favor de Palestina. El instituto nacional de ciencias de datos e inteligencia artificial del Reino Unido, Alan Turing, informó haber observado la "creciente explotación de herramientas de IA para difundir narrativas dañinas o negativas sobre los inmigrantes en el Reino Unido" (consulta PC-32552 y "Adding Fuel to Fire: AI Information Threats and Crisis Events", febrero de 2026). Esto refleja inquietudes en todo el mundo sobre la intersección de desinformación, odio y su impacto en la libertad de expresión (consulta Joint Declaration on AI, Freedom of Expression and Media Freedom, Mandate Holders, octubre de 2025). En el punto donde convergen la desinformación y el odio, también aumentan los riesgos de incitación a la hostilidad, la discriminación y la violencia (consulta el análisis sobre el lenguaje que incita al odio debajo).

La mayoría en el Consejo también subraya que, a nivel mundial, el impacto de este tipo de desinformación afecta de manera desproporcionada a personas ya marginadas, lo que se suma a los argumentos que exigen una respuesta más rigurosa por parte de los medios sociales a los deepfakes en general. Dicho contenido falso suele perjudicar desproporcionadamente a mujeres y personas con expresión de género no normativa que forman parte de la esfera pública (consulta el informe Tipping Point: Online Violence Impacts, Manifestations and Redress in the AI Age, UN Women, abril de 2026). El informe revela que los deepfakes suelen ser intencionales y coordinados, con ataques focalizados que producen graves consecuencias de salud mental y un efecto intimidatorio en la participación pública: casi la mitad de las periodistas afirman autocensurarse en respuesta a dichos ataques. UN Women, la entidad líder de las Naciones Unidas (ONU) sobre la igualdad de género, también documentó que los deepfakes y la desinformación basada en género contra las mujeres se diseñaron para "impulsarlas a abandonar la plataforma o la vida pública por completo". Otro estudio de la ONU informó que el abuso mediante imágenes y videos, y el uso de la IA para crear "historias sintéticas" difamatorias están entre los vectores más comunes de ataques online contra mujeres( "Your opinion doesn’t matter, anyway": Exposing technology-facilitated gender-based violence in an era of generative AI [2.º edición], UNESCO, abril de 2023). El Consejo había expresado con anterioridad inquietudes sobre la deficiencia de las empresas de medios sociales a la hora de responder al abuso focalizado contra mujeres de la esfera pública y señaló que "los ataques online tienen un efecto intimidatorio en la libertad de expresión de las mujeres que son blanco de ellos, lo que menoscaba el acceso de todos a la información, ya que, en consecuencia, la sociedad sabe menos de las mujeres" (consulta la decisión del caso Cuenta bloqueada por atacar a figuras públicas). Para aclarar este asunto: no se pretende que se creen reglas nuevas o diferentes según la identidad de las víctimas, sino que se comprenda la importancia de responder de forma más contundente al uso engañoso de la IA para abordar estos efectos concretos y divergentes.

Para una mayoría en el Consejo, un enfoque mucho más riguroso respecto del uso engañoso de la IA generativa para falsificar de manera realista palabras o acciones de un político en relación con asuntos de importancia pública necesita tres elementos: a) mayor capacidad para detectar contenido generado con IA, incluido mediante revisión manual; b) criterios públicos más claros para aplicar la etiqueta "Alto riesgo"; y c) etiquetas o avisos intersticiales más claros que generen la fricción suficiente para dejar en evidencia el potencial de engaño, en conjunto con penalizaciones cada vez más severas para los usuarios que infringen las reglas, incluida la degradación del contenido. Dicho enfoque aportaría beneficios significativos a los derechos de participación pública que pesarían más que cualquier carga sobre la libertad de expresión de las personas que comparten esas publicaciones.

a.) Mayor capacidad para detectar contenido generado con IA, incluido mediante revisión manual

La mayoría expresó que las inversiones permanentes de Meta en la moderación automatizada de contenido tiene potencial de mejorar la detección de contenido generado con IA a gran escala, incluido mediante señales de procedencia estándar del sector, así como de mejorar la detección basada en clasificadores. Sin embargo, los reportes de usuarios y de terceros, en conjunto con la revisión manual, también deben seguir desempeñando un papel importante en la detección de contenido de IA dañino. Esto es de especial importancia cuando la IA se utiliza con el fin de engañar al público respecto de temas importantes. La mayoría reconoce que los medios para detectar el uso de IA a gran escala no resuelven el problema que conlleva detectar la intención engañosa a gran escala, lo que requerirá con frecuencia una evaluación contextual por parte de especialistas, respaldada por una verificación de datos independiente sólida.

b.) Criterios públicos más claros para aplicar la etiqueta "Alto riesgo"

Como mencionamos antes, los criterios privados de Meta para aplicar la etiqueta "Alto riesgo" son demasiado elevados. Al Consejo le preocupa que este enfoque minimalista subestime gravemente las implicaciones que el contenido multimedia engañoso manipulado con tecnología de IA tiene sobre el discurso público. Estas intervenciones, que están muy lejos de eliminar contenido, en particular no deberían limitarse a crisis o elecciones inminentes. Respecto de este último asunto, la Relatora Especial sobre la libertad de expresión de la ONU señaló: "El ciclo vital de la desinformación electoral no se limita al período de elecciones, sino que empieza mucho antes y se prolonga hasta mucho después, pervirtiendo el discurso político y polarizando a las sociedades democráticas" ( A/HRC/59/50, párrafo 8). La Relatora también hizo hincapié en que "la integridad electoral y la integridad de la información están estrechamente relacionadas" y que las plataformas digitales amplificaron la manipulación de la información hasta convertirla "en un tsunami de desinformación, información errónea y discurso de odio", con consecuencias "nefastas" para "opositores políticos, minorías, migrantes y otros grupos marginados" (ibidem, párrafos 3 y 4). Meta debe ampliar el etiquetado de información errónea y desinformación más allá de acontecimientos excepcionales. Dado que la empresa no elimina dicho contenido, el umbral para aplicar etiquetas debe ser más bajo.

c.) Aumentar la fricción y las penalizaciones

Por último, la mayoría en el Consejo considera que el diseño de las actuales etiquetas de IA de "alto riesgo" de Meta y las medidas de aplicación de políticas relacionadas no bastan para impedir que se comparta contenido generado con IA engañoso que pone en grave riesgo la participación pública. Esto exige que Meta explore cómo se podrían usar las etiquetas, o medidas más contundentes, como avisos intersticiales, para agregar fricción a la interacción de los usuarios con contenido engañoso en el momento en que lo miran, no solo en el momento en que lo comparten. Esto podría requerir que se modifique el texto de las etiquetas, que actualmente es neutral (no menciona directamente el riesgo de engaño), para garantizar que se entienda bien el propósito que cumplen. Se debe informar a los usuarios que publican dicho contenido cuáles son las reglas de Meta e imponerles consecuencias que vayan más allá de aplicar etiquetas a sus publicaciones, ya que esto los disuadiría con mayor eficacia de infringir las reglas. Tal como ocurre con el contenido que los verificadores de datos independientes de Meta califican como "falso", se debe informar a los usuarios que publican contenido que posteriormente se etiqueta como "Alto riesgo" que su publicación se eliminó de las recomendaciones o se degradó en su feed. Estos usuarios también deben recibir faltas que darían pie a penalizaciones más rigurosas si siguen infringiendo las normas, por ejemplo, limitar funciones y eliminarlos de los programas de monetización.

Una minoría en el Consejo no considera que esta publicación infrinja las reglas sobre contenido multimedia manipulado de Meta y le preocupa que la postura de la mayoría no sea lo suficientemente limitada para prevenir restricciones significativas al discurso político protegido. Las normas de derechos humanos internacionales reconocen el valor particularmente alto de la expresión en el debate público "respecto de figuras del ámbito público y político" (observación general n.º 34, párrafo 34). Para esta minoría, y de conformidad con la decisión anterior del Consejo en el caso Video alterado del presidente Biden, el contenido debe recibir la etiqueta "Información de IA", pero no debe quedar sujeto a la etiqueta "Alto riesgo" ni a las otras medidas que restringen la expresión, que la mayoría recomienda que Meta adopte.

Hace mucho tiempo que los principios de la libertad de expresión reconocen que, en casos como este que implican discurso político, los oradores deben contar con un amplio margen para la exageración e incluso para la falacia. La conclusión lógica de la postura de la mayoría es que el uso de IA para tergiversar las opiniones o acciones de figuras políticas es de una naturaleza tan dañina para la democracia y la participación política que todas estas publicaciones se deben suprimir mediante medidas más invasivas que las que Meta pone a disposición en sus políticas, a menos que la manipulación sea evidente para el usuario común. No se puede trazar una distinción con el precedente del caso "Video alterado del presidente Biden", en el que el Consejo determinó que medidas menos estrictas que la eliminación, como las etiquetas, podrían indicar a los usuarios la autenticidad del contenido, sobre la base de que la falsedad en ese video era evidente, porque dicha decisión se basó en medios menos restrictivos (como el etiquetado) para abordar el daño.

Para esta minoría, es especialmente difícil aplicar medidas de degradación u otras penalizaciones al discurso que sigue una forma familiar de sátira política, como se observa en este caso. El video en cuestión exagera las opiniones de la concejala y las lleva hacia un extremo falso, con el fin de exponer su potencial de acarrear consecuencias radicales. La afirmación implícita del video en este caso es que la concejala local tiene un deseo tan extremo de "acoger refugiados" que incluso les abriría las puertas a aquellos que son violadores. La sátira capta la atención porque hubo situaciones recientes con mucha difusión en los medios en las que se acusó a algunos políticos del Reino Unido de subestimar instancias de violencia perpetradas por solicitantes de asilo, incluida violencia sexual contra menores. Esto se produjo tras el establecimiento de Statutory Independent Inquiry into Grooming Gangs, luego de una auditoría nacional, donde se exploró si las susceptibilidades en torno a la raza o el origen étnico contribuyeron a que no se protegiera a las víctimas y sobrevivientes de delitos sexuales. Insistir en que Meta suprima la publicación porque representa de forma engañosa las opiniones actuales de esta política es negar la protección a un importante género de discurso político sobre un tema relevante que actualmente despierta intensas inquietudes en el público. El video debería incluir una etiqueta que indique que se generó con IA, como se exigió en el caso precedente del Consejo, pero tomar otras medidas para suprimirlo (como degradación o etiquetas más agresivas) constituiría una restricción inadmisible a la libertad de expresión. Esta minoría también expresó que, como la etiqueta "IA de alto riesgo" solo se aplica cuando el caso se remite a expertos en la materia de Meta y, por ende, necesariamente se usa solo en una cantidad demasiado pequeña de casos, la etiqueta "Información de IA" ofrecería la ventaja de poder aplicarse a gran escala y de forma más equitativa a diferentes usuarios, puntos de vista y contextos. Asimismo, la minoría señala que, en el momento en que se publicó el video, Meta no podía detectar de forma automática el uso de IA sin marcadores de procedencia o la marca de socios de confianza, que este contenido no tenía. Esta falta de confianza en la evaluación de contenido de IA subraya aún más los desafíos y riesgos que implica la adopción de un enfoque más agresivo para suprimir contenido en parte porque se generó con IA.

Para otra minoría, dada la gravedad de las inquietudes respecto de lo anterior, la eliminación es el medio menos restrictivo disponiblepara Meta que resulta efectivo. El Consejo señaló en reiteradas ocasiones la ineficiencia de Meta a la hora de implementar etiquetas "informativas" menos invasivas en diversos casos (consulta, por ejemplo, Video generado con IA en el conflicto entre Israel e Irán). Si bien la empresa afirma que toma este asunto muy en serio, Meta usó estas etiquetas para marcar el uso de IA engañoso en una cantidad tan pequeña de publicaciones que resulta alarmante y, al parecer, casi nunca (si es que lo hace) sanciona a los usuarios por no avisar que usaron IA. Las medidas que existen en la teoría, pero que escasamente se implementan en la práctica no están, en términos prácticos, disponibles y, por tanto, no son efectivas.

En la mesa redonda que organizó el Consejo, los participantes plantearon importantes preguntas sobre la efectividad de las etiquetas para contrarrestar los efectos persuasivos de los deepfakes realistas de políticos y el daño que ocasionan a la participación pública. Esto es especialmente preocupante cuando las etiquetas no se combinan con limitaciones en el alcance ni penalizaciones a los usuarios que reiteradamente exhiben este comportamiento, a fin de educar y disuadir la reincidencia. Estas inquietudes aumentan cuando otras medidas menos invasivas, como la verificación de datos de terceros, tampoco funcionan con el apoyo o el alcance requeridos para abordar el desafío. Para esta minoría, la preocupación no tiene que ver con las capacidades de detección técnicas, sino con la decisión normativa de Meta de contar con un umbral tan alto para aplicar las etiquetas que la famosa etiqueta "Alto riesgo" básicamente no se aplica nunca, sin mencionar su decisión de no combinar estas etiquetas con otras limitaciones en el alcance o reforzar otras penalizaciones para el uso de IA engañoso a gran escala. Dado que la documentación falsificada de las supuestas palabras o acciones de políticos tiene poco o ningún valor de interés público, estos miembros consideran la eliminación una medida proporcionada: la carga que impone en el orador es muchísimo menor que la ventaja que supone la eliminación para la participación pública y la protección de la democracia.

Pese a estas diferencias de opinión, el Consejo también considera que, desde el punto de vista de la legalidad, las reglas de Meta sobre información errónea y la aplicación de etiquetas podrían ser más claras en tres aspectos ( observación general n.º 34, párrafo 25; informe A/HRC/38/35, párrafo 46). En primer lugar, hay una discrepancia entre la afirmación general expuesta en las bases de la política que indica que Meta "elimina contenido que es probable que contribuya de manera directa a interferir en el funcionamiento de los procesos políticos" y las reglas que le suceden, que prohíben solo un conjunto acotado de afirmaciones que ocasionan "interferencia electoral o censal", algunas de las cuales son específicas de los Estados Unidos. Las bases de la política de información errónea deben dejar más en claro que solo se elimina la información errónea directa sobre los medios y la seguridad de participación en elecciones, y revisar en más detalle ejemplos específicos de cada país para que sus reglas sean relevantes a nivel mundial.

En segundo lugar, hay inquietudes respecto de que la política no especifica las penalizaciones que se imponen cuando no se avisa que se usó IA o las condiciones en las que se imponen dichas penalizaciones, lo que exige que se brinden más detalles. En tercer lugar, las reglas sobre contenido multimedia manipulado no brindan detalles sobre cómo Meta define el "riesgo particularmente alto de engañar de manera sustancial al público respecto de un asunto de importancia pública". Si bien una mayoría de miembros del Consejo respaldan medidas más contundentes, y un umbral más bajo para imponerlas (conforme se refleja en las recomendaciones), el Consejo está de acuerdo en que una mayor claridad en este sentido, junto con más divulgaciones de transparencia sobre la frecuencia con que se implementan estas medidas, sería muy útil para que el público comprenda las reglas y las iniciativas de aplicación de Meta.

Lenguaje que incita al odio

El Consejo considera que el video infringe la norma comunitaria sobre conducta que incita al odio. Para una mayoría en el Consejo, este aduce que los refugiados, como colectivo, participan en delitos graves y presentan comportamientos sexuales predatorios, sin más fundamentos que su identidad. El blanco se nombra expresamente ("acogemos a los refugiados en nuestro país") y se le atribuyen delitos graves como colectivo ("aunque violen a nuestras mujeres"). La afirmación encaja en la definición de generalización y se basa en décadas de demonización de los inmigrantes como una amenaza de seguridad para el Reino Unido, en especial para mujeres y niñas. Este resultado es coherente con la decisión del Consejo en el caso Crítica de las políticas migratorias de la UE y los inmigrantes. En ese caso, una mayoría determinó que una imagen de inmigrantes generada con IA, acompañada por un texto que rezaba que Alemania no necesita más "especialistas en violaciones en grupo", infringía las reglas por razones similares.

Para la mayoría, la eliminación de la publicación en virtud de las reglas de conducta que incita al odio es coherente con las responsabilidades de Meta con los derechos humanos. La norma comunitaria es clara, cumple con el principio de legalidad, y la eliminación es una medida necesaria y proporcionada para proteger los derechos de igualdad y no discriminación de otras personas (artículo 19, párrafo 3, ICCPR; artículo 2, párrafo 1, ICCPR).

La eliminación es una medida proporcionada porque la ventaja de proteger a los refugiados contra la discriminación, la hostilidad y la violencia pesa más que la carga que se impone a la libertad de expresión del usuario (observación general n.º 34, párrafo 34). Conforme al Plan de Acción de Rabat de la ONU y sus seis factores para evaluar la proporcionalidad de las restricciones a la incitación a la violencia, la hostilidad o la discriminación, estos riesgos son reales y a corto plazo.

El contexto social y político es de especial importancia en este caso. En el Reino Unido, hubo frecuentes casos de violencia contra personas percibidas como refugiados o inmigrantes, según lo resume el Comité para la Eliminación de la Discriminación Racial de la ONU ( Concluding Observations on the UK, Comité para la Eliminación de la Discriminación Racial de la ONU, 2024), y se documenta en el caso Publicaciones a favor de los disturbios en el Reino Unido. Tal como lo demuestra ese caso, la violencia se nutre de la desinformación online, que las organizaciones de sociedad civil siguen documentando desde el que el Consejo publicó esa decisión ( Informe Mundial 2026, Human Rights Watch, febrero de 2026; y informe State of Hate, Hope Not Hate, marzo de 2026).

Las distinciones que hace Meta entre rasgos inherentes y declaraciones conductuales en sus pautas de aplicación de políticas son exageradamente mecánicas: se admite la frase "los refugiados violan", pero no "los refugiados son violadores". Se centra más en la gramática que en la intención, el contenido o la probabilidad de daños, que son todos factores relevantes en el Plan de Acción de Rabat. La intención detrás de esta publicación es demonizar a los refugiados como colectivo y fomentar creencias respecto de su inclinación hacia la violencia. Para la mayoría, la referencia a las personas blancas como partícipes de violaciones es frívola y su fin es burlarse de aquellos que muestran solidaridad hacia los refugiados; en un contexto en el que la gente blanca en realidad no enfrenta este estereotipo dañino, no tiene un impacto discriminatorio paralelo.

El efecto acumulativo que produce conservar contenido de este tipo en las plataformas de Meta propicia un entorno en el que la violencia y la discriminación contra refugiados y minorías étnicas o religiosas se pueden esparcir fácilmente tras acontecimientos desencadenantes (consulta Publicaciones a favor de los disturbios en el Reino Unido). Para la mayoría, las responsabilidades de Meta en materia de derechos humanos no se limitan a prevenir solo la violencia racista generalizada, sino los actos diarios de hostilidad y discriminación previos a dichos eventos. Como afirmó la mayoría en el caso Crítica de las políticas migratorias de la UE y los inmigrantes, "tanto el desafío de evaluar el impacto de cada contenido a gran escala como la naturaleza impredecible de la viralidad online justifican que Meta adopte un enfoque más cauteloso en cuanto a la moderación... Permitir en Meta todo el lenguaje que incita al odio que no llegue a la incitación, tal como se prevé en el artículo 20 del ICCPR, convertiría las plataformas de Meta en un lugar intolerable e inseguro para que las minorías y los grupos marginados se expresen". Para la mayoría, la eliminación resulta necesaria porque no existe ninguna medida menos restrictiva que permita ejercer una función protectora adecuada.

Para una minoría en el Consejo, la declaración del video no infringe la norma sobre conducta que incita al odio por tres motivos independientes. El primero es que el video muestra una representación (manipulada) de lo que se supone que dijo una política, no una aseveración directa sobre los refugiados. El mensaje del video indica que a esta concejala no le importa que los refugiados sean o no violadores, los acogería de todos modos. Este es un mensaje sobre esta mujer, no sobre los refugiados como grupo.

El segundo es que, incluso si tomásemos las palabras que se atribuyen a esta mujer como una aseveración directa, el video no dice que todos los refugiados, incluso la mayoría (o un gran número) de ellos, son violadores. La afirmación del video es que la concejala recibe a todos los refugiados independientemente de que sean violadores o no, porque las "personas blancas" también violan. La publicación solo es lógica como aseveración de que la concejala comete un error al no distinguir entre los refugiados peligrosos y aquellos que son inofensivos, lo que sería especialmente evidente para los usuarios en Gran Bretaña dado el extenso debate público sobre estos temas (consulta arriba).

El tercero es que la norma por la cual se elimina el discurso político en virtud de la política de conducta que incita al odio es, y debería ser, alta. En especial en el contexto de los debates políticos que suelen aludir a generalizaciones sobre los grupos de personas a los que estas políticas afectan más, que pueden parecer ofensivas y discriminatorias. En opinión de la minoría, la distinción que hace Meta entre generalizaciones prohibidas sobre las cualidades inherentes de ciertos grupos y las declaraciones conductuales sobre el comportamiento de algunos miembros de esos grupos es coherente con los principios internacionales de libertad de expresión. La postura de la mayoría, que se basa en el concepto de "daños acumulativos" del lenguaje que incita al odio, prescinde en gran medida de la necesidad, conforme a las leyes de derechos humanos internacionales, de demostrar la causa directa del daño para justificar las restricciones a la expresión, así como de que dicho daño sea probable e inminente (consulta la crítica de la minoría en el caso Crítica de las políticas migratorias de la UE y los inmigrantes). La confianza en la noción de daños acumulativos sin demostrar con claridad la probabilidad e inminencia del daño es, por ende, similar a restringir la expresión simplemente porque transmite un punto de vista desfavorable, lo que atenta de forma manifiesta contra las normas de derechos humanos internacionales.

Bullying y acoso

Para el Consejo, el video de la concejala no infringe la norma comunitaria sobre bullying y acoso porque esta persona es una figura pública y no se beneficia de la disposición que prohíbe las "imágenes manipuladas no deseadas".

En virtud de las normas de derechos humanos internacionales, se les exige a los líderes políticos y los funcionarios públicos tolerar un mayor grado de escrutinio y críticas que las personas no públicas, dado su papel influyente en los asuntos públicos y el derecho del público a exigir que asuman su responsabilidad (consulta la observación general n.º 34, párrafos 11 y 38). Distinguir figuras públicas de personas no públicas garantiza que las restricciones que se impongan a la expresión respeten los principios de necesidad y proporcionalidad.

Al mismo tiempo, el Consejo señala que la definición de Meta de "figuras públicas" en la norma comunitaria exige aclaración. Esta indica que las figuras públicas son "funcionarios del gobierno nacional o estatal", y candidatos a esos cargos" y no incluye a todos los funcionarios electos, tanto a nivel local como municipal. En opinión del Consejo, es más adecuado que estas personas se consideren figuras públicas debido al cargo público que ostentan, no a su alcance en medios sociales o al nivel de cobertura que les brindan los medios de comunicación. Meta parece adoptar esa postura a la hora de aplicar sus políticas (como lo reflejan los comentarios enviados en este caso), pero sus reglas públicas deben comunicar esto con mayor claridad.

6. Decisión del Consejo asesor de contenido

El Consejo anuló la decisión de Meta de conservar el contenido y exigió que se eliminara en virtud de la norma comunitaria sobre conducta que incita al odio. Mientras analizaba este caso, el Consejo también descubrió fallas en las políticas de etiquetado conforme a la norma comunitaria sobre información errónea y realizó las recomendaciones de mejora que figuran debajo.

7. Recomendaciones

A. Política de contenido:

1. Para proteger el derecho de los usuarios a la participación pública y a la integridad de la información, Meta debe modificar la política de contenido multimedia manipulado para que se reduzca el umbral en el cual se aplican las etiquetas de "alto riesgo" y asegurarse de que no se trate solo de una medida que se toma en situaciones de crisis o por cuestiones que perjudican la integridad de las elecciones.

El Consejo considerará implementada esta recomendación cuando Meta le proporcione las pautas de aplicación de políticas actualizadas que demuestren que se redujeron los umbrales de aplicación de dichas etiquetas.

2. Para proteger el derecho de los usuarios a la participación pública y a la integridad de la información, Meta debe aumentar la fricción cuando los usuarios visualicen contenido que se indique que se generó con IA o que tenga la etiqueta "IA de alto riesgo", por ejemplo, mediante un aviso intersticial en lugar de una etiqueta.

El Consejo considerará implementada esta recomendación cuando Meta brinde evidencia de que se aumentó la fricción en estos casos de uso, por ejemplo, mediante avisos intersticiales.

3. Para proteger el derecho de los usuarios a la participación pública y la integridad de la información, todo el contenido etiquetado como "Alto riesgo" debe desmonetizarse, degradarse o eliminarse de las recomendaciones y se deben imponer penalizaciones cada vez más elevadas a las cuentas que comparten reiteradamente contenido etiquetado de este modo.

El Consejo considerará implementada esta recomendación cuando Meta actualice su política de contenido multimedia manipulado para reflejar estos cambios y le proporcione evidencia que indique que se imponen dichas penalizaciones.

4. Para dejar en claro que la política de información errónea se aplica a los usuarios a nivel mundial, Meta debe garantizar que las reglas y los ejemplos relacionados con la interferencia electoral o censal se redacten de un modo que se aplique a todos los países, no solo en el contexto de los Estados Unidos.

El Consejo considerará implementada esta recomendación cuando Meta actualice su norma comunitaria sobre información errónea para garantizar que todos los ejemplos se apliquen a nivel mundial.

B. Transparencia:

5. Para mejorar la transparencia respecto de la aplicación de la política de contenido multimedia manipulado, Meta debe divulgar públicamente datos anuales en su Centro de transparencia respecto de la cantidad de veces que aplica las etiquetas "Alto riesgo" e "IA de alto riesgo" al contenido, incluida la cantidad de veces que estas etiquetas se aplican al contenido que los políticos publican o en el que se habla de ellos.

El Consejo considerará implementada esta recomendación cuando Meta publique esta información en su Centro de transparencia en un formato similar al de los avisos anuales sobre la concesión de interés periodístico.

6. Para respaldar las investigaciones sobre la efectividad de las intervenciones cuando hay información errónea, Meta debe garantizar que se puedan ver todas las etiquetas conforme a la política de información errónea ("Información de IA", "Alto riesgo" o "IA de alto riesgo") en el contenido de la biblioteca de contenido de Meta y que el contenido que recibió esas etiquetas se pueda buscar mediante un filtro.

El Consejo considerará implementada esta recomendación cuando Meta demuestre que su funcionalidad es operativa.

El Consejo reitera también la importancia de su recomendación anterior (n. º3) en la decisión del caso Video generado con IA en el conflicto entre Israel e Irán y exige a Meta publicar una explicación clara de las penalizaciones que se imponen por no divulgar que el contenido se creó o alteró digitalmente. Debe proporcionar criterios para aplicar las penalizaciones y enumerar qué funciones de la cuenta se limitan en consecuencia y por cuánto tiempo.

* Nota de procedimiento:

• La preparación de las decisiones del Consejo asesor de contenido está a cargo de paneles conformados por cinco miembros, quienes deben aprobarlas por mayoría. Las decisiones del Consejo no necesariamente representan las opiniones de todos los miembros.
• En virtud de su acta constitutiva, el Consejo asesor de contenido tiene la facultad de revisar apelaciones de usuarios cuyo contenido fue eliminado por Meta, apelaciones de usuarios que reportaron contenido que Meta mantuvo publicado y decisiones que Meta le presente (artículo 2, sección 1, del acta constitutiva). El Consejo tiene autoridad vinculante para ratificar o anular las decisiones sobre contenido de Meta (artículo 3, sección 5, y artículo 4, del acta constitutiva). El Consejo podrá emitir recomendaciones no vinculantes a las que Meta deberá responder (artículo 3, sección 4, y artículo 4). Cuando Meta se compromete a tomar medidas respecto de las recomendaciones, el Consejo supervisa su implementación.
• En cuanto a la decisión del caso, el Consejo no encargó una investigación independiente.

Volver a Decisiones de casos y opiniones consultivas sobre políticas