Meta debe tomar más medidas en contra de los medios sintéticos perjudiciales con lenguaje que incita al odio
17 de septiembre de 2026
El Consejo Asesor de Contenido determinó que un video sintético de un político de Reino Unido debe eliminarse de Facebook porque contiene lenguaje que incita al odio en contra de los refugiados, lo que anuló la decisión de Meta de mantenerlo publicado. El Consejo determinó que Meta debe hacer mucho más para abordar de manera eficaz este contenido, lo que incluye sanciones más severas por compartir medios sintéticos perjudiciales para proteger a los usuarios de posibles engaños.
Por qué esto es importante
El caso plantea grandes desafíos que confrontan a las sociedades, los cuales deben abordar las redes sociales. Los medios sintéticos cada vez más reales muestran a funcionarios electos y distorsionan sus opiniones sobre cuestiones fundamentales y engañan al público, y la información errónea aumenta el odio en contra de las minorías, incluidos los inmigrantes. Las mujeres dentro de la política, el periodismo y el activismo son el objetivo de los medios sintéticos de manera desproporcionada en donde tergiversan sus opiniones, incluso como parte de campañas de acoso, además de otras figuras públicas menos destacadas, como políticas y activistas locales, que no suelen tener los recursos para dar una respuesta eficaz. La difusión de medios sintéticos debilita la confianza en la información pública y desafía los límites entre lo que es el discurso político protegido y lo que infringe las reglas de Meta sobre la información errónea, el lenguaje que incita al odio o el bullying y acoso.
Sobre el caso
En noviembre de 2025, un usuario de Facebook publicó un video corto que mostraba una imitación de una concejal del Partido Laborista de Escocia. El video, que parece haber sido generado por IA, la muestra diciendo lo siguiente: “Los refugiados son bienvenidos aquí, incluso si violan a nuestras mujeres, porque los blancos también lo hacen”.
La representación es realista, aunque al analizarla con más detenimiento luce sintética: el audio no está bien sincronizado con sus movimientos faciales, lo que demuestra que es contenido falso. El video era parte de un álbum que contenía fotos de varias mujeres mencionadas en una protesta en contra de la ultraderecha, incluida la concejal. El álbum y el video se vieron más de 5000 veces, tuvieron más de 50 comentarios, recibieron más de 20 reacciones y se compartieron más de 10 veces.
Dos personas, incluida la política representada, denunciaron el contenido por infringir la política de Bullying y acoso, pero los sistemas de Meta no dieron prioridad a la publicación para su revisión manual, por lo que el contenido permaneció en Facebook. Ambos usuarios presentaron una apelación ante Meta, pero la publicación se mantuvo y la revisión manual no se realizó. Luego, uno de los usuarios, no la política involucrada, apeló ante el Consejo. Cuando el Consejo llamó la atención de Meta sobre el caso, la empresa concluyó que el video no infringía las Normas comunitarias de la empresa y no requería el uso de una etiqueta de IA.
Conclusiones clave
El Consejo evaluó este caso en relación con tres políticas de Meta: Conducta que incita al odio, Información errónea y, Bullying y acoso. El Consejo determinó que Meta debía haber eliminado el video generado por IA según su política de Conducta que incita al odio.
La mayoría del Consejo consideró que el video infringe las reglas de Conducta que incita al odio de Meta, en especial, porque manifiesta graves actos delictivos y conductas sexuales depredadoras en contra de todo el grupo de refugiados, y no en contra de algunos de ellos como declaró Meta.
Al emitir su decisión sobre el caso, el Consejo también consideró que el video (aunque no infrinja las normas de Conducta que incita al odio) cumplía con el umbral para su eliminación según la política de Información errónea. La mayoría del Consejo considera que no habría correspondido su eliminación por contener información errónea, pero que tendría que haber sido etiquetado como “IA de alto riesgo”. Además, en su análisis determinó que las reglas de Meta sobre las etiquetas de IA para el contenido sintético no son adecuadas.
La mayoría consideró que Meta necesita políticas más sólidas sobre el contenido sintético, que incluyan ampliar las situaciones en las que pueden aplicarse las etiquetas de “alto riesgo”, más medidas para reducir la difusión de contenido engañoso generado por IA, al aumentar las sanciones para la cuentas que compartan ese contenido de forma reiterada, y más transparencia sobre los datos que determinan cuándo deben aplicarse las etiquetas de IA.
Una minoría del Consejo no estuvo de acuerdo con que el video se considere lenguaje que incita al odio porque se centra en las supuestas opiniones de la política, y no en todos los refugiados o a la mayoría de ellos, y porque el video es un discurso político, el umbral para su eliminación debería ser más alto.
También había opiniones discrepantes con respecto a las conclusiones del Consejo sobre las reglas de información errónea. Una minoría comentó que la etiqueta de “Alto riesgo” es demasiado restrictiva y que debería haberse aplicado una etiqueta de “Información generada por IA”. Otro grupo minoritario dijo que la gravedad de los daños justificaría su eliminación, junto con el hecho de que, en realidad, Meta no aplica muchas etiquetas sobre IA.
El Consejo consideró que, según las reglas de Bullying y acoso, no sería necesario eliminar el video porque la funcionaria electa es una figura pública y, por lo tanto, recibe menos protección que las personas comunes de acuerdo con la política.
La decisión del Consejo asesor de contenido
El Consejo anula la decisión de Meta de mantener el contenido y exige que se elimine la publicación de acuerdo con la Norma comunitaria sobre conductas que incitan al odio. Al examinar este caso, el Consejo también encontró carencias en las políticas sobre las etiquetas en virtud de la Norma comunitaria de información errónea y realiza las siguientes recomendaciones respecto a esa política.
El Consejo recomienda que Meta haga lo siguiente:
- Cambiar su política de medios manipulados para bajar el umbral de las etiquetas de “Alto riesgo”, con el fin de garantizar que esto no sea solo una medida en situaciones de crisis o de integridad electoral.
- Agregar más pasos para los usuarios que quieran ver contenido con la etiqueta de generado por IA o “IA de alto riesgo”, como el uso de intersticiales (pantallas en las que deben hacer clic para ver el contenido), en vez de una etiqueta.
- Someter todo el contenido con la etiqueta de “Alto riesgo” a la desmonetización, degradación o eliminación de las recomendaciones, con sanciones cada vez más severas para las cuentas que compartan este contenido de manera repetitiva.
- Garantizar que las reglas y los ejemplos relacionados con la interferencia en la votación o en el censo estén formulados para aplicarse a nivel mundial y no solo en el contexto de EE. UU.
- Divulgar públicamente los datos anuales en su Centro de Transparencia sobre la cantidad de veces que se aplicaron las etiquetas de “Alto riesgo” e “ IA de alto riesgo” al contenido, incluidas las veces que estas etiquetas se aplican en contenido de figuras políticas o acerca de ellas.
- Garantizar que las etiquetas relacionadas con la política de Información errónea (“Información generada por IA”, “Alto riesgo” e “IA de alto riesgo”) puedan verse en la Biblioteca de contenido de Meta y que el contenido que tenga esas etiquetas deba buscarse con un filtro.
El Consejo también reitera la importancia de sus recomendaciones anteriores acerca del video generado por IA en la decisión sobre el conflicto entre Israel e Irán, en las que le solicitaban a Meta que publicara una explicación clara sobre las sanciones por no declarar que el contenido se creó o alteró digitalmente. Debería proporcionar los criterios para las sanciones e indicar qué funciones de la cuenta se limitan como consecuencia y durante cuánto tiempo.
Para obtener más información
Para leer los comentarios públicos sobre este caso, haga clic aquí.
