Refuerzo de las políticas de Bullying y acoso en contra de imágenes generadas por IA de personas que no son figuras públicas
17 de septiembre de 2026
El Consejo asesor de contenido le exige a Meta que elimine de Facebook un video generado por IA que hostiga a una joven musulmana mediante la manipulación de su apariencia y por formar parte de una serie viral de publicaciones similares en las distintas redes sociales. El Consejo determinó que las políticas de Bullying y acoso de Meta son inadecuadas para abordar las imágenes manipuladas con IA de personas que no suelen ser figuras públicas.
Por qué esto es importante
La decisión surge debido a que la IA generativa crea nuevos riesgos para mujeres y niñas, a medida que aumenta la magnitud, la rapidez y la gravedad del abuso. Según el informe 2025 de ONU Mujeres, el principal organismo de la Organización de las Naciones Unidas (ONU) que se dedica a la igualdad de género, muchos ataques suelen ser “deliberados y coordinados, y tienen el objetivo de silenciar a las mujeres en la vida pública”. Los videos generados por IA están cambiando la naturaleza del acoso en Internet y tiene un gran impacto en los derechos de los usuario de Meta, que incluyen los derechos en la participación pública de mujeres musulmanas, y de las mujeres y niñas en general. Estos ataques suelen falsificar la apariencia de las personas y también sus acciones y palabras de una manera en que las perjudica.
Sobre el caso
En 2025, entrevistaron a una joven musulmana en un noticiero de Europa por su rol como voluntaria en una campaña que promovía la mejora de la educación sobre la salud menstrual de las mujeres y la reducción del estigma en torno a los problemas de salud que afectan a mujeres y niñas de grupos étnicos minoritarios. Durante los meses siguientes, varias cuentas en distintas redes sociales manipularon digitalmente el material de la entrevista para ridiculizarla mediante la creación de una discrepancia entre su rol para promover la salud y su apariencia, en un intento evidente de sugerir que no es la mensajera adecuada para hablar sobre cuestiones de salud. Estos videos usan su apariencia para manipular sus acciones y palabras. Los videos y las imágenes generadas por IA consiguieron decenas de millones de vistas en todas las plataformas, incluidas las de Meta.
El Consejo seleccionó una publicación de Facebook que se presentó mediante la Apelación de usuario, como un ejemplo del acoso que sufrió esta mujer. La publicación incluye un video generado por IA de la mujer en el que ella se presenta como la nueva embajadora de la salud de su país. Esta afirmación falsa se replica en los subtítulos, junto con un emoji de risa. Se muestra una representación de ella diciendo que va a demostrar cómo mantenerse en forma y, luego, aparece realizando una serie de ejercicios limitados o absurdos y dando consejos sobre alimentación saludable mientras consume comida chatarra. Varios comentarios debajo del video de distintos usuarios ridiculizan a la mujer, sobre todo por su peso y por usar un hiyab.
En el caso del usuario que presentó una apelación ante el Consejo, su denuncia inicial ante Meta y su posterior apelación ante la empresa se cerró de manera automática sin que se le diera prioridad para su revisión. Posteriormente, Meta le confirmó al Consejo que la decisión de ignorar la publicación, dejándola en el plataforma sin una etiqueta de IA, era consistente con sus políticas. Solo después de que el Consejo preguntara acerca de cuatro comentarios denigrantes en el publicación, Meta decidió eliminar los comentarios al confirmar que infringían la prohibición de Bullying y acoso en comparaciones deshumanizantes.
Conclusiones clave
La mayoría de los miembros del Consejo determinó que el video debía eliminarse porque infringía la política de Bullying y acoso de Meta. Específicamente, contiene una expresión de inferioridad sobre el aspecto físico de una persona particular, se utilizó IA para falsificar sus palabras y acciones sin su consentimiento y formó parte de una campaña, que la persona afectada, sufrió como un acoso masivo.
Para la mayoría de los miembros, la definición de Meta de “imágenes manipuladas sin consentimiento”, que es una de las prohibiciones del Bullying y acoso, es demasiado acotada y debe incluir el hecho de falsificar las acciones y las palabras de una persona, además de alterar su apariencia.
Meta también define las campañas de acoso masivo de manera muy acotada, según la mayoría. La empresa debería adoptar medidas nuevas que reduzcan la carga que recae en las víctimas que los denuncian. Estas medidas incluyen agregar contenido manipulado sin consentimiento al Banco de coincidencias de contenido multimedia de la empresa para que el contenido idéntico o casi idéntico se elimine y usar etiquetas de contenido multimedia manipulado o generado por IA como un indicador de gravedad para priorizar su revisión.
Una minoría del Consejo determinó que el contenido no concuerda con las definiciones sobre Bullying y acoso de Meta, y que dejar el contenido publicado cumple con las responsabilidades de la empresa en materia de derechos humanos.
La decisión del Consejo asesor de contenido
El Consejo anula la decisión de Meta de mantener el contenido y exige que la publicación se elimine.
El Consejo remarca la importancia de sus recomendaciones anteriores que solicitan permitir que cuentas de terceros denuncien contenido relacionado con el bullying y el acoso.
Además, recomienda que Meta haga lo siguiente:
- Ampliar la definición pública de “imágenes manipuladas sin consentimiento” para incluir medios sintéticos de personas particulares en los que digan o hagan cosas que no dicen ni hacen.
- Agregar instancias de incumplimientos de “imágenes manipuladas sin consentimiento” al Banco de coincidencias de contenido multimedia para su eliminación.
- Usar señales de contenido multimedia manipulado o generado por IA como un indicador de gravedad y priorizar las denuncias para su revisión.
Para obtener más información
Para leer los comentarios públicos sobre este caso, haga clic aquí.
