El Consejo analizará un video generado por IA de una activista
18 de junio de 2026
El día de hoy, el Consejo anuncia un nuevo caso para considerar. Como parte de esto, invitamos a personas y organizaciones a enviar comentarios públicos utilizando el botón de abajo.
Selección de casos
Como no podemos atender todas las apelaciones, el Consejo prioriza los casos que tienen el potencial de afectar a una gran cantidad de usuarios alrededor del mundo, los casos que son de suma importancia para el discurso público o los que plantean preguntas importantes respecto a las políticas de Meta.
El caso que anunciamos el día de hoy es el siguiente:
El Consejo analizará un video generado por IA de una activista
2026-043-FB-UA
Apelación del denunciante
Envíe un comentario público utilizando el botón de abajo
El Consejo seleccionó un caso relacionado con un video generado por IA en el que se mostraba a una activista dando consejos de salud que nunca dio, después del acoso masivo que sufrió en internet por su apariencia física tras una entrevista en un noticiero. El Consejo seleccionó para su revisión un ejemplo de cómo se manifestó este acoso en las plataformas de Meta, específicamente en una publicación de Facebook que la empresa dejó activa. El caso permitirá al Consejo examinar cómo los videos generados por IA están cambiando la naturaleza del acoso en internet, los impactos en los derechos de los usuarios de Meta y las implicaciones para la expresión y participación de las mujeres y niñas, quienes suelen ser el blanco de estos ataques.
Recientemente, una joven fue entrevistada en un noticiero por su rol como voluntaria de una organización que promovía una campaña por la mejora de la educación sobre la salud de las mujeres y la reducción del estigma en torno a las afecciones de salud que afectan a mujeres y niñas de grupos étnicos minoritarios. Estas imágenes fueron manipuladas digitalmente para tergiversar su rol y su mensaje, lo que la dejó expuesta a comentarios y acoso generalizados a nivel mundial sobre su apariencia en múltiples plataformas de redes sociales.
El caso seleccionado por el Consejo es un video generado por IA en el que se muestra a la mujer de la entrevista fuera de contexto, presentándose a sí misma como recién nombrada para un cargo oficial de salud en su país. Se la muestra diciendo que va a demostrar cómo mantenerse en forma, y luego aparece realizando diversas actividades físicas, incluso en el gimnasio, y dando consejos de salud sobre la alimentación mientras consume comida chatarra. En realidad, ella nunca hizo ninguna de estas afirmaciones en la entrevista original, la cual no se abordó el tema de la alimentación saludable ni el ejercicio, sino otros problemas de salud. La publicación tiene más de 5000 vistas, recibió más de 200 reacciones y tiene más de 50 comentarios. Múltiples comentarios ridiculizan la apariencia de la mujer, incluso por su peso y el hiyab.
Un usuario reportó el contenido por infringir la norma comunitaria de Meta sobre Bullying y acoso. Meta no priorizó este reporte para una revisión manual y el contenido permaneció activo sin una etiqueta de IA. El usuario que reportó apeló la decisión de Meta, pero Meta tampoco priorizó esta apelación para revisión manual. Luego, el usuario apeló la decisión de Meta ante el Consejo, y afirmó en su apelación que la publicación utilizó IA para generar la imagen de una mujer sin su consentimiento, fabricar contenido engañoso y avergonzarla públicamente por su labor de activismo en pro de la salud.
Cuando el Consejo señaló el caso a Meta, la empresa concluyó que la publicación no cumplía con los criterios para infringir la norma comunitaria sobre Bullying y acoso. Según Meta, la publicación no contenía "afirmaciones de inferioridad sobre la apariencia física" dirigidas a la mujer que aparece y se nombra en el video que pudieran infringir la política. Además, Meta explicó que la yuxtaposición de actividades relacionadas con la salud y el consumo de alimentos no saludables podría interpretarse como un comentario implícito sobre el aspecto de la mujer retratada, pero que la publicación no contenía una declaración explícita que atacara su apariencia física. Meta también determinó que la publicación no infringía su prohibición de "imágenes manipuladas no deseadas" dirigidas a personas que no son figuras públicas. Esto se debe a que la mujer representada no reportó la publicación por sí misma, lo cual es un requisito para que se considere su eliminación. También Meta le informó al Consejo que esta regla tiene como objetivo abordar las "manipulaciones digitales que alteran el aspecto de una persona (por ejemplo, el rostro o el cuerpo) en lugar de una representación alterada de lo que hace una persona". Según Meta, la fabricación o distorsión de las acciones o la conducta de una persona no están contempladas en la regla de "imágenes manipuladas no deseadas".
El Consejo agradecería comentarios públicos que aborden lo siguiente:
- Las fuentes, la prevalencia y el impacto del contenido generado por IA que se burla o acosa a las personas, especialmente cuando se dirige a mujeres y niñas que participan en debates públicos o realizan activismo por los derechos humanos y no son figuras públicas.
- Cómo aplicar con precisión las reglas contra el acoso generado por IA, especialmente cuando se dirige a personas que no son figuras públicas, respetando al mismo tiempo la libertad de expresión y evitando la moderación excesiva de comentarios sociales y políticos legítimos.
- Las barreras que enfrentan las mujeres y las niñas para compartir o acceder a información sobre salud reproductiva en las plataformas de redes sociales.
- Cómo las decisiones de diseño de las empresas de redes sociales pueden reducir la prevalencia del acoso masivo y el potencial de que este se vuelva viral.
- Las mejores prácticas para las plataformas que buscan ayudar a las personas que son blanco de "imágenes manipuladas no deseadas", incluidas las limitaciones de la política de Meta para la manipulación de la apariencia de una persona (en lugar de lo que se le ve haciendo o diciendo) y la idoneidad del requisito de que las víctimas deban reportarlo por sí mismas.
En sus dictámenes, el Consejo puede emitir recomendaciones de políticas a Meta. Aunque las recomendaciones no son vinculantes, Meta debe responder a ellas en un plazo de 60 días. Por ello, el Consejo agradece los comentarios públicos que propongan recomendaciones pertinentes para este caso.
Comentarios públicos
Si usted o su organización consideran que pueden aportar perspectivas valiosas que ayuden a tomar una decisión sobre el caso anunciado hoy, pueden enviar sus contribuciones utilizando el siguiente botón. Tenga en cuenta que los comentarios públicos pueden realizarse de manera anónima. El plazo para presentar comentarios públicos tiene una duración de 14 días y finaliza a las 23:59, hora estándar del Pacífico (PST), del jueves 2 de julio.
Próximos pasos
En las próximas semanas, los Miembros del Consejo deliberarán sobre este caso. Una vez que hayan tomado una decisión, la publicaremos en la página de Decisiones.
