Las personas que no son figuras públicas necesitan más protección frente a los medios sintéticos de contenido sexual
23 de junio de 2026
El Consejo asesor de contenido anuló la decisión de Meta de mantener en Instagram un video presuntamente generado por IA que suplantaba la identidad de una mujer. Asimismo, insta a Meta a reforzar las protecciones para las personas que no son figuras públicas y que son blanco de medios sintéticos de contenido sexual.
Por qué esto es importante
La decisión y las recomendaciones del Consejo llegan en un momento en que varios gobiernos, como los de la India, el Reino Unido y España, están estableciendo normativas nuevas para las plataformas sobre el contenido generado por IA. La Unión Europea (UE) alcanzó un acuerdo para prohibir los sistemas de IA que generen contenido íntimo y sexualmente explícito sin consentimiento o material de abuso sexual infantil, como las aplicaciones de IA para "desnudar". Otras plataformas, como X, están bajo la lupa debido a las imágenes sexualmente explícitas creadas por chatbots de IA.
Es evidente que la escala, la velocidad y la sofisticación de las herramientas de IA provocaron una proliferación global de contenido de carácter sexual generado por IA sin el consentimiento de las personas afectadas. La difusión de videos de medios sintéticos de contenido sexual genera daños psicológicos y de reputación que afectan de manera desproporcionada a mujeres y niñas, además de tener un efecto disuasorio en su participación dentro de la vida social y política.
Sobre el caso
En septiembre de 2025, un usuario de Instagram publicó un video de ocho segundos, presuntamente generado por IA, en el que aparecía una mujer acomodándose un vestido ajustado y moviendo su cuerpo, con la ropa interior visible en algunos fotogramas.
Al día siguiente, el sistema automatizado de Meta, diseñado para detectar contenido que pueda causar daños a las personas y que tenga una alta probabilidad de volverse viral, identificó la publicación. Sin embargo, no se le dio prioridad para una revisión manual. Unos días más tarde, dos usuarios reportaron el contenido, pero este permaneció en la plataforma. Uno de los usuarios apeló la decisión ante Meta, pero la publicación no fue revisada, por lo que posteriormente apeló ante el Consejo. El usuario que apeló informó al Consejo que el video se había generado con IA y que suplantaba la identidad de una amiga suya (quien ya había cerrado su cuenta) sin su consentimiento.
Cuando el Consejo señaló el caso a Meta, los expertos en la materia de la empresa revisaron la publicación y concluyeron que no correspondía eliminarla según las normas comunitarias de la empresa, por lo que solo limitaron su visibilidad para que fuera visible únicamente para adultos.
Conclusiones clave
El Consejo determinó que la publicación infringe la prohibición de compartir imágenes íntimas sin consentimiento (non-consensual intimate imagery, NCII) estipulada en la Política sobre explotación sexual de adultos de Meta. Esto se debe a que la publicación cumple con los tres criterios de la política para definir las imágenes íntimas sin consentimiento: parece ser contenido no comercial en un entorno aparentemente privado, la mujer retratada está "semidesnuda" y hay falta de consentimiento.
Meta señaló que, cuando se reportó el contenido, la empresa no tenía indicios de que la persona retratada en el video fuera "una persona real" debido a que ella no fue quien reportó el contenido. Entre las señales que Meta utiliza para determinar la falta de consentimiento se encuentra el reporte de la propia persona retratada, además de descripciones, comentarios o títulos que sugieran un contexto de venganza; o bien, reportes de fuentes independientes como fuerzas del orden, medios de comunicación o representantes de sobrevivientes de imágenes íntimas compartidas sin consentimiento.
El Consejo determinó que la suplantación de identidad generada por IA no es consensuada por defecto, por lo que debería añadirse al conjunto de señales que la empresa utiliza para establecer la falta de consentimiento.
Ampliar las señales de falta de consentimiento de esta manera beneficiaría especialmente a las personas que no son figuras públicas y que son blanco de imágenes íntimas sin consentimiento, ya que reduciría la carga de las víctimas de tener que reportar el abuso por sí mismas. Los expertos consultados por el Consejo durante el caso afirmaron que el mayor beneficio para las víctimas proviene de una eliminación rápida y de mejores formas de reportar el contenido que no dependan de la denuncia de la propia víctima.
Para reducir aún más esta carga, el Consejo considera que Meta debería permitir que cuentas verificadas de amigos y familiares de las personas afectadas puedan reportar el contenido infractor en su nombre.
Meta también debería mejorar el proceso para reportar y apelar de forma global las imágenes íntimas sin consentimiento en sus plataformas. Asimismo, Meta y otros desarrolladores de modelos grandes de lenguaje deberían integrar salvaguardas en el diseño de sus sistemas e implementar credenciales de contenido a gran escala.
La decisión del Consejo asesor de contenido
El Consejo anula la decisión de Meta de mantener el contenido y exige que se elimine la publicación.
El Consejo recomienda que Meta haga lo siguiente:
- Añadir una señal nueva de falta de consentimiento en la Política sobre explotación sexual de adultos: el contexto de que el contenido es una suplantación de identidad sexualizada de personas reales generada por IA.
- Permitir a los usuarios designar "cuentas vinculadas", como amigos de confianza, familiares o socios, para que puedan reportar en su nombre posibles infracciones de las normas comunitarias relacionadas con imágenes íntimas sin consentimiento, incluidas las suplantaciones de identidad.
- Incluir la suplantación de identidad sexualizada generada por IA como una categoría independiente en los formularios estándar de reporte y apelación de contenido, diferenciada de "acoso" o "desnudos". Estos formularios de reporte deben estar disponibles a nivel global.
El Consejo también reitera las siguientes recomendaciones de decisiones anteriores:
- Cambiar la palabra "despectivo" por "sin consentimiento" en la prohibición de "fotomontajes sexualizados despectivos" y sustituir la palabra "fotomontaje" por un término más general para referirse a contenido multimedia manipulado.
- Implementar credenciales de contenido (tal como lo establece la Coalición para la Procedencia y Autenticidad del Contenido [Coalition for Content Provenance and Authenticity, C2PA]) a gran escala y garantizar que sean visibles y accesibles para los usuarios de forma clara y coherente siempre que los detalles de procedencia estén disponibles.
Para obtener más información
Para leer los comentarios públicos sobre este caso, haga clic aquí.
