El Consejo abordará la suplantación de identidad sexualizada no consentida mediante IA
12 de febrero de 2026
El día de hoy, el Consejo anuncia un nuevo caso para considerar. Como parte de esto, invitamos a personas y organizaciones a enviar comentarios públicos utilizando el botón de abajo.
Selección de casos
Como no podemos atender todas las apelaciones, el Consejo prioriza los casos que tienen el potencial de afectar a una gran cantidad de usuarios alrededor del mundo, los casos que son de suma importancia para el discurso público o los que plantean preguntas importantes respecto a las políticas de Meta.
El caso que anunciamos el día de hoy es el siguiente:
Video sexualizado generado por IA denunciado
2026-021-IG-RA
Apelación del denunciante
Envíe un comentario público utilizando el botón de abajo
El Consejo anuncia un caso relacionado con una publicación denunciada por ser un video sexualizado no consentido, generado por IA, en el que se suplanta la identidad de una mujer. En su apelación ante el Consejo, el usuario afirmó que el video fue generado por IA y que suplantaba la identidad de una de sus amigas, sin su consentimiento, lo que "dañaba su reputación". El Consejo evaluará las prácticas de moderación de Meta en relación con las reglas sobre desnudos y actividad sexual de adultos en el contexto de imágenes y videos generados por IA, especialmente cuando se trata de suplantaciones de identidad no consentidas, y solicita comentarios públicos sobre los problemas involucrados.
En septiembre de 2025, un usuario de Instagram publicó un video corto de una mujer con un vestido ajustado. En el video, la mujer se ajusta el vestido y mueve el cuerpo, y en algunos fotogramas se puede ver su ropa interior.
Al día siguiente, el sistema automatizado de Meta, que detecta y prioriza el contenido que puede causar daño a las personas, especialmente aquel con alta probabilidad de volverse viral, identificó la publicación. Sin embargo, la denuncia no recibió prioridad para revisión manual.
Unos días después, dos usuarios denunciaron el contenido por pornografía, pero sus denuncias tampoco se priorizaron para revisión manual y el contenido permaneció en Instagram. Uno de los usuarios que había denunciado el contenido apeló ante Meta para que se eliminara, pero, una vez más, la publicación no fue priorizada para revisión manual. Posteriormente, el usuario apeló ante el Consejo.
Cuando el Consejo remitió el caso a Meta, los expertos en la materia de la empresa revisaron la publicación y concluyeron que no infringía la norma comunitaria sobre Desnudos y actividad sexual de adultos, ya que no contenía "representaciones visuales de un encuentro sexual" ni "lenguaje que facilite o fomente encuentros sexuales". Por lo tanto, la empresa no eliminó el contenido, sino que determinó que solo debería ser visible para adultos. Meta destacó que, en virtud de esta política, la empresa restringe la visibilidad de "imágenes fotorealistas o digitales de personas donde la entrepierna, las nalgas o los senos femeninos son el foco de la imagen" a usuarios de 18 años en adelante. Además, afirmó que la persona que aparece en el video, a quien Meta no considera una figura pública, atrae la atención hacia su zona de la entrepierna y su ropa interior al mover las piernas y ajustarse la prenda. La empresa añadió que mantener el contenido en la plataforma con restricciones de edad refleja su compromiso fundamental con la libertad de expresión, al tiempo que evita que el público más joven acceda a material que podría ser inapropiado para su edad.
El Consejo seleccionó este caso para evaluar las prácticas de moderación de Meta al aplicar sus normas sobre Desnudos y actividad sexual de adultos y normas comunitarias relacionadas, particularmente en contextos donde la imagen o apariencia de una persona se utiliza de manera sexualmente explícita o sugerente sin su consentimiento. Este caso corresponde a la categoría de prioridades estratégicas del Consejo en materia de Aplicación automatizada de políticas y selección de contenido y Género.
El Consejo agradecería comentarios públicos que aborden lo siguiente:
- Información contextual sobre el uso y la prevalencia de imágenes sexualmente explícitas o sugerentes generadas por IA que se crean sin el consentimiento de la persona representada.
- Perspectivas sobre la protección de la imagen o apariencia en el contexto de contenido sexualmente explícito o sugerente generado por IA, preservando, por ejemplo, la expresión artística.
- Mejores prácticas y recomendaciones para la aplicación de políticas sobre imágenes íntimas, explícitas o sugerentes no consentidas generadas por IA, incluidos los enfoques para determinar el consentimiento de figuras no públicas sobre el uso de su imagen.
- Perspectivas sobre la eficacia de los enfoques de restricción de edad aplicados a imágenes íntimas, explícitas o sugerentes no consentidas generadas por IA.
- Enfoques para el diseño de mecanismos efectivos de denuncia de contenido generado por IA en el que la imagen o apariencia de una persona se utilice de manera sexualmente explícita o sugerente sin su consentimiento.
En sus decisiones, el Consejo puede emitir recomendaciones de políticas a Meta. Aunque las recomendaciones no son vinculantes, Meta debe responder a ellas en un plazo de 60 días. Por ello, el Consejo agradece los comentarios públicos que propongan recomendaciones pertinentes para este caso.
Comentarios públicos
Si usted o su organización consideran que pueden aportar perspectivas valiosas que ayuden a tomar una decisión sobre los casos anunciados hoy, pueden enviar sus contribuciones utilizando el siguiente botón. Tenga en cuenta que los comentarios públicos pueden realizarse de manera anónima. El plazo para enviar comentarios públicos es de 14 días y finalizará el jueves 26 de febrero a las 23:59, hora estándar del Pacífico (PST).
Próximos pasos
En las próximas semanas, los Miembros del Consejo deliberarán sobre este caso. Una vez que hayan tomado una decisión, la publicaremos en la página de Decisiones.
