Renforcer les politiques de lutte contre l'intimidation et le harcèlement face aux images générées par IA visant des personnes qui ne sont pas des figures publiques
17 septembre 2026
Le Conseil de surveillance exige que Meta retire de Facebook une vidéo générée par IA qui harcèle une jeune femme musulmane en manipulant son image. Cette vidéo s'inscrivait dans une série virale de publications similaires sur les réseaux sociaux. Le Conseil estime que les politiques de Meta en matière d'intimidation et de harcèlement sont insuffisantes face aux images manipulées par IA visant des personnes qui ne sont habituellement pas exposées publiquement.
Pourquoi est-ce important ?
Cette décision intervient alors que l'IA générative fait émerger de nouveaux risques pour les femmes et les filles, les abus gagnant en ampleur, en rapidité et en gravité. Selon un rapport de 2025 d'ONU Femmes, l'entité principale des Nations unies (ONU) pour l'égalité des genres, de nombreuses attaques sont « souvent délibérées et coordonnées, et visent à réduire les femmes au silence dans la vie publique ». Les vidéos générées par IA transforment la nature du harcèlement en ligne et ont des répercussions importantes sur les droits des utilisateurs de Meta, y compris les droits de participation publique des femmes musulmanes, et des femmes et des filles en général. Ces attaques falsifient souvent non seulement l'apparence d'une personne, mais aussi ses actes et ses propos, d'une manière qui lui porte préjudice.
À propos du cas
En 2025, une jeune femme musulmane vivant en Europe a été interviewée à la télévision en tant que bénévole d'une campagne visant à améliorer l'éducation à la santé menstruelle et à réduire la stigmatisation des problèmes de santé touchant les femmes et les filles issues de minorités ethniques. Dans les mois qui ont suivi, des comptes sur plusieurs plateformes de réseaux sociaux ont manipulé numériquement les images de l'interview pour la tourner en ridicule, en créant un décalage apparent entre son rôle de promotrice de la santé et son apparence, dans une tentative manifeste de suggérer qu'elle n'était pas légitime pour porter ce message. Ces vidéos utilisent son image pour manipuler ses actes et ses propos. Les vidéos et images générées par IA ont cumulé des dizaines de millions de vues sur l'ensemble des plateformes, y compris celles de Meta.
Le Conseil a sélectionné une publication Facebook, transmise via un appel d'utilisateur, comme un simple exemple parmi les abus subis par cette femme. La publication comprend une vidéo générée par IA dans laquelle la femme se présente comme la nouvelle ambassadrice de la santé de son pays. Cette affirmation mensongère est reprise dans la légende, accompagnée d'un émoji de rire. Elle nous explique comment rester en forme, avant d'enchaîner des exercices risibles ou grotesques, tout en donnant des conseils sur l'alimentation saine la bouche pleine de malbouffe. Sous la vidéo, de nombreux commentaires d'utilisateurs tournent la femme en ridicule, principalement à cause de son poids et son hijab.
Pour l'utilisateur ayant saisi le Conseil, tant son signalement initial auprès de Meta que l'appel ultérieur adressé à l'entreprise ont été clôturés automatiquement, sans être priorisés pour examen. Meta a depuis confirmé au Conseil que sa décision de ne pas intervenir sur la publication, en la laissant en ligne sans y apposer d'étiquette IA, était conforme à ses politiques. Ce n'est que lorsque le Conseil a posé des questions sur quatre commentaires dénigrants publiés sous le post que Meta a agi pour les supprimer, confirmant qu'ils enfreignaient l'interdiction des comparaisons déshumanisantes prévue par sa politique sur l'intimidation et le harcèlement.
Principaux constats
Une majorité du Conseil estime que la vidéo doit être retirée, car elle enfreint la politique de Meta sur l'intimidation et le harcèlement. Plus précisément, elle contient une affirmation d'infériorité concernant l'apparence physique d'une personne privée, elle a utilisé l'IA pour falsifier ses propos et ses actes sans son consentement, et elle s'inscrivait dans une campagne vécue par la cible comme un harcèlement de masse.
Pour la majorité, la définition que Meta donne des « images manipulées non désirées », l'une des interdictions prévues par sa politique sur l'intimidation et le harcèlement, est trop restreinte et devrait inclure la falsification des actes et des propos d'une personne, en plus de la modification de son apparence.
Selon la majorité, la définition que Meta donne des campagnes de harcèlement de masse est elle aussi trop restreinte, et l'entreprise devrait adopter de nouvelles mesures pour réduire la charge qui pèse sur les victimes lorsqu'elles les signalent. Ces mesures comprennent l'ajout des contenus manipulés non désirés en infraction à la Media Matching Bank de l'entreprise, afin que les contenus identiques ou quasi identiques soient retirés, ainsi que l'utilisation des signaux indiquant un contenu généré ou manipulé par IA comme indicateur de gravité pour prioriser l'examen des signalements.
Une minorité du Conseil a estimé que le contenu ne correspondait pas à la définition de l'intimidation et du harcèlement retenue par Meta, et que le maintien en ligne du contenu était conforme aux responsabilités de l'entreprise en matière de droits humains.
Décision du Conseil de surveillance
Le Conseil renverse la décision de Meta de laisser ce contenu en ligne et exige que la publication soit supprimée.
Le Conseil souligne l'importance de ses précédentes recommandations appelant à permettre à des comptes tiers de signaler les contenus relevant de l'intimidation et du harcèlement.
Le Conseil recommande également à Meta :
- D'élargir la définition publique des « images manipulées non désirées » afin d'y inclure les deepfakes montrant une personne privée disant ou faisant des choses qu'elle n'a pas dites ou faites.
- D'ajouter les cas d'« images manipulées non désirées » en infraction aux Media Matching Banks en vue de leur retrait.
- D'utiliser les signaux indiquant un contenu généré ou manipulé par IA comme indicateur de gravité afin de prioriser l'examen des signalements.
Plus d’informations
Pour lire les commentaires publics sur ce cas, cliquez ici.
