Les personnes qui ne sont pas des personnalités publiques ont besoin d’une meilleure protection contre les deepfakes à caractère sexuel
23 juin 2026
Le Conseil de surveillance a renversé la décision de Meta de laisser en ligne sur Instagram une vidéo qui aurait été générée par une IA et qui usurpait l’identité d’une femme, et appelle Meta à renforcer les mesures de protection des personnes qui ne sont pas des personnalités publiques et qui sont la cible de deepfakes à caractère sexuel.
Pourquoi est-ce important ?
La décision et les recommandations du Conseil interviennent à un moment où certains gouvernements, notamment en Inde, au Royaume-Uni et en Espagne, mettent en place de nouvelles règles applicables aux plateformes concernant les contenus générés par l’IA. L’Union européenne (UE) a conclu un accord visant à interdire les systèmes d’IA qui génèrent des contenus sexuellement explicites et intimes sans consentement ou du matériel pédopornographique, comme les applications de déshabillage basées sur l’IA. D’autres plateformes, comme X, font l’objet d’examens rigoureux en raison d’images sexuellement explicites créées par des chatbots IA.
Il est évident que l’ampleur, la rapidité et la sophistication des outils d’IA ont entraîné une prolifération, à l’échelle mondiale, de contenus à caractère sexuel générés par l’IA et diffusés sans le consentement des personnes concernées. La diffusion de vidéos deepfake à caractère sexuel entraîne des préjudices en termes de réputation et sur le plan psychologique, qui touchent de manière disproportionnée les femmes et les jeunes filles, et a un effet dissuasif sur leur participation à la vie sociale et politique.
À propos du cas
En septembre 2025, un utilisateur d’Instagram a publié une vidéo de huit secondes, qui aurait été générée par une IA, montrant une femme ajustant sa robe moulante et faisant onduler son corps, ses sous-vêtements étant visibles sur quelques images.
Le lendemain, le système automatisé de Meta chargé de détecter les contenus susceptibles de porter préjudice à des personnes et ceux à fort risque de viralité, a identifié cette publication, mais celle-ci n’a pas été jugée prioritaire pour un examen manuel. Quelques jours plus tard, deux utilisateurs ont signalé ce contenu, mais celui-ci est resté en ligne sur la plateforme. L’un des utilisateurs a fait appel auprès de Meta, mais la publication n’a pas été rééxaminée ; l’utilisateur a alors fait appel auprès du Conseil. L’utilisateur qui a fait appel expliqué au Conseil que la vidéo avait été générée par une IA et qu’elle usurpait l’identité d’une de ses amies (qui avait déjà fermé son compte) sans le consentement de cette dernière.
Lorsque le Conseil a porté ce cas à l’attention de Meta, les experts de l’entreprise en la matière ont examiné la publication et ont conclu qu’elle ne justifiait pas sa suppression en vertu des Standards de la communauté de l’entreprise, mais ils ont décidé de la rendre visible uniquement par des adultes.
Principaux constats
Le Conseil estime que cette publication enfreint l’interdiction de partager des images intimes non consenties (NCII, non-consensual intimate imagery) prévue par la politique de Meta relative à l’exploitation sexuelle des adultes. En effet, cette publication répond aux trois critères définis par la politique relative aux images intimes non consenties : il s’agit apparemment d’un contenu non commercial dans un cadre visiblement privé ; la femme représentée est « presque nue » ; et il y a absence de consentement.
Meta a déclaré que, lorsque le contenu avait été signalé, l’entreprise n’avait aucune indication permettant de conclure que la personne apparaissant dans la vidéo était « une personne réelle », car celle-ci n’avait pas signalé le contenu. Parmi les signaux sur lesquels Meta s’appuie pour déterminer l’absence de consentement figurent les signalements émanant de la personne représentée, ainsi que les légendes, commentaires ou titres suggérant un contexte de vengeance ; ou encore les signalements provenant de sources indépendantes telles que les forces de l’ordre, les médias ou les représentants des victimes d’images intimes non consenties.
Le Conseil estime que l’usurpation d’identité générée par l’IA est, par défaut, non consentie et qu’elle devrait être ajoutée à l’ensemble des signaux utilisés par l’entreprise pour établir l’absence de consentement.
Élargir ainsi les critères permettant de déterminer l’absence de consentement serait particulièrement bénéfique pour les personnes qui ne sont pas des personnalités publiques et qui sont victimes de la diffusion d’images intimes sans leur consentement, car cela allégerait la charge qui pèse sur les victimes lorsqu’elles doivent signaler elles-mêmes ces abus. Les experts consultés par le Conseil dans le cadre de ce cas ont indiqué que l’on rend service aux victimes en supprimant rapidement ces contenus, avec des moyens plus efficaces pour signaler ces contenus, qui ne reposent pas sur l’autosignalement.
Afin d’alléger encore davantage cette charge, le Conseil estime que Meta devrait permettre aux comptes vérifiés des amis et des proches des personnes visées de signaler, en leur nom, les contenus enfreignant les règles.
Meta devrait également améliorer, à l’échelle mondiale, les procédures de signalement et d’appel concernant les images intimes non consenties sur ses plateformes. Meta et les autres développeurs de grands modèles de langage devraient intégrer des mécanismes de protection dès la conception de leurs systèmes et mettre en œuvre à grande échelle un système de certification des contenus.
Décision du Conseil de surveillance
Le Conseil renverse la décision de Meta de laisser ce contenu en ligne et exige que la publication soit supprimée.
Le Conseil recommande à Meta de :
- Ajouter un nouveau signal d’absence de consentement dans la politique relative à l’exploitation sexuelle des adultes : Préciser le contexte d’une usurpation d’identité à caractère sexuel générée par l’IA de personnes réelles.
- Permettre aux utilisateurs de désigner des « comptes associés », par exemple, des amis de confiance, des membres de leur famille ou des proches, qui pourront signaler en leur nom d’éventuelles infractions des Standards de la communauté liées à des images intimes non consenties, y compris les usurpations d’identité.
- Intégrer l’usurpation d’identité à caractère sexuel générée par l’IA comme une catégorie distincte dans les formulaires standard de signalement de contenu et des appels, distincte des catégories « harcèlement » ou « nudité ». Ces formulaires de signalement devraient être mis à disposition à l’échelle mondiale.
Le Conseil réitère également les recommandations suivantes, issues de décisions antérieures :
- Remplacer les termes « de nature insultante » dans l’interdiction relative au « photoshopage sexualisé de nature insultante » par « non consenti » et remplacer le terme « photoshopage » par un terme plus généralisé couvrant les supports manipulés.
- Implémenter les crédits de contenu (tels que définis par la Coalition for Content Provenance and Authenticity (C2PA)) à grande échelle et veiller à ce qu’ils soient clairement et systématiquement visibles et accessibles aux utilisateurs dès que les détails relatifs à la provenance sont disponibles.
Plus d’informations
Pour lire les commentaires publics sur ce cas, cliquez ici.
