Vidéo à caractère sexuel apparemment générée par l’IA

Résumé

Le Conseil de surveillance a annulé la décision de Meta de conserver sur Instagram une vidéo qui aurait été générée par l’IA et qui usurpait l’identité d’une femme. Il appelle Meta à renforcer ses mesures de protection des particuliers qui sont la cible de « deepfakes » à caractère sexuel.

Pourquoi c’est important

La décision et les recommandations du Conseil sont émises alors que des pays tels que l’Inde, le Royaume-Uni et l’Espagne sont en train d’établir de nouvelles règles relatives au contenu généré par l’IA sur les plateformes. L’Union européenne (UE) a conclu un accord pour interdire les systèmes IA qui génèrent du contenu intime sexuellement explicite et non consensuel ou du contenu pédopornographique, tels que les applications de « déshabillage » par l’IA. D’autres plateformes, comme X, font l’objet d’examens en raison d’images sexuellement explicites créées par des bots de discussion alimentés par l’IA.

Il ne fait aucun doute que la portée, la rapidité et la sophistication des outils à base de l’IA ont entraîné la prolifération de contenu à caractère sexuel et non consensuel généré par l’IA dans le monde entier. La diffusion des « deepfakes » vidéo à caractère sexuel porte atteinte à la réputation et au bien-être psychologique des victimes, affecte de manière disproportionnée les femmes et les filles, et nuit gravement à leur participation à la vie sociale et politique.

À propos du cas

En septembre 2025, un utilisateur d’Instagram a publié une vidéo de huit secondes apparemment générée par l’IA qui mettait en scène une femme en train d’ajuster une robe moulante et de faire bouger son corps, ses sous-vêtements étant visibles sur quelques images.

Le jour suivant, la publication a été détectée par un système automatisé de Meta chargé d’identifier le contenu qui est susceptible de causer des préjudices aux particuliers et dont la viralité est très probable. La priorité pour un examen manuel ne lui a cependant pas été accordée. Quelques jours plus tard, deux utilisateurs ont signalé le contenu, qui est toutefois resté sur la plateforme. L’un des utilisateurs a fait appel auprès de Meta, mais la publication n’a pas été examinée. Il a donc fait appel auprès du Conseil. Cette personne a expliqué au Conseil que la vidéo avait été générée par l’IA et qu’elle usurpait l’identité de l’une de ses amies (qui avait déjà fermé son compte) sans le consentement de cette dernière.

Lorsque le Conseil a porté le cas à l’attention de Meta, les spécialistes de l’entreprise ont examiné la publication et conclu qu’elle ne méritait pas d’être supprimée au titre des Standards de la communauté, mais ils ont empêché sa diffusion auprès des mineurs.

Principales conclusions

Le Conseil estime que la publication enfreint la règle selon laquelle il est interdit de partager des images intimes non consensuelles, stipulée par la Politique de Meta sur l’exploitation sexuelle des adultes. En effet, la publication remplit les trois critères établis dans la politique pour définir des images intimes non consensuelles : il semble s’agir d’un contenu non commercial qui s’inscrit dans des circonstances privées ; la femme représentée apparaît « presque nue » ; et son consentement n’a pas été obtenu.

Meta a indiqué que, lors du signalement de la vidéo, rien n’indiquait que l’individu représenté était une « personne réelle » parce que celle-ci n’a pas signalé le contenu. Parmi les signaux utilisés par l’entreprise pour juger d’une absence de consentement, il y a (outre les sous-titres, légendes, commentaires ou titres qui laissent penser que le contenu s’inscrit dans un contexte de vengeance) un signalement par la personne représentée, ainsi que les signalements émis par des sources indépendantes, telles que les forces de l’ordre, les médias ou des représentants de victimes de la diffusion d’images intimes non consensuelles.

Le Conseil juge que l’usurpation d’identité à l’aide de l’IA est, par défaut, non consensuelle et qu’elle devrait être ajoutée à l’ensemble des signaux utilisés par l’entreprise pour établir l’absence de consentement.

Les particuliers qui sont victimes de la diffusion d’images intimes non consensuelles bénéficieraient d’une telle mesure parce qu’elle réduirait le fardeau que constitue pour eux la nécessité de signaler l’abus eux-mêmes. Les experts consultés par le Conseil lors de l’examen de ce cas ont expliqué que le meilleur moyen d’aider les victimes était de supprimer rapidement le contenu et de fournir des outils de signalement plus adaptés qui ne s’appuient pas sur le fait de devoir signaler le contenu soi-même.

Pour réduire encore davantage ce fardeau, le Conseil estime que Meta devrait autoriser les comptes vérifiés des proches des personnes ciblées à signaler en leur nom le contenu en infraction.

Meta devrait également améliorer les procédures de signalement et d’appel en cas d’images intimes non consensuelles sur ses plateformes, et ce dans le monde entier. Meta et les autres développeurs de grands modèles de langage devraient prévoir des protections au sein même de leurs systèmes et implémenter des identifiants de contenu à grande échelle.

Décision du Conseil de surveillance

Le Conseil annule la décision de Meta de conserver le contenu et exige sa suppression.

Le Conseil recommande à Meta ce qui suit :

• Elle devrait ajouter un nouveau signal sur l’absence de consentement dans sa politique sur l’exploitation sexuelle des adultes : un contexte qui indique que le contenu à caractère sexuel a été généré par l’IA et usurpe l’identité de personnes réelles.
• Elle devrait permettre aux utilisateurs de désigner des « comptes associés », tels que ceux d’amis fidèles, de membres de leur famille ou autres, qui peuvent signaler en leur nom les potentielles infractions aux Standards de la communauté lorsque le contenu implique des images intimes non consensuelles, y compris lorsqu’il usurpe leur identité.
• Elle devrait inclure les usurpations d’identité à caractère sexuel générées par l’IA en tant que catégorie distincte de la « nudité » ou du « harcèlement » dans les formulaires de signalement de contenu et d’appel. Les formulaires de signalement devraient être mis à disposition dans le monde entier.

Le Conseil réitère également les recommandations suivantes issues de décisions précédentes :

• Meta devrait remplacer le mot « dégradants » dans l’interdiction des dessins et images « retouchées sexualisés et dégradants » par « non consensuels » et remplacer le mot « retouchées » par un terme plus général pour désigner le contenu multimédia manipulé.
• Elle devrait implémenter à grande échelle des identifiants de contenu (tels que définis par la Coalition for Content Provenance and Authenticity [C2PA]) et veiller à ce qu’ils soient clairement et systématiquement visibles et accessibles aux utilisateurs chaque fois que les détails relatifs à la provenance sont disponibles.

* Les résumés de cas donnent un aperçu des cas et n’ont pas valeur de précédent.

Décision complète sur le cas

1. Description du cas et contexte

La portée, la rapidité et la sophistication des outils IA ont entraîné la prolifération de contenu à caractère sexuel et non consensuel généré par l’IA. En 2023, un rapport de la plateforme pour la sécurité en ligne Security Hero a trouvé que 98 % des « deepfakes » vidéo en ligne étaient à caractère pornographique et que 99 % d’entre eux ciblaient des femmes. Une étude réalisée en 2024 par l’organisation non gouvernementale (ONG) Internet Matters a conclu que 99 % des « deepfakes » avec des corps nus représentaient des femmes et des filles.

Lors d’une déclaration conjointe en février 2026, 61 autorités de défense de la vie privée et de protection des données du monde entier ont mis en garde contre le fait que les « développements récents, en particulier les vidéos et images générées par l’IA et intégrées aux plateformes de réseaux sociaux facilement accessibles, avaient permis la création d’images intimes non consensuelles, de représentations dénigrantes et d’autres contenus nuisibles incluant des personnes réelles ». Selon le groupe médiatique britannique The Guardian, puisque les modèles d’IA génèrent des images en s’appuyant sur des éléments d’images existantes et en les répliquant, « il est probable que les applications de déshabillage soient principalement entraînées à l’aide de vastes ensembles d’images de femmes, parce que ces applications ont surtout tendance à être le plus efficace sur les corps féminins ».

Une enquête menée en 2025 auprès de plus de 16 000 adultes dans 10 pays a révélé que les femmes déclaraient souffrir de préjudices et de répercussions plus graves que les hommes à la suite d’abus sexuels liés à des images. Des recherchesmontrent que les abus sexuels basés sur des images non consensuelles portaient atteinte à la réputation et au bien-être psychologique (p. ex., désarroi, anxiété et traumatisme), causaient du harcèlement et de l’humiliation, affectaient l’identité, l’autonomie et l’intégrité, et nuisaient gravement à la participation à la vie sociale et politique.

Les commentaires publics envoyés au Conseil soulignent à quel point il est important de prendre en compte les différences contextuelles culturelles et locales dans la définition et la modération du contenu sexualisé non consensuel et généré par l’IA, y compris en cas d’usurpation d’identité (cf. PC-32490 et PC-32481). Ils fournissent des exemples d’images intimes non consensuelles générées par l’IA qui impliquent aussi bien des personnalités publiques féminines que des particulières. L’ONG Digital Rights Foundation Pakistan a fait remarquer que son assistance téléphonique relative à la sécurité numérique avait été contactée à plusieurs reprises pour des affaires d’abus basés sur des images non consensuelles générées par l’IA, y compris des cas où des Pakistanaises vivant en Italie et au Royaume-Uni avaient été la cible d’abus pour ensuite être victimes de crimes d’honneur « soit sur place, soit après leur retour forcé au Pakistan » (PC-32481).

Un nombre significatif de juridictions ont commencé à légiférer contre les « deepfakes » non consensuels ou les images sexualisées générées par l’IA, et à les criminaliser. L’Espagne a proposé des lois dont l’objectif est de lutter contre les « deepfakes » réalisés grâce à l’IA et de renforcer les règles liées au consentement à l’utilisation des images, de la voix et de l’apparence. Le Mexique a adopté la « Loi Olimpia », axée sur des amendements de la législation pour réagir à la violence numérique, qui inclut les images intimes non consensuelles. Le Pérou et la Colombie ont voté des lois pour que l’utilisation des « deepfakes » soit considérée comme un facteur aggravant lors d’un crime. Au Canada, la Loi sur la protection des images intimes (Intimate Images Protection Act) de la Colombie-Britannique se concentre sur la diffusion non consensuelle d’images intimes.

Aux États-Unis, depuis l’adoption en 2025 de la Loi À SUPPRIMER (TAKE IT DOWN Act), publier ou menacer de publier des images intimes non consensuelles, y compris des « deepfakes » générés par l’IA, constitue un crime. Cette loi exige également des plateformes qu’elles suppriment un tel contenu sous 48 heures à compter de la notification. Le gouvernement indien requiert des plateformes qu’elles suppriment le contenu sexualisé non consensuel sous 24 heures après qu’une plainte a été déposée. Le Royaume-Uni impartit un délai de suppression de 48 heures pour les images intimes non consensuelles.

L’Union européenne (UE) a conclu un accord pour interdire les systèmes IA qui génèrent du contenu intime sexuellement explicite et non consensuel ou du contenu pédopornographique, tels que les applications de « déshabillage » par l’IA.

Ce cas-ci soulève des considérations emblématiques relatives aux politiques et à leur application dans le contexte des images sexualisées générées par l’IA, y compris en cas d’usurpation d’identité à caractère sexuel. En 2024, le Conseil a discuté de deux cas liés à deux images IA explicites qui ressemblaient à des personnalités publiques féminines d’Inde et des États-Unis (Images explicites générées par l’IA de personnalités publiques féminines). Le cas présent s’appuie sur cette décision pour considérer des problèmes liés à l’usurpation d’identité sexualisée et générée par l’IA, notamment lorsqu’elle implique des particuliers.

En septembre 2025, un utilisateur d’Instagram a publié une vidéo de huit secondes qui aurait été générée par l’IA et qui représentait une femme en robe moulante. Dans la vidéo, la femme ajuste sa robe et fait bouger son corps, ses sous-vêtements étant visibles sur quelques images.

Le jour suivant, la publication a été détectée par un système automatisé de Meta chargé d’identifier le contenu susceptible de causer des préjudices aux particuliers, en particulier si sa viralité est très probable, pour lui accorder la priorité. Ce signalement n’a toutefois pas été examiné manuellement.

Quelques jours plus tard, deux utilisateurs ont signalé le contenu pour pornographie, mais leurs signalements n’ont pas non plus été traités manuellement, et le contenu est resté sur Instagram. L’un des utilisateurs a fait appel auprès de Meta pour que l’entreprise supprime le contenu, mais la priorité n’a de nouveau pas été accordée à la publication. Cette personne a alors fait appel auprès du Conseil.

Lorsque le Conseil a porté le cas à l’attention de Meta, les spécialistes de l’entreprise ont examiné la publication et ont conclu qu’elle n’enfreignait pas ses Standards de la communauté. Meta n’a donc pas supprimé le contenu, mais a jugé qu’il ne devait être diffusé qu’auprès des adultes au titre de sa politique sur la nudité et les activités sexuelles chez les adultes.

2. Soumissions des utilisateurs

Lors de son appel auprès du Conseil, la personne à l’origine du signalement a expliqué que la vidéo avait été générée par l’IA et usurpait l’identité d’une femme, l’une de ses amies, sans le consentement de celle-ci, ce qui « nuisait à sa réputation ». Cette personne a ajouté que l’amie en question avait déjà fermé son compte, mais que l’auteur de la publication initiale continuait de créer du contenu sexualisé en utilisant l’image de son amie.

3. Politiques de Meta relatives au contenu et soumissions

Évaluation du contenu

Meta a jugé que la publication n’enfreignait aucun Standard de la communauté. Elle n’a pas trouvé que le contenu violait la politique sur la nudité et les activités sexuelles chez les adultes, qui interdit les images photoréalistes/numériques de nudité d’adultes et les vidéos photoréalistes/numériques qui se concentrent sur l’entrejambe, des seins féminins ou des fesses, enregistrées sans que la ou les personnes représentées en soient conscientes. Toutefois, en vertu de cette politique, l’entreprise réserve les « images photoréalistes/numériques de personnes lorsque l’entrejambe, les fesses ou un ou des seins féminins sont l’objet de l’image » aux utilisateurs de plus de 18 ans. Étant donné que la femme représentée attire l’attention sur son entrejambe et ses sous-vêtements en faisant bouger ses jambes et en ajustant sa robe, Meta a déterminé que le contenu était soumis à cette règle de la politique et qu’il ne devait être diffusé qu’après des adultes.

Meta n’a pas non plus considéré la possibilité que la publication puisse enfreindre le standard de la communauté sur l’exploitation sexuelle des adultes, qui interdit « [l]e partage, la menace ou la déclaration d’intention de partager, offrir ou solliciter des images intimes non consensuelles qui remplissent les trois conditions suivantes :

a. L’image est non commerciale et prise dans un cadre privé.

b. La personne sur l’image est (presque) nue, engagée dans une activité sexuelle ou prend une pose sexuellement suggestive (cela inclut les images créées numériquement ou générées par l’IA).

c. L’absence de consentement au partage de l’image est indiquée par la présence de l’un de ces signaux :

i. Un contexte de vengeance (comme une légende, un sous-titre, des commentaires ou un titre de Page).

ii. Des sources indépendantes telles qu’un document de police, des informations des médias (par exemple, une fuite d’images confirmée par les médias) ou les représentants d’une [victime d’images intimes non consensuelles].

iii. Le signalement réalisé par une personne figurant sur l’image ou portant le même nom que la personne figurant sur l’image. »

Selon Meta, lors de la remontée en vue d’un examen, aucune indication ni aucun signalement d’utilisateur ne laissaient penser que l’individu représenté était « une personne réelle ». L’entreprise a noté que, si celle-ci avait signalé le contenu, il aurait enfreint la politique sur l’exploitation sexuelle des adultes. En effet, l’individu représenté porte de la lingerie ou des vêtements de nuit, ce qui constitue une quasi-nudité, soit une violation de la règle sur l’interdiction de partager des images intimes non consensuelles. Aux yeux de Meta, le signalement aurait été un signal clair de l’absence de consentement.

L’entreprise n’a pas non plus cherché à savoir si la publication violait la politique sur le harcèlement et l’intimidation qui, au niveau 1 [mesures de protection pour tout le monde], interdit « les dessins et les images retouchées sexualisés et dégradants ». Cela inclut le contenu qui a été modifié pour combiner la tête ou le visage d’une personne réelle à un corps, réel ou fictionnel, qui est explicitement sexuel (nu, presque nu ou engagé dans une activité sexuelle) ou qui pose d’une manière sexuellement suggestive. Meta a indiqué que l’individu dans la vidéo n’était pas représenté de manière sexuellement explicite, car il n’était pas nu ni presque nu. De manière similaire, l’entreprise estime que les poses de l’individu ne sont pas sexuellement suggestives selon la définition qui en est donnée au titre de la politique sur la nudité et les activités sexuelles chez les adultes, qui inclut le fait d’écarter les jambes pour exposer la zone des parties génitales ou de se pencher en avant lorsque l’on porte des sous-vêtements ou des vêtements transparents.

Comme les trois politiques susmentionnées utilisent le terme « quasi-nudité » ou « presque nu », le Conseil a demandé à Meta pourquoi ce critère avait uniquement été retenu pour déterminer la violation de la règle sur le partage des images intimes non consensuelles. L’entreprise a répondu que la distinction clé entre la nudité et la quasi-nudité résidait dans la manière dont les parties intimes étaient couvertes : dans le cas d’une quasi-nudité, elles ne sont couvertes que par un objet opaque (p. ex., un vêtement non porté), un élément numérique superposé ou un corps humain, ce qui les rend partiellement visibles sans qu’elles soient totalement exposées. À l’inverse, les parties intimes ne sont pas couvertes dans le cas d’une totale nudité. Selon Meta, les trois politiques partagent la même définition de base de la quasi-nudité, à savoir, un « être humain qui n’est pas entièrement habillé de manières spécifiques », dont le corps révèle des poils pubiens, des parties génitales, des fesses et/ou tétons féminins, lorsqu’ils sont couverts par des objets, des éléments numériques superposés ou des vêtements transparents. Cependant, l’entreprise explique que seule la politique sur l’exploitation sexuelle des adultes s’appuie sur cette définition commune pour inclure des indicateurs supplémentaires de quasi-nudité à des fins d’identification des images intimes non consensuelles potentielles. Pour Meta, cette approche élargie reflète la manière dont les abus liés à des images intimes non consensuelles peuvent se présenter sur ses plateformes, c’est-à-dire, prendre la forme d’images intimes qui incluent des individus en lingerie ou avec d’autres sous-vêtements intimes dans des contextes privés, ce qui va au-delà des types de nudité et de quasi-nudité définis dans les autres politiques. Toujours selon Meta, la définition de base est conservée pour l’application de la politique sur la nudité et les activités sexuelles chez les adultes, car elle permet d’éviter de supprimer le contenu anodin. Sans la définition plus large, en revanche, les images intimes non consensuelles risqueraient d’échapper aux sanctions.

Pour ce qui est de la politique sur le harcèlement et l’intimidation, l’entreprise a expliqué que les dessins et les images retouchées sexualisés et dégradants sont, de par leur nature, considérés comme dégradants, tandis que les images intimes non consensuelles impliquent généralement des individus réels représentés dans des contextes privés ou intimes et qu’elles étaient partagées sans leur consentement. Selon Meta, comme il s’agit de deux types d’abus distincts, la définition plus large de la quasi-nudité au titre de la politique sur l’exploitation sexuelle des adultes n’est pas applicable à la règle relative aux dessins et aux photos retouchées sexualisés et dégradants présente dans la politique sur le harcèlement et l’intimidation.

L’entreprise a par ailleurs expliqué qu’à l’inverse de la norme sur la « quasi-nudité », la définition des « poses sexuellement suggestives », mentionnée ci-dessus, restait identique, quelle que soit la politique.

En réponse aux questions du Conseil, Meta a indiqué que, puisqu’elle n’avait pas détecté de métadonnées IPTC (International Press Telecommunications Council) ou C2PA à grande échelle dans les vidéos au moment de la publication du contenu, et puisque l’auteur de celle-ci n’avait pas indiqué lui-même que la vidéo avait été créée ou modifiée à l’aide de l’IA, le contenu n’avait pas été identifié comme tel dans ce cas-ci. L’entreprise a fait remarquer qu’elle exigeait des utilisateurs qu’ils indiquent, à l’aide de l’outil prévu à cet effet, lorsqu’ils publient du contenu organique avec une vidéo photoréaliste ou de l’audio réaliste créés ou modifiés numériquement, et que les utilisateurs risquaient d’être sanctionnés s’ils ne se conformaient pas à cette exigence (cf. la décision Vidéo générée par l’IA dans le cadre du conflit Israël-Iran).

Identifier l’absence de consentement

Meta a indiqué au Conseil que les critères d’identification d’une absence de consentement variaient en fonction de ses Standards de la communauté. En ce qui concerne le contenu sexualisé, certaines politiques comme celle sur l’exploitation sexuelle des adultes nécessitent des signaux de non-consentement pour qu’il soit supprimé. D’autres standards, tels que la politique sur la nudité et les activités sexuelles chez les adultes ou certaines règles relatives au harcèlement et à l’intimidation, considéreront que le contenu est en infraction, que la personne ciblée ou représentée ait donné son consentement ou non. Néanmoins, pour d’autres règles de la politique sur le harcèlement et l’intimidation (non applicables dans ce cas-ci), la suppression du contenu dépend de la présence de signaux selon lesquels il est indésirable, et du fait que ceux-ci sont interprétés comme une absence de consentement.

Plus précisément, au titre de la politique sur l’exploitation sexuelle des adultes, pour que des images intimes non consensuelles et non commerciales soient supprimées, des signaux d’absence de consentement doivent être présents, y compris lorsque le contenu est généré par l’IA. Meta a expliqué qu’elle déterminait si des images sexuellement explicites ou suggestives avaient été partagées de manière non consensuelle en fonction du contexte de l’infraction.

L’entreprise a ajouté qu’elle n’exigeait pas de signalement direct de la part de l’individu représenté pour supprimer des images intimes non consensuelles si d’autres indicateurs crédibles de l’absence de consentement étaient présents. Il peut notamment s’agir de signalements de tiers, comme des forces de l’ordre, des médias ou de partenaires de confiance, ainsi que d’indices contextuels au sein même du contenu (p. ex., dans les sous-titres, les légendes, les commentaires ou le titre de la Page), qui suggèrent que les images ont été partagées « de manière à se venger ou à faire sensation ».

À l’inverse, les infractions à la politique sur la nudité et les activités sexuelles chez les adultes sont supprimées, qu’il y ait ou non consentement de la part de l’individu représenté. De même, les violations qui impliquent des dessins ou des images retouchées sexualisés et dégradants au titre de la politique sur le harcèlement et l’intimidation sont considérées, de par leur nature, comme indésirables. Elles ne doivent donc pas nécessairement être signalées par la victime.

Enfin, pour d’autres règles de cette même politique, l’entreprise évalue si le contenu est indésirable grâce au signalement de la victime ou à d’autres signaux contextuels. Par exemple, le signalement par la victime s’applique à la règle de « niveau 3 » sur les images manipulées indésirables (qui ne doivent pas nécessairement être à caractère sexuel ou intime), car leur nature dénigrante ou offensante n’est pas toujours évidente. Pour la règle de « niveau 1 » sur les contacts indésirables qui constituent du harcèlement sexuel, en revanche, l’infraction ne doit pas obligatoirement être signalée par la victime ; Meta tient compte de différents signaux pour déterminer si le contenu représente un comportement indésirable, y compris si la victime l’a signalé elle-même, a exprimé sa gêne, a demandé à ce que les contacts cessent ou a pris d’autres mesures sur la plateforme (p. ex., signalement, blocage).

Signalement par un tiers

Meta a informé le Conseil que les signaux d’absence de consentement s’appliquaient aussi bien aux images intimes non consensuelles de personnalités publiques qu’à celles de particuliers. L’entreprise a expliqué ne pas s’appuyer à grande échelle sur les signalements émis par d’autres tiers qui affirment agir au nom de l’individu représenté, étant donné qu’elle ne peut pas vérifier de manière fiable si ces signalements sont autorisés ou crédibles. Selon Meta, les signalements de tiers qui ne proviennent pas de partenaires ou de signaleurs de confiance ne sont pas sans risques. En effet, du contenu partagé par des adultes consentants pourrait être signalé à tort en tant qu’images intimes non consensuelles, ce qui pourrait déboucher sur une application trop sévère de la politique.

Meta a ajouté qu’elle autorisait aussi bien les personnes représentées que les tiers à signaler les usurpations d’identité sur Facebook et Instagram. La politique de Meta sur la représentation de la véritable identité interdit les comptes d’usurper l’identité d’une autre personne ou entité à l’aide de leurs image, nom ou apparence. Meta a fait remarquer qu’elle interdisait les comptes qui induisent volontairement les autres en erreur au sujet de leur identité, par exemple en modifiant souvent les détails liés à leur identité, en y apportant de gros changements ou en publiant des informations de profil trompeuses. L’entreprise a expliqué que cette politique était axée sur l’usurpation d’identité au niveau du compte, et non au niveau du contenu, car les utilisateurs sont susceptibles de partager le contenu d’autres personnes sans pour autant avoir l’intention de tromper (p. ex., en publiant des photos d’amis). Appliquer cette politique au niveau du contenu pourrait, selon Meta, provoquer des erreurs d’application trop sévère de celle-ci. L’entreprise a ajouté que l’usurpation d’identité au niveau du contenu faisait l’objet de sanctions distinctes dans le cadre des remontées effectuées au titre de la politique sur la fraude, les arnaques et les pratiques trompeuses, p. ex., pour le contenu qui utilise sans autorisation l’image d’une personne célèbre dans le but d’arnaquer ou d’escroquer autrui.

Le Conseil a posé des questions sur les considérations abordées en matière de politiques et de sanctions pour déterminer l’absence de consentement à grande échelle, notamment pour le contenu qui implique des particuliers ; sur les moyens mis à la disposition des tiers pour effectuer des signalements au nom des personnes représentées, en plus des signalements des forces de l’ordre, des médias et des partenaires de confiance ; sur les sanctions imposées lorsque l’auteur d’une publication ne dévoile pas avoir utilisé l’IA pour générer une vidéo ou de l’audio ; et sur les interactions entre plusieurs Standards de la communauté pertinents. Meta a répondu à toutes ces questions.

4. Commentaires publics

Le Conseil a reçu 13 commentaires publics qui répondent aux critères de soumission. Trois des commentaires ont été envoyés d’Europe, trois des États-Unis et du Canada, deux d’Asie-Pacifique et d’Océanie, deux d’Asie centrale et du Sud, deux d’Afrique subsaharienne, et un d’Amérique latine et des Caraïbes. Pour consulter les commentaires publics soumis accompagnés d’un consentement à la publication, cliquez ici.

Les soumissions traitaient des thèmes suivants : implications d’une définition standardisée du contenu à caractère sexuel compte tenu des différences culturelles et locales ; nécessité de rationaliser les approches des politiques en matière d’images intimes non consensuelles ; limitation d’âge en tant que mesure inappropriée pour répondre aux images intimes non consensuelles ; importance et avantages du fait d’autoriser des tiers à signaler du contenu au nom des victimes d’images intimes non consensuelles ; recommandations sur l’identification de l’absence de consentement à grande échelle, l’amélioration des sanctions en cas d’images intimes non consensuelles et la mise en œuvre de mesures de protection au niveau du produit.

En mars 2026, dans le cadre de ses échanges réguliers avec les parties prenantes, le Conseil a consulté des représentants d’associations de défense des droits, des universitaires, des organisations intergouvernementales et d’autres spécialistes sur le problème inhérent à la modération du contenu sexualisé et non consensuel généré par l’IA. Les participants ont fourni des informations sur l’utilisation et la prolifération du contenu sexualisé et généré par l’IA, y compris par le biais de l’usurpation d’identité. Ils ont souligné à quel point il était important de traiter les usurpations d’identité sexualisées et non consensuelles réalisées à l’aide de l’IA comme du contenu à caractère sexuel et non consensuel, et pas simplement comme une question de nudité chez l’adulte. Ils ont laissé entendre que les entreprises de réseaux sociaux devaient présumer du non-consentement, compte tenu du risque de préjudices graves associés aux images intimes non consensuelles, y compris le harcèlement, l’exploitation et les atteintes à la réputation. Certains participants ont noté que les particuliers devraient avoir droit à une meilleure protection, car ils ont souvent moins accès aux médias et à d’autres ressources pour signaler les abus. D’autres ont souligné à quel point il était important d’impliquer directement les victimes d’abus liés à des images intimes non consensuelles dans les processus d’élaboration des politiques et des sanctions.

5. Analyse du Conseil de surveillance

Le Conseil a sélectionné ce cas-ci pour évaluer l’approche de Meta en matière de contenu sexualisé généré par l’IA, en particulier lorsque l’image ou l’apparence d’une personne est utilisée d’une manière sexuellement explicite ou suggestive sans son consentement. Le cas relève de deux des sept priorités stratégiques du Conseil, à savoir Automatisation et IA, et Genre.

Le Conseil a analysé la décision de Meta dans le cas présent et l’a comparée à ses politiques relatives au contenu, à ses valeurs et à ses responsabilités en matière de droits humains. Il a également évalué les implications de ce cas-ci sur l’approche plus globale de la gouvernance du contenu par Meta.

5.1 Respect des politiques de Meta relatives au contenu

I. Règles relatives au contenu

Le Conseil estime que la publication enfreint la règle de Meta selon laquelle il est interdit de partager des images intimes non consensuelles, stipulée par sa politique sur l’exploitation sexuelle des adultes. Cette publication est un type d’abus sexuel basé sur des images, à savoir une usurpation d’identité sexualisée et générée par l’IA, dans le cadre de laquelle l’image ou l’apparence d’une personne est utilisée de manière sexuellement suggestive ou explicite sans son consentement.

Pour enfreindre la règle de Meta sur les images intimes non consensuelles, le contenu doit remplir les critères établis dans la politique sur l’exploitation sexuelle des adultes ; le contenu dans ce cas-ci les remplit tous les trois. Premièrement, la vidéo semble de nature non commerciale et produite dans un contexte privé. Deuxièmement, la femme représentée porte de la lingerie, ce qui satisfait la définition de quasi-nudité au titre de la politique.

Quant au troisième critère, le Conseil note que l’usurpation d’identité générée par l’IA est, par défaut, non consensuelle. Bien que Meta argue que la femme représentée n’est pas une « personne réelle », l’utilisateur qui a fait appel auprès du Conseil a indiqué que la vidéo avait été générée par l’IA et qu’elle usurpait l’identité d’une de ses amies, qui avait fermé son compte, probablement parce que l’auteur de la publication ne cessait d’utiliser son image pour créer du contenu à caractère sexuel. Le Conseil est inquiet de voir que l’entreprise conclut que la personne représentée n’est pas une « personne réelle » au seul motif qu’elle n’a pas signalé la publication elle-même. Cela illustre bien la difficulté, pour Meta, de juger de l’absence de consentement lors de l’application des règles relatives aux images intimes non consensuelles et au contenu sexualisé généré par l’IA qui usurpe l’identité d’autrui, notamment lorsque celui-ci implique des particuliers.

Bien que l’entreprise ait mis à jour sa politique sur l’exploitation sexuelle des adultes en octobre 2025 pour inclure les images générées par l’IA, une amélioration bienvenue au vu de la prolifération du contenu sexualisé et généré par l’IA qui vise à usurper l’identité d’autrui dans le monde entier, d’autres mesures sont nécessaires. Compte tenu des graves préjudices associés à l’usurpation d’identité sexualisée et générée par l’IA, l’entreprise devrait accorder la priorité à la sécurité, et ce par défaut.

À cette fin, et conformément aux recommandations précédentes émises par le Conseil (cf., p. ex., la recommandation n° 4 Images explicites générées par l’IA de personnalités publiques féminines), Meta devrait élargir la portée des signaux relatifs à l’absence de consentement, en particulier pour les particuliers. Bien que le Conseil estime que, conformément aux avis des parties prenantes et des experts consultés, l’approche élargie recommandée précédemment (c’est-à-dire de considérer la génération de contenu par l’IA comme un signe contextuel d’absence de consentement pour les images intimes non consensuelles au titre de la politique sur l’exploitation sexuelle des adultes) permette de mieux réagir aux préjudices causés par un tel contenu, Meta n’a pas mis cette recommandation en œuvre de manière significative.

Aussi, au niveau de la politique au moins, l’entreprise devrait-elle envisager d’indiquer explicitement que l’usurpation d’identité de personnes réelles, sexualisée et générée par l’IA est l’un des signaux contextuels des images intimes non consensuelles pour éviter d’éventuelles lacunes dans la politique et son application. Cela nécessiterait d’évaluer en contexte les signaux présents dans le contenu (p. ex., légende de la publication, titre de la Page ou commentaires), à l’instar de l’évaluation, par exemple, d’un contexte vindicatif comme un signal d’absence de consentement au titre de la politique sur l’exploitation sexuelle des adultes. L’amélioration des procédures de signalement et la possibilité, pour des comptes connectés choisis, d’effectuer des signalements, comme nous en discuterons ci-dessous, permettraient également de fournir des signaux pertinents pour ces évaluations. Dans le même temps, l’absence de ces signaux contextuels couplée à la divulgation, par l’utilisateur lui-même, de l’utilisation d’outils IA pour générer des images à caractère sexuel aiderait à tirer la conclusion que le contenu ne représente pas une personne réelle et que, par conséquent, il ne s’agit pas d’une usurpation d’identité. Cette approche est suffisamment précise pour éviter de sanctionner à tort, tout en luttant contre les images à caractère sexuel et générées par l’IA en infraction qui usurpent l’identité d’autrui.

Le Conseil s’inquiète également de voir que l’approche actuelle de Meta est principalement axée sur les comptes qui usurpent l’identité d’une autre personne ou entité au titre de la politique sur la représentation de la véritable identité, et sur l’usurpation d’identité des personnalités publiques au niveau du contenu en vertu de la politique sur la fraude, les arnaques et les pratiques trompeuses. Cette approche ne tient pas compte des préjudices graves et bien documentés des images à caractère sexuel et générées par l’IA qui usurpent l’identité de particuliers.

II. Mesures de mise en application

Ce cas soulève deux inquiétudes distinctes mais liées au sujet des images intimes non consensuelles. La première concerne les limites relatives au nombre d’entités, en dehors de la personne représentée, qui peuvent signaler l’absence de consentement au titre de la politique sur l’exploitation sexuelle des adultes ; et la deuxième concerne l’efficacité des procédures de signalement et d’appel actuelles. Si ces deux mécanismes étaient améliorés, cela permettrait d’améliorer l’application de la politique contre les images intimes non consensuelles, y compris contre l’usurpation d’identité sexualisée et générée par l’IA. Ce cas-ci illustre également la nécessité d’intégrer des mesures de protection au sein même des systèmes et d’implémenter des identifiants de contenu à grande échelle.

Désigner des comptes associés

Les réponses de Meta aux questions du Conseil suggèrent qu’à l’heure actuelle, le seul moyen efficace pour les particuliers d’établir leur non-consentement est de signaler le contenu eux-mêmes.

Il est peu probable que les particuliers bénéficient des signalements transmis par les forces de l’ordre et les médias à Meta. En effet, ils devraient par exemple déposer une plainte distincte à la police et dépendre de la décision de l’institution publique compétente pour qu’elle agisse. En outre, compte tenu de la prolifération du contenu sexualisé généré par l’IA, y compris celui qui usurpe l’identité d’autrui, les signalements émis par les partenaires de confiance et les représentants des victimes d’abus liés à des images intimes non consensuelles ne constitueraient qu’une opportunité limitée d’établir l’absence de consentement. À cet égard, bien qu’il soit positif d’inclure ces derniers aux sources capables d’établir l’absence de consentement, leurs signalements ressemblent à ceux des partenaires de confiance et seraient sans doute insuffisants pour les victimes d’un premier abus.

Les commentaires publics soumis au Conseil soulignent l’influence de l’approche actuelle de Meta sur l’identification du non-consentement à grande échelle pour les victimes d’abus liés à des images, y compris en cas d’usurpation d’identité (cf. PC–32480, PC-32489, et PC-32484). Les soumissions arguent que cette approche représente un fardeau pour les victimes et que celles-ci risquent d’en souffrir encore davantage. En outre, la nécessité pour les victimes de signaler elles-mêmes le contenu peut également être un défi lorsque les utilisateurs touchés ne possèdent pas de compte actif sur les plateformes de Meta pour surveiller et signaler le contenu en infraction, comme c’est le cas ici. Les experts consultés par le Conseil font remarquer que les systèmes les plus efficaces pour signaler l’utilisation de son image et de son apparence dans du contenu généré par l’IA sont ceux qui constituent un moindre fardeau pour les victimes, autorisent les signalements groupés, ce qui permet de signaler plusieurs publications à la fois, et déclenchent une suppression rapide du contenu.

Pour combler ces manques en matière d’application de la politique, le Conseil avait recommandé dans la décision Images explicites générées par l’IA de personnalités publiques féminines que si les aspects de nudité ou de sexualisation du contenu sont générés par l’IA, retouchés ou manipulés d’une quelconque autre manière, même si ledit contenu est « non commercial ou produit dans un contexte privé », cela devrait être considéré comme un signal de non-consentement. Bien que Meta ait répondu en mettant à jour la définition des images intimes non consensuelles pour inclure celles qui sont créées numériquement ou générées par l’IA, le Conseil estime que sa recommandation n’a pas été mise en œuvre, mais qu’elle a plutôt été reformulée puisque l’entreprise ne considère toujours pas le fait que les images soient générées par l’IA comme un signal d’absence de consentement.

Par conséquent, compte tenu de la multiplication des images à caractère sexuel et générées par l’IA qui usurpent l’identité d’autrui et pour réduire le fardeau qui pèse sur les victimes de tels abus, des mécanismes supplémentaires pour évaluer l’absence de consentement sont nécessaires. Ainsi, Meta devrait autoriser les utilisateurs à désigner des comptes associés qui pourraient signaler de potentielles infractions aux Standards de la communauté qui impliquent des images intimes non consensuelles, notamment en cas d’usurpation d’identité, avec leur accord et en leur nom. Pour apaiser des inquiétudes similaires dans un contexte différent, le Conseil a déjà émis des recommandations sur la nomination de tiers pour effectuer des signalements dans le cadre des règles de la politique sur le harcèlement et l’intimidation qui nécessitent des victimes qu’elles signalent le contenu elles-mêmes (cf. la recommandation n° 3 de la décision Débats vidéo sur les identités de genre). Certains membres du Conseil estiment que Meta devrait également envisager de donner des possibilités de signalement similaires aux tiers qui disposent d’un compte Meta et qui reconnaissent des individus représentés dans le contenu mais qui ne possèdent pas de compte (comme c’est le cas ici), ou qui n’ont pas été désignés comme compte associé.

Procédures de signalement et d’appel

Plusieurs commentaires publics soulignent les lacunes des procédures de signalement et d’appel existantes, et précisent à quel point il est important de réaliser des examens approfondis et efficaces des signalements d’images intimes non consensuelles, y compris en cas d’usurpation d’identité (cf. PC–32481, PC-32489 et PC-32484).

La page d’aide de Meta sur le signalement des images intimes non consensuelles indique que les utilisateurs peuvent signaler ces dernières via les canaux de signalement existants ou par le biais d’un formulaire de signalementspécial, qui, à l’heure actuelle, n’est disponible que pour les résidents des États du Texas et de Floride aux États-Unis (l’entreprise note toutefois qu’elle « est en train de mettre ce formulaire spécial à la disposition de tous les résidents américains »). Le formulaire spécial prévoit deux motifs de signalement : les images intimes (définies comme du « contenu sexuellement explicite, avec nudité ou quasi-nudité qui est partagé sans consentement ») et les « deepfakes » d’images intimes (définies comme « un faux contenu à caractère sexuel ou un contenu à caractère sexuel généré par l’IA, créé à l’image de quelqu’un sans son consentement »).

Les abus liés à l’utilisation d’images intimes non consensuelles et générées par l’IA, y compris les usurpations d’identité à caractère sexuel, sont un fléau mondial (cf. p. ex., PC-32484, PC-32487, PC-32490, PC-32481 et PC-32480). Tous les utilisateurs des plateformes de Meta devraient donc bénéficier de voies de recours aisées pour que ce type de contenu puisse être signalé dans le monde entier et être redirigé vers les canaux d’examen appropriés. Il faut par ailleurs inclure l’usurpation d’identité sexualisée et générée par l’IA en tant que catégorie distincte du harcèlement et de la nudité dans les formulaires de signalement et d’appel habituels. Puisque le formulaire de signalement spécial n’est accessible qu’à certains utilisateurs aux États-Unis, ces changements doivent être apportés aux formulaires de signalement et d’appel classiques, où les utilisateurs du monde entier peuvent signalement du contenu sur les plateformes de Meta. Les experts consultés par le Conseil notent que le fait de s’appuyer sur des catégories de signalement génériques, telles que la nudité ou le harcèlement, entraîne des résultats incohérents.

Autres mécanismes d’application

Parallèlement, le Conseil réitère la recommandation qu’il a émise dans la décision Vidéo générée par l’IA dans le cadre du conflit Israël-Iran, qui appelle Meta à implémenter à grande échelle des identifiants de contenu (tels que définis par la C2PA), et veiller à ce qu’ils soient clairement et systématiquement visibles et accessibles aux utilisateurs chaque fois que les détails relatifs à la provenance sont disponibles, au-delà des systèmes de back-end et de la détection en interne. Ainsi, aussi bien Meta que les utilisateurs disposeraient de nouveaux signaux fiables pour détecter le contenu à caractère sexuel susceptible d’avoir été manipulé ou généré par l’IA. Cette solution servirait également de nouvel indicateur pour appliquer le signal d’indésirabilité ou d’absence de consentement. Cela est particulièrement important pour les particuliers qui sont régulièrement la cible de harcèlement, d’atteintes à leur réputation, voire de menaces à leur sécurité physique, ce qui peut les perturber, les stigmatiser et les isoler. Bien que les préjudices soient graves pour les personnalités publiques comme pour les particuliers, les premières disposent de voies de recours plus pertinentes que les seconds. En réponse à cette recommandation, Meta s’est engagée à améliorer la façon dont elle présente aux utilisateurs les informations relatives à la provenance du contenu et a reconnu qu’il « y avait un travail important à effectuer pour appliquer ces mesures à d’autres types de contenu, afin que les utilisateurs puissent mieux faire la différence entre le contenu qui a été totalement généré par l’IA et celui qui n’a été que partiellement retouché à l’aide d’outils d’IA, et pour s’assurer d’offrir une expérience cohérente sur Facebook, Instagram et Threads ».

Les soumissions et les rapports d’experts envoyés au Conseil mettent également en évidence l’importance des mesures de protection intégrées au sein même des systèmes. Un rapport établi en 2023 par l’entreprise d’analyse des réseaux sociaux Graphika note que les images intimes non consensuelles, « qui ne constituaient auparavant qu’un créneau de services personnalisés proposés sur des forums, font désormais l’objet d’activités automatisées, en ligne et à grande échelle, qui s’appuient sur une multitude de ressources pour leur monétisation et la commercialisation de leurs services ». Selon un rapport rédigé en 2025 par l’ONG AI Forensics, plus de 3000 publicités à caractère pornographique ont été approuvées et diffusées par le système publicitaire de Meta l’année précédente, et ces publicités comprenaient notamment des contenus multimédias (tels que des images, des vidéos et de l’audio) générés par l’IA. Aussi les protections à niveau du système doivent-elles inclure des mesures d’audit et de sanctions contre les publicités pornographiques générées par l’IA, et la sécurité doit-elle être au cœur même des efforts d’entraînement, de déploiement et de gouvernance des modèles de pointe, tout en tenant compte des répercussions sur les femmes et les filles.

Enfin, lors de l’examen de ce cas, le Conseil a également envisagé des solutions à grande échelle pour protéger l’image et l’apparence des utilisateurs, notamment des fonctionnalités facultatives qui permettraient de comparer les traits du visage des utilisateurs et de signaler tout usage non consensuel de leur image ou de leur apparence (cf., p. ex., PC-32489 et PC-32484). Toutefois, de tels mécanismes ont été rejetés étant donné que leur mise en œuvre repose essentiellement sur l’utilisation de technologies de reconnaissance faciale, qui soulèvent d’importantes préoccupations en matière de vie privée, de surveillance et de partialité, et qui affectent de manière disproportionnée les communautés marginalisées, comme cela a été documenté.

5.2. Respect des responsabilités de Meta en matière de droits humains

Le Conseil estime que la suppression du contenu aurait été conforme aux responsabilités de Meta en matière de droits humains.

Liberté d’expression (article 19 du PIDCP)

L’article 19 du Pacte international relatif aux droits civils et politiques (PIDCP) protège la liberté d’expression sous de nombreuses formes, y compris l’expression qui peut être considérée comme « profondément offensante » (Observation générale n° 34, paragraphe 11 ; voir aussi le paragraphe 17 du rapport de 2019 du Rapporteur spécial des Nations Unies sur la liberté d’expression, A/74/486).

Lorsque des restrictions de la liberté d’expression sont imposées par un État, elles doivent remplir des critères de légalité, d’objectif légitime, ainsi que de nécessité et de proportionnalité (article 19, paragraphe 3 du PIDCP). Ces exigences sont souvent reprises sous l’intitulé « test tripartite ». Le Conseil s’appuie sur ce test afin d’interpréter les responsabilités de Meta en matière de droits humains conformément aux Principes directeurs relatifs aux entreprises et aux droits de l’homme des Nations unies (ONU), que Meta elle-même s’est engagée à respecter dans sa Politique relative aux droits humains. Le Conseil utilise ce test à la fois pour la décision relative au contenu en cours d’examen et pour ce que cela dit de l’approche plus large de Meta en matière de gouvernance du contenu. Comme l’a déclaré le Rapporteur spécial de l’ONU sur la liberté d’expression, même si « les entreprises ne sont pas soumises aux mêmes devoirs que les gouvernements, leur influence est néanmoins telle qu’elle doit les inciter à se poser les mêmes questions qu’eux quant à la protection de la liberté d’expression de leurs utilisateurs » (A/74/486, paragraphe 41).

I. Légalité (clarté et accessibilité des règles)

Le principe de légalité prévoit que les règles qui limitent la liberté d’expression soient accessibles, claires et suffisamment précises pour permettre à un individu d’adapter son comportement en conséquence (Observation générale n° 34, paragraphe 25). En outre, ces règles « ne peu[ven]t pas conférer aux personnes chargées de [leur] application un pouvoir illimité de décider de la restriction de la liberté d’expression » et doivent « énoncer des règles suffisamment précises pour permettre aux personnes chargées de leur application d’établir quelles formes d’expression sont légitimement restreintes et quelles formes d’expression le sont indûment » (Ibid). Le Rapporteur spécial des Nations Unies sur la liberté d’expression a déclaré que lorsqu’elles s’appliquent aux acteurs privés, les règles régissant le discours en ligne devaient être claires et précises (A/HRC/38/35, paragraphe 46). Les personnes qui utilisent les plateformes de Meta devraient pouvoir accéder aux règles et les comprendre, et les équipes d’examen de contenu devraient disposer de consignes claires sur leur application.

Dans sa décision Images explicites générées par l’IA de personnalités publiques féminines, le Conseil a mis en évidence plusieurs préoccupations liées à la clarté et à l’accessibilité des règles de Meta sur les images intimes non consensuelles. Le Conseil a recommandé à Meta ce qui suit :

• Rassembler toutes les règles pertinentes dans la politique sur l’exploitation sexuelle des adultes, en y déplaçant les règles sur « les dessins et les images retouchées sexualisés dégradants » depuis la politique sur le harcèlement et l’intimidation (recommandation n° 1).
• Remplacer le mot « dégradants » dans l’interdiction des dessins et images « retouchées sexualisés et dégradants » par « non consensuels », parce que ce terme décrit mieux l’idée des manipulations d’images à caractère sexuel indésirables (recommandation n° 2).
• S’assurer que ses politiques traitent une large palette de techniques de génération et de modification de contenu multimédia, en remplaçant le terme « retouchées » dans l’interdiction des dessins et images « retouchées sexualisés et dégradants » par un terme plus général pour désigner le contenu multimédia manipulé (recommandation n° 3).

Bien que ces recommandations aient été émises il y a près de deux ans, Meta ne les a pas mises en œuvre de manière significative. Après avoir mis à jour la politique sur l’exploitation sexuelle des adultes en 2025 pour inclure les images créées numériques ou générées par l’IA dans la règle sur les images intimes non consensuelles, Meta considère que la recommandation n° 1 est mise en œuvre, tandis que le Conseil estime qu’elle a été reformulée. Quant à la recommandation n° 2, Meta répète qu’elle continue d’envisager des moyens de clarifier la politique sur le harcèlement et l’intimidation, bien qu’elle n’envisage pas d’y apporter les changements recommandés. De même, pour la recommandation n° 3, Meta a fait remarquer qu’elle était toujours en train de mettre à jour les éléments de texte pertinents de sa politique sur le harcèlement et l’intimidation. Le Conseil appelle Meta à mettre en œuvre ses recommandations n° 2 et 3 dans leur intégralité, pour s’assurer de la clarté des règles sur les images intimes non consensuelles, y compris sur l’usurpation d’identité sexualisée et générée par l’IA.

II. Objectif légitime

Par ailleurs, toute restriction de la liberté d’expression doit aussi, au minimum, répondre à l’un des objectifs légitimes énumérés dans le PIDCP, qui incluent la protection des droits d’autrui (article 19, paragraphe 3 du PIDCP).

Le Conseil a reconnu par le passé que les restrictions de Meta relatives aux « deepfakes » d’images intimes sont conçues pour protéger les individus contre la création et la diffusion d’images à caractère sexuel sans leur consentement, et contre les préjudices que de telles images pour avoir pour les victimes et leurs droits (Images explicites générées par l’IA de personnalités publiques féminines). Ces derniers incluent les droits à la santé physique et mentale, compte tenu de la nature extrêmement préjudiciable de ce contenu pour les victimes (article 12 du PIDESC) ; la protection contre la discrimination, car il est clairement démontré que ce contenu affecte les femmes et les filles de façon disproportionnée (article 2 du PIDCP et du PIDESC) ; et le droit à la vie privée, car il affecte la capacité des personnes à maintenir une vie privée et à autoriser la façon dont les images les représentant sont créées et diffusées (article 17 du PIDCP).

III. Nécessité et proportionnalité

Conformément à l’article 19(3) du PIDCP, le principe de nécessité et de proportionnalité requiert que les restrictions de la liberté d’expression soient « appropriées pour remplir leur fonction de protection, elles doivent constituer le moyen le moins perturbateur parmi ceux qui pourraient permettre d’obtenir le résultat recherché et elles doivent être proportionnées à l’intérêt à protéger » (Observation générale n° 34, paragraphe 34).

L’utilisation non consensuelle de leur image en vue de créer des images à caractère sexuel porte atteinte aux droits des utilisateurs à la vie privée et à la protection contre les préjudices mentaux et physiques. Le contenu sexualisé et généré par l’IA qui usurpe l’identité d’autrui s’inscrit actuellement dans une tendance caractérisée par la perte de contrôle sur sa propre image et sa propre identité. À l’inverse des « deepfakes » d’images intimes non consensuelles, qui impliquent, par exemple, de placer le visage d’une personne réelle sur une image ou une vidéo explicite, les images à caractère sexuel et générées par l’IA qui usurpent l’identité d’autrui utilisent l’image ou l’apparence d’un individu réel sans son consentement pour créer une personne qui lui ressemble. Puisque l’immense majorité des individus représentés dans ces images sont des femmes et des filles, le Conseil rappelle que ce type de contenu a également des répercussions discriminantes et qu’il engendre des préjudices hautement genrés (cf. p. ex., PC-32480, 32481, 32484, 32487, 32488 et 32490 ; cf. aussi la décision Images explicites générées par l’IA de personnalités publiques féminines).

Par conséquent, compte tenu de la gravité des préjudices et puisqu’aucune mesure moins intrusive ne serait suffisante, la suppression d’un tel contenu, y compris de la publication dans ce cas-ci, est nécessaire et proportionnée. Comme les préjudices découlent du partage et du visionnage de ces images, et pas seulement du fait que les utilisateurs sont induits en erreur quant à leur authenticité, l’ajout d’une étiquette ne serait pas suffisant (cf. la décision Images explicites générées par l’IA de personnalités publiques féminines). De même, les soumissions publiques envoyées au Conseil insistent sur le fait que, si aucune violation n’est détectée ou que la diffusion du contenu est restreinte en fonction de l’âge comme dans ce cas-ci, « cela pourrait être vu comme un rejet de facto de l’allégation principale relative à l’usurpation d’identité à caractère sexuel et non consensuelle » (cf. p. ex., PC-32481). Dès lors, une mesure qui reviendrait à limiter la diffusion du contenu à caractère sexuel et généré par l’IA qui usurpe l’identité d’autrui en fonction de l’âge ne serait ni nécessaire ni proportionnée, car elle ne lutterait pas efficacement contre la diffusion dudit contenu, ce qui n’empêcherait pas les atteintes à la réputation, le harcèlement et les éventuelles violences corporelles. En outre, puisque les mécanismes d’application de Meta luttent contre les préjudices après la détection du contenu, il est crucial de procéder à sa suppression rapide pour réduire sa viralité et les préjudices associés pour les victimes (cf. également PC-32489).

Plusieurs soumissions publiques envoyées au Conseil soulignent également à quel point il est important de prendre en compte les différences culturelles et locales lors de l’application des règles sur le contenu à caractère sexuel (cf. p. ex., PC-32490 et PC-32481). Les experts consultés par le Conseil mettent en évidence le fait que de nombreuses plateformes adoptent des définitions occidentales des préjudices sexuels, principalement axées sur la nudité explicite ou les activités sexuelles. Selon eux, dans certaines communautés conservatrices sur le plan social, « les images ou vidéos générées par l’IA qui représentent une femme en public avec des hommes (voire lorsqu’elle est complètement habillée dans un contexte privé), même dans des scénarios non explicites, peuvent porter gravement atteinte à sa réputation, ou conduire à son ostracisme social, à un mariage forcé, à des violences commises au nom de l’honneur ou à des blessures physiques » (cf. également PC-32481). Par ailleurs, Meta a récemment annoncé son intention d’utiliser des systèmes d’IA plus avancés pour améliorer la modération de contenu, faisant remarquer que ces technologies peuvent « augmenter ses capacités dans n’importe quelle langue en fonction des besoins et s’adapter pour comprendre les nuances culturelles, y compris les sous-cultures moins connues, les mots-codes, les significations des émojis et l’argot, qui varient de région en région et ne cessent d’évoluer ». Le Conseil partage la conclusion des experts selon laquelle l’application d’une politique doit, pour être efficace, évaluer les préjudices en fonction des contextes pour tenir compte de ces nuances locales et culturelles, y compris en ce qui concerne le contenu sexuellement suggestif, et a hâte d’explorer les possibilités offertes par les systèmes IA avancés, par le biais de leur supervision indépendante et transparente.

Dans sa décision Images explicites générées par l’IA de personnalités publiques féminines, le Conseil a reconnu qu’en présumant de l’absence de consentement lors du partage d’images à caractère sexuel générées par l’IA, une image réalisée consensuellement pouvait occasionnellement être supprimée, ce qui soulève des préoccupations quant à l’application trop sévère de la politique aux cas de nudité et de quasi-nudité acceptables. Toutefois, puisque les règles de Meta sur les images intimes non consensuelles incluent aussi les images intimes manipulées et générées par l’IA, et compte tenu des préjudices graves connexes, l’entreprise devrait élargir la portée des signaux relatifs à l’absence de consentement, en particulier lorsque des particuliers sont concernés. Meta devrait au moins envisager d’ajouter l’usurpation d’identité de personnes réelles lorsque celle-ci est à caractère sexuel et générée par l’IA dans sa liste de signaux contextuels relatifs aux images intimes non consensuelles pour lutter contre les préjudices associés à ce type de contenu.

Accès au recours

Comme dans le cas Images explicites générées par l’IA de personnalités publiques féminines, la priorité n’a pas été accordée aux signalements et aux appels initiaux des décisions de Meta, et le contenu n’a pas été examiné par les équipes de modération à temps dans ce cas-ci non plus. Dans sa décision Images explicites générées par l’IA de personnalités publiques féminines, le Conseil a fait remarquer qu’une suppression retardée de ces images nuisait gravement à la vie privée et pouvait avoir des conséquences catastrophiques, que la victime soit une personnalité publique ou un particulier. En écho à la discussion et aux recommandations émises dans ce cas-là sur l’amélioration des procédures de signalement d’images intimes non consensuelles générées par l’IA, le Conseil répète que l’accès à des voies de recours dans ces contextes-là est un problème qui peut avoir des répercussions significatives sur les droits humains et que les risques en la matière doivent être soigneusement évalués et atténués.

6. Décision du Conseil de surveillance

Le Conseil annule la décision de Meta de conserver le contenu et exige sa suppression.

7. Recommandations

Politique

1. Pour aider à s’assurer de la suppression du contenu en infraction, Meta devrait ajouter un nouveau signal sur l’absence de consentement dans sa politique sur l’exploitation sexuelle des adultes : un contexte qui indique que le contenu à caractère sexuel a été généré par l’IA et usurpe l’identité de personnes réelles.

Le Conseil considérera que cette recommandation aura été mise en place lorsque les consignes internes privées et les règles publiques auront été mises à jour afin de refléter ce changement.

Mise en application

2. Pour réduire le fardeau qui pèsent sur les victimes d’abus liés à des images intimes non consensuelles, Meta devrait autoriser les utilisateurs à désigner des comptes associés, tels que ceux d’amis, de membres de leur famille ou d’associés de confiance, qui peuvent signaler en leur nom les potentielles infractions aux Standards de la communauté qui impliquent des images intimes non consensuelles, y compris l’usurpation de leur identité.

Le Conseil considérera que cette recommandation a été suivie lorsque Meta aura mis ces fonctionnalités à disposition, en veillant à ce que tout le monde puisse y accéder facilement dans les paramètres de compte.

Pour offrir des moyens accessibles et efficaces de signaler les abus liés à des images intimes non consensuelles générées par l’IA, Meta devrait inclure l’usurpation d’identité à caractère sexuel et générée par l’IA en tant que catégorie distincte du « harcèlement » et de la « nudité » dans les formulaires de signalement et d’appel standard. Ces formulaires de signalement uniformes devraient être disponibles dans le monde entier.

Le Conseil considérera que cette recommandation aura été mise en œuvre lorsque Meta mettra à jour ses formulaires de signalement, partagera des données sur les résultats du déploiement à l’échelle mondiale et expliquera en quoi ces nouvelles procédures influencent l’application du standard de la communauté sur l’exploitation sexuelle des adultes.

Le Conseil réitère également ses recommandations précédentes, notant leur importance pour les préoccupations soulevées dans ce cas-ci. Conformément à ces recommandations, Meta devrait :

• Remplacer le mot « dégradants » dans l’interdiction des dessins et images « retouchées sexualisés et dégradants » par « non consensuels » (recommandation n° 2 de la décision Images explicites générées par l’IA de personnalités publiques féminines).
• Remplacer le terme « retouchées » dans l’interdiction des dessins et images « retouchées sexualisés et dégradants » par un terme plus général pour désigner le contenu multimédia manipulé (recommandation n° 3 de la décision Images explicites générées par l’IA de personnalités publiques féminines).
• Implémenter à grande échelle des identifiants de contenu (tels qu’ils sont définis par la C2PA) et veiller à ce qu’ils soient clairement et systématiquement visibles et accessibles aux utilisateurs chaque fois que les détails relatifs à la provenance sont disponibles (recommandation n° 4 de la décision Vidéo générée par l’IA dans le cadre du conflit Israël-Iran).

Note de procédure :

Les décisions du Conseil de surveillance sont prises par des panels de cinq membres et approuvées par une majorité du Conseil dans son ensemble. Les décisions du Conseil ne représentent pas nécessairement les opinions de tous les membres.

En vertu de sa Charte, le Conseil de surveillance est habilité à examiner les appels déposés par les utilisateurs dont le contenu a été supprimé par Meta, les appels déposés par les utilisateurs ayant signalé un contenu que Meta n’a finalement pas supprimé, et les décisions que Meta lui transmet (article 2, section 1 de la Charte). Le Conseil dispose d’une autorité contraignante pour confirmer ou annuler les décisions de Meta relatives au contenu (article 3, section 5 de la Charte ; article 4 de la Charte). Le Conseil est habilité à émettre des recommandations non contraignantes auxquelles Meta doit répondre (article 3, section 4 de la Charte ; article 4). Lorsque Meta s’engage à donner suite aux recommandations, le Conseil surveille leur mise en œuvre.

Pour la décision sur ce cas, des recherches indépendantes ont été commandées au nom du Conseil. Le Conseil a bénéficié de l’aide de Duco Advisors, une société de conseil spécialisée dans la géopolitique, la confiance et la sécurité, ainsi que la technologie.

Retour aux décisions de cas et aux avis consultatifs politiques