Vidéo générée par l’IA d’une militante

Résumé

Le Conseil de surveillance demande à Meta de supprimer de Facebook une vidéo générée par l’IA qui s’en prend à une jeune femme musulmane en manipulant son image et qui faisait partie d’une série virale de publications similaires sur les réseaux sociaux. Le Conseil estime que les politiques de Meta en matière d’intimidation et de harcèlement ne permettent pas de traiter de manière adéquate les images manipulées par l’IA représentant des personnes qui ne sont habituellement pas exposées au regard du public.

Pourquoi c’est important

Cette décision intervient alors que l’IA générative crée de nouveaux risques pour les femmes et les filles, les abus gagnant en ampleur, en rapidité et en gravité. Selon un rapport publié en 2025 par ONU Femmes, la principale entité des Nations Unies (ONU) consacrée à l’égalité des genres, de nombreuses attaques sont « souvent délibérées et coordonnées et visent à réduire au silence les femmes dans la vie publique ». Les vidéos générées par l’IA transforment la nature du harcèlement en ligne, avec des conséquences importantes sur les droits des utilisateurs de Meta, notamment sur le droit des femmes musulmanes à participer à la vie publique, ainsi que, plus généralement, sur les droits des femmes et des filles. Ces attaques falsifient souvent non seulement l’apparence d’une personne, mais aussi ses actes et ses propos, ce qui lui porte préjudice.

À propos du cas

En 2025, une jeune femme musulmane vivant en Europe a été interviewée à la télévision en tant que bénévole dans le cadre d’une campagne visant à améliorer l’éducation à la santé menstruelle et à réduire la stigmatisation associée aux problèmes de santé touchant les femmes et les filles issues de minorités ethniques. Dans les mois qui ont suivi, des comptes sur différentes plateformes de réseaux sociaux ont manipulé numériquement les images de l’interview afin de la ridiculiser, en créant un contraste apparent entre son rôle dans la promotion de la santé et son apparence, dans le but manifeste de laisser entendre qu’elle n’était pas la personne la mieux placée pour s’exprimer sur des questions de santé. Ces vidéos utilisent son effigie pour manipuler ses actes et ses propos. Les vidéos et images générées par l’IA ont cumulé des dizaines de millions de vues sur différentes plateformes, notamment celles de Meta.

Le Conseil a sélectionné une publication Facebook, soumise dans le cadre d’un appel d’un utilisateur, comme simple exemple des abus dont cette femme a été victime. La publication comprend une vidéo générée par l’IA dans laquelle la femme se présente comme la nouvelle ambassadrice de la santé de son pays. Cette fausse affirmation est également reprise dans la légende, accompagnée d’un emoji de rire. Son effigie est montrée déclarant qu’elle va expliquer comment rester en forme, puis effectuant une série d’exercices limités ou absurdes et donnant des conseils sur une alimentation saine tout en consommant de la malbouffe. De nombreux commentaires publiés sous la vidéo par différents utilisateurs tournent la femme en ridicule, principalement en raison de son poids et du fait qu’elle porte un hijab.

Pour l’utilisateur qui a fait appel auprès du Conseil, son signalement initial à Meta ainsi que l’appel qu’il a ensuite adressé à l’entreprise ont été automatiquement clôturés sans être considérés comme prioritaires aux fins d’examen. Meta a depuis confirmé au Conseil que sa décision de ne pas intervenir sur la publication, en la laissant sur la plateforme sans y apposer d’étiquette indiquant qu’elle avait été générée par l’IA, était conforme à ses politiques. Ce n’est que lorsque le Conseil a posé des questions au sujet de quatre commentaires dénigrants publiés sous la publication que Meta a pris des mesures pour les supprimer, confirmant qu’ils enfreignaient l’interdiction des comparaisons déshumanisantes prévue par sa politique en matière d’intimidation et de harcèlement.

Principales conclusions

La majorité du Conseil estime que la vidéo doit être supprimée, car elle enfreint la politique de Meta en matière d’intimidation et de harcèlement. Plus précisément, elle contient une déclaration d’infériorité portant sur l’apparence physique d’une personne privée, utilise l’IA pour falsifier ses propos et ses actes sans son consentement et s’inscrit dans une campagne que la personne ciblée a vécue comme une forme de harcèlement de masse.

Selon la majorité, la définition donnée par Meta des « images manipulées indésirables », qui constitue l’une des interdictions prévues par sa politique en matière d’intimidation et de harcèlement, est trop restrictive et devrait inclure la falsification des actes et des propos d’une personne, en plus de la modification de son apparence.

Selon la majorité, Meta définit également de manière trop restrictive les campagnes de harcèlement de masse, et l’entreprise devrait adopter de nouvelles mesures afin d’alléger la charge qui pèse sur les victimes lorsqu’elles les signalent. Ces mesures consistent notamment à ajouter les contenus manipulés indésirables en infraction à la banque de correspondance des médias de l’entreprise afin que les contenus identiques ou quasi identiques soient supprimés, et à utiliser les indices signalant des médias générés ou manipulés par l’IA comme indicateur de gravité afin de donner la priorité à l’examen des signalements.

Une minorité du Conseil a estimé que le contenu ne répondait pas à la définition de l’intimidation et du harcèlement établie par Meta et que son maintien sur la plateforme était conforme aux responsabilités de l’entreprise en matière de droits humains.

La décision du Conseil de surveillance

Le Conseil annule la décision de Meta de maintenir le contenu en ligne et exige la suppression de la publication.

Le Conseil souligne l’importance de ses recommandations antérieures visant à permettre à des comptes tiers de signaler des contenus relevant de l’intimidation et du harcèlement.

En outre, il recommande à Meta de :

• élargir la définition publique des « images manipulées indésirables » afin d’inclure les deepfakes représentant une personne privée disant ou faisant des choses qu’elle n’a en réalité ni dites ni faites ;
• ajouter aux banques de correspondance des médias, en vue de leur suppression, les contenus constituant des infractions à la règle relative aux « images manipulées indésirables » ; et
• utiliser les indices signalant des médias générés ou manipulés par l’IA comme indicateur de gravité afin de donner la priorité à l’examen des signalements.

* Les résumés de cas donnent un aperçu des cas et n’ont pas valeur de précédent.

Décision complète sur le cas

1. Description du cas et contexte

En 2025, une jeune femme musulmane a été interviewée dans un journal télévisé en Europe en tant que bénévole d’une campagne visant à améliorer l’éducation à la santé menstruelle et à réduire la stigmatisation liée aux problèmes de santé touchant les femmes et les filles issues de minorités ethniques. Dans les mois qui ont suivi, ces images de la jeune femme ont été manipulées numériquement par des comptes sur différentes plateformes de réseaux sociaux afin de la ridiculiser, en créant un contraste apparent entre son rôle dans la promotion de la santé et son apparence. Ces images visaient manifestement à attirer l’attention sur son poids et à laisser entendre qu’elle n’était pas la mieux placée pour s’exprimer sur des questions de santé. Les vidéos et images générées par l’IA comprenaient toute une série de scènes déshumanisantes et dégradantes, notamment des montages la montrant en train de manger de grandes quantités de nourriture, peinant à faire de l’exercice dans une salle de sport ou représentée sous les traits d’un animal. Ensemble, ces contenus ont cumulé des dizaines de millions de vues sur différentes plateformes, notamment celles de Meta.

La publication concernée par ce cas n’est qu’un exemple des abus dont cette femme a été la cible. Elle comprend une vidéo générée par l’IA dans laquelle la femme apparaît, hors contexte, se présentant comme la nouvelle ambassadrice de la santé de son pays. Cette fausse affirmation, démentie par des organisations de vérification des faits dans le cadre d’autres publications, est également reprise dans la légende, accompagnée d’un emoji de rire. Dans la vidéo générée par l’IA, son effigie affirme qu’elle va montrer comment rester en forme, puis est représentée en train d’effectuer une série d’exercices limités ou absurdes et de donner des conseils sur une alimentation saine tout en consommant de la malbouffe. Dans l’interview originale, elle n’a parlé ni d’alimentation saine ni d’exercice physique, mais a abordé l’importance de l’éducation à la santé menstruelle concernant des pathologies telles que l’endométriose chez les femmes et les filles.

La publication a été vue plus de 5 000 fois et a reçu plus de 200 réactions et plus de 50 commentaires. De nombreux commentaires publiés sous la vidéo par différents utilisateurs tournent en ridicule l’apparence de la femme, principalement son poids et le fait qu’elle porte un hijab.

Les signalements de l’utilisateur qui a fait appel auprès du Conseil n’ont pas été considérés comme prioritaires aux fins d’examen. Meta a depuis confirmé au Conseil que le maintien de la publication sur la plateforme sans y apposer d’étiquette indiquant qu’elle avait été générée par l’IA était conforme à ses politiques. Ce n’est que lorsque le Conseil a posé des questions au sujet de quatre commentaires dénigrants publiés sous la publication que Meta a pris des mesures pour les supprimer, confirmant qu’ils enfreignaient l’interdiction des comparaisons déshumanisantes prévue par sa politique en matière d’intimidation et de harcèlement. En réponse aux questions du Conseil, Meta a déclaré n’avoir identifié aucun autre cas où elle avait pris des mesures à l’encontre de vidéos deepfake représentant cette femme au cours de la période concernée.

L’IA générative a créé de nouveaux risques en ligne, en particulier pour les femmes et les filles, les abus gagnant en ampleur, en rapidité et en gravité. Un rapport d’ONU Femmes publié en 2025 a révélé que 38 % des femmes dans 51 pays avaient personnellement été victimes d’abus en ligne, notamment de cyberharcèlement. Le rapport souligne que « les outils d’IA grand public peuvent […] avoir des conséquences imprévues en amplifiant les biais ou en exacerbant la violence et les abus. Par exemple, les outils d’IA grand public peuvent être utilisés pour générer des campagnes de désinformation ou pour créer et diffuser automatiquement et à grande échelle des contenus haineux et des campagnes de harcèlement. » De nombreuses attaques sont « souvent délibérées et coordonnées et visent à réduire au silence les femmes dans la vie publique ».

Un rapport publié en 2026 par le Groupe de travail des Nations Unies sur la discrimination à l’égard des femmes et des filles explique que « la violence fondée sur le genre facilitée par la technologie ne constitue pas un ensemble isolé d’abus en ligne, mais un outil structurel de discrimination qui restreint la participation des femmes et des filles à la vie publique, politique et civique. La violence virtuelle reflète et amplifie souvent les schémas de violence et de répression observés dans les espaces publics physiques. En poussant les femmes et les filles à quitter les espaces numériques, la violence fondée sur le genre facilitée par la technologie perpétue les inégalités, porte atteinte à leur autonomie et affaiblit les conditions nécessaires à une participation démocratique inclusive, menaçant ainsi leurs droits humains en contradiction avec les exigences de l’article 19 du Pacte international relatif aux droits civils et politiques… » ( A/HRC/62/48, paragraphe 49). Le Haut-Commissariat des Nations Unies aux droits de l’homme (HCDH) a signalé en 2026 que 70 % des femmes en Amérique du Nord et en Europe avaient été confrontées à des formes de violence fondée sur le genre facilitée par la technologie, notamment au harcèlement en ligne. Les commentaires publics relatifs à ce cas mettent également en évidence les difficultés particulières auxquelles sont confrontées les femmes qui s’expriment sur des sujets considérés comme « tabous » dans certains contextes liés au genre et à la santé sexuelle (voir PC-32637 – Charlotte Manson, City Law School).

En janvier 2026, la Commission des femmes et de l’égalité du Parlement britannique a constaté que les femmes musulmanes visiblement identifiables par leur hijab sont visées de manière disproportionnée par le harcèlement, aussi bien en ligne que dans l’espace public, et qu’elles subissent une « triple peine » cumulative liée à leur origine ethnique, à leur genre et à leur religion. Selon la commission, cela entraîne « des comportements d’autocensure et un retrait de la participation à la vie publique ».

2. Soumissions des utilisateurs

Dans son appel auprès du Conseil, l’utilisateur qui avait signalé le contenu afin d’en demander la suppression a déclaré que celui-ci utilisait l’IA pour générer l’effigie d’une femme sans son consentement, fabriquer du contenu trompeur et l’humilier publiquement en raison de son engagement.

3. Politiques de Meta relatives au contenu et soumissions

Le Standard de la communauté de Meta relatif à l’intimidation et au harcèlement indique que l’intimidation et le harcèlement peuvent prendre de nombreuses formes et que l’entreprise « ne tolère pas ce type de comportement, car il empêche les personnes de se sentir en sécurité et respectées… » La politique prévoit quatre niveaux de protection en fonction de la gravité de l’attaque, du statut de personnalité publique de la personne ciblée et du fait qu’elle soit majeure ou mineure. Si toutes les personnes sont protégées contre les attaques les plus graves (niveau 1), les personnes privées, les personnalités publiques à portée limitée et les personnes mineures bénéficient de protections supplémentaires contre les attaques moins graves (niveaux 2 à 4). Autrement dit, la politique de Meta adapte le niveau de protection accordé aux personnes moins exposées au regard du public et/ou vulnérables en raison de leur âge.

Déclarations d’infériorité relatives à l’apparence physique

Toutes les personnes sont protégées contre les « déclarations d’infériorité relatives à l’apparence physique » au titre du niveau 1 de la politique relative à l’intimidation et au harcèlement. Le niveau 1 est la catégorie d’abus la plus grave et protège tout le monde : les personnalités publiques, les personnes privées et les mineurs. Meta a estimé que la publication n’enfreignait pas cette règle. Bien que la juxtaposition d’activités liées à la santé et de la consommation d’aliments mauvais pour la santé puisse être interprétée comme un commentaire implicite sur l’apparence de la femme représentée, Meta a estimé que la publication ne contenait aucune affirmation explicite attaquant son apparence physique ou la présentant directement comme inférieure.

Images manipulées indésirables

Les « images manipulées indésirables » sont supprimées au titre du niveau 3 lorsque trois conditions sont réunies.

Premièrement, cette protection n’est accordée qu’aux personnes privées ou aux mineurs qui sont des personnalités publiques involontaires. La justification de la politique de Meta indique que ce niveau de protection va plus loin afin de protéger les personnes privées contre le fait d’être « dégradées » ou « humiliées ». Meta justifie cette distinction concernant les personnalités publiques par sa volonté de « permettre la discussion, qui comprend souvent des commentaires critiques à l’égard de personnes qui font l’actualité ou qui disposent d’une large audience publique ». La politique définit les personnalités publiques comme « les représentants des gouvernements aux niveaux étatique et national, les candidats politiques à ces fonctions, les personnes comptant plus d’un million de fans ou d’abonnés sur les réseaux sociaux et les personnes bénéficiant d’une importante couverture médiatique ». Les « personnalités publiques à portée limitée », qui comprennent « les personnes dont la notoriété tient principalement à leur militantisme ou à leur activité journalistique, ainsi que celles qui deviennent célèbres de manière involontaire », ne bénéficient pas non plus d’une protection contre les attaques de niveau 3. Dans ce cas, Meta indique avoir considéré la femme ciblée comme une personne privée, et non comme une personnalité publique ou une personnalité publique à portée limitée. Elle pouvait donc bénéficier d’une protection contre les images manipulées indésirables.

Deuxièmement, la personne ciblée doit indiquer que les images manipulées sont indésirables en signalant elle-même le contenu. La politique indique que le fait que la personne concernée effectue elle-même le signalement aide l’entreprise à « comprendre que la personne ciblée se sent victime d’intimidation ou de harcèlement ». Meta a confirmé que la femme ciblée n’avait pas signalé cette publication ; cette condition n’était donc pas remplie.

Troisièmement, le contenu doit constituer une « image manipulée », notion qui n’est pas définie publiquement dans la politique. Cependant, Meta a indiqué au Conseil que cette règle ne couvre que les manipulations numériques qui modifient l’apparence d’une personne, et non les représentations de ses actes. Dans ce cas, le contenu comporte des représentations synthétiques de la femme lui faisant dire des choses qu’elle n’a pas dites et faire des choses qu’elle n’a pas faites. Selon Meta, son apparence n’ayant fait l’objet d’aucune modification numérique, le contenu ne constituait donc pas une « image manipulée » au sens de la politique.

Harcèlement de masse ciblé

En dehors des quatre niveaux de protection, le Standard de la communauté de Meta relatif à l’intimidation et au harcèlement indique également que Meta peut supprimer les contenus relevant du « harcèlement de masse dirigé » lorsqu’ils ciblent des « personnes présentant un risque accru de préjudice hors ligne », notamment les défenseurs des droits humains. Meta indique que l’application de cette politique nécessite « des éléments de contexte supplémentaires » (c’est-à-dire qu’elle n’est pas appliquée à grande échelle, mais uniquement par des équipes internes spécialisées). Bien que Meta indique que la personne ciblée répond à sa définition d’une défenseure des droits humains, l’entreprise n’a pas estimé que cette publication et les publications similaires la visant constituaient une incitation à se livrer au harcèlement. Selon Meta, aucun effort organisé n’a été déployé pour diriger des personnes vers son profil ou pour les inciter à produire collectivement du contenu en infraction.

Le Conseil a interrogé Meta sur les mécanismes de signalement des contenus relevant de l’intimidation et du harcèlement, les campagnes coordonnées de harcèlement en ligne et l’application des règles aux vidéos d’intimidation et de harcèlement générées par l’IA. Meta a répondu à toutes les questions.

4. Commentaires publics

Le Conseil a reçu trois commentaires publics qui répondent aux critères de soumission. L’un des commentaires a été soumis depuis l’Asie centrale et du Sud, un autre depuis les États-Unis et le Canada, et un dernier depuis l’Europe. Pour consulter les commentaires publics soumis accompagnés d’un consentement à la publication, cliquez ici.

Les soumissions portaient notamment sur les thèmes suivants : la désinformation fondée sur le genre et le harcèlement généré par l’IA, l’exigence de Meta en matière de signalement des contenus relevant de l’intimidation et du harcèlement, l’impact du harcèlement en ligne sur les débats publics et la défense des droits humains, ainsi que les obstacles à l’accès aux informations sur la santé sexuelle.

5. Analyse du Conseil de surveillance

Le Conseil a sélectionné ce cas afin d’examiner la manière dont les vidéos générées par l’IA transforment la nature du harcèlement en ligne, leurs répercussions sur les droits des utilisateurs de Meta ainsi que leurs implications pour les droits des femmes et des filles à la liberté d’expression et à la participation. Ce cas relève de deux des sept priorités stratégiques du Conseil : Automatisation et IA, et Genre.

5.1 Respect des politiques de Meta relatives au contenu

I. Règles relatives au contenu

Selon la majorité du Conseil, cette vidéo enfreint à plusieurs égards le Standard de la communauté relatif à l’intimidation et au harcèlement. Dans la justification de son Standard de la communauté relatif à l’intimidation et au harcèlement, Meta indique supprimer les contenus qui visent à « dégrader ou humilier » les personnes privées. Il est difficile d’interpréter l’objectif et l’effet de ce contenu autrement que comme une tentative délibérée de dégrader et d’humilier une femme en raison de son apparence et en réaction à son engagement en faveur des questions de santé des femmes.

Déclarations d’infériorité relatives à l’apparence physique

La majorité estime que la vidéo générée par l’IA constitue une « déclaration d’infériorité » en infraction portant sur l’apparence physique de la femme ciblée. Elle prétend à tort que la femme occupe une fonction gouvernementale dans le domaine de la santé (en tant qu’« ambassadrice » de son pays), afin de créer une contradiction apparente entre cette affirmation, sa corpulence et son état de santé physique supposé. En représentant de manière réaliste son effigie en train d’effectuer des exercices absurdes et de consommer de la malbouffe, la vidéo formule une déclaration d’infériorité très claire et explicite fondée sur son apparence et visant à l’humilier.

Pour la majorité, il est préoccupant que Meta n’ait pas interprété ce contenu comme une déclaration d’infériorité « explicite », notamment parce que ses propres règles ne précisent pas que le caractère « explicite » constitue une condition nécessaire pour constater une infraction. Bien que le constat d’une infraction dans ce cas repose sur une déduction tirée du contraste entre une fausse affirmation et une représentation visuelle, l’effet produit n’est ni ambigu ni subtil. L’accessibilité accrue et les capacités croissantes des outils d’IA générative décuplent la possibilité de fabriquer et de diffuser des accusations infondées d’hypocrisie. Le Conseil a déjà remis en question l’application déficiente par Meta de ses règles aux contenus visuels, estimant que l’entreprise adoptait une approche trop littérale ou procédait à une analyse contextuelle insuffisante lorsqu’elle ne constatait pas d’infraction directe dans des vidéos ou des images (voir : Knin Cartoon ; Publication en polonais visant les personnes trans ; Contenu visant une personne défendant les droits humains au Pérou). L’écart entre l’application par Meta de ses règles aux contenus visuels et aux contenus écrits est illustré ici par la suppression, à la suite des questions du Conseil, de quatre commentaires publiés sous la publication qui contenaient des comparaisons déshumanisantes visant la femme. Selon le Conseil, ces commentaires n’étaient pas plus explicites que le message véhiculé par la vidéo, donnant ainsi l’impression d’une application arbitraire des règles par Meta. Étant donné que les plateformes de Meta sont de plus en plus conçues pour favoriser les contenus visuels et que la modération façonne la manière dont les personnes communiquent sur ces plateformes, cette approche consistant à ne supprimer que les déclarations d’infériorité « explicites » est inadéquate. Les attaques voilées, les menaces et les insultes sont très répandues sur les réseaux sociaux, et l’incapacité ou le refus de Meta d’y faire face crée d’importantes lacunes dans l’application de ses règles et la protection des utilisateurs contre l’intimidation et le harcèlement.

Bien que certains puissent considérer cette publication comme une tentative de satire ou d’humour, Meta a choisi de ne pas prévoir d’exception pour l’humour dans son Standard de la communauté relatif à l’intimidation et au harcèlement. Toute prétendue hypocrisie que cette publication cherche à mettre en évidence entre le rôle public qui lui est faussement attribué (elle ne faisait en réalité pas la promotion d’une alimentation saine ou de l’exercice physique) et son apparence physique vise clairement à intimider et à ridiculiser cette personne en raison de son apparence.

Images manipulées indésirables

Selon la majorité du Conseil, si la femme représentée avait découvert et signalé la publication, celle-ci aurait enfreint la politique relative aux images manipulées indésirables. La règle considère le signalement par la personne concernée comme le seul indicateur permettant d’établir qu’une image manipulée est « indésirable » ou non consensuelle. Cela fait peser sur les personnes victimes d’intimidation la lourde charge de devoir effectuer elles-mêmes le signalement (voir PC-32633 – Center for Reproductive Rights ; PC-32637 – Charlotte Manson, City Law School), et cette condition n’était pas remplie. Néanmoins, la majorité conteste l’interprétation de Meta selon laquelle, même si la femme avait signalé la publication, celle-ci n’aurait toujours pas enfreint cette règle. Une interprétation littérale de l’expression « images manipulées » englobe la falsification des propos ou des actes d’une personne et ne se limite pas à la manipulation de son apparence physique. L’objectif poursuivi par la distinction établie par Meta entre la manipulation de l’apparence et celle des actes n’est pas clair. La falsification des propos et des actes, comme dans le présent cas, peut dégrader ou humilier une personne en raison de son apparence tout aussi gravement, voire davantage, que des représentations fictives et exagérées de celle-ci (voir PC-32635 – Digital Rights Foundation). Comme l’a montré le cas Vidéo modifiée du président Biden relatif à la politique de Meta en matière de fausses informations, des consignes d’application élaborées en réponse aux tendances de contenu d’une époque peuvent rapidement être dépassées par les avancées technologiques. Les progrès réalisés dans le domaine des vidéos hyperréalistes générées par l’IA, même depuis que le Conseil a statué sur le cas Biden, montrent que les règles de Meta relatives à l’intimidation et au harcèlement doivent elles aussi être mises à jour.

Harcèlement de masse ciblé

Le Conseil convient avec Meta que la militante représentée est une défenseure des droits humains et reconnaît que cette publication ne coordonnait pas explicitement le harcèlement à son encontre et ne donnait pas non plus d’instructions visant à l’organiser. Toutefois, la majorité du Conseil estime que la conclusion de Meta repose sur une interprétation excessivement restrictive de ce que recouvre le harcèlement de masse « dirigé » à l’ère numérique. Plusieurs comptes influents sur les réseaux sociaux ont participé aux abus, attirant de fait une attention hostile sur elle et provoquant un véritable déferlement d’attaques auquel la publication concernée par ce cas a contribué, avec toutes les caractéristiques d’un harcèlement de masse. Dans le cadre de ses propres recherches, le Conseil a constaté que le nombre de contenus relayant la fausse affirmation selon laquelle cette femme occupait un poste officiel au sein du gouvernement avait atteint un pic d’environ 250 en une seule journée, pour un total de plus de 1 000 sur la période étudiée. La similitude entre de nombreux groupes de publications présentant des légendes identiques ou quasi identiques constitue un indice de coordination et aurait certainement été vécue comme une forme de harcèlement de masse par la femme ciblée. Ce niveau de coordination constitue un indice supplémentaire d’une intention de harcèlement et révèle un problème structurel dans les systèmes d’application de Meta, qui ne fournissent pas aux utilisateurs d’outils spécifiques leur permettant de signaler collectivement plusieurs publications faisant partie d’une campagne en infraction. Le Conseil a également relevé des exemples sur la plateforme de réseaux sociaux X où des utilisateurs ayant demandé au chatbot d’IA Grok si les fausses affirmations étaient vraies ont reçu des réponses indiquant qu’elles l’étaient.

Le Conseil convient que Meta a eu raison de supprimer les commentaires publiés sous cette publication qui comportaient des comparaisons déshumanisantes directes, même si elle ne l’a fait qu’après que le Conseil les a portés à son attention. Pour la majorité, la nature de ces commentaires montre que le public avait compris le sens de la publication d’origine et avait choisi de se joindre à son auteur pour participer au harcèlement de masse visant la femme ciblée. D’autres membres du Conseil reconnaissent que ces commentaires étaient en infraction, mais soulignent que le contenu d’une publication ne devrait pas être évalué en fonction des commentaires qu’elle suscite de la part d’autres personnes.

Pour une minorité du Conseil, la publication n’enfreint pas le Standard de la communauté relatif à l’intimidation et au harcèlement, car elle ne contient aucune « déclaration d’infériorité relative à l’apparence physique ». Interpréter cette règle comme couvrant également les déductions, ainsi que le fait la majorité, revient à lui donner une portée excessivement large en privilégiant une interprétation contextuelle par rapport à d’autres tout aussi plausibles. La vidéo s’inscrit dans un débat public en cours sur l’apparente contradiction entre le fait qu’une personne apparaisse dans les médias pour promouvoir un mode de vie sain et le fait qu’elle ne semble pas elle-même se conformer à cet idéal. Pour la minorité, cette manière de dénoncer une hypocrisie perçue peut être cruelle ou malveillante, mais elle ne va pas jusqu’à affirmer une infériorité, c’est-à-dire à présenter cette femme comme inférieure en raison de son apparence physique. En outre, pour une minorité du Conseil, la femme ciblée ne bénéficie pas des protections de niveau 3 relatives aux images manipulées indésirables, non pas pour les raisons avancées par Meta, mais parce qu’elle est une « personnalité publique à portée limitée » et non une personne privée. Cela tient à son rôle public au sein d’une organisation de défense d’une cause et à ses apparitions dans les médias nationaux à ce titre. Pour ces membres du Conseil, le nombre de publications similaires n’est pas pertinent pour établir une infraction au titre du harcèlement de masse ciblé, puisque cette publication n’atteint pas le seuil fixé par Meta pour constituer une violation de sa politique relative à l’intimidation et au harcèlement.

5.2 Respect des responsabilités de Meta en matière de droits humains

La majorité du Conseil estime que les responsabilités de Meta en matière de droits humains justifient la suppression de cette publication. Une minorité estime que ce n’est pas le cas.

1. Liberté d’expression (article 19 du PIDCP)

Lorsque des restrictions de la liberté d’expression sont imposées par un État, elles doivent remplir des critères de légalité, d’objectif légitime, et de nécessité et de proportionnalité (article 19, paragraphe 3, Pacte international relatif aux droits civils et politiques (PIDCP)). Ces exigences sont souvent reprises sous l’intitulé « test tripartite ». Le Conseil s’appuie sur ce test afin d’interpréter les responsabilités de Meta en matière de droits humains conformément aux Principes directeurs relatifs aux entreprises et aux droits de l’homme de l’ONU, que Meta elle-même s’est engagée à respecter dans sa Politique relative aux droits humains. Comme l’a déclaré le Rapporteur spécial de l’ONU sur la liberté d’expression, même si « les entreprises ne sont pas soumises aux mêmes devoirs que les gouvernements, leur influence est néanmoins telle qu’elle doit les inciter à se poser les mêmes questions qu’eux quant à la protection de la liberté d’expression de leurs utilisateurs » (A/74/486, paragraphe 41).

I. Légalité (clarté et accessibilité des règles)

Le principe de légalité prévoit que les règles qui limitent la liberté d’expression soient accessibles, claires et suffisamment précises pour permettre à un individu d’adapter son comportement en fonction (Observation générale n° 34, paragraphe 25). En outre, ces règles ne peuvent pas « conférer aux personnes chargées de [leur] application un pouvoir illimité de décider de la restriction de la liberté d’expression » et doivent « énoncer des règles suffisamment précises pour permettre aux personnes chargées de leur application d’établir quelles formes d’expression sont légitimement restreintes et quelles formes d’expression le sont indûment » (Ibid). Le Rapporteur spécial des Nations Unies sur la liberté d’expression a déclaré que lorsqu’elles s’appliquent aux acteurs privés, les règles régissant le discours en ligne devaient être claires et précises (A/HRC/38/35, paragraphe 46). Les personnes qui utilisent les plateformes de Meta devraient pouvoir accéder aux règles et les comprendre, et les équipes d’examen de contenu devraient disposer de consignes claires sur leur application.

La majorité du Conseil a estimé que les règles de Meta étaient suffisamment claires pour parvenir aux conclusions de ce cas, mais relève trois domaines dans lesquels les consignes internes confidentielles de Meta doivent être mises à jour afin de mieux refléter la manière dont ses règles sont présentées au public. Cela pourrait contribuer à garantir une application plus précise des règles et à réduire l’impression d’arbitraire dans l’interprétation qu’en fait Meta.

Premièrement, des consignes claires devraient indiquer aux équipes chargées de l’examen que les « déclarations d’infériorité relatives à l’apparence physique » doivent inclure les infractions commises au moyen d’images et de vidéos, ainsi que par écrit ou oralement. Il serait utile de fournir aux équipes chargées de l’examen des exemples précis montrant comment les deepfakes peuvent relever de cette catégorie.

Deuxièmement, l’arbitraire résultant du décalage entre la lettre de la politique et les consignes d’application ne fera que s’accentuer à mesure que les contenus générés par l’IA se généraliseront, ce qui montre qu’une modification de la politique est nécessaire. Meta devrait préciser que sa politique relative aux images manipulées indésirables englobe la manipulation non consensuelle des propos ou des actes d’une personne, et la règle publique devrait être mise à jour afin de l’indiquer explicitement. Si une personne est faussement représentée dans une image manipulée comme étant humiliée, dégradée ou en train de commettre un acte illégal, la politique devrait s’appliquer.

Troisièmement, Meta devrait clarifier les exigences de sa règle relative au « harcèlement de masse dirigé ». Comme indiqué ci-dessous, Meta devrait améliorer son approche en matière de détection et de suppression des campagnes de harcèlement de masse telles que celle illustrée par ce cas, ce qui pourrait nécessiter à la fois des modifications de sa politique et de son application.

II. Objectif légitime

Toute restriction à la liberté d’expression doit également poursuivre un ou plusieurs des objectifs légitimes énoncés dans le PIDCP, notamment la protection des droits d’autrui (article 19, paragraphe 3 du PIDCP). Le Standard de la communauté relatif à l’intimidation et au harcèlement vise à protéger les droits d’autrui, notamment leurs droits à la vie privée, à la réputation et à la participation à la vie publique (articles 17 et 25 du PIDCP), ainsi qu’à la santé physique et mentale (article 12 du Pacte international relatif aux droits économiques, sociaux et culturels).

III. Nécessité et proportionnalité

Conformément à l’article 19(3) du PIDCP, le principe de nécessité et de proportionnalité requiert que les restrictions de la liberté d’expression soient « appropriées pour remplir leur fonction de protection, elles doivent constituer le moyen le moins perturbateur parmi ceux qui pourraient permettre d’obtenir le résultat recherché et elles doivent être proportionnées à l’intérêt à protéger » (Observation générale n° 34, paragraphe 34).

Il est important de commencer cette analyse par les droits de la femme ciblée par cette campagne de harcèlement, ainsi que par le droit des personnes à recevoir les informations importantes sur la santé sexuelle et reproductive qu’elle était venue présenter dans les médias. Il est établi depuis longtemps que les femmes qui participent au débat public en ligne, en particulier lorsqu’elles sont exposées au regard du public et appartiennent à des minorités religieuses ou ethniques, sont confrontées à des niveaux de harcèlement et d’abus sur les réseaux sociaux bien plus élevés que les autres personnes (voir PC-32635 ; voir « #Toxictwitter: violence and abuse against women online », rapport d’Amnesty International, novembre 2018 ; « No Excuse for Abuse », rapport de PEN America, mars 2021).

À mesure que les capacités de génération de vidéos réalistes par l’IA se développent rapidement et permettent d’imiter plus facilement d’autres personnes en ligne, l’utilisation de ces outils pour intimider et harceler des personnes qui défendent des opinions impopulaires ou mal considérées, ainsi que des membres de groupes marginalisés, s’est accrue. Cela ne crée pas nécessairement de nouvelles formes de préjudice liées à l’intimidation et au harcèlement nécessitant des normes différentes pour y remédier, mais engendre des difficultés supplémentaires liées à l’ampleur du phénomène, à la crédibilité des contenus créés par des applications d’IA générative en rapide évolution, ainsi qu’aux conséquences plus graves du recours à des effigies hyperréalistes et trompeuses pour intimider ou harceler une personne et lui porter préjudice. Ces effets sont amplifiés par les mécanismes d’incitation des plateformes, notamment les algorithmes fondés sur l’engagement et les programmes de monétisation.

Pour une majorité des membres du Conseil, les responsabilités de Meta en matière de droits humains exigent une approche plus rigoureuse, afin que des contenus tels que la vidéo générée par l’IA dans ce cas soient supprimés lorsqu’ils enfreignent la politique relative à l’intimidation et au harcèlement. Pour une minorité, bien qu’elle soit également préoccupée par les effets de l’intimidation et du harcèlement, des mesures moins restrictives que la suppression, telles que l’étiquetage, la rétrogradation ou la démonétisation, pourraient être utilisées si ce type de contenu était considéré comme étant en infraction. La minorité estime que ces mesures sont davantage conformes aux responsabilités de Meta en matière de droits humains et nécessaires pour éviter des restrictions excessivement larges à la liberté d’expression.

Pour la majorité du Conseil, la suppression est nécessaire, car aucune mesure moins restrictive ne permettrait d’assurer un niveau de protection suffisant. Dans ce cas, le préjudice ne découle pas principalement de la tromperie, mais de l’utilisation malveillante de l’effigie réaliste d’une personne comme moyen de l’humilier et de donner d’elle une image trompeuse. Ce préjudice ne peut pas être atténué au moyen d’écrans d’avertissement, de l’étiquetage ou de la rétrogradation du contenu, car ces mesures permettraient au contenu relevant du harcèlement de rester présent sur la plateforme. En outre, les étiquettes sont rarement appliquées et ne créent pas d’obstacle supplémentaire ni ne ralentissent la diffusion de ce type de contenu, sauf lorsque celui-ci est évalué par des organismes tiers de vérification des faits (voir : Contenu généré par l’IA dans le conflit Israël-Iran).

La suppression est également proportionnée, car les bénéfices de cette restriction pour la vie privée et la réputation de la femme ciblée, ainsi que pour son droit à participer à la vie publique, l’emportent sur toute atteinte à la liberté d’expression de l’utilisateur dont le contenu est supprimé.

Il n’existe que peu, voire aucun, intérêt public à ce que ce contenu puisse être diffusé sans restriction. La majorité du Conseil estime que la femme n’a commis aucun acte répréhensible et n’a fait preuve d’aucune hypocrisie ; le contenu déforme malicieusement sa position afin de l’attaquer et ne répond en rien au fond de ses arguments. En outre, la personne ciblée par les abus est une personne privée. Elle n’est ni une personnalité publique exerçant une fonction officielle ni, à un autre titre, une personne occupant une position de pouvoir qui exigerait d’elle une plus grande tolérance à l’égard de telles attaques (Observation générale n° 34, op. cit., par. 38). Même après la suppression de cette publication, l’utilisateur qui a publié le contenu reste libre d’aborder les mêmes sujets que ceux évoqués par la femme dans les médias, sans se livrer à des attaques personnelles sans rapport avec le sujet. À l’inverse, les informations que la femme a partagées dans les médias sur la santé sexuelle et reproductive, ainsi que la critique connexe de la politique éducative du gouvernement, présentent un intérêt public important.

Les recherches du Conseil ont révélé que des publications similaires au contenu examiné dans ce cas, dont plusieurs avaient également été générées par l’IA, avaient été publiées par de nombreux comptes distincts sur Facebook et Instagram, ainsi que sur des plateformes autres que celles de Meta, souvent avec des légendes identiques ou quasi identiques. Si de nombreuses autres plateformes de réseaux sociaux ont adopté, comme Meta, une position tout aussi opaque quant à leur traitement de contenus comparables générés par l’IA et utilisés pour harceler une personne, notamment X et YouTube, certaines ont défini plus explicitement leurs garde-fous. Par exemple, TikTok dispose de règles qui interdisent les effigies créées par l’IA (définies comme « une représentation reconnaissable d’une personne sous forme d’image, de vidéo ou de contenu audio, notamment de son visage, de son corps, de sa voix et de ses gestes ») créées dans le but d’intimider ou de harceler une personne, et qui exigent que les contenus générés par l’IA donnant l’impression qu’une personne dit ou fait quelque chose qu’elle n’a pas dit ou fait soient signalés comme tels. De tels abus, en particulier lorsqu’ils sont produits à grande échelle et sur plusieurs plateformes, ont des conséquences psychologiques sur les personnes ciblées qui peuvent affecter leur santé, précéder des actes de harcèlement et de violence en personne et, de fait, les contraindre à se retirer du débat public. Cette situation est encore aggravée pour les personnes telles que la femme représentée, qui s’expriment publiquement sur des questions de santé sexuelle et reproductive. Cela a un effet dissuasif non seulement sur la liberté d’expression de la personne ciblée, portant atteinte au droit de recevoir des informations des personnes constituant le public auquel elle s’adresse, mais aussi, potentiellement, sur celle des témoins de ces abus, qui intériorisent les risques liés à la participation au débat public. Un environnement permissif à l’égard de tels abus risque non seulement de les banaliser, mais aussi de renforcer la marginalisation qu’ils cherchent à imposer. Les préjudices et les répercussions de tels contenus, notamment les images ou vidéos manipulées numériquement représentant une personne ciblée, s’étendent souvent à l’ensemble d’un groupe et, plus largement, à la communauté, portant atteinte à plusieurs droits humains et affaiblissant la participation inclusive à la vie publique en raison de cet effet dissuasif (voir PC-32637 – Charlotte Manson, City Law School ; A/HRC/62/48). Ce cas s’appuie sur la décision Vidéo sexualisée générée par l’IA et signalée pour préciser que les préjudices causés par les « deepfakes » ne se limitent pas au harcèlement prenant la forme de contenus sexualisés non consensuels.

Alors que plusieurs cas examinés par le Conseil se sont concentrés sur des imitations sexualisées de femmes générées par l’IA, ce cas montre que les droits des utilisateurs peuvent également être gravement enfreints par des imitations synthétiques non sexualisées. Ce deepfake a été publié dans le cadre d’une campagne de harcèlement en ligne plus vaste, dans laquelle l’utilisateur à l’origine de la publication est allé plus loin que beaucoup d’autres : au lieu de simplement exprimer une opinion, il a publié un deepfake particulièrement malveillant par ses effets dégradants et humiliants. L’effet cumulé de cette intimidation ou de ce harcèlement de masse sur la vie privée et la dignité de cette personne visait à la contraindre à se retirer du débat public.

Pris dans leur ensemble, de tels contenus ont également des répercussions sur la société, en envoyant aux autres femmes et filles, en particulier à celles qui lui ressemblent, un message clair les incitant à ne pas s’exprimer publiquement. Selon les commentaires publics reçus par le Conseil, ce cas illustre « un phénomène plus large dans lequel les femmes et les filles qui s’expriment publiquement sur des questions liées à la santé, à l’égalité des genres et aux droits sexuels et reproductifs sont exposées de manière disproportionnée au harcèlement fondé sur le genre, aux contenus manipulés et à la désinformation » (voir PC-32633 – Center for Reproductive Rights). Cette forme de contenu généré par l’IA peut effectivement réduire au silence les femmes et les filles, en particulier celles dont l’appartenance religieuse est visible, et les dissuader de s’exprimer sur des questions susceptibles d’être considérées comme taboues ou controversées au sein de leur communauté. Pour la majorité, si la solidarité avec les victimes au moyen de contre-discours doit être encouragée, elle ne constitue pas une solution à l’intimidation et au harcèlement. C’est particulièrement le cas dans certaines régions du monde où la censure gouvernementale, la stigmatisation sociale et le manque de ressources dont disposent la société civile ou les médias indépendants ne garantissent pas les conditions nécessaires au contre-discours. En outre, ces conditions ne sont pas garanties pour les autres personnes marginalisées présentes sur la plateforme.

Pour une minorité du Conseil, la suppression n’était ni nécessaire ni proportionnée. S’il est légitime de désapprouver le comportement de l’utilisateur dans ce cas, voire de le condamner, il existe néanmoins, de manière générale, un intérêt public à pouvoir commenter de façon critique l’actualité et les personnes qui y figurent. Cela implique de défendre des propos qui, comme dans le présent cas, peuvent être répréhensibles, voire insultants ou malveillants dans certains cas. Dans ce contexte, la censure ne ferait probablement qu’accentuer les divisions, en particulier si certaines personnes ont le sentiment que des critiques visant des personnes exposées au public sont supprimées en raison d’une divergence de point de vue. La minorité relève que la personne ciblée dans ce cas s’est exprimée publiquement après cette expérience et qu’un nombre considérable de personnalités de premier plan ont pris sa défense, dénonçant publiquement ses agresseurs au moyen de contre-discours. La minorité craint que, si Meta tentait d’appliquer à grande échelle la décision prise par la majorité dans ce cas, cela n’entraîne des restrictions excessivement larges à la liberté d’expression ainsi qu’une utilisation abusive potentielle de la politique relative à l’intimidation et au harcèlement par des personnes au pouvoir afin de faire taire les critiques légitimes. Selon la minorité, la formulation restrictive de certaines règles de Meta relatives à l’intimidation et au harcèlement est proportionnée afin d’éviter de tels excès, et le droit international des droits humains n’impose pas à l’entreprise d’adopter une approche plus restrictive.

2. Accès à un recours

Comme dans de nombreux cas antérieurs concernant des utilisations de vidéos générées par l’IA en infraction (voir Images explicites générées par l’IA représentant des personnalités publiques féminines ; Vidéo sexualisée générée par l’IA et signalée), Meta n’a pas donné la priorité à l’examen du contenu concerné par ce cas, que ce soit en première instance ou en appel. Le Conseil est vivement préoccupé par le nombre de signalements d’utilisateurs concernant des contenus en infraction que les classificateurs considèrent comme nécessitant un examen manuel, mais qui n’en font finalement l’objet d’aucun. Cette situation est particulièrement préoccupante dans les cas d’intimidation et de harcèlement, où l’absence d’examen des contenus peut gravement nuire aux victimes, tandis que le fait d’ignorer des signalements valides d’utilisateurs sape la confiance dans les systèmes de modération des contenus de Meta. Les progrès réalisés dans l’utilisation de l’automatisation pour la modération des contenus pourraient permettre de réduire considérablement le nombre de signalements d’utilisateurs qui ne font pas l’objet d’un examen, en particulier dans les cas les plus simples, et ainsi de libérer des capacités d’examen pour les cas plus complexes sur le plan contextuel ou nécessitant une expertise spécialisée.

Le Conseil réitère sa préoccupation quant au fait que les victimes de harcèlement doivent souvent assumer elles-mêmes la charge de signaler les contenus, une difficulté aggravée par l’absence d’outils de signalement par des tiers, en particulier lorsque le harcèlement devient viral (voir : Vidéos sur le débat autour de l’identité de genre). Ces difficultés sont particulièrement aiguës pour les femmes dans certaines régions du monde, notamment pour celles qui portent le hijab ou dont l’appartenance religieuse est visible, où leur autonomie est restreinte par l’effet conjugué de multiples normes sociales, formes de discrimination et même de violence.

À mesure que Meta met à jour ses politiques et ses consignes afin de garantir que ces contenus soient considérés comme étant en infraction, y compris lorsqu’ils se présentent sous une forme visuelle et ne contiennent pas nécessairement de déclarations explicites ou littérales, il est important que ses systèmes soient entraînés à donner la priorité à l’examen de ces publications et que des ressources suffisantes soient effectivement mises à disposition afin d’éviter que les signalements ne soient automatiquement clôturés faute de capacité d’examen. Lorsque des personnes sont victimes de harcèlement de masse, des outils devraient permettre de faciliter le signalement des infractions connexes, lesquelles devraient être traitées en priorité et examinées conjointement afin de disposer de l’ensemble du contexte.

6. Décision du Conseil de surveillance

Une majorité du Conseil annule la décision de Meta de maintenir le contenu en ligne et exige la suppression de la publication.

7. Recommandations

Politique de contenu

1. Pour combler cette lacune dans la politique relative à l’intimidation et au harcèlement, Meta devrait définir publiquement les « images manipulées indésirables » comme incluant les deepfakes représentant une personne privée disant ou faisant des choses qu’elle n’a ni dites ni faites, ainsi que la manipulation de l’apparence d’une personne.

Le Conseil considérera cette recommandation comme mise en œuvre lorsque la politique aura été publiquement mise à jour pour y intégrer cette définition.

Mise en application

Le Conseil réitère sa recommandation antérieure formulée dans la décision Ensemble de vidéos sur l’identité de genre, qui préconisait de permettre à des comptes tiers de signaler les contenus relevant de l’intimidation et du harcèlement (recommandation n° 3), soulignant la pertinence de cette recommandation au regard de la question soulevée par ce cas. Le Conseil s’inquiète du fait que, bien qu’il ait formulé cette recommandation il y a largement plus d’un an, la réponse de Meta soit toujours en attente pendant que l’entreprise en évalue la faisabilité. Le Conseil encourage Meta à achever cette évaluation et à mettre en œuvre la recommandation.

2. Afin d’alléger la charge de signalement qui pèse sur les victimes de harcèlement de masse utilisant des deepfakes, Meta devrait ajouter aux banques de correspondance des médias, en vue de leur suppression, les contenus en infraction relevant des « images manipulées indésirables ».

Le Conseil considérera cette recommandation comme mise en œuvre lorsque Meta lui aura fourni la preuve qu’elle est en mesure d’étendre à grande échelle les signalements visant des deepfakes aux contenus identiques.

3. Afin de garantir l’accès à un recours, Meta devrait utiliser les indices signalant des médias générés ou manipulés par l’IA comme indicateur de gravité afin de donner la priorité à l’examen des signalements.

Le Conseil considérera cette recommandation comme mise en œuvre lorsque Meta aura fourni des éléments attestant que la génération par l’IA a été intégrée comme signal permettant de donner la priorité aux files d’attente pour examen manuel relatives à l’intimidation et au harcèlement, et aura communiqué des données sur toute évolution qui en résulte concernant le nombre de signalements pour intimidation et harcèlement clôturés automatiquement.

Note de procédure :

• Les décisions du Conseil de surveillance sont prises par des panels de cinq membres et approuvées par une majorité du Conseil dans son ensemble. Les décisions du Conseil ne représentent pas nécessairement les opinions de tous les membres.
• En vertu de sa Charte, le Conseil de surveillance est habilité à examiner les appels déposés par les utilisateurs dont le contenu a été supprimé par Meta, les appels déposés par les utilisateurs ayant signalé un contenu que Meta n’a finalement pas supprimé, et les décisions que Meta lui transmet (article 2, section 1 de la Charte). Le Conseil dispose d’une autorité contraignante pour confirmer ou annuler les décisions de Meta relatives au contenu (article 3, section 5 de la Charte ; article 4 de la Charte). Le Conseil est habilité à émettre des recommandations non contraignantes auxquelles Meta doit répondre (article 3, section 4 de la Charte ; article 4). Lorsque Meta s’engage à donner suite aux recommandations, le Conseil surveille leur mise en œuvre.

Retour aux décisions de cas et aux avis consultatifs politiques