Vidéo d’IA falsifiant le point de vue sur l’immigration d’une personnalité politique du Royaume-Uni

Résumé

Le Conseil de surveillance a établi qu’une vidéo deepfake d’une personnalité politique locale du Royaume-Uni devait être supprimée de Facebook car contenant des discours haineux contre les réfugiés, ce qui renverse la décision de Meta de la maintenir. Le Conseil a également indiqué que Meta devait entreprendre bien plus d’actions pour traiter de manière efficace les deepfakes de personnalités politiques, y compris en augmentant les sanctions imposées lors du partage de deepfakes nuisibles, afin de protéger les utilisateurs et utilisatrices contre tout risque de tromperie.

Pourquoi c’est important

Cette affaire met en lumière les défis colossaux auxquels les sociétés font face, et auxquels les entreprises de réseaux sociaux doivent répondre : le réalisme croissant des deepfakes montrant de façon trompeuse des élus qui s’expriment sur des questions cruciales et induisant le public en erreur, ainsi que la désinformation qui attise la haine à l'encontre des minorités, notamment des immigrés. Les personnalités politiques, les journalistes et les activistes femmes sont disproportionnellement visées par des deepfakes qui mentent sur leurs opinions, notamment dans le cadre de campagnes de harcèlement, et les personnalités publiques moins notoires comme les élues locales et les activistes manquent souvent de ressources pour y répondre efficacement. La propagation des deepfakes mine la confiance dans toutes les informations publiques et défie les limites de ce qui constitue un discours politique protégé et de ce qui enfreint les règles de Meta sur les fausses informations, les discours haineux et l’intimidation et le harcèlement.

À propos du cas

En novembre 2025, un utilisateur de Facebook a publié une vidéo courte montrant une effigie d’une conseillère municipale du Parti travailliste en Écosse. La vidéo, qui semble générée par l’IA, la représente en train de dire : « Les réfugiés sont les bienvenus ici, même s’ils violent nos femmes, parce que les Blancs le font aussi. »

Le portrait est réaliste, même si vu de plus près il semble artificiel : le son n’est pas totalement synchronisé avec les mouvements du visage, ce qui montre qu’il s’agit d’une falsification. La vidéo faisait partie d’un album contenant une photo de plusieurs femmes nommées lors de protestations contre l’extrême-droite, y compris la conseillère municipale. Ensemble, l’album et la vidéo ont reçu plus de 5 000 vues, plus de 50 commentaires, plus de 20 réactions et plus de 10 partages.

Deux personnes, y compris la personnalité politique représentée, ont signalé la vidéo pour infraction à la Politique de lutte contre le harcèlement et l’intimidation, mais les systèmes de Meta n’ont pas donné la priorité à la publication pour un examen manuel, et elle est restée sur Facebook. Les deux utilisateurs ont fait appel à Meta, mais la publication a été maintenue et n’a pas été examinée par un être humain. L’un des utilisateurs, qui n’est pas la personnalité politique concernée, a alors fait appel auprès du Conseil. Lorsque le Conseil a porté le cas à l’attention de Meta, l’entreprise a conclu que la vidéo n’enfreignait pas ses Standards de la communauté et ne devait pas comporter de mention IA.

Principales conclusions

Le Conseil a évalué le cas en se référant à trois des politiques de Meta : Conduite haineuse, Fausses informations et Intimidation et harcèlement. Le Conseil estime que Meta aurait dû supprimer la vidéo générée par l’IA selon sa politique de Conduite Haineuse.

La majorité du Conseil estime que la vidéo enfreignait les règles de conduite haineuse de Meta, spécifiquement parce qu’elle accuse l'ensemble des réfugiés, et non certains d'entre eux comme l'affirmait Meta, de crimes graves et de comportements sexuels abusifs.

Dans sa décision relative à cette affaire, le Conseil a également examiné si la vidéo, dans l'hypothèse où elle n'aurait pas enfreint les règles relatives aux comportement haineux, aurait rempli les critères de suppression prévus par la politique en matière de fausses informations. Une majorité du Conseil estime que la suppression n’aurait pas été accordée pour cause de fausses informations, mais que la publication aurait dû recevoir une mention « Haut risque d’IA ». Dans son analyse, elle conclue que les règles de Meta sur les mentions IA des deepfakes ne sont pas adéquates.

La majorité estime que Meta a besoin de politiques plus solides sur les deepfakes, y compris pour élargir les situations où les mentions de « Haut risque » peuvent être appliquées, plus de mesures pour réduire la propagation de contenu IA mensonger, l’augmentation des sanctions pour les comptes qui partagent ces contenus de manière répétée, et plus de transparence sur les données relatives à l’application des mentions IA.

Une minorité du Conseil n’est pas d’accord avec l’idée que la vidéo doive être considérée comme un discours haineux car elle traite des idées supposées de la personnalité politique, et non de tous ou de la plupart des réfugiés, et qu’étant donné que la vidéo relève du discours politique, le seuil de retrait devrait être plus élevé.

Il y avait également des points de vue minoritaires au sujet des conclusions du Conseil sur les règles relatives aux fausses informations. Une minorité affirme qu’une mention « Haut Risque » est trop restrictive et qu’une mention de moindre importance « Information d’IA »aurait du être appliquée. Une autre minorité distincte est d’avis que la gravité des préjudices, conjuguée au fait que Meta n'applique pas, dans la pratique, bon nombre des mentions d'IA, justifierait la suppression.

Le Conseil estime que la vidéo ne devrait pas faire l'objet d'un retrait en vertu des règles relatives aux intimidations et aux harcèlements car l'élue est une personnalité publique et bénéficie donc d'une protection moindre que les particuliers au titre de cette politique.

Décision du Conseil de surveillance

Le Conseil annule la décision de Meta de maintenir le contenu en ligne et exige sa suppression conformément au Standard de la Communauté de conduite haineuse. Après avoir examiné ce cas, le Conseil constate également des lacunes dans les politiques d'étiquetage prévues par le Standard de la communauté relatif aux fausses informations, et formule les recommandations suivantes au sujet de cette politique.

Le Conseil recommande à Meta ce qui suit :

• Modifier sa politique en matière de contenus multimédias manipulés afin d'abaisser le seuil d'attribution du label « Haut risque », en veillant à ce que cette mesure ne soit pas réservée aux situations de crise ou à la protection de l'intégrité des élections.
• Renforcer les obstacles pour les utilisateurs visualisant du contenu identifié comme généré par l'IA ou comme relevant de « Haut risque d’IA », par exemple en utilisant un message intercalé (un écran nécessitant un clic pour accéder au contenu) plutôt qu'une simple mention.
• Soumettre tout contenu classé « Haut risque » à une démonétisation, une rétrogradation ou une suppression des recommandations, avec des sanctions de plus en plus sévères pour les comptes qui partagent de manière répétée du contenu classé « Haut risque ».
• S'assurer que les règles et les exemples relatifs à l'ingérence dans les élections ou les recensements soient formulés de manière à être applicables à l'échelle mondiale et ne se limitent pas aux États-Unis.
• Publier dans son Espace modération des données annuelles sur le nombre de fois où elle attribue les mentions « Haut risque » et « Haut risque d’IA » à des contenus, y compris le nombre de fois où ces mentions sont attribuées à des contenus provenant de personnalités politiques ou concernant ces dernières.
• S’assurer que toutes les mentions prévues par la Politique relative aux fausses informations (« Information IA », « Haut risque » ou « Haut risque d’IA ») soient visibles sur les contenus de la Bibliothèque de contenu Meta, et à ce que les contenus auxquels ces mentions ont été attribuées puissent être recherchés à l'aide d'un filtre.

Le Conseil rappelle également l'importance de sa recommandation précédente, formulée dans sa décision relative à la vidéo générée par IA dans le conflit israélo-iranien, dans laquelle il demandait à Meta de publier une explication claire des sanctions applicables en cas d’absence de déclaration de contenus créés ou modifiés numériquement. Elle devrait fournir des critères pour les sanctions et énumérer les fonctionnalités du compte qui sont limitées en conséquence et pour combien de temps.

Décision complète sur les cas

1. Description du cas et contexte

En novembre 2025, un utilisateur de Facebook a publié une vidéo courte montrant une effigie d’une conseillère municipale du Parti travailliste en Écosse. La vidéo, qui semble générée par l’IA, la représente en train de dire : « Les réfugiés sont les bienvenus ici, même s’ils violent nos femmes, parce que les Blancs le font aussi. » Le portrait est réaliste, même si vu de plus près il semble artificiel : le son n’est pas totalement synchronisé avec les mouvements du visage, ce qui montre qu’il s’agit d’une falsification. La vidéo faisait partie d’un album (qui n’a pas fait l’objet d’un examen dans sa totalité) contenant une photo de plusieurs femmes nommées lors de protestations contre l’extrême-droit, y compris la conseillère municipale. L'album contenait également une vidéo sans rapport avec cette manifestation, qui semblait avoir été générée par IA, mais qui ne faisait aucune mention de la conseillère municipale. La légende de la photo indique que la conseillère municipale a milité contre la fermeture d'un centre d'hébergement pour réfugiés dans sa ville.

Ensemble, l’album et la vidéo ont reçu plus de 5 000 vues, plus de 50 commentaires, plus de 20 réactions et plus de 10 partages. Un commentaire a remis en cause l'authenticité de la vidéo et a critiqué l'utilisateur pour l'avoir publiée. Un autre commentaire, que Meta a supprimé le jour même de sa publication, laissait entendre que la personnalité politique représentée voulait être violée.

Deux personnes, y compris la personnalité politique représentée, ont signalé la vidéo de la conseillère municipale pour infraction à la Politique de lutte contre le harcèlement et l’intimidation, mais les systèmes de Meta n’ont pas donné la priorité à la publication pour un examen manuel, et elle est restée sur Facebook. Les deux utilisateurs ont fait appel à Meta, mais la publication a encore été maintenue et n’a pas été examinée par un être humain. L'un des utilisateurs, qui n'était pas la conseillère municipale apparaissant dans la vidéo, a ensuite saisi le Conseil. Lorsque le Conseil a porté le cas à l’attention de Meta, l’entreprise a conclu que la vidéo n’enfreignait pas ses Standards de la communauté et ne devait pas comporter de mention IA.

Ce cas illustre deux défis systémiques interconnectés auxquels sont confrontées les entreprises de réseaux sociaux à l'échelle mondiale : les représentations artificielles de personnalités politiques, de plus en plus répandues, réalistes et trompeuses, parfois appelées deepfakes, et la désinformation qui attise la haine à l'encontre des minorités, notamment des immigrés. Le Conseil a abordé les liens entre la désinformation générée par l'IA et les discours haineux dans ses décisions relatives aux Publications soutenant les émeutes au Royaume-Uni et aux Critiques à l'égard des politiques migratoires de l'UE et des immigrés. Elle s'est également penchée sur les enregistrements audio de synthèse de personnalités politiques dans la décisionAppel audio présumé visant à truquer les élections au Kurdistan irakien et sur la vidéo manipulée dans la décision Vidéo retouchée du président Biden.

Le contenu relatif à ce cas avait été publié plusieurs mois avant les élections locales. Même si le mandat de la conseillère municipale n'arrivait à échéance qu'en mai 2027, son parti était engagé dans des campagnes électorales où l'immigration et l'hébergement des demandeurs d'asile constituaient des enjeux majeurs un peu partout dans le pays. En 2025, des manifestations contre l'hébergement des demandeurs d'asile dans des hôtels ont eu lieu dans tout le Royaume-Uni après qu'un demandeur d'asile de l'Essex, dans le sud-est du pays, a agressé sexuellement une femme et une jeune fille de 14 ans. Les protestations se sont poursuivies en 2026, notamment en Écosse, certains affirmant que les demandeurs d’asile représentaient un danger pour la sécurité des femmes, allégations que d’autres ont qualifiées de désinformation raciste utilisant les craintes liées à la violence faite aux femmes comme arme pour attiser la haine contre les migrants.

2. Soumissions des utilisateurs

Dans son appel auprès du Conseil, l'utilisateur qui a signalé le contenu a affirmé que la vidéo avait été générée par l'IA, qu'elle déformait les opinions de la personnalité politique et qu'elle pouvait constituer une menace pour la sécurité de cette femme. De son point de vue, chacun devrait être libre d'exprimer ses propres opinions, mais cela ne devrait pas aller jusqu'à créer de fausses vidéos montrant des responsables politiques tenant des propos incendiaires qu'ils n'ont jamais réellement prononcés.

Dans une déclaration adressée au Conseil, la conseillère municipale représentée a indiqué que la vidéo avait été générée par une intelligence artificielle et que les propos qui lui étaient attribués « allaient à l'encontre de toutes [ses] convictions et portaient gravement atteinte à [son] intégrité ». Selon ses dires, les répercussions négatives de cette vidéo ont été importantes et particulièrement traumatisantes. Elle a tenté à plusieurs reprises, sans succès, de faire supprimer ce contenu, notamment en signalant l'incident à Meta et aux forces de l'ordre. Néanmoins, elle a indiqué au Conseil qu'elle continuait à militer activement en faveur des droits des réfugiés en Écosse et à mener des actions contre la propagation des discours de haine au sein de sa communauté.

3. Politiques de Meta relatives au contenu et soumissions

Les soumissions de Meta sont concentrées sur trois domaines de politique : fausses informations, conduite haineuse et intimidation et harcèlement. La société a réaffirmé qu'aucune mesure ne s'imposait concernant ce contenu au regard de ces différentes politiques, et l'a donc laissé en ligne sans aucune mention.

Fausses informations

La justification de la Politique pour le standard de la communauté sur les fausses informations indique que Meta supprime le « contenu lorsqu’il est susceptible de contribuer directement à l’interférence avec le fonctionnement des processus politiques ». L'une des trois catégories de fausses informations supprimées par Meta relève des processus politiques et porte le titre d’« ingérence dans les élections ou le recensement ». Huit exemples d'ingérence interdite dans les élections ou le recensement sont indiqués, notamment la diffusion d'informations erronées concernant « les dates, les lieux, les horaires et les modalités de vote, d'inscription sur les listes électorales ou de participation au recensement », ainsi que « le fait qu'un candidat se présente ou non ». Deux exemples sont spécifiques aux États-Unis. La justification de la Politique mentionne que Meta collabore avec des Partenaires de confiance, un réseau global d’organisations non gouvernementales (ONG), d’agences humanitaires et de chercheurs sur les droits humains qui signalent les risques émanant du contenu des plateformes Meta, afin de déterminer la véracité du contenu et s’il est « susceptible de contribuer directement à un risque de dommages imminents ». La justification de la Politique reconnaît également que les « utilisateurs utilisent souvent des fausses informations de manières inoffensives », par exemple pour « exagérer un argument » ou dans un ton « d’humour ou de satire ».

Meta a informé le Conseil qu’elle n’avait pas supprimé la vidéo en l’occurrence car, selon l’entreprise, les Partenaires de confiance ne l’avaient pas marquée. Meta a donc conclu que le contenu n’était pas « susceptible de contribuer directement à un risque d’interférence avec le fonctionnement des processus politiques » car il ne comportait pas d’affirmations interdites d’« ingérence dans les élections ou le recensement ».

Pour toutes les autres fausses informations qui n’enfreignent pas les règles exigeant la suppression, Meta se concentre sur une « réduction de la prévalence » ou la « création d’un environnement qui stimule un dialogue productif ». L’entreprise agit ainsi en se concentrant sur « l’apport aux utilisateurs des informations utiles en cas de contenu potentiellement trompeur ou déroutant », y compris par des mentions.

Il existe trois types de mentions :

• La mention « Info IA » s’applique automatiquement au contenu quand Meta détecte des « indicateurs d’images d’IA conformes aux normes de l’industrie ou lorsque des personnes ont spécifié qu’elles mettaient en ligne du contenu généré par l’IA ». Elle est moins visible que les deux autres mentions et apparaît en haut d'une publication.
• La mention « Risque élevé » s’applique aux contenus relevant de la politique de « contenus multimédias manipulés » qui (i) présentent un risque particulièrement élevé de tromperie matérielle du public sur une question d’importance publique ; et (ii) présentent des indicateurs fiables de création ou de modification numérique. Contrairement à la mention Info IA, la mention « Risque élevé » est appliquée selon une politique d’escalade uniquement de Meta, ce qui signifie que seules les équipes internes de Meta peuvent l’appliquer après examen manuel. Elle est plus voyante, puisqu'elle apparaît au bas d'une publication, et renvoie vers une ressource permettant d'en savoir plus sur les contenus créés ou modifiés numériquement.
• La mention IA à risque élevé est aussi appliquée conformément à la politique de « contenus multimédias manipulés », dans les mêmes conditions que la mention « Risque élevé », mais pour le contenu présentant des indicateurs fiables d’avoir été créé ou retouché avec l’IA. Il s’agit également d’une politique d’escalade uniquement, qui nécessite un examen manuel.

Meta exige des personnes qu’elles indiquent, à l’aide d’un outil dans l’application, quand elles publient du contenu organique avec « une vidéo ou un contenu audio qui semble réaliste, créé ou retouché numériquement ». Meta affirme que ne pas utiliser l’outil de divulgation de l’IA « peut exposer à des sanctions ».

Meta a indiqué que l'utilisateur à l'origine de la publication n'avait pas signalé l'utilisation de l'IA, raison pour laquelle celle-ci n'a pas reçu la mention « Info IA ». L'entreprise a indiqué au Conseil qu'elle pouvait appliquer automatiquement cette mention lorsqu'elle détectait des « indicateurs d'images générées par IA conformément aux normes de l'industrie », mais que ceux-ci n'étaient pas présents dans ce cas précis. En réponse aux questions du Conseil, Meta a confirmé qu'elle n'avait pas sanctionné cet utilisateur pour ne pas avoir signalé l'utilisation de l'IA. De plus, l'application par Meta de l'obligation de déclaration volontaire relative à l'IA s'est limitée à des cas individuels transmis à ses équipes internes chargées des politiques, plutôt que d'être appliquée à grande échelle. Meta a également indiqué qu'elle était désormais en mesure de détecter les signaux liés à l'IA partagés par le secteur pour les vidéos et les images, et qu'elle était en train de déployer cette fonctionnalité sur tous les appareils (web et mobiles) et toutes les interfaces (reels, fil d'actualité, etc.). Par ailleurs, elle développe des classificateurs capables de détecter à grande échelle les contenus générés par l'IA afin d'y apposer la mention « Info IA » de manière moins visible, que les vidéos contiennent ou non des signaux de provenance conformes aux normes de l'industrie.

Meta a confirmé que, selon elle, ce contenu ne justifiait pas non plus l'apposition d'une mention « Haut risque » plus visible, conformément à ses règles relatives aux contenus médias manipulés. Aucun examen approfondi du contenu n'ayant été réalisé, aucune évaluation visant à justifier l'application de cette mention n'a été effectuée. Outre les difficultés rencontrées pour déterminer si le contenu avait été modifié numériquement ou généré à l'aide de l'IA, Meta a expliqué que ce contenu ne présentait pas « de risque particulièrement élevé d'induire le public en erreur de manière significative sur une question d'intérêt public ». Selon Meta, cela s'expliquait par le fait qu'il n'y avait aucune urgence liée à un événement sensible et urgent, tel qu'une élection imminente ou une crise, susceptible d'accroître le risque de tromperie significative : les élections les plus proches n'auraient lieu que plusieurs mois plus tard. Deuxièmement, Meta a fait remarquer que le contenu était satirique, inversant la position publique de cette personnalité politique, et que cette interprétation se reflétait dans au moins un commentaire d'utilisateur. Troisièmement, ce contenu n'a suscité que peu de réactions, ce qui réduit le risque que le grand public soit réellement induit en erreur.

En réponse aux questions du Conseil, Meta a expliqué que ses critères pour l'affichage des mentions « Haut risque » plus visibles étaient très stricts. Cette mention n’a été utilisée que dans un nombre de cas très limité. Meta justifie ce seuil élevé par les raisons suivantes : (a) l’ajout de telles mentions remet en cause l’authenticité du contenu et nuire à la réputation des utilisateurs qui le publient ; (b) la détection de l’IA est imparfaite, et une utilisation massive pourrait donner l’impression que les contenus non étiquetés sont plus fiables alors qu’ils ne le sont pas ; (c) cela pourrait avoir des effets dissuasifs nuisant à la liberté d’expression ; et (d) étendre l’utilisation de ces mentions au-delà des événements critiques pourrait susciter des demandes croissantes de la part des personnalités politiques, des gouvernements et des partenaires publicitaires visant à faire étiqueter les discours qui leur déplaisent. Meta a également souligné que, comme les contenus ne comportent souvent pas d'indicateurs de provenance liés à l'IA, l'entreprise se base sur d'autres facteurs, tels que l'« aspect » du contenu ; le fait que le contenu artificiel soit destiné à être humoristique influe également sur la décision de considérer ou non ce contenu comme trompeur. Meta a affirmé vouloir éviter de jouer le rôle d’« arbitre de la vérité » et préférer un seuil plus élevé qui évite à l’entreprise d’avoir à porter des jugements subjectifs sur la nature trompeuse ou l’importance d’un contenu.

En dehors des États-Unis, Meta fait appel à des médias de vérification tiers indépendants pour examiner et évaluer le contenu, ce qui peut entraîner l’ajout de mentions correspondant à l’évaluation du contenu. Les évaluations comprennent les mentions « faux » et « modifié » et peuvent entraîner une réduction de la diffusion du contenu. Meta utilise la technologie pour mettre en évidence les informations potentiellement erronées afin que les médias de vérification les examinent, et ces derniers peuvent également identifier les contenus à examiner. Cependant, Meta a confirmé que, dans ce cas précis, ses systèmes automatisés n'avaient pas transmis ce contenu à des médias de vérification tiers et ne l'avaient pas sélectionné pour examen, très probablement en raison de sa faible viralité. Meta a supprimé la vérification des faits par des tiers aux États-Unis uniquement, au profit des « Notes de la Communauté », et le Conseil a rendu un avis sur la pertinence d'opérer un changement similaire dans le reste du monde.

Dans ce cas, le compte de l'utilisateur à l'origine de la publication n'était pas monétisé. Les Règles de monétisation pour les partenaires définissent les règles applicables aux pages pour lesquelles l'entreprise paie pour les publications sur ses plateformes, en fonction de l'engagement, et précisent que les contenus signalés comme de la désinformation ne peuvent pas faire l'objet d'une monétisation. Les Règles de monétisation pour le contenu restreignent et réduisent encore davantage la monétisation des contenus portant sur des « enjeux sociaux controversés » qui « exploitent des sujets politiques ou sociaux controversés à des fins commerciales », notamment l'immigration, et présentés d'une « manière polarisante ou provocatrice ».

Conduite haineuse

Le Standard de la Communauté de Meta relatif aux Comportements haineux interdit les « allégations d’immoralité grave et de criminalité » à l’encontre de personnes en raison de leurs caractéristiques protégées ou de leur statut de réfugié. Dans son énumération, il indique que comparer les personnes à des « prédateurs sexuels » et des « criminels violents » sont des exemples d’infractions.

Meta a estimé que la déclaration suivante : « Les réfugiés sont les bienvenus ici, même s’ils violent nos femmes, parce que les Blancs le font aussi », n’enfreignait pas cette règle, car elle n’assimilait pas les réfugiés à des criminels violents ou à des prédateurs sexuels en raison de leur identité. Les directives internes destinées aux évaluateurs établissent une distinction entre les « généralisations » interdites et les « descriptions comportementales » autorisées. Les généralisations interdites attribuent des traits inhérents à un groupe entier (par exemple en disant : ­[Groupe X] sont des terroristes ; ou [Groupe Y] sont des meurtriers). Les déclarations autorisées sur le comportement sont des affirmations portant sur les actes des membres d'un groupe (par exemple : « [Groupe A] se livre à des actes de terrorisme » ou « [Groupe B] commet des meurtres »). Pour Meta, l’assertion dans la vidéo portait sur les actions de certains réfugiés et n’affirmait pas que la violence sexuelle était une caractéristique inhérente aux réfugiés. Elle décrit un comportement attribué à des membres d’un groupe plutôt qu’assimiler l’identité d’un groupe aux crimes sexuels. La phrase « parce que les Blancs le font aussi » ne changent pas cette signification du point de vue de Meta. Elle compare plutôt le comportement de deux groupes, en attribuant la violence sexuelle aux Blancs également.

Dans des cas précédents, Meta a expliqué au Conseil que les déclarations relatives au comportement peuvent constituer des infractions lorsque des actes criminels graves présumés sont explicitement attribués à l'ensemble ou à la majeure partie du groupe. Dans le cas Critique des politiques européennes sur les migrations et des immigrants, Meta a estimé qu’une déclaration qualifiant les immigrés de « spécialistes des viols collectifs » ne constituait pas une infraction, car elle n’attribuait pas ce comportement à l’ensemble du groupe ni à plus de la moitié de celui-ci. Dans ce cas, Meta a rejeté la recommandation du Conseil d’annuler sa présomption selon laquelle les références au comportement d’un groupe devaient être comprises comme se référant à la totalité ou à la plus grande partie du groupe, s’il n’y a pas de mention du contraire. Meta a fait remarquer dans ses soumissions pour le cas présent qu’après avoir rejeté cette recommandation, elle continue à estimer que les déclarations comme « les réfugiés violent » ne désignent pas que « tous » ou « la plupart » des réfugiés et n’enfreignent donc pas la politique sur la Conduite haineuse.

Harcèlement et intimidation

En outre, le Standard de la Communauté de Meta sur l’intimidation et le harcèlement distingue les personnalités publiques des personnes privées pour « prôner l’échange, ce qui implique souvent des commentaires critiques concernant des individus qui attirent l’attention des médias ou du grand public ». Les personnalités publiques sont uniquement protégées contre les attaques les plus sévères. Bien que Meta interdise « les images manipulées indésirables », cette règle s’applique uniquement au contenu ciblant des mineurs privés, des adultes privés et des personnalités involontairement publiques mineures, lorsque ces derniers le signalent eux-mêmes. Meta définit les personnalités publiques comme « les représentants du gouvernement de niveau national et d’État », les candidats à ces postes et d’autres personnes « qui font l’objet d’une couverture médiatique importante ». Meta a déterminé que la personnalité politique représentée dans le vidéo est une personnalité publique, et donc n’est pas protégée contre les « images manipulées indésirables ».

4. Commentaires publics

Le Conseil a reçu neuf commentaires publics qui répondent aux critères de soumission. Huit de ces commentaires ont été soumis en Europe, et un en Asie-Pacifique et Océanie. Pour consulter les commentaires publics soumis accompagnés d’un consentement à la publication, cliquez ici.

Les contributions couvraient les thèmes suivants : l’ampleur et la prévalence des contenus générés par l’IA ; la diffusion de contenus anti-immigration ; le recours à la satire, à l’humour et à l’expression politique sur les réseaux sociaux, y compris dans les contenus générés par l’IA ; le harcèlement sexiste à l’encontre des femmes dans la vie publique ; l’efficacité de l’étiquetage en réponse à la désinformation ; la protection de la liberté d’expression à l’encontre des personnalités publiques dans la politique relative à l’intimidation et au harcèlement ; les lacunes des politiques en matière de désinformation et les ingérences dans le processus politique ; les défis techniques liés à la détection de la provenance des contenus ; la manière dont la désinformation et les discours haineux nuisent à l’environnement d’information et à la démocratie ; et les incitations commerciales et de monétisation qui encouragent la production de contenus trompeurs et de haine générés par l’IA.

En juin 2026, le Conseil a consulté des représentants d’organisations de défense des droits, des universitaires, des organisations intergouvernementales et d’autres experts sur la question des deepfakes politiques, leur impact sur l’intégrité de l’information et des élections, ainsi que sur la manière dont les plateformes peuvent prévenir et atténuer les préjudices tout en respectant la liberté d’expression.

Le participants ont fait remarquer la prévalence croissante du contenu imitant des personnalités politiques et invitant à la haine envers des communautés vulnérables généré par l’IA. Les recherches présentées à la consultation ont fourni de la documentation démontrant que le contenu xénophobe généré par l’IA au Royaume-Uni a suscité un engagement nettement plus important que des contenus authentiques comparables. Les participants ont également fait remarquer que les personnalités politiques, les journalistes et les activistes femmes sont disproportionnellement visées par des deepfakes qui mentent sur leurs opinions, notamment dans le cadre de campagnes de harcèlement, et que les personnalités publiques moins notoires comme les élues locales et les activistes manquent souvent de ressources institutionnelles pour répondre à de telles attaques.

Les participants ont fait part de leurs inquiétudes quant au fait que la politique de Meta en matière de désinformation offre une protection trop restreinte pour l'intégrité électorale et la démocratie en général, puisqu'elle n'interdit qu'un nombre limité d'allégations mensongères concernant les procédures de vote à l'approche des élections. Ils ont qualifié ce cadre de structurellement inadéquat, étant donné que les contenus publiés sur les plateformes de réseaux sociaux se maintiennent indéfiniment et continuent de circuler, entretenant ainsi des discours préjudiciables bien au-delà de toute période électorale officielle. Plusieurs participants ont indiqué que la dépendance de Meta envers les Partenaires de confiance pour identifier les contenus potentiellement préjudiciables est une externalisation insatisfaisante de la mise en application des règles, qui ne permet systématiquement pas de traiter les contenus suscitant peu d’engagement au départ, en particulier sur les petits marchés. Enfin, plusieurs participants ont appelé à plus de focalisation sur les usurpations d’identité générées par l’IA dans les contenus, étant donné que les politiques actuelles semblent concentrées sur des règles « d’usurpation d’identité » par des comptes fallacieux (par exemple des personnes qui créent des comptes pour affirmer être une personne, plutôt que des personnes qui partagent du contenu qui mentent sur la conduite d’une personne).

En ce qui concerne la satire, les participants ont fait remarquer que l'absence de tout signal visible sur les contenus générés par l'IA représentant des personnalités politiques privait le public d'un moyen fiable de déterminer s'il s'agissait d'un contenu fictionnel ou réel. Un participant a affirmé que les deepfakes peuvent être satiriques, et que l’intention doit être déterminée dans son contexte, y compris en se référant aux actions et aux positions publiques de la personne représentée. Plusieurs participants ont souligné que le préjudice le plus grave causé par les deepfakes ne réside pas dans le fait que des spectateurs individuels soient trompés par un contenu particulier, mais dans l'érosion de la confiance dans l'information politique en général. Lorsque le public est exposé à plusieurs reprises à des informations fausses mais réalistes, il peut perdre confiance en sa capacité à les distinguer des propos authentiques. Finalement, les participants ont remarqué que l’étiquetage avait diminué la valeur protectrice de cet environnement. Cela est dû au fait que l’étiquetage est appliqué de manière peu cohérente, mais également parce que certaines personnes continuent à réagir au contenu étiqueté comme non authentique comme s’il était authentique, notamment quand celui-ci renforce des biais préalables.

Les participants ont remarqué qu’une partie important du contenu artificiel répond à des motivations non pas idéologiques, mais commerciales, et est souvent produit par des personnes qui ne sont pas liées au pays concerné par le contenu, qui exploitent les outils de monétisation de Meta ou d’autres moyens de générer des revenus afin de profiter des narrations sensationnelles (y compris haineuses) que les algorithmes basés sur l’engagement sont susceptibles de booster. Les mécanismes d'incitation de Meta récompensent les contenus provocateurs en leur accordant un engagement plus important et une amplification par l'algorithme, ce qui rend la production de contenus trompeurs générés par l'IA attractive du point de vue économique, même lorsque les publications individuelles ne sont pas directement monétisées. De nombreux participants ont fait observer que restreindre la monétisation est un outil qui n’a pas été exploré pour dissuader l’usage de l’IA à des fins de tromperie.

5. Analyse du Conseil de surveillance

Le Conseil a sélectionné ce cas afin d'examiner la manière dont les politiques de Meta traitent les contenus trompeurs générés par l'IA sur ses plateformes, en particulier lorsque des outils d'IA sont utilisés pour usurper l'identité de personnalités politiques afin de fabriquer de toutes pièces leurs opinions sur des sujets importants pour le débat public, y compris de manière susceptible de constituer un discours haineux. Cette analyse évalue les politiques de Meta en matière de contenu et ses responsabilités en matière de droits humains dans trois domaines : les fausses informations, les discours haineux, ainsi que l’intimidation et le harcèlement.

Le Conseil estime que, bien que ce contenu ne justifie pas son retrait au titre de la politique relative aux fausses informations, il aurait dû être assorti d’une mention « IA à haut risque » ; en ce qui concerne les droits humains, le Conseil formule un certain nombre de recommandations visant à améliorer la manière dont Meta traite les contenus trompeurs générés par l’IA, dans lesquels des personnalités politiques sont présentées comme tenant des propos qu’elles n’ont pas tenus sur des questions d’intérêt public. Nonobstant ces conclusions, dans le cas présent, le Conseil a estimé que le contenu enfreignait la politique de Meta relative aux comportements haineux et aurait dû être supprimé pour ce motif. Enfin, le Conseil estime que ce contenu n'enfreint pas la politique de Meta en matière d'intimidation et de harcèlement.

Fausses informations

Le Conseil estime que la vidéo mettant en scène la personnalité politique en question n’enfreignait pas les règles de suppression prévues par les Standards de la Communauté de Meta relatives à la désinformation, car elle ne contenait aucune des allégations de fausses informations interdites concernant « l’ingérence dans le vote ou le recensement ».

Pour une majorité du Conseil, les règles du Standard de la Communauté relatives aux fausses informations en rapport avec les contenus manipulés exigeaient qu’une mention bien visible d'« IA à haut risque » soit ajoutée à la vidéo, car celle-ci avait été générée à l’aide de l’IA et présentait un risque particulièrement élevé d’induire le public en erreur de manière significative sur une question d’intérêt public.

Dans ce cas, la vidéo présente les caractéristiques propres aux contenus générés par l'IA, mais la plupart des spectateurs ne se douteraient pas d'emblée qu'il s'agit d'une falsification. Les décalages visibles entre la voix et les mouvements du visage, ainsi que les expressions faciales irréalistes, sont des indices permettant de reconnaître qu'une vidéo a été générée par l'IA, mais ils ne sont perceptibles qu'en la regardant avec attention. La majorité souligne que Meta a informé le Conseil que ses systèmes de classification sont désormais capables de détecter automatiquement des images et des vidéos à grande échelle, même en l'absence de métadonnées de provenance, mais qu'au moment de la publication de ce contenu, une telle détection nécessitait un examen humain. Le réalisme de la vidéo, ainsi que l'utilisation non dévoilée de l'IA pour créer de toutes pièces (plutôt que de modifier ou de manipuler) des images, la distinguent clairement du type de montage « bidon » observé dans l'affaire de la vidéo trafiquée du président Biden.

Pour une majorité des membres du Conseil, cette vidéo vise à induire en erreur les électeurs potentiels en présentant des « preuves » des opinions supposées d’un responsable politique élu sur l’hébergement des réfugiés et la sécurité publique, un sujet au cœur du débat politique actuel et de manifestations très médiatisées dans tout le pays concerné. Les soumissions de Meta font état de critères confidentiels pour l'attribution des mentions « IA à haut risque », ce qui signifie que, dans la pratique, ces mentions n'ont pratiquement jamais été utilisées à une échelle significative. Ces critères confidentiels fixent un seuil d'application extrêmement haut compte tenu de la formulation officielle de la règle, du caractère neutre et non accusatoire de la mention, ainsi que de ses effets limités en matière d'application (les sanctions à l'encontre des utilisateurs semblent encore moins courantes que les mentions elles-mêmes).

Pour ces raisons, l'argument avancé par Meta selon lequel il n'y avait ni crise, ni élection prochaine, et que le contenu avait une portée limitée, n'est pas convaincant. Aucun de ces deux éléments ne permet de conclure que le contenu était peu susceptible d'induire en erreur le public. De plus, rien n'indique qu'il s'agissait d'une exagération ou d'une parodie qui permettrait de comprendre clairement qu'il s'agissait d'un contenu satirique. La courte durée de la vidéo, la représentation du responsable politique sur un fond neutre sans aucun élément d'exagération ou de parodie, dans le contexte d'un album dont aucun autre contenu n'est satirique ou humoristique, renforcent le risque de manipulation et laissent supposer une intention probable d’induire en erreur. Le « Forum for Humor and Law , un projet universitaire qui étudie comment le droit à la liberté d’expression protège l’humour (voir PC-32578), a fourni au Conseil des exemples pertinents de deepfakes satiriques, dans lesquels la supercherie initiale s’effondre dès lors que l’on prend conscience de l’absurdité de la mise en scène (la politicienne française Marine Le Pen vêtue d’une tenue islamique et s’exprimant en arabe ; l’ancien président brésilien Bolsonaro donnant un tutoriel sur le lavage des mains à l’époque de la pandémie de COVID-19). Sur la base des termes des Standards de la communauté, une mention « IA à haut risque » aurait dû être appliquée.

Pour la majorité, les responsabilités de Meta en matière de droits humains l'obligent à adopter une réponse bien plus efficace et ferme face à l'utilisation de l'IA générative à des fins de manipulation pour faire dire à un homme politique des déclarations sur des sujets d'intérêt public, que l'approche actuelle de l'entreprise consistant à étiqueter les contenus IA comme « à haut risque ».

Pour la majorité, un ensemble de mesures visant à mieux détecter l'utilisation de l'IA et à identifier les cas où celle-ci induit en erreur sur des sujets importants pour le public, à créer des obstacles, à réduire la portée de ces contenus et à sanctionner les pratiques trompeuses préjudiciables grâce à un étiquetage plus clair constituerait une restriction nécessaire et proportionnée de la liberté d'expression. Cela permettrait de protéger « les droits d’autrui » à participer à la vie publique et de protéger les responsables politiques contre « les atteintes illégales à [leur] réputation » (articles 17 et 25 du Pacte international relatif aux droits civils et politiques (PIDCP)).

Le Conseil accepte que les standards internationaux sur la liberté d’expression protègent des falsifications et que la valeur placée par le PIDCP sur l’expression sans inhibition concernant les personnalités publiques dans le domaine politique est particulièrement élevée (observation générale nº 34 au par. 38). Comme le Conseil l’a observé dans le cas de la Vidéo retouchée du Président Biden :

« Même si les êtres humains savent depuis des millénaires que les mots peuvent être des mensonges, les images, et en particulier les vidéos et les enregistrements audio, donnent une fausse impression de crédibilité. » Bien que les jugements portant sur les fausses informations soient généralement axés sur les preuves en faveur ou à l’encontre des affirmations contenues dans un message contesté, ceux concernant les médias manipulés se concentrent sur les moyens utilisés pour créer ce message. L'une des principales caractéristiques des « contenus multimédias manipulés » est qu'ils induisent l'utilisateur en erreur en lui faisant croire que ces contenus sont authentiques et n'ont pas été modifiés. »

Pour la majorité des membres du Conseil, il existe une différence qualitative entre un mensonge avéré portant sur les propos ou les actes d’un homme politique et des « preuves » audiovisuelles fabriquées de toutes pièces pour étayer ce même mensonge. Ces deepfakes peuvent plus facilement convaincre les gens qu'une fausse information est incontestable, ce qui risque de nuire au débat démocratique, à la participation citoyenne et à la réputation des individus. Lorsqu’une fabrication est extrêmement réaliste, délibérément trompeuse, voire malveillante, elle ne devrait pas bénéficier de la protection renforcée que le droit international des droits de humains accorde à la liberté d’expression politique (observation générale n° 34, paragraphe 34). Comme souligné ci-dessus, il n’y a pas d’indications que cette vidéo soit satirique, ce qui rendrait sa nature falsifiée plus apparente et ne viendrait pas à l’encontre des droits de tiers. La généralisation des technologies d'IA générative pose de nouveaux défis au marché des idées, y compris en ce qui concerne la fraude à grande échelle qui porte atteinte à la démocratie et au droit des citoyens à participer, et qui peut entraîner une dégradation durable et généralisée de la réputation d'une personne.

Alors qu'il devient de plus en plus difficile de distinguer les contenus multimédias manipulés ou fabriqués de la réalité, les représentations audiovisuelles artificielles et délibérément trompeuses de personnalités publiques constituent un risque unique et grave pour la confiance du public dans l'information, et par conséquent pour la participation à la démocratie. Les dernières recherchent indiquent qu’en moyenne, les citoyens du Royaume-Uni peinent à identifier les contenus multimédias artificiels représentant des personnes réelles. Les effets cumulés de ces faux contenus peuvent compromettre les mécanismes permettant de tenir responsables les personnalités politiques en pouvoir, non seulement lors des élections, mais aussi entre deux scrutins (voir : Rapport préliminaire du Groupe d'experts scientifiques internationaux indépendants des Nations Unies sur l'IA, juillet 2026, au point 2.7, à partir de la page 23). La prolifération de contenus falsifiés peut plus spécifiquement conduire à un « dividende du menteur », soit l'avantage dont bénéficient les personnes qui prétendent à tort que des preuves authentiques sont fausses ou générées par l'IA afin d'échapper à toute responsabilité ( Chesney and Citron, 2019). L'Organisation des Nations unies pour l'éducation, la science et la culture (UNESCO) a qualifié le danger plus général que représentent les deepfakes de « crise de la connaissance », une crise qui ne se contente pas d'introduire des fausses informations, mais qui sape « les mécanismes mêmes grâce auxquels les sociétés construisent une compréhension commune ». Cela pourrait exacerber les effets de persuasion déjà existants liés aux flux personnalisés et aux recommandations des plateformes, qui sont basés sur l'engagement et dans lesquels des affirmations manipulatrices diffusées à grande échelle sont associées à des « preuves » artificielles de ces affirmations ( op. cit., point 3.5, à partir de la page 37). Ce défi prend une dimension globale : une étude a recensé 82 deepfakes ciblant des personnalités publiques dans 38 pays en l'espace d'un an, dont plus d'un quart attribuaient de fausses déclarations à ces personnalités (voirTargets, Objectives, and Emerging Tactics of Political Deepfakes, Recorded Future, septembre 2024). Comme l'a souligné l'ONG CEE Digital Democracy Watch dans une contribution publique adressée au Conseil, si aucune mesure n'est prise, les deepfakes peuvent contribuer à une « manipulation épistémique » faussant « les conditions d'information dans lesquelles les citoyens se forgent une opinion sur les acteurs politiques et les politiques » (PC-32658).

Les représentations artificielles des responsables politiques posent des défis supplémentaires lorsqu'elles sont utilisées pour inventer ou déformer leurs positions sur des sujets controversés, tels que l'immigration, car leurs effets de persuasion peuvent être encore plus importants. Une affaire très médiatisée illustrant ce sujet concernait un extrait audio artificiel devenu viral du maire de Londres, la capitale britannique, Sadiq Khan, où étaient déformées ses opinions sur les commémorations de la Journée de l'Armistice et les manifestations en faveur de la Palestine. L'Institut Alan Turing, l'institut national britannique dédié à la science des données et à l'intelligence artificielle, indique avoir constaté que les outils d'IA sont « de plus en plus utilisés pour diffuser des discours préjudiciables ou négatifs à l'égard des immigrés au Royaume-Uni » (voir PC-32552 et « Adding Fuel to Fire: AI Information Threats and Crisis Events », février 2026), reflétant les préoccupations mondiales concernant les liens entre la désinformation, la haine et leurs répercussions sur la liberté d'expression (voir Joint Declaration on AI, Freedom of Expression and Media Freedom, Mandate Holders, octobre 2025). Lorsque les fausses informations et la haine se rencontrent, les risques d'incitation à l'hostilité, à la discrimination et à la violence s'accroissent également (voir l'analyse sur les discours de haine ci-dessous).

La majorité des membres du Conseil note également qu'à l'échelle mondiale, les conséquences de ce type de fausses informations touchent de manière disproportionnée les personnes déjà marginalisées, ce qui renforce les arguments en faveur d'une réponse plus ferme des réseaux sociaux face aux deepfakes en général. Les femmes et les personnes ayant une identité de genre non conforme qui évoluent dans la sphère publique sont disproportionnellement visées par ce genre de tromperies (voir Tipping Point: Online Violence Impacts, Manifestations and Redress in the AI Age, ONU Femmes, avril 2026). Le rapport a révélé que les deepfakes sont souvent des contenus délibérés et coordonnés, et que ces attaques ciblées ont de graves répercussions sur la santé mentale et un effet dissuasif sur la participation citoyenne, près de la moitié des femmes journalistes déclarant s'autocensurer en réaction à ces attaques. ONU Femmes, l'entité des Nations unies (ONU) responsable de l'égalité des sexes, a également mis en évidence que les deepfakes et la désinformation sexiste à l'encontre des femmes visent à « les contraindre à se retirer des réseaux sociaux ou à quitter définitivement la vie publique ». Une autre étude de l'ONU a révélé que les abus sous forme d'images et de vidéos, ainsi que l'utilisation de l'IA pour créer des « histoires artificielles » diffamatoires, font partie des vecteurs les plus courants des attaques en ligne contre les femmes ( « Ton avis ne compte pas, de toute façon » : dénoncer la violence de genre facilitée par la technologie à l’ère de l’intelligence artificielle générative (2e éd.), UNESCO, avril 2023). Le Conseil a déjà fait part de ses préoccupations quant à l’insuffisance des mesures prises par les entreprises de réseaux sociaux face aux agressions ciblées à l’encontre des femmes exposées dans la sphère publique, soulignant que « les attaques en ligne ont un effet coercitif sur la liberté d’expression des femmes visées, ce qui restreint l’accès à l’information pour tous, la société entendant ainsi moins la voix des femmes » (voir la décision intitulée Suspension d’un compte pour avoir pris pour cible des personnalités publiques). Pour le dire clairement : cela ne signifie pas qu’il faille établir des règles nouvelles ou différentes en fonction de l’identité de la personne visée, mais plutôt comprendre en quoi il est important, d’une manière générale, d’adopter des mesures plus efficaces face à l’utilisation trompeuse de l’IA afin de remédier à ces impacts spécifiques et disparates.

Pour une majorité des membres du Conseil, une approche bien plus rigoureuse face à l’utilisation trompeuse de l’IA générative visant à falsifier les propos ou les actions de personnalités politiques sur des sujets d’intérêt public de manière réaliste comporterait trois éléments : a) une capacité accrue à détecter les contenus générés par l’IA, notamment grâce à une vérification humaine ; b) des critères publics plus clairs pour l’attribution de la mention « Haut risque » ; et c) l'étiquetage ou des messages intercalés plus clairs, créant des obstacles suffisantes pour mettre en évidence le risque de tromperie, associés à des sanctions de plus en plus sévères à l’encontre des utilisateurs qui enfreignent les règles, notamment avec un déclassement des contenus. Une telle approche présenterait des avantages considérables pour les droits de participation du public, qui l'emporteraient sur toute restriction à la liberté d'expression des personnes effectuant ces publications.

a.) Meilleure capacité à identifier le contenu détecté par l’IA, y compris par examen manuel

La majorité souligne que les investissements continus de Meta dans la modération automatisée des contenus sont susceptibles d'améliorer la détection à grande échelle des contenus générés par l'IA, notamment grâce à des signaux de provenance conformes aux normes de l'industrie, ainsi que d'améliorer la détection basée sur des classificateurs. Toutefois, les signalements des utilisateurs et des tiers, associés à l'examen manuel, devraient également continuer à jouer un rôle important dans la détection des contenus à caractère préjudiciable générés par l'IA. Cela revêt une importance particulière dans les cas d'utilisation de l'IA visant à tromper le public sur des questions importantes. La majorité des membres reconnaît que les moyens permettant de détecter l'utilisation de l'IA à grande échelle ne permettent pas de résoudre le problème de la détection à grande échelle des intentions de duperie, ce qui nécessitera souvent une évaluation contextuelle par des spécialistes, étayée par une vérification rigoureuse des faits par des tiers.

b.) Critères publiques plus clairs pour l’application de mentions « Haut risque »

Comme expliqué ci-dessus, les critères non-publics de Meta pour l’application de mentions d’IA « Haut risque » sont trop exigeants. Le Conseil craint que cette approche minimaliste ne sous-estime gravement les répercussions, sur le débat public, de contenus médiatiques falsifiés par l'IA dans le but de tromper délibérément. Ces interventions, qui sont notamment loin de permettre la suppression des contenus, ne devraient pas se limiter aux crises imminentes ou aux élections. Sur cette dernière question le Rapporteur spécial des Nations unies sur la liberté d’expression a fait remarquer que « le cycle de vie de la désinformation électorale ne se limite pas au scrutin, mais commence bien avant les élections et se prolonge longtemps après celles-ci, en contaminant le discours politique et polarisant les sociétés démocratiques » ( A/HRC/59/50, par. 8). Le Rapporteur spécial a également souligné que « l’intégrité électorale et l’intégrité de l’information sont étroitement liées » et que les plateformes numériques ont amplifié la manipulation de l’information « jusqu’à en faire un raz-de-marée de désinformation, d’informations erronées et de discours de haine », dont les conséquences « ont été désastreuses pour « les opposants politiques, les minorités, les migrants et d’autres groupes marginalisés » (ibid., par. 3-4). Meta devrait élargir l’étiquetage des fausses informations et tromperies au-delà des événements exceptionnels. Dans la mesure où l’entreprise ne supprime pas ces contenus, le seuil d’imposition des mentions devrait être abaissé.

c.) Augmentation des obstacles et des pénalités

Enfin, la majorité des membres du Conseil estime que la conception actuelle des mentions « Haut risque » attribuées par Meta aux contenus générés par l’IA, ainsi que les mesures d’application associées, sont insuffisantes pour dissuader le partage de contenus trompeurs générés par l’IA qui présentent des risques graves pour la participation citoyenne. Cela impose à Meta d'étudier comment des mentions, ou des mesures plus strictes telles que les messages intercalés, pourraient être utilisées pour compliquer l'interaction des utilisateurs avec les contenus trompeurs au moment même où ils les consultent, et pas seulement au moment où ils les partagent. Cela pourrait exiger de modifier la formulation des mentions, qui est actuellement neutre (celles-ci ne mentionnent pas directement le risque de tromperie), afin de garantir que l'objectif soit bien compris. Les utilisateurs qui publient de tels contenus doivent être informés des règles de Meta, et assumer des conséquences allant au-delà des mentions apposées à leurs publications, qui les décourageraient de manière plus efficace d’enfreindre les règles. À l'instar des contenus jugés « falsifiés » par les médias de vérification tiers de Meta, les utilisateurs qui publient des contenus qui sont par la suite classés comme « Haut risque » devraient être informés que leur publication a été retirée des recommandations ou rétrogradée dans les fils d’actualité. Les utilisateurs qui publient de tels contenus devraient également recevoir des avertissement qui permettrait d’augmenter les pénalités en cas d’infractions répétées. Cela pourrait comprendre des limitations des fonctionnalité et le retrait des programmes de monétisation.

Une minorité des membres du Conseil ne considère pas que cette publication enfreint les règles sur les contenus multimédias manipulés de Meta et s’inquiète du fait que le point de vue de la majorité n’est pas assez limité afin de prévenir des restrictions significatives du discours politique protégé. Les normes internationales relatives aux droits de l'homme reconnaissent l'importance toute particulière de la liberté d'expression dans le débat public « au sujet de personnalités de la vie publique et politique » (Observation générale n° 34, par. 34). Pour cette minorité, conformément à la décision antérieure du Conseil dans l’affaire de la Vidéo altérée du président Biden, ce contenu devrait être assorti d’une mention « Information IA », mais ne devrait pas être soumis à la mention « Haut risque » ni aux mesures supplémentaires restreignant la liberté d’expression que la majorité recommande à Meta d’adopter.

Les principes relatifs à la liberté d'expression reconnaissent depuis longtemps que, dans des cas comme celui-ci portant sur des discours politiques, les interlocuteurs doivent bénéficier d'une grande latitude en matière d'exagération, voire de fausseté. La conclusion logique de la position de la majorité est que l'utilisation de l'IA pour créer de toutes pièces les opinions ou les actions de personnalités politiques est intrinsèquement si dangereuse pour la démocratie et la participation politique que toutes ces publications doivent être supprimées au moyen de mesures plus intrusives que celles que Meta prévoit actuellement dans ses règles, à moins que la manipulation ne soit évidente pour l'utilisateur moyen. Le précédent du cas Vidéo altérée du président Biden, dans laquelle le Conseil a estimé que des mesures moins radicales que la suppression, telles que l'apposition d'une mention, pouvaient contribuer à informer les utilisateurs sur l'authenticité du contenu, ne peut être écarté au motif que le caractère frauduleux de la vidéo était évident dans ce cas précis, car cette décision reposait sur l'existence de moyens moins restrictifs (à savoir l'apposition d'une mention) pour remédier au préjudice causé.

Pour cette minorité, il est particulièrement problématique d'appliquer des mesures de rétrogradation ou d'autres sanctions à des propos qui s'inscrivent dans un registre familier de satire politique, comme c'est le cas ici. La vidéo présentée ici exagère les opinions d'un homme politique, en les poussant à un extrême irréaliste, dans le but de mettre en évidence les conséquences radicales qu'elles pourraient entraîner. Le message implicite de la vidéo, dans ce cas précis, est que la conseillère municipale est tellement extrême dans sa volonté d’« accueillir des réfugiés » qu’elle serait même prête à accueillir ceux parmi eux qui sont des violeurs. Cette satire est efficace en raison de faits récents largement médiatisés, au cours desquels certains responsables politiques britanniques ont été accusés d'avoir fermé les yeux sur des actes de violence commis par des demandeurs d'asile, et notamment des violences sexuelles à l'encontre de mineurs. Cela fait suite à la mise en place d'une Enquête indépendante statutaire sur les réseaux de prostitution infantile, à la suite d'un audit national, visant à déterminer si les questions sensibles liées à la race et à l'origine ethnique ont contribué aux défaillances dans la protection des victimes et des survivants d'infractions sexuelles. Exiger que Meta supprime une publication au motif qu’elle déforme les opinions réelles de cet homme politique revient à priver de protection un mode d’expression politique important, sur une question majeure qui suscite actuellement un vif intérêt auprès du public. La vidéo devrait être signalée comme générée par l'IA, conformément aux exigences passées du Conseil, mais des mesures supplémentaires visant à limiter sa diffusion (telles qu'un rétrogradage ou des mentions plus explicites) constitueraient une restriction inadmissible à la liberté d'expression. Cette minorité souligne également que, dans la mesure où le label « IA à haut risque » n’est appliqué que lorsque le cas est transmis aux experts de Meta, et n’est donc forcément utilisé que dans un nombre extrêmement restreint de cas, l’utilisation de la mention plus générale « Info IA » présenterait l’avantage de pouvoir être appliquée à grande échelle et de manière plus équitable entre les différents utilisateurs, points de vue et contextes. Cette minorité souligne également qu'au moment de la publication de la vidéo, Meta n'était pas en mesure de détecter automatiquement l'utilisation de l'IA en absence de marqueurs de provenance ou d'un signalement de partenaires de confiance, ce contenu ne disposant pas de ces éléments. Ce manque de confiance dans l'évaluation des contenus générés par l'IA met encore davantage en évidence les défis et les risques liés à l'adoption d'une approche plus stricte visant à supprimer des contenus en avançant entre autres le motif qu'ils sont générés par l'IA.

Pour une autre minorité, compte tenu de la gravité des motifs susmentionnés, la suppression constitue le moyen le moins restrictifdont dispose Meta et qui soit efficace. Le Conseil a souligné à plusieurs reprises les lacunes de Meta dans la mise en place de mentions « d'information » moins intrusives dans de nombreux cas (voir, par exemple, Vidéo générée par IA sur le conflit Iran-Israël). Bien que l'entreprise affirme prendre ces risques au sérieux, Meta n'a utilisé ces mentions signalant une utilisation trompeuse de l'IA que sur un nombre extrêmement faible de publications et semble ne sanctionner les utilisateurs qui omettent de signaler le recours à l'IA que rarement, voire jamais. Les mesures existent uniquement en théorie mais ne sont pratiquement jamais mises en œuvre et sont, dans les faits, inapplicables et donc inefficaces.

Lors de la table ronde organisée par le Conseil, les participants ont soulevé des questions importantes concernant l'efficacité de l'apposition de mention pour contrer les effets persuasifs des deepfakes réalistes représentant des personnalités politiques et leurs répercussions négatives sur la participation citoyenne. Cette situation est particulièrement préoccupante lorsque ces mentions ne s'accompagnent ni de restrictions de visibilité, ni de sanctions à l'encontre des utilisateurs qui adoptent ce comportement de manière répétée, dans le but à la fois de les sensibiliser et de dissuader la récidive. Ces préoccupations sont d'autant plus importantes que d'autres mesures moins intrusives, telles que la vérification des faits par des tiers, ne bénéficient pas non plus du soutien ou de l'ampleur nécessaires pour relever le défi. Pour cette minorité, le problème tient moins aux capacités techniques de détection qu’au choix stratégique de Meta d’imposer un seuil de signalement si élevé que les mentions dites « Haut risque » ne sont pratiquement jamais appliquées, sans parler de sa décision de ne pas associer ce signalement à d’autres restrictions de diffusion ni de renforcer les sanctions contre l’utilisation trompeuse de l’IA à grande échelle. Étant donné que les documents falsifiés relatant les propos ou les actes présumés de personnalités politiques ne présentent que peu, voire aucun intérêt pour le public, ces membres considèrent que leur suppression est une mesure proportionnée : la charge qu’elle fait peser sur le locuteur est nettement inférieure aux avantages qu’elle apporte en termes de participation citoyenne et de préservation de la démocratie.

Sans préjudice de ces divergences d’opinion, le Conseil estime également que, d’un point de vue juridique, les règles de Meta relatives à la désinformation et à l’application des mentions pourraient être clarifiées sur trois points ( Observation générale n° 34, par. 25 ; rapport A/HRC/38/35, par. 46). Tout d’abord, il existe un décalage entre l’affirmation générale contenue dans l’exposé des motifs de la politique, selon laquelle Meta supprime « les contenus susceptibles de contribuer directement à entraver le bon déroulement des processus politiques », et les règles qui en découlent, qui n’interdisent qu’un ensemble restreint d’affirmations d’« ingérence dans le vote ou le recensement », dont certaines sont propres aux États-Unis. La justification de la politique relative à la désinformation devrait indiquer plus clairement qu'elle ne vise qu'à supprimer les fausses informations directes concernant les modalités et la sécurité de la participation aux élections, et réviser davantage les exemples spécifiques à chaque pays figurant dans ses règles pour qu'ils soient pertinents à l'échelle mondiale.

D'autre part, il est à craindre que cette politique ne précise pas les sanctions applicables en cas de non-divulgation de l'utilisation de l'IA, ni les conditions dans lesquelles ces sanctions sont imposées, ce qui nécessite davantage de précisions. Troisièmement, les règles relatives aux contenus multimédias manipulés ne précisent pas comment Meta définit un « risque particulièrement élevé d'induire le public en erreur de manière considérable sur une question d'intérêt public ». Bien qu’une majorité des membres du Conseil soit favorable à des mesures plus strictes et à un seuil d’application plus bas (comme l’indiquent les recommandations), le Conseil estime qu’une plus grande clarté sur ce point, accompagnée d’une plus grande transparence quant à la fréquence à laquelle ces mesures sont mises en œuvre, serait très utile pour permettre au public de mieux comprendre les règles de Meta et ses efforts de mise en application.

Discours haineux

Le Conseil estime que la vidéo enfreint le Standard de la Communauté sur les conduites haineuses. Pour la majorité des membres du Conseil, cela revient à accuser les réfugiés, en tant que groupe, de crimes graves et de comportements sexuels abusifs, sans distinction et sur la seule base de leur identité. La cible est explicitement désignée (« les réfugiés sont les bienvenus ici ») et des actes de criminalité grave leur sont imputés en tant que groupe dans son ensemble (« même s’ils violent nos femmes »). Cette déclaration correspond à la définition d'une généralisation et s'inscrit dans la lignée de plusieurs décennies de diabolisation des immigrés, présentés comme une menace pour la sécurité au Royaume-Uni, en particulier pour les femmes et les filles. Cette conclusion va dans le sens de la décision du Conseil Critique des politiques migratoires de l'UE et des immigrés. Dans cette affaire, une majorité des membres a estimé qu’une image générée par IA représentant des immigrés, accompagnée d’un texte indiquant que l’Allemagne n’avait plus besoin de « spécialistes du viol collectif », constituait une infraction pour des motifs similaires.

Pour la majorité, la suppression de cette publication en vertu des règles relatives aux comportements haineux est conforme aux responsabilités de Meta en matière de droits humains. Le Standard de la communauté est clair, conforme au principe de légalité, et la suppression est nécessaire et adéquate pour protéger les droits d'autrui à l'égalité et à la non-discrimination (article 19, par. 3 du PIDCP ; article 2 du paragraphe 1 du PIDCP).

La suppression est une mesure adéquate car l'intérêt de protéger les réfugiés contre la discrimination, l'hostilité et la violence l'emporte sur la restriction imposée à la liberté d'expression de l'utilisateur (Observation générale n° 34, par. 34). Conformément au Plan d'action de Rabat des Nations unies et à ses six critères d'évaluation du caractère adéquat des restrictions visant l'incitation à la violence, à l'hostilité ou à la discrimination, ces risques sont réels et immédiats.

Le contexte socio-politique est d’une importance cruciale dans ce cas. Au Royaume-Uni, les actes de violence visant des personnes perçues comme des réfugiés ou des migrants sont fréquents, comme le résume le Comité des Nations unies pour l'élimination de la discrimination raciale ( Observations finales sur le Royaume-Uni, Comité des Nations unies pour l'élimination de la discrimination raciale, 2024) et comme le montre l'affaire Messages soutenant les émeutes au Royaume-Uni. Comme l’a montré cette affaire, la violence a été nourrie par la désinformation en ligne, un phénomène que les organisations de la société civile n’ont cessé de documenter depuis que le Conseil a publié cette décision ( Rapport mondial 2026, Human Rights Watch, février 2026 ; et rapport « State of Hate », Hope Not Hate, mars 2026).

La distinction opérée par Meta entre les caractéristiques intrinsèques et les affirmations comportementales dans ses directives d'application est trop mécanique : l'expression « les réfugiés violent » est autorisée, tandis que « les réfugiés sont des violeurs » ne l'est pas. La distinction relève davantage de la grammaire que de l'intention de publication, du contenu ou du risque de préjudice, qui sont tous des facteurs pertinents dans le Plan d'action de Rabat. Cet article a pour but de diaboliser les réfugiés en tant que groupe et de véhiculer des idées selon lesquelles les réfugiés auraient une propension à la violence. Pour la plupart, le fait de mentionner que des Blancs commettent eux aussi des viols est une remarque désinvolte visant à se moquer de ceux qui manifestent leur solidarité envers les réfugiés ; dans un contexte où les Blancs ne sont en réalité pas confrontés à ce stéréotype préjudiciable, cela n'a pas d'effets discriminatoires équivalents.

L'effet cumulatif de la présence de contenus de ce type sur les plateformes de Meta crée un climat propice à des actes de violence et de discrimination à l'encontre des réfugiés et des minorités ethniques ou religieuses, qui peuvent facilement éclater à la suite d'événements déclencheurs (voir Messages soutenant les émeutes au Royaume-Uni). Pour la majorité, les responsabilités de Meta en matière de droits humains ne se limitent pas à la prévention de violences racistes à grande échelle, mais concernent également les actes quotidiens d'hostilité et de discrimination qui précèdent de tels événements. Comme l’avait affirmé la majorité dans les Critiques à l'égard des politiques migratoires de l'UE et des immigrés, « la difficulté d’évaluer les répercussions de chaque contenu à grande échelle et la nature imprévisible de la viralité en ligne justifient la prudence de Meta en matière de modération. ... Si Meta autorise tous les discours haineux qui ne relèvent pas de l’incitation décrite dans l’article 20 du PIDCP, les plateformes de Meta deviendraient un lieu intolérable pour les minorités et les groupes marginalisés, qui ne pourraient pas s’y exprimer en toute sécurité. » Pour la majorité, la suppression est nécessaire, car aucune mesure moins restrictive ne permettrait d’assurer un niveau de protection suffisant.

Pour une minorité des membres du Conseil, la déclaration contenue dans la vidéo ne constitue pas une violation du Standard relatif aux Comportements haineux, et ce pour trois raisons distinctes. Tout d'abord, cette vidéo est une représentation (fallacieuse) de propos qu'une personnalité politique aurait prétendument tenus, et non une affirmation directe concernant les réfugiés. Le message de cette vidéo est que cette personnalité politique se moque de savoir si les réfugiés sont des violeurs ou non ; elle les accueillerait tous à bras ouverts. Il s’agit d’un message portant sur la personnalité politique et non sur les réfugiés en tant que groupe.

Deuxièmement, même en considérant les propos attribués à cet homme politique comme une affirmation directe, la vidéo ne dit pas que tous les réfugiés, ni même la plupart d'entre eux ou un grand nombre d'entre eux, sont des violeurs. La vidéo affirme que cette personnalité politique accueille tous les réfugiés, qu'ils soient ou non des violeurs, car les « Blancs » commettent eux aussi des viols. Ce message n'est pertinent que pour affirmer que la personnalité politique a tort de ne pas faire la distinction entre les réfugiés dangereux et ceux qui ne le sont pas, ce qui serait particulièrement évident pour les internautes britanniques compte tenu du vaste débat public autour de ces questions (voir ci-dessus).

Troisièmement, le critère permettant de supprimer des propos politiques en vertu de la politique relative aux comportements haineux est et doit rester très strict. C'est particulièrement le cas dans le cadre des débats politiques, qui abordent souvent des généralisations concernant les groupes de personnes les plus touchés par ces politiques, lesquelles peuvent paraître offensantes et discriminatoires. Selon l'avis de la minorité, la distinction opérée par Meta entre les généralisations interdites portant sur les qualités intrinsèques de certains groupes et les affirmations comportementales concernant la conduite de certains membres de ces groupes est conforme aux principes internationaux de liberté d'expression. La position majoritaire, qui repose sur la notion de « préjudices cumulés » liés aux discours haineux, s'écarte largement de l'exigence du droit international des droits humains selon laquelle il convient de démontrer l'existence d'un lien de causalité direct entre le discours et le préjudice pour justifier des restrictions à la liberté d'expression, et que ce préjudice soit probable et imminent (voir la critique formulée par la minorité dans Critiques des politiques migratoires de l'UE et de l'immigration). L'appel à la notion de préjudices cumulés sans démontrer clairement la probabilité et le caractère imminent du préjudice revient ainsi à restreindre la liberté d'expression au seul motif qu'elle exprime un point de vue défavorable, ce qui est manifestement contraire aux normes internationales en matière de droits de l'homme.

Harcèlement et intimidation

Le Conseil estime que la vidéo mettant en scène la personnalité politique n'enfreint pas le Standard de la communauté relatif à l'intimidation et au harcèlement, car la personnalité en question est une personnalité publique et ne bénéficie pas de l'interdiction relative aux « images manipulées non sollicitées ».

Selon les standards des droits humains internationaux, les agents de la fonction publique et les responsables politiques sont à juste titre tenus de tolérer que leurs actions soient soumises à un plus grand contrôle et à davantage de critiques que les individus privés, compte tenu de leur rôle influent dans les affaires publiques et du droit du public de leur demander des comptes (cf. Observation générale n° 34, paragraphe 11, 38). Le fait de distinguer les personnalités publiques des particuliers permet de garantir que les restrictions à la liberté d'expression qui en découlent respectent les principes de nécessité et de proportionnalité.

Parallèlement, le Conseil constate que la définition donnée par Meta des « personnalités publiques » dans les Standards de la communauté nécessite des précisions. Ceux-ci indiquent que les personnalités publiques sont « les responsables gouvernementaux au niveau régional et national, ainsi que les candidats à ces fonctions », et n'inclut pas l'ensemble des élus, notamment au niveau local ou municipal. Selon le Conseil, il est plus approprié de considérer ces personnes comme des personnalités publiques en raison de leur fonction publique élective, plutôt qu’en fonction de leur audience sur les réseaux sociaux ou de l’importance de la couverture médiatique dont elles font l’objet. Meta semble adopter cette position dans la mise en œuvre de ses règles (comme en témoignent ses soumissions dans cette affaire), mais ses règles publiques devraient l'exprimer plus clairement.

6. Décision du Conseil de surveillance

Le Conseil annule la décision de Meta de maintenir le contenu en ligne et exige sa suppression conformément au Standard de la Communauté de conduite haineuse. Après avoir examiné ce cas, le Conseil constate également des lacunes dans les politiques d'étiquetage prévues par le Standard de la communauté relatif aux fausses informations, et formule les recommandations ci-dessous.

7. Recommandations

A. Politique de contenu :

1. Afin de protéger les droits des utilisateurs à la participation citoyenne et à l'intégrité de l'information, Meta devrait modifier sa politique relative aux contenus manipulés pour l'application des mentions « haut risque », afin d'abaisser le seuil d'application de ces mentions et de veiller à ce qu'elles ne soient pas réservées aux situations de crise ou aux mesures visant à garantir l'intégrité des élections.

Le Conseil considérera que cette mesure aura été mise en œuvre lorsque Meta lui aura fourni les directives d'application mises à jour, indiquant les seuils abaissés pour l'attribution des mentions « Haut risque ».

2. Afin de protéger les droits des utilisateurs en matière de participation citoyenne et d'intégrité de l'information, Meta devrait rendre plus difficile l'accès aux contenus étiquetés comme étant générés par l'IA ou présentant un « risque élevé d'IA », par exemple en affichant un message intercalé plutôt qu'une simple mention.

Le Conseil considérera que cette mesure aura été mise en œuvre lorsque Meta aura fourni la preuve que des obstacles supplémentaires, par exemple sous forme de messages intercalés, ont été mis en place pour ce cas d'utilisation.

3. Afin de protéger les droits des utilisateurs en matière de participation citoyenne et d'intégrité de l'information, tous les contenus étiquetés à « Haut Risque » devraient faire l’objet d’une démonétisation, d’une rétrogradation ou d’une suppression des recommandations, avec des sanctions de plus en plus sévères pour les comptes qui partagent de manière répétée du contenu classé « Haut risque ».

Le Conseil considérera que cette recommandation aura été mise en œuvre lorsque Meta aura mis à jour sa politique relative aux contenus manipulés afin de refléter ces changements et aura fourni au Conseil la preuve que ces sanctions sont bien appliquées.

4. Afin de préciser que sa politique en matière de désinformation s'applique aux utilisateurs du monde entier, Meta devrait veiller à ce que les règles et les exemples relatifs aux électeurs et aux ingérences dans le recensement soient formulés de manière à s'appliquer à l'échelle mondiale et ne se limitent pas au contexte des États-Unis.

Le Conseil considérera que cette mesure aura été mise en œuvre lorsque Meta aura mis à jour son « Standard de la communauté relatif à la désinformation » afin de garantir que tous les exemples soient applicables à l'échelle mondiale.

B. Transparence :

5. Afin d’améliorer la transparence au sujet de la mise en application de sa politique sur les contenus manipulés, Meta devrait publier dans son Espace modération des données annuelles sur le nombre de fois où elle attribue les mentions « Haut risque » et « Haut risque d’IA » à des contenus, y compris le nombre de fois où ces mentions sont attribuées à des contenus provenant de personnalités politiques ou concernant ces dernières.

Le Conseil considérera que cette recommandation aura été mise en œuvre lorsque Meta publiera ces informations dans son Espace modération, sous un format similaire à celui de ses publications annuelles concernant la tolérance d’intérêt médiatique.

6. Afin de soutenir la recherche sur l’efficacité des interventions contre les fausses informations, Meta devra s’assurer que toutes les mentions prévues par la Politique relative aux fausses informations (« Information IA », « Haut risque » ou « Haut risque d’IA ») soient visibles sur les contenus de la Bibliothèque de contenu Meta, et à ce que les contenus auxquels ces mentions ont été attribuées puissent être recherchés à l'aide d'un filtre.

Le Conseil considérera que cette recommandation aura été mise en œuvre lorsque Meta aura démontré que cette fonctionnalité est opérationnelle.

Le Conseil rappelle également l'importance de sa recommandation précédente (numéro 3), formulée dans sa décision relative à la vidéo générée par IA dans le conflit israélo-iranien, dans laquelle il demandait à Meta de publier une explication claire des sanctions applicables en cas d’absence de déclaration de contenus créés ou modifiés numériquement. Elle devrait fournir des critères pour les sanctions et énumérer les fonctionnalités du compte qui sont limitées en conséquence et pour combien de temps.

* Note de procédure :

• Les décisions du Conseil de surveillance sont prises par des panels de cinq membres et approuvées par une majorité du Conseil dans son ensemble. Les décisions du Conseil ne représentent pas nécessairement les opinions de tous les membres.
• En vertu de sa Charte, le Conseil de surveillance est habilité à examiner les appels déposés par les utilisateurs dont le contenu a été supprimé par Meta, les appels déposés par les utilisateurs ayant signalé un contenu que Meta n’a finalement pas supprimé, et les décisions que Meta lui transmet (article 2, section 1 de la Charte). Le Conseil dispose d’une autorité contraignante pour confirmer ou annuler les décisions de Meta relatives au contenu (article 3, section 5 de la Charte ; article 4 de la Charte). Le Conseil est habilité à émettre des recommandations non contraignantes auxquelles Meta doit répondre (article 3, section 4 de la Charte ; article 4). Lorsque Meta s’engage à donner suite aux recommandations, le Conseil surveille leur mise en œuvre.
• Pour la décision sur ces cas, le Conseil n’a pas commandité de recherches indépendantes.

Retour aux décisions de cas et aux avis consultatifs politiques