Meta doit renforcer ses mesures contre les deepfakes préjudiciables contenant des discours incitant à la haine

17 septembre 2026

Le Conseil de surveillance a estimé qu’une vidéo deepfake mettant en scène un élu local britannique devait être supprimée de Facebook, car elle contient un discours incitant à la haine visant les réfugiés, infirmant ainsi la décision de Meta de la maintenir en ligne. Le Conseil a estimé que Meta devait faire beaucoup plus pour lutter efficacement contre ce type de contenu, notamment en renforçant les sanctions applicables au partage de deepfakes préjudiciables, afin de protéger les utilisateurs contre les risques de tromperie.

Pourquoi est-ce important ?

Cette affaire met en lumière les défis considérables auxquels les sociétés sont confrontées et auxquels les entreprises de réseaux sociaux doivent répondre : le réalisme croissant des deepfakes mettant en scène des élus qui déforment leurs positions sur des questions cruciales et induisent le public en erreur, ainsi que la désinformation qui alimente la haine à l’encontre des minorités, notamment des immigrés. Les femmes politiques, les journalistes et les militantes sont ciblées de manière disproportionnée par des deepfakes qui déforment leurs propos ou leurs positions, notamment dans le cadre de campagnes de harcèlement. Quant aux personnalités publiques moins connues, telles que les élus locaux et les militants, elles disposent souvent de ressources limitées pour y répondre efficacement. La diffusion des deepfakes érode la confiance dans l’ensemble des informations publiques et remet en question les limites entre ce qui relève de la liberté d’expression politique protégée et ce qui constitue une violation des règles de Meta en matière de désinformation, de discours incitant à la haine ou d’intimidation et de harcèlement.

À propos du cas

En novembre 2025, un utilisateur de Facebook a publié une courte vidéo représentant l’image d’un conseiller municipal du Parti travailliste en Écosse. La vidéo, qui semble avoir été générée par l’IA, montre la femme politique déclarant : « Les réfugiés sont les bienvenus ici, même s'ils violent nos femmes, car les Blancs font ça aussi. »

La représentation est réaliste, même si un examen plus attentif révèle qu’elle a été générée artificiellement : le son n’est pas parfaitement synchronisé avec ses mouvements du visage, ce qui indique qu’il s’agit d’un contenu fabriqué. La vidéo faisait partie d’un album contenant une photographie de plusieurs femmes identifiées, prises lors d’une manifestation contre l’extrême droite, parmi lesquelles figurait la conseillère municipale. L’album et la vidéo ont enregistré ensemble plus de 5 000 vues, plus de 50 commentaires, plus de 20 réactions et plus de 10 partages.

Deux personnes, dont la personnalité politique représentée dans la vidéo, ont signalé ce contenu pour violation de la politique relative à l'intimidation et au harcèlement, mais les systèmes de Meta n’ont pas jugé nécessaire de soumettre cette publication à un examen manuel ; le contenu est donc resté en ligne sur Facebook. Les deux utilisateurs ont fait appel auprès de Meta, mais la publication est restée en ligne et n’a pas fait l’objet d’un examen humain. L’un des utilisateurs, qui n’était pas la personnalité politique concernée, a ensuite fait appel auprès du Conseil de surveillance. Lorsque le Conseil de surveillance a porté l’affaire à l’attention de Meta, l’entreprise a conclu que la vidéo ne constituait pas une violation de ses Standards de la communauté et qu’elle ne justifiait pas l’apposition d’une mention indiquant qu’elle avait été générée par une IA.

Principaux constats

Le Conseil a examiné cette affaire au regard de trois politiques de Meta : la politique relative aux discours incitant à la haine, celle relative à la désinformation et celle relative à l’intimidation et au harcèlement. Le Conseil estime que Meta aurait dû supprimer la vidéo générée par une IA en application de sa politique relative aux discours incitant à la haine.

La majorité des membres du Conseil estime que la vidéo enfreignait les règles de Meta relatives aux discours incitant à la haine, précisément parce qu’elle attribue des actes criminels graves et des comportements sexuels prédateurs aux réfugiés dans leur ensemble, et non à certains réfugiés seulement, comme l’affirmait Meta.

En statuant sur cette affaire, le Conseil a également examiné si la vidéo, dans l’hypothèse où elle n’aurait pas enfreint les règles relatives aux discours haineux, aurait satisfait aux critères justifiant sa suppression en vertu de la politique relative à la désinformation. La majorité des membres du Conseil estime qu’une suppression n’aurait pas été justifiée au titre de la politique relative à la désinformation, mais que la vidéo aurait dû être accompagnée d’une mention « IA à haut risque ». Dans son analyse, le Conseil conclut également que les règles de Meta relatives à l’apposition de mentions sur les deepfakes générés par IA sont inadéquates.

La majorité des membres du Conseil estime que Meta doit adopter des politiques plus rigoureuses concernant les deepfakes, notamment en élargissant les situations dans lesquelles des mentions « à haut risque » peuvent être apposées, en prenant davantage de mesures pour limiter la diffusion de contenus trompeurs générés par l’IA, en renforçant les sanctions à l’encontre des comptes qui en partagent de manière répétée et en améliorant la transparence des données concernant les cas dans lesquels des mentions indiquant l’utilisation de l’IA sont apposées.

Une minorité des membres du Conseil estime que la vidéo ne devrait pas être considérée comme un discours incitant à la haine, car elle vise les opinions qui sont attribuées à la personnalité politique plutôt que l’ensemble des réfugiés ou la majorité d’entre eux. Elle estime également que, dans la mesure où la vidéo relève du discours politique, le seuil justifiant sa suppression devrait être plus élevé.

Des opinions minoritaires ont également été exprimées au sein du Conseil concernant ses conclusions au regard des règles relatives à la désinformation. Un membre minoritaire a estimé qu’une mention « à haut risque » était trop restrictive et qu’une mention moins contraignante, « Informations sur l’IA », aurait dû être apposée. Une autre minorité, distincte de la première, a estimé que la gravité des préjudices, conjuguée au fait que Meta n’appose en pratique que peu de mentions relatives à l’IA, justifierait la suppression de la vidéo.

Le Conseil estime que la vidéo ne devrait pas être supprimée au titre des règles relatives à l’intimidation et au harcèlement, car l’élu est une personnalité publique et bénéficie donc, en vertu de cette politique, d’une protection moindre que les personnes privées.

Décision du Conseil de surveillance

Le Conseil de surveillance annule la décision de Meta de maintenir ce contenu en ligne et exige sa suppression en vertu du Standard de la communauté relatif aux discours incitant à la haine. Dans le cadre de l’examen de cette affaire, le Conseil relève également des lacunes dans les politiques d’étiquetage prévues par le Standard de la communauté relatif à la désinformation et formule les recommandations suivantes concernant cette politique.

Le Conseil recommande à Meta :

• Modifier sa politique relative aux contenus manipulés afin d’abaisser le seuil d’apposition des mentions « à haut risque », en veillant à ce que cette mesure ne soit pas limitée aux situations de crise ou aux questions d’intégrité électorale.
• Renforcer les mesures de précaution pour les utilisateurs qui consultent des contenus étiquetés comme générés par l’IA ou portant la mention « IA à haut risque », par exemple en utilisant un écran interstitiel (un écran nécessitant un clic pour accéder au contenu) plutôt qu’une simple mention.
• Soumettre tous les contenus portant la mention « à haut risque » à une démonétisation, à une réduction de leur visibilité ou à leur exclusion des recommandations, avec des sanctions progressives à l’encontre des comptes qui partagent de manière répétée des contenus portant la mention « à haut risque ».
• Veiller à ce que les règles et les exemples relatifs à l’ingérence dans les élections ou les recensements soient formulés de manière à s’appliquer à l’échelle mondiale et ne soient pas limités au contexte des États-Unis.
• Publier chaque année, dans son Centre de transparence, des données indiquant le nombre de fois où les mentions « à haut risque » et « IA à haut risque » sont apposées sur des contenus, ainsi que le nombre de fois où ces mentions sont apposées sur des contenus publiés par des personnalités politiques ou les concernant.
• Veiller à ce que toutes les mentions prévues par la politique relative à la désinformation (« Informations sur l’IA », « à haut risque » ou « IA à haut risque ») soient visibles sur les contenus disponibles dans la Bibliothèque de contenu de Meta, et à ce que les contenus ayant reçu ces mentions puissent être recherchés à l’aide d’un filtre.

Le Conseil réitère également l’importance de sa recommandation précédente formulée dans la décision relative à la vidéo générée par l’IA dans le contexte du conflit entre Israël et l’Iran, qui appelle Meta à publier une explication claire des sanctions applicables en cas de non-déclaration volontaire de contenus créés ou modifiés numériquement. Elle devrait définir les critères applicables aux sanctions et préciser quelles fonctionnalités des comptes sont par conséquent limitées, ainsi que la durée de ces limitations.

Plus d’informations

Pour lire les commentaires publics sur ce cas, cliquez ici.

Return to Blogs