Contenu visant une défenseuse des droits humains au Pérou

Résumé

Le Conseil de surveillance a annulé la décision de Meta de conserver du contenu qui ciblait l’un des principaux défenseurs péruviens des droits humains. Les libertés fondamentales telles que le droit de réunion et d’association sont de plus en plus restreintes au Pérou, les organisations non gouvernementales (ONG) figurant parmi les entités affectées. La publication incluait une image de la militante retouchée, probablement grâce à l’IA, de sorte que du sang semblait couler sur son visage, et a été partagée par un membre de La Resistencia. Ce groupe a recours à de fausses informations et à des stratégies violentes et intimidantes à l’encontre des journalistes, des ONG et des institutions et défenseurs des droits humains au Pérou. Si l’on tient compte du contexte dans son intégralité, cette publication répond à la description de « menace dissimulée » au titre de la politique sur la violence et l’incitation. Ce cas laisse penser que Meta n’applique pas avec suffisamment de sévérité ses politiques liées aux menaces dissimulées ou codées sur ses plateformes. Aussi le Conseil émet-il deux recommandations à ce propos.

À propos du cas

Un membre de La Resistencia a publié une image probablement retouchée grâce à l’IA qui représente le visage ensanglanté de la dirigeante d’une organisation de défense des droits humains. Une légende en espagnol insinuait que les organisations non gouvernementales (ONG) commettaient des malversations financières lorsqu’elles recevaient des fonds étrangers et les accusait d’inciter les gens à participer à des mouvements de protestation violents. Lors du partage de cette publication, le Pérou était le théâtre de manifestations civiles contre le gouvernement.

Elle a été vue un millier de fois et signalée. Meta a jugé qu’il n’y avait là aucune infraction. L’utilisateur qui avait fait appel auprès de Meta s’est alors tourné vers le Conseil. Avant que le Conseil sélectionne le cas, Meta a reçu un signalement de la part de l’un de ses partenaires de confiance, un réseau mondial d’ONG, d’agences humanitaires et de centres de recherche sur les droits humains, qui signalait les risques émergents que peut représenter le contenu sur les plateformes de Meta. De ce fait, Meta a examiné le compte à l’origine de l’image et l’a désactivé pour violation de ses Conditions de service, ce qui signifie que la publication en question n’est plus disponible sur Facebook.

Principales conclusions

Le Conseil a jugé à l’unanimité que cette publication pouvait être considérée comme une menace « dissimulée ou implicite » au titre du standard de la communauté sur la violence et l’incitation. Lorsque les menaces sont dissimulées, elles doivent inclure un « signal de menace » (l’annonce de représailles, un appel à l’action, etc.) et un « signal contextuel », notamment la confirmation par des spécialistes locaux qu’elles risquent incessamment d’engendrer de la violence.

L’image retouchée grâce à l’IA vise une cible : la défenseuse des droits humains qu’un grand nombre de Péruviens peuvent facilement reconnaître. Son image a été modifiée pour faire croire qu’elle a subi des blessures physiques. Le texte fait part de doléances à l’encontre des ONG, notamment des allégations de malversations financières. Pris ensemble, ces facteurs constituent un signal de menace. Le contenu répond également à l’exigence d’un signal contextuel puisque les attaques qui ciblent les défenseurs des droits humains, y compris celles de La Resistencia, sont notoires au Pérou. Par ailleurs, le signalement envoyé à Meta par son partenaire de confiance explique en quoi cette publication aurait pu déboucher sur des actes de violence imminents.

Meta a interprété cette image comme étant celle d’une défenseuse des droits humains qui « a du sang sur les mains ». Le Conseil n’est pas convaincu par cette explication, qui le déçoit. En effet, l’image a été modifiée pour représenter une blessure sanglante à la tête. Il aurait suffi que les équipes internes de Meta effectuent une recherche en ligne pour trouver le portrait original et souriant de la militante et se rendre compte qu’elle était reconnaissable sur l’image retouchée.

Aucune mesure moins sévère que la suppression du contenu n’aurait adéquatement permis de réduire les risques courus par la défenseuse des droits humains dans ce cas-ci. Des rapports récemment publiés par l’ONU traitent de l’insécurité qui règne au Pérou pour les militants, en particulier pour les femmes. La stigmatisation des groupes de la société civile a créé un climat de peur, et cette tendance est exacerbée par les initiatives législatives qui cherchent à renforcer le contrôle sur les ONG et à restreindre la liberté de réunion pacifique.

Enfin, le Conseil a reçu des signalements selon lesquels ce contenu a été republié par d’autres comptes associés à l’utilisateur qui l’avait initialement publié. Meta devrait veiller à ce que de telles publications soient supprimées, à moins qu’elles condamnent l’image ou sensibilisent à son sujet.

La décision du Conseil de surveillance

Le Conseil de surveillance a annulé la décision de Meta de conserver le contenu.

Le Conseil recommande également à Meta ce qui suit :

• Préciser que les « déclarations codées ne formulant pas clairement le type de violence » sont interdites sous quelque forme que ce soit (écrite, visuelle ou verbale), au titre du standard de la communauté sur la violence et l’incitation.
• Réaliser une évaluation annuelle de la précision avec laquelle les potentielles menaces dissimulées sont modérées, en se concentrant tout particulièrement, d’une part, sur les contenus qui incluent des menaces à l’encontre de défenseurs des droits humains et qui sont conservées à tort sur la plateforme et, d’autre part, sur les discours politiques qui sont supprimés alors qu’ils ne devraient pas l’être.

* Les résumés de cas donnent un aperçu des cas et n’ont pas valeur de précédent.

Décision complète sur le cas

1. Description du cas et contexte

En juillet 2024, un utilisateur de Facebook au Pérou a publié un portrait numériquement retouché d’une dirigeante bien connue d’une organisation de défense des droits humains péruvienne. Elle est clairement identifiable sur l’image, qui a sans doute été retouchée grâce à l’IA et qui montre sa figure d’où coule du sang. Une légende en espagnol insinue que les organisations non gouvernementales (ONG) commettent des malversations financières en recevant des fonds étrangers et les accuse d’inciter les gens à participer à des mouvements de protestation violents. La publication a été partagée alors que des citoyens péruviens manifestaient contre le gouvernement à Lima, la capitale du pays. Elle a été vue un millier de fois et a recueilli moins de 100 réactions.

Trois jours après la publication du contenu, un utilisateur l’a signalé pour violation des politiques de Meta. Lors d’un examen manuel, il a été déterminé que le contenu n’était pas en infraction, et il a été conservé sur la plateforme. L’utilisateur a fait appel de la décision de Meta, mais l’appel a été automatiquement clos sans examen supplémentaire. Le même utilisateur s’est ensuite pourvu en appel auprès du Conseil.

Entre ce moment-là et le moment où le Conseil a sélectionné le cas, la publication a également été signalée à Meta dans le cadre de son programme de partenaires de confiance. Il s’agit d’un réseau d’ONG, d’agences humanitaires et de chercheurs sur les droits humains issus de 113 pays qui signale des publications et fait part de ses commentaires à Meta sur les politiques de contenu de l’entreprise et la manière dont celle-ci les applique. Pour donner suite à ce signalement, les équipes internes de remontée de Meta ont examiné le compte associé à la publication et ont trouvé qu’il enfreignait les Conditions de service de Meta parce que l’utilisateur disposait de plusieurs comptes avec le même nom ou un nom similaire. Meta a alors désactivé le compte et rendu son contenu inaccessible sur Facebook. Par conséquent, le contenu n’a fait l’objet d’aucun examen supplémentaire.

Après que le Conseil a sélectionné le cas présent, Meta a réévalué la publication et a confirmé sa décision initiale, selon laquelle le contenu ne violait pas ses politiques.

Le Conseil a tenu compte du contexte ci-dessous pour parvenir à sa décision dans le cas présent :

Le Pérou est en « pleine crise sociopolitique », six présidents et trois législatures s’étant succédé depuis 2016 (cf. le rapport de 2023 du Haut-Commissariat des Nations Unies aux droits de l’homme [HCDH]). L’instabilité politique était à son plus haut point en décembre 2022 lorsque l’ancien président Pedro Castillo fut destitué et arrêté pour abus d’autorité. Dina Boluarte, alors vice-présidente, fut nommée à la présidence par le Congrès. L’HCDH a fait remarquer que les évènements de décembre 2022 « ont déclenché des vagues de protestation à travers le pays, canalisant le mécontentement social […] engendré par les discriminations historiques et la marginalisation politique et socio-économique que subit une grande partie de la population ».

Depuis lors, l’ONU et les groupes de défense des droits humains ont fait part de leur inquiétude quant à la restriction des libertés fondamentales par le gouvernement péruvien, en particulier le droit de réunion, qui inclut celui de manifester. Un rapport de 2024 du Rapporteur spécial sur les droits à la liberté de réunion pacifique et à la liberté d’association fait état d’allégations « de recours excessif, indiscriminé et disproportionné à la force et aux armes à feu, aux exécutions extrajudiciaires, et aux détentions arbitraires de masse » dans le contexte des manifestations majoritairement pacifiques qui ont débuté en décembre 2022. D’autres mouvements de protestation contre le gouvernement ont depuis eu lieu, y compris en juillet 2024 lorsque le contenu concerné dans le cas présent a été publié. Une autre « inquiétude majeure » est « la stigmatisation et la criminalisation alléguées des défenseurs des droits humains […] et le manque de protections efficaces pour les militants en danger ». Alors que les restrictions des libertés fondamentales liées au droit de réunion et d’association se multiplient, le Rapporteur spécial de l’ONU sur les droits à la liberté de réunion pacifique et à la liberté d’association a rendu compte de la situation de plus en plus précaire des défenseurs des droits humains. Ces tendances affectent tout particulièrement les femmes, qui sont la cible de menaces en raison de leur militantisme et de leur identité de genre. Le Rapporteur spécial a noté que « le type de harcèlement subi est souvent de nature discriminatoire, misogyne et sexuelle ». « L’absence d’une approche systémique et intersectionnelle de la part des autorités » nuit également aux militantes lorsqu’elles déposent plainte et demandent réparation.

Le travail des défenseurs des droits humains est en outre menacé par les propositions de loi qui visent à limiter les activités des ONG. En juin 2024, la Commission du Congrès péruvien aux relations étrangères a proposé des projets d’amendement de la loi de 2022 qui a vu la création de l’Agence péruvienne de coopération internationale. Des acteurs de la société civile au Pérou ont averti que ces amendements entraveraient le financement des ONG et restreindraient leur liberté d’expression. En mars 2025, le Congrès péruvien les a approuvés. Si ces lois sont appliquées, des sanctions pourraient également être imposées à l’encontre des organisations de la société civile qui poursuivraient l’État en justice et l’accuseraient de violations des droits humains. Human Rights Watch s’est penchée sur la manière dont « les lois de type “influence étrangère” » aux quatre coins du monde pouvait stigmatiser les groupes indépendants de la société civile et « servir à discréditer » la défense des droits humains en l’assimilant à « la promotion des intérêts d’une puissance étrangère ».

Au Pérou, ces propositions ont progressé en même temps que le lobbying politique pratiqué par des groupes de droite, ainsi que les campagnes sur les réseaux sociaux qui ciblent les ONG et les défenseurs des droits humains en les accusant de terrorisme – des campagnes appelées « terruqueo » au Pérou – et qui incitent à la violence lors des manifestations (cf. PC-30930), comme le fait la publication concernée dans ce cas-ci. L’utilisateur à l’origine de la publication en question est un membre influent de La Resistencia, un groupe peu organisé d’activistes de droite. Fondé en 2018, le groupe recourt à de fausses informations et à des stratégies violentes et intimidantes pour cibler des journalistes, des ONG, des défenseurs des droits humains et des institutions publiques.

2. Soumissions de l’utilisateur

Lors de son appel auprès du Conseil, l’utilisateur qui a signalé le contenu a dit que la publication était une « menace de mort à peine voilée » à l’encontre d’une défenseuse des droits humains. Il a ajouté que la publication devait être interprétée dans le contexte « des attaques physiques et des campagnes de harcèlement » qui ciblent les défenseurs des droits humains au Pérou et qu’elle avait été partagée en réaction aux manifestations de juillet 2024. Il a expliqué que l’auteur du contenu était membre d’un groupe connu pour ses incitations à la violence et que de telles menaces en ligne engendraient de la violence hors ligne.

3.Politiques de Meta relatives au contenu et soumissions

I. Politiques de Meta relatives au contenu

Le standard de la communauté de Meta sur la violence et l’incitation a pour objectif d’« empêcher tout risque de violence hors ligne potentiellement lié à du contenu sur [ses] plateformes ». La justification de la politique stipule que Meta supprime « les propos qui encouragent ou permettent des violences et menaces réelles à l’encontre de la sécurité publique ou personnelle ». L’entreprise essaie également « d’examiner le langage utilisé et le contexte pour distinguer les déclarations triviales ou à but sensibilisateur de celles qui représentent une menace réelle pour la sécurité publique ou celle d’un individu ». La politique indique que Meta supprime le contenu qui inclut des « menaces de violence contre différentes cibles ». Ces dernières sont définies par l’entreprise comme « des déclarations ou des images représentant une intention, une aspiration ou un appel à la violence à l’encontre d’une cible ».

Sous un en-tête qui précise que Meta a besoin d’« informations supplémentaires et/ou d’un contexte » pour appliquer ses règles, le standard de la communauté note que Meta supprime les « déclarations codées ne formulant pas clairement le type de violence, mais dans lesquelles la menace est dissimulée ou implicite, comme le montre la combinaison d’un signal de menace et d’un signal contextuel ». Un signal de menace peut inclure une déclaration codée « partagé[e] dans un contexte de représailles » ou des « [a]ctes tels que des appels à l’action menaçants ». Un signal contextuel peut désigner une confirmation fournie par des spécialistes locaux ou des informations selon lesquelles « la déclaration en question est susceptible de mener à des actes de violence imminents ». Un signal contextuel peut également être la cible d’une menace qui signale le contenu.

Les règles internes à l’intention des équipes de modération précisent que les menaces de violence peuvent prendre une forme visuelle, comme des images numériquement générées ou modifiées. Pour déterminer si les éléments visuels d’une image numériquement générée ou modifiée menacent quelqu’un, Meta tient compte de différents facteurs : le fait que la représentation comprend ou non une cible, ou le fait qu’elle incite intentionnellement ou non à commettre des actes de violence de haute gravité à son encontre.

II. Soumissions de Meta

Meta a déclaré que la publication en question n’enfreignait pas l’interdiction des menaces ciblées, y compris des images numériquement modifiées de violence visuelle, parce qu’elle ne contenait aucune menace manifeste. Selon l’entreprise, le texte qui accompagne la publication « s’appuie sur des allégations de corruption et de violence de la part d’ONG […] Il vise des ONG et leurs activités, sans toutefois les préciser ; il n’identifie aucune cible et ne profère aucune menace. » Meta a souligné les défis inhérents à la modération des contenus qui accusent les ONG et les défenseurs des droits humains de corruption ou de malversations. L’entreprise a indiqué qu’elle « n’était pas en mesure de juger de la véracité ou de la fausseté des allégations » et « ne voulait pas nuire à ce qui pouvait être un discours politique relatif à de la corruption ou à des malversations ». Meta a toutefois reconnu que « dans certains cas, avec plus de contexte, ces allégations peuvent représenter un risque de préjudice hors ligne et devraient être supprimées pour des raisons de sécurité ».

D’après l’entreprise, l’image dans la publication « tenait plus de l’appel [à la violence], car elle semble avoir été numériquement modifiée pour représenter [la défenseuse des droits humains] couverte de sang ». Dans son analyse, Meta a jugé que « bien qu’il y eût du sang dans l’image, la défenseuse des droits humains ne semblait pas blessée. Au contraire, elle a l’air calme, a même un léger sourire et regarde droit vers la caméra. Son expression ne trahit aucune douleur ni blessure, et le sang ne semble pas venir de coupures ou de blessures apparentes. Meta a également souligné que les signes de violence de haute gravité pouvaient être importants lorsqu’il s’agit de déterminer ce qui constitue une menace visuelle. L’entreprise a dit que « si [l’image] avait été visuellement modifiée pour inclure des coups de couteau ou d’autres blessures graves, cela aurait été considéré comme une menace visuelle ». Cependant, elle a conclu que « si l’on tenait également compte de la légende », « l’interprétation la plus évidente de l’image » était que la défenseuse des droits humains avait « du sang sur les mains » en raison des « actions alléguées dans le texte » de l’ONG.

L’interdiction des « déclarations codées ne formulant pas clairement le type de violence, mais dans lesquelles la menace est dissimulée ou implicite » par Meta n’est prise en compte que lors d’une remontée. Meta a besoin d’un signal de menace et d’un signal contextuel pour appliquer sa règle sur les « menaces dissimulées ». Meta a indiqué que, puisque le compte avait été désactivé, elle n’avait pas contacté une équipe multidisciplinaire plus large ou des parties externes pour qu’elles évaluent si la publication était une menace dissimulée, parce que cela nécessiterait des « étapes d’investigation qui requerraient de nombreuses ressources ». Meta a assuré qu’elle aurait réalisé cet examen en profondeur si le contenu avait été conservé sur Facebook. L’entreprise a dit que l’image de la défenseuse des droits humains « n’aurait probablement pas constitué une menace dissimulée parce qu’elle pouvait être interprétée comme une critique politique plutôt que comme de la violence visuelle ». En réponse à une demande de données sur les menaces dissimulées, Meta a expliqué qu’elle ne comptait pas le nombre d’éléments de contenu examinés en vue d’y détecter ce type de menaces.

L’entreprise a dit qu’elle « interagissait activement avec des défenseurs des droits humains pour comprendre leurs besoins et s’efforçait de proposer des mesures spécifiques pour assurer leur protection et réduire les risques qu’ils courent ». Selon la Politique relative aux droits humains de Meta, le terme « défenseurs des droits humains » inclut « les organisations de défense des droits humains, les membres des groupes vulnérables qui plaident pour leurs droits, les journalistes citoyens et professionnels, les militants politiques pacifiques et tout membre de l’opinion publique qui soulève un problème relatif aux droits humains ».

Le Conseil a posé des questions sur le traitement des menaces dissimulées ; sur la manière dont Meta comprenait et évaluait les menaces visuelles dans les images ; sur le rôle joué par les partenaires de confiance dans l’obtention de contexte et d’informations supplémentaires aux fins d’évaluer la probabilité de préjudice hors ligne ; et sur la manière dont Meta protège les défenseurs des droits humains sur ses plateformes. Meta a répondu à toutes les questions.

4. Commentaires publics

Le Conseil de surveillance a reçu 65 commentaires publics qui répondent aux critères de soumission. Parmi ces commentaires, 60 ont été envoyés d’Amérique latine et des Caraïbes, trois l’ont été d’Europe et deux l’ont été des États-Unis et du Canada. Pour consulter les commentaires publics soumis accompagnés d’un consentement à la publication, cliquez ici. Les informations personnelles identifiables dans les commentaires publics ont été masquées.

Les soumissions traitaient des thèmes suivants : le contexte sociopolitique au Pérou ; la situation des défenseurs des droits humains ; les aspects genrés des menaces à l’encontre des militants ; les initiatives législatives récentes qui affectent les activités des ONG au Pérou ; les discours sur les réseaux sociaux qui accusent les ONG, les défenseurs des droits humains et les groupes de la société civile de « terrorisme » ; les opérations de La Resistencia ; et la manière dont Meta devrait modérer le contenu avec de potentielles menaces dissimulées.

En janvier 2025, dans le cadre d’interactions avec les parties prenantes, le Conseil a consulté des organisateurs de défense, des universitaires, des organisations intergouvernementales et d’autres spécialistes sur la protection des défenseurs des droits humains en ligne. Cette table ronde était axée sur les menaces auxquelles doivent faire face les défenseurs des droits humains et sur des campagnes précédentes en faveur de la mise en place, dans les entreprises de réseaux sociaux, de recommandations politiques qui contribueraient à les protéger. Les participants ont également discuté du signalement de contenu dans le cadre du Programme des partenaires de confiance lorsque ces contenus sont selon eux susceptibles d’engendrer des préjudices hors ligne.

5. Analyse du Conseil de surveillance

Le Conseil a sélectionné le cas présent pour examiner la manière dont les politiques de Meta protègent les défenseurs des droits humains, en particulier lorsque les menaces de violence sont dissimulées ou implicites, que leur interprétation requiert davantage de contexte ou que ces menaces sont proférées à des fins d’intimidation et de harcèlement. Ce cas relève de la priorité stratégique du Conseil suivante : Élections et espace civique.

Le Conseil a analysé la décision de Meta dans le cas présent et l’a comparé à ses politiques relatives au contenu, à ses valeurs et à ses responsabilités en matière de droits humains. Il a également évalué les implications de ce cas-ci sur l’approche plus globale de la gouvernance du contenu par Meta.

5.1 Respect des politiques de Meta relatives au contenu

I. Règles relatives au contenu

Le Conseil a jugé à l’unanimité que la publication enfreignait la politique sur la violence et l’incitation. Interprété dans son contexte, l’ensemble constitué du texte et de l’image de la défenseuse des droits humains ensanglantée répond à la définition d’une menace interdite par Meta. La totalité du Conseil estime que la publication peut être considérée comme ce que Meta qualifie de « menace dissimulée », une catégorie qui inclut les publications potentiellement ambiguës si celles-ci émettent un « signal de menace » et un « signal contextuel » qui, ensemble, forment une menace implicite ou déguisée.

• Signal de menace : la publication satisfait à l’exigence d’un « signal de menace », car elle constitue spécifiquement un « appel à l’action menaçant » ou une « expression de la volonté de se montrer violent » en représailles aux malversations alléguées des ONG. L’image contient une cible, une défenseuse des droits humains qu’un grand nombre d’utilisateurs péruviens pourraient facilement identifier. Le texte fait part de doléances à l’encontre des ONG, y compris des allégations de malversations financières et d’incitation à la violence lors des manifestations, et s’accompagne d’une image de la militante qui a été retouchée pour la représenter avec du sang et des blessures subies au cours d’une attaque. Le Conseil n’est pas convaincu par l’explication surprenante de Meta, qui le déçoit. En effet, selon l’entreprise, le sang qui coule sur le visage de la défenseuse des droits humains signifierait qu’elle « a du sang sur les mains » et que l’image est une « critique politique ». La militante « semble calme » et « son expression ne trahit aucune douleur » parce que l’image est une version numériquement modifiée d’un portrait professionnel où elle est souriante. Ses mains ne sont même pas visibles. Les équipes internes de Meta auraient pu facilement se rendre compte que l’individu est reconnaissable. Le Conseil n’a pas connaissance des outils de recherche d’images inversée que Meta met à la disposition de ses modérateurs, mais il part du principe qu’elle a les moyens techniques de leur fournir les informations dont ils ont besoin pour évaluer les images. Bien qu’aucune blessure ne soit visible sur la version retouchée de l’image, la façon dont le sang coule vers le bas à partir d’un côté du visage et des yeux du sujet laisser penser qu’il vient d’une blessure à la tête.
• Signal contextuel : la publication répond à l’exigence d’un « signal contextuel » parce que « [l]e contexte local ou l’expertise confirme que la déclaration en question est susceptible de mener à des actes de violence imminents ». Cette conclusion se fonde sur des informations contextuelles d’après lesquelles des accusations similaires au Pérou auraient, selon toute vraisemblance, incité à cibler les défenseurs des droits humains, à les intimider et à commettre des actes de violence à leur encontre. L’HCDH a documenté plusieurs attaques perpétrées par La Resistencia contre des organisations de défense des droits humains au cours desquelles ces organisations ont été accusées d’être « proterroristes » et d’inciter à la violence lors des manifestations. Le Comité pour la protection des journalistes a rapporté qu’à l’un des rassemblements de La Resistencia, les participants ont proféré des menaces telles que « vos jours sont comptés » et « vous allez mourir » à l’adresse d’individus qui se trouvaient dans les bureaux d’un média. Le risque contextuel a également été mis en évidence dans ce cas-ci par le signalement d’un partenaire de confiance qui avertissait que le contenu risquait incessamment d’engendrer de la violence. Par l’intermédiaire de rapports, de litiges stratégiques et d’évènements avec les parties prenantes, les défenseurs des droits humains ont également fait part de leur inquiétude à l’entreprise quant aux menaces de violence et d’abus.

Certains membres du Conseil estiment qu’il n’est pas nécessaire de s’appuyer sur l’analyse des « menaces dissimulées » pour conclure que la publication enfreint la politique sur la violence et l’incitation. Le Conseil a plusieurs fois insisté sur le fait que Meta devait évaluer les publications dans leur ensemble et dans leur contexte (cf. Collier de wampum, Slogan de protestation en Iran, Violence faite aux femmes et Déclarations à propos du Premier ministre japonais). La politique de Meta sur la violence et l’incitation interdit les déclarations « représentant une intention, une aspiration ou un appel à la violence à l’encontre d’une cible ». Pour ces membres du Conseil là, il ne fait aucun doute que l’image de la défenseuse des droits humains identifiable et ensanglantée, associée à une légende qui formule des allégations de malversations, est une « déclaration d’espoir », une « déclaration d’aspiration » ou un « appel à l’action » sous forme de violence de haute gravité. La seule interprétation possible, selon ces membres-là, est que la personne représentée est prise pour cible à l’aide d’une image qui constitue un appel intentionnel à faire usage d’une violence de haute gravité à l’encontre de cette personne.

II. Mesures de mise en application

Le cas présent fait craindre que les règles de Meta ne soient pas appliquées avec suffisamment de sévérité en raison de la distinction qu’elles établissent entre les menaces qui nécessitent du contexte et celles qui n’en requièrent pas, et que d’autres menaces dissimulées soient conservées sur les plateformes de l’entreprise.

Le Conseil a précédemment reconnu les défis inhérents à la modération des menaces de violence dissimulées (cf. Musique drill britannique, Manifestation en Inde contre la France et Dessin animé de Knin) parce que les analyses contextuelles en profondeur ne sont parfois effectuées qu’après une remontée. Néanmoins, il a également recommandé des applications des politiques de Meta sur les menaces qui pourraient être appliquées en fonction du contexte et à grande échelle (cf. Déclarations à propos du Premier ministre japonais). Les consignes actuelles de Meta à l’intention des équipes d’examen à grande échelle limitent de manière significative la possibilité d’une analyse contextuelle (cf. Violence faite aux femmes). Les équipes de modération à grande échelle n’ont pas comme instruction d’identifier les contenus qui enfreignent les politiques de Meta applicables uniquement lors de remontées, comme c’est le cas ici, et elles n’en ont pas non plus les moyens (cf. Vidéo d’un prisonnier des Forces de soutien rapide au Soudan). Cela signifie que le modérateur dans ce cas-ci n’aurait pas pu faire preuve de discrétion et de discernement lorsque le contenu a été signalé pour la première fois et qu’il n’aurait pas pu faire remonter le contenu aux équipes à même d’appliquer la règle en fonction du contexte.

Puisque Meta ne compte pas le nombre d’éléments de contenu examinés pour y détecter d’éventuelles menaces dissimulées, le Conseil n’a pas pu évaluer leur prévalence ni l’ampleur de la sous-modération. Néanmoins, même si les menaces dissimulées à l’encontre des défenseurs des droits humains étaient considérées comme un problème à la « prévalence faible », leurs conséquences n’en restent pas moins élevées et sont ressenties par les militants menacés, dissuadés de poursuivre leurs activités ou exposés à de la violence physique. Pour y faire face, Meta devrait investir dans une évaluation régulière de haute qualité de ses performances de modération afin d’identifier les points à améliorer dans ce domaine. Meta devrait s’efforcer de mieux comprendre à quel point les menaces dissimulées sont prévalentes sur ses plateformes et avec quel degré de précision ses systèmes détectent et modèrent ce type de contenu. Ce travail pourrait également servir de base pour créer à terme des indicateurs plus précis, tels que la prévalence des menaces qui ciblent les défenseurs des droits humains, et des mécanismes d’évaluation ciblés. Dans le cadre de ce processus, Meta pourrait expérimenter avec le développement d’un outil automatisé qui identifierait les potentielles menaces dissimulées à faire examiner par l’équipe de remontée pertinente.

Enfin, les partenaires de confiance jouent un rôle important dans la détection des contenus potentiellement en infraction, ce qui inclut les menaces dissimulées ou codées, et dans la mise à disposition d’informations nécessaires à une modération précise. Le Conseil a précédemment abordé ces problèmes liés à la réactivité de Meta aux signalements des partenaires de confiance (cf. Vidéo d’un poste de police haïtien). Puisque Meta a fait part de son intention de moins recourir aux systèmes automatisés au profit des signalements d’utilisateurs afin de détecter le contenu en infraction, le Programme des partenaires de confiance est un canal important pour identifier les risques émergents et les erreurs. Meta devrait s’assurer que le Programme dispose des ressources et du soutien adéquats, de sorte que ses équipes internes puissent prendre des décisions de modération qui bénéficient de l’expertise et des informations contextuelles fournies par les partenaires de confiance.

5.2Respect des responsabilités de Meta en matière de droits humains

Le Conseil estime que la suppression de la publication de la plateforme, telle que l’exige une interprétation correcte des politiques de Meta en matière de contenu, est conforme aux responsabilités de Meta en matière de droits humains.

Liberté d’expression (article 19 du PIDCP)

L’article 19 du Pacte international relatif aux droits civils et politiques (PIDCP) prévoit une large protection de la liberté d’expression, notamment dans le cadre de la politique, des affaires publiques et des droits humains (observation générale n° 34, paragraphes 11 et 12). Lorsque des restrictions de la liberté d’expression sont imposées par un État, elles doivent remplir des critères de légalité, d’objectif légitime, ainsi que de nécessité et de proportionnalité (article 19, paragraphe 3 du PIDCP). Ces exigences sont souvent reprises sous l’intitulé « test tripartite ». Le Conseil s’appuie sur ce test afin d’interpréter les responsabilités de Meta en matière de droits humains conformément aux Principes directeurs relatifs aux entreprises et aux droits de l’homme de l’ONU, que Meta elle-même s’est engagée à respecter dans sa Politique relative aux droits humains. Le Conseil utilise ce test à la fois pour la décision relative au contenu en cours d’examen et pour ce que cela dit de l’approche plus large de Meta en matière de gouvernance du contenu. Comme l’a déclaré le Rapporteur spécial de l’ONU sur la liberté d’expression, même si « les entreprises ne sont pas soumises aux mêmes devoirs que les gouvernements, leur influence est néanmoins telle qu’elle doit les inciter à se poser les mêmes questions qu’eux quant à la protection de la liberté d’expression de leurs utilisateurs » (A/74/486, paragraphe 41).

I. Légalité (clarté et accessibilité des règles)

Le principe de légalité consacré par la législation internationale relative aux droits humains exige que les règles utilisées pour limiter la liberté d’expression soient claires et accessibles par le public (observation générale n° 34, paragraphe 25). Les normes de légalité requièrent que les règles qui limitent la liberté d’expression « [ne puissent] pas conférer aux personnes chargées de [leur] application un pouvoir illimité de décider de la restriction de la liberté d’expression » et qu’elles doivent « énonce[r] des règles suffisamment précises pour permettre aux personnes chargées de leur application d’établir quelles formes d’expression sont légitimement restreintes et quelles formes d’expression le sont indûment » (A/HRC/38/35, paragraphe 46). Les personnes qui utilisent les plateformes de Meta doivent pouvoir accéder aux règles et les comprendre, et les équipes d’examen de contenu doivent disposer de conseils clairs sur leur application.

Le Conseil juge que les interdictions par Meta des « menaces de violence contre différentes cibles » et les « déclarations codées ne formulant pas clairement le type de violence, mais dans lesquelles la menace est dissimulée ou implicite » sont suffisamment claires dans ce cas-ci.

Le Conseil note toutefois que, bien que l’interdiction à grande échelle des menaces dans la politique sur la violence et l’incitation prévoie que les « menaces de violence sont des déclarations ou des images », les règles de la politique sur les menaces dissimulées qui sont applicables uniquement après une remontée se concentrent sur les « déclarations codées ». Le Conseil recommande à Meta de préciser cette règle afin qu’il soit clair que les « déclarations codées » sous quelque forme que ce soit (écrite, visuelle ou verbale) sont interdites. Le Conseil a précédemment appelé Meta à élaborer des politiques et des règles de modération qui traitent les publications avec texte et image comme un tout (cf. Publication en polonais ciblant les personnes trans). Cela s’avère particulièrement important pour les publications semblables à celle de ce cas-ci, où le contexte est nécessaire pour comprendre la signification du contenu dans son ensemble Meta analyse la publication de manière incohérente : elle tient compte du texte lorsqu’elle interprète l’image, mais ne tient pas compte de l’image lorsqu’elle interprète le texte. Le Conseil remarque par ailleurs que la terminologie choisie par Meta (« menace dissimulée ») peut induire certains utilisateurs en erreur, car elle suggère une menace déguisée ou, peut-être, encore moins grave. Bien que la publication dans ce cas-ci nécessite une certaine interprétation pour être comprise, il est évident qu’elle vise à envoyer un message menaçant.

II. Objectif légitime

Par ailleurs, toute restriction de la liberté d’expression doit au minimum répondre à l’un des objectifs légitimes énumérés dans le PIDCP, qui incluent la protection des droits d’autrui. Le standard de la communauté sur la violence et l’incitation cherche à « empêcher tout risque de violence hors ligne » en supprimant le contenu qui représente « un réel risque de préjudice physique ». Cette politique poursuit l’objectif légitime de protéger les droits à la liberté d’expression et de réunion (articles 19 et 21 du PIDCP) et le droit à la vie et à la sécurité de sa personne (article 6 du PIDCP ; article 9 du PIDCP).

III. Nécessité et proportionnalité

Conformément à l’article 19(3) du PIDCP, le principe de nécessité et de proportionnalité requiert que les restrictions de la liberté d’expression soient « appropriées pour remplir leur fonction de protection, elles doivent constituer le moyen le moins perturbateur parmi ceux qui pourraient permettre d’obtenir le résultat recherché et elles doivent être proportionnées à l’intérêt à protéger » (observation générale n° 34, paragraphe 34).

Lorsqu’il analyse les risques posés par du contenu violent, le Conseil s’appuie généralement sur le test en six points décrit dans le Plan d’action de Rabat. Bien que ce dernier ait été élaboré pour évaluer les appels à la haine nationale, raciale ou religieuse qui incitent à commettre des actes discriminatoires, hostiles ou violents, le test s’avère utile lorsqu’il s’agit d’évaluer les incitations à la haine de manière générale (cf. Slogan de protestation en Iran et Appel à la manifestation des femmes à Cuba). Sur la base d’une évaluation des facteurs pertinents, en particulier le contenu et la forme d’expression, l’intention de l’auteur et le contexte ci-dessous, le Conseil estime que la suppression du contenu est une restriction nécessaire et proportionnée de la liberté d’expression pour protéger le droit à la vie et à la sécurité de la défenseuse des droits humains. La publication identifie la militante et la menace de représailles violentes. Aucune mesure moins sévère que la suppression du contenu ne permettrait de réduire adéquatement les risques posés.

Les allégations d’activités criminelles et de corruption qui ciblent les ONG et les défenseurs des droits humains au Pérou ont souvent été utilisées par La Resistencia afin de susciter des manifestations qui ont débouché sur des attaques. La publication identifie personnellement la défenseuse des droits humains et la menace par le biais (i) d’une image retouchée qui représente les conséquences d’une blessure violente et (ii) d’une légende qui s’appuie sur des discours utilisés pour mobiliser de telles attaques.

Le contenu a été publié le jour même où des manifestations contre le gouvernement péruvien étaient organisées pour critiquer les « infractions [de l’État] qui nuisent aux intérêts de la plus grande majorité ». « [L]a stigmatisation et la criminalisation des défenseurs des droits humains, les pratiques problématiques persistantes employées par l’État pour répondre aux protestations sociales et le manque de protections efficaces pour les militants en danger » sont qualifiés de sources d’inquiétude majeure par le Rapporteur spécial de l’ONU sur les droits à la liberté de réunion pacifique et à la liberté d’association. Par ailleurs, la situation des défenseurs des droits humains devrait être comprise dans le contexte des menaces, de l’intimidation, du harcèlement et des attaques physiques de groupes comme La Resistencia (cf. PC-30929, PC-30927, PC-30930 et PC-30932). L’auteur de la publication est un membre influent de La Resistencia qui est suivi par un nombre significatif de personnes sur les réseaux sociaux. Les recherches demandées par le Conseil ont mis en évidence le rôle public joué par l’utilisateur dans l’organisation de rassemblements pour cibler des journalistes et des défenseurs des droits humains, les menacer de mort et les intimider. Le Conseil estime qu’une quelconque menace de violence proférée par de tels utilisateurs risque de découler sur des préjudices à court terme pour les cibles représentées. Comme le souligne le Conseil, si les critiques des ONG sont autorisées, les menaces de violence crédibles ne le sont pas.

Des rapports récents corroborent la gravité des menaces qui visent les défenseurs des droits humains. La Rapporteuse spéciale de l’ONU sur la situation des défenseurs et défenseuses des droits humains a déclaré que les militants sont de plus en plus menacés et que les « menaces de mort qui, souvent, précèdent [leur] exécution » sont particulièrement inquiétantes. La Rapporteuse spéciale fait également remarquer que de nombreuses « menaces [sont] fondées sur le genre » et ciblent les défenseuses des droits humains. Au Pérou, le Rapporteur spécial a jugé qu’un « grand nombre de défenseurs des droits humains n’étaient pas en mesure de travailler dans un environnement sûr et favorable ». À la suite d’une demande d’informations publiques déposée auprès des autorités péruviennes en 2023, l’organisation de défense des droits de l’homme Amnesty International a rapporté que le Mécanisme de protection des défenseurs des droits humains de l’État avait enregistré 197 menaces contre des défenseurs des droits humains ou leur famille, dont 60 avaient été victimes de préjudices physiques ou verbaux (cf. PC-30928). Amnesty International a également confirmé les meurtres d’au moins quatre défenseurs des droits humains au Pérou en 2023.

En plus de créer des risques physiques, le contenu qui cible et menace les défenseurs des droits humains et s’accompagne de discours utilisés pour mobiliser des groupes qui ont attaqué des ONG, même si les menaces sont implicites et qu’il faut s’appuyer sur le contexte pour comprendre, perpétue un climat de peur et crée un environnement dans lequel il est de plus en plus normal de cibler les groupes de la société civile. En pratique, cela complique la tâche des militants qui s’efforcent de protéger les droits d’autrui. La stigmatisation, selon un rapport de l’ONU est « intrinsèquement connectée » à l’érosion des droits humains que les militants défendent. Au Pérou, cette tendance est exacerbée par les initiatives législatives qui cherchent à renforcer le contrôle du gouvernement sur les ONG et à restreindre les droits à la liberté de réunion pacifique et d’association lors des manifestations. Comme le Centre international pour le droit des organisations à but non lucratif l’a indiqué dans son commentaire public (PC-30930) : « Le travail des défenseurs des droits humains est essentiel au renforcement de la démocratie et à l’État de droit […] le respect des droits humains dans une société démocratique dépend largement des garanties efficaces et adéquates qui sont accordées aux défenseurs des droits humains pour leur permettre de poursuivre leurs activités librement ».

Les menaces peuvent avoir des effets néfastes sur la liberté d’expression des défenseurs des droits humains, en particulier les femmes, sur qui la peur d’être pris pour cible peut peser. Les femmes jouent souvent un rôle disproportionné en matière d’organisation et de défense de l’égalité des droits, et elles sont la cible privilégiée des menaces et des abus. Les défenseuses des droits humains ont également fait part de leur inquiétude quant aux risques sévères de surmodération lorsque Meta interprète les discours politiques qui recourent à des métaphores violentes ou attirent l’attention sur les violations des droits humains (cf. Slogan de protestation en Iran). Comme l’a noté la Rapporteuse spéciale sur la promotion et la protection du droit à la liberté d’opinion et d’expression dans un rapport de 2023, la désinformation genrée et les abus en ligne « peu[ven]t conduire les femmes qui sont des personnalités publiques ou des journalistes à se retirer de certains espaces en ligne, ou bien les amener à remettre en cause leur liberté d’expression et leur capacité de poursuivre leurs activités professionnelles ». Les parties prenantes qui ont participé à la table ronde du Conseil sur la « Protection des défenseurs des droits humains en ligne » ont indiqué que les militants, en particulier les femmes, les femmes de couleur et les femmes queers, se trouvaient dans un cercle vicieux : ils dépendent des produits de Meta pour travailler, mais y sont parallèlement la cible de harcèlement et de menaces.

5.3 Contenu identique avec un contexte parallèle

Le Conseil a été informé (PC-30929) que le contenu, bien qu’inaccessible depuis la désactivation du compte de l’utilisateur, a été republié sur d’autres comptes associés à cet utilisateur. Pour faire suite à cette décision, Meta devrait s’assurer que le contenu identique est supprimé, sauf s’il est partagé à des fins de condamnation ou de sensibilisation.

6. La décision du Conseil de surveillance

Le Conseil de surveillance a annulé la décision initiale de Meta de conserver le contenu.

7. Recommandations

Politique de contenu

1. Pour veiller à ce que son standard de la communauté sur la violence et l’incitation capture exactement la manière dont les menaces dissimulées peuvent être proférées au travers de textes et d’images, Meta devrait préciser que les menaces faites de « déclarations codées », même lorsqu’elles « ne formul[e]nt pas clairement le type de violence », sont interdites sous forme écrite, visuelle et verbale.

Le Conseil considérera que cette recommandation aura été suivie lorsque le texte public du standard de la communauté sur la violence et l’incitation reflétera la modification proposée.

Mise en application

2. Compte tenu de la mauvaise interprétation de ce contenu par Meta lors de la remontée et pour veiller à ce que les menaces dissimulées potentielles soient évaluées plus précisément, le Conseil recommande à l’entreprise de réaliser une évaluation annuelle de la précision de ses décisions de modération dans ce domaine. Cette évaluation devrait se concentrer tout particulièrement sur les taux de détection et de suppression de faux négatifs en matière de menaces à l’encontre des défenseurs des droits humains, et sur les taux de faux positifs en matière de discours politiques (cf. Slogan de protestation en Iran). Ce faisant, Meta devrait étudier les possibilités d’améliorer la détection précise des menaces à haut risque (faible prévalence, graves conséquences) à grande échelle.

Le Conseil considérera que cette recommandation aura été mise en place lorsque Meta aura partagé les résultats de cette évaluation, y compris la manière dont ces résultats influenceront les améliorations à apporter aux opérations de modération et à l’élaboration des politiques.

* Note de procédure :

• Les décisions du Conseil de surveillance sont prises par des panels de cinq membres et approuvées par une majorité du Conseil dans son ensemble. Les décisions du Conseil ne représentent pas nécessairement les opinions de tous les membres.
• En vertu de sa Charte, le Conseil de surveillance est habilité à examiner les appels déposés par les utilisateurs dont le contenu a été supprimé par Meta, les appels déposés par les utilisateurs ayant signalé un contenu que Meta n’a finalement pas supprimé, et les décisions que Meta lui transmet (article 2, section 1 de la Charte). Le Conseil dispose d’une autorité contraignante pour confirmer ou annuler les décisions de Meta relatives au contenu (article 3, section 5 de la Charte ; article 4 de la Charte). Le Conseil est habilité à émettre des recommandations non contraignantes auxquelles Meta doit répondre (article 3, section 4 de la Charte ; Article 4). Lorsque Meta s’engage à donner suite aux recommandations, le Conseil surveille leur mise en œuvre.
• Pour la décision sur ce cas, des recherches indépendantes ont été commandées au nom du Conseil. Le Conseil a bénéficié de l’aide de Duco Advisors, une société de conseil spécialisée dans la géopolitique, la confiance et la sécurité, ainsi que la technologie. Memetica, un groupe d’investigations numériques qui fournit des services de conseil en matière de risques et de renseignements sur les menaces pour atténuer les préjudices en ligne, a également participé aux recherches.

Retour aux décisions de cas et aux avis consultatifs politiques