Renversé
Appel à la manifestation des femmes à Cuba
Le Conseil de surveillance a annulé la décision de Meta de supprimer une vidéo publiée par une plateforme d’informations cubaine sur Instagram où l’on voit une femme appeler à manifester contre le gouvernement.
Résumé du cas
Le Conseil de surveillance a annulé la décision de Meta de supprimer une vidéo publiée sur Instagram par une plateforme d’informations cubaine où l’on voit une femme manifester contre le gouvernement cubain, appeler les autres femmes à descendre dans les rues avec elle et critiquer les hommes, en les comparant à des animaux culturellement perçus comme inférieurs, en raison de leur inaction face à la répression. Selon le Conseil, le discours prononcé dans cette vidéo constitue une déclaration comportementale qualifiée qui, en vertu du Standard de la communauté de Meta relatif au discours haineux, doit être autorisé. Par ailleurs, dans les pays où les droits des personnes à la liberté d’expression et au rassemblement pacifique sont fortement restreints, les réseaux sociaux doivent impérativement protéger l’expression des utilisateurs, notamment en période de protestation politique.
À propos du cas
En juillet 2022, une plateforme d’informations, qui se décrit elle-même comme critique du gouvernement cubain, a publié une vidéo sur son compte Instagram vérifié. Cette vidéo montre une femme appelant les autres femmes à descendre dans les rues avec elle afin de manifester contre le gouvernement. On la voit à un certain moment comparer les hommes cubains à des « rats » (rats) et à des « mares » (chevaux) affublés de pots de chambre, car il n’est pas possible de compter sur eux pour défendre les personnes victimes de la répression du gouvernement. Une légende en espagnol accompagne la vidéo avec des hashtags qui évoquent la « dictatorship » (dictature) et le « regime » (régime) qui sévissent à Cuba, et appelle à une attention internationale sur la situation dans le pays, avec le hashtag #SOSCuba.
La vidéo a été partagée au moment du premier anniversaire des manifestations nationales qui ont eu lieu en juillet 2021 lorsque les Cubains sont descendus dans les rues en nombre afin de défendre leurs droits. En réponse à ces protestations, l’État cubain a intensifié sa répression qui s’est poursuivie en 2022. Le moment de la publication a également joué un rôle important, car la vidéo a été partagée quelques jours après l’assassinat d’un jeune Cubain lors d’un incident impliquant la police. La femme qui apparaît dans la vidéo semble y faire référence lorsqu’elle explique que « we cannot keep allowing the killing of our sons. » (nous ne pouvons plus accepter l’assassinat de nos fils). Le texte superposé à la vidéo associe le changement politique aux manifestations des femmes.
La vidéo a été vue plus de 90 000 fois et partagée moins de 1 000 fois.
Sept jours après la publication, un classificateur de discours hostile a identifié le contenu comme étant potentiellement en infraction et l’a soumis à un examen manuel. Bien qu’un modérateur humain ait identifié la publication comme étant en infraction de la politique de Meta sur le discours haineux, le contenu est resté en ligne pendant sa soumission à d’autres procédures d’examen manuel en vertu du système de vérification croisée. Un délai de sept mois est intervenu entre ces deux procédures, ce qui signifie que la publication a été supprimée en février 2023. Le même jour, l’utilisateur à l’origine du partage de la vidéo a fait appel de la décision de Meta. Meta a confirmé sa décision, sans faire remonter le contenu auprès de ses spécialistes en la matière. Une pénalité standard a été appliquée au compte Instagram, mais pas de limite de fonctionnalité.
Principales observations
Le Conseil estime que, lue dans son ensemble, la publication n’a pas vocation à déshumaniser les hommes en raison de leur sexe, à inciter à la violence contre eux ni à les exclure des conversations relatives aux manifestations cubaines. Sans équivoque, elle tend à appeler l’attention sur l’opinion de la femme filmée sur le comportement des hommes cubains dans le cadre des manifestations historiques qui ont commencé en juillet 2021. En utilisant des termes tels que « rats » (rats) ou « mares » (chevaux) pour évoquer leur lâcheté dans ce contexte particulier, et exprimer sa frustration personnelle quant à leur comportement, les spécialistes régionaux et les commentaires publics suggèrent que la femme de la publication en appelle à l’action des hommes cubains.
Retirée de son contexte et interprétée de façon trop littérale, la comparaison établie entre les hommes et des animaux culturellement perçus comme inférieurs pourrait être considérée en infraction de la politique de Meta sur le discours haineux. Cependant, lue dans son ensemble, la publication ne constitue pas une généralisation visant à déshumaniser les hommes, mais bien une déclaration comportementale qualifiée, ce que la politique autorise. En conséquence de quoi, le Conseil estime que la suppression du contenu va à l’encontre de la politique de Meta sur le discours haineux.
En outre, des spécialistes externes ont mis en évidence le hashtag #SOSCuba, que l’utilisateur a publié afin d’attirer l’attention sur les crises économique, politique et humanitaire que les Cubains endurent, montrant ainsi que les manifestations ont marqué un point de repère historique fondamental. Le Conseil émet des inquiétudes quant à la façon dont les informations contextuelles sont prises en compte dans les décisions de Meta sur le contenu soumis à un examen manuel supplémentaire. En l’espèce, bien que le contenu ait fait l’objet d’un examen de remontée, une procédure censée générer de meilleurs résultats, Meta a une nouvelle fois pris une décision erronée.
L’entreprise doit s’assurer que les systèmes automatisés et les équipes d’examen sont en capacité de tenir compte des informations contextuelles dans leur processus décisionnel.
Dans le cas qui nous préoccupe, la protection du contenu représentait un enjeu des plus essentiels. Cuba se caractérise par des espaces civiques fermés, c’est pourquoi les risques liés à la dissidence sont élevés, et l’accès à Internet très restreint. Il se peut qu’ici le contexte pertinent n’ait pas été suffisamment examiné lors de la procédure de remontée. Meta doit tenir compte de l’influence du contexte sur ses politiques et leur mise en application.
Décision du Conseil de surveillance
Le Conseil de surveillance a annulé la décision de Meta visant à supprimer la publication.
Bien que le Conseil n’émette aucune nouvelle recommandation dans ce cas, il réitère celles qui se sont avérées pertinentes dans des décisions précédentes, afin que Meta observe étroitement les conseils suivants :
- Disposer d’un programme de prévention contre la mise en application excessive basé sur une liste afin de protéger la liberté d’expression conformément aux responsabilités de Meta en matière de droits de l’homme, qui devrait être distinct du dispositif qui protège la liberté d’expression que Meta considère comme l’une de ses priorités (recommandation n° 1 de l’avis consultatif en matière de politique sur la vérification croisée). Ce système séparé doit également garantir que Meta prévoit des étapes d’examen supplémentaires du contenu publié par, entre autres, des défenseurs des droits de l’homme.
- Faire appel à un personnel spécialisé, en s’appuyant sur des ressources locales, pour établir des listes de prévention contre la mise en application excessive (recommandation n° 8 de l’avis consultatif en matière de politique sur la vérification croisée).
- Améliorer la prise en compte dans son workflow dédié à l’observation de ses responsabilités en matière de droits de l’homme du contexte et de l’expertise langagière sur l’examen amélioré, notamment aux niveaux décisionnels (recommandation n° 3 de l’avis consultatif en matière de politique sur la vérification croisée).
- S’assurer que le contexte est correctement pris en compte dans la modération de contenu, actualiser les conseils destinés aux modérateurs à grande échelle en portant une attention particulière aux règles liées à la qualification, en raison du fait que les conseils actuels ne permettent absolument pas aux modérateurs de prendre des décisions pertinentes (recommandation n° 2 de la décision relative à la Violence faite aux femmes).
*Les résumés de cas fournissent une présentation du cas et n’ont pas valeur de précédent.
Décision complète sur le cas
1. Résumé de la décision
Le Conseil de surveillance annule la décision de Meta de supprimer une vidéo Instagram publiée au moment du premier anniversaire des manifestations nationales historiques qui se sont déroulées en juillet 2021 à Cuba. La publication montre une femme protester contre le gouvernement et comparer les hommes cubains à différents animaux culturellement perçus comme inférieurs. Son objectif est d’accréditer l’idée que les hommes cubains ne sont pas fiables, car ils n’ont pas agi avec la vigueur nécessaire pour défendre les victimes de la répression. La publication appelle les femmes à descendre dans les rues et à manifester pour défendre la vie de « our sons » (nos fils). La politique de Meta sur le discours haineux la classe dans la catégorie des déclarations comportementales qualifiées, et en fait donc un contenu autorisé. Dans les pays où les droits des personnes à la liberté d’expression et au rassemblement pacifique sont fortement restreints, les réseaux sociaux doivent impérativement protéger l’expression des utilisateurs, notamment en période de manifestation politique.
2. Description du cas et contexte
En juillet 2022, le compte Instagram vérifié d’une plateforme d’informations, qui se décrit elle-même comme critique du gouvernement cubain, a publié une vidéo dans laquelle une femme appelle les autres femmes à descendre dans les rues avec elle afin de manifester. Une légende en espagnol reprend des citations de la vidéo, avec des hashtags qui évoquent la « dictatorship » (dictature) et le « regime » (régime) qui sévissent à Cuba, et appelle à une attention internationale sur la situation humanitaire dans le pays, avec le hashtag #SOSCuba. À un moment de la vidéo, la femme compare les hommes cubains à des « rats » (rats), car il n’est pas possible de compter sur eux pour défendre les personnes victimes de la répression du gouvernement. À un autre moment, elle affirme qu’ils sont des « mares » (chevaux) affublés de pots de chambre. Le texte superposé à la vidéo associe le changement politique aux manifestations des femmes. La vidéo a été vue plus de 90 000 fois et partagée moins de 1 000 fois.
Les commentaires publics et les spécialistes qui connaissent la région et que le Conseil a consultés ont confirmé que les hispanophones cubains comprennent et utilisent communément ces phrases pour décrire la lâcheté. Un commentaire public (PC-13012) a affirmé que ces termes, bien qu’insultants, « ne sauraient être interprétés comme un discours violent ou déshumanisant ». Les spécialistes externes ont expliqué que le terme « mares » (chevaux) fait souvent office d’insulte homophobe ou pour désigner des personnes manquant d’intelligence. Toutefois, en l’associant à la référence aux pots de chambre, les spécialistes ont signalé que cette phrase « part du principe que les hommes sont des “tas de merde” et [est] ici utilisée pour montrer le mécontentement des femmes envers les figures masculines » dans le cadre de leur inaction lors des manifestations politiques. En ce sens, les commentaires publics soulignent que la femme de la vidéo ne dénigre pas les hommes en les comparant à des « rats » (rats) ou des « mares » (chevaux), mais qu’elle tient ses propos afin de les mobiliser dans son pays. Selon ces commentaires, les hommes ne sont pas ses ennemis : elle tente simplement de réveiller leur conscience.
La publication a été partagée au moment du premier anniversaire des manifestations nationales historiques qui se sont déroulées en juillet 2021 lorsque les Cubains sont descendus dans les rues, ce que la Commission interaméricaine des droits de l’homme (IACHR) a qualifié de « manifestation pacifique pour réclamer leurs libertés civiles et des changements à la structure politique du pays ». L’IACHR a indiqué que les Cubains « manifestaient également pour dénoncer le manque d’accès aux droits économiques, sociaux et culturels, notamment en raison des pénuries persistantes de nourriture et de médicaments et des conséquences grandissantes de la pandémie de COVID-19. D’après la société civile et les instances internationales, telles que le Parlement européen, l’immense manifestation du 11 juillet compte parmi les plus importantes dans l’histoire récente de Cuba. Ces manifestations ont entraîné des réactions immédiates de la part de l’État contre les manifestants » (Commission interaméricaine des droits de l’homme, Rapport annuel 2022, paragraphe 43). À partir de juillet 2021 et tout au long de 2022, la répression étatique s’est intensifiée. La publication a eu lieu au même moment que cette tension sociale considérable. En outre, la vidéo a été partagée quelques jours après l’assassinat d’un jeune Cubain lors d’un incident impliquant la police. Certaines parties de cet incident ont été documentées sur les réseaux sociaux, et la femme qui parle dans la vidéo semble y faire référence lorsqu’elle dit : « we cannot keep allowing the killing of our sons. » (nous ne pouvons plus accepter l’assassinat de nos fils). Les spécialistes externes qui ont analysé la réponse des réseaux sociaux ont identifié une tendance généralisée des utilisateurs à faire référence à l’assassinat de l’adolescent afin d’exprimer leurs critiques face au gouvernement et d’appeler à une action civile : « le discours dans les sections commentaires des principales publications Instagram était axé sur les thèmes courants de la dictature, de la brutalité policière et de l’inaction des spectateurs ».
Les spécialistes externes qui connaissent la région ont souligné l’importance des campagnes sur les réseaux sociaux qui utilisent des hashtags tels que #SOSCuba pour sensibiliser l’opinion sur les crises économique, politique et humanitaire que les Cubains endurent. Dans le sillage des manifestations de 2021, le gouvernement a intensifié sa répression à l’encontre de presque toutes les formes de dissidence et de critique publique. L’IACHR a documenté huit vagues répressives orchestrées par l’État cubain au cours desquelles elle a observé « (1) le recours à la force et l’intimidation et aux campagnes de diffamation ; (2) des arrestations arbitraires, des mauvais traitements, et des conditions de détention déplorables ; (3) la criminalisation des manifestants, la persécution judiciaire, et des violations de la procédure régulière ; (4) la fermeture des forums démocratiques par le biais de la répression et de l’intimidation afin de décourager les nouvelles manifestations sociales ; (5) l’incarcération continue, des procès sans garanties de procédure régulière, et des condamnations lourdes ; (6) des propositions législatives visant à entraver, surveiller et punir la dissidence et la critique du gouvernement et à criminaliser les actions des organisations indépendantes de la société civile ; (7) le harcèlement des proches des personnes détenues et accusées d’avoir participé aux manifestations ; et (8) des coupures délibérées de l’accès à Internet » (IACHR, Rapport annuel 2022, paragraphe 44). L’IACHR a constaté que, bien que les vagues de répression aient commencé au cours du second semestre de 2021, elles se sont poursuivies en 2022, et que des dizaines de personnes ont été blessées par la police en raison de son recours disproportionné à la force (IACHR, Rapport annuel 2022, paragraphe 46). Le 11 juillet 2022, l’IACHR et ses rapporteurs spéciaux ont condamné la répression étatique constante de 2022 qui a eu lieu en réponse aux manifestations de 2021.
La réponse législative apportée aux manifestations de juillet 2021 incluait également une criminalisation accrue du discours en ligne, notamment une nouvelle réglementation du code pénal qui prévoit des sanctions plus lourdes en cas d’infractions présumées telles que la diffusion de « fausses informations » ou l’atteinte à l’« honneur » d’une personne sur les réseaux sociaux, ou dans les médias en ligne ou hors ligne. Cette disposition supplémentaire s’ajoute à celles qui existent déjà dans le code pénal, qui couvrent les « troubles à l’ordre public », la « résistance » et l’« outrage », et ont été utilisées par le passé afin de réprimer la dissidence et de criminaliser les manifestations. L’IACHR déclare que « le nouveau texte impose des sanctions plus lourdes et utilise des propos larges et imprécis pour définir les infractions, comme l’insurrection et les délits contre l’ordre constitutionnel » (IACHR, Rapport annuel 2022, paragraphe 97). Malgré ces recours à la force et aux actions en justice décidés par le gouvernement après juillet 2021, les spécialistes externes qui connaissent la région ont documenté plusieurs tentatives d’organiser des manifestations localisées contre le gouvernement, tout en constatant les risques considérables d’une telle participation.
Le contrôle gouvernemental presque intégral de l’infrastructure technique de l’Internet à Cuba, auquel s’ajoutent la censure, l’obstruction des communications, et le coût d’accès à Internet très élevé, « empêche la quasi-totalité des Cubains de consulter des sites web et des blogs d’informations indépendants » (IACHR, Rapport annuel 2022, paragraphe 69). Le Conseil fait par ailleurs état des tentatives perpétrées par des réseaux liés au gouvernement décrits par Meta dans son rapport de février 2023 relatif aux menaces de « créer la perception d’un soutien généralisé au gouvernement cubain sur de nombreuses plateformes Internet, notamment Facebook, Instagram, Telegram, Twitter, YouTube et Picta, un réseau social cubain. » D’après Meta, son enquête a constaté des liens entre le gouvernement cubain et les personnes derrière un réseau composé de 363 comptes Facebook, 270 pages, 229 groupes et 72 comptes sur Instagram, qui enfreignaient la politique de Meta contre le comportement non authentique coordonné.
Sept jours après la publication de la vidéo sur le compte Instagram en juillet 2022, un classificateur de discours hostile a identifié le contenu comme étant potentiellement en infraction et l’a soumis à un examen manuel. Le lendemain, un membre de l’équipe de modération a examiné le contenu et a conclu que la publication allait à l’encontre de la politique de Meta relative au discours haineux. Meta n’a pas estimé que la femme apparaissant dans la vidéo était une personnalité publique. D’après le statut de vérification croisée du compte, le contenu en l’espèce a ainsi fait l’objet d’une remontée en vue d’un examen supplémentaire. Le premier modérateur qui est intervenu dans la procédure d’examen secondaire a évalué le contenu comme étant en infraction le 12 juillet 2022. Après évaluation, le second modérateur en a conclu que le contenu enfreignait la politique le 24 février 2023. Meta a supprimé le contenu d’Instagram le même jour, plus de sept mois après son premier signalement par les systèmes automatisés de l’entreprise. Ce retard a été causé par une accumulation de contenus dans la file d’attente de l’examen de Meta aux termes du système de vérification croisée.
Le jour même où le contenu a été supprimé, l’utilisateur à l’origine du partage de la vidéo a fait appel de la décision de Meta. Le contenu a de nouveau été examiné par un membre de l’équipe de modération qui, le 26 février 2023, a confirmé la décision initiale de le supprimer. À ce moment-là, le contenu n’a pas été transmis à des spécialistes en la matière pour un examen complémentaire. Meta indique qu’une pénalité standard a été appliquée au compte de l’utilisateur. Ce compte n’a toutefois été soumis à aucune limite de fonctionnalité conformément aux protocoles de restriction du compte Meta. L’utilisateur a alors fait appel du cas auprès du Conseil.
3. Champ d’application et autorité du Conseil de surveillance
Le Conseil jouit de l’autorité nécessaire pour examiner la décision de Meta à la suite d’un appel interjeté par la personne dont le contenu a été supprimé (article 2, section 1 de la Charte ; article 3, section 1 des Statuts).
Le Conseil peut confirmer ou annuler la décision de Meta (article 3, section 5 de la Charte), et ce, de manière contraignante pour l’entreprise (article 4 de la Charte). Meta doit également évaluer la possibilité d’appliquer la décision du Conseil à un contenu identique dans un contexte parallèle (article 4 de la Charte). Les décisions du Conseil peuvent inclure des recommandations non contraignantes auxquelles Meta doit répondre (article 3, section 4 de la Charte ; article 4 de la Charte). Lorsque Meta s’engage à donner suite aux recommandations, le Conseil surveille leur mise en œuvre.
4. Sources d’autorité et conseils
Les standards suivants et les précédents ont éclairé l’analyse du Conseil dans ce cas :
I. Décisions du Conseil de surveillance
Les décisions antérieures les plus pertinentes du Conseil de surveillance comprennent les cas suivants :
- Cas relatifs à la Violence faite aux femmes (2023-002-IG-UA ; 2023-005-IG-UA)
- Cas relatif au Slogan de protestation en Iran (2022-013-FB-UA)
- Cas relatif au Dessin animé de Knin (2022-001-FB-UA)
- Cas relatif aux Insultes en Afrique du Sud (2021-011-FB-UA)
- Cas relatif aux Manifestations en Colombie (2021-010-FB-UA)
- Cas relatif aux Manifestations pro-Navalny en Russie (2021-004-FB-UA)
- Cas relatif à la Représentation de Zwarte Piet (2021-002-FB-UA)
- Programme de vérification croisée de Meta (PAO-2021-02)
II. Règles de Meta relatives au contenu
Les Règles de la communauté Instagram stipulent que tout contenu porteur d’un discours haineux sera supprimé. Sous le titre « Respecter les autres membres de la communauté Instagram », les règles précisent qu’il n’est « jamais acceptable d’encourager la violence ou d’attaquer quiconque en raison de sa couleur de peau, de son origine ethnique, de sa nationalité, de son sexe, de son genre, de son identité de genre, de son orientation sexuelle, de son appartenance religieuse, de handicaps ou d’états pathologiques. Les Règles de la communauté d’Instagram associent ensuite l’expression « discours haineux » au Standard de la communauté Facebook relatif au discours haineux.
La justification de cette politique définit le discours haineux comme une attaque directe contre des personnes en raison de caractéristiques protégées, notamment le sexe, le genre et l’origine nationale. Meta n’autorise pas les discours haineux sur sa plateforme, car ils « créent une atmosphère d’intimidation et d’exclusion et peuvent aboutir à des violences dans le monde réel ». Les règles interdisent les discours « violents » ou « déshumanisants » contre des personnes sur la base de ces caractéristiques, y compris les hommes.
Le niveau 1 de la politique sur le discours haineux interdit « le discours ou les images déshumanisants sous forme de comparaisons, de généralisations ou de déclarations comportementales non qualifiées (écrites ou visuelles) se rapportant à des […] [a]nimaux en général ou des catégories d’animaux spécifiques culturellement perçus comme inférieurs intellectuellement ou physiquement. » Par ailleurs, les règles internes de Meta qui énoncent la façon dont les équipes d’examen doivent appliquer cette politique définissent les déclarations comportementales « qualifiées » et « non qualifiées » et les illustrent par des exemples. En vertu de ces règles, les « déclarations qualifiées » ne portent pas atteinte à la politique, tandis que les « déclarations non qualifiées » sont en infraction et sont supprimées. Meta affirme que les déclarations comportementales qualifiées utilisent des statistiques, font référence à des individus ou décrivent une expérience personnelle. Meta indique également que, en vertu de la politique sur le discours haineux, elle autorise les personnes à publier du contenu proférant des déclarations comportementales qualifiées relatives aux groupes dotés de caractéristiques protégées lorsque la déclaration évoque un évènement historique précis (par exemple, en présentant des statistiques ou des tendances). Selon l’entreprise, les déclarations comportementales non qualifiées « attribuent explicitement un comportement à l’ensemble ou à une majorité de personnes définies en fonction d’une caractéristique protégée ».
L’analyse du Conseil s’est appuyée sur l’engagement de Meta en faveur de la « liberté d’expression », que l’entreprise qualifie de « primordial », et sur ses valeurs de « sécurité » et « dignité ».
III. Responsabilités de Meta en matière de droits de l’homme
Les Principes directeurs relatifs aux entreprises et aux droits de l’homme des Nations Unies (PDNU), soutenus par le Conseil des droits de l’homme des Nations Unies en 2011, établissent un cadre de travail volontaire pour les responsabilités en matière de droits de l’homme des entreprises privées. En 2021, Meta a annoncé l’entrée en vigueur de sa Politique d’entreprise relative aux droits de l’homme, dans laquelle elle a réaffirmé son engagement à respecter les droits de l’homme conformément aux PDNU.
L’analyse du Conseil sur les responsabilités de Meta en matière de droits de l’homme en l’espèce s’est appuyée sur les standards internationaux suivants :
- Les droits à la liberté d’opinion et d’expression : les articles 19 et 20 du Pacte international relatif aux droits civils et politiques ( PIDCP) ; l’observation générale n° 34, Comité des droits de l’homme, 2011 ; les rapports du Rapporteur spécial des Nations Unies sur la liberté d’opinion et d’expression : A/HRC/38/35 (2018), A/74/486 (2019), A/76/258 (2021) ; et le Plan d’action de Rabat, rapport du Haut Commissaire des Nations Unies aux droits de l’homme : A/HRC/22/17/Add.4 (2013).
- Le droit à la liberté de rassemblement pacifique : l’article 21 du PIDCP ; l’observation générale n° 37, Comité des droits de l’homme, 2020.
- Le droit à la non-discrimination : l’article 2, paragraphe 1 et l’article 26 du PIDCP.
5. Soumissions de l’utilisateur
En faisant appel auprès du Conseil, le créateur de contenu a appelé les entreprises de réseaux sociaux à mieux comprendre la « situation critique » que vit actuellement Cuba, en soulignant que la vidéo fait référence aux manifestations de juillet 2021. Le créateur de contenu a également fait valoir que la femme filmée dans la vidéo appelle les hommes cubains à « agir pour résoudre » la crise.
6. Soumissions de Meta
Meta a supprimé la publication comme stipulé au niveau 1 de son Standard de la communauté sur le discours haineux, en raison de son attaque contre les hommes qui les compare à des rats et des chevaux qui transportent de déjections humaines. L’entreprise a expliqué que les rats constituent un « exemple classique » d’« animaux culturellement perçus comme inférieurs intellectuellement ou physiquement ». Bien que l’entreprise n’ait pas connaissance d’un stéréotype ou d’une tradition culturelle spécifique associée à des « chevaux » affublés de pots de chambre ou d’urinoirs », Meta juge que la phrase enfreint sa politique sur le discours haineux, car elle compare les hommes à l’« image repoussante d’animaux qui transportent manifestement de l’urine et des excréments humains ».
Meta a expliqué que « les comparaisons aux rats et aux chevaux porteurs de pots de chambre déshumanisent les hommes en raison de leur sexe ». Elle a en outre indiqué que « cela exclut les hommes de la conversation et pourrait leur donner l’impression d’être réduits au silence ».
Dans sa réponse aux questions du Conseil, Meta a déclaré qu’elle considérait l’application d’une autorisation dans « l’esprit de la politique » au présent contenu. Meta fait des exceptions au titre de « l’esprit de la politique » en vue d’autoriser un contenu lorsqu’une interprétation stricte du Standard de la communauté pertinent produit des effets qui ne sont pas cohérents vis-à-vis de sa justification et de ses objectifs. Meta a cependant conclu que cette autorisation n’était pas adaptée, car le contenu enfreint aussi bien la lettre que l’esprit de la politique.
Elle a ensuite expliqué qu’en vertu du Standard de la communauté relatif au discours haineux, elle accorde le même traitement à tous les groupes définis par des caractéristiques protégées. D’après l’entreprise, les attaques commises en infraction avec la politique sur le discours haineux par un groupe marginalisé doté de caractéristiques protégées contre un autre groupe ayant des caractéristiques protégées seront supprimées. Meta a expliqué que dans le cadre de sa politique sur le discours haineux, elle traite l’ensemble des groupes dotés de caractéristiques protégées de la même manière, afin de leur accorder un traitement global équitable et que la politique puisse être appliquée à grande échelle. Meta décrit cette approche comme étant « agnostique en matière de caractéristique protégée ». Selon l’entreprise, en cas de remontée du contenu en vue d’un examen manuel supplémentaire, elle ne délivre pas d’autorisations liées au discours haineux ou à « l’esprit de la politique » en fonction de dynamiques de pouvoir asymétriques (par exemple, lorsque la cible du discours haineux représente un groupe plus puissant) « pour la même raison que nous avons mis en place une politique agnostique en matière de caractéristique protégée ». Meta a indiqué qu’elle « ne peut ni ne doit établir un classement pour définir quels groupes dotés de caractéristiques protégées sont plus marginalisés que les autres ». Elle privilégie l’idée selon laquelle « si l’attaque vise un groupe de personnes en fonction de leurs caractéristiques protégées ». L’entreprise a reconnu que certaines parties prenantes ont déclaré que la politique sur le discours haineux devrait différencier le contenu perçu comme « rabaissant », qui doit être supprimé, et le contenu « revendiquant », qui doit être autorisé car il est susceptible d’évoquer des sujets liés à la justice sociale. Meta a cependant indiqué que « les parties prenantes peinent à se mettre d’accord sur ce qui est « rabaissant » ou « revendiquant ».
Le Conseil a également demandé comment les informations contextuelles, les dynamiques de pouvoir asymétriques entre les groupes dotés de caractéristiques protégées, et les informations relatives à l’environnement politique dans lequel un contenu a été publié sont prises en compte dans la décision du classificateur de discours hostile de soumettre le contenu à un examen manuel. En réponse, Meta a déclaré que « le contexte pris en compte par un classificateur dépend de la publication elle-même » et qu’elle « n’examine pas les autres informations contextuelles des évènements dans leur ensemble ». Dans le cas présent, le classificateur de discours hostile a identifié le contenu comme allant potentiellement à l’encontre des politiques de Meta et l’a soumis à un examen manuel.
Le Conseil a posé 17 questions par écrit à Meta. Ces questions portaient sur des problématiques liées à l’approche de modération de contenu de Meta à Cuba ; la portée des dynamiques de pouvoir asymétriques sur le Standard de la communauté relatif au discours haineux, ainsi que son application après examen manuel et automatisé ; et les possibilités d’évaluation contextuelle, notamment dans le cadre du système de vérification croisée de Meta baptisé Examen secondaire de réponse rapide (ERSR). Il s’agit d’un type de vérification croisée qui prévoit des niveaux d’examen manuel supplémentaires pour certaines publications initialement identifiées comme enfreignant les politiques de Meta tout en conservant le contenu en ligne. Meta a répondu aux 17 questions posées.
7. Commentaires publics
Le Conseil de surveillance a reçu 19 commentaires publics pertinents pour ce cas. Neuf commentaires venaient des États-Unis et du Canada trois d’Amérique latine et des Caraïbes ; cinq d’Europe ; un d’Asie-Pacifique ; et un du Moyen-Orient et d’Afrique du Nord. Les soumissions concernaient les thèmes suivants : la situation des droits de l’homme à Cuba ; l’importance d’une approche liée à la modération de contenu qui reconnaît les nuances linguistiques, culturelles et politiques des appels à manifester ; les asymétries de pouvoir basées sur le genre à Cuba ; l’intersection du discours haineux et des appels à manifester ; et les dynamiques des manifestations en ligne et hors ligne à Cuba.
Pour lire les commentaires publics envoyés dans le cas présent, veuillez cliquer ici.
8. Analyse du Conseil de surveillance
Le Conseil a examiné si ce contenu devait être restauré en analysant les politiques de contenu de Meta, ses responsabilités en matière de droits de l’homme et ses valeurs. Le Conseil a également évalué les implications de ce cas pour l’approche plus globale de la gouvernance du contenu par Meta.
Le Conseil a sélectionné cet appel car il permet de mieux comprendre la façon dont la politique de Meta sur le discours haineux et sa mise en application influencent les appels à manifester dans des contextes qui se caractérisent par des espaces civiques restreints.
8.1 Respect des politiques de Meta relatives au contenu
I. Règles relatives au contenu
Le Conseil constate que le contenu en l’espèce ne constitue pas un discours haineux selon les Standards de la communauté de Meta, mais une déclaration comportementale qualifiée, et qu’il est ainsi autorisé en vertu de la politique relative au discours haineux. La suppression du contenu n’est donc pas conforme à cette politique. Il est vrai que les déclarations selon lesquelles les hommes sont comparés à des « rats » (rats) ou des « mares » (chevaux) affublés de pots de chambre, lues littéralement et hors contexte, pourraient être interprétées comme étant en infraction avec la politique de Meta sur le discours haineux. Néanmoins, examinée dans son ensemble, la publication ne constitue pas une généralisation qui vise à déshumaniser ou à inciter à la violence contre tous les hommes, ni même une majorité d’entre eux. Le Conseil estime que les déclarations adressées aux hommes sont qualifiées dans la mesure où elles cherchent sans ambiguïté à attirer l’attention sur le comportement des hommes cubains dans le cadre des manifestations historiques qui ont commencé en juillet 2021 à Cuba, et qui ont précédé une répression étatique qui s’est poursuivie en 2022 en réponse aux appels à manifester ultérieurs. Le créateur de contenu évoque explicitement ces évènements dans sa publication en utilisant le hashtag #SOSCuba. Le contenu commente les agissements d’un groupe de personnes identifiables ; il ne s’agit pas d’une déclaration sur des défauts de caractères relatifs à un groupe.
Les commentaires publics et les spécialistes consultés par le Conseil ont signalé que les termes « rats » (rats) ou « mares » (chevaux) sont utilisés dans l’espagnol vernaculaire de Cuba pour désigner la lâcheté lors de discussions houleuses. Ces expressions ne sauraient ainsi être interprétées littéralement et n’impliquent pas que les hommes présentent des caractéristiques intrinsèquement négatives en raison de leur genre. Elles signifient plutôt que les hommes cubains n’ont pas agi avec la vigueur nécessaire pour défendre les victimes de la répression du gouvernement lors des manifestations.
La publication a été partagée dans le contexte d’une vague de répression étatique qui s’est déroulée au moment du premier anniversaire des manifestations nationales historiques de juillet 2021. Les spécialistes externes ont signalé que le hashtag #SOSCuba, que le créateur de contenu a utilisé, représentait un élément fondamental dans les campagnes sur les réseaux sociaux visant à attirer l’attention sur les crises économique, politique et humanitaire que les Cubains endurent. Ce hashtag associé à l’avertissement de la femme dans la vidéo « we cannot keep allowing the killing of our sons » (nous ne pouvons plus accepter l’assassinat de nos fils) et son appel « to the streets » (à descendre dans les rues), montrent comment les évènements lancés en juillet 2021 ont marqué un point de repère historique fondamental pour les efforts que les citoyens ont déployé ultérieurement pour mobiliser l’opinion sur les problématiques sociales et politiques qui ont continué en 2022. Par conséquent, la publication reflète l’opinion de l’utilisateur sur le comportement d’un groupe de personnes définies, à savoir les hommes cubains, dans le contexte spécifique d’un évènement historique.
En conclusion, le Conseil estime que, lue dans son ensemble, la publication n’a pas vocation à déshumaniser les hommes, à inciter à la violence contre eux ni à les exclure des conversations relatives aux manifestations cubaines. Au contraire, la femme dans la vidéo interroge le comportement des hommes cubains selon elle dans le contexte précis des manifestations, et vise à les galvaniser afin qu’ils participent à ces évènements historiques. Le contenu en l’espèce est en réalité une déclaration de comportement qualifié d’une problématique d’intérêt public significatif liée aux manifestations historiques et à la vague de répression qui a suivi.
En réponse au présent cas, une minorité du Conseil a émis des doutes quant à la mise en application agnostique de la politique de Meta sur le discours haineux, notamment lorsqu’elle peut accentuer le musellement de groupes historiquement marginalisés. Pour ces membres minoritaires, une politique proportionnée relative au discours haineux devrait reconnaître qu’il existe des asymétries de pouvoir lorsque cela peut empêcher la répression des voix sous-représentées.
Enfin, le Conseil s’accorde sur le fait que la publication relève directement de la valeur primordiale qu’est la « liberté d’expression » chez Meta. Sa suppression n’était donc pas cohérente avec les valeurs de l’entreprise. Le Conseil a suivi une approche similaire au sujet de l’une des publications examinées dans les cas relatifs à la Violence faite aux femmes, lorsqu’il partageait l’avis de Meta concernant sa dernière conclusion qui indiquait que le contenu devait être interprété dans sa globalité et évalué en tant que déclaration comportementale qualifiée.
II. Mesures de mise en application
Selon Meta, après que le classificateur de discours hostile a identifié le contenu comme allant potentiellement à l’encontre des politiques de Meta, il a été soumis à un examen manuel. Plus de sept mois se sont écoulés entre le premier examen manuel et le premier niveau de l’examen secondaire du 12 juillet 2022, tous les deux ayant conclu à une infraction des politiques de Meta relatives au discours haineux, et le second niveau de l’examen secondaire du 24 février 2023, au terme duquel un autre modérateur a estimé que le contenu était en infraction et l’a supprimé. Comme énoncé dans la section 2, ce retard a été causé par une accumulation de contenus dans le système de vérification croisée de Meta. Dans le cadre de l’avis consultatif en matière de politique sur la vérification croisée, Meta a indiqué que le système de vérification croisée avait été opéré avec une accumulation de contenus qui a retardé les décisions. Selon les informations que Meta a transmises au Conseil, un contenu est déjà resté jusqu’à 222 jours dans la file d’attente de l’ERSR ; le retard de plus de sept mois observé dans le cas présent a une durée similaire. Meta déclare que, au 13 juin 2023, l’examen du contenu accumulé dans la file d’attente du programme ERSR a été réalisé en réponse à la recommandation n° 18 de l’avis consultatif en matière de politique sur la vérification croisée, qui indiquait que Meta ne devait pas opérer ce programme en cas d’accumulation de contenus.
Le Conseil fait état du retard de sept mois dans ce cas. En définitive, ce retard impliquait le maintien du contenu sur la plateforme tout en attendant la dernière étape de l’examen secondaire de vérification croisée. La non-suppression du contenu de la plateforme coïncide avec l’analyse du Conseil quant à l’application du Standard de la communauté relatif au discours haineux. Cette issue n’était pourtant pas conforme à la conclusion de Meta selon laquelle le contenu était nuisible.
L’historique de la mise en application du cas présent suscite également des inquiétudes quant à la façon dont les informations contextuelles sont prises en compte dans les décisions relatives au contenu soumis à un examen manuel supplémentaire. Le Conseil a précédemment reconnu que l’évaluation de l’utilisation du discours haineux et du contexte pertinent à grande échelle représente un véritable défi (voir le cas relatif au Dessin animé de Knin). Il a notamment insisté sur le fait que, dans certaines circonstances, le discours déshumanisant, qu’il prenne la forme d’actes ou de propos implicitement ou explicitement discriminatoires, a donné lieu à des atrocités (voir le cas relatif au Dessin animé de Knin). Par ailleurs, il a affirmé qu’il peut arriver que la modération de contenu visant à résoudre les préjudices cumulés générés par le discours haineux à grande échelle soit cohérente avec les responsabilités de Meta en matière de droits de l’homme, même lorsque des contenus spécifiques détectés à l’isolement n’apparaissent pas pour inciter directement à la violence ou la discrimination (voir le cas relatif à la Représentation de Zwarte Piet).
Afin d’éviter un musellement inapproprié du débat public relatif à des problématiques particulièrement pertinentes, telles que la violence faite aux femmes (voir les cas relatifs à la Violence faite aux femmes) ou, comme dans le cas présent, un discours politique sur des évènements historiques, Meta a établi des exceptions, par exemple les déclarations comportementales qualifiées. Meta doit par conséquent s’assurer que les équipes d’examen savent distinguer précisément les déclarations comportementales qualifiées et non qualifiées afin de réduire les taux de faux positif (la suppression erronée de contenu qui n’enfreint pas ses politiques) lors de l’application de la politique sur le discours haineux. Pour la même raison, il est essentiel que Meta garantisse que ses systèmes automatisés, y compris les classificateurs de contenu du machine learning qui identifient ce que Meta considère être un « contenu hostile », et ses équipes d’examen puissent tenir compte des informations contextuelles au moment de prendre leurs décisions. Il convient d’en rappeler l’importance lorsque, comme dans le cas qui nous préoccupe, les équipes d’examen de Meta ne tiennent pas compte du contexte et suppriment une publication alors qu’il y a urgence à la protéger. En effet, les mécanismes et les processus opérationnels destinés à faire émerger des statistiques contextuelles sont très importants pour les pays ou les régions caractérisés par des espaces civiques fermés dans lesquels les risques associés à la dissidence et la critique du gouvernement sont bien plus élevés, et l’accès à Internet particulièrement restreint. Le Conseil remarque également que les examens au niveau des remontées doivent générer des résultats de meilleure qualité, même dans des cas difficiles, en raison de la disponibilité de meilleurs outils d’évaluation du contexte. Cependant, bien que le contenu en l’espèce ait été examiné après remontée, Meta a persisté à lui apporter une réponse erronée tout en le laissant sur Instagram.
Dans le cadre de l’avis consultatif en matière de politique sur la vérification croisée, Meta a expliqué qu’en règle générale pour l’ERSR l’équipe chargée des marchés (composée d’employés à temps plein de Meta et de sous-traitants à temps plein) examine tout d’abord le contenu. Cette équipe dispose de connaissances supplémentaires sur le contexte et la langue d’un marché géographique spécifique. Meta estime que le marché cubain « ne constitue pas un marché distinct et est classé dans les files d’attente ESLA en langue espagnole générale (espagnol latin) [de Meta] », ce qui implique que le contenu de Cuba est traité par des examinateurs qui couvrent le contenu en langue espagnole générale sans distinction de pays. L’entreprise a déclaré que « les autres pays sont divisés » dans des files d’attente en vue d’un examen par pays ou par région (c’est-à-dire l’Espagne pour l’Espagne, VeCAM (Venezuela, Honduras, Nicaragua) pour le Venezuela et l’Amérique centrale) ». L’équipe qui s’occupe de la réponse rapide (une équipe de remontées composée uniquement d’employés de Meta à temps plein) peut ensuite examiner le contenu pour confirmer ou non l’infraction. Selon Meta, cette équipe dispose d’une « expertise politique approfondie et de la capacité à prendre en compte le contexte supplémentaire » et peut également appliquer les autorisations de Meta en matière d’« intérêt médiatique » et d’« esprit de la politique ». Afin d’évaluer le contenu, l’équipe en charge de la réponse rapide doit néanmoins s’appuyer sur des traductions et des informations contextuelles fournies par l’équipe des marchés régionaux pertinents sans bénéficier qu’une expertise sur la langue ou la région.
Suite à la décision de Meta dans le présent cas, le Conseil émet des inquiétudes quant au fait que les informations contextuelles utiles, telles que la publication interprétée dans son ensemble, le hashtag #SOSCuba, les évènements survenus lors du premier anniversaire des manifestations historiques de juillet 2021, la vague de répression dénoncée par les instances internationales au moment de la publication et, entre autres, le décès d’un jeune Cubain dans un incident impliquant la police, n’ont peut-être pas été suffisamment étudiées pendant l’évaluation du contenu dans le processus de remontée de la vérification croisée.
En réponse à cela, le Conseil réitère la recommandation n° 3 de l’avis consultatif en matière de politique sur la vérification croisée, qui a enjoint Meta à « améliorer la prise en compte dans son workflow dédié à l’observation de ses responsabilités en matière de droits de l’homme du contexte et de l’expertise langagière sur l’examen amélioré, notamment aux niveaux décisionnels ». Meta s’est engagée à mettre pleinement en place cette recommandation. Dans sa mise à jour du T1 2023, Meta a expliqué avoir déjà pris certaines initiatives afin d’intégrer du contexte et de l’expertise langagière au niveau de l’ERSR. Le Conseil espère que le contexte et l’expertise langagière permettront d’éviter que de futurs contenus tels que la présente publication soient supprimés.
8.2 Respect des responsabilités de Meta en matière des droits de l’homme
Le Conseil estime que la décision initiale de Meta de supprimer le contenu n’est pas conforme aux responsabilités de Meta en matière de droits de l’homme qui lui incombe en tant qu’entreprise.
Liberté d’expression (article 19 du PIDCP)
L’article 19 du PIDCP prévoit une large protection de la liberté d’expression, notamment au sujet de la politique, des affaires publiques et des droits de l’homme, sachant que l’expression de préoccupations sociales ou politiques bénéficie d’une protection accrue ( Observation générale n° 34, paragraphes 11-12). L’article 21 du PIDCP prévoit une protection de la liberté de rassemblement pacifique, et que les rassemblements à visée politique reçoivent une protection accrue ( Observation générale n° 37, paragraphes 32 et 49). Les restrictions extrêmes à la liberté d’expression et de rassemblement à Cuba rendent particulièrement crucial le respect de ces droits par Meta, notamment en période de protestation (décision sur les « Manifestations en Colombie » ; décision sur le « Slogan de protestation en Iran » ; Observation générale n° 37, paragraphe 31). La protection de l’article 21 s’étend aux activités associées qui surviennent en ligne (Ibid., paragraphes 6 et 34). Comme le Rapporteur spécial des Nations Unies sur le droit à la liberté d’expression le souligne, « l’Internet est devenu le nouveau champ de bataille dans la lutte menée pour les droits des femmes, en amplifiant les possibilités dont elles disposent pour s’exprimer » ( A/76/258 paragraphe 4).
L’expression controversée dans le présent cas mérite une « protection accrue », car elle implique l’appel d’une femme à manifester en vue de défendre les droits des victimes de la répression à un moment politique important, près d’un an après les manifestations historiques de juillet 2021 à Cuba. La colère et la critique publiques contre le gouvernement cubain ont perduré à mesure que les autorités cubaines ont intensifié leur répression judiciaire et physique sur les actes de dissidence au cours de l’année qui a suivi les manifestations de juillet 2021. D’après les spécialistes, bien que ces sentiments puissent prendre la forme de petites manifestations en réponse à des évènements locaux (tels que le décès d’un adolescent cubain dans ce cas), les inquiétudes persistantes des citoyens au sujet de l’économie, de la gouvernance et des libertés fondamentales, associées à la connectivité Internet (bien que limitée par les coûts élevés et le contrôle de l’État sur l’infrastructure importante), ont clairement démontré que les manifestations devraient perdurer.
Lorsque des limitations de la liberté d’expression sont imposées par un État, elles doivent remplir des critères de légalité, d’objectif légitime, et de nécessité et de proportionnalité (article 19, paragraphe 3 du PIDCP). Ces exigences sont souvent reprises sous intitulé « test tripartite ». Le Conseil utilise ce cadre pour interpréter les engagements volontaires de Meta en matière de droits de l’homme, à la fois pour la décision relative au contenu individuel en cours d’examen et pour ce que cela dit de l’approche plus large de Meta en matière de gouvernance du contenu. Comme l’a déclaré le Rapporteur spécial des Nations Unies sur la liberté d’expression, même si « les entreprises ne sont pas soumises aux mêmes devoirs que les gouvernements, leur influence est néanmoins telle qu’elle doit les inciter à se poser les mêmes questions qu’eux quant à la protection de la liberté d’expression de leurs utilisateurs » ( A/74/486, paragraphe 41).
I. Légalité (clarté et accessibilité des règles)
Le principe de légalité exige que les règles utilisées pour limiter la liberté d’expression soient claires et accessibles (observation générale n° 34, paragraphe 25). Le Comité des droits de l’homme a en outre observé que les règles « ne peuvent pas conférer aux personnes chargées de leur application un pouvoir illimité de décider de la restriction de la liberté d’expression » (Ibid.). Dans le contexte du discours en ligne, le Rapporteur spécial des Nations Unies sur la liberté d’expression a déclaré que les règles devraient être spécifiques et claires ( A/HRC/38/35, paragraphe 46). Les personnes utilisant les plateformes de Meta doivent pouvoir accéder aux règles et les comprendre, et les équipes d’examen de contenu doivent disposer de conseils clairs sur leur application.
La politique de Meta relative au discours haineux interdit le contenu qui attaque des groupes en fonction de caractéristiques protégées. Meta définit une attaque comme un « discours violent ou déshumanisant, des stéréotypes offensants, une déclaration d’infériorité, une expression de mépris, de dégoût ou de rejet, une insulte ou un appel à l’exclusion ou à la ségrégation ». Le discours déshumanisant comprend les comparaisons, les généralisations ou les déclarations comportementales non qualifiées relatives à des animaux culturellement perçus comme inférieurs. Cette même politique autorise cependant les déclarations comportementales qualifiées. L’erreur commise par Meta dans ce cas lors de l’application de sa politique montre que les éléments de langage qu’elle énonce et les conseils internes fournis aux équipes d’examen manquent de clarté et ne leur permettent pas de déterminer précisément s’il s’agit d’une déclaration comportementale qualifiée.
Selon l’entreprise, les déclarations comportementales non qualifiées « attribuent explicitement un comportement à l’ensemble ou à une majorité de personnes définies en fonction d’une caractéristique protégée ». Meta a ensuite expliqué que l’entreprise autorise les déclarations comportementales qualifiées sur les groupes dotés de caractéristiques protégées lorsqu’une déclaration évoque un évènement historique spécifique (par exemple, en présentant des statistiques ou des tendances). Dans le cas relatif à la Violence faite aux femmes, Meta a informé le Conseil de la « difficulté pour les équipes d’examen à grande échelle de distinguer les déclarations comportementales qualifiées et non qualifiées sans étudier soigneusement leur contexte ». Cependant, les conseils aux équipes d’examen, tels qu’ils sont actuellement rédigés, limitent considérablement leur capacité d’analyse contextuelle, même lorsqu’il existe des indicateurs clairs dans le contenu lui-même qu’il s’agit d’une déclaration comportementale qualifiée. Meta a en effet déclaré qu’en raison de la complexité à identifier l’intention à grande échelle, ses règles internes demandent aux équipes d’examen de supprimer par défaut les déclarations comportementales relatives à des groupes dotés de caractéristiques protégées lorsque l’utilisateur n’a pas clairement indiqué si la déclaration est qualifiée ou non qualifiée.
Dans le cas présent, lue dans son ensemble, la publication reflète sans équivoque le jugement critique de la femme filmée dans la vidéo lorsqu’elle évoque le comportement des hommes cubains dans le contexte spécifique des manifestations historiques qui ont eu lieu à Cuba en 2021 ainsi que la vague de répression de 2022. En tenant compte de l’ensemble du contenu, notamment du hashtag #SOSCuba, et des évènements connus de tous au moment de la publication, il apparaît clairement qu’il s’agissait d’une déclaration concernant des évènements historiques conflictuels spécifiques exprimés à travers la référence que cette femme considère comme une tendance.
Comme nous l’avons vu dans les décisions des cas relatifs à la Violence faite aux femmes et au Dessin animé de Knin, les équipes d’examen doivent disposer de suffisamment de possibilités et de ressources pour tenir compte des indicateurs contextuels afin d’appliquer correctement les politiques de Meta. Le Conseil constate que les éléments de langage de la politique elle-même et les règles internes destinées aux équipes d’examen manquent de clarté pour garantir que les déclarations comportementales qualifiées ne fassent pas l’objet d’une suppression erronée. Les conseils peu clairs, voire contradictoires, de l’entreprise ne facilitent pas le travail des équipes d’examen au moment de parvenir à une conclusion fiable, cohérente et prévisible. Le Conseil réitère la recommandation n° 2 de la décision relative à la Violence faite aux femmes, qui enjoignait Meta à « mettre à jour ses conseils destinés aux modérateurs à grande échelle en portant une attention particulière aux règles concernant la qualification ».
II. Objectif légitime
Toute limitation de la liberté d’expression doit poursuivre l’un des objectifs légitimes énoncés dans le PIDCP, lesquels incluent les « droits d’autrui ». Pour plusieurs décisions, le Conseil a estimé que la politique de Meta relative au discours haineux, établie pour protéger les personnes contre les préjudices causés par les discours haineux, comporte un objectif légitime reconnu par les standards du droit international lié aux droits de l’homme (voir, par exemple, la décision relative au Dessin animé de Knin).
III. Nécessité et proportionnalité
Le principe de nécessité et de proportionnalité stipule que les restrictions de la liberté d’expression « doivent être appropriées pour remplir leur fonction de protection ; elles doivent constituer le moyen le moins perturbateur parmi ceux qui pourraient permettre d’obtenir le résultat recherché » [et] « elles doivent être proportionnées à l’intérêt à protéger » ( observation générale n° 34, paragraphe 34). Bien que le Conseil ne considère pas que le contenu en l’espèce relève du discours haineux et estime qu’il devrait rester sur Instagram, il n’est pas insensible aux difficultés inhérentes à la modération du discours haineux incluant des comparaisons avec des animaux (voir la décision relative au Dessin animé de Knin). Le Rapporteur spécial des Nations Unies sur la liberté d’expression a fait remarquer que sur les réseaux sociaux, « l’ampleur et la complexité de la lutte contre l’expression de la haine soulèvent des défis à long terme » (A/HRC/38/35, paragraphe 28). Conseils du Rapporteur spécial à l’appui, le Conseil a précédemment expliqué que, bien que ces restrictions ne soient en règle générale pas conformes aux obligations gouvernementales en matière de droits de l’homme (notamment si elles prennent la forme de sanctions pénales ou civiles), Meta peut modérer ce type de discours si elle prouve la nécessité et la proportionnalité de la restriction du discours (voir la décision relative aux Insultes en Afrique du Sud). En cas d’incohérences entre les règles de l’entreprise et les standards internationaux, le Rapporteur spécial a appelé les entreprises de réseaux sociaux à « donner préalablement une explication motivée de ces différences, en les définissant clairement » ( A/74/486, paragraphe 48).
Comme nous l’avons précédemment vu à la section 8.1, la politique de Meta sur le discours haineux contient plusieurs exceptions, dont une pose problème dans le cas présent : les déclarations comportementales qualifiées.
Meta a estimé ne pouvoir appliquer aucune exception et a supprimé le contenu. Le Conseil a cependant constaté qu’une interprétation trop littérale du contenu a poussé Meta à négliger un contexte important ; à ignorer une restriction pertinente de sa propre politique ; et à adopter une décision qui n’était ni utile ni proportionnée afin d’atteindre l’objectif légitime de la politique relative au discours haineux.
Dans le cas présent, le Conseil a pris en compte les facteurs définis par le Plan d’action de Rabat dans son analyse (OHCHR, A/HRC/22/17/Ann. 4, 2013) ainsi que les différences entre les obligations légales des États au niveau international et les responsabilités de Meta en matière de droits de l’homme en tant qu’entreprise de réseaux sociaux. Dans son analyse, le Conseil s’est concentré sur le contexte social et politique, l’auteur, le contenu lui-même et la forme du discours.
Tel que précédemment mentionné dans cette décision, le contenu a été publié dans un contexte de forte tension sociale caractérisée par une importante vague répressive à la suite des manifestations historiques lancées à Cuba en juillet 2021. Le Conseil remarque également que le décès d’un jeune Cubain lors d’un incident impliquant la police a influencé le contexte et déclenché les appels à manifester contre le gouvernement, comme dans le contenu qui nous préoccupe. La femme qui apparaît dans la publication décrit la façon, selon elle, dont les hommes cubains se sont comportés pendant les manifestations et appelle les femmes à descendre dans les rues afin de défendre la vie de « our sons » (nos fils). La publication comporte des références explicites aux manifestations et au hashtag #SOSCuba. Une analyse linguistique de l’intégralité de la publication et du contexte de son apparition ne laisse aucune place au doute quant à sa signification et à sa portée. Le contenu n’attribue pas un comportement particulier à tous les hommes ni à une majorité d’entre eux. Il ne prétend pas non plus ni ne contribue à déshumaniser entièrement ou majoritairement un groupe doté de caractéristiques protégées. Il n’incite pas à la violence contre les hommes, ni ne les exclut des conversations publiques. Au contraire, en pleine tension sociale exacerbée, il utilise un langage fort afin d’encourager les hommes cubains à participer aux manifestations en déclarant qu’ils n’avaient pas assumé leurs responsabilités. Néanmoins, bien que le contenu ne favorise pas la survenue d’un préjudice, sa suppression a un impact particulièrement négatif sur la femme qui apparaît dans la vidéo, sur l’utilisateur à l’origine du partage et, enfin, sur le débat politique.
En effet, la décision de Meta de supprimer la publication est susceptible d’avoir entraîné des conséquences disproportionnées sur cette femme qui a dû surmonter les nombreuses difficultés que connaît Cuba, notamment l’accès à Internet et les risques que représente la critique antigouvernementale. En outre, la suppression peut avoir inutilement fait pression sur l’utilisateur, à savoir la plateforme d’informations, qui a dû surmonter certains obstacles en vue de diffuser des informations sur les évènements à Cuba. En appliquant une pénalité sur le compte de l’utilisateur suite à la suppression de la publication, Meta aurait pu aggraver la situation, et éventuellement causé la suspension du compte. Enfin, le Conseil considère également que la publication relève de l’intérêt public et comporte un vigoureux appel à manifester, sans pour autant inciter à la violence. La suppression de la publication influence donc également le débat public dans un pays où il est déjà sévèrement restreint.
Le Rapporteur spécial des Nations Unies sur la liberté d’expression a déclaré ce qui suit relativement au discours haineux : « une exception est possible, dans certains cas, après une évaluation plus approfondie du contexte, lorsque le contenu visé doit être protégé, par exemple dans le cas d’un discours politique » ( A/74/486, paragraphe 47 (d)).
Le Conseil a affirmé à maintes reprises l’importance de cette déclaration. Dans la décision relative aux Manifestations en Colombie, le Conseil a examiné les défis qu’implique l’évaluation de la pertinence politique et de l’intérêt public du contenu proférant une insulte homophobe dans un contexte de manifestation. La décision relative au Slogan de protestation en Iran a reconnu que « la position actuelle de Meta entraîne une suppression excessive de l’expression politique en Iran à un moment historique et crée potentiellement plus de risques pour les droits de l’homme qu’elle n’en atténue ». Enfin, au-delà des signaux contextuels du contenu lui-même, dans la décision relative aux Manifestations pro-Navalny en Russie, le Conseil a affirmé l’importance du contexte externe, en déclarant que « le contexte est essentiel pour évaluer la nécessité et la proportionnalité… Facebook aurait dû tenir compte de l’environnement entourant généralement la liberté d’expression en Russie, et plus particulièrement des campagnes gouvernementales de désinformation contre les opposants et leurs partisans, notamment dans le contexte des manifestations de janvier ». Bien que le présent cas relevât de la politique de Meta sur l’intimidation et le harcèlement, les observations relatives à l’« environnement pour la liberté d’expression » et aux manifestations s’appliquent également à ce cas sur le discours haineux.
Le Conseil constate que d’importantes contraintes pèsent sur la liberté d’expression à Cuba, ainsi que des risques physiques et judiciaires apparaissent lorsque des critiques sont émises contre le gouvernement (section 2). Ces risques, associés au coût élevé de l’accès aux données et à Internet à Cuba, amplifient les enjeux liés à la modération de contenu appliquée aux voix dissidentes dans le pays. Un commentaire public (PC-13017) a mis en avant l’importance de « préserver les possibilités limitées pour la dissidence et l’organisation de manifestations ».
Enfin, le Conseil a tenu compte du rapport 2022 de l’IACHR, qui indique que la Commission a été « informée de la persécution, de la violence politique et des abus sexuels perpétrés contre les femmes par des agents étatiques lors des protestations sociales ; l’ampleur de ces violences serait encore plus lourde lorsqu’il s’agit de militantes et de défenseuses des droits de l’homme » (IACHR, Rapport annuel 2022, paragraphe 166). La couverture des médias indépendants relative à Cuba a également mis en exergue l’impact des réponses gouvernementales aux manifestations de juillet 2021 sur les femmes, avec des organisations de la société civile qui expliquent que « la violence sexiste constatée dans le contexte cubain a été principalement commise par le gouvernement, ce que l’on voit bien avec la mise à jour de la liste des femmes privées de leur liberté pour des motifs politiques ».
Le Conseil exhorte Meta à exercer une plus grande vigilance lors de l’évaluation de contenus issus de contextes géographiques où l’expression politique et le rassemblement pacifique sont préventivement réprimés ou traités par la violence ou des menaces de violence. Les plateformes de réseaux sociaux à Cuba offrent un canal qui, quoique limité, n’en est pas moins essentiel pour les critiques antigouvernementales et le militantisme social face aux autorités qui ont restreint les libertés civiles de base et les possibilités de mobilisation civile hors ligne.
Bien que Meta ait indiqué que différentes étapes devaient être suivies afin d’atténuer les risques pour les utilisateurs lors des manifestations cubaines de juillet 2021, puis des manifestations de masse prévues en novembre 2021, elle n’a dévoilé aucune mesure d’atténuation de ces risques au moment de la publication du contenu qui nous préoccupe. Afin de se préparer aux futurs appels à manifester qui devraient survenir dans des régions où les autorités publiques répriment les manifestations par la violence ou les menaces de violence, et afin de s’assurer que ces appels sont examinés et appliqués précisément et en tenant compte de la nuance contextuelle, Meta doit étudier l’influence que le contexte politique peut avoir sur ses choix en matière de politique et d’application.
Aux fins de résoudre ces préoccupations concernant la modération de contenus issus d’espaces civiques fermés, le Conseil réitère les recommandations n° 1 et 8 de l’avis consultatif en matière de politique sur la vérification croisée, en notant leur pertinence face au contexte cubain et au contenu examiné dans ce cas. La recommandation n° 1 enjoignait Meta à disposer d’un programme de prévention contre la mise en application excessive basé sur une liste afin de protéger la liberté d’expression conformément à ses responsabilités en matière de droits de l’homme. Les listes de prévention contre la mise en application excessive offrent aux utilisateurs qui y figurent de bénéficier de possibilités supplémentaires d’examen manuel de leurs publications initialement identifiées comme étant en infraction avec les politiques de Meta, ce qui permet ainsi d’éviter une application excessive ou les faux positifs. La recommandation n° 8 indiquait à Meta de créer des listes en se basant sur des ressources locales. Meta a consenti à mettre en œuvre ces recommandations en partie, avec la mise en application actuellement en cours.
9. Décision du Conseil de surveillance
Le Conseil de surveillance a annulé la décision de Meta visant à supprimer la publication.
10. Recommandations
Le Conseil de surveillance a décidé de ne pas émettre de nouvelles recommandations dans cette décision compte tenu de la pertinence des précédentes recommandations énoncées dans d’autres cas. Il a connaissance du statut de vérification croisée du compte du créateur de contenu au moment où la publication a été examinée et supprimée. Le Conseil a néanmoins constaté que les recommandations n° 1 et 8 de l’avis consultatif en matière de politique sur la vérification croisée, par le biais duquel il fournit à Meta des conseils pour dresser ses listes de vérification croisée, s’avèrent fondamentales dans le cas présent connaissant le contexte à Cuba. Le Conseil estime que Meta doit suivre ces conseils à la lettre afin que les autres comptes qui partagent un discours politique de valeur, comme celui du présent cas, soient ajoutés à la liste afin de suivre les étapes d’examen supplémentaires du contenu. Pour les comptes qui figurent déjà sur la liste, le Conseil souligne l’importance de la recommandation n° 3 de l’avis consultatif en matière de politique sur la vérification croisée, qui vise à améliorer la précision de l’examen de contenu supérieur pour les comptes de la liste. Il est fondamental d’étendre la possibilité d’ajouter des étapes d’examen supplémentaires du contenu mais aussi d’intégrer des informations contextuelles dans les décisions de modération de contenu à davantage de comptes qui méritent d’être inclus sur la liste, du point de vue des droits de l’homme, dans les espaces civiques fermés, tels que celui du cas présent.
- La recommandation n° 1, qui enjoignait Meta à disposer d’un programme de prévention contre la mise en application excessive basé sur une liste afin de protéger la liberté d’expression conformément à ses responsabilités en matière de droits de l’homme. Ce système n’est pas lié à celui qui protège la liberté d’expression que Meta considère comme une priorité, et doit s’assurer que Meta prévoit des étapes d’examen supplémentaires du contenu publié par, entre autres, les défenseurs des droits de l’homme.
- La recommandation n° 8, qui indiquait que Meta doit faire appel à un personnel spécialisé, en s’appuyant sur des ressources locales, pour établir des listes de prévention contre la mise en application excessive.
- La recommandation n° 3, qui appelait Meta à améliorer la prise en compte dans son workflow dédié à l’observation de ses responsabilités en matière de droits de l’homme du contexte et de l’expertise langagière sur l’examen amélioré, notamment aux niveaux décisionnels.
Le Conseil de surveillance réitère ses conseils fournis à Meta dans ces décisions, présente et antérieures, afin de s’assurer que le contexte est correctement pris en compte dans les décisions sur la modération de contenu et que les politiques sont suffisamment claires, à la fois pour les utilisateurs et les équipes d’examen ( cas relatifs à la Violence faite aux femmes). Cela inclut la mise à jour des conseils internes destinés aux équipes d’examen lorsque nécessaire afin que l’entreprise résolve les éventuels manques de clarté, les lacunes ou les incohérences qui peuvent entraîner des erreurs d’application, comme c’est le cas ici.
- La recommandation n° 2 des cas relatifs à la Violence faite aux femmes, qui exhortait Meta à actualiser les conseils destinés à ses modérateurs à grande échelle en portant une attention particulière aux règles liées à la qualification, en raison du fait que les conseils actuels ne permettent absolument pas aux modérateurs de prendre des décisions pertinentes.
*Note de procédure :
Les décisions du Conseil de surveillance sont préparées par des panels de cinq membres et approuvées par une majorité du Conseil. Elles ne représentent pas nécessairement les opinions personnelles de tous ses membres.
Pour la décision sur ce cas, des recherches indépendantes ont été commandées au nom du Conseil. Le Conseil était assisté d’un institut de recherche indépendant, dont le siège se trouve à l’université de Göteborg. Il avait mobilisé une équipe de plus de 50 experts en sciences sociales sur 6 continents ainsi que 3 200 experts nationaux du monde entier. Memetica, une organisation qui effectue des recherches open source sur les tendances des réseaux sociaux, a également fourni une analyse. L’entreprise Lionbridge Technologies, LLC, dont les spécialistes parlent couramment 350 langues et travaillent dans 5 000 villes du monde entier, a fourni son expertise linguistique.
Retour aux décisions de cas et aux avis consultatifs politiques