Le Conseil de surveillance a annulé la décision initiale de Meta pour le cas du « dessin sur la police colombienne » (2022-004-FB-UA)
15 septembre 2022
Le Conseil de surveillance a annulé la décision initiale de Meta de supprimer une publication Facebook d’un dessin sur la violence policière en Colombie. Le Conseil redoute que les banques du service de mise en correspondance du contenu multimédia, qui peuvent supprimer automatiquement les images enfreignant les règles de Meta, n’amplifient l’impact des décisions inadéquates sur la mise en banque de contenu. En réponse, Meta doit améliorer de toute urgence ses procédures pour supprimer rapidement de ces banques le contenu qui n’est pas en infraction.
À propos du cas
Au mois de septembre 2020, en Colombie, une personne utilisant Facebook a publié un dessin ressemblant à l’écusson officiel de la police nationale de Colombie et représentant trois personnages en uniforme de police tenant des matraques au-dessus de leur tête. Ils semblent donner des coups de pied et de poing à une autre personne qui gît sur le sol, avec du sang sous la tête. Le texte de l’écusson indique, en espagnol, « República de Colombia - Policía Nacional - Bolillo y Pata ». Meta a traduit le texte par « National Police – Republic of Colombia – Baton and Kick » (Police nationale - République de Colombie - Bâton et coup de pied).
Selon Meta, en janvier 2022, soit 16 mois après que la personne a publié le contenu, l’entreprise a supprimé le contenu car il correspondait à une image se trouvant dans une banque du service de mise en correspondance du contenu multimédia. Ces banques peuvent identifier et supprimer automatiquement les images qui ont été identifiées par un examen manuel comme enfreignant les règles de l’entreprise. À la suite de la sélection de ce cas par le Conseil, Meta a jugé que la publication n’enfreignait pas ses règles et l’a restaurée. L’entreprise a également restauré d’autres contenus contenant ce dessin, qui avaient été supprimés par erreur par les banques de son service de mise en correspondance du contenu multimédia.
Principales observations
Meta a désormais reconnu que cette publication n’enfreignait pas ses politiques. Meta a eu tort d’ajouter ce dessin à la banque de son service de mise en correspondance du contenu multimédia, car cela a entraîné une suppression massive et disproportionnée de l’image de la plateforme, y compris du contenu publié par la personne en question. Bien que 215 personnes aient fait appel de ces suppressions, et que 98 % de ces appels aient abouti, Meta n’avait toujours pas retiré le dessin de cette banque avant que le cas ne soit porté devant le Conseil.
Ce cas montre comment, en utilisant des systèmes automatisés pour supprimer du contenu, les banques du service de mise en correspondance du contenu multimédia peuvent grossir l’impact de décisions incorrectes émanant d’examens manuels individuels. Les enjeux des ajouts erronés à ces banques sont particulièrement élevés lorsque, comme dans ce cas, le contenu consiste en un discours politique critiquant des responsables de l’État.
En réponse, Meta devrait développer des mécanismes pour supprimer rapidement tout contenu sans infraction qui est ajouté par erreur aux banques de son service de mise en correspondance du contenu multimédia. Puisque les décisions de supprimer le contenu ajouté à ces banques sont fréquemment annulées en appel, cela devrait immédiatement déclencher des examens susceptibles de supprimer ce type de contenu de la banque.
Le Conseil est particulièrement préoccupé par le fait que Meta ne mesure pas l’exactitude des banques du service de mise en correspondance du contenu multimédia pour des politiques relatives à des contenus spécifiques. Sans ces données, qui sont cruciales pour améliorer le fonctionnement de ces banques, l’entreprise ne peut pas dire si cette technologie fonctionne plus efficacement pour certains Standards de la communauté que pour d’autres.
La décision du Conseil de surveillance
Le Conseil de surveillance a annulé la décision initiale de Meta de supprimer le contenu.
Le Conseil recommande à Meta de :
- S’assurer que le contenu présentant des taux d’appel élevés ainsi que des taux d’appel fructueux élevés est réévalué en vue de sa suppression éventuelle des banques de son service de mise en correspondance du contenu multimédia.
- Limiter le délai entre le moment où le contenu stocké dans les banques est identifié pour un examen supplémentaire et le moment où, s’il est jugé sans infraction, il est retiré de la banque. Cela permettrait de s’assurer que les contenus qui ne sont pas en infraction sont rapidement retirés des banques du service de mise en correspondance du contenu multimédia.
- Publier dans son rapport de transparence les taux de contenus introduits par erreur dans les banques du service de mise en correspondance du contenu multimédia, répartis par politique de contenu.
Pour en savoir plus :
Pour lire l’intégralité de la décision, cliquez ici.
Pour lire un résumé des commentaires publics relatifs à ce cas, cliquez sur la pièce jointe ci-dessous.
