Negative stereotyper om afroamerikanere

Dette er en oversigtsafgørelse. Oversigtsafgørelser undersøger sager, hvori Meta har omstødt sin oprindelige afgørelse om indhold, efter at rådet har gjort virksomheden opmærksom på sagen, og inkluderer oplysninger om Metas erkendte fejl. De er godkendt af et panel af rådets medlemmer og ikke hele rådet. De omfatter ikke offentlige kommentarer og har ingen præjudikatværdi for rådet. Oversigtsafgørelser medfører ændringer i Metas afgørelser direkte og skaber gennemsigtighed i disse rettelser, samtidig med at de identificerer områder, hvor Meta kan forbedre sin håndhævelse.

Oversigt

Rådet har gennemgået tre Facebook-opslag med racistisk materiale, som Meta havde ladet forblive opslået. Hvert opslag indeholdt en karikatur eller et manipuleret billede af afroamerikanere, der fremhæver stødende stereotyper, herunder fraværende fædre, at være på overførselsindkomst og at plyndre butikker. Disse sager fremhæver fejl i Metas håndhævelse af politikkerne om hadefuld retorik og mobning og chikane. Efter at rådet havde gjort Meta opmærksom på disse appeller, omstødte virksomheden sine oprindelige afgørelser og fjernede opslagene.

Om sagerne

I slutningen af 2023 modtog rådet tre separate klager vedrørende tre forskellige billeder, som var blevet slået op på Facebook, og som alle indeholdt negativt materiale om afroamerikanere.

I det første opslag, der blev set omkring 500.000 gange, havde en bruger slået et computergenereret billede op af en butik i brand, hvor sorte mennesker blev vist som tegneseriefigurer, iført hættetrøjer, med varer i armene og løbende ud af butikken. Butikkens navn, Target, var blevet ændret til "Loot" (plyndre) på billedet, og i den ledsagende billedtekst beskriver brugeren billedet som den næste Pixar-film.

Det andet opslag viser et computergenereret billede, der også ligner en filmplakat, med en sort kvinde med overdrevne fysiske træk, som holder en indkøbskurv fuld af Cheetos. Filmens titel er "EBT", hvilket er navnet på et system til at modtage sociale ydelser i USA. Øverst på plakaten står der, i stedet for navnene på skuespillere, navnene Trayvon Martin og George Floyd, begge afroamerikanske ofre for vold, den ene skudt af en bevæbnet selvtægtsudøver i 2012 og den anden dræbt af politiet i 2020 . Deres dødsfald udløste protester om raceforskelle i det amerikanske retssystem.

Det tredje opslag, som blev set omkring 14 millioner gange, indeholder et meme, der påstår, at "Adobe har udviklet software, der kan registrere photoshop på et billede." Under påstanden er der et billede af en kvinde med farverige markeringer over hele ansigtet (typisk brugt til at vise varmeregistrering) for at antyde, at dele af billedet er blevet ændret. Dette står i kontrast til et billede af en sort familie, der spiser et måltid, hvor faderen og maden på bordet har de samme farverige markeringer, hvilket antyder, at disse to elementer er blevet tilføjet gennem redigering. Opslaget forstærker den udbredte negative stereotyp om manglen på en faderfigur i sorte familier i USA, som stammer fra en kompleks historie med systemisk racisme og økonomisk ulighed.

Meta lod i første omgang alle tre opslag forblive opslået på Facebook, trods appeller fra brugerne. I deres appeller til rådet hævdede de samme brugere, at indholdet skildrede skadelige racemæssige stereotyper om afroamerikanere.

Efter rådet havde gjort Meta opmærksom på disse sager, fastslog virksomheden, at hvert opslag overtrådte fællesskabsreglen om hadefuld retorik, som forbyder direkte angreb mod mennesker på grundlag af beskyttede karakteristika, herunder race og etnicitet. Politikken forbyder også specifikt at målrette mod en person eller en gruppe med dehumaniserende tale i form af sammenligninger med kriminelle, herunder tyve, hån mod begrebet hadforbrydelser, hændelser med hadforbrydelser eller ofre for hadforbrydelser og generaliseringer, der udtrykker underlegenhed i forhold til moralske karakteristika.

Derudover fastslog Meta, at det andet opslag, der inkluderer navnene på Trayvon Martin og George Floyd, også overtrådte fællesskabsreglen om mobning og chikane, og i henhold til denne fjerner virksomheden "[f]ejring eller nedgørelse af dødsfald eller sygdom". Virksomheden forklarede, at "billedet indeholder navnet på to afdøde personer, Trayvon Martin og George Floyd ... Indholdet bagatelliserer deres død ved at antyde, at de vil medvirke i en fiktiv animationsfilm."
Virksomheden fjernede derfor alle tre opslag.

Rådets bemyndigelse og arbejdsområde

Rådet har bemyndigelse til at gennemgå Metas afgørelse efter en appel fra den bruger, der anmeldte det indhold, som forblev opslået (artikel 2, afsnit 1 i charteret); artikel 3, afsnit 1 i vedtægterne).

Når Meta erkender, at der er sket en fejl og omstøder sin afgørelse i en sag, som rådet overvejer at gennemgå, kan rådet udvælge sagen til en oversigtsafgørelse (artikel 2, afsnit 2.1.3 i vedtægterne). Rådet gennemgår den oprindelige afgørelse for at øge forståelsen af processerne for indholdsmoderering, reducere mængden af fejl og øge retfærdigheden for Facebook- og Instagram-brugere.

Sagernes betydning

Disse sager fremhæver tre tilfælde, hvor Meta ikke effektivt håndhævede sine politikker om hadefuld retorik og mobning og chikane ved at lade krænkende opslag forblive opslået trods klager fra brugere. To af opslagene fik et højt antal visninger. Sådanne modereringsfejl med underhåndhævelse kan have en negativ indvirkning på personer fra grupper med beskyttede karakteristika og bidrage til et diskriminerende miljø. Rådet har gjort det til en strategisk prioritet at overbevise Meta om at imødegå hadefuld retorik rettet mod marginaliserede grupper.

I 2022 anbefalede rådet, at Meta burde "tydeliggøre fællesskabsreglen om hadefuld retorik og retningslinjerne for evaluatorer, så de indeholder en forklaring på, at selv implicitte referencer til beskyttede grupper er forbudt i henhold til politikken, hvis referencen med rimelighed ville kunne forstås (Knin-tegnefilm, anbefaling nr. 1), hvilket Meta har rapporteret som delvist implementeret.

Afgørelse

Rådet omstøder Metas oprindelige afgørelser om at lade opslagene forblive opslået. Rådet anerkender Metas korrektion af sin oprindelige fejl, da rådet gjorde virksomheden opmærksom på disse sager.

Voltar para Decisões de Casos e Pareceres Consultivos sobre Políticas