Avhumaniserande kommentarer om människor i Gaza

Detta är ett sammanfattande beslut.I våra sammanfattande beslut undersöker vi ärenden i vilka Meta har ändrat sina ursprungliga innehållsbeslut efter det att rådet uppmärksammat företaget på ärendet. De innehåller även information om fel som Meta erkänner sig ha gjort. Sammanfattande beslut fattas inte av hela rådet, utan av en mindre panel med rådsmedlemmar. Inga kommentarer från allmänheten vägs in i bedömningen och beslutet ska inte betraktas som prejudicerande för rådet. Sammanfattande beslut kan innebära direkta ändringar av Metas beslut, tillhandahålla transparens kring eventuella rättelser och visa var det finns utrymme för förbättringar i Metas verkställighetsåtgärder.

Sammanfattning

En användare överklagade Metas beslut att lämna kvar ett Facebook-inlägg som påstod att Hamas har sitt ursprung i Gazas befolkning, att organisationen återspeglar befolkningens ”innermost desires” (innersta önskningar) och liknade dem vid en ”savage horde” (hord av vildar). Efter det att rådet uppmärksammat Meta på överklagan upphävde företaget sitt ursprungliga beslut och tog bort inlägget.

Om ärendet

En användare anmälde i december 2023 en bild av en obeväpnad man på Facebook, med tillhörande text som uttryckte åsikten att allmänheten i Gaza inte är Hamas offer utan snarare att den militanta gruppen vuxit fram som svar på ”the innermost desires of a savage horde” (en vildsint hords innersta önskningar). Den återpublicerade bilden hade en bifallande bildtext med bland annat orden ”the truth” (sanningen). Inlägget visades färre än 500 gånger.

Enligt Metas policy om hatretorik är det förbjudet med innehåll som pekar ut en person eller grupp på grundval av deras skyddade egenskaper, och där nämns specifikt liknelser vid ”subhumanity” (lägre stående varelser) med ”savages” (vildar) som ett exempel. I den här kontexten är referensen till allmänheten i Gaza en implicit referens till palestinier i Gaza, och den riktas därmed mot de skyddade egenskaperna etnicitet och nationalitet.

När ärendet överklagades till rådet noterade användaren att inlägget var avhumaniserade eftersom det generaliserade kring Gazas befolkning.

Efter att rådet uppmärksammat Meta på ärendet kom företaget fram till att innehållet stred mot policyn om hatretorik och att det ursprungliga beslutet att lämna kvar innehållet var felaktigt. Därefter tog företaget bort innehållet från Facebook.

Rådets behörighet och omfång

Rådet har behörighet att granska Metas beslut efter överklagande från den användare som anmält innehåll som sedan lämnats kvar på plattformen (artikel 2, avsnitt 1 i stadgan, artikel 3, avsnitt 1 i regelverket).

När Meta erkänner att de har gjort fel och upphäver sitt beslut i ett ärende som övervägs för granskning av rådet kan rådet välja ut ärendet och lämna ett sammanfattande beslut (artikel 2, avsnitt 2.1.3 i regelverket). Rådet granskar det ursprungliga beslutet för att få bättre förståelse för processen för innehållsmoderering i syfte att minska antalet fel och öka rättvisan för de som använder Facebook och Instagram.

Ärendets signifikans

Ärendet belyser felaktigheter i Metas verkställighet av policyn om hatretorik, i synnerhet gällande innehåll som angriper människor baserat på deras skyddade egenskaper. Felaktigheter i modereringen kan vara särskilt skadliga när det samtidigt pågår en väpnad konflikt. Det vore därför önskvärt med mer robusta rutiner gällande innehållsmodereringen.

I ärendet Tecknad film om staden Knin förekom liknande hatretorik riktad mot en skyddad egenskap, i det fallet en etnicitet, där en ej namngiven etnisk gruppering kallades för råttor. I ärendet Tecknad film om staden Knin krävde dock tolkningen av symboliken en historisk och kulturell kontext, medan innehållet i det aktuella ärendet mer direkt kopplar avhumaniserande kommentarer till en hel befolkning vilket rimligen bör kunna förstås som att människor utpekas mot bakgrund av en skyddad egenskap.

I beslutet i ärendet Tecknad film om staden Knin rekommenderade Rådet att ”Meta bör göra sin communityregel om hatretorik och den vägledning som tillhandahålls granskarna tydligare. Företaget bör förklara att policyn även förbjuder underförstådda referenser till skyddade grupper i de fall när dessa referenser rimligen borde ha förståtts”, (rekommendation 1 i beslutet i ärendetTecknad film om staden Knin), en rekommendation som enligt Meta är delvis implementerad. I det fjärde kvartalet 2022 rapporterade Meta att företaget lagt till formuleringar i communityreglerna och granskarnas riktlinjer som förtydligar att implicit hatretorik ska tas bort om den eskaleras av breda moderatorer till en granskning av experter där Meta rimligen bör kunna förstå användarens avsikt. Rådet anser rekommendationen vara delvis implementerad eftersom det enbart var den allmänna introduktionen till communityreglerna som uppdaterades, inte själva communityregeln om hatretorik.

Rådet anser att en fullständig implementering av rekommendationen skulle leda till färre verkställighetsfel i samband med Metas policy om hatretorik.

Beslut

Rådet upphäver Metas ursprungliga beslut att lämna kvar innehållet. Rådet framhåller att Meta korrigerade sitt misstag när rådet uppmärksammat Meta på ärendet.

Retour aux décisions de cas et aux avis consultatifs politiques