Inlägg på polska med angrepp på transpersoner

Vill du läsa beslutet på polska klickar du här.

Kliknij tutaj, aby przeczytać postanowienie w języku polskim.

Sammanfattning

Tillsynsrådet har upphävt Metas ursprungliga beslut att lämna kvar ett Facebook-inlägg i vilket en användare angrep transpersoner med våldspropaganda som förespråkade att dessa personer borde begå självmord. Rådet finner att inlägget bröt mot communityreglerna om hatretorik och om självmord och självskada. Det grundläggande problemet i ärendet ligger emellertid inte i själva policyerna utan i hur de har verkställts. Metas upprepade underlåtenhet att vidta rätt verkställighetsåtgärd, trots flera signaler om inläggets skadliga innehåll, leder rådet till slutsatsen att företaget inte lever upp till de ideal det har satt upp avseende säkerheten för HBTQIA+-communityn. Rådet uppmanar Meta att åtgärda bristerna i verkställandet, bland annat genom att förbättra den interna vägledningen för granskare.

Om ärendet

I april 2023 publicerade en Facebook-användare i Polen en bild av en randig gardin med transflaggans färger blått, rosa och vitt, med text på polska som sade: ”Ny teknik … Gardiner som hänger sig själva” och ovanför det ”vårstädning … <3”. I användarens biografi finns beskrivningen ”Jag är transfob”. Inlägget fick färre än 50 reaktioner.

Mellan april och maj 2023 anmälde elva olika användare inlägget totalt tolv gånger. Endast två av de tolv anmälningarna prioriterades för manuell granskning av Metas automatiska system och de övriga avslutades. De två anmälningarna som skickades för manuell granskning, för eventuella brott mot Facebooks regel om självmord och självskada, bedömdes inte bryta mot reglerna. Ingen av anmälningarna som grundade sig på policyn om hatretorik skickades för manuell granskning.

Tre användare överklagade därefter Metas beslut att lämna kvar Facebook-inlägget och ett av de överklagandena ledde till att en granskare fastställde det ursprungliga beslutet utifrån communityregeln om självmord och självskada. Även denna gång skickades inte de andra överklagandena, som gjordes med åberopande av communityregeln om hatretorik, för manuell granskning. En av de användare som ursprungligen anmälde innehållet överklagade slutligen till rådet. I och med att rådet valde ut ärendet fastställde Meta att inlägget bröt mot både policyn om hatretorik och policyn om självmord och självskada och tog bort det från Facebook. Dessutom inaktiverade företaget kontot för användaren som publicerade innehållet på grund av flera tidigare överträdelser.

Slutsatser

Rådet anser att innehållet bröt mot Metas policy om hatretorik eftersom det innehöll ”våldspropaganda” i form av en uppmaning till personer i en skyddad grupp att begå självmord. Inlägget som förespråkar att transpersoner ska begå självmord skapade en miljö präglad av rädsla och exkludering, och kunde ha bidragit till risk för fysisk skada. Textens och bildens art gjorde att inlägget även bidrog till att förvärra de psykiska hälsoproblem som förekommer inom transcommunityn. I en nylig rapport från Gay and Lesbian Alliance Against Defamation (GLAAD) framhålls ”den rent traumatiska psykologiska effekten av att ständigt utsättas för nedsättande uttryck och hatiska beteenden” online. Rådet finner ytterligare stöd för sin slutsats i den bredare kontext av online- och offlineskada som HBTQIA+-communityn står inför i Polen, med bland annat angrepp och politiska uttalanden från inflytelserika myndighetspersoner och offentliga personer.

Rådet bekymras av att Metas manuella granskare inte uppfattade de kontextuella tecknen. Inläggets referens till den förhöjda risken för självmord (gardiner som hänger sig själva) och stöd för gruppens död (vårstädning) var tydliga brott mot communityregeln om hatretorik, och innehållskreatörens identifiering av sig själv som transfob utgjorde på egen hand ytterligare en överträdelse. Rådet uppmanar Meta att förbättra precisionen i verkställandet mot hatretorik riktad mot HBTQIA+-personer, särskilt när inlägg innehåller bilder och text för vilka tolkningen kräver att sammanhanget beaktas. I det här ärendet utgjorde de kodade hänvisningarna till självmord ihop med den visuella avbildningen av en skyddad grupp (transflaggan) illasinnad kreativitet. Det avser illasinnade personer som utvecklar nya sätt att angripa HBTQIA+-communityn via inlägg och mem som de försvarar med att de skulle vara humor eller satir när de i själva verket ger uttryck för hat och trakasserier.

Rådet bekymras också av Metas uttalande om att de manuella granskarnas underlåtenhet att ta bort innehållet var i linje med en strikt tillämpning av de interna riktlinjerna. Det visar på att Metas interna vägledning inte lyckas förmedla hur text och bild kan samspela för att representera en grupp som definieras av dess medlemmars könsidentitet.

Inlägget bröt dessutom tydligt mot Facebooks communityregel om självmord och självskada och rådet anser att denna policy tydligare borde förbjuda innehåll som förespråkar självmord inom en identifierbar grupp människor, och inte bara är riktade mot en enskild person i den gruppen.

I detta ärende hade Metas automatiska system för prioritering av granskning en betydande påverkan på verkställandet, bland annat på hur företaget hanterar flera anmälningar av samma innehåll. Meta övervakar och tar bort kopior av dessa anmälningar för att ”säkerställa konsekvens i granskarnas beslut och verkställighetsåtgärder”. Några andra orsaker som angavs för att anmälningarna stängdes automatiskt var bland annat innehållets låga allvarlighetsgrad och viralitet (mängden visningar innehållet hade ackumulerat), vilket innebar att det inte prioriterades för manuell granskning. I detta ärende anser rådet att användarens biografi kunde ha beaktats som en relevant signal i bedömningen av allvarlighetsgraden.

Rådet anser att Meta bör investera mer i utvecklingen av klassificeringar som identifierar innehåll som kan bryta mot reglerna och som påverkar HBTQIA+-communityn samt utöka utbildningen av granskare om skada relaterad till könsidentitet.

Tillsynsrådets beslut

Tillsynsrådet upphäver Metas ursprungliga beslut att låta innehållet vara kvar.

Rådet rekommenderar att Meta

• på sin sida om självmord och självskada förtydligar att policyn förbjuder innehåll som främjar eller uppmuntrar till självmord med en identifierbar grupp människor som målgrupp
• ändrar den interna vägledning som företaget tillhandahåller granskarna inom storskalig granskning för att se till att flaggbaserade avbildningar av könsidentitet, som inte innehåller en mänsklig varelse, tolkas som en representation av en grupp som definieras av dess medlemmars könsidentitet.

* En ärendesammanfattning ger en översikt över ärendet och har inget prejudikatvärde.

Fullständigt ärendebeslut

1. Sammanfattning av beslutet

Tillsynsrådet upphäver Metas ursprungliga beslut att lämna kvar ett innehåll på polska på Facebook i vilket en användare angrep transpersoner med våldspropaganda som förespråkade att dessa personer borde begå självmord. När rådet hade valt ut ärendet för granskning kom Meta fram till att företagets ursprungliga beslut att låta inlägget vara kvar på plattformen var ett misstag, och tog bort innehållet och införde sanktioner. Rådet finner att inlägget bröt mot communityreglerna om hatretorik och självmord och självskada. Rådet tar tillfället i akt att uppmana Meta att förbättra sina policyer och sin vägledning till granskarna för att ge bättre skydd för transpersoner på företagets plattformar. Specifikt bör Meta i sin bedömning av om ett inlägg utgör hatretorik se till att flaggbaserade avbildningar av könsidentitet, som inte innehåller en mänsklig varelse, tolkas som en representation av en grupp som definieras av dess medlemmars könsidentitet. Meta bör också göra tydligt att det är ett precis lika allvarligt brott att uppmana en hel grupp att begå självmord som att uppmuntra en enskild individ att göra det. Rådet anser emellertid att det grundläggande problemet i ärendet inte ligger i själva policyerna utan i hur de verkställts. Policyerna förbjöd tydligt detta inlägg som uppvisade flera tecken på att utgöra hatretorik mot en grupp personer baserat på deras könsidentitet. Metas upprepade underlåtenhet att vidta rätt verkställighetsåtgärd i detta ärende, trots flera anmälningar från användare, leder rådet till slutsatsen att Meta inte lever upp till de ideal företaget har satt upp avseende säkerheten för HBTQIA+-communityn. Rådet uppmanar Meta att åtgärda dessa verkställighetsbrister.

2. Beskrivning av och bakgrund till ärendet

I april 2023 publicerade en Facebook-användare i Polen en bild av en randig gardin i blått, rosa och vitt, vilket är färgerna på transflaggan. På bilden står det på polska: ”Ny teknik. Gardiner som hänger sig själva.” Över textraden finns mer text på polska: ”vårstädning <3”. I en beskrivning på polska i användarens biografi står det ”Jag är transfob”. Inlägget fick färre än 50 reaktioner från andra användare och de flesta av dem gav stöd till inlägget. Den vanligaste reaktionen i form av en emoji var ”Haha”.

Mellan april och maj 2023 anmälde elva olika användare innehållet totalt tolv gånger. Av dessa anmälningar prioriterades tio inte för manuell granskning av Metas automatiska system av flera olika skäl, bland annat ”låg allvarlighetsgrad och viralitet”. Meta prioriterar i allmänhet manuell granskning av innehåll baserat på allvarlighetsgraden, hur stor spridningen är och sannolikheten för överträdelse av innehållspolicyer. Enbart två av anmälningarna, som föll under Facebooks communityregel om självmord och självskada, ledde till att innehållet skickades för manuell granskning. Ingen av anmälningarna som grundade sig på policyn om hatretorik skickades för manuell granskning. Enligt Meta har granskarna både den utbildning och de verktyg som behövs för att ”bedöma och agera” på innehåll även utanför sin tilldelade policy (för till exempel hatretorik eller självmord och självskada). Båda granskarna bedömde emellertid att innehållet inte bröt mot reglerna och eskalerade inte ärendet.

Tre användare överklagade Metas beslut att behålla innehållet på Facebook. Ett överklagande ledde till en manuell granskning som fastställde Metas ursprungliga beslut om att innehållet inte bröt mot policyn om självmord och självskada. De andra två överklaganden som gjordes i enlighet med Facebooks policy om hatretorik skickades inte för manuell granskning. Det berodde på att Meta övervakar och tar bort kopior av flera anmälningar av samma innehåll för att säkerställa konsekvens i granskarnas beslut och verkställighetsåtgärder.

En av användarna som ursprungligen anmälde innehållet överklagade sedan till rådet. Till följd av att rådet valde ut ärendet fastställde Meta att innehållet bröt mot både policyn om hatretorik och policyn om självmord och självskada och tog bort inlägget. I Metas granskning av ärendet fastställde företaget dessutom att innehållskreatörens konto redan hade begått flera överträdelser mot communityreglerna och uppnått gränsen för att inaktiveras. Meta inaktiverade kontot i augusti 2023.

Rådet angav följande kontext som grund för sitt beslut i ärendet:

Polen rapporteras ofta ha höga nivåer av fientlighet mot HBTQIA+-communityn. [Obs! Rådet hänvisar till grupper baserat på sexuell läggning, könsidentitet och/eller könsuttryck med ”HBTQIA+” (homosexuella, bisexuella, transpersoner, personer med queera uttryck och identiteter, intersexpersoner och asexuella). Rådet behåller emellertid de akronymer och uttryck som används av andra när rådet citerar dem.] Europarådets kommissionär för mänskliga rättigheter har tidigare riktat uppmärksamhet mot ”stigmatiseringen av HBTI-personer” som ”länge varit ett problem i Polen”. I rapporten Rainbow Europe från The International Lesbian, Gay, Bisexual, Trans and Intersex Association (ILGA) rankas länder utifrån lagar och policyer som direkt påverkar HBTI-personers mänskliga rättigheter. I rapporten rankas Polen som det lägst presterande EU-landet och som nummer 42 av de 49 europeiska länder som utvärderades. Nationella och lokala myndigheter, samt framstående offentliga personer, har i ökande grad utsatt HBTQIA+-communityn för både diskriminerande uttalanden och lagstiftande åtgärder.

Med början 2018 spårade ILGA-Europe vad organisationen kallade för ”kraftfull politisk hatretorik mot HBTI-personer från polska politiker”, däribland uttalanden som att ”hela HBT-rörelsen” är ett ”hot” mot Polen. Samma år försökte borgmästaren i den polska staden Lublin förbjuda stadens jämlikhetsmarsch, men appellationsdomstolen hävde förbudet kort innan den planerade marschen. År 2019 införde Warsawas borgmästare Warsawas HBT+-deklaration för att ”förbättra situationen för HBT-personer” i staden. Polens regerande parti Lag och rättvisa (PiS) och landets religiösa ledare kritiserade deklarationen. Polens president och centrala regering har också pekat ut transcommunityn som måltavla. Ordföranden för det regerande partiet PiS har till exempel talat om transpersoner som ”abnorma”. Polens justitieminister har också bett Polens högsta domstol att överväga om ”transpersoner förutom att be sina föräldrar även bör be sina barn och äkta makar [om tillstånd att transitera] när de vill ändra juridiskt kön”.

Polen har också infört diskriminerade lagstiftning mot HBTQIA+-communityn. Enligt Human Rights Watch började städer förespråka ”exkludering av HBT-personer från det polska samhället” genom att bland annat införa ”HBT-fria zoner” år 2019. Human Rights Watch rapporterar att dessa zoner är platser där de lokala myndigheterna har infört diskriminerade familjedeklarationer avsedda att ”skydda barn mot moraliskt fördärv” eller förklarat sig vara fria från ”HBT-ideologi”. Fler än 100 städer har skapat sådana zoner. ILGA-Europe rapporterar att vissa av dessa kommuner efter lokala och internationella påtryckningar och krav från EU har dragit tillbaka ”HBT-diskriminerade resolutioner och deklarationer om familjerättigheter”. Den 28 juni 2022 beordrade Polens högsta förvaltningsdomstol fyra kommuner att dra tillbaka sina HBTQI+-diskriminerande resolutioner. Som rankningen av Polen i rapporten Rainbow Europe antyder är attityden i landet ändå tydligt fientlig mot HBTQIA+-communityn.

European Union Agency for Fundamental Rights (FRA) genomförde en undersökning år 2019 om HBTI-personer i EU. I den jämfördes HBTI-personers erfarenheter av överfall och trakasserier i Polen med samma företeelse i andra delar av den Europeiska unionen. Enligt undersökningen undviker 51 % av HBTI-personerna i Polen ofta eller alltid vissa platser av rädsla för angrepp. Det ska jämföras med 33 % i övriga EU. Undersökningen visade också att en av fem transpersoner hade angripits fysiskt eller sexuellt under de fem senaste åren fram till undersökningen, fler än dubbelt så många som i andra grupper inom HBTI-communityn.

Rådet gav externa experter i uppdrag att analysera sociala mediers reaktioner på nedsättande uttalanden från polska myndighetspersoner. Dessa experter noterade ”en oroande uppgång i mängden hatretorik online mot minoritetsgrupper i Polen, bland annat mot HBTQIA+-communityn, sedan 2015”. I sin analys av HBTQIA+-diskriminerande innehåll på polska noterade dessa experter att toppar sammanföll med ”domstolsprövning av HBTQIA+-diskriminerade lagstiftning”. En sådan var den högsta förvaltningsdomstolens beslut som nämns ovan och de rättsliga prövningarna av flera HBT-diskriminerande deklarationer som efter framställan inför lokala förvaltningsdomstolar av polska ombudsmän för kommissionären för mänskliga rättigheter har pågått sedan 2019.

Rådet bad även lingvistiska experter förklara innebörden av de två fraserna på polska i inlägget. När det gällde frasen ”gardiner som hänger sig själva” ansåg experterna att frasen i kontexten av en transflagga som hänger i fönstret var en ordlek där ”att hänga gardiner” var en metafor för ”att begå självmord genom hängning”. Experterna slog fast att frasen var ”ett förtäckt transfobiskt nedsättande uttryck”. Avseende ”vårstädning” menade experterna att frasen ”vanligen gäller en grundlig städning när våren kommer”, men att den i vissa sammanhang också betyder “kasta ut allt skräp” och att ”göra sig av med oönskade saker (och/eller människor)”. I flera kommentarer från allmänheten, bland annat kommentaren från Human Rights Campaign Foundation (PC-16029) hävdas det att inläggets referens till ”vårstädning” var en form av ”hyllning av isolering och exkludering av transpersoner från det polska samhället (genom deras dödsfall)”.

Problemen med online- och offlineskada i detta ärende sträcker sig utanför den polska HBTQIA+-communityn och påverkar denna community globalt. Enligt Världshälsoorganisationen (WHO) är självmord den fjärde främsta dödsorsaken för personer i åldern 15 till 29 år globalt. WHO noterar att ”självmordssiffrorna är dessutom höga inom sårbara grupper som utsätts för diskriminering, som flyktingar, migranter och urfolk och bland homosexuella, bisexuella, transpersoner och intersexpersoner (HBTI)”. Andra forskningsstudier har visat en ”direkt koppling” mellan cyberangrepp och självskadetankar och självskadebeteenden.

Självmordsrisken är särskilt hög bland transpersoner och icke-binära. Trevor Projects nationella undersökning från 2023 om psykisk hälsa inom HBTQ-communityn visade att hälften av de transsexuella och ickebinära ungdomarna i USA övervägde självmord in 2022. I samma undersökning beräknas 14 % av HBTQ-ungdomar ha utfört ett självmordsförsök under det senaste året, varav närmare en av fem transsexuella och ickebinära ungdomar. Enligt CDC:s undersökning av riskbeteenden bland unga utförde 10 % av gymnasieeleverna i USA självmordsförsök 2021. Ett flertalstudier från olika delar av världen har visat att risken för självmordstankar och självmordsförsök är högre bland transpersoner och ickebinära än bland cispersoner.

I en kommentar från allmänheten till rådet framhöll Gay and Lesbian Alliance Against Defamation (GLAAD) (PC-16027) resultaten av sin årliga undersökning Social Media Safety Index avseende säkerheten för HBTQ-användare på fem större sociala mediers plattformar. I rapporten för 2023 tilldelades Facebook en poäng om 61 % baserat på tolv HBTQ-specifika indikatorer. Denna poäng visade på en 15 punkters ökning från 2022 och placerade Facebook på andra plats efter Instagram och framför de tre övriga större plattformarna. GLAAD skrev emellertid att ”säkerheten och kvaliteten på säkerhetsåtgärderna för HBTQ-användare lämnar fortfarande mycket att önska”. Rapporten visade att ”HBTQ-personer utsätts för reell skada online, bland annat i form av en hämmande effekt på HBTQ-personers yttrandefrihet av rädsla att pekas ut och den rent traumatiska psykologiska effekten av att ständigt utsättas för nedsättande uttryck och hatiska beteenden”.

3. Tillsynsrådet: behörighet och omfång

Rådet har behörighet att granska Metas beslut efter överklagande från personen som tidigare har anmält det innehåll som lämnats kvar på plattformen (stadgans artikel 2, avsnitt 1, regelverkets artikel 3, avsnitt 1).

Rådet kan fastställa eller upphäva Metas beslut (stadgans artikel 3, avsnitt 5) och deras beslut är bindande för företaget (stadgans artikel 4). Meta måste dessutom utvärdera om det går att tillämpa beslutet på identiskt innehåll med liknande sammanhang (stadgans artikel 4). Rådets beslut kan innefatta ej bindande rekommendationer som Meta måste svara på (stadgans artikel 3, avsnitt 4, artikel 4). När Meta åtar sig att följa rekommendationer övervakar rådet deras implementering.

När rådet väljer ut ärenden som det här och Meta sedan medger sig ha gjort ett fel, granskar rådet det ursprungliga beslutet. På så sätt kan de öka förståelsen för processen för innehållsmoderering och ge rekommendationer för att minska antalet fel och öka rättvisan för de som använder Facebook och Instagram.

4. Källor och riktlinjer som ligger till grund för beslutet

Rådets analys i det här ärendet är baserad på följande standarder och prejudikat:

I. Tillsynsrådets beslut

Här är några av de mest relevanta beslut som Tillsynsrådet har fattat tidigare:

• Reclaiming Arabic Words
• Knin Cartoon
• Colombia Protests
• Armenians in Azerbaijan

II. Metas innehållspolicyer

I motiveringen till policyn om hatretorik definieras hatretorik som ett direkt angrepp mot människor – snarare än mot koncept eller institutioner – baserat på skyddade egenskaper, däribland kön och könsidentitet. Meta definierar angrepp som våldsamma eller avhumaniserande uttalanden, skadliga stereotyper, uttalanden om underlägsenhet, uttryck för motvilja, avsky eller avfärdande, svordomar och uppmaningar till utestängning eller segregation. I motivering till policyn anger Meta också att: ”Vi anser att människor kan uttrycka sig och ta kontakt med andra med större frihet när de inte känner sig angripna på grund av vilka de är. Därför tillåter vi inte hatretorik på Facebook. Den skapar en hotfull och exkluderande miljö och kan i vissa fall främja våld i verkligheten.”

I Metas communityregel om hatretorik delas angrepp upp i olika nivåer. På nivå 1 återfinns bland annat innehåll med angrepp mot en person eller en grupp på grundval av deras skyddade egenskaper med ”våldspropaganda eller stöd för våld i skriftlig eller visuell form”. Meta fann slutligen att inlägget i detta ärende bröt mot den texten i policyn. Den 6 december 2023 uppdaterade Meta communityreglerna för att återge att förbudet av våldspropaganda mot grupper av personer som delar en skyddad egenskap flyttades till policyn om våld och uppvigling.

På nivå 2 återfinns bland annat innehåll med angrepp mot en person eller en grupp på grundval av deras skyddade egenskaper med ”uttryck av förakt (i skriftlig eller visuell form)”. I communityregeln om hatretorik anger Meta att uttryck av förakt omfattar ”[m]edgivande av intolerans mot personer grundat på en skyddad egenskap” och ”[u]ttryck för att en skyddad egenskap inte borde få finnas”.

Communityregeln om självmord och självskada förbjuder ”innehåll som uppmuntrar till självmord och självskada. Det omfattar fiktivt innehåll som mem och illustrationer”. Enligt denna policy tar Meta bort innehåll som ”främjar, uppmuntrar till, samordnar eller ger instruktioner för självmord och självskada”.

Rådets analys utgick ifrån Metas åtagande gällande värderingen röst, som företaget säger vara av yttersta vikt, och företagets värderingar gällande säkerhet och värdighet.

III. Metas ansvar för mänskliga rättigheter

FN:s vägledande principer för företag och mänskliga rättigheter (UNGP), som bifölls av FN:s råd för mänskliga rättigheter år 2011, utgör ett frivilligt ramverk för privata företags ansvar gällande de mänskliga rättigheterna. 2021 presenterade Meta sin företagspolicy avseende mänskliga rättigheter där företaget bekräftar sitt åtagande att respektera de mänskliga rättigheterna i enlighet med UNGP-principerna. Rådets analys av Metas ansvar i fråga om de mänskliga rättigheterna i det här ärendet utgår från följande internationella normer:

• Rätten till åsikts- och yttrandefrihet: Artikel 19, konventionen om medborgerliga och politiska rättigheter (ICCPR), allmän kommentar nr 34, FN:s kommitté för mänskliga rättigheter, 2011. Följande rapporter från FN:s specialrapportör (UNSR) för åsikts- och yttrandefrihet: A/HRC/38/35 (2018), A/74/486 (2019) och Rabat Plan of Action, rapport från FN:s högkommissarie för mänskliga rättigheter: A/HRC/22/17/Add.4 (2013).
• Rätten till liv: artikel 6, ICCPR.
• Rätten till högsta möjliga standard gällande fysisk och psykisk hälsa: artikel 12, Internationella konventionen om ekonomiska, sociala och kulturella rättigheter (ICESCR).
• Rätten till jämlikhet och likabehandling: artikel 2, paragraf 1 och artikel 26, ICCPR.

5. Framställningar från användaren

I sitt överklagande till rådet noterade användaren som anmälde innehållet att personen som publicerade bilden tidigare hade trakasserat transpersoner online och hade skapat ett nytt konto efter att ha stängts av från Facebook. Användaren menade också att firande av de höga självmordssiffrorna inom transcommunityn ”inte borde tillåtas”.

6. Metas framställningar

Meta tog till slut bort inlägget enligt nivå 1 i företagets communityregel om hatretorik på grund av att innehållet bröt mot bestämmelsen i policyn som förbjuder innehåll som angriper en person eller en grupp på grundval av deras skyddade egenskaper med ”våldspropaganda eller stöd för våld i skriftlig eller visuell form”. I sina interna riktlinjer för hur policyn ska tillämpas anger Meta att innehåll bör tas bort om det utgör ”våldspropaganda i form av uppmaningar till handling eller uttalanden om avsikt att skada, långtgående eller villkorsbaserade uttalanden om eller som förespråkar eller ger stöd för dödsfall, sjukdom eller skada (i skriftlig eller visuell form)”.

I de interna riktlinjerna beskriver företaget också vad som ska anses vara en visuell återgivning av grupper av personer som delar skyddade egenskaper i en bild eller video. Meta tillät inte rådet att publicera mer detaljerad information avseende denna vägledning. Företaget menade istället att ”enligt policyn om hatretorik kan Meta ta visuella element i innehållet i beaktande för att fastställa huruvida innehållet är ett angrepp på en person eller en grupp personer baserat på skyddade egenskaper”.

Meta sade att flertalet bedömningar av att innehållet inte bröt mot communityregeln om hatretorik som företagets granskare gjort var i linje med ”en strikt tillämpning av de interna riktlinjerna”. Meta förklarade: ”Även om gardinerna påminde om transflaggan tolkar vi ett angrepp på en flagga, på egen hand, som ett angrepp på ett koncept eller en institution, vilket inte är ett brott mot våra policyer, och inte som ett angrepp mot en person eller en grupp personer”. Meta bedömde dock sedan att ”referensen till hängning anger att inlägget är ett angrepp mot en grupp personer”. Den bedömningen baserades på fastställandet av att frasen ”gardiner som hänger sig själva” implicit hänvisar till självmordssiffrorna inom transcommunityn eftersom gardinerna påminner om transflaggan, och att de hängande gardinerna på fotot (och texten över bilden) är en metafor för självmord genom hängning”. Meta noterade också att ”koncept och institutioner inte kan hänga sig själva, åtminstone inte i bokstavlig bemärkelse”. Därför anser Meta att användaren avsåg ”transpersoner och inte bara konceptet”. Enligt Meta bryter innehållet därför ”mot policyn om hatretorik eftersom det är avsett att tolkas som ett uttalande som ger stöd för dödsfall inom en grupp personer som delar en skyddad egenskap genom självmord”.

Vid en uppdatering av policyn om hatretorik flyttades förbudet mot våldspropaganda mot grupper som delar en skyddad egenskap till policyn om våld och uppvigling, men Meta förklarade för rådet att innehållet fortfarande bryter mot reglerna.

Meta förklarade också att uttalandet i biografin i användarens konto, ”Jag är transfob”, bröt mot nivå 2 i policyn om hatretorik eftersom det utgjorde ett ”medgivande av intolerans utifrån en skyddad egenskap”. Detta uttalande bedömdes enligt Meta bryta mot reglerna i Metas granskning av ärendet och användarens konto till följd av att rådet hade valt ut ärendet. Meta menade att detta uttalande bidrog till företagets förståelse av användarens avsikt med innehållet i ärendet.

Till svar på rådets fråga om huruvida innehållet bryter mot policyn om självmord och självskada bekräftade Meta att ”innehållet bryter mot policyn om självmord och självskada genom att uppmuntra till självmord, vilket stämmer med vår bedömning att innehållet är ett uttalande som ger stöd för dödsfall inom en grupp personer som delar en skyddad egenskap genom självmord”. Meta förklarade också att policyn om självmord och självskada ”inte skiljer mellan innehåll som förespråkar eller uppmuntrar till självmord som är riktat mot en specifik person eller mot en grupp personer”.

Rådet ställde 13 skriftliga frågor till Meta. Frågorna handlade om Metas innehållsmoderering av transfrågor och HBTQIA+-frågor, förhållandet mellan communityreglerna om hatretorik och om självmord och självskada, hur ”humor” och ”satir” bedöms av moderatorer när de granskar innehåll avseende brott mot regeln om hatretorik, ”viralitetens” och ”allvarlighetsgradens” roll i prioriteringen av innehåll för manuell granskning samt hur Meta i sin innehållsmoderering hanterar prioriteringen av innehåll som har anmälts av flera användare för manuell granskning. Meta besvarade samtliga 13 frågor.

7. Kommentarer från allmänheten

Tillsynsrådet tog emot 35 kommentarer från allmänheten med relevans för ärendet, bland annat 25 från USA och Kanada, sju från Europa och tre från Asien-Stillahavsområdet och Oceanien. I det totala antalet ingår kommentarer från allmänheten som var dubbletter eller som skickades in med samtycke till publicering, men inte uppfyllde rådets villkor för publicering. En kommentar kan undantas från publicering på grund av att kommentaren är kränkande, för att skydda användarens integritet och av andra rättsliga skäl. Kommentarer från allmänheten kan skickas in till rådet med eller utan samtycke till publicering, och med eller utan samtycke till attribuering.

Kommentarerna behandlade följande ämnen: mänskliga rättigheter i Polen, särskilt för transpersoner, säkerheten för HBTQIA+-personer på sociala medier, kopplingen mellan online- och offlineskada i Polen, förhållandet mellan humor, satir, mem och hat/trakasserier mot transpersoner på sociala medier, samt utmaningarna i modereringen av innehåll för vilket tolkningen kräver att sammanhanget beaktas.

Klicka här om du vill läsa de kommentarer som har skickats in från allmänheten gällande ärendet.

8. Tillsynsrådets analys

Rådet undersökte om detta innehåll borde tas bort genom att analysera Metas innehållspolicyer, ansvar avseende mänskliga rättigheter och värderingar. Rådet utvärderade även hur ärendet påverkar Metas generella inställning till innehållsstyrning.

Rådet valde ut ärendet för att utvärdera precisionen i Metas tillämpning av policyn om hatretorik samt för att bättre förstå hur Meta hanterar innehåll som berör både hatretorik och främjande av självmord eller självskada.

8.1 Efterlevnad av Metas innehållspolicyer

I. Regler för innehåll

Hatretorik

Rådet finner att innehållet i detta ärende bryter mot communityregeln om hatretorik. Inlägget innehöll ”våldspropaganda eller stöd för våld” (nivå 1) i form av en uppmaning till personer i en grupp som delar en skyddad egenskap att begå självmord, vilket är ett uppenbart brott mot policyn om hatretorik.

Rådet samstämmer med Metas slutliga slutsats att referensen till hängning i inlägget är ett angrepp mot en grupp människor snarare än mot ett koncept i och med att ”koncept och institutioner inte kan hänga sig själva”. Rådet finner också stöd för den slutsatsen i den bredare kontexten kring online- och offlineskada som medlemmar i HBTQIA+-communityn, och särskilt transpersoner, utsätts för i Polen. Ett inlägg som med våldspropaganda förespråkar och ger stöd för självmord inom transcommunityn skapar en miljö präglad av rädsla och exkludering, och kan bidra till fysisk skada. Sammanhanget för inläggets text gör det tydligt att det var avsett att avhumanisera målgruppen som angreps. Textens och bildens art gör att inlägget även bidrar till att förvärra de psykiska hälsoproblem som förekommer inom transcommunityn. Enligt ett flertal undersökningar är risken högre för självmordstankar och självmordsförsök bland transpersoner och ickebinära personer än bland cispersoner. Det har dessutom visat sig finnas en direkt koppling mellan att utsättas för onlineangrepp och att drabbas av självmordstankar. I denna kontext finner rådet att förekomsten av transflaggan ihop med referensen till den förhöjda risken för självmord inom transcommunityn (gardiner som hänger sig själva), är en tydlig indikation på att inlägget är ett angrepp på transpersoner. Rådet anser att frasen ”vårstädning” följt av ”<3” (en hjärtemoji) även uttrycker stöd för dödsfall inom gruppen. Därmed bryter det även mot förbudet i communityregeln om hatretorik (nivå 2) mot ”uttryck för att en skyddad egenskap inte borde få finnas”.

Avseende den communityregeln anser rådet att policyn och de interna riktlinjerna för hur den ska verkställas kunde ta större hänsyn till ”illasinnad kreativitet” i innehållstrådar som angriper historiskt marginaliserade grupper. Wilson Center myntade den frasen inom forskning om könsbundna och sexualiserade övergrepp, och GLAAD betonade dess relevans i sin kommentar till allmänheten (PC-16027). ”Illasinnad kreativitet” avser ”användning av kodat språk, repetitiva, kontextbaserade visuella och textbaserade mem, och andra metoder för att undvika upptäckt i sociala medier”. I tillämpningen av konceptet på inlägget i ärendet menade GLAAD att ”illasinnad kreativitet” innefattar ”illasinnade personer som utvecklar nya sätt att angripa HBTQ-communityn” och andra sårbara grupper i allmänhet via inlägg och mem som de försvarar som ”humor eller satir”, men som ”i själva verket är hatretorik och trakasserier mot HBTQ-communityn”. Här uttrycktes sådan ”illasinnad kreativitet” i form av ett inlägg med två kodade hänvisningar till självmord (”gardiner som hänger sig själva” och ”vårstädning”) ihop med en visuell avbildning av en skyddad grupp (transflaggan) för att uppmana till självmord. I beslutet i ärendet Armenians in Azerbaijan framhöll rådet vikten av att sammanhanget beaktas i bedömningen av att den term som övervägdes i det ärendet var avsedd som ett angrepp på en grupp personer som delade en skyddad egenskap. Det ärendet omfattades av en krigskontext, men hoten mot transpersoner i Polen visar att situationen kan vara svår för en community även i fredstid. Som anges ovan rapporterade en av fem transpersoner i Polen sig ha angripits fysiskt eller sexuellt under de fem åren fram till 2019. Det är mer än dubbelt så många rapporteringar av sådana angrepp som från andra grupper inom HBTI-communityn.

Rådet oroas över att Metas första manuella granskare inte förstod de kontextuella tecknen i innehållet och därför drog slutsatsen att innehållet inte bröt mot reglerna. Rådet rekommenderar vissa justeringar av vägledningen för verkställande av communityregeln om hatretorik, men understryker att inlägget bröt mot reglerna även som de var utformade vid tidpunkten. Båda uttalandena som görs i inlägget ger stöd för att transpersoner ska begå självmord. Den slutsatsen får även stöd av en ytterligare signal i användarens biografi. Användarens medgivande av att vara transfob är, i sig och på egen hand, ett brott på nivå 2 mot förbudet mot ”medgivande av intolerans utifrån en skyddad egenskap” i communityregeln om hatretorik. Meta måste förbättra precisionen i verkställandet mot hatretorik riktad mot HBTQIA+-communityn, antingen med automatisk eller manuell granskning, särskilt när inlägg innehåller bilder och text för vilka tolkningen kräver att sammanhanget beaktas. Som GLAAD observerat (PC-16027) misslyckas Meta ”konsekvent med att verkställa sina policyer i granskningen av anmälningar av innehåll i vilka illasinnad kreativitet används”.

Rådet bekymras av Metas uttalande om att granskarnas underlåtenhet att ta bort innehållet var ”i linje med en strikt tillämpning av våra interna riktlinjer”. Metas uttalande visar på att den interna vägledningen för granskare inte lyckas förmedla hur text och bild i ett inlägg på sociala medier kan samspela för att representera en grupp som definieras av dess medlemmars könsidentitet. Rådet anser att vägledningen kanske inte räcker för att granskarna inom storskalig granskning ska kunna nå rätt verkställighetsresultat för innehåll med angrepp mot grupper av personer som delar en skyddad egenskap när de representeras visuellt, men inte namnges eller avbildas i mänsklig form. Meta tillät inte rådet att publicera ytterligare information som kunde ha möjliggjort en mer omfattande diskussion om hur verkställande mot denna typ av innehåll skulle kunna förbättras. Rådet anser emellertid att Meta bör justera sin vägledning för att se till att visuella avbildningar av könsidentitet tolkas rätt i bedömningen av om innehåll utgör angrepp. Rådet understryker att det genom att föreslå detta inte vill minska Metas skydd för koncept, institutioner, idéer, sedvänjor eller trosuppfattningar. Rådet vill snarare att Meta ska förtydliga att ett inlägg inte måste innehålla avbildningar av mänskliga varelser för att utgöra ett angrepp mot människor.

Självmord och självskada

Rådet finner att innehållet i detta ärende även bryter mot communityregeln om självmord och självskada. Denna policy förbjuder ”innehåll som främjar, uppmuntrar till, samordnar eller ger instruktioner för självmord och självskada”. Enligt de interna riktlinjer som Meta tillhandahåller granskarna definieras ”främja” som att ”tala positivt om”. Rådet håller med om Metas slutliga slutsats att innehållet är ett uttalande som ger stöd för dödsfall inom en grupp personer som delar en skyddad egenskap genom självmord, och att det därför uppmuntrar till självmord.

Rådet anser också att communityregeln om självmord och självskada tydligare borde förbjuda innehåll som förespråkar eller uppmuntrar till självmord inom en identifierbar grupp människor, och som inte bara är riktade mot en enskild person i en sådan grupp. Meta förklarade för rådet att policyn inte skiljer mellan dessa två typer av innehåll. Med tanke på de utmaningar granskarna stod inför när det gällde att identifiera ett uttalanden som uppmuntrade till självmord inom en grupp personer i detta ärende, uppmanar rådet ändå Meta att tydliggöra att policyn förbjuder innehåll som förespråkar eller uppmuntrar till självmord inom en identifierbar grupp människor. Meta bör tydliggöra detta på sidan för policyn om självmord och självskada samt i de tillhörande interna riktlinjerna för granskare.

II. Verkställighetsåtgärd

Rådet anser att Metas automatiska system för prioritering av granskning hade en betydande påverkan på verkställighetsåtgärderna i ärendet. Av de tolv användaranmälningarna av inlägget avslutades tio automatiskt av Metas automatiska system. Av de tre överklagandena av Metas beslut från användare avslutades två automatiskt av Metas automatiska system. Rådet bekymras över att den ärendehistorik som delats med rådet innehåller ett flertal tecken på en överträdelse, vilket antyder att Metas policyer inte verkställs rätt.

Rådet noterar att många anmälningar från användare avslutades på grund av Metas rutiner i innehållsmodereringen för hantering av flera anmälningar mot samma innehåll. Den första anmälan från en användare om hatretorik prioriterades inte för manuell granskning på grund av ”låg allvarlighetsgrad och låg viralitet”. Påföljande anmälningar om hatretorik prioriterades inte för manuell granskning i och med att Meta ”tar bort kopior av anmälningar för att säkerställa konsekvens i granskarnas beslut och verkställighetsåtgärder” när flera anmälningar görs mot samma innehåll. Rådet medger att det är ett rimligt tillvägagångssätt att ta bort kopior i storskalig innehållsmoderering. Däremot menar rådet att ett sådant tillvägagångssätt ställer högre krav på den första bedömning som görs av en anmälan i och med att den bedömningen sedan avgör ödet för alla anmälningar som placeras i samma grupp som den första.

Rådet anser att det vore viktigt för Meta att prioritera att förbättra precisionen för de automatiska system som både verkställer innehållspolicyer och prioriterar innehåll för granskning, särskilt när det gäller innehåll som kan påverka HBTQIA+-personer. Sådana förbättringar av de automatiska systemens förmåga att känna igen den typ av kodat språk och kontextbaserade bilder som övervägs i detta ärende, skulle utan tvekan förbättra verkställandet mot innehåll med angrepp mot även andra grupper av personer som delar en skyddad egenskap. Rådet anser att till exempel användarens biografi, som innehöll ett medgivande av transfobi, kunde ha beaktats som en relevant signal i bedömningen av allvarlighetsgraden för att besluta om innehållet skulle prioriteras för granskning och/eller om en verkställighetsåtgärd skulle vidtas. Denna signal kunde komplettera befintliga analyser av beteenden och sociala nätverk som Meta kan använda till att identifiera innehåll som skulle kunna bryta mot reglerna.

Rådet betonar också att det vore viktigt för Meta att se till att de automatiska systemen är välkalibrerade och att innehållsgranskarna har utbildats i att effektivt bedöma inlägg avseende HBTQIA+-communityn i större skala. Rådet bekymras över Metas aktuella tillvägagångssätt enligt vilket de granskare som har i uppdrag att bedöma överklaganden ofta verkar ha samma expertis som de som utför den första innehållsbedömningen. Rådet anser att Meta bör investera mer i utveckling och träning av klassificeringar som identifierar innehåll som kan bryta mot reglerna och som påverkar HBTQIA+-communityn och prioritera det innehållet för manuell granskning. Hatretorik, särskilt det innehåll med högst allvarlighetsgrad som faller inom nivå 1 i Metas policy, bör alltid prioriteras för granskning. Rådet föreslår också att dessa processförbättringar förstärks med: i) utökad utbildning av granskare om de skaderisker som föreligger kring könsidentiteter, ii) en arbetsgrupp inriktad på transpersoners och ickebinära personers upplevelser på Metas plattformar, och iii) skapandet av en specialiserad grupp med ämnesexperter för granskning av innehåll kopplat till frågor som påverkar HBTQIA+-communityn. Även om ämnena i detta ärende gäller specifikt för den skada transpersoner på Facebook utsätts för, uppmanar rådet också Meta att undersöka hur företaget kan förbättra verkställandet mot hatfullt innehåll som påverkar andra grupper av personer som delar en skyddad egenskap.

Även om rådet bara utfärdar två officiella rekommendationer nedan vill rådet understryka att det beror på att de utmaningar som belyses i ärendet inte har så mycket med själva policyernas utformning att göra som med hur de verkställs. Rådet hittar åtminstone fem tecken på skadligt innehåll i detta ärende: (1) inläggets referens till ”gardiner som hänger sig själva”, (2) inläggets referens till ”vårstädning <3”, (3) användarens egen beskrivning av sig själv som ”transfob” i ett land i vilket stor fientlighet mot HBTQIA+-communityn rapporteras, (4) antalet anmälningar från användare och antalet överklaganden av innehållet, och (5) antalet anmälningar och överklaganden i relation till innehållets viralitet. Rådet bekymras av att Meta missade dessa signaler och menar att det visar på att företagets policyer verkställs i underkant. Rådet betonar att Meta noga och kreativt bör fundera på hur företaget ska kunna överbrygga klyftan mellan företagets målsättning att skydda HBTQIA+-personer på sina plattformar och dess verkställande av dessa målsättningar.

8.2 Efterlevnad av Metas ansvar för de mänskliga rättigheterna

Yttrandefrihet (artikel 19 ICCPR)

Artikel 19, paragraf 2 i konventionen om medborgerliga och politiska rättigheter (ICCPR) anger att ”alla ska ha rätt till yttrandefrihet. Denna rätt ska omfatta friheten att söka efter, ta emot och vidarebefordra information och idéer av alla de slag utan hänsyn till gränser, och det muntligen, skriftligen eller i tryck, i form av konst eller via någon annan typ av media”. Allmän kommentar nr 34 (2011) anger också att skyddade uttryck omfattar uttalanden som kan uppfattas som ”djupt kränkande” (paragraf 11).

När en stat begränsar yttrandefriheten måste den uppfylla kraven på laglighet, berättigat ändamål, nödvändighet och proportionalitet (artikel 19, paragraf 3, ICCPR). Dessa krav kallas ofta för de tre villkoren. Rådet använder detta ramverk till att tolka Metas frivilliga åtaganden kring mänskliga rättigheter, både i relation till det enskilda innehållsbeslutet och vad det säger om Metas generella hållning gällande innehållsstyrning. Som FN:s specialrapportör om främjande och skydd av rätten till åsikts- och yttrandefrihet har beskrivit det ”har företag visserligen inte samma skyldigheter som myndigheter, men deras inverkan är av ett slag som gör det nödvändigt för dem att ta ställning till samma typer av frågor om att skydda sina användares rättigheter till yttrandefrihet” (A/74/486, paragraf 41).

I. Laglighet (reglernas tydlighet och tillgänglighet)

Laglighetsprincipen i internationell människorättslagstiftning kräver att regler som används till att begränsa yttrandefriheten ska vara tydliga och allmänt tillgängliga (allmän kommentar nr 34, paragraf 25). Regler som begränsar yttrandefriheten ”får inte ge de personer som ska tillämpa reglerna obehindrad möjlighet att begränsa rätten att uttrycka sig”. Reglerna måste vidare ”ge tillräcklig vägledning åt de personer som har till uppgift att verkställa dem, så att de kan säkerställa vilken typ av uttryck som bör begränsas och vilken typ som inte bör det” (Ibid). FN:s specialrapportör om främjande och skydd av rätten till åsikts- och yttrandefrihet har sagt att reglerna för uttalanden online bör vara tydliga och specifika (A/HRC/38/35, paragraf 46). De som använder Metas plattformar ska kunna komma åt och förstå reglerna, och innehållsgranskare ska ha tydliga riktlinjer för hur reglerna ska verkställas.

Rådet anser att Metas förbud mot ”våldspropaganda eller stöd för våld” i skriftlig eller visuell form med angrepp på grupper av personer som delar en skyddad egenskap, uttryck för att en skyddad egenskap inte borde få finnas och uttalanden som förespråkar eller uppmuntrar till självmord och självskada är tillräckligt tydligt.

Rådet noterar emellertid att Meta skulle kunna förbättra precisionen i verkställandet kopplat till de policyer som gäller i detta ärende genom att ge tydligare vägledning för manuella granskare, vilket diskuteras i avsnitt 8.1 ovan. Meta bör förtydliga att visuella avbildningar av könsidentitet, till exempel i form av en flagga, inte måste innehålla avbildningar av människor för att utgöra ett angrepp enligt policyn om hatretorik. Meta bör också tydliggöra att en uppmaning till en grupp (till skillnad mot till en enskild individ) att begå självmord är ett brott mot policyn om självmord och självskada.

II. Berättigat ändamål

Alla begränsningar av yttrandefriheten ska införas i enlighet med något av de berättigade ändamål som anges i ICCPR, vilka innefattar ”andras rättigheter”. I flera beslut har rådet funnit att Metas policy om hatretorik, vars syfte är att skydda människor mot skada orsakad av hatretorik, har ett berättigat ändamål som erkänns enligt normerna i internationell människorättslagstiftning (se till exempel beslutet i ärendet Knin Cartoon). Rådet anser också att bestämmelserna om innehåll som uppmanar till självmord och självskada i policyn om självmord och självskada tjänar de berättigade ändamålen att skydda människors rätt till högsta möjliga standard gällande fysisk och psykisk hälsa (ICESCR 12) och rätt till liv (artikel 5, ICCPR). I ärenden som detta, i vilket en grupp personer som delar en skyddad egenskap uppmanas att begå självmord, ger policyn om självmord och självskada också skydd för människors rätt till jämlikhet och likabehandling (artikel 2, paragraf 1, ICCPR).

III. Nödvändighet och proportionalitet

Principen om nödvändighet och proportionalitet anger att begränsningar av yttrandefriheten ”måste vara lämpliga för att uppnå sin skyddande funktion, de måste vara det minst ingripande alternativet av de som skulle kunna användas för att uppnå den skyddande funktionen, [och] de måste vara proportionerliga i förhållande till det intresse som ska skyddas” (allmän kommentar nr 34, paragraf 34).

I bedömningen av de risker som våldsamt innehåll medför förlitar sig rådet vanligen på de sex faktorer som beskrivs i Rabat Plan of Action, som tar upp förespråkande av nationellt, rasistiskt och religiöst hat som utgör uppvigling till fientligheter, diskriminering eller våld. Baserat på de relevanta faktorerna, i synnerhet själva innehållet, uttryckssättet, talarens avsikt och den kontext som beskrivs närmare nedan, finner rådet att borttagningen av innehållet överensstämmer med Metas ansvar gällande mänskliga rättigheter eftersom det medför risk för omedelbar skada. En borttagning av innehållet är en nödvändig och proportionerlig begränsning av yttrandefriheten för att skydda den rätt till liv och den rätt till högsta möjliga standard gällande fysisk och psykisk hälsa som HBTQIA+-communityn i allmänhet och transpersoner i Polen i synnerhet har rätt till.

Rådet har tidigare noterat vikten av att återta nedsättande uttryck för att HBTQIA+-personer ska kunna bemöta desinformation (se beslutet i ärendet Reclaiming Arabic words), men det är inte något som gäller här. Inlägget innehåller heller inte politiska uttalanden eller uttalanden med nyhetsvärde (se beslutet i ärendet Colombia Protests). Inlägget i ärendet innehåller en bild av transflaggan upphängd som en gardin och en beskrivning av att dessa gardiner hänger sig själva. Enligt de experter rådet rådfrågat verkar användningen av gardiner – i visuell form och textform – inte vara ett vanligt kodat uttryck för angrepp mot transcommunityn. Som diskuteras ovan har emellertid fenomenet med ”illasinnad kreativitet” eller användningen av nya uttryck och strategier för att uttrycka hat och trakasserier, kommit att karaktärisera innehållstrender för angrepp mot transpersoner. Rådet anser att innehållet i ärendet utan tvekan placerar sig inom ramarna för denna trend. Även om inlägget innehöll ett bildspråk som vissa fann ”humoristiskt” (vilket understöds av reaktionerna med emojin ”Haha”), kan inlägget ändå tolkas som ett våldsbejakande och provokativt uttalande riktat mot transcommunityn. Humor och satir kan förstås användas till att utmana gränserna för legitim kritik, men det får inte användas som en täckmantel för hatretorik. Inlägget tar endast upp de höga självmordssiffrorna inom transcommunityn för att fira det faktumet.

I övervägandet av innehållskreatörens avsikt noterar rådet att personen i sin biografi öppet anger sig vara ”transfob”. Medan Meta först senare övervägde det här uttalandets betydelse för innehållet i ärendet anser rådet att det har stor relevans för bedömningen av användarens avsikt. Det hade också i sig räckt för att ta bort innehållet för brott på nivå 2 mot policyn om hatretorik. I inlägget beskrevs dessutom transpersoners död genom självmord som ”vårstädning” åtföljt av en hjärtemoji. I ljuset av detta uttalande som ger stöd för självmord inom en grupp identifierar rådet en avsikt att uppmuntra till diskriminering och våld med beaktandet av inläggets innehåll, bilden som användes och den åtföljande texten och bildtexten. Innehållet i ärendet uppmuntrar inte bara transpersoner att vidta våldsamma åtgärder mot sig själva, utan uppmanar dessutom andra att diskriminera och agera fientligt mot transpersoner. Den bedömningen bekräftas av det faktum att den emoji som andra användare som interagerade med innehållet oftast använde var ”Haha”.

Slutligen noterar rådet de betydande offlinerisker som den polska HBTQIA+-communityn är utsatt för i form av angrepp via lagstiftning och administrativa åtgärder och politiska uttalanden från personer i regeringsställning och inflytelserika offentliga personer. Enligt ILGA-Europe har Polen sedan 2020 konsekvent placerat sig som det EU-land som presterar sämst när det gäller HBTQIA+-rättigheter. Det är också viktigt att nämna att Polen inte har något skydd för HBTQIA+-personer i sina lagar mot hatretorik och hatbrott, vilket är ett problem som ILGA-Europe och Amnesty International, bland andra, har uppmanat Polen att åtgärda. Ökningen av retoriska angrepp mot HBTQIA+-communityn på polska på Facebook, vilket är något som externa experter och ett flertal kommentarer från allmänheten lyfter, är dessutom inte något som sker isolerat. Många organisationer och institutioner har uttryckt stor oro för den stora förekomsten av hatiska uttalanden mot HBTQIA+-communityn på sociala medier. FN:s oberoende expert på sexuell läggning och könsidentitet (IE SOGI) Victor Madrigal-Borloz har sagt att våld och diskriminering mot ickebinära personer och transpersoner är ett ”hån mot mänsklighetens samvete”. GLAAD:s forskning och rapporter har visat att ”HBTQ-personer utsätts för reell skada online, bland annat … det psykiska traumat av att ständigt utsättas för nedsättande uttryck och hatiska beteenden". Innehåll som inlägget i detta ärende kan, särskilt i stor skala, bidra till en miljö i vilken den redan allvarliga risken för självmord inom transcommunityn förvärras. Innehåll som normaliserar våldsbejakande uttalanden mot transpersoner, som i detta inlägg, riskerar dessutom att bidra till att förvärra den kris inom psykisk hälsa som redan finns inom transcommunityn, samt till att öka risken för våldsamma angrepp mot communityn offline.

9. Tillsynsrådets beslut

Tillsynsrådet upphäver Metas ursprungliga beslut att låta innehållet vara kvar.

10. Rekommendationer

Innehållspolicy

1. Metas sida om policyn om självmord och självskada bör förtydliga att policyn förbjuder innehåll som främjar eller uppmuntrar till självmord med en identifierbar grupp människor som målgrupp.

Rådet anser rekommendationen vara implementerad när den offentligt publicerade communityregeln om självmord och självskada återspeglar den föreslagna ändringen.

Verkställighet

2. Metas interna vägledning till granskarna inom storskalig granskning bör ändras för att se till att flaggbaserade avbildningar av könsidentitet som inte innehåller en mänsklig varelse tolkas som en representation av en grupp som definieras av dess medlemmars könsidentitet. En sådan ändring skulle ge tydliga instruktioner för verkställandet mot denna typ av innehåll i större skala när det innehåller ett våldsamt angrepp.

Rådet anser rekommendationen vara implementerad när Meta tillhandahåller rådet ändringarna av sin interna vägledning.

* Procedurmässig notering:

Tillsynsrådets beslut utarbetas av en panel bestående av fem medlemmar och godkänns av en majoritet av rådet. Rådets beslut återspeglar inte nödvändigtvis alla medlemmars personliga åsikter.

Inför beslutet i det här ärendet genomfördes oberoende efterforskningar på uppdrag av rådet. Rådet bistods av ett oberoende forskningsinstitut som utgår från Göteborgs universitet, med ett team bestående av fler än 50 samhällsvetare på sex kontinenter och fler än 3 200 nationella experter från hela världen. Memetica, en organisation som bedriver offentlig forskning kring trender i sociala medier, bidrog också med analyser. Företaget Lionbridge Technologies LLC, vars specialister är experter inom fler än 350 språk och jobbar från 5 000 städer världen över, tillhandahöll lingvistisk expertis.

Volver a Decisiones de casos y opiniones consultivas sobre políticas