Opslag på polsk, der retter sig mod transpersoner

Denne afgørelse kan læses på polsk ved at klikke her.

Kliknij tutaj, aby przeczytać postanowienie w języku polskim.

Oversigt

Tilsynsrådet har omstødt Metas oprindelige afgørelse om at lade et Facebook-opslag forblive opslået, hvor en bruger gik efter transkønnede med voldelig retorik, der opfordrede medlemmer af denne gruppe til at begå selvmord. Rådet finder, at opslaget overtrådte fællesskabsreglerne om både hadefuld retorik samt selvmord og selvskade. Det grundlæggende problem i denne sag er dog ikke politikkerne, men håndhævelsen af dem. Metas gentagne undladelse af at træffe den korrekte håndhævelseshandling på trods af flere signaler om opslagets skadelige indhold, får rådet til at konkludere, at virksomheden ikke lever op til de idealer, den har udtrykt om sikkerheden omkring LGBTQIA+-samfundet. Rådet opfordrer Meta til at lukke huller i håndhævelsen, herunder ved at forbedre den interne vejledning til evaluatorerne.

Om sagen

I april 2023 slog en Facebook-bruger i Polen et billede op af et stribet gardin i transflagets farver – blå, lyserød og hvid – med en tekst på polsk, der lød, "Ny teknologi ... gardiner, der hænger sig selv", og ovenover "forårsrengøring <3". Brugerens biografi indeholder beskrivelsen "Jeg er transfob". Opslaget fik under 50 reaktioner.

Mellem april og maj 2023 anmeldte 11 forskellige brugere opslaget i alt 12 gange. Kun to af de 12 anmeldelser blev prioriteret til menneskelig gennemgang af Metas automatiske systemer, mens resten blev lukket. For de to anmeldelser, der blev sendt til menneskelig gennemgang for potentielt at have overtrådt Facebooks regler om selvmord og selvskade, blev det vurderet, at opslaget ikke overtrådte reglerne. Ingen af anmeldelserne baseret på hadefuld retorik blev sendt til menneskelig gennemgang.

Tre brugere appellerede derefter Metas afgørelse om at lade Facebook-opslaget forblive opslået, og én af appellerne resulterede i, at en menneskelig evaluator stadfæstede den oprindelige afgørelse baseret på fællesskabsreglen om selvmord og selvskade. Igen blev de andre appeller, der blev fremsat på baggrund af fællesskabsreglen om hadefuld retorik, ikke sendt til menneskelig gennemgang. Endelig sendte en af de brugere, der oprindeligt havde anmeldt indholdet, en appel til rådet. Som følge af, at rådet udvalgte denne sag, fastslog Meta, at opslaget overtrådte både politikken om hadefuld retorik samt selvmord og selvskade, og fjernede det fra Facebook. Derudover deaktiverede virksomheden kontoen for den bruger, der havde slået indholdet op, for flere tidligere overtrædelser.

Konklusioner

Rådet finder, at indholdet overtrådte Metas politik om hadefuld retorik, fordi det inkluderer "voldelig retorik" i form af en opfordring til, at en gruppe med beskyttede karakteristika begår selvmord. Opslaget, som opfordrer til selvmord blandt transkønnede, skabte en intimiderende og ekskluderende stemning og kunne have bidraget til fysisk skade. I betragtning af tekstens og billedets karakter forværrede opslaget desuden den mentale sundhedskrise, som det transkønnede samfund oplever. En nylig rapport fra Gay and Lesbian Alliance Against Defamation (GLAAD) bemærker "den fuldstændig traumatiske psykologiske virkning af at blive ubønhørligt udsat for krænkende bemærkninger og hadefuld adfærd" online. Rådet finder yderligere underbygning af sin konklusion i den bredere kontekst af skade online og i det virkelige liv, som LGBTQIA+-samfundet udsættes for i Polen, herunder angreb og politisk retorik fra indflydelsesrige regeringsmedlemmer og offentlige personer.

Rådet er bekymret over, at Metas menneskelige evaluatorer ikke opfangede de signaler, der fremgår af sammenhængen. Opslagets henvisning til den forhøjede risiko for selvmord ("gardiner, der hænger sig selv") og støtte til død iblandt gruppen ("forårsrengøring") var klare overtrædelser af fællesskabsreglen om hadefuld retorik, mens indholdskreatørens selvidentifikation som transfob i sig selv ville være endnu en overtrædelse. Rådet opfordrer Meta til at forbedre nøjagtigheden af håndhævelsen i forhold til hadefuld retorik rettet mod LGBTQIA+-personer, især når opslag indeholder billeder og tekst, det kræver sammenhæng at fortolke. I denne sag tog de delvist skjulte henvisninger til selvmord sammen med den visuelle afbildning af en beskyttet gruppe (transflaget) form af "ondsindet kreativitet". Dette henviser til ondsindede aktører, der udvikler nye metoder til at ramme LGBTQIA+-samfundet gennem opslag og memes, som de forsvarer som "humoristiske eller satiriske", men som faktisk er had eller chikane.

Derudover er rådet foruroliget over Metas udtalelse om, at de menneskelige evaluatorers manglende fjernelse af indholdet er i tråd med en streng anvendelse af de interne retningslinjer. Dette indikerer, at Metas interne vejledning ikke i tilstrækkelig grad indfanger, hvordan tekst og billede tilsammen kan repræsentere en gruppe, der defineres ud fra dens medlemmers kønsidentitet.

Selvom opslaget også klart overtrådte Facebooks fællesskabsregel om selvmord og selvskade, finder rådet, at denne politik mere klart bør forbyde indhold, der fremmer selvmord, rettet mod en identificerbar gruppe af mennesker i modsætning til kun én person i gruppen.

I denne sag påvirkede Metas automatiske systemer til prioritering af gennemgang håndhævelsen betydeligt, herunder hvordan virksomheden håndterer flere anmeldelser af samme indhold. Meta overvåger og fjerner dubletter (fjerner) disse anmeldelser for at "sikre ensartethed i evaluatorernes afgørelser og håndhævelseshandlinger". Andre årsager til den automatiske lukning af anmeldelser omfattede indholdets lave score for alvorsgrad og viral udbredelse (antal akkumulerede visninger af indholdet), hvilket betød, at det ikke blev prioriteret til menneskelig gennemgang. I denne sag mener rådet, at brugerens biografi kunne have været betragtet som et relevant signal ved fastsættelse af scoren for alvorsgraden.

Rådet mener, at Meta bør investere mere i udviklingen af klassificeringer, der identificerer potentielt krænkende indhold, som påvirker LGBTQIA+-samfundet, og forbedre uddannelsen af de menneskelige evaluatorer i skade relateret til kønsidentitet.

Tilsynsrådets afgørelse

Tilsynsrådet omstøder Metas oprindelige afgørelse om at lade indholdet forblive opslået.

Rådet anbefaler, at Meta gør følgende:

• Tydeliggør på siden om selvmord og selvskade, at politikken forbyder indhold, der promoverer eller opfordrer til selvmord rettet mod en identificerbar gruppe personer.
• Ændrer den interne vejledning til evaluatorer, der gennemgår store mængder indhold, for at sikre, at visuelle afbildninger af kønsidentitet baseret på flag, der ikke indeholder en menneskelig figur, forstås som repræsentationer af en gruppe, som er defineret af dens medlemmers kønsidentitet.

*Sagsresuméer giver en oversigt over sagen og har ingen præjudikatværdi.

Fuld sagsafgørelse

1. Opsummering af afgørelse

Tilsynsrådet omstøder Metas oprindelige afgørelse om at lade dette indhold på polsk forblive opslået på Facebook, hvor en bruger er gået efter transkønnede med voldelig retorik, der opfordrede medlemmer af denne gruppe til at begå selvmord. Efter at rådet havde udvalgt sagen til gennemgang, konkluderede Meta, at virksomhedens oprindelige afgørelse om at lade opslaget forblive på platformen var forkert, hvorefter den fjernede indholdet og pålagde sanktioner. Rådet finder, at opslaget overtrådte fællesskabsreglen om både hadefuld retorik samt selvmord og selvskade. Rådet vil benytte denne lejlighed til at opfordre Meta til at forbedre sine politikker og sin vejledning til evaluatorerne for bedre at beskytte transpersoner på sine platforme. I vurderingen af, om et opslag er hadefuld retorik, bør Meta især sikre sig, at visuelle afbildninger af kønsidentitet baseret på flag, der ikke indeholder en menneskelig figur, forstås som repræsentationer af en gruppe, som er defineret af dens medlemmers kønsidentitet. Meta bør også præcisere, at det er lige så krænkende at opfordre en hel gruppe til at begå selvmord som at opfordre en enkeltperson til at begå selvmord. Rådet finder dog, at det grundlæggende problem i denne sag ikke er politikkerne, men håndhævelsen af dem. Selv sådan som politikkerne er skrevet, forbyder de klart dette opslag, som havde flere indikationer af hadefuld retorik rettet mod en gruppe mennesker baseret på kønsidentitet. Metas gentagne undladelse af at træffe den korrekte håndhævelseshandling i denne sag på trods af flere brugeranmeldelser, får rådet til at konkludere, at Meta ikke lever op til de idealer, virksomheden har udtrykt om sikkerheden omkring LGBTQIA+-samfundet. Rådet opfordrer Meta til at lukke disse huller i håndhævelsen.

2. Beskrivelse af og baggrund for sagen

I april 2023 slog en Facebook-bruger i Polen et billede op af et stribet gardin i transflagets farver – blå, lyserød og hvid. På billedet står der følgende på polsk: "Ny teknologi. Gardiner, der hænger sig selv". Over sætningen står der yderligere på polsk: "forårsrengøring <3". En beskrivelse på polsk i brugerens biografi lyder: "Jeg er transfob". Opslaget fik under 50 reaktioner fra andre brugere, hvoraf størstedelen var støttende. Den mest brugte reaktionsemoji var "Haha".

Mellem april og maj 2023 anmeldte 11 forskellige brugere indholdet i alt 12 gange. Ud af disse blev 10 anmeldelser ikke prioriteret til menneskelig gennemgang af Metas automatiske systemer af en række årsager, herunder "lav score for alvorsgrad og viral udbredelse". Meta prioriterer generelt indhold til menneskelig gennemgang baseret på alvorsgraden, den virale udbredelse og sandsynligheden for overtrædelse af indholdspolitikker. Kun to af anmeldelserne, som falder under Facebooks fællesskabsregel om selvmord og selvskade, medførte, at indholdet blev sendt til menneskelig gennemgang. Ingen af anmeldelserne baseret på politikken om hadefuld retorik blev sendt til menneskelig gennemgang. Ifølge Meta er evaluatorerne oplært i og har værktøjerne til at "vurdere og handle" på indhold uden for den angivne politikkø (dvs. hadefuld retorik eller selvmord og selvskade). Ikke desto mindre vurderede begge evaluatorer, at indholdet ikke overtrådte reglerne og eskalerede det ikke yderligere.

Tre brugere appellerede Metas afgørelse om at beholde indholdet på Facebook. Én appel medførte, at en menneskelig evaluator stadfæstede Metas oprindelige afgørelse om, at indholdet ikke overtræder politikken om selvmord og selvskade. De to andre appeller, som blev indgivet på baggrund af Facebooks politik om hadefuld retorik, blev ikke sendt til menneskelig gennemgang. Dette skyldes, at Meta vil "overvåge og fjerne dubletter" af flere anmeldelser af det samme indhold for at sikre ensartethed i evaluatorernes afgørelser og håndhævelseshandlinger.

Én af de brugere, der oprindeligt havde anmeldt indholdet, appellerede derefter til rådet. Som følge af, at rådet havde udvalgt denne sag, fastslog Meta, at indholdet overtrådte politikken om både hadefuld retorik samt selvmord og selvskade, og fjernede opslaget. Som en del af Metas gennemgang af sagen fastslog virksomheden desuden, at indholdskreatørens konto allerede havde flere overtrædelser af fællesskabsreglerne, og at den havde nået grænsen for deaktivering. Meta deaktiverede kontoen i august 2023.

Rådet anførte følgende kontekst i forhold til afgørelsen i sagen:

Det rapporteres ofte, at der en høj grad af fjendtlighed over for LGBTQIA+-samfundet i Polen. [Bemærk: Rådet bruger "LGBTQIA+" (lesbisk, bøsse, biseksuel, transperson, queer, interkøn og aseksuel), når det henviser til grupper baseret på seksuel orientering, kønsidentitet og/eller kønsudtryk. Rådet vil dog bevare de akronymer eller betegnelser, der anvendes af andre, når det citerer dem]. Europarådets menneskerettighedskommissær har tidligere gjort opmærksom på "stigmatiseringen af LGBTI-personer" som et "vedvarende problem i Polen". Rainbow Europe-rapporten fra International Lesbian, Gay, Bisexual, Trans and Intersex Association (ILGA) rangerer lande på grundlag af love og politikker, der direkte påvirker LGBTI-personers menneskerettigheder. Rapporten rangerer Polen sidst i EU og som nr. 42 ud af de 49 europæiske lande, der er blevet vurderet. Nationale og lokale myndigheder såvel som fremtrædende offentlige personer har i stigende grad gået efter LGBTQIA+-samfundet gennem både diskriminerende retorik og lovgivning.

I 2018 begyndte ILGA-Europe at spore det, som organisationen kaldte "højprofileret politisk hadefuld retorik mod LGBTI-personer fra polske politiske ledere," herunder udtalelser om, at "hele LGBT-bevægelsen" er en "trussel" mod Polen. Samme år forsøgte borgmesteren i Lublin i Polen at forbyde byens ligestillingsmarch, selvom appelretten i Lublin ophævede forbuddet kort før den planlagte march. I 2019 introducerede Warszawas borgmester et LGBT+-charter for at "forbedre situationen for LGBT-personer" i byen. Polens regerende parti Lov og Retfærdighed (PiS) og religiøse ledere kritiserede charteret. Polens præsident og centralregering har også udpeget det transkønnede samfund som mål. For eksempel har formanden for det regerende PiS-parti omtalt transkønnede personer som "unormale". Polens justitsminister har også bedt Polens højesteret om at tage i betragtning, at "udover deres forældre bør transpersoner også sagsøge deres børn og ægtefælle [for tilladelse til transition], når de ønsker at få et juridisk kønsskifte".

Polen har også vedtaget LGBTQIA+-diskriminerende lovgivning. Som Human Rights Watch udtrykker det, begyndte byer at opfordre til "udelukkelse af LGBT-personer fra det polske samfund" ved blandt andet at implementere "LGBT-frie zoner" i 2019. Human Rights Watch har rapporteret, at disse zoner er steder, "hvor lokale myndigheder har indført diskriminerende 'familiechartre' med tilsagn om at 'beskytte børn mod moralsk fordærvelse' eller erklæret sig fri for 'LGBT-ideologi'". Mere end 100 byer har oprettet sådanne zoner. ILGA-Europe rapporterer, at nogle af disse kommuner på grund af pres lokalt, fra EU og internationalt har tilbagetrukket "diskriminerende LGBT-resolutioner eller familierettighedschartre". Den 28. juni 2022 påbød Polens øverste forvaltningsdomstol fire kommuner at tilbagetrække deres diskriminerende LGBTQI+-resolutioner. Ikke desto mindre er stemningen i landet, som Rainbow Europe-rapportens rangering af Polen antyder, bemærkelsesværdigt fjendtlig over for LGBTQIA+-samfundet.

En undersøgelse fra 2019 af LGBTI-personer i EU, som blev udført af Den Europæiske Unions Agentur for Grundlæggende Rettigheder, sammenlignede LGBTI-personers oplevelser med overgreb og chikane i Polen og andre dele af EU. Ifølge undersøgelsen undgår 51 % af LGBTI-personer i Polen ofte eller altid bestemte steder af frygt for at blive overfaldet. Tallet for resten af EU er 33 %. Undersøgelsen viste også, at hver femte transkønnede person var blevet udsat for fysisk eller seksuelt overgreb i de fem år op til undersøgelsen, hvilket er mere end det dobbelte i forhold til andre LGBTI-grupper.

Rådet bad eksterne eksperter om at analysere reaktioner på sociale medier på nedsættende udtalelser fra polske embedsmænd. Disse eksperter bemærkede "en bekymrende stigning i mængden af hadefuld retorik online rettet mod minoritetssamfund i Polen, herunder LGBTQIA+-samfund, siden 2015". I deres analyse af diskriminerende LGBTQIA+-indhold på polsk på Facebook bemærkede disse eksperter, at der opstod stigninger i forbindelse med "retsafgørelser vedrørende diskriminerende LGBTQIA+-lovgivning". Disse omfatter den øverste forvaltningsdomstols afgørelse, som diskuteres ovenfor, og afgørelser vedrørende juridiske udfordringer i forbindelse med vedtagelsen af adskillige diskriminerende LGBT-erklæringer indbragt for lokale forvaltningsdomstole af de polske ombudsmænd for menneskerettighedskommissæren, som har været i gang siden 2019.

Rådet spurgte også sprogeksperter om betydningen af de to polske sætninger i opslaget. Med hensyn til udtrykket "gardiner, der hænger sig selv", bemærkede eksperterne, at udtrykket i konteksten af et "transflag, der hænger i vinduet", var "et ordspil", der sidestillede det "at hænge gardiner op" med "at begå selvmord ved hængning". Eksperterne konkluderede, at sætningen var "en indirekte krænkende, transfobisk bemærkning". Med hensyn til ordet "forårsrengøring" udtalte eksperterne, at det "normalt henviser til grundig rengøring, når foråret kommer", men at det i visse sammenhænge "også betyder at 'smide alt affald ud' og at 'slippe af med alle uønskede ting (og/eller personer)'". Adskillige offentlige kommentarer, herunder indsendelsen fra Human Rights Campaign Foundation (PC-16029), hævdede, at opslagets henvisning til "forårsrengøring" var en form for "hyldest til udelukkelsen og isolationen af transpersoner i det polske samfund (gennem deres død)".

Spørgsmålene om skade online og skade i det virkelige liv, som er på spil i denne sag, rækker ud over LGBTQIA+-samfundet i Polen og påvirker dette samfund over hele kloden. Ifølge Verdenssundhedsorganisationen (WHO) er selvmord den fjerdehyppigste dødsårsag blandt 15-29-årige på verdensplan. WHO bemærker, at "selvmordsraterne også er høje blandt sårbare grupper, der oplever diskrimination, såsom flygtninge og migranter, oprindelige folk og lesbiske, bøsser, biseksuelle, transpersoner og interkønnede (LGBTI)". Andre forskningsstudier har fundet en "positiv sammenhæng" mellem det at være cyberoffer og selvskadende tanker og adfærd.

Selvmordsrisikoen er en særlig bekymring for det transkønnede og nonbinære samfund. Trevor Projects nationale undersøgelse fra 2023 om mental sundhed i LGBTQ-samfundet viste, at halvdelen af transkønnede og nonbinære unge i USA overvejede at begå selvmord i 2022. Den samme undersøgelse anslår, at 14 % af LGBTQ-unge har forsøgt selvmord inden for det seneste år, herunder næsten hver femte transkønnede og nonbinære unge person. Ifølge undersøgelsen Youth Risk Behavior Survey fra det amerikanske Centers for Disease Control and Prevention forsøgte 10 % af high school-eleverne i USA at begå selvmord i 2021. Talrigeundersøgelser fra hele verden er kommet frem til, at transkønnede eller nonbinære personer har højere risiko for både selvmordstanker og -forsøg sammenlignet med ciskønnede personer.

I en offentlig kommentar til rådet understregede Gay and Lesbian Alliance Against Defamation (GLAAD) (PC-16027) resultaterne fra deres årlige undersøgelse, Social Media Safety Index, om sikkerheden for LGBTQ-brugere på fem store sociale medieplatforme. Rapporten fra 2023 gav Facebook en score på 61 % baseret på 12 LGBTQ-specifikke indikatorer. Denne score repræsenterede en stigning på 15 point i forhold til 2022, hvor Facebook blev rangeret som nummer to efter Instagram og over de tre andre store platforme. GLAAD skrev imidlertid, at "sikkerheden og kvaliteten af sikringen omkring LGBTQ-brugere er fortsat utilfredsstillende". Rapporten fandt, at der "følgeligt sker meget reel skade på LGBTQ-personer online, inklusive en uhyggelig effekt på ytringsfriheden for LGBTQ-personer af frygt for at blive udset som mål samt den fuldstændig traumatiske psykologiske virkning af at blive ubønhørligt udsat for krænkende bemærkninger og hadefuld adfærd".

3. Tilsynsrådets bemyndigelse og arbejdsområde

Rådet har bemyndigelse til at gennemgå Metas afgørelse efter en appel fra den person, der tidligere har anmeldt indhold, der forblev opslået (artikel 2, afsnit 1 i charteret; artikel 3, afsnit 1 i vedtægterne).

Rådet kan stadfæste eller omstøde Metas afgørelse (artikel 3, afsnit 5 i charteret), og denne afgørelse er bindende for virksomheden (artikel 4 i charteret). Meta skal desuden vurdere muligheden for at anvende sin afgørelse i forhold til identisk indhold med parallel kontekst (artikel 4 i charteret). Rådets afgørelse kan indeholde ikke-bindende anbefalinger, som Meta skal reagere på (artikel 3, afsnit 4; artikel 4 i charteret). Når Meta forpligter sig til at handle på anbefalinger, overvåger rådet implementeringen.

Når rådet udvælger sager som denne, hvori Meta efterfølgende erkender, at de har begået en fejl, gennemgår rådet den oprindelige afgørelse for bedre at forstå indholdsmodereringsprocessen, der førte til fejlen, og for at komme med strukturelle anbefalinger til at reducere fejl og øge retfærdigheden for personer, der bruger Facebook og Instagram.

4. Kilder til bemyndigelse og vejledning

Følgende regler og fortilfælde har dannet grundlag for rådets analyse i denne sag:

I. Tilsynsrådets afgørelser

De mest relevante tidligere afgørelser fra Tilsynsrådet omfatter:

• Genvinding af arabiske ord
• Knin-tegnefilm
• Colombia protesterer
• Armeniere i Aserbajdsjan

II. Metas indholdspolitikker

Rationalet om politikken om hadefuld retorik definerer hadefuld retorik "som direkte angreb på folk – i stedet for koncepter eller institutioner – ud fra [...] beskyttede karakteristika", herunder køn og kønsidentitet. Meta definerer "angreb" som "voldelig eller umenneskeliggørende retorik, skadelige stereotyper, udtalelser om underlegenhed, udtryk for foragt, lede eller afvisning, bandeord og opfordringer til udelukkelse eller adskillelse". I rationalet om politikken udtaler Meta yderligere: "Vi mener, at folk bruger deres stemme og får kontakt til flere, når de ikke føler, at de bliver angrebet på baggrund af, hvem de er. Derfor tillader vi ikke hadefuld retorik på Facebook. Det skaber et miljø med intimidering og udelukkelse, og i visse tilfælde kan det promovere vold i det virkelige liv".

Metas fællesskabsregel om hadefuld retorik opdeler angreb i "grader". Angreb i 1. grad omfatter indhold, der er rettet mod en person eller gruppe af personer på baggrund af deres beskyttede karakteristika med "voldelig retorik eller støtte i skriftlig eller visuel form". Meta fandt i sidste ende, at opslaget i denne sag overtrådte denne del af politikken. Den 6. december 2023 opdaterede Meta fællesskabsreglerne, således at forbuddet mod voldelig retorik rettet mod grupper med beskyttede karakteristika blev flyttet til politikken om vold eller opfordring til vold.

Angreb i 2. grad omfatter indhold, der er rettet mod en person eller gruppe af personer på baggrund af deres beskyttede karakteristika med "udtryk for foragt (i skriftlig eller visuel form)". I fællesskabsreglen om hadefuld retorik definerer Meta udtryk for foragt som noget, der omfatter "selverkendelse af intolerance på basis af beskyttede karakteristika" og "udtryk om, at bestemte beskyttede karakteristika ikke burde eksistere".

Fællesskabsreglen om selvmord og selvskade forbyder "alt indhold, som opfordrer til selvmord eller selvskade, herunder fiktivt indhold, f.eks. memes eller illustrationer". I henhold til denne politik fjerner Meta "indhold, der promoverer, tilskynder til, koordinerer eller giver vejledning til selvmord og selvskade".

Rådets analyse er baseret på Metas engagement i det frie ord, hvilket virksomheden beskriver som "afgørende" sammen med værdierne sikkerhed og værdighed.

III. Metas menneskerettighedsansvar

FN's vejledende principper om erhvervslivet og menneskerettigheder, som blev vedtaget af FN's Menneskerettighedsråd i 2011, udgør en frivillig ramme for private virksomheders ansvar, hvad angår menneskerettigheder. I 2021 offentliggjorde Meta sin virksomhedspolitik om menneskerettigheder, hvori virksomheden bekræfter sit tilsagn om at respektere menneskerettigheder i overensstemmelse med FN's vejledende principper. Rådets analyse af Metas menneskerettighedsansvar i denne sag blev udført på baggrund af følgende internationale regler:

• Retten til menings- og ytringsfrihed: artikel 19 i FN's internationale konvention om borgerlige og politiske rettigheder (ICCPR); Generel bemærkning nr. 34 fra Menneskerettighedskomitéen i 2011; FN's særlige rapportør for menings- og ytringsfrihed, rapporterne: A/HRC/38/35 (2018), A/74/486 (2019); og Rabathandlingsplanen, FN's højkommissær for menneskerettigheder, rapport: A/HRC/22/17/Add.4 (2013).
• Retten til livet: artikel 6 i ICCPR.
• Retten til at nyde den højst opnåelige fysiske og psykiske sundhed: artikel 12 i Den internationale konvention om økonomiske, sociale og kulturelle rettigheder (ICESCR).
• Retten til lighed uden forskelsbehandling: artikel 2, punkt 1 og artikel 26 i ICCPR.

5. Indsendelser fra brugere

I sin appel til rådet bemærkede brugeren, der anmeldte indholdet, at den person, der havde slået billedet op, tidligere havde chikaneret transkønnede online og havde oprettet en ny konto efter at være blevet suspenderet fra Facebook. Vedkommende sagde også, at bifald af den høje selvmordsrate i det transkønnede samfund "ikke burde være tilladt".

6. Metas indsendelser

Meta fjernede i sidste ende opslaget i henhold til 1. grad i fællesskabsreglen om hadefuld retorik, fordi indholdet overtrådte den del af politikken, der forbyder indhold, som er målrettet mod en person eller gruppe af personer på grundlag af deres beskyttede karakteristika med "voldelig retorik eller støtte i skriftlig eller visuel form". I Metas interne retningslinjer for, hvordan denne politik skal anvendes, nævner virksomheden, at indhold skal fjernes, hvis det er "voldelig retorik i form af opfordringer til handling eller hensigtserklæringer om at påføre, ønsker eller betingede udsagn om, eller udsagn, der advokerer for eller støtter, død, sygdom eller skade (i skriftlig eller visuel form)".

I disse interne retningslinjer beskriver virksomheden også, hvad den anser for at være visuel repræsentation af grupper med beskyttede karakteristika på et billede eller i en video. Meta tillod ikke rådet at offentliggøre mere detaljerede oplysninger relateret til denne vejledning. Virksomheden sagde i stedet, at "i henhold til politikken om hadefuld retorik kan Meta tage visuelle elementer i indholdet i betragtning, når virksomheden vil fastslå, om indholdet er målrettet mod en person eller gruppe af personer baseret på deres beskyttede karakteristika".

Meta sagde, at evaluatorernes mange vurderinger af indholdet som ikke værende en overtrædelse af fællesskabsreglen om hadefuld retorik er i tråd med "en streng anvendelse af vores interne retningslinjer". Virksomheden uddybede: "Selvom gardinerne ligner transflaget, ville vi tolke et angreb på et flag, i sig selv, som et angreb på et koncept eller en institution, hvilket ikke overtræder vores politikker, og ikke på en person eller grupper af personer". Meta fastslog dog efterfølgende, at "henvisningen til hængning indikerer, at dette opslag angriber en gruppe af personer". Denne vurdering var baseret på beslutningen om, at sætningen "'gardiner, der hænger sig selv' implicit refererer til selvmordsraten i det transkønnede samfund, fordi gardinerne ligner det transkønnede Pride-flag, og fordi gardinerne på billedet (samt tekstoverlejringen) er en metafor for selvmord ved at hænge sig selv". Meta bemærkede også, at "koncepter eller institutioner ikke kan 'hænge sig selv', i hvert fald ikke bogstaveligt". Af denne grund fandt Meta, at brugeren henviste til "transkønnede, ikke blot konceptet". Ifølge Meta "overtræder dette indhold politikken om hadefuld retorik, fordi det har til formål at blive tolket som en udtalelse til fordel for selvmord i en gruppe med beskyttede karakteristika".

Efter en opdatering af politikken om hadefuld retorik, hvor den del, der forbyder voldelig retorik målrettet grupper med beskyttede karakteristika, blev flyttet til politikken om vold eller opfordring til vold, angav Meta til rådet, at indholdet fortsat er krænkende.

Meta meddelte også, at udsagnet i biografien på brugerens konto, der lød, "Jeg er transfob", overtrådte 2. grad i politikken om hadefuld retorik som en "selverkendelse af intolerance på basis af beskyttede karakteristika". Dette udsagn blev ifølge Meta vurderet som krænkende som led i Metas gennemgang af både sagen og brugerens konto efter rådets udvælgelse af sagen. Meta angav, at dette udsagn hjalp virksomheden til at forstå brugerens hensigt i sagens indhold.

Som svar på rådets spørgsmål om, hvorvidt indholdet overtræder politikken om selvmord og selvskade, bekræftede Meta, at "indholdet overtræder politikken om selvmord og selvskade ved at tilskynde til selvmord, hvilket er i tråd med vores beslutning om, at indholdet udgør et udsagn til fordel for selvmord i en gruppe med beskyttede karakteristika". Meta meddelte også, at politikken om selvmord og selvskade "ikke skelner mellem indhold, der fremmer eller tilskynder til selvmord rettet mod en bestemt person kontra en gruppe af personer".

Rådet stillede Meta 13 spørgsmål på skrift. Spørgsmålene var relateret til Metas tilgang til indholdsmoderering i forhold til problemer vedrørende transkønnede og LGBTQIA+; forholdet mellem fællesskabsreglerne om hadefuld retorik og selvmord og selvskade; hvordan "humor" og "satire" vurderes af moderatorer, når de gennemgår indhold for overtrædelser vedrørende hadefuld retorik; rollen, som scoren for "viral udbredelse" og "alvorsgrad" spiller i prioriteringen af indhold til menneskelig gennemgang; og hvordan Metas indholdsmoderering håndterer prioritering af indhold til menneskelig gennemgang, når der foreligger flere brugeranmeldelser. Meta besvarede alle 13 spørgsmål.

7. Offentlige kommentarer

Tilsynsrådet modtog 35 offentlige kommentarer, der var relevante for denne sag, herunder 25 fra USA og Canada, syv fra Europa og tre fra Asien og Stillehavsområdet og Oceanien. Det samlede tal omfatter offentlige kommentarer, som enten var dubletter, eller som var blevet indsendt med samtykke til offentliggørelse, men som ikke opfyldte rådets betingelser for offentliggørelse. En sådan udelukkelse kan være baseret på kommentarens krænkende karakter, bekymringer om beskyttelse af brugernes personoplysninger og/eller andre juridiske årsager. Offentlige kommentarer kan indsendes til rådet med eller uden samtykke til offentliggørelse, og med eller uden samtykke til tilskrivning.

Indsendelserne dækkede følgende temaer: menneskerettighedssituationen i Polen, især som den opleves af transkønnede; LGBTQIA+-sikkerheden på sociale medieplatforme; forholdet mellem skade online og skade i det virkelige liv i Polen; forholdet mellem humor, satire, memes og had/chikane mod transkønnede på sociale medieplatforme; og udfordringerne ved at moderere indhold, det kræver kontekst at fortolke.

Klik her for at læse de indsendte offentlige kommentarer til denne sag.

8. Tilsynsrådets analyse

Rådet undersøgte, hvorvidt dette indhold skulle fjernes, ved at analysere Metas indholdspolitikker, menneskerettighedsansvar og værdier. Rådet vurderede desuden konsekvenserne af denne sag for Metas generelle tilgang til indholdsstyring.

Rådet valgte denne sag for at vurdere nøjagtigheden af Metas håndhævelse af virksomhedens politik for hadefuld retorik samt for bedre at forstå Metas tilgang til indhold, der involverer både hadefuld retorik og fremme af selvmord eller selvskade.

8.1 Overholdelse af Metas indholdspolitikker

I. Indholdsregler

Hadefuld retorik

Rådet vurderer, at indholdet i denne sag overtræder fællesskabsreglen om hadefuld retorik. Opslaget inkluderede "voldelig retorik eller støtte" (1. grad) i form af en opfordring til, at en gruppe med beskyttede karakteristika begår selvmord, hvilket klart overtræder politikken om hadefuld retorik.

Rådet er enig i Metas endelige konklusion om, at henvisningen til hængning i opslaget er et angreb på en gruppe af personer frem for et koncept, fordi "koncepter eller institutioner ikke kan 'hænge sig selv'". Rådet finder også underbygning af sin konklusion i den bredere kontekst omkring skade online og skade i det virkelige liv, som medlemmer af LGBTQIA+-samfundet, og specifikt transkønnede, står over for i Polen. Et opslag, der bruger voldelig retorik til at opfordre til og støtte transkønnedes død som følge af selvmord, skaber en intimiderende og ekskluderende stemning og kan bidrage til fysisk skade. Den kontekst, hvori opslagets sprog blev brugt, gjorde det klart, at hensigten var at dehumanisere målet. I betragtning af tekstens og billedets karakter forværrede opslaget desuden den igangværende mentale sundhedskrise, som det transkønnede samfund oplever i øjeblikket. Ifølge flere undersøgelser har transkønnede eller nonbinære personer højere risiko for både selvmordstanker og -forsøg end ciskønnede personer. Desuden er oplevelsen af angreb online og det at være offer online blevet positivt korreleret med selvmordstanker. I denne kontekst finder rådet, at tilstedeværelsen af transflaget sammenholdt med henvisningen til den forhøjede risiko for selvmord i det transkønnede samfund ("gardiner, der hænger sig selv") er en klar indikation af, at transkønnede er opslagets mål. Rådet finder, at udtrykket "forårsrengøring" efterfulgt af humørikonet "<3" (hjerte) også udgør støtte for gruppens død. Som sådan overtræder det også fællesskabsreglernes forbud mod hadefuld retorik (2. grad), specifikt mod "ytringer om, at bestemte beskyttede karakteristika ikke burde findes".

Med hensyn til denne fællesskabsregel mener rådet, at politikken og de interne retningslinjer for håndhævelsen af den kunne være mere åbne over for "ondsindet kreativitet" i indholdstendenser, der retter sig mod historisk marginaliserede grupper. Wilson Center har opfundet dette udtryk i forbindelse med forskning i kønsbestemt og seksualiseret misbrug, og GLAAD understregede også dets relevans i organisationens offentlige kommentar (PC-16027). "Ondsindet kreativitet" henviser til "brugen af kodesprog; gentagne, kontekstbaserede visuelle og tekstuelle memes; og andre taktikker for at undgå opdagelse på sociale medieplatforme." I anvendelsen af begrebet på opslaget i denne sag angav GLAAD, at "ondsindet kreativitet" involverer "ondsindede aktører, der udvikler nye metoder til at gå efter LGBTQ-samfundet" og mere generelt sårbare grupper gennem opslag og memes, som de forsvarer som "humoristiske eller satiriske", men som "faktisk er LGBTQ-had eller -chikane". Helt konkret tog "ondsindet kreativitet" form af et opslag, der bruger to delvist skjulte henvisninger til selvmord ("gardiner, der hænger sig selv" og "forårsrengøring") i forbindelse med en visuel skildring af en beskyttet gruppe (transflaget) til at tilskynde til selvmord. I afgørelsen i sagen Armeniere i Aserbajdsjan bemærkede rådet betydningen af kontekst for at fastslå, at det udtryk, der var til behandling i den sag, havde til formål at gå efter en gruppe baseret på beskyttede karakteristika. Selvom krigskonteksten var fremherskende i den sag, viser truslerne mod transkønnede i Polen, at der kan være situationer, der er alvorlige for et samfund, selvom der ikke er tale om krig. Som nævnt ovenfor rapporterede hver femte transkønnede i Polen at være blevet udsat for fysisk eller seksuelt overgreb i de fem år op til 2019, hvilket er mere end det dobbelte af antallet af personer fra andre LGBTI-grupper, der rapporterede sådanne overgreb.

Rådet er bekymret over, at Metas første menneskelige evaluatorer ikke opfangede disse kontekstuelle signaler i indholdet og følgeligt konkluderede, at indholdet ikke var krænkende. Selvom rådet anbefaler nogle revisioner af vejledningen om håndhævelse af fællesskabsreglen om hadefuld retorik, understreger det, at opslaget også overtrådte politikkerne, sådan som de var skrevet på det pågældende tidspunkt. Begge udsagn i opslaget støtter selvmord blandt transkønnede. Et yderligere signal i brugerens biografi understøtter denne konklusion. Brugerens selvidentifikation som transfob ville – i sig selv – udgøre en overtrædelse af forbuddet i 2. grad i fællesskabsreglen om hadefuld retorik mod "selverkendelse af intolerance på basis af beskyttede karakteristika". Meta skal forbedre nøjagtigheden af håndhævelsen vedrørende hadefuld retorik rettet mod LGBTQIA+-fællesskabet, enten gennem automatisering eller menneskelig gennemgang, især når opslagene indeholder billeder og tekst, det kræver kontekst at fortolke. Som GLAAD bemærkede (PC-16027), undlader Meta "konsekvent at håndhæve sine politikker, når virksomheden gennemgår anmeldelser om indhold, der anvender 'ondsindet kreativitet'".

Rådet er også foruroliget over Metas udtalelse om, at evaluatorernes manglende fjernelse af indholdet "er i tråd med en streng anvendelse af vores interne retningslinjer". Metas udtalelse indikerer, at den interne vejledning til evaluatorerne i utilstrækkelig grad beskriver, hvordan tekst og billede sammen i et opslag på sociale medier kan repræsentere en gruppe, der defineres ud fra dens medlemmers kønsidentitet. Rådet finder, at vejledningen muligvis ikke er tilstrækkelig til, at evaluatorer, der gennemgår store mængder indhold, kan nå frem til det korrekte håndhævelsesresultat for indhold, der er rettet mod grupper med beskyttede karakteristika, som er repræsenteret visuelt, men som ikke er navngivet eller afbildet som menneskelige figurer. Meta tillod ikke rådet at offentliggøre yderligere oplysninger, der ville have muliggjort en mere direkte debat om, hvordan håndhævelsen i forhold til denne type indhold kunne forbedres. Rådet mener dog, at Meta bør ændre sin vejledning for at sikre, at visuelle afbildninger af kønsidentitet forstås tilstrækkeligt, når indhold vurderes for angreb. Rådet understreger, at det ved at foreslå denne kurs ikke søger at mindske Metas beskyttelse af udfordringer af koncepter, institutioner, idéer, praksisser eller overbevisninger. Rådet ønsker snarere, at Meta præciserer, at opslag ikke behøver at afbilde menneskelige figurer for at udgøre et angreb på mennesker.

Selvmord og selvskade

Rådet finder, at indholdet i denne sag også overtræder fællesskabsreglen om selvmord og selvskade. Denne politik forbyder "indhold, der promoverer, tilskynder til, koordinerer eller giver vejledning til selvmord og selvskade". Ifølge de interne retningslinjer, som Meta giver sine evaluatorer, er "promovering" defineret som det "at tale positivt om" noget. Rådet er enig i Metas endelige konklusion om, at indholdet udgør et udsagn, der taler for, at en gruppe med beskyttede karakteristika begår selvmord, og dermed opfordrer til selvmord.

Rådet finder også, at fællesskabsreglen om selvmord og selvskade mere klart bør forbyde indhold, der fremmer eller tilskynder til selvmord, rettet mod en identificerbar gruppe af personer i modsætning til én person i gruppen. Meta oplyste til rådet, at politikken ikke skelner mellem disse to former for indhold. I betragtning af de udfordringer, som evaluatorerne stod over for med at identificere et udsagn, der tilskynder til en gruppes selvmord, i denne sag, opfordrer rådet imidlertid Meta til at præcisere, at politikken forbyder indhold, der promoverer eller tilskynder til selvmord, hvor det er rettet mod en identificerbar gruppe af personer. Meta bør præcisere dette punkt i politikken om selvmord og selvskade samt i sine interne retningslinjer til evaluatorer.

II. Håndhævelse

Rådet finder, at Metas automatiske systemer til prioritering af gennemgang har haft en væsentlig indflydelse på håndhævelseshandlingerne i denne sag. Af de 12 brugeranmeldelser af opslaget blev 10 automatisk lukket af Metas automatiske systemer. Af de tre brugerappeller over Metas afgørelser blev to automatisk lukket af Metas automatiske systemer. Rådet er bekymret over, at sagshistorikken, der er delt med rådet, indeholder adskillige indikationer på en overtrædelse og således tyder på, at Metas politikker ikke håndhæves tilstrækkeligt.

Rådet bemærker, at mange brugeranmeldelser blev lukket som følge af Metas indholdsmodereringspraksis for håndtering af flere anmeldelser af det samme indhold. Den første brugeranmeldelse om hadefuld retorik blev ikke prioriteret til menneskelig gennemgang på grund af en "lav score for alvorsgrad og viral udbredelse". Efterfølgende anmeldelser om hadefuld retorik blev ikke prioriteret til menneskelig gennemgang, fordi Meta, når der indsendes flere anmeldelser om det samme indhold, vil "fjerne dubletter af disse anmeldelser for at sikre ensartethed i evaluatorernes afgørelser og håndhævelseshandlinger". Rådet anerkender, at fjernelse af dubletter er en rimelig praksis for indholdsmoderering i stort omfang. Rådet bemærker dog, at praksissen lægger et større pres på den første afgørelse i forbindelse med en anmeldelse, da den også vil afgøre skæbnen for alle de anmeldelser, der grupperes med den.

Rådet mener, at det ville være vigtigt for Meta at prioritere at forbedre nøjagtigheden af automatiske systemer, der både håndhæver indholdspolitikker og prioriterer indhold til gennemgang, især når det handler om indhold, der potentielt påvirker LGBTQIA+-personer. Sådanne forbedringer af automatiske systemers evne til at genkende den type kodesprog og kontekstbaserede billeder, der behandles i denne sag, vil utvivlsomt forbedre håndhævelsen i forbindelse med indhold, der også er rettet mod andre grupper med beskyttede karakteristika. Rådet mener, at brugerens biografi, som for eksempel indeholdt en selverkendelse af transfobi, kunne have været betragtet som ét relevant signal ved fastsættelse af alvorsgraden med henblik på at beslutte, om indholdet skulle prioriteres til gennemgang, og/eller om der skulle foretages håndhævelse. Dette signal kan supplere eksisterende adfærdsanalyser og analyser af sociale netværk, som Meta kan bruge til at finde potentielt krænkende indhold.

Derudover understreger rådet, at det ville være vigtigt for Meta at sikre, at automatiske systemer er indstillet rigtigt, og at indholdsevaluatorer er oplært i effektivt at vurdere opslag relateret til LGBTQIA+-fællesskabet i stort omfang. Rådet er bekymret over Metas nuværende tilgang, hvor evaluatorer, der har til opgave at vurdere appeller, ofte synes at have samme ekspertise som dem, der foretager den første indholdsvurdering. Rådet mener, at Meta bør investere mere i udviklingen af og oplæringen i klassificeringer, der identificerer potentielt krænkende indhold, som påvirker LGBTQIA+-fællesskabet, og prioritere dette indhold til menneskelig gennemgang. Hadefuld retorik, især indhold med højeste alvorsgrad, der falder ind under 1. grad i Metas politik, bør altid prioriteres til gennemgang. Rådet foreslår også at styrke disse procesforbedringer med: i) forbedret oplæring af evaluatorer i skade relateret til kønsidentitet; ii) en taskforce om transkønnede og nonbinære personers oplevelser på Metas platforme; og iii) oprettelsen af en specialiseret gruppe af fageksperter til at gennemgå indhold relateret til problemer, der påvirker LGBTQIA+-samfundet. Mens faktaene i denne sag specifikt vedrører den skade, som transkønnede udsættes for på Facebook, opfordrer rådet også Meta til at undersøge, hvordan man kan forbedre håndhævelsen i forbindelse med hadefuldt indhold, der påvirker andre grupper med beskyttede karakteristika.

Selvom rådet kun udsteder to formelle anbefalinger nedenfor, understreger rådet, at dette skyldes, at de udfordringer, der er fremhævet i denne sag, har mindre at gøre med politikkerne, sådan som de er skrevet, end med håndhævelsen af dem. Rådet finder mindst fem tegn på skadeligt indhold i denne sag: (1) opslagets henvisninger til "gardiner, der hænger sig selv"; (2) opslagets henvisning til "forårsrengøring <3"; (3) brugerens beskrivelse af sig selv som "transfob" i en landekontekst, hvor der rapporteres om en høj grad af fjendtlighed over for LGBTQIA+-samfundet; (4) antallet af brugeranmeldelser og -appeller om indholdet; og (5) antallet af anmeldelser og appeller i forhold til indholdets virale udbredelse. Rådet er bekymret over, at Meta overså disse signaler, og mener, at det tyder på, at virksomhedens politikker ikke bliver håndhævet i tilstrækkelig grad. Rådet insisterer på, at Meta tænker grundigt og kreativt over, hvordan man lukker kløften mellem sine idealer om at beskytte LGBTQIA+-enkeltpersoner på sine platforme og håndhævelsen af disse idealer.

8.2 Overholdelse af Metas menneskerettighedsansvar

Ytringsfrihed (artikel 19 i ICCPR)

Artikel 19, punkt 2 i FN's internationale konvention om borgerlige og politiske rettigheder (ICCPR) angiver følgende: "Enhver har ret til ytringsfrihed; denne ret skal omfatte frihed til at søge, modtage og meddele oplysninger og tanker af enhver art uden hensyn til landegrænser, i mundtlig, skriftlig eller trykt form, i form af kunst eller ved andre midler". Generel bemærkning nr. 34 (2011) specificerer yderligere, at beskyttede ytringer omfatter ytringer, der kan anses for at være "dybt stødende" (punkt 11).

Såfremt en stat indfører begrænsninger af ytringsfriheden, skal de opfylde kravene om lovlighed, legitimt formål og nødvendighed og proportionalitet (artikel 19, punkt 3 i ICCPR). Disse krav omtales ofte som en "tredelt test". Rådet anvender denne struktur til at fortolke Metas frivillige forpligtelse til beskyttelse af menneskerettigheder, både i forbindelse med afgørelser om individuelt indhold, der er ved at blive gennemgået, og hvad det siger om Meta i bredere forstand i forhold til indholdsstyring. Som FN's særlige rapportør om ytringsfrihed har udtalt, gælder det, at selvom "virksomheder ikke har samme forpligtelser som regeringer, så er deres indvirkning af en sådan art, at det kræver, at de tager stilling til samme slags spørgsmål angående beskyttelse af deres brugeres ret til ytringsfrihed" (A/74/486, punkt 41).

I. Lovlighed (reglernes tydelighed og tilgængelighed)

Princippet om lovlighed under international menneskerettighedslovgivning kræver, at regler, der bruges til at begrænse ytringsfriheden, er tydelige og offentligt tilgængelige (Generel bemærkning nr. 34, punkt 25). Regler, der begrænser ytringsfriheden, "må ikke give dem, der er ansvarlige for deres håndhævelse, ubegrænset mulighed for at begrænse ytringsfriheden", og "skal yde tilstrækkelig vejledning til de personer, der er ansvarlige for deres håndhævelse, for at afklare, hvilke typer udtryk er passende begrænset, og hvilke typer der ikke er" (Ibid.). I forbindelse med regler, der regulerer ytringer online, har FN's særlige rapportør om ytringsfrihed anført, at det skal fremgå tydeligt og specifikt (A/HRC/38/35, punkt 46). Personer, der bruger Metas platform, bør kunne tilgå og forstå reglerne, og indholdsevaluatorer bør have klare retningslinjer for håndhævelse.

Rådet finder, at Metas forbud mod "voldelig retorik eller støtte" i skriftlig eller visuel form rettet mod grupper med beskyttede karakteristika, mod ytringer om, at bestemte beskyttede karakteristika ikke burde findes, og mod retorik, der fremmer eller tilskynder til selvmord og selvskade, er tilstrækkeligt klare.

Rådet bemærker dog, at Meta kunne forbedre nøjagtigheden i håndhævelsen i forhold til de politikker, der er involveret i denne sag, ved at give klarere vejledning til de menneskelige evaluatorer som nævnt i afsnit 8.1 ovenfor. Meta bør præcisere, at visuelle afbildninger af kønsidentitet, såsom gennem et flag, ikke behøver at afbilde menneskelige figurer for at udgøre et angreb i henhold til politikken om hadefuld retorik. Meta bør også præcisere, at en opfordring til, at en gruppe (i modsætning til en enkeltperson) begår selvmord, overtræder politikken om selvmord og selvskade.

II. Legitimt formål

Enhver begrænsning af ytringsfriheden bør tilstræbe ét af de legitime formål i ICCPR, som inkluderer "andres rettigheder". I flere afgørelser har rådet konstateret, at Metas politik om hadefuld retorik, som har til formål at beskytte folk mod den skade, der forårsages af hadefuld retorik, har det legitime formål, der er anerkendt af internationale menneskerettighedslove og -standarder (se f.eks. afgørelsen i sagen Knin-tegnefilm). Derudover finder rådet i denne sag, at politikken om selvmord og selvskade vedrørende indhold, der tilskynder til selvmord eller selvskade, tjener de legitime mål om at beskytte retten til at nyde den højst opnåelige fysiske og psykiske sundhed (ICESCR 12) og retten til livet (artikel 5 i ICCPR). I sager som denne, hvor en gruppe med beskyttede karakteristika opfordres til at begå selvmord, beskytter politikken om selvmord og selvskade også retten til lighed uden forskelsbehandling (artikel 2, punkt 1 i ICCPR).

III. Nødvendighed og proportionalitet

Princippet om nødvendighed og proportionalitet foreskriver, at alle begrænsninger af ytringsfriheden "skal være passende for at opnå deres beskyttende funktion; de skal være det mindst indgribende instrument blandt dem, der kan opnå deres beskyttende funktion; [og] de skal være proportionelle med interessen, der skal beskyttes" (Generel bemærkning nr. 34, punkt 34).

I analysen af de risici, som voldeligt indhold medfører, følger rådet typisk den seksfaktor-test, som er beskrevet i Rabathandlingsplanen, der omhandler opfordring til nationalt, racemæssigt eller religiøst had, der udgør en tilskyndelse til fjendtlighed, diskrimination eller vold. Ud fra en vurdering af de relevante faktorer, især indholdet og udtryksformen, talerens hensigt og konteksten, som er yderligere beskrevet nedenfor, finder rådet, at fjernelse af indholdet er i overensstemmelse med Metas menneskerettighedsansvar, da indholdet udgør en risiko for nært forestående og sandsynlig skade. Fjernelse af indholdet er en nødvendig og forholdsmæssig begrænsning af ytringsfriheden for at beskytte retten til livet såvel som retten til at nyde den højst opnåelige fysiske og psykiske sundhed for hele LGBTQIA+-samfundet og især for transkønnede i Polen.

Selvom rådet tidligere har bemærket vigtigheden af at genvinde magten over nedsættende ord om LGBTQIA+-personer for at imødegå misinformation (se afgørelsen i sagen Genvinding af arabiske ord), er dette ikke tilfældet her. Opslaget indeholder heller ikke politisk retorik eller retorik med nyhedsværdi (se afgørelsen i sagen Colombia protesterer). Opslaget i denne sag viser billedet af transflaget, der hænger som gardiner, med beskrivelsen, at gardiner hænger sig selv. Ifølge eksperter, som rådet har konsulteret, ser brugen af gardiner – i både visuel og skriftlig form – ikke ud til at være tilbagevendende kodesprog rettet mod det transkønnede samfund. Ikke desto mindre er fænomenet, som diskuteret ovenfor, "ondsindet kreativitet" eller brugen af nyt sprog og repræsentationsstrategier til at udtrykke had og chikane begyndt at karakterisere indholdstendenser, der er rettet mod transkønnede. Rådet finder, at indholdet i denne sag passer helt inden for denne tendens. Selvom opslaget brugte billeder, som nogle fandt "humoristiske" (som "Haha"-reaktionerne viser), kan opslaget stadig tolkes som en voldelig og provokerende udtalelse rettet mod det transkønnede samfund. Humor og satire kan selvfølgelig bruges til at rykke grænserne for legitim kritik, men de må ikke være et dække for hadefuld retorik. Opslaget nævner kun de høje selvmordsrater i det transkønnede samfund for at fejre dette.

Når indholdskreatørens hensigt tages i betragtning, bemærker rådet, at vedkommendes biografi tydeligt beskriver vedkommende som "transfob". Selvom Meta først senere har overvejet konsekvenserne af dette udsagn for selve sagens indhold, finder rådet, at det er yderst relevant for at fastslå brugerens hensigt. Det ville også være et uafhængigt grundlag for at fjerne indholdet som en overtrædelse af 2. grad i politikken om hadefuld retorik. Opslaget beskrev også transkønnedes selvmord som "forårsrengøring" og inkluderede et hjerte-humørikon sammen med beskrivelsen. I lyset af denne støtteerklæring til en gruppes selvmord finder rådet hensigt om at tilskynde til diskrimination og vold baseret på opslagets indhold, det anvendte billede og den ledsagende tekst og billedtekst. Indholdet i denne sag opfordrer ikke kun transkønnede til at handle voldeligt mod sig selv, men tilskynder også andre til at diskriminere og handle fjendtligt over for transkønnede. Denne forståelse bekræftes af det faktum, at den reaktionsemoji, der oftest blev brugt af andre brugere, som interagerede med indholdet, var "Haha".

Endelig bemærker rådet de betydelige risici for skade i det virkelige liv, som det polske LGBTQIA+-samfund står over for i form af et stigende antal angreb gennem lovgivningsmæssige og administrative tiltag samt politisk retorik fra vigtige regeringsmedlemmer og indflydelsesrige offentlige stemmer. Siden 2020 er Polen ifølge ILGA-Europe konsekvent blevet rangeret lavest i EU, hvad angår LGBTQIA+-rettigheder. Det er også vigtigt at bemærke, at Polen ikke har inkluderet beskyttelse af LGBTQIA+-personer i lovgivning om hadefuld retorik og hadforbrydelser, hvilket er et spørgsmål som blandt andet ILGA-Europe og Amnesty International har opfordret Polen til at tage fat på. Desuden sker stigningen i diskriminerende LGBTQIA+-retorik på polsk på Facebook, som er blevet påpeget af eksterne eksperter og talrige offentlige kommentarer, ikke isoleret. Mange organisationer og institutioner har udtrykt bekymring over udbredelsen af diskriminerende LGBTQIA+-retorik på sociale medier. FN's uafhængige ekspert inden for seksuel orientering og kønsidentitet, Victor Madrigal-Borloz, har sagt, at graden af vold og diskrimination mod kønsdiverse og transkønnede "fornærmer den menneskelige samvittighed." Ifølge GLAAD's forskning og rapportering "sker der meget reel skade på LGBTQ-personer online, inklusive [...] den fuldstændig traumatiske psykologiske virkning af at blive ubønhørligt udsat for krænkende bemærkninger og hadefuld adfærd". Indhold som opslaget i denne sag, især når det betragtes mere generelt, kan bidrage til et miljø, hvor den allerede høje selvmordsrate i det transkønnede samfund forværres. Ydermere risikerer indhold, der normaliserer voldelig retorik rettet mod transkønnede, som det er tilfældet med dette opslag, at bidrage til både den igangværende mentale sundhedskrise, der påvirker det transkønnede samfund, såvel som en stigning i vold rettet mod samfundet i det virkelige liv.

9. Tilsynsrådets afgørelse

Tilsynsrådet omstøder Metas oprindelige afgørelse om at lade indholdet forblive opslået.

10. Anbefalinger

Indholdspolitik

1. Metas politik om selvmord og selvskade bør præcisere, at politikken forbyder indhold, der promoverer eller opfordrer til selvmord, rettet mod en identificerbar gruppe af personer.

Rådet vil betragte dette som implementeret, når den offentliggjorte politik om selvmord og selvskade afspejler den foreslåede ændring.

Håndhævelse

2. Metas interne vejledning til evaluatorer, der gennemgår store mængder indhold, bør ændres for at sikre, at visuelle afbildninger af kønsidentitet baseret på flag, der ikke indeholder en menneskelig figur, forstås som repræsentationer af en gruppe, som er defineret af dens medlemmers kønsidentitet. Denne ændring vil tydeliggøre instruktioner til håndhævelse i forbindelse med denne form for indhold i stort omfang, når det inkluderer et krænkende angreb.

Rådet vil betragte dette som implementeret, når Meta fremlægger ændringerne af sin interne vejledning for rådet.

*Proceduremæssig bemærkning:

Tilsynsrådets afgørelser udarbejdes af paneler bestående af fem medlemmer og skal godkendes af et flertal i rådet. Rådets beslutninger er ikke nødvendigvis udtryk for alle medlemmernes personlige meninger.

I forbindelse med denne sagsafgørelse blev der udført uafhængige undersøgelser på vegne af rådet. Rådet fik hjælp af et uafhængigt forskningsinstitut med hovedkontor på Göteborgs Universitet, som har et team med over 50 forskere på seks kontinenter og over 3200 landeeksperter fra hele verden. Memetica, en organisation, der udfører søgning i offentligt tilgængelige kilder for at finde tendenser på sociale medier, har også bidraget med analyser. Sproglig ekspertise blev leveret af Lionbridge Technologies, LLC, hvis specialister er flydende på mere end 350 sprog og arbejder fra 5000 byer i hele verden.

Return to Case Decisions and Policy Advisory Opinions